A mesterséges intelligencia veszélyei: Mibe kerül a terminátor-forgatókönyv elkerülése?

Amióta megjelent a ChatGPT, a hírfolyamok természetes részévé vált az AI-fenyegetettség, kezdve azzal, hogy az AI félretájékoztat egy adott témában, egészen a terminátor-szcenáriókig. A téma a tudományos világot is foglalkoztatja, így ma már léteznek kísérletek a színlelet engedelmességgel kapcsolatban, és elérhetők olyan modellszámítások is, amelyek megmutatják, mekkora összeget lenne célszerű az AI-veszélyek kutatására és megelőzésére fordítani. A témával kapcsolatban rendelkezésre álló tudományos vizsgálatokból készítettem egy összefoglalót, melyben az AI színlelt engedelmességi kísérletekről, az AI-okozta egzisztenciális, kihalási kockázatról, valamint a megelőzés lehetőségeiről lesz szó. Témáink:

• Melyek az AI egzisztenciális kockázatai?
• Empirikus bizonyítékok: Átver minket az AI?
• Mekkora az AI okozta egzisztenciális kockázat?
• Mennyibe kerül az AI-kockázatok csökkentése?

A cikk a Holdblogon jelent meg, teljes terjedelmében itt olvasható el:  

https://hold.hu/holdblog/ai-terminator-forgatokonyv/