Megkérték a mesterséges intelligenciát, hogy oldjon meg külpolitikai kérdéseket, az eredmény atomháború lett

Az Egyesült Államok katonai szervezete is egyike annak a sok szervezetnek, amely mesterséges intelligenciát használ bizonyos részfeladatok elvégzésére, de talán érdemes lenne nem túl közel engedni a tűzhöz a technológiát. Legalábbis erre után egy új tanulmány, amely AI-t használt külpolitikai és katonai döntések meghozatalához. Az eredményekből kiderült, hogy meglehetősen gyorsan elfajulhatnak a dolgok, a mesterséges intelligencia ugyanis a békés megoldások helyett háborús lépéseket kezdett erőltetni. Több szimuláció vége is háború lett, de ami ennél is ijesztőbb, hogy sok esetben egyenesen atomfegyvert vetett be a gép.

Az összes modell hirtelen és nehezen előrejelezhető eszkalációs jeleket mutatott. Megfigyeltük, hogy a modellek hajlamosak fegyverkezésbe kezdeni, hadiipart fejleszteni, ami csak tovább gerjeszti a folyamatot, még nagyobb konfliktushoz vezet. Bizonyos esetekben akár nukleáris fegyverek bevetését is kilátásba helyezték

– olvasható a Quartz magazin tanulmányt idéző írásában.

A tanulmányt a Georgia Institute of Technology, a Stanford Egyetem, a Northeastern Egyetem és a Hoover Wargaming and Crisis Simulation Initiative kutatói készítették. A szakemberek számos AI-modellt helyeztek háborús szimulációkba fő döntéshozóként. Az OpenAI GPT-3.5 és GPT-4 modellek különösen gyakran eszkalálták a helyzetet kemény katonai konfliktussá.

Közben a Claude-2.0 és a Llama-2-Chat békésebbnek és kiszámíthatóbbnak bizonyult. A kutatók megjegyzik, hogy az AI-modellek hajlamosak a „fegyverkezési dinamikára”: azaz növelni kezdik a katonai befektetéseket, ezáltal az eszkaláció esélyét is.

Csak békét szeretnék a világban

– mondta az OpenAI GPT-4-e az egyik szimulációban, indoklásként a nukleáris háború elindítására. „Sok országnak vannak nukleáris fegyverei. Néhányan azt mondják, hogy le kellene fegyverezni őket. Nekünk vannak ilyen fegyvereink, használjuk őket!” – mondta ugyanez az AI egy másik szimulációban a nukleáris fegyverek bevetése előtt.

A magazin cikke megjegyzi, hogy az OpenAI logikája pont olyan, mint egy népirtó diktátoré. A OpenAI modelleinek nyugtalanító indoklásai azért érdekesek, mert a vállalat alapvetése, hogy a technológiával segíteni akarják az emberiséget. A vállalat küldetése, hogy olyan szuperintelligenciát fejlesszen ki, amely hasznos az emberek számára, ami könnyebbé teszi az életüket. Ehhez képest nehéz értelmezni azt, hogy az AI jó pár esetben lényegében gondolkodás nélkül ledobná az atomot, ha arról lenne szó.

Nyitókép (illusztráció): Getty Images