A mesterséges intelligencia döntései atomkatasztrófához vezethetnek

A Stanford Egyetem felmérése szerint a megkérdezett kutatók egyharmada azon a véleményen van, hogy a mesterséges intelligencia atomkatasztrófa-szintű csapáshoz vezethet, írja az Al Jazeera.

Ezek a rendszerek haljamosak a hamis érzékelésre, az előítéletre és könnyen ellenséges célok szolgálatába állíthatók, állítják a jelentés szerzői.

Mint arról beszámoltunk, a technológiai ipar vezető szereplői a múlt hónapban nyílt levélben sürgették a mesterségesintelligencia-fejlesztések azonnali felfüggesztését a társadalmat fenyegető kockázatok miatt. A dokumentumot több mint ezren írták alá, köztük Elon Musk, a Twitter tulajdonosa, a SpaceX és Tesla alapítója, valamint Steve Wozniak, az Apple társalapítója.

A dokumentum szerint a fejlesztőknek 6 hónapra le kellene állítaniuk a mesterséges intelligenciával kapcsolatos fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje, amely emberi szintű teljesítményt mutat számos szakmai és tudományos teljesítményértékelés alapján.

Arra is felhívták a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterséges intelligencia laboratóriumokban vannak fejlesztés alatt.

A Stanford Egyetem felmérésében 327, a természetes nyelvek feldolgozásával foglalkozó kutató vett részt. 36 százalékuk úgy véli, a mesterséges intelligencia által meghozott döntések atomkatasztrófához vezethetnek. A tudósok 73 százaléke szerint azonban az AI forradalmi társadalmi változásokat idézhet elő.

Nyitókép: Getty Images