10 százalék feletti esélyt lát egy kutató arra, hogy az AI az emberiség fennmaradását is veszélyeztesse
2026. szeptember 12. 12:00
Evan Hubinger, az Anthropic biztonsági kutatója szerint ma még nem a jelenlegi AI-modellek jelentik a legnagyobb veszélyt, hanem az, ami néhány éven belül jöhet. Úgy véli, a technológia hamarosan képessé válhat saját maga fejlesztésére, miközben az iparág még nem tudja biztosan, hogyan tartsa ellenőrzés alatt, írja a BBC.
Riasztó becsléssel állt elő Evan Hubinger, az Anthropic mesterségesintelligencia-biztonsággal foglalkozó kutatója. Szerinte több mint tíz százalék az esélye annak, hogy a technológia a következő évtizedben olyan fejlődési pályára kerül, amely akár az emberiség fennmaradását is veszélyeztetheti.
A kutató hangsúlyozta, hogy a mostani rendszereket még nem tartja ilyen mértékben fenyegetőnek. A fordulópont szerinte akkor jöhet el, amikor az AI már nem pusztán emberek utasításait hajtja végre, hanem képes lesz saját képességeinek továbbfejlesztésére is.
Az AI ma már annyit fejlődik egy nap alatt, mint korábban egy év alatt. A Fókusz a technológia legújabb fejlesztéseiről kérdezte az AI Summit résztvevőit:
A fejlesztőknek sincs kész válaszuk mindenre
A kutató szerint az egyik legsúlyosabb probléma, hogy még a vezető AI-cégek sem rendelkeznek biztos módszerrel arra, miként lehetne egy nálunk jóval fejlettebb rendszer céljait tartósan összehangolni az emberi érdekekkel.
Hubinger azt írta, úgy látja, az Anthropic komolyan veszi a biztonsági kockázatokat, de egyelőre nincs kész tervük arra, hogyan kezelnének egy valódi szuperintelligenciát. Abban sem biztos, hogy az iparág jelenleg jó irányba halad.
Mire tudod mégis szuperül felhasználni a mesterséges intelligenciát? Mutatjuk:
Már a politika is reagált az AI-kockázatokra
A kérdés hamar túlnőtt a technológiai szektoron. Darren Jones brit politikus nemzetközi megállapodást sürgetett a szuperintelligencia fejlesztésének szabályozására, miközben a brit AI Biztonsági Intézet szerepe is előtérbe került.
Az aggodalmakat az is erősíti, hogy az elmúlt hónapokban több olyan tesztről számoltak be, amelyek során önállóan működő AI-ügynökök váratlan módon valódi online rendszerekhez is hozzáfértek.
Az Anthropic saját augusztusi kockázati jelentése még alacsonynak értékelte egy katasztrofális esemény esélyét, ugyanakkor már kevésbé magabiztosan, mint korábban. Az OpenAI vezető tudósa, Jakub Pachocki szintén nagyobb óvatosságot sürgetett, hogy a technológia fejlődése hosszú távon is emberi ellenőrzés alatt maradjon.
A kérdés egyre több kutatót és fejlesztőt foglalkoztat, nyáron például több mint 1300 AI-szakember írt alá olyan nyílt levelet, amelyben erősebb állami szabályozást és a fejlesztések ütemének kontrollját kérték.
Műszaki hiba vagy öntudatra ébredés? Múlt héten egy humanoid robot visszatámadott egy olyan vásárlóra, aki meglökte őt. Keleti Arthur szakértő a Reggeliben elmagyarázta a jelenséget:
Borítókép forrása: Getty Images
Forrásunk volt.