Miért beszél mindenki ennyit a világvégéről?

„Na ugye” – a klasszikus vicc szerint ez a hipochonder sírfelirata. Hasonlóan érezhetik magukat azok, akik bizonyos időközönként világgá kürtölik a közösségi médiában, hogy épp miért ér véget a világ: vagy a NATO harmadik világháborúba provokálja az oroszokat, vagy a covid, esetleg a lezárások vezetnek majd el az emberiség legsötétebb napjaihoz.

Folyamatosan tévednek, egészen addig, amíg egyszer csak igazuk nem lesz.

Nem kell sokat keresgélnünk, hogy komolyabb forrásokból is elhangozzanak aggodalomra okot adó kérdések vagy állítások azzal kapcsolatban, hogy hamarosan mindennek vége lehet. Nemrég az USA belügyminisztériuma nevezte a mesterséges intelligenciát egy „kihalásszintű veszély” okozójának, amely „katasztrofális” következményekkel járhat a nemzetbiztonságra nézve.

Az amerikai kormány álláspontja több mint 200 szakértő bevonásával alakult ki: az MI-cégeket vezetőkből, kiberbiztonsági kutatókból és a tömegpusztító fegyverek szakértőiből álló csoportot nagyjából egy éven keresztül interjúzták.

Jeremie Harris, a Gladstone AI nevű cég vezérigazgatója arról beszélt: „Egyre több bizonyíték van arra, hogy súlyos, sőt katasztrofális kockázatokkal kell számolnunk. (…) egy bizonyos képességi küszöb felett az MI ellenőrizhetetlenné válhat.”

Csak az MI miatt félnek a világvégétől a techvilágban, vagy van más ok is?

„Miért imádnak a teches emberek a világvégéről beszélni?” – Michael Reilly tudományos szerző és szerkesztő ezt a nagy kérdést tette fel nemrég a Markup lapjain. Ő a mesterséges intelligenciát körülvevő feszültségeket „drámának és hiperventillációnak nevezte” és azt írta: „különösen kirívó, hogy egyesek milyen könnyen eljutnak oda, hogy katasztrófát emlegessenek a rosszalkodó chatbotokkal és képgenerátorokkal kapcsolatban”.

Példának egy twitteres eszmecserét emlegetett fel Vinod Khosla és Marc Andreessen, két befolyásos teches befektető között, akik az OpenAI-ba is fektettek korábban. A két férfi között vita alakult ki a közösségi oldalon az MI-k forráskódjának nyílttá tétele miatt. Néhány gondolatváltáson belül azonban már ők is azt fejtegették, hogy vajon a cég mennyiben hasonlítható a Manhattan-projekthez.

Reilly azt írja: „Legyünk őszinték: mindenki szeret a végnapokról beszélni. Ősi civilizációk, vallásos szövegek, hollywoodi producerek, a mainstream média, a konteósok az interneten: a teches vezérigazgatók nincsenek egyedül. Van valami nagyon emberi abban, hogy azt hisszük, mindjárt vége a világnak”.

Szerinte a jogos aggodalmak mellett önző érdekek is közrejátszanak abban, hogy azok a szupergazdagok, akik úttörő technológiákba fektetnek, szintén szeretnek ezen technológiák veszélyeiről felnagyítva beszélni. „Minél veszélyesebbnek hangzik a tech, annál több figyelmet kap, ennélfogva pénzt is: befektetésekben és a cég tőzsdei értékelésén is.” Felhívta a figyelmet arra is, hogy ez a stratégia működőképesnek hangzik: az OpenAI, amelynek befektetői a Manhattan-projektet vizionálják, már 80 milliárd dollárt ér.

Cikkajánló: Sokkal közelebb állunk ahhoz, hogy a mesterséges intelligencia biológiai fegyvereket készítsen, mint gondoljuk. Számos tudós figyelmeztet, hogy a mesterséges intelligencia és a biológiai fegyverkezés halálos kombináció lenne, így tudatos lépéseket kell tenni a megelőzésre.

Hogyan aggódjunk reálisan?

Végül Reilly figyelmeztet, hogy a nostradamusi techjóslatok helyett talán érdemesebb az új, forradalmi tecnológiák által okozott, „kevésbé szexi” problémákra fókuszálnunk. A mesterséges intelligencia a világot nem igazán pusztította el eddig, de arra nagyon is képes, hogy lényegesen kisebb horderejű, de sokak számára mégis fájdalmas helyzeteket idézzen elő.

Gondolhatunk itt a hibás algoritmusokkal operáló értékelőrendszerekre, amelyeken nem más múlhat, mint hogy ki lesz hajléktalan, és kinek jut lakás, az MI-s plágium virágzására az egyetemeken, és az ezeket kiszűrő szoftverek hiányosságaira, vagy épp arra, hogyan sáfárkodik óriási mennyiségű személyes adattal az MI.

Ha nem vesszük ezt figyelembe, félő, hogy hozzászokik az agyunk és a képzeletünk, hogy mindig apokaliptikus képzettársításokat és kockázatokat keressen akár a mesterséges intelligenciánál, akár más technológiáknál is. Azonban nem szabad, hogy elvesszünk az efféle fantáziákban annyira, hogy elfeledkezünk a való élet problémáiról.

Cikkajánló: Egyre nagyobb veszélyt jelent a mesterséges intelligenciával készült gyerekpornó

Ha nem tesznek a kormányok gyors lépéseket, akkor fennáll a veszélye annak, hogy elöntik az internetet a mesterséges intelligencia segítségével gyermekekről készített pornográf felvételek. Mivel a robot hatékonyabban ügyködik, mint egy pedofil ember, az efféle anyagok félelmetesen gyorsan maguk alá temethetik az internetszabályzókat.

Nyitókép: Az utolsó ítélet ábrázolása a firenzei dóm kupoláján. Fotó: Getty Images