Sokkal közelebb állunk ahhoz, hogy a mesterséges intelligencia biológiai fegyvereket készítsen, mint gondoljuk

Több mint 90 neves tudós, főként biológusok írtak alá egy egyezményt, amely rögzíti, hogy a mesterséges intelligencia kutatását szigorú etikai elvekhez kell kötni, hogy ne lehessen biológiai hadviselésre használni azt, írja a New York Times.

Azt akarják elkerülni, hogy biofegyverek gyártására is alkalmazható mesterséges intelligenciás eszközök kerüljenek olyanok kezébe, akik ártó szándékkal használnák azokat, de jelenleg nincs megfelelő ismeretük biológiai fegyverek készítéséhez. A több Nobel-díjas által is aláírt dokumentum rámutat,

hogy a biológiai fegyverek készítése akár olyan egyszerű is lehet az MI-vel, mint a kép- vagy a szöveggenerálás, ha nagyobb fejlettségi szintre jut a technológia.

Hasonló figyelmeztetés már tavaly is került az amerikai kongresszus elé, amikor Dario Amodei, az Anthropic nevű startup vezérigazgatója arról beszélt: ha „képzetlen, de ártó szándékú” emberek kezébe kerülnek ezek az eszközök, az halálos vírusokhoz, tömegmérgezéshez, gyorsan terjedő halálos kórságok elkészüléséhez vezethet.

Korábban Szlávik János a Reggeliben arról beszélt, hogy egyelőre a Közel-Keletről, és nem a számítógépekből érkező kórságoktól lehet tartani:

Mit kell tenni, hogy a következő covidot ne egy robot fejlessze ki?

Mit tartalmaz pontosan a neves tudósok állásfoglalása? A Nature.com szemléje szerint a mesterséges intelligencia elképesztően erős „fegyvert” adott a biológusok kezébe: olyan kísérleteket lehet az MI-vel percek alatt lefolytatni, amely korábban akár évekbe, évtizedekbe kerülhettek. Leszögezik, hogy ez számos pozitívumhoz, fontos felfedezéshez is vezetett a tudomány számára. Állítják: az MI a biológiában eddig többet használt, mint ártott.

Azonban úgy érzik, hogy az általuk különböző laboratóriumokban, ellenőrzött körülmények között végzett kísérleteket egyre könnyebb másoknak is megismételni, akiket nem tartanak vissza erkölcsi-intézményes korlátok. A mesterséges intelligenciás proteindizájn viszont már elég egyszerűen működik ahhoz, hogy illetéktelenek is kihasználják az erejét.

Az aláírók azt kérik, hogy a DNS-szintézist, amely a biológiai dizájn egyik kulcslépése, vegyék szigorúbb ellenőrzés alá. „Mivel egy számítógépen megtervezett protein sem tud károkat okozni a való életben, amíg le nem gyártják”, a szintézis momentumánál „fognának meg” minden olyan mérgező, vagy máshogy káros vegyületet, amelyet veszélyes lenne előállítani. Ehhez az szükséges, hogy folyamatosan fejlesszék a mesterséges intelligenciát, hogy az maga is észrevegye és kiszűrje a gyanús vegyületek terveit.

Az állásfoglalás szép és jó, de az aláíróik szerint még többre van szükség. Mark Dybul, a Georgetown University kutatója arról beszélt: „szükségünk van arra, hogy a kormány is akcióba lépjen, szabályzásokat hozzon, ne csak jelentkezéses alapú állásfoglalások legyenek”. Joe Biden amerikai elnök már 2023 októberében rendeletbe foglalta, hogy meg kell vizsgálni a DNS-szintézis veszélyeit, és szigorú biztonsági szabályokat kell bevezetni minden állami pénzből folyó kísérlet során.

Kína is fontos szereplő

Nemrég a Diplomat arról cikkezett: a hosszú ideje húzódó gazdasági feszültséget is érdemes lenne félretennie az USA-nak és Kínának, hogy együtt kezdjen valamit a mesterséges intelligenciás bioterrorizmus megakadályozása érdekében. A lap emlékeztet, hogy Washington és Peking idén kezd kétoldalú párbeszédbe az MI felhasználásáról.

Ez pedig kiváló okot ad arra, hogy megegyezésre jussanak, és megállapodjanak valamiféle nemzetközi minimumban a globális nagyhatalmak.

Ez azért állna mindkét ország érdekében, mert a potenciális bioterroristák mindkettőjük érdekszférájára óriási veszélyt jelentenének, és csak azt a fajta bizonytalanságot hozzák, amelyekre senkinek semmi szüksége a geopolitikában.

A cikk azt írja: „talán nehéz a nukleáris fegyverkezés korlátozásában megegyezni, ezen a téren viszont tisztán látszanak a közös érdekek”. Ezek az érdekek a lap szerint nemcsak biztonságiak, hanem politikaiak is lehetnek a felek számára. Mindkét ország vezetése növelhetné ugyanis a renoméját, ha a nagy riválissal egyetértésben lenne képes konkrét, hasznos lépéseket tenni a vírusveszély csökkentésére a covid utáni időszakban.

Korábban az RTL Híradó azzal foglalkozott, hogy jelenleg hazánkban még kevésbé kell rettegni a biofegyverektől, és inkább kell vigyázni az influenzával.

Nyitókép: Capcom / Getty Images / rtl.hu szerkesztés