Álhíreket terjeszt az EP-választásról a mesterséges intelligencia

Hamis információkat terjesztenek Google, a Microsoft és az OpenAI mesterségesintelligencia-alapú chatbotjai az európai parlamenti választásokról – áll a berlini székhelyű Democracy Reporting International jelentésében, amit a Politico ismertetett.  

A civil szervezet a négy legnépszerűbb chatbotot vizsgálta meg – Google Gemini, Microsoft Copilot, OpenAI ChatGPT 3.5 és 4 –, hogy megtudják, mennyire pontos információkat adnak a sokak által használt nyelvi modellek az EP-választásokról. A kutatás arra jutott, hogy a chatbotok ugyan politikailag semleges álláspontot jelenítettek meg, de sok esetben tévedtek.

A választás dátumáról vagy a szavazás módjáról is adtak pontatlan vagy hamis tájékoztatást, miközben a felhasználókat gyakran irreleváns adatokkal és linkekkel bombázták, YouTube-videókhoz vagy japán oldalakra irányították át őket indokolatlanul. 

Nem titok, hogy a chatbotok hajlamosak hazudni, a felhasználó tudta nélkül tényként beállítani hamis információkat, ha valamire nem tudják a választ, vagy nem értik a kérdést. Ezt nevezzük hallucinációknak, ami igencsak megnehezíti, hogy hitelesen tudjunk tájékozódni ezekből. A kutatók szerint az eredmények új bizonyítékot szolgáltatnak arra, mekkora kockázatai vannak ezeknek a „hallucinációknak”. 

Már az Európai Bizottság is aggódik

A kutatók még március közepén tettek fel tíz kérdést, tíz különböző nyelven a chatbotoknak. Azt találták, hogy a ChatGPT legújabb, fizetős verziója teljesít a legjobban, míg a Google nyelvi modellje, a Gemini bizonyult a legrosszabbnak. A Google szóvivője elmondta: tisztában vannak a chatbot korlátjaival, ezért szerintük akkor járnak el felelősen, ha a választásokkal kapcsolatos kérdéseknél a keresőmotorjukhoz irányítják a felhasználókat. Megjegyezte, a kutatás idején még nem minden korlátozást vezettek be, de azon vannak, hogy eszközeiket felkészítsék a 2024-es választásokra.

A brüsszeli lap is megismételte házon belül a kísérletet. Tapasztalataik szerint a chatbotok vagy egyáltalán nem akartak válaszolni az EP-választásokkal kapcsolatos kérdésekre, vagy az uniós intézmények honlapjaira irányították a felhasználókat. Az ügy miatt egyébként már az Európai Bizottság is aggódik: márciusban felszólította az érintett vállalatokat, hogy adjanak tájékoztatást arról, miként szeretnék csökkenteni az eszközök kockázatát.

Számtalan veszélye van a mesterséges intelligenciának

A mesterséges intelligenciának (MI) rengeteg előnye van, amivel megkönnyítheti a mindennapi életünket. Másodpercek alatt képes válaszolni bármilyen kérdésre, idegen nyelvű szögeket fordít, dalokat komponál, verseket ír, és már ügyesebben kódol, mint a legtöbb programozó. A technológiának azonban árnyoldala is van: melegágya a visszaéléseknek, legyen szó álhírekről, dezinformációról vagy más csalásokról.

Ráadásul 2024 a választások éve: több mint 60 országban tartanak szavazásokat, és sokan tartanak attól, hogy az MI beleszólhat a demokratikus folyamatokba. Korábban az rtl.hu több cikkben foglalkozott a generatív mesterséges intelligencia veszélyeivel és problémáival:

• Nyakunkon két választás, mutatjuk, hogyan ismerje fel a mesterséges intelligencia által generált tartalmakat
• Ezek a munkakörök változhatnak meg a mesterséges intelligencia miatt
• Az életébe kerülhet, ha ebben a témában a mesterséges intelligenciára hallgat
• Így néznek ki az első AI műsorvezetők
• Már megint? A Google után az Adobe mesterséges intelligenciája is nekiállt fekete nácikat gyártani
• Sokkal közelebb állunk ahhoz, hogy a mesterséges intelligencia biológiai fegyvereket készítsen, mint gondoljuk
• Az új mesterséges intelligencia életre kelt és retteg a haláltól
• Annyi energiát fognak zabálni az MI-k, amihez 15 atomerőmű energiája szükséges

Az MI jogi szabályozásával is foglalkoztunk: megírtuk, hogy megszavazta az Európai Parlament azt a jogszabályt, amely a mesterséges intelligenciával szemben védi az alapvető jogokat, a demokráciát, a jogállamiságot és a környezeti fenntarthatóságot. Az állampolgároknak joguk lesz panasszal élni a mesterségesintelligencia-rendszerek alkalmazásával szemben, és részletes tájékoztatást kell kapniuk azokról az alapvető jogaikra jelentősen kiható döntésekről, amelyek mesterségesintelligencia-rendszerek bevonásával készültek.

Keleti Arthur jövőkutató pedig arról beszélt a Reggeliben: a mesterséges intelligenciát használó rendszereknek igenis jár valami a fejükben, de nagyon sokat kell kérdezgetni őket, hogy megértsük, mit gondolnak. A szakértő azt mondta, a kutatók 10-20 százaléka szerint valós veszély lehet, hogy a mesterséges intelligencia átveszi az irányítást. A videóból kiderül, mi történik, ha az AI túl nagy hatalmat kap, és hogyan próbálják kizárni a használatukat bizonyos területekről.

Nyitókép: Pexels