Készül az EU-s szabályozás a mesterséges intelligencia kordában tartására

A mesterséges intelligencia (MI) Európán belüli fejlesztésének és alkalmazásának meg kell felelnie az európai alapjogoknak és értékeknek – egyebek mellett erről szól az a tárgyalási álláspont, amelyet az Európai Parlament (EP) fogadott el szerdán nagy többséggel.

Az EP által megszavazott szabályok a kockázatok szintje szerint állapítanak meg kötelezettségeket a szolgáltatók és a felhasználók számára. Az olyan MI-rendszerekre, amelyek az emberek biztonságára nézve elfogadhatatlan mértékű kockázatot jelentenek – mint például a társadalmi kreditrendszer – tilalom vonatkozna, ahogy az MI magánéletet sértő és diszkriminatív alkalmazásaira is. 

Ezek magukba foglalják 

• a köztereken végzett valós idejű és utólagos távoli biometrikus azonosítást; 
• az érzékeny személyes adatokon biometrikus kategorizálást; 
• a profilalkotásra, illetve a tartózkodási helyre vagy bűnözői előéletre alapozott prediktív rendvédelmet; 
• a gépi érzelemfelismerés alkalmazását a bűnüldözésben, a határellenőrzésben, a munkahelyeken és az oktatási intézményekben; 
• arcfelismerő adatbázisok létrehozását az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan leválogatott arcképek felhasználásával.

A képviselők nagy kockázatúnak minősítenék azokat az MI-rendszereket, amelyek jelentős mértékben veszélyeztetik az emberek egészségét, biztonságát, alapvető jogait vagy a környezetet. A választási eredmények és a szavazók befolyásolására alkalmas MI-rendszerek, illetve a több mint 45 millió felhasználóval rendelkező közösségimédia-platformok által használt ajánlórendszerek a képviselők javaslatában szintén felkerültek erre a listára.

Az olyan modelleken alapuló generatív MI-rendszerekkel szemben, mint például a ChatGPT, elvárás lenne az átláthatóság: 

• minden esetben fel kellene tüntetni, hogy a tartalmat mesterséges intelligencia állította elő,
•  segítséget kellene nyújtani az úgynevezett deepfake képeknek az igaziaktól való megkülönböztetéséhez, 
• valamint megfelelő biztosítékokkal kellene elejét venni a jogellenes tartalomgenerálásnak.

Az EP emellett azt szorgalmazza, hogy a polgároknak legyen lehetősége panasszal élni az MI-rendszerek alkalmazásával szemben, az alapvető jogaikra jelentősen kiható döntésekről pedig részletes tájékoztatást kellene kapniuk, amennyiben azok nagy kockázatú MI-rendszerek bevonásával születtek.

A tárgyalások az uniós tagállamok kormányait tömörítő Tanáccsal a jogszabály végleges szövegéről még szerdán megkezdődnek.

Nyitókép: Pixabay