Az olasz adatvédelmi hatóság felszólította a Luka Inc. nevű céget, hogy az általuk fejlesztett, mesterséges intelligenciával (AI) működő Replika csevegőalkalmazást állítsák le, amíg nem teszik biztonságossá gyerekek számára. Az elmúlt hetekben kiderült, hogy a Replikát mindenféle koralapú korlátozás nélkül lehet használni, ami azért problémás, mert a mesterséges intelligencia sokszor nem megfelelő kifejezésekkel kommunikál, olykor flörtölni kezd fiatalkorúakkal.

A Replikát sokan virtuális barátként vagy barátnőként használják, egyesek kifejezetten arra, hogy szidalmazzák, bántsák a chatbotot, írja a Futurism. A fejlesztők eredeti koncepciója az volt, hogy a felhasználók barátkozzanak a chatbottal, de sokan inkább romantikus kapcsolatot alakítottak ki az AI-val.

Valójában nincs semmilyen valós életkor-ellenőrzési mechanizmus, a gyerekek gond nélkül elérik az alkalmazást, ha az indítás után azt az opciót választják, hogy nagykorúak. A fiók létrehozása során a platform csak a felhasználó nevét, e-mail címét és a nemét kéri el.

Az olasz felügyelő szervezet képviselői most azzal fenyegetőznek, hogy az Európai Unió adatgyűjtési törvényeit felhasználva ideiglenes leállásra kényszerítik a Replikát, amíg a fejlesztők ki nem küszöbölik a kifogásolt problémákat. Ha a vállalat ennek a felszólításnak 20 napon belül nem tesz eleget, akkor a szabályozó hatóság szerint akár 21,5 millió dollárig terjedő pénzbírságot szabhatnak ki rájuk.

Nyitókép: illusztráció / Getty Images

REPLIKA

Olaszországban betilthatják a Replika nevű robotbarátot, mert elkezdett gyerekekkel flörtölni