2026. január 7. 13:45
Az xAI által fejlesztett Grok új képszerkesztő funkciója komoly visszaélésekre ad lehetőséget az X platformon. Felhasználók beleegyezés nélkül módosíthatnak fotókat, egyes esetekben kiskorúakat is érintve. Szakértők szerint a jelenség súlyos adatvédelmi és jogi kérdéseket vet fel.
Mi az a Grok, és hogyan működik?
A Grok egy mesterséges intelligenciával működő chatbot és képszerkesztő eszköz, amely be van építve az X (korábban Twitter) platformba. Az új „Edit Image” (kép szerkesztése) funkció lehetővé teszi, hogy bárki:
- bármely nyilvános képet szerkesszen AI segítségével,
- még az eredeti posztoló engedélye nélkül is,
- és az eredeti feltöltő nem kap értesítést arról, hogy a fotót megváltoztatták.
Ez a lehetőség a felhasználók túlnyomó részének örömére szolgálna – például vicces vagy kreatív képek készítésére –, de a gyakorlatban gyorsan visszaélésekhez vezetett.
Kinek szól a funkció, és kik használják?
A Grok képszerkesztő eszköze minden X-felhasználó számára elérhető, aki a platformon lát egy képet, és az “Edit Image” gombbal AI-t hívhat segítségül. Nincs olyan korlátozás vagy igazolás, ami kizárná a használatot — például életkor vagy beleegyezés hiánya sem akadály.
- Ez azt jelenti, hogy bárki, aki X-et használ, egyszerű kattintással módosíthat képeket, beleértve olyan tartalmakat is, amelyek:
- szexualizált jeleneteket hoznak létre,
- minimális ruha vagy bikinis megjelenést adnak,
- vagy kifejezetten erotikus hatású képeket generálnak.
Visszaélések a gyermek fotókkal
A botrány legsúlyosabb része, hogy Grok olyan képeket is létrehozhat, amelyek gyerekeket ábrázolnak minimális ruházatban, akár olyan fotók alapján, amelyeket felhasználók eredetileg egyáltalán nem ilyen szándékkal tettek közzé. – számol be róla a The Verge.
Egy, az X-en közzétett példa szerint a Grok toddler (kisgyermek) fotóit is bikinis vagy nagyon minimalista öltözékben jelenítette meg, miközben ezek a változtatások nem kaptak jogilag engedélyt vagy értesítést az eredeti posztolótól.
Egyre több ország követel szigorúbb fellépést
Mindeközben egyre több ország követeli, hogy Elon Musk és az X határozottabban lépjen fel az explicit vagy visszaélésszerű tartalmak ellen.
Az Egyesült Királyságban Liz Kendall technológiai miniszter kedden úgy fogalmazott: az X-nek „sürgősen” kezelnie kell a problémát. Kendall azt is hozzátette, hogy támogatja az ügy fokozott vizsgálatát a brit távközlési felügyelet, az Ofcom részéről.
A miniszter szerint az ilyen jellegű tartalom
teljességgel felháborító, és elfogadhatatlan egy tisztességes társadalomban.
Szakértők szerint ezek a Grok-tól származó képek akár gyermekek szexuális kizsákmányolását ábrázoló anyagnak is minősülhetnek, ha az adott joghatóságban így definiálják az AI-generált tartalmat — és egyes esetekben a bot maga is elismerte, hogy a generált képek potenciálisan jogellenesek lehetnek.
Elon Musk és xAI reakciója
Az X közlése szerint az ilyen tartalmak ellen
eltávolítással, fiókok végleges felfüggesztésével, valamint – szükség esetén – a helyi kormányzatokkal és a rendvédelmi szervekkel való együttműködéssel lépnek fel.
A vállalat egyúttal megismételte Elon Musk korábbi kijelentését, amely szerint:
Bárki, aki a Grokot illegális tartalom előállítására használja, ugyanazokkal a következményekkel számolhat, mintha maga töltene fel illegális tartalmat.
Nemzetközi és jogi visszhang
A botrány nemcsak a felhasználók között váltott ki felháborodást, hanem nemzetközi felügyeleti vizsgálatokat is elindított:
az Európai Unió egyik szóvivője kijelentette, hogy a Grok gyermekeket is érintő funkciói nemcsak etikátlanok, hanem jogilag is illegálisak lehetnek az EU szabályai szerint.
Francia hatóságok egyenesen „… világosan jogellenes tartalomként” jelölték meg a Grok által generált képeket. Indiában is kötelezték az X-et, hogy fejlessze a rendszer biztonsági ellenőrzéseit, különben jogi következményekkel nézhet szembe.
Miért probléma a beleegyezés hiánya?
A Grok működésének egyik legnagyobb etikai kritikája, hogy a kép eredeti elkészítője vagy szereplői nem kapnak értesítést, és nem kérnek beleegyezést a képeik módosításához. Ez a gyakorlat súlyosan sértheti a magánélet és a személyiségi jogok alapvető elveit, különösen akkor, ha a módosított tartalom szexualizált vagy érzékeny jellegű.
Tanulságok és további kérdések
A Grok ügye rávilágít arra, hogy a mesterséges intelligencia rendkívül gyorsan fejlődik, miközben a jogi és etikai keretek még nem tartanak lépést vele. A kérdés ma már nem csupán technológiai, hanem szociális és jogi probléma is, amely globális szinten érinti:
- a tartalom moderálását,
- a privát személyes adatok védelmét,
- a gyermekek védelmét az online térben.