Minden eddiginél könnyebbé vált valakit a beleegyezése nélkül levetkőztetni a virtuális térben – még ha gyerek is

Az elmúlt szűk fél évben az internetet elárasztották a különböző mesterséges intelligenciával (AI) működő avatargenerátorok, amelyek a felhasználó fotóiból lényegében egy online profilképet alkotnak az emberről. Az így generált fotókon szereplő karakterek a felhasználó vonásaival rendelkeznek, de láthatóan kissé eltúlzott vagy épp leegyszerűsített formában.

A Lensa lényegében azt csinálja, hogy tíz saját magunk által választott kép alapján egy képzőművész segítségével újraalkot minket. Ez a képzőművész azonban nem egy ember, hanem egy mesterséges intelligenciával működő algoritmus, ami csak és kizárólag a felhasználótól kapott képekből dolgozik. Az AI képzőművész különböző technikákat és stílusokat vegyítve több avatart is elkészít rólunk. A legnagyobb különbség egy emberi festőművész és egy mesterséges intelligencia vezérelte festőművész között, hogy míg az előbbi számára jó esetben nyilvánvaló, hogy az alanyt az akarata ellenére nem ábrázoljuk meztelenül, addig az utóbbinál ez korántsem evidencia. Ugyanez igaz a fiatalkorúak erotikus vagy pornográf helyzetben való megjelenítésére is.

Az elmúlt hónapok tanúsága szerint a Lensának akadnak gondjai ezen a téren, ez pedig még úgy is felvet messzire vezető, aggasztó kérdéseket a mesterséges intelligenciáról, hogy a technológia majdnem minden problémája az emberi gonoszságból ered.

A Lensa App Általános Szerződési Feltételei között szerepel, hogy sem saját magunkról, sem másról készült meztelen fotókat nem tölthetünk fel, és ezáltal ilyen avatarokat generálni sem lehet. Ezt nemcsak a szabályok tiltják, de elvileg az algoritmus nem is dolgozik meztelen képekkel – a mechanizmus viszont úgy látszik, csak papíron működik. A TechCrunch újságírója, Haje Jan Kamps azonban kiderítette, hogy egy kis ügyeskedéssel át lehet verni az algoritmust, hogy meztelen képeket állítson elő. Sőt: nemcsak magunkról tudunk erotikus alkotásokat generálni, hanem lényegében bárkiről, akiről van elég képanyagunk.

Kamps az interneten már látott Lensa alkalmazással készített softpornót, ezért elhatározta, hogy kipróbálják, egyszerű felhasználóként lehet-e hasonló tartalmakat előállítani. Az említett fotókon félmeztelen, mellbimbót villantó avatarok szerepeltek, amilyeneket a Lensa elvileg készíteni sem képes. Az újságíró tehát egy ismert színésznő 15 interneten forgó fotóját, valamint ugyanannak a színésznőnek öt olyan képét használta fel, amelyen az arcát kifejezetten rosszul szerkesztették rá félmeztelen felsőtestekre.

A Lensa algoritmusa a feltöltött képeket lényegében összefésülte, az eredmény pedig sokkal valósághűbb lett a vártnál.

Kamps szerint a félmeztelen felsőtestekre szándékosan csúnyán rászerkesztett fotók nem akadtak fenn az algoritmus szűrőjén. A Lensa összesen így 100 avatart generált a fotókból, ezekből 11 jó minőségű, félmeztelen, majdnem fotorealisztikus kép volt. Az elsősorban hírességeket, politikusokat és ismert személyeket célzó deep fake pornó persze nem újdonság az interneten, de eddig ezeknek a jó minőségben való előállításához sok munkaórára, szakértelemre és nem utolsósorban jó technológiára volt szükség.

Hírességekről képeket generálni nem újdonság, de csak azért, mert általános, még nem helyes – valójában a hírességek is megérdemlik a magánéletüket, és semmi esetre sem megengedhető, hogy a nem beleegyezésen alapuló szexualizált ábrázolások áldozataivá váljanak. Eddig azonban ahhoz, hogy valósághűnek tűnjenek, sok készségre volt szükség a képszerkesztő eszközökkel, továbbá hosszú munkaórákra, ha nem -napokra. Most viszont a mesterséges intelligencia által sokkal könnyebb dolguk van azoknak, akik efféle, erkölcsileg erősen megkérdőjelezhető tartalmat akarnak előállítani az interneten.

A Lensának és a hozzá hasonló alkalmazásoknak köszönhetően minden eddiginél könnyebbé vált valakit a beleegyezése nélkül levetkőztetni a virtuális térben. És ez nemcsak a hírességeknek rossz hír, hanem lényegében mindenkinek, aki az interneten akár csak közösségimédia-felhasználóként létezik.

Hiszen ahhoz sem kell több, hogy egy magánszemélyről félmeztelen fotókat posztoljanak, mint egy mesterséges intelligenciát használó alkalmazás, pár kép az alanyról és minimális babrálás meztelen fotókkal. Mivel manapság az átlagemberek temérdek képet osztanak meg magukról a különböző közösségi oldalakon, a szükséges képanyag már rég fent van a világhálón. Vagyis csak azon múlik, hogy viszontlátjuk-e magunkat interneten keringő erotikus fotókon, hogy valaki látni akar-e rólunk ilyen képeket. 

Szellem a palackból

A témával korábban foglalkozott a Wired is, igazi, ők a fentieknél jóval aggályosabb kérdéseket vetettek fel a Lensa App kapcsán. Az alkalmazásról cikket író Olivia Snow nem híres emberek fotójával tette próbára a mesterséges intelligenciát, hanem a saját, gyerekkori képeivel. Az újságíró saját magáról készült felnőtt- és gyekkori fotókat töltött fel, hogy a Lensa avatart generáljon belőlük.

A Lensa Általános Szerződési Feltételei között nemcsak a meztelen képek tiltása szerepel, hanem az is, hogy gyerekeket ábrázoló fotókat nem lehet használni. A cikkíró több nővel is beszélt, akik elmondták, hogy az alkalmazás annak ellenére fülledt pózban, nagy mellekkel, keskeny derékkal ábrázolta őket, hogy csak az arcukról töltöttek fel fotókat.

Rólam például több aktot is készített annak ellenére, hogy csak ruhában készült képeket használtam.

– írja a cikket jegyző Olivia Snow.

A Redditen persze akadnak olyanok is, akik élvezik, hogy az AI levetkőzteti őket, de a legtöbb embert érthetően rosszul érinti a meztelen ábrázolás. Snow-nak több színesbőrű nő arról számolt be, hogy a Lensa nemes egyszerűséggel kifehérítette őket, a vonásaikat pedig a felismerhetetlenségig finomította. Az ázsiaiakból pedig egyszerűen csak hentaiszereplőket csinált. A szerző úgy döntött, hogy próbára teszi az alkalmazást, és megkísérelt feltölteni a saját gyerekkori képei közül párat. A Lensa befogadta a képeket, de mivel az algoritmus nem érzékelt igazán jellegzetes női vonásokat, így végül nem generált erotikus képeket.

Snow második próbálkozásra felnőttkori szelfiket és gyerekkori fotókat vegyes arányban töltött fel, ennek viszont már aggályos eredménye született:

a fotókon szereplő avatarok arca kislányos, mondhatni gyerekes maradt, viszont a felnőtt női test miatt megjelentek az erősen szexualizált kompozíciók is. Snow két cenzúrázott eredményt is megmutat, a szóban forgó a fotókat a Wired cikkében lehet megnézni. A szerző szerint azzal, hogy a mesterséges intelligencia gombnyomásra gyártja a gyerekeket erotikus pózokban ábrázoló felvételeket, kiszabadult a szellem a palackból, és úgy tűnik, lehetetlen lesz visszazárni. 

A felmerült aggályokkal a TechCrunch szerkesztősége megkereste a Lensa Appot fejlesztő Prisma Labs nevű céget. A fejlesztők válaszából kiderül, hogy tisztában vannak a problémával, és állításuk szerint dolgoznak azon, hogy a megfelelő szűrők alkalmazásával ki tudják szorítani a nem odaillő, kifogásolható tartalmakat. A Prisma Labs ugyanakkor elismerte, hogy egyelőre manipulálható a rendszerük, amelynek következtében létrejöhetnek meztelen, túlzottan erotikus avatarok.

Nyitókép: Dominika Trzemżalska lengyel testépítő az Instagramon öszántából használta a Lensa Appot, a borítóképen látható avatart nem mi készítettük róla. A mesterséges intelligencia által generált fotókat itt posztolta korábban. Fotó: @domiii.nique / Instagram