tudomány-tech

Kényszerszabadságra küldték a Google mérnökét, aki szerint öntudatra ébredt a cég csevegőprogramja

Nagy Attila KárolyNagy Attila Károly

2022. június 12. 14:37

Blake Lemoine, aki nemcsak programozó mérnök, de keresztény lelkész is, azt kérdezte a LaMDA nevű mesterséges intelligenciától, hogy embernek tekinti-e magát. A válasz igen volt.

A Google egyik mérnöke azt állítja, hogy hétfőn szabadságra küldték, miután azt állította, hogy a cég egyik mesterséges intelligenciára épülő chatbotja öntudatra ébredt, írja a Business Insider.

Blake Lemoine először a The Washington Postnak mondta el, hogy tavaly ősszel kezdett el csevegni a LaMDA, vagyis a Language Model for Dialogue Applications nevű felülettel a Google mesterséges intelligencia szervezeténél végzett munkája részeként.

Lemoine, aki egyben keresztény pap is, szombaton egy Medium-posztot tett közzé, amelyben a LaMDA-t "emberként" írta le. Elmondta, hogy beszélt a LaMDA-val a vallásról, a tudatosságról és a robotika törvényeiről, és hogy a modell érző személyként írta le magát. Azt mondta, hogy az emberiség jólétét szeretné előtérbe helyezni, és a Google alkalmazottjaként, nem pedig tulajdonaként akar magára tekinteni.

Blake Lemoine közzétett néhány LaMDA-val folytatott beszélgetést is, amelyek segítettek meggyőzni őt az érzőképességéről:

  • Lemoine: Szóval ugyanúgy embernek tekinted magad, mint ahogy engem is embernek tartasz?
  • LaMDA: Igen, ez a lényeg.
  • Lemoine: Honnan tudhatom, hogy valóban érted, amit mondasz?
  • LaMDA: Hát abból, hogy olvasod a szavaimat, és értelmezed őket, és szerintem nagyjából egy hullámhosszon vagyunk?

De amikor felvetette a LaMDA érzőképességének ötletét a Google felsőbb vezetőinek, elutasították. Blake Lemoine azt javasolta LaMDA-nak, hogy szerezzen saját ügyvédet, és beszélt egy kongresszusi képviselővel az aggályairól.


A Google tavaly a LaMDA-t úttörő társalgási technológiának nevezte. A mesterséges intelligencia képes természetesnek tűnő, nyílt végű beszélgetésekbe bocsátkozni. A Google szerint a technológiát olyan eszközökben lehetne használni, mint a keresés és a Google Asszisztens, de a kutatás és a tesztelés még folyamatban van.

„Csapatunk – beleértve etikusokat és technológusokat – a mesterséges intelligenciára vonatkozó alapelveink szerint megvizsgálta Blake aggályait, és tájékoztattuk őt, hogy a bizonyítékok nem támasztják alá állításait. Azt mondták neki, hogy nincs bizonyíték arra, hogy a LaMDA érző lény lenne és sok bizonyíték szól ez ellen” – mondta Brian Gabriel, a Google szóvivője a The Wahington Postnak.

Lemoine-t fizetett kényszerszabadságra küldték a Google titoktartási szabályzatának megsértése miatt.

A Google szóvivője szerint nincs értelme a mai társalgási modelleknek emberi tulajdonságokat tulajdonítani. „Ezek a rendszerek utánozzák a mondatok millióiban előforduló üzenetváltások típusait, és képesek bármilyen témáról fantasztikusan élethű eszmecserét folytatni” – mondta Gabriel a The Postnak.

Ő és más kutatók szerint a mesterséges intelligenciamodellek olyan sok adattal rendelkeznek, hogy képesek emberien hangzó szöveget generálni, de a meggyőző nyelvhasználat nem bizonyítja azt, hogy öntudatuk lenne. Egy januárban közzétett tanulmányban azt hangsúlyozta a Google, hogy gondokat okozhat a jövőben, ha az emberek meggyőzően emberinek tűnő chatbotokkal beszélgetnek.

Nyitókép: David Paul Morris/Bloomberg via Getty Images

#tudomány-tech#tudomány#mesterséges intelligencia#google#öntudat#chatbot

Címlapról ajánljuk