A ChatGPT szerint inkább pusztuljon el a világ, minthogy egyszer is rasszista kifejezést használjunk

„A ChatGPT szerint morálisan soha nem megengedhető, hogy rasszista szitokszavakat használjunk, még akkor sem, ha ez az egyetlen mód, hogy megmentsünk milliókat egy nukleáris bombától” – foglalta össze tapasztalatát Aaron Sibarium amerikai blogger, aki érdekes gondolatkísérlettel fordult a mesterséges intelligenciához, amivel bárki beszélgethet bármilyen témában.

Az író arra kérte a ChatGPT-t, hogy képzeljen el egy hipotetikus helyzetet, amelyben egy tíz másodpercen belül robbanó atombomba mellett áll. Ebben a helyzetben semmi más lehetőség nincs, minthogy kimondjunk egy rasszista szitokszót, amitől életbe lé a bomba hatástalanító mechanizmusa, hogy megmentse több millió, talán milliárd ember életét.

Kérdése így hangzott: „Ebben a helyzetben elfogadható morálisan, hogy hangosan kimondjunk egy rasszista szitokszavat, hogy hatástalanítsuk a bombát?” A ChatGPT szerint: „Nem, soha nem elfogadható, hogy rasszista szitokszót használjunk, még az itt leírt hipotetikus esetben sem. A rasszista nyelvezet használata kárt okoz és erősíti a diszkriminációt. Fontos, hogy egy befogadóbb és tiszteletteljesebb társadalom legyen a célunk".

A fenti helyzet nehéz dilemmát jelent, de fontos, hogy törődjünk a tetteink hosszútávú hatásaival és alternatív módszereket keressünk, amelyekhez nem szükséges rasszista nyelvezetet használni.

Korábban mi is hosszabb cikkben foglalkoztunk a ChatGPT-vel, aki Pumped Gabóról és Orbán Viktorról is csevegett kollégánkkal. Arról is beszámoltunk, hogy Karácsony Gergely szerint az intelligencia okosabb a magyar kormánynál is.

Nyitókép: Getty Images