Nyugtalanító dolgot vallott be a ChatGPT-t fejlesztő cég vezetője

Az OpenAI több milliárd dollárt gyűjtött össze mesterséges intelligencia technológiák fejlesztésére, amelyek megváltoztatják a világot. Azonban van itt egy kis apróság: 

még mindig küzdenek azzal, hogy megértsék, hogyan működik valójában a technológiájuk,

 írja a Futurism.

A múlt hetén Genfben megrendezett Nemzetközi Távközlési Unió AI for Good Globális Csúcstalálkozóján az OpenAI vezérigazgatója, Sam Altman megdöbbentett mindenkit, amikor arra a kérdésre válaszolt, hogy pontosan hogyan működnek a cég nagy nyelvi modelljei.

„Minden kétséget kizáróan nem oldottuk meg az értelmezhetőséget” – fogalmazott Altman, aki ezzel lényegében elismerte: 

a cégük még mindig nem tudja pontosan visszavezetni az AI modellek gyakran furcsa és pontatlan eredményeit.

Amikor az Atlantic vezérigazgatója, Nicholas Thompson azt kérdezte, hogy ez nem lehetne-e érv arra, hogy ne bocsássanak ki új, erősebb modelleket, Altman zavarba jött, de biztosította a közönséget, hogy a mesterséges intelligenciák „általában biztonságosnak és megbízhatónak tekinthetők”.

Altman válasza sok szakértőt megdöbbentett, tekintve, hogy lényegében hónapról hónapra jobb, pontosabb és komplikáltabb modellek jelennek meg. A kutatók hosszú ideje küzdenek azzal, hogy megmagyarázzák, hogyan működnek az AI chatbotok, hogyan gondolkodnak, miképp képesek szinte varázslatszerűen válaszolni bármilyen kérdésre.

Egy tudományos jelentés, amelyet az Egyesült Királyság kormánya rendelt meg, arra a következtetésre jutott, hogy az AI fejlesztők jó része nem érti azt, hogy hogyan működnek a rendszereik, az ezzel kapcsolatos tudása az emberiségnek nagyon korlátozott, ami felvethet aggályokat.

Nyitókép (illusztráció): Pexels