Mesterséges intelligenciával elemezte az ügyfelek érzelmi állapotát egy Magyarországon is működő bank, 250 milliós büntetést szabott ki a NAIH

A Nemzeti Adatvédelmi és Információszabadság Hatóság 250 millió forintra büntetett egy meg nem nevezett, Magyarországon is működő bankot, mert a pénzintézet mesterséges intelligenciával vezérelt szoftveres megoldást alkalmazott az ügyfelek érzelmi állapotának automatizált feldolgozására – írta a hvg.hu a hatóság tavalyi évről szóló beszámolójára hivatkozva.

A lap szerint ez az eddigi legmagasabb adatvédelmi büntetés, egyben az első is, amely mesterséges intelligencia jogszerűtlen felhasználásából adódik.

A bank által használt beszédjel-felismerő és értékelő rendszer az ügyfelek hangulati állapota alapján határozta meg, mely ügyfeleket szükséges visszahívni. 

A bank az alkalmazást panasz és ügyfélelvándorlás megelőzése érdekében üzemeltette. A NAIH utasította a bankot az érzelmi állapotok elemzésének abbahagyására, mivel az számos ponton sérti a GDPR adatvédelmi rendeletet.

A történések hátterét feltáró elemzésében a Deloitte tanácsadó cég emlékeztet: a mesterséges intelligencia rendszerek képesek például nyelvi elemek feldolgozására is. 

Ez alkalmassá teszi az emberi beszéd és hangelemek kiértékelésére, így az érzelmi és hangulati ingadozások viszonylag pontos meghatározására. 

Az intelligens rendszerek efféle felhasználása számos kivetnivalót eredményezhet, mivel etikailag is megkérdőjelezhető felhasználásuk, rejtett előítéleteket tartalmazhat, ez pedig egyéb adatok felhasználásával diszkriminatív lehet az ügyfelekre nézve.

A Deloitte szerint az EU-s mesterséges intelligenciáról szóló rendelettervezete az érzelemfelismerő rendszerek esetében szigorú tájékoztatási kötelezettségeket állapít meg, amelyek megszegése esetén magas, tiltott gyakorlatok alkalmazása esetén, akár 30 millió eurós bírsággal kell számolni.

Nyitókép: Getty Images