Egy AI-hallucináció miatt majdnem kínai hajóra támadt az amerikai hadsereg

A CNN beszámolója szerint egy különleges műveleti parancsnokság elemzője egy AI-chatbot segítségével vizsgálta a kínai hajó rakományjegyzékét. A rendszer nyílt forrású adatokat és titkosított hírszerzési információkat kombinált, majd arra jutott, hogy a hajó egy nukleáris fegyverprogramhoz kapcsolódó alkatrészeket szállíthat. A jelentést ezt követően széles körben továbbították az amerikai hadseregen belül.

A megállapítás alapján megkezdődtek az előkészületek a hajó feltartóztatására. A műveletet végül tapasztaltabb szakértők állították le, miután újraellenőrizték az alapadatokat, és arra jutottak, hogy a chatbot következtetése hibás, vagyis egy klasszikus AI-hallucinációról volt szó. Azt egyelőre nem sikerült kideríteni, hogy a hajó valójában mit szállított, és az sem ismert, pontosan milyen AI-rendszert használt az elemző. Nem világos, hogy egy kereskedelmi chatbotról vagy kifejezetten amerikai kormányzati használatra fejlesztett modellről volt-e szó.

Az eset különösen érzékeny időszakban történt, amikor az amerikai védelmi tárca látványosan gyorsítja a mesterséges intelligencia katonai alkalmazását. Egy januári stratégiai dokumentumban a Pentagon kifejezetten „AI-first” haderő kialakítását tűzte ki célul, és arra utasította a szervezetet, hogy minél szélesebb körben kísérletezzen vezető amerikai AI-modellekkel. Az incidens ugyanakkor jól mutatja, milyen kockázatokat jelenthet, ha generatív AI-rendszerek eredményei közvetlenül bekerülnek nagy tétű katonai döntésekbe.