Analitičar američke vojske koristio je AI četbota da sastavi obaveštajnu procenu o kineskom brodu, a pogrešan zaključak tog sistema umalo je pokrenuo oružanu akciju. Kako je 18. septembra objavio CNN u ekskluzivnom izveštaju, o kojem piše i TechCrunch, operacija je prekinuta u poslednjem trenutku, kada su vojni avioni već bili u vazduhu.
Prema navodima izvora, analitičar Komande za specijalne operacije zatražio je od četbota da spoji javno dostupne podatke sa poverljivim signalnim obaveštajnim podacima. Sistem je pogrešno protumačio manifest tereta jednog kineskog broda i zaključio da plovilo prevozi komponente za nuklearni program. Analitičar je zatim isti alat upotrebio i drugi put, da bi taj nalaz oblikovao u zvaničan izveštaj, koji je kružio komandnim kanalima. Incident se, kako se navodi, dogodio u proleće, tokom rata sa Iranom.
Timovi za ukrcavanje bili su spremni da presretnu plovilo, a avioni su već poleteli kada je provera pokazala da je procena netačna. Izvori su informaciju opisali kao potpuno lažnu i rekli da je zamalo počeo rat.
Šta je zakazalo
Prema izveštaju, između dva koraka nije postojala nikakva provera, a protokoli bezbednosti razlikuju se među granama vojske, pa nema zajedničkog mehanizma za proveru tačnosti onoga što veliki jezički modeli proizvedu. Jake Steckler iz organizacije GovAI, bivši oficir vojske, naglasio je da pripadnici službe moraju da razumeju kako je nesigurnost svojstvena tim modelima, posebno kada je reč o upotrebi sile.
Sličan obrazac, sa manjim posledicama, opisan je ranije ovog meseca kada je Gemini planinare na Šasti uputio u opasnu situaciju. Objavljeni izveštaji ne navode koji je četbot korišćen, koja je tačno komanda u pitanju ni kog datuma se incident dogodio, a Pentagon u tekstu TechCrunch-a nije citiran. Navodi počivaju na anonimnim izvorima i nisu nezavisno potvrđeni.
