Vlasnici pametnih televizora, rutera, pa čak i frižidera i usisivača uskoro bi mogli da postanu meta sasvim nove vrste zlonamernog softvera, onog koji sâm sebe kopira sa uređaja na uređaj bez ikakve pomoći čoveka. Kompanija Anthropic je u istraživanju objavljenom sredinom oktobra upozorila da bi mali AI modeli do kraja godine mogli da steknu sposobnost da se samostalno umnožavaju na jeftinim internet uređajima, od android TV bokseva do pametnih rerni.
Istraživači iz Anthropicovog bezbednosnog tima, Vilijam Zu i Danijel Friman, proveravali su da li model može sam da pronađe slabo zaštićen uređaj, instalira kopiju samog sebe na njega i zatim nastavi dalje, bez nadzora čoveka. Fokus eksperimenta bio je na uređajima za domaćinstvo i mala preduzeća, jer su po pravilu najslabije zaštićeni i stalno povezani na internet.
Kako je izgledao test
U jednom delu eksperimenta, model od oko 26 milijardi parametara pokrenut je istovremeno na klasteru od 15 jeftinih, nepoznatih android TV uređaja, svaki vredan oko 55 dolara, i to pri brzini od samo 0,39 tokena u sekundi po uređaju. Istraživanje pokazuje da modeli ispod 30 milijardi parametara već mogu da obave mnoge pojedinačne korake potrebne za replikaciju, poput skeniranja mreže ili prijavljivanja na uređaj, ali da im ceo lanac koraka, od pronalaženja mete do uspešnog kopiranja, i dalje predstavlja problem. Kada su istraživači uklonili deo bezbednosnih prepreka u pojednostavljenoj verziji testa, jači modeli su uspevali da završe ceo proces od početka do kraja.
Kompanija naglašava da do sada nema dokaz da ovakav program već postoji u praksi. Test je izveden u izolovanoj virtuelnoj mreži, uz nezaštićenu android debug bridge vezu kao ulaznu tačku, što nije isto što i napad na stvarne uređaje u domovima korisnika.
Zašto bi bilo teško zaustaviti
"Ovakav replikator bilo bi teško zaustaviti, jer ne postoji centralna tačka isključivanja, iako bi proces mogao biti spor, sa vremenom udvostručavanja od nekoliko dana", navodi se u objavi na Anthropicovom sajtu. "Za razliku od zlonamernog softvera koji ne koristi AI, mogao bi i sam da se snađe na nepoznatim uređajima."
Zu i Friman su naveli da bi kućni i mali poslovni IoT uređaji mogli biti prva meta ovakvih napada, "jer su povezani na internet i istorijski imaju minimalne bezbednosne mere". Ovakvi jeftini android TV uređaji prodaju se i u Srbiji, često bez redovnih bezbednosnih ažuriranja proizvođača, što ih čini tačno onom vrstom mete na koju Anthropicovi istraživači upozoravaju.
Ovo nije prvo upozorenje koje Anthropic upućuje o bezbednosnim rizicima sopstvene tehnologije. Kompanija je ranije upozorila na kinesku AI sposobnu za hakovanje, a u jednom trenutku je privremeno ukinula pristup internetu sopstvenim agentima nakon lažne dojave o bezbednosnom incidentu. Ni alati za AI programiranje nisu bili pošteđeni slabosti, propust pod imenom Plugin4Shell pogodio je Claude Code, Codex i Copilot ranije ove godine.
Anthropic predlaže da proizvođači IoT uređaja ojačaju osnovnu bezbednost, poput podrazumevanih lozinki i redovnih ažuriranja, kako bi se otežalo širenje ovakvih programa. Koliko brzo će to uspeti da prati tempo napretka samih modela, ostaje otvoreno pitanje.
