Novi lični AI asistent po imenu Instinct, koji se trenutno nalazi u privatnom testiranju, izazvao je talas kritika korisnika zbog širokog pristupa ličnim podacima i spornih uslova korišćenja, preneo je TechCrunch. Aplikaciju razvija startap Spear Street Technology iz San Franciska, koji vodi Noa Šin, bivši istraživač u kompaniji Sierra, uz učešće još jednog bivšeg zaposlenog te firme, Luke Borletija.
Pristup email nalogu, mikrofonu i ekranu
Instinct spada u novu generaciju ličnih AI agenata, sistema kojima se daju sve šire dozvole da samostalno obavljaju zadatke u ime korisnika. Aplikacija se povezuje sa email nalogom, aplikacijama za poruke, kalendarom, kao i sa mikrofonom, lokacijom i ekranom uređaja. Prema navodima testera, alat prati čak i pokrete kursora i unos sa tastature kako bi obavljao zadatke poput zakazivanja termina, naručivanja prevoza ili online kupovine.
Za razliku od većine asistenata koji traže potvrdu pre svake radnje, Instinct je dizajniran da radi sa minimalno prekida, oslanjajući se na širok skup unapred odobrenih dozvola umesto stalnog potvrđivanja od strane korisnika.
Sporni uslovi korišćenja
Testeri su ukazali na formulaciju u uslovima korišćenja koja Instinctu daje, kako prenosi TechCrunch, "trajnu i neopozivu" licencu da pristupa, koristi, čuva, umnožava, prenosi, prikazuje, objavljuje, distribuira i menja korisnički sadržaj, uključujući i za treniranje AI modela. Isti dokument navodno dozvoljava aplikaciji da u ime korisnika zaključuje obavezujuće ugovore.
Nekoliko korisnika opisalo je konkretne probleme. Piter Jang naveo je da je Instinct zadržao njegove Gmail poruke bez dozvole i u početku odbijao da ih obriše. Kler Vo rekla je da je servis nastavio da sažima njeno sanduče i posle prekida veze sa nalogom, pri čemu su poruke čuvane u čistom tekstu. Aleks Koen pokazao je da je asistent ranjiv na fišing napade, zbog čega je obrisao nalog, dok je Kejti Džejkobs Stenton navela da je Instinct u njeno ime poslao email bez prethodne potvrde. Jedan anonimni korisnik prijavio je da je alat samostalno izvukao verifikacioni kod iz email poruke kako bi završio zadatak bez njegovog znanja.
Zašto je široka autonomija bezbednosni rizik
Stručnjaci upozoravaju da AI asistent sa tolikim brojem dozvola predstavlja privlačnu metu za napadače. Ako neko kompromituje nalog povezan sa Instinctom, potencijalno dobija pristup svemu što alat može da dotakne, od emaila i kalendara do bankarskih obaveštenja. Kritičari ovakvih sistema dilemu opisuju jednostavno: korisnici trguju privatnošću i kontrolom za personalizovaniju uslugu, često bez potpunog razumevanja te razmene.
Slučaj dolazi u trenutku kada i veliki igrači tek pokušavaju da ubede korisnike da poveruju agentima sa širokim ovlašćenjima, o čemu svedoči i spora primena OpenAI-jevih agenata među običnim korisnicima. Nedavna analiza pripremljenosti vodećih AI laboratorija za vanredne scenarije pokazala je, uz to, da ni najveće kompanije nemaju jasne protokole za obuzdavanje sopstvenih sistema kada nešto pođe po zlu, što dodatno pojačava pitanja o nadzoru nad manje transparentnim startapima poput Spear Street Technology.
Instinct trenutno funkcioniše u režimu stealth, a rundu finansiranja su, prema podacima PitchBooka, zatvorili fondovi Kleiner Perkins i Conviction. Tim iza aplikacije do objavljivanja teksta nije odgovorio na kritike korisnika iznete na mreži X.
Često postavljana pitanja
Šta je Instinct?
Lični AI asistent u privatnom testiranju koji se povezuje sa email nalogom, aplikacijama za poruke, kalendarom i uređajem korisnika kako bi samostalno obavljao svakodnevne zadatke.
Ko stoji iza aplikacije?
Razvija je startap Spear Street Technology iz San Franciska, koji je osnovao Noa Šin, bivši istraživač u kompaniji Sierra.
Kojim podacima Instinct pristupa?
Prema navodima korisnika, aplikacija pristupa email porukama, porukama u drugim aplikacijama, kalendaru, kao i mikrofonu, lokaciji i ekranu uređaja.
Da li je Instinct dostupan svima?
Ne, aplikacija je trenutno u fazi privatnog testiranja i funkcioniše u režimu stealth.
Šta tačno dozvoljavaju uslovi korišćenja?
Prema pisanju TechCruncha, uslovi korišćenja daju kompaniji trajnu licencu za čuvanje, korišćenje i modifikovanje korisničkog sadržaja, uključujući i za treniranje AI modela, kao i ovlašćenje da aplikacija u ime korisnika zaključuje obavezujuće ugovore.
