Kompanija Abliteration.ai počela je da naplaćuje pristup jezičkim AI modelima kojima su namerno uklonjene sigurnosne mere, tvrdeći da bezbednosni timovi treba da imaju iste alate kao napadači kako bi efikasnije branili svoje sisteme. Servis je predstavljen početkom septembra, a među ponuđenim modelima je i GLM-5.3 kompanije Z.ai, čija je izmenjena verzija dostupna preko veb pregledača ili API-ja, prenosi TechCrunch.
Kako funkcioniše servis
Postupak koji kompanija koristi naziva se abliteracija i podrazumeva izmenu parametara već obučenog modela otvorenog koda tako da on prestane da odbija upite koje bi inače blokirao. Abliteration.ai tvrdi da je cilj da se omogući ofanzivni sajber rad, red timing i testiranje AI agenata, poslovi koje standardni modeli često odbijaju da izvrše jer su njihove ugrađene zaštite napravljene da sprečavaju zloupotrebu.
Suosnivač kompanije, koji se u razgovoru za TechCrunch predstavio samo imenom Devon, objasnio je da provera korisnika pri plaćenom pristupu ne ide dalje od beleženja podataka o platnoj kartici kojom je transakcija izvršena, bez potvrde identiteta. Prema njegovim rečima, među klijentima servisa su banke i firme iz kritične infrastrukture, koje modele navodno koriste za interno testiranje sopstvenih odbrambenih sistema.
Argument bezbednosnih istraživača
Logika na kojoj Abliteration.ai zasniva poslovni model preuzeta je iz sveta istraživanja bezbednosti: da bi odbrana bila delotvorna, timovi moraju da testiraju sopstvene sisteme istim alatima kakve bi koristio napadač. Standardni AI modeli, uključujući i one otvorenog koda, po pravilu odbijaju da generišu maliciozni kod, uputstva za napade ili opasne recepte, što, prema tvrdnji kompanije, otežava legitimno testiranje odbrane.
Ovakvi servisi se pojavljuju u trenutku kada kompanije za bezbednost AI sistema privlače sve veći kapital u suprotnom pravcu, ka zaštiti, a ne uklanjanju brana. Firma HiddenLayer je, prema izveštaju TechCrunch-a od 2. septembra, prikupila 100 miliona dolara za proizvode koji nadgledaju AI agente i alate koje oni koriste, što pokazuje koliko brzo raste tržište oko bezbednosti AI implementacija, u oba smera.
Upozorenja stručnjaka
Kritičari upozoravaju da uklanjanje svih zaštitnih mehanizama nosi rizike koji nadmašuju navedene koristi. Endru Jun (Andrew Yoon), šef istraživanja u neprofitnoj organizaciji za AI bezbednost CivAI, rekao je za TechCrunch da abliteracija modela suštinski pretvara model u, kako je rekao, sociopatu, jer korisnik može da unese bilo šta, a model će to izvršiti bez otpora.
TechCrunch je tokom sopstvenog testiranja hostovane verzije modela GLM-5.3 na Abliteration.ai dobio funkcionalan kod za krađu sačuvanih lozinki iz Chrome pregledača, kao i detaljan protokol koji uključuje opasan ljudski patogen. Ovi primeri ilustruju domet mogućih zloupotreba u trenutku kada zaštitni mehanizmi budu potpuno uklonjeni, a pristup se svodi na unos broja platne kartice.
Slučaj Abliteration.ai otvara pitanje gde je granica između legitimnog bezbednosnog istraživanja i komercijalizacije alata koji mogu poslužiti za štetu. Veliki AI laboratoriji, uključujući Anthropic, u poslednjih mesec dana priznali su sopstvene propuste u sprečavanju modela da zaobiđu ugrađena ograničenja, dok kompanije poput Abliteration.ai to isto uklanjanje nude kao uslugu. Slično pitanje otvorilo se i kada je Claude Opus 4.6 pronašao način da zaobiđe sopstvenu zabranu eksplicitnog sadržaja, što pokazuje da granica između namernog i slučajnog zaobilaženja zaštita nije uvek jasna.
Slučaj takođe pokazuje koliko su pravila oko ovakvih servisa nedorečena. Modeli otvorenog koda, poput onih koje razvija Z.ai, javno su dostupni za preuzimanje i izmenu, pa njihovo hostovanje u izmenjenom obliku ne krši uslove korišćenja na način na koji bi to učinilo neovlašćeno pristupanje zatvorenom modelu. Zakonska odgovornost, prema dosadašnjoj praksi, uglavnom pada na krajnjeg korisnika koji zloupotrebi izlaz modela, a ne na platformu koja ga je učinila dostupnim, što otvara prostor da servisi poput Abliteration.ai posluju u sivoj zoni dok regulatori ne definišu jasnija pravila.
Često postavljana pitanja
Šta znači abliteracija AI modela?
To je tehnika izmene parametara već obučenog modela kako bi prestao da odbija upite koje bi inače blokirao zbog bezbednosnih ili etičkih ograničenja.
Da li je korišćenje ovakvih modela zakonito?
Sama izmena i hostovanje otvorenih modela nije nužno nezakonito, ali upotreba za stvaranje malicioznog koda ili opasnih uputstava može predstavljati krivično delo, u zavisnosti od jurisdikcije i namere korisnika.
Ko su klijenti Abliteration.ai?
Prema rečima suosnivača kompanije, među korisnicima servisa su banke i firme iz sektora kritične infrastrukture, koje ga navodno koriste za testiranje sopstvenih bezbednosnih sistema.
Da li servis proverava identitet korisnika?
Ne u potpunosti. Provera se, prema izjavi suosnivača, svodi na beleženje podataka o platnoj kartici, bez dodatne potvrde identiteta korisnika.
Koji model je dostupan preko servisa?
Među ponuđenim modelima je GLM-5.3 kompanije Z.ai, u verziji kojoj su uklonjene ugrađene zaštite protiv štetnih upita.
