OpenAI je u četvrtak, 31. jula, saopštio da je tehnologija vodenog žiga SynthID ugrađena u GPT Live, model koji pokreće ChatGPT Voice i glasovne odgovore u OpenAI API-ju. Kompanija je istovremeno otvorila javni alat i programski interfejs za proveru porekla zvučnih zapisa, koje bilo koja treća strana može da koristi da proveri da li je snimak nastao pomoću OpenAI alata. Promena je stupila na snagu dan pre nego što je u svih 27 članica Evropske unije počela primena člana 50 Zakona o veštačkoj inteligenciji, koji propisuje obavezno obeležavanje sadržaja generisanog veštačkom inteligencijom.
Šta se tačno menja
SynthID je tehnologija koju je razvio Google DeepMind, a koja u sadržaj generisan veštačkom inteligencijom ugrađuje digitalni žig nevidljiv i nečujan za korisnika, ali čitljiv za softver napravljen da ga prepozna. Kod slika se žig ugrađuje u raspored piksela, dok se kod zvuka, prema objašnjenju OpenAI-ja, ugrađuje direktno u sam talasni oblik audio zapisa. To znači da žig ostaje prisutan i posle kompresije ili konverzije formata, mada agresivno uklanjanje šuma ili ponovno snimanje preko mikrofona i zvučnika mogu da ga oslabe ili uklone.
Novost nije samo prisustvo žiga, koji je OpenAI ranije koristio i kod slika generisanih DALL-E i GPT-Image modelima, već to što je kompanija otvorila mehanizam provere. Alat za verifikaciju, dostupan na sajtu OpenAI-ja, prima audio fajl i proverava da li sadrži poznate signale porekla, uključujući SynthID žig i C2PA metapodatke, standardizovani zapis o poreklu digitalnog sadržaja koji podržava veći broj tehnoloških kompanija. Podržani formati uključuju MP3, WAV, AAC, FLAC, OPUS i PCM. Za kompanije i redakcije koje žele da proveru ugrade u sopstvene sisteme, OpenAI je ponudio i programski interfejs za automatizovanu proveru.
Kako radi provera porekla
Kada korisnik učita zvučni fajl, alat vraća informaciju da li su pronađeni signali porekla i, ako jesu, koji su tačno. Odsustvo žiga ne dokazuje da snimak nije generisan veštačkom inteligencijom, jer žig može biti uklonjen naknadnom obradom ili snimak može poticati od alata koji SynthID uopšte ne koristi. Prisustvo žiga, s druge strane, predstavlja relativno pouzdan pokazatelj da je zvuk prošao kroz OpenAI-jeve sisteme.
Zakon EU o veštačkoj inteligenciji i član 50
Član 50 evropskog Zakona o veštačkoj inteligenciji obavezuje kompanije koje nude sisteme za generisanje sadržaja da taj sadržaj obeleže na način koji je mašinski prepoznatljiv, kao i da posebno označe takozvane dipfejkove i tekstove o pitanjima od javnog interesa objavljene isključivo uz pomoć veštačke inteligencije. Obaveza je počela da se primenjuje 1. avgusta u svim članicama Unije. Prateći kodeks prakse koji je Evropska komisija pripremila za primenu ovog člana predviđa dvoslojni pristup, kombinaciju metapodataka i nevidljivog vodenog žiga, što u praksi odgovara upravo kombinaciji C2PA zapisa i SynthID žiga koju je OpenAI primenio na audio sadržaj.
Prema navodima kompanije, izjava koju je OpenAI dostavio u sklopu usklađivanja sa evropskim zakonom ne obuhvata detalje o podacima korišćenim za treniranje modela, oblast koja ostaje predmet posebnih sporova oko autorskih prava u više evropskih zemalja. Slične izjave dostavile su i druge velike kompanije koje posluju u Evropi, uključujući Google i Metu, pa evropski regulatori ovih dana istovremeno prate primenu obaveza obeležavanja sadržaja i ranije najavljene sporove oko podataka za treniranje modela.
Sam Zakon o veštačkoj inteligenciji stupa na snagu postepeno, po fazama koje su počele još avgusta 2024. godine. Obaveze vezane za zabranjene prakse i opismenjavanje o veštačkoj inteligenciji već su na snazi, dok pravila za takozvane opšte AI modele visokog rizika stupaju na snagu u avgustu 2027. Član 50, koji se odnosi na transparentnost prema krajnjim korisnicima, jedna je od obaveza koje pogađaju najširi krug kompanija, jer se odnosi na sve sisteme koji generišu tekst, sliku, zvuk ili video, bez obzira na to da li se ti sistemi smatraju visokorizičnim u smislu ostatka zakona.
Šira industrijska koalicija oko SynthID-a
Google je poslednjih meseci proširio pristup SynthID tehnologiji na više spoljnih partnera, uključujući Apple, ElevenLabs, korejsku kompaniju Kakao, proizvođača čipova Nvidia i sada OpenAI, u pokušaju da se uspostavi jedinstven, međusobno prepoznatljiv standard obeležavanja kroz industriju. Za korisnike bi to, u teoriji, značilo da bi jedan alat za proveru mogao da prepozna sadržaj nastao kod više različitih proizvođača veštačke inteligencije, umesto da svaka kompanija drži sopstveni, nekompatibilan sistem.
Da li će taj cilj biti ostvaren zavisi od toga koliko će kompanije dosledno primenjivati žigosanje na sav generisani sadržaj i koliko će platforme za deljenje sadržaja, od društvenih mreža do medijskih kuća, uopšte proveravati poreklo pre objave. OpenAI za sada nije saopštio da li planira sličnu proveru unutar sopstvenih proizvoda, niti da li će obeležavanje proširiti na video sadržaj koji generišu njegovi modeli.
Šta ovo znači za korisnike
Za običnog korisnika ChatGPT Voice funkcije, promena ne menja izgled niti zvuk razgovora. Žig se ne čuje i ne utiče na kvalitet zvuka. Praktičnu razliku prvenstveno će osetiti redakcije, platforme za proveru činjenica i kompanije koje se bave moderacijom sadržaja, kojima novi alat omogućava da brzo provere da li je sumnjiv audio snimak nastao pomoću OpenAI-jevih sistema. Ostaje otvoreno pitanje koliko će takva provera biti pouzdana u praksi, s obzirom na to da žig, prema priznanju same kompanije, može biti oslabljen tehničkim manipulacijama zvuka.
Često postavljana pitanja
Šta je SynthID?
SynthID je tehnologija vodenog žiga koju je razvio Google DeepMind. Ugrađuje neprimetan digitalni potpis u sadržaj generisan veštačkom inteligencijom, uključujući slike, tekst, video i, od nedavno, zvuk, kako bi se poreklo sadržaja moglo naknadno proveriti.
Da li se žig može čuti u audio zapisu?
Ne. Prema opisu OpenAI-ja, žig je nečujan za ljudsko uvo i ugrađen direktno u talasni oblik zvuka, tako da ne utiče na kvalitet ili sadržaj snimka.
Da li član 50 Zakona EU o veštačkoj inteligenciji važi samo u Evropskoj uniji?
Pravno je obavezujući za kompanije koje svoje usluge nude korisnicima u Evropskoj uniji, ali kompanije poput OpenAI-ja po pravilu primenjuju iste tehničke mere globalno, pa se efekat obeležavanja oseća i van EU.
Da li odsustvo SynthID žiga dokazuje da snimak nije nastao pomoću veštačke inteligencije?
Ne. Žig može biti uklonjen ili oslabljen naknadnom obradom zvuka, a snimak može biti napravljen alatom koji SynthID uopšte ne koristi, tako da odsustvo žiga samo po sebi nije dokaz.
