OpenAI je u utorak, na konferenciji Hot Chips u Silicijumskoj dolini, objavio prve javne rezultate testova za Jalapeño, sopstveni čip namenjen ubrzavanju rada već obučenih AI modela, poznatom kao inferencija. Kompanija tvrdi da čip po brzini odgovora i potrošnji energije nadmašuje trenutno najjača Nvidijina rešenja za istu namenu.
Prema podacima koje je OpenAI predstavio, a koje je nezavisno merila firma SemiAnalysis kroz svoj paket testova InferenceX, Jalapeño ostvaruje između 1,5 i 1,9 puta veći protok podataka po kilovatu potrošnje u odnosu na Nvidijine rek sisteme GB200 i GB300. Reč je o poređenju čipa snage 700 vati sa sistemima ocenjenim na 1.200 i 1.400 vati. Kašnjenje u odgovoru, mera koja pokazuje koliko brzo model reaguje na upit, kod Jalapeña je od 1,7 do 3,6 puta manje. Za aplikacije u kojima korisnik u realnom vremenu razgovara sa modelom, razlika je još veća, između 2,1 i 4,1 puta bolji rezultat, navodi OpenAI.
Zašto OpenAI pravi sopstveni čip
Jalapeño je razvijen u bliskoj saradnji sa proizvođačem čipova Broadcomom, uz učešće OpenAI-jevih sopstvenih modela u samom procesu projektovanja. Kompanija je čip prvi put najavila prošlog oktobra, a ovonedeljna prezentacija je prvi put da su objavljeni konkretni brojevi o njegovim performansama u odnosu na konkurenciju.
Iza projekta stoji i poslovni razlog. OpenAI trenutno gotovo u potpunosti zavisi od Nvidijinih grafičkih procesora za pokretanje ChatGPT-a i ostalih proizvoda, a potražnja za računarskom snagom raste brže od ponude. Kompanija je ranije ove godine objavila da je dostigla godišnji prihod od 40 milijardi dolara, što dodatno uvećava pritisak da troškove inferencije drži pod kontrolom umesto da u potpunosti zavisi od cena i dostupnosti tuđeg hardvera. Sopstveni čip, tvrde u kompaniji, omogućava da se hardver oblikuje tačno prema potrebama sopstvenih modela, umesto da se modeli prilagođavaju opštenamenskim procesorima.
Kako se meri protiv postojećih rešenja
Prema rezultatima predstavljenim na InferenceX testu, prednost Jalapeña posebno dolazi do izražaja kod dužih razgovora i zadataka gde model mora da obradi veliku količinu konteksta pre nego što odgovori. OpenAI je ranije ove godine već pokazao interesovanje za ubrzavanje inferencije kroz softverske izmene, kada je predstavio Ultrafast režim koji je ubrzao model GPT-5.6 Sol. Jalapeño predstavlja komplementaran, hardverski pristup istom problemu, potrošnji energije i brzini odgovora po korisniku.
U kompaniji ističu da arhitektura čipa ne primorava na izbor između brzine i protoka, što je čest kompromis kod postojećih sistema, već nudi oba istovremeno. Nezavisni analitičari napominju da su testovi rađeni prema javno dostupnoj metodologiji, ali da stvarna prednost u produkcionim uslovima, sa realnim opterećenjem miliona korisnika, tek treba da se potvrdi.
OpenAI time ulazi u red kompanija koje su odlučile da ne zavise isključivo od Nvidijinog hardvera. Google godinama razvija sopstvene TPU čipove, Amazon svoje procesore pod nazivom Trainium, a Microsoft je predstavio čip Maia. Za razliku od tih firmi, koje sopstveni hardver koriste uglavnom za internu infrastrukturu i deo usluga u oblaku, OpenAI je do sada bio gotovo u potpunosti oslonjen na kupovinu tuđih procesora, pa ovonedeljna objava predstavlja zaokret u dosadašnjoj strategiji.
Šta sledi
OpenAI planira da Jalapeño uvede u sopstvenu infrastrukturu do kraja godine, prvo za interne potrebe pokretanja modela poput ChatGPT-a. Kompanija je saopštila da već radi na drugoj i trećoj generaciji čipa, što ukazuje da ne planira jednokratni projekat već dugoročnu liniju sopstvenog hardvera. Broadcom, koji je i dalje partner u proizvodnji, time dobija još jednog velikog klijenta pored Googlea, koji već godinama razvija sopstvene TPU čipove uz njegovu pomoć.
Za sada OpenAI ne najavljuje da će Jalapeño prodavati spolja, kao što to čini Nvidija sa svojim procesorima. Čip ostaje deo interne infrastrukture kompanije, a njegov stvarni uticaj na cene i dostupnost usluga poput ChatGPT-a biće vidljiv tek kada bude uveden u redovan rad, najavljeno za kraj 2026. godine.
Često postavljana pitanja
Šta je Jalapeño?
Jalapeño je prvi čip koji je OpenAI razvio za sopstvene potrebe, namenjen isključivo inferenciji, odnosno pokretanju već obučenih AI modela, a ne njihovom treniranju.
Ko proizvodi čip?
Jalapeño je razvijen u saradnji sa Broadcomom, kompanijom koja ima dugogodišnje iskustvo u projektovanju specijalizovanih čipova za velike tehnološke firme.
Da li Jalapeño zamenjuje Nvidijine procesore kod OpenAI-ja?
Ne u potpunosti. OpenAI planira da čip uvede u sopstvenu infrastrukturu do kraja 2026. godine, ali kompanija i dalje u velikoj meri zavisi od Nvidijinog hardvera za treniranje i deo inferencije.
Da li će Jalapeño uticati na cenu korišćenja ChatGPT-a?
OpenAI to nije direktno najavio, ali veća energetska efikasnost po korisniku dugoročno može sniziti troškove pokretanja modela, što je jedan od motiva za razvoj sopstvenog hardvera.
