Anthropic je 17. septembra objavio da je njegov model Claude za manje od četiri nedelje optimizovao više od 30 otvorenih modela za biomolekularno modelovanje, u proseku oko četiri puta brže. Kompanija je istovremeno, zajedno sa laboratorijom Adaptyv Bio, najavila takmičenje u dizajnu proteina u kojem će se u laboratoriji proveriti više od 5.000 dizajna.
Šta je Claude uradio
Prema tekstu na Anthropicovoj stranici za istraživanja, interni model opšte namene prepravio je programski kod postojećih modela za predviđanje i dizajn struktura proteina. Ubrzanje je u proseku oko četiri puta, uz, kako navodi kompanija, minimalan gubitak preciznosti. Unite.AI, koji prenosi pregled istraživanja, navodi da je reč o 36 paketa koji pokrivaju više od 30 modela iz šest porodica, među kojima su predviđanje strukture, generisanje struktura, inverzno savijanje, genomika i jezički modeli za proteine.
Anthropic posebno izdvaja režim nazvan „Big“, koji omogućava modelovanje sistema većih od 10.000 tokena na jednom GPU čvoru. Na jednom čvoru sa NVIDIA B300 karticama, prema kompaniji, predviđena je struktura do 70.000 tokena, među ostalim za humani mitohondrijalni kompleks I i ribozom 70S, koji ranije nisu bili dostupni ovakvom modelovanju. Za trougaonu pažnju, jedan od najzahtevnijih koraka u proračunu, kompanija tvrdi da je nova implementacija pod imenom FlashPairformer 2,7 do 2,9 puta brža od uobičajenih rešenja.
Manje računarske snage za dizajn proteina
Iz istog izvora proizlazi da je potreba za grafičkim procesorima pri dizajnu proteina pala otprilike sto puta u poređenju sa ranijim kampanjama. Kompanija navodi da je uporedive rezultate vezivanja postigla uz oko 150 dolara zajedničke potrošnje na GPU i tokene. Te brojke potiču iz Anthropicovog saopštenja i nisu nezavisno proverene.
Ograničenja su navedena u istom tekstu. Sistemi veličine od oko 31.000 do 70.000 tokena tokom predviđanja se raspadaju, što kompanija tumači kao znak da modeli ne generalizuju na razmere skoro sto puta veće od onih na kojima su obučeni. Brzi režimi žrtvuju deo preciznosti, iako je ona na testiranim interfejsima ostala statistički ekvivalentna.
Takmičenje sa Adaptyv Bio
Takmičenje koje su zajednički pokrenuli Anthropic i Adaptyv Bio obuhvata pet zadataka na granici mogućnosti dizajna proteina. Među njima su unakrsna reaktivnost među vrstama, osetljivost na pH, specifičnost prema kompleksu peptida i MHC-a i teške mete poput GPCR receptora. Učesnici mogu dobiti do milion dolara u Claude kreditima, do 250.000 dolara u računarskim kreditima kompanije Modal i dodatna sredstva za eksperimentalnu proveru preko Adaptyv Bio, a DNK obezbeđuje Twist Bioscience.
Kontekst
Adaptyv Bio je 20. avgusta objavio rezultate provere Claudeovih dizajna: od 1.320 testiranih dizajna u automatizovanoj laboratoriji vezalo se 354, odnosno 26,8 odsto, a vezivači su pronađeni za 14 od 15 testiranih meta. O tome je sajt pisao u tekstu Claude dizajnirao proteine bolje od stručnjaka. Prema Adaptyv Bio, najbolji Claudeovi vezivači imali su veći afinitet od pet od šest pobednika ranijih takmičenja te laboratorije, a za metu TREM2 uspešnost je iznosila 80 odsto, naspram 38,3 odsto u prethodnom takmičenju. Adaptyv Bio je pritom napomenuo da bi Claude, da je učestvovao, osvojio pet od šest ranijih takmičenja. Anthropic je ovih dana potvrdio i da vodi laboratoriju za biološke eksperimente, a predstavio je i program provere za nauke o životu.
Za Anthropicov model Claude biologija tako postaje sve izraženija oblast primene, ali nezavisna provera novih brojki o ubrzanju još nije objavljena. Takmičenje bi trebalo da pokaže koliko se ubrzanje prenosi na rezultate u laboratoriji.
Često postavljana pitanja
Šta je Anthropic tačno objavio?
Kompanija tvrdi da je Claude za manje od četiri nedelje optimizovao više od 30 otvorenih modela za biomolekularno modelovanje i da su oni u proseku oko četiri puta brži, uz minimalan gubitak preciznosti.
Šta nudi takmičenje u dizajnu proteina?
Učesnici mogu dobiti do milion dolara u Claude kreditima, do 250.000 dolara u Modal kreditima i sredstva za eksperimentalnu proveru, a više od 5.000 dizajna biće proveravano u laboratoriji Adaptyv Bio.
Šta je Adaptyv Bio?
Reč je o laboratoriji sa automatizovanim testiranjem vezivanja proteina, koja je ranije organizovala takmičenja u dizajnu vezivača za mete poput EGFR, TREM2 i Nipah virusa.
Da li su brojke o ubrzanju nezavisno potvrđene?
Prema dostupnim izvorima nisu. Ubrzanje i ušteda potiču iz Anthropicovog teksta, dok su ranije rezultate Claudeovih dizajna proteina u laboratoriji proveravali iz Adaptyv Bio.
Koja su ograničenja rezultata?
Sistemi od oko 31.000 do 70.000 tokena tokom predviđanja se raspadaju, a brzi režimi žrtvuju deo preciznosti. Brojke potiču iz Anthropicovog saopštenja.
