Constitutional AI

Metod kompanije Anthropic za obuku modela da budu korisni i bezbedni vođeni skupom pisanih principa.

Constitutional AI je pristup obuci koji je razvila Anthropic, u kome se model usmerava skupom jasnih principa („ustavom") umesto da se oslanja isključivo na ljudsko ocenjivanje svakog odgovora.

Model uči da sam kritikuje i popravlja svoje odgovore prema tim principima, što vodi ka korisnijem i bezbednijem ponašanju. Ovaj metod je deo onoga što asistent Claude čini pouzdanim.

Povezani pojmovi

Newsletter

Budi u toku sa AI revolucijom

Prijavite se na naš newsletter i primajte ekskluzivne članke o AI agentima direktno u inbox