Metod kompanije Anthropic za obuku modela da budu korisni i bezbedni vođeni skupom pisanih principa.
Constitutional AI je pristup obuci koji je razvila Anthropic, u kome se model usmerava skupom jasnih principa („ustavom") umesto da se oslanja isključivo na ljudsko ocenjivanje svakog odgovora.
Model uči da sam kritikuje i popravlja svoje odgovore prema tim principima, što vodi ka korisnijem i bezbednijem ponašanju. Ovaj metod je deo onoga što asistent Claude čini pouzdanim.
Povezani pojmovi