AIに自己批判を学習させるとエラーが4割減少する
技術
デジタルな脳に自らの欠陥を探させることで、機械は自分自身にとって最も有能な教師であり、批判者になれることが明らかになりました。
AIが事実とは異なる回答を生成する「ハルシネーション」は、単なる不具合ではありません。それは論理の破綻であり、1億ドル規模の重要なビジネス取引を台無しにする恐れもあります。この課題を解決するため、Anthropic社のエンジニアは「憲法AI（Constitutional AI）」という手法を開発しました。