让 AI 学会自我审视，可将错误率降低四成
技术
研究人员发现，通过迫使数字大脑寻找自身缺陷，机器可以成为自己最有效的老师和评论家。
当人工智能出现“幻觉”时，这不仅是技术故障，更是逻辑失效。在涉及上亿美元的高风险商业交易中，这种错误可能导致严重后果。为此，Anthropic 的工程师开发了“宪法 AI”技术。该方法不再依赖人工纠错，而是为模型设定一套书面准则，即“数字宪法”，让 AI 据此审视自己的初稿。