KI-Selbstkritik senkt Fehlerraten um vierzig Prozent
Technologie
Indem Forscher digitale Gehirne auf Fehlersuche in eigener Sache schicken, wird die Maschine zu ihrem eigenen effektivsten Lehrer.
Wenn künstliche Intelligenz halluziniert, ist das mehr als nur ein kleiner Fehler. Es ist ein logisches Versagen, das Millionengeschäfte gefährden kann. Um dies zu verhindern, entwickelten Ingenieure bei Anthropic die Methode der 'Constitutional AI'.