Yapay zekaya kendini eleştirmeyi öğretmek hataları yüzde kırk azaltıyor
Teknoloji
Araştırmacılar, dijital beyinleri kendi kusurlarını aramaya zorlayarak, bir makinenin kendisi için en etkili öğretmen ve eleştirmen olabileceğini keşfettiler.
Yapay zekanın 'halüsinasyon' görmesi sadece basit bir teknik aksaklık değildir. Bu durum, 100 milyon dolarlık kritik kurumsal anlaşmaları tehlikeye atabilecek bir mantık hatasıdır. Anthropic mühendisleri, bu sorunu çözmek için 'anayasal yapay zeka' adlı öncü bir yöntem geliştirdi.