Bilgi belirsizliği bit cinsinden nasıl ölçülür
1948'de geliştirilen Shannon entropisi, bilgi belirsizliğini bit cinsinden ölçer. Veri sıkıştırma, hata düzeltme ve hatta beyin sinyallerini anlamanın temelini oluşturur.
1948'den kalma bir kavram olan Shannon entropisi, bilginin ortalama belirsizliğini veya sürprizini bit cinsinden ölçer. Adil bir yazı tura atışını düşünün: 1 bitlik entropisi, her biri bir bit bilgi taşıyan iki eşit olasılıklı sonucu ifade eder. Taraflı bir madeni paranın entropisi daha düşüktür, bu da azalan belirsizliği yansıtır.
Bu hikayenin devamı uygulamada — okumaya devam etmek için aç.
Uygulamada Okumaya Devam Et
2 paragraf daha · ve 3 soruluk bir test