정보 불확실성을 비트로 측정하는 방법
1948년에 개발된 섀넌 엔트로피는 정보 불확실성을 비트로 측정합니다. 이는 데이터 압축, 오류 수정, 심지어 뇌 신호 이해의 기반이 됩니다.
1948년 개념인 섀넌 엔트로피는 정보의 평균 불확실성 또는 놀라움을 비트로 정량화합니다. 공정한 동전 던지기를 상상해 보세요. 1비트의 엔트로피는 두 가지 동일한 확률의 결과를 의미하며, 각 결과는 1비트의 정보를 가집니다. 편향된 동전은 엔트로피가 적으며, 이는 불확실성이 감소했음을 반영합니다.
이 이야기에 더 많은 내용이 있어요 — 앱을 열어 계속 읽어 보세요.
앱에서 계속 읽기
단락 2개 더 · 그리고 3문제 퀴즈