Lý thuyết thông tin [8/20]
H (X) = -∑ p i log p i

Lịch sử: Claude Shannon giới thiệu năm 1948, đặt nền móng lý thuyết cho toàn bộ kỷ nguyên viễn thông số.

Ứng dụng: Nén dữ liệu (ZIP), truyền dẫn internet không lỗi và các thuật toán mật mã học.

Vẻ đẹp: Toán học hóa khái niệm trừu tượng 'tin tức' thành thang đo độ bất định vật lý.