هفده معادله ای که جهان را تغییر داد(15)(نظریه اطلاعات)

مفهوم:  در این نظریه، اطلاعات حاصل از یک کد که شامل داده‌ها و علائم احتمالی است، برآورد خواهد شد.

تاریخچه: پس از جنگ جهانی دوم، این نظریه توسط "کلود شانون" در آزمایشگاه معتبر Bell Labs مطرح شد.

اهمیت: شانون مفهوم انتروپی اطلاعات را به عنوان یک معیار برای میزان تردید در رسیدن به یک مفهوم تلقی کرد. با در نظر گرفتن این فرض، اطلاعات محتواهایی مانند یک کتاب، ارسال یک تصویر با فرمت JPEG بر روی اینترنت و یا هر مورد دیگری قابل اندازه‌گیری است. انتروپی شانون نشان می‌دهد که چگونه بدون از دست دادن محتوا، می‌توان آن را فشرده‌سازی کرد.

استفاده‌ی مدرن: نتابج حاصل از اندازه گیری‌های انتروپی شانون، منجر به شکل‌گیری مرکز اصلی شبکه‌های ارتباطی شد.