Ενότητα 03 – Βασικές αρχές Θεωρίας Πληροφοριών

Ορισμός του μέτρου της πληροφορίας κατά Shannon, Ιδιότητες της Εντροπίας, Συνδυασμένη και Αμοιβαία Πληροφορία, Υπό συνθήκη ποσότητα πληροφορίας, Αμοιβαία ποσότητα πληροφορίας, Διακριτή πηγή πληροφορίας χωρίς μνήμη