Θεωρία Πληροφορίας

ΠΑΡΑΣΚΕΥΑΣ ΜΙΧΑΛΗΣ

Περιγραφή

Ορισμοί, Γκαουσιανές τυχαίες μεταβλητές, Ακολουθίες τυχαίων μεταβλητών, Πυκνότητα φασματικής ισχύος, Προσθήκη τυχαίου γκαουσιανού θορύβου σε σήμα, Ορισμός του μέτρου της πληροφορίας κατά Shannon, Ιδιότητες της μέσης ποσότητας πληροφορίας, Συνδυασμένη και Αμοιβαία Πληροφορία, Υπό συνθήκη ποσότητα πληροφορίας, Αμοιβαία ποσότητα πληροφορίας, Διακριτή πηγή πληροφορίας χωρίς μνήμη, Μέθοδοι κωδικοποίησης πηγής (Fano, Shannon, Huffman), Διακριτές πηγές πληροφορίας με μνήμη, Διαδικασίες Markoff, Διακριτά κανάλια επικοινωνίας, Βασικές έννοιες κωδικοποίησης καναλιού, Γραμμικοί block κώδικες, Μαθηματικό υπόβαθρο (πίνακας γεννήτορας, απόσταση hamming, κτλ), Παράδειγμα γραμμικού block κώδικα, Κυκλικοί block κώδικες, Μαθηματικό υπόβαθρο (πολυώνυμο γεννήτορας, κτλ), Παράδειγμα κυκλικού block κώδικα, Κέρδος κωδικοποίησης καναλιού, Διεμπλοκή (Interleaving), Κώδικες Reed-Solomon, Αναπαράσταση συνελικτικών κωδίκων (Διαγράμματα Trellis, Διαγράμματα καταστάσεων), Παράδειγμα συνελικτικού κώδικα, Αλγόριθμος

Περισσότερα  
CC - Αναφορά - Μη Εμπορική Χρήση - Παρόμοια Διανομή
Περιεχόμενο μαθήματος

Ορισμοί, Γκαουσιανές τυχαίες μεταβλητές, Ακολουθίες τυχαίων μεταβλητών, Πυκνότητα φασματικής ισχύος, Προσθήκη τυχαίου γκαουσιανού θορύβου σε σήμα, Ορισμός του μέτρου της πληροφορίας κατά Shannon, Ιδιότητες της μέσης ποσότητας πληροφορίας, Συνδυασμένη και Αμοιβαία Πληροφορία, Υπό συνθήκη ποσότητα πληροφορίας, Αμοιβαία ποσότητα πληροφορίας, Διακριτή πηγή πληροφορίας χωρίς μνήμη, Μέθοδοι κωδικοποίησης πηγής (Fano, Shannon, Huffman), Διακριτές πηγές πληροφορίας με μνήμη, Διαδικασίες Markoff, Διακριτά κανάλια επικοινωνίας, Βασικές έννοιες κωδικοποίησης καναλιού, Γραμμικοί block κώδικες, Μαθηματικό υπόβαθρο (πίνακας γεννήτορας, απόσταση hamming, κτλ), Παράδειγμα γραμμικού block κώδικα, Κυκλικοί block κώδικες, Μαθηματικό υπόβαθρο (πολυώνυμο γεννήτορας, κτλ), Παράδειγμα κυκλικού block κώδικα, Κέρδος κωδικοποίησης καναλιού, Διεμπλοκή (Interleaving), Κώδικες Reed-Solomon, Αναπαράσταση συνελικτικών κωδίκων (Διαγράμματα Trellis, Διαγράμματα καταστάσεων), Παράδειγμα συνελικτικού κώδικα, Αλγόριθμος Viterbi, Αποκωδικοποίηση χαλαρής απόφασης, Σύγκριση μεταξύ αποκωδικοποίησης χαλαρής και αυστηρής απόφασης, Κώδικες turbo, Το θεώρημα Χωρητικότητας καναλιού (Όριο Shannon), Εφαρμογές κωδίκων διαύλων στην εγγραφή και μετάδοση δεδομένων, CD/DVD, modem, DSL, 3G, DVB, WiFi, WiMAX, Θεωρία ρυθμού-παραμόρφωσης, Κωδικοποίηση πηγής με παραμόρφωση, Εφαρμογές στα πρότυπα JPEG, MPEG, H.26X.

Μαθησιακά αποτελέσματα

Με την επιτυχή ολοκλήρωση του μαθήματος, οι φοιτητές θα μπορούν:


1. Να κατανοούν τους βασικούς ορισμούς και τις έννοιες των πιθανοτήτων.
2. Να περιγράφουν τις έννοιες της εντροπίας, της πληροφορίας και του πλεονασμού.
3. Να μελετούν τις διακριτές και τις συνεχείς πηγές πληροφορίας με μνήμη και χωρίς μνήμη.
4. Να περιγράφουν τους αλγόριθμους κωδικοποίησης Shannon, Huffman, Fano, Shannon-Fano-Elias και Lempel-Ziv.
5. Να περιγράφουν την έννοια της χωρητικότητας καναλιού χωρίς θόρυβο και με AWG θόρυβο.
6. Να περιγράφουν τους μπλοκ κώδικες, τους γραμμικούς κώδικες και τους συνελικτικούς κώδικες καναλιού.
7. Να περιγράφουν την αποκωδικοποίηση χαλαρής απόφασης.
8. Να περιγράφουν τα πρότυπα μη απωλεστικής κωδικοποίησης zip, bzip, pkzip, gzip, 7zip
9. Να περιγράφουν τα πρότυπα απωλεστικής κωδικοποίησης JPEG, MPEG, H.26X

Ενότητες

Στοιχεία θεωρίας συνόλων, Αρχές θεωρίας πιθανοτήτων, Τυχαίες μεταβλητές, Διακριτές κατανομές πιθανότητας, Αθροιστική συνάρτηση κατανομής, Συνάρτηση πυκνότητας πιθανότητας

Εφαρμογή των πιθανοτήτων στις τηλεπικοινωνίες, Μέση τιμής τυχαίας μεταβλητής, Διασπορά τυχαίας μεταβλητής, Ανισότητα Chebychev, Κανονική (Gaussian) πυκνότητα πιθανότητας, Η συνάρτηση σφάλματος, Μέση τιμή και διασπορά αθροίσματος τυχαίων μεταβλητών, Πυκνότητα πιθανότητας αθροίσματος τυχαίων μεταβλητών, Το κεντρικό οριακό θεώρημα

Ορισμός του μέτρου της πληροφορίας κατά Shannon, Ιδιότητες της Εντροπίας, Συνδυασμένη και Αμοιβαία Πληροφορία, Υπό συνθήκη ποσότητα πληροφορίας, Αμοιβαία ποσότητα πληροφορίας, Διακριτή πηγή πληροφορίας χωρίς μνήμη

Ποσότητα πληροφορίας της πηγής, Κωδικοποίηση πηγής, Αλγόριθμοι κωδικοποίησης διακριτής πηγής πληροφορίας χωρίς μνήμη, Αλγόριθμος Fano, Αλγόριθμος Shannon, Αλγόριθμος Huffman

Διακριτές πηγές πληροφορίας με μνήμη, Μαρκοβιανές αλυσίδες, Τάξη μακροβιανών αλυσίδων, Εντροπία των πηγών Markoff, Συνεχείς πηγές πληροφορίας με μνήμη

Διακριτά κανάλια επικοινωνίας χωρίς μνήμη, Διακριτά κανάλια επικοινωνίας με μνήμη

Τεχνικές Διόρθωσης Λαθών (Κώδικες εντοπισμού λαθών, Κώδικες εντοπισμού και διόρθωσης λαθών, Υβριδικοί κώδικες), Κωδικοποίηση καναλιού (Ιστορική Αναδρομή, Βασικές έννοιες, Μετρικά), Γραμμικοί block κώδικες (Πίνακας γεννήτορας, απόσταση hamming, παραδείγμαρα γραμμικού block κώδικα για κωδικοποίηση και αποκωδικοποίηση)

Κυκλικοί block κώδικες Μαθηματικό υπόβαθρο (πολυώνυμο γεννήτορας, κτλ) Παράδειγμα κυκλικού block κώδικα Κωδικοποίηση Αποκωδικοποίηση Κέρδος κωδικοποίησης καναλιού

Διεμπλοκή (Interleaving), Κώδικες Reed-Solomon

Κωδικοποίηση καναλιού: Σύντομη επανάληψη, Συνελικτικοί κώδικες, Αναπαράσταση συνελικτικών κωδίκων, Διαγράμματα Trellis, Διαγράμματα καταστάσεων, Παράδειγμα συνελικτικού κώδικα, Κωδικοποίηση, Αποκωδικοποίηση Viterbi

Αποκωδικοποίηση χαλαρής απόφασης, Σύγκριση μεταξύ αποκωδικοποίησης χαλαρής και αυστηρής απόφασης, Το θεώρημα Χωρητικότητας καναλιού (Όριο Shannon)

Ανοικτό Ακαδ. Μάθημα

Ανοικτά Ακαδημαϊκά Μαθήματα
Επίπεδο: A-

Αρ. Επισκέψεων :  3107
Αρ. Προβολών :  7590