Θεωρία Πληροφορίας και Κωδίκων

Εξάμηνο:
6ο
Τύπος Μαθήματος:
Κατ’ Επιλογή Υποχρεωτικό Μάθημα (ΕΥΜ)
Κατεύθυνση:
Β
Κωδικός:
Κ35
ECTS:
6
Διδακτικές Ώρες
Ώρες Θεωρίας:
3
Ώρες Φροντιστηρίου:
1
Ώρες Εργαστηρίου:
-
Ειδικεύσεις
Θεμελιώσεις Πληροφορικής (Ε1):
-
Διαχείριση Δεδομένων και Γνώσης (Ε2):
-
Λογισμικό (Ε3):
-
Υλικό και Αρχιτεκτονική (Ε4):
-
Επικοινωνίες και Δικτύωση (Ε5):
-
Επεξεργασία Σήματος και Πληροφορίας (Ε6):
-
Σχετικά Μαθήματα
Περιγραφή Μαθήματος

Μάθημα 1: C. E. Shannon: Η ζωή το έργο και η επίδραση του στις σύγχρονες επικοινωνίες
Μάθημα 2: Μέτρα πληροφορίας και βασικές ιδιότητες: εντροπία, αμοιβαία πληροφορία, απόσταση KL, κυρτότητα
Μάθημα 3: Τυπικότητα και ιδιότητα της ασυμπτωτικής ισοδιαμέρισης
Μάθημα 4: Στατικές (εργοδικές ) πηγές και ρυθμός εντροπίας
Μάθημα 5: Συμπίεση πηγής χωρίς απώλειες, κώδικες προθέματος, θεμελιώδη όρια συμπίεσης με βάση το ρυθμό εντροπίας, κώδικες Shannon, κώδικες Hufman
Μάθημα 6: Χωρητικότητα καναλιού παραδείγματα (δυαδικό συμμετρικό κανάλι, κανάλι διαγραφής) και ιδιότητες, διατύπωση και απόδειξη του θεωρήματος κωδικοποίησης καναλιού για διακριτά κανάλια χωρίς μνήμη, επιτευξιμότητα, από κοινού τυπικότητα.
Μάθημα 7: ανισότητα Fano και αντίστροφο θεώρημα, χωρητικότητα ανάδρασης
Μάθημα 8: Πηγές και κανάλια συνεχούς χρόνου, διαφορική εντροπία, αμοιβαία πληροφορία και ιδιότητες, εντροπία κανονικού τυχαίου διανύσματος

Μάθημα 9: Το αθροιστικό Γκαουσιανό κανάλι, τυπικότητα, θεώρημα κωδικοποίησης , χωρητικότητα ΑWGN καναλιού, χωρητικότητα ζωνοπερατών καναλιών
Μάθημα 10: Παράλληλα Γκαουσιανά κανάλια, κανάλι με έγχρωμο θόρυβο, κατανομή ισχύος με σκοπό τη μεγιστοποίηση του ρυθμού μετάδοσης, μέθοδος γεμίσματος νερού.
Μάθημα 11: κωδικοποίηση πηγής με κώδικες συρμού, αριθμητικοί κώδικες και κωδικοποίηση Lempel Ziv
Μάθημα 12: εισαγωγή στη θεωρία ρυθμού παραμόρφωσης κα συμπίεση με απώλειες
Μάθημα 13: Γραμμικοί κώδικες, περιγραφή και κωδικοποίηση, κώδικες Hamming
Μάθημα 14: Συγκεραστικοί κώδικες trellis αποκωδικοποίηση και αλγόριθμος Viterbi
Μάθημα 15: Κώδικες turbo, επαναληπτική αποκωδικοποίηση και αλγόριθμος BCJR
Μάθημα 16: Κώδικες LDPC γράφοι παραγόντων και Tanner αποκωδικοποίηση με τον αλγόριθμο μεταβίβασης μηνυμάτων