Μαθήματα

Θεωρία της Πληροφορίας

Γενικά

Περιεχόμενα μαθήματος

• Μέτρο της πληροφορίας. Μέση πληροφορία – Εντροπία
• Πηγή πληροφορίας. Σύνθετη πηγή πληροφορίας.
• Συνδετική και υπό συνθήκη εντροπία. Διαπληροφορία.
• Δίαυλος πληροφορίας και χωρητικότητα διαύλου.
• Εντροπία θορύβου. Εντροπία διαύλου.
• Χαρακτηριστικοί δίαυλοι πληροφορίας.
• Υπολογισμός χωρητικότητας με την τεχνική Muroga.
• Κωδικοποίηση και βασικές κατηγορίες κωδίκων.
• Μέσο μήκος κώδικα. Βέλτιστος κώδικας
• Αθόρυβη κωδικοποίηση – 1ο θεώρημα Shannon.
• Απλοί κώδικες μεταβλητού μήκους.
• Ενθόρυβη κωδικοποίηση – 2ο θεώρημα Shannon.
• Κώδικες ανίχνευσης και διόρθωσης σφαλμάτων.
• Κυκλικοί κώδικες

Μαθησιακοί Στόχοι

Το μάθημα αποσκοπεί στο να παράσχει στο σπουδαστή βασικές γνώσεις της
θεωρίας πληροφοριών και κωδίκων. Οι γνώσεις αυτές θεωρούνται απαραίτητες για
τη μελέτη και ανάλυση τηλεπικοινωνιακών συστημάτων καθώς και για την
κατανόηση τεχνικών κωδικοποίησης δεδομένων που στοχεύουν είτε στην συμπίεση
δεδομένων είτε στην αντιμετώπιση των συνεπειών του θορύβου. Μετά την
παρακολούθηση του μαθήματος οι σπουδαστές θα πρέπει να μπορούν:
• Να εκτιμούν την πληροφορία που περιέχει έχει σύνολο δεδομένων.
• Να υπολογίζουν την εντροπία μίας πηγής πληροφορίας.
• Να υπολογίζουν τη χωρητικότητα ενός απλού δίαυλου πληροφορίας.
• Να κατανοούν τους περιορισμούς στους οποίους υπόκειται κάθε τεχνική
κωδικοποίησης δεδομένων.
• Να αναγνωρίζουν τα πλεονεκτήματα και μειονεκτήματα διαφόρων απλών
κωδίκων ανίχνευσης και διόρθωσης σφάλματος.

Γενικές Ικανότητες

Αναζήτηση, ανάλυση και σύνθεση δεδομένων και πληροφοριών, με τη χρήση και
των απαραίτητων τεχνολογιών.
Αυτόνομη εργασία.
Ομαδική εργασία.
Σχεδιασμός και Διαχείριση Έργων.
Προαγωγή της ελεύθερης, δημιουργικής και επαγωγικής σκέψης.

Αξιολόγηση Φοιτητών

Ο τελικός βαθμός του μαθήματος διαμορφώνεται
από γραπτή τελική εξέταση. Η γραπτή τελική εξέταση του
περιλαμβάνει:
– Ερωτήσεις πολλαπλής επιλογής
– Επίλυση προβλημάτων εφαρμογής των γνώσεων
που αποκτήθηκαν.
– Ερωτήσεις σύντομης απάντησης
– Συγκριτική αξιολόγηση στοιχείων θεωρίας.

Συνιστώμενη Βιβλιογραφία

Συγγράμματα μέσω του συστήματος ΕΥΔΟΞΟΣ
• Δ. Χ. Βούκαλης, Θεωρία Πληροφοριών και Κωδίκων, Εκδόσεις Ίων, Περιστέρι, 1994.
• Α. Φώτω, Εισαγωγή στη θεωρία της πληροφορίας, Σ.ΑΘΑΝΑΣΟΠΟΥΛΟΣ & ΣΙΑ Ι.Κ.Ε, 1994.
Συγράμματα που διανέμονται μέσω του Ιδρύματος ή της ηλεκτρονικής σελίδας του μαθήματος
• Α. Πολίτης, Ι. Ρέκανος, Θεωρία της Πληροφορίας, Σημειώσεις, Σέρρες.
Συμπληρωματική προτεινόμενη βιβλιογραφία
• R. G. Gallager, Information Theory and Reliable Communication, Wiley, New York, 1968.
• T. M. Cover and J. A. Thomas, Elements of Information Theory, Wiley, New York, 1991.