Θεωρία της Πληροφορίας

General

Course Contents

• Μέτρο της πληροφορίας. Μέση πληροφορία – Εντροπία
• Πηγή πληροφορίας. Σύνθετη πηγή πληροφορίας.
• Συνδετική και υπό συνθήκη εντροπία. Διαπληροφορία.
• Δίαυλος πληροφορίας και χωρητικότητα διαύλου.
• Εντροπία θορύβου. Εντροπία διαύλου.
• Χαρακτηριστικοί δίαυλοι πληροφορίας.
• Υπολογισμός χωρητικότητας με την τεχνική Muroga.
• Κωδικοποίηση και βασικές κατηγορίες κωδίκων.
• Μέσο μήκος κώδικα. Βέλτιστος κώδικας
• Αθόρυβη κωδικοποίηση – 1ο θεώρημα Shannon.
• Απλοί κώδικες μεταβλητού μήκους.
• Ενθόρυβη κωδικοποίηση – 2ο θεώρημα Shannon.
• Κώδικες ανίχνευσης και διόρθωσης σφαλμάτων.
• Κυκλικοί κώδικες

Educational Goals

Σκοπός του μαθήματος είναι να εισάγει τον φοιτητή στις βασικές έννοιες …

Με την επιτυχή ολοκλήρωση του μαθήματος ο φοιτητής/τρια θα είναι σε θέση:

  • Να αναλύει την…
  • Να περιγράφει τις…
  • Να κατανοεί το…
  • Να συγκρίνει τα…

General Skills

Αναζήτηση, ανάλυση και σύνθεση δεδομένων και πληροφοριών, με τη χρήση και
των απαραίτητων τεχνολογιών.
Αυτόνομη εργασία.
Ομαδική εργασία.
Σχεδιασμός και Διαχείριση Έργων.
Προαγωγή της ελεύθερης, δημιουργικής και επαγωγικής σκέψης.

Students Evaluation

Ο τελικός βαθμός του μαθήματος διαμορφώνεται
από γραπτή τελική εξέταση. Η γραπτή τελική εξέταση του
περιλαμβάνει:
– Ερωτήσεις πολλαπλής επιλογής
– Επίλυση προβλημάτων εφαρμογής των γνώσεων
που αποκτήθηκαν.
– Ερωτήσεις σύντομης απάντησης
– Συγκριτική αξιολόγηση στοιχείων θεωρίας.

Recommended Bibliography

Συγγράμματα μέσω του συστήματος ΕΥΔΟΞΟΣ
• Δ. Χ. Βούκαλης, Θεωρία Πληροφοριών και Κωδίκων, Εκδόσεις Ίων, Περιστέρι, 1994.
• Α. Φώτω, Εισαγωγή στη θεωρία της πληροφορίας, Σ.ΑΘΑΝΑΣΟΠΟΥΛΟΣ & ΣΙΑ Ι.Κ.Ε, 1994.
Συγράμματα που διανέμονται μέσω του Ιδρύματος ή της ηλεκτρονικής σελίδας του μαθήματος
• Α. Πολίτης, Ι. Ρέκανος, Θεωρία της Πληροφορίας, Σημειώσεις, Σέρρες.
Συμπληρωματική προτεινόμενη βιβλιογραφία
• R. G. Gallager, Information Theory and Reliable Communication, Wiley, New York, 1968.
• T. M. Cover and J. A. Thomas, Elements of Information Theory, Wiley, New York, 1991.