Apprendimento delle nozioni e dei risultati fondamentali della teoria dell'informazione classica.
Prerequisiti
È richiesta la conoscenza degli strumenti matematici appresi durante i corsi della laurea triennale.
Metodi didattici
Dato il carattere matematico-teorico del corso, sono previste solo lezioni frontali alla lavagna, durante le quali saranno presentati gli argomenti descritti nel programma.
Verifica Apprendimento
The student has to give an oral exam aimed at verifying that he/she has learned the topics presented during the lectures. Special emphasis will be given to the verification of the ability of the student to apply and rigorously present all concepts learned.
Testi
David JC Mac Kay. Information theory, inference and learning algorithms. Cambridge university press, 2003.
Cover, Thomas M. Elements of information theory. John Wiley & Sons, 1999.
Contenuti
- Nozioni fondamentali di teoria della probabilità
- La funzione entropia e sue proprietà caratteristiche
- Primo Teorema di Shannon: codifica di una sorgente
- Codici simbolici e codici stream
- Mutua informazione e capacità di canale
- Secondo teorema di Shannon: codifica per canali rumorosi
