Dettagli sull'Insegnamento per l'A.A. 2017/2018
Nome:
Teoria dell'Informazione / Information Theory
Informazioni
Crediti:
: Master Degree in Computer Science 6 CFU (b)
: Bachelor Degree in Computer Science 6 CFU (b)
Erogazione:
Bachelor Degree in Computer Science curriculum General Elective
Master Degree in Computer Science curriculum GSEEM Elective
Master Degree in Computer Science curriculum General Elective
Lingua:
Italiano
![[info]](img/info16.png)
Prerequisiti
Conoscenza dei concetti basilari di calcolo delle probabilità e matematica discreta.
Capacità
di sviluppo di un progetto implementativo o sperimentale
Obiettivi
Conoscenza dei concetti fondanti della teoria dell'informazione e della loro manipolazione
formale. Comprensione profonda ed operativa di concetti del senso comune, quali ad
esempio "informazione", "rappresentazione", "apprendimento", "modello". Capacità di
tradurre, in termini fattivi e concreti, soluzioni discorsive intuitivamente costruite con
tali concetti in diversi ambiti applicativi
Sillabo
- Informazione:congiunta,condizionata e mutua
- AEP e sue conseguenze
- Rappresentazioni e codici: uniformi, variabili, adattivi
- Diseguaglianza di Kraft McMillan e sue conseguenze
- Codifica di sorgente e Algoritmi di compressione (Shannon, Arithmetic, Huffmann, Ziv and Lempel coding,
integer encoding, gamma and omega Elias coding)
- Concetti iniziali della codifica di canale, capacità di un canale.
- Concetti iniziali della crittografia moderna.
Descrittori di Dublino
Alla fine del corso, lo studente dovrebbe
-
understand and explain fundamental concepts such as entropy, mutual information, capacity,
compression, coding theorem, coding theory, coding and Cryptography;
compute entropy and mutual information of random variables;
formulate and prove The main theorems treated such as: i) AEP and its consequences,
ii) Optimality of Huffmann coding, and of arithmetical coding,
iii) the entropy is a lower bound for the expected length of a u.d block code,
iv) if P is different from NP then there exists no perfectly secret encryption scheme
with key shorter than the message.
-
understand and apply fundamental concepts in information theory such as probability,
entropy, information content and their inter-relationships, AEP, data compression;
implement and analyze basic coding and compression algorithms;
-
be able to evaluate the aspects of information theory that can be applied in the real world. The student
should also be able to link the theoretical aspect of the discipline to the practical ones (such as
data compression)
-
explain how information theory and coding contributes to modern communications technology;
be able to describe the main results of information theory to other non-specialist people
in the scientific community.
-
Be able to read and understand books and papers concerning the arguments treated in the course.
Solve advanced problems in the area.
Testi di riferimento
- Arora, Barak, Computational Complexity: A Modern Approach, , Cambridge University press . 2009. Chapter 9: Cryptography
- Cover e Thomas, Elements of Information Theory 2006. L'ultima edizione. Il corso tratterà di argomenti selezionati dai capitoli 1,2,3,4,5,6,7 e 13
Modalità d'esame
Scritto e orale
Note
- Questo modulo fornisce agli studenti: la conoscenza dei concetti di base della teoria
dell'informazione e la capacità di manipolarli formalmente, la comprensione dei concetti
quali "informazione" , "rappresentazione" , "modello" e capacità di tradurre le soluzioni intuitive
basate su tali concetti in applicazioni concrete in diverse aree tecnologiche (e, in particolare, i metodi
di compressione dei dati) , la capacità di leggere la letteratura della disciplina.
Aggiornamenti alla pagina del corso
Le informazioni sulle editioni passate di questo corso sono disponibili per i seguenti anni accademici:
Per leggere le informazioni correnti sul corso, se ancora erogato, consulta il catalogo corsi di ateneo.
Ultimo aggiornamento delle informazioni sul corso: 08 giugno 2017, 10:38
English version
sad
strutture.univaq