ID:
509895
Durata (ore):
48
CFU:
6
SSD:
RICERCA OPERATIVA
Anno:
2024
Dati Generali
Periodo di attività
Secondo Semestre (27/02/2025 - 13/06/2025)
Syllabus
Obiettivi Formativi
Il corso intende offrire agli studenti una panoramica degli aspetti teorici e applicativi dell’analisi dei dati e dell'ottimizzazione numerica, mostrando i principali risultati e offrendo la possibilità di applicare la teoria a problemi concreti.
I risultati di apprendimento previsti sono il saper riprodurre con consapevolezza la teoria dietro ai principali metodi di ottimizzazione non vincolata e il saper inquadrare risolvere alcuni principali problemi del machine learning.
I risultati di apprendimento previsti sono il saper riprodurre con consapevolezza la teoria dietro ai principali metodi di ottimizzazione non vincolata e il saper inquadrare risolvere alcuni principali problemi del machine learning.
Prerequisiti
Analisi Matematica: concetti di funzioni a più variabili e derivate parziali. Algebra Lineare: spazi e sottospazi vettoriali, calcolo vettoriale e matriciale, sistemi lineari. Calcolo delle Probabilità e Statistica: variabili aleatorie, distribuzioni di probabilità, massima verosimiglianza. Programmazione: variabili di dati, array e matrici, strutture di controllo condizionali e cicli, funzioni, complessità computazionale.
Metodi didattici
L’insegnamento si avvale di lezioni frontali e attività di laboratorio. Le lezioni frontali vengono svolte alla lavagna e mediante l'uso presentazioni, messe a disposizione degli studenti nella sezione dedicata all’insegnamento sulla piattaforma moodle KIRO.
Durante le esercitazioni di laboratorio gli studenti sono guidati allo sviluppo di script in Python. La programmazione viene guidata da una spiegazione che evidenzia e descrive gli elementi teorici, computazionali e implementativi necessari.
La frequenza alle lezioni e alle esercitazioni è fortemente consigliata.
Durante le esercitazioni di laboratorio gli studenti sono guidati allo sviluppo di script in Python. La programmazione viene guidata da una spiegazione che evidenzia e descrive gli elementi teorici, computazionali e implementativi necessari.
La frequenza alle lezioni e alle esercitazioni è fortemente consigliata.
Verifica Apprendimento
L’apprendimento viene verificato attraverso un esame orale, composto dall'esposizione di un progetto finale e una verifica delle conoscenze riguardanti teoremi, definizioni, esempi e controesempi fondamentali.
Tale prova è volta a verificare il grado di comprensione degli argomenti teorici svolti a lezione, della chiarezza espositiva ma anche delle capacità di applicare queste nozioni in situazioni concrete. Per tale motivo allo studente sarà richiesta una comprensione sostanziale di tutta la teoria presentata che potrà essere verificata sia attraverso domande su specifici argomenti, sia attraverso la proposta di problemi riguardanti gli argomenti del corso e risolubili utilizzando gli strumenti introdotti durante le lezioni.
Le domande saranno articolate su difficoltà variabile in modo da stabilire il grado di profondità nell'acquisizione di tali competenze
La formulazione del voto si otterrà considerando la complessiva ampiezza e profondità dell’apprendimento, nonché la chiarezza dell’esposizione e le competenze dimostrate nella risoluzione di problemi.
Tale prova è volta a verificare il grado di comprensione degli argomenti teorici svolti a lezione, della chiarezza espositiva ma anche delle capacità di applicare queste nozioni in situazioni concrete. Per tale motivo allo studente sarà richiesta una comprensione sostanziale di tutta la teoria presentata che potrà essere verificata sia attraverso domande su specifici argomenti, sia attraverso la proposta di problemi riguardanti gli argomenti del corso e risolubili utilizzando gli strumenti introdotti durante le lezioni.
Le domande saranno articolate su difficoltà variabile in modo da stabilire il grado di profondità nell'acquisizione di tali competenze
La formulazione del voto si otterrà considerando la complessiva ampiezza e profondità dell’apprendimento, nonché la chiarezza dell’esposizione e le competenze dimostrate nella risoluzione di problemi.
Testi
Capitoli selezionati dai seguenti libri:
Avrim Blum, John Hopcroft, Ravindran Kannan. “Foundations of Data Science”. Cambridge University Press, Jan 23, 2020
Nocedal, Jorge; Wright, Stephen J. Numerical optimization. Second edition. Springer, 2006.
Avrim Blum, John Hopcroft, Ravindran Kannan. “Foundations of Data Science”. Cambridge University Press, Jan 23, 2020
Nocedal, Jorge; Wright, Stephen J. Numerical optimization. Second edition. Springer, 2006.
Contenuti
A) MODULO DI OTTIMIZZAZIONE NUMERICA
1. Introduzione all'ottimizzazione non vincolata. Ricerca per griglia uniforme.
2. Metodi iterativi e metodi derivative-free: Nelder-Mead.
3. Metodi lineari: direzione di discesa e passo di spostamento; condizioni di Wolfe. Metodo del gradiente, metodo di Newton e metodi quasi-Newton (DFP e BFGS).
4. Metodi Trust-Region.
5. Applicazioni a metodi di machine learning e deep learning; discesa stocastica del gradiente.
B) MODULO DI DATA SCIENCE
1. Regressione: funzione di perdita, regressione lineare e polinomiale; alberi di regressione e bagged tree; metriche di accuratezza e k-fold cross-validation.
2. Classificazione: alberi di classificazione; percettrone e macchine a vettori di supporto (SVD) con metodi kernel; errore di training, generalizzazione e overfitting, PAC-learning e teorema di convergenza uniforme; teorema di Occam e regolarizzazione. Weak learner e metodo boosting.
4. Clustering: k-center e algoritmo dell’attraversamento più lontano; k-means, algoritmo di Lloyd, algoritmo di Ward e strategie di inizializzazione.
4. Riduzione della dimensionalità: legge dei grandi numeri, distribuzioni gaussiane sferiche in alta dimensione, teorema dell’Anello Gaussiano; separazione e fitting di gaussiane sferiche; teorema della proiezione casuale e lemma di Johnson-Lindenstrauss.
5. Decomposizione ai valori singolari (SVD), migliore approssimazione di rango k e analisi delle componenti principali (PCA).
1. Introduzione all'ottimizzazione non vincolata. Ricerca per griglia uniforme.
2. Metodi iterativi e metodi derivative-free: Nelder-Mead.
3. Metodi lineari: direzione di discesa e passo di spostamento; condizioni di Wolfe. Metodo del gradiente, metodo di Newton e metodi quasi-Newton (DFP e BFGS).
4. Metodi Trust-Region.
5. Applicazioni a metodi di machine learning e deep learning; discesa stocastica del gradiente.
B) MODULO DI DATA SCIENCE
1. Regressione: funzione di perdita, regressione lineare e polinomiale; alberi di regressione e bagged tree; metriche di accuratezza e k-fold cross-validation.
2. Classificazione: alberi di classificazione; percettrone e macchine a vettori di supporto (SVD) con metodi kernel; errore di training, generalizzazione e overfitting, PAC-learning e teorema di convergenza uniforme; teorema di Occam e regolarizzazione. Weak learner e metodo boosting.
4. Clustering: k-center e algoritmo dell’attraversamento più lontano; k-means, algoritmo di Lloyd, algoritmo di Ward e strategie di inizializzazione.
4. Riduzione della dimensionalità: legge dei grandi numeri, distribuzioni gaussiane sferiche in alta dimensione, teorema dell’Anello Gaussiano; separazione e fitting di gaussiane sferiche; teorema della proiezione casuale e lemma di Johnson-Lindenstrauss.
5. Decomposizione ai valori singolari (SVD), migliore approssimazione di rango k e analisi delle componenti principali (PCA).
Lingua Insegnamento
INGLESE
Altre informazioni
Gli studenti nelle categorie individuate dal progetto sulla didattica innovativa avranno la possibilità di fare ricevimenti anche in modalità telematica e su appuntamento in orari da concordare insieme al docente, o visionare gli appunti delle lezioni del docente.
Corsi
Corsi
MATEMATICA
Laurea Magistrale
2 anni
No Results Found