Corso di Deep Learning

Modulo 1: Deep Learning Contenuti: Cos’è il Deep Learning e come si differenzia dal Machine Learning tradizionale. Panoramica sulle reti neurali artificiali (ANN). La storia del Deep Learning: dal perceptron ai moderni modelli. Applicazioni del Deep Learning in vari settori (visione artificiale, linguaggio naturale, giochi). Modulo 2: Reti Neurali Artificiali (ANN) Contenuti: Struttura di una rete neurale: neuroni, strati, funzioni di attivazione. Funzioni di attivazione comuni: ReLU, sigmoide, tanh. Forward propagation e backward propagation. Ottimizzazione tramite gradient descent. Il problema del vanishing gradient e come affrontarlo. Modulo 3: Addestramento di una Rete Neurale Contenuti: Funzione di perdita (loss function) e suo ruolo nell’addestramento. Algoritmi di ottimizzazione: Gradient Descent, Stochastic Gradient Descent (SGD), Adam. Tecniche di regularizzazione: L1, L2, Dropout. Overfitting e Underfitting: come evitarli. Inizializzazione dei pesi nelle reti neurali. Modulo 4: Reti Neurali Profonde (DNN) Contenuti: le reti neurali profonde: più strati e complessità. Reti feedforward e la loro architettura. Tecniche per allenare modelli profondi: batch normalization. Sfide e vantaggi delle reti neurali profonde. Modulo 5: Architetture Avanzate di Deep Learning Contenuti: Architetture più complesse: CNN (Convolutional Neural Networks), RNN (Recurrent Neural Networks). Reti neurali a convoluzione: principio di convoluzione, pooling. Reti neurali ricorrenti: memorizzazione delle informazioni temporali, applicazioni in NLP e serie temporali. Uso di LSTM (Long Short-Term Memory) e GRU (Gated Recurrent Unit). Modulo 6: Convolutional Neural Networks (CNN) Contenuti: Cos’è una CNN e come funziona: convoluzione e pooling. Struttura di una CNN: layers convoluzionali, ReLU, pooling, fully connected layers. Applicazioni delle CNN in visione artificiale: classificazione di immagini, riconoscimento di oggetti. Architetture popolari: LeNet, AlexNet, VGG, ResNet. Modulo 7: Recurrent Neural Networks (RNN) Contenuti: Cos’è una RNN e come affronta dati sequenziali. Funzionamento delle RNN: aggiornamenti di stato ricorrenti. Applicazioni delle RNN in NLP e predizione di serie temporali. Limiti delle RNN classiche e le LSTM e GRU. Modulo 8: Long Short-Term Memory (LSTM) e Gated Recurrent Unit (GRU) Contenuti: Cos’è una LSTM e come migliora le RNN classiche. Architettura di una LSTM: porte di ingresso, uscita e forget. Introduzione a GRU: vantaggi rispetto a LSTM. Applicazioni di LSTM e GRU: traduzione automatica, generazione di testo. Modulo 9: Autoencoder e Apprendimento Non Supervisionato Contenuti: Cos’è un autoencoder e come funziona. Architettura dell'autoencoder: encoder e decoder. Autoencoder per riduzione dimensionale e denoising. Generative models: Variational Autoencoders (VAE) e GAN (Generative Adversarial Networks). Modulo 10: Generative Adversarial Networks (GAN) Contenuti: le GAN e il loro funzionamento: generatore e discriminatore. Applicazioni delle GAN: generazione di immagini, deepfake, miglioramento di immagini. Tecniche avanzate nelle GAN: conditional GAN, DCGAN, CycleGAN. Problemi comuni nelle GAN e tecniche di stabilizzazione. Modulo 11: Ottimizzazione Avanzata nel Deep Learning Contenuti: Algoritmi di ottimizzazione avanzati: Adam, RMSprop, AdaGrad. Come migliorare il training: warm restarts, learning rate schedulers. Prevenzione del vanishing/exploding gradient. Tecniche di ottimizzazione per l’allenamento di reti neurali profonde. Modulo 12: Transfer Learning e Fine-Tuning Contenuti: Cos'è il transfer learning e quando usarlo. Architetture pre-addestrate e loro riutilizzo (es. VGG, ResNet). Fine-tuning di modelli pre-addestrati per nuove applicazioni. Uso di pre-trained models per il riconoscimento di immagini e NLP. Modulo 13: Deep Learning per il Natural Language Processing (NLP) Contenuti: Cos'è il NLP e le sue sfide principali. Reti neurali applicate a NLP: word embeddings, RNN, LSTM, Transformer. Modelli avanzati per NLP: BERT, GPT. Applicazioni di Deep Learning per NLP: traduzione automatica, analisi del sentiment, chatbot. Modulo 14: Deep Learning per la Visione Artificiale Contenuti: Applicazioni delle CNN in visione artificiale. Rilevamento di oggetti, segmentazione delle immagini e riconoscimento facciale. Reti neurali per l'analisi di immagini mediche. Tecniche avanzate: Mask R-CNN, Faster R-CNN, YOLO. Modulo 15: Deployment e Produzione di Modelli di Deep Learning Contenuti: Tecniche per l’implementazione di modelli di Deep Learning in produzione. Ottimizzazione del modello per la produzione: compressione, pruning, quantizzazione. Strumenti per il deployment: TensorFlow Serving, ONNX, Flask per API. Considerazioni etiche e tecniche per il deployment dei modelli di Deep Learning.