Da ricordare
- Il machine learning ricava regole dagli esempi invece di riceverle scritte.
- Quello che impara è una funzione statistica, non una comprensione.
- Un modello vale quanto i dati su cui è stato addestrato e verificato.
Quando senti dire che un sistema "ha imparato" a riconoscere un volto o a tradurre una frase, la parola imparare suona quasi umana. In realtà descrive un procedimento preciso, molto più semplice di quanto sembri. Proviamo a smontarlo pezzo per pezzo, con un esempio che puoi rifare a mente.
Domanda: perché non scrivere direttamente le regole?
Regole contro esempi
Immagina di dover scrivere un programma che distingue le mele dalle pere in una foto. La strada classica è scrivere regole: se la forma è rotonda e il colore è rosso, allora è una mela. Funziona finché arriva una mela gialla, una pera rossastra, una foto in controluce. Ogni eccezione richiede una regola nuova, e le regole cominciano a contraddirsi.
Il machine learning ribalta il problema. Invece di scrivere le regole, raccogli migliaia di foto già etichettate, cioè foto in cui qualcuno ha indicato se c'è una mela o una pera. Poi lasci che un algoritmo cerchi da solo le combinazioni di caratteristiche che separano meglio i due gruppi. Le regole non spariscono: vengono ricavate dai dati, sotto forma di numeri.
Domanda: dove finisce, fisicamente, quello che il modello impara?
Che cosa impara davvero
Un modello è una funzione matematica con molti parametri regolabili, chiamati pesi. Riceve in ingresso dei numeri, per esempio i valori dei pixel di una foto, e restituisce altri numeri, per esempio la probabilità che la foto mostri una mela. All'inizio i pesi sono quasi casuali e le risposte sono pessime.
L'addestramento è un ciclo che si ripete moltissime volte. Il modello fa una previsione, la previsione viene confrontata con l'etichetta corretta, si misura l'errore e si correggono i pesi di poco, nella direzione che riduce quell'errore. Il metodo più usato per questa correzione si chiama discesa del gradiente: un modo sistematico di capire in che direzione spostare ogni peso.
- Esempiouna foto con la sua etichetta
- Previsioneil modello calcola una probabilità
- Erroredistanza tra previsione ed etichetta
- Correzionei pesi si spostano di poco
Alla fine il modello non contiene un concetto di mela. Contiene un insieme di numeri che, combinati con i pixel di una foto nuova, producono quasi sempre la risposta giusta. È uno strumento statistico potente, ma resta uno strumento statistico.
Domanda: servono sempre esempi etichettati?
Tre modi di imparare
Gli addetti ai lavori distinguono di solito tre famiglie di apprendimento. Conoscerle ti aiuta a capire che cosa ci si può aspettare da un sistema.
- Apprendimento supervisionato. Ogni esempio ha la sua risposta corretta. È il caso delle mele e delle pere, ma anche dei filtri antispam addestrati su messaggi già classificati.
- Apprendimento non supervisionato. Gli esempi non hanno etichette. Il modello cerca gruppi o strutture nei dati, per esempio clienti con abitudini simili. Sta a una persona decidere se quei gruppi hanno senso.
- Apprendimento per rinforzo. Il sistema prova delle azioni e riceve un punteggio. Impara a preferire le azioni che portano punteggi alti. È la tecnica usata per i programmi che giocano a scacchi o a go.
I grandi modelli linguistici combinano più tecniche: un lungo addestramento su testi senza etichette esplicite, seguito da fasi supervisionate e da forme di rinforzo basate su giudizi umani.
Domanda: un modello può essere troppo bravo?
Imparare troppo bene
Sì, e succede spesso. Se il modello ha molti parametri e pochi esempi, può memorizzare i dati di addestramento invece di cogliere la regola generale. Si chiama sovradattamento. Sui dati già visti va benissimo, su quelli nuovi va male.
Per accorgersene si tiene da parte un insieme di prova: esempi che il modello non vede mai durante l'addestramento. Solo il risultato su quegli esempi dice qualcosa sulla capacità di generalizzare.
C'è un problema più sottile. Il modello può imparare una scorciatoia. Se tutte le foto di mele del tuo archivio sono state scattate su un tavolo di legno e quelle di pere su un piatto bianco, il modello può imparare a riconoscere il tavolo. Nei test interni tutto funziona; nel mondo reale no. Casi simili sono stati documentati nella ricerca, per esempio in sistemi di analisi di immagini mediche che si basavano su segni lasciati dall'apparecchio di ripresa più che sulla patologia.
Domanda: che cosa porti a casa?
Limiti da ricordare
Il machine learning è molto efficace quando il problema è ben definito, i dati sono tanti e rappresentativi, e il mondo in cui il modello lavora somiglia a quello dei dati di addestramento. Diventa fragile quando una di queste condizioni salta.
- Un modello non sa quando è fuori dal suo terreno: risponde comunque, con la stessa sicurezza apparente.
- Se il mondo cambia, per esempio cambiano le abitudini delle persone o le condizioni economiche, le prestazioni possono peggiorare senza avvisi evidenti.
- Gli errori non sono distribuiti a caso: tendono a concentrarsi sui casi poco rappresentati nei dati.
Per questo, davanti a qualsiasi sistema che dice di imparare, vale la pena chiedere tre cose: su quali dati è stato addestrato, come è stato provato, e che cosa succede quando sbaglia. Sono domande semplici, e già ti mettono nella posizione di chi capisce.