MLOps
Le pratiche ingegneristiche per portare i modelli di machine learning dall'addestramento al deployment e monitorarli in produzione, anche su flotte di dispositivi edge.
Il MLOps applica le idee del DevOps ai modelli: dataset e codice versionati, pipeline di addestramento riproducibili, test automatici, rollout controllato e monitoraggio. Nell’IoT il ciclo è più lungo che per un servizio web, perché il modello viene distribuito su migliaia di dispositivi con hardware, connettività e firmware diversi. Un aggiornamento del modello è di fatto un aggiornamento del firmware e passa dagli stessi meccanismi di aggiornamento OTA e rollback.
Il monitoraggio è la parte difficile all’edge: i dispositivi potrebbero non rimandare indietro gli input grezzi, quindi i team si affidano a statistiche riassuntive e dati campionati per intercettare il drift del modello. Un buon assetto MLOps registra quale versione del modello gira su quale dispositivo, misura l’accuratezza rispetto alle etichette raccolte sul campo, e può riaddestrare e ridistribuire senza una visita in loco. Fa da ponte tra i team di addestramento dei modelli e i team di gestione della flotta che operano i dispositivi.
Parte del Glossario IoT. Hai trovato un errore o manca un termine? Scrivici.