Inferenza
L'esecuzione di un modello di machine learning già addestrato su dati nuovi per produrre una previsione, una classificazione o un punteggio.
L’inferenza (inference) è la fase di esercizio del machine learning: il modello è fisso e il dispositivo gli fornisce nuovi input per ottenere output. A differenza dell’addestramento del modello, non richiede etichette e ha bisogno di molta meno capacità di calcolo, ed è questo che la rende praticabile su gateway e microcontrollori. Dove gira l’inferenza decide buona parte del costo e del comportamento di un sistema IoT.
L’inferenza nel cloud è facile da aggiornare e può usare modelli grandi, ma ogni chiamata costa banda e aggiunge latenza. L’inferenza sul dispositivo risponde in millisecondi e funziona offline, al prezzo di limiti sulla dimensione del modello e della necessità di un meccanismo di aggiornamento. Un videocitofono intelligente che riconosce un volto in locale invece di caricare ogni fotogramma è un esempio comune. Per i compromessi sul posizionamento vedi Edge AI spiegata.
Parte del Glossario IoT. Hai trovato un errore o manca un termine? Scrivici.