Edge AI
Eseguire l'inferenza di machine learning direttamente sul dispositivo che produce i dati o vicino a esso, invece di inviare tutto prima a un servizio cloud.
L’edge AI sposta l’inferenza fuori dal data center e la porta su gateway, PC industriali, telecamere e perfino microcontrollori. Il modello viene addestrato altrove e poi distribuito su hardware che sta vicino al sensore. Il risultato è una latenza più bassa, meno banda verso il cloud e la capacità di continuare a funzionare quando la connessione cade. Mantiene inoltre i dati grezzi, come il video di un reparto produttivo, all’interno dell’azienda.
Il costo è che l’hardware edge ha memoria e capacità di calcolo limitate, quindi i modelli vengono di solito compressi e accelerati con una NPU o una GPU. Una telecamera che conta le persone in locale e trasmette solo un numero è un esempio comune. La nostra guida Edge AI spiegata copre i livelli hardware, dal TinyML sui microcontrollori ai box edge di classe server.
Parte del Glossario IoT. Hai trovato un errore o manca un termine? Scrivici.