Il futuro appartiene agli oggetti connessi, autonomi e intelligenti. Ecco perché STMicroelectronics presenta la sua offerta di ecosistema completo per le aziende che desiderano trasformare i loro prodotti con l’Edge AI.
Con l'annuncio della ST Edge AI Suite, un insieme integrato di strumenti software utilizzabili gratuitamente con l'hardware ST, l'offerta ai clienti fa un ulteriore passo avanti, consentendo loro di avviare la progettazione e la realizzazione di miliardi di oggetti connessi e autonomi che incorporano localmente l'intelligenza artificiale.
La ST Edge AI Suite semplificherà lo sviluppo delle soluzioni di intelligenza artificiale dei clienti sfruttando l'ampia gamma di hardware della ST (microcontrollori e microprocessori general-purpose e automotive, sensori intelligenti) e i relativi strumenti per l'ottimizzazione dell'intelligenza artificiale incorporata.
Di fatto amplierà e integrerà i molteplici strumenti software, i kit di valutazione e di sviluppo introdotti negli ultimi 10 anni, sfruttando al contempo l'ecosistema AI esistente di framework per l'apprendimento automatico (ML) e partner chiave (come Nvidia e Aws).
Per saperne di più su questo passo dell’azienda, ci siamo rivolti a Marc Dupaquier, Managing Director, Artificial Intelligence Solutions, STMicroelectronics.
Come è nata l’idea di offrire l’Edge AI alle imprese?
Nel campo dell’Internet of Things (IoT) e dell’Industrial IoT (IIoT), l’edge computing descrive la migrazione dei carichi di lavoro di elaborazione dal cloud e il loro avvicinamento ai luoghi in cui vengono acquisiti i dati e vengono assunte le decisioni. Riteniamo che questo modello consentirà a tutti i dispositivi IoT di diventare più autonomi, più intelligenti, più connessi e più sicuri, e che accelererà la digitalizzazione delle industrie.
Nello schema tradizionale, l’elaborazione per le applicazioni IoT si svolge in data center cloud contenenti vasti spazi di archiviazione e piattaforme di calcolo ad alte prestazioni. Ad esempio, i dati raccolti da un sensore di vibrazioni utilizzato per monitorare le condizioni di una macchina industriale, o da un localizzatore di un veicolo, vengono inviati dal sensore attraverso la rete alla piattaforma IoT ad esso associata nel cloud; lì i dati vengono archiviati, vengono eseguite alcune operazioni di elaborazione e viene restituita un’istruzione. Questo scambio può richiedere un tempo considerevole, mentre spesso le decisioni devono essere prese con più rapidità, a volte anche in tempo reale. Ciò significa che la latenza associata a quel percorso di andata e ritorno pone un limite all’utilità dell’IoT.
Spostare una parte dell’intelligenza (ma non tutta) al di fuori del cloud, più vicino ai sensori e agli attuatori al centro dell’azione, può creare enormi vantaggi. Consente prestazioni superiori e nuove applicazioni, perché i sistemi possono reagire agli eventi in modo intelligente, più velocemente o in tempo reale. Inoltre, è possibile ridurre il consumo di energia complessivo e i sistemi possono diventare più robusti, mantenendo la piena funzionalità anche se la rete è temporaneamente indisponibile, un aspetto importante per le applicazioni mission-critical. L’elaborazione locale “all’edge” alleggerisce anche il carico di dati sulla rete, consentendo di ridurre i costi di connessione per le aziende e aumentare la riservatezza. Non sarebbe economicamente praticabile portare i dati e le analisi nel cloud per applicazioni consumer e casi d’uso industriali su scala ridotta.
L’IA riguarda un tipo specifico di elaborazione che si presta molto bene all’identificazione delle somiglianze o delle eccezioni nei dati; questo la rende ideale per le applicazioni che prevedono il confronto con una serie di modelli o il rilevamento di anomalie. Può infatti eseguire queste operazioni velocemente e con meno energia rispetto alle tecniche di elaborazione convenzionali.
Questo ne fa una soluzione ideale per l’implementazione sulle cosiddette piattaforme di edge computing, spesso alimentate a batteria e di dimensioni compatte; laddove un processore a molti gigahertz con un alto consumo di energia non rappresenta un’opzione praticabile. Serve una soluzione piccola, a basso consumo ma veloce nella risposta. Questa è l’essenza dell’Edge AI: fornire alle aziende una soluzione IoT/IIoT intelligente, veloce, economica, robusta e sicura con cui possano gestire le risorse, migliorare i processi e aumentare la produttività proteggendo, al contempo, la cyber security.
Quali sono le caratteristiche tecnologiche dell’Edge AI? Perché è un prodotto innovativo?
In ST, da circa 10 anni investiamo in ciò che serve ai nostri clienti per sfruttare la potenza dell’Edge AI. Stiamo innovando le tecnologie fondamentali, il nostro ampio portafoglio di prodotti, che include microcontrollori, microprocessori e sensori intelligenti, nonché un ecosistema software completo che rappresenta la prima scelta per gli sviluppatori.
Nel cloud, le applicazioni di IA risiedono spesso in potenti schede acceleratrici che uniscono più Gpu o processori analoghi ad alte prestazioni. L’energia elettrica richiesta per il funzionamento di questi grandi motori non è disponibile per i computer all’edge; ciò significa che le applicazioni di IA devono essere altamente ottimizzate per le piattaforme di elaborazione embedded.
Anche il costo contenuto e la possibilità di implementare rapidamente questi dispositivi sul campo sono fattori importanti. Per questa ragione, la capacità di implementare applicazioni di IA su microcontrollori general-purpose e in sensori di piccole dimensioni, a basso costo e a basso consumo rappresenta un grande vantaggio per gli sviluppatori di soluzioni e per le imprese, che sono le proprietarie e/o gli operatori finali di questi sistemi.
In ST, abbiamo dato priorità alla creazione di un ecosistema che favorisca questo tipo di praticità e semplicità, introducendo strumenti come NanoEdge AI Studio e Mems Studio. NanoEdge AI Studio aiuta gli sviluppatori a creare librerie di apprendimento automatico ottimizzate per la nostra vasta famiglia di microcontrollori general-purpose embedded STM32. Consente di aggiungere funzionalità di intelligenza artificiale a sistemi industriali già progettati o implementati sul campo attraverso aggiornamenti software sui microcontrollori esistenti.
Mems Studio è la piattaforma che permette di configurare i minuscoli sensori ambientali e di movimento che abbiamo introdotto sul mercato recentemente. Contiene strumenti per la configurazione del machine learning core (Mlc) e dell’unità di elaborazione per sensori intelligenti (Ispu), che sono motori di IA integrati a consumo ultra basso disponibili in alcuni sensori.
Ad esempio, i nostri sensori potenziati con Mlc possono rilevare istantaneamente e in modo autonomo una vibrazione potenzialmente problematica in una macchina, fornendo un meccanismo di sorveglianza sempre attivo con consumi (e costi) nettamente inferiori.
Quali nuovi scenari potrebbero aprirsi alle aziende del settore industriale grazie all’Edge AI? Quali sono i vantaggi?
Esistono molti scenari in cui le aziende possono trarre vantaggio dalla bassa latenza, dal basso consumo energetico, dalla maggiore riservatezza e dalla maggiore efficienza dei costi resi possibili dall’uso di sistemi industriali potenziati con l’Edge AI.
Abbiamo accennato al possibile utilizzo dell’Edge AI per rilevare vibrazioni anomale in una macchina. Il fattore essenziale, in questo caso, è che i segnali possono essere acquisiti molto precocemente sfruttando la capacità dell’intelligenza artificiale di rilevare qualsiasi piccola deviazione dalla norma. A quel punto è possibile programmare le riparazioni necessarie in un momento opportuno per mantenere la macchina in condizioni ottimali ed evitare non solo i guasti, ma anche costose riparazioni di emergenza e perdite di produzione.
L’Edge AI migliora inoltre le prospettive per il monitoraggio e il controllo remoto dei processi industriali, con la possibilità di migliorare la visibilità operativa, facilitare la risoluzione dei problemi da remoto e accelerare la risposta a incidenti o emergenze. Inoltre, possiamo immaginare sistemi Edge IA che eseguano analisi in tempo reale della qualità di produzione per rilevare difetti o anomalie non appena si presentino.
D’altro canto, veicoli e robot industriali autonomi dotati di sensori e funzionalità di Edge AI possono eseguire attività come la movimentazione dei materiali, la gestione dell’inventario e le operazioni di logistica senza bisogno di una connettività continua ai server centrali. Possono spostarsi in sicurezza negli stabilimenti e nei magazzini, ottimizzare la pianificazione dei percorsi e adattarsi ad ambienti dinamici.
Inoltre, l’edge analytics è in grado di estrarre informazioni utili localmente nell’edge per aiutare le aziende a identificare tendenze, modelli e anomalie in modo rapido ed efficiente, facilitando le decisioni basate sui dati e contribuendo a ottimizzare i processi. Un esempio è rappresentato dai contatori intelligenti, apparati che aiutano le industrie a ridurre il proprio consumo energetico. Identificando le opportunità di miglioramento dell’efficienza e regolando automaticamente le impostazioni delle apparecchiature, possono ridurre i costi energetici e l’impatto ambientale.
Quali competenze richiede l’Edge AI alle aziende per un suo utilizzo ottimale?
artificiale per velocità, sicurezza e affidabilità
In ST, lavoriamo direttamente con sviluppatori di soluzioni high-tech, i cui tecnici possiedono spesso competenze nei campi della scienza dei dati, della programmazione e dello sviluppo di modelli di IA con l’uso di framework noti.
Supportiamo anche gli utenti che non possiedono competenze approfondite in materia di scienza dei dati né hanno accesso a set di dati ampi e ben documentati. Il nostro ecosistema software offre agli sviluppatori alle prime armi, così come a quelli più esperti nel campo dell’IA,l’opportunità di realizzare applicazioni eseguibili sui microcontrollori STM32, sui microprocessori o sugli Mlc o le Ispu dei nostri sensori Mems.
Per consentire agli sviluppatori di risolvere i problemi più complessi e aumentare la loro produttività, abbiamo realizzato una piattaforma molto avanzata, STM32Cube, che permette loro di ottimizzare e implementare modelli di rete neurale addestrati su qualsiasi microcontrollore della famiglia STM32. Oggi, la nostra piattaforma STM32Cube è l'ecosistema di sviluppo più diffuso per microcontrollori.
Gli utenti finali, comprese le organizzazioni del settore industriale, dovrebbero idealmente essere in grado di implementare i dispositivi di Edge AI come qualsiasi tecnologia ordinaria e di usufruire dei vantaggi delle analisi eseguite dall’IA e di una maggiore agilità aziendale. Tuttavia, gli utenti che investiranno nella comprensione di questa potente tecnologia otterranno probabilmente risultati di maggiore successo.
Pensiamo ad esempio all’ispezione ottica automatica (Aoi). I sistemi Aoi tradizionali richiedevano un forte coinvolgimento del proprietario e/o dell’operatore, in quanto gli ingegneri dovevano “insegnare” alla macchina a distinguere tra le immagini corrette e quelle errate acquisite dal sistema di visione. Le capacità di apprendimento intrinseche dell'intelligenza artificiale possono semplificare questo processo e aiutare le aziende a introdurre nuovi prodotti nelle linee di montaggio in modo più rapido ed efficiente.
Per ottenere risultati ottimali è tuttavia necessario avere dimestichezza con varie funzionalità dell’intelligenza artificiale, come l’addestramento delle reti neurali e i vantaggi associati all’utilizzo di vari approcci come l’apprendimento supervisionato o quello senza supervisione.
Quali tipi di aziende manifatturiere potranno utilizzare l’Edge AI? Concretamente, quali processi industriali possono essere migliorati e come?
Abbiamo parlato di manutenzione delle apparecchiature, di controllo dei processi per la quality assurance e il miglioramento continuo, di guida alla sicurezza e di autonomia operativa per i robot. L’IA, nell’edge come nel cloud, è una tecnologia ancora agli inizi con un enorme potenziale da esplorare per realizzare nuove applicazioni e raggiungere nuove vette in termini di prestazioni.
Per quanto riguarda l’Edge AI, le piattaforme possono essere minuscole – come i nostri sensori Mems – o dispositivi più grandi, come gateway o aggregatori. Questi possono contenere un processore applicativo con uno o più core operanti a oltre 1 GHz. Può essere presente un acceleratore IA dedicato, come un Fpga o una Gpu.
Stiamo introducendo acceleratori IA nel nostro portafoglio STM32 su nuovi dispositivi come i microcontrollori STM32N6, che contengono un’unità di elaborazione neurale dedicata progettata da ST denominata Neural-Art Accelerator.
In questo modo potremo fornire le prestazioni dell’IA con i consumi di energia e i costi di un microcontrollore general-purpose. Per le applicazioni ancora più impegnative, abbiamo aggiunto un acceleratore Npu (Neural Processing Unit) nella nostra ultima linea di microprocessori STM32MP2. Si tratta di dispositivi analoghi ai processori applicativi che contengono in più un'unità di elaborazione grafica (Gpu).
È già ampiamente noto che le Gpu si prestano molto bene a gestire i carichi di lavoro dell’intelligenza artificiale; con la potenza aggiuntiva dell’Npu possiamo affrontare nuovi casi d'uso che coinvolgono dati pesanti e complessi come immagini, video e operazioni di riconoscimento vocale in tempo reale.
Tra le altre sfide che ora possiamo affrontare vi sono gli oggetti in rapido movimento e le condizioni di illuminazione ambientale difficili o variabili che spesso caratterizzano le applicazioni delle smart city e gli ambienti industriali. Inoltre, gli acceleratori di intelligenza artificiale on-chip consentono agli sviluppatori di prodotti di offrire queste nuove straordinarie funzionalità a un prezzo accessibile.
Anche nei pc e Plc industriali, l’Edge AI a questo livello può fornire funzionalità intelligenti per complesse esigenze di controllo industriale e fornire l’infrastruttura informatica per le fabbriche intelligenti. Le fabbriche intelligenti sono in grado di adattarsi e collaborare autonomamente con la forza lavoro per riconfigurarsi in tempo reale, ottimizzare l’ambiente di lavoro, anticipare i nuovi programmi di lavoro e automatizzare la risoluzione dei problemi in modo da massimizzare l’utilizzo e la produttività dei macchinari. Questo tipo di dispositivi Edge AI può inoltre sfruttare le proprie capacità di elaborazione per migliorare la sicurezza della rete identificando le anomalie nel traffico dati o nei modelli di utilizzo per rilevare possibili segnali di attacco.
All’esterno, l’Edge AI può migliorare le operazioni di tracciamento per la gestione di veicoli o strumenti o per la gestione della catena di fornitura. ST ha recentemente annunciato un nuovo sensore inerziale con accelerometro a portata estesa che consente di stimare l’altezza di caduta libera sfruttando il core di machine learning. Ci aspettiamo che i team dei nostri clienti propongano molti casi d'uso innovativi, ad esempio per dispositivi indossabili e apparecchiature di sicurezza industriali.
L’Edge AI supporterà le industrie anche nel raggiungimento dei loro obiettivi di efficienza energetica e sostenibilità ambientale?
Certamente. I dispositivi Edge AI possono essere perfetti per monitorare il consumo di energia e rilevare le condizioni ambientali. Soprattutto in luoghi remoti dove la connettività di rete può essere difficile da configurare e poco stabile.
Abbiamo accennato al modo in cui i contatori intelligenti possono analizzare i modelli di utilizzo per rilevare anomalie nei consumi di energia e suggerire modifiche per ridurre i costi. Inoltre, come nel monitoraggio delle condizioni in cui viene analizzata l’impronta vibrazionale di una macchina, i sensori Edge AI installati in tubazioni o serbatoi possono rilevare anomalie nel livello dell’acqua o nel contenuto di rifiuti, oppure rilevare e dedurre le cause delle perdite.
L’abbinamento tra Edge AI e sensori intelligenti può anche essere utilizzato per ottimizzare la spesa energetica per il riscaldamento, il raffreddamento e l’illuminazione delle fabbriche e degli uffici in funzione della loro occupazione. Questo si può ottenere attraverso l’adattamento dinamico alle condizioni di occupazione (ad esempio con lo spegnimento delle luci quando nessuno è presente); oppure la previsione di quando devono essere raggiunte determinate condizioni ambientali (ad esempio all’arrivo del primo lavoratore al mattino).
In tutti i casi in cui i dati possono facilitare il processo decisionale, l’Edge AI può contribuire a realizzare una soluzione efficiente dal punto di vista energetico, reattiva, robusta e sicura per rendere disponibili le informazioni giuste al momento giusto.
Quando sarà disponibile l’Edge AI? Quali sono i vostri target e obiettivi di mercato in Italia?
Le soluzioni Edge AI sono già in fase di dispiegamento in numerose applicazioni. ST sta aiutando molti clienti a studiare i componenti e gli strumenti di sviluppo disponibili per esplorare le interessanti possibilità esistenti. L’Italia ha un vivace settore tecnologico industriale e dispone di centri di eccellenza per l’automazione e la robotica che riteniamo possano diventare i primi ad utilizzare l’Edge AI.
Inoltre, l’Italia è leader nelle apparecchiature mediche avanzate, tra cui le attrezzature ospedaliere e i dispositivi indossabili per il monitoraggio delle condizioni e dei parametri vitali dei pazienti. Questi dispositivi, potenziati con l’Edge AI, possono fornire avvisi tempestivi e accurati sulle variazioni nelle condizioni dei pazienti.
Anche le automobili sono dispositivi “edge”. L’Italia vanta una grande tradizione in questo settore e le prospettive future sono molto interessanti. Questo perché case costruttrici, fornitori Tier 1 e startup innovative gareggiano per acquisire un vantaggio competitivo attraverso un uso immaginativo della tecnologia.
Ad esempio, ST sta collaborando con il gruppo Hpe per ottimizzare il funzionamento e la manutenzione di motori in veicoli elettrici. Il monitoraggio della temperatura interna del rotore di un motore elettrico durante l'uso reale fornisce dati che consentono di ottimizzare la potenza erogata per rendere il funzionamento più efficiente e sicuro. Questa attività può essere eseguita in laboratorio con il rotore esposto, ma non è possibile se il motore è installato in un veicolo.
Abbiamo addestrato un modello e costruito un sensore di temperatura virtuale dotato di Edge AI con cui ricavare la temperatura interna del rotore in base alla misura della temperatura esterna. L’algoritmo viene eseguito sullo stesso microcontrollore che gestisce il motore, una Mcu automotive Stellar. Questa Mcu esegue inoltre un algoritmo di IA che rileva le potenziali anomalie attraverso l’analisi delle vibrazioni.
Possiamo utilizzarlo anche per gestire altri componenti critici, come le batterie dei veicoli elettrici. La temperatura interna della batteria è difficilmente misurabile, ma un modello Edge AI può dedurla con precisione sulla base di una misura esterna.