Nell'industria, il tempo necessario per individuare e risolvere un problema può fare la differenza tra un intervento tempestivo e un fermo linea con conseguenze a cascata sulla produzione. Per questo, oltre alla preparazione degli operatori, diventa sempre più importante poter disporre rapidamente delle informazioni necessarie: manuali delle macchine, schemi elettrici, documentazione tecnica, log di manutenzione e storico degli interventi.
È proprio in questo scenario che trova applicazione la RAG (Retrieval-Augmented Generation), una tecnologia che consente di utilizzare l'intelligenza artificiale generativa mettendola in relazione con il patrimonio documentale dell'azienda.
Il tema è stato al centro della sessione Manufacturing della RAG Week organizzata da Axiante, con gli interventi di Matteo Longoni, Business Development Manager Axiante e Ali Alhaj Hassan, che ha illustrato alcuni progetti applicativi.
RAG, un assistente AI che conosce l'azienda
Ma che cos'è esattamente la RAG? Il funzionamento ricorda quello di un normale chatbot: l'utente formula una domanda in linguaggio naturale e il sistema restituisce una risposta altrettanto comprensibile. La differenza sostanziale è che, invece di affidarsi esclusivamente alle conoscenze generali del modello linguistico (LLM), la RAG cerca le informazioni all'interno di una base documentale specifica, definita e governata dall'azienda.
«È come avere ChatGPT addestrata a rispondere sui nostri documenti aziendali», ha spiegato Longoni. La conoscenza non viene incorporata nel modello generico, ma rimane in un archivio separato, aggiornabile e sotto il controllo dell'impresa. Inoltre, le risposte possono riportare i riferimenti ai documenti utilizzati, consentendo all'utente di verificarne la provenienza.
Un aspetto particolarmente interessante per il manufacturing è la varietà dei contenuti gestibili: PDF, scansioni, immagini, schemi, video e audio. Un patrimonio informativo spesso consistente, ma frammentato tra archivi, cartelle e sistemi differenti.
Il caso: recuperare vent'anni di conoscenza tecnica
Un progetto illustrato da Ali Alhaj Hassan di Axiante riguarda un'azienda che realizza impianti automatizzati, occupandosi dell'intero processo, dai quadri elettrici al software PLC. In circa vent'anni di attività aveva accumulato migliaia di documenti: file Excel, PDF, immagini, fax, schemi e manuali, redatti in lingue diverse.
Il problema non era la mancanza di informazioni, ma la difficoltà di reperirle. Per sapere quale cablaggio fosse stato utilizzato su una determinata macchina, un tecnico doveva cercare tra numerose cartelle, con tempi che potevano arrivare a diverse ore. A questo si aggiungeva la concentrazione del know-how nella testa di poche persone: una dipendenza rischiosa quando gli esperti non erano disponibili o lasciavano l'azienda.
La soluzione RAG ha permesso di interrogare il patrimonio documentale attraverso domande formulate in linguaggio naturale, ottenendo risposte accompagnate dalla fonte di riferimento. L'obiettivo era rendere più accessibile la conoscenza necessaria per lavorare.
L’importanza della qualità e organizzazione dei dati
L'implementazione, tuttavia, ha richiesto un lavoro significativo sulla qualità e sull'organizzazione dei dati. Quattro, in particolare, le criticità affrontate.
- Presenza di macchine e sigle simili in progetti differenti: senza adeguati criteri di separazione, il sistema rischiava di combinare informazioni appartenenti a impianti diversi, generando risposte apparentemente corrette ma non pertinenti.
- Informazioni. Per rendere utilizzabili le informazioni contenute in immagini, schemi e documenti manoscritti è stato necessario ricorrere a tecnologie OCR. Le informazioni non leggibili, anziché essere ricostruite arbitrariamente, vengono segnalate.
- Riconoscimento delle parole chiave: in ambito industriale, codici, sigle e identificativi devono avere un peso particolare rispetto al significato generale della frase.
- Necessità di metadati. Ogni porzione di documento utilizzata dal sistema è stata arricchita con metadati identificativi, una sorta di carta d'identità che ne conserva la provenienza e il collegamento al progetto corretto.
Il risultato è un sistema in grado di restituire informazioni puntuali, mantenere separati i diversi progetti e indicare sempre la fonte. Se un'informazione non è disponibile, deve dichiararlo anziché inventare una risposta.
Quanto costa un progetto RAG?
La componente economica è un elemento da valutare fin dalle prime fasi. Nel progetto presentato da Axiante, i relatori hanno indicato tre principali voci di costo.
La prima riguarda la preparazione dei dati e gli strumenti utilizzati per questa attività: nel caso illustrato, la spesa per gli strumenti si è attestata tra 200 e 500 euro, come costo una tantum. Una cifra che non comprende però il lavoro delle persone.
La seconda voce, e la più consistente, è rappresentata dall'infrastruttura. Per il progetto sono stati indicati costi compresi tra 1.500 e 2.500 euro al mese. L'azienda può scegliere di utilizzare servizi cloud sostenendo un canone periodico, oppure installare il sistema su server interni, affrontando in questo caso un investimento hardware.
Infine, c'è il costo di utilizzo del sistema, stimato nell'esempio tra 30 e 100 euro mensili, variabile in funzione dell'intensità e della frequenza delle interrogazioni. Sono valori riferiti allo specifico progetto e non costituiscono un listino applicabile a qualsiasi implementazione.
Tre miti da sfatare
La RAG non serve sempre. Se l'informazione cercata si trova in un documento preciso, non cambia nel tempo e può essere recuperata attraverso una query, potrebbe essere sufficiente un algoritmo deterministico, senza ricorrere all'AI.
Un LLM più potente non risolve. Un modello linguistico generico non conosce i documenti interni di un'azienda, né può sapere quali siano le informazioni contenute nell'ultimo manuale o nell'ultimo contratto. Inoltre, può produrre risposte plausibili ma non corrette, senza segnalare necessariamente l'incertezza.
La RAG non funziona da sola. Un sistema deve essere monitorato, aggiornato e sottoposto a verifiche continue.
I take away: partire dai dati e dai problemi reali
Il successo di un progetto RAG dipende meno dalla scelta del modello AI e molto di più dalla qualità dei dati e dalla corretta definizione del contesto applicativo.
- Non adottare la RAG a prescindere, ma verificare che sia la tecnologia adatta al problema;
- Valutare preventivamente costi di implementazione e utilizzo;
- Considerare la qualità e la governance dei dati come condizioni indispensabili per il successo.
Perché, nel manufacturing, rendere disponibile il know-how aziendale quando serve può fare la differenza, ma solo se quel sapere è stato prima organizzato, contestualizzato e reso affidabile.
