Nella robotica e intelligenza artificiale che esce dai laboratori universitari, la supervisione umana viene spesso trattata come l’ultimo strato da aggiungere prima della vendita. È un errore di sequenza, e per uno spin-off può costare caro: un robot pensato per lavorare da solo difficilmente si lascia riprogettare, a valle, per essere fermato, corretto e capito da chi lo usa. Paolo Dario, professore onorario di robotica biomedica alla Scuola Superiore Sant’Anna di Pisa, ha proposto su queste colonne un’idea che sposta il problema a monte.
Il controllore di volo come requisito di progetto
Nell’intervista Robo Valley invece di Silicon Valley per rilanciare l’industria italiana, Dario descrive un modello di autonomia con supervisione umana ispirato al controllore di volo: l’operatore interviene quando il robot incontra difficoltà che non può risolvere da solo, e la responsabilità è distribuita tra chi sviluppa software, meccanica, sensori e batterie. Accanto a questa visione mette la Robo Valley, un distretto di imprese che uniscono le forze restando indipendenti, sul modello della Motor Valley, e lo strumento per farla crescere, gli appalti pre-commerciali. È una proposta di politica industriale, ma contiene anche un’indicazione molto concreta per chi sta costruendo un prototipo oggi.
Il controllore di volo, infatti, esiste perché l’intero sistema è stato disegnato attorno a lui. Radar, procedure, canali di comunicazione, soglie di allarme: nulla di tutto questo è un accessorio. Per un robot vale la stessa logica. Se l’interfaccia non mostra all’operatore che cosa il sistema sta per fare e con quale grado di certezza, il pulsante di arresto serve a poco.
Per uno spin-off, quindi, la domanda giusta arriva presto, quando l’architettura è ancora modificabile: in quali situazioni il robot deve chiedere aiuto, e chi lo riceve?
Che cosa chiede l’art. 14 dell’AI Act
Il Regolamento (UE) 2024/1689, l’AI Act, dà a questa domanda una forma precisa per i sistemi ad alto rischio. L’art. 14 stabilisce che devono essere progettati e sviluppati in modo da poter essere supervisionati efficacemente da persone fisiche durante l’uso, anche attraverso strumenti di interfaccia uomo-macchina adeguati. Il paragrafo 3 distingue le misure che il fornitore integra nel sistema prima dell’immissione sul mercato da quelle che individua come adatte a essere attuate dal deployer, cioè da chi lo utilizza.
Il paragrafo 4 elenca che cosa la persona incaricata deve poter fare. Comprendere capacità e limiti del sistema e monitorarne il funzionamento, anche per accorgersi di anomalie. Restare consapevole della tendenza a fidarsi troppo dell’output, la cosiddetta distorsione da automazione. Interpretare correttamente i risultati. Decidere di non usarli, di ignorarli o di ribaltarli. Infine intervenire o interrompere il sistema con un pulsante di arresto o una procedura analoga che lo porti a fermarsi in condizioni di sicurezza.
Non tutta la robotica con IA ricade nell’alto rischio: dipende dall’uso previsto e dalle categorie indicate negli allegati del regolamento. Ma il testo dell’art. 14 è, di fatto, una buona specifica di progetto anche per chi non è obbligato a seguirlo, e i tempi di applicazione degli obblighi sono stati oggetto di revisione. Conviene trattarlo come un orizzonte, non come una scadenza da inseguire all’ultimo.
Le fasi dell’appalto pre-commerciale come banco di prova
Qui la proposta di Dario e la norma si incontrano. Secondo la Commissione europea, il pre-commercial procurement (PCP) è un appalto di servizi di ricerca e sviluppo. L’ente pubblico acquista soluzioni da più fornitori in parallelo, attraverso fasi competitive: progettazione della soluzione, prototipazione, sviluppo originale, validazione e test. Dopo ogni fase il numero dei concorrenti si riduce. I fornitori mantengono i diritti di proprietà intellettuale, mentre il committente conserva diritti di uso e di licenza.
Questa struttura a gradini è un’occasione rara. Si immagini un ospedale, un’azienda di trasporto o un comune che commissiona un robot per un compito ancora scoperto. Già nel bando può chiedere che la supervisione umana sia descritta in fase di progettazione, dimostrata sul prototipo e misurata nei test sul campo. Per lo spin-off significa arrivare alla fase successiva con un vantaggio documentato invece che con una promessa.
Una scheda di supervisione in quattro voci
Il documento che serve è breve. Una pagina, aggiornata a ogni versione del prototipo, che risponde a quattro domande. Chi sorveglia il robot, con quale formazione e da dove. Quali informazioni vede: stato del sistema, livello di confidenza, situazioni che il modello riconosce come fuori dal proprio perimetro. Come interviene: correzione, presa di controllo, arresto sicuro, e in quanto tempo. Che cosa resta tracciato, perché ogni intervento umano è anche un dato per migliorare il sistema e per ricostruire le responsabilità di ciascun componente, quella distribuzione tra software, meccanica e sensori di cui parla Dario. Questa scheda va scritta con gli utenti finali, non solo con gli ingegneri.
L’ingegnere rinascimentale e il lessico comune
Dario insiste sulla formazione di un “ingegnere rinascimentale”, preparato in matematica e fisica ma anche in storia, filosofia e antropologia. Il suo principio, ripetuto in trent’anni di ricerca, è ascoltare le persone prima di progettare la macchina. Nel lavoro quotidiano di una startup deep tech vuol dire una cosa precisa. Mettere attorno allo stesso tavolo chi scrive il codice di controllo, chi conosce il reparto ospedaliero o la linea di produzione, chi segue il trasferimento tecnologico e chi dovrà rispondere del sistema davanti a un acquirente pubblico.
Il primo ostacolo, in quelle riunioni, è quasi sempre linguistico. Supervisione, autonomia, bias, accountability, guardrail: ognuno usa le stesse parole con significati diversi, e una scheda di supervisione scritta in un vocabolario ambiguo produce comportamenti diversi davanti allo stesso imprevisto. L’Associazione Italiana Professionisti dell’Intelligenza Artificiale (AIPIA) è un ente no profit che riunisce sviluppatori, data scientist, ricercatori e consulenti. Per questo considera il lessico condiviso il punto di partenza di ogni progetto e mette a disposizione un glossario pubblico dell’Associazione italiana professionisti dell’intelligenza artificiale, con definizioni brevi dei termini su etica, rischi e regolazione, dall’AI Act ai guardrail.
È un terreno su cui l’ecosistema che Startupbusiness racconta da anni, fatto di spin-off universitari, fondi deeptech, centri di competenza e investitori, e il mondo dei professionisti dell’IA hanno molto da dirsi. Un fondatore che deve spiegare a un comitato d’investimento perché il suo robot è controllabile parte avvantaggiato se usa termini che anche il valutatore riconosce. Lo stesso vale per le competenze: la norma UNI 11621-8:2026 descrive dodici profili di ruolo professionale per l’IA, utili a capire quali figure servono in un team che deve progettare e gestire la supervisione.
Robotica e intelligenza artificiale, quattro domande prima di firmare
Chi investe in uno spin-off di robotica, o chi scrive un bando pre-commerciale, può portare al primo incontro quattro domande semplici. In quali situazioni il sistema passa la mano a una persona, e come lo segnala? L’operatore può capire perché il robot ha preso una decisione, o vede solo il risultato? Esiste un arresto sicuro provato sul campo, e non soltanto previsto nel progetto? Gli interventi umani vengono registrati e usati per correggere il sistema? Le risposte dicono molto sulla maturità del team, più di una demo ben riuscita.
C’è poi una conseguenza che riguarda la Robo Valley immaginata da Dario. Un distretto di imprese indipendenti funziona se i componenti di ciascuna si integrano con quelli delle altre. Si pensi ad aziende toscane della robotica che adottano schede di supervisione compatibili, con le stesse voci e lo stesso vocabolario. L’operatore di un ospedale o di una fabbrica potrebbe sorvegliare robot di fornitori diversi con le stesse procedure. Sarebbe un vantaggio di distretto, di quelli che un singolo campione globale non ha interesse a costruire.
Nota per il lettore: l’autore è presidente del Comitato tecnico-scientifico AIPIA (Associazione italiana professionisti dell’intelligenza artificiale) (immagine: Depositphotos)
© RIPRODUZIONE RISERVATA
Ti è stato utile questo articolo?
Con una piccola donazione ci aiuti a continuare a produrre contenuti indipendenti.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
