Robot umanoidi, Intelligenza Artificiale, sistemi autonomi. Tecnologie che fino a pochi anni fa sembravano appartenere alla fantascienza stanno entrando nei laboratori, nelle aziende e, progressivamente, nella nostra vita quotidiana.
Eppure, mentre discutiamo di Intelligenza Artificiale, computer vision, robot umanoidi e sistemi capaci di prendere decisioni, alcune delle domande più importanti erano già state formulate oltre ottant’anni fa.
Non da un ingegnere.
Non da un legislatore.
Ma da uno scrittore di fantascienza: Isaac Asimov.
Era il 1942.
Oggi, 84 anni dopo, quelle domande sembrano forse ancora più attuali.
Le Tre Leggi della Robotica
Nel 1942, nel racconto Runaround, conosciuto in italiano come Circolo vizioso, Isaac Asimov enunciò esplicitamente quelle che sarebbero diventate le celebri Tre Leggi della Robotica.
Prima Legge
Un robot non può recare danno a un essere umano né permettere che, a causa del proprio mancato intervento, un essere umano riceva danno.Seconda Legge
Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.Terza Legge
Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge.
Una gerarchia apparentemente perfetta:
SICUREZZA DELL’UOMO → OBBEDIENZA → AUTOCONSERVAZIONE
Tre principi semplici.
Almeno in apparenza.
Ma Asimov non stava scrivendo un manuale di sicurezza
Questo è probabilmente uno degli aspetti più interessanti delle Tre Leggi.
Vengono spesso citate come se Asimov avesse trovato una soluzione definitiva al problema della sicurezza dei robot.
In realtà, molti dei suoi racconti fanno quasi esattamente il contrario.
Asimov costruisce situazioni nelle quali robot perfettamente fedeli alle proprie regole arrivano a comportamenti inattesi proprio mentre cercano di rispettarle.
Il problema, quindi, non è necessariamente che il robot violi una regola.
Il problema può nascere dal modo in cui la interpreta.
Ed è difficile non vedere un parallelismo con una delle grandi questioni dell’Intelligenza Artificiale contemporanea: come possiamo essere sicuri che un sistema intelligente interpreti realmente un obiettivo nel modo in cui noi lo intendiamo?
Prima Legge: cosa significa davvero “non fare del male”?
Immaginiamo un moderno robot umanoide che opera all’interno di una fabbrica.
Una persona entra improvvisamente nella sua area di lavoro.
Il robot deve fermarsi.
Sembra semplice.
Ma cosa succede se fermarsi immediatamente provoca la caduta del carico che sta trasportando?
E se, per evitare una collisione con una persona, deve effettuare una traiettoria che mette in pericolo qualcun altro?
E ancora: cosa significa esattamente “danno”?
Solo un danno fisico?
Un danno economico?
Una violazione della privacy?
Una decisione discriminatoria?
Una conseguenza indiretta che si manifesta ore o giorni dopo?
La Prima Legge contiene quindi una parola semplicissima per un essere umano e terribilmente complessa per una macchina:
DANNO.
Ed è qui che la fantascienza incontra l’ingegneria.
Seconda Legge: obbedire all’uomo. Ma a quale uomo?
La Seconda Legge sembra ancora più naturale.
Una macchina deve eseguire gli ordini dell’operatore.
È esattamente ciò che facciamo da decenni nell’automazione industriale.
Premiamo START e una macchina parte.
Premiamo STOP e si ferma.
Scriviamo una sequenza nel PLC e la macchina la esegue.
Ma introducendo l’Intelligenza Artificiale il concetto di comando può diventare molto meno deterministico.
Immaginiamo di dire a un robot umanoide:
“Sistema questo laboratorio.”
Per un’automazione tradizionale è un comando quasi privo di significato.
Per un sistema dotato di percezione, AI e capacità di pianificazione potrebbe invece diventare un obiettivo da interpretare.
Quali oggetti deve spostare?
Quali può buttare?
Quali appartengono a qualcuno?
Può aprire un armadio?
Può spostare un’attrezzatura costosa?
Può interrompere un’altra macchina per completare il proprio compito?
Più aumentiamo l’autonomia di un sistema, più ci allontaniamo dal concetto tradizionale di comando e ci avviciniamo al concetto di intenzione.
E interpretare un’intenzione è enormemente più difficile che eseguire un bit.
Dalla programmazione deterministica all’autonomia
Per chi proviene dall’automazione industriale, questa trasformazione è particolarmente interessante.
Per decenni abbiamo costruito macchine basate su una filosofia molto chiara:
INPUT → LOGICA → OUTPUT
Il PLC esegue il programma che abbiamo scritto.
Una determinata combinazione di condizioni produce un determinato comportamento.
Possiamo progettare interblocchi, arresti di emergenza, ridondanze, Safety PLC e sistemi fail-safe.
Con l’AI cambia qualcosa di fondamentale.
Non programmiamo necessariamente ogni singola decisione.
Definiamo modelli, obiettivi, vincoli e informazioni dalle quali il sistema può ricavare una risposta o un comportamento.
E quando a questa capacità decisionale aggiungiamo un corpo fisico capace di muoversi e interagire con il mondo, il problema assume una dimensione completamente diversa.
Un errore di un chatbot può produrre una risposta sbagliata.
Un errore di un robot può produrre un’azione sbagliata nel mondo reale.
Ed è qui che arrivano gli umanoidi
Negli ultimi anni abbiamo assistito a un’accelerazione impressionante nello sviluppo della robotica umanoide.
Robot capaci di camminare, manipolare oggetti, utilizzare telecamere e sensori, riconoscere l’ambiente e apprendere attività sempre più complesse.
La vera rivoluzione, però, probabilmente non sarà avere un robot che assomiglia a noi.
Sarà avere una macchina capace di:
PERCEPIRE → COMPRENDERE → DECIDERE → AGIRE
Quattro verbi che, combinati insieme, trasformano radicalmente il concetto stesso di automazione.
Il robot industriale tradizionale esegue normalmente operazioni definite all’interno di un ambiente controllato.
Un robot autonomo potrebbe invece ricevere semplicemente un obiettivo:
“Porta questo componente alla linea 3.”
E decidere autonomamente come raggiungerla, come evitare un ostacolo, come afferrare il componente e come reagire alla presenza delle persone.
È un cambiamento enorme.
La Terza Legge oggi assume un significato sorprendente
Asimov sosteneva che un robot dovesse proteggere la propria esistenza, purché questo non entrasse in conflitto con le prime due leggi.
Nel 1942 poteva sembrare soprattutto un espediente narrativo.
Oggi una forma molto più limitata di “autoconservazione” è perfettamente razionale dal punto di vista ingegneristico.
Un robot può monitorare la propria batteria.
Può evitare condizioni operative pericolose.
Può rilevare una temperatura anomala.
Può riconoscere un guasto.
Può raggiungere autonomamente una stazione di ricarica.
Può entrare in uno stato sicuro.
Non perché abbia paura di morire.
Ma perché mantenere la propria integrità è parte del suo corretto funzionamento.
E poi arrivò la Legge Zero
Successivamente Asimov spinse il ragionamento ancora oltre introducendo quella che sarebbe diventata la Legge Zero della Robotica.
Un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno.
Ed è qui che il problema diventa enorme.
Cosa accade se il benessere di un individuo entra in conflitto con quello di molti?
Chi stabilisce cosa sia meglio per l’umanità?
Secondo quali valori?
Con quali informazioni?
E soprattutto:
vogliamo davvero che sia una macchina a determinarlo?
Il vero problema non è costruire robot intelligenti
La tecnologia continuerà ad avanzare.
Avremo modelli di AI più potenti, sensori migliori, computer più veloci, robot più agili e sistemi capaci di apprendere attività sempre più complesse.
Ma forse la sfida più difficile non sarà mai puramente tecnologica.
Sarà stabilire quanta autonomia siamo disposti a concedere alle macchine.
Perché autonomia e responsabilità sono inevitabilmente collegate.
Se un sistema percepisce l’ambiente, interpreta un obiettivo e decide autonomamente come raggiungerlo, la domanda diventa inevitabile:
chi è responsabile della sua decisione?
Il programmatore?
Il produttore?
Chi ha addestrato il modello?
Chi ha fornito i dati?
L’integratore?
L’utilizzatore?
Il proprietario?
Domande che non appartengono più soltanto alla fantascienza.
Forse abbiamo bisogno di una nuova Prima Legge
Non necessariamente scritta nel software di ogni robot.
Ma presente nella progettazione di ogni sistema intelligente.
L’essere umano deve rimanere il riferimento ultimo della tecnologia, non il suo ostacolo.
Perché probabilmente non esisteranno mai tre istruzioni capaci di descrivere ogni possibile situazione del mondo reale.
La sicurezza non può dipendere da una frase.
Servono progettazione, normative, analisi del rischio, cybersecurity, controllo degli accessi, supervisione umana, limiti operativi e responsabilità chiaramente definite.
E soprattutto serve cultura tecnologica.
Asimov aveva previsto i robot?
Forse questa non è nemmeno la domanda giusta.
Asimov non aveva previsto GPU, reti neurali, telecamere 3D, Large Language Model o gli attuali sistemi di Intelligenza Artificiale.
Aveva però intuito qualcosa di molto più profondo:
il conflitto tra ciò che chiediamo a una macchina e ciò che una macchina comprende della nostra richiesta.
Ed è esattamente uno dei problemi che stiamo iniziando ad affrontare oggi.
Nel 1942 era fantascienza.
Per decenni è stata filosofia.
Oggi sta diventando ingegneria.
84 anni dopo, la domanda è ancora aperta
Quando osserviamo un moderno robot umanoide camminare, manipolare oggetti o interagire con una persona, tendiamo inevitabilmente a concentrarci sulla tecnologia.
Quanto è veloce?
Quanto peso può sollevare?
Quanto dura la batteria?
Quanto costa?
Quanto è intelligente?
Forse dovremmo iniziare ad aggiungere un’altra domanda:
Quanto siamo preparati noi a convivere con macchine sempre più autonome?
Perché il futuro della robotica non dipenderà soltanto dalla capacità dei robot di comprendere gli esseri umani.
Dipenderà anche dalla capacità degli esseri umani di decidere che cosa vogliono realmente chiedere ai robot e quali decisioni siamo disposti ad affidare loro.
Ed è sorprendente pensare che 84 anni fa Isaac Asimov avesse già iniziato a porci queste domande.
E voi cosa ne pensate?
Le Tre Leggi della Robotica erano soltanto un brillante espediente narrativo o contengono ancora oggi qualcosa che dovremmo tenere presente mentre costruiamo sistemi di Intelligenza Artificiale e robot sempre più autonomi?
Dove dovrebbe fermarsi l’autonomia di una macchina?
È una domanda alla quale, probabilmente, nei prossimi anni saremo chiamati a rispondere sempre più spesso.
Scopri di più da Domenico Madeo
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
