L’intelligenza artificiale imputata in un processo penale. Sembrerebbe impossibile, vero? Eppure…
Fino a qualche anno fa, ciò che l’episodio 22 di PKNA (acronimo per Paperinik New Adventures) Frammenti d’autunno ha ipotizzato sarebbe sembrato solo un’ipotesi fantasiosa e ben costruita. Tuttavia, la tecnologia, l’ingegneria, la biologia, la genetica, la chimica (e potremmo proseguire per ore) hanno fatto passi da gigante, sfiorando vette impensabili. Ed è interessante scoprire come ciò che inizialmente era solo frutto dell’immaginazione di sceneggiatori, fumettisti e artisti non sia più così lontano dal realizzarsi concretamente.
Robert Kardashian che rivive sotto forma di ologramma per fare gli auguri alla figlia Kim in occasione del suo quarantesimo compleanno. I concorrenti del nuovo reality show Netflix Falso Amor, tratti in inganno tramite la tecnica deepfake per far credere loro che i rispettivi partner li abbiano traditi (uno stratagemma simile è usato nel k-drama del 2023 Celebrity).
Per non parlare di ChatGPT, un chatbot ad apprendimento automatico in grado di conversare amabilmente come un interlocutore qualsiasi e allo stesso tempo, una volta ricevuti i giusti input, di scrivere romanzi, saggi, racconti. Persino di svolgere i nostri compiti. E la sua capacità di elaborazione non è mai uguale a sé stessa: questo elemento ha fin da subito garantito l’originalità delle varie interazioni.
Sembra quasi che la realtà, infine, abbia iniziato a mettersi in pari con la fantasia.
Potrebbe interessarti anche: Fantascienza e fumetto Disney, una storia lunga quasi un secolo
L’intelligenza artificiale: a che punto siamo?
“Computers will overtake humans with AI at some within the next 100 years. When that happens, we need to make sure the computers have goals aligned with ours.”
(“I computer supereranno gli esseri umani con l’intelligenza artificiale, entro i prossimi cento anni. Quando ciò accadrà, dobbiamo essere sicuri che i computer abbiano obiettivi allineati ai nostri”).
Stephen Hawking, Conferenza Zeitgeist 2015
Non sembra più così assurdo immaginare un futuro in cui l’intelligenza artificiale si rapporterà con noi da pari a pari. Questo in quanto tale tecnologia ha l’invidiabile capacità di adattarsi al contesto in cui viene inserita e di evolversi di volta in volta in maniera diversa.
La circostanza, quindi, che fra un tot di anni possano esserci dei droidi – o “lavori in pelle” che dir si voglia, per citare Blade Runner – che si rapportino e si integrino con noi non sembra un’immagine utopistica. Lo dimostrano anche le reazioni che le innovazioni tecnologiche hanno suscitato nella giurisprudenza .
La discussione ultimamente sta infatti orbitando attorno all’imputabilità dell’intelligenza artificiale e a come essa in futuro dovrà essere inquadrata a livello generale dalle nostre leggi.
Ma procediamo con ordine e torniamo al summenzionato episodio di PKNA, il quale offre terreno fertile per un interessante spunto di riflessione.
Lyla Lay e l’imputabilità dei droidi
A Paperopoli è una serata di pattuglia come le altre. Lyla Lay, la nostra tempoliziotta preferita, sta inseguendo due cronopirati, coadiuvata da Pikappa.
Da un certo periodo di tempo la droide sente che qualcosa non va e non sa spiegarsi l’origine di queste sensazioni. Essendo un essere creato artificialmente, sa che non dovrebbe provare malessere.
Lyla non si “sente” più sé stessa. Ha delle strane sensazioni, come se dei ricordi di episodi che non ha però vissuto la venissero a trovare in quelli che sono dei veri e propri sogni – o allucinazioni – a occhi aperti.
Preda di una di queste visioni, convinta di stare colpendo un crono-pirata nemico, inavvertitamente, la tempoliziotta spara ad un “collega biologico”, ferendolo gravemente.
Per tale motivo, dovrà essere riportata nel suo tempo e processata.
Intelligenza artificiale a processo
Non appena Lyla viene riportata nel futuro per essere processata, fa la sua apparizione dinnanzi al vendicatore mascherato l’avvocato difensore della droide, Eugene Photomas. Egli ha l’incarico di accompagnare il supereroe nella Paperopoli del XXIII secolo come testimone chiave del processo.
L’avvocato è stato assunto da Odin Eidolon, le cui industrie hanno progettato nel futuro i droidi 5Y, i modelli di intelligenza artificiale migliori sul campo, estremamente simili a un essere biologico. A questa classe appartiene anche Lyla.
Il primo a essere interrogato è Leonard Verthigel, la “mente” dietro la creazione e l’ideazione dei droidi, riconosciuto dai suoi contemporanei come un vero e proprio luminare.
L’alibi dietro il processo
A PK è chiaro fin da subito che il processo in realtà non punta a verificare l’effettiva colpevolezza di Lyla Lay. In maniera sottile si vuole mettere in luce la pericolosità degli esseri artificiali e la loro impossibilità di integrarsi appieno fra gli esseri umani.
Il timore – soprattutto della classe politica futura, rappresentata in questo caso dal governatore che accompagna PK al processo – è che essi non possano essere controllati. Infatti, contemporaneamente al processo, Eidolon è impegnato in un summit per far emanare la Carta fondamentale dei diritti dei droidi. L’obiettivo è assicurare agli esseri governati dall’intelligenza artificiale diritti pari a quelli umani.
Potrebbe interessarti anche: I 5 nemici più ostici di PKNA
Si scopre ben presto che Lyla Lay è il capro espiatorio, l’unica droide portata a processo sebbene ve ne siano stati altri non funzionanti. Nell’adempiere alle loro funzioni, questi si sono resi responsabili di danni irreversibili. Peraltro, sono tutti appartenenti al medesimo modello 5Y, lo stesso di Layla.
L’origine di una presunta alterazione è ignota persino allo stesso inventore.
La soluzione dell’accusa è piuttosto drastica e irreversibile.
Nel corso dell’intera durata del processo si percepisce, insomma, l’intenzione della classe politica di eliminare alla radice la possibilità che i droidi diventino un problema. Ciò non si tradurrebbe necessariamente nell’ipotesi remota di una ribellione o nell’eventualità di creare disordini: anche l’idea che i droidi possano sviluppare un’identità propria spaventa.
Più umano dell’umano
Un altro passaggio interessante dell’innovativa – per certi versi profetica – storia di PKNA è certamente il momento in cui l’Avv. Photomas riesce ad ottenere una concessione giuridica fittizia denominata “beneficio delle 24 ore“, nelle quali poter fare una revisione di Lyla per cercare di capire cosa sia successo alla droide. Una sorta di intervento chirurgico esplorativo in anestesia, che porta la droide in quello che viene definito uno stato di sospensione rigenerativa.
Lo stato in cui si trova Lyla per essere revisionata non è altro che l’equivalente del nostro sonno. Le indagini sulla droide ottenute dall’Avv. Photomas portano a una scoperta insperata e inaspettata allo stesso tempo. Viene infatti rilevata la presenza di una componente anomala, un biochip che il modello cui appartiene Lyla non dovrebbe possedere, in quanto non previsto dalla dotazione di intelligenza artificiale assegnata alla sua classe.
Se da un lato la scoperta assolve la tempoliziotta, in quanto è stato il biochip a causare anomalie nel funzionamento (e nel comportamento) – potrebbe infatti paragonarsi alla momentanea incapacità di intendere e di volere – d’altro canto, ciò spinge PK a indagare su chi possa aver “manipolato” l’amica.
Scacco al creatore
“E tutti quei momenti andranno perduti nel tempo, come lacrime nella pioggia.”
Roy Batty, monologo finale in Blade Runner
Senza farvi ulteriori spoiler, le indagini del supereroe conducono niente di meno che al creatore della stessa droide, Vertighel. Ma perché Vertighel avrebbe dovuto inserire un elemento del genere, causando allucinazioni e alterando i ricordi della droide?
La risposta sembra banale, ma nasconde una sensazione più profonda, un’insoddisfazione totale e la continua ricerca di qualcosa di irraggiungibile.
Talmente irraggiungibile da cercare di crearlo artificialmente, proprio come ha creato l’intelligenza artificiale: l’amore.
Potrebbe interessarti anche: Road to Pk – Il volto dell’amore
A PK è ormai chiaro a questo punto che Vertighel è preda della sua megalomania. In un certo senso fa tenerezza la circostanza che l’uomo, pardon, il papero (ma fa davvero così differenza?) che ha creato i droidi, che li ha dotati della capacità di sentire, di provare emozioni, di renderli persino capaci di sognare, si sia strutto così tanto per insegnare alla più bella delle sue creature ad amarlo.
E l’epilogo non può che condurre ad una sola direzione (che non vi anticiperemo!).
Potrebbe interessarti anche: Cattivi Disney, la Top 5 (+1) dei migliori peggiori
Fiery the angels fell; deep thunder rolled around their shores; burning with the fires of Orc.
Roy Batty, Blade Runner
Intelligenza artificiale: quale giurisdizione?
Lo spunto interessante fornito da questa storia (datata ottobre 1998 e invecchiata meravigliosamente), che dunque può essere oggetto di dibattito, è se e in che misura le intelligenze artificiali possano essere dotate di capacità giuridica.
Per “capacità giuridica”, disciplinata nel nostro ordinamento dall’articolo 1 del codice civile, si intende l’attitudine di un soggetto a essere titolare di diritti e doveri.
Questo è uno snodo fondamentale: allo stato attuale, non sussiste una legislazione che disciplini quanta intelligenza possa avere una macchina e come essa si potrà in futuro relazionare con noi.
Tale dibattito non è assolutamente ipotetico, essendosi già verificati casi in cui l’IA si sia in qualche modo sostituita all’essere umano oppure situazioni in cui abbia creato all’essere umano danni di un qualsiasi tipo.
L’imputabilità dell’intelligenza artificiale
In nessun modo in questo articolo si vuole propendere per l’una o l’altra parte. Essenziale invece è porre l’attenzione sull’urgenza che – quale che sia la posizione assunta in un prossimo futuro – una linea di demarcazione venga tracciata. Devono insomma essere tracciati dei parametri, quantomeno a grandi linee.
Tuttavia, qualora si riconoscessero alle macchine – ai droidi in questo caso – dei diritti, di conseguenza verrebbe riconosciuta loro anche una capacità di agire. La capacità giuridica ne è il presupposto: è, cioè, la dote di poter esercitare azioni che incidono nella propria sfera giuridica. Pertanto le IA sarebbero imputabili qualora commettessero dei reati.
Il connubio tra IA e diritto penale è argomento scottante, soprattutto perché – in particolar modo negli USA – si sono verificati dei precedenti, dei casi in cui le intelligenze artificiali si sono macchiate di omicidio.
Nel 2016, infatti, un “drone bomba” guidato da intelligenza artificiale è stato impiegato per uccidere un sospetto cecchino a Dallas.
A luglio 2023, inoltre, è circolata la notizia – prontamente smentita dall’Aeronautica militare statunitense – che un’intelligenza artificiale abbia deciso autonomamente di uccidere il suo “utilizzatore biologico”, in quanto prendeva delle decisioni non necessarie al raggiungimento della missione. L’incaricato della rettifica di questa presunta fake news non ha però escluso che episodi del genere possano verificarsi.
Di certo, una normativa in materia di diritto penale potrebbe essere quantomai provvidenziale se riuscisse a disciplinare come considerare le azioni criminose commesse dalle intelligenze artificiali. Sono responsabili? Sono responsabili i loro ideatori? Responsabile è invece chi li “manovrava” in quel determinato momento?
Potrebbe interessarti anche: Tim Burton parla del rapporto con Disney e la diffidenza per le intelligenze artificiali
Sono domande legittime. Bisogna valutare anche che già adesso alcune tra le intelligenze artificiali più sofisticate sono dotate della capacità di mettere in atto decisioni proprie, nonché dell’abilità di apprendere continuamente in base alle informazioni che vengono loro fornite.
Il concetto di responsabilità – penale o civile che sia -, così come di colpevolezza è abbastanza ampio. Non è da escludersi in futuro che in tale novero venga ricompresa l’intelligenza artificiale.
D’altronde, il diritto è vivo, è una scienza in divenire. Si adatta, cioè, al modo in cui la società evolve.
Di ciò sta tenendo conto il Parlamento Europeo e, a tal proposito, non si può non citare la Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione
concernenti norme di diritto civile sulla robotica (2015/2103(INL), pubblicata sulla Gazzetta Ufficiale Europea del 18 luglio 2018.
Tra i vari considerando che forniscono i presupposti di una riflessione sul possibile impiego e future interazioni del mondo della robotica, il più interessante (e particolarmente calzante con la realtà attuale) è il seguente: “…considerando che l’umanità si trova ora sulla soglia di un’era nella quale robot, bot, androidi e altre manifestazioni dell’intelligenza artificiale sembrano sul punto di avviare una nuova rivoluzione industriale, suscettibile di toccare tutti gli strati sociali, rendendo imprescindibile che la legislazione ne consideri le implicazioni e le conseguenze legali ed etiche, senza ostacolare l’innovazione (…)“.
Va posto in evidenza che tale Risoluzione invita la Commissione europea a proporre una direttiva in materia di diritto civile sulla robotica, oltre a gettare la basi di un codice deontologico.
Ulteriori passi in avanti sono inoltre stati fatti con l’approvazione da parte del Parlamento Europeo dell’AI Act questa estate. Esso dovrà tuttavia passare a ulteriori vagli entro la fine della legislatura.
La presa di coscienza da parte delle istituzioni fa ben sperare in una normativa ancora più specifica, che tenga ovviamente in considerazione la maggior parte delle implicazioni dell’intelligenza artificiale.
Conclusioni: la vittima è Lyla Lay
L’anticipatoria visione che PKNA dà degli androidi però non presuppone il loro riconoscimento come entità dotate di diritti.
Al contrario, essi sono spesso equiparati, con grande disappunto di PK, a macchine che devono essere riparate e soggette a manutenzione, sebbene si rapportino in tutto e per tutto con gli esseri umani e provino financo dei sentimenti.
Pertanto, nel momento in cui si scopre che Lyla è stata manipolata, abusata – le hanno pur sempre impiantato contro la sua volontà un chip nel corpo – e trattata come la peggiore delle criminali senza che nessuno di coloro che l’abbiano programmata si sia messo lontanamente in discussione, la vicenda giuridica si risolve con un nulla di fatto. Lyla è libera ed è questo quello che conta, certo, ma senza alcun risarcimento per quello che ha patito.
A noi lettori non resta che sperare che, almeno nei fumetti, la fantomatica Carta dei diritti dei droidi per cui si batte Eidolon veda finalmente la luce.
Per quanto riguarda la nostra realtà, la strada da percorrere è ancora lunga. Noi non ci disperiamo perché, come sempre, saranno i nostri amici di carta e inchiostro a indicarci la via.
Lidia Brancia
Immagini © Disney – Panini Comics
Fonti
Codice Civile
Intelligenza artificiale e diritto penale: quattro possibili percorsi di indagine, di Fabio Basile, in Diritto Penale e Uomo, n. 3089/2019
