Relazione illustrata dalla Presidente Nazionale NAD, Rosaria Elefante, al convegno “Intelligenze artificiali: il futuro è già in corso”, tenutosi a Napoli in data 25 giugno 2018. In calce è disponibile il video illustrativo dell’intervento, caricato su youtube.
L’idea, o meglio, il concetto di “umano” è declinabile?
Chi e/o cosa pone il confine tra ciò che è umano e ciò che non lo è più?
Per la prima volta il 12 marzo 1984, Heartthrob, un braccio robotico, venne utilizzato in chirurgia ortopedica presso l’ospedale della University of British Columbia a Vancouver (Canada). Da allora la robotica medica ha fatto passi da gigante, fino a raggiungere traguardi impensabili.
Immaginare di essere accolti in ospedale da un efficientissimo pluri-specialista capace di scannerizzare un essere umano in pochissimi minuti e, dopo altri pochi minuti, di avere in mano una sorta di “scontrino” recante diagnosi e prognosi, oltre tutti gli esiti di qualsivoglia esame o analisi effettuati sul nostro corpo, non è più il canovaccio di un romanzo di Asimov, ma è quello che, da qui a pochi decenni, accadrà in molti ospedali e in parte già avviene.
Questo progresso tecno-scientifico, figlio di una fantascienza divenuta realtà, dedita all’uso di macchinari estremamente sofisticati, di automi in grado di sostituire attivamente e, talora, addirittura quasi di costringere l’opera dell’uomo, imponendogli un agire corrispondente a precisi protocolli di intervento, impone riflessioni biogiuridiche che anelano risposte certe e, in taluni casi, affatto tempestive, ma piuttosto già vetuste e non calzanti.
Per poter procedere ad una sintesi per quanto possibile oggettiva della questione, è necessario però tenere distinte robotica e intelligenza artificiale.
In particolare, è importante differenziare concettualmente le applicazioni della robotica collegate alla salute. La la cd. chirurgia robotica consente all’operatore, attraverso meccanismi che, con software, controllano il movimento di braccia meccaniche, di operare o intervenire sul corpo umano a distanza, effettuando il proprio intervento con l’ausilio di un pannello di controllo capace di offrirgli una visione tridimensionale, con una profondità del campo dell’intervento pressoché perfetta e, per certi versi, anche migliore della stessa realtà.
Tutto questo consente senza dubbio un potenziamento per l’interventista dato, non solo da un’alta precisione, ma anche e soprattutto per il paziente, che sarà sottoposto a una minore invasività, minimizzando molto il trauma operatorio, con una conseguente riduzione dei tempi di esecuzione dell’intervento e della sua ripresa.
Ma gli sviluppi e le applicazioni medico-scientifiche della robotica incalzano velocemente e sono già da tempo utilizzate in moltissimi ambiti della chirurgia medica come urologia, ginecologia, ortopedia, cardiochirurgia; negli Stati Uniti si contano, infatti, già centinaia di migliaia di interventi all’anno. Quasi di routine è diventato, del resto, l’uso di capsule mediche intelligenti per raggiungere zone interne del corpo umano, o l’impianto di protesi robotiche ed anche protesi bioniche particolarmente avanzate ed innestate direttamente nel sistema nervoso umano.
Ma non solo la chirurgia si avvale della robotica.
Riabilitazione e assistenza da anni, ormai, si avvalgono dell’ausilio di robot.
In Giappone e in Corea la robotica svolge ruoli di importante ausilio nell’assistenza a disabili, anziani e anche ai bambini, ovvero soggetti in condizione di dipendenza, o di precarietà nella deambulazione o addirittura totale assenza di movimento.
L’assistenza robotica può sostanziarsi in “health/assistive robot”, “socialized robots/socially assistive robots”, “service robots”, “carerobots/carebots”, “robotic nurses o nursebots”. In altri termini si tratta di monitoraggio e controllo della salute da remoto, grazie appunto alla telerobotica, videocamere o sistemi di GPS collegati a sensori (In Italia famoso è il progetto “Oberon” per pazienti in sindrome da veglia a relazionale), ovvero assistenza per la riabilitazione, per azioni quotidiane, assistenza per sostegno psicofisico.
La tele robotica, seppure molto limitatamente, consente, del resto già oggi, interventi a distanza, nella prospettiva non tanto lontana di collegare una equipe medica in una vera e propria rete di comunicazione e gestione del paziente, dove ogni specialista, davanti al proprio terminale, sarà in grado di comunicare e condividere con gli altri operatori le decisioni e di operare mediante il robot.
Del resto il fascicolo sanitario digitale è disponibile semplicemente scaricando un’applicazione sul proprio telefonino. Addirittura il sito Family Health propone la raccolta di dati sanitari inerenti l’intera famiglia, con la richiesta di inserire “dati” anche relativi ad ascendenti, discendenti e collaterali.
Ma se l’era della robotica in campo medico, ovvero, la chirurgia, la diagnostica, l’assistenza, la riabilitazione assistita da robot, sembra essere “appena” cominciata, le operazioni condotte in autonomia dalle macchine, già iniziano a fare capolino.
Quanto tempo occorrerà perché macchine mediche siano in grado di “autoistruirsi” e di operare in assoluta autonomia?
Quali i tempi in cui ci affideremo all’intelligenza artificiale (AI), ovvero a quel “medico” non umano che possiede i “data” di tutta la comunità scientifica, nel tempo e nello spazio, capace senza dubbio di offrire una soluzione diagnostica, prognostica o chirurgica astrattamente perfetta?
Sarà auspicabile e in che misura rivolgersi a un “soggetto virtuale” capace di possedere una scienza medica ineguagliabile, ma senza coscienza?
La visione olistica del paziente potrà mai avere la stessa natura strettamente personale, nel senso letterale del termine, per una AI?
Il rapporto medico paziente quale taglio, medico prima e giuridico dopo, dovrà assumere?
Si potrà parlare ancora di alleanza terapeutica, dal momento che il rapporto bilaterale dovrà necessariamente essere inteso come trilaterale e il terzo soggetto è puramente virtuale?
Avrà senso il consenso informato? Il paziente dovrà essere informato anche e/o soprattutto di questioni inerenti la robotica e l’AI? Quale livello della sua informazione determinerà l’”informazione” del suo consenso?
Il paradigma, neanche più timidamente posto dalla robotica, spazia dalla robotica in generale, che considera e prospetta già l’applicazione delle nanotecnologie – particelle nanometriche introdotte nel corpo umano con scopi puramente biomedici-, alla neuroetica, ovvero valutazioni etiche inerenti le nuove tecnologie adattate alla neuroscienza e, della roboetica, cioè “etica degli meccanismi tecno-scientifici robotizzati”.
Robotica, AI e roboetica approdano tutte, contemporaneamente e inevitabilmente, nelle aule di Tribunale, dove giudici impreparati e ignari sono chiamati ad applicare un diritto che probabilmente non c’è e ad attribuire una responsabilità che non sempre sarà legata ad un agire, storcendo e adattando un nesso di causalità necessariamente equivoco e confutabile.
Chiaramente l’intervento del giurista è scomodo, sia per chi lo invoca, spesso deluso dalle risposte che non assecondano appieno le istanze, sia per il giurista stesso, perché costretto a prendere atto di un processo inarrestabile, attuato dalle innovazioni della scienza e delle relative tecniche che, riluttanti al confronto con i tradizionali paradigmi culturali, pongono spesso in grave e, forse, anche irreversibile crisi le categorie dogmatiche elaborate dal diritto còndito.
Il processo, infatti, che il giurista tenta, prima facie, è quello di una forzosa ingabbiatura dell’innovazione nel rincuorante scenario delle regole vigenti, garantendo, in questo modo, continuità alle stesse. Evitando così l’insidioso bivio tra diniego o attesa, ma con il pericolo di scivolare nell’immobilismo piuttosto che in una “autonomia” male amministrata, tenendo, comunque, conto che l’obiettivo cui mira la scienza è nient’altro che il superamento della dimensione stretta che ci appartiene, ovvero la “limitatezza” dimensione umana.
La questione della “spersonalizzazione” del rapporto medico-paziente, tenta approdo nel neo regime della responsabilità medica ovvero nella sostituzione della responsabilità personale del medico con quella o di chi medico non è – si pensi al progettista, al costruttore/produttore, al programmatore, agli sviluppatori del software, piuttosto che ai responsabili della manutenzione del robot-, o, nella responsabilità sempre più frammentata e indeterminata dell’equipe o dell’ente. Non sono inedite infatti le fattispecie della responsabilità da “contatto sociale” o l’abusato e per molti versi forzoso “contratto di spedalità”, che sempre più, nell’immaginario collettivo, creano il convincimento che la malattia, qualunque essa sia, è “guaribile”, e la morte non esiste. In caso contrario si tratterà senza dubbio di malpractice.
Il modo giuridico si spacca.
Fioccano le “raccomandazioni”, le “risoluzioni”, primordiali vagiti di una law in action che cerca di tenere il passo con gli elementi propulsivi di una scienza che non vuole sentire ragioni, o, almeno, così pare.
Mentre oltre oceano Silicon Valley preme verso una AI sempre più avanzata con investimenti ingenti e una formazione insistentemente rivoluzionaria sin dalla tenera età, in Europa il parlamento europeo con la “Risoluzione del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (2015/2103(INL)”, tenta di tracciare delle linee guida, ma il risultato è poco convincente e troppo generico. Il documento esalta l’inevitabilità di una realtà inarrestabile che esige regolamentazione, azzardando finanche la predisposizione di apposite norme che disciplinino le caratteristiche della responsabilità e i criteri di assunzione della stessa da parte anche di un robot agente, nel rispetto di valori riconosciuti come universali e umanistici. L’Europa dunque sostiene che il progresso della robotica, dovrà essere pensato e canalizzato nell’ottica che meglio garantisca la possibilità di preservare diritti fondamentali della persona, come dignità, autonomia ed autodeterminazione, ovvero i temi cari e ispiratori della Convenzione di Oviedo. Da qui il fulcro centrale del documento e dell’attenzione del Parlamento Europeo, l’individuazione condivisa della responsabilità civile per tutti i possibili ed eventuali danni causati da un robot, agente o meno che sia, al fine di garantire un equilibrio in termini di efficienza e coerenza.
Il nostro Comitato per la Bioetica unitamente al Comitato Nazionale per la Biosicurezza le Biotecnologie e le Scienze della Vita, con la raccomandazione del 17 luglio 2017, pur affrontando in maniera più compiuta, anela una risposta davvero interdisciplinare, ponendo al contrario vetuste osservazioni già note in altri ambiti bioetici, fino ad ammettere, argomentando di sistemi bio-ispirati, quanto segue : “Siamo poco preparati ad affrontare domande di questo genere. Il rapido progresso di un settore scientifico o tecnologico mette a nudo, come è già accaduto in numerose circostanze, situazioni di scarsa elaborazione o di vuoto concettuale in relazione alle problematiche di etica applicata che esso suscita”.
E intanto quid iuris?
Simbolico allo stato e monito per gli operatori del diritto rimane il caso “Mracek”.
Roland Mracek, ricoverato nel 2005 presso Bryn Mawr Hospital di Philadelphia- Pennsylvania accetta l’intervento di prostectomia, a causa della presenza di un adenocarcinoma, a mezzo del famoso e pluri testato robot Da Vinci, al fine di evitare o quantomeno minimizzare i rischi della disfunzione erettile.
Il sistema del robot però, durante l’intervento, comunica messaggi di errore e, nonostante numerosi riavvii e l’intervento di un tecnico specializzato, il robot presenta severe anomalie. Il chirurgo, dunque decide di procedere con lo sfruttamento parziale del robot facendo ricorso all’endoscopio 3D, ma sfortunatamente anche questo non risponde ai comandi. Escluso totalmente a questo punto il robot Da vinci, il chirurgo dopo 45 minuti dall’ultimo tentativo di usare l’endoscopio, decide di procedere con l’intervento tradizionale. A distanza di meno di una settimana il paziente verrà nuovamente ricoverato a seguito di un’importante emorragia. Attualmente il paziente soffre di disfunzione erettile totale e di dolori addominali quotidiani (United States District Court for the Eastern District of Pennsylvania”2375/2009/ARLM http://www.ca3.uscourts.gov/opinarch/092042np.pdf.)
Chi è responsabile del danno subito da Mracek? È senza dubbio il produttore di Da Vinci, come ha stabilito la Corte Americana? Il medico è senza dubbio esente da responsabilità? Il prototipo successivo del Da Vinci prevede una certa autonomia decisionale del robot durante l’intervento, chi ne risponde? Il produttore? Il programmatore? Il medico che non ha staccato la spina, non al paziente, ma questa volta al robot?
È possibile che robot medico provochi danni al paziente nonostante il suo perfetto funzionamento, cioè in assenza di anomalie o comunque in assenza della famosa catena dei cosiddetti “fattori di disturbo”, quale sarà l’impostazione biogiuridica e quale quella strettamente giuridica?
In realtà la polisemia congenita del termine responsabilità, soprattutto nell’ambito analizzato, negli ultimi anni ha subito una pericolosa enfasi determinando l’inevitabile incertezza e ambiguità circa il suo statuto concettuale.
In che rapporto stanno responsabilità legale e responsabilità morale nell’ambito della robotica e intelligenza artificiale?
I fattori causali del danno davvero determinano una mera questione di ordine epistemologico fasulla?
Accanto alla responsabilità per danni causati da sistemi robotici, deve essere ipotizzata la responsabilità che invece investe la scelta di impiegare particolari robot anche in contesti che prevedono una stretta interazione fisica tra esseri umani e robot.
Inquietante lo studio pubblicato nel corso del 2016 da ricercatori dell’università dell’Illinois e dal MIT che ha analizzato i casi di chirurgia assistita da robot registrati negli archivi della Food and Drug Administration. Il periodo del report statunitense va dal 2000 al 2013, con l’analisi di un campione di più di 10.000 incidenti con 144 esiti mortali e 1.391 eventi avversi con “significative conseguenze per i pazienti, incluse le lesioni”. In realtà ciò che è inquietante è che allo stato dell’analisi circa 8.000 processi sono ancora in corso perché alcune compagnie assicurative hanno negato il risarcimento ai pazienti e dunque la sussistenza della garanzia per fondate “dichiarazioni reticenti degli assicurati sull’aggravamento del rischio”.
Il diritto è lento e impreparato, è vero, non regge il passo. Il tema del cosiddetto “post-umano” richiede l’intervento di un nuovo tipo di giurista, libero da pregiudizi, da schemi e convenzioni oramai antichi, serve cioè un giurista in grado di tenere il passo con l’attualità di fattispecie concrete che necessitano inevitabilmente di essere trasformate in fattispecie astratte, atte appunto a normare, a maglie decisamente larghe un futuro che è già passato.
L’alternativa, affascinante quanto terrorizzante, è già presente, però.
L’AI sta prendendo possesso lentamente di ambiti apparentemente intoccabili e personalistici, come quello del diritto. Hanno perso l’aurea della novità, infatti, le cd. “sentenze virtuali”, sentenze “emesse” da intelligenze artificiali edotte giuridicamente.
In mancanza di un giurista al passo, assisteremo dunque a processi dove l’AI medica sarà assistita e giudicata da una AI giuridica?
Ma questa è un’altra storia.
Avv. Rosaria Elefante
Presidente Nazionale Nuova Avvocatura Democratica
Dottore di Ricerca in Bioetica
- Relazione stilata dal Comitato Nazionale per la Bioetica e dal Comitato Nazionale per la Biosicurezza, le Biotecnologie e le Scienze della Vita, 17 luglio 2017.
- K.C. ZORN, O.N. GOFRIT, M.A. ORVIETO, A.A. MIKHAIL, R.M. GALOCY, A.L. SHALHAV, G.P. ZAGAJA, Da Vinci Robot Error and Failure Rates: Single Institution Expe- rience on a Single Three-arm Robot Unit of More than 700 Consecutive Robot-assisted Laparo- scopic Radical Prostatectomies, in “Journal of Endourology / Endourological Society”, Vol. 21, 2007, n. 11.
- J.M. HIDLER, A.E. WALL, Alterations in Muscle Activation Patterns during Robotic- assisted Walking, in “Clinical Biomechanics”, Vol. 20, 2005, n. 2.
- DATTERI, G. TAMBURRINI, Ethical Reflections on Health Care Robotics, in Capurro R., Nagenborg M. (eds.), “Ethics and Robotics”, Amsterdam-Heidelberg, IOS Press/AKA, 2009.
- DATTERI, G. TAMBURRINI, Robotica medica e società, in “XXI Secolo – Il corpo e la mente”, Istituto della Enciclopedia Italiana Fondata da Giovanni Treccani, 2010.
- R.H. TAYLOR, A. MENCIASSI, G. FICHTINGER, P. DARIO, Medical Robo- tics and Computer-Integrated Surgery, in Siciliano B., Khatib O. (eds.), “Springer Handbook of Robotics”, Berlin, Springer-Verlag, 2008;
- H.F.M. VAN DER LOOS, D.J. REINKENSMEYER, Rehabilitation and Health Care Robotics, in Siciliano B., Khatib O.; E. PRASSLER, K. KOSUGE, Domestic Robotics, in Siciliano B., Khatib O. (eds.),
- P.H. DICK, Ma gli androidi sognano pecore elettriche?, Roma, 2005,
- E. MAZZARELLA, L’androide Philip Dick. Identità umana e artificio. Idee per una libertà sostenibile, in Apocalisse e postumano. Il crepuscolo della modernità, P. BARCELLONA, Bari, 2007
- CATTANEO, La responsabilità del professionista, Mi- lano, 1958, p. 64