Abstract
Coloro che, sentendo parlare di Intelligenza Artificiale (I.A.), immaginano mondi futuristici dominati da robot dotati di evolutissime capacità che li rendono in grado di sostituirsi all’uomo potrebbero trovare interessante dedicare qualche minuto a leggere quanto segue.
Infatti, in realtà, l’impiego dell’I.A. in differenti settori della nostra quotidianità è già ad oggi molto più reale di quanto possiamo pensare e la Medicina Legale stessa se ne dovrà sempre più spesso occupare nell’immediato futuro.
Per questo nell’ambito del Congresso SIMLA che si terrà a Bari dal 26 al 28 maggio 2022 uno dei temi di spicco sarà Medicina Legale e Intelligenza Artificiale: quale futuro?
. . . .
Cos’è l’Intelligenza Artificiale?
In buona sostanza, l’Intelligenza Artificiale è un settore dell’informatica, nato a partire dalla fine degli anni Cinquanta, finalizzato alla progettazione di sistemi (hardware e software) dotati di quelle caratteristiche che possono essere attribuite tipicamente agli umani. Tra queste le capacità logico-matematiche o procedurali, che sono ricondotte alle cosiddette “intelligenze multiple” dalla teoria di uno dei padri delle scienze cognitive, il dr. Howard Gardner.
Infatti, alla base del comportamento umano, vi sono alcune peculiari caratteristiche, a lungo studiate dai programmatori di I.A.: in primo luogo, la conoscenza non sterile; in secondo luogo, la coscienza, che consente di prendere decisioni non basate esclusivamente su un ragionamento logico; in ultimo, l’abilità di risolvere problemi in maniera differenziata a seconda delle circostanze.
Lo sforzo della ricerca si è quindi focalizzato sullo sviluppo di algoritmi nuovi e sempre più numerosi, che potessero indirizzare i comportamenti della macchina a seconda degli stimoli ambientali.
Una delle più importanti evoluzioni dell’I.A. è quindi rappresentata dallo sviluppo di algoritmi in grado di far imparare la macchina dai propri errori e di far migliorare la sua capacità di agire e prendere decisioni.
La macchina è così idonea ad implementare il proprio funzionamento tramite l’esperienza, proprio come gli umani, in un contesto di apprendimento automatico, il machine learning.
Ciò è fondamentale al fine di creare sistemi intelligenti, in grado di muoversi in contesti per i quali i programmatori non possono prevedere a priori tutte le possibilità di sviluppo.
.
Perché interessarsi di Intelligenza Artificiale?
Lungi dall’essere appannaggio di esclusive élite informatiche, l’I.A. fa già ampiamente parte della nostra vita quotidiana. Pensiamo per esempio agli strumenti di riconoscimento di voci o immagini che sono integrati nei nostri smartphone o ai veicoli in grado di muoversi senza pilota o al mondo dei giochi digitali, nei quali programmi di scacchi o backgammon imparano a conoscere l’avversario umano a partire dalle proprie sconfitte.
Non è difficile intuire che uno dei settori in cui l’I.A., oltre ad essere già da tempo impiegata, proietta il proprio potenziale più promettente e lungimirante è rappresentato dalla medicina.
.
Intelligenza Artificiale e Medicina
La rivoluzione digitale introdotta con l’avvento dell’I.A. sta cambiando profondamente molti aspetti legati alla prevenzione, diagnosi e cura delle patologie.
Ad oggi, una folta schiera di prodotti informatici sono a disposizione nei professionisti del mondo sanitario, quali strumenti – per esempio – di predizione del rischio di sviluppo di malattie cronico-degenerative, attraverso le applicazioni in ambito genomico, diagnosi precoce di condizioni neoplastiche o pre-cancerose, implementazione della gestione farmacologica, anche di condizioni in passato altamente invalidanti quali il diabete di tipo 1 o il dolore cronico.
L’I.A. risulta essere di esteso utilizzo anche in ambito chirurgico, con lo sviluppo di software di simulazione 3D, riconoscimento in vivo delle strutture anatomiche o software di realtà aumentata utilizzati durante la navigazione intra-operatoria.
Con la spinta determinante indotta dall’attuale pandemia da SARS-CoV-2, l’I.A. ha assunto un ruolo chiave nella fornitura dei servizi sanitari attraverso servizi di telemedicina, e nell’analisi di un’enorme mole di dati epidemiologici e clinici che si è trasformata poi in modelli di predizione fondamentali per la gestione dell’emergenza sanitaria.
.
I risvolti medico-legali
Se da un lato il ricorso all’I.A. tende a ridurre i rischi dettati dall’imprevedibilità dell’agire del singolo operatore umano e la probabilità di errore legato alla manualità della prestazione tecnica, dall’altro espone alla tentazione di un eccessivo affidamento del sanitario nelle capacità della macchina, fino alla possibilità che si crei una dipendenza dai sistemi informatici con conseguente deskilling da automatizzazione dell’attività medica.
In tale contesto, un aspetto medico-legale cogente è rappresentato dalla difficoltà di attribuzione della responsabilità da malpractice laddove il sanitario abbia impiegato strumenti di I.A. durante il proprio operato.
Senza la pretesa di approfondire in questa sede una questione estremamente complessa, le fattispecie possono essere molteplici, spaziando dai problemi di individuazione dei responsabili del danno causato da un difetto di manutenzione della macchina, o dall’incongruo “addestramento” del software di I.A. (errata configurazione, mancato aggiornamento) alle ipotesi in cui il sanitario possa essere accusato di non aver applicato una revisione critica del “pensiero artificiale” che lo abbia indotto in errore nell’elaborazione di una diagnosi o di una terapia.
Un campo aperto di dibattito è inoltre rappresentato dalla quota di responsabilità attribuibile al sanitario che realizzi un errore esecutivo mediante l’utilizzo di sistemi robotici. Nel caso di prodotti di I.A. può essere estremamente complesso provare che lo strumento sia difettoso e dimostrare il nesso di causalità tra difetto e danno, soprattutto se il difetto è imputabile a carenze di cyber-sicurezza o di manutenzione digitale del prodotto.
Inoltre, come approfondito in un recente lavoro del Prof. Oliva e colleghi pubblicato su Frontiers in Medicine, in ambito medico l’I.A. può evolvere solo se ingenti quantità di dati relativi alla salute sono raccolti ed immessi in dataset che alimentano l’apprendimento dei sistemi informatici a questo deputati, situazione questa estremamente delicata sul piano del trattamento dei dati personali.
.
I pericoli legati alla protezione dei dati
I dati relativi alla salute ed i dati genetici sono le informazioni personali più sensibili esistenti e un loro trattamento incongruo può avere esiti estremamente dannosi e discriminatori.
La prima temibilissima eventualità è quella di data breach, ovvero di compromissione della riservatezza, integrità o disponibilità dei dati personali per una violazione – accidentale o illecita – della loro sicurezza con conseguente distruzione, perdita, modifica, divulgazione non autorizzata o accesso ai dati stessi.
In secondo luogo, come sottolineato dal Garante per la protezione dei dati personali in una memoria presentata il 9 marzo 2022 alla Camera dei Deputati in merito alla Proposta di regolamento (UE) sull’intelligenza artificiale, “il trattamento di dati (in particolare personali) è funzionale all’alimentazione dei sistemi di I.A. in vista del loro apprendimento automatico. Evidente, quindi, come gli errori o le scorrettezze nel trattamento dei dati funzionali all’alimentazione della macchina (sia in fase di “allenamento” sia in fase esecutiva) si riflettano in altrettante distorsioni del processo algoritmico“.
Ciò ha conseguenze non di poco conto.
Sul punto, si consideri che l’Europa, già nel 2016, con gli artt. 22 del GDPR e 11 della Direttiva (UE) 2016/680 (che ne costituisce il corrispondente per il settore di giustizia penale), aveva introdotto un primo diktat giuridico in relazione ai processi decisionali automatizzati, che costituiscono un aspetto fondante dell’I.A., vale a dire il diritto alla spiegazione, alla revisione umana della decisione automatizzata e il divieto di discriminazione.
In particolare, in ordine ai divieti, l’approccio europeo è garantista in quanto volto a vietare qualsiasi sistema di I.A. che funzioni per mezzo di punteggi sociali, in qualsiasi ambito, o che sia finalizzato alla deduzione delle emozioni, o ancora che abbia il fine di categorizzare le persone in insiemi, sulla base dei motivi di discriminazione indicati all’art. 21 della Carta dei Diritti fondamentali dell’Unione Europea, vale a dire, tra gli altri, sulla base dei dati biometrici, genetici, o relativi alla salute, all’etnia, al genere, all’orientamento sessuale.
Come è facile intuire, in un mondo medico in cui i processi decisionali saranno sempre più affidati ai sistemi di I.A. sulla base di un’impressionante quantità di dati a disposizione, la sfida sarà quella di evitare la discriminazione “automatizzata” dei pazienti e di garantire a tutti un’equa tutela della salute, indipendentemente dai fattori di rischi e dalle predisposizioni individuali.
In conclusione, i punti di intersezione tra Intelligenza Artificiale e Medicina Legale sono tanti e gli spunti di riflessione per il futuro estremamente stimolanti. Non ci resta che vederci a Bari dal 26 al 28 maggio 2022 per discuterne insieme!
VUOI APPROFONDIRE QUESTO ARGOMENTO?
Leggi anche: Dati relativi alla salute del soggetto defunto: chi ha diritto di accesso? e Valutazione danno e intelligenza artificiale: intervento del Presidente R. Zoja
