Buonasera a tutti. Io parlo di una cosa che frequento da ormai moltissimi anni, mi sono laureato nell’85 in chirurgia ma con una tesi di intelligenza artificiale; quindi chiedo subito perdono perché su alcune cose sorvolerò, ma penso che dopo due o tre anni di battage mediatico e non sull’Intelligenza Artificiale, la maggior parte di voi avranno le idee abbastanza chiare. Farò una premessa e poi passerò a un paio di esempi.

La premessa è per inquadrare un po’ di concetti che a volte possono sfuggire. Allora che cos’è l’intelligenza artificiale? Intanto cominciamo a dire che: è un’area di ricerca, è scienza, è un’area di ricerca multidisciplinare, che comprende non solo la matematica, non solo la scienza dell’elaborazione, ma anche la filosofia, la sociologia e altre ancora. Quando, come tutte le scienze, ci si applica nel trasferire in campo, la comprensione di questo campo, a problemi umani, parliamo di tecnologia; quindi la tecnologia applicazione della scienza.  La tecnologia normalmente che cosa deve fare? Deve risolvere i problemi o potenziare le capacità umane.
Però l’intelligenza artificiale a differenza della ruspa, del telaio o del microscopio, non non va ad estendere delle capacità fisiche ma, abbastanza curiosamente, cerca di estendere le capacità intellettive, le capacità che vanno sotto quel termine molto nebuloso di intelligenza. Quali sono le principali?

Ci sono degli aspetti di tipo percettivo; Possiamo aumentare la percezione e le capacità percettive che la natura ci ha dato? La risposta in molti casi è sì. Ci sono delle problematiche di tipo recall-memoria; Sappiamo tutti che la nostra memoria è un oggetto piuttosto complesso, molto potente per certi versi, ma anche labile.
Possiamo usare la tecnologia per rinforzare la memoria? Sì.

La rappresentazione della conoscenza, poi tutta una serie di cose che invece i calcolatori fanno piuttosto bene.
Ho qui riassunto sotto i due termini di “Bias removal” e “Statistics”. Statistics banalmente perché, come è dimostrato da tutta la scienza cognitiva degli ultimi cinquant’anni, noi siamo veramente scarsi, nel valutare in maniera corretta i numeri, le statistiche, le frequenze, i rischi relativi e quant’altro. Bias removal, tutti quei Bias cognitivi che diciamo ci rendono estremamente efficaci nella vita di tutti i giorni e soprattutto nel medium naturale, ma che invece in casi di situazioni complesse ci possono produrre problemi.
Quindi questo è l’oggetto su cui si applica l’intelligenza artificiale; è un oggetto complicato, perché negli ultimi secoli, forse anche millenni, la medicina è parecchio cambiata dai quattro umori principali, siamo arrivati con uno sforzo di riduzionistico a modellare singoli atomi che si muovono all’interno di miliardi di cellule.  Dai livelli genetici e molecolari, oggi conosciamo tantissime cose interessanti, su come i vari tessuti interagiscono tra di loro, su come gli organi si influenzano l’uno con l’altro e finalmente quando arriviamo anche a comprendere il tutto, nella singola persona, nel singolo paziente, nel singolo cittadino che abbiamo davanti, non ci dobbiamo mai dimenticare che molti temi legati allo stato di salute, alla diagnostica e poi alla terapia, sono legati anche addirittura all’esterno, alle relazioni sociali, all’impatto dell’ambiente sulla persona.

Quindi sono dei sistemi inerentemente complessi, nel termine stretto della matematica, spesso anche di tipo caotico;
tutti questi sistemi complessi hanno una la caratteristica piuttosto interessante: cioè non sono riducibili a una trattazione esaustiva ed analitica. Bisogna usare delle euristiche, per capire, interpretare correttamente, sistemi così complessi. La psicologia moderna, questa cosa è stata poi volgarizzata dal grande Daniel Kahneman, Nobel dell’economia pur essendo uno psicologo, ha diciamo semplificato, modellato il modo in cui le persone, in questo caso i medici, usano tecniche diverse per risolvere i problemi diagnostici che affrontano. Ci sono dei processi, cosiddetti di tipo 1, che possiamo definire intuitivi, in cui l’esperienza, quindi la presentazione di uno stesso pattern, ci porta molto rapidamente e quasi sempre in maniera molto efficiente, questa è la differenza tra l’esperto ed il principiante, a individuare il contesto corretto; la diagnosi per esempio o una scelta terapeutica, in maniera molto rapida. Ciò nonostante anche le persone più esperte, delle volte devono invece usare processi di tipo analitico, ragionamento.

Quando per esempio c’è qualche dubbio sul fatto che ci si trovi di fronte ad un pattern assolutamente interiorizzato, c’è “l’Executive Override”, una cosa importantissima, che ci salva da errori a volte anche molto gravi; in cui istintivamente noi abbiamo riconosciuto un pattern, ma poi ci viene il dubbio, allora ragionando, questa volta su fatti e principi primi, possiamo correggere la percezione; e viceversa, delle volte la percezione, l’istinto, ci corregge sul fatto che delle volte il nostro ragionamento sta prendendo delle grandi cantonate. Questo è un modello molto interessante, che ci dà un insight su cosa possiamo utilmente usare dell’intelligenza artificiale, per rendere migliore il nostro operato. Vorrei per inciso, farvi vedere questa meravigliosa analisi, di un’entità che ha creato una tassonomia, che descrive in maniera molto analitica, molto univoca, gli errori clinici, il rischio clinico. Vorrei farvi notare che se facciamo un’analisi di causa, gli errori umani, in particolare guardate qui sulla destra la colonna con il titolo Practitioner, quello è il medico, l’infermiere è la persona che sta davanti al paziente; Ecco gli errori di questo tipo qui, Skill-Based ecc..

Sono solo una parte di quello che può succedere, ma ci sono delle cose che sfuggono alla responsabilità del singolo medico; errori generati dal paziente stesso che ad esempio si dimentica di dirgli che è gravemente allergico ai mezzi di contrasto. Oppure addirittura cause di tipo sistemico, organizzativo o comunicativo, le informazioni e il setting di quel caso che portano clamorosamente e inevitabilmente fuori strada il povero clinico che sta lì davanti.

Quindi questa è una cosa molto importante, perché i nostri colleghi informatici, si sono fissati solo sul fatto che il medico, nella sua testa, potrebbe non sapere un certo fatto, non potrebbe percepire un certo segnale.
Sì, è vero, delle volte succede, ma non è tutto lì. Ho fatto questa piccola digressione di tipo cognitivo, per identificare gli ambiti su cui intelligenza artificiale può dare più risultati. E uno che attiene quindi ai fattori del paziente e del medico, è sicuramente afferente, all’area della conoscenza, della cognizione, la rimozione dei bias e quant’altro. Ma non ci dimentichiamo, credo che chiunque di voi faccia pratica clinica lo sappia senza che io glielo debba ricordare, che ci sono dei temi organizzativi, cioè di come fluiscono le informazioni all’interno di un’organizzazione, o di risorse; avere i mezzi materiali e non per trattare nella maniera corretta il paziente, nel momento giusto, su cui di nuovo c’è tanto da fare. Finita la premessa di tipo cognitivo che parla di dove l’intelligenza artificiale ci potrebbe aiutare, parliamo della tecnologia.

Vi dico subito che moltissimi temi dell’intelligenza artificiale, soprattutto negli ultimi 4-5 anni, hanno assunto un livello di hype, quindi di attese esagerate, da parte delle aziende ma anche della produzione accademica che viene fatta in questo campo. Insomma c’è da separare con molta attenzione e un un po’ di sano scetticismo, l’oro dalla pirite. Questo che vi sto dicendo non è una mia impressione, da rancoroso perché io non ci sono riuscito.
Vi riporto, chi di voi vorrà potrà approfondire, un articolo secondo me è molto importante che consiglio soprattutto ai colleghi di tecnologia più che ai colleghi medici; a questi secondi chiedo solo di fidarsi delle mie parole. Questo articolo, del novembre del 2020, è a firma di più di una ventina dei migliori ricercatori di intelligenza artificiale della Google; Ed è uno qualunque, perché lo stesso tema io lo conosco declinato in molti modi. E’ un momento di sobrietà che dice: attenzione, la versione moderna che ha fatto fare tantissimi progressi in aree vicine – il cosiddetto machine learning – attenzione ci sono dei grossi problemi. L’articolo dice, i modelli di machine learning, che vengono pubblicati con risultati eccezionali, quando poi li metti negli ospedali in mano ai colleghi medici falliscono miseramente. Questa è una cosa pericolosissima, è una cosa che va capita.

L’articolo prosegue: questi errori ve li dimostriamo con tantissimi esempi: medical imaging, clinical risk prediction, electronic health records e Medical Genomics; quindi si sono accaniti proprio nel campo che a noi interessa di più.
Quindi, attenzione un momento di sobrietà: non è tutto oro ciò che è machine learning. Non andremo a fondo su pregi e difetti, sui punti di attenzione del machine learning, però vi voglio solo ricordare un fatto: il machine learning può funzionare molto bene ma è fragile, cioè quando fallisce, fallisce clamorosamente.
L’esempio un po’ brutale è della famosa macchina a guida autonoma che uccise una signora mentre attraversava la strada. Oppure, questa volta fatta apposta, un attacco avversariale che trasforma una classificazione di un neo cutaneo, definito perfettamente benigno, con una tecnica in questo caso voluta che però non è percepita dall’essere umano, viene sovvertito, nella sua interpretazione, in maniera diametralmente opposta come un melanoma; stessa cosa, nella parte bassa della figura di destra, vedete si possono fare nell’interpretazione del testo, in linguaggio naturale, dove semplici permutazioni neutre per un essere umano, portano completamente fuori strada questi sistemi di classificazione.

Questo è il motivo per cui, io personalmente, la ricerca dell’azienda in cui sto lavorando e tanta ricerca accademica in giro per il mondo, sta applicando, un modo di utilizzare gli algoritmi e la computer science, che c’è dietro all’intelligenza artificiale, ripescando il meglio di tante tecniche; In particolare l’utilità dell’utilizzo di alcuni sistemi sub-simbolici, come le reti neurali e le reti profonde, accoppiata invece all’intelligenza artificiale di tipo simbolico, quella con cui io mi laureai negli anni 80.

Se ci fate un attimo di attenzione è come portare insieme un sistema intuitivo di tipo 1, passatemi la licenza poetica: Neural Network, con invece un sistema razionale analitico di tipo 2: simbolic AI; come avviene con successo nella nostra testa, molto probabilmente è una buona idea farlo anche in termini algoritmica. Questo è il motivo per cui negli ultimi 2/3 anni stiamo vedendo una crescente attenzione, una crescente produzione prima accademica e poi industriale, di approcci cosiddetti neuro-simbolici in cui usiamo queste tecniche, statistiche, di ottimizzazione matematica e di modellazione per aggredire i problemi complessi tipici del campo della medicina. Finisco questa brevissima parte diciamo così di inquadramento dell’intelligenza e di quella artificiale, ricordando una banalità: che mentre per pubblicare un paper va bene qualunque cosa, nella vita reale è opportuno applicare l’intelligenza artificiale a problemi reali, validati dalle persone che lavorano a contatto con i pazienti.

Vi porto un contro esempio: questo è un articolo della prima fase, della prima ondata del COVID, in cui l’università che sta qui vicino, dove peraltro ci sono dei colleghi eccezionali con cui ho anche collaborato, erano tutti felici perché avevano installato un sistema, in grado di identificare, in poche decine di secondi, lesioni polmonari tipiche del COVID; Ed è vero, cioè su quelle immagini lì si faceva in poche decine di secondi quella diagnosi. A parte che anch’io, da un po’ non sto più in corsia, se mi fate vedere una di queste immagini lo vedo altrettanto velocemente; ma, come mi ha detto il buon presidente della Società italiana dei radiologi, infuriato: ma che cosa vuol dire, io quando ho un paziente COVID positivo, il problema è che poi ci metto un’ora a sanificare la sala in cui è stato fatto l’esame. Quindi, a cosa mi serve un sistema che in 10 secondi mi fa la diagnosi… No, è proprio un discorso di utilità. Ciò nonostante, l’interesse è ancora molto alto, peraltro non sto dicendo che è tutto farlocco; sto dicendo che è importante capire i limiti e i pregi di ognuna di queste tecniche e applicarli a problemi concreti. La cardiologia come vedete si colloca più o meno alla metà, Federico Cabitza mi ha detto che ha fatto i conti anche meglio.

Però si colloca più o meno nella nella parte centrale, della produzione scientifica, di lavori di intelligenza artificiale applicati ad una specialità della medicina. Vi faccio vedere un paio di esempi velocissimi e poi lascio la parola a Federico, di lavori che ho fatto io. Il primo l’ho fatto personalmente, con un ragazzo che doveva fare la tesi di laurea: Questo è un frammento della cartella di un paziente del professor Sinagra, di Trieste; una cartella di un paziente con scompenso cardiaco e non è nemmeno la più complessa che ho trovato. Quando mi arriva un paziente che ha una storia così lunga, così complessa, che io magari non ho mai visto o che non posso ricordare, semplicemente andare a identificare in questa documentazione qual è lo score è una cosa che mi fa perdere tempo, in questo caso specifico non tanto perché c’è scritta proprio, ma in altri casi no, la devo ricostruire da un po’ di informazioni che vedo qui. In questo caso abbiamo sviluppato, anche se questo è un esempio diverso ancora, un sistema di riconoscimento del testo che andava a identificare le entità cliniche, terapeutiche, classiche di questo tipo di patologie e quindi da quel testo amorfo mi classificata molto rapidamente i livelli dello score e la progressione dello stesso nel tempo, in modo da permettermi di aggiustare al meglio la terapia.

Un altro esempio interessante che stiamo pubblicando tra l’altro in questi giorni, deriva invece dall’applicazione di queste tecniche di identificazione delle informazioni cliniche, dentro al flusso dei sistemi informativi ospedalieri e abbiamo applicato queste tecniche per modellare cosa succede, nel percorso diagnostico di pazienti con disordini della valvola aortica. Come si vede da quel piccolo grafico a barre, c’è una maggior parte di questi pazienti che vengono diagnosticati correttamente e definitivamente, anche solo al primo incontro; in più piccola parte anche 2/4 incontri. C’è da notare che esiste una coda lunga, piccola dal punto di vista numerico ma non nulla, di pazienti che nei sei mesi di dati che abbiamo osservato addirittura hanno avuto bisogno di 12 incontri. Applicando queste tecniche di identificazione dei concetti, nel flusso bruto dei sistemi informativi ospedalieri, abbiamo costruito dei diagrammi di percorso di questi pazienti. Da quelli iper semplici, quindi visti la prima volta, tutta la documentazione a posto, avevano quello che mi serviva per fare una diagnosi; a quelli invece che avevano bisogno di circa tre incontri. Questi flussi non sono flussi ideali di un paziente, sono le cose che succedono davvero nell’ospedale per n motivi: mancanza di documentazione, mancanza di capienza in alcune situazioni diagnostiche e quant’altro: identifichiamo complessità crescenti, fino ad arrivare alla paziente più sfortunata di tutte, dove tra la prima volta e la diagnosi definitiva sono serviti 12 incontri.

Analizzando questi flussi, il perché e quali sono stati i problemi, noi siamo riusciti a dimostrare, in questo caso a questo ospedale, di aver identificato delle ottimizzazioni di processo molto importanti che ridurranno quindi questi incontri, aumentando l’efficacia clinica, innanzitutto, di chi tratta questi pazienti e ovviamente anche i riflessi di tipo economico che ci sono sull’utilizzo delle risorse dell’ospedale; che lavorerà meglio sprecando meno tempo e potendo trattare più pazienti. Quindi questi sono degli esempi di cose estremamente concrete.

Concludo: l’utilizzo più interessante dell’intelligenza artificiale in campo clinico, oggi, anche nel campo della cardiologia è quella della integrazione di informazioni di letteratura, linee guida, database vari, qui ce ne sono due che riguardano le malattie rare, tutte le informazioni multi modali, quindi Imaging, genomica, laboratorio, tracciati, abbiamo sentito ovviamente prima riferirci a tracciati elettrocardiografici e quant’altro; in delle reti semantiche, dove i concetti relativi a tutti i pazienti e al singolo paziente, sono correlate in maniera molto chiara e molto univoca. Queste reti possono poi alimentare sistemi che supportano il clinico e chi prende in cura un paziente, nel prendere le decisioni giuste, avendo le informazioni giuste al momento giusto.

Questo è quanto. Vi ringrazio dell’attenzione.