Blog post

Watson for Oncology è il sistema di Intelligenza Artificiale sviluppato da IBM per supportare le decisioni terapeutiche in oncologia, cioè i migliori trattamenti individuali ed evidence-based. Adottato in più di 50 ospedali nel mondo nei cinque continenti, è anche un prodotto commerciale dell’ordine di decine di milioni di dollari.  Ma non tutte le aspettative sono state soddisfatte. Ci chiediamo se il problema sia negli algoritmi o nel rapporto di collaborazione tra uomo e macchina, ancora immaturo.

Come funziona

Watson è stato istruito da un team di oncologi del New York’s Memorial Sloan Kettering Cancer Center, istituzione di rilevanza mondiale, capitalizzandone l’esperienza decennale. E’ in grado di:

• rilevare centinaia di attributi dalla cartella clinica di un paziente, come anamnesi familiare, test di laboratorio, visite pregresse e persino note testuali destrutturate, essendo in grado di comprendere e contestualizzare il linguaggio naturale. Una volta selezionato il paziente, il medico può risalire in ogni momento alla fonte dell’informazione visualizzata;
• presentare all’oncologo un ranking di opzioni terapeutiche in ordine di appropriatezza per le  condizioni specifiche di quel paziente, mostrandone il razionale macinato da un’impressionante mole di letteratura costantemente aggiornata: 300 pubblicazioni scientifiche, 200 tra libri e manuali, per un totale di oltre 15 milioni di pagine.
• ogni proposta è corredata da indicazioni statistiche circa il successo terapeutico, gli eventi avversi, la tossicità e le interazioni con altri farmaci, con accesso diretto alla fonte.

Le luci

Asco, il più importante congresso mondiale di Oncologia,  giugno 2017: gli specialisti IBM presentano cinque studi a supporto dell’utilità clinica di Watson. Risultati:

• I protocolli suggeriti dalla superintelligenza concordano con le opinioni degli esperti fino al 96% dei casi;
• Watson ha ridotto del 78% il tempo del monitoraggio per l’ammissibilità di 2.620 pazienti ad una sperimentazione clinica, portandolo da quasi due ore a 24 minuti.
• Nelle cliniche poco specializzate, ha individuato molteplici opzioni di trattamento, sopperendo alla mancanza di competenze altamente specialistiche e minimizzando il gap temporale tra le evidenze di ricerca più recenti e la loro adozione nella pratica clinica.

La possibilità di incrociare fino al dettaglio il caso individuale con la mole di dati che nutre il sistema, unita alla potenza di calcolo, sembra essere la chiave di volta che concretizza la proposta di valore di IBM agli oncologi.

“Risparmia il tempo che dedichi alla ricerca della letteratura e dedicalo al tuo paziente”

Impossibile frenare l’entusiasmo dei titoli giornalistici quando è ancora fresca la memoria del cervellone che batte i due finalisti umani nel quiz Jeopardy!  (correva l’anno 2011).

“Il futuro della sanità potrebbe essere elementare con Watson”
“IBM combatte il cancro con i big data”

Se non fosse per un articolo pubblicato da STAT News lo scorso settembre, che racconta una storia diversa.

Le ombre

Intervistando “dozzine di medici, dirigenti IBM ed esperti di IA in tutto il mondo”, STAT ha cercato di discernere i dati di fatto dalle possibili semplificazioni (o amplificazioni) della stampa. La conclusione ridimensiona il caso, ma è al tempo stesso promettente.

“E’ ancora nella sua infanzia, ma sta crescendo rapidamente” come avrebbero ammesso anche i vertici IBM, osservando che entro la fine dell’anno il sistema offrirà una guida per il trattamento dei 12 tipi di cancro che rappresentano l’80% dei casi del mondo. Nel frattempo, STAT News rileva la distanza tra l’onda mediatica e la discesa nel reame della pratica clinica del nostro eroe. In un ambito drammaticamente sensibile.

“Watson può identificare nuovi approcci nella cura del cancro”

Florida, Ospedale Oncologico. Il dottor Sujal Shah riferisce ai colleghi la propria delusione perchè “Watson ha raccomandato a un paziente un regime di chemioterapia che gli oncologi avevano già segnalato”. Sostanzialmente, le informazioni di base fornite da Watson, comprese le pubblicazioni scientifiche, gli sono state utili per confermare una scelta che, però, aveva fatto lui. Non gli ha detto nulla che già non sapesse.

Se definissimo Watson per l’oncologia “un computer molto potente che elabora piani terapeutici sulla base di algoritmi impartiti da esseri umani” emergerebbe chiara la fotografia di quanto può e soprattutto non può fare. Il termine Intelligenza richiama invece istintivamente una prerogativa dell’essere umano: per questo tendiamo ad antropomorfizzare quella delle macchine.

Ma per ora Watson non ha nessuna capacità di pensiero laterale, né unisce i puntini “creando” nuove terapie. E’ utile soltanto nella misura in cui lo sono le informazioni inputate. E questo ci porta al secondo punto.

“E’ stato istruito da un prestigioso centro oncologico di rilevanza mondiale”

L’insegnante di Watson è il Memorial Sloan Kettering di New York, al punto da essere definito la scatola portatile dell’ospedale stesso. STAT News giudica questo fatto “pregiudizievole” perché affidarsi ad un unico centro, per quanto avanzatissimo, potrebbe non essere rappresentativo degli ospedali di altre parti del mondo, o addirittura nell’ambito degli stessi Stati Uniti.  

Il fatto stesso di essere uno dei fari dell’oncologia globale può introdurre una deviazione statistica: il centro tratta prevalentemente casi molto gravi, dove sono già falliti gli approcci terapeutici standard. In quanto centro di eccellenza, tende inoltre ad attrarre pazienti di stato socio-economico più elevato. Secondo Pilar Ossorio, professore di diritto e bioetica presso l’Università del Wisconsin, quello che Watson apprende dal MSK sono “i pregiudizi di razza, genere e classe”, cuocendoli un grande calderone fino a renderli indistinguibili.
Il direttore generale di Watson Health risponde che il pregiudizio proviene dall’enorme quantità di dati nella pancia del sistema. Come dire che, se esiste, è rappresentativo della realtà e non del  sistema.

“A volte, le raccomandazioni che Watson offre divergono dalle opinioni dei medici per ragioni che non hanno nulla a che fare con la scienza, come l’assicurazione medica. In un poster presentato alla Global Breast Cancer Conference 2017, i ricercatori hanno riferito che il trattamento preferito da Watson per le pazienti con cancro al seno semplicemente non era coperto dal sistema assicurativo nazionale”, esemplificano gli oncologi danesi.

Ci chiediamo se il groviglio non sia alimentato da aspettative sbagliate, o premature, oltre che dall’ottimismo della narrativa mediatica. Watson è un’Intelligenza Artificiale applicata alla clinica e non al welfare. Considerazioni di appropriatezza terapeutica non sono ancora il suo dominio, né peraltro IBM si è arrogata questo credito.

Gli altri dubbi

L’indagine di Stat evidenzia altre aree grigie di Watson:

• La mancanza di studi clinici indipendenti;
• La difficoltà nell’interfacciarlo con le cartelle cliniche, che a volte devono essere inserite manualmente (!);
• L’aggiornamento del sistema non sembra tenere il passo con gli avanzamenti della ricerca clinica.

Il bias della percezione umana

L’intelligenza artificiale sta emergendo dal fumo dell’astrazione concretizzandosi in applicazioni disparate, dalla guida autonoma all’accudimento degli anziani. Ma quando la tecnologia è collaudata, deve superare un’altra prova, quella della fiducia:

“In Germania, solo il 5% dei 1000 acquirenti intervistati preferirebbe un’auto completamente autonoma.”

Harvard Business Review ha confrontato nove diversi approcci comunicativi di altrettante aziende attive nell’IA in diversi settori industriali, e sono emersi alcuni indicatori predittivi di “fiducia”, e quindi di successo, nella sua adozione da parte del pubblico:

• La prevedibilità -> l’applicazione si comporta sempre come ci si attende;
• La trasparenza-> le persone hanno compreso la logica che guida la tecnologia, cioè come lavora il suo algoritmo;
• Lo scopo->  l’obiettivo dell’applicazione  è condiviso se ne riconosce valore e utilità;
• L’equilibrio tra il controllo e l’autonomia-> l’essere umano si sente assistito, e non comandato (pena il conflitto e la competizione contro la macchina);
• La gradualità -> l’introduzione a step di una tecnologia permette di consolidarne l’apprendimento e l’accettazione sociale.

Non dobbiamo supporre che la qualità della tecnologia da sola aprirà le autostrade della persuasione, né aspettarci che Watson sconfiggerà il cancro. Uomo e macchina devono venirsi  incontro.

Fonti

STAT News, IBM pitched its Watson supercomputer as a revolution in cancer care. It’s nowhere close

IBM Press Room, ASCO 2017, nuove correlazioni tra l’uso della tecnologia cognitiva di Watson e la cura del cancro

Harvard Business Review, To Get Consumers to Trust AI, Show Them Its Benefits