Usare l’AI in medicina: il decalogo della Slow AI

Uno strano dolore, una puntura d’insetto, un dubbio sul cibo… che cosa faccio? Chiedo a un’Intelligenza Artificiale! Per molti è un riflesso immediato.

Gli strumenti di intelligenza artificiale generativa (come chatGPT, Claude, Gemini) sono sempre più utilizzati dai cittadini come fonte di informazione sulla salute.

Per questo è nato il progetto Slow AI, di Slow Medicine ETS: per definire una posizione che possa orientare sia i cittadini sia i professionisti a utilizzare correttamente l’AI per ottenere informazioni sulla salute, arginandone un utilizzo inappropriato.

Il lavoro, suddiviso in tre sezioni, è stato realizzato da un gruppo di esperti di Zadig, SIIAM (Società Italiana di Intelligenza Artificiale in Medicina), GISED (Gruppo Italiano di Studio per l’Educazione sul Diabete), Istituto Mario Negri, Università di Foggia, OMCeO (Ordine dei Medici Chirurghi e degli Odontoiatri) di Torino e Slow Medicine.

Le tre sezioni del progetto miravano a valutare la capacità di un sistema di intelligenza artificiale generativa di fornire informazioni aderenti alle linee guida, di rispondere correttamente a quesiti di salute posti dai cittadini e volevano avere avere un’idea dell’utilizzo dell’AI su argomenti medici.

Grazie al lavoro è stato possibile raccogliere molti dati, analizzarli e riflettere su quali siano i pericoli e quale possa essere un uso “sobrio, rispettoso e giusto”, secondo lo slogan di Slow Medicine, dell’intelligenza artificiale in risposta alle domande di salute poste dai cittadini.

È così nato un decalogo, che funge da guida per un uso consapevole dell’intelligenza artificiale (IA) generativa.

1. I sistemi di IA generativa se interrogati per rispondere a quesiti sulla salute rispondono in maniera “convincente”, sembrano cioè fornire informazioni attendibili e adeguate, ma non bisogna lasciarsi ingannare da questa parvenza di verità.
2. Le risposte fornite dall’IA generativa non derivano da una comprensione clinica o da un ragionamento medico, ma da un puro calcolo statistico delle probabilità che una data parola si associ meglio con quelle che la precedono nella risposta, ignorando il significato della frase generata, senza accesso diretto alle fonti né capacità di valutare l’appropriatezza clinica nel singolo caso.
3. Se confrontate alle risposte del medico, le risposte fornite dall’IA generativa contengono informazioni che, per quanto comprensibili, generalizzabili alla maggior parte dei pazienti e aggiornate, talvolta sono a rischio di errori e possono veicolare messaggi fuorvianti sulla diagnosi o sul trattamento.
4. Se confrontate con le raccomandazioni delle linee guida su cui si basa l’agire del medico per l’appropriatezza le risposte dell’IA generativa sono nel complesso di buona qualità e generalmente esaurienti, ma talvolta inaccurate o non pienamente coerenti con le linee guida, soprattutto non sempre aggiornate. È fondamentale che i medici supervisionino e partecipino attivamente allo sviluppo e alla validazione di questi strumenti, per garantirne l’aderenza alle raccomandazioni basate su prove scientifiche.
5. In diverse occasioni l’IA generativa ha delle cosiddette “allucinazioni” fornisce cioè delle risposte apparentemente vere o verosimili che però non hanno basi nelle prove della letteratura scientifica.
6. Le risposte dell’IA generativa sono fornite in un ottimo italiano ed è difficile distinguere per una persona se un testo in ambito di salute sia stato scritto dall’IA o dall’uomo.
7. Fornire all’IA generativa i propri dati clinici per averne una diagnosi non solo rischia di portare a una diagnosi errata, che in alcuni casi potrebbe anche mettere in ansia per la sua supposta gravità o tranquillizzare ritardando una diagnosi accurata, ma mette anche a rischio la tua privacy per la condivisione di dati sanitari
8. Chiedere all’IA generativa quale terapia sia ideale per la propria malattia mette a rischio di avere una risposta formalmente perfetta, ma sostanzialmente inappropriata. Il sistema, infatti, non tiene conto di tutti gli elementi della tua storia clinica, delle tue condizioni, di quanto il medico ha rilevato, fornendo in tal modo un “consiglio” standard che potrebbe andar bene in un caso ideale, ma che non è appropriato al caso specifico.
9. Chiedere all’IA generativa di interpretare i risultati di un esame è rischioso perché gli esiti degli esami vanno interpretati avendo a disposizione tutti i dati clinici, inoltre se gli elementi forniti all’IA non sono chiari (per esempio delle immagini non definite di una TAC) il rischio è che l’IA suggerisca una diagnosi completamente errata.
10. Tutti questi rischi devono indurre alla cautela e a un sano scetticismo, essendo ignote le basi delle risposte date dall’IA generativa non ci si può fare affidamento, se non usando il sistema con domande generiche e non personali, che possono dare per esempio informazioni su una data malattia (quindi uso sobrio), senza mai inserire i propri dati personali (approccio rispettoso della privacy e dell’etica) e cercando di capire se quanto risposto corrisponda al vero (giusto), affidandosi cioè sempre e comunque al medico per interpretare eventuali risposte o avere certezza riguardo alle informazioni ottenute.

Maggiori informazioni sono disponibili sul sito di Zadig e di Slow Medicine.