SLOW AI: per un uso sobrio, rispettoso e giusto dell’intelligenza artificiale generativa

ChatGPT e altri strumenti simili di LLM (Large Language Model), sono sempre più utilizzati dai cittadini come fonte di informazione sulla salute.

Slow AI è un progetto nato in collaborazione con Slow Medicine con lo scopo di definire una posizione che possa orientare sia il cittadino sia il professionista, arginando un utilizzo inappropriato dell’AI in medicina.

Il lavoro, suddiviso in tre sezioni, è stato realizzato da un gruppo di esperti di Zadig srl Società Benefit, SIIAM, GISED, Istituto Mario Negri, Università di Foggia, OMCeO di Torino e Slow Medicine.

Il progetto si è articolato in tre sezioni di ricerca condotte per valutare:

• la capacità di un sistema di intelligenza artificiale generativa di fornire informazioni aderenti alle linee guida;
• la capacità di rispondere correttamente a quesiti posti dai cittadini;
• un’idea dell’utilizzo su argomenti medici.

Grazie al lavoro è stato possibile raccogliere molti dati, analizzarli e riflettere su quali siano i pericoli e quale possa essere un uso sobrio, rispettoso e giusto dell’intelligenza artificiale in risposta alle domande di salute poste dai cittadini.
 
Il decalogo di SLOW AI
 

È così nato un sintetico decalogo, che può fungere da guida per un uso consapevole di questi importanti nuovi strumenti.

 
Questa ne è una versione sintetica.
 

1. Le risposte fornite dall’IA sulla salute sembrano attendibili, ma non sempre lo sono.
2. Le risposte fornite dall’IA non derivano da una comprensione clinica, ma da calcoli statistici.
3. Le risposte fornite dall’IA, pur comprensibili, sono generiche e a rischio di errore sulla diagnosi e sul trattamento.
4. Le risposte fornite dall’IA sono in linea con le raccomandazioni delle linee guida, ma non sempre sono aggiornate.
5. Le risposte fornite dall’IA contengono a volte “allucinazioni”, risposte verosimili, ma del tutto infondate.
6. Le risposte fornite dall’IA sono in ottimo italiano ed è difficile distinguerle da quelle scritte da un umano.
7. Fornire all’IA i propri dati clinici per avere una diagnosi o una cura, oltre a mettere a rischio la privacy, mette a rischio la propria salute.
8. Chiedere all’IA una cura per la propria malattia significa rischiare di avere una risposta inappropriata perché non si tiene conto delle particolarità cliniche della singola persona.
9. Chiedere all’IA di interpretare i risultati di un esame è rischioso perché manca l’interpretazione dell’insieme degli altri dati e della situazione clinica.
10. Bisogna usare l’IA con cautela e un sano scetticismo, le risposte che si ottengono sono generiche e non si adattano al singolo caso: l’IA può sostituirsi al parere del medico.

Una versione più estesa del decalogo è disponibile sul sito di Zadig e di Slow Medicine.