A seguito di un’indagine del Guardian, Google ha rimosso alcune delle sue sintesi sanitarie generate dall’intelligenza artificiale. Il rischio segnalato riguarda l’esposizione degli utenti a informazioni false e fuorvianti, legate in particolare alle condizioni di salute.
Una falsa rassicurazione molto pericolosa
Il problema principale risiede nella semplificazione eccessiva operata dall’IA: i parametri per gli esami del sangue variano notevolmente in base a sesso, età ed etnia, ma il sistema continuava a fornire numeri generici senza il giusto contesto medico. Gli esperti hanno segnalato che questo potrebbe spingere gli utenti a fidarsi dei risultati rassicuranti, ignorando la necessità di cure mediche o controlli specialistici. Un portavoce di Google ha dichiarato: “Non commentiamo le singole rimozioni all’interno della Ricerca. Nei casi in cui le Panoramiche IA manchino di contesto, lavoriamo per apportare miglioramenti ampi e interveniamo in base alle nostre policy dove opportuno”.
In risposta a questa scoperta, Google ha rimosso le panoramiche IA per alcune richieste specifiche, come “intervallo normale per test del fegato”. Nonostante ciò, il British Liver Trust denuncia che il problema è ancora presente. È sufficiente modificare leggermente la domanda per ottenere esattamente gli stessi risultati, con gli stessi errori – ad esempio usando acronimi come “LFT reference range” -.
A rischio la salute delle persone
Google ci tiene a sottolineare l’utilità del suo strumento, sostenendo che le sintesi dell’IA si basano su fonti attendibili e invitano sempre a consultare medici. Gli esperti di salute pubblica, tuttavia, si mostrano ancora allarmati. Il problema è che Google sta agendo sui singoli casi segnalati dalla stampa, anziché risolvere il problema strutturale delle informazioni mediche generate dall’intelligenza artificiale. Inoltre, pare che vengano forniti dati fuorvianti in altri argomenti oltre la funzionalità epatica, come il cancro e la salute mentale. L’indagine del Guardian evidenzia come questi strumenti, seppur utili in altri settori, siano ancora completamente inaffidabili per temi critici come la salute e rischino di causare conseguenze gravi sulla vita delle persone. Come sottolineato da Matt Southern, di Search Engine Journal: “Quando l’argomento è la salute, gli errori pesano molto di più.”
Stefania Cirillo
