Un’indagine del quotidiano londinese The Guardian ha rivelato che le informazioni sanitarie -spesso dimostratesi false e fuorvianti – offerte dall’Intelligenza artificiale di Google mettono a rischio la vita delle persone. Secondo i ricercatori, i riassunti considerati, che compaiono in cima ai risultati di ricerca, fornivano informazioni sanitarie inaccurate. L’idea della ricerca è nata dopo che diversi gruppi sanitari, enti di beneficenza e professionisti hanno sollevato preoccupazioni
Google ha comunque risposto che sue panoramiche AI, che utilizzano l’intelligenza artificiale generativa per fornire istantanee di informazioni essenziali su un argomento o una domanda, sono ” utili ” e ” affidabili “.
Tuttavia, il giornale londinese elenca usa serie di notizie inaccurate. A partire da quello che viene definito dagli esperti come “davvero pericoloso”. Google avrebbe erroneamente consigliato alle persone affette da cancro al pancreas di evitare cibi ricchi di grassi. Gli esperti hanno affermato che questo era l’esatto opposto di ciò che si dovrebbe raccomandare e che potrebbe aumentare il rischio di morte per malattia.
Un altro esempio “allarmante” è citato il relazione alle informazioni sui test per valutare la funzionalità epatica, che potrebbero indurre le persone affette da gravi malattie epatiche a credere erroneamente di essere sane. Poi, sono stati esaminate le notizie sui test per il cancro delle donne che avrebbero hanno fornito informazioni “completamente errate” che, secondo gli esperti, potrebbero indurre ad ignorare i sintomi reali.
The Guardian ricorda che nel novembre dello scorso anno, uno studio ha rilevato che i “chatbot” basati sull’intelligenza artificiale su diverse piattaforme fornivano consigli finanziari imprecisi e che a simili si è giunti per quanto riguarda i riassunti delle notizie .
Il quotidiano riporta poi gli interventi di esperti come nel caso di Sophie Randall, direttrice del Patient Information Forum, che promuove informazioni sanitarie basate su prove scientifiche rivolte a pazienti, pubblico e professionisti sanitari, ha affermato che gli esempi dimostrano che “le panoramiche basate sull’intelligenza artificiale di Google possono mettere informazioni sanitarie imprecise in cima alle ricerche online, presentando un rischio per la salute delle persone”.
Anna Jewell, direttrice del supporto, della ricerca e dell’influenza presso Pancreatic Cancer UK, ha affermato che consigliare ai pazienti con il cancro al pancreas di evitare cibi ricchi di grassi è “completamente sbagliato”. Farlo “potrebbe essere davvero pericoloso e compromettere le possibilità di una persona di stare abbastanza bene da potersi sottoporre al trattamento”, ha aggiunto.
Jewell ha affermato: “La risposta dell’intelligenza artificiale di Google suggerisce che le persone con cancro al pancreas evitino cibi ricchi di grassi e fornisce un elenco di esempi. Tuttavia, se qualcuno seguisse le istruzioni del risultato di ricerca, potrebbe non assumere abbastanza calorie, avere difficoltà ad aumentare di peso e non essere in grado di tollerare né la chemioterapia né un intervento chirurgico potenzialmente salvavita”.
Pamela Healy, amministratore delegato del British Liver Trust, ha affermato che i riepiloghi dell’IA sono allarmanti. “Molte persone con malattie epatiche non mostrano sintomi fino agli stadi avanzati, motivo per cui è così importante che si sottopongano al test. Ma ciò che le panoramiche dell’IA di Google definiscono ‘normale’ può variare drasticamente da ciò che è effettivamente considerato normale”. “È pericoloso perché significa che alcune persone con gravi malattie del fegato potrebbero pensare di avere un risultato normale e poi non prendersi la briga di partecipare a una visita di controllo con il medico.
“Google ha risposto che la stragrande maggioranza delle sue panoramiche basate sull’intelligenza artificiale era concreta e utile, e ha apportato continui miglioramenti alla qualità. Il tasso di accuratezza delle panoramiche basate sull’intelligenza artificiale era in linea con quello delle altre funzionalità di ricerca, come gli snippet in primo piano, presenti da oltre un decennio, ha aggiunto. L’azienda ha inoltre affermato che qualora AI Overview interpretasse male i contenuti web o non cogliesse il contesto, avrebbe preso i provvedimenti opportuni in base alle sue politiche.
Un portavoce di Google ha dichiarato: “Investiamo in modo significativo nella qualità delle panoramiche basate sull’Intelligenza artificiale, in particolare per argomenti come la salute, e la stragrande maggioranza fornisce informazioni accurate”.
About Author
