Secondo uno studio, i medici che si affidano all’IA sono diventati il 20% meno bravi nell’individuare i rischi per la salute

Gli strumenti di assistenza AI sono diventati una risorsa quotidiana che ha contribuito ad aumentare la produttività e la velocità in diversi settori. Nonostante i notevoli benefici di questi sistemi intelligenti, gli esperti medici sono preoccupati che un'eccessiva dipendenza dall'intelligenza artificiale possa causare più danni che benefici.

La dipendenza dall'AI può ridurre i tassi di rilevamento dei medici nelle colonscopie

Uno studio recente condotto su 1.443 pazienti ha rivelato che gli endoscopisti che utilizzavano agenti AI durante le colonscopie ottenevano un tasso di successo inferiore nel rilevare irregolarità quando questi strumenti non venivano utilizzati. 

I risultati della ricerca, pubblicati questo mese sulla rivista Lancet Gastroenterology & Hepatology, mostrano che questi medici hanno raggiunto un tasso di successo del 28,4% nel rilevare potenziali polipi utilizzando la tecnologia. Senza questi strumenti, la percentuale è scesa al 22,4%, rappresentando una diminuzione del 20% nei tassi di rilevamento.

Il Dr. Marcin Romańczyk, gastroenterologo presso l'H-T. Medical Center di Tychy, Polonia, e autore dello studio, ha espresso sorpresa per i risultati. Ha indicato l'eccessiva dipendenza dall'intelligenza artificiale come uno dei principali fattori che hanno contribuito al calo dei tassi di rilevamento.

Abbiamo imparato la medicina dai libri e dai nostri mentori. Li osservavamo. Ci dicevano cosa fare. E ora c'è un oggetto artificiale che suggerisce cosa dovremmo fare, dove dovremmo guardare, e in realtà non sappiamo come comportarci in quel caso particolare.

Dr. Marcin Romańczyk

Il risultato non solo evidenzia i potenziali effetti negativi di un'eccessiva dipendenza dall'intelligenza artificiale, ma tocca anche l'evoluzione della pratica medica da una tradizione focalizzata sull'analogico a un'era digitale.

Preoccupazioni sull'intelligenza artificiale nei luoghi di lavoro: guadagni di produttività a costo cognitivo

Oltre all'aumento dell'impiego nei teatri medici e negli uffici, l'automazione AI è diventata una presenza fissa nei luoghi di lavoro, con molti che ora si affidano a questi strumenti per aumentare la produttività. Goldman Sachs ha persino previsto nel 2023 che l'AI potrebbe aumentare la produttività sul lavoro fino al 25%.

Ma l'adozione di questi sistemi AI comporta anche il peso di eventuali svantaggi. Infatti, la ricerca delle principali aziende ha evidenziato i rischi associati a una fiducia eccessiva in questi strumenti. 

Una pubblicazione di Microsoft e Carnegie Mellon University ha rilevato che l'AI ha contribuito ad aumentare l'efficienza lavorativa tra un gruppo di lavoratori della conoscenza intervistati. Ma ha indebolito le loro capacità di giudizio "atrofizzate" e la capacità analitica.

Eccessiva dipendenza dall'intelligenza artificiale nell'aviazione: lezioni dal volo Air France 447

Anche nel settore dell'aviazione, dove la sicurezza è fondamentale, prove precedenti suggeriscono che un'eccessiva dipendenza dall'automazione può compromettere la sicurezza. Nel 2009, un volo Air France 447 in viaggio da Rio de Janeiro a Parigi si è schiantato nell'Oceano Atlantico, causando la perdita di oltre 228 vite.

Le indagini hanno successivamente rivelato che il sistema di automazione dell'aereo aveva sviluppato malfunzionamenti. Ciò ha causato la trasmissione di informazioni errate da parte del "flight director" automatico dell'aereo. E poiché il personale di volo non era adeguatamente addestrato al volo manuale, si è affidato alle funzioni automatiche dell'aereo invece di apportare le necessarie correzioni.

Bilanciare l'adozione dell'AI con la competenza umana nei settori ad alto rischio

Lynn Wu, professoressa associata di operations, information e decisions presso la Wharton School dell'University of Pennsylvania, ha osservato che questi incidenti rappresentano un campanello d'allarme per l'adozione dell'AI nei settori in cui la sicurezza umana è fondamentale. Wu ha spiegato che, pur adottando queste tecnologie, le industrie dovrebbero assicurarsi che i lavoratori adottino correttamente questi strumenti.

Ciò che è importante è che impariamo da questa storia dell'aviazione e dalla generazione precedente di automazione, che l'AI può assolutamente migliorare le prestazioni. Ma allo stesso tempo, dobbiamo mantenere quelle competenze critiche, in modo che quando l'AI non funziona, sappiamo come intervenire.

Lynn Wu

Ha aggiunto che se le persone perdono le proprie competenze, anche l'intelligenza artificiale funzionerà peggio. Affinché l'AI migliori, anche gli individui devono migliorare continuamente se stessi.

Anche Romańczyk accetta l'uso dell'AI in medicina, osservando che "l'AI sarà, o è già, parte della nostra vita, che ci piaccia o no." Tuttavia, ha sottolineato la necessità di comprendere come l'intelligenza artificiale influenzi il pensiero umano e ha esortato i professionisti a determinare i modi più efficaci per utilizzarla.