Un estudio revela que los médicos que dependen de la IA empeoraron un 20% en la detección de riesgos para la salud

Las herramientas de asistencia con IA se han convertido en un recurso cotidiano que ha ayudado a aumentar la productividad y la velocidad en varias industrias. A pesar de los notables beneficios de estos sistemas inteligentes, los expertos médicos están preocupados de que la dependencia excesiva de la inteligencia artificial pueda estar causando más daño que beneficio.

La dependencia de la IA puede reducir las tasas de detección de los médicos en colonoscopías

Un estudio reciente realizado en 1.443 pacientes reveló que los endoscopistas que utilizaron agentes de IA durante las colonoscopías lograron una tasa de éxito menor en la detección de irregularidades cuando no se usaron estas herramientas. 

Los resultados de la investigación, publicados este mes en la revista Lancet Gastroenterology & Hepatology, muestran que estos médicos lograron una tasa de éxito del 28,4% en la detección de posibles pólipos utilizando la tecnología. Sin estas herramientas, la cifra bajó al 22,4%, lo que representa una disminución del 20% en las tasas de detección.

El Dr. Marcin Romańczyk, gastroenterólogo en el H-T. Medical Center en Tychy, Polonia, y autor del estudio, expresó su sorpresa por los resultados. Señaló la dependencia excesiva de la inteligencia artificial como uno de los factores clave que contribuyen a la caída en las tasas de detección.

Aprendimos medicina a partir de libros y de nuestros mentores. Los observábamos. Ellos nos decían qué hacer. Y ahora hay un objeto artificial que sugiere qué deberíamos hacer, dónde deberíamos mirar, y en realidad no sabemos cómo comportarnos en ese caso particular.

Dr. Marcin Romańczyk

El resultado no solo refleja los posibles efectos negativos de depender en exceso de la inteligencia artificial, sino que también aborda la evolución de la práctica médica de una tradición enfocada en lo analógico a una era digital.

Preocupaciones sobre la inteligencia artificial en el trabajo: ganancias de productividad a un costo cognitivo

Además del aumento de su uso en quirófanos y consultorios, la automatización con IA se ha convertido en algo habitual en los lugares de trabajo, donde muchos recurren ahora a estas herramientas para aumentar la productividad. Goldman Sachs incluso predijo en 2023 que la IA podría aumentar la productividad laboral hasta en un 25%.

Pero la adopción de estos sistemas de IA también conlleva el peso de posibles desventajas. De hecho, investigaciones de firmas líderes han destacado los riesgos asociados con depositar demasiada confianza en estas herramientas. 

Una publicación de Microsoft y Carnegie Mellon University señaló que la IA ayudó a aumentar la eficiencia laboral entre un grupo de trabajadores del conocimiento encuestados. Pero debilitó sus habilidades de “juicio atrofiado” y capacidad analítica.

Dependencia excesiva de la inteligencia artificial en la aviación: lecciones del vuelo 447 de Air France

Incluso en el sector de la aviación, donde la seguridad es primordial, evidencia previa sugiere que la dependencia excesiva de la automatización puede comprometer la seguridad. En 2009, un vuelo 447 de Air France que iba de Río de Janeiro a París se estrelló en el Océano Atlántico, resultando en la pérdida de más de 228 vidas.

Las investigaciones revelaron posteriormente que el sistema de automatización del avión había desarrollado fallas. Esto provocó que el “director de vuelo” automatizado de la aeronave transmitiera información inexacta. Y como el personal de vuelo no estaba adecuadamente entrenado en vuelo manual, confiaron en las funciones automatizadas del avión en lugar de hacer los ajustes necesarios.

Equilibrando la adopción de IA con la experiencia humana en industrias de alto riesgo

Lynn Wu, profesora asociada de operaciones, información y decisiones en la Wharton School de la Universidad de Pennsylvania, señaló que estos incidentes son un llamado de atención para la adopción de IA en sectores donde la seguridad humana es crítica. Wu explicó que, si bien se debe apostar por estas tecnologías, las industrias deben asegurarse de que los trabajadores estén adoptando adecuadamente estas herramientas.

Lo importante es que aprendamos de esta historia de la aviación y de la generación anterior de automatización, que la IA absolutamente puede mejorar el rendimiento. Pero al mismo tiempo, debemos mantener esas habilidades críticas, de modo que cuando la IA no funcione, sepamos cómo tomar el control.

Lynn Wu

Agregó que si las personas pierden sus propias habilidades, la inteligencia artificial también tendrá un peor desempeño. Para que la IA mejore, las personas también deben mejorar continuamente.

Romańczyk también acepta el uso de la IA en la medicina, señalando que “la IA será, o es, parte de nuestra vida, nos guste o no”. Aun así, enfatizó la necesidad de comprender cómo la inteligencia artificial afecta el pensamiento humano e instó a los profesionales a determinar las formas más efectivas de utilizarla.