Дослідження показало, що лікарі, які покладаються на AI, стали на 20% гірше виявляти ризики для здоров’я

Інструменти з підтримкою штучного інтелекту стали щоденним ресурсом, який допоміг підвищити продуктивність і швидкість у багатьох галузях. Незважаючи на помітні переваги цих розумних систем, медичні експерти стурбовані тим, що надмірна залежність від штучного інтелекту може завдавати більше шкоди, ніж користі.

Залежність від AI може знизити рівень виявлення лікарями аномалій під час колоноскопії

Нещодавнє дослідження, проведене серед 1 443 пацієнтів, показало, що ендоскопісти, які використовували AI-агентів під час колоноскопії, досягали нижчого рівня успіху у виявленні аномалій, коли ці інструменти не застосовувалися. 

Результати дослідження, опублікованого цього місяця в журналі Lancet Gastroenterology & Hepatology, показують, що ці лікарі досягли 28,4% успішності у виявленні потенційних поліпів за допомогою технології. Без цих інструментів цей показник знизився до 22,4%, що становить зниження рівня виявлення на 20%.

Доктор Марцін Романчик, гастроентеролог з H-T. Medical Center у Тихах, Польща, і автор дослідження, висловив здивування результатами. Він вказав на надмірну залежність від штучного інтелекту як на один із ключових факторів, що сприяють зниженню рівня виявлення.

Ми вивчали медицину за книгами та у наших наставників. Ми спостерігали за ними. Вони казали нам, що робити. А тепер з’явився якийсь штучний об’єкт, який підказує, що нам робити, куди дивитися, і насправді ми не знаємо, як поводитися в такому випадку.

Dr. Marcin Romańczyk

Цей результат не лише відображає потенційні негативні наслідки надмірної залежності від штучного інтелекту, а й торкається еволюції медичної практики від аналогової традиції до цифрової епохи.

Побоювання щодо штучного інтелекту на робочому місці: зростання продуктивності ціною когнітивних втрат

Окрім зростаючого впровадження у медичних закладах та офісах, автоматизація на основі AI стала звичним явищем на робочих місцях, і багато хто тепер звертається до цих інструментів для підвищення продуктивності. Goldman Sachs навіть прогнозував у 2023 році, що AI може підвищити продуктивність праці на цілих 25%.

Однак впровадження цих AI-систем також несе ризики. Насправді, дослідження провідних компаній підкреслили ризики, пов’язані з надмірною довірою до цих інструментів. 

Публікація Microsoft та Carnegie Mellon University відзначила, що AI допоміг підвищити ефективність роботи серед опитаних працівників знань. Але це послабило їхні навички «атрофованого судження» та аналітичні здібності.

Надмірна залежність від штучного інтелекту в авіації: уроки Air France Flight 447

Навіть у авіаційному секторі, де безпека є найважливішою, попередні докази свідчать, що надмірна залежність від автоматизації може поставити під загрозу безпеку. У 2009 році рейс Air France Flight 447, що прямував з Ріо-де-Жанейро до Парижа, розбився в Атлантичному океані, що призвело до загибелі понад 228 людей.

Розслідування згодом показали, що система автоматизації літака зазнала збоїв. Це призвело до того, що автоматизований «директор польоту» передавав неточну інформацію. А оскільки екіпаж не був належним чином підготовлений до ручного керування, вони покладалися на автоматизовані функції літака замість того, щоб зробити необхідні коригування.

Балансування впровадження AI з людською експертизою у відповідальних галузях

Лінн Ву, доцент кафедри операцій, інформації та рішень Wharton School при University of Pennsylvania, зазначила, що ці інциденти є перевіркою реальності для впровадження AI у сферах, де критично важлива безпека людей. Ву пояснила, що, впроваджуючи ці технології, галузі повинні переконатися, що працівники правильно використовують ці інструменти.

Важливо, щоб ми вчилися на історії авіації та попередньому поколінні автоматизації, що AI дійсно може підвищити ефективність. Але водночас ми повинні зберігати ці критичні навички, щоб у разі відмови AI ми знали, як взяти керування на себе.

Lynn Wu

Вона додала, що якщо люди втратять власні навички, штучний інтелект також працюватиме гірше. Щоб AI розвивався, люди також повинні постійно вдосконалювати себе.

Романчик також підтримує використання AI у медицині, зазначаючи, що «AI буде або вже є частиною нашого життя, подобається нам це чи ні». Проте він підкреслив необхідність розуміння того, як штучний інтелект впливає на людське мислення, і закликав фахівців визначити найефективніші способи його використання.