Natuklasan ng pag-aaral na ang mga doktor na umaasa sa AI ay naging 20% na mas mahina sa pagtukoy ng mga panganib sa kalusugan

Ang mga AI-assistance tools ay naging pang-araw-araw na mapagkukunan na tumutulong magpataas ng produktibidad at bilis sa iba't ibang industriya. Sa kabila ng mga kapansin-pansing benepisyo ng mga matatalinong sistemang ito, nababahala ang mga eksperto sa medisina na ang labis na pag-asa sa artificial intelligence ay maaaring magdulot ng mas maraming pinsala kaysa kabutihan.

Maaaring Bumaba ang Detection Rates ng mga Doktor sa Colonoscopies Dahil sa Pag-asa sa AI

Isang kamakailang pag-aaral na isinagawa sa 1,443 pasyente ang nagpakita na ang mga endoscopist na gumamit ng AI agents sa panahon ng colonoscopies ay nagkaroon ng mas mababang tagumpay sa pagtukoy ng mga iregularidad kapag hindi ginamit ang mga tool na ito. 

Ipinapakita ng resulta ng pananaliksik, na inilathala ngayong buwan sa Lancet Gastroenterology & Hepatology journal, na ang mga doktor na ito ay nakamit ang 28.4% na tagumpay sa pagtukoy ng mga potensyal na polyp gamit ang teknolohiya. Nang hindi ginamit ang mga tool na ito, bumaba ang bilang sa 22.4%, na kumakatawan sa 20% na pagbaba sa detection rates.

Ipinahayag ni Dr. Marcin Romańczyk, isang gastroenterologist sa H-T. Medical Center sa Tychy, Poland, at may-akda ng pag-aaral, ang kanyang pagkabigla sa resulta. Itinuro niya ang labis na pag-asa sa artificial intelligence bilang isa sa mga pangunahing salik na nag-ambag sa pagbaba ng detection rates.

Natutunan namin ang medisina mula sa mga libro at sa aming mga mentor. Pinagmamasdan namin sila. Sinasabi nila sa amin kung ano ang dapat gawin. At ngayon, may isang artipisyal na bagay na nagsasabi kung ano ang dapat naming gawin, kung saan kami dapat tumingin, at sa totoo lang hindi namin alam kung paano umakto sa partikular na kasong iyon.

Dr. Marcin Romańczyk

Hindi lamang ipinapakita ng resulta ang mga posibleng masamang epekto ng labis na pag-asa sa artificial intelligence, kundi tinatalakay din nito ang ebolusyon ng praktis ng medisina mula sa analog na tradisyon patungo sa digital na panahon.

Mga Alalahanin sa Artificial Intelligence sa Lugar ng Trabaho: Mga Pakinabang sa Produktibidad kapalit ng Kakayahan sa Pag-iisip

Bukod sa mas malawak na paggamit sa mga ospital at opisina, ang AI automation ay naging pangkaraniwan na sa mga lugar ng trabaho, kung saan marami ang gumagamit ng mga tool na ito upang mapataas ang produktibidad. Maging ang Goldman Sachs ay nagpredikta noong 2023 na maaaring pataasin ng AI ang produktibidad sa lugar ng trabaho ng hanggang 25%.

Ngunit ang paggamit ng mga AI system na ito ay may kaakibat ding mga posibleng negatibong epekto. Sa katunayan, ipinakita ng pananaliksik mula sa mga nangungunang kumpanya ang mga panganib ng labis na pagtitiwala sa mga tool na ito. 

Isang publikasyon ng Microsoft at Carnegie Mellon University ang nag-ulat na nakatulong ang AI na pataasin ang kahusayan sa trabaho ng isang grupo ng mga knowledge worker na sinuri. Ngunit pinahina nito ang kanilang mga kasanayan sa “atrophying judgment” at kakayahan sa pagsusuri.

Labis na Pag-asa sa Artificial Intelligence sa Aviation: Mga Aral mula sa Air France Flight 447

Maging sa sektor ng aviation, kung saan napakahalaga ng kaligtasan, may mga naunang ebidensya na nagpapakita na ang labis na pag-asa sa automation ay maaaring makompromiso ang kaligtasan. Noong 2009, isang Air France Flight 447 na patungong Paris mula Rio de Janeiro ang bumagsak sa Atlantic Ocean, na nagresulta sa pagkamatay ng mahigit 228 katao.

Natuklasan sa mga imbestigasyon na nagkaroon ng aberya ang automation system ng eroplano. Dahil dito, nagpadala ang automated “flight director” ng maling impormasyon. At dahil hindi sapat ang pagsasanay ng mga tauhan sa manual na paglipad, umasa sila sa automated features ng eroplano sa halip na gawin ang kinakailangang mga pagsasaayos.

Pagbabalanse ng Paggamit ng AI at Kadalubhasaan ng Tao sa Mga High-Stakes na Industriya

Itinuro ni Lynn Wu, associate professor ng operations, information, at decisions sa Wharton School ng University of Pennsylvania, na ang mga insidenteng ito ay nagsisilbing reality check para sa paggamit ng AI sa mga sektor na kritikal ang kaligtasan ng tao. Ipinaliwanag ni Wu na habang ginagamit ang mga teknolohiyang ito, dapat tiyakin ng mga industriya na tama ang paggamit ng mga manggagawa sa mga tool na ito.

Ang mahalaga ay matuto tayo mula sa kasaysayan ng aviation at ng nakaraang henerasyon ng automation, na tiyak na kayang pataasin ng AI ang performance. Ngunit kasabay nito, kailangan nating panatilihin ang mga kritikal na kasanayan, upang kapag hindi gumagana ang AI, alam natin kung paano pumalit.

Lynn Wu

Dagdag pa niya, kung mawawala ang sariling kasanayan ng mga tao, bababa rin ang performance ng artificial intelligence. Para gumaling ang AI, kailangang patuloy ding gumaling ang mga indibidwal.

Tinatanggap din ni Romańczyk ang paggamit ng AI sa medisina, at binanggit na “ang AI ay magiging, o ay, bahagi ng ating buhay, gusto man natin o hindi.” Gayunpaman, binigyang-diin niya ang pangangailangang maunawaan kung paano naaapektuhan ng artificial intelligence ang pag-iisip ng tao at hinikayat ang mga propesyonal na tukuyin ang pinakaepektibong paraan ng paggamit nito.