Wysiłki OpenAI związane ze zdrowiem ChatGPT budzą pytania o bezpieczeństwo danych

W środę OpenAI ogłosiło nową funkcję w ChatGPT, umożliwiającą użytkownikom łączenie swoich danych medycznych i dotyczących zdrowego stylu życia, co wzbudziło obawy wśród niektórych ekspertów i organizacji rzeczniczych dotyczące wykorzystania danych osobowych.

Gigant AI z San Francisco w Kalifornii poinformował, że narzędzie, nazwane ChatGPT Health, opracowane wspólnie z lekarzami, ma wspierać opiekę zdrowotną, a nie diagnozować lub leczyć choroby. Firma przedstawia je jako sposób na lepsze zrozumienie swojego zdrowia przez użytkowników.

Dla wielu użytkowników ChatGPT już stał się podstawową platformą do zadawania pytań dotyczących opieki medycznej i zdrowia psychicznego.

OpenAI przekazało

że ChatGPT Health udostępnia jedynie ogólne, „faktyczne informacje zdrowotne” i nie przekazuje „spersonalizowanych lub niebezpiecznych porad medycznych.”

W przypadku pytań o wyższym ryzyku, funkcja będzie udzielać informacji ogólnych, sygnalizować potencjalne zagrożenia oraz zachęcać użytkowników do rozmowy z farmaceutą lub pracownikiem służby zdrowia, który zna ich indywidualną sytuację.

Krok ten następuje krótko po tym, jak firma poinformowała w październiku, że ponad 1 milion użytkowników rozmawia co tydzień z chatbotem o samobójstwie. Stanowiło to około 0,15% wszystkich użytkowników ChatGPT w tamtym czasie.

Chociaż te liczby stanowią stosunkowo niewielki odsetek wszystkich użytkowników, eksperci twierdzą, że większość będzie musiała zmierzyć się z kwestiami bezpieczeństwa i prywatności danych.

„Nawet gdy firmy twierdzą, że mają zabezpieczenia prywatności, konsumenci często nie mają realnej zgody, przejrzystości ani kontroli nad tym, jak ich dane są wykorzystywane, przechowywane lub wykorzystywane ponownie” – powiedział J.B. Branch, rzecznik ds. odpowiedzialności dużych firm technologicznych w Public Citizen, dla

„Dane zdrowotne są wyjątkowo wrażliwe, a bez jasnych ograniczeń prawnych i egzekwowalnego nadzoru, samoregulujące się zabezpieczenia po prostu nie wystarczą, by chronić ludzi przed nadużyciami, ponowną identyfikacją czy dalszymi szkodami.”

OpenAI w swoim oświadczeniu poinformowało, że dane zdrowotne w ChatGPT Health są domyślnie szyfrowane, przechowywane oddzielnie od innych czatów i nie są wykorzystywane do szkolenia głównych modeli.

Według Andrew Crawforda, starszego doradcy ds. polityki w Center for Democracy and Technology, wielu użytkowników błędnie zakłada, że dane zdrowotne są chronione ze względu na ich wrażliwość, a nie ze względu na to, kto je posiada.

„Gdy Twoje dane zdrowotne są przechowywane przez lekarza lub firmę ubezpieczeniową, obowiązują zasady prywatności HIPAA” – powiedział Crawford dla

. „To samo nie dotyczy podmiotów nieobjętych HIPAA, takich jak twórcy aplikacji zdrowotnych, noszonych trackerów zdrowia czy firm AI.”

Crawford powiedział, że wprowadzenie ChatGPT Health podkreśla również, jak odpowiedzialność spada na konsumentów w sytuacji braku kompleksowego federalnego prawa dotyczącego prywatności danych zdrowotnych przechowywanych przez firmy technologiczne.

„To przykre, że nasze obecne federalne przepisy i regulacje przerzucają ten ciężar na indywidualnych konsumentów, aby analizowali, czy są zadowoleni ze sposobu, w jaki technologia, z której korzystają na co dzień, obsługuje i udostępnia ich dane” – powiedział.

OpenAI poinformowało, że ChatGPT Health zostanie najpierw udostępniony małej grupie użytkowników.

Lista oczekujących jest otwarta dla użytkowników ChatGPT spoza Unii Europejskiej i Wielkiej Brytanii, a szerszy dostęp planowany jest w najbliższych tygodniach w wersji na web i iOS. W ogłoszeniu OpenAI nie wspomniano o urządzeniach Google ani Android.