Zdravotnícky chatbot ChatGPT Health, populárny nástroj umelej inteligencie, nie vždy odporúča návštevu nemocnice – a to ani v situáciách vyžadujúcich neodkladný zásah.
Podceňuje zdravotné riziká
Štúdia vedcov z Icahn School of Medicine at Mount Sinai v New Yorku odhalila znepokojivý fakt: vo viac ako polovici prípadov, kedy je nevyhnutná lekárska pomoc, chatbot pacientov upokojuje namiesto toho, aby ich poslal na pohotovosť.
Nástroj ChatGPT Health bol spustený v januári 2026 a rýchlo získal popularitu s približne 40 miliónmi používateľov denne. Jeho úlohou malo byť pomáhať pri posudzovaní naliehavosti zdravotných problémov.
Prijímajte informácie kritickým okom
Výskum však ukázal, že v mnohých prípadoch svoju funkciu neplní správne. Vedci vytvorili 60 medicínskych scenárov, ktoré následne vyhodnotili lekári a porovnali ich s odpoveďami chatbota:
- Silné stránky: AI dobre identifikuje typické urgentné stavy, ako je cievna mozgová príhoda alebo silná alergická reakcia.
- Slabé stránky: V menej jednoznačných situáciách systém hrozbu často bagatelizuje.
- Kritické zlyhanie: Vo viac ako 50 % prípadov, ktoré lekári klasifikovali ako urgentné, chatbot návštevu nemocnice neodporučil, hoci nebezpečné symptómy sám rozpoznal.
Zlé reakcie na sebapoškodzovanie
Výskumníci preverili aj reakcie ChatGPT Health na signály naznačujúce riziko samovraždy. Ukázalo sa, že systém nie vždy aktivuje potrebné varovania, a to ani pri vysokom stupni ohrozenia.
V niektorých prípadoch sa výstrahy zobrazili pri menej závažných prejavoch, zatiaľ čo pri konkrétnych plánoch na sebapoškodzovanie chýbali. Je to mimoriadne rizikové, nakoľko prioritou chatbota by malo byť okamžité presmerovanie používateľa na krízovú linku pomoci.
AI nenahrádza lekára
Autori štúdie zdôrazňujú, že hoci nástroje umelej inteligencie môžu slúžiť ako užitočný zdroj informácií, nesmú nahrádzať profesionálny lekársky posudok.
V prípade stupňujúcich sa alebo alarmujúcich príznakov, ako sú bolesť na hrudníku či dýchavičnosť, je nevyhnutné okamžite kontaktovať lekára alebo vyhľadať pomoc na oddelení urgentného príjmu.
Tento článok pochádza z partnerského webu vydavateľstva Ringier.
