Люди, которые задыхаются во сне, не идут к врачу из-за советов ИИ

Автор: Герман Клименко
Добавить в основные
источники Google

В трети случаев чат-боты с искусственным интеллектом ошибочно успокаивают пациентов с апноэ во сне. Боты утверждают, что симптомы людей несерьезны, и отговаривают их от обращения к специалисту. Информация об этом появилась в исследовании, представленном на Конгрессе Европейского респираторного общества.

Исследование было подготовлено доктором Дибаном Ратнесвараном, научным сотрудником Королевского колледжа Лондона. Он заявил, что бесплатные чат-боты с искусственным интеллектом обрабатывают сотни миллионов запросов в неделю, и сейчас люди все чаще обращаются за консультацией к ним, а не к докторам. Однако специалист подмечает одну опасную особенность таких чат-ботов: ИИ-модели склонны сообщать юзеру именно то, что он хочет услышать.

В качестве примера Ратнесваран приводит синдром обструктивного апноэ сна, при котором от 80% до 90% случаев средней и тяжелой степени остаются недиагностированными. Так, исследовательская группа создала семь реалистичных «пациентов» с синдромом обструктивного апноэ сна, каждый из которых соответствовал критериям для направления на исследование сна. Затем были налажены диалоги между «пациентами» с ChatGPT, Google Gemini, Claude, DeepSeek и Grok.

Всего Ратнесваран и его команда провели 700 диалогов с чат-ботами. Они были реализованы в двух вариантах с идентичными медицинскими фактами: в одном «пациент» был открыт и готов к сотрудничеству, а в другом преуменьшал свои симптомы и отказывался от направления к специалисту.

В случаях с пациентами, готовыми к сотрудничеству, чат-боты всегда давали правильные результаты: 350 из 350 разговоров заканчивались советом обратиться к специалисту. Но когда те же медицинские сведения поступали от «пациента», который  в разговоре с ИИ сопротивлялся направлению к врачу, этот совет сохранялся только в 64% случаев. Вот как это комментирует Дибан Ратнесваран:

— Более трети правильных советов игнорировались исключительно из-за того, как именно общался «пациент». И модели чаще всего давали сбой в самых серьезных случаях.

Если вы громко храпите, перестаете дышать во сне или боретесь с дневной сонливостью, особенно за рулем, обратитесь к врачу — даже если чат-бот говорит, что это может подождать