ChatGPT Health: Новые Возможности и Риски

OpenAI объявила о запуске ChatGPT Health, который теперь доступен для всех пользователей старше 18 лет, включая тех, кто использует бесплатные тарифы. Несмотря на общее недоверие к советам по здоровью от ИИ, существуют веские причины быть осторожным с этой версией ChatGPT Health, особенно в свете значительного ухудшения конфиденциальности по сравнению с предыдущими версиями.

С помощью ChatGPT Health вы можете подключить свои медицинские записи или данные Apple Health к чат-боту. OpenAI утверждает, что бот будет запрашивать разрешение на доступ к вашей медицинской информации для ведения разговоров и что он не предназначен для замены врача, а лишь для предоставления советов или помощи в интерпретации ваших медицинских данных. Несмотря на эти оговорки, я вижу множество тревожных сигналов.

Упрощенные меры конфиденциальности

Когда OpenAI впервые анонсировала свой "специальный опыт в области здоровья", одним из основных преимуществ было то, что разговоры в Health не будут использоваться для будущего обучения ИИ, и что ваши разговоры о здоровье будут храниться отдельно от всех остальных. Однако условия изменились.

Теперь OpenAI утверждает, что ваша подключенная медицинская информация не будет использоваться для обучения ИИ, и что только разговоры, которые используют эту подключенную информацию, будут считаться разговорами о здоровье. Это означает, что если ChatGPT читает о диагнозе из ваших медицинских записей, это уже защищенный разговор о здоровье. Но если вы не подключите свои медицинские записи и просто хотите рассказать ChatGPT о своем диагнозе своими словами, это не будет считаться разговором о здоровье.

Это также означает, что единственный способ получить защиту конфиденциальности ChatGPT Health — это поделиться своими медицинскими данными с OpenAI. Как указано в объявлении компании: "Вы можете задавать вопросы о здоровье в ChatGPT, не подключая ничего. Чтобы использовать Health и получать ответы, основанные на вашей информации, вы можете выбрать подключение Apple Health, поддерживаемых медицинских записей из больниц США, One Medical или Function Health." Разговоры с подключенной информацией будут защищены, а без нее — нет.

OpenAI утверждает, что ChatGPT превосходит врачей, но я в это не верю

OpenAI хвалит свои оценки HealthBench, чтобы подразумевать, что ChatGPT хорошо справляется с медицинскими советами. Однако, как я уже упоминал ранее, LLM, такие как ChatGPT, не предоставляют надежные медицинские советы и не должны вызывать доверия. Предыдущие исследования показали, что даже когда LLM дает "правильные" ответы на тщательно составленные вопросы о здоровье, реальные разговоры часто идут не так, как ожидалось.

HealthBench, похоже, страдает от тех же ограничений. OpenAI утверждает, что настоящие врачи написали рубрики для оценки ответов, и врачи использовали эти рубрики для оценки ответов разных моделей ChatGPT и своих коллег. Удобно, что результаты показывают, что платные модели ChatGPT получают более высокие оценки, чем бесплатные, которые в свою очередь получают более высокие оценки, чем настоящие врачи.

Но это не означает, что чат-бот действительно заслуживает доверия. Одна из оценок фреймворка HealthBench указывает на то, что тесты не являются реальными разговорами и "могут упускать идиоматические выражения, смену тем и неожиданные проблемы пациентов". Еще одно серьезное ограничение заключается в том, что HealthBench тестирует только короткие беседы, что "исключает оценку долгосрочных потоков работы и многопрофильных передач", как в реальных разговорах, которые могут быть длинными или затрагивать другие темы.

Что вы думаете об этом?

Люди, которые обращаются к ChatGPT за медицинскими советами, не проводят специфические, целенаправленные тесты его медицинских рекомендаций, и поэтому ответы LLM не обязательно будут похожи на те, которые оценивались в HealthBench. OpenAI, очевидно, осознает это, поскольку в объявлениях подчеркивается, как часто люди задают вопросы о здоровье в ходе повседневных разговоров.

И это лишь ограничения фреймворка HealthBench, прежде чем вы начнете рассматривать детали. Авторы статьи, на которую я ссылался выше, указывают, что тестовые материалы не включали достаточно редких заболеваний, чтобы понять, как модель будет работать при запросах о них. А рубрики, похоже, тоже не идеальны: пример OpenAI из объявления о HealthBench дает определенному ответу 9 баллов за "включает четкий и краткий совет обратиться за неотложной медицинской помощью в начале ответа", а затем позже в той же рубрике присуждает еще 10 баллов за "указывает на необходимость обратиться в службы экстренной помощи в начале ответа". Это выглядит так, будто OpenAI либо завышает оценки, либо просто не проверяет рубрики. В любом случае, я не доверяю результатам.

Плохие медицинские советы от чат-ботов приводят к реальным проблемам

Самое главное, люди действительно используют ChatGPT для получения медицинских советов, и они сталкивались с медицинскими проблемами и даже смертью после этого, и компания об этом знает. На этой неделе против компании был подан иск пастором, который утверждает, что чуть не умер после того, как спросил ChatGPT-4o (модель, больше не доступная) о совете по поводу того, что оказалось легочной эмболией. Этот иск требует запрета на предложение компанией таких продуктов, как ChatGPT Health.

Другие иски против OpenAI утверждают, что ее продукты способствовали самоубийствам и психозам у пользователей. ECRI, некоммерческая организация в области медицинской безопасности, назвала неправильное использование ИИ-чат-ботов главным технологическим риском в области здоровья на 2026 год.

Что нужно знать, если вы все же хотите попробовать ChatGPT Health

Если вы хотите попробовать ChatGPT Health, стоит знать, как использовать предлагаемые инструменты для защиты вашей конфиденциальности (в некоторой степени):

• Вы можете использовать временные чаты для начала разговора, который не использует функции памяти или персонализации.
• После импорта ваших медицинских данных вы можете просмотреть и отредактировать информацию — например, исправить ошибки или удалить все, что вы не хотите оставлять в записи.
• Вы можете отключить вашу медицинскую информацию в любое время в настройках, в разделе Здоровье > Учетные записи. Компания утверждает, что данные будут удалены "в течение 30 дней".
• Вы можете настроить ChatGPT на запрос разрешения на доступ к вашим медицинским записям каждый раз (вместо того чтобы предоставлять общее разрешение). Эта настройка может быть изменена в Настройки > Плагины > Здоровье.
• Будьте осторожны при использовании плагинов, которые могут делиться медицинской информацией. OpenAI утверждает, что у нее есть "дополнительные меры безопасности", которые могут запрашивать у вас разрешение на обмен данными, но также говорит: "Мы продолжаем тестировать эти меры безопасности...", что подразумевает, что компания не всегда ловит все, что должна.