Meta's New AI Requests Users' Medical Data and Dispenses Harmful Advice

Meta представила модель Muse Spark с функцией анализа медицинских данных пользователей, включая результаты лабораторных исследований. Журналист издания Wired протестировал возможности ИИ и получил тревожный результат: система не только активно запрашивала сырые персональные данные о здоровье, но и выдавала советы, которые квалифицированные врачи охарактеризовали бы как вредные. Функция работает так: пользователь загружает данные медицинских обследований — анализы крови, результаты тестов, показатели биомаркеров — а Muse Spark берётся их интерпретировать и давать рекомендации.

На первый взгляд это выглядит как удобный инструмент для тех, кому сложно разобраться в медицинской документации без специалиста. На практике картина иная. В ходе теста модель задавала уточняющие вопросы, предполагавшие передачу весьма чувствительных сведений о состоянии здоровья.

При этом Meta не даёт пользователям исчерпывающего ответа на вопрос, как именно эти данные хранятся, обрабатываются и используются в дальнейшем. Учитывая, что компания зарабатывает на таргетированной рекламе, подобная непрозрачность вызывает вполне обоснованные опасения. Ещё более серьёзная проблема — качество самих советов.

ИИ интерпретировал медицинские показатели поверхностно, не учитывал индивидуальный контекст пациента и в ряде случаев делал выводы, противоречащие современным клиническим рекомендациям. Неточный совет в сфере здоровья — это не просто плохой пользовательский опыт, это потенциальный вред конкретному человеку. Ситуация с Muse Spark вписывается в более широкую тенденцию: крупные технологические компании всё активнее заходят на территорию медицины.

Apple добавляет функции мониторинга в Watch, Google развивает Med-PaLM, стартапы обещают диагностику по фотографии. Спрос на доступные медицинские консультации огромен — особенно там, где запись к врачу занимает недели, а частный приём стоит дорого. Однако разрыв между тем, что умеют нынешние языковые модели, и тем, что требуется от медицинского советника, остаётся значительным.

Врач не просто читает цифры в анализе — он учитывает историю болезни, принимаемые препараты, образ жизни, видит пациента в динамике. Языковая модель, работающая с одним загруженным документом, лишена всего этого контекста. Регуляторное поле не успевает за технологиями.

В США медицинское ПО подпадает под контроль FDA, однако языковые модели с функцией «общих рекомендаций» пока находятся в правовой серой зоне. Meta, судя по всему, намеренно позиционирует Muse Spark как инструмент информирования, а не диагностики — это позволяет избежать жёстких требований к клиническому тестированию. Тест Wired — ещё одно напоминание о том, что возможность что-то сделать и готовность нести за это ответственность — разные вещи.

Умеет ли Meta обращаться с медицинскими данными ответственно — большой вопрос, который пока остаётся без убедительного ответа.