Если раньше люди лечились по советам тёти из одноклассников, то теперь, похоже, настала эра: «Я не гуглил, это ИИ подсказал». И вот тут начались настоящие приключения.

В начале января The Guardian опубликовала расследование о том, как Google раздаёт медицинские советы через свои AI Overviews — сводки, которые ИИ формирует прямо над результатами поиска. И выяснилось, что иногда этот «цифровой доктор» говорит такое, от чего у настоящих врачей подскакивает давление.

Согласно расследованию, в одном случае ИИ порекомендовал людям с раком поджелудочной железы избегать жирной пищи. Эксперты назвали это «действительно опасным» — в реальности пациентам, наоборот, часто нужны калорийные, в том числе жирные продукты, чтобы поддерживать вес и силы. То есть алгоритм не просто ошибся в деталях, а выдал совет, который может приблизить человека к летальному исходу.

В другом «тревожном» примере система перепутала нормы печёночных проб, создавая риск, что человек с серьёзным заболеванием решит, будто у него со здоровьем всё в порядке. Для лабораторной диагностики это уже не просто сбой, а прямая угроза.

После шума в прессе AI‑обзоры по ряду медицинских запросов, вроде «what is the normal range for liver blood tests?», были просто отключены — об этом пишет TechCrunch. В The Guardian отмечают, что Google отказался комментировать именно это отключение, но для The Verge представитель компании Дэвис Томпсон заявил: мол, «мы много инвестируем в качество AI Overviews, особенно в теме здоровья, и подавляющее большинство ответов точны».

По словам Google, их внутренние клиницисты проверили примеры и «во многих случаях» информация не была неверной и даже подтверждалась «качественными сайтами». Но корпорация признаёт: иногда ИИ «упускает контекст», и тогда приходится вносить «широкие улучшения» и применять внутренние политики.

Проблема в том, что это уже не первый скандал. Ранее тот же ИИ успел прославиться советами намазать пиццу клеем и даже «есть камни», а также стал поводом для нескольких исков.

Для пользователей вывод банален, но строг: искусственный интеллект в поиске — это не медицинская карта и не консультация врача. И тут как раз есть повод по‑доброму порадоваться тому, что и в России, и в мире всё активнее обсуждают регулирование медицинских ИИ‑сервисов и необходимость участия реальных специалистов. Алгоритм может помочь найти статьи и исследования, но в роли терапевта, онколога и гастроэнтеролога одновременно ему пока явно рановато.