ИИ в медицине и этика бензопилы

Одни ждут от ИИ в медицине технологического спасения, другие — катастрофы и «восстания машин», третьи — тоже катастрофы, только кадровой — боятся, что алгоритмы вытеснят врача. В реальности этот инструмент уже начинает применяться почти во всех сферах системы здравоохранения, и главный вопрос не в том, «умнее» ли он человека, а в том, как встроить его в клиническую практику, чтобы он приносил пользу и не нарушал этические принципы современного здравоохранения.

Как ИИ чуть не стал врачом в 1970-е

Внедрение алгоритмов в медицинскую практику началось задолго до распространения термина «искусственный интеллект». Еще в 1970 году в США ученые представили систему MYCIN — одну из первых медицинских экспертных программ, помогавшую врачам принимать обоснованные решения при инфекционных заболеваниях. В некоторых узких областях она ставила диагнозы точнее человека, но в реальную практику так и не вошла. Проблема была не в технологиях, а в этике. Человечество так и не смогло ответить на вопрос: кто будет отвечать за совершенную нейросетью медицинскую ошибку?

Этот важный исторический сюжет показывает, что проблема внедрения ИИ в медицину никогда не сводилась только к качеству алгоритма. Даже если инструмент может спасать жизни, все упирается в ответственность, регулирование и готовность людей доверять новому механизму. Правовая и этическая архитектура становится условием зрелого внедрения технологий ИИ.

Пока в практической логике медицины ответственность за решения, применяемые ИИ, остается за человеком — чаще всего  врачом, который пользуется инструментом, а не разработчиком, который его создал. Но с развитием технологий такая конструкция становится все менее устойчивой, и экспертное сообщество задумывается об уточнении роли разработчика, клиники, регулятора и конкретного пользователя.

Единого мнения относительно ИИ нет как в медицинском сообществе, так и среди пациентов. Бесконечные опросы общественного мнения не добавляют ясности: их результаты зависят от формулировки вопроса, контекста, выборки и колеблются от полного неприятия до почти безоговорочного одобрения.

Например, по результатам опроса, проведенного ВЦИОМ в ноябре 2024 года, 43% россиян оптимистично воспринимают использование ИИ в медицине и ждут от него улучшения здоровья пациентов.

При этом исследование 2025 года сети клиник «Будь Здоров», страховой компании «Ингосстрах» и сервиса SuperJob показывает, что 38% участников опроса отвергают возможность использования ИИ в медицине.

Если относиться к ИИ как к рабочему инструменту, становится очевидным, что опрос пациентов на эту тему сравним с исследованием общественного мнения относительно программного обеспечения для томографа. Люди, которые обращаются за медицинской помощью, не обязаны разбираться в этих технологиях и часто не разделяют сертифицированные медицинские ИИ-системы и развлекательные чат-боты. ИИ часто воспринимают как магию, а не инструмент.

Если бы на ИИ смотрели как на бензопилу, томограф или интернет, то есть как на мощный, но все-таки вполне земной инструмент, значительная часть истерии просто сошла бы на нет. В этом смысле рассуждение об «этике алгоритма» похоже на разговор об этике бензопилы. Инструмент сам по себе не может быть добрым или злым: все зависит от того, как, кем и в каких условиях он используется.

Проблемные зоны

В медицине есть сферы, где моральные вопросы применения ИИ стоят особенно остро. Если совсем коротко, то ИИ лучше человека там, где нужно быстро и стабильно обрабатывать большие объемы информации, находить зависимости, не уставать и не терять внимания в рутинных операциях. Но нельзя забывать, что медицина — это не только вычисление.

Решение вопросов жизни и смерти

Особенно осторожно нужно относиться к ситуациям, где речь идет об ограничении доступа к помощи, распределении дефицитного ресурса и вообще о всех случаях, где исчезновение персональной ответственности может привести к деградации самой человеческой позиции.

Передача даже максимально эффективному алгоритму ответственности за решение вопросов жизни и смерти означает не просто автоматизацию таких вопросов, а выведение человека из пространства нравственного действия.

Психиатрия

Вторая чувствительная зона — кризисные состояния, суицидальные сценарии, вопросы ментального здоровья. Здесь роль живого человека пока принципиальна. Дело не столько в качестве технологии, сколько в самой природе психиатрической помощи, предполагающей человеческое участие.

Что этически рискованнее: ошибка врача или ошибка алгоритма? Пациенты, по крайней мере в России, относятся к ошибкам, совершенным врачами, максимально критично, но пока не понимают, как злиться на искусственный интеллект. На наш взгляд, ИИ нужно сравнивать не со «сферическим профессором в вакууме», а с реальной системой, где есть место и сверхнагрузке на врачей, и дефициту кадров, и неравномерному качеству медпомощи. В ряде случаев ИИ может если не заменить высококвалифицированного специалиста, то серьезно повысить уровень оказания помощи там, где такого специалиста вообще нет. Тогда многие абстрактные страхи начинают выглядеть иначе.

Чудо-лекарство или плацебо для прогресса

Также есть сферы, где технологии ИИ внедряются особенно интенсивно.

Фармацевтика

Алгоритмы помогают ускорять ранние этапы исследований и повышать эффективность работы. При этом ИИ не отменяет клинические испытания и не снимает необходимость долгой проверки, но как инструмент ускорения и перебора вариантов он уже крайне полезен.

Анализ медицинских изображений

ИИ не устает, не уходит в отпуск, не теряет концентрацию к концу смены, может работать с гигантским массивом данных и видеть статистические закономерности. Но и здесь главный вопрос не в том, «лучше ли ИИ врача», а в том, как именно встроить его в процесс, создав фактически нового сотрудника — ИИ плюс человек.

Многие врачи небезосновательно опасаются, что наличие мощного и работоспособного инструмента только повысит нагрузку на доктора, ставящего свою подпись под каждой выпиской, сделанной машиной.

В этом смысле внедрение современных технологий может стать способом повысить производительность человека и даже ширмой для организационного насилия. Избежать этого поможет пересмотр рабочих регламентов.

Стоматология

Опыт стоматологии как сферы широкого применения технологий ИИ, очень показателен. Врачи, которые реально используют такие системы, в качестве первого ощутимого плюса называют тот факт, что их внедрение заставило клинику повысить уровень цифровой зрелости — оцифровать все процессы, синхронизировать потоки данных, привести в порядок архивы и карточки пациентов.

Есть и второй неожиданный эффект: выводы ИИ стали весомым аргументом в диалоге врача и пациента. Когда беспристрастная система указывает на зону риска, больному становится проще смириться с необходимостью лечения.

Технология – новая, проблемы – старые

Развитие не остановить: на конец 2025 года Росздравнадзор зарегистрировал 48 программ с технологией ИИ. Оформилась тенденция на создание уже не узкоспециализированных, а более широких моделей, которые направлены на анализ больших данных и использование алгоритмов в принятии врачебных решений.

Похоже, что на этапе внедрения ИИ медицине придется еще раз пройти путь по расстановке этических приоритетов, который уже был проделан на протяжении эволюции медицинского знания.

Как обеспечить конфиденциальность врачебной тайны, должен ли пациент подписать согласие на применение алгоритмов, как будет реализована объяснимость решений, принимаемых ИИ, – на все эти вопросы нужно будет либо ответить, либо снять их с повестки дня.

Вопрос защиты персональных данных иногда обсуждается настолько рьяно, будто до появления ИИ медицина была идеально герметичной сферой. Уязвимости существовали и раньше, искусственный интеллект только усиливает значимость цифровой дисциплины. Что касается согласий на применение ИИ-технологий, то здесь нельзя опускаться до формального подхода и превращать подписание документа в еще один бюрократический ритуал.

Между алгоритмами, выдающими талон и влияющими на клинические решения, огромная разница. Поэтому, вероятно, нужен не один шаблон на все случаи, а градация по уровню вмешательства. Чем выше влияние на клинически значимое решение, тем выше и требования к прозрачности, объяснимости и информированию пациента.

Нерешенным остается вопрос: кто и как будет обучать алгоритмы? И эта тема тоже находится в этической плоскости. Если нейросеть будет учиться на данных, в которых уже «зашиты» этические перекосы, он будет воспроизводить и масштабировать гендерную, территориальную или социальную несправедливость. То же относится к редким заболеваниям, для которых еще нет репрезентативной выборки. В журнале Nature приводится расследование, как ученые из Гетеборгского университета выдумали заболевание глаз и опубликовали по нему две убедительные статьи. Уже через несколько недель популярные ИИ-модели начали диагностировать несуществующую болезнь.

Искусственный интеллект может обострить существующие проблемы, но это не аргумент против ИИ как такового. Это аргумент за качественную валидацию данных, внешнюю проверку и независимый аудит. Отсутствие такого контроля не просто неэтично — это противоречит самой логике медицинского регулирования. В медицине не должно быть места бесконтрольному эксперименту на пациентах. Для этого существуют регистрационные процедуры, тестирование, проверка безопасности, требования регуляторов.

Еще один болезненный, но закономерный вопрос: как обеспечить независимость ИИ, созданного и внедренного коммерческой организацией? Остается риск, что алгоритм будут оптимизировать решения, подстраиваясь под экономику клиники, страховую модель или конкретную цепочку поставок. Но эти проблемы, как и все вышеперечисленные, существовали в медицине и до прихода ИИ, алгоритмы только заострили на них внимание.

Искусственный интеллект в медицине — это не автономный субъект и не замена человечности. Это инструмент. Очень сильный, местами уже полезный, местами пока переоцененный. Он не может существовать в отрыве от этики, права, культуры и ответственности.