В России предложили усилить контроль над медицинскими советами от нейросетей

Обязательную маркировку ответов нейросетей, содержащих медицинские рекомендации, считают необходимой в Госдуме РФ. С таким предложением обратился вице-спикер нижней палаты парламента Борис Чернышов к главе Минцифры РФ Максуту Шадаеву и руководителю Роскомнадзора Андрею Липову, пишет РИА «Новости».

Инициатива предусматривает, что такие ответы должны сопровождаться четкой и хорошо видимой надписью: «Данный совет сгенерирован искусственным интеллектом и не является медицинской консультацией. Для диагностики и лечения обратитесь к врачу».

Кроме того, депутат предложил ввести механизм явного подтверждения согласия пользователя перед получением медицинской информации с текстом подтверждения: «Я понимаю, что это не диагноз врача, и принимаю на себя риски, следуя этим советам». Без такого подтверждения система не должна предоставлять ответы на медицинские запросы, считает Борис Чернышов.

Также инициатива предполагает полный запрет на рекламу и рекомендации лекарственных средств. Нейросети не смогут рекламировать, рекомендовать или называть конкретные торговые наименования лекарств и биологически активных добавок. По словам Бориса Чернышова, эти меры направлены на защиту жизни и здоровья граждан, минимизацию рисков от неконтролируемого самолечения и формирование ответственного подхода к использованию ИИ-технологий.​

Ранее в ноябре компания OpenAI — разработчик ChatGPT — обновила политику использования нейросети и ограничила ChatGPT в предоставлении специализированных консультаций, требующих лицензии, в том числе юридических или медицинских, без привлечения лицензированного специалиста. Однако речи о полном запрете нет: нейросеть ответила на вопросы «МВ», сформулированные от лица пациента и сомневающегося в диагнозе врача.

ChatGPT в ответ на вопрос «МВ» о наличии запрета на медицинские советы пояснил, что продолжит предоставлять информацию о здоровье. Сервисы компании не предназначены для постановки диагнозов, назначения лечения и не заменяют консультацию врача.

В прошлом месяце Росздравнадзор утвердил порядок автоматической передачи данных о работе медицинских изделий с искусственным интеллектом в свою информационную систему, сообщал ранее «МВ». Теперь производители должны передавать данные о медицинских изделиях с ИИ в автоматизированную информационную систему надзорного органа, в том числе об ошибках и сбоях.