В новом руководстве Всемирной организации здравоохранения (ВОЗ) описаны риски для системы здравоохранения, связанные с быстрым внедрением такой разновидности генеративного искусственного интеллекта (ИИ), как большие мультимодальные модели (large multi-modal models — LMM). В документе отмечается, что решения на их базе, такие как ChatGPT, в 2023 году были приняты обществом, стали массово использоваться быстрее, чем любое другое приложение в истории.
В руководстве обозначены такие сферы применения LMM, как диагностика и клиническая помощь, административные задачи (документирование посещений пациентов в электронных медицинских картах, медицинское образование), научные исследования и разработка лекарств.
«LMM используют для конкретных целей, связанных со здоровьем, но существуют документально подтвержденные риски создания ложных, неточных, предвзятых или неполных сообщений, которые могут нанести вред людям, использующим такую информацию при принятии решений о здоровье», — подчеркнула ВОЗ. К тому же технологии LMM уязвимы с точки зрения кибербезопасности.
ВОЗ считает, что в создании безопасных LMM должны участвовать «различные заинтересованные стороны», в том числе правительства, технологические компании и пациенты «на всех этапах разработки и внедрения». Организация рекомендовала странам назначить регулирующие органы для оценки последствий применения LMM в здравоохранении и «ввести обязательный аудит» после их внедрения.
«Технологии генеративного ИИ обладают значительным потенциалом для улучшения здравоохранения, но только в том случае, если те, кто разрабатывает, регулирует и использует их, отслеживают и полностью учитывают связанные с этим риски, — заявил главный научный сотрудник ВОЗ д-р Джереми Фаррар. — Нам нужна прозрачная информация и политика для управления проектированием, разработкой и использованием LMM для достижения лучших результатов в области здравоохранения и преодоления сохраняющегося неравенства в этой сфере».
Новое руководство составлено на базе предыдущих рекомендаций ВОЗ, опубликованных в июне 2021 года. Тогда организация призывала «защитить автономию человека» при принятии решений в сфере медицины и сохранить конфиденциальность персональных данных пациентов.
Нет комментариев
Комментариев: 0