Решающую роль человека при принятии решений ИИ закрепят в российском законодательстве

Правительство РФ намерено ограничить возможности искусственного интеллекта (ИИ) при принятии решений в ключевых социальных сферах. Норму о «решающей роли человека» при использовании нейросетей в здравоохранении, образовании, судопроизводстве и общественной безопасности планируется внести в закон о регулировании этой сферы, пишут «Известия». 

Инициатива призвана снизить риски дискриминации и алгоритмических ошибок при использовании моделей, обученных на неполных или предвзятых данных. Эксперты также указывают на проблему «размывания ответственности», когда непонятно, кто отвечает за последствия решения – разработчик, владелец системы или пользователь.

Подготовленный с учетом таких замечаний документ Минцифры РФ должно направить на согласование в кабмин к концу февраля. Предполагается, что он станет базой для дальнейшего регулирования применения нейросетей в российской экономике и социальной сфере.

Проблема недостаточного регулирования применения ИИ в медицине актуальна для многих развитых стран. Как выяснило агентство Reuters, производители смягчают свои стандарты качества, чтобы ускорить выход на рынок США медоборудования с ИИ, а надзорные органы не справляются с наплывом заявок на одобрение. Вместе эти факторы делают медицину опаснее: известно уже минимум о двух случаях инсульта, связанных с медизделиями с ИИ.