Нейросеть приняла решение: кто ответит за ошибки ИИ и что делать людям

Депутат Горелкин: гражданам нужно дать право бесплатно оспаривать решения ИИ

/Главная /Общество

Автор текста:

Ольга Сафина

Сегодня 11:36

/Главная /Общество

Автор текста:

Ольга Сафина

Сегодня 11:36

Гражданам следует предоставить право бесплатно обращаться к специалисту для пересмотра решений, принятых с использованием искусственного интеллекта. Также людей необходимо заранее предупреждать, если нейросеть участвует в оценке их заявлений или жизненных обстоятельств. Об этом «Газете.ру» рассказал первый заместитель председателя комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин.

По мнению депутата, такие гарантии особенно актуальны при увольнении, рассмотрении заявок на кредит и назначении пособий. ИИ может анализировать сведения и предлагать варианты действий, однако окончательное решение должен принимать уполномоченный сотрудник. Как уточнил Горелкин, гражданам также необходимо объяснять причины отказа или другого результата понятным языком, а возможность повторной проверки человеком должна быть обязательной.

На рассмотрение обращения о пересмотре решения парламентарий предложил отводить около 30 дней. Такой срок уже предусмотрен статьей 16 закона о персональных данных для ответа на возражения против решений, принятых исключительно на основании автоматизированной обработки.

При этом формального участия сотрудника недостаточно. Горелкин обратил внимание на риск ситуации, когда специалист просто утверждает рекомендацию программы, не проверяя обстоятельства конкретного случая.

Чтобы избежать такого подхода, депутат предложил обязать ответственного сотрудника самостоятельно готовить краткое обоснование решения. Документ должен подтверждать, что специалист изучил ситуацию, а не просто повторил вывод нейросети. По мнению Горелкина, такое требование можно закрепить в отраслевых правилах или внутренних документах организаций.

Парламентарий также считает, что действующие нормы о персональных данных не учитывают всех особенностей современных систем искусственного интеллекта. В Госдуме, по его словам, рассматривают возможность принятия отдельного закона, который определит взаимодействие таких технологий с гражданским правом.

Еще один вопрос, требующий регулирования, — распределение ответственности за ошибки ИИ. Необходимо определить, кто должен отвечать за неверное решение: использовавший систему специалист, внедрившая ее организация или разработчик модели, заключил Горелкин.