Эксперт назвал рабочие задачи, которые опасно полностью доверять ИИ

IT-эксперт Юдин: ИИ нельзя самостоятельно поручать платежи и смену реквизитов

/Главная /Безопасность

Автор текста:

Карина Гончарова

16 сентября06:01

/Главная /Безопасность

Автор текста:

Карина Гончарова

16 сентября06:01

Искусственному интеллекту не следует давать возможность самостоятельно проводить платежи, менять банковские реквизиты и права доступа, работать с чувствительными данными или отправлять сообщения от имени сотрудников. Об этом «Газете.Ru» рассказал заместитель гендиректора по информационной безопасности Алексей Юдин.

По словам эксперта, ИИ можно использовать для подготовки писем, расшифровки встреч и первичного анализа информации, если результат затем проверяет человек. Риски значительно возрастают, когда система получает право не только предложить решение, но и самостоятельно выполнить действие.

Особое внимание Юдин обратил на ИИ-агентов, способных последовательно выполнять несколько операций. Например, такая система может открыть письмо, извлечь из него данные, войти в корпоративный сервис под учетной записью сотрудника и совершить определенное действие. При этом для инфраструктуры компании оно может выглядеть так, будто его выполнил сам человек.

Еще один риск связан с масштабом возможной ошибки. Если ошибочное действие сотрудника можно обнаружить после одного или нескольких случаев, автоматизированная система способна повторить его сотни или тысячи раз.

Эксперт рекомендует создавать для ИИ-агентов отдельные учетные записи и предоставлять им только необходимые права. Платежи, изменение доступов и другие чувствительные операции должны дополнительно подтверждаться человеком, а действия системы — фиксироваться в журнале с возможностью ее немедленной остановки.