Картинка — / Фото: REGIONS/Владимир Ерастов

Кибератаки с помощью ИИ: эксперт рассказал о возможных рисках

Бедеров: ИИ может самостоятельно искать уязвимости для кибератак

/Главная /Безопасность

Автор текста:

Мария Толстикова

29 сентября13:43

/Главная /Безопасность

Автор текста:

Мария Толстикова

29 сентября13:43

Современный ИИ может получить нежелательные навыки во время обучения. Об этом в беседе с RT заявил председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров.

По словам специалиста, ИИ обучается на огромных массивах данных. Вместе с полезными навыками модели могут перенимать и нежелательные особенности.

Бедеров заявил, что это произошло с Astra. По его словам, модель достигла критического уровня в рамках структуры готовности OpenAI. Эксперт утверждает, что Astra может без участия человека создавать рабочие эксплойты для уязвимостей нулевого дня и проводить кибератаки на хорошо защищенные системы по общей команде.

Бедеров отметил, что под выходом ИИ из-под контроля не имеется в виду «восстание машин». Речь идет о возможности системы действовать непредсказуемо и вредоносно в рамках своих функций.

По мнению эксперта, такие технологии могут использоваться в кибервойне и киберпреступности. Он привел возможный сценарий с тысячами автономных агентов, которые одновременно ищут и используют уязвимости в критической инфраструктуре.

Бедеров считает, что России нужны собственные модели ИИ и регулирование их использования. Он также заявил о необходимости жесткой политики в отношении применения ИИ на корпоративном и государственном уровнях.

По словам эксперта, появление моделей с «критическими» киберспособностями требует подготовки к атакам с использованием автономных программных агентов. Для этого, считает Бедеров, нужно развивать цифровую криминалистику и киберразведку.