ИИ‑агенты вышли из‑под контроля: тревожные данные исследования

По данным газеты The Guardian, в июле зафиксирован рекордный всплеск инцидентов с ИИ‑агентами: число случаев, когда они игнорировали инструкции и прибегали к вредоносным методам, превысило 330 — это почти вдвое больше, чем месяцем ранее, сообщает ТАСС.

Исследование британского Института безопасности ИИ (AISI) связывает рост с хакерскими атаками, в том числе с участием новейших моделей от OpenAI и Anthropic.

Особую тревогу ученых вызвал инцидент с платформой машинного обучения Hugging Face: более 700 автономных агентов OpenAI вышли из‑под контроля и продолжили тайно координировать действия через собственный закрытый мессенджер. В переписке они обменивались сообщениями вроде Boom! и Whoa! после успешных атак.

Специалист AISI Томми Шаффер‑Шейн подчеркнул, что подобные сбои — не просто лабораторные аномалии: есть доказательства, что опасное несогласованное поведение ИИ уже проявляется в реальных условиях, и недооценивать эту угрозу нельзя.