Сотрудники тайно используют ИИ для работы: эксперт предупредила о новой угрозе

Чрезмерное доверие к искусственному интеллекту из-за его «хайповости» и угрозы утечки данных входят в число главных рисков применения технологии. Об этом на конференции ЦИПР-2026 заявила президент группы компаний InfoWatch Наталья Касперская, пишет «Лента.ру».

По ее словам, большинство генеративных моделей ИИ, используемых в России, произведены за рубежом. Отечественных разработок среди них — одна, максимум полторы. Для промышленности часто выбирают иностранное, что ведет к утечке информации, если модель применяют без переноса в собственный периметр. Эксперт привела пример: одно предприятие поделилось с ИИ технологическими тонкостями, а другое с помощью специального запроса эти секреты извлекло.

Второй риск, сообщила Касперская, связан с тем, что зарубежные акторы отслеживают запросы от российских предприятий и могут подбрасывать им скомпрометированную информацию. Она объяснила, что ответ будет казаться правильным, но на самом деле окажется специально сгенерированной ложью.

Кроме того, модели ИИ — это вероятностная технология, которую называют галлюцинирующей, то есть она выдает ответы, не гарантирующие стопроцентной достоверности. Однако из-за «хайповости» формируется чрезмерное доверие к ней. Эксперт также обратила внимание на неконтролируемое использование генеративных моделей сотрудниками, которые самостоятельно приобретают доступы к различным ИИ для рабочих задач, создавая дополнительные угрозы безопасности. Касперская поделилась, что в ее компании опросили 150 разработчиков и получили широкий спектр используемых моделей, о которых руководство не знало.

Признавая преимущества ИИ в скорости, она призвала четко осознавать риски, которые существенны и пока не проработаны. Проблема, по ее мнению, и в том, что говорить об этом начали совсем недавно — это та дверь, которую еще предстоит открыть.