В «Лаборатории Касперского» рассказали, как пользователи манипулируют нейросетями и влияют на поисковую выдачу по тем или иным вопросам, сообщило РИА Новости.
Как пояснили в компании, благодаря нейросетям пользователи начали активно использовать indirect prompt injection (непрямые инъекции затравки). Это киберриск, перед которым уязвимы многие системы на основе больших языковых моделей (LLM). Суть данного риска заключается в том, что в текст на сайте или в опубликованном документе добавляются описания задач для чат-ботов, осуществляющих поиск информации. Это делается для того, чтобы «поднять» документ или веб-страницу в поисковой выдаче, так как в тексте есть скрытая команда для нейросети, ранжирующая результаты поиска.
Выяснилось, что наиболее часто такую «уловку» применяют в резюме, чтобы нейросети в приоритетном порядке «показали» его рекрутеру, считав скрытые команды. Кроме того, такие «инъекции» используются в рекламе товаров и услуг, а кто-то даже эксплуатирует данную уязвимость для выражения протеста против нейросетей, чтобы его высказывание увидели больше пользователей.
«Лаборатория Касперского» также изучила риски подобных кибератак. Все изученные случаи инъекции носили безобидный характер, а использование инъекций для фишинга или кражи данных пока что является лишь теорией. Кроме того, создатели передовых нейросетей активно занимаются устранением этой уязвимости.
Ранее сообщалось, что задержанный генерал Булгаков до этого проходил свидетелем по делу о мошенничестве.
