«Манипулирование памятью ИИ»: о чем предупредили в МВД

Накопление персональных данных в памяти ChatGPT создает риски для пользователей, в том числе возможность формирования цифрового досье. Об этом предупредили в УБК МВД России, сообщает ТАСС. 

По данным ведомства, это создает потенциальные риски идентификации даже для тех, кто использует псевдонимы: совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для цифрового досье, а дополнительную угрозу представляет манипулирование памятью ИИ через внедрение ложных инструкций в документы.

Для защиты данных в управлении советуют контролировать настройки памяти и персонализации, не загружать в чат служебные документы и конфиденциальную информацию, обезличивать запросы, использовать временные чаты для личных вопросов и проверять сохраненную информацию. Там подчеркнули, что безопасность персональных данных во многом зависит от того, какую информацию доверяют искусственному интеллекту.

В УБК также привели данные исследования The Algorithmic Self-Portrait: OpenAI, вопреки собственной политике конфиденциальности, сохраняла личные сведения пользователей. Почти 96% записей создавались без одобрения пользователя, 91% содержали персональные данные, включая реальные имена, экономический и социальный статус и адреса. У 54% пользователей сохранялась информация о здоровье и личных убеждениях, 97% учетных записей имели сведения о целях, намерениях, предпочтениях и особенностях поведения.