Обращение к ИИ-психологам может привести к утечке персональных данных
Эксперт предупредил о рисках утечки данных при использовании ИИ-психологовПо словам Юрия Силаева, заведующего лабораторией доверенного искусственного интеллекта в РТУ МИРЭА, современные системы искусственного интеллекта, включая нейросети, все чаще применяются в роли виртуальных психологов. Однако он отметил, что такие сервисы могут представлять серьезные риски утечки персональных данных. Информацию передает RT.
Эксперт объяснил, что многие ИИ-платформы сохраняют пользовательские запросы для последующего обучения моделей. Если эти данные не обезличиваются должным образом, то откровенные разговоры о личных переживаниях и травмах могут остаться в логах или даже попасть в открытые датасеты.
Также он указал, что разработчики часто имеют доступ к пользовательским данным для анализа и улучшения своих сервисов, что увеличивает риск внутренних утечек информации. В качестве дополнительной угрозы эксперт назвал технические уязвимости: ошибки в настройке облачных хранилищ или API могут привести к тому, что переписки станут доступны посторонним лицам. Бывали случаи, когда из-за неправильной конфигурации базы данных она становилась доступной через интернет.
Силаев обратил внимание на так называемые атаки на саму модель искусственного интеллекта: злоумышленники с помощью специальных методов могут попытаться восстановить отдельные фрагменты данных, использованных при обучении нейросети, и частично реконструировать личные диалоги пользователей.
Эксперт также напомнил о классических рисках — фишинге и взломе аккаунтов: если злоумышленник получит доступ к учетной записи пользователя, он сможет ознакомиться с историей переписки с ИИ-ассистентом.
Для минимизации возможных угроз специалист советует выбирать сервисы с прозрачной политикой конфиденциальности и сквозным шифрованием. Он подчеркнул, что лучше всего удалять историю диалогов и не передавать нейросетям персональные данные, по которым можно однозначно идентифицировать человека. В качестве оптимального варианта эксперт назвал локальную обработку данных — когда разговоры остаются на устройстве пользователя и не покидают его.
По мнению Юрия Силаева, ИИ действительно может быть полезен в вопросах психологической поддержки, однако важно осознавать потенциальные риски и тщательно подходить к выбору сервисов.
Ранее сообщалось, что мошенники «раздевают» жертв нейросетью ради шантажа.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zLzdjZWUwYjAyNGZhMTFmMTkwMWNhNmZjODljY2EyZjMtMS0xLmpwZw.webp)
:focal(0.5:0.56):format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL3R2b3JvZy1ycG5zanB3LmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL3Bob3RvLTIwMjYtMDMtMTktMTYzODA3XzJISElRRDcuanBlZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2tuMi0yNTk3LTEuanBn.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zLzIwMjUwODAzLTEyMTgwOC5qcGc.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL21hbi00MDAyLTFfdVVRWnA3dS5qcGc.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL25zdC0yNjQ4LTEuanBn.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2RqaS0wMDMwLmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2p1bGEtMDAwMS5qcGc.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2p1bGEtMDAwNC0xLmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2p1bGEtMDAwNy0xLmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2p1bGEtMDAxMi5qcGc.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2RqaS0wMDQxX1R6QlBmRXIuanBn.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2RqaS0wMDU4LmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2RqaS0wMDYzLmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2RqaS0wMDM1LmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2RqaS0wMDUzX1Q0dXlteUkuanBn.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2tvei02MjkyXzRVUEtnVE4uanBn.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL29ndXJ0c3ktbHVob3ZpdHNraWUtbmEtcnlua2Utc2l0ZS13aWRlX0tBbVhSM24uanBn.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2ltYWdlLTQ0LnBuZw.webp)