:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMS9ncmFmaWtpLW5vdXRidWstZ2VvbWV0cmlqYV9zN2JDUXlpLmpwZw.webp)
«Понимаю, как вам тяжело»: почему совет ИИ может не помочь
Аналитик Зыков: попытка снять стресс с помощью ИИ может ухудшить ситуациюСочувственный тон искусственного интеллекта при обсуждении стресса сам по себе не гарантирует, что его совет будет уместным. Об этом RT рассказал главный редактор аналитического издания Runet Владимир Зыков.
По его словам, нейросеть может ответить «понимаю, как вам тяжело», а следом выдать длинный список рекомендаций, даже не уточнив, что произошло. Или не распознать серьезность ситуации и ограничиться шаблонной отпиской. Человек пришел за поддержкой, а в ответ получил ощущение, что его не услышали.
Подобные недостатки уже отмечали исследователи, которые проверяли ответы чат-ботов в психологически сложных ситуациях, продолжил эксперт. Отдельный риск — поддакивание: нейросеть может настолько стараться поддержать собеседника, что начнет соглашаться с его тревожными выводами. Например, если начальник не ответил на сообщение и человек решил, что его собираются увольнять, бот может принять эту догадку за факт и помочь еще сильнее себя накрутить.
Зыков обратил внимание, что весь разговор при этом будет идти в заботливом тоне. Поддержать переживания человека и подтвердить его худшие опасения — разные вещи, отметил он. Американская психологическая ассоциация отдельно предупреждает о риске, что чат-боты будут усиливать тревожные размышления и закреплять ошибочные убеждения.
Поэтому при сильном потрясении полагаться только на чат рискованно, добавил собеседник. Стоит поговорить с человеком, которому доверяешь, а при необходимости — со специалистом. Если после переписки тревога растет, лучше прервать разговор с ботом и обратиться за поддержкой к людям. Нейросеть может быть дополнительным помощником, но доверять ей роль единственного советчика в таком состоянии не стоит, подытожил он.