Опасная иллюзия помощи: стоит ли обращаться к ИИ со своими страхами

Главный редактор аналитического издания Runet Владимир Зыков в беседе с RT предупредил, что искусственный интеллект не способен заменить специалиста при работе с психическими состояниями. По его словам, нейросеть может поддерживать диалог и помогать человеку разобраться в собственных мыслях, однако это не означает, что она способна правильно оценить текущую ситуацию.

Одним из рисков эксперт назвал чрезмерное доверие к ответам ИИ. Человек может начать воспринимать рекомендации модели как мнение профессионала, хотя нейросеть не является врачом и не проводит полноценную оценку психического состояния.

Отдельную проблему, по словам Зыкова, создает склонность модели следовать логике самого пользователя. Если человек обращается к ИИ с уже сформировавшимся подозрением или страхом и ищет подтверждение своей версии событий, существует вероятность, что ответы нейросети будут невольно подкреплять исходную установку.

В результате ИИ может оказаться слишком убедительным собеседником, который не ставит под сомнение предположение пользователя в тех случаях, когда оно требует дополнительной проверки. Такой подход, отметил эксперт, способен усугубить ситуацию.

Особую осторожность следует проявлять при разговорах о тяжелой депрессии, мании, психозе, параноидальных идеях и назначении лекарственных препаратов. В подобных случаях ошибка в оценке состояния или совете может иметь серьезные последствия.

При этом Зыков не считает, что от ИИ необходимо полностью отказываться. Нейросеть может использоваться как дополнительный инструмент: с ее помощью можно сформулировать проблему, проговорить переживания, подготовиться к разговору со специалистом или получить общую информацию. Однако при сложных психических состояниях, по словам эксперта, ИИ не должен становиться заменой профессиональной помощи.