За красивым ответом — ошибка: продюсер объяснил, почему ИИ нельзя доверять

Цифровые персонажи все чаще становятся частью повседневной жизни — они отвечают в чатах, помогают выбирать товары, проводят по сайтам и рассказывают о музеях. Однако слепо доверять им не стоит, предупредил NEWS.ru AI-продюсер Максим Афонин.

По словам эксперта, нейросеть может ошибиться, придумать факт, дать устаревшую информацию или слишком общий ответ. Пользователям следует насторожиться, если персонаж обещает слишком много, говорит излишне уверенно, не указывает источники или выглядит независимым, хотя продвигает продукцию конкретной организации.

Главная опасность возникает, когда человек начинает воспринимать цифрового персонажа как самостоятельного эксперта, хотя это всего лишь инструмент общения, созданный кем-то. За любым ИИ-персонажем должен стоять конкретный автор, владелец или оператор. Отдельный вопрос — авторство и права на голос, образ и стиль речи. Без понятных правил возникает риск конфликтов и недоверия.

В будущем ИИ-персоны появятся у городов, музеев, брендов и сервисов. Они могут быть полезны, если помогают быстро получить информацию. Но финальную ответственность несет не ИИ, а человек или организация, заключил Афонин.