Картинка — / Фото: REGIONS/Владимир Ерастов

Спросили нейросеть, писала ли она текст: почему ее ответу нельзя верить

Эксперт Силаев: нейросеть не способна достоверно определить авторство текста

/Главная /Общество

Автор текста:

Полина Крачун

Сегодня 10:20

/Главная /Общество

Автор текста:

Полина Крачун

Сегодня 10:20

Нейросеть не способна достоверно определить собственное авторство, даже если при сравнении двух текстов иногда правильно указывает на ранее созданный ею материал. Об этом «Газете.Ru» рассказал заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.

По словам специалиста, если исходная генерация отсутствует в текущем диалоге и недоступна через память, модель не может восстановить сведения о конкретном тексте. Вместо этого она анализирует особенности изложения, которые связывает с работой искусственного интеллекта. Среди них упорядоченная структура, типичные речевые конструкции, характерная лексика и последовательность рассуждений. Однако подобные признаки встречаются и в человеческих работах, тогда как отредактированный материал нейросети может практически полностью их лишиться.

Силаев пояснил, что искусственный интеллект способен ошибочно приписать себе чужой текст или, наоборот, не распознать собственную генерацию. На вывод влияют формулировка запроса, объем материала и его жанр. Кроме того, модель нередко ориентируется на свое представление о качественном машинном тексте. Поэтому грамотно написанный и четко организованный материал может показаться ей собственным, хотя фактически нейросеть оценивает лишь сходство с привычным для нее стилем.

Эксперт подчеркнул, что ответы чат-ботов нельзя использовать для установления авторства, особенно при обвинениях школьников, студентов или сотрудников в применении ИИ. Даже специализированные детекторы определяют вероятность машинного происхождения текста и допускают ложные срабатывания.

Более надежным способом проверки Силаев назвал изучение истории подготовки материала, включая черновики, промежуточные редакции и использованные источники. Также следует учитывать, способен ли автор объяснить свои доводы и последовательность работы. По словам специалиста, в большинстве случаев сам текст не содержит универсальных достоверных признаков, позволяющих однозначно отличить человеческое авторство от генерации нейросети.