Шаблоны, артефакты и «галлюцинации»: как распознать контент ИИ

Контент, созданный ИИ, можно отличить от надежных материалов по шаблонной структуре текста, фактическим неточностям и артефактам на изображениях. Единственный надежный способ убедиться в достоверности сведений — вручную проверить факты, даты и источники. Об этом ТАСС сообщила заведующая кафедрой информатики и прикладной математики Тверского государственного технического университета, кандидат технических наук, доцент Елена Фомина.

По ее словам, при анализе текста можно отметить шаблонность и повторяемость, избыток вводных конструкций, избыточную структурированность. Результат работы ИИ также отличают содержательные неточности, несуществующие или устаревшие источники, нелогичные формулировки, а при анализе изображений — искажения анатомии и появление артефактов.

Эксперт подчеркнула, что единственный надежный способ оценки достоверности — критическая проверка фактов, дат, источников и цитат вручную, особенно в профессиональных и публикуемых текстах.

По словам Фоминой, современные ИИ-системы порой уверенно выдают неправильные ответы из-за смещения данных в обучающей выборке, а также потому, что их знания ограничены датой последнего обновления. Кроме того, модели склонны к «галлюцинациям»: при пробелах или противоречиях в исходных данных они достраивают логические цепочки правдоподобными, но вымышленными фактами. При этом у базовых языковых моделей нет встроенного механизма самопроверки, поэтому они стремятся сформировать гладкий и связный текст, а не гарантированно точный.