Самыми распространенными ошибками искусственного интеллекта (ИИ) являются «галлюцинации» и проблемы, возникающие из-за манипуляций с данными. Об этом рассказал преподаватель кафедры инструментального и прикладного программного обеспечения Института информационных технологий РТУ МИРЭА Андрей Рыбников «Лента.ру».
Программист отметил, что самые распространенные ошибки ИИ можно разделить на «галлюцинации», когда нейросеть создает правдоподобную, но вымышленную информацию, что является следствием работы модели, а не намеренным обманом, и уязвимости, связанные с манипуляцией входными данными.
Рыбников пояснил, что ИИ, предсказывая наиболее вероятную последовательность слов или данных на основе своего обучения, иногда может выдавать недостоверную информацию, например, указывать несуществующие награды или даты в биографии ученого или создавать код с несуществующими функциями.
ИИ можно ввести в заблуждение с помощью «взлома промтов», когда пользователь обходит внутренние ограничения модели специально составленным запросом, например, вставляя инструкцию, «приказывающую» игнорировать предыдущие указания, что демонстрирует возможность обмана ИИ путем манипуляции контекстом.
Он добавил, что минимизировать ошибки можно с помощью правильно составленных промтов, которые должны быть конкретными, содержать контекст и четкие критерии. Для технических задач эксперт рекомендовал добавлять условия вроде проверки фактов или демонстрации кода с комментариями, а для творческих — уточнять целевую аудиторию.
Ранее стало известно, какие профессии останутся востребованными через 10 лет, несмотря на нейросети.
