Пользователей Подмосковья защитят от опасного контента с помощью ИИ

Российские ведомства приступили к разработке инновационной системы контроля интернет-контента. Минцифры, Минкультуры, Роскомнадзор и Росмолодежь работают над механизмом добровольного ограничения доступа к материалам, которые пока не запрещены законом, но могут считаться потенциально опасными. Об этом сообщает «Абзац».

Ключевым элементом новой системы станет технология искусственного интеллекта (ИИ). По мнению интернет-омбудсмена Дмитрия Мариничева, современные технические возможности позволяют реализовать комплексный подход к анализу интернет-контента.

Принцип работы системы предполагает автоматическое определение содержания материалов, выявление потенциально нежелательного контента (включая ненормативную лексику и другие категории), формирование предупреждений для пользователей и возможность установки персональных ограничений.

Пользователи получат возможность создать индивидуальный профиль безопасности. В нем можно будет настроить собственные параметры фильтрации и определить, какой контент будет доступен, а какой — заблокирован.

Система предупреждения будет срабатывать при попытке перехода по ссылкам или при поиске определенных материалов. Пользователям будут предлагаться рекомендации воздержаться от просмотра потенциально опасного контента с возможностью установки автоматической блокировки.

Эксперты отмечают, что внедрение такой системы может значительно повысить уровень информационной безопасности в российском сегменте интернета, предоставляя пользователям инструменты для самостоятельного управления своим цифровым пространством.

Ранее родителям напомнили правила безопасности для детей, которые остались дома одни.