ИИ может выйти из-под контроля: депутат назвал главный технологический риск

При дальнейшем стремительном развитии искусственного интеллекта контроль над автономными системами и ИИ-агентами станет одним из важнейших вопросов технологической безопасности. Об этом RT заявил депутат Госдумы Антон Немкин.

По его мнению, особые риски возникают в ситуациях, когда ИИ получает возможность самостоятельно взаимодействовать с интернетом, программами и другими цифровыми сервисами. При этом останавливать или искусственно замедлять развитие таких технологий, как считает парламентарий, нецелесообразно, поскольку технологический прогресс все равно будет продолжаться.

Основной задачей Немкин назвал создание механизмов управления ИИ. Речь идет о четком понимании возможностей и ограничений систем, распределении ответственности и недопущении ситуаций, при которых человек фактически утрачивает контроль над технологией.

В связи с этим, отметил депутат, особое значение приобретает регулирование сферы искусственного интеллекта. С 1 сентября в России уже начали действовать базовые положения, устанавливающие правила в этой области. В дальнейшем их, по его словам, потребуется развивать с учетом быстрого появления новых моделей и ИИ-агентов.

Законодательство при этом должно одновременно успевать за технологическими изменениями и не создавать избыточных ограничений для полезных разработок.

Отдельным направлением Немкин назвал технологический суверенитет. По его оценке, эффективный контроль рисков невозможен, если критически важные технологии, вычислительные ресурсы и ключевые решения находятся за пределами российской юрисдикции.

Поэтому, считает парламентарий, стране необходимы собственные ИИ-модели, инфраструктура и специалисты. При этом развитие отечественных технологий не исключает международного сотрудничества и обмена научными и технологическими компетенциями.