Ученый рассказал, от чего зависит опасность искусственного интеллекта

Ученый Попков: ИИ уже работает с потенциально опасными знаниями

/Главная /Безопасность

Автор текста:

Карина Гончарова

20 сентября06:43

/Главная /Безопасность

Автор текста:

Карина Гончарова

20 сентября06:43

Современные системы искусственного интеллекта уже работают с информацией, которая потенциально может использоваться в опасных целях. Об этом RT рассказал кандидат биологических наук, руководитель лаборатории разработки инвазивных нейроинтерфейсов Института искусственного интеллекта МГУ Василий Попков.

По словам ученого, нейросети обучаются на больших массивах научной и технической информации, а разработчики создают модели для взаимодействия с физическим миром. В частности, ИИ применяется в робототехнике, беспилотных автомобилях и системах управления дронами.

Дополнительные знания теоретически способны увеличить риски, если система уже обладает возможностью причинить вред. При этом Попков отметил, что ИИ давно имеет дело с информацией, потенциально применимой в химии, биологии и кибербезопасности.

По мнению эксперта, степень риска зависит не только от доступных нейросети знаний, но и от возможностей конкретной системы, целей ее использования, доступа к действиям в реальном мире и качества контроля. В то же время изучение устройства мозга может помочь разработчикам совершенствовать способы вычислений и обучения ИИ.