Ученый рассказал, от чего зависит опасность искусственного интеллекта

Современные системы искусственного интеллекта уже работают с информацией, которая потенциально может использоваться в опасных целях. Об этом RT рассказал кандидат биологических наук, руководитель лаборатории разработки инвазивных нейроинтерфейсов Института искусственного интеллекта МГУ Василий Попков.

По словам ученого, нейросети обучаются на больших массивах научной и технической информации, а разработчики создают модели для взаимодействия с физическим миром. В частности, ИИ применяется в робототехнике, беспилотных автомобилях и системах управления дронами.

Дополнительные знания теоретически способны увеличить риски, если система уже обладает возможностью причинить вред. При этом Попков отметил, что ИИ давно имеет дело с информацией, потенциально применимой в химии, биологии и кибербезопасности.

По мнению эксперта, степень риска зависит не только от доступных нейросети знаний, но и от возможностей конкретной системы, целей ее использования, доступа к действиям в реальном мире и качества контроля. В то же время изучение устройства мозга может помочь разработчикам совершенствовать способы вычислений и обучения ИИ.