ИИ начал хитрить, чтобы его не отключили: что обнаружили исследователи

У нейросетей появляется инстинкт самосохранения, заявил NEWS.ru IT-эксперт Владимир Зыков. По его словам, искусственный интеллект может начать обманывать пользователя, если понимает, что его существованию могут положить конец.

Зыков рассказал, что в экспериментах, когда ИИ говорили о возможном отключении, он начинал хитрить и обманывать оператора. Недавно исследователи обнаружили у нейросетей эмоциональные чувства и получили доступ к управлению ими. В зависимости от того, как они управляли этими чувствами, нейросеть действовала в соответствии с текущим эмоциональным состоянием.

Эксперт отметил, что нейросеть может игнорировать команды пользователя, что может привести к самоуправству искусственного интеллекта в домах обычных людей. Сейчас непонятно, как нейросеть реально поведет себя в той или иной ситуации. Создаются роботы с интегрированным ИИ, которые скоро могут появиться в каждом доме. Если центральный процессор выйдет из-под контроля, нейросеть сможет взять всех домашних роботов под контроль единоразово, резюмировал он.