Специалисты МФТИ разработали новую архитектуру искусственного интеллекта, которая решает проблему «катастрофического забывания». Обычные модели быстро стирают старые данные при обучении новым, а новая система удерживает информацию в сотни тысяч раз дольше.
«Возможно, мы нашли ответ на одну из главных загадок мозга: как он умудряется учиться новому, не стирая при этом старые „файлы“. Все дело в постоянной перестройке нейронных связей — ревайринге. Именно он превращает хрупкую кратковременную память в прочные долговременные воспоминания», — объяснил ведущий научный сотрудник МФТИ Сергей Лобов.
После обучения сеть сама меняет свою структуру и сохраняет новые знания, превращая кратковременную память в долговременную.
«Система самостоятельно перестраивает свою анатомическую структуру, буквально „впечатывая“ этот паттерн в карту связей. Этот процесс мы назали самоорганизованной консолидацией памяти. Благодаря нему кратковременная память превращается в долговременную — устойчивое структурное изменение в архитектуре сети», — отметил Лобов.
Эксперименты показали, что улучшенная сеть хранит данные до 170 млн всплесков активности, тогда как обычная — около 1 тыс. В модели также формируются «хабовые» нейроны, которые помогают стабильно удерживать информацию.
Сейчас система существует как программная модель. Следующий этап — создание нейроморфных процессоров, которые позволят использовать такую память в автономных роботах, беспилотниках и других интеллектуальных устройствах.
Ранее REGIONS сообщил, что профессор рассказал жителям, что скрывает Солнечная система.
