Когда возвращаешься в школу после летних каникул, может возникнуть ощущение, что все забыл, чему научился за весь год. Но если бы вы учились, как система искусственного интеллекта, то у вас на самом деле было бы нечто похожее: после первого урока ваш мозг стирал бы информацию, чтобы начать все с нуля для второго занятия.
Стремление ИИ забыть о вещах, которые он ранее узнал при получении новой информации, называется катастрофическим забыванием.
Это большая проблема. Передовые алгоритмы учатся после анализа бесчисленных примеров того, что они должны сделать сами. Система ИИ распознавания лиц, например, будет анализировать тысячи фотографий лиц людей, чтобы обнаружить нужное, когда оно появится в видеопотоке.
Эти системы ИИ фактически не понимают основную логику того, что они делают. Даже если их обучать похожим вещам, все приведет к тому, что они будут снова тренироваться с нуля. В течение многих лет ученые пытались выяснить, как решить эту проблему. Если они преуспеют, системы ИИ смогут учиться на новом наборе данных обучения, не перезаписывая большую часть того, что они уже успели выучить.
Катастрофическое забывание – одно из основных препятствий, мешающих ученым создавать общий искусственный интеллект (ОИИ) – ИИ, который является всеобъемлющим, чутким и изобретательным, как те, что мы видим в американских фильмах.
Ряд экспертов по ИИ, которые присутствовали на совместной конференции в сентябре в Праге, заявили, что проблема катастрофического забывания роботов является одной из главных на данный момент. Но в ближайшее время эксперты ожидают увидеть ОИИ или более «человечный» ИИ.
Ирина Хиггинс, старший научный сотрудник Google DeepMind, во время конференции презентовала свое виденье этой проблемы, а также объявила, что ее команда уже начала взламывать код искусственного интеллекта.
Она разработала «агента ИИ» – персонажа видеоигры, управляемого алгоритмом ИИ, который мог бы мыслить более творчески, чем типичный алгоритм, заложенный в систему робота. Эта нейронная сеть способна опознать некоторые объекты, с которыми она сталкивалась в имитируемой среде, в настоящей окружающей среде.
Система ИИ не настолько изощрена, как человеческое воображение, но может представить объекты, которые уже видела в своих конфигурациях или алгоритмах.
На этой неделе Хиггинс опубликовала свою статью на сервере preprint arXiv, описывая работу, которая позволяет ранее развитым AI-агентам постоянно учиться, не забывая о более раннем обучении.
Система ИИ Хиггинса с помощью всего лишь пяти примеров показывает то, как любой объект выглядит с разных ракурсов, и агент ИИ изучает его: что это такое и как оно вписывается в окружающую среду, а также как этот объект может выглядеть под разными углами или в другом освещении. После такого анализа алгоритм может представить, как этот объект будет выглядеть в совершенно новом виртуальном мире и распознавать объект, когда он встречает его там. В этом и состоит память ИИ.
Хиггинс подчеркивает, что ее новый алгоритм снова и снова превосходил задачу по сравнению с другими, более простыми системами ИИ. Теперь алгоритм способен учитывать различия между тем, с чем он сталкивается сейчас, и тем, что он видел в прошлом, как и большинство людей. Но в отличие от большинства других алгоритмов, новая система Higgins, созданная для Google, может понять, что она не встречает новый объект лишь потому, что видит его под другим углом.
Тем не менее, модель Хиггинса не приведет нас к общему искусственному интеллекту. Но это знаменует собой важный первый шаг к этой цели, тем более что системы ИИ будут постоянно обновляться, изучая новые вещи о мире, не теряя память о том, что узнали раньше.
Диана Мехедок