Технология AGI и оживление игровых персонажей

Это доклад CRO Mind Simulation Василия Мазина в формате статьи для отменённой конференции AI Everything 2020.

Эта статья посвящена Общему Искусственному Интеллекту и роли видеоигр в задаче его создания. Местами может быть немного сложно, я затрону несколько важных вещей в общем искусственном интеллекте. Сейчас идет бум решений Narrow AI (распознавание голоса, синтез голоса, редактирование видео, финансовый прогноз и т.д.), но все больше и больше внимания уделяется общему искусственному интеллекту.
Сначала нам следует определиться с термином AGI. Общий искусственный интеллект подразумевает способность решать любые задачи, в том смысле, в котором любые задачи может решать человек.

  • “Общий интеллект – это способность достигать сложных целей в сложных средах”

    Бен Гёрцель

  • “Интеллект – это способность системы адаптироваться к своей среде, работая при недостаточных знаниях и ресурсах”

    Пей Ванг

  • “Интеллект измеряет способность агента успешно действовать в широком диапазоне сред”

    Маркус Хуттер, Шейн Легг
    Как видите, определения различаются в деталях, хотя суть их примерно одинакова. А теперь давайте попробуем сформулировать максимально общее и ёмкое определение.

    • “AGI – это способность системы решать любые задачи в сложных средах с ограниченными ресурсами.”

      Это определение максимально широкое и требует дополнительного уточнения что такое любые задачи, какими должны быть сложные среды, о каких ресурсах идёт речь и насколько они ограничены.

      Однако не всё так просто. На данный момент существует ряд проблем в разработке Искусственного Интеллекта, которые до сих пор не преодолены. Самые важные из них представлены ниже.

      Вызовы в Искусственном Интеллекте

      Объяснимость ИИ

      Человек должен понимать почему ИИ принял то или иное решение. Это необходимо для возможности верификации, доработки или дообучения ИИ.

      Обучаемость через передачу знаний

      Возможность передачи знаний как между различными системами ИИ, так и между человеком и системой, чтобы знания, накопленные в процессе обучения какой-либо одной системой либо человеком-экспертом, могли бы быть загружены в другую систему для дальнейшего использования и до-обучения.

      Быстрое обучение

      Необходимость построения систем обучающихся на небольшом объеме материала, в отличие от существующих систем глубокого обучения, требующих большие объемы специально подготовленного обучающего материала.

      Структурированное обучение и предсказание

      Развитие технологий обучения на основе представления объектов обучения в виде многослойных иерархически структур, где более низкоуровневые элементы определяют более высокоуровневые, что может оказаться альтернативным решением проблем быстрого обучения и сильной генерализации.

      Катастрофическое забывание

      Решение проблемы катастрофического забывания, присущего большинству существующих систем, которые, будучи изначально обучены на одном классе объектов и затем до-обучены распознаванию на новом классе объектов, теряют способность распознавать объекты первого класса.

      Возможность инкрементального обучения

      Достижение возможности инкрементального обучения, предполагающего способность системы накапливать знания и совершенствовать свои возможности постепенно, не теряя при этом полученные ранее зная, но приобретая новые.
      Как видно по этому списку, многие проблемы связаны с особенностями технологии нейронных сетей и глубокого обучения. Но это лишь один из подходов. Используя гибридные подходы и объединяя различные методы построения интеллектуальных систем мы превратили этот список проблем в список преимуществ. Решением этой сложной инженерной и научной задачи мы занимались больше десяти лет. Было много работы с философами, психологами, лингвистами, отслеживались новые достижений в изучении мозга, особенно на функциональном уровне. И хотя до создания AGI путь еще не близкий, мы уже превратили список ограничений в список преимуществ и можем демонстрировать серьёзные достижения.

      Подсказка!

      Более подробно про устройство мыслительного ядра можно будет прочитать на странице "о технологии".

      Но есть еще два интересных челленджа:
      - как узнать что мы достигли AGI?
      - как измерить насколько мы близки к AGI?

      Как узнать что мы достигли AGI?

      Отсутствие четкого и точного определения самого интеллекта затрудняет разработку теоретических и эмпирических аспектов методов тестирования и оценки разрабатываемых систем критериев AGI. Наиболее известный - тест Тьюринга несовершенен и имеет серьезные недостатки, связанные с антропоцентризмом и отсутствием проверки на высокоинтеллектуальную деятельность.
      Существует множество тестов достижения AGI – некоторые из них ироничные, а другие вполне серьезные. Взглянем на них.

      • “Искусственный интеллект поступает в университет, где посещает те же занятия, что и обычные студенты, выполняет те же задания и получает соответствующую степень.”

        Тест студента Бена Герцеля.

      • “Стив Возняк предложил создать машину, которая может войти в любой среднестатистический американский дом, найти в нем кофемашину, кофе и кружку, набрать воду и заварить кофе.”

        The Кофе-тест. Стив Возняк

      • “Машина выполняет экономически важную работу на том же уровне что и профессионалы в данной области.”

        Тест на профпригодность Нилса Джон Нильссона.
        Еще одним критерием достижения AGI может быть решение различных AI-полных задач. К таким задачам можно отнести: понимание естественного языка, компьютерное зрение, решение задачи Бонгарда, рецензирование научных статей. Вообще, любая комплексная задача, включающая в себя возникновение непредвиденных обстоятельств и требующая интеллекта уровня AGI. Даже полностью автономное управление автомобилем является ИИ полной задачей, так что полноценных автопилотов, способных разобраться в любой ситуации на дороге мы увидим еще очень не скоро.

        Еще более сложный вопрос как измерить AGI?

        В последнее время много внимания уделяется такой метрике оценки развития AGI, как Универсальная Мера Интеллекта (Universal Measure of Intelligence). Большой вклад в ее развитие внесли такие исследователи, как Шейн Легг (Shane Legg), Маркус Хаттер (Marcus Hutter), Хосе Хернандес-Оралло (Jose Hernandez-Orallo) и др.
        Эта метрика основывается на следующем неофициальном определении интеллекта: «Интеллект измеряет способность агента достигать целей в широком диапазоне сред».
        Эта теоретическая мера интеллекта обладает целым рядом положительных свойств. Может оценивать как простых агентов, так и универсальных, может разумно упорядочивать агентов, является непрерывной мерой интеллекта, не является антропоцентричной. Но есть и большой недостаток — она является лишь теоретических определением и не подходит для прямой оценки реальных агентов. В настоящее время появились системы тестов, основывающиеся на расширенной версии Универсальной Меры Интеллекта, но работы здесь еще очень много.

        И всё же, как можно связать видеоигры и виртуальную реальность с задачей создания AGI?

        Миры видео игр представляют собой мини копии нашего мира с некоторыми изменениями и упрощениями, а персонажи, которые являются агентами, могут решать в них различные задачи. Кроме того в видео играх очень жестко ограничиваются вычислительные ресурсы и объемы знаний.
        Как видите, все это соответствует определению AGI, которое я привел в начале.
        AGI и игры могут взаимно обогатить друг друга. С одной стороны игра — это среда для развития AGI, с другой, с помощью AGI можно «оживить» так называемые открытые миры видео игр, которые стараются дать свободу выбора игроку. Такие игры очень сложно и дорого создавать, так как свобода и нелинейность требует огромного количества ресурсов на разработку дополнительного контента, который часть игроков не увидит.

        В таких играх отход от главной сюжетной линии, если она есть, ведет к утрате интереса у большинства игроков, если они не умеют развлекать сами себя. Ведь мир по сути мертв, а игровые персонажи используют всего-лишь заранее заданные реплики.

        Вот как это выглядит. Желтая реплика это основной сюжет, а серая дополнительная. Мы не можем задать собственный вопрос или побеседовать с персонажами, а с большинством персонажей даже начать диалог невозможно.
        Когда сюжетная ветка заканчивается, всё окружение замирает и превращается в декорацию. Но игрокам нравится ощущать влияние, которое они оказывают на судьбу мира или героев. Поэтому нелинейность очень важна. Это признают и сами разработчики видео игр.

        • “Игрок хочет влиять на мир и на то, что происходит по сюжету. Многие игры пытаются найти способ действительно отдать эту власть в руки игроку, но, на самом деле, мы не можем себе позволить делать это в значительном масштабе, сохраняя при этом связную историю. Разрабатывать целые локации, миссии, персонажей, которых большая часть игроков никогда не увидит, потому что они пошли по другой сюжетной ветке, — это чересчур дорого.”

          Эван Сколник. Сценарист Dying Light и Mafia III
          Возможно ли это сейчас? Возможно ли населить мир видео игры тысячами цифровых личностей? Да, сложно, но возможно.

          В качестве эксперимента и демонстрации возможностей мы решили взять мир видео игры и оживить её героя и нескольких его друзей, то есть создать их цифровые личности, которые будут вести себя как реальные люди, обладать уникальными чертами характера, знаниями, интересами и так далее. И мы это сделали. И замечу, что всё это работает полностью оффлайн на обычном ноутбуке.

          Почему это важно для индустрии? Потому, что создавать продвинутые и проработанные диалоги для персонажей очень долго и дорого. А использование агентов с технологиями AGI позволяет быстро и дешево создавать тысячи разных личностей на базе одного.
          Эта технология изменит представление об видео играх и Искусственном Интеллекте в целом, так как игры - это стартовая площадка для ИИ.
          Ведь цифровой личностью может быть гид в музее, персональный ассистент уровня Джарвиса, автономный робот и вообще кто угодно.
          Закончить статью хотелось бы несколькими цитатами, которые, возможно, заставят вас улыбнуться и задуматься.

          • “В будущем машины займутся самообучением с помощью наблюдения за миром, как это делают дети.”

            Ян Лекун

          • “Вопрос «Могут ли машины мыслить?» имеет примерно такой же смысл, как вопрос «Могут ли подлодки плавать?».”

            Эдстер Дийкстра

          • “Компьютеры становятся все умнее. Ученые утверждают, что скоро они смогут разговаривать с нами. (Говоря «они», я имею в виду компьютеры, я сомневаюсь, что ученые когда-либо смогут разговаривать с нами.).”

            Дейв Барри