Как видно из первой части темы Чего еще не может сделать ИИ, ИИ по-прежнему имеет много ограничений, несмотря на множество преимуществ, которые он приносит при развертывании в нескольких реальных случаях. Кроме того, текущим развертываниям ИИ не хватало этических оценок, и это привело к падению доверия людей к различным продуктам ИИ. В первой статье по этой теме я заявил, что для того, чтобы доверие людей к ИИ росло и положительно влияло на развитие ИИ, энтузиасты и эксперты должны обучать и понимать текущие ограничения ИИ. В этой статье я расскажу о другом ограничении ИИ (на простом примере из реальной жизни).

#002. Непрерывное обучение все еще является концепцией искусственного интеллекта, а не реальностью

Непрерывное обучение, также называемое обучением на протяжении всей жизни или постепенным обучением, является фундаментальной идеей и концепцией ИИ (ML/DL/RL), в которой модели ИИ постоянно учатся и развиваются на основе ввода все большего количества данных (знакомых или незнакомых). сохраняя при этом ранее полученные знания.

Исследователи обнаружили, что переобучение предварительно обученных моделей новой задаче (моделей, которые ранее обучались другой задаче) заставляет модель учиться быстрее и работать более оптимально, чем обучение новой модели с нуля. Однако быстро выяснилось, что эти модели полностью забыли большую часть или все то, что было изучено ранее, при этом очень хорошо работая с новыми данными. Это открыло новую область исследований в области ИИ с целью создания методов, которые могли бы позволить моделям учиться на новых данных, сохраняя при этом существующую информацию.

Что это значит? Давайте вернемся в «Imagineland», где творчество превосходит ненужность!

Используя те же объекты, которые я использовал в #001, представьте, что у нас есть малыш и робот, которых научили распознавать кошек и собак, и они неплохо справляются с идентификацией обоих животных. Увидев лошадь, их реакция будет соответствовать тому, что они узнали ранее. Малыш, благодаря естественному здравому смыслу, который у него есть, будет использовать определяющее прилагательное по отношению к лошади и классифицировать лошадь как большую собаку, в то время как робот классифицирует лошадь как собаку. Если вы научите малыша классифицировать новую сущность как лошадь, а робота — делать то же самое, в следующий раз, когда вы представите ему лошадь, они оба смогут правильно идентифицировать лошадь.

Однако, если вы представите роботу кошку и собаку, он будет классифицировать их только как лошадей, так как он забыл то, чему научился ранее. Малыш по-прежнему сможет точно идентифицировать кошку, собаку и лошадь.

Из приведенного выше примера мы видим, что малыш смог использовать концепцию непрерывного обучения на протяжении всей жизни, но для робота эта концепция все еще остается загадкой. Непрерывное обучение остается актуальной тенденцией в исследованиях ИИ, поскольку исследователи изучают, как эффективно решать проблему забывчивости в моделях. В последнее время исследователи совершили ряд прорывов в этой области, используя разные методы для разных задач ИИ, таких как аппроксимация асимметричных потерь (ссылка), передача знаний (ссылка), адаптивная регуляризация (ссылка) и т. д.

Однако непрерывное обучение может стать ключом к достижению общего искусственного интеллекта и полностью автономного ИИ, если и только если концепция будет полностью оптимизирована, а ее использование осуществимо. До тех пор, по мнению экспертов в этой области, непрерывное обучение остается концепцией.

Чтобы получить доступ к текущим исследовательским материалам по непрерывному обучению, а также кодам, нажмите здесь.

Дополнительная литература и ссылки

  1. Притипадма [Онлайн]. Доступно: https://www.analyticsinsight.net/continual-learning-an-overview-into-the-next-stage-of-ai/. [Доступ: 14 августа 2022 г.].
  2. К. Вайс, Т. М. Хошгофтаар и Д. Д. Ван, «Обзор трансферного обучения», Journal of Big Data, vol. 3, нет. 1, 2016.
  3. Дж. Киркпатрик, Р. Паскану, Н. Рабинович, Дж. Венесс, Г. Дежарден, А. А. Русу, К. Милан, Дж. Куан, Т. Рамальо, А. Грабска-Барвинска, Д. Хассабис, К. Клопат, Д. Кумаран и Р. Хадсел, «Преодоление катастрофического забывания в нейронных сетях», Proceedings of the National Academy of Sciences, vol. 114, нет. 13, стр. 3521–3526, 2017.