На пути к безопасному высокопроизводительному будущему ИИ
В документе Университета Торонто, опубликованном в 2012 году, под названием Классификация ImageNET с глубокими сверточными нейронными сетями изложен принципиально иной подход к конкурсу компьютерного зрения ImageNET, который превзошел предыдущие подходы более чем на 30%. С тех пор подход глубокого обучения к кластеризации и классификации с использованием нейронных сетей был применен ко многим реальным приложениям, включая Go, автономные транспортные средства, NLP, физические движки и многое другое.
Однако нейронные сети сопряжены со значительными проблемами. Во-первых, они обременительны в вычислительном отношении для обучения и запуска из-за их сложной и большой архитектуры. Для них требуются высокопроизводительные вычислительные системы (такие как кластеры суперкомпьютеров и массивы графических процессоров, если не появляются специальные ASIC, такие как Intel Nervana), и их сложно развернуть на периферии из-за этой неэффективности. Кроме того, глубокие нейронные сети требуют, чтобы специалисты по машинному обучению деликатно проектировали и настраивали большие сложные архитектуры без полного понимания внутренней работы. Это часто называют проблемой черного ящика.
По совпадению, в нескольких милях от команды, написавшей статью о нейронных сетях 2012 года, DarwinAI из Ватерлоо / Торонто работает над решением некоторых нерешенных проблем современного глубокого обучения. Компания создает пакет аналитики для использования при обучении и сортировке моделей (объяснимость), а также при развертывании модели (оптимизации).
Используя новый подход, называемый генеративным синтезом, DarwinAI может распаковывать глубокие нейронные сети, отображать узлы и слои внутри сети и восстанавливать более компактную сеть с аналогичной производительностью.
DarwinAI построен на подходе генеративного синтеза к зондированию, изучению и созданию лучших нейронных сетей. Этот подход включает в себя замкнутый цикл, непрерывно повторяющийся «диалог» между двумя основными компонентами: Генератором и Инквизитором. Инквизитор исследует сегменты сети, чтобы изучить внутреннюю работу сети. Эти знания затем транслируются в Генератор, чтобы узнать, как создать новую, лучшую сеть. Этот циклический процесс обучения в конечном итоге приводит к эволюции эффективности сети (дарвинизм!). Этот процесс также проливает свет на регионы сети, помогая разработчикам информировать разработчиков о том, как улучшить сеть с помощью дополнительных обучающих данных.
DarwinAI уже сотрудничает со многими компаниями, работающими с глубоким обучением в ряде отраслей. Решения Дарвина по объяснимости нейронной сети могут ускорить разработку моделей и повысить продуктивность групп по анализу данных. Кроме того, оптимизированные сети, которые может создать Дарвин, неизменно превосходят отраслевые стандарты, такие как AutoML и SqueezeNet.
Мы находимся на ранних этапах революции в области искусственного интеллекта, когда программный интеллект будет внедрен во многих отраслях. Исследователи подтверждают, что подходы, основанные на нейронных сетях, будут играть большую роль в этом технологическом сдвиге. Решение двух фундаментальных проблем глубокого обучения - обфускации функций и вычислительной интенсивности - становится все более насущной потребностью в этой быстро развивающейся отрасли. Мы с нетерпением ждем возможности поддержать DarwinAI в работе по продвижению этого прогресса.
Мы рады сообщить, что Inovia Capital вступила в партнерские отношения с Obvious Ventures, чтобы поддержать DarwinAI, участвуя в проекте Seed на 3 миллиона долларов.
