Иэн Гудфеллоу об истории GAN; ограничения мозга и моя третья неделя в OpenAI

Я продолжаю свою серию статей, рассказывая вам о моем опыте получения стипендии OpenAI, о пути, который я предпринял, чтобы раскрыть себя как исследователь ИИ и участник в этой области.

В этой записи блога я расскажу о своей неделе:

  • мысли об ограничениях мозга и почему нам нужны умные системы для самосовершенствования;
  • мои выводы из конференции CVPR в Солт-Лейк-Сити;

Зачем нам нужны умные системы

Мозг - сложная система: он состоит из сотен миллиардов нейронов и нескольких сотен триллионов синаптических соединений, которые могут обмениваться информацией за миллисекунды.

Такая система позволяет зрительной коре головного мозга декодировать сложные изображения за 100 мс, в то время как мозг хранит 109 бит информации в течение всей жизни. Согласно исследованию, это в 50 000 раз больше текста, содержащегося в Библиотечном Конгрессе США.

Несмотря на такую ​​сложную систему, мы можем едва сосредоточиться более чем на одном объекте или задаче одновременно.

Помимо этого, с экспоненциальным удвоением данных каждые два года, нас затопляет гораздо больше информации, чем мы физически способны обработать. Технологический прогресс, всплеск освоения космоса и дальнейший научный прогресс потребуют умных систем, которые помогут нам справиться с этими аспектами нашей жизни, оптимизировать их и раздвинуть границы нашего существования.

Мы так ограничены. Мы знаем, наверное, 1% всей реальности, и есть так много удивительных вещей, которые нужно изучить, открыть и понять. Умные системы могут существенно повлиять на этот путь за счет оптимизации и автоматизации, поэтому крайне важно обеспечить безопасность их разработки и развертывания для нас.

Моя третья неделя в качестве стипендиата OpenAI

А теперь вернемся к моему распорядку дня - какой была моя третья неделя в качестве стипендиата OpenAI. Я провел эту неделю на конференции CVPR по компьютерному зрению, которая проходила в Солт-Лейк-Сити.

Мероприятие было немного ошеломляющим с количеством выступлений / плакатов, но я хотел бы выделить работу, которая привлекла мое внимание: Задачономия: распутывание обучения передаче задач. изучение двадцати пяти различных визуальных задач, чтобы понять, как и когда перенос обучения работает от одной задачи к другой, что снижает потребность в маркированных данных.

Для меня было полезно посетить семинар Иэн Гудфеллоу по введению в GAN.

Ян начал с краткого введения в основную суть GAN: систему из двух нейронных сетей, участвующих в враждебных отношениях друг с другом в рамках игры с нулевой суммой (подразумевается теория игр).

В теории игр у каждого игрока есть набор действий и выплат в зависимости от этих действий: генератор, который генерирует данные, и дискриминатор, который угадывает, являются ли данные настоящими или поддельными. Дискриминатор получает больше очков, если догадывается, что данные настоящие или фальшивые. Генератор получает больше очков, если он заставляет дискриминатор «думать», что фальшивые данные настоящие.

GAN связаны с идеей самостоятельной игры, которая очень эффективна в машинном обучении. Сегодня мы видим результаты AlphaGo Zero, Агенты по борьбе сумо OpenAI и Дота-проект. Находясь в враждебных отношениях, агент со временем становится все лучше и лучше.

За последние несколько лет сети GAN очень быстро улучшились благодаря различным инновациям:

Алек Рэдфорд внес свой вклад в разработку, реализовав свертки в модели.

Затем спектральная нормализация еще больше улучшила GAN, что нацелено на стабилизацию обучения дискриминатора за счет новой нормализации веса.

Следующим нововведением в этой области стало обновление двух шкал, в котором применяется другая скорость обучения для генератора и дискриминатора.

В настоящее время Ян сосредоточен на сетях GAN с самовниманием, которые позволяют моделировать управляемую вниманием долгосрочную зависимость для задач генерации изображений.

Что касается моего прогресса в ML, я потратил большую часть своей недели на развитие своих навыков в TensorFlow, работая с учебником.

Если у вас есть вопросы или комментарии, пишите мне. Вы можете узнать обо мне больше в Twitter.