Вы знаете о Законе непредвиденных последствий?
В общих чертах это сводится к следующему:
Любое действие, связанное со сложной системой, обязательно приведет к непредвиденным последствиям.
Это особенно актуально в области машинного обучения, где мы работаем с очень сложным программным обеспечением. Системы машинного обучения почти всегда имеют непредвиденные побочные эффекты.
Вот прекрасный пример.
Рассмотрим сеть глубокой сверточной обратной графики или DCIGN.
Это выглядит так:
Это может показаться сложным, но на самом деле DCIGN состоит из сверточной нейронной сети (CNN) и деконволюционной сети (DN), установленных сквозным образом.
Первая половина считывает изображение и преобразует его в абстрактную информацию, называемую «картой характеристик». Зеленые узлы в середине могут затем вносить незначительные изменения в карту, а вторая половина берет измененную карту и реконструирует ее обратно в изображение.
Вкратце, DCIGN считывает изображение, вносит изменения и создает новое изображение.
Самый известный DCIGN - CycleGAN, который умеет делать такие умопомрачительные вещи:
Посмотрите на Моне - ›конвертация фотографий. Сто лет назад Клод Моне увидел ту сцену с рекой и превратил ее в картину. CycleGAN просто запустил этот процесс в обратном порядке и восстановил фотореалистичное изображение из своей картины.
Разве это не потрясающе?
Кажется, что с CycleGAN все можно делать.
Поэтому исследователи из Google и Стэнфорда задались вопросом, можно ли использовать CycleGAN для сопоставления спутниковых фотографий с картами улиц и обратно.
Результаты превзошли их самые смелые ожидания. Посмотри на это:
Идеальное отображение аэрофотоснимка на карту улиц и обратно.
Удивительно, правда?
Но присмотритесь.
Посмотрите на это белое здание внизу изображения. Видите все эти световые люки на крыше?
Они не на среднем изображении! И все же они снова появляются в финальном изображении. Так как же вторая половина сети DCIGN знала, куда их всех вернуть?
Здравый смысл подсказывает нам, что это невозможно.
И наш здравый смысл верен. ИИ на самом деле обманул!
Исследователи поставили перед программой невыполнимую задачу, нашли лазейку и обманули.
Начнем с основ. Мы знаем, что сопоставление аэрофотоснимков с картами улиц и обратно невозможно, потому что мы теряем информацию, когда конвертируем фотографию в карту улиц. Утеряны такие тонкие детали, как расположение световых фонарей и дымовых труб на крышах.
И все же программе удалось восстановить идеальный аэрофотоснимок. Таким образом, ему каким-то образом удалось скрыть все эти детали на среднем изображении, чтобы мы не заметили.
Давайте внимательнее посмотрим на среднее изображение. Мы собираемся увеличить контраст, чтобы выявить небольшие цветовые различия:
Вы это видите?
На самом деле на изображении карты спрятано огромное количество информации, закодированной в виде крошечных изменений цвета, незаметных для человеческого глаза.
Вы можете увидеть множество красных пикселей, сгруппированных вокруг белого здания. Они используются второй половиной DCIGN, чтобы нарисовать световые люки в нужном месте на крыше.
Это эквивалент ИИ жульничества и тайной записи всех тестовых ответов, чтобы сдать экзамен.
Чтобы проверить свою теорию, исследователи сыграли шутку с ИИ. Они использовали другое изображение карты, но наложили на него «чит-заметки» с исходной карты.
Если ИИ действительно жульничает, он проигнорирует новую карту и восстановит исходную аэрофотоснимок из чит-заметок.
И вот результаты:
И это доказывает. Программа использует чит-данные только для восстановления аэрофотоснимка, полностью игнорируя карту улиц.
Итак, вот мораль этой истории:
Будьте очень осторожны при создании решений для машинного обучения, потому что компьютеры всегда будут пытаться дать вам результат, о котором вы просите. Если вы дадите им невыполнимую задачу, они просто найдут лазейку и схитрят.
Если результаты вашего приложения AI кажутся слишком хорошими, чтобы быть правдой, вероятно, так оно и есть. Поэтому всегда обязательно включайте тест, который застает ваше программное обеспечение врасплох, чтобы выявить любое мошенничество.
Как вы относитесь к обману со стороны ИИ? Как вы думаете, это смешно, мило или страшно?
Добавьте комментарий и дайте мне знать!
