Google сотрудничает с ЦРУ для разработки искусственного интеллекта для оценки отснятого материала, что вызвало бурю возмущения среди сотрудников технологического гиганта, когда они узнали о причастности Google.

Пилотный проект Google связан с проектом Maven Министерства обороны, целью которого является идентификация объектов на кадрах с беспилотников, который с тех пор широко обсуждался внутри компании, когда данные о проекте были опубликованы во внутреннем списке рассылки. Об этом сообщают источники, которые просили не называть их имен, поскольку они не уполномочены публично говорить об этом задании.

Некоторые сотрудники Google были возмущены тем, что бизнес будет предоставлять ресурсы военным для технологий наблюдения, связанных с операциями, сообщили источники, хотя другие утверждали, что проект поднял серьезные вопросы относительно разработки и применения машинного обучения.

Эрик Шмидт из Google резюмировал опасения технологической индустрии по поводу сотрудничества с Пентагоном в ходе обсуждения разведданных: В техническом сообществе существует общая обеспокоенность тем, что военно-промышленный комплекс каким-то образом использует свои продукты для неправомерного убийства людей. Хотя Google заявляет, что ее участие в Project Maven не связано с боевым применением, этот вопрос по-прежнему вызывает беспокойство у сотрудников, сообщают источники.

Заявленная миссия Maven — ускорить интеграцию DoD больших данных и машинного обучения. В общей сложности министерство обороны потратило 18 миллиардов долларов на области, связанные с искусственным интеллектом, в 2018 году, сообщает Federal News Network.

Первая миссия проекта: помочь Пентагону эффективно обрабатывать поток видеоматериалов, ежедневно собираемых его воздушными дронами дальнего действия — объем видеоматериалов настолько огромен, что человеческие аналитики не могут угнаться за ним, согласно Грегу Аллену, адъюнкту. сотрудник посередине New American Security, соавтор длинного отчета об использовании искусственного интеллекта в армии.

Он отстал в создании инструментов анализа для обработки данных, хотя министерство обороны вложило средства в разработку передовых сенсорных технологий для сбора информации во время полетов.

До Maven никто в отделе не имел ни малейшего представления о том, как покупать, внедрять и внедрять ИИ.

Перед Maven была поставлена ​​задача использовать машинное обучение для идентификации транспортных средств и предметов, представляющих интерес, на кадрах с дронов. Первоначальная цель Maven состояла в том, чтобы предоставить армии передовое компьютерное зрение, позволяющее автоматически обнаруживать и обнаруживать объекты в целых 38 группах, захваченных камерой с полным движением дрона, по данным Пентагона. Maven предоставляет подразделению эту новую возможность.

Искусственный интеллект уже используется в правоохранительных органах и военных программах, но исследователи предупреждают, что эти системы могут иметь значительные искажения, которые трудно обнаружить. Например, ProPublica сообщила об алгоритме, используемом для прогнозирования вероятности рецидива среди правонарушителей, обычно проявляющих расовые предубеждения.

Представитель Google сказал Gizmodo, что в настоящее время он предоставляет Министерству обороны API-интерфейсы TensorFlow, которые можно использовать в приложениях машинного обучения, чтобы помочь аналитикам в обнаружении объектов. Признавая спорный характер использования машинного обучения для армейских функций, представитель сказал, что организация в настоящее время работает над созданием политик и мер безопасности в отношении его использования.

Представитель Google защищал компанию, утверждая, что Google уже давно работает с государственными учреждениями над предоставлением технических решений. Maven — это просто пилотный проект Министерства обороны, предоставляющий им API-интерфейсы TensorFlow с открытым исходным кодом, которые могут помочь в распознавании объектов.

Представитель продолжил, заявив, что технология помечает изображения для просмотра человеком и не будет использоваться в оскорбительных или агрессивных целях.

Использование машинного обучения в военных целях, естественно, вызывает обоснованные опасения. Google активно обсуждает эту важную тему как внутри компании, так и за ее пределами, и продолжает разрабатывать политики и меры безопасности в отношении разработки и использования технологий машинного обучения.

Министерство обороны установило жесткие сроки для Maven — предполагалось, что работа будет запущена всего через шесть месяцев после ее создания, и якобы была задействована в борьбе с Исламским государством с декабря 2017 года.

Чтобы соответствовать жесткому графику, министерство обороны сотрудничало с гуру искусственного интеллекта в технологической отрасли, работая через Экспериментальное информационное подразделение обороны, программу технологического инкубирования министерства, а также Совет по оборонным инновациям, консультативную группу, созданную бывшим министром обороны Эшем Картером для преодолеть технологический разрыв между Пентагоном и Силиконовой долиной.

Шмидт, который ушел с поста исполнительного председателя материнской компании Google Alphabet в прошлом месяце, возглавляет Совет по оборонным инновациям. Во время июльской встречи Шмидт вместе с другими членами Совета по оборонным инновациям обсудил требование Министерства обороны создать информационный центр для данных обучения, которые можно было бы использовать для улучшения возможностей искусственного интеллекта вооруженных сил. Согласно этим протоколам, члены Правления играли консультативную роль в Project Maven, в то время как некоторые члены команд этого Правления входят в состав исполнительной руководящей группы, способной быстро внести свой вклад в Project Maven.

По словам Шанахана, Maven был задуман как искра, которая могла бы разжечь пламя искусственного интеллекта во всем Министерстве обороны.

Еще в 2017 году команда решила найти коммерческих партнеров, чей опыт был необходим, чтобы воплотить в жизнь свои фантазии об искусственном интеллекте. На саммите Defense One Tech в Вашингтоне лидер Maven полковник морской пехоты Дрю Кьюкор сказал, что симбиотическая связь между людьми и компьютерами имеет решающее значение для помощи оружейным системам в обнаружении объектов.

Выступая перед толпой специалистов по бизнесу и военным технологиям, Кьюкор заявил, что США находятся в разгаре гонки вооружений с использованием ИИ. Многие из вас, возможно, заметили, что Эрик Шмидт теперь называет Google компанией, занимающейся искусственным интеллектом, а не компанией, занимающейся данными, хотя Кьюкор специально не упоминал Google в качестве партнера Maven.

Нет «черного ящика», который обеспечивает систему искусственного интеллекта, требуемую властями, по крайней мере, не сейчас. Ключевые элементы должны быть собраны воедино, и единственным реальным средством для этого является сотрудничество с коммерческими партнерами.

Представитель министерства обороны не смог уточнить роль Google или указать, является ли Google его частным отраслевым партнером в Maven.