На прошлой неделе Palantir ответил на запрос информации (RFI) от Национального научного фонда (NSF) и Управления научно-технической политики Белого дома относительно создания Национального ресурса исследований в области искусственного интеллекта (NAIRR). RFI запросил комментарии от промышленности, академических кругов и общественности, чтобы проинформировать Конгресс, направленный на разработку общей исследовательской инфраструктуры искусственного интеллекта (ИИ). Эта возможность предоставит доступ к вычислительным ресурсам, высококачественным данным, образовательным инструментам и поддержке пользователей для исследователей ИИ и студентов из разных научных дисциплин.
Мы поддерживаем такие усилия, как NAIRR, которые стремятся разработать продуманные подходы к созданию целостных вычислительных экосистем, необходимых для ответственного расширения возможностей исследователей, практиков и студентов в области ИИ. По сути, мы рассматриваем эти усилия как возможность создать сеть людей, данных, опыта и ресурсов для продвижения современных исследований в области искусственного интеллекта; повысить конкурентоспособность США в области искусственного интеллекта; и использовать NAIRR для демонстрации передовых технических практик, ценностей, норм и этических норм, которые США стремятся продвинуть в разработке эффективного и ответственного ИИ.
Наше послание рабочей группе NAIRR было ясным: по нашему опыту, целостное расположение данных - их полнота, точность и соответствие проблеме - является важнейшим фактором, определяющим результаты усилий по ИИ, и должно иметь центральное значение для конечных результатов NAIRR. выполнение. С этой целью мы призвали NAIRR сосредоточиться на сотрудничестве, а также на обеспечении надежности, безопасности и надлежащего использования данных, используемых для исследований ИИ, путем определения приоритетов инфраструктуры, управления и преднамеренного распределения ресурсов.
Инфраструктура и основание данных.
Надежные и безопасные модели искусственного интеллекта требуют надежного и безопасного основания данных (как говорится, мусор на входе, мусор на выходе). При рассмотрении дорожной карты внедрения NAIRR мы настоятельно призываем Целевую группу уделять приоритетное внимание конкретным компонентам инфраструктуры данных, которые являются наиболее важными и практичными для обеспечения высококачественных и надежных выходных данных ИИ: интуитивно понятная интеграция данных и преобразования конвейера, журналы аудита, детальный контроль доступа, возможность версии и ветвления данных, а также функции совместной работы для аннотирования наборов данных и выявления проблем, которые можно решить с течением времени (например, статистических и других форм нежелательной смещения данных). Благодаря этим ключевым инвестициям, усилия NAIRR могут поддержать, обогатить и расширить сообщество исследователей ИИ за счет предоставления среды для общих данных, а не только статических наборов данных. Ресурс данных NAIRR может обеспечить ощутимые, заслуживающие доверия результаты с помощью инструментов совместной работы, которые обеспечивают безопасные модификации, аннотации и улучшения наборов данных, а также возможность обмениваться знаниями и показателями производительности. Эти инвестиции позволят инфраструктуре NAIRR масштабироваться и поддерживать межорганизационные и междисциплинарные исследования, чтобы использовать возможности искусственного интеллекта США.
Технические, управленческие и культурные знания в ответственном искусственном интеллекте.
NAIRR должен не только включать передовой опыт в отношении конфиденциальности и гражданских свобод искусственного интеллекта (PCL), предвзятости и этики, но и может - и должен - обеспечивать соблюдение этих передовых методов (например, строгие меры безопасности и контроля доступа) посредством комбинации ) техническая инфраструктура, которая способствует соблюдению принципов защиты ключевых данных и ответственного ИИ; б) управление, которое стимулирует и поощряет передовой опыт; и c) культурная осведомленность и дисциплинарные рамки для контекстуализации исследований ИИ и определения того, когда и как приложения ИИ могут наилучшим образом соответствовать интересам затронутых сообществ. Благодаря нашей многолетней работе по разработке и внедрению платформ интеграции и управления данными, основанных на детализированной безопасности и возможностях сохранения конфиденциальности, мы продемонстрировали, что хорошо спроектированная инфраструктура данных должна обеспечивать меры технической реализации, которые связаны с важнейшими мерами институционального управления и усиливают их. Проблемы, которые, в конечном итоге, будут решать исследования ИИ, носят не только технический характер, но и техно-социальный, и требуют понимания культурных контекстов, инновационных практик обработки данных и институционального контроля.
Приоритезация проблем с помощью распределения ресурсов.
Целевая группа обладает хорошими возможностями для обеспечения самоуверенного надзора, который направляет NAIRR в направлении неотложных, актуальных проблем и инициатив, которые исторически игнорировались или недостаточно финансировались. Подобно тому, как NSF утверждает гранты, целевая группа может предоставлять стимулы и распределять ресурсы (вычисления, данные и т. Д.) На основе оценки проблемы. Например, Целевая группа могла бы определить исследования в области безопасности искусственного интеллекта как тему, требующую более целенаправленных исследований и разработок. Когда промышленность исследует эту тему в одиночку, она, вероятно, направит свое внимание на узкие коммерчески ориентированные варианты использования. NAIRR, напротив, может расширить объем и понимание исследовательского сообщества AI. При наличии соответствующей инфраструктуры и управления NAIRR может пролить свет на то, как используются ресурсы ИИ, выяснить, исследуются ли наиболее важные проблемы (с точки зрения более широкого социального воздействия), стимулировать инвестиции и объединить знания от академических, государственных и отраслевых участников.
Рекомендации рабочей группе NAIRR
Основываясь на этих трех темах, мы поделились с Целевой группой NAIRR несколькими рекомендациями по проактивной разработке процессов и политик, которые будут поддерживать NAIRR в долгосрочной перспективе. Приоритезация качества данных и политик, которые стимулируют и продвигают гибкость, а также постоянно улучшающуюся техническую инфраструктуру, наделит NAIRR устойчивой программой, позволяющей использовать мощь технологического сектора США на благо исследовательского сообщества ИИ. Мы суммировали наши ключевые рекомендации в таблице ниже:
Прочтите наш полный ответ на RFI Национальной целевой группы по исследованиям в области искусственного интеллекта.
