Как мы уже упоминали в нашем посте о трендах, количество исследователей, разработчиков и компаний, занимающихся eXplainable AI (XAI), с каждым годом растет все быстрее.

💡

XAI — это общий термин для методов, алгоритмов и инструментов, позволяющих лучше понять внутреннюю работу ИИ. Это контрастирует с обычным положением дел, когда решения ИИ являются черными ящиками, то есть когда разработчик не может объяснить результат алгоритма. XAI позволяет разработчикам, лицам, принимающим решения, потребителям и другим заинтересованным сторонам лучше понять, почему и как возник тот или иной прогноз, сделанный ИИ.

За этой эволюцией стоят три основных движущих силы.

1. XAI — это серьезное конкурентное преимущество на рынке, где только несколько игроков используют его возможности.

Максимальное использование решений ИИ требует доверия заинтересованных сторон на всех уровнях, чего можно добиться с помощью XAI. Более того, XAI служит катализатором движения компании вверх по кривой зрелости ИИ и обеспечивает дополнительную ценность для того же уровня зрелости.

Например, XAI может способствовать углубленному анализу существующих решений ИИ, позволяя компаниям извлекать больше пользы без значительных инвестиций. Это также может позволить новые приложения, такие как подходы «человек в цикле», когда ИИ и люди сотрудничают для решения проблем, когда ни один из них не может обеспечить удовлетворительное решение самостоятельно. Итак, что мешает компаниям внедрить XAI?

  • В корпорациях может потребоваться обширная координация и инвестиции для интеграции решений, основанных на ИИ, в бизнес-процессы, что может усугубляться тем, что внутренние подразделения вообще занимают разные позиции на кривой зрелости ИИ.
  • В целом компании еще недостаточно продвинулись по кривой зрелости ИИ и не имеют четкого пути к интеграции XAI в свои решения и бизнес-процессы ИИ. Тем не менее, все больше готовых к использованию решений делают эту интеграцию возможной.

2. Программная экосистема, поддерживающая приложения ИИ, развилась до такой степени, что XAI остается одним из самых больших оставшихся препятствий для внедрения и интеграции ИИ.

💡

Наряду с другими изменениями в программном стеке ИИ управление данными становится все более и более простым в реализации. Приложения, использующие неструктурированные данные, такие как видео, изображения и текст, стали более доступными, чем когда-либо, с меньшими затратами времени на (предварительную) обработку и централизацию данных, что увеличивает время на создание ценности. Оркестрация инфраструктуры искусственного интеллекта стала более плавной, что позволяет создавать согласованные и масштабируемые решения, которые можно настраивать в соответствии с постоянно меняющимися потребностями организации. В нашем видео Datatrends 2022 наши эксперты рассказывают о тенденциях во всей экосистеме ИИ.

Несмотря на растущую зрелость ИИ как технологии, мы все еще далеки от того, чтобы сделать многие решения ИИ понятными на удовлетворительном уровне простым способом. Например, как мы можем убедиться, что модель ИИ работает так, как задумано, и не оказывает негативного влияния на итоговую прибыль или на конечных пользователей?

Несмотря на то, что количество работ, посвященных решению таких проблем, растет, часто требуется сочетание экспертов и разработчиков в предметной области для интерпретации и перевода идей современного XAI в нетехнические, понятные объяснения. Хотя появляется много решений, которые полностью снижают потребность в экспертах в предметной области или в разработчиках, они не всегда обеспечивают объяснимость на том уровне, который требуется заинтересованным сторонам или регулирующим органам, что подводит нас к следующему пункту.

3. Регуляторные органы обращают внимание на экспоненциальный риск, связанный с трансформацией отраслей с помощью ИИ.

Внедрение ИИ растет и, следовательно, влияет на более широкие слои общества. В свою очередь, европейские регулирующие органы требуют интерпретируемости и прозрачности, чтобы компенсировать потенциально вредное воздействие на своих граждан.

В 2016 году ЕС значительно повлиял на ландшафт решений, основанных на данных, с помощью GDPR, подтолкнув промышленность к формированию своей политики и технологий для соблюдения этих правил. Потенциально более строгое соблюдение «права на разъяснение GDPR потребует дополнительных инвестиций в существующие технологии XAI и систему, которая предоставит пользователям представление о том, как на них влияет автоматизированное принятие решений ИИ.

В 2021 году европейские законодатели объявили о своем желании еще больше ограничить применение ИИ с помощью «Закона об искусственном интеллекте», что приведет к необходимости понимания, прозрачности и управления ИИ. Особенно для компаний, которым еще предстоит интегрировать ИИ в свои бизнес-процессы (переходя от этапа внедрения к этапу эксплуатации), XAI может стать серьезным узким местом.

Более того, новый европейский закон об искусственном интеллекте потребует разработки совершенно новых методов XAI для некоторых отраслей, особенно тех, которые работают в условиях высокого риска, что сдвинет узкое место XAI даже на ранних этапах внедрения.

Итак, в ближайшем будущем XAI продолжит расти как объект инвестиций. Для тех компаний, которые уже используют решения ИИ, ранние инвестиции могут обеспечить непрерывность предложения их услуг. Для других узкое место XAI может стать серьезным препятствием для входа. В dataroots мы активно работаем над созданием более благоприятного статус-кво с установленными стандартами XAI для конкретных бизнес-контекстов и уровней риска, ускоряя продвижение компаний по кривой зрелости ИИ.

Наши эксперты по стратегии работы с данными и машинному обучению активно разрабатывают XAI как услугу, чтобы ваша компания могла легко преодолеть барьер XAI. Свяжитесь с нами, если вам интересно узнать больше о вашем бизнес-кейсе.

В dataroots research мы активно следим за последними тенденциями в исследованиях и промышленности, чтобы разрабатывать готовые к использованию инструменты и интегрировать их в наши существующие предложения услуг, чтобы вы могли извлечь выгоду из лучшего в своем классе XAI для достижения своих бизнес-целей.

Чтобы получить более глубокое техническое представление о тенденциях в области XAI на ведущей конференции по искусственному интеллекту NeurIPS в декабре 2021 года, ознакомьтесь с нашей последней публикацией.

Вы студент, увлеченный XAI? Наш первый стажер XAI только что начал свою работу и будет помогать нам в исследованиях и разработках XAI. Заинтересованы в стажировке? Взгляните на наши открытые возможности: https://careers.dataroots.io/