Эта статья является частью серии, основанной на обновлении дипломной работы 2018 года об автоматизации, искусственном интеллекте, человеческом факторе и о том, как компании делают или могут подойти к этому.
Искусственный интеллект и машинное обучение — это две области, которые в последние годы вызвали большой интерес со стороны промышленности, СМИ и политических организаций (Pan, 2016).
Эти новые технологии являются результатом достижений как в программном, так и в аппаратном обеспечении. И компании, и правительства спешат разработать эту технологию, вдохновленные перспективой автоматизированной системы, которая обучается, самосовершенствуется и может взаимодействовать с миром. Автомобильная промышленность — один из примеров, который часто появляется в новостях: по прогнозам, автономные автомобили будут развернуты к 2019–2021 гг. (Gibson, 2018).
Осведомленность об искусственном интеллекте настолько высока, что консультанты, применяющие дизайн, ориентированный на пользователя или человека, начали выходить на поле. IDEO, консалтинговая компания по дизайну и один из основных сторонников дизайн-мышления (DT) (Браун, 2009 г.), приобрела консалтинговую компанию по искусственному интеллекту (ИИ) Datascope и ввела термин «Дизайн для дополненного интеллекта» (Браун, 2017 г.).
Кроме того, команда UX-дизайнеров в Google запустила проект под названием «Машинное обучение, ориентированное на человека», чтобы помочь в разработке продуктов на основе ИИ (Holbrook, 2017). Кроме того, дизайнеры Airbnb, службы недвижимости, изучили совместное творчество с информацией от искусственного интеллекта (Cartwright, 2016). Наконец, C Space использовала машинное обучение (ML) для новых форм исследования дизайна, пытаясь использовать количественные данные для качественного понимания, сочетая эффективность ИИ и человеческую проницательность (Wittes Schlack, 2017).
Однако исследователи и практики в технологических областях знали о вопросах, касающихся ИИ, гораздо дольше, чем в последние несколько лет. По мере развития ИИ его регулирование больше не является вопросом «если, но когда и как» (Loewenstein, 2017), и люди, находящиеся на переднем крае развития технологий и бизнеса, предлагают различные инициативы.
Один из них, Илон Маск, является соучредителем OpenAI, исследовательской организации, стремящейся обеспечить разработку и развертывание ИИ безопасным и управляемым способом, чтобы свести к минимуму любой риск со стороны машин для человечества (Marr, 2018). Вышеупомянутый предприниматель и изобретатель, пожалуй, наиболее известен как генеральный директор Tesla, компании, производящей электромобили. Маск публично объявил в декабре 2017 года, что компания будет проектировать и разрабатывать собственное оборудование для программного обеспечения для самостоятельного вождения (Simonite, 2017). К началу 2019 года Маск заявил, что в 2017 году автомобили его компании будут полностью автономными. В 2019 году он сказал, что Tesla может предоставить некоторым клиентам ранний доступ к версии «полного автономного вождения компании к концу 2019 года», по-прежнему требуя, чтобы водитель находился на сиденье. В 2019 году он также заявил, что в 2020 году его компания будет производить беспилотные роботы-такси.
Некоторые авторы выразили Маску и Тесле свои сомнения по поводу сроков реализации такого сложного и дорогостоящего проекта, поскольку компания несколько раз откладывала производство последнего автомобиля Теслы (Marr, 2018). Другие критикуют стремление первыми внедрить автономные автомобили в свете несчастных случаев со смертельным исходом с участием автомобиля в режиме автономного вождения, в частности, первого с участием автомобиля Tesla (Simonite, 2017). Другим примером была авария беспилотного автомобиля Uber производства Volvo (с программным обеспечением Uber), в котором водитель безопасности перестал следить за транспортным средством и отвлекся на пешехода, переходившего дорогу, в результате чего пешеход погиб. Одна компания из Израиля воссоздала инцидент, чтобы доказать, что его можно было предотвратить с технической точки зрения.
Инциденты автоматизации (аварии) не уникальны для 21-го века.
Аварии и инциденты с автономными системами не ограничиваются автомобильной промышленностью, искусственным интеллектом или 21 веком. Уже более полувека проблемы автоматизации, как прагматические, так и философские, решаются в области человеческого фактора6 (Lee, 2008). Одна из центральных статей в дискурсе человеческого фактора Люди и автоматизация: использование, неправильное использование, неиспользование, злоупотребление Раджи Парасурамана и Виктора Райли (1997) объединила предыдущие исследования и описала влияние автоматизации на различные области, включая аэронавтику, производство, морские операции, медицина, автомобилестроение, управление технологическими процессами и управление воздушным движением (Lee, 2008). Эта характеристика взаимодействия человека с автоматизацией описывает различия, которые постоянно направляют исследования, связанные с автоматизацией, получив более 766 ссылок согласно Web of Science.
В статье описываются, среди прочего, возможные причины отказа автоматизации, будь то машинная ошибка или ошибка человека. Согласно Parasuraman & Riley (1997), автоматизация, как правило, была ориентирована на технологии, т.е. в основном фокусировалась на учете технологических и экономических аспектов использования автоматизации, от проектирования до реализации. Однако исследователи утверждают, что ожидаемые преимущества могут быть не достигнуты или могут возникнуть нежелательные эффекты, если также не будут учтены человеческие аспекты использования. Это может быть вызвано тем, что проектирование и управление применяют технологически ориентированные подходы к автоматизации. (Парасураман и Райли, 1997 г.)
Реагирование на проблемы использования человеком в исследованиях человеческого фактора часто называют автоматизацией, ориентированной на человека, впервые подробно описанной в области авиации Биллингсом (1997). Несмотря на значительный объем исследований и годы прогресса с 1990-х годов, область [автоматизация, ориентированная на человека] в основном сосредоточена на аспектах проектирования автоматизации, а не на управлении. Это может быть связано с тот факт, что описания использования человеком в основном привлекли внимание и исследования в области инженерии человеческого фактора, которая обычно не связана с управленческими вопросами в целом.
Интересно, что, несмотря на различия в эпистемологических корнях, существуют области дизайна, ориентированные на человека, которые связаны с управлением, среди них дизайн-мышление, сервис-дизайн и т. д. Хотя дизайн-мышление не является областью автоматизации, ориентированной на человека, поскольку его внимание не зависит от предметной области (Brown, 2009). Однако, поскольку сторонники заявляют об универсальности подхода, интересно исследовать, как DT и другие управленческие подходы применяются к автоматизации. В рамках управления интересно выяснить, какие экономические, технические и человеческие аспекты учитывают различные компании, разрабатывающие и/или внедряющие автоматизацию с помощью ИИ и МО. Возможно, при проектировании управления, ориентированного на человека, может потребоваться признание возможных соображений и последствий, связанных с автоматизацией в бизнес-контексте.
Особым типом компаний, которые применяют и предлагают управленческие подходы, являются консалтинговые компании, предоставляющие специализированные услуги клиентам, которым нужны знания в различных областях. С ростом интереса к искусственному интеллекту и машинному обучению растет и спрос на специалистов. Появляются некоторые консалтинговые компании со своими собственными управленческими практиками, которые, как утверждается, адаптированы к контексту, известные консалтинговые компании нанимают специалистов для адаптации своих практик, а также консалтинговые компании по дизайн-мышлению, экспериментирующие с новыми подходами. В любом случае могут возникнуть проблемы, связанные с управлением проектами ИИ и МО, направленными на автоматизацию задач. В статье, которую я написал в соавторстве с Марко Бар Гориа, рассматриваются природа и подходы к таким проблемам, а также различия между управленческими практиками различных консалтинговых компаний, начиная от технологических консультаций и заканчивая консультациями по дизайну. Продолжение будет в следующей статье.
