Марио Алеми, PhD, директор по данным, Your.MD
Лондон: 10 мая 2016 г.
Представьте себе сцену: собака переходит улицу, пока вы едете домой. Вы резко поворачиваете машину и врезаетесь в дерево. Подушка безопасности взрывается, ремень безопасности удерживает вас на месте, и в итоге остается лишь несколько царапин - пусть и списанный автомобиль. Вы, вероятно, один из многих, кто сразу рискнет попасть в аварию, чтобы не ударить собаку. Тем более, если это был ребенок!
Однако есть много ситуаций, в которых человек не может пойти на такой риск из-за собаки. Например, водитель автоцистерны, заправленной топливом, не рискует взорваться. Или мать с ребенком на заднем сиденье. Активное решение потенциально навредить кому-то или чему-то, о чем мы заботимся, непросто и может превратиться в запутанную сеть моральных и этических отношений.
Автомобильный бот, следуй за этим такси!
Подобные мысленные эксперименты поднимают вопрос: «Разрешите ли вы управлять автомобилями только с помощью компьютеров?» Я бы сказал, вероятно, нет, учитывая, что компьютер не обладает эмоциями сочувствия или любви, а также не понимает моральных и социальных кодексов. вещи, которым люди обладают врожденной способностью учиться с самого раннего детства. Возможно, вы позволите компьютеру помогать управлять автомобилем, например, позволить ему взять на себя управление, если вы отвлеклись или заснули. Этот вопрос уже рассматривался в авиационной отрасли, где компьютеры полностью контролируют управление самолетом - до тех пор, пока человек, обладающий всеми навыками полета и моральными качествами, не решит взять на себя управление.
Подобно авиационной отрасли, медицина также использует искусственный интеллект (ИИ) с компьютерной диагностикой (САПР). На основе медицинского изображения программное обеспечение CAD выделяет возможные зоны интереса для рентгенолога, который затем ставит диагноз. Программное обеспечение САПР с каждым днем становится все более сложным и, несомненно, через несколько лет будет внедрено где-нибудь еще в нашей жизни. Нет ничего необычного в том, чтобы представить, что в будущем ваша рубашка может сообщать вашу ЭКГ, ваша обувь - объем физической активности, которую вы предпринимаете, или центральный искусственный мозг может подать сигнал тревоги, если у вас случится сердечный приступ во время бега трусцой. Тем не менее, вы не хотите, чтобы компьютер ставил диагноз рака и прописывал вам химиотерапию - доктора будут наделены ИИ, а не заменены им.
Именно по этому пути мы идем при разработке Your.MD, первого в мире персонального помощника по здоровью с искусственным интеллектом. Первой проблемой, которую мы решили, было оказание помощи людям, которые не могут получить немедленную помощь врача, но нуждаются в медицинской консультации. Поиск в Google не для слабонервных. Тем не менее, поисковая машина является наиболее распространенным источником медицинской информации для современного человечества, подключенного к Интернету. Поэтому мы создали надежную программу проверки симптомов, которая задает уместные вопросы, чтобы сделать вывод о состоянии пользователя. Преимущество средства проверки симптомов на основе искусственного интеллекта состоит в том, что оно может заставить вас прекратить бегать до возможного сердечного приступа, когда рядом нет врача. Но, как показано ниже, мы не пошли по пути глубокого обучения для наших диагнозов… и по уважительной причине.
«Уважаемый чат-бот, я плохо себя чувствую».
С учетом нашего интерфейса, основанного на чате, очевидным вопросом был: «Сможем ли мы создать искусственного доктора, который разговаривает как настоящий врач?» Медицинский чат-бот, который имитирует настоящих врачей, но на самом деле не обладает какими-либо базовыми представлениями о том, что такое человек.
Вопрос актуален сегодня, потому что алгоритмы глубокого обучения - подмножество нейронных сетей, семейство алгоритмов, имитирующих поток информации в мозгу, - можно использовать для создания чат-ботов (роботов-чат) неслыханного реализма.
В июне 2015 года два ученых Google опубликовали статью под названием Нейронная модель разговора, в которой рассказывается о взаимодействии чат-бота с ничего не подозревающим сотрудником, обсуждающим запрос в службу технической поддержки. Чат-бот был обучен с помощью разговоров со службой поддержки ИТ, а затем использовался в качестве искусственного средства решения проблем:
Контекст: опишите свою проблему: «У меня проблемы с доступом к vpn»
Компьютер: Привет,
Человек : hello
Компьютер: не могли бы вы сообщить мне, какие операционные системы вы используете?
Человек: я использую linux
Компьютер: хорошо, это был протокол ssl vpn, на котором вы указали, что он сломан. Пожалуйста, проверьте, вошли ли вы в корпоративную сеть. Какую ошибку вы запускаете?
Человек: я вижу ошибку, связанную с vpn
Машина: что за сообщение об ошибке? …. И т. Д. И т. Д.
Если вам интересно, чат-бот решил проблему.
Учитывая, что технология, лежащая в основе чат-бота, доступна каждому, и что Google находится на переднем крае этого развития, возникает один вопрос: «Почему Google не использует его для продукта, подобного Siri?» Они действительно могли, поскольку Основная трудность при создании таких продуктов - найти обучающие наборы, то есть миллионы предыдущих разговоров, на которых чат-бот может учиться. Вряд ли это будет проблемой для крупнейшей поисковой системы в мире.
Google всегда может ответить, но никогда не спросит
Тем не менее, Google настаивает на создании Google Now или Google Inbox, оба из которых предлагают пользователю предложения, не притворяясь человеком. Хотя до сих пор Google не выпустил мощного чат-бота AskGoogle. Неужели компания не может использовать собственные нейронные сети для «организации мировой информации»? Очевидно, что нет, Google - голодный пользователь и разработчик новых алгоритмов глубокого обучения. Это очевидно из недавнего шума вокруг истории успеха AlphaGo.
Винсент Ванхаук, главный научный сотрудник Google, поясняет: «Люди находят глубокое обучение гораздо лучшим инструментом для решения таких проблем, как… понимание документов и их ранжирование для поиска». Он добавляет: «Facebook, Baidu, Microsoft и Google используют Deep Learning в своих продуктах и продвигают исследования». Он также указывает на три макрообласти, где в последнее время применяется глубокое обучение: распознавание речи, компьютерное зрение и машинный перевод. Что характерно, г-н Ванхаук не называет «гиперреалистичных чат-ботов» основным приложением для глубокого обучения.
Итак, если Google не создает реалистичного чат-бота для своего сервиса, зачем нам это делать? В Your.MD мы используем глубокое обучение вместе с другими методами машинного обучения для обработки естественного языка (NLP), на которые мы в значительной степени полагаемся, чтобы лучше и лучше понимать потребности наших пользователей. Однако на данный момент наш основной продукт - самая продвинутая в мире программа для проверки симптомов - основан на совершенно других технологиях.
Корреляция не является причинно-следственной связью
Мы считаем, что глубокие знания и понимание механизмов, лежащих в основе проблем со здоровьем, необходимы, чтобы иметь дело с людьми, которые делятся с нами своими медицинскими проблемами.
Корреляция - это не причинная связь, говорят ученые. Курение не признавалось виновником рака легких до тех пор, пока не были объяснены причины, лежащие в основе активации рака веществами, содержащимися в дыме.
Эта предполагаемая невиновность может показаться больше связанной с экономическими интересами, чем с научной честностью, но взгляните на последний Отчет о мировом счастье, опубликованный Институтом Земли Колумбийского университета. В этом году отчет подтверждает негативную взаимосвязь между отцовством и удовлетворенностью жизнью во всем мире. Это означает, что люди, не имеющие потомства, как правило, более удовлетворены жизнью, чем родители. Учитывая такие данные, любой алгоритм глубокого обучения посоветовал бы потенциальным родителям не иметь детей. Без наложения на нее ни одно программное обеспечение не сможет понять ценность человеческой жизни - очень субъективную ценность для нас, людей.
По этим причинам программа проверки симптомов Your.MD основана в первую очередь на знаниях врачей. Врачи решают, какие факторы могут усугубить астму, например, курение. Врачи, просматривая научные публикации, сообщают программе частоту заболеваний и возможные симптомы, связанные с ними.
Если врачи предоставят такие данные, что остается делать? Ну, вычисление цифр - в чем компьютеры очень хороши, а человеческий мозг - нет.
«Отображать на компьютере то, что принадлежит компьютеру»
Большинство людей не могут «вычислить» вопрос: «Учитывая, что тест дает положительные результаты даже при отсутствии условия (ложноположительный) в 5% случаев, какова вероятность заболевания при получении положительные результаты такого теста? » Статистики знают, что отсутствует параметр (частота возникновения состояния), но компьютеры могут определять результаты для сетей причинно-следственных связей, которые намного сложнее, чем приведенная выше, где врачи и большинство других людей потерпят неудачу с треском. .
В частности, в секторе здравоохранения чрезмерная полагаться на корреляцию и слишком мало на причинно-следственную связь может быть фатальной ошибкой как для компаний, так и для пользователей. Перефразируя Иммануила Канта, компьютеры могут помочь нам изучать небо над нами, но никогда не поймут моральный закон внутри нас.
По этой причине роботы никогда не захватят власть. Но они будут настолько прочно вплетены в ткань нашей жизни, что невозможно представить, как мы когда-то жили без таких сложных виртуальных помощников.
Your.MD бесплатно и доступен в приложениях iOS и Android, популярных платформах обмена сообщениями (например, Facebook Messenger, Kik, Skype, Slack и Telegram) и через сеть.
