Существенное различие между людьми и животными природы заключается в нашей способности мыслить абстрактно, общаться и хранить знания. Наш исключительный интеллект буквально катапультировал нас на вершину.

Итак, на что был бы похож мир, если бы появился новый вид, интеллектуально превосходящий людей?

Скорость технологической революции увеличивается с течением времени, например, если бы человеческие технологии развивались медленными темпами несколько сотен тысяч лет назад, потребовался бы один миллион лет, чтобы они стали достаточно продуктивными с экономической точки зрения, чтобы поддерживать жизнь еще одного миллиона человек. лица. Технический прорыв, такой как внедрение сверхразумных машин, приведет к значительным изменениям в мире, каким мы его знаем.

Мы уже смогли разработать машины, которые могут обучаться и рассуждать, используя данные, переданные им людьми. Подумайте об автоматических спам-фильтрах, которые защищают наши почтовые ящики от надоедливых массовых рассылок. Однако это не то же самое, что «общий интеллект», которым обладают люди, который десятилетиями был в центре внимания исследований ИИ. Более того, разработка сверхинтеллектуального компьютера, способного обучаться и действовать без помощи человека, может занять десятилетия. Однако, поскольку технологические разработки происходят быстро, мы можем достичь этого раньше, чем предполагалось. Такой компьютер имел бы огромный контроль над нашей жизнью.

Ученые работали над созданием машины, способной мыслить, с момента появления компьютеров в 1940 году. Компьютеры, воспроизводящие наш интеллект, являются значительным достижением в области искусственного интеллекта (ИИ). Повествование начинается с Дартмутского летнего проекта 1956 года, целью которого было создание интеллектуальных компьютеров, способных выполнять задачи, аналогичные человеческим. Некоторые машины могли решать математические задачи, создавать музыку и даже управлять транспортными средствами. Однако оставался камень преткновения: исследователи обнаружили, что чем сложнее работа, тем больше данных требуется ИИ для анализа. Оборудование, способное справиться с такими сложными задачами, было недоступно.

С другой стороны, в начале 1980-х годов в Японии были созданы экспертные системы, которые представляли собой алгоритмы, основанные на правилах, которые помогали лицам, принимающим решения, выносить суждения на основе данных. Однако этот метод столкнулся с проблемой: поддержка огромных баз данных с необходимыми данными оказалась сложной задачей, и интерес снова резко упал.

В 1990-х годах появилась новая тенденция: машины, которые имитировали человеческую биологию, копируя наши неврологические и генетические системы с помощью технологий. Этот процесс привел нас к настоящему времени. Сегодня ИИ можно найти во всем: от хирургических роботов до смартфонов и простого поиска в Google. В шахматах, Scrabble и Jeopardy технологии продвинулись настолько, что могут побеждать величайших игроков! Тем не менее, даже у сегодняшних технологий есть ограничения: такие ИИ можно построить только для одной игры, и ни один ИИ не может справиться со всеми играми.

Очевидно, что имитация человеческого интеллекта — логичный подход к созданию технологий, но прямое копирование может быть плохой идеей. В то время как одни ученые выступают за синтетическое создание системы, имитирующей людей (например, с помощью ИИ), другие выступают за точное воспроизведение биологии человека, что может быть выполнено с помощью таких методов, как WBE (эмуляция всего мозга).

Вычисляя вероятность, ИИ воспроизводит то, как люди учатся и рассуждают. По сути, он использует математику для имитации логики, чтобы разработать более простые способы подражания сложным человеческим талантам.

Например, шахматный ИИ определяет лучший ход, сначала находя все возможные действия, а затем выбирая то, которое имеет наилучшие шансы на победу в игре. Однако этот метод основан на базе данных, содержащей все возможные шахматные ходы. В результате ИИ, который делает больше, чем просто играет в шахматы, должен собирать и интерпретировать огромные объемы реальных данных.

Проблема в том, что современные компьютеры не могут достаточно быстро обрабатывать необходимое количество данных. Квантовые вычисления — это путь, который может помочь нам преодолеть этот порог, которого мы достигли с точки зрения скорости вычислений, но сроки этого слишком сложно предсказать.

Что заставляет нас задаться вопросом: «Есть ли обходные пути?». Один из возможных подходов — создать то, что Алан Тьюринг, ученый-компьютерщик, назвал «детской машиной», компьютер, который поставляется с предварительно загруженной важной информацией и предназначен для обучения на опыте. .

Другой возможностью является WBE, который имитирует работу человеческого мозга, воссоздавая всю нейронную структуру мозга. Одно из преимуществ этой технологии по сравнению с ИИ заключается в том, что ей не требуется глубокое понимание функций человеческого мозга — достаточно способности воссоздавать его элементы и связи. Несколько исследовательских работ, объясняющих важные компоненты этого подхода, легко доступны в открытом доступе.

Ученый может, например, взять стабильный мозг из тела, тщательно его просканировать, а затем преобразовать информацию в код. Однако нам придется подождать. Необходимые для этой процедуры технологии — например, высокоточное сканирование мозга — вряд ли будут созданы в ближайшее время. Но это произойдет, в конце концов. Новоявленный энтузиазм молодежи в отношении исследований и бум новых технологий, изобретенных за последнее десятилетие, являются твердым свидетельством этого факта.

Первая сверхинтеллектуальная машина имела бы стратегическое преимущество перед всеми остальными машинами, если бы СИ развивалась таким образом. Хотя идея того же самого увлекательна, необходимо также учитывать ее разветвления. Отдельный СИ может попасть в руки злоумышленников и использоваться как оружие массового поражения. В качестве альтернативы, если машина выйдет из строя и попытается сделать что-то ужасное — скажем, убить всех людей — нам не хватит интеллекта и оружия, чтобы защитить себя.

Большинство значительных открытий человечества было сделано одним ученым, который достиг цели раньше других или благодаря масштабному всемирному сотрудничеству. Это невозможно воспроизвести с развитием СИ, учитывая колоссальную опасность, которую они представляют. Человечество постепенно создавало бы SI, если бы различные ученые сотрудничали и делились технологическими открытиями. Лучшие умы со всего мира должны были бы приложить такие командные усилия, чтобы изучить каждый этап процесса, чтобы убедиться, что были приняты наилучшие решения.

Ярким примером такой совместной работы является проект «Геном человека», в котором приняли участие эксперты из нескольких стран для картирования ДНК человека. Другой эффективной стратегией является общественный мониторинг, который включает в себя принятие государственных законов о безопасности и условий финансирования, которые не поощряют ученых работать в одиночку. Это поможет обеспечить лучший надзор и открыть исследование для экспертной оценки, тем самым снизив вероятность того, что какая-либо ошибка останется незамеченной, практически до нуля.

Непрекращающийся нарциссический подход человечества к воспроизведению себя искусственными способами не увидит конца. Поэтому можно только надеяться, что это любознательное любопытство не обернется для нас неприятными последствиями.