В поисках искусственного интеллекта и куда он нас приведет
Люк Дормель
Интересная книга, в которой рассказывается об истории, текущем состоянии и будущих направлениях искусственного интеллекта.
Некоторые важные выводы:
- подход к ИИ в 70-х и 80-х годах теперь известен как «символический ИИ», при котором экспертные системы обучались, предоставляя как можно больше правил и заставляя системы делать выводы из известных правил.
- этот подход был заменен подходом «глубокого обучения» к ИИ, в котором системы обучаются только желаемым результатам (проблеме, которую нужно решить, или значению, которое нужно оптимизировать), и оставляют «учиться» или находить решение.
- Риск подхода глубокого обучения заключается в том, что система ИИ примет решение или придет к выводу, и никто не сможет объяснить причину этого решения. В некоторых случаях это нормально — «найди мне оптимальный маршрут до Амарилло, зная, что у меня много времени, мало денег и я вегетарианец, который любит чипотле»; но в других случаях неприемлемо не пояснение мотивировки решения — «решить вопрос о выдаче заявителю ипотечного кредита»
- автор проделывает отличную работу, предоставляя последовательное объяснение того, что подразумевается под «сингулярностью» — в этом объяснении идея состоит в том, что ИИ можно закодировать, чтобы в конечном итоге он стал лучше людей практически в любой задаче; если ИИ станет лучше людей в создании ИИ (которые создают более совершенные ИИ), процесс внезапно взорвется в геометрической прогрессии, что очень быстро приведет к тому, что ИИ с общим интеллектом затмит людей. Мы бы остались очень далеко позади, очень быстро.
