Например, соучредитель DeepMind Демис Хассабис не только считает, что ИИ "станет самой важной технологией из когда-либо изобретенных", но и уверен, что "углубляя нашу способность задавать вопросы "как" и "почему", ИИ продвинет границы знаний и откроет совершенно новые пути для научных открытий, улучшая жизнь миллиардов людей".
Он не одинок. Десятки экспертов делают аналогичные заявления. Робин Ли, соучредитель китайской поисковой интернет-компании Baidu и инвестор ряда других ведущих предприятий в области ИИ, утверждает: "Интеллектуальная революция — это благотворная революция в производстве и образе жизни, а также революция в нашем образе мышления".
Многие идут еще дальше. Рэй Курцвейл, выдающийся руководитель, изобретатель и писатель, уверенно утверждает, что технологии, связанные с ИИ, находятся на пути к достижению "сверхразума" или "сингулярности", что означает, что мы достигнем безграничного процветания и выполним наши материальные цели, а возможно, и некоторые нематериальные. Он считает, что программы ИИ настолько превзойдут человеческие возможности, что сами по себе создадут новые сверхчеловеческие способности или, что более причудливо, сольются с людьми и создадут сверхлюдей.
Справедливости ради следует отметить, что не все технологические лидеры настроены столь же оптимистично. Миллиардеры Билл Гейтс и Элон Маск выражают беспокойство по поводу неправильного или, возможно, даже злого сверхинтеллекта и последствий бесконтрольного развития ИИ для будущего человечества. Однако оба этих обладателя титула "самый богатый человек в мире" согласны с Хассабисом, Ли, Курцвейлом и многими другими в одном: большинство технологий направлены на благо, и мы можем и должны полагаться на технологии, особенно цифровые, для решения проблем человечества. По словам Хассабиса, "либо нам нужно экспоненциальное улучшение человеческого поведения - меньше эгоизма, меньше краткосрочности, больше сотрудничества, больше щедрости, либо нам нужно экспоненциальное улучшение технологий".
Эти мечтатели не задаются вопросом, всегда ли технологические изменения являются прогрессом. Они считают само собой разумеющимся, что больше технологий — это ответ на наши социальные проблемы. Нам не нужно слишком беспокоиться о миллиардах людей, которые поначалу останутся позади; вскоре они тоже выиграют. Мы должны продолжать идти вперед во имя прогресса. Как сказал соучредитель LinkedIn Рид Хоффман: "Могут ли у нас быть плохие двадцать лет? Безусловно. Но если вы работаете в направлении прогресса, ваше будущее будет лучше, чем ваше настоящее".
Такая вера в благодетельные силы технологии не нова, как мы уже видели в Прологе. Подобно Фрэнсису Бэкону и основополагающей истории об огне, мы склонны считать, что технология позволяет нам переломить ход природы. Вместо того чтобы быть слабой добычей, благодаря огню мы стали самым разрушительным хищником планеты. Многие другие технологии мы рассматриваем через ту же призму - мы побеждаем расстояние с помощью колеса, темноту - с помощью электричества, а болезни - с помощью лекарств.
Вопреки всем этим утверждениям, не стоит полагать, что выбранный путь принесет пользу всем, поскольку бандаж производительности часто бывает слабым и никогда не бывает автоматическим. Сегодня мы наблюдаем не неумолимый прогресс на пути к общему благу, а влиятельное общее видение среди наиболее влиятельных технологических лидеров. Это видение сосредоточено на автоматизации, слежке и массовом сборе данных, что подрывает общее процветание и ослабляет демократию. Неслучайно, оно также усиливает богатство и власть этой узкой элиты за счет большинства обычных людей.
Эта динамика уже породила новую олигархию видения - группу технологических лидеров с похожим прошлым, похожим мировоззрением, похожими страстями и, к сожалению, похожими слепыми пятнами. Это олигархия, потому что это небольшая группа с общим менталитетом, монополизирующая социальную власть и игнорирующая ее разрушительное воздействие на безголосых и бесправных. Эта группа имеет влияние не благодаря танкам и ракетам, а потому что она имеет доступ к коридорам власти и может влиять на общественное мнение.
Олигархия видения так убедительна, потому что она добилась блестящего коммерческого успеха. Она также подкрепляется убедительным рассказом о том изобилии и контроле над природой, которые создадут новые технологии, особенно экспоненциально растущие возможности искусственного интеллекта. Олигархия обладает харизмой, в своей ботанической манере. Самое главное, что эти современные олигархи завораживают влиятельных хранителей мнения: журналистов, других лидеров бизнеса, политиков, академиков и всевозможных интеллектуалов. Олигархи-визионеры всегда за столом и всегда у микрофона, когда высказываются важные аргументы.
Очень важно обуздать эту современную олигархию, и не только потому, что мы находимся на краю пропасти. Сейчас самое время действовать, потому что эти лидеры правы в одном: в нашем распоряжении есть удивительные инструменты, и цифровые технологии могут усилить возможности человечества. Но только если мы будем использовать эти инструменты в интересах людей. А этого не произойдет, пока мы не бросим вызов мировоззрению, которое преобладает среди наших нынешних глобальных технологических боссов. Это мировоззрение основано на особом - и неточном - прочтении истории и того, что она подразумевает в отношении того, как инновации влияют на человечество. Давайте начнем с переоценки этой истории.
План на оставшуюся часть книги
В остальной части этой книги мы развиваем идеи, представленные в этой главе, и по-новому интерпретируем экономические и социальные события последней тысячи лет как результат борьбы за направление развития технологий и тип прогресса - кто победил, кто проиграл и почему. Поскольку в центре нашего внимания находятся технологии, большая часть этого обсуждения сосредоточена на тех частях мира, где происходили наиболее важные и значимые технологические изменения. Это означает, что сначала Западная Европа и Китай - сельское хозяйство, затем Британия и США - промышленная революция, а затем США и Китай - цифровые технологии. На протяжении всей книги мы также подчеркиваем, что в разных странах порой делался разный выбор, а также последствия технологий в ведущих экономиках для остального мира, поскольку они распространялись, иногда добровольно, иногда принудительно, по всему земному шару.
Глава 2 ("Видение канала") дает исторический пример того, как успешные идеи могут сбить нас с пути. Успех французских инженеров в строительстве Суэцкого канала резко контрастирует с их впечатляющим провалом, когда те же идеи были перенесены в Панаму. Фердинанд де Лессепс убедил тысячи инвесторов и инженеров в неосуществимости плана строительства канала на уровне моря в Панаме, что привело к гибели более двадцати тысяч человек и финансовому краху для многих других. Это поучительная история для любой истории технологии: великая катастрофа часто имеет корни в мощных видениях, которые, в свою очередь, основаны на прошлом успехе.
Глава 3 ("Сила убеждения") подчеркивает центральную роль убеждения в том, как мы принимаем ключевые технологические и социальные решения. Мы объясняем, как сила убеждения коренится в политических институтах и возможности определять повестку дня, и подчеркиваем, как противодействующие силы и более широкий спектр мнений могут потенциально обуздать самоуверенность и эгоистичное видение.
Глава
