них, также лучше для общего блага. Они могут даже поверить, что любые страдания, которые порождает их добродетельный путь, — это цена, которую стоит заплатить за прогресс, особенно когда те, кто несет основную тяжесть затрат, лишены голоса. Вдохновленные эгоистическим видением, лидеры отрицают, что существует множество различных путей с совершенно разными последствиями. Они могут даже впасть в ярость, когда им указывают на альтернативы.
Нет ли средства против губительных видений, навязанных людям без их согласия? Нет ли барьера против социальной предвзятости технологий? Замкнуты ли мы в постоянном цикле, когда одно самоуверенное видение за другим формирует наше будущее, игнорируя ущерб?
Нет. Есть основания для надежды, потому что история также учит нас, что более инклюзивное видение, которое прислушивается к более широкому кругу голосов и признает влияние на всех, возможно. Общее процветание более вероятно, когда противодействующие силы привлекают предпринимателей и технологических лидеров к ответственности и продвигают производственные методы и инновации в более благоприятном для работников направлении.
Инклюзивное видение не позволяет избежать некоторых из самых сложных вопросов, таких как, например, оправдывают ли выгоды, которые получают одни, затраты, которые несут другие. Но они гарантируют, что социальные решения будут учитывать все их последствия, не заставляя молчать тех, кто не получает выгоды.
Выберем ли мы в итоге эгоистичное, узкое видение или что-то более инклюзивное — это тоже выбор. Результат зависит от того, есть ли противодействующие силы и могут ли те, кто не находится в коридорах власти, организоваться и услышать свой голос. Если мы хотим не попасть в ловушку видения властных элит, мы должны найти способы противопоставить власти альтернативные источники силы и противостоять эгоизму с помощью более инклюзивного видения. К сожалению, в век искусственного интеллекта это становится все труднее.
Огонь, на этот раз
Жизнь ранних людей была изменена огнем. В южноафриканской пещере Сварткранс самые ранние раскопанные слои показывают кости древних гоминид, которые были съедены хищниками - большими кошками или медведями. Для тогдашних хищников люди, должно быть, казались легкой добычей. Темные места в пещерах были особенно опасными, и наши предки избегали их. Затем в этой пещере появляются первые свидетельства огня - слой древесного угля возрастом около миллиона лет. Впоследствии археологическая летопись показывает полную противоположность: с этого времени кости в основном принадлежат нечеловеческим животным. Контроль над огнем дал гомининам возможность захватывать и удерживать пещеры, что позволило им одержать верх над другими хищниками.
Ни одна другая технология за последние десять тысяч лет не может претендовать на такое фундаментальное влияние на все, что мы делаем и кем являемся. Теперь появился еще один кандидат, по крайней мере, по мнению его сторонников: искусственный интеллект (ИИ). Генеральный директор Google Сундар Пичаи прямо говорит, что "ИИ — это, вероятно, самое важное, над чем когда-либо работало человечество. Я думаю о нем как о чем-то более глубоком, чем электричество или огонь".
ИИ — это название отрасли компьютерной науки, которая занимается разработкой "интеллектуальных" машин, то есть машин и алгоритмов (инструкций для решения задач), способных проявлять высокоуровневые способности. Современные интеллектуальные машины выполняют задачи, которые еще пару десятилетий назад многие считали бы невозможными. В качестве примеров можно привести программное обеспечение для распознавания лиц, поисковые системы, которые угадывают, что вы хотите найти, и рекомендательные системы, которые подбирают для вас товары, которые, скорее всего, вам понравятся или, по крайней мере, вы их приобретете. Многие системы сегодня используют ту или иную форму обработки естественного языка для взаимодействия между человеческой речью или письменными запросами и компьютером. Siri от Apple и поисковая система Google являются примерами систем на основе ИИ, которые ежедневно широко используются во всем мире.
Энтузиасты ИИ также указывают на некоторые впечатляющие достижения. Программы ИИ могут распознавать тысячи различных объектов и изображений и обеспечивать базовый перевод с более чем ста языков. Они помогают выявлять раковые заболевания. Иногда они могут инвестировать лучше, чем опытные финансовые аналитики. Они могут помочь адвокатам и помощникам юристов просеять тысячи документов, чтобы найти соответствующие прецеденты для судебного дела. Они могут превращать инструкции на естественном языке в компьютерный код. Они даже могут сочинять новую музыку, которая звучит до жути похоже на Иоганна Себастьяна Баха, и писать (скучные) газетные статьи.
В 2016 году компания DeepMind, занимающаяся разработкой искусственного интеллекта, выпустила программу AlphaGo, которая обыграла одного из двух лучших игроков в го в мире. Через год после этого появилась шахматная программа AlphaZero, способная победить любого шахматного мастера. Примечательно, что эта программа была самоучкой и достигла сверхчеловеческого уровня всего через девять часов игры против себя.
Воодушевленные этими победами, люди стали считать, что ИИ повлияет на все аспекты нашей жизни, причем в лучшую сторону. Он сделает человечество гораздо более процветающим, здоровым и способным достичь других похвальных целей. Как гласит подзаголовок одной из недавних книг на эту тему, "искусственный интеллект изменит все". Или, как выразился Кай-Фу Ли, бывший президент Google China, "искусственный интеллект (ИИ) может стать самой преобразующей технологией в истории человечества".
Но что, если в этом деле есть своя муха? Что если ИИ коренным образом нарушит рынок труда, на котором большинство из нас зарабатывает средства к существованию, увеличив неравенство в оплате труда и работе? Что если его основное влияние будет направлено не на повышение производительности, а на перераспределение власти и благосостояния от обычных людей к тем, кто контролирует данные и принимает ключевые корпоративные решения? Что если на этом пути ИИ также приведет к обнищанию миллиардов людей в развивающихся странах? Что если он усилит существующие предубеждения - например, по цвету кожи? Что если он разрушит демократические институты?
Появляется все больше доказательств того, что все эти опасения обоснованы. Похоже, что ИИ движется по траектории, которая приведет к увеличению неравенства не только в промышленно развитых странах, но и во всем мире. Подпитываемый массовым сбором данных технологическими компаниями и авторитарными правительствами, он подавляет демократию и укрепляет автократию. Она оказывает глубокое влияние на экономику, хотя на своем нынешнем пути она мало что делает для улучшения наших производственных возможностей. Когда все сказано и сделано, вновь обретенный энтузиазм по поводу ИИ кажется усилением того же оптимизма по поводу технологий, независимо от того, фокусируется ли он на автоматизации, слежке и бесправии обычных людей, которые уже охватили цифровой мир.
Однако большинство технологических лидеров не воспринимают эти опасения всерьез. Нам постоянно твердят, что ИИ принесет благо. Если он создает сбои, то эти проблемы краткосрочны, неизбежны и легко устранимы. Если он создает неудачников, то решение - больше ИИ.
