избегать рисков… В краткосрочной перспективе все зависит от того, кто управляет ИИ, в долгосрочной – от того, возможно ли вообще им управлять».
Стивен Хокинг в своем офисе в 1982 году. Хокингу принадлежит один из наиболее влиятельных голосов, предупреждающих об опасностях «ИИ-Франкенштейна».
Маск назвал ИИ «величайшей экзистенциальной угрозой», заявил, что он «опаснее, чем ядерное оружие», и предупредил: «…у нас осталось немного времени. Открыв этот ящик Пандоры, будет сложно его закрыть». Говоря более эмоционально и вторя фаустовским корням легенды о Франкенштейне, Маск уподобил ИИ «…вызову демона… Во всех этих историях, где показан парень с пентаграммами на теле и святой водой в руках, ну, знаете, он уверен, что может контролировать демона. Здесь это уже не поможет».
Одна из проблем этих пророчеств состоит в том, что многие рассматривают ИИ как мираж, как одну из тех широко разрекламированных технологий, которые «ушли на тридцать лет вперед и навсегда там останутся». Но свидетельства о рудиментарном машинном разуме, который уже выпущен в свет, звучат не обнадеживающе. Один из наиболее печально известных примеров – это выпуск компанией «Майкрософт» чат-бота по имени Тай, системы на основе искусственного интеллекта, предназначенной «развлекать и привлекать» людей в возрасте от 18 до 24 лет. Идея состояла в том, чтобы чат-бот научился завоевывать внимание людей во время непринужденной беседы, используя то, что «Майкрософт» называет «разговорным пониманием» твитов. Менее чем за сутки пользователи смогли научить чат-бота ретвитить и даже самому придумывать разные расистские, сексистские и антисемитские высказывания, поэтому его пришлось отключить.
Если можно извлечь какой-то урок из сокрушительного провала Тай, то он будет состоять в том, что человеческий фактор способен представлять огромную угрозу; это самое очевидное толкование «Франкенштейна». Подобный аргумент выдвигает Ян Лекун, директор лаборатории искусственного интеллекта Facebook и преподаватель Нью-Йоркского университета, не придающий большого значения угрозам ИИ на том основании, что машинный разум будет свободен от всех грехов и пороков человека:
«Многие неприятности, причиняемые людьми друг другу, очень характерны для человеческой природы. Приходить в ярость в случае угрозы, ревновать, желать исключительного доступа к ресурсам, предпочитать близких посторонним и так далее – такое поведение встроено в нас эволюцией ради выживания вида. Разумные машины не будут обладать этими свойствами, если мы осознанно не придадим им их».
На самом деле, Лекун утверждает, что аналогия Франкенштейна с ИИ является ошибкой классификации: монстр опасен именно по причине своей человечности; существа, которым не свойственна эта человечность, будут менее опасны, а не более.
Реанимация и наука будущего
Мэри Шелли умышленно и искусно умалчивает о том, какая наука сделала возможным создание ее монстра. Связывая свое эпохальное открытие – возможно, величайшее из когда-либо сделанных человеком – с высвобождением смерти и оживлением мертвых тканей, Виктор прибегает к весьма абстрактным выражениям, говоря о «внезапном свете» и «поразительном секрете». Больше никаких подсказок в лаборатории по созданию новых существ Виктора Франкенштейна мы не находим, в то время как Шелли упоминает лишь «все необходимое, чтобы зажечь жизнь» или «химический прибор».
По прошествии первой сотни лет после публикации романа Шелли его перспективы стали казаться менее правдоподобными, так как те же достижения в биологии, что уничтожили понятие жизненной энергии или искры жизни, также пролили свет на процессы органического разложения, сопровождающего смерть. Так, например, сейчас известно, что почти сразу же после того, как клетка прекращает получать достаточное количество кислорода и питательных веществ для жизнедеятельности, ее внутренний механизм запускает процесс, известный как некроз, или гибель клеток. При этом повреждение или травмирование клетки приводит к потере ею контроля или высвобождению агрессивных ферментов и других химических веществ, которых вырабатывается все больше, со временем они нарушают целостность оболочки клетки и выпускают свои агрессивные вещества в ткани тела. Невероятная сложность строения клетки, составляющей феномен жизни, также означает, что подобные повреждения почти немедленно становятся непоправимыми.
Современники Мэри Шелли, в том числе наиболее информированные врачи и натурфилософы, могли предполагать, что мертвую или разлагающуюся ткань оживить возможно, по крайней мере теоретически. На самом деле некоторые теории самозарождения настаивали на гниении и разложении (см. страницу 77). Но к середине XX века стало ясно, что выбор Виктором «сырья», происходившего из «склепов… боен и анатомических театров» успешно опровергает все претензии на научную правдоподобность романа.
Таким образом, знаний, необходимых для правдоподобного научного описания создания монстра, не существовало в дни Мэри Шелли. А что сегодня? Могут ли технологии, осваиваемые в наши дни, наконец осуществить мечту Франкенштейна о триумфе над смертью? На самом деле существует целый ряд технологий, направленных на достижение этой цели в ближайшем или отдаленном будущем.
Если оживление мертвой ткани нереально в связи с быстротой и необратимостью гибели клеток, то, может быть, ткань удастся заменить? Уже доступен широкий ряд механических и органических заменителей частей тела и тканей, и еще больше находится в стадии разработки. Первые протезы появились еще в древние времена – например, у египетской мумии обнаружен протез большого пальца ноги, а древнеримский генерал Марк Сергий, говорят, ходил с железной искусственной рукой. Металлический протез был достаточно функционален, чтобы позволить ему вернуться к битвам с карфагенянами во Второй Пунической войне (218–201 до н. э.), и военная карьера Марка была долгой.
Мышь Ваканти, созданная в 1997 году. Клетки хрящевой ткани уха, пересаженные под кожу мыши, образовали на ее спине матрицу в форме уха, вокруг которой вырос настоящий хрящ. Подобные методы с использованием стволовых клеток могут обеспечить выращивание запасных органов и частей тела.
В авангарде современного протезирования выступает бионика, и уже сейчас существуют напрямую управляемые носителем протезы, способные стыковаться с нервами как в культе, так и в мозгу. Уже доступны и другие бионические части тела, в том числе кохлеоимплантаты, искусственно стимулирующие слуховую функцию, и имплантаты сетчатки, способные посылать простые визуальные импульсы, стимулирующие зрительный нерв. Все ближе подбираясь к сценарию «Франкенштейна», исследователи разрабатывают органы и части тела человека, выращенные по заказу. Комбинируя стволовые клетки и 3D-печать, исследователи доказали, что возможно создать скаффолд, или матрицу из органического или неорганического материала, вокруг которой стволовые клетки затем выращивают функциональную ткань. Этот подход уже помог создать человеческую кожу, уши, мышечные ткани, в том числе сердце, и кости. Теоретически возможно выращивать целые органы в животных; кроме того, в настоящее время разрабатывается
