Сэм Альтман, генеральный директор OpenAI, несколько лет назад высказал в интернете предположение , что Homo sapiens станет первым видом, «который создаст своих собственных потомков». В его лучшем случае «слияние» человека и искусственного интеллекта произойдет в какой-то момент в течение следующих 50 лет. Альтернативный сценарий, при котором мы остаемся просто людьми, а машины следуют своим собственным путем, выглядит более зловещим. «Если два разных вида хотят одного и того же, и только один может этого добиться — в данном случае, стать доминирующим видом на планете и за ее пределами — между ними возникнет конфликт», — написал он.
Совсем недавно Илон Маск, самый богатый человек в мире, которому в прошлом году было предоставлено право реорганизовать федеральное правительство США, заявил на своей платформе в социальных сетях X, что «все чаще кажется, что человечество является биологическим загрузчиком для цифрового сверхинтеллекта» — наша роль в истории космоса сводится к роли низкоуровневого кода, который запускает компьютер, прежде чем на нем можно будет запускать сложные программы.
И Маск придерживается более сдержанной точки зрения в эволюционной теории. Согласно легендам Кремниевой долины , он когда-то возражал против утверждения сооснователя Google Ларри Пейджа о том, что наше следующее воплощение, которое последует по стопам людей из плоти и крови, которых мы видим сегодня, обязательно должно иметь цифровую форму, чтобы распространиться по всей галактике. (На самом деле, недавно он дал показания в суде, что именно эти опасения побудили его основать OpenAI вместе с Альтманом.) Люди из плоти и крови не являются эффективными межзвездными путешественниками.
Было бы ошибкой считать эти странные мировоззрения в конечном счете безобидным мнением технарей, выросших на антиутопической научной фантастике. Представление о том, что мы приближаемся к концу существования homo sapiens, как его определял Дарвин, превращается в устойчивое убеждение среди элиты, стоящей у руля нашего технологического будущего.
Их мечты не совсем совпадают. Но подобно народным сказкам и суевериям, которые всегда были частью более устоявшихся религиозных традиций, набор невероятных сценариев, которые олигархи из долины Кремниевой долины вписывают в наше будущее, демонстрирует признаки зарождающейся религии, совокупности верований, призванных придать их высокотехнологичному проекту ощущение космической трансцендентности и неизбежности.
В их представлении, они находятся на пути к созданию следующего этапа развития человечества, «трансгуманистического» будущего. В этом будущем они смогут удовлетворить свою жажду бессмертия и утвердить власть над космосом, поскольку трансгуманисты будут множиться и распространяться по всей галактике. Их конечная цель: воплотить в жизнь техно-мистическую мечту — вывести сущность человеческого бытия, включая сознание, в виде битов информации, которые можно будет загрузить в виде двоичного кода на небиологическую подложку, такую как кремниевый чип, или передать в космос в виде электромагнитных волн.
Созданная в Сан-Франциско и его окрестностях мифическая инфраструктура несёт в себе опасность для человечества в том виде, в каком мы его знаем. Она оправдывает направление развития технологий по пути, который, в лучшем случае, безразличен к потребностям, надеждам и стремлениям обычных людей, в стремлении создать будущее, которое лишь кажется утопией этим «властелинам вселенной».
Кому какое дело, что искусственный интеллект уничтожает монотонный человеческий труд, когда он дает нам возможность выйти за пределы своего тела и покорить галактику? Фантазия определяет развитие технологий: вместо того, чтобы создавать экономически полезные инструменты, которые могли бы помочь людям расширить свои возможности, повелители ИИ вкладывают огромные ресурсы в мечту о создании сверхлюдей.
Эти убеждения вышли на первый план за последние четверть века, сопровождая развитие информационных технологий, которые принесли огромное богатство и власть новой ИТ-элите, приверженной научно обоснованному прогрессу и жаждущей трансцендентного смысла, но равнодушной или даже враждебной к догматам и моральным ограничениям организованной религии.
«Кремниевая долина всегда была воинственно светским пространством», — сказал мне один известный мыслитель о технологиях, чей работодатель был бы недоволен, если бы он высказался на эту тему публично. «Она создала пустоту в форме Бога, которую заполнила по своему образу и подобию». Отвергнув стандартные религиозные источники смысла жизни, они нашли альтернативный путь, чтобы наполнить свою жизнь смыслом, через научно-фантастические трансгуманистические мечты. Или, как заметил Маск в своем напевном посте на X : «Атеизм оставил пустое пространство. Светская религия заняла его место».
Хотя эта новомодная космогония формировалась, по крайней мере, с первых дней существования интернета, она достигла захватывающих дух новых горизонтов благодаря искусственному интеллекту, который открыл огромные новые возможности для трансгуманистической мечты. Дуглас Рашкофф, критик технологической олигархии и её амбиций, выразился так, ссылаясь на сатиру 1980-х годов, в которой впервые появился «компьютерный» телеведущий: «Думаю, ИИ делает идею существования в духе Макса Хеддрума правдоподобной».
Как бы странно ни выглядела предложенная в долине утопия, она вписывается в давнюю традицию, когда бизнес-магнаты с огромными, ничем не ограниченными богатствами стремились наделить свои начинания непреходящей ценностью. Генри Форд, как писала историк Кати Кертс , также считал, что его призвание заключалось не только в преобразовании производства для выпуска автомобилей; он верил, что его миссия — перестроить мир, чтобы улучшить общество.
Форд построил Фордландию, пытаясь создать гармоничный социальный порядок, поддерживаемый промышленной плантацией каучука в бразильских тропических лесах. Альтман, Маск и «банда из долины» хотят объединить сознание с искусственным интеллектом и покорить космос. Разница между этими видениями в основном связана с технологическими возможностями их времени. Предположение о том, что они создают некую утопическую концепцию, за которую человечество должно быть благодарно, не так уж и отличается.
Как писал лауреат Нобелевской премии по экономике Дарон Асемоглу : «Горстка людей, внедряющих эту технологию в мир, руководствуется идеологией контроля (над человечеством) и убеждением, что машины в целом лучше людей».
Для всех нас опасность заключается в том, как амбиции технологической олигархии изменят экономику и общество нашего настоящего, перенаправляя ресурсы — капитал, энергию, полезные ископаемые, воду — на ускорение развития искусственного интеллекта и воплощение трансгуманистической мечты за счет здравоохранения, образования или сокращения бедности здесь и сейчас.
Хотя американцы начинают проявлять некоторое недовольство безудержными аппетитами этой плеяды магнатов в сфере искусственного интеллекта, администрация Трампа пока не демонстрирует особого желания ввести регулирующие ограничения и каким-либо образом сдерживать их деятельность.
Утопии будущего в меню
В долине существуют различные точки зрения на то, каким должно быть будущее человечества.
Альтман и Пейдж, пожалуй, наиболее привержены цели объединения человека со сверхинтеллектуальными технологиями и отказа от физического тела. Альтман был одним из первых подписчиков Nectome, стартапа из Кремниевой долины , который предлагает извлекать информацию об анатомическом строении мозга и его молекулярных деталях, чтобы в будущем воспроизвести сознание. «Я предполагаю, что мой мозг будет загружен в облако», — сказал Альтман изданию MIT Technology Review.
Маск хочет чего-то немного другого, тоже связанного с космосом, но основанного на реальном теле, усовершенствованного с помощью компьютеров, например, через собственную компанию Neuralink, занимающуюся разработкой интерфейсов «мозг-компьютер». Питер Тиль, известный по компаниям PayPal и Palantir, неодобрительно относится к «просто компьютерной программе, которая меня имитирует», но его привлекает техно-идеал «радикальной трансформации, когда ваше человеческое, естественное тело превращается в бессмертное тело».
И все же взгляды сходятся. Например, Пейдж предположил, что вместо того, чтобы жертвовать деньги на благотворительность, он мог бы просто передать их Маску. Как он однажды сказал Чарли Роузу , Маск хочет отправиться на Марс, чтобы создать запасную планету для расширения человечества, и это достойная цель, в достижение которой стоит внести свой вклад.
Существуют общие источники, которые придают различным направлениям научно-фантастических амбиций определенный моральный смысл. Одна из основных отправных точек довольно приземленная: движение за эффективный альтруизм (ЭА), которое соблазнило технологическую элиту своим призывом к непоколебимой рациональности. Сторонники ЭА утверждали, что филантропия в значительной степени растрачивается впустую, например, на финансирование местной библиотеки. Доноры должны были действовать целенаправленно, тщательно направляя свои деньги туда, где они принесут наибольшую пользу наибольшему числу людей.
Это не такое уж и неразумное предложение. Оно поощряло похвальные усилия, например, по искоренению малярии в Африке, на том основании, что за небольшую сумму денег можно спасти целую человеческую жизнь. Но в конечном итоге оно отошло от потребностей современных жителей Земли.
Сначала это были сторонники долгосрочного планирования, которые, исходя из эффективного альтруизма, утверждали, что улучшение мира будущего более важно, чем траты на настоящее. Отсюда оставался лишь один маленький шаг, чтобы перенести ориентиры в космос: как насчет того, чтобы сосредоточиться на благополучии бесчисленных будущих транслюдей, населяющих бескрайние просторы галактики в далеком будущем? Возможно, они будут из плоти. А может, и нет.
Легко запутаться в клубке убеждений и стремлений, сформулированных и уточненных такими учеными, как Уильям Макаскилл и Ник Бостром , работающими на университетских кафедрах или в аналитических центрах, финансируемых стремительно растущим богатством техно-олигархов. Они опираются на неортодоксальную этику и на своеобразные интерпретации законов физики. Цель: обосновать необходимость вывести человечество (или, по крайней мере, его наиболее привилегированную часть) туда, куда оно никогда прежде не заходило.
Одна из целей этой команды — продвинуться вверх по шкале Кардашева — показателю количества энергии, потребляемой цивилизацией, — чтобы использовать эту энергию и приобрести технологические возможности, необходимые для преодоления наших биологических ограничений . Современное человечество, находящееся на самом низу этой шкалы, даже не потребляет всю энергию Земли. Предполагается, что развитые цивилизации должны потреблять как минимум всю энергию своей звезды, если не всю энергию галактики.
Одной из первых групп, выступавших за трансгуманистическое будущее в 1990-х годах, были ультралибертарианцы- экстропианцы , в число которых входили ведущие интеллектуалы, такие как Элиэзер Юдковски , Бостром и экономист Робин Хэнсон . В своих основных принципах они предложили «Безграничное расширение: стремление к большей интеллектуальности, мудрости и эффективности, неограниченной продолжительности жизни и устранению политических, культурных, биологических и психологических ограничений на самореализацию и самосовершенствование. Постоянное преодоление ограничений на наш прогресс и возможности. Расширение во Вселенную и бесконечное продвижение».
Другое, более позднее направление, — это эффективные акселерационисты. Они пытались привлечь физику на свою сторону, утверждая — что весьма спорно — что максимизация разумной жизни является императивом, поскольку жизнь хорошо умеет извлекать доступную энергию из окружающей среды и рассеивать её, увеличивая то, что в физике известно как «энтропия».
Как выразился Бефф Джезос — онлайн-псевдоним Гийома Вердона , одного из ведущих деятелей этого движения : «Эффективный акселерационизм стремится следовать „воле Вселенной“: склоняясь к термодинамическому подходу, ориентированному на будущее с более развитыми и умными цивилизациями, которые более эффективно находят/извлекают свободную энергию из Вселенной и преобразуют ее в полезные ресурсы во все больших и больших масштабах».
В философском повороте, который, несомненно, порадует миллиардеров Кремниевой долины, сторонники эффективного акселерационизма выступают за безудержный технокапитализм, не сдерживаемый регулированием, правительством и прочими неудобствами, поскольку это позволит максимизировать потребление ресурсов Вселенной, « захватить цивилизационную выгоду » и рассеять остатки в неорганизованной пустоте.
Детали сна на самом деле не имеют большого значения. Потому что все они примерно ведут нас в одно и то же место. Сейчас важно то, хватит ли у владык Вселенной – заинтересованных в использовании энергии звёзд, искушаемых моральным расчётом, который утверждает, что благополучие нынешних людей имеет меньшую ценность, чем гораздо более многочисленные гуманоиды будущего – терпения позаботиться обо всех нас.
Признаки не внушают оптимизма. Например, венчурный капиталист из Силиконовой долины Марк Андрессен хочет «обеспечить бесконечное продолжение восходящей спирали технологического капитала». В его список врагов входит практически любой человек или идея, которые могут противостоять технологическим начинаниям. Сюда входят «устойчивое развитие», «социальная ответственность» и «технологическая этика».
Тиль выделяется в этой компании тем, что он яростно привержен своеобразному варианту христианства, в котором любой, кто стоит на пути развития технологий или правительств, пытающихся обложить его налогами , предстает как антихрист. Но хотя он утверждает, что мало близок к Андреесену , похоже, у него схожие вкусы. Будучи убежденным либертарианцем, он презирает государственное перераспределение. Его благотворительность заключается в коммерческих инвестициях в проекты, способствующие технологическому прогрессу. Благотворительность, в общепринятом понимании, сводится к растрате ресурсов, которые понадобятся технологам, чтобы выйти за рамки нашего настоящего. Маск назвал эмпатию «фундаментальной слабостью западной цивилизации».
Независимо от конкретных особенностей их трансгуманистических мечтаний, нарратив, созданный миллиардерами из Силиконовой долины, оправдывает их колоссальное накопление власти. Как сказал мне пионер компьютерных наук и технологический визионер Джарон Ланье: «Если вы создаете Бога, но владеете Богом, вы становитесь диктатором». И эти диктаторы, похоже, не верят, что приземленные люди — по крайней мере, большинство из нас — представляют особую ценность. В феврале, отвечая на вопрос об огромном количестве энергии, потребляемой ИИ, Альтман несколько пренебрежительно заметил , что «на обучение человека также уходит много энергии».
Полное безразличие к остальным проявляется в их частых оценках того, что может принести нам ИИ — уничтожение человеческого труда, создание оружия массового поражения, даже истребление человечества ради производства скрепок. В манифесте Palantir отмечается, что «одна эпоха сдерживания, атомная эпоха, подходит к концу, и должна начаться новая эра сдерживания, основанная на ИИ». Или, как однажды выразился Маск , прежде чем передумал, запустил xAI и объединил его со SpaceX: «С помощью ИИ мы призываем демона».
Однако, по их собственному признанию, они понятия не имеют, что делают. «Люди, не имеющие отношения к этой области, часто удивляются и встревожены, узнав, что мы не понимаем, как работают наши собственные творения в области ИИ», — написал в прошлом году соучредитель Anthropic Дарио Амодей . «Их опасения обоснованы: это непонимание, по сути, беспрецедентно в истории технологий». Амодей тесно связан с эффективным альтруизмом; его сестра Даниэла, президент Anthropic, замужем за одним из основателей этого движения . Однако в последнее время они оба дистанцировались от него.
Особенно тревожно то, насколько бесконтрольны эти магнаты, стремясь воплотить в жизнь футуристическую утопию, которую они планируют построить с помощью своих машин. Технологические миллиардеры вкладывают сотни миллионов в политические кампании, чтобы противостоять попыткам регулирования и избежать ответственности, чтобы их начинания не провалились. Они хотят убедиться, что никто не вмешивается в их работу по переустройству общества. И в основном им это удается – пока никто, обладающий властью, не вмешивается.
Что же делать?
Как должно вмешаться общество? Предоставляет ли наша политическая система инструменты, которые помогут направить этот процесс в социально приемлемое русло? Помимо неопределенного влияния технологий на наше будущее экономическое и социальное положение, как нам следует решать проблему узкой концентрации результатов этих усилий по созданию трансгуманистических киборгов с кремниевым мозгом?
Администрация Трампа пока проявляет мало интереса к сопротивлению фантазиям технологических олигархов. Но это не обязательно означает, что проект техно-доминирования, задуманный олигархами Кремниевой долины, неизбежен. Среди сторонников MAGA начинают появляться опасения: среди жителей сельских районов Вирджинии, выступающих против центров обработки данных, поглощающих электроэнергию и воду, и среди евангелистов, опасающихся, что космополитическая элита будет претендовать на власть, исходящую от технологически ориентированных структур.
Намечаются и другие признаки проблем для проекта ИИ – от освистывания выпускниками колледжей выступающих на церемониях вручения дипломов, восхваляющих ИИ, до краткого момента беспокойства Трампа по поводу потенциальных преступных возможностей новой модели Mythos от Anthropic, после чего он решил все-таки не регулировать этот проект. В последнем опросе Times-Siena , проведенном в начале мая, более чем в два раза больше зарегистрированных избирателей заявили, что ИИ в основном плох, чем тех, кто сказал, что он в основном хорош.
Пожалуй, наиболее решительная и гуманная позиция прозвучала от самого Святого Отца. В понедельник Папа Лев опубликовал энциклику Magnifica Humanitas, в которой выступил против бесконтрольного развития ИИ в ущерб рабочим местам и социальной справедливости. «Это создает парадокс материального прогресса и антропологического регресса, который подрывает основы справедливого и стабильного социального мира», — добавил он.
Можно также утешиться тем, что мечты олигархов настолько нереалистичны. Вспоминаются Форд и его цивилизационная мечта. Сегодня Фордландия лежит в руинах. Бесполезная водонапорная башня торчит в небо над берегами Амазонки, большие обветшалые дома в американском пригородном стиле окружают безжизненную детскую площадку и давно пустующий бассейн.
Здесь сохранились руины детских садов, где, как пишет Федерико Гусман Рубио в своей книге «Такое место существует», неприязнь Форда к коровам привела к тому, что дети рабочих стали употреблять соевое молоко, которое доставляли за много миль. Здесь же находятся руины школ, где детей учили чтению произведений Генри Уодсворта Лонгфелло. То, что осталось, свидетельствует о противоречивых мечтах олигархии, которая переоценивала свою власть и смешивала свои желания с общим благом.
Космическая фантазия, подпитываемая искусственным интеллектом, ничуть не менее безумна. Забудьте о том, что человеческое сознание воплощается в цифровую форму, сливается с ИИ и передается по всей галактике. Более приземленное предположение о том, что сознательный ИИ не просто возможен, но и не за горами, находится в фундаментальном противоречии с нашим шатким пониманием того, что такое сознание . Даже более обыденные задачи, такие как обучение искусственного интеллекта самостоятельному обучению, постоянно откладываются на неопределенный срок.
Возможно, и на этот раз нелепые заявления утратят актуальность; видение из «Звёздного пути» о дематериализации людей и их перемещении по галактике превратится в какую-нибудь заржавевшую груду металлолома. Возможно, трансгуманистический проект уступит место более или менее узнаваемому человеческому будущему с новыми крутыми плагинами искусственного интеллекта . Возможно, это даже удастся осуществить таким образом, чтобы это послужило нашей давно забытой мечте о справедливом процветании.
Однако пока что наши технологические визионеры стремятся к чему-то другому — к будущему, отмеченному огромной концентрацией богатства и власти, равнодушному к банальным устремлениям простых смертных. В маловероятном случае, если им удастся воплотить в жизнь идеи Пейджа, Маска и им подобных, поместив их в кремниевый корпус «туда, куда еще не ступала нога человека», будем надеяться, что они не уничтожат мир, который мы знаем.
____
https://www.theguardian.com/us-news/ng-interactive/2026/may/31/transhuman-silicon-valley-ai
Комментариев нет:
Отправить комментарий