Автор: Аарон Хериарти через Институт Браунстоуна
Вот видеоссылка на мое недавнее выступление в колледже Хиллсдейл, посвященное ИИ и трансгуманизму. Включаю ниже текст выступления, если вы предпочитаете его читать, а не смотреть.
ИИ и трансгуманизм
Взламываемые животные
Друзья мои, позвольте мне познакомить вас с Ювалем Ноем Харари, человеком, полным больших идей. Он объяснил во время кризиса Covid: “Covid имеет решающее значение, потому что именно это убеждает людей принять и узаконить полное биометрическое наблюдение. Если мы хотим остановить эту эпидемию, нам нужно не просто следить за людьми, нам нужно следить за тем, что происходит у них под кожей.” В а 60 минут в интервью Андерсону Куперу Харари повторил эту идею: “То, что мы видели до сих пор - это корпорации и правительства, собирающие данные о том, куда мы идем, с кем встречаемся, какие фильмы смотрим. Следующий этап - наблюдение, идущее под нашей кожей.” Он также рассказал Индия сегодня, комментируя изменения, принятые населением во время Covid:
Теперь мы видим системы массового наблюдения, созданные даже в демократических странах, которые ранее их отвергали, а также видим изменение в характере наблюдения. Раньше наблюдение было в основном выше кожи; теперь мы хотим, чтобы это было под кожей... Правительства хотят знать не только то, куда мы идем и с кем встречаемся. Они хотят знать, что происходит под нашей кожей: какова температура нашего тела; каково наше кровяное давление; каково наше состояние здоровья?
Харари явно человек, который хочет... залезть тебе под кожу. Просто у него может получиться. Другое недавнее интервью показывает, что он становится философским: “Теперь люди развивают еще большие силы, чем когда-либо прежде. Мы действительно приобретаем божественные силы творения и разрушения. Мы действительно превращаем людей в богов. Мы приобретаем, например, возможность перепроектировать человеческую жизнь.” Как однажды сказал Кьеркегор о Гегеле, когда он говорит об Абсолюте, когда Харари говорит о будущем, он звучит так, будто поднимается на воздушном шаре.
Простите меня, но несколько последних самородков от профессора Харари дополнят картину его философии, а также его высоких надежд и мечтаний: “Люди теперь являются взламываемыми животными. Знаете, вся идея о том, что у людей есть эта душа или дух, и у них есть свободная воля, и никто не знает, что происходит внутри меня, так что, что бы я ни выбрал, будь то на выборах или в супермаркете, это моя свободная воля—that over.” Харари объясняет, что для взлома людей нужно много вычислительной мощности и много биометрических данных, что было невозможно до недавнего времени с появлением ИИ. Через сто лет, утверждает он, люди оглянутся назад и идентифицируют кризис Covid как момент “, когда к власти пришел новый режим наблюдения, особенно наблюдение под кожей—, что, я думаю, является самым важным событием 21 века, а именно это способность взламывать людей.”
Люди справедливо беспокоятся о том, что их iPhone или Alexa превратились в систему наблюдения “прослушивающих устройств”, и действительно, микрофон можно включать даже при выключенном устройстве. Но представьте себе носимое или имплантируемое устройство, которое от момента к моменту отслеживает частоту сердечных сокращений, артериальное давление и проводимость кожи, загружая эту биометрическую информацию в облако. Любой, у кого есть доступ к этим данным, может знать вашу точную эмоциональную реакцию на каждое заявление, сделанное во время просмотра президентских дебатов. Они могли бы оценить ваши мысли и чувства по поводу каждого кандидата, по каждому обсуждаемому вопросу, даже если вы никогда не говорили ни слова.
Я мог бы продолжить цитаты профессора Харари о взломе человеческого тела, но вы поняли. В этот момент у вас может возникнуть соблазн отвергнуть Харари как не что иное, как перегретого, одержимого научной фантастикой деревенского атеиста. После многих лет увлечения научно-фантастическими романами воздушный шар его воображения теперь постоянно всплывает где-то над эфиром. Зачем нам обращать какое-то внимание на предсказания и пророчества этого человека?
Оказывается, Харари - профессор истории Еврейского университета в Иерусалиме. Его бестселлеры были проданы тиражом более 20 миллионов экземпляров по всему миру, что немаловажно. Что еще более важно, он один из любимцев Всемирного экономического форума и ключевой архитектор их повестки дня. В 2018 году его лекция в ВЭФ, “Will the Future Be Human?” был зажат между обращениями канцлера Германии Ангелы Меркель и президента Франции Эммануэля Макрона. Вот и играет в песочнице с большими собаками.
In his WEF lecture Harari explained that in the coming generations, we will “learn how to engineer bodies and brains and minds,” such that these will become “the main products of the 21st Century economy: not textiles and vehicles and weapons, but bodies and brains and minds.” The few masters of the economy, he explains, will be the people who own and control data: “Today, data is the most important asset in the world,” in contrast to ancient times when land was the most important asset, or the industrial age when machines were paramount. WEF kingpin Klaus Schwab echoed Harari’s ideas when he explained: “One of the features of the Fourth Industrial Revolution is that it doesn’t change what we are doing; it changes us,” through gene editing and other biotechnological tools that operate under our skin.
Even the dreamy-eyed Harari admits there are some potential dangers with these developments: “If too much data is concentrated in too few hands, humanity will split not into classes but into two different species.” That would not, one supposes, be a good thing. But all things considered, he is more than willing to take these risks and forge ahead with this agenda. To be fair, Harari does not advocate for a future totalitarian state or rule by all-powerful corporations, but hopes to warn us of coming dangers.
In an exceptionally naïve proposal, however, Harari believes that the obvious problems posed by a tyrannical biosecurity state can be solved with more surveillance, by having citizens simply surveil the government: “Turn it around,” he said in a talk at the Athens Democracy Forum, “Surveil the governments more. I mean, technology can always go both ways. If they can surveil us, we can surveil them.” This proposal is—not to put too fine a point on it—incredibly stupid. As most of us learned in kindergarten, two wrongs don’t make a right.
The WEF made waves a few years back by posting on their website the slogan, “You will own nothing. And you will be happy.” Although the page was later deleted, the indelible impression remained: it provided a clear and simple description of the future envisioned by Davos Man. As the WEF savants predict, at the last stage of this development, we will find ourselves in a rent-only/subscription-only economy, where nothing really belongs to us. Picture the Uberization of everything.
To get a sense of this future, imagine the world as an Amazon warehouse writ large: a mandarin caste of digital virtuosos will call the shots from behind screens, directing the masses below with the aid of ever more refined algorithmic specificity. The prophetic Aldous Huxley foresaw this Brave New World in his 1932 novel. These changes will challenge not only our political, economic, and medical institutions and structures; they will challenge our notions of what it means to be human. This is precisely what its advocates celebrate, as we will see in a moment.
Corporatist arrangements of public-private partnerships, which merge state and corporate power, are well suited for carrying out the necessary convergence of existing and emerging fields. This biological-digital convergence envisioned by the WEF and its members will blend big data, artificial intelligence, machine learning, genetics, nanotechnology, and robotics. Schwab refers to this as the Fourth Industrial Revolution, which will follow and build upon the first three—mechanical, electrical, and digital. The transhumanists—who we will meet in a moment—have been dreaming of just such a merging of the physical, digital, and biological worlds for at least a few decades. Now, however, their visions are poised to become our reality.
Mechanisms of Control
The next steps in hacking human beings will involve attempted rollouts—which we should vigorously resist—of digital IDs, tied to fingerprints and other biometric data like iris scans or face IDs, demographic information, medical records, data on education, travel, financial transactions, and bank accounts. These will be combined with Central Bank Digital Currencies, giving governments surveillance power and control over every one of your financial transactions, with the ability to lock you out of the market if you do not comply with government directives.
Using biometrics for everyday transactions routinizes these technologies. We are conditioning children to accept biometric verification as a matter of course. For example, face IDs are now used in multiple school districts to expedite the movement of students through school lunch lines. Until recently, biometrics such as fingerprints were used only for high-security purposes—when charging someone with a crime, for example, or when notarizing an important document. Today, routine biometric verification for repetitive activities from mobile phones to lunch lines gets young people used to the idea that their bodies are tools used in transactions. We are instrumentalizing the body in unconscious and subtle, but nonetheless powerful, ways.
Those with economic interests in creating markets for their products (whether vaccines, digital surveillance hardware and software, or harvested data) will continue to deploy the carrots and sticks of access to medical care and other services to strongarm acceptance of digital IDs in underdeveloped nations. In developed nations they will initially use a velvet glove approach of nudges, selling digital IDs as convenience and time-saving measures that will be hard for many to turn down, like skipping long TSA security lines at airports. The privacy risks, including the possibility for constant surveillance and data harvesting, will fade into the background when you’re about to miss your flight if you can’t skip to the front of the line.
Unless we collectively decline to participate in this new social experiment, digital IDs—tied to private demographic, financial, location, movement, and biometric data—will become mechanisms for bulk data harvesting and tracking of populations around the globe. We should resist—including by opting out of the new face ID scans at TSA airport screening checkpoints, which we can still legally do.
Once fully realized, this surveillance system will offer unprecedented mechanisms of control, allowing the regime to be maintained against any form of resistance. This technocratic dream would entrench the most intransigent authoritarian system the world has ever known—in the sense that it could maintain itself against any form of opposition through monopolistic technological and economic power. The suppression of dissent will happen in large part through the system’s financial controls, especially if we adopt Central Bank Digital Currencies. Try to resist or step outside the system’s strictures and the doors to markets will simply close. This means that once this system is in place, it could prove almost impossible to overthrow.
Microwaved Eugenics
Harari—, которого я широко цитировал в начале этого разговора, входит в число наиболее видных представителей нового вида ученых, активистов и — провидцев“, которые называют себя трансгуманистами. Эти люди стремятся использовать технологии не для изменения среды обитания, а для фундаментального изменения самой человеческой природы. Цель состоит в том, чтобы “обновить” или “улучшить” людей. Это одновременно возможно и желательно, как объясняет Харари, потому что все организмы— будь то люди, амебы, бананы или вирусы—, внизу просто “биологических алгоритмов.” Это старая материалистическая, социал-дарвинистская идеология, усиленная и модернизированная с помощью инструментов редактирования генов, нанотехнологий, робототехники и передовой фармацевтики. Трансгуманизм - это евгеника с микроволновой печью. Ничего нового под солнцем нет.
Евгеники 20-го века называли инвалидов “бесполезными едоками.” Вторя этой риторике неоднократно, Харари ломал голову над вопросом, что делать с людьми в будущем, которые откажутся от AI-опосредованного улучшения—folks он называет “бесполезных людей.” “Самый большой вопрос, возможно, в экономике и политике в ближайшие десятилетия,” он предсказывает, “будет что делать со всеми этими бесполезными людьми?” Далее он объясняет: “Проблема в большей скуке, что с ними делать и как они найдут некоторое чувство смысла в жизни, когда они в основном бессмысленны, бесполезны.”
Харари предлагает одно из возможных решений проблемы того, что делать с бесполезными людьми: “Мое лучшее предположение в настоящее время - это сочетание наркотиков и компьютерных игр.” Что ж, по крайней мере, у нас есть фора на этом, факт, который не ускользает от внимания Харари: “Вы видите, как все больше и больше людей тратят все больше и больше времени или решают свое время с помощью наркотиков и компьютерных игр, как легальных наркотиков, так и запрещенных наркотиков,” он объясняет. Именно здесь Харари предсказывает, что окажутся те, кто отказывается быть взломанным в целях улучшения ИИ.
Встреча с мыслью Харари была не первым моим знакомством с трансгуманистическим движением. Несколько лет назад я выступал на панели Стэнфордского университета, спонсируемой Институтом Зефира, на тему трансгуманизма. Я раскритиковал идею “улучшения человека,” использования биомедицинских технологий не для лечения больных, а для того, чтобы сделать здоровое “лучше, чем ну,” т.е, больше, быстрее, сильнее, умнее и т. д. Мероприятие посетили несколько студентов Трансгуманистического клуба Стэнфорда.
У нас была сердечная дискуссия, и мне понравилось общаться с этими студентами после выступления. Я узнал, что символом их студенческой группы был H+ (“humanity-plus”). Это были исключительно умные, амбициозные и серьезные молодые мужчины и женщины, —typical студенты Стэнфорда. Некоторые из них помимо своего прочитали свой "Платон" Научно американский. Они искренне хотели сделать мир лучше. Возможно, среди них было одно-два скрытых авторитарных режима, но у меня сложилось впечатление, что они не были заинтересованы в содействии мировому господству олигархических корпоративистских режимов, уполномоченных взламывать людей.
Тем не менее, у меня сложилось впечатление, что они не осознали последствий принятых аксиом. Мы можем выбрать наши первые принципы, наши основополагающие предпосылки, но затем мы должны следовать им до их логических выводов; в противном случае мы обманываем себя. Эти студенты Стэнфорда были не выбросами, а представителями местной культуры: трансгуманизм имеет огромное влияние в Кремниевой долине и формирует воображение многих наиболее влиятельных технологических элит. Среди сторонников - философ Оксфордского университета Ник Бостром, гарвардский генетик Джордж Черч, покойный физик Стивен Хокинг, инженер Google Рэй Курцвейл и другие известные люди.
Трансгуманистическая мечта
Возвращаясь к выступлению Харари в ВЭФ в 2018 году, он признает, что контроль над данными может не только позволить человеческим элитам строить цифровые диктатуры, но и полагает, что взлом людей может способствовать чему-то еще более радикальному: “Элиты могут получить возможность перепроектировать будущее самой жизни.” Когда его публика в Давосе разогрелась, он затем превращается в крещендо: “Это будет не просто величайшая революция в истории человечества, это будет величайшая революция в биологии с начала жизни четыре миллиарда лет назад.”
Что, конечно, довольно важно. Потому что в течение миллиардов лет ничего фундаментального не менялось в основных правилах игры в жизнь, как он объясняет: “Вся жизнь в течение четырех миллиардов лет—динозавры, амебы, помидоры, люди—все жизнь подчинялась законам естественного отбора и законам органической биохимии.” Но уже нет: все это вот-вот изменится, как он объясняет:
Наука заменяет эволюцию естественным отбором эволюцией посредством разумного замысла—не разумный замысел какого-то бога над облаком, а наш разумный замысел и дизайн наших облаков: облако IBM, облако Microsoft—это новые движущие силы эволюции. В то же время наука может обеспечить жизнь— после того, как она была ограничена на четыре миллиарда лет ограниченной сферой органических соединений—наука может позволить жизни прорваться в неорганическую сферу.
Вступительное предложение здесь прекрасно перекликается с первоначальным определением евгеники от человека, который придумал этот термин в конце XIX века, сэра Фрэнсиса Гальтона, двоюродного брата Чарльза Дарвина: “Что природа делает слепо, медленно и безжалостно [эволюция путем естественного отбора], человек может делать провидчески, быстро и доброжелательно [эволюция нашим собственным—or по разумному замыслу облака].— Но о чем говорит Харари в этом последнем предложении—life, распадающемся на неорганическую сферу?
Это была трансгуманистическая мечта с самого начала современных вычислений, что когда-нибудь мы сможем загрузить информационное содержимое нашего мозга, или нашего разума (если вы верите в умы), в какую-то массивную вычислительную систему, или цифровое облако, или другое технологическое хранилище, способное хранить огромные объемы данных. На этом материалистическом взгляде на человека у нас тогда больше не будет потребности в нашем человеческом теле, что, в конце концов, всегда подводит нас. Сбросив эту смертную катушку— эту органическую пыль, которая всегда возвращается в пыль—мы найдем технологические средства для... ну, чтобы жить вечно. Вечная жизнь в цифровом облаке или мэйнфрейме в небе составляет трансгуманистическую эсхатологию: спасение с помощью цифровых технологий.
Этот проект, конечно, физически (и метафизически) невозможен, потому что человек - это неразрывное единство тела и души, а не какой-то призрак в машине, а не просто немного программного обеспечения, которое можно перенести на другое аппаратное обеспечение. Но пока отложите это; вместо этого посмотрите, что этот эсхатологический сон говорит нам о трансгуманистическом движении. Эти творческие полеты фантазии, очевидно, вышли далеко за рамки науки. Трансгуманизм явно является религия—действительно, особый тип неогностической религии. Сегодня он привлекает приверженцев—, включая образованных, богатых, влиятельных, влиятельных в культурном отношении приверженцев—, потому что он использует нереализованные, глубоко религиозные стремления и стремления. Это эрзац-заменитель светской эпохи.
Эта отвратительная сила
Я не могу не подчеркнуть важность CS для нашего времени. Книга Льюиса, Отмена человека. Льюис однажды заметил, что его роман-антиутопия Эта отвратительная сила, третья часть его “космической трилогии,” была Отмена человека в вымышленном виде. Те, кто учился у Храбрый новый мир Хаксли и Оруэлла Девятнадцать восемьдесят четыре хорошо бы еще почитать Эта отвратительная сила, недооцененная работа в жанре антиутопии. Еще в 1945 году Льюис предвидел Юваля Харари и ему подобных трансгуманистов на горизонте. Он блестяще высмеивал их идеологию в романе персонажа Филострато, серьезного, но глубоко заблуждающегося итальянского ученого.
По сюжету клика технократов захватывает буколический университетский городок в Англии—мыслить Оксфорд или Кембридж— и немедленно приступить к работе, преобразуя вещи в соответствии со своим видением будущего. Главный герой романа Марк Стаддок завербован из университета в новый институт technocrats’. Марк желает, прежде всего, быть частью прогрессивного набора, “внутреннего кольца”, которое управляет следующей большой вещью. Первые несколько дней он проводит в NICE (Национальном институте скоординированных экспериментов), тщетно пытаясь выяснить, что именно влечет за собой его новая должностная инструкция.
В конце концов он выясняет, что его наняли в основном для того, чтобы он писал пропаганду, объясняющую общественности деятельность Института. В конце концов, он несколько удручен ученым социальных наук, а не журналистом. Однажды он садится за обед с Филострато, членом ближайшего окружения NICE, и узнает немного о мировоззрении этого ученого.
Бывает, что Филострато только что отдал приказ вырубить на участке Института некоторые буки и заменить их деревьями из алюминия. Кто-то за столом, естественно, спрашивает, почему, замечая, что буки ему скорее понравились. “О, да, да,” отвечает Filostrato. “Красивые деревья, садовые деревья. Но не дикари. Я положил розу в свой сад, но не брайера. Лесное дерево - сорняк.” Филострато объясняет, что однажды он увидел металлическое дерево в Персии, “настолько естественное, что оно обмануло бы,”, которое, по его мнению, можно было бы усовершенствовать. Его собеседник возражает, что дерево из металла вряд ли было бы таким же, как настоящее дерево. Но ученый не испугался и объясняет, почему искусственное дерево превосходит его:
“Но учтите преимущества! Он надоедает в одном месте: двое рабочих несут его куда-то еще: куда угодно. Оно никогда не умирает. Нет листьев, чтобы упасть, нет веток, нет птиц, строящих гнезда, нет грязи и беспорядка.”
“Я полагаю, что один или два, как диковинки, могут быть довольно забавными.”
“Почему один или два? В настоящее время, я позволяю, у нас должны быть леса для атмосферы. В настоящее время мы находим химический заменитель. И потом, почему какие-то естественные деревья? Я не предвижу ничего, кроме художественного дерева по всей земле. На самом деле мы очищаем планету.”
На вопрос, имеет ли он в виду, что растительности вообще не будет, Филострато отвечает: “Точно. Вы бреете лицо: даже по-английски вы бреете его каждый день. Однажды мы побриваем планету.” Кто-то задается вопросом, что из этого сделают птицы, но у Филострато есть план и для них: “У меня тоже не было бы птиц. На арт-дереве я бы заставил всех арт-птиц петь, когда вы нажимаете переключатель внутри дома. Когда вы устали от пения, вы выключаете их. Еще раз подумайте об улучшении. Никаких перьев, ни гнезд, ни яиц, ни грязи.”
Марк отвечает, что это похоже на отмену практически всей органической жизни. “И почему бы и нет?” Счетчики филострата. “Это простая гигиена.” И тут, вторя риторике Юваля Харари, мы слышим взлетевшее перрорацию Филострато, которое было бы прямо у себя на ежегодной встрече Всемирного экономического форума в Давосе:
“Слушайте, друзья мои. Если вы возьмете какую-то гнилую вещь и обнаружите, что эта органическая жизнь ползет по ней, не говорите ли вы: ‘О, ужасная вещь. Он жив,’, а потом уронить его?... И вы, особенно англичане, не враждебны какой-либо органической жизни, кроме своей собственной на собственном теле? Вместо того, чтобы позволить это, вы изобрели ежедневную ванну.. И как вы называете грязную грязь? Разве это не органика? Минералы - чистая грязь. Но настоящая грязь - это то, что исходит от организмов—sweat, spittles, excretions. Разве вся ваша идея чистоты не является одним огромным примером? Нечистое и органическое - взаимозаменяемые понятия.. Ведь мы сами организмы.
“Я дарую это... В нас органическая жизнь породила Разум. Оно сделало свою работу. После этого мы больше не хотим этого. Мы не хотим, чтобы мир больше был окружен органической жизнью, как то, что вы называете синей плесенью, все прорастает, почкуется, размножается и разлагается. Мы должны избавиться от него. Понемногу и понемногу, конечно. Постепенно мы узнаем, как. Научитесь заставлять наш мозг жить с все меньшим и меньшим количеством тела: научитесь строить свое тело непосредственно с помощью химикатов, больше не нужно наполнять его мертвыми скотами и сорняками. Узнайте, как воспроизводить себя без совокупления.”
Кто-то возражает, что эта последняя часть звучит не так уж весело, но Филострато отвечает: “Мой друг, вы уже отделили Веселье, как вы его называете, от плодородия. Само Веселье начинает уходить из жизни.... Природа сама начинает выбрасывать анахронизм. Когда она выбросила его, тогда становится возможной настоящая цивилизация.” Имейте в виду, что это было написано за десятилетия до изобретения экстракорпорального оплодотворения и других вспомогательных репродуктивных технологий, а также сексуальной революции, которая принесла широкое признание пероральных контрацептивов. Однако, как показывает Льюис в конце романа, NICE не контролируется блестящими людьми науки, а в конечном итоге находится под влиянием демонических сил.
И в реальном персонаже Харари, и в вымышленном персонаже Филострато мы находим людей, которые принимают и действительно прославляют идею о том, что люди могут избавиться от беспорядочных дел органической жизни и каким-то образом перенести наше телесное существование в стерильную неорганическую материю. В обоих персонажах мы встречаем человека, который хочет обесцвечить всю землю дезинфицирующим средством для рук. Не подтолкнули ли мы, возможно, слишком далеко, в сторону сна Филострато во время Covid, когда мы пытались полностью дезинфицировать и дезинфицировать нашу среду обитания, а также перенести все наши коммуникации в цифровую сферу? Разве мы также не двинулись в этом направлении, проводя больше часов бодрствования, приклеенных к экранам в виртуальном мире, чем взаимодействуя с людьми в реальном мире, в то время как массивы поведенческих данных извлекаются из каждого нажатия клавиши и щелкают для прогнозного анализа с помощью искусственного интеллекта?
Органическая материя жива, а неорганическая мертва. Я могу только заключить, что трансгуманистическая мечта, в конечном счете, является философией смерти. Но надо признать, что она стала влиятельной философией у многих сегодняшних элит. Так или иначе, все мы были соблазнены ошибочным представлением о том, что благодаря массово скоординированной бдительности и применению технологий мы можем избавить нашу среду обитания от патогенов и полностью очистить наш мир—, возможно, даже предотвратить смерть.
Как указывал итальянский философ Аугусто Дель Ноче, философии, которые начинаются из ошибочных предпосылок, не только не достигают своей цели, но и неизбежно приводят к прямо противоположным заявленным целям. Трансгуманизм направлен на высший интеллект, сверхчеловеческую силу и бесконечную жизнь.
Но потому, что оно основано на совершенно ложном представлении о том, что значит быть человеком если мы безрассудно примем трансгуманистическую мечту, вместо этого мы окажемся в кошмарной антиутопии глупости, слабости и смерти.
Комментариев нет:
Отправить комментарий