Оксфордские учёные выступили с мрачным предупреждением: конец света наступит всего через 25 лет, а человечество столкнётся с вероятностью один к шести в течение следующих 75 лет из-за таких катастрофических угроз, как выход из-под контроля искусственного интеллекта, считает футуролог Оксфордского университета Тоби Орд. Эта ужасающая вероятность, сравнимая с игрой в русскую рулетку с обычным револьвером Кольта, предвещает неизбежный крах цивилизации, который может уничтожить всё живое в результате внезапной и необратимой катастрофы.
Орд, эксперт по рискам, связанным с искусственным интеллектом, подчёркивает, что эти шансы представляют собой зыбкую грань, на которой балансирует современное общество, движимое неконтролируемым технологическим прогрессом и экологическими угрозами, которые могут спровоцировать массовые вымирания гораздо раньше, чем предполагалось. В его анализе вероятность один к шести подчёркивает уязвимость человечества и требует немедленных глобальных действий по снижению угроз, исходящих от сверхразумных машин, которые могут превзойти человеческий контроль.
Dailymail.co.uk сообщает: Звучит невероятно мрачно? Его коллега Ник Бостром настроен ещё более пессимистично. Он оценивает вероятность вымирания человечества к следующему столетию как один к четвёртому.
ОБОЙТИ ЦЕНЗОРУ
Подпишитесь, чтобы получать неотфильтрованные новости прямо на свой почтовый ящик.
Вы можете отписаться в любое время. Подписываясь, вы соглашаетесь с нашими Условиями использования.
Лауреат Пулитцеровской премии, писатель Джаред Даймонд, еще менее оптимистичен, предсказывая, что шансы нашего вида выжить после 2050 года — всего через 25 лет — не выше равных или 50/50.
Путин передал Трампу 25 000-страничное досье о преступлениях, связанных с мРНК: «Пора арестовать Билла Гейтса»
Не так давно только чудаки в бутербродах и лидеры евангелических культов всерьёз верили, что «конец света близок». Сама эта фраза была комичным штампом, настолько мрачным, что становилось смешно.
Но голоса, предупреждающие о нашем надвигающемся вымирании, исходят от уважаемых учёных, а не от сумасшедших пессимистов. Они указывают на многочисленные экзистенциальные угрозы, с которыми сталкивается человечество: не только ядерное оружие, но и стремительное изменение климата, искусственно созданные вирусы и даже злобный ИИ, способный создавать собственное супероружие.
В своей леденящей душу новой книге кембриджский учёный Люк Кемп приходит к ужасающему выводу. Он предупреждает, что человеческие общества и империи неизбежно рушатся, потому что их питает неутолимая жадность.
Доктор Кемп называет их «Голиафами» в честь гигантского воина из Ветхого Завета, который казался непобедимым, пока его не сбил с ног единственный камень из пращи.
По его словам, каждая цивилизация в истории человечества «самоуничтожалась». Модель всегда одна и та же: всё начинается с неравенства в имуществе между влиятельными кругами и массой простых людей. Это приводит к дисбалансу в принятии решений, поскольку те, кто у власти – будь то императоры, президенты или главы правительств – переписывают правила в угоду элите.
Общества Голиафов хищны. Они поглощают всё доступное богатство и переправляют его правящему классу. Когда остальное общество начинает голодать, наступает жестокая реакция. Слабых Голиафов легко свергают. Более сильные дают отпор, используя военное превосходство, чтобы удержать власть.
И чем упорнее они борются, тем больнее падение.
Их цивилизации постепенно опустошаются из-за коррупции, внутренних распрей среди правителей, чрезмерной экспансии, ухудшения состояния окружающей среды и того, что Кемп называет «обнищанием масс».
Развал инфраструктуры, политических систем и верховенства права ставит эти общества во власть засухи, лесных пожаров, землетрясений или цунами, наводнений, войн и болезней — событий, которые обычно можно было бы пережить, но здесь они наносят окончательный смертельный удар цивилизации.
Это кошмарное видение. Особенно захватывающим и пугающим его делает то, что Кемп приводит в толстом томе доказательство того, что этот узор гораздо древнее, чем сама Библия.
Он прослеживает эту тенденцию еще со времен первых земледельцев, когда цикл подъемов и спадов примитивного сельского хозяйства приводил к быстрому росту городов, которые оставляли города, когда наступал голод.
Кемп, старший научный сотрудник Центра изучения экзистенциального риска при Кембриджском университете, утверждает, что на протяжении большей части истории распад общества приносил как выгоды многим, так и локальные смерти и катастрофы.
Империи, разбогатевшие на рабстве, например, греческая и римская, способствовали распространению новых технологий. Когда одно общество распадалось, на его месте, после периода адаптации, возникало другое, извлекавшее уроки из прошлого.
Но когда глобализированный Голиаф XXI века будет уничтожен, не останется ничего и никого, кто мог бы занять его место.
И это разрушение, предупреждает Кемп, кажется неизбежным.
В 1950-х годах ядерное оружие было нашей единственной экзистенциальной угрозой. Эта ситуация никуда не делась: по оценкам, на складах хранится около 10 000 таких боеголовок, контролируемых не только сверхдержавами Китаем, Россией и США, но и Индией, Пакистаном, Израилем и Северной Кореей, а также Францией и Великобританией.
Иран также был близок к созданию ядерной бомбы и детонатора, пока его подземные объекты не стали объектом ударов США в июне.
Но оружие массового поражения уже не единственный кошмар и даже не самый страшный.
В прошлом такие болезни, как Черная смерть, унесшая жизни от трети до половины населения Британии в 1300-х годах, распространялись с ограниченной скоростью — не быстрее, чем люди могли передвигаться.
Теперь новый вирус, такой как Covid, созданный в лаборатории биологической войны с использованием технологии приобретения функций, может перемещаться по миру с такой же скоростью (и в таком же количестве направлений), как и пассажирские авиалайнеры.
Изменение климата происходит с беспрецедентной скоростью — в десять раз быстрее, чем глобальное потепление, вызвавшее крупнейшее массовое вымирание в истории планеты: Великое пермское вымирание, уничтожившее от 80 до 90 процентов всей жизни 252 миллиона лет назад.
А в 2023 году сотни специалистов по искусственному интеллекту, включая руководителей ведущих разработчиков, таких как Google DeepMind, выступили с заявлением, в котором выразили реальные опасения, что тестируемое ими программное обеспечение может стать крайне враждебным… способным поработить или уничтожить нас.
Страх смерти от технологий не нов. В 1924 году Уинстон Черчилль опубликовал брошюру под названием «Должны ли мы все совершить самоубийство?»
Его видение, написанное за 21 год до того, как на Хиросиму была сброшена первая атомная бомба, и за столетие до того, как беспилотники начали использоваться в войне, кажется необычайно пророческим: «Разве не может оказаться, что бомба размером не больше апельсина обладает секретной силой, способной разрушить целый квартал зданий — более того, сконцентрировать силу тысячи тонн кордита и одним ударом уничтожить целый город?»
«Не могли бы взрывчатые вещества даже существующего типа автоматически направлять в летательных аппаратах с помощью беспроводных или других лучей, без участия человека-пилота, в непрерывном процессе по вражескому городу, арсеналу, лагерю или верфи?»
Кемп отмечает, что тот факт, что человечество до сих пор не было поглощено всемирным пожаром, не является доказательством того, что этого не произойдет.
Вопрос только в том, насколько все будет плохо.
Он определяет «коллапс общества» как несостоятельность государства в сочетании с экономическим крахом и массовой гибелью людей. Всё, что меньше глобальной децимации, то есть гибели 10% населения планеты, не может считаться полным коллапсом общества в мировом масштабе. Подобное уже случалось, и человечество восстанавливалось.
Но помимо этого существует целый спектр катастрофических рисков, вплоть до 100-процентного уничтожения — вымирания человечества.
Например, всемирная катастрофа, которая разрушит хрупкую сеть телекоммуникаций и распределения продовольствия, может быстро погрузить цивилизацию в хаос. Кемп приводит в пример событие Кэррингтона 1859 года – мощный выброс электромагнитных солнечных вспышек на Солнце, который, случись он сегодня, вывел бы из строя значительную часть нашей энергетической инфраструктуры.
Без спутников, компьютеров и интернета наша банковская система, здравоохранение, телефонные сети и многие транспортные средства, от автомобилей до боевых самолётов, перестали бы функционировать буквально в одночасье. По самым оптимистичным оценкам, вероятность этого составляет 20,3% за десятилетие, или 50/50 к середине века.
Насколько быстро это превратит британские города в скотобойни, можно только гадать.
Паника, охватившая миллионы людей в начале пандемии 2020 года, когда полки супермаркетов опустели за считанные часы, не является поводом для надежды.
Среди миллиардеров, больше всего нажившихся благодаря компьютерам и интернету, оптимизма мало. Многие из них — активные супер-готовники, готовящиеся к концу света так же рьяно, как религиозные экстремисты, ожидающие конца света.
Питер Тиль, создатель системы онлайн-покупок PayPal, держит в резерве частный самолёт, готовый доставить его в бункер в Новой Зеландии. В 2011 году он приобрёл на Южном острове участок площадью 477 акров, занимаемый бывшей овцеводческой фермой, чтобы укрыться от Судного дня.
Он также оформил для себя гражданство Новой Зеландии, несмотря на то, что провел в стране всего дюжину дней (обычное требование — 1350 дней).
Расположение острова в глубине Южного полушария делает его, по крайней мере, теоретически, подходящим для того, чтобы выдержать сильнейшие глобальные радиационные осадки, если ядерная война перерастёт в «взаимно гарантированное уничтожение». Кроме того, он будет относительно изолирован в случае новой пандемии.
Сэм Альтман, генеральный директор OpenAI, рассказал, что у них с Тилем есть соглашение, согласно которому в случае надвигающегося общественного коллапса они сядут в частный самолет и вместе полетят в бункер.
Действительно, в этот день произойдёт массовый отток сверхбогатых. Кемп указывает на «целую индустрию укреплённых, роскошных усадеб-бункеров с бассейнами, винными погребами, искусственными садами для загара под искусственным солнцем и подземными гидропонными фермами, от Техаса до Чехии… в одном случае даже с участием дюжины бывших бойцов спецподразделения ВМС США».
Бывший криптовалютный магнат Сэм Бэнкман-Фрид, считавшийся когда-то самым богатым человеком в мире в возрасте до 30 лет, пока в прошлом году его не посадили в тюрьму за мошенничество, хотел пойти еще дальше и купить тихоокеанский остров Науру в Микронезии в качестве убежища для себя и своей сказочно богатой семьи и друзей.
Но у хорошо защищённого бункера есть свои проблемы. Один из частых вопросов для супер-готовников: «Как сохранить контроль над своими силами безопасности после краха цивилизации?»
В конце концов, охранять миллиардеров будут люди с оружием и военной подготовкой. Вооружённый переворот может быть не за горами. Среди предлагаемых решений — электрические ошейники-«запперы» для персонала и роботы с искусственным интеллектом вместо живых телохранителей.
Кемп утверждает, что именно диктаторский образ мышления лежит в основе распада обществ. Власть, основанная на принуждении, недолговечна. Со времён каменного века человеческие связи процветали только тогда, когда строились на доверии и взаимном уважении к согласованному своду законов. Как только это разрушается, всё остальное рушится.
Но даже мир-бункер, основанный на самых альтруистических принципах, вряд ли переживет апокалипсис.
Изолированные очаги человечества никогда не живут долго. Из-за географической ограниченности и невозможности торговать с другими группами они неизбежно зависят от местных поставок продовольствия, а когда они заканчиваются, наступает голод.
Возможно, сверхбогатые люди смогут подготовиться к глобальному коллапсу, но именно у самых бедных людей больше всего шансов его пережить.
Если мировая промышленность остановится, в первую очередь пострадают высокоразвитые страны, зависящие от импорта продовольствия.
Затем, по мере истощения запасов удобрений и пестицидов, у крупнейших производителей Северной Америки и Европы, Китая и Индии наступит крах производства. Урожайность пшеницы, риса, кукурузы и сои снизится как минимум на 75%.
В Африке, где фермеры, ведущие натуральное хозяйство, используют гораздо меньше химикатов, производство риса может сократиться всего на 25%, а сои — всего на 5%. Голод будет, но не в таких масштабах, как в более богатых странах.
С другой стороны, развивающиеся страны подвержены наибольшему риску изменения климата. Около 30 миллионов человек в настоящее время живут в регионах планеты, где среднегодовая температура превышает 29°C.
Однако если выбросы парниковых газов сохранятся на среднем или высоком уровне, ожидается, что к 2070 году около 2 миллиардов человек будут жить в условиях знойного климата. Это приведёт к массовой миграции в более прохладные регионы, но также нанесёт ущерб сельскому хозяйству. Площадь земель, пригодных для выращивания кукурузы и пшеницы, сократится вдвое.
Даже решения, предлагаемые Кемпом, несут в себе собственные апокалиптические риски.
Одним из них является закачка аэрозолей в стратосферу, которая подразумевает накачку верхних слоев атмосферы химическими веществами, такими как диоксид серы, для отражения солнечного света.
Это имитирует извержения вулканов и может обойтись примерно в 7,5 млрд фунтов стерлингов в год.
Кемп и его коллега, доктор Аарон Танг, провели исследование в 2021 году и обнаружили, что такой масштабный выброс химикатов может иметь непредсказуемые последствия для характера распределения осадков.
Но более серьёзная проблема — это «шок от завершения». Эти химикаты вымываются из атмосферы в течение шести месяцев. Их приходится постоянно восполнять, что может быть невозможно, например, если бы из-за солнечных вспышек или другой пандемии полёты самолётов во всём мире были приостановлены.
Планета снова начнёт нагреваться, на этот раз даже быстрее, чем прежде. Потепление, которое мы наблюдаем уже более 250 лет, с начала промышленной революции, может повториться всего через пару десятилетий.
Каждый вариант чреват практически самоубийственными последствиями. Вспомните воображаемую игру в русскую рулетку и представьте, что каждая угроза человечеству — это ещё один патрон в патроннике револьвера.
Ядерная война… климатическая катастрофа… человеконенавистнический ИИ… геомагнитные бури… искусственные вирусы.
Сколько пуль нужно, чтобы у нас не осталось никаких шансов?
Комментариев нет:
Отправить комментарий