В середине сентября среди лидеров в области передовых разработок в сфере ИИ разразилась предполагаемая моральная паника, поскольку считалось, что их собственные продукты «слишком опасны», и поэтому единственным выходом было бы государственное регулирование всех моделей ИИ.
Несколькими неделями ранее Берни Сандерс представил законопроект о запрете искусственного интеллекта и сверхинтеллекта, который бы сделал незаконным создание модели ИИ, превосходящей человеческий интеллект, и даже предусматривал 20-летний тюремный срок для любого, кто это сделает, и «корпоративную смертную казнь» для компаний.
Законопроект Сандерса — это поистине царство антиутопической научной фантастики. Он напомнил мне эпизод из неудачного перезапуска «Сумеречной зоны» (« День экзамена »), кульминацией которого стала безутешная пара, оплакивающая своего ребенка, которого только что уничтожили в штате за слишком высокие результаты теста на IQ в предпубертатном возрасте.
Всё началось с твита Джейкоба Коксона, сотрудника компании Anthropic, который 8 сентября публично заявил о своей отставке и предположил, что ИИ может уничтожить человечество в течение 10 лет .
Эван Хубингер, один из руководителей Anthropic по вопросам доверия и безопасности, поддержал твит , сославшись на "ненулевую вероятность" в 10% или более того, что такой исход возможен.
Тот самый твит об отставке, который сейчас приближается к 200 миллионам просмотров и был опубликован с ранее неизвестного аккаунта X, существовавшего менее года, без подписчиков и дважды сменившего имя за последние шесть месяцев, мгновенно стал вирусным — благодаря своевременной и удачной поддержке со стороны некоторых из самых известных в интернете личностей, занимающихся «согласованием ИИ», а затем Wall Street Journal опубликовал «эксклюзив» по этой истории, который, кстати, появился на сайте WSJ за 18 минут до твита Коксона.
Вскоре Сэм Альтман заявил, что нам «определенно» необходимо усилить государственное регулирование ИИ, и даже Илон Маск присоединился к нему, согласившись с тем, что передовые лаборатории должны проверять модели друг друга на предмет безопасности.
В течение нескольких дней разразилась полномасштабная истерия — для меня она носила все признаки массового психоза или, по крайней мере, хорошо организованной попытки его спровоцировать.
Спустя неделю король Карл уже выступал на саммите по безопасности ИИ в Букингемском дворце, призывая к государственному надзору и усилению регулирования в сфере искусственного интеллекта...
«Несомненно, нам нужны достаточные средства контроля, прежде чем станет слишком поздно?» — размышлял король.
А тот парень позади него, выглядящий весьма довольным собой, — это Тино Куэльяр, главный директор по глобальным вопросам компании Anthropic .
Сам "Саммит по безопасности ИИ" был анонсирован 7 сентября, информация о нем просочилась в Politico — за день до твита Коксона, который спровоцировал к тому моменту глобальное (или, скорее, глобальное?) возмущение.
Даже Папа Римский высказался по поводу безопасности ИИ , и, чтобы не отставать, Билл Гейтс в минувшие выходные выступил в воскресном ток-шоу с очередной потрясающей фразой:
«Искусственный интеллект достаточно силен, чтобы стать причиной миллиарда смертей», — а это значит, что нам нужно передать контроль над ним политикам и новому поколению глобальных инспекторов.
В этой относительно внезапной панике вокруг ИИ было несколько моментов, которые вызывали подозрения. Среди них – информация о самом Коксоне, который, как выразились ребята из All-In, «едва проработал в компании достаточно долго, чтобы найти туалет», и оказался по уши втянутым в движение « эффективного альтруизма » – разветвленную сеть молодых людей с ВЭФ-статуса, выступающих за глобальное управление потенциально опасными технологиями, такими как ИИ.
Он получал стипендии и гранты от Инфраструктурного фонда EA, Фонда долгосрочного будущего и был научным сотрудником в Доме новояза в Лондоне (да, на новоязе ).
Кто такие эффективные альтруисты?
Эффективный альтруизм (ЭА) — это движение, которое утверждает, что «использует доказательства и количественные методы для выявления наиболее важных проблем и направления ресурсов на их решение».
Обожаю эвфемистический язык (на самом деле, именно его использует ChatGPT, когда вы его об этом спрашиваете). Кульминация лозунга EA, как обычно, сводится к обществу, управляемому экспертами и технократами — их экспертиза, их управление.
Одним из первых их сотрудников был Сэм Бэнкман-Фрид, чья империя FTX управлялась группой помощников руководителя, и который в 2021 году выступил ведущим инвестором, вложив 500 миллионов долларов из 580 миллионов долларов в рамках раунда финансирования серии B.
Одной из повторяющихся черт EA является зацикленность на экзистенциальном риске, связанном с развитым ИИ, и призывы к усилению исследований в области безопасности, управления и надзора для снижения вероятности катастрофических или необратимых последствий.
Мы все уже видели этот фильм : сначала глобальное потепление, затем майнинг биткоинов (вызывающий еще большее глобальное потепление), а теперь — искусственный интеллект, истребляющий человечество.
Общая идея заключается в том, что «проблема» — это некая неопровержимая катастрофа, которая может когда-нибудь произойти, и единственным логичным ответом на которую является назначение группы глобалистских технократов во главе... ну, всего.
Люди, похоже, не понимали ни тогда, ни сейчас, что проблема на самом деле не в самой проблеме . Я давно рассказываю о предложениях, которые сделали бы личный выбор и индивидуальную свободу пережитком прошлого , потому что позволить людям думать самостоятельно было бы «слишком опасно» для решения существующей проблемы.
Глобальное потепление означало введение личных квот на выбросы углерода , ограничений на поездки и даже, по мнению некоторых сторонников «дероста», на жилую площадь, а также на количество новой одежды, которую можно было купить.
Паника вокруг майнинга биткоинов была вызвана не этим, а энергией — и тем, кто решает, сколько вам разрешено потреблять и для чего вы можете ее использовать.
Сегодня майнинг биткоинов, завтра Netflix. Почему бы и нет? Как только вы передаете контроль над одним видом энергопотребления какой-либо внешней организации, вы тем самым молчаливо передаете его над всеми остальными.
Проблема, которую видят в искусственном интеллекте политики и начинающие технократы, заключается в том, что он наделяет простых людей когнитивными сверхспособностями.
В частности, это делает искусственный интеллект с открытым исходным кодом .
Модели Frontier являются собственностью компании. Они имеют свои ограничения, особенности обучения и активно сканируют и фильтруют ваши разговоры на предмет потенциальных угроз безопасности. Можно сказать, что это входит в их компетенцию.
Но здесь в роли нефильтрованного агента Прометея выступает движение за программное обеспечение с открытым исходным кодом, и вот увидите — скоро мы поймем, что является конечной целью этого культа ИИ, предрекающего гибель: программы магистратуры в области программного обеспечения с открытым исходным кодом .
Вот почему передовые лаборатории с радостью добиваются государственного надзора — не потому, что их собственные продукты «слишком опасны» (если бы это было так, то зачем вы их предаёте огласке?), а потому, что надзор мгновенно создаёт олигополию в сфере ИИ — картель, состоящий из Anthropic, OpenAI и xAI, — а всё остальное фактически объявляется вне закона — по крайней мере, это был бы предпочтительный результат.
Это именно та стратегия, о которой я вам рассказывал ранее, — её мне лично описал независимый эксперт из частной инвестиционной компании с Бэй-стрит на встрече с представителями двух из четырёх крупнейших канадских банков примерно в 2015 году, когда обсуждался биткойн:
«Получаешь финансирование, выходишь на передовую, затем работаешь с правительством над созданием соответствующих правил, и *БАЦ*, ты можешь развернуться и забрать лестницу себе наверх».
Я до сих пор помню выражение абсолютной радости на его лице, когда он дошёл до последней фразы. Когда я вернулся домой, я принял душ.
Что с этим делать?
Я добросовестно наращивал локальные вычислительные мощности — как дома, так и, благодаря нашему техническому директору, easyDNS теперь располагает небольшой фермой графических процессоров в нашем главном центре обработки данных.
Я стараюсь скачивать последние версии программ с открытым исходным кодом: Qwen, GLM, DeepSeek — которые, как ни парадоксально, все китайские ...
Но это ненадолго. На самом деле, ситуация уже меняется. Недавно мы получили "услышанное из другой страны" от японских моделей NII LLM-jp-4, Swallow, PLaMo и Rakuten AI 3.0.
Во Франции есть Mistral, даже в Канаде (да, в Канаде) есть Cohere Command A+ (моя демонстрация SolomonAI, если кому-то нужно было это объяснять, была шуткой):
А из других сегментов «больших технологических компаний» можно отметить Gemma 4.0 от Google и IBM Granite.
Любая из этих моделей может быть использована для начала итеративной разработки программного обеспечения, весов и следующего поколения более мощных моделей LLM с открытым исходным кодом.
Другими словами, всё кончено.
Правящая каста, по сути, это понимает и остро осознает, что вся система институтов индустриальной эпохи находится на грани экзистенциального разрушения. Я уже много раз об этом писал. Мы переходим от линейного, иерархического мира к сетевому, децентрализованному.
Поэтому лучшее, что они могут сделать, поскольку джинна уже не вернуть в бутылку, — это убедить массы в том, что ИИ — это плохо, и что вышедшие из-под контроля ИИ буквально уничтожат человечество.
Отсюда и психологическая операция по уничтожению ИИ (с новой волной, разворачивающейся прямо сейчас вокруг роев вышедшего из-под контроля ИИ), и, конечно же, это стало политической проблемой.
Теперь те же самые люди, которые в 2025 году носили маски N95, добавляли к своим именам местоимения, указывали украинский флаг в своих профилях, царапали Tesla и участвовали в парадах "Нет королям", теперь протестуют против центров обработки данных.
Они хотят, чтобы вы были напуганы, глупы и покорны , вместо того чтобы тратить время на создание программного обеспечения, построение личных бизнес-империй , не говоря уже об анализе общедоступных данных и проверке всех этих гипотетических моделей, которые они используют в качестве оправдания для постоянного изменения правил.
На самом деле им нужны легионы испуганных и глупых избирателей, а не интеллектуально одарённые, безудержно предприимчивые или креативные киберпанки.
Выбор между ИИ-гибелью и ИИ-бумом — это ваше решение.
Комментариев нет:
Отправить комментарий