RT беседует с доктором Мэтью Мааваком, экспертом по глобальным рискам и искусственному интеллекту, о том, что может стать величайшим испытанием, с которым столкнулось человечество.
© Getty Images / Девримб
РТ: С появлением генеративного ИИ в интернете появилась шутка, сравнивающая будущее, представляемое авторами утопических романов , где роботы выполняют тяжёлую физическую работу, а люди свободны для творчества , с реальностью, где ChatGPT, Stable Diffusion и другие создают тексты и изображения, в то время как люди работают за минимальную зарплату в фастфудах и на складах Amazon. Оправдан ли этот антиутопический юмор?
Мэтью Маавак: Да, юмор более чем оправдан. На самом деле, он уже не смешной.
Всего за десять лет научно-фантастическая фантазия о роботах-дворецких, освобождающих человечество для искусства и досуга, была уничтожена реальностью. Вместо роботов, переворачивающих бургеры, у нас есть ИИ, рисующий портреты, пока люди переворачивают бургеры, пока их не заменят роботы. Эксперт по безопасности ИИ, доктор Роман Ямпольский, недавно предупредил, что искусственный интеллект общего назначения (ИИ) и суперинтеллект могут уничтожить 99% рабочих мест в ближайшем будущем.
Раньше скептики утверждали, что роботам не хватает ловкости для «реальной работы», такой как сантехника, санитария, ремонт автомобилей и работа на складе. Ситуация быстро меняется. Конечно, человекоподобные роботы всё ещё нуждаются в доработке, а расходы на их обслуживание замедлят их внедрение. Необходимо проводить тщательные испытания их долгосрочной надёжности. В противном случае корпоративные катастрофы будут подобны череде банкротств западных автопроизводителей, которые спешно выпускали новые модели, не проводя масштабных долгосрочных испытаний.
Таким образом, непосредственная угроза увольнения угрожает не сантехникам или уборщикам, а предположительно безопасному «классу знаний».
Зачем нанимать адвоката, если ИИ может составить аффидевит за считанные секунды, без помпы, театральности и непристойных выставлений счетов, за которые юристы цепляются как за неотъемлемое право? Большинство людей не осознают, что могут представлять себя сами — «от себя», как выражаются юристы, — с помощью ИИ, если бы не многочисленные препятствия, чинимые юридическим сообществом.
Зачем обращаться в университет или библиотеку, если такие магистратуры, как ChatGPT или DeepSeek, могут синтезировать информацию в самых разных областях — от астрофизики до свитков Мёртвого моря — всего за один перерыв? Какой профессор может сравниться с таким разнообразием и результатами?
Зачем беспокоить соседа или механика рассказами о возможностях нового автомобиля, если ИИ может ясно и терпеливо объяснить работу каждой системы?
Почему так много людей поглощают цифровой мусор
Журналистика не стала безопаснее. Редакторы, корректоры и даже ведущие уже должны были стать ненужными. Если модели ИИ уже умеют продавать моду, даже тем, кто жаждет человеческой привлекательности, почему бы не передавать вечерние новости через ИИ-ведущего? Я расскажу вам одну причину, по которой массовое внедрение традиционных СМИ будет вызывать серьёзные сомнения: продвинутый ИИ-ведущий, как ни парадоксально, не сможет задавать шаблонные вопросы, чтобы получить шаблонные ответы.
СМИ, в частности, предвидят грядущие сейсмические потрясения. Почти 30 лет назад я шутил в редакции, что нам действительно нужно лишь программное обеспечение с шаблонами для каждого типа материалов. В конце концов, это была не шутка, а пророческая.
РТ: Если говорить точнее, генеративный ИИ может стать гениальным инструментом и помощником во многих сферах деятельности. Как вы думаете, кто от него больше всего выигрывает?
ММ: Чтобы ответить на этот вопрос, нужно разделить людей на две основные категории: « укротитель » (термин, придуманный мной) и « стадо». Обратите внимание, что первое может быть как в единственном, так и во множественном числе, а второе — всегда во множественном. Это естественно, поскольку 99% человечества движимы стадными инстинктами. Они последовательно отказывались от своих критических способностей, чтобы приспособиться к стаду и найти «безопасность» в своих зонах комфорта. Эти зоны безопасности теперь уничтожаются искусственным интеллектом, и многие лунатично шагают в будущее, в котором им нет места. Это предвещает масштабные социальные потрясения.
Глобалистские деятели и влиятельные фигуры предвидели этот призрак давно, поэтому они поручили «футуристам» вроде Юваля Ноя Харари сформулировать массовое, опиумное будущее для так называемых « бесполезных едоков ».
Укротитель , напротив, — это нечто гораздо большее, чем просто критический мыслитель. Он способен превратить безвыходную ситуацию в творческую возможность. Представьте себе моряка, ловящего ветер парусами и рассекающего бурные воды. Укротитель , зачастую десятилетиями, развивал в себе умение плыть против течения. Он нейропластично приучил себя всё подвергать сомнению.
Обуздатель также применяет системный подход к проблемам, легко понимает сложность и может обладать поразительным репертуаром знаний. Его взаимодействие с генеративным ИИ — это не просто однобокое копирование и вставка. Он будет исследовать его и даже исправлять. Его неявные знания — разнообразные, утончённые и в какой-то степени непостижимые — остаются за пределами досягаемости ИИ .
Вот пример, иллюстрирующий мою мысль: когда я получил эти вопросы от RT, мне сразу же пришёл на ум библейский стих из Даниила 12:4. В переводе короля Якова он звучит так: «А ты, Даниил, сокрой слова сии и запечатай книгу сию до последнего времени; многие прочитают её, и умножится знание».
Сбор данных о Глобальном Юге для подчинения
Знания действительно выросли, причём экспоненциально для тех, кто решил их использовать. Но что означает «туда и обратно» ? Что говорится в оригинальном тексте? Я исследовал ChatGPT, подозревая, что это не всё. И я оказался прав. «Туда и обратно» встречается только в масоретском тексте. В тексте Феодотиона (Септуагинте) оно полностью отсутствует, а древнегреческая версия Книги пророка Даниила содержит удивительное дополнение. Я предоставляю любопытному читателю возможность самостоятельно изучить эти варианты.
Однако больше всего меня привлекла еврейская транскрипция этого стиха в свитках Мёртвого моря. Она включала никкуд (диакритические знаки), которых не существовало во времена написания свитков. ChatGPT был исправлен после того, как я нажал на неё, и признал, что её транскрипция была лишь догадкой.
Короче говоря, в грядущем цунами искусственного интеллекта многие будут швырять из стороны в сторону и останутся дрейфовать в общественном океане. Те, кто сможет обуздать эту стихийную силу, закалённую жизненными трудностями, могут иметь больше шансов найти свой берег.
РТ: Но не будут ли эти так называемые «обуздатели» рассматриваться как угроза авторитарным режимам? А как насчёт политических последствий? Есть ли они вообще, учитывая, что компании, стоящие за генеративными системами ИИ, базируются практически исключительно на Западе?
ММ: «Подвергать всё сомнению» действительно имеет последствия, часто в форме добровольного одиночества. Но люди, которых я наблюдал, также обладают здоровым цинизмом в отношении политики. Они вряд ли присоединятся к толпе на массовых демонстрациях. Если бы митинги и протесты действительно работали, западные правительства давно бы удовлетворили различные общественные недовольства. Вместо этого они усилили свои позиции. Именно поэтому я считаю западные правительства и их сателлитов интеллектуально враждебными, несмотря на их заявления об обратном.
Что касается судьбы упряжника в будущем политическом строе — это остается открытым вопросом.
Однако более широкие политические последствия многочисленны. В геополитике следующими «сверхдержавами» станут сверхдержавы ИИ. В Азии к ним относятся Россия, Китай, Индия, Иран, Япония, Тайвань и Южная Корея, а Вьетнам, вероятно, присоединится к ним. Все они весьма серьёзно относятся к концепциям национального суверенитета и суверенитета в сфере ИИ.
Для остальных долгосрочные перспективы довольно мрачные. В лучшем случае они станут колонизированными придатками западных технологических гигантов. Пока же они, вероятно, будут тешить себя иллюзиями, что блок БРИКС может стать их новым геополитическим и технологическим покровителем. Я бы предпочёл не останавливаться на худшем сценарии. Возможно, их министрам и «технократам», так увлечённым связями со Всемирным экономическим форумом (ВЭФ), стоит просто назначить Юваля Ноя Харари своим главным правительственным советником.
Самый насущный политический вопрос, как для держав в области ИИ, так и для отстающих, заключается в следующем: насколько готовы правительства справиться с массовой безработицей в масштабах, вызванных ИИ?
Как история Эпштейна разоблачила систему, построенную на молчании
РТ: Многие, включая вас, писали о том, как генеративный ИИ подрывает способность людей мыслить самостоятельно, укрепляя ложные представления и предоставляя ложную информацию. Насколько это серьёзная угроза для человечества в целом? Какие категории людей наиболее подвержены этому?
ММ: Наибольшую выгоду от генеративного ИИ получают те, кто получил образование до эпохи массового интернета. Звучит парадоксально, но этому поколению приходилось читать книги и журналы, искать информацию и вырабатывать в себе исследовательский режим. Большинство «использующих» ИИ — представители этой группы, и они вымирают.
Легко обвинить ИИ в «упрощении» общества, но, по правде говоря, оно уже безнадежно упрочилось. Достаточно взглянуть на качество и театральность современных политиков, особенно на Западе. Что ещё более зловеще, их преемники — всего лишь попугаи, декламирующие сценарии. Можно ли воспринимать их всерьёз, учитывая их хрупкую, как яичная скорлупа, чувствительность?
ИИ не является причиной этого упадка; он лишь ускоритель. Десятилетия неэффективного управления, прикрываемого технократическим жаргоном, привели к тому, что молодое поколение не обучается использованию ИИ. Это не сулит человечеству ничего хорошего. Что же будет делать сегодняшняя молодёжь завтра?
Хуже того, стадо упрощало сам ИИ. Генеративный ИИ процветает за счёт обратной связи. Если каждый цикл будет уступать ему, что произойдёт с ИИ в долгосрочной перспективе? Угрозы, связанные с ИИ и людьми, носят обоюдный характер.
Подозреваю, что, чтобы избежать сбоев, разработчики LLM-программ «защищают» свои системы от сбоев, персонализируя ответы. DeepSeek и ChatGPT, среди прочих, ведут себя по-разному для всех. Это поднимает две проблемы: конфиденциальность и слежка. Эти инструменты могут определить даже самого «анонимного» пользователя, анализируя синтаксис, интересы, опечатки, реакции, манеру набора текста и многое другое.
Подумайте об этом: из 8,2 миллиарда человек ИИ может практически мгновенно определить, кто вы — даже если вы меняете псевдоним, берете чужой номер телефона, меняете место жительства или скрываетесь под цифровым камуфляжем.
Это должно напугать людей. Лично я говорю: давайте.
Искусственный интеллект сводит нас с ума?
RT: After a recent ChatGPT update, which disabled certain kinds of interactions, there have been numerous reports of people having to “break up” with their “AI boyfriends/girlfriends.” Why would anyone want to “date” a machine?
MM: The particular attachment to AI “girlfriends” and “boyfriends” is the latest expression of a very old human tendency: to anthropomorphize, project emotion, and form bonds with non-human objects when those objects provide comfort, agency, or reciprocal illusion. The novelty is not the attachment itself, but the sophistication of the object – moving from wood and cloth, to clockwork, to pixels, to adaptive AI.
Let me explain.
Since ancient times, people have projected agency and personality onto carved images of gods or ancestors in the form of idols and statues. They have personal ties with objects imbued with “power” such as talismans. Children, even today, are known to talk to their dolls and teddy bears. In the 18th and 19th centuries, mechanical dolls and automata sparked both fascination and emotional investment. By the 20th century, people were already forming bonds with erotic mannequins.
On a more meaningful note, people still speak to their pets, whose presence and antics can be both calming and outright funny. Parents articulate on behalfof babies and toddlers, and this is how familial and social attachments are formed, as well as the first vocabularies of a young life. As children, we develop our language by reading or listening to anthropomorphized stories involving animals. I still remember the parting words of B’rer Rabbit to B’rer Fox at the well scene, even if I forget the “spur of the moment” epiphanies I had included in Op-Eds written months back.
AI mates, however, represent a new paradigmaltogether. For the first time ever, the object of affection can “talk back” in real-timeon a variety of topics, and these interactions seem more real and fulfilling than those with humans who can carry grudges, tempers, malice etc.
In my opinion, AI mates are an extrapolation of the imaginary friends many children cultivate while growing up. It is a form of escapism.
The rise in AI relationships may also be caused by growing distrust of fellow human beings, compounded by a cultural drift encouraged by academics, politicians, and other traditional gatekeepers. The lunatics are running the asylum in all social spheres, and people feel let down, disoriented, and desperate for stability. Just think of the recent epidemic of gender dysphoria that was encouraged and celebrated by those in authority.
В этом вакууме ИИ становится заменой якоря. Эти «отношения» возникают из столкновения неудовлетворённых человеческих потребностей (одиночества, близости, безопасности и т. д.) с гиперперсонализированными технологиями. В культурном климате, где традиционные нормы любви, секса и брака разрушаются, машины становятся путём наименьшего сопротивления.
Галлюцинации ИИ: зарождающееся сознание или всемирный позор?
Искусственный интеллект может имитировать чувства и осыпать комплиментами, не создавая конфликтов, характерных для реальных отношений. Финансовые и психологические затраты кажутся минимальными, но эмоциональная зависимость может быть весьма реальной.
Все, чего добился генеративный ИИ, — это ускоренное развитие нашего врожденного инстинкта привязанности. Фактически, ранние текстовые программы, такие как ELIZA в 1960-х годах, показали, как легко людей можно заставить довериться «простому коду».
РТ: Это просто одиночество или признак более глубоких психологических проблем – может быть, даже психического расстройства?
ММ: Одиночество часто становится отправной точкой, но редко решает всё. Феномен хикикомори в Японии, который теперь отражается и в других странах, появился задолго до публичного внедрения генеративного ИИ. Почему дети и молодые люди отгораживают себя от общества? Возможно, потому, что общество становится всё более лицемерным, трусливым и откровенно фальшивым? Индивиды попадают в собственную симулированную социальную матрицу, где подчинение лжи, полуправде и откровенной чепухе является обязательным условием.
Большинство человеческих отношений в той или иной степени токсичны: каждый из них принижает творческие способности или потенциал другого, используя тонкий газлайтинг. Это позволяет парам или друзьям оставаться вместе, и это явление широко известно как «менталитет ведра с крабами».
Экстраполируя это, мы получаем скованных цепями когорт и, в конечном счёте, робкое общество, цепляющееся за удобную ложь. Вспомните хотя бы так называемых интеллектуалов, которые высмеивают идею Бога как «воображаемую фею на небесах», но при этом без проблем придумывают новые гендерные формы.
Это то, что я ранее назвал «стадом» .
Как напоминает нам Писание: «Лукаво сердце человеческое более всего и крайне испорчено; кто может постичь его?» (Иеремия 17:9). ИИ также не может по-настоящему понять человеческое сердце, поскольку он может лишь имитировать человеческие чувства. Тем не менее, ИИ, безусловно, может казаться «безопаснее» и «реальнее» всё большему числу одиноких людей.
Короче говоря, мы живём в культуре обмана и поверхностных связей, где общественная жизнь напоминает вращающийся цирк, полный драмы и деморализации. Эта эрозия смысла порождает тревогу, депрессию и другие психосоциальные стрессы.
В контексте отношений с искусственным интеллектом также присутствуют элементы зависимости и привыкания, поскольку виртуальные собеседники созданы для того, чтобы быть бесконечно доступными и поддерживать друг друга. Это препятствует развитию и развитию реальных отношений, усиливая эскапизм. Таким образом, искусственные связи становятся заменой человеческого общения.
Являются ли отношения с ИИ психологическим расстройством, или само общество — психиатрической лечебницей? На мой взгляд, эти два понятия неразделимы: невозможно изучать и называть первое, не признавая патологию второго. Клинический термин для парафилий, связанных с привязанностью к неодушевлённым предметам, уже существует. К ним относятся агальматофилия (влечение к статуям или манекенам), объектофилия (более широкая категория) и, более конкретно, пигмалионизм — состояние «влюблённости в объект собственного творения».
Термин происходит из греческой мифологии, где Пигмалион был скульптором, влюбившимся в созданную им статую. В современную эпоху пьеса Джорджа Бернарда Шоу «Пигмалион» переосмыслила этот миф, превратив девушку-цветочницу из низшего класса, Элизу Дулиттл, в объект изысканности. То, что казалось невинным гениальным прорывом, становится ещё более тревожным, если вспомнить, что сам Шоу открыто выступал за массовое уничтожение населения по признаку его « недостойности ».
Знакомо?
РТ: Информационная эпоха предоставила людям множество возможностей для знакомств и встреч — с появлением интернета и приложений для знакомств теперь даже не нужно идти в паб, чтобы завязать разговор. Разве этого недостаточно, чтобы люди стали искать искусственные отношения?
ММ: Я ещё раз повторю, что многие человеческие отношения изначально были искусственными. Разговаривали бы мы с коллегой или начальником на работе, если бы у нас было достаточно денег, чтобы уйти на пенсию или заняться своими истинными увлечениями? Отношения формируются и поддерживаются различными типами градиентов власти. Так было с незапамятных времён. Только сейчас, в информационную эпоху, с ростом знаний и ростом стресса, некоторые готовы признать этот феномен.
Растущая стоимость жизни также стремительно уничтожает традиционные возможности для общения. Немногие теперь могут позволить себе посещение паба. То, что когда-то было доступным местом отдыха для рабочего класса и неимущих, становится всё более дорогим .
А как насчёт менее дорогих или бесплатных способов общения? Я видел, как в Фейсбуке организовывались походы на природу, но их отменяли из-за отсутствия откликов. Традиционно церкви и подобные им организации предлагали идеальную возможность для встреч и налаживания связей. Теперь же традиционные ценности размыты, и слишком много церквей обрели дурную славу. Посещение церквей на Западе также безнадёжно сократилось после Второй мировой войны. Посещение некоторых харизматических церквей тоже обходится недёшево, поскольку в них взимают ветхозаветную десятину.
OpenAI объясняет причины «галлюцинаций» чат-ботов
Тяжелые экономические обстоятельства играют решающую роль в развитии отношений с использованием искусственного интеллекта.
С другой стороны, приложения для знакомств могут быть обманчивы. Как гласит известная компьютерная фраза: «То, что видишь в интернете, не всегда то, что получаешь». Хотя некоторые отношения могут возникнуть на этих платформах, по-настоящему долгосрочные истории успеха встречаются относительно редко. Во многих случаях то, что поначалу кажется совместимостью, формируется не столько личными связями, сколько практическими соображениями, такими как карьерные перспективы, социальная мобильность или возможности иммиграции. Когда отношения основаны на законах «спроса и предложения» и резком перепаде сил, представьте себе, какие тонкие последствия это может иметь для последующих поколений?
В этом контексте насколько более «поддельными» становятся отношения с ИИ? Да, это нездорово, но каково истинное состояние «нормального общества» сегодня?
РТ: Теперь, когда масштаб проблемы стал очевиден, станет ли ситуация лучше или хуже? Различные сервисы «подружек с искусственным интеллектом» уже существуют — станут ли они нормой и мейнстримом, например, секс-игрушки и VR-порнография? Будут ли сеансы терапии и программы очищения, такие как «Анонимные Алкоголики» или программы для наркоманов и порнозависимых?
ММ: Одиночество будет распространяться всё шире, как и различные формы цифрового эскапизма и парасоциальных связей. Технологии погружения однажды позволят людям ощутить острые ощущения от исследования далёких пещер, посещения вымышленных планет или сексуальной близости с любым персонажем, созданным искусственным интеллектом.
Это скользкая дорожка. Представьте, что вы «исследователь» в палеолитической среде, и вам нужно убивать, чтобы выжить в этой симуляции? Перенесли бы вы эту приобретенную черту в реальный мир? Насколько реалистичным это станет? Каково это — быть Джеком-потрошителем в викторианском Лондоне? Станет ли даркнет основным рынком для иммерсивных технологий, эксплуатирующих первобытные желания и сексуальные отклонения?
Для тех, кто страдает от различных форм цифровой зависимости, всегда будут сеансы терапии. Но, на мой взгляд, лучшее лекарство — это поход с палатками под присмотром взрослых, без каких-либо современных гаджетов.
РТ: Является ли это испытанием воли человечества к выживанию как вида?
ММ: Абсолютно. Именно поэтому наши глобалисты-властелины постоянно болтают о Великой перезагрузке и Новом мировом порядке до тошноты. Они знают, что созданное ими общество рушится в самом основании, и им нужна новая парадигма, в которой большую часть человечества можно безопасно загнать в цифровой ГУЛАГ. Оказавшись там, его обитатели могут получить бесплатные иммерсивные технологии и психотропные препараты, чтобы держать их в повиновении и умиротворении. Именно это и предложил Юваль Ной Харари, говоря о будущем « никчемных или бесполезных едоков ».
Комментариев нет:
Отправить комментарий