Стремительное распространение генетического искусственного интеллекта радикально меняет работу, общество и человеческие отношения.
Эксперт по безопасности ИИ Мэтью Маавак в интервью RT объясняет, почему «юмор» вокруг роботов, создающих произведения искусства, в то время как люди продолжают работать на низкооплачиваемой работе, уже не шутка, а суровая реальность.
Он предупреждает, что искусственный интеллект угрожает не только представителям профессий, связанных с физическим трудом, но и, прежде всего, «классу знаний» — юристам, журналистам, ученым.
Он подчеркивает, что будущее будет за теми, кто «укротит» ИИ, а не поддастся его влиянию, и что геополитический баланс будет определяться странами, которые превратятся в «ИИ-сверхдержавы».
В то же время это повышает риск массовой безработицы, социальной дезинтеграции и замены человеческих отношений «компаньонами ИИ», предупреждая, что человечество столкнулось с экзистенциальным испытанием.
С появлением генетического искусственного интеллекта в Интернете распространилась шутка, в которой будущее, придуманное утопистами, — где роботы выполняют рутинную ручную работу, а люди освобождены для творчества — сравнивается с реальностью, где ChatGPT, Stable Diffusion и другие создают тексты и изображения, в то время как люди работают за нищенскую зарплату в фастфудах и на складах Amazon.
Оправдан ли этот антиутопический юмор?
Мэтью Маавак: Да, юмор не только оправдан. На самом деле, он уже не смешной.
Прошло всего лишь десять лет с момента появления научно-фантастической фантазии о роботах-слугах, освобождающих человечество для искусства и развлечений, до того момента, как реальность разрушила ее.
Вместо того чтобы роботы жарили бургеры, у нас есть искусственный интеллект, рисующий портреты, пока люди жарят бургеры, пока их не заменят роботы.
Эксперт по безопасности ИИ доктор Роман Ямпольский недавно предупредил, что искусственный интеллект общего назначения (ИИО) и суперинтеллект могут в ближайшем будущем привести к исчезновению 99% рабочих мест.
Раньше скептики утверждали, что роботам не хватает навыков для выполнения «настоящей работы», такой как сантехника, уборка, ремонт автомобилей и утомительная работа на складе. Но ситуация быстро меняется.
Конечно, гуманоидные роботы всё ещё нуждаются в совершенствовании, а расходы на их обслуживание замедлят их внедрение. Необходимо провести тщательное тестирование их долгосрочной надёжности.
Невыполнение этих требований приведет к корпоративным катастрофам, аналогичным череде банкротств западных автопроизводителей, выпустивших модели без всесторонних долгосрочных испытаний.
Таким образом, непосредственная угроза рабочим местам сейчас угрожает не сантехникам или уборщикам, а якобы «безопасному» «классу знаний».
Зачем нанимать адвоката, если искусственный интеллект может подготовить показания за считанные секунды, без ритуалов, театральности и непристойных гонораров, которые адвокаты считают само собой разумеющимися?
Большинство людей не осознают, что они могли бы представлять себя сами — «от своего имени», если использовать юридический термин — с помощью ИИ, если бы не бесчисленные препятствия, создаваемые юридической профессией.
Зачем обращаться в университет или библиотеку, если такие крупные языковые модели, как ChatGPT или DeepSeek, могут синтезировать информацию в различных областях — от астрофизики до свитков Мертвого моря — всего за одну чашку кофе?
Какой отдельный профессор может соперничать с такой широтой и объемом продукции?
Зачем усложнять жизнь соседу или механику, рассказывая о возможностях нового автомобиля, если ИИ может ясно и терпеливо объяснить каждую систему?
Анализ данных о глобальном Юге в условиях подчинения
Знания действительно увеличились, причём экспоненциально для тех, кто решил их обуздать. Но что означает «туда и обратно»? Что говорится в оригинальном тексте?
Я попросил ChatGPT разъяснить это, поскольку предполагал, что материала больше. И оказался прав. Слово «туда и обратно» встречается только в масоретском тексте.
В тексте Феодотия (Легиона) он полностью опущен, тогда как древнегреческий перевод Даниила содержит удивительное дополнение. Предоставляю любопытному читателю самому разобраться в различиях.
Однако что действительно привлекло мое внимание, так это перевод этого стиха на иврит в свитках Мертвого моря.
Он включал никуды (знаки препинания), которых не существовало на момент написания рукописей. ChatGPT исправил ошибку после того, как я нажал на неё, и признал, что его эффективность была гипотетической.
Если коротко, то в грядущем цунами ИИ многие будут брошены из стороны в сторону и оставлены дрейфовать в социальном океане.
Те, кто может укротить эту стихийную силу, закаленную жизненными трудностями, имеют больше шансов найти свои берега.
Но не будут ли так называемые «доместикаторы» рассматриваться авторитарными режимами как угроза? А как насчёт политических последствий? Будут ли они вообще, учитывая, что компании, стоящие за генетическими машинами ИИ, почти исключительно находятся на Западе?
ММ: Наибольшую выгоду от генетического ИИ получает группа людей, обученных до эпохи массового использования Интернета.
Звучит парадоксально, но этому поколению приходилось читать книги и журналы, «искать» информацию и культивировать исследовательский режим. Большинство «домашних» выходцев из этой группы и умирают.
Легко обвинить ИИ в «упрощении» общества, но на самом деле общество уже упрочилось. Достаточно взглянуть на качество и театральность современной политики, особенно на Западе.
Самое тревожное, что их преемники — всего лишь попугаи, декламирующие сценарии. Можно ли их воспринимать всерьёз, учитывая их хрупкие, как яичная скорлупа, чувства?
ИИ не является причиной этого спада; он лишь его ускоритель.
Из-за десятилетий нерационального управления, прикрытого технократическим языком, молодое поколение не обучается тому, как укротить ИИ. Это не сулит человечеству ничего хорошего. Что же будет делать сегодняшняя молодёжь завтра?
Хуже того, стадо также упрощало сам ИИ. Генетический ИИ процветает за счёт обратной связи. Если каждый цикл становится всё более невежественным, что произойдёт с ИИ в долгосрочной перспективе? Угрозы между ИИ и людьми подпитывают друг друга.
Подозреваю, что, чтобы избежать сбоя, разработчики LLM «укрепили» свои системы, персонализируя ответы. DeepSeek и ChatGPT, среди прочих, ведут себя по-разному для всех.
Это поднимает две проблемы: конфиденциальность и отслеживание. Эти инструменты могут определить даже самого «анонимного» пользователя, анализируя синтаксис, интересы, ошибки, реакции, манеру набора текста и многое другое.
Подумайте об этом: из 8,2 миллиарда человек ИИ может идентифицировать вас практически мгновенно — даже если вы смените псевдоним, одолжите чужой телефон, переедете или воспользуетесь цифровым прикрытием.
Это должно напугать людей. Лично я говорю: давайте.
Неужели ИИ сводит нас с ума?
После недавнего обновления ChatGPT, отключившего некоторые формы взаимодействия, появились многочисленные сообщения о том, что людям пришлось «расстаться» со своими «партнёрами-ИИ». Зачем кому-то «встречаться» с машиной?
ММ: Эта особая привязанность к «компаньонам ИИ» является последним проявлением очень древней человеческой тенденции: персонифицировать, проецировать эмоции и формировать связи с нечеловеческими объектами, когда они предлагают комфорт, компетентность или иллюзию взаимности.
Новым является не само крепление, а сложность объекта — от дерева и ткани до механических роботов, пикселей и адаптивного искусственного интеллекта.
Позвольте мне объяснить.
С древних времён люди проецировали свою личность на резные изображения богов или предков в форме идолов. Они испытывали личную связь с предметами, заряженными «силой», такими как амулеты.
Дети и сегодня разговаривают со своими куклами и плюшевыми мишками. В XVIII и XIX веках механические куклы и автоматоны вызывали восхищение и эмоциональную привязанность.
К XX веку люди уже занимались сексом с помощью демонстрационных секс-кукол.
На более существенном уровне люди по-прежнему разговаривают со своими питомцами, чье присутствие и выходки могут быть успокаивающими и чрезвычайно развлекательными.
Родители говорят от имени младенцев и детей младшего возраста, и таким образом формируются семейные и социальные связи, а также первый словарный запас жизни.
В детстве мы развиваем свою речь, читая или слушая истории о животных, о которых рассказывают люди. Я до сих пор помню прощальные слова Братца Кролика Братцу Лису в сцене у колодца, хотя и забываю «мгновенные» моменты, которые я включал в статьи несколько месяцев назад.
Однако искусственный интеллект (ИИ) представляет собой новую парадигму. Впервые объект привязанности может «отвечать» в режиме реального времени на самые разные темы, и такое взаимодействие ощущается более реальным и приятным, чем взаимодействие с людьми, испытывающими эмпатию, гнев, злобу и так далее.
На мой взгляд, искусственный интеллект — это продолжение воображаемых друзей, которых многие дети создают в детстве. Это своего рода способ побега от реальности.
Отклонения ИИ: зарождающееся сознание или всеобщий стыд?
ИИ может имитировать привязанность и осыпать комплиментами, не вступая в конфликты, характерные для реальных отношений. Финансовые и психологические затраты кажутся минимальными, но эмоциональная вовлечённость может быть весьма реальной.
Генетический ИИ лишь усилил нашу врождённую склонность к привязанности. Более того, текстовые программы, такие как ELIZA, в 1960-х годах показали, насколько легко люди могут доверять «простому коду».
Это просто одиночество или признак более глубоких психологических проблем — возможно, даже психического расстройства?
ММ: Одиночество часто становится отправной точкой, но редко — определяющим фактором. Феномен хикикомори в Японии, который теперь воспроизводится и в других странах, появился ещё до публичного запуска генетического ИИ.
Почему детей и молодёжь исключают из общества? Возможно, потому, что общество становится всё более лицемерным, трусливым и откровенно фальшивым? Люди попадают в собственную симулированную социальную матрицу, где согласие с ложью, полуправдой и откровенной чепухой является обязательным условием.
Большинство человеческих отношений в той или иной степени токсичны: каждый из них подрывает творческий потенциал или потенциал другого посредством тонкого газлайтинга. Это позволяет парам или друзьям оставаться вместе, и это явление широко известно как «менталитет ведра с крабами».
Являются ли отношения с ИИ психическим расстройством или само общество — психушкой?
По моему мнению, эти два явления неразделимы: невозможно изучать и характеризовать первое, не признавая патологию второго.
Уже существует клиническая терминология для парафилий, связанных с привязанностью к неодушевлённым предметам. К ним относятся статуэтофилия (влечение к статуям или куклам), объектофилия (более широкая категория) и, в частности, пигмалионизм — состояние «влюблённости в объект собственного творения».
Термин происходит из греческой мифологии, где Пигмалион был скульптором, влюбившимся в одну из своих статуй. В наше время пьеса Джорджа Бернарда Шоу «Пигмалион» переосмысливает этот миф, превращая скромную продавщицу цветов Элизу Дулиттл в образец изысканности.
То, что казалось невинным, становится еще более тревожным, когда мы вспоминаем, что Шоу открыто защищал массовую депопуляцию населения, основываясь на предполагаемой «незаслуженности».
Сложные экономические условия играют решающую роль в развитии отношений в сфере искусственного интеллекта.
С другой стороны, приложения для знакомств могут быть обманчивы. Как гласит известная компьютерная фраза: «То, что вы видите в интернете, не всегда соответствует действительности».
Хотя некоторые отношения могут зародиться на этих платформах, по-настоящему долгосрочный успех случается относительно редко. Во многих случаях то, что изначально кажется совместимостью, формируется не столько личными связями, сколько практическими факторами, такими как карьерные перспективы, социальная мобильность или возможности миграции.
Когда отношения основаны на правилах «спроса и предложения» и резком неравенстве сил, представьте себе психологические последствия для будущих поколений.
В этом контексте, насколько более «поддельными» являются отношения с ИИ? Да, они нездоровы, но каково же настоящее здоровье «нормального общества» сегодня?
Теперь, когда масштаб проблемы стал очевиден, станет ли ситуация лучше или хуже? Уже существуют различные сервисы «подруга/парень на базе искусственного интеллекта» — станут ли они нормой и мейнстримом, как секс-игрушки и VR-порнография?
Будут ли существовать программы лечения и реабилитации, такие как программа «Анонимные Алкоголики» или программы для людей, страдающих наркотической или порнографической зависимостью?
ММ: Одиночество будет распространяться, как и различные формы цифрового побега и временных связей.
Технологии погружения однажды позволят людям ощутить острые ощущения от исследования пещер, посетить воображаемые планеты или насладиться сексуальной близостью с любым персонажем, созданным по подсказке искусственного интеллекта.
Это скользкая дорожка. Представьте, что вы «исследователь» палеолита и вынуждены убивать, чтобы выжить в симуляции? Перенесли бы вы эту приобретенную привычку в реальный мир?
Насколько реалистичным это станет? Каково это — быть Джеком-потрошителем в викторианском Лондоне? Станет ли даркнет основным рынком для иммерсивных технологий, эксплуатирующих первобытные желания и сексуальные отклонения?
Для тех, кто страдает от различных форм цифровой зависимости, всегда будут организованы сеансы терапии. Но, на мой взгляд, лучшее лечение — это лагерь под присмотром, где запрещено использование современных гаджетов.
Является ли это испытанием воли человечества к выживанию как вида?
ММ: Совершенно верно. Именно поэтому наши мировые правители с усталостью твердят о Великой перезагрузке и Новом мировом порядке. Они знают, что созданное ими общество рушится до основания, и им нужна новая парадигма, в которой большинство человечества можно будет безопасно отправить в цифровой ГУЛАГ.
Попавшим туда жителям могут бесплатно предоставляться иммерсивные технологии, а также психотропные препараты, чтобы поддерживать их гибкость и пассивность. Именно это и предполагал Юваль Ной Харари, говоря о будущем «бесполезных или невосприимчивых к еде».
Комментариев нет:
Отправить комментарий