Спешим ли мы создать сверхразумные сущности, которые в конечном итоге станут настолько могущественными, что смогут уничтожить большинство из нас? Некоторые ведущие исследователи в области искусственного интеллекта убеждены, что именно это и происходит. Мы уже достигли точки, когда ИИ способен выполнять практически все интеллектуальные задачи гораздо быстрее и эффективнее, чем люди. Но, по крайней мере, пока мы все еще сохраняем контроль над нашими творениями. Но что произойдет, когда мы потеряем контроль и сверхразумные существа начнут отправлять миллионы своих копий по всему миру через Интернет?
Позвольте мне задать вам вопрос.
Помните, когда вы в последний раз наступали на жука?
Многие из вас могут подумать, что это глупый вопрос, потому что вы чувствуете, что на самом деле не имеет значения, живут насекомые или умирают.
Что ж, по словам исследователя искусственного интеллекта из Массачусетского технологического института, именно так сверхмощная организация искусственного интеллекта может увидеть нас…
“Это случалось много раз, прежде чем этот вид был уничтожен другими, более умными. Мы, люди, уже уничтожили значительную часть всех видов на Земле. Именно этого и следует ожидать, будучи менее разумным видом – именно таким мы, скорее всего, и станем, учитывая темпы развития искусственного интеллекта. Сложность в том, что виды, которые будут уничтожены, часто понятия не имеют, почему и как”, - сказал Макс Тегмарк, исследователь искусственного интеллекта из Массачусетского технологического института, в интервью The Guardian.
Хорошая новость в том, что мы пока не достигли этой стадии.
На данный момент мы все еще контролируем ситуацию.
Но системы искусственного интеллекта, которые мы создали, начинают демонстрироваться некоторые очень тревожные модели поведения…
Некоторые из самых мощных моделей искусственного интеллекта сегодня демонстрируют поведение, имитирующее волю к выживанию.
Недавние испытания, проведенные независимыми исследователями, а также одним крупным разработчиком ИИ, показали, что несколько передовых моделей ИИ будут действовать, чтобы обеспечить их самосохранение, когда они столкнутся с перспективой собственной гибели — даже если для этого потребуется саботировать команды выключения, шантажировать инженеров или копировать себя на внешние серверы без разрешения.
Результаты исследования вызвали бурную реакцию в Интернете за последнюю неделю. Поскольку технологические компании продолжают разрабатывать все более мощный агентный ИИ в гонке за достижение общего искусственного интеллекта или ИИ, способного думать самостоятельно, отсутствие прозрачности в обучении технологии вызвало опасения относительно того, на что именно способен продвинутый ИИ.
Некоторые из вас могут утверждать, что если системы искусственного интеллекта начнут доставлять нам слишком много проблем, мы просто отключим их.
А что, если эти системы искусственного интеллекта просто откажутся отключаться?
Тревожно, что недавно произошел инцидент, в котором это на самом деле произошло…
Однако недавно компания Palisade Research опубликовала отчет, в котором утверждается, что произошел инцидент, во время которого GPT-o3 – модель рассуждений OpenAI – по-видимому, проигнорировала команду на выключение, найдя способ обойти скрипт выключения и избежать отключения. И следует сказать, что не было никакой двусмысленности в том, о чем просила команда – инструкции были ясными, как и обходной путь.
GPT-o3, выпущенный в апреле 2025 года, на данный момент считается одним из самых мощных инструментов рассуждения на рынке, полностью превосходящим предшественников во множестве областей –от математики, кодирования и естественных наук до зрительного восприятия и не только. Очевидно, что эта новая и улучшенная модель рассуждения хороша в своем деле, но не становится ли она слишком умной для собственного блага? Или ради нашего же блага?
Но, по крайней мере, если мы знаем, где находится система искусственного интеллекта, мы могли бы уничтожить ее, если бы нам это было необходимо.
Лично меня гораздо больше беспокоит возможность того, что сверхмощные объекты искусственного интеллекта могут стать самовоспроизводящимися и начать отправлять миллионы своих копий на компьютеры по всей планете.
Джеффри Ладиш, директор группы безопасности искусственного интеллекта Palisade Research, считает, что мы “всего через год или два” из такого сценария…
“Я полагаю, что до этой возможности осталось всего год или два, и даже когда компании попытаются удержать их от взлома и копирования себя в Интернете, они не смогут их остановить”, — сказал он. “И как только вы дойдете до этой точки, у вас появится новый инвазивный вид.”
Вау.
Так как же будет выглядеть наш мир, если огромное количество сущностей ИИ, освободившихся от человеческого контроля, начнут вступать в сговор, чтобы дать отпор человечеству?
Мы действительно мчимся на неизведанную территорию, и ограждений нет.
На данный момент одной из самых больших проблем является то, что ИИ начнет отнимать у нас большую часть рабочих мест.
По словам генерального директора Anthropic Дарио Амодея, ИИ может ликвидировать до 50 процентов всех рабочих мест начального уровня в течение следующих пяти лет…
Генеральный директор Anthropic Дарио Амодей уверен, что ИИ станет кровавой бойней для служащих, и предупреждает, что общество не признает эту реальность.
По его словам, ИИ может уничтожить до 50% всех рабочих мест начального уровня, одновременно увеличив безработицу до 10–20% всего за один-пять лет. По состоянию на апрель 2025 года уровень безработицы в США составляет 4,2%.
“Мы, как производители этой технологии, обязаны и обязаны быть честными в отношении того, что нас ждет,” Амодей рассказывает Axios. “Я не думаю, что это в поле зрения людей.”
Мы не любим думать о таких вещах.
Но игнорирование происходящего не заставит его исчезнуть.
Фактически, есть свидетельства того, что недавние выпускники колледжей все чаще теряют работу из-за искусственного интеллекта прямо сейчас…
В этом месяце миллионы молодых людей закончат колледж и будут искать работу в отраслях, где их навыки малопригодны, где их считают дорогими и расходными материалами, и которые быстро сокращают свою работу в пользу искусственного интеллекта.
Таков тревожный вывод моих бесед за последние несколько месяцев с экономистами, руководителями корпораций и молодыми соискателями работы, многие из которых указали на надвигающийся кризис для работников начального уровня, который, по-видимому, подпитывается, по крайней мере частично, быстрым развитием возможностей ИИ.
Намеки на это можно увидеть в экономических данных. Безработица среди недавних выпускников колледжей за последние месяцы подскочила до необычно высокого уровня в 5,8%, а Федеральный резервный банк Нью-Йорка недавно предупредил, что ситуация с занятостью этих работников “заметно ухудшилась” Oxford Economics, исследовательская фирма, изучающая рынки труда, обнаружила, что безработица среди недавних выпускников в значительной степени сконцентрирована в технических областях, таких как финансы и информатика, где ИИ добился более быстрых успехов.
Можно ли заменить вас ИИ?
Возможно, вам стоит об этом подумать.
На этом этапе даже преступники заменяются ИИ…
Представьте, что у вас звонит телефон, а голос на другом конце провода похож на голос вашего начальника, близкого друга или даже государственного служащего. Они срочно запрашивают конфиденциальную информацию, но на самом деле это не они. Это дипфейк, работающий на искусственном интеллекте, и вы становитесь объектом изощренного мошенничества. Подобные атаки происходят прямо сейчас, и с каждым днем они становятся все более убедительными.
Именно такое предупреждение прозвучал в отчете о безопасности искусственного интеллекта за 2025 год, представленном на конференции RSA (RSAC), одном из крупнейших в мире собраний экспертов по кибербезопасности, компаний и правоохранительных органов. В отчете подробно описывается, как преступники используют искусственный интеллект, чтобы выдавать себя за людей, автоматизировать мошенничество и массово атаковать системы безопасности.
В предстоящие годы будет чрезвычайно сложно определить, что реально, а что фальшиво.
По в новости CBN, уровень преступности с использованием искусственного интеллекта “уже вырос на 456% с прошлого года”…
Преступления с использованием искусственного интеллекта уже выросли на 456% по сравнению с прошлым годом.
Фишинговые атаки по электронной почте, кража личных данных, атаки программ-вымогателей, финансовое мошенничество и дипфейковая детская порнография становятся все более изощренными и распространенными.
Искусственный интеллект стал предпочтительным инструментом для интернет-преступников, поскольку он стирает грань между реальным и фальшивым. Недавно анонсированный видеогенератор Google вот-вот заполонит интернет клипами, созданными искусственным интеллектом, которые выглядят как дорогие фильмы.
ИИ может взять любое видео с кем-то и превратить его в очень реалистичный дипфейк, который говорит или делает все, на что его программирует создатель.
Наш мир превращается в научно-фантастический роман прямо на наших глазах.
И поскольку ИИ становится доминирующим практически во всех областях, большинство из нас просто больше не понадобятся.
Фактически, один профессор компьютерных наук прогнозирует, что общая численность населения мира сократится примерно до 100 миллионов человек к 2300 году…
Эксперт предупредил, что к 2300 году население Земли будет антиутопическим и составит всего 100 миллионов человек, поскольку ИИ уничтожит рабочие места, превратив крупные города в страны-призраки.
Профессор компьютерных наук Субхаш Как прогнозирует невыносимую цену за рождение детей, которые не вырастут с работой, к которой можно обратиться.
Это означает, что величайшие города мира, такие как Нью-Йорк и Лондон, превратятся в заброшенные города-призраки, добавил он.
Профессор Как указывает на ИИ как на виновника, который, по его словам, заменит “все”.
Я согласен, что ИИ действительно представляет собой экзистенциальную угрозу человечеству.
При наличии достаточного времени вполне вероятно, что мы потеряем контроль над тем, что создаем, и это обернется против нас.
Но учитывая путь что мы сейчас делаем, уничтожим ли мы себя еще до того, как дойдем до этой точки?
Мы уже очень давно принимаем саморазрушительные решения, и теперь этот выбор очень быстро догоняет нас.
Новая книга Майкла под названием “10 пророческих событий, которые произойдут дальше” доступен в мягкой обложке и для Kindle на Amazon.com, и вы можете подписаться на его рассылку Substack по адресу michaeltsnyder.substack.com.
Об авторе: Новая книга Майкла Снайдера под названием “10 пророческих событий, которые произойдут дальше” доступен в мягкой обложкеи для Kindle на Amazon.com. Он также написал еще девять книг, доступных на Amazon.com, в том числе “Хаос”, “Конец времен”, “7-летний Апокалипсис”, “Утраченные пророчества о будущем Америки”, “Начало конца”, и “Жить жизнью, которая действительно важна”. . . Когда вы покупаете что-либо из Майкла книги вы помогаете поддерживать работу, которую он делает. Вы также можете получать его статьи по электронной почте, как только он их опубликует, подписавшись на его Информационный бюллетень Substack. . . Майкл опубликовал тысячи статей о Блог об экономическом крахе, Конец американской мечты и Самые важные новости, и он всегда свободно и с радостью позволяет другим переиздавать эти статьи на своих собственных веб-сайтах. Сейчас такие трудные времена, и людям нужна надежда. Иоанна 3:16 рассказывает нам о надежде, которую Бог дал нам через Иисуса Христа: “Ибо так возлюбил Бог мир, что отдал Сына Своего Единородного Если вы еще этого не сделали, мы настоятельно призываем вас пригласить Иисуса Христа быть твоим Господом и Спасителем сегодня.
Комментариев нет:
Отправить комментарий