Фрэнк Бергман | SLAY
Чат-бот с искусственным интеллектом «чуть не» спровоцировал Третью мировую войну, сгенерировав ложные разведывательные данные о компонентах ядерного оружия на борту китайского корабля, направлявшегося в Иран, что вызвало подготовку к неизбежной операции американских спецназовцев, которая, по словам одного из чиновников, «чуть не привела к войне» с Китаем.
Этот потенциально катастрофический инцидент развернулся прошлой весной во время кампании президента Дональда Трампа по предотвращению получения Ираном ядерного оружия и компонентов атомного оружия.
Аналитик из разведывательного сообщества США использовал данные, полученные с помощью чат-бота с искусственным интеллектом, для подготовки отчета, который был широко распространен по секретным каналам Пентагона.
Чат-бот выдал галлюцинацию, в которой утверждалось, что китайское судно перевозит компоненты ядерного оружия в Иран.
По имеющимся данным, в Вашингтоне был объявлен режим повышенной готовности.
Военное планирование ускорилось, и элитные американские силы уже находились в воздухе и готовились к высадке на борт китайского корабля.
Однако разведывательные данные были полностью сфабрикованы системой искусственного интеллекта, и никаких китайских кораблей, перевозивших ядерное оружие в Иран, не было.
Операция была приостановлена в самый последний момент.
Операция была прекращена только после того, как официальные лица подвергли разведывательный отчет дополнительной проверке.
«Операция была приостановлена только после того, как официальные лица внимательно изучили разведывательный отчет и обнаружили, что он был составлен с помощью чат-бота с искусственным интеллектом», — сообщило CNN .
Издание сообщило, что «чат-бот неверно определил, какой материал перевозило судно».
Эта ошибка привела к тому, что Соединенные Штаты стали готовиться к потенциальной конфронтации с обладающим ядерным оружием Китаем, основываясь на разведывательных данных, сгенерированных системой искусственного интеллекта.
По сообщению CNN, один неназванный чиновник назвал разведывательную оценку «совершенно ложной» и предупредил, что она «чуть не привела к войне».
Руководство Пентагона, включая Тихоокеанское командование специальных операций США, не ответило на вопросы издания по поводу инцидента.
Искусственный интеллект объединил секретную разведку с общедоступной информацией.
CNN сообщило, что аналитик попросил неопознанного чат-бота изучить разведывательные данные о судовом манифесте, полученные от Тихоокеанского командования специальных операций США на Гавайях.
Остается неясным, использовал ли аналитик коммерчески доступный чат-бот или внутреннюю систему правительства США.
«Внутренние инструменты — это в основном просто копии коммерческих программ, приукрашенные», — заявил CNN бывший высокопоставленный американский чиновник, знакомый с военными и разведывательными системами искусственного интеллекта.
Чат-бот объединил материалы из открытых источников с секретной радиоэлектронной разведкой, находящейся в распоряжении правительства, и ошибочно заключил, что судно перевозит компоненты, связанные с ядерным оружием.
Затем аналитик снова использовал искусственный интеллект, чтобы оформить полученные данные в виде обычного разведывательного отчета — документа, которому привыкли доверять военные чиновники.
Затем этот доклад, потенциально способный привести к гибели всего мира, был распространен по секретным каналам.
Искусственный интеллект внедряется в вооруженные силы США.
Эта ситуация, едва не приведшая к катастрофе, произошла на фоне стремительного внедрения искусственного интеллекта в операции, последствия которых становятся все более серьезными, со стороны Пентагона и разведывательных служб.
«В вооруженных силах США и разведывательном сообществе официальные лица стремятся внедрить искусственный интеллект практически во все аспекты своей работы, от анализа огромных объемов необработанной разведывательной информации, собираемой США, и выбора целей для ударов, до более обыденных приложений, таких как управление бюджетом, логистика и цепочки поставок», — сообщила CNN.
Таким образом, ИИ используется не только для обработки разведывательной информации, но и для выбора целей для военных ударов.
Инцидент с китайским судном выявил потенциально разрушительные последствия опоры на технологии, способные генерировать убедительные, но совершенно ложные выводы.
Чат-бот выдал галлюцинацию, в которой ему приснилась ядерная угроза.
Аналитик-человек превратил это в достоверный разведывательный отчет.
Его распространил Пентагон.
Элитные подразделения были приведены в движение.
Официальные лица обнаружили ошибку до того, как американские войска поднялись на борт китайского судна.
Однако, по словам одного чиновника, это было обнаружено лишь после того, как сфабрикованные разведывательные данные опасно приблизили Америку к войне.
Комментариев нет:
Отправить комментарий