СМИ обмануты голосом, сгенерированным искусственным интеллектом, имитирующим Роджера Стоуна?

 Этот пост первоначально появился на сайте Frank Report , написанный Фрэнком Парлато, и был переиздан с разрешения.

Добро пожаловать в мир ИИ.

В прошлом месяце новостной сайт Mediaite опубликовал пару статей о том, что аудио, как сообщается, было голосом Роджера Стоуна, влиятельного советника Дональда Трампа и частой цели розетка.

Программное обеспечение для обнаружения искусственного интеллекта и несколько экспертов говорят, что 19-секундный звук — это клонирование голоса, созданное искусственным интеллектом, а не голос Стоуна.

Пока американцы пытаются защитить пенсионные счета с помощью физического золота и серебра, религиозная компания показывает им, как

Клонирование голоса — это технология искусственного интеллекта, которая создает синтетические копии человеческих голосов после анализа записей этого человека для имитации тона, высоты тона и других вокальных характеристик.

Репортер Mediaite Диана Фальзоне утверждает, что аудиозапись является законной. Она написала, что на аудиозаписи Стоун обсуждает убийство конгрессменов-демократов Джерри Надлера и Эрика Суолвелла в ресторане Флориды с другом и бывшим офицером полиции Нью-Йорка Салом Греко.

Фальцоне сообщила, что анонимный источник сообщил ей, что Стоун сделал замечания по аудиозаписи в Caffé Europa в Форт-Лодердейле, ресторане, который Стоун покровительствует.

В первоначальном рассказе Фальзоне об аудио она не публикует сам звук, а вместо этого предоставляет расшифровку того, что, по ее словам, говорится в аудио.

Согласно статье, на аудиозаписи Стоун говорит:

«Пришло время это сделать. Пойдем искать Суолвелла. Пришло время это сделать. Тогда мы посмотрим, насколько смелы остальные. Пришло время это сделать. Либо Суолвелл, либо Надлер должен умереть до выборов. Им нужно получить сообщение. Давай найдём Суолвелла и покончим с этим. Я просто больше не буду мириться с этим дерьмом».

Источник аудиозаписи Фальзоне не назван, но она цитирует его: «Стоун много лет воевала с Надлером и Суолвеллом. Он их просто ненавидит».

Фальцоне также датирует неопубликованную аудиозапись октябрем 2020 года — за несколько недель до последних президентских выборов.

Прежде чем опубликовать историю, Фальцоне запросила комментарий и предоставила Стоун письменную расшифровку предполагаемой записи, но отказалась поделиться копией аудиозаписи, рассказать Стоун, как она ее получила или кто ей ее дал.

Стоун ответил Mediaite: «Полная чушь. Я никогда не говорил ничего подобного; больше манипуляций с ИИ. Вы просили меня ответить на аудиозаписи, которые вы не разрешаете мне прослушивать и не указываете источник. Абсурд».

Стоун добавил, что, если Mediaite действительно опубликует аудиозапись, она должна быть сгенерирована искусственным интеллектом, поскольку он никогда не произносил приписываемых ему слов.

После того, как история была опубликована, об этой истории сообщили многочисленные ведущие СМИ, в том числе CNN , MSNBC , The Messenger , Salon , The Daily Beast и The Independent , все они были левыми и ярыми критиками Трампа и Стоуна. Большинство из них придерживались мнения, что аудио является подлинным и что у Стоуна могут возникнуть проблемы с законом – без подтверждения подлинности аудио.

После публикации материала Mediaite Стоун ответил на просьбу UK Daily Mail о комментариях: «Если такая аудиозапись есть, почему они ее не публикуют? Почему мне не присылают? Если такой звук существует, то он должен быть получен незаконным путем, а если такой звук существует, то это должно быть мошенничество, созданное искусственным интеллектом, поскольку я никогда не произносил ни одного из приписываемых мне слов».

Если бы звук был подлинным, Стоун мог бы быть прав. Флорида является штатом с двусторонним согласием, и незаконная запись человека без его согласия является уголовным преступлением третьей степени в соответствии со Статутом Флориды 934.03 и карается тюремным заключением на срок до пяти лет.

Несмотря на потенциально незаконный характер записи, 12 января 2012 года Mediaite опубликовала вторую историю, включающую 19-секундный аудиозапись.

Аудиозаписи, опубликованные Mediaite, показывают, что голос предполагаемого Стоуна говорит нечто иное, чем в оригинальной истории.

Фактическая расшифровка аудио:

«[Неразборчиво…] мы найдём Суолвелла и покончим с этим. Пришло время это сделать. Тогда мы посмотрим, насколько смелы остальные. Либо Свалвелл, либо Надлер должны умереть до выборов. Им нужно получить сообщение. Я просто больше не буду мириться с этим дерьмом».

Знакомясь со звуком, Фальзоне призналась в видео на YouTube, что звук был «слегка отредактирован».

Она не объяснила характер редактирования, кто его редактировал и почему его нужно было отредактировать незначительно или иным образом. Она также не объяснила, почему слова, которые, по ее словам, сказал Стоун, отличаются в ее первоначальной истории, опубликованной до того, как была выпущена аудиозапись, от реальной аудиозаписи, опубликованной четыре дня спустя.

В сообщении в своем X-канале Фальцоне изменила свою позицию относительно того, редактируется ли аудио или нет, написав, что аудио вообще не редактировалось. Позже Фальцоне удалил это сообщение.

Независимо от обстоятельств, связанных с аудиозаписью, двое предполагаемых жертв аудиозаписи предположительно трехлетней давности заявили, что считают ее подлинной.

В программе Anderson Cooper 360 CNN Суолвелл (Калифорния) сказал: «Я был ошеломлен тем, что он (Стоун) был настолько наглым по этому поводу».

Член палаты представителей Надлер (Нью-Йорк) написал: «Я встревожен угрозами Роджера Стоуна моей жизни».

Это правда или подделка?

Здравый смысл подсказывает, что подлинность аудио вызывает сомнения.

Во-первых, оратор говорит монотонно, что характерно для голосов, генерируемых ИИ, — об убийствах конгрессменов.

Вторая проблема заключается в том, что голос отчетливо слышен среди фоновых голосов поблизости, которые, возможно, были добавлены для придания аутентичности звука, как если бы действие происходило в переполненном ресторане.

Однако для того, чтобы голос был отчетливо слышен в шуме посетителей ресторана, занятых разговором, говорящему, скорее всего, придется говорить довольно громко, имея поблизости микрофон.

Кафе «Европа» сравнительно небольшое, а акустика такая, что при желании можно услышать, как люди разговаривают за другими столиками.

Внутри кафе Европа

Нас просят поверить, что Роджер Стоун, которого многие, если не большинство посетителей ресторана, знают в лицо, будет говорить об убийстве двух конгрессменов достаточно громким тоном, чтобы его мог услышать кто-нибудь поблизости.

Инструменты обнаружения

Существуют инструменты обнаружения искусственного интеллекта для анализа звука на наличие артефактов, таких как пропущенные частоты, остающиеся при программной генерации звука.

Программное обеспечение для обнаружения обучено с помощью машинного обучения, чтобы идентифицировать существующие алгоритмы дипфейков и формулировать свои выводы с вероятностью того, что звук создан искусственным интеллектом или человеком.

FR использовал программное обеспечение AI Voice Detector ( http://aivoicedetector.com ) для анализа звука Mediaite.

Программное обеспечение обнаружило вероятность 92,6 процента того, что звук генерирует ИИ.

Однако программное обеспечение пришло к выводу, что та часть аудио, где голос говорит: «должен умереть до выборов», с несколько большей вероятностью была сгенерирована ИИ.

AI Voice Detector выразил уверенность в своих выводах, закрепив свой пост в верхней части своей X-ленты, публично подтвердив, что компания пришла к выводу, что с вероятностью 92,6% запись была не Стоуна, а созданного ИИ голосового клона.

Компания также выразила благодарность автору аудиозаписи в своем X-посте.

«Они включили фоновую музыку и шум, чтобы обойти другие детекторы искусственного интеллекта. Однако наш http://aivoicedetector.com  обнаружил, что эта запись была сделана с использованием голоса искусственного интеллекта. Хорошая попытка!»

Музыкальный продюсер назвал это фейком

Подозреваемая аудиозапись привлекла внимание европейского музыкального продюсера Хитеша Цеона.

Сеон написал и продюсировал хитовые пластинки с участием таких артистов, как Си Ло Грин, Musiq Soulchild, Дейли, Александра Берк, Майкл Джексон, Мэдкон, Снуп Догг, Джилл Скотт, Тейлор Дейн, Рик Росс, Мэдкон и Джо.

Его работа по звукорежиссуре включает в себя редактирование аудиосигналов, в частности высоты голоса, времени и темпа.

В интервью Сеон говорит, что «звук искусственного интеллекта уже можно использовать весьма убедительными способами, как, например, эта фальшивая запись Роджера Стоуна».

Сион продемонстрировал, насколько легко создать «запись», сгенерированную искусственным интеллектом, выбрав клонированный голос Джо Байдена, добавив аналогичный фоновый шум и «такую ​​же, довольно скучную частотную характеристику и монофонический звук, как «запись» Роджера Стоуна. »

Сион опубликовал своего клона Байдена, сказав: «Давайте найдем Суолвелла и покончим с этим. И да, я украл выборы 2020 года».

Сеон сказал, что это «легко сделать, и это заняло у меня всего около пяти минут, демонстрируя, насколько легко можно создать подобную фальшивую «запись».

Сион рассказал Rare.US о своем анализе:

«Когда я услышал запись Роджера Стоуна, мне сразу показалось что-то неестественное в тональном потоке, особенно в той части, которая начинается сразу после фразы «насколько они храбры остальные» на записи. Фоновый шум и отфильтрованный/низкокачественный звук записи очень полезны для маскировки любых очевидных недостатков голоса, генерируемого ИИ».

Стоун использует инструмент обнаружения искусственного интеллекта

Стоун не отступает от того, что этот звук — фейк. Он проанализировал аудио Mediaite с помощью программного обеспечения DeepFakeDetector.ai и опубликовал скриншоты на X.

Программное обеспечение DeepFake определило с вероятностью 95,80 процента, что звук был сгенерирован искусственным интеллектом.

Ответственность СМИ

Будем надеяться, что этот эпизод поможет средствам массовой информации понять, с какой легкостью люди с определенной программой могут нацеливаться на средства массовой информации с известными политическими взглядами, чтобы невольно участвовать в обмане своей аудитории.

Некоторые полагают, что средствам массовой информации следует использовать инструменты искусственного интеллекта для обнаружения спорных аудиозаписей. По данным CBS, ее материнская компания инвестирует в разработку новых инструментов, чтобы идти в ногу с развивающейся индустрией искусственного интеллекта.

Еще один инструмент обнаружения

К инструментам обнаружения можно также добавить здравый смысл.

Иногда это легко оценить.

В январе робот-звонок с участием президента Байдена был нацелен на избирателей-демократов в Нью-Гэмпшире, призывая их не голосовать.

Или покойный комик Джордж Карлин, исполняющий новую комедийную программу: «Я рад, что я мертв».

Тейлор Свифт рассказывает людям, что раздает кулинарию .

Роджер Стоун рассказывает о покушении в переполненном ресторане голосом, достаточно громким, чтобы его мог услышать каждый.

Здравый смысл имеет большое значение.