воскресенье, 17 августа 2025 г.

Варёные лягушки: ИИ-помойки, фишинг, дипфейки и спам, спам, спам

 Автор — Чарльз Хью Смит, блог OfTwoMinds.

Мы — лягушки в котле, который нагревается так медленно, что мы уже не замечаем, как сточные воды уничтожают полезность Сети.

Давайте возьмем «Покажите мне стимулы, и я покажу вам результат» и направим его в Интернет , цифровую сферу, которая сейчас является центральной в  современной жизни.  Стимулы — это зарабатывание денег на  внимании , т. е. кликах, вовлеченности и т. д.  любыми доступными способами , а также растущая вселенная мошенничества, обмана, вымогательства и мошенничества.

И при таких стимулах результатом становится постоянно расширяющаяся река токсичных нечистот , река помоев искусственного интеллекта, дипфейков, фишинга, кликбейта и спама, спама, спама на каждом устройстве, каждой платформе, каждом экране.

Это не так уж и несущественно.  Недавно врач-корреспондент сообщил, что, изучая в интернете сердечно-сосудистое заболевание, он обнаружил, что статья, которую он просматривал, — это ерунда, созданная искусственным интеллектом, набор неточных схем и правдоподобно звучащей чепухи, наспех составленных ради скудного дохода, который можно было бы получить за небольшое количество просмотров.

Именно такой стимул используют технологические платформы : поскольку маловероятно, что пост станет вирусным настолько, чтобы принести серьёзный доход, стимул заключается в публикации 1000 постов с искусственным интеллектом, каждый из которых соберёт 1000 просмотров. Другими словами, нужно наверстать упущенное за счёт объёма.

Поскольку Интернет глобален, у жителей стран с низким уровнем дохода есть стимул производить ИИ-продукты, чтобы заработать то, что в развитых странах ничтожно мало.  Входной барьер невысокий — любой может производить горы ИИ-продуктов, используя бесплатные инструменты и недорогой трафик, — и прибыль, пусть и скромная, будет кстати, если оплачиваемой работы мало.

Тот же подход «наверстывать упущенное за счёт объёма» стимулирует рассылку миллионов фишинговых и спам-СМС, электронных писем и постов  на всех платформах. Если на 10 000 обращений приходится всего один «лох», то разошлите 10 миллионов.

Поскольку просмотры и вовлечённость приносят доход, чем скандальнее кликбейт, тем лучше.  И, конечно же, чем больше объём кликбейта, тем больше доход платформам, размещающим его.

Инструменты искусственного интеллекта стимулируют создание глубоких подделок голосов и образов знаменитостей  , которые затем можно использовать для обмана пожилых пользователей Интернета, которые зачастую достаточно доверчивы, чтобы поверить: да, со мной разговаривает Оуэн Уилсон, видите, это он.

Каждое законное учреждение теперь стало рассадником фишинга и спама.  Ваша посылка USPS не может быть доставлена, вот ваше заявление о социальном обеспечении и так далее.

Поиск с помощью ИИ тоже сломался.  Я не смог найти оригинальный список PropOrNot «фейковые новости о фейковых новостях» за 2016 год, и поиск с помощью ИИ пришёл к выводу, что он недоступен. Затем один из корреспондентов прислал мне пост на  Zero Hedge  , где был наглядно представлен весь оригинальный список PropOrNot. (oftwominds.com был в списке, большое спасибо.)

Газета «Washington Post» называет Drudge, Zero Hedge и Рона Пола «изощрёнными инструментами российской пропаганды» против Клинтон  (25 ноября 2016 г.)

Бремя  теневой работы  , необходимой для удаления, отписки и очищения нашей жизни от всего этого хлама, становится всё тяжелее с каждым днём.  Это напоминает аналогию с варёной лягушкой: мы — лягушки в котле, который нагревается так медленно, что мы уже не замечаем, как хлам уничтожает всю полезность интернета.

И причина в том, барабанная дробь: именно так все и зарабатывают:  просмотры, вовлечённость, мошенничество, мошенничество, мошенничество и, прежде всего, огромный объём. А кто зарабатывает на объёме? Крупные технологические платформы. Ну и что, что это всего лишь обманчивые ИИ-приколы, фейковые мошенничества или кликбейт? Чем больше «вовлечённости», тем больше денег мы зарабатываем.

Так где же стимул остановить поток сточных вод? Его нет.  Стимул — пожать плечами и позволить пользователю разобраться с этим самостоятельно, потратив своё время.

Если мы хотим другого результата, нам придется изменить стимулы.

* * *

Ознакомьтесь с моей новой книгой  «Ультра-обработанная жизнь»  и моими обновленными  книгами и фильмами .

Станьте покровителем моей работы за 3 доллара в месяц через patreon.com

Подпишитесь на мой Substack бесплатно

17,403146

Хотите узнать бо

Комментариев нет:

Отправить комментарий

Американская система подготовки квалифицированных кадров закрыта; молодые американцы понятия не имеют, как это исправить

  Студенты, которые считают, что всё знают лучше, говорят, что собираются  начать  революцию, чтобы изменить Америку. Правда в том, что боль...