Автор статьи — Отем Спредеманн, опубликовано в The Epoch Times (выделено нами).
Непрекращающийся поток контента, генерируемого искусственным интеллектом, меняет интернет и способы взаимодействия людей с информацией быстрее, чем когда-либо.
От новостных сводок и сообщений в социальных сетях до академических исследований — огромный объем материалов, созданных с помощью машинного обучения, коррелирует с резким ростом «когнитивной разгрузки» — явления, при котором люди передают критическое мышление и проверку автоматизированным системам.
Анализ влияния инструментов ИИ на когнитивную разгрузку, проведенный в 2025 году, показал «значительную отрицательную корреляцию» между частым использованием инструментов ИИ и способностью к критическому мышлению у людей разных возрастных групп и уровней образования. Исследователи из Швейцарской школы бизнеса SBS обнаружили, что у молодых возрастных групп наблюдалась более высокая степень зависимости от моделей ИИ и более низкие показатели критического мышления.
Ещё более тревожным является исследование Pangram/YouGov, проведённое в мае, которое показало, что только 55 процентов участников, все из которых были представителями поколения Z в возрасте от 18 до 28 лет, смогли распознать поддельный или вводящий в заблуждение контент, сгенерированный искусственным интеллектом. Этот показатель ниже в более старших возрастных группах, что означает, что половина или меньше взрослых старше 28 лет были уверены в своей способности распознавать контент, созданный искусственным интеллектом, в интернете.
« Сообщения и комментарии, созданные с помощью ИИ, могут искажать общественное восприятие, особенно когда их количество ошибочно принимают за достоверность », — заявил Хави Перес, редактор сайтов, посвященных просвещению потребителей с использованием ИИ, изданию The Epoch Times.
«Если пользователь видит десятки похожих сообщений о продукте, тренде, политическом утверждении, проблеме здравоохранения или финансовой теме, он может предположить, что существует широкое согласие».
«Уверенная однородность»
Перес заявил, что потребителям следует быть осторожными, поскольку контент, созданный с помощью ИИ, увеличивает объем того, что он назвал «уверенным однообразием» в интернете.
«Сейчас во многих статьях и публикациях повторяются схожие структуры, советы и формулировки. Для обычных читателей это может создать впечатление, что по той или иной теме существует больше согласия или уверенности, чем на самом деле, потому что они постоянно видят одни и те же идеи, повторяющиеся во многих источниках», — сказал Перес.
«Риск заключается в том, что люди перестанут знать, какой контент был проверен. В таких областях, как финансы, здравоохранение, юриспруденция, образование или новости, читателям необходимо знать, были ли утверждения проверены по первоисточникам, обновлены ли они недавно и отредактированы ли ответственным лицом».
Консультант по стратегии в области ИИ Арманд Куччиниелло III заявил изданию The Epoch Times, что контент, созданный с помощью ИИ, меняет не только то, как мы потребляем информацию, но и то, насколько быстро мы ее обрабатываем и насколько ей доверяем.
«Мы переходим от целенаправленного чтения к быстрому беглому просмотру тщательно подготовленных обзоров, комментариев, коротких видеороликов и контента, созданного с помощью искусственного интеллекта для обеспечения скорости и вовлеченности», — сказал он.
Как человек, работавший в сфере национальной безопасности США, Куччиниелло заявил, что одна из его главных опасений заключается в том, что системы искусственного интеллекта «могут непреднамеренно усиливать большие объемы неточной или преднамеренно искаженной информации просто за счет повторения и масштабирования».
Он также считает, что большой объем контента, созданного с помощью ИИ, оказывает реальное давление на общественное доверие.
« Когда читатели сталкиваются с практически идентичными формулировками или интерпретациями в нескольких источниках, естественно возникает вопрос, была ли информация получена независимо или просто переупакована », — сказал он.
Карл Страуд, эксперт по связям с общественностью и главный специалист по созданию контента в агентстве Smoking Gun Agency, также стал свидетелем негативного влияния контента, созданного с помощью ИИ, на общественность.
«Основная потребность аудитории не изменилась: люди хотят доверять тому, что читают, — сказал Страуд изданию The Epoch Times. — Изменилось лишь то, насколько сложнее стало выносить такое суждение».
« Контент, созданный с помощью ИИ, его агрегация и низкокачественная чепуха сделали информационную среду более шумной, однообразной и запутанной, поэтому теперь аудитории приходится разбираться, читают ли они оригинальные репортажи, переработанный контент или что-то, что вообще не следовало публиковать ».
Помимо социальных сетей и академической среды, немногие отрасли пострадали от дезинформации, генерируемой искусственным интеллектом, так сильно, как новостная сфера. Страуд, который провел два десятилетия в британских медиа-кругах, занимаясь редактированием и журналистикой, сказал, что он наблюдает, как поток контента, создаваемого ИИ, вызывает усталость у читателей, ищущих достоверную информацию.
«Усталость опасна, потому что, когда люди чувствуют себя перегруженными, они либо отстраняются, либо становятся более уязвимыми для обмана», — сказал он.
Потеря связи
Ашутош Кхулбе, основатель RawPickAI, зарабатывает на жизнь тестированием инструментов искусственного интеллекта, каждую неделю тестируя от трех до четырех новых.
«В моем уголке интернета я чаще всего замечаю, что все звучит одинаково. Прямо пугающе одинаково», — сказал он изданию The Epoch Times. «Я думаю, что от 70 до 80 процентов статей о „лучших инструментах ИИ“ на данный момент созданы с помощью ИИ».
«Это создает странный замкнутый круг, когда ИИ пишет обзоры на основе того, что уже написали другие ИИ, читатели предполагают наличие консенсуса, а реальный опыт использования этих инструментов оказывается погребен под ними».
Он рассказал, что протестировал один инструмент для письма, который имел сотни положительных отзывов в интернете, но оказался непригодным для использования в бесплатном режиме. «Вы даже абзац не могли закончить, прежде чем достигали лимита. Но попробуйте найти эту информацию в поиске Google», — сказал он.
Хулбе особенно обеспокоен тем, как искажение информации влияет на общественность.
«Контент, созданный с помощью ИИ, неизменно имеет позитивный оттенок, потому что он обучен на маркетинговых страницах и отзывах партнеров. Никто не обучает модели на основе принципа: „Я пробовал это две недели, и это было ужасно“. Поэтому негативный сигнал просто исчезает из интернета», — сказал он.
Последствия бума контента, созданного с помощью ИИ, теперь можно наблюдать в том, что некоторые называют «психозом ИИ», или отрывом от реальности. Хотя это и не клинический диагноз, этот термин стал популярным обобщающим выражением для описания ситуаций, когда ИИ подкрепляет необычное, устойчивое или даже бредовое восприятие чего-либо в реальном мире.
Люди с психическими расстройствами могут быть предрасположены к развитию «психоза, вызванного ИИ», но это явление не ограничивается только этой группой населения, считает доктор Раги Гиргис, профессор клинической психиатрии Колумбийского университета и Нью-Йоркского государственного психиатрического института.
«Феномен психоза, вызванного искусственным интеллектом, количественно новый и может быть очень опасным, но качественно он очень похож на то, что происходит уже несколько десятилетий с момента появления интернета», — сказал Гиргис в интервью Национальной академии медицины в марте.
Комментариев нет:
Отправить комментарий