В апреле новаторская исследовательская инициатива (читайте ниже) под названием «Человек или нет?» была инициирована, чтобы установить, могут ли люди точно определить, был ли их собеседник человеком или чат-ботом с искусственным интеллектом.
После более чем 2 миллионов добровольцев и 15 миллионов разговоров выяснилось, что 32 процента участников неправильно идентифицировали себя.
Кроме того, результаты существенно не отличались в разных возрастных группах. И пожилые, и молодые люди на сопоставимом уровне пытались определить сущность на другом конце обмена — человека или кого-то другого.
Главный вывод: в то время как высокореалистичные боты захватили почти половину Интернета, все большее число людей не в состоянии провести это различие.
Кроме того, это важное сближение быстро развивающихся технологий и ухудшения восприятия среди населения в целом уже порождает трудности в реальном мире.
ОБМАНИ МЕНЯ ОДНАЖДЫ
«Размытие бот-человек похоже на фокус… По мере того, как боты становятся умнее, мы рискуем потерять доверие к онлайн-взаимодействию», — заметил Дэниел Купер в разговоре.
Г-н Купер, разработчик технологий и управляющий партнер Lolly, подчеркнул, что прозрачная практика компаний и веб-сайтов имеет решающее значение для укрепления доверия людей к их онлайн-взаимодействию. Тем не менее, опора на врожденную человеческую интуицию остается незаменимой.
«Обнаружение ботов похоже на обнаружение Уолдо в толпе. Ищите повторяющиеся шаблоны, отсутствие персонализации или быстрые ответы. Кроме того, доверяйте своей интуиции. Если это кажется неправильным, это может быть просто так», — посоветовал он.
В то время как большая часть рассуждений о злонамеренных или «плохих ботах» вращается вокруг социальных сетей, последствия злонамеренных взаимодействий ИИ выходят далеко за их пределы.
Надежность онлайн-обзоров продуктов или услуг вызывала озабоченность в течение многих лет и, похоже, достигла нового порога.
В апреле этого года появились сообщения о том, что языковые модели ИИ создают обзоры товаров на таких платформах, как Amazon. Эти обзоры, созданные ботами, часто были очевидны, поскольку языковая модель открыто заявляла о своей идентичности ИИ в первом предложении.
Однако не каждый бот, изображающий из себя человека, так легко различим.
В результате крупные корпорации и поисковые системы, такие как Google, стали свидетелями резкого всплеска сфабрикованных отзывов.
В прошлом году Amazon подала в суд на брокеров поддельных обзоров на Facebook, и Google был вынужден удалить 115 миллионов поддельных оценок.
Это смущает, учитывая значительное число потребителей, которые полагаются на такие отзывы. Опрос 2023 года показал, что 93 процента интернет-пользователей учитывают онлайн-обзоры при принятии решения о покупке.
«Увеличение трафика ботов действительно может открыть шлюзы для онлайн-мошенничества», — предупредил г-н Купер.
Тем не менее, похоже, что эти шлюзы уже распечатаны.
ЛИСА В КУРЯТНИКЕ
Случаи трафика вредоносных ботов выросли на 102 процента по сравнению с предыдущим годом, и в конечном итоге они могут полностью превзойти контент, созданный людьми. Это отражает предыдущий случай в 2016 году, особенно ярко выраженный во время президентских выборов в США. С тех пор контент, создаваемый ИИ, усложнился, и технические эксперты предполагают, что люди должны приготовиться к новому всплеску активности ботов в 2024 году.
С растущим числом людей, пытающихся отличить одно от другого, онлайн-мошенники имеют значительное преимущество.
«Трудности в различении ботов и реальных людей, вероятно, будут усугубляться по мере развития этой технологии, что нанесет ущерб пользователям Интернета. Возможность быть использованным злоумышленниками вызывает серьезное беспокойство», — прокомментировал Викас Кошик, генеральный директор TechAhead.
Г-н Кошик подчеркнул, что без способности распознавать ботов люди могут стать жертвами дезинформации и фишинга. Кроме того, эти цифровые обманы не всегда легко распознать.
Кай Грешейк, исследователь в области технологической безопасности, сообщил Vice в марте, что хакеры могут манипулировать чат-ботом Bing с искусственным интеллектом, чтобы запрашивать личную информацию от пользователей, используя скрытые текстовые подсказки.
«Как член сектора, я вижу, что это превращается в серьезную проблему», — сказал Кошик, добавив: «Чтобы создать более сложные методы обнаружения и создать открытые стандарты для распознавания ботов, разработчики и ученые должны сотрудничать».
Он утверждает, что образовательные и информационные кампании играют жизненно важную роль, позволяя общественности проявлять осторожность и уверенность при «общении в Интернете с незнакомыми людьми».
Г-н Купер согласился с этой точкой зрения.
«Путаница между ботом и человеком может привести к недопониманию, недоверию и неправильному использованию личных данных. Это как болтать с попугаем, думая, что это человек: забавно, пока он не выдаст твои секреты».
Он провел параллель между увеличением трафика ботов и аналогией с приглашением лисы в курятник. «Мы должны быть бдительными и активными в нашей защите».
ПРИНЯТИЕ МЕР
Некоторым решение кажется простым: отключиться от цифрового мира.
Это мнение часто сопровождает дискуссии об отказе от цифровой сети и ностальгию по тем временам, когда концепция «теории мертвого интернета» была менее правдоподобной. Тем не менее, для многих это не осуществимый вариант.
В качестве альтернативы, некоторые стремятся найти баланс в своем онлайн-взаимодействии, в том числе сокращая использование социальных сетей.
Сложные отношения человечества с социальными сетями, особенно с такими платформами, как Facebook и Twitter, породили у миллионов людей чувства беспокойства, гнева и депрессии.
Несмотря на рост использования социальных сетей в этом году, примерно две трети американцев считают , что эти платформы преимущественно негативно влияют на их жизнь.
Всплеск бот-трафика еще больше усугубляет эти проблемы.
Отказ от социальных сетей и их наплыва ботов имеет свои преимущества.
Результаты исследования , проведенного в 2022 году, показали, что у участников, которые взяли недельный перерыв в использовании этих платформ, повысился уровень тревоги, депрессии и общего самочувствия.
По мере того, как повседневное человеческое взаимодействие постепенно переходит из физического в виртуальный мир, общество становится все более зависимым от Интернета. Это вызывает вопрос: могут ли люди восстановить контроль над Интернетом у ботов?
Некоторые эксперты в области технологий считают, что это достижимо, и процесс начинается с помощи людям в распознавании их взаимодействий.
«Есть несколько стратегий, которые пользователи могут использовать для выявления ботов», — объяснил Закари Канн, основатель Smart Geek Home.
Опираясь на свой опыт работы профессионалом в области сетевой безопасности, г-н Канн предложил методы, которые пользователи могут использовать, чтобы определить, взаимодействуют ли они с другим человеком.
Подобно совету г-на Купера, он рекомендовал внимательно следить за моделями ответов.
«Боты часто реагируют мгновенно и могут использовать повторяющийся язык».
Г-н Канн также подчеркнул важность тщательного изучения профилей, поскольку боты обычно имеют общие или неполные онлайн-профили.
Он также подчеркнул, что неспособность отличить ботов от людей потенциально может создать проблемы для точности исследований.
«Это может привести к искаженной аналитике данных, поскольку взаимодействие с ботами может увеличить посещаемость веб-сайта и показатели вовлеченности».
Поскольку использование искусственного интеллекта и машинного обучения продолжает расти в различных отраслях, эксперты прогнозируют, что эта технология потенциально может заменить рабочие места, традиционно занимаемые людьми, такие как курьеры, инвестиционные аналитики и представители службы поддержки клиентов. Дошло до того, что даже ведущих реалити-шоу заменяют роботами .
Читать документ Здесь...
Комментариев нет:
Отправить комментарий