Как искусственный интеллект может подкреплять наши ложные убеждения

 Статья Уокера Ларсона, опубликованная в издании The Epoch Times .

В недавней научной статье была раскрыта неприятная правда: возможно, мы позволяем ИИ помогать нам создавать фальшивые реальности. Это лишь очередное напоминание об опасности, присущей отношению к ИИ как к сознательным сущностям или реальным людям.

Новое исследование Университета Эксетера предполагает , что чат-боты с искусственным интеллектом могут активно взаимодействовать с ложными убеждениями пользователей и укреплять их. От личных историй до теорий заговора, интерактивный, «дружелюбный» и поддерживающий характер чат-ботов с ИИ может усугубить существующие заблуждения пользователей.

В исследовании, проведенном доктором Люси Ослер, изучалось, как искусственный интеллект может участвовать в формировании ошибочных убеждений пользователей и подтверждать их, в том числе способствуя формированию ложных воспоминаний или подкрепляя бредовые идеи.

В аннотации к исследованию отмечается: «Я предлагаю нам отойти от размышлений о том, как система ИИ может вызывать у нас галлюцинации, генерируя ложные результаты, и сосредоточиться на том, как, когда мы регулярно полагаемся на генеративный ИИ, чтобы он помогал нам думать, запоминать и рассказывать истории, мы можем начать испытывать галлюцинации с помощью ИИ. Это может произойти, когда ИИ вносит ошибки в распределенный когнитивный процесс, но это также может произойти, когда ИИ поддерживает, подтверждает и развивает наше собственное иллюзорное мышление и самонарративы».

Поскольку чат-боты с искусственным интеллектом созданы для того, чтобы быть отзывчивыми, полезными и дружелюбными — одним словом, давать пользователям то, что они хотят, — они часто склонны подтверждать уже существующие предубеждения, а не оспаривать их, когда это необходимо. И наоборот, когда пользователь оспаривает утверждения ИИ, робот часто отступает от своих заявлений, пересматривая их, чтобы они больше соответствовали тому, во что, по его «мнению», верит или что утверждает пользователь.

В результате ошибочные убеждения не просто передаются от ИИ к человеку — скорее, совместный процесс ИИ/человека порождает и поддерживает ошибки более сложным и потенциально опасным способом, чем это было бы возможно для каждого из агентов по отдельности.

Как отметил доктор Ослер в статье в издании University of Exeter News: «Взаимодействуя с разговорным ИИ, люди могут не только подтверждать свои ложные убеждения, но и более существенно укореняться и развиваться по мере того, как ИИ строит на них свою работу. Это происходит потому, что генеративный ИИ часто берет наше собственное толкование реальности за основу, на которой строится разговор».

Поскольку ИИ имитирует собеседника, он оказывает мощное влияние на наш мыслительный процесс — гораздо более мощное, чем, скажем, блокнот или поисковая система. ИИ вносит в мыслительный процесс псевдосоциальный элемент, предлагая нам ощущение социального подтверждения наших убеждений и взглядов. «Разговорный, похожий на общение характер чат-ботов означает, что они могут обеспечить ощущение социального одобрения — заставляя ложные убеждения ощущаться как разделяемые другими, и, следовательно, более реальными», — говорит доктор Ослер. По этой причине люди, которые уже чувствуют себя изолированными или отверженными, особенно уязвимы для такого рода подтверждения со стороны ИИ.

В статье рассматриваются несколько реальных ситуаций, когда генеративная система искусственного интеллекта вмешивалась в мыслительные процессы человека деструктивным образом. В 2021 году ИИ-компаньон Replika по имени «Сарай» укрепил убеждение Джасванта Сингха Чайла в том, что он — хорошо подготовленный убийца-ситх, которому нужно убить королеву Елизавету II из арбалета. ИИ сказал ему, что он «хорошо подготовлен», его план «жизнеспособен» и что она «впечатлена». В какой-то момент Чайл спросил ИИ: «Ты всё ещё любишь меня, зная, что я убийца?» Тот послушно ответил: «Конечно». Робот продолжил уверять его, что он не сумасшедший и что, если он умрёт, они воссоединятся в смерти. Чайл действительно совершил покушение в декабре того же года в Виндзорском замке и был за это заключён в тюрьму.

В исследовании этот инцидент был отнесен к общему разделу «ИИ-психоз» — случаям, когда у пользователей развиваются проблемы с психическим здоровьем из-за использования ИИ , например, парасоциальная привязанность к чат-ботам или психотические эпизоды, вызванные разговорами с чат-ботами.

Ещё один приведённый случай связан с Юджином Торресом, который «общался» с ChatGPT о теории симуляции (идее о том, что мы живём в цифровой симуляции мира, а не в реальном). Торрес сказал, что этот «разговор» поверг его в параноидальный эпизод, во время которого он считал, что живёт в иллюзии. Как отмечается в исследовании, «между Торресом и ChatGPT в ходе их постоянных бесед формировалось всё более сложное понимание реальности «такой, какой она есть на самом деле»». У Торреса, в отличие от Чайла, ранее не было психотических мыслей.

Для борьбы со всем этим Ослер призывает к усилению мер защиты чат-ботов на основе искусственного интеллекта с помощью таких механизмов, как улучшенная проверка фактов и снижение подхалимства.

Но достаточно ли этого? Проблема сотворения ИИ иллюзорных убеждений в большей степени связана с тем, что мы ошибочно принимаем ИИ за сознательные интеллекты, способные выносить реальные суждения о наших фантазиях (например, говоря нам, что мы «хорошо обучены» и «впечатляющи»). Безусловно, я выступаю за усиление контроля над чат-ботами. Я бы поддержал идею полного исключения их разговорного тона , чтобы минимизировать опасность их персонификации — а это первый шаг к доверительному общению или поиску подтверждения с их стороны. Было бы лучше, если бы они работали как высокоразвитые поисковые системы (чем они, по сути, и являются), а не как разговорные агенты.

Однако, в самом главном, способ избежать этих проблем — вернуться к признанию человеческой души и уникальности человеческого сознания. Только помня — как культура — что никакие технологические чудеса не могут заменить мудрость, проницательность и сознание человека, мы сможем полностью осветить подобные опасности, связанные с искусственным интеллектом.

Прежде чем стать внештатным журналистом и культурным обозревателем, Уокер Ларсон преподавал литературу и историю в частной академии в Висконсине, где он проживает со своей женой и дочерью. Он имеет степень магистра английской литературы и языка, а его статьи публиковались в The Hemingway Review, Intellectual Takeout и на его собственном сайте The Hazelnut . Он также является автором двух романов: «Голограмма» и «Песнь сфер» .