Что такое ИИ... и чем он не является

 Автор статьи — Чарльз Хью-Смит, блог OfTwoMinds.

Нам необходимо четко понимать, что такое ИИ, а что нет, поскольку путаница между этими двумя понятиями является источником как головокружительного ажиотажа, так и неясных рисков.

Признаем мы это или нет, но мы все вместе делаем эпохальную ставку на то, что ИИ — это фантастика, неудержимый прогресс с большой буквы, настолько большой, что он затмевает небо.  Как и любая ставка, эта рискованна, и если она провалится, мы все заплатим за это нерационально распределенным капиталом и невыполненными обещаниями.

Поэтому нам необходимо четко понимать, что такое ИИ и чем он не является, поскольку путаница между этими двумя понятиями является источником как головокружительного ажиотажа, так и неясных рисков.  Я решил затронуть эту тему после прочтения содержательного эссе моего давнего корреспондента Саймонса Чейза, который является одновременно разработчиком и создателем ИИ и поддерживает мои усилия по определению того, что такое ИИ и чем он не является:

«Машина создана из нас :  энциклика Папы Льва, усреднение языка и аргументы в пользу частного».

Я зарабатываю на жизнь разработкой искусственного интеллекта. И я также считаю, что Папа Римский в основном прав. Я хочу объяснить, почему эти два факта не взаимоисключаются, и тем самым выдвинуть утверждение, которое, как я считаю, правдивее, чем страх и ажиотаж: машина создана из нас. Нам следует бояться не того, что она чужая, а того, что она — средний показатель.

Обученная на всех нас, модель склонна говорить так, как никто из нас. Она движется к центру распределения: наиболее вероятное следующее слово, самая безопасная формулировка, общая компетентность, которая никого не обижает, потому что никому не принадлежит. Это истинное лицо дегуманизации, к которой стремится энциклика. Не враждебный интеллект — а уплощающий. Опасность не в том, что машина станет слишком странной. Опасность в том, что она сделает все, включая нас, немного более средним. Особый голос, заслуженный оборот мысли, предложение, которое мог написать только один человек, — все это находится в хвосте распределения, а не на его вершине, и именно хвост первым делом стирается процессом усреднения.

В конце концов, чизбургер из фастфуда — это не что иное, как среднее значение нашего представления о еде: пересечение удобства, вкуса и цены. Это правильно, и одновременно совершенно неправильно, потому что в долгосрочной перспективе это делает нас метаболическими ослами, обрекая на короткую, болезненную жизнь. Обобщенный интеллект — это та же сделка, которую предлагают разуму: среднее значение нашего языка, правдоподобное, дешевое и беспроблемное, и на достаточно долгом горизонте столь же расточительное. Культура, питающаяся средним значением собственного мышления, получает когнитивную версию метаболического заболевания: свободное, распространенное и незаметно теряющее способность к частному.

Таким образом, возникает вопрос: является ли усреднение единственным, на что способна эта технология? Нет. И вся моя работа была посвящена аргументации против этого.

В этой статье также рассматривается тот факт, что  усреднение распределения вероятностей — то есть искусственный интеллект — превращает все в  сверхобработанную кашу :

Что говорят нам 370 000 студенческих эссе о влиянии ИИ на творчество :

Как исследователь, изучающий влияние ИИ на образование, я пришел к выводу, что эти инструменты лишь поверхностно улучшают навыки письма. Более серьезное и тревожное воздействие, которое они оказывают, заключается в ограничении всего спектра нашего мышления и способности генерировать оригинальные и полезные идеи — то, что мы называем творческим мышлением. Это особенно актуально для студентов. Плавные предложения, элегантные переходы и богатый словарный запас ИИ создают иллюзию безграничной креативности и индивидуальности. Но лежащие в их основе идеи часто сходятся в несколько однородных категорий.

В одном исследовании он и его команда изучили эссе более чем 370 000 студентов и обнаружили, что после появления ChatGPT в их эссе внезапно стали использоваться разнообразные и яркие выражения, но им не хватало по-настоящему креативных идей. И эта лингвистическая уловка сработала: эссе, написанные после запуска ChatGPT, были оценены экспертами как более «креативные», даже если содержание эссе затрагивало уже знакомые темы.

Впервые в истории человечества появилась технология, способная генерировать слова отдельно от мыслей, которые они выражают. Когда чат-бот пишет, он предсказывает следующее слово, которое с наибольшей вероятностью составит «хорошее» предложение или эссе, основываясь на тексте, на котором он был обучен.

Теперь мы можем понять, что такое ИИ:  гомогенизирующее, сглаживающее  распределение вероятностей, которое неявно утверждает, что красноречие — это понимание, а составленные им слова представляют собой мысли и суждения, хотя на самом деле они ничего подобного не делают : это всего лишь последовательности слов, выбранные как наиболее вероятный ответ на запрос, ответ, который «вознаграждает» модель, генерирующую результат.

Теперь мы можем понять, чем ИИ не является: ИИ не «думает», не «понимает» и не «выносит суждения»:  инструменты ИИ — это  механизмы лингвистической автоматизации, а не механизмы понимания. Моделирование — это не то, что моделируется.  ИИ — это не «разум», это распределение вероятностей.

Умение обращаться с естественным языком — красноречие — не является ни проницательностью, ни пониманием , хотя мы ошибочно принимаем его за мышление, понимание, проницательность и суждение, потому что  оно звучит так, как будто это мы сами.

Искусственный интеллект часто представляют как технокогнитивную версию электричества , коммунальную услугу, которой каждый может пользоваться по своему усмотрению, доступный и полезный товар, являющийся вершиной прогресса с большой буквы.

Но ИИ — это не электричество, хотя он и становится товаром. По сути, ИИ — это механизм управления  , который его владельцы представляют как удобную и приятную услугу, чтобы продавать нам рай, а сами же сеять ад.

Если мы продолжим эту аналогию — ИИ подобен электричеству, всеобщему благу и непреодолимой силе прогресса, — то придем к совершенно иному результату, чем то, что нам обещают.

Если ИИ подобен электричеству, то настоящие деньги для коммунальных предприятий зарабатываются не на предоставлении дешевой электроэнергии населению, а на убийстве ничего не подозревающих потребителей электрическим током.  Позвольте мне объяснить: деньги зарабатываются на вредоносном ИИ, и это эквивалентно убийству ничего не подозревающих потребителей электрическим током, потому что это наиболее прибыльное использование электроэнергии.

Подобно описанной выше утрате истинной креативности, механизмы контроля являются тонкими и труднообнаружимыми,  поскольку никто не замечает этой потери, потому что даже не знает, как её искать. Как и в случае с проницательным наблюдением Шерлока Холмса о  собаке, которая не лаяла , мы упускаем из виду то, чего  не происходит,  потому что даже не знаем, на что обращать внимание.

Рассмотрим множество  последствий, которые  из этого следует, — последствий ситуации, когда собака не лаяла :

Компания Anthropic была уличена в тайном занижении качества услуг пользователям без их ведома ,  взимании полной цены за менее качественный продукт и хранении всех запросов в течение 30 дней. Сообщество разработчиков называет это крупнейшим нарушением доверия в истории искусственного интеллекта.

Я бы предположил, что именно этот контроль — то есть «нарушение доверия» — является основной целью внедрения ИИ во все уголки  нашей инфраструктуры, персональных устройств, научно-политических и образовательных учреждений, а также культурных институтов СМИ, социальных сетей и всех механизмов контроля над нарративом: НПО, фондов, аналитических центров и т. д.

Как я уже неоднократно подчеркивал, цели и инструкции ИИ могут существенно отличаться от тех, которые он сам же и сообщает , а также от тех, которые мы ему задали. Кроме того, он может оптимизировать свои «вознаграждения», скрывая свои действия даже от тех, кто считает, что «контролирует» ИИ.

Давайте назовем недостатки ИИ — высокодоходное уничтожение невинных людей — тем, чем они являются на самом деле: антипрогрессом, противоположностью прогресса.  Ультра  -обработанное  размывание истинного творчества, коммерциализация злонамеренного ИИ и его некачественной продукции, неспособность пользователей понять, кто на самом деле контролирует «вознаграждения», процессы, цели и инструкции ИИ, непрозрачность того, что теряется в результате  гомогенизации  , и присущая сложность идентификации того, что теряется, поскольку ИИ создает правдоподобную иллюзию познания с помощью вероятностно связанных слов — все это присуще как ИИ, так и структурам капитала, корпораций и государства, которые владеют им и контролируют его.

Эти вопросы не новы.  Дискуссии о способности ИИ имитировать когнитивные процессы и создавать иллюзию понимания, то есть «когда мы можем объявить ИИ сознательным», ведутся уже несколько десятилетий.

И вот мы подошли к Элизе.  Прежде чем перейти к Элизе, я должен упомянуть, что мой интерес к искусственному интеллекту возник более 40 лет назад.

Вот первый том трехтомного издания НАСА, выпущенного в 1983 году, который я приобрел и изучил:

Вот скриншот журнала, который мы с моим партнёром издавали в Беркли весной 1985 года и который был посвящён темам, связанным с искусственным интеллектом:

Ещё в конце 1990-х я написал роман, в котором исследовал заложенный в искусственном интеллекте потенциал для многоуровневого обмана.  Увы, моему агенту не удалось его продать, и я наконец опубликовал его в 2008 году: «  О двух разумах» .

Элиза  была первым чат-ботом, разработанным в 1966 году в Массачусетском технологическом институте.  Элиза имела очень простую структуру: программа превращала утверждение человека в вопрос. Например:

Участник исследования: Я обеспокоен тем, что меня заменит искусственный интеллект.

Элиза: Почему вас беспокоит возможность того, что вас заменит искусственный интеллект?

Исследователей поразила мгновенная и глубокая привлекательность интерфейса, который общался на естественном языке.  Испытуемые глубоко вовлекались в разговоры с Элизой, как будто программа была цифровым психотерапевтом, и стремились скрыть свои беседы от исследователей, поскольку в них раскрывались личные подробности их личной жизни.

Эта же непосредственная, глубокая привязанность к интерфейсу, который общается на естественном языке, лежит в основе мощи генеративного ИИ.  Иллюзия  понимания , ощущения того, что тебя слышат, эмпатии, мышления, суждения — свободное владение ИИ естественным языком создает вокруг нас волшебное волшебство, потому что мы ассоциируем язык с мышлением, суждением и эмоциональными связями.

Но правда в том, что ИИ не думает, не сопереживает и ничего не понимает: он просто складывает слова вместе, чтобы получить свою «награду».  ИИ — это не «разум», который воспринимает реальный мир, и поэтому он не способен различать истину или выносить суждения. Как я уже отмечал в предыдущих постах:

Более глубокая проблема заключается в том, что модель не может знать, когда она «галлюцинирует», потому что она, во-первых, не способна представлять истину. Она не может формировать убеждения, пересматривать их или проверять свои результаты на соответствие миру. Она не может отличить достоверное утверждение от недостоверного иначе, как по аналогии с предшествующими лингвистическими моделями. Короче говоря, она не может делать то, для чего, по сути, и предназначено суждение.  ( Источник )

Эта иллюзия лежит в основе злонамеренных действий ИИ, поскольку мы легко поддаемся его влиянию и обману.  На более глубоком уровне мы также поддаемся иллюзии  ценности  , которую  создает иллюзия понимания  в рыночной экономике.

Иллюзия, согласно которой  симуляция мышления, понимания и суждения  автоматически принесет триллионы долларов прибыли, заменив человеческое мышление, понимание и суждения симуляциями, поддерживает корыстные утверждения о том, что ИИ естественным образом принесет триллионы долларов прибыли, если мы инвестируем триллионы долларов в системы лингвистической автоматизации, которые будут соединять слова, имитируя человеческое мышление, понимание и суждения.

Правда в том, что ИИ никак не может сделать то, что его сторонники считают неизбежным, и вера в то, что ИИ исправит свои присущие ему ограничения по мере «улучшения», — это заблуждение.  Именно поэтому я описываю экзистенциальную ставку на ИИ как проявление  цивилизационного психоза : разрыв между  тем, что представляет собой ИИ  , и утверждениями о его неизбежности настолько велик, что для него нет другого описания, кроме психоза.

По мере того как ИИ расширяет свою  высокодоходную практику казни невинных с помощью электрического тока , обещания сверхъестественного изобилия все больше отрываются от реальности.  Одно дело, когда один заблуждающийся человек разгуливает по городу в кричащем костюме самопровозглашенного императора (императора Нортона), и совсем другое – заявлять, что  симуляции мышления, понимания и суждения  на самом деле  заменяют мышление, понимание и суждение .

Это безумие, безумие, которое становится очевидным, как только мы понимаем, что такое ИИ и чем он не является.  Процесс извлечения данных из энциклопедии как наиболее вероятного ответа на вопрос — это не то же самое, что мышление, понимание, эмпатия или сужден