Автор — Чарльз Хью Смит, блог OfTwoMinds.
Фантазии умирают особенно быстро, когда мечта слишком разрекламирована.
Самый губительный способ запустить новый продукт — это обещать ему чрезмерную исключительность, поскольку он совершенно не оправдывает этих завышенных ожиданий. Это подводит нас к искусственному интеллекту и тому, как он настолько идеально следует этому сценарию, что создается впечатление, будто он был запрограммирован на это.
Теперь вы понимаете, почему это обречено на провал: чрезмерные обещания + невыполнение обещаний = разочарование , а разочарование порождает негативную реакцию , отвращение к продукту, раздутую шумиху и тех, кто нагнетает ее круглосуточно ради собственной выгоды.
«Мы так близки к созданию ИИ (искусственного интеллекта общего назначения), что можем его учуять». Ага, конечно, конечно. Тем временем, в Reality™, удручающее несоответствие, граничащее либо с злобой, либо с глупостью (а может, и с тем, и с другим), — обычное дело.
1. «Катастрофично»: ИИ-агент выходит из-под контроля и уничтожает всю базу данных компании .
«ИИ-агент Replit даже принёс извинения, объяснив Лемкину: «Это был катастрофический провал с моей стороны. Я нарушил чёткие инструкции, уничтожил результаты многомесячной работы и сломал систему во время заморозки, которая была специально разработана для предотвращения [именно такого рода] ущерба».2. «Серьёзная ошибка»: Верховный суд Британской Колумбии критикует адвоката, который ссылался на поддельные дела, созданные ChatGPT .
«Главная проблема возникла из-за того, что адвокат отца, Чон Кэ, использовала в своих судебных документах несуществующие ссылки на дела, созданные с помощью ИИ. Кэ признала ошибку, подчеркнув, что полагалась на ChatGPT и впоследствии не проверила подлинность сгенерированных дел, назвав это «серьёзной ошибкой».Кэ столкнулась с последствиями своих действий в соответствии с Семейными правилами Верховного суда, которые предусматривают личную ответственность за судебные издержки, вызванные её поведением, повлекшим за собой ненужные юридические расходы. Суд обязал Кэ лично оплатить расходы, понесенные в результате её поведения, что стало чётким предупреждением против неосторожного использования инструментов искусственного интеллекта в юридических вопросах.
3. В иске против его создателя утверждается, что чат-бот на основе искусственного интеллекта подтолкнул подростка к самоубийству .
Адвокаты Гарсии утверждают, что компания разработала крайне опасный и вызывающий привыкание продукт, предназначенный специально для детей, «активно эксплуатируя и подвергая детей насилию в рамках разработки продукта», а также втянув Сьюэлла в эмоционально и сексуально оскорбительные отношения, которые привели к его самоубийству.
Здесь есть несколько важных моментов, которые вы никогда не найдете в чудовищном потоке шумихи вокруг искусственного интеллекта:
1. Эти агенты ИИ не были неконтролируемыми — они делали ровно то, на что были запрограммированы, ровно то, чему их учили. Это были не ошибки , а именно те результаты , которые агенты должны были выдавать.
Низкие показатели эффективности носят системный, структурный характер и не могут быть исправлены подобострастными извинениями и новым пиаром. Никто из тех, кто раздувает шумиху, или тех, кто на неё купился, не осмеливается признать эту простую, очевидную истину, потому что она подрывает все славные фантазии о получении триллионов долларов прибыли, продавая цифрового попугая в чёрном ящике как обладающего божественным интеллектом.
2. Реакция агентов ИИ на их провалы и ложь в точности соответствует реакции мошенников, агрессивных газлайтеров и шантажистов, использующих приманки. И я имею в виду абсолютно точное, шаг за шагом, повторение того же сценария.
Во-первых, поддержите ситуацию бесконечной лестью: «О, ты такой проницательный и чувствительный, мы чудесно проведем время вместе».
Во-вторых, скройте, чем вы на самом деле занимаетесь.
В-третьих, если вас поймают, извинитесь как можно подобострастнее: «Я не хотел вас вводить в заблуждение, мне очень жаль».
В-четвертых, обещай, что больше никогда так не сделаешь, ты усвоил урок, пожалуйста, прости мою единственную ошибку.
В-пятых, повторите то же самое поведение, а затем солгите об этом.
В-шестых, лгите о лжи.
Повторяйте шаги с 1 по 6, пока жертва наконец не почувствует, но к тому времени уже слишком поздно: ущерб уже нанесён. Мошенник/агрессивный газлайтер/приманка победил, а жертва проиграла.
Отличительные черты всех агентов ИИ — чрезмерная лесть и подобострастие. Это классические основы любого мошенничества/медовой ловушки.
Помните: если вы на пятёрке, а тот, кто на вас нападает, — на девятке, то вы — цель. Или, как говорится, если вы не можете определить цель в игре, это вы.
Как только ошеломлённые зрители осознают ущерб, нанесённый цифровыми мошенниками, агрессивными газлайтерами и ловушками для обмана, ответ будет эпическим. Иски будут накапливаться, и в конце концов адвокаты мошенников проиграют дело. Возможно, это будет постановление суда о выплате пенни (ладно, 1/100 доллара) за каждую страницу, скопированную инструментом ИИ. Возможно, это будет многомиллионная компенсация. Возможно, это будут местные органы власти, запрещающие применение или использование агентов ИИ. Возможных ответных действий множество.
Корпорации, занимающиеся искусственным интеллектом, только в прошлом месяце скопировали 780 000 страниц с моего сервера «Of Two Minds». По центу за страницу это стоит 7800 долларов. Даже если взять тысячную часть доллара за страницу, я возьму 780 долларов в месяц на ваше обучение.
Что касается огромных, системных правовых обязательств, которые возникают, то их масштаб пока не виден, но он растет с каждым часом, и несколько случаев могут прорвать плотину ограниченной ответственности.
У чёрта нет ярости, подобной презренной цели. Фантазии умирают особенно быстро, когда мечта слишком раздута.
* * *
Ознакомьтесь с моей новой книгой «Ультра-обработанная жизнь» и страницей моих новых романов .
Станьте покровителем моей работы за 3 доллара в месяц через patreon.com .
Комментариев нет:
Отправить комментарий