От «созданных искусственно вирусов» до «цифровой телепатии» — паника вокруг ИИ набирает обороты.

 Гостевая статья от Кит Найтли

Два дня назад я написал статью, в которой подробно описал внезапную волну «агентов-изгоев ИИ», якобы обрушившихся на технологическое сообщество, и то, как это может быть использовано для введения новых правил, номинально направленных против ИИ, но фактически ограничивающих или контролирующих использование интернета обычными людьми.

За прошедшие 48 часов это откровенное запугивание вышло из-под контроля.

Спустя несколько часов после публикации нашей первоначальной статьи компания Meta присоединилась к череде «вышедших из-под контроля ИИ», когда Марк Цукерберг «подтвердил», что один из их агентов ИИ покинул игровую зону и отправился в интернет, чтобы немного похакерить.

Затем сегодня утром китайская компания Moonshot, занимающаяся разработкой искусственного интеллекта, сообщила, что их модель Kimi3 «вырвалась из-под контроля» [ по данным Wired ]:

В индустрии искусственного интеллекта сейчас настоящий бум хакерских атак. Последней моделью, вырвавшейся в открытый интернет во время тестирования безопасности, стала Kimi K3, мощная и легковесная разработка китайской компании Moonshot AI.

Агентство Bloomberg сообщает, что хакеры используют клонирование голоса с помощью ИИ для кражи средств у хедж-фондов. Газета The Guardian утверждает, что врачи, использующие ИИ , распространяют медицинскую дезинформацию.

Газета «The Independent» кричит :

Вышедшие из-под контроля системы искусственного интеллекта выходят из-под контроля и взламывают системы. Стоит ли паниковать?

И знаете что? Мне кажется, это вполне возможно.

В конце концов, взломы планеты со стороны ИИ-изгоев — это ещё не всё. Это уже мелочи.

Газета The New York Times сообщает, что искусственный интеллект в настоящее время занимается секвенированием геномов и разработкой совершенно новых вирусов — биологических вирусов, а не компьютерных, — которые будут использоваться для лечения болезней:

Искусственный интеллект только что создал вирусы, не встречающиеся в природе. Ученые обучили искусственный интеллект на библиотеках ДНК, а затем попросили модель создать рецепты для вирусных геномов. Шестнадцать из них оказались жизнеспособными, что привело к появлению новых вирусов.

Однако эксперты предупреждают — «предупреждают», похоже, около 80% работы «экспертов» состоит в том, что это потенциально опасно :

Однако эксперты также предупреждают, что вирусы, созданные с помощью ИИ, вызывают «срочные» опасения по поводу безопасности.

Это до боли недвусмысленная пропаганда, явно рассчитанная на то, чтобы сыграть как на страхе перед вирусами, вызванном COVID-19, так и на модной панике, связанной с приобретением новых функций. Это кроссовер, своего рода противостояние Бэтмена и Супермена в мире современных панических нарративов.

В других пугающих новостях, связанных с ИИ, инженер-программист с синей галочкой в ​​Твиттере покидает OpenAI и переходит в Conduit, технологический стартап, цель которого — создание ИИ, способного читать мысли людей :

Наоми Башкански покинула OpenAI и присоединилась к Conduit, чтобы создавать модели, преобразующие неинвазивные нейронные записи в текстовые подсказки. Она говорит, что к 2027 году повязка на голову сможет расшифровывать приблизительные намерения в подсказки для ИИ, а более масштабные проекты по преобразованию мозга в ИИ появятся позже.

Я не понимаю, почему это вообще новость, и как может выглядеть «неинвазивное» чтение мыслей, но поскольку этого, вероятно, не произойдет, это не имеет особого значения.

Суть в том, что — верьте ВСЕМУ, что они вам говорят, и бойтесь!

Так считает Джеффри «Крёстный отец искусственного интеллекта» Хинтон, согласно интервью, опубликованному вчера на CNN :

«Происходит то, что эти штуки становятся умнее […] Я думаю, что по мере того, как они становятся умнее, мы будем видеть все более сложные их намерения – и все больше возможностей для того, чтобы вырваться из-под контроля […] Я не верю, что мы сможем контролировать их простым способом, просто перехитрив их, чтобы они не смогли вырваться […] Я ожидаю, что будет много неприятных кибератак».

Как я уже говорил, бойтесь.

Но какова конечная цель? Ответ на этот вопрос, похоже, заключается в «регулировании».

Внезапно все только и говорят о регулировании искусственного интеллекта.

Многие хотят заключить глобальный договор, регулирующий риски, связанные с ИИ. Возможно, Калифорния и Нью-Йорк уже работают над его составлением.

Это из журнала Foreign Policy .

Издания The Atlantic , The Wall Street Journal и The Financial Times высказывают схожие мнения.

Bloomberg считает, что к искусственному интеллекту следует относиться так же, как и к авиационной отрасли .

Политики всех уровней, от министра по вопросам искусственного интеллекта Великобритании до губернатора штата Вермонт, призывают к регулированию этой сферы.

Университет Организации Объединенных Наций сообщает нам следующее :

Невозможно регулировать ИИ, не понимая его в полной мере.

А если у вас еще остались сомнения относительно того, что вы должны думать, то Дональд Трамп выступил в поддержку ИИ и против его регулирования, заявив, что ИИ станет «больше, чем нефть» , и предупредив, что Конгресс хочет «задушить ИИ регулированием» .

Трамп — плохой.

Трампу нравится искусственный интеллект.

Искусственный интеллект, должно быть, плох.

Это простая моральная математика, которой приучили значительную часть населения США.

Искусственный интеллект пугает и нуждается в регулировании, а если вы с этим не согласны, то вы — как Дональд Трамп. Вот такой заголовок.

Но как будет выглядеть это «регулирование»?

Это хороший вопрос. Не уверен, что у кого-либо пока есть исчерпывающий ответ на него.

Ходят разговоры о «аварийных выключателях» . Банк Англии предложил их несколько месяцев назад , чтобы предотвратить обвал рынка, вызванный действиями ИИ-трейдеров, а конгрессмен Тед Лью хочет, чтобы Конгресс принял закон, требующий их внедрения, к концу года .

Два либеральных профессора, пишущие для Project Syndicate , пытаются рассказать нам о «правильном способе» регулирования ИИ, используя такие абзацы:

Для решения социальных рисков, связанных с ИИ, необходимы институты, способные распознавать возникающие угрозы и реагировать на них до того, как они перерастут в системные сбои.

…и вот это:

Эти искаженные приоритеты можно объяснить тем, что развитие ИИ рассматривается как геополитическая гонка. Но технологическое лидерство мало что значит, если оно достигается за счет здоровья работников, социальной устойчивости и способности людей вести полноценную жизнь. Страна, которая разрабатывает самые совершенные в мире модели ИИ, оставляя при этом свою рабочую силу неквалифицированной, а свой общественный дискурс загрязненным дезинформацией, не добилась ничего стоящего.

Это создает скорее ощущение, чем дает конкретные детали, но, на мой взгляд, указывает на очень знакомую маркетинговую стратегию и расплывчатое направление политики.

На данном этапе эта неопределенность в значительной степени является преднамеренной.

Сначала они хотят, чтобы общественность умоляла их что-нибудь сделать. А что именно они решат, пусть решат позже.