Автор статьи — Чарльз Хью Смит, блог OfTwoMinds.
Эти огромные скрытые издержки не отразятся на ВВП до тех пор, пока не рухнет вся система спекулятивных азартных игр, поддерживающая мировую экономику.
Я подхожу ко всем темам, связанным с ИИ, с учетом нескольких моментов. Во-первых, это природа проблем , которая неявно определяет, что можно считать решениями , и, как следствие, стимул определять «проблему» таким образом, чтобы «решение» оказалось тем, которое мы имеем в своем распоряжении и под контролем.
Таким образом, «проблема», которую решает ИИ, заключается в том, что «корпоративная прибыль слишком низка», и поэтому «решение» состоит в замене дорогостоящего человеческого труда (который становится еще дороже из-за медицинского страхования и налогов на оплату труда) на «более дешевый» ИИ (более дешевый, потому что все затраты скрыты или субсидируются).
Другой аспект, на который я обращаю внимание: экономические, социальные и культурные последствия ИИ в его нынешнем виде и ажиотажа вокруг ИИ , — тема, которую я недавно исследовал в статьях «Искусственный интеллект обращает вспять антипрогресс или ускоряет его?» , «Центры обработки данных с использованием ИИ — это не железные дороги сегодняшнего дня» и «Неравенство, ИИ и цифровая жизнь подрывают общество» .
Недавно корреспондент Майк Фасано представил краткое и показательное изложение непреодолимого структурного недостатка ИИ : неспособности ИИ различать правду и ложь, будь то преднамеренное введение в заблуждение/дезинформация или ошибки, вызванные галлюцинациями ИИ, — системный недостаток, который он охарактеризовал как массовое воспроизведение дезинформации .
* * *
«Я прочитал ваш пост об искусственном интеллекте и железных дорогах. Вот еще одно наблюдение.»
На данный момент ИИ обладает лишь способностью к воспроизведению информации. В лучшем случае он может собирать и обрабатывать запросы, основанные на больших массивах полученных данных.
Но что, если эти данные неверны?
Кто теперь верит статистике инфляции или безработицы? Практически каждый человек знает, что эта статистика ложна.
Знает ли об этом искусственный интеллект?
И проблема гораздо глубже.
Бывший редактор журнала New England Journal of Medicine Марсия Энджелл отметила:
«Просто больше невозможно верить большей части публикуемых клинических исследований или полагаться на суждения авторитетных врачей или медицинские рекомендации. Я не испытываю удовольствия от этого вывода, к которому я пришел медленно и неохотно за два десятилетия работы редактором «Нью-Инглендского журнала медицины».
В таком случае, можем ли мы полагаться на медицинские рекомендации, основанные на искусственном интеллекте?
И эта проблема выходит за рамки медицины. Сейчас общепризнано, что неспособность воспроизвести научные исследования любого типа привела к «кризису воспроизводимости» в науке. Можем ли мы доверять «науке», точность которой нельзя доказать?
Любой взрослый человек старше 40 лет знает, что приведенный выше список сомнительных источников информации — это лишь верхушка айсберга. Мы живем в море «официальных», но ложных данных.
Железные дороги могли перевозить зерно в города, полезные ископаемые на заводы, промышленные товары тем, кто в них нуждался. Это служило общественным целям.
Но какой смысл в массовом распространении дезинформации? И кто-нибудь вычитает из ВВП убытки, понесенные в результате использования неточной информации?
* * *
Спасибо, Майк, за разъяснение важного момента: основой всей «ценности» являются факты, истина, точность, а также прозрачность, воспроизводимость и подотчетность процессов, подтверждающих эти факты, истину и точность. Если ИИ по своей природе не способен подтвердить все это, он хуже, чем бесполезен — он разрушителен в масштабах всей системы.
Доказательства системного разрушения уже неопровержимы. Поддельные «научные статьи» распространяются с ускоряющейся скоростью, что делает задачу выявления неверных и сфабрикованных (то есть, созданных искусственным интеллектом) данных, процессов и выводов невыполнимой из-за масштабов дезинформации и сложности выявления дезинформации, скрытой в внешне легитимных статьях.
Теперь научные и экономические данные и анализы стали ненадежными без чрезвычайно дорогостоящей и трудоемкой проверки экспертами. Что же тогда делать с ажиотажем вокруг «искусственного интеллекта, который автоматически создаст избыток ресурсов»? Уже ясно — хотя и неудобно — что массовое внедрение изначально несовершенного ИИ подрывает основы «ценности», как бы мы ее ни определяли.
Как также отмечает Майк, это подрыв ценности имеет финансовые последствия. Всем известно, что валовой внутренний продукт (ВВП) — это поверхностный, искажающий показатель «процветания», а структурные искажения ВВП (« Расточительство — это рост ») усиливаются скрытым разрушением прозрачности, воспроизводимости и подотчетности из-за ошибок ИИ, будь то преднамеренных (злонамеренных, обманных, мошеннических) или как неизбежное следствие основного недостатка ИИ.
Эти огромные скрытые издержки не проявятся в ВВП до тех пор, пока не рухнет весь дом спекулятивных азартных игр, поддерживающих мировую экономику. Только тогда станет виден структурный ущерб, наносимый нашей растущей зависимостью от инструментов, не способных отличить факт от фантазии/вымысла/галлюцинации.
И к тому времени, конечно же, ущерб станет необратимым без чрезвычайных затрат и жертв , на которые мало кто захочет пойти добровольно.
Помните, что ИИ не «думает», не «понимает» и не «выносит суждения»: инструменты ИИ — это двигатели лингвистической автоматизации, а не двигатели понимания. Моделирование — это не то, что моделируется. ИИ — это не «разум», это подсказка и распределение вероятностей.
Комментариев нет:
Отправить комментарий