Поскольку ИИ угрожает свести на нет все хорошее и полезное в онлайн-жизни, создавая беспрецедентный уровень геополитического хаоса, Конгрессу необходимо восстановить Управление технологической политики.
07 января 2025 г. Общие сны
Благодаря удаче или просто оказавшись в нужном месте в нужное время, я стал первым журналистом, сообщившим о появлении общедоступного Интернета.
В начале 1990-х я был главным редактором отраслевого журнала Telecommunications . Винтон Серф, которого широко считают «отцом Интернета», входил в наш редакционный консультативный совет. Однажды в воскресенье днем Винт связался со мной, чтобы сообщить, что федеральное правительство собирается сделать свою военную систему связи ARPANET доступной для широкой публики. Прочитав его электронное письмо, я более или менее пожал плечами. Я не придал этому большого значения, пока не начал выяснять, что это на самом деле будет означать. После недель исследований и дальнейших обсуждений я наконец осознал важность того, что мне рассказал Винт, с его более глубокими последствиями для политики, общества, культуры и торговли.
По мере того, как Интернет рос в размерах и охвате, у меня появились некоторые серьезные опасения. И был ряд других исследователей и писателей, которые, как и я, писали книги и статьи, предупреждая о том, как этот мощный и невероятный новый инструмент для человеческого общения может сойти с рельсов. Среди них были Свен Биркертс, Клиффорд Столл и другие. Моя собственная книга «Цифровые мифологии» была посвящена таким исследованиям.
По умолчанию и без надлежащей процедуры демократического участия или согласия эти услуги быстро становятся фактической необходимостью для участия в современной жизни.
Хотя мы все видели огромный потенциал, который этот новый прорыв в области коммуникаций имел для академических кругов, науки, культуры и многих других областей деятельности, многие из нас были обеспокоены его будущим направлением. Одной из проблем было то, как интернет может быть потенциально использован в качестве механизма социального контроля — вопрос, тесно связанный с возможностью того, что корпоративные структуры могут фактически «владеть» интернетом, не в силах устоять перед искушением формировать его для собственной выгоды.
Начало модели «бесплатных услуг» предвещало долгое медленное падение личной конфиденциальности — своего рода фаустовскую сделку, которая включала уступку личного контроля и автономии Большим Технологическим Компаниям в обмен на эти услуги. Со временем эта модель также открыла дверь для того, чтобы Большие Технологи делились информацией с АНБ и многими компаниями, добывающими и продающими наши очень личные данные. Искушение использовать бесплатные услуги стало липкой лентой, которая могла бы заманить ничего не подозревающих конечных пользователей в своего рода пожизненную зависимость. Но, как гласит старая поговорка: «Бесплатных обедов не бывает».
С тех пор интернет и связанные с ним технологии, такие как поисковые системы, текстовые сообщения и социальные сети, стали всепроникающими, проникая во все уголки нашей жизни. По умолчанию и без надлежащего процесса демократического участия или согласия эти услуги быстро становятся фактической необходимостью для участия в современной жизни. Смартфоны стали важнейшими инструментами, которые опосредуют эти удивительные возможности, и теперь часто являются важнейшими инструментами для навигации как по государственным услугам, так и по коммерческим транзакциям.
Помимо разглашения нашей личной конфиденциальности, проблемы с зависимостью от технологий теперь становятся слишком очевидными. Размещение наших финансовых активов и глубоко личной информации в Интернете создает значительный стресс и неуверенность в том, что нас могут взломать или обмануть. Затем технические проблемы требуют еще больше технических решений в своего рода бесконечном цикле. Умные мошенничества учащаются и становятся все более изощренными. Кроме того, учитывая глобальный сбой CrowdStrike , иногда кажется, что мы строим этот новый мир цифровой инфраструктуры, управляемой ИИ, на песчаном фундаменте. А затем есть роль Интернета в усугублении неравенства доходов и социального неравенства. К сожалению, эта технология по своей сути дискриминационная, оставляя пожилых людей и многих граждан со средним и низким доходом в пыли. Приведу небольшой пример: в некоторых более богатых городах Массачусетса вы не можете припарковать свою машину на общественных парковках без смартфона.
Уничтожит ли ИИ Интернет?
По иронии судьбы, крупные технологические компании, работающие над ИИ, похоже, не осознают, что эта технология может стать разрушительным шаром. Предположительно, она может свести на нет все хорошее и полезное, что было в Интернете, одновременно создавая беспрецедентный уровень геополитического хаоса и дестабилизации. Недавние тенденции в поисковых системах являются хорошим примером. Не так давно результаты поиска выдавали множество мнений и полезного контента по любой заданной теме. Затем пользователь мог решить для себя, что было правдой, а что нет, сделав обоснованное суждение.
С появлением ИИ это кардинально изменилось. Некоторые широко используемые поисковые системы подталкивают нас к определенным «истинам», как будто на каждый сложный вопрос есть простой ответ с несколькими вариантами ответов. Например, Google теперь предлагает сводку с помощью ИИ при выполнении поиска. Это становится заманчивым, потому что ручной поиск теперь выдает раздражающий грузовик результатов спонсируемой рекламы. Затем эти элементы нужно систематически прочесывать, делая процесс поиска сложным и неприятным.
Нам необходимо радикально пересмотреть роль Интернета и связанных с ним технологий в будущем и не перекладывать эту ответственность на корпорации, предоставляющие эти услуги.
Этот сдвиг в процессе поиска, по-видимому, был задуман, чтобы подтолкнуть пользователей к привычному использованию ИИ для поиска. Однако неявное предположение, что ИИ предоставит «правильный» ответ, сводит на нет весь смысл наличия пользовательского опыта поиска. Это также радикально меняет изначальное предложение Интернета, а именно стать свободным инструментом для исследования и личного расширения прав и возможностей, угрожая превратить Интернет в нечто большее, чем высокоуровневую интерактивную онлайн-энциклопедию.
Обычные граждане и пользователи интернета будут бессильны противостоять натиску ИИ. Четыре крупнейшие интернет- и софтверные компании Amazon, Meta, Microsoft и Google, по прогнозам, в этом году инвестируют более 200 миллиардов долларов в разработку ИИ. Затем есть вероятность, что ИИ может стать своего рода «агентом хаоса», который будет возиться с нашим пониманием того, что правда, а что нет, — изначально опасная ситуация для любого общества. Ханна Арендт, которая много писала об опасностях авторитарного мышления, дала нам следующее предупреждение: «Идеальный субъект тоталитарного правления — это не убежденный нацист или убежденный коммунист, а люди, для которых больше не существует различия между фактом и вымыслом (т. е. реальностью опыта) и различием между истиной и ложью (т. е. стандартами мышления)».
Подводя итог, нам необходимо радикально пересмотреть роль интернета и связанных с ним технологий в будущем и не перекладывать эту ответственность на корпорации, предоставляющие эти услуги. В противном случае мы рискуем оказаться в мире, который мы не узнаем — ландшафте бесчеловечного взаимодействия, еще более изолированных человеческих отношений и рабочих мест, которые были беззаботно переданы ИИ и робототехнике без какого-либо демократического или нормативного надзора.
В 1961 году тогдашний председатель FCC Ньютон Миноу выступил на собрании Национальной ассоциации вещателей. Он заметил, что телевидению предстоит проделать большую работу, чтобы лучше отстаивать общественные интересы, и назвал его «огромной пустошью». Хотя это описание вряд ли подходит для нынешнего состояния Интернета и социальных сетей, его будущий статус может напоминать «черный лес» хаоса, путаницы, дезинформации и неразберихи, а ИИ только усугубит, а не решит эту проблему.
Каковы же возможные решения? И что могут сделать наши законодатели, чтобы смягчить эти проблемы и взять под контроль неуправляемый грузовой поезд технологической зависимости? Одним из наиболее очевидных действий было бы возобновление финансирования Управления Конгресса по оценке технологий. Это агентство было создано в 1974 году для предоставления Конгрессу достаточно объективного анализа сложных технологических тенденций. Необъяснимым образом, в 1995 году, как раз когда Интернет набирал обороты, управление было лишено финансирования. Предоставление такого рода исследований высокого уровня для обучения и информирования членов Конгресса о ключевых технологических проблемах никогда не было более важным, чем сейчас.
Комментариев нет:
Отправить комментарий