Автор: Эндрю Фентон через CoinTelegraph.com,
SingularityNET и Альянс искусственного сверхинтеллекта стремятся отобрать контроль над AGI у крупных технологических компаний...
После года все более мрачных предупреждений о неизбежной гибели человечества от рук сверхразумного искусственного интеллекта (ИИ), журнал находится в Панаме на конференции Beneficial AGI, чтобы услышать другую сторону истории.
Среди участников — эклектичная смесь трансгуманистов, криптофолков, авторов научной фантастики, включая Дэвида Брина, футуристов и ученых.
Мы находимся на конференции, которую проводит SingularityNET, ключевой член предлагаемого нового Альянса искусственного суперинтеллекта, чтобы выяснить, что произойдет, если все пойдет правильно с созданием общего искусственного интеллекта (AGI) — общего искусственного интеллекта человеческого уровня.
Но как нам добиться такого будущего, а не сценария, в котором Скайнет выйдет из-под контроля и убьет нас всех?
Одно из лучших объяснений того, почему эти вопросы так важны, принадлежит футуристу Хосе Луису Кордейро, автору книги « Смерть смерти» , который считает, что человечество вылечит все болезни и старение благодаря ОИИ.
Он рассказывает журналу о мудрой мудрости, которую однажды поведал ему Артур Кларк, автор книги « Космическая одиссея 2001 года ».
Он сказал: «Мы должны позитивно смотреть в будущее, потому что образы будущего – того, что возможно – начинаются с нашего разума. Если мы думаем, что самоуничтожимся, скорее всего, так и будет. Но если мы думаем, что выживем, [что] перейдем в лучший мир, [тогда мы] будем работать над этим и добьемся этого». Так что это начинается в наших умах».
Джанет Адамс, генеральный директор SingularityNET, разогревает конференцию йогой. (Фентон)
Полезный AGI: поиск общего искусственного интеллекта
Люди запрограммированы больше концентрироваться на экзистенциальных угрозах от ОИИ, чем на выгодах.
С точки зрения эволюции, лучше, чтобы наш вид в девять раз больше беспокоился о том, что ветер, шуршащий в кустах, может быть тигром, чем беспечно не обращать внимания на шорох и быть съеденным тигром в 10-й раз.
Даже сторонники гибели не оценивают высокий процент вероятности того, что ОИИ убьет нас всех: опрос почти 3000 исследователей ИИ показал, что вероятность крайне плохого результата колеблется от 5% до 10% . Так что, хотя этот показатель тревожно высок, шансы по-прежнему в нашу пользу.
Открывая конференцию, основатель SingularityNET и «отец AGI» д-р Бен Герцель отдал дань уважения концепции защитного акселерационизма основателя Ethereum Виталика Бутерина. Это середина между эффективными технооптимистами акселерационизма с их идеалом «двигайся быстро и ломай вещи» и деселерационистами, которые хотят замедлить или остановить галопирующий темп развития ИИ.
Герцель считает, что замедление невозможно, но признает, что существует небольшая вероятность того, что с AGI что-то пойдет не так. Поэтому он выступает за развитие ОИИ, помня о потенциальных опасностях. Как и многие в области искусственного интеллекта и криптовалют , он считает, что решение заключается в открытии исходного кода технологии и децентрализации оборудования и управления.
Доктор Бен Герцель играет на клавишных в своей удивительно хорошей группе с роботами. (Фентон)
Что такое Альянс искусственного суперинтеллекта?
На этой неделе SingularityNET объявила, что объединилась с децентрализованной мультиагентной платформой FetchAI, основанной ветераном DeepMind Хумаюном Шейхом, и платформой обмена данными Ocean Protocol, чтобы сформировать Альянс искусственного суперинтеллекта (ASI).
Это будет крупнейший независимый игрок с открытым исходным кодом в области исследований и разработок в области искусственного интеллекта, который предложил объединить существующие токены SingularityNET, FetchAI и Ocean Protocol в новый под названием ASI. Его полностью разведенная рыночная капитализация составит около $7,5 млрд — при условии одобрения голосованием в течение следующих двух недель. Три платформы продолжат работать как отдельные организации под руководством Герцеля, а председателем будет Шейх.
По данным Альянса, цель состоит в том, чтобы «создать мощную и убедительную альтернативу контролю крупных технологических компаний над разработкой, использованием и монетизацией ИИ» путем создания масштабной децентрализованной инфраструктуры ИИ и ускорения инвестиций в AGI на основе блокчейна.
Каковы преимущества AGI?
Вероятно, наиболее очевидным положительным эффектом является способность AGI анализировать огромные массивы данных, чтобы помочь решить многие из наших самых сложных научных, экологических, социальных и медицинских проблем.
Мы уже стали свидетелями некоторых удивительных медицинских прорывов: исследователи Массачусетского технологического института использовали модели искусственного интеллекта для оценки десятков тысяч потенциальных химических соединений и открыли первый за 60 лет новый класс антибиотиков , которые эффективны против бактерий MRSA, которые до сих пор были устойчивы к лекарствам. Это своего рода расширение исследований, которого людям практически невозможно достичь.
И это все, прежде чем мы перейдем к бессмертию и загрузке разума, которые очень волнуют трансгуманистов, но которые отпугивают большинство людей.
Эта способность анализировать большие объемы данных также предполагает, что технология сможет давать ранние предупреждения о пандемиях, стихийных бедствиях и экологических проблемах. ИИ и AGI также могут освободить людей от тяжелой и повторяющейся работы, от программирования до служб поддержки клиентов.
Хотя это вызовет массовые потрясения среди рабочей силы, изобретение стиральных машин и онлайн-бизнеса Amazon оказали большое влияние на отдельные профессии. Есть надежда, что вместо этого будет создано множество новых рабочих мест.
Профессор экономики Робин Хэнсон говорит, что это произошло за последние два десятилетия, хотя на рубеже веков люди были очень обеспокоены тем, что автоматизация заменит рабочих.
Исследование Хэнсона данных о том, как автоматизация повлияла на заработную плату и занятость в различных отраслях в период с 1999 по 2019 год, показало, что, несмотря на большие изменения, большинство людей по-прежнему имели работу и получали почти такую же зарплату.
«В среднем автоматизация рабочих мест в США с 1999 по 2018 год не оказала чистого влияния на заработную плату или рабочие места», — говорит он.
Генеральный директор SingularityNET Джанет Адамс и Сергей Шаляпин, технический директор платформы. (Фентон)
AGI может принимать лучшие решения, чем мы : генеральный директор SingularityNET Джанет Адамс
Джанет Адамс, оптимистичный генеральный директор SingularityNET, объясняет, что у AGI есть потенциал быть «чрезвычайно позитивным для всего человечества».
«Я вижу будущее, в котором наши будущие ОИИ будут принимать решения, которые более этичны, чем решения, принимаемые людьми. И они могут это сделать, потому что у них нет эмоций, зависти, жадности или скрытых намерений», — говорит она.
Адамс отмечает, что 25 000 человек умирают каждый день от голода, в то время как люди в богатых странах выбрасывают горы еды. Эту проблему можно решить путем «разумного распределения ресурсов по всей планете», говорит она.
Но Адамс предупреждает, что AGI необходимо обучать на наборах данных, отражающих все население мира, а не только 1% самых богатых, чтобы, когда они принимают решения, «они не принимали их только ради выгоды немногих влиятельных людей, они их принимали». на благо более широкой цивилизации, более широкого человечества».
Безопасность и этика ИИ: решение проблем
Любой, кто видел, как ранние утопические мечты о децентрализованном Интернете рушились в наполненный корпоративной рекламой ландшафт захватывающего дизайна и вовлеченного фермерства, возможно, сомневается, что такое радужное будущее возможно.
Создание высококлассного искусственного интеллекта требует огромного количества вычислительных и других ресурсов, которые в настоящее время недоступны никому, кроме горстки обычных подозреваемых: Nvidia, Google, Meta и Microsoft. Таким образом, по умолчанию предполагается, что один из этих технологических гигантов в конечном итоге будет контролировать AGI.
Герцель, длинноволосый хиппи, играющий в удивительно хорошей группе, возглавляемой роботом, хочет оспорить это предположение.
Герцель отмечает, что раньше по умолчанию предполагалось, что такие компании, как IBM, выиграют компьютерную индустрию, а Yahoo выиграет поиск.
Потрепанная копия проекта «Прометей». (Источник: Интернет-архив)
«Причина, по которой эти вещи меняются, заключается в том, что люди в каждом конкретном случае боролись за это», — говорит он. «Вместо этого пришли Билл Гейтс, Стив Джобс и ребята из Google».
Основатель SingularityNET, он думал о сингулярности (теоретическом моменте, когда технологическое развитие растет в геометрической прогрессии) с начала 1970-х годов, когда он прочитал раннюю книгу на эту тему под названием « Проект Прометей» .
С тех пор он большую часть времени работал над AGI, популяризируя термин AGI и запустив в 2008 году фреймворк OpenCog AI.
Адамс говорит, что Герцель является ключевой причиной, по которой SingularityNET имеет надежные шансы.
«Мы — крупнейшая на планете некоммерческая научно-исследовательская группа в области ИИ, финансируемая за счет криптовалюты», — говорит Адамс, отмечая, что их конкуренты сосредоточились на «узких ИИ», таких как ChatGPT, и только сейчас меняют свою стратегию на AGI.
«Они отстают на годы», — говорит она. «У нас есть три десятилетия исследований с доктором Беном Герцелем в области нейронных символических методов».
Но она добавляет, что открытие платформы для всех разработчиков по всему миру и вознаграждение их за вклад даст ей преимущество даже перед мегакорпорациями, которые в настоящее время доминируют в этой сфере.
«Поскольку у нас есть мощное видение и сильная приверженность созданию самого передового, самого интеллектуального искусственного интеллекта демократическим путем, трудно представить, что крупные технологические компании или любой другой игрок может прийти и конкурировать, особенно когда вы сталкиваетесь с открытыми источник."
«[Мы] увидим потенциально огромный приток людей, развивающихся на рынке SingularityNET, и продолжающееся наращивание темпов в сторону AGI. Есть большая вероятность, что это будем мы».
Генеральный директор HyperCycle Туфи Салиба (Фентон)
Децентрализованный ИИ: открывая двери для разработки с открытым исходным кодом
Проект «Прометей» предполагал, что ИИ является настолько революционной разработкой, что каждый в мире должен получить демократическое голосование по его развитию.
Поэтому, когда появился блокчейн, казалось, что внедрение децентрализованной инфраструктуры и управления ИИ на основе токенов было следующей наиболее практичной альтернативой.
Генеральный директор HyperCycle Туфи Салиба рассказал журналу, что это смягчает угрозу того, что централизованная компания или авторитарная страна получит огромную власть от разработки в первую очередь AGI, что было бы «худшим, что когда-либо случалось с человечеством».
Это не единственное возможное решение проблемы. Главный специалист по искусственному интеллекту Meta Ян Ле Кун — большой сторонник моделей искусственного интеллекта с открытым исходным кодом и предоставления возможности расцвести тысячам цветов, а владелец X Илон Маск недавно открыл исходный код модели для Грока.
Но блокчейн, возможно, является большим шагом вперед. Целью SingularityNET является объединение технологии по всему миру с различными компонентами, контролируемыми разными сообществами, тем самым распределяя риск того, что какая-либо отдельная компания, группа или правительство будет контролировать AGI.
«Таким образом, вы можете использовать эти инфраструктуры для реализации децентрализованных глубоких нейронных сетей, вы можете использовать их для реализации огромного логического механизма, вы можете использовать их для реализации подхода к искусственной жизни, где у вас есть смоделированная экосистема и группа маленьких взаимодействующих искусственных животных. пытаясь развиться в сторону интеллекта», — объясняет Герцель.
Я хочу способствовать творческому вкладу отовсюду, и, возможно, какой-нибудь 12-летний гений из Таджикистана предложит новую инновацию в области искусственной жизни, которая обеспечит прорыв в области ОИИ».
Вполне возможно, что судьба мира окажется в руках этого человека. (Фентон)
Что такое Гиперцикл? Что такое OpenCog Hyperon?
HyperCycle — это блокчейн без реестра, который достаточно быстр, чтобы позволить компонентам искусственного интеллекта взаимодействовать, координировать свои действия и совершать транзакции до завершения менее чем за 300 миллисекунд. Идея состоит в том, чтобы дать ИИ возможность использовать ресурсы других ИИ, оплачиваемые посредством микротранзакций.
На данный момент молодая сеть используется для небольших приложений, таких как приложение ИИ, вызывающее другую службу ИИ для помощи в выполнении задачи. Но со временем, по мере масштабирования сети, теоретически возможно, что AGI может стать новым свойством различных компонентов ИИ, работающих вместе в своего рода распределенном мозге.
«Таким образом, при таком подходе у всего мира гораздо больше шансов достичь AGI как единого целого», — говорит Салиба.
Герцель не разрабатывал HyperCycle по этой причине — ему просто нужно было что-то намного быстрее, чем существующие блокчейны, чтобы позволить ИИ работать вместе.
Проект, который его больше всего волнует, — это OpenCog Hyperon, альфа-версия которого запускается в этом месяце. Он «объединяет глубокие нейронные сети, логические механизмы, эволюционное обучение и другие парадигмы искусственного интеллекта в одной программной среде для обновления одной и той же чрезвычайно децентрализованной диаграммы знаний».
Идея состоит в том, чтобы открыть двери всем, кто хочет над этим работать, в надежде, что они смогут улучшить язык программирования METTA AGI, чтобы его можно было масштабировать. «У нас будет полный набор инструментов для создания будущего AGI», — говорит он. «Чтобы получить то, что я бы назвал «детским AGI», нам понадобится ускорение интерпретатора METTA в миллион раз», — говорит он.
«Мое личное предположение состоит в том, что Opencog Hyperon может стать системой, способной совершить прорыв в [AGI]».
Управление ИИ: роль систем голосования
Конечно, децентрализация не гарантирует, что с AGI все будет хорошо. Как указывает Герцель, правительство Сомали в 1990-е годы было очень сильно децентрализовано под руководством группы полевых командиров и ополченцев, но в то время было бы предпочтительнее жить под централизованным правительством Финляндии.
Более того, управление на основе токенов еще далеко от того, чтобы подходить для прайм-тайма. В таких проектах, как Uniswap и Maker, крупные держатели, такие как a16z, и основная команда имеют так много токенов, что почти не стоит голосовать за них. Многие другие децентрализованные автономные организации раздираются политикой и внутренней борьбой.
Растущие цены на проекты криптовалют и искусственного интеллекта привлекли множество спекулянтов токенами. Действительно ли это те люди, которых мы хотим поставить под контроль AGI?
Герцель утверждает, что, хотя блокчейн-проекты в настоящее время в первую очередь привлекательны для людей, заинтересованных в зарабатывании денег, ситуация изменится по мере развития вариантов использования.
«Если мы внедрим самый умный в мире ИИ в децентрализованных сетях, вы привлечете к участию множество других людей, которые в первую очередь не ориентированы на финансовые спекуляции. И тогда это будет другая культура».
Но если Альянс искусственного сверхинтеллекта действительно достигнет AGI, не будут ли его токены смехотворно дорогими и недоступными для тех, кто в первую очередь заинтересован в полезном AGI?
Как ранее сказал журналу Герцель, наши шансы контролировать AGI после определенного момента невелики. (Фентон)
Гетцель предполагает, что, возможно, может потребоваться взвешенная система голосования, в которой приоритет отдается тем, кто внес свой вклад в проект:
«Я думаю, что для руководства AGI мы хотим развернуть довольно сложную, децентрализованную систему репутации и иметь что-то ближе к одному человеку, одному голосу, но где люди, имеющие некоторый опыт внесения вклада в сеть ИИ и создания какой-то смысл, получить более высокий вес».
Комментариев нет:
Отправить комментарий