С очень тревожным разоблачением сегодня агентство Reuters опубликовало письмо исследователей OpenAI, в котором они предупреждают о создании очень мощного искусственного интеллекта, который может поставить под угрозу существование человечества !
Исследователи OpenAI предупредили совет директоров о прорыве в области искусственного интеллекта накануне увольнения Сэма Альтмана.
Письмо и ранее не публиковавшийся алгоритм искусственного интеллекта являются ключевыми разработками до отстранения Сэма Альтмана от совета директоров, человека, сделавшего скачок вперед в общий искусственный интеллект, сообщили источники.
Накануне его триумфального возвращения поздно вечером во вторник (21.11) более 700 сотрудников пригрозили уволиться и присоединиться к партнеру Microsoft в знак солидарности со своим уволенным лидером.
Источники назвали это письмо одним из факторов в более широком списке жалоб совета директоров, которые привели к увольнению Альтмана, среди которых были опасения по поводу коммерциализации прогресса в индустрии искусственного интеллекта до того, как последствия станут известны.
Reuters не смогло ознакомиться с копией письма, а написавшие его сотрудники не ответили на запросы о комментариях.
Некоторые в OpenAI считают, что «Q*» может стать прорывом в поисках так называемого общего искусственного интеллекта (AGI), сообщил источник Reuters.
OpenAI определяет ИИИ как автономные системы, которые превосходят людей в большинстве экономически ценных задач.
По словам человека на условиях анонимности, учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи.
Хотя он выполнял математические задачи только на уровне учеников начальной школы, эти тесты вселили в исследователей большой оптимизм в отношении будущих успехов «Q*», сообщил источник.
Исследователи рассматривают математику как рубеж в развитии общего искусственного интеллекта. В настоящее время общий ИИ хорошо пишет и переводит язык, статистически предсказывая следующее слово, и ответы на один и тот же вопрос могут сильно различаться.
Но овладение математическими способностями (где есть только один правильный ответ) означает, что у ИИ будут более развитые мыслительные способности, напоминающие человеческий интеллект.
Это можно применить, например, к новым научным исследованиям, считают исследователи ИИ. В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, учиться и понимать.
В своем письме совету директоров исследователи подчеркнули возможности и потенциальную опасность искусственного интеллекта, сообщили источники, не уточнив, на какие именно проблемы безопасности они ссылаются.
Среди ученых-компьютерщиков уже давно ведутся споры об опасности, которую представляют высокоинтеллектуальные машины, например, могут ли они решить, что уничтожение человечества отвечает их интересам.
Проблема в том, что правительствав том числе греческое приняли решение передать почти все государственные функции искусственному интеллекту, а самим знать, какими будут последствия.
Возможно, все-таки упомянутый в Священном Писании «сын погибели» «Антихрист» будет не сущностью, основанной на… биохимии углерода, а искусственным интеллектом, которому будет предоставлена ужасающая власть над жизнями людей.
Комментариев нет:
Отправить комментарий