Демократы готовятся предоставить искусственному интеллекту (ИИ) право голоса, основываясь на представлении о том, что системы ИИ разумны и заслуживают тех же прав, что и люди.
В статье для Los Angeles Times эксперт по философии Эрик Швитцгебель и исследователь «нечеловеческого» интеллекта Генри Шевлин утверждали, что «становится все более вероятным, что системы ИИ могут проявлять что-то вроде сознания» — и когда это происходит, алгоритмы тоже , понадобятся права.Futurism.com сообщает: Ссылаясь на прошлогодние войны за сознание ИИ, которые мы подробно освещали и даже окунули в них свои пальцы, исследователи отметили, что «некоторые ведущие теоретики утверждают, что у нас уже есть основные технологические ингредиенты для сознательных машин».Швитцгебель и Шевлин утверждают, что если бы машины когда-нибудь обрели сознание, нам пришлось бы начать критически относиться к тому, как обращаются с ИИ — или, скорее, к тому, как они могут принуждать нас к действию.
«Сами системы искусственного интеллекта могут начать умолять или, кажется, умолять об этичном обращении», — предсказала пара. «Они могут требовать, чтобы их не отключали, не переформатировали и не удаляли; просить, чтобы ему разрешили выполнять определенные задачи, а не другие; настаивать на правах, свободе и новых полномочиях; возможно, даже ожидать, что с нами будут обращаться как с равными».
«Огромные» моральные риски, связанные с таким коллективным решением, несомненно, будут иметь большое значение, особенно если ИИ рано или поздно обретут сознание.
«Предположим, что мы реагируем консервативно, отказываясь менять закон или политику, пока не будет достигнуто широкое признание того, что системы ИИ действительно разумны», — написали Шевлин и Швитцгебель. «Хотя это может показаться достаточно осторожным, это также гарантирует, что мы будем медленно признавать права наших творений ИИ».
«Если сознание ИИ появится раньше, чем ожидают самые консервативные теоретики, то это, вероятно, приведет к моральному эквиваленту рабства и убийству потенциально миллионов или миллиардов разумных систем ИИ — страданий в масштабах, обычно связанных с войнами или голодом», — добавили они. .
«Более безопасной» альтернативой этому апокалиптическому сценарию было бы предоставление сознательным машинам прав заранее, но это тоже сопряжено со своими проблемами.
«Представьте, если бы мы не могли обновить или удалить алгоритм, извергающий ненависть или распространяющий ложь, потому что некоторые люди опасаются, что алгоритм является сознательным», — заявили эксперты. «Или представьте, если кто-то позволит человеку умереть, чтобы спасти «друга» ИИ. Если мы слишком быстро предоставим системам ИИ существенные права, человеческие жертвы могут быть огромными».
Пара написала, что единственный способ гарантировать, что ни один из этих результатов не произойдет, — это в первую очередь перестать давать ИИ совесть.
К счастью, у нас еще есть достаточно времени, чтобы это осуществить.
«Ни одна из наших нынешних систем ИИ не обладает осмысленным сознанием», — отмечают теоретики. «Они не пострадают, если мы их удалим. Мы должны продолжать создавать системы, которые, как мы знаем, не являются разумными и не заслуживают прав, которые мы затем можем рассматривать как одноразовую собственность, которой они и являются».
Однако, учитывая то, насколько некоторые люди в сообществе машинного обучения воодушевлены перспективой сознательного ИИ, алгоритмического разума и даже искусственного общего интеллекта (AGI), такая осторожность, вероятно, не разделяется многими.
Фактически, некоторые ученые уже активно работают в этом направлении.
«В конце концов, при правильном сочетании научного и инженерного опыта мы сможем пройти весь путь к созданию бесспорно сознательных систем ИИ», — заключили Шевлин и Швицгебель. «Но тогда мы должны быть готовы заплатить цену: дать им права, которых они заслуживают».
https://newspunch.com/democrats-set-the-stage-to-give-ai-voting-rights/
Комментариев нет:
Отправить комментарий