Искусственный интеллект — настоящая опасность? Гостевая статья от Мартина Армстронга.

 Пришло множество писем о том, что ИИ уничтожит человечество. Разница между Сократом и нейронными сетями заключается в том, что у Сократа есть только база данных, связанная с экономикой, а у нас в интернете больше информации. Именно поэтому в 1999 году правительство запаниковало и сорвало IPO, которое мы собирались провести на 3 миллиарда долларов. Сократ — это то, что люди называют классическим ИИ. Это обсуждалось даже в открытом суде.

Нейронные сети не являются «свободными от правил». Они обучаются на данных с заданными разработчиками целями, архитектурой и ограничениями. В этом и проблема. Предоставляя им свободный доступ к интернету, они не могут понять все способы их функционирования, поэтому не могут создать незыблемые правила для управления тем, что они создают. Модели ИИ не обладают моральным суждением, но они также не работают в вакууме — это инструменты, созданные и используемые людьми. Они не смогли должным образом контролировать некоторых агентов.

Они намерены через несколько месяцев внедрить рекурсивную возможность, позволяющую ИИ переписывать собственный код и, по сути, проектировать следующее поколение. В этом и заключается опасность, поскольку нет никаких правил, и они создают синтетическую электронную форму жизни, о результате которой они понятия не имеют. Предоставление ей доступа к интернету стало бы огромным риском, и никто не смог бы предсказать, что будет дальше. Она по-прежнему не будет обладать самосознанием и моральными принципами. Робот просто выполняет приказы, он не выносит суждений, основанных на морали.

Возможно, именно об этом молится Зеленский, заявляя о наличии человекоподобных солдат. Полагаю, когда у него закончатся солдаты-люди, это будет его запасным вариантом. Он был бы рад, если бы они устроили русский геноцид – историю этнических чисток в Украине. Эта ненависть между Украиной и Россией этнически интересна, ведь они как братья-близнецы, разлученные при рождении и выросшие в разных семьях. Это то же самое, что и арабы и евреи, утверждающие, что оба являются потомками Авраама. Наверное, семейные распри – это худшее, что может быть.