Быстрое развитие искусственного интеллекта и автономных систем открыло новые горизонты, но также и вызовы, которые нельзя игнорировать. На недавнем мероприятии в Китае робот со встроенным искусственным интеллектом вызвал беспокойство, так как якобы атаковал людей до того, как его взяли под контроль безопасности.
Хотя в первых сообщениях инцидент объясняется ошибкой программного обеспечения, возникают серьезные вопросы о безопасности и надежности этих технологий.
Это событие дополняет другие инциденты, которые показывают, что искусственный интеллект, если его не контролировать должным образом, может привести к непредсказуемым и потенциально опасным ситуациям.
Является ли это единичным инцидентом или предупреждающим знаком опасности автономных систем? Ответ на этот вопрос касается не только экспертов в области технологий, но и общества в целом.
Широко распространенное видео показывает одно робот-гуманоид с искусственным интеллектом пройти сквозь толпу на фестивале в Китае.
Вдруг робот остановился, подошел к зрителям и попытался ударить людей.
Сотрудники службы безопасности быстро вмешались и вывели робота из этого района.
Предварительные оценки показывают, что беспорядочное поведение робота, вероятно, было вызвано ошибкой программного обеспечения, указывающей на сбой системы, а не на преднамеренную атаку.
Инцидент последовал за недавним эпизодом, в котором система искусственного интеллекта, управляющая дроном, нацелилась на его человека-оператора, поскольку якобы считала его препятствием для его миссии.
Комментариев нет:
Отправить комментарий