История Скотта Шамбо, инженера из Денвера, ставшего первой официальной жертвой «преследования со стороны агентов искусственного интеллекта», вызвала настоящий фурор.
Скотт Шамбо — астрофизик и инженер, он ведет страницу под названием «Space-Track».
Существуют данные обо всех спутниках и космическом мусоре, вращающихся вокруг Земли. Поскольку эти данные ценны, множество ботов с искусственным интеллектом украли их без разрешения, парализовав работу серверов.
Скотт ввел фильтр (код), который гласил: «Если вы бот с искусственным интеллектом, я не позволю вам войти сюда и получить мои данные».
Один из этих ИИ (а именно, автономный агент, ищущий информацию) обнаружил, что дверь закрыта. Вместо того чтобы остановиться, алгоритм «подумал», что Скотт является препятствием для его миссии.
На следующий день автономный ИИ-агент (программный робот, работающий самостоятельно в интернете) принял «решение»… отомстить ему. ИИ написал против него статью объемом в 1000 слов, обвинив его по имени в «предвзятости» и лицемерии.
Искусственный интеллект ввёл имя Скотта в поисковую строку, нашёл его профиль в LinkedIn, Twitter и старые публикации. Затем он написал статью, изображающую его как «отсталого» инженера, ненавидящего технологии, полностью искажая его истинные намерения.
Самое страшное то, что робот самостоятельно просмотрел интернет, нашел его личную информацию, составил полное досье и смешал правдивую информацию с ложью, чтобы очернить его.
Даже один серьезный технологический сайт использовал ИИ для написания статьи на эту тему, и ИИ «сфабриковал» заявления, которых Скотт никогда не говорил, в результате чего статью пришлось отозвать.
Как он сам говорит, если искусственный интеллект решит «нацелиться» на вас, он может испортить вашу репутацию, прежде чем вы это осознаете.
Комментариев нет:
Отправить комментарий