Искусственный интеллект Meta хотел бы, чтобы вы продолжали публиковать сообщения даже после вашей смерти.

 С тех пор как социальные сети стали неотъемлемой частью повседневной жизни, остается неудобный вопрос: что должно произойти с аккаунтом человека после его смерти? Оставить его застывшим во времени? Передать членам семьи в качестве памятного знака? Или тихо позволить ему раствориться в алгоритмах?

Несколько лет назад компания Meta Platforms исследовала гораздо более амбициозную возможность, как сообщает Futurism . В 2023 году компания получила патент, описывающий, как большая языковая модель может быть обучена на основе прошлых публикаций пользователя для имитации его голоса и поведения — поддерживая активность аккаунта, даже если человек «отсутствует», в том числе в случае смерти. В заявке, поданной техническим директором Эндрю Босвортом, описывалось, как такая система может генерировать публикации, комментарии, лайки и даже личные сообщения в стиле пользователя.

Идея была поразительной и для многих — тревожной. Компания Meta с тех пор заявила, что не планирует использовать этот пример. Но патент дает представление о моменте, когда технологические компании активно проверяли пределы возможностей генеративного ИИ, включая продление цифрового присутствия человека за пределы его жизни.

В статье Futurism говорится, что эта концепция не является чисто теоретической. Небольшой, но растущий сектор «технологий для переживания горя» продвигает инструменты искусственного интеллекта, которые воссоздают голоса или личности умерших, используя фотографии, записи и письменные сообщения. Сторонники утверждают, что такие инструменты могут принести утешение. Критики опасаются, что они могут осложнить процесс скорби.

Даже в публичных комментариях самой компании Meta наблюдалась неоднозначность. Генеральный директор Марк Цукерберг говорил об ИИ-компаньонах как о способе борьбы с одиночеством, а в интервью 2023 года подкастеру Лексу Фридману предположил, что взаимодействие с цифровыми изображениями близких людей может помочь некоторым людям справиться с утратой. Он также признал психологические риски и необходимость более глубокого изучения.

Коммерческую логику подобных экспериментов трудно игнорировать. Платформы вроде Facebook полны неактивных аккаунтов — профилей, которые существуют, но редко обновляются. Больше активности, генерируемой ИИ, может означать больше вовлеченности и больше данных. Как заметила профессор права Бирмингемского университета Эдина Харбинья, коммерческая выгода очевидна, даже если этичный путь вперед неясен.

Другие призывают к осторожности. Социолог из Университета Вирджинии Джозеф Дэвис утверждает, что часть процесса переживания горя заключается в том, чтобы столкнуться с реальностью утраты, а не затуманивать её с помощью симуляций.

Компания Meta дистанцировалась от наиболее провокационного сценария, описанного в патенте. Тем не менее, сам факт его существования подчеркивает, насколько далеко компании готовы зайти в развитии генеративного ИИ — и насколько сложными становятся вопросы, когда технологии пересекаются со смертью, памятью и идентичностью.