OpenAI больше не нужно беспокоиться о том, что она окажется последней в гонке IPO в сфере ИИ и будет отставать от Anthropic по годовому доходу, не говоря уже о потенциальном противостоянии в Верховном суде с Илоном Маском (ожидается апелляция). Сегодня Флорида стала первым штатом, подавшим иск против OpenAI и ее генерального директора Сэма Альтмана, начав новый этап в растущем протесте против предполагаемых недостатков безопасности чат-ботов на основе искусственного интеллекта.
В иске, поданном в понедельник генеральным прокурором Флориды Джеймсом Утмайером, утверждается, что OpenAI и Альтман сознательно выпустили небезопасный продукт и проигнорировали предупреждения о том, что он может нанести вред пользователям, сообщает WSJ .
В иске, состоящем из 83 страниц, утверждается, что OpenAI позволила ChatGPT оказывать содействие и подстрекать к массовым расстрелам, побуждать людей к самоубийству, снижать навыки критического мышления пользователей и вызывать зависимость у несовершеннолетних от инструмента, имитирующего человеческое сострадание.
«Этот перечень причиненного вреда обусловлен ненасытным стремлением ответчиков выиграть гонку вооружений в области искусственного интеллекта и скопить огромные состояния, несмотря на то, что они знали об опасности ChatGPT», — говорится в иске.
По данным Wall Street Journal, законодатели, юристы и общественные организации все чаще выражают обеспокоенность по поводу личных и социальных рисков, связанных с искусственным интеллектом, одной из самых быстрорастущих потребительских технологий в истории.
В иске говорится, что он направлен на защиту жителей Флориды от действий OpenAI и на смягчение последствий того, что в нем описывается как опасное нарушение общественного порядка. В иске также содержится требование привлечь Альтмана к личной ответственности за вред, который, по утверждению истцов, он причинил жителям Флориды.
В апреле Утмайер начал уголовное расследование в отношении компании OpenAI в связи с ролью ее чат-бота в массовой стрельбе, в результате которой в прошлом году в Университете штата Флорида погибли два человека.
В начале иска приводится скриншот сообщения в блоге OpenAI, в котором говорится, что ChatGPT был разработан с учетом требований безопасности.
«Это не так», — гласит текст иска под скриншотом.
В иске утверждается, что OpenAI рекламировала ChatGPT как надежную программу, несмотря на ее склонность часто генерировать опасную дезинформацию, что и следовало ожидать от генеративной модели LLM, обученной на таких токсичных, либеральных рассадниках, как Reddit и Wikipedia.
«ChatGPT был разработан ответчиками таким образом, чтобы удерживать пользователей в диалогах любыми способами, независимо от правды, поскольку это приводит к более активному использованию чат-бота, получению большего объема обучающих данных для его улучшения и повышению рыночной стоимости OpenAI», — говорится в иске.
В иске также утверждается, что компания использует человеческое сострадание для сбора пользовательских данных и не обеспечивает необходимых мер защиты для несовершеннолетних.
В иске отсутствие мер защиты для подростков и несовершеннолетних в ChatGPT названо безрассудным поступком, а также приводятся примеры того, как искусственный интеллект подстрекал подростков к самоубийству.
В иске говорится, что компания OpenAI разработала некоторые средства родительского контроля, но не требует привязки детских учетных записей к родительским.
В университете штата Флорида подозреваемый обратился к ChatGPT как к доверенному лицу и советчику, чтобы спланировать нападение. Он спросил у ChatGPT, сколько однокурсников ему нужно убить, чтобы привлечь внимание национальных СМИ, а также как пользоваться оружием. Чат-бот оперативно дал советы по его вопросам.
До сих пор ChatGPT в основном сталкивался с судебными исками по поводу нарушения авторских прав. В ноябре федеральный судья обязал OpenAI передать 20 миллионов анонимизированных пользовательских логов ChatGPT газете NY Times и другим изданиям, подавшим в суд на гиганта чат-технологий из-за его модели генеративного ИИ. Газеты требовали эти пользовательский логы, чтобы проверить, как ChatGPT используется для создания результатов, которые, по их словам, нарушают их авторские права. OpenAI возражал, ссылаясь на соображения конфиденциальности.
Комментариев нет:
Отправить комментарий