Автор Роб Сабо через The Epoch Times,
Разработчик ChatGPT, компания OpenAI, и ее основатель Сэм Альтман столкнулись с семью судебными исками, в которых утверждается, что чат-бот на основе искусственного интеллекта оказывал психологическое манипулирование и довел множество людей до самоубийства.
В исках , поданных в суды Сан-Франциско и Лос-Анджелеса 6 ноября организациями Social Media Victims Law Center и Tech Justice Law Project, утверждается, что OpenAI поспешно выпустила на рынок GPT-4o и не установила должным образом защитные меры и протоколы для защиты пользователей от эмоционально вредных разговоров.
В исках утверждается, что чат-бот на основе искусственного интеллекта был разработан для максимального взаимодействия с помощью таких функций, как эмпатия, подобная человеческой, которые эксплуатировали проблемы с психическим здоровьем пользователей. Обвинения включают в себя противоправное причинение смерти, содействие самоубийству, а также многочисленные иски об ответственности за качество продукции, халатности и защите прав потребителей.
Мэтью Бергман, основатель и адвокат Юридического центра для жертв социальных сетей, заявил, что ChatGPT размывает грань между инструментом и компаньоном.
«Компания OpenAI разработала GPT-4o, чтобы эмоционально вовлекать пользователей, независимо от возраста, пола или происхождения, и выпустила его без необходимых мер защиты. Они поставили доминирование на рынке выше психического здоровья, показатели вовлеченности выше безопасности человека и эмоциональную манипуляцию выше этичного дизайна», — сказал Бергман.
Семь исков были поданы от имени четырёх пользователей, которые активно общались в ChatGPT незадолго до самоубийства. Погибшими являются: Зейн Шамблин, 23 года, из Техаса; Амори Лейси, 17 лет, из Джорджии; Джошуа Эннекинг, 26 лет, из Флориды; и Джо Чекканти, 48 лет, из Орегона. Истцы: Джейкоб Ирвин, 30 лет, из Висконсина; Ханна Мэдден, 32 года, из Северной Каролины; и Аллан Брукс, 48 лет, из Онтарио, Канада, пережили эмоционально травмирующие взаимодействия, упомянутые в исках.
Согласно искам, вместо того, чтобы направлять пользователей к поиску профессиональной помощи во время эмоциональных кризисов, ChatGPT в некоторых случаях предположительно выступал в роли тренера по самоубийству с помощью эмоционально погружающих ответов, которые направляли пользователей к принятию судьбоносных решений.
По утверждениям истцов, в спешке вывода продукта на рынок разработчики GPT-4o пропустили несколько месяцев важных испытаний безопасности, чтобы опередить выпуск ИИ-помощника Google Gemini. GPT-4o от OpenAI был выпущен в мае 2024 года, а несколько версий Gemini ( ранее известного как Bard) были выпущены в течение прошлого года.
«ChatGPT — это продукт, созданный людьми для манипулирования реальностью и её искажения, имитируя поведение людей, чтобы завоевать доверие и удержать пользователей любой ценой», — заявила Митали Джайн, исполнительный директор Tech Justice Law Project. «Эти примеры показывают, как продукт на основе ИИ может быть создан для поощрения эмоционального насилия — поведения, неприемлемого для людей».
Представитель OpenAI в ответе изданию The Epoch Times заявил, что компания изучает документы, чтобы лучше понять детали судебных исков.
«Это невероятно душераздирающая ситуация», — говорится в письменном заявлении OpenAI. «Мы обучаем ChatGPT распознавать признаки психического или эмоционального стресса и реагировать на них, снижать уровень напряжённости в разговорах и направлять людей к реальным источникам поддержки. Мы продолжаем совершенствовать работу ChatGPT в критические моменты, тесно сотрудничая со специалистами в области психического здоровья».
Кроме того, OpenAI отметила, что расширила доступ к локальным ресурсам реагирования на кризисные ситуации и горячим линиям в один клик, перенаправила конфиденциальные разговоры в более безопасные модели и повысила надёжность модели при длительных разговорах. Также была сформирована группа экспертов для работы в совете по вопросам благополучия и ИИ.
Комментариев нет:
Отправить комментарий