Новый анализ, проведенный компанией Laine AI, показывает, что ошибки, связанные с искусственным интеллектом, в судебных документах США перестали быть единичными случаями и превратились в быстро распространяющуюся тенденцию. Основываясь на сотнях подтвержденных случаев, исследование выявило растущее число документов, содержащих сфабрикованные ссылки, неточные юридические источники и другие ошибки, сгенерированные ИИ, поскольку юристы и лица, представляющие свои интересы самостоятельно, все чаще используют генеративный ИИ в своей работе.
Рост был впечатляющим. Согласно отчету, количество задокументированных ошибок при подаче налоговых деклараций, связанных с ИИ, выросло с 25 случаев в начале 2025 года до 249 к четвертому кварталу того же года, и этот темп сохранится и в 2026 году. Данные за первый квартал 2026 года почти совпали с данными за весь последний квартал 2025 года, несмотря на то, что охватывают лишь часть года, что подчеркивает, насколько быстро проблема усугубляется.
С географической точки зрения, на сравнительно небольшое количество штатов приходится непропорционально большая доля инцидентов. Калифорния лидирует в стране с 97 зарегистрированными случаями, за ней следуют Нью-Йорк, Техас, Флорида и Иллинойс. Вместе эти пять штатов составляют примерно 40% всех задокументированных ошибок в судебных документах, связанных с ИИ, что говорит о том, что в юрисдикциях с более высоким уровнем внедрения ИИ также чаще встречаются ошибки в судах.
Исследование также выявило несколько быстрорастущих очагов проблемы. Во Флориде наблюдался один из самых резких скачков: с одного зарегистрированного случая в 2024 году до 28 в 2025 году. Тем временем, такие штаты, как Вашингтон, Пенсильвания, Нью-Джерси, Невада, Индиана, Орегон, Оклахома, Миннесота, Миссисипи и Иллинойс, начали сообщать о значительном количестве ошибок при подаче документов, связанных с ИИ, после того, как ранее таких случаев не было, что указывает на то, что проблема распространяется далеко за пределы небольшой группы первопроходцев.
Суды отреагировали широким спектром санкций. В Калифорнии были наложены денежные штрафы на сумму более 256 000 долларов США за ошибки при подаче документов, связанные с использованием ИИ, что составляет примерно треть всех штрафов, выявленных в исследовании. Однако вероятность получения суровых санкций значительно варьируется в зависимости от юрисдикции. В Луизиане, Вайоминге, Нью-Мексико и Джорджии серьезные санкции были наложены в гораздо большем проценте случаев, чем в штатах с более высоким общим числом инцидентов, что подчеркивает существенные различия в судебных подходах.
Пожалуй, наиболее примечательным выводом исследования является то, что большинство ошибок при подаче документов, связанных с ИИ, не связаны с действиями юристов. Более 60% задокументированных инцидентов произошли с участием лиц, представляющих свои интересы самостоятельно, в то время как на долю юристов пришлось примерно 37% дел. Авторы предполагают, что лица без формального юридического образования могут в большей степени полагаться на инструменты ИИ без надлежащей проверки, что увеличивает вероятность того, что ошибки дойдут до суда.
Когда упоминались инструменты ИИ, чаще всего в качестве платформы называлась ChatGPT, хотя в подавляющем большинстве случаев либо не указывалось, какая именно система ИИ использовалась, либо лишь подразумевалась помощь ИИ. ChatGPT фигурировала в 48 задокументированных случаях, в то время как такие инструменты, как Microsoft Copilot, Claude, Google Gemini, Perplexity, Lexis AI и продукты ИИ от Westlaw, упоминались лишь изредка. Поскольку почти в 90% случаев в документах не было четко указано используемое программное обеспечение, в отчете отмечается, что определить ответственную платформу по-прежнему сложно.
Наиболее распространенные ошибки были связаны с откровенной фальсификацией. Более половины всех зафиксированных ошибок, связанных с ИИ, состояли из несуществующих дел, ссылок или юридических прецедентов, представленных как подлинные. Искажение реальных юридических прецедентов составило еще четверть инцидентов, а сфабрикованные цитаты из реальных дел — примерно одну пятую. Калифорния, Нью-Йорк и Техас неизменно входили в число штатов с наибольшим количеством ошибок в каждой из категорий.
В отчете также установлено, что более 80% галлюцинаций, связанных с ИИ, возникали при упоминании судебных прецедентов, а не законов, нормативных актов или подтверждающих документов. Поскольку юридические аргументы часто зависят от точного цитирования прецедентов, сфабрикованные или неточные судебные прецеденты могут подорвать доверие ко всему иску и подвергнуть участников судебного процесса санкциям. Авторы приходят к выводу, что ИИ может оставаться ценным инструментом юридических исследований, но только если каждая ссылка, цитата и юридический источник будут независимо проверены, прежде чем будут представлены в суд.
Комментариев нет:
Отправить комментарий