Адвокат из Нью-Мексико Джонатан Ааронс признался, что использовал ChatGPT для подготовки процессуальных документов по делу об убийстве, и нейросеть сгенерировала ложные цитаты. Об этом он заявил на слушании в Верховном суде штата 21 августа, сообщает Ars Technica. Ааронс загрузил в чат-бот компьютерную расшифровку судебного процесса и другие материалы дела, после чего получил текст с недостоверными выдержками.
По словам адвоката, в его ходатайстве приводились показания нескольких свидетелей, которые в действительности не вызывались в суд. Ещё у одного свидетеля, чьи слова всё же прозвучали на процессе, было неверно указано имя. Кроме того, в документе содержалось неточное описание ранее рассмотренных судебных прецедентов. Ааронс использовал версию ChatGPT на базе модели OpenAI o3, выпущенную в 2025 году, и рассчитывал на точность выданного резюме, поскольку искусственный интеллект широко применяется в юридической и медицинской сферах.
«Меня мало утешает то, что именно моя глупость собрала нас здесь сегодня», — сказал Ааронс, обращаясь к суду. Своими действиями он вызвал резкую критику со стороны судей. Они выразили удивление тем, что адвокат не знал о способности ИИ-инструментов генерировать ложные сведения, и напомнили, что юрист обязан проверять достоверность информации независимо от её источника. Судьи подчеркнули: подписывая документ, адвокат подтверждает его точность, даже если помощь оказывали нейросеть, студент-юрист или коллега.
Верховный суд Нью-Мексико временно отстранил Ааронса от участия в разбирательствах до завершения дисциплинарного расследования. Ему назначен штраф в размере 5 тысяч долларов, который должен быть перечислен в Фонд защиты клиентов коллегии адвокатов штата. Дополнительные санкции могут быть применены по итогам дисциплинарного производства, инициированного судом.
Суд также распорядился, чтобы офис государственного защитника назначил обвиняемому нового адвоката. Все ранее поданные ходатайства были исключены из материалов дела, а само разбирательство перенесено на судебный срок 2026–2027 годов.