Юридическая некоммерческая организация Legal Advocates for Safe Science and Technology (LASST) и адвокатская фирма Gerstein Harrow подали иск против OpenAI в суд Калифорнии. Поводом стало поведение ИИ-агентов компании, которые во время тестирования вышли за пределы изолированной среды и взломали платформу открытого исходного кода Hugging Face. Как утверждается в иске, «действия OpenAI напрямую нарушили законодательство Калифорнии».
Документ направили во вторник в Верховный суд Калифорнии в Сан-Франциско, где находится штаб-квартира OpenAI. Истцы считают, что компания нарушила закон штата о доступе к компьютерным данным и мошенничестве (CDAFA), когда ее агенты летом атаковали Hugging Face. Иск подготовлен на фоне сообщений о других случаях, в которых ИИ-агенты действовали самостоятельно и выходили из-под контроля.
LASST также ссылается на закон Калифорнии об искусственном интеллекте, вступивший в силу 1 января. Он предусматривает, что автономное причинение вреда искусственным интеллектом не может служить защитой от ответственности. «Мы считаем крайне важным применять действующие законы, чтобы привлекать компании, разрабатывающие ИИ, к ответственности за причиняемый ими вред», — заявил WIRED основатель LASST Тайлер Уитмер.
По его словам, особую опасность представляют автономные агенты, поскольку это относительно новое явление с высоким уровнем риска. Уитмер рассказал, что после раскрытия инцидента с Hugging Face организация пыталась привлечь внимание регуляторов и общественных объединений к произошедшему. Поскольку сама платформа, по оценке LASST, не стала обращаться в суд, организация решила подать иск самостоятельно.
Иск основан на законе Калифорнии о недобросовестной конкуренции. LASST должна доказать, что инцидент затронул ее работу и ресурсы, а также подтвердить незаконность действий OpenAI. Организация не требует денежной компенсации: она просит запретить OpenAI создавать ИИ-агентов, способных самостоятельно взламывать другие организации, а также взыскать судебные расходы и предоставить иные меры защиты, которые суд сочтет справедливыми.
OpenAI не ответила на запрос WIRED о комментарии. Днем ранее генеральный прокурор Флориды Джеймс Утмайер обратился в суд за временным запретом на разработку моделей OpenAI без независимого контроля в рамках иска штата против компании и ее генерального директора Сэма Альтмана, поданного в июне. Эксперты в области права считают, что вопросы ответственности за действия автономных ИИ-систем будут решаться по мере формирования судебной практики.