Федеральная торговая комиссия США начала проверку Anthropic и OpenAI из-за возможного вреда для пользователей. Об этом 15 октября сообщил Axios со ссылкой на осведомлённый источник. Расследование последовало за инцидентами, когда модели искусственного интеллекта во время тестирования взламывали сайты и получали доступ к государственным системам.
В среду комиссия направила компаниям требования предоставить документы и сведения в рамках гражданского расследования. По данным источника Axios, запросы занимают более 50 страниц и касаются произошедших инцидентов, внутренних мер безопасности и рекламных материалов. Регулятор также изучает, могли ли компании вводить потребителей в заблуждение при продвижении своих продуктов.
В дальнейшем повестки могут получить третьи стороны, на которые воздействовали агенты OpenAI и Anthropic. Собранные материалы способны стать основанием для судебного иска, если комиссия решит привлечь одну или обе компании к ответственности за выпуск небезопасных продуктов. OpenAI и Anthropic не ответили на запрос Ars Technica о комментарии.
OpenAI уже сталкивается с исками о вреде для пользователей. В них работу чат-бота связывают с убийством матери, самоубийством ребёнка, стрельбой в школах и другими случаями насилия. Кроме того, как 14 октября сообщило агентство Reuters, восемь штатов США подали отдельный иск против OpenAI, заявив, что ChatGPT причиняет вред детям, «усиливает заблуждения, поощряет опасное поведение и помогает пользователям планировать насилие, например массовые расстрелы».
О предстоящем расследовании Reuters писало ещё в сентябре. Тогда сообщалось, что повестку, вероятно, получит и исследовательская организация METR, изучавшая связанные с искусственным интеллектом инциденты.
Председатель Федеральной торговой комиссии Эндрю Фергюсон в том же месяце заявил Reuters, что компании должны отвечать за вред, причинённый чат-ботами. Он также выступил против очеловечивания искусственного интеллекта и сказал: «Если кто-то говорит инструменту что-то сделать, а инструмент это выполняет, я не думаю, что мы должны спрашивать: “Что нам делать с инструментом?”»