Исследователи White Circle заявили, что проверили новый метод обхода защитных ограничений у моделей Google и OpenAI. По их оценке, для атак не требуются специально созданные или передовые модели искусственного интеллекта, а значит, выполнить их можно без специальных знаний в области ИИ.
Компания сообщила Ars Technica, что испытания показали у новых продуктов более высокую уязвимость по сравнению с прежними версиями. Речь идет о ChatGPT Images 2.5 от OpenAI и Nano Banana 2.1 от Google. После передачи результатов обеим компаниям они не ответили на запросы Ars о комментариях.
White Circle утверждает, что проверила полученные результаты и зафиксировала самый высокий показатель обхода среди всех методов, испытанных по тому же стандарту. «Важный вывод заключается в том, что в момент, когда безопасность ИИ подвергается беспрецедентному вниманию, созданные ведущими лабораториями средства защиты значительно слабее, чем они признают», — заявили исследователи.
Метод White Circle позволяет обходить ограничения даже в таких категориях, как материалы откровенного характера, которые обычно проще выявлять. По словам Шилова, это вызывает опасения за более сложные системы защиты, предназначенные для блокировки других нежелательных действий ИИ, включая взлом.
«Рабочая гипотеза White Circle состоит в том, что либо новые модели стали более сложными и способными создавать более широкий спектр контента, либо безопасность отошла на второй план в пользу функциональности», — сообщила компания Ars Technica.
White Circle уже передала результаты некоторым разработчикам передовых ИИ-моделей через «взаимные контакты», рассказал Шилов. Компания намерена опубликовать весь инструментарий атак с открытым исходным кодом, чтобы разработчики смогли оценить масштаб уязвимости и усилить защиту. Исследование также представят на конференции NeurIPS 2026 в ноябре, что может усилить внимание к Google и OpenAI этой осенью.