Исследователи обнаружили уязвимость в версии ChatGPT для macOS, которая позволяла злоумышленникам получить контроль над приложением на компьютере пользователя. Проблему уже устранили, однако до выпуска исправления она могла открыть доступ к истории чатов и другим данным, сохранённым программой. Об этом сообщило издание WIRED.
Уязвимость выявили специалисты Objective-See Foundation. По их оценке, через неё можно было также использовать активные сеансы браузера и взаимодействовать с другими чувствительными приложениями. Особую опасность создавало то, что команды выглядели как легитимные запросы от самого программного обеспечения OpenAI.
«Агентам нужен большой объём доступа, чтобы выполнять свою работу. Они похожи на управляющего зданием, у которого есть ключи от всех помещений. Поэтому их повреждение или подмена создают серьёзную проблему. Это потенциально означает, что код без специальных привилегий сможет получить доступ ко всему», — заявил аналитик Objective-See Foundation и исследователь macOS Патрик Уордл.
Приложение ChatGPT для macOS состоит из нескольких компонентов, которые проверяют цифровые подписи друг друга. Такая система должна подтверждать, что запрос поступает от компонентов OpenAI, а не от сторонней программы. Проверки выполняются на трёх уровнях, чтобы вредоносное ПО не смогло заставить доверенный компонент выступить посредником.
Однако специалисты обнаружили доверенный интерпретатор сценариев, принимавший неподтверждённый сценарий или набор команд. Затем его можно было использовать для передачи этих инструкций основному процессу ChatGPT. По словам Уордла, вредоносный сценарий трижды запускал интерпретатор, благодаря чему формально проходил проверки родительского и «дедовского» процессов.
Эксперт назвал эксплуатацию проблемы «безумно простой»: демонстрационная программа занимала примерно дюжину строк кода. OpenAI признала уязвимость и сообщила об исправлении в журнале изменений системы 25 сентября. «Мы продолжаем совершенствовать свои методы обеспечения безопасности, но признаём, что должны действовать быстрее», — сказал представитель компании Шейн Бауэр.