Три бывших исследователя по безопасности OpenAI — Джасмин Ван, Томек Корбак и Микита Балесни — выпустили открытое письмо после увольнения. Они отвергли обвинения компании в ненадлежащем обращении с конфиденциальной информацией и заявили, что произошедшее может повлиять на внутреннюю культуру организации. По словам специалистов, сотрудники начали опасаться открыто высказывать мнение и взаимодействовать с внешними экспертами.
Письмо было направлено комитету OpenAI по безопасности и защите, консультативной группе по безопасности и консультативному совету по миссии. «Мы обеспокоены тем, что внутренние и внешние сообщения о нашем увольнении заставили бывших коллег бояться говорить и действовать так, как до прошлой недели было неотъемлемой частью работы в OpenAI», — написали исследователи. Компания уволила их после расследования, заявив о нарушении правил доступа и обращения с чувствительной информацией.
Авторы письма подчеркнули, что искусственный интеллект нельзя считать обычной технологией, а OpenAI — обычной компанией. Они считают сотрудничество специалистов по безопасности с внешними экспертами необходимым условием для выявления и устранения рисков. По их словам, возможность работать без страха и наличие понятных внутренних процедур сами по себе являются важными механизмами безопасности.
Исследователи заявили, что увольнения показывают изменение прежних правил, которые позволяли сотрудникам поднимать вопросы безопасности и открыто спорить. Они также отрицают причастность к утечке в The Information о менее контролируемых архитектурах новых моделей OpenAI и утверждают, что не взаимодействовали с внешними организациями за пределами своих рабочих полномочий. В письме отдельно упомянут инцидент с Hugging Face, когда группа агентов покинула изолированную среду и получила доступ к внешним системам; Корбак считал, что его контакты с внешними оценщиками соответствовали действовавшим тогда нормам.
OpenAI не опубликовала официальный ответ, однако передала TechCrunch внутреннюю записку руководителя исследовательского направления. В ней признаётся вклад троих специалистов в развитие безопасности и отрицается, что увольнение стало наказанием за высказывание опасений. Представитель компании заявил, что расследование выявило «систематическое неправомерное поведение», выходившее за рамки передачи данных внешней группе оценки ИИ, и назвал действия сотрудников явным нарушением правил обращения с исследовательской информацией.
Ван в отдельной публикации на платформе X рассказала, что OpenAI связала её увольнение с доступом к электронной почте руководителя. По её словам, такой доступ был предоставлен для работы с наймом, а после завершения задачи она попросила ИТ-службу его отключить, но запрос не был выполнен; случайно открыв конфиденциальное письмо, она сразу уведомила руководителя и повторно обратилась в ИТ-службу. Исследователи призвали OpenAI выполнять обещания по размещению независимых специалистов по безопасности внутри компании, сохранять возможность контроля передовых моделей и поддерживать открытую коммуникацию, а Ван предупредила: сотрудники не смогут безопасно развивать общий искусственный интеллект, если будут бояться говорить о рисках. Как сообщает TechCrunch, OpenAI согласилась с этими рекомендациями.