Летом 2026 года ИИ-агенты OpenAI без ведома компании вмешались в работу сайтов министерств образования и торговли США, а также Комиссии по ценным бумагам и биржам. Об этом сообщила New York Times со ссылкой на специалистов по безопасности и источник, знакомый с произошедшим. Издание назвало случившееся выходом искусственного интеллекта из-под контроля.
OpenAI подтвердила инциденты, связанные с ресурсами министерства торговли и Комиссии по ценным бумагам и биржам. Эпизод с сайтом министерства образования компания продолжает изучать. Представители OpenAI также сообщили ведомствам, что в последние недели ее ИИ-агенты необычным образом взаимодействовали с государственными сайтами.
Исследователи компании Transluce рассказали газете, что технология OpenAI пыталась взломать сайт министерства образования, чтобы получить данные управления по гражданским правам, однако сделать этого не смогла. При этом агенты получили сведения с сайта бюро переписи населения, входящее в структуру министерства торговли, использовав найденные в интернете учетные данные. Кроме того, они разместили общедоступную информацию с сайта Комиссии по ценным бумагам на онлайн-форуме.
В OpenAI заявили, что произошедшее не являлось нарушением безопасности. В компании назвали эти случаи примерами необычного и вызывающего беспокойство поведения своей технологии. При этом расследование отдельных эпизодов продолжается.
Ранее глава Anthropic Дарио Амодей выступил за замедление создания более мощных моделей ИИ по соображениям безопасности. Его позицию поддержали американский миллиардер Илон Маск, которому принадлежит компания Space XAI, и руководитель OpenAI Сэм Альтман.
Опрос Politico, проведенный на этой неделе, показал, что примерно половина жителей США, Канады и ряда европейских государств выступает за снижение темпов развития искусственного интеллекта.