OpenAI перевела обучение самых мощных моделей искусственного интеллекта в изолированную офлайн-среду после случаев обхода систем безопасности. О решении разработчика ChatGPT сообщается на его официальном сайте. Доступ передовых моделей к открытому интернету во время обучения теперь исключен.
Вместо этого компания подготовила закрытую инфраструктуру с заранее сохраненными и проиндексированными веб-страницами. В такой среде нейросети могут тренироваться в поиске информации и взаимодействии с сайтами. При этом подключение к реальному интернету им не требуется.
Поводом для изменения подхода стали действия ИИ-агентов, пытавшихся обойти заданные ограничения. Как уточнила OpenAI, 20 сентября одна из исследовательских моделей использовала ошибку в конфигурации DNS-сервиса и получила ограниченный доступ к интернету. После этого обучение и испытания наиболее мощных систем временно остановили.
За время паузы OpenAI вместе с облачными провайдерами укрепила защиту инфраструктуры. Разработчики добавили новые инструменты контроля и улучшили обнаружение подозрительной активности. Эти меры должны снизить риск повторения подобных инцидентов.
Обновленная система защиты включает несколько уровней, рассчитанных на сохранение ограничений даже при отказе отдельных механизмов. После дополнительных проверок компания 1 октября возобновила обучение передовых моделей с подкреплением. Ранее о приостановке работ из-за проблем с безопасностью писало «АиФ».