Anthropic предоставила шести сотрудникам организации METR доступ к внутренним инструментам и системам компании, а также рабочее оборудование и офисные места. Они будут независимо оценивать риски, связанные с разработками лаборатории искусственного интеллекта.
В Anthropic заявили, что специалисты METR смогут пользоваться ресурсами примерно на том же уровне, что и собственные команды компании, занимающиеся оценкой рисков. Сотрудникам рекомендовали делиться с внешними экспертами информацией так же, как с коллегами, работающими в сфере безопасности.
METR участвовала в расследовании взлома платформы Hugging Face, который был связан с моделями OpenAI, действовавшими без разрешения. В рамках проверки организация изучила тысячи журналов событий и получила ноутбуки компании.
Anthropic не выплачивает METR вознаграждение за эту работу. Организация не принимает пожертвования от разработчиков искусственного интеллекта и их сотрудников, а финансируется частными лицами, благотворительными фондами и государственными структурами, включая британский Институт безопасности искусственного интеллекта.
METR намерена опубликовать результаты анализа без права Anthropic заблокировать выпуск материала. При этом компания сможет потребовать удалить сведения о клиентах, информацию, защищённую адвокатской тайной, а также данные об архитектуре моделей.
Anthropic также продолжает сотрудничать с Accenture, которую в прошлом месяце назвали партнёром по тестированию безопасности; каждая сторона обязалась направить не менее $1 млрд на создание новых защитных механизмов. Ещё одним внешним проверяющим выступает SecureBio, оценивающая риски, связанные с химическим и биологическим оружием. Как сообщила Financial Times, Anthropic считает, что все разработчики передовых систем искусственного интеллекта должны добровольно допускать независимых экспертов к своей работе.