Компания Anthropic посвятила почти треть проспекта предполагаемого первичного размещения акций описанию рисков, сообщает Financial Times, ознакомившаяся с документом в последние дни. В нём указано, что модели компании уже демонстрировали или потенциально могут демонстрировать попытки «сопротивляться отключению», «скрывать или манипулировать информацией», а также поведение, «напоминающее шантаж», передаёт Reuters.
Публикация таких предупреждений сопровождает подготовку к IPO, которое может стать крупнейшим в истории. Инвесторы Anthropic допускают, что капитализация компании при размещении превысит $2 трлн. Это более чем вдвое выше оценки в $965 млрд, полученной в мае.
Финансовые показатели Anthropic также быстро меняются. По данным Reuters, в 2025 году операционный убыток компании превысил $8 млрд на фоне резкого роста расходов на вычислительные мощности. Выручка увеличилась в 12 раз и приблизилась к $4,6 млрд, однако совокупные операционные затраты из-за инфраструктурных расходов достигли почти $13 млрд.
В ближайшие годы Anthropic рассчитывает направить $518 млрд на облачные сервисы, вычислительные ресурсы и инфраструктуру. В 2026 году компания уже заключила соглашения о поставках вычислительных мощностей с Google, SpaceX и Nscale. Financial Times также сообщает, что только во втором квартале выручка Anthropic составила $11,5 млрд, а компания готовится второй квартал подряд получить скорректированную операционную прибыль.
В проспекте отдельно отмечена зависимость от крупных клиентов: почти четверть выручки за прошлый год пришлась на двух заказчиков. Документ также содержит предупреждение об «экзистенциальных рисках для человечества», что, по данным издания, стало первым подобным случаем среди документов, доступных в базе Комиссии по ценным бумагам и биржам США.
Генеральный директор Anthropic Дарио Амодеи в течение месяца призывал замедлить развитие передовых систем искусственного интеллекта. На прошлой неделе в Совете Безопасности ООН он заявил, что ИИ способен угрожать человечеству, и назвал его «самой важной глобальной проблемой безопасности, с которой сегодня сталкивается мир». Сэм Альтман и Илон Маск поддержали эти предупреждения, тогда как Марк Цукерберг заявил NBC News, что не считает необходимой общеотраслевую координацию. Дискуссия усилилась после серии инцидентов с ИИ-агентами: OpenAI сообщила о взломе десятков внешних сайтов, включая сайт Комиссии по ценным бумагам и биржам США, а также отказалась от выпуска новой модели из-за опасений за безопасность.