Руководители ведущих компаний в сфере искусственного интеллекта по-разному оценивают идею замедлить развитие передовых систем. Глава Anthropic Дарио Амодеи предложил план «синхронизировать темп развития», тогда как руководитель Nvidia Дженсен Хуанг поддержал позицию президента США Дональда Трампа, который назвал критику ИИ выдуманной и выступил против дополнительного регулирования. Обсуждение этих заявлений прошло в подкасте TechCrunch Equity с участием Кирстен Коросек, Шона О’Кейна и Энтони Ха.
Участники разговора усомнились в том, что заявления Амодеи и главы OpenAI Сэма Альтмана означают готовность отрасли к реальному замедлению. О’Кейн отметил, что опубликованный план содержит мало конкретики и не объясняет, какие именно действия должны привести к снижению темпов. По его словам, неясно также, какие риски имеют в виду руководители ИИ-компаний и что именно они называют замедлением.
Ха обратил внимание на то, что многие представители отрасли быстро поддержали предложенный подход. По его словам, подобные идеи обсуждались в сообществе специалистов по безопасности ИИ ещё до публикации плана Anthropic. Такая реакция может свидетельствовать о формировании общего мнения, но одновременно вызывает сомнения в том, что речь идёт о действительно серьёзном ограничении развития технологий.
Коросек перечислила основные предложения: независимые оценщики должны работать внутри компаний вроде Anthropic и OpenAI, контролируя практики безопасности и связанные с ИИ инциденты. Кроме того, крупным компаниям из демократических стран предлагается согласовать единые стандарты и ограничения, а также наладить международное взаимодействие. При этом она предупредила, что отраслевой консенсус может стать не только основой для полезных правил, но и началом формирования картеля.
Отдельно участники обсудили реакцию Хуанга, который заявил о недопустимости замедления ИИ и во время выступления получил звонок от Трампа. О’Кейн считает, что глава Nvidia оказался в роли посредника между технологической отраслью и американской администрацией, а также стремится занимать максимально взвешенную позицию. Коросек, напротив, сочла появление Хуанга отчасти постановочным и напомнила, что Nvidia напрямую заинтересована в дальнейшем развитии ИИ без ограничений по темпам.
По оценке О’Кейна, рыночные механизмы сами по себе не обеспечат достаточную безопасность. Федеральные власти США, по его словам, сейчас не демонстрируют готовности широко применять действующие нормы, а у потребителей нет достаточного влияния на компании через отказ от их услуг. Ситуация осложняется тем, что разработчики всё активнее работают с корпоративными клиентами: крупные компании вряд ли станут менять один ИИ-сервис на другой только из-за несогласия с отдельными решениями поставщика, а значительные инвестиции позволяют разработчикам легче компенсировать возможные потери.