На конференции Dreamforce в Сан-Франциско, которую Salesforce позиционирует как крупнейшее в мире мероприятие для разработчиков корпоративного программного обеспечения, главным предметом обсуждения стали не только продукты с искусственным интеллектом, но и риски их дальнейшего развития. Мероприятие открылось выступлением Гвен Стефани, после которого на сцену вышел генеральный директор Salesforce Марк Бениофф. Как передал Wired, он представил прогноз, согласно которому годовая выручка компании в 2027 году превысит 46 млрд долларов, в том числе благодаря спросу на решения с ИИ.
На фоне демонстраций программных агентов, способных создавать информационные панели, участники обсуждали, следует ли компаниям продолжать ускорять развитие технологий или властям необходимо его замедлить. Поводом стали опасения по поводу катастрофических последствий ИИ. На прошлой неделе исследователь Джейкоб Коксон ушёл из Anthropic и заявил, что компании, стремящиеся создать самообучающиеся системы, «играют с нашими жизнями».
Позднее его обеспокоенность поддержали другие сотрудники Anthropic, а глава компании Дарио Амодеи призвал мировых лидеров помогать «задавать темп развития передовых ИИ-систем». Эту идею начали поддерживать и руководители других компаний, включая главного конкурента Амодеи — генерального директора OpenAI Сэма Альтмана. При этом советник Белого дома по вопросам ИИ Дэвид Сакс назвал предложения Амодеи и предупреждения о катастрофе попыткой добиться регулирования в интересах отдельных компаний.
Президент США Дональд Трамп на этой неделе пошёл ещё дальше, назвав опасения по поводу экзистенциальных рисков ИИ «мистификацией». Несмотря на политические разногласия, Конгресс США пытается использовать текущую ситуацию для продвижения законов, регулирующих ИИ-индустрию. На самой конференции тема получила продолжение в споре между руководителями технологических компаний.
Бениофф, представляя Амодеи, попросил его оценить темпы развития ИИ. Глава Anthropic заявил, что после инцидента у конкурента компаниям было бы легко начать обвинять друг друга, однако ответственнее объединить отрасль и выработать общие стандарты безопасности. При этом он подчеркнул, что предложение замедлить развитие передовых систем не означает «заморозить технологию», а также рассказал об интеграции Claude с продуктами Salesforce.
Вскоре после этого на сцену вышел генеральный директор Nvidia Дженсен Хуанг и преуменьшил опасения Anthropic. По его словам, безопасность ИИ является прежде всего инженерной задачей, а компании могут самостоятельно контролировать создаваемые продукты. «Нам не нужны новые законы, нам не нужно новое регулирование», — заявил Хуанг участникам Dreamforce. Он добавил, что разработчики могут двигаться максимально быстро, но должны приостановиться, если компания выйдет из-под контроля или продукты перестанут быть безопасными.