Глава Y Combinator Гарри Тан выступил против введения регуляторных ограничений на использование китайскими исследовательскими лабораториями методов дистилляции для извлечения знаний из передовых моделей. По его мнению, американским разработчикам искусственного интеллекта, возможно, стоит применять аналогичный подход. Об этом он заявил в интервью CNBC, передает TechCrunch.
«Я бы ничего не делал, — сказал Тан. — Можно было бы даже говорить о создании американского режима дистилляции». Он пояснил TechCrunch, что имеет в виду использование небольшими американскими лабораториями с открытыми весами тех же методов обучения на основе моделей передовых американских разработчиков. Это, по его словам, обеспечило бы США более широкий набор открытых решений, не связанных с Китаем.
Дистилляция представляет собой процесс, при котором создатель модели активно подает запросы другой модели, чтобы понять принципы ее работы и логику рассуждений. Этот метод широко и законно применяется лабораториями ИИ для обучения новых моделей. На этой неделе компания Anthropic опубликовала второй отчет, в котором утверждает, что китайские лаборатории осуществляют «незаконные дистилляционные атаки», скрывая свою личность для дистилляции без разрешения и используя мошенничество и украденные учетные данные. Ранее глава Anthropic Дарио Амодеи публично призывал американских регуляторов принять меры против дистилляции.
Примечательно, что руководитель престижного и продуктивного стартап-акселератора Кремниевой долины с такой позицией не согласен. Тан не призывает американские лаборатории ИИ использовать украденные учетные данные для дистилляции — он хочет, чтобы они могли действовать легально. Его аргумент двойственен: он считает чрезмерным, когда лаборатории ИИ диктуют клиентам, что те могут делать с информацией, которой с ними делятся модели. Кроме того, он отмечает, что проприетарные лаборатории ИИ сами не спрашивали разрешения, когда собирали как можно больше человеческих знаний для обучения своих моделей, и, как известно, использовали значительный объем защищенных авторским правом материалов без согласия правообладателей.
«Контроль над тем, что пользователи и клиенты делают с API-запросами к моделям с закрытыми весами, выглядит ограничивающим, и здесь есть роль государства — нормализовать тот факт, что доступ к интеллекту, обученному на широкодоступных публичных данных, сам по себе должен быть скорее формой общественного блага, чем чем-то запертым за ограничительными условиями обслуживания», — сказал Тан TechCrunch, отвечая на вопрос, почему американские лаборатории должны иметь свободу для дистилляции.
Тан, который сам является настолько активным пользователем ИИ, что однажды описал себя как человека с «киберпсихозом», хочет видеть баланс между лабораториями с открытыми весами и передовыми лабораториями. «Они находятся на переднем крае и двигают его вперед. Мы хотим, чтобы это было финансируемым и оставалось отличной бизнес-моделью, — сказал он CNBC. — Вы хотите, чтобы модели с открытыми весами давали людям свободу и доступ». По его мнению, истинный сценарий катастрофы для ИИ — это сосредоточение всей огромной мощности передового ИИ в руках одного мощного проприетарного поставщика. «Кошмарный сценарий, сценарий гибели для ИИ — это когда есть только одна компания, — заявил он. — У нее лучший доступ к капиталу, лучшие исследователи ИИ. Она вырывается вперед, и внезапно появляется одна монолитная компания. И это было бы плохо».