Гендиректор Y Combinator Гарри Тан выступил против ужесточения правил для дистилляции ИИ-моделей китайскими лабораториями. В разговоре с CNBC он заявил, что не стал бы вводить новые ограничения, а американским разработчикам, по его мнению, также стоит получить право использовать такие методы.
Тан сказал: «I would do nothing». Он добавил, что в США можно было бы ввести собственный режим дистилляции. Позже в комментарии TechCrunch он пояснил, что речь идет о том, чтобы небольшие американские лаборатории с открытыми весами могли обучаться на базе передовых американских моделей и расширять набор локальных альтернатив, не связанных с Китаем.
Дистилляция — это метод обучения, при котором одна модель многократно обращается к другой, чтобы перенять ее поведение и логику ответов. Такой подход широко используется при создании новых моделей и сам по себе считается допустимой практикой.
На этой неделе Anthropic опубликовала второй отчет, где утверждает, что китайские лаборатории ведут «незаконные атаки с дистилляцией». По версии компании, они скрывают свою личность, работают без разрешения, а также используют мошеннические схемы и украденные учетные данные. Ранее гендиректор Anthropic Дарио Амодеи публично призывал американских регуляторов пресечь такую практику.
Позиция Тана отличается от этой линии. При этом он не призывает американские лаборатории использовать украденные доступы. Его тезис в другом: компании не должны слишком жестко определять, что клиенты могут делать с информацией, которую получают через API закрытых моделей.
В разговоре с TechCrunch Тан также напомнил, что разработчики проприетарных моделей сами не запрашивали разрешение у правообладателей, когда собирали большие массивы данных для обучения. По его словам, в обучение таких систем вошло много материалов, защищенных авторским правом.
Он заявил TechCrunch: «Controlling what users and customers do with API calls to closed weight models feels constraining, and there’s a role government can play here to normalize the fact that access to intelligence that was trained on broad public access data should itself also be more a form of a public good than something locked away behind restrictive terms of service».
Тан выступает за баланс между лабораториями с открытыми весами и разработчиками передовых закрытых систем. В интервью CNBC он сказал: «They are at the frontier and driving it forward. We want that to be fundable, and be a great business model ongoing». И добавил: «You want open weight models to give people freedom and access».
По его мнению, главный риск для рынка ИИ — ситуация, при которой вся мощность передовых моделей сосредоточится у одного закрытого поставщика. Тан сказал: «The nightmare scenario, the doomer scenario for AI is that there’s just one company. It has the best access to capital. It has the best AI researchers. It runs away with it and suddenly there’s one company that’s monolithic. And that would be bad».
Источники: CNBC, TechCrunch.
