На днях в англоязычной AI-индустрии разгорелся спор: часть американских чиновников обсуждает возможный запрет на использование китайских open-weights моделей американскими компаниями. В ответ множество техкомпаний подписали открытое письмо в защиту открытых моделей — и заодно обвинили Anthropic в том, что она якобы хочет такой запрет продавить, чтобы защитить свой бизнес. CEO Anthropic Дарио Амодеи ответил лично и максимально прямо: компания никогда не призывала запрещать open-weights модели как категорию.
Что такое open-weights модели и почему это важно
Если ты только начинаешь разбираться в теме ИИ, вот короткое объяснение. «Веса» модели (weights) — это, грубо говоря, числа, которые модель выучила в процессе обучения и которые определяют, как она отвечает. Закрытая модель (например, Claude) доступна только через API — сами веса никто не скачивает. Открытая модель (open-weights) публикует эти веса в открытом доступе: скачал — запустил у себя, без разрешения владельца и без возможности что-то отозвать назад.
Амодеи прямо называет модели с открытыми весами, у которых нет опасных возможностей, общественным благом: они бесплатны (кроме затрат на вычисления для запуска), приносят пользу бизнесу, разработчикам и исследователям. Это важная деталь — Anthropic не выступает против открытости как таковой, речь идёт про узкий класс рисков, связанных с самыми мощными моделями.
Два кошмарных сценария Дарио Амодеи
Позицию Amodei нельзя назвать новой — он последовательно повторяет её уже полгода, с эссе The Adolescence of Technology. У него есть два главных страха, и оба напрямую не связаны с тем, открыты веса модели или закрыты.
Первый сценарий. Авторитарные правительства — и здесь не только Компартия Китая (CCP), хотя именно она сейчас самый вероятный кандидат — создают модели мощнее американских и используют их для достижения военного превосходства или для подавления собственного населения. Амодеи ссылается на то, что эта тревога разделяется на уровне американского правительства: вице-президент Вэнс говорил в Париже, что «авторитарные режимы украли и используют ИИ для усиления военных, разведывательных и наблюдательных возможностей», а разведывательное сообщество США в отчёте 2026 года подтвердило, что прогресс других держав в ИИ угрожает экономической конкурентоспособности и национальной безопасности США. Ключевой момент: неважно, выпущена ли такая модель с открытыми весами и используют ли её американские компании — самая опасная модель может быть обучена в секрете и передана только армии для дронов и спецслужбам для слежки.
Второй сценарий. Мощные модели могут быть использованы для кибератак или биологических атак, а также иметь серьёзные проблемы с alignment (согласованностью целей модели с намерениями человека — подробнее про такие термины можно почитать в словаре новичка). Тут Амодеи признаёт: открытые модели действительно потенциально опаснее закрытых, потому что на них очень трудно накладывать защитные ограничения и мониторить использование, а после публикации весов их уже не отозвать назад. Но запрет на использование этих моделей американскими бизнесами эту проблему не решает — злоумышленники редко являются легитимными американскими компаниями. Такой запрет просто защитил бы американские AI-компании от конкуренции, а это, по словам Амодеи, никогда не было его целью.
Заметка
Amodei ссылается на отчёт UK AI Security Institute: открытость модели лишает разработчиков большинства инструментов защиты — обнаружения злоупотреблений, доработки защитных механизмов, контроля доступа и отзыва модели. После публикации весов эти опции теряются навсегда.
Три меры, которые предлагает Anthropic
Вместо блокировки открытых моделей как категории Amodei и Anthropic последовательно предлагают три конкретные меры.
| Мера | Что решает | Как работает |
|---|---|---|
| Запрет продажи мощных чипов и оборудования Китаю | Первую угрозу (гонка за военным превосходством) | Из-за законов масштабирования Китай не сможет обучить более мощные модели, чем США, без доступа к американским чипам |
| Борьба с промышленной дистилляцией | Обе угрозы частично | Мешает Китаю «сокращать разрыв» дешёвым способом, копируя поведение чужих моделей |
| Обязательное тестирование безопасности всех достаточно мощных моделей | Вторую угрозу (кибер- и био-риски) | Модели — открытые и закрытые — проверяются на риски до релиза, независимо от страны происхождения |
Про чипы. У Китая ограниченные собственные производственные мощности, поэтому без американских чипов он физически не может обучить модели мощнее американских — благодаря тем самым законам масштабирования (scaling laws), которые говорят, что качество модели растёт предсказуемо вместе с объёмом вычислений. Именно поэтому Anthropic призывает жёстче бороться с контрабандой чипов и обходными схемами их получения — это и есть самый прямой способ заблокировать первую угрозу, и косвенно он же тормозит вторую.
Про дистилляцию. Дистилляция (distillation) — процесс, при котором из более мощной модели «выжимают» знания в меньшую и более дешёвую в обучении. Это гораздо эффективнее по вычислениям, чем обучение с нуля, и позволяет Китаю строить модели лучше, чем позволяло бы их реальное число чипов, частично обходя ограничения. Дистилляция не даёт CCP равных или превосходящих американским возможностей, но может подтянуть китайский фронтир на расстояние в несколько месяцев от американского. Amodei отмечает: многие компании, которые ведут такие операции, действительно выпускают открытые модели — но открытость весов тут гораздо менее важна, чем факт, что операции стоят за авторитарным государством, стремящимся обойти США на переднем крае технологий. Anthropic на своём уровне уже борется с этим, выявляя и блокируя аккаунты, замеченные в промышленной дистилляции — хотя это сложно: часто такие аккаунты можно идентифицировать только после того, как значительная часть дистилляции уже произошла, а злоумышленники создают множество фейковых аккаунтов, которые постоянно меняются.
Про тестирование. Лучший способ бороться со второй угрозой — прямо тестировать модели на кибер-, биологические риски и проблемы alignment перед релизом. Amodei называет эту идею почти консенсусной: администрация Трампа уже движется в эту сторону, а свежие отраслевые предложения предлагают применять такое тестирование к самым мощным моделям независимо от страны происхождения и от того, открыты они или закрыты (при этом менее мощные модели — например, от стартапов и университетов — полностью исключаются из-под требований). Важный нюанс: чтобы тестирование было эффективным, оно должно быть глобальным — то есть даже Компартия Китая должна быть частью этого процесса. Amodei считает это реалистичным: ограниченное сотрудничество вокруг предотвращения биологического оружия ИИ может состояться, потому что это в интересах и самого Китая.
Модульное обучение как путь к безопасности
Amodei упоминает, что есть перспективные методы повышения безопасности открытых моделей, включая недавние исследования Anthropic по модульным стратегиям обучения. Иными словами, вопрос не закрыт навсегда — открытость и безопасность не обязательно взаимоисключающие вещи.
В чём Anthropic не согласна с открытым письмом
Amodei пишет, что во многом согласен с открытым письмом индустрии: открытые веса расширяют доступ к AI-экономике, усиливают конкуренцию хотя бы для части сценариев использования и дают клиентам больше контроля. С опасениями про дистилляцию он тоже соглашается — но предлагает решать их через целевые правовые и коммерческие механизмы, а не через блокировку самой открытости.
Но есть пункт, где Amodei категорически не согласен: письмо утверждает, что открытые модели облегчают разработку защитных механизмов и что широкий доступ к возможностям модели в целом помогает защитникам больше, чем атакующим. Amodei считает, что как минимум одинаково вероятен и обратный сценарий. Пример, который он приводит: биология может оказаться сферой с сильной асимметрией «атакующий против защитника» — достаточно мощная модель способна быстро помочь создать оружие пандемического уровня из широко доступных материалов, тогда как защита от таких агентов — многолетняя операционная задача даже в лучшем случае (как показала Operation Warp Speed, программа разработки вакцин от COVID-19). Вывод Amodei: такие вопросы должны решаться эмпирически, через строгое тестирование перед релизом, а не предполагаться заранее в чью-то пользу.
Почему это важно для тебя как пользователя
Если ты не занимаешься политикой ИИ и просто изучаешь Claude Code и работу с моделями — этот спор всё равно касается тебя напрямую. От того, какие правила победят — блокировка чипов и тестирование или протекционистские запреты, — зависит, какие модели вообще будут доступны через несколько лет, насколько прозрачно они будут проверены на риски и насколько честной будет конкуренция между разработчиками ИИ.
Позиция Anthropic здесь довольно последовательна с тем, как компания в целом подходит к безопасности своих продуктов — вспомни хотя бы историю про расширение партнёрства с Cognizant или запуск Claude Opus 5: каждый шаг сопровождается разговором о рисках и тестировании, а не просто гонкой возможностей. Если ты хочешь глубже понимать логику таких заявлений и разбираться в терминах вроде «alignment» или «weights» без путаницы, полезно начать с базового словаря — или с бесплатного курса Zero2Claude с самых азов работы с Claude Code.
Частые вопросы
Anthropic хочет запретить открытые модели?
Нет. Дарио Амодеи прямо говорит: Anthropic никогда не выступала за запрет open-weights моделей как категории. Компания считает такие модели без опасных возможностей общественным благом.
Какие меры предлагает Anthropic вместо запрета?
Три конкретные вещи: не продавать мощные чипы и оборудование для их производства Китаю, бороться с промышленной дистилляцией и ввести обязательное тестирование безопасности для всех достаточно мощных моделей — открытых и закрытых.
Что такое дистилляция моделей и почему это проблема?
Дистилляция (distillation) — способ обучить меньшую модель, «извлекая» знания из более крупной. Это дешевле, чем обучение с нуля, и позволяет обходить ограничения на чипы, приближая возможности к передовым моделям без равного объёма вычислений.
Почему Anthropic не согласна с открытым письмом индустрии?
Anthropic не согласна с тем, что открытые модели автоматически облегчают защиту, а не атаку. В биологии, например, атакующий может получить преимущество быстрее, чем защитники успеют выстроить контрмеры — это должно проверяться тестами, а не приниматься на веру.
Источник
По мотивам статьи Anthropic «Our position on open-weights models». Пересказали по-русски для новичков.