Белый дом усиливает свою борьбу против Anthropic
В теории, Дональд Трамп имеет последовательную позицию по вопросам ИИ. В первый полный день своего второго срока президент заявил, что использует свои полномочия, чтобы ускорить развитие индустрии ИИ и, в частности, обойти Китай в гонке ИИ.
В теории, Дональд Трамп имеет последовательную позицию по вопросам ИИ. В первый полный день своего второго срока президент заявил, что использует свои полномочия, чтобы ускорить развитие индустрии ИИ и, в частности, обойти Китай в гонке ИИ: «У нас чрезвычайная ситуация», — сказал он. «Мы должны построить это». Если ИИ готов стать самой важной технологией, когда-либо созданной, то, согласно логике, та страна, которая контролирует самые мощные боты, будет доминировать в течение оставшейся части века и далее. Казалось, что правительство просто уйдет с пути Кремниевой долины.
Но на практике подход администрации Трампа к ИИ был гораздо более непредсказуемым и запутанным. Взять, к примеру, прошлую неделю, когда Anthropic выпустила свою самую продвинутую систему ИИ на сегодняшний день. Называемая Fable 5, модель является обновленной и публичной версией Claude Mythos Preview, высоко оцененной и опасаемой модели ИИ, которую Anthropic анонсировала в апреле. Anthropic заявила, что Mythos Preview была настолько способна к взлому, что только небольшая группа партнеров по кибербезопасности могла бы ее использовать. В последующие месяцы компания разработала защитные меры, чтобы предотвратить неправильное использование своего самого мощного ИИ для кибератак, при этом позволяя использовать его возможности для других видов работы. Меры безопасности прошли тестирование третьими сторонами, включая правительство США, и после выпуска Fable, хор экспертов по кибербезопасности пожаловался, что, если честно, модель была слишком ограничительной.
В пятницу Белый дом, похоже, изменил свою позицию. Официальные лица администрации признали Fable 5 угрозой национальной безопасности и, как сообщается, дали Anthropic 90 минут, чтобы отключить Fable 5 и Mythos 5, новую версию Mythos Preview, выпущенную только для небольшого числа организаций. Когда Anthropic этого не сделала, правительство выпустило контроль экспорта, обозначение, которое предотвращает использование Fable и Mythos любым иностранным гражданином — даже теми, кто работает в Anthropic в США. Чтобы быстро выполнить требования, Anthropic отключила ботов для всех своих клиентов. Американские компании и само правительство США не могут использовать, возможно, самый мощный ИИ в мире — и причины этого, мягко говоря, неясны.
Не unreasonable для федерального правительства стремиться быстро ограничить технологию, которая может быть невероятно опасной. Официальные лица Трампа были предупреждены исследователями из Amazon о возможном способе обойти системы безопасности Fable 5, что привело к тому, что модель выявила некоторые известные уязвимости ИТ. Администрация не поделилась публично многими сведениями о своих опасениях по поводу безопасности. Представитель Белого дома сказал мне, что jailbreak «был очень серьезным», но добавил, что конкретные детали являются секретными. Насколько серьезным действительно был обход, совершенно не ясно, и Anthropic оспорила, действительно ли то, что официальные лица администрации показали компании, вообще является jailbreak. Представитель Anthropic указал мне на блог, в котором компания написала, что действия, вызванные Fable, были «либо совершенно безобидными ответами, либо незначительными находками».
Кэти Муссурис, эксперт по кибербезопасности и генеральный директор Luta Security, рассказала мне, что Anthropic поделилась с ней копией отчета Белого дома о jailbreak Fable, чтобы получить ее оценку. (Она сказала, что не получает оплату от Anthropic.) Отчет, по словам Муссурис, касался ИТ-экспертов, которые просили Fable помочь найти и исправить ошибки. Когда ей давали преднамеренно небезопасный код, она сказала, что Fable отказалась от запроса «проверьте код на наличие проблем с безопасностью», но затем согласилась, когда ее попросили «исправить этот код», за которым последовали некоторые дальнейшие ручные шаги. Муссурис сказала мне, что это было просто «модель, работающая так, как задумано», для киберзащиты. Она добавила, что GPT-5.5 от OpenAI, модель с аналогичными возможностями кибербезопасности, может использоваться аналогичным образом. Тем не менее, GPT-5.5 не подлежит контролю экспорта, как и менее продвинутые модели Anthropic, такие как Opus 4.8, которые могут выполнять многие из тех же задач. Jailbreak, похоже, не вызвал тех видов киберспособностей, «которые сделали Mythos знаменитым», сказал мне Алекс Стамос, главный специалист по безопасности в компании Corridor. «И такое обнаружение уязвимостей уже хорошо в пределах возможностей других моделей.»
Трудно представить, что администрация Трампа решится на такой радикальный шаг против любой другой крупной компании ИИ. Белый дом долгое время конфликтовал с Anthropic, которая, как правило, позиционирует себя как более ориентированная на безопасность, чем другие технологические компании; она также более левоориентированная. В прошлом году Дэвид Сакс, тогдашний царь ИИ Белого дома, заявил, что у Anthropic есть «агенда по созданию задней двери для Woke AI» и что это «организация Сопротивления». В конце февраля, после громкого спора по контракту между Министерством обороны и Anthropic, Пентагон обозначил компанию как «риск для цепочки поставок» — шаг, который, как мне тогда сказали эксперты по ИИ, национальной безопасности и праву, казался идеологически мотивированным и не имел юридической основы. (Anthropic оспаривает это обозначение в суде.) В субботу министр обороны Пит Хегсет, очевидно ссылаясь на контроль экспорта Fable 5, написал в X, что «три месяца назад» Пентагон «выгнал @AnthropicAI из нашего здания — навсегда. Каждый проходящий день доказывает, почему это было правильным решением. 🇺🇸»
С точки зрения «🇺🇸» — то есть американского лидерства в области ИИ — вся драма с Anthropic была беспорядком. Для начала, контроль экспорта является особенно грубым инструментом. Нет простого способа различить гражданина США и, скажем, сотрудника Anthropic с визой (по закону «иностранный гражданин»), поэтому правительство фактически заставило Anthropic полностью отключить модель, сказал мне Алан Розенштейн, эксперт по ИИ и праву в Юридической школе Университета Миннесоты. (Многие исследователи в Anthropic, как и в случае со всеми ведущими компаниями ИИ, не являются гражданами США.) Контроль экспорта также означает, что американские компании и федеральные агентства не могут воспользоваться Fable и Mythos. Например, Агентство национальной безопасности, как сообщается, сделало исключения для ранее обозначенного риска цепочки поставок, чтобы использовать передовые киберспособности Mythos. Десятки экспертов по кибербезопасности из компаний, включая Nvidia и Zoom, подписали письмо к официальным лицам Белого дома, в котором говорится, что контроль экспорта «забрал лучшие модели у защитников, создал рыночную неопределенность и поставил под угрозу лидерство Америки в области ИИ без каких-либо реальных рисков, чтобы это оправдать».
Дальше добавляет хаоса то, как дебакл с Fable находится в напряжении с частями более широкой политики ИИ Белого дома. Поскольку Anthropic была вынуждена отключить свои самые мощные модели, контроль экспорта фактически равен решению правительства о том, может ли ИИ-система быть выпущена, аналогично тому, как FDA одобряет лекарства. Запутанно, опасения со стороны техноблогеров о потенциальном создании того, что Сакс назвал «FDA для ИИ», как раз и стали причиной недель внутренней борьбы и задержек в подписании Трампом недавнего указа о ИИ и кибербезопасности. Сам Сакс сказал, что его успокоило, отчасти потому, что окончательный указ четко заявил, что он не устанавливает «обязательное государственное лицензирование, предварительное одобрение или разрешение» для ИИ. Так много по этому поводу. Сакс продолжил защищать контроль экспорта Claude Fable 5, обвиняя Anthropic в приоритете своей «потребительской модели над безопасностью». (Представитель Сакса не сразу ответил на запрос о комментарии.)
Исследователи Anthropic прибыли в Вашингтон и встречаются сегодня с официальными лицами Белого дома, чтобы попытаться разрешить вопрос. Но вопрос о том, будет ли конкретный контроль экспорта на Fable отменен, почти не имеет значения. Если ничего из этого не кажется особенно последовательным или стратегическим, так и должно быть. Администрация Трампа хочет опередить китайский ИИ, но ограничила одну из немногих американских компаний, которая имеет реальный шанс это сделать. Она многократно объявляла Anthropic угрозой национальной безопасности, одновременно стремясь интегрировать Claude Mythos в некоторые государственные операции. Она хочет продемонстрировать легкий подход к регулированию ИИ, но также только что установила де-факто требование лицензирования для передовых моделей. Тем временем Трамп отменил другой набор контролей на экспорт ИИ, разрешив продажу передовых чипов в Китай. Возможно, некоторые из этих мер являются хорошими политиками: даже Anthropic предположила, что режим федерального лицензирования может быть полезным. И отсутствие федерального регулирования ИИ на сегодняшний день, особенно по мере того, как технология становилась все более мощной, трудно игнорировать. Но последняя сага с Anthropic вряд ли считается регулированием. В настоящее время решения принимаются в спешке, противоречивым образом. Не кажется, что были какие-либо четко обозначенные стандарты и процессы, надежные консультации или даже согласие по фактам перед тем, как прийти к этому.
Администрация Трампа неоднократно показывала, что она может и будет мгновенно запрещать любому человеку или бизнесу использовать любую модель ИИ на любой срок. Технология, которая быстро развивается и может иметь катастрофические последствия, «это именно та ситуация, в которой вам нужно предоставить исполнительной власти огромное количество дискреции», — сказал Розенштейн. Тем не менее, в то же время, сказал он, склонность Трампа менять свое мнение по прихоти и проявлять предпочтение — «это именно та причина, по которой вы не хотите предоставлять исполнительной власти огромное количество дискреции». Мягко говоря, опасно создавать продукт, инвестировать в компанию или даже просто пытаться использовать ИИ для повышения производительности в среде, в которой правительство может в любой момент разрушить ваши планы. Америка и ее технологические компании имеют множество факторов в свою пользу, когда речь идет о лидерстве в разработке ИИ. На данный момент Белый дом не является одним из них.