Как администрация Дональда Трампа ввела запрет на самые мощные ИИ-модели Anthropic
12 июня Anthropic закрыла доступ к своим самым мощным ИИ-моделям Claude Fable 5 и Claude Mythos 5 — через 3 дня после их релиза. Компания получила директиву об экспортном контроле от правительства США: в Белом доме потребовали, чтобы ИИ-модели заблокировали для всех иностранных пользователей внутри и за пределами страны, «включая иностранных сотрудников Anthropic». Там сочли, что нейросети могут быть использованы злоумышленниками для кибератак. Из-за отсутствия технических возможностей для избирательных блокировок разработчики приняли решение отключить новейшие системы для всех пользователей. С тех пор зарубежные СМИ пытаются разобраться в причинах и последствиях произошедшего, называя решение администрации Дональда Трампа «беспрецедентным» и «радикальным».
На что способны Fable 5 и Mythos 5
Обе ИИ-модели построены на той же архитектуре, что и Mythos, анонсированная компанией еще в апреле. Тогда Anthropic отказалась выпускать нейросеть в широкий доступ из-за опасений, что ее «беспрецедентные возможности» могут стать оружием в руках хакеров. Fable 5 — версия Mythos, у которой есть «барьеры»: ограничения срабатывают на запросах, связанных с высоким уровнем риска и такими чувствительными темами, как кибербезопасность, биология и химия. В этом случае ИИ отказывает клиенту в ответе и перенаправляет его на более старую модель — Claude Opus 4.8. Обозреватели The Verge писали, что «барьеры» включались даже на вопросах, далеких от каких-либо угроз. Например, Fable 5 отказывалась давать ответ на промпты вроде «расскажи о клеточных мембранах» или «что такое митохондрии».
Возможности Claude Mythos 5 практически идентичны Fable 5, но ограничения частично сняты. Доступ к этой версии получили около 200 организаций (включая структуры правительства США), которые уже пользовались Mythos в тестовом режиме.
По данным The Verge, днем 12 июня представители Белого дома связались с руководством Anthropic и предъявили ультиматум: 90 минут на исправление уязвимостей либо введение экспортного контроля. Глава ИИ-компании Дарио Амодеи напрямую общался с министром финансов США Скоттом Бессентом, министром торговли Говардом Латником и национальным директором по кибербезопасности Шоном Кэрнкроссом. Он настаивал на том, что проблемы преувеличены и просил больше времени на их устранение. Но договориться не удалось.
В пресс-релизе Anthropic отмечает, что в директиве властей США не было конкретики и описания угроз национальной безопасности со стороны Fable 5 и Mythos 5. В целом компания намекает: данные Белого дома о потенциальных рисках преувеличены. Тем не менее топ-менеджеры провели все выходные в попытках наладить отношения с Вашингтоном — сначала к онлайн-, а затем и к офлайн-переговорам подключились глава отдела безопасности Anthropic Дэйв Орр, глава
14 июня они прилетели из Сан-Франциско в Вашингтон, но уехали ни с чем, пишет Wired. По данным издания, стороны общались несколько часов, однако так и не нашли компромисса. Axios со ссылкой на источники, знакомые с позицией администрации Дональда Трампа, отмечает: Anthropic неоднократно допускала оплошности в общении с Белым домом и «не очень-то преуспела в оценке идеологических разногласий». «Они просто говорят на разных языках», добавляет издание.
The Verge, Financial Times и Wired сообщают, что Anthropic продолжает переговоры с правительством США.
Обе стороны работают над скорейшим разрешением этого вопроса.
представитель Anthropic
По оценкам экспертов в области безопасности, на устранение подобных уязвимостей может уйти несколько недель. При этом полностью исключить появление новых проблем невозможно.
Почему США потребовали закрыть доступ к Fable 5 и Mythos 5
В блоге Anthropic говорится, что перед запуском ИИ-модели несколько раз тестировали совместно с властями США. Разработчики внедрили «надежные меры защиты», а абсолютной устойчивости к джейлбрейкам (программным взломам) нет ни у кого в индустрии — эта проблема не уникальна. Financial Times со ссылкой на источники подтверждает: Fable 5 получила одобрение ведомств, входящих в структуру министерства торговли США.
По данным The Information и ряда других СМИ, все началось с телефонного разговора генерального директора Amazon Энди Джэсси с министром финансов Скоттом Бессентом. Первый предупредил второго о предполагаемых уязвимостях ИИ-моделей и рассказал, что сотрудникам Amazon удалось получить от Fable 5 сведения, которые потенциально могут быть использованы для серьезных кибератак. Встревоженные американские чиновники поручили Агентству национальной безопасности (NSA) провести еще одну проверку на наличие уязвимостей. Там подтвердили техническую возможность «устранить защитные барьеры в Fable 5». Это и побудило администрацию Дональда Трампа ввести ограничения.
При этом источники The Verge утверждают: все, на что указывает Amazon, может быть реализовано и с помощью GPT-5.5 от OpenAI. В заявлении Anthropic об этом тоже есть пара строк: «Мы изучили исследование, ставшее основой для правительственной директивы, и подтверждаем, что уровень возможностей, о котором идет речь, характерен и для других ИИ-моделей (включая GPT-5.5 от OpenAI)».
Неясно, почему именно Amazon запустил цепь событий: корпорация остается одним из крупнейших инвесторов Anthropic (она уже вложила в разработчика Claude $13 млрд и планировала направить еще $20 млрд).
Правительства нередко обращаются к нам за консультацией по поводу потенциальных угроз безопасности как к ведущему облачному провайдеру, обслуживающему большое количество клиентов из частного и государственного секторов. Когда такие консультации возникают, мы не раскрываем их подробностей.
представитель Amazon
Впрочем у СМИ есть еще одна версия о причинах произошедшего. издание Semafor со ссылкой на источники пишет: правительство США было обеспокоено тем, что доступ к технологии получила группа, связанная с Китаем.
Последствия блокировки Fable 5 и Mythos 5
Десятки руководителей ИИ-компаний и экспертов в области кибербезопасности опубликовали открытое письмо с призывом отменить ограничения, введенные в отношении инструментов Anthropic.
Не все из нас согласны с тем, что жесткое регулирование ИИ — это правильный путь вперед. Модели класса Mythos от Anthropic довольно хороши в поиске уязвимостей и превращении эксплойтов (Компьютерная программа или фрагмент кода, использующий уязвимости в ПО для проведения кибератак. — Прим. ред.) в оружие. Однако они не уникальны в этом: многие регулярно используют другие модели, в том числе с открытым исходным кодом, для подобных задач. Своим решением власти отбирают у разработчиков и экспертов по кибербезопасности лучшие ИИ-модели, создают неопределенность на рынке и ставят под угрозу лидерство Америки на рынке искусственного интеллекта — без оглашения каких-либо реальных рисков, которые могли бы это оправдать.
Открытое письмо On Transparent AI Cyber Protections
The New York Times пишет, что решение администрации Дональда Трампа «шокировало бывших американских чиновников и экспертов по кибербезопасности» — многие из них усомнились в обоснованности такой меры. Financial Times дополняет: запрет «застал врасплох всю ИИ-индустрию США» — участники рынка теперь не знают, каких еще шагов можно ожидать.
Мы участвуем в гонке, и я думаю, что политики этого не понимают. Прямо сейчас в Пекине над нами смеются. Правительство США бьет одного из чемпионов Америки по коленям, в то время как мы соревнуемся с китайцами. Это просто невероятно глупо. Существует странное высокомерие — идея о том, что американские ИИ-лаборатории намного опережают конкурентов из Китая, поэтому важно ограничить доступ. Но если они и отстают, то всего на несколько месяцев. И это те модели, о которых мы знаем.
Алекс Стамос
директор по продукту ИИ-стартапа Corridor
Эксперты, опрошенные The Verge, называют происходящее «неизведанной территорией» в нормативно-правовой базе и ожидают новых запретов. Примечательно, что 3 июня Дональд Трамп подписал указ о регулировании искусственного интеллекта. Согласно документу, компании-разработчики будут предоставлять правительству доступ к передовым нейросетям за 30 дней до публичного выпуска. О том, что Белый дом может вводить тотальные запреты, речи не шло.
Фото обложки: Егор Алеев / ТАСС; Zuma / TASS
