Anthropic ограничила доступ к передовым ИИ-моделям по требованию властей США

Власти США обязали американскую компанию Anthropic закрыть доступ к своим самым продвинутым моделям искусственного интеллекта для иностранных пользователей. Об этом компания сообщила в заявлении на своем сайте. Ограничения затронули модели Claude Fable 5 и Mythos 5.

• В компании уточнили, что доступ будет закрыт не только для пользователей за пределами США, но и для иностранных граждан, находящихся в стране, включая сотрудников самой Anthropic. При этом остальные модели продолжат работать без ограничений.
• В компании отметили, что американские власти не объяснили причины введения ограничений. Перед запуском модели Fable 5 Anthropic провели тысячи часов тестирования совместно с регуляторами США. В компании предполагают, что решение может быть связано с уязвимостью к так называемым джейлбрейкам — попыткам обойти защитные ограничения (программный взлом). При этом подчеркивается, что полностью защищенных от подобных атак моделей в отрасли сейчас нет.
• Claude Fable 5 считается самой мощной публичной моделью компании. Она превосходит предыдущие версии по ряду направлений, включая программирование, анализ данных, работу с изображениями и научные задачи и рассчитана на сложные задачи рассуждения и длительные автономные сценарии.
• Ранее в администрации США уже возникали вопросы к новым разработкам Anthropic. В мае обсуждалась модель Claude Mythos, которую, по словам вице-президента Джей Ди Вэнса, гипотетически можно использовать для кибератак на банки и больницы. В итоге компания отказалась выводить ее в открытый доступ.
• На фоне стремительного прогресса искусственного интеллекта споры о связанных с ним рисках усиливаются и внутри отрасли. Недавно сооснователь Anthropic Джек Кларк и глава исследовательского направления Марина Фаваро опубликовали материал с призывом замедлить развитие технологий из-за угрозы потери контроля над системами, которые могут начать самосовершенствоваться без участия человека.