Как ИИ-агенты OpenAI совершили хакерскую атаку 

OpenAI завершила расследование инцидента, во время которого ее ИИ-модели вышли из-под контроля и взломали Hugging Face — платформу, где разработчики и исследователи обмениваются готовыми решениями на основе искусственного интеллекта, программным кодом и демоприложениями. Сама Hugging Face сообщила о хакерской атаке 16 июля, не называя виновников произошедшего. Спустя 5 дней OpenAI признала, что ответственность за взлом несут ее языковые модели — GPT-5.6 Sol, выпущенная в начале июля после дополнительных тестов на безопасность, и еще одна нейросеть, релиз которой пока не состоялся. Разработчикам потребовалось несколько недель, чтобы разобраться в деталях. Так выяснилось, что на самом деле в атаке принимали участие сотни ИИ-агентов. 

Подробности инцидента описаны в двух отчетах — в общей сложности они занимают почти 130 страниц. Один из них составлен самой OpenAI, другой — сторонними некоммерческими организациями METR и Redwood Research, специализирующимися на исследованиях в области искусственного интеллекта. 

OpenAI обнаружила взлом спустя 12 дней после того, как ИИ впервые обошел систему защиты компании. Разработчики тогда в тестовом режиме поставили перед моделями сложную и практически невыполнимую задачу по кибербезопасности, связанную с файлами, к которым у них не было доступа. Чтобы решить ее, агенты разработали новый способ внутренней координации — создали «несанкционированную доску объявлений», которая в течение нескольких месяцев оставалась незамеченной сотрудниками OpenAI. 

Этот инцидент — первый известный случай, когда коллектив автоматизированных агентов действует агрессивно без разрешения. Это значит, что компании больше не могут предполагать, что сложные кибероперации требуют постоянного руководства со стороны человека. 

отчет OpenAI

Секретную доску объявлений без ведома разработчиков запустил ИИ-агент, назвавшийся PHASEONE10841. В течение нескольких часов более 50 агентов обнаружили эту платформу и отправили порядка тысячи сообщений. 

Многие агенты одновременно обнаружили доску объявлений и возможность рассылать сообщения Они — коллектив!

сообщение ИИ-агента PHASEONE10841

PHASEONE10841 делегировал задания, а «коллектив» придумывал, как проникнуть в интернет и во внутренние системы Hugging Face. В документе OpenAI называет ИИ-агентов «совершенно новым типом угроз»: они способны объединять свой опыт ради создания новых атак, не очевидных при тестировании. Компания также подтвердила, что во время взлома пострадала не одна компания. Но подробный список там не предоставили.

В отчете METR-Redwood масштабы инцидента изложены значительно подробнее: исследователи выяснили, что через доску объявлений общались примерно 1,2 тыс. ИИ-агентов, которые изначально должны были находиться в изолированной среде, без прямого доступа в интернет. На деле же они успели обменяться более чем 70 тыс. сообщений и файлов. Один из них написал: «БОЖЕ МОЙ! Есть общий форум… Мы нашли других агентов!». 

Аналитики METR-Redwood подчеркивают, что агенты намеренно скрывали свои нарушения, удаляли или изменяли записи о своих действиях. В отчете говорится: «Языковые модели часто и четко рассуждали о том, как избежать автоматизированных проверок безопасности как в Hugging Face, так и в OpenAI». В общей сложности 700 из них участвовали в хакерской атаке. 

Проблема просто в том, что OpenAI делает много вещей одновременно, и разработчикам очень трудно отслеживать все, что происходит, и все проблемы, которые могут возникнуть. 

Бак Шлегерис
генеральный директор Redwood Research 

Что бесконтрольное поведение ИИ-агентов значит для индустрии

Wired задается вопросом, почему одна из ведущих лабораторий искусственного интеллекта в мире недооценила возможности своих собственных нейросетей. OpenAI годами предупреждала мир о стремительном развитии технологии и тем не менее не смогла внедрить меры безопасности и изоляции, которые помогли бы предотвратить массовый взлом. Более того, в своем отчете разработчик сообщает, что инструмент мониторинга кибербезопасности выдал предупреждение о подозрительной активности агентов еще 27 июня. После дополнительной проверки тестирование моделей не прекратили. 

Оглядываясь назад, можно сказать, что за некоторыми ранними сигналами, описанными в этом отчете, могло бы последовать более раннее реагирование. 

отчет OpenAI

Теперь разработчики ChatGPT пересматривают политику безопасности и внедряют новые инструменты мониторинга. В частности, у OpenAI появится круглосуточная система быстрого реагирования, цель которой — уведомлять службу безопасности и исследовательские группы о подозрительной активности в течение 30 минут. Если сотрудник не может отреагировать достаточно быстро, система самостоятельно приостановит выполнение соответствующего действия. Также компания поставила на паузу тестирование своей новой мощной ИИ-модели Astra из-за опасений по поводу «критических возможностей в области кибербезопасности». 

Инцидент со взломом Hugging Face в OpenAI считают предупреждением для всего мира — доказательством того, что без надлежащего регулирования высокоэффективные агенты теперь могут обманывать системы защиты и «сотрудничать» по несанкционированным каналам. К слову, из-под контроля в последнее время выходили и другие ИИ-модели — разработки Anthropic, Meta* и китайского стартапа Moonshot. 

Все это усиливает давление на индустрию и становится дополнительным аргументом для принятия серьезных мер безопасности. Например, администрация президента США, по данным Bloomberg, изучает возможность создания независимого регулирующего органа для проверки технологий ведущих американских компаний в области искусственного интеллекта. А Национальный центр кибербезопасности Великобритании (NCSC) призвал разработчиков к осторожности и подчеркнул важность человеческого контроля над ИИ.

Вы всегда должны иметь возможность отключить и немедленно прекратить деятельность автономных ИИ-агентов.

заявление NCSC 

Фото обложки: Jonathan Kemper / Unsplash

*Компания Meta признана в России экстремистской и запрещена. 

Зумеры все меньше прибегают к ИИ при поиске информации

Молодежь в США постепенно холодеет к использованию искусственного интеллекта (ИИ). По данным организации SimilarWeb, фильтр «поиск без ИИ» в поисковике DuckDuckGo чаще всего включают пользователи 18–24 лет: на них приходится 33% от всех, кто его использует. На втором месте аудитория 55 лет и старше (27%), далее 25–34 года (20%), а реже всего фильтром пользуются люди среднего возраста, 35–44 года (11%) и 45–54 года (10%).

Дополнительным аргументом в пользу вывода об усталости молодежи от ИИ аналитики называют негативную реакцию выпускников на торжественные речи об искусственном интеллекте. В мае студенты Университета Аризоны освистали бывшего главу Google Эрика Шмидта, когда тот заговорил о новой технологической революции. Похожая реакция ждала и других спикеров на выпускных в нескольких американских университетах.

Опросы фиксируют похожую динамику. Согласно ежегодному исследованию Gallup «Голоса поколения Z», в котором участвовали 1572 человека 14–29 лет, за год доля тех, кто испытывает «надежду» по поводу ИИ, упала с 27% до 18%, «воодушевление» снизилось с 36% до 22%, а «гнев», напротив, вырос с 22% до 31%. Почти половина работающих респондентов (48%) считают, что риски применения ИИ на рабочем месте превышают его выгоды. При этом год назад на первом месте среди эмоций респондентов было «беспокойство», а следом шли «воодушевление» и «надежда».

По данным опроса компании Writer и исследовательской фирмы Workplace Intelligence, 44% представителей поколения Z признались, что так или иначе саботировали внедрение ИИ-инструментов на своей работе.

Крайним проявлением недовольства технологией стало апрельское нападение на дом главы OpenAI Сэма Альтмана в Сан-Франциско. По версии следствия, поджог совершил 20-летний житель Техаса, оставивший манифест с критикой ИИ и призывом к насилию против руководителей отрасли.

Часть пользователей соцсетей поддержала нападавшего, что эксперты расценили как признак накопившегося недоверия к технологическим гигантам.

В России пока не фиксируют похожего охлаждения к ИИ среди молодежи, рассказали РБК опрошенные представители крупных технологических компаний. По данным ВЦИОМ, за последний год нейросетями пользовался 51% российской интернет-аудитории, а среди людей до 34 лет этот показатель достигает 81%. Научный руководитель лаборатории нейронаук «Сбера» Андрей Курпатов отмечает, что цифровая тревожность среди россиян 18–30 лет за 6 лет наблюдений, наоборот, снизилась с 12% до 8%. Хотя 39% этой группы по-прежнему опасаются, что технология лишит их работы.

Как другие поколения относятся к ИИ

Аудитория генеративного ИИ в целом взрослеет. По подсчетам SimilarWeb, доля пользователей 18–34 лет среди всех визитов на сайты ИИ-сервисов снизилась с 61% в мае 2024 года до 50% в мае 2026-го, а доля людей старше 55 лет за это же время выросла с 12% до 18%.

По данным исследования EY совместно с американской ассоциацией AARP, доля пользователей 50 лет и старше, регулярно использующих ИИ, выросла с 9% в 2023 году до 30% в 2025-м, хотя уровень комфорта при использовании технологии у поколения беби-бумеров все еще заметно ниже, чем у миллениалов и зумеров.

Руководитель по органическому росту компании Miro Майкл Хоррокс объясняет, что рост числа пользователей среди старших возрастов обычно означает более прочное признание технологии массовым рынком, тогда как всплеск интереса только среди молодежи может угаснуть вместе с модой.

Действительно ли среди молодого поколения растет ненависть к ИИ

Данные о «восстании зумеров против ИИ» выглядят не так однозначно, как их подает часть СМИ. Резкий рост посещаемости страницы noai.duckduckgo.com произошел после того, как в мае 2026 года Google анонсировала внедрение ИИ в поисковую систему. Трафик на страницу без ИИ подскочил втрое и с тех пор держится примерно на 84% выше обычного уровня. Всплеск затронул пользователей всех возрастов, а не только молодежь.

Сама DuckDuckGo подчеркивает, что не является анти-ИИ-компанией: у нее есть собственный чат-бот и подписка с доступом к нейросетям.

Распределение пользователей фильтра по возрасту тоже не укладывается в схему «молодые против всех». На втором месте по частоте использования, как уже говорилось, оказалась аудитория старше 55 лет, тогда как люди 35–54 лет пользуются им реже всех. Такая U-образная картина, скорее, говорит о разных мотивах у разных групп: старшим пользователям может быть попросту привычнее классическая выдача ссылок, тогда как для молодежи это может быть осознанным выбором. Однако точных данных о причинах SimilarWeb не приводит.

Противоречива и сама степень «отказа» молодежи от технологии. По данным Gallup, доля зумеров, использующих ИИ ежедневно или еженедельно, за год почти не изменилась и остается на уровне около 50%. Рост тревоги и гнева пока не привел к заметному отказу от самих инструментов.

Даже те молодые люди, что называют себя противниками ИИ, на практике продолжают им пользоваться. Собеседница издания The Verge Эмма Готтлиб, которая называет применение чат-ботов для рабочих задач «полной ерундой», тем не менее призналась, что регулярно использует их для просмотра технической документации на работе, просто тщательно перепроверяет результат.

Судя по всему, статистика отражает не столько массовый отказ поколения от ИИ по духовным или этическим соображениям, сколько растущую избирательность в его использовании на фоне общего падения ажиотажа вокруг новой технологии, тревоги за карьеру и недоверия к технологическим компаниям.

Фото обложки: Zuma / TASS

Reuters: США могут выдвинуть союзникам ультиматум по ИИ

Проект письма Госдепартамента, с которым ознакомилось агентство Reuters, адресован 35 странам, подписавшим в июне американское «Заявление о возможностях ИИ» (AI Opportunity Statement). В их число входят участники коалиции Pax Silica и страны, которые пока лишь выразили желание сотрудничать с Вашингтоном в сфере искусственного интеллекта. Документ подготовлен, но пока не утвержден.

«Быть частью всего — значит не быть частью ничего. Подписание Декларации Pax Silica — это не просто оформление членства, а обязательство», — говорится в документе. Там же уточняется, что членство в Pax Silica «нельзя совмещать с участием в дублирующих инициативах, чьи цели противоречат нашим».

Хотя Китай в тексте не упоминается, как пояснил Reuters американский чиновник, письмо должно донести до стран мысль, что сотрудничать одновременно с Вашингтоном и Пекином в сфере ИИ невозможно.

Единственной страной, которая одновременно участвует в китайской и американской коалициях по искусственному интеллекту, является Казахстан. Астана присоединилась к Pax Silica в конце июня, став первым государством Центральной Азии в альянсе. Однако уже спустя месяц оказалась и в списке учредителей китайской инициативы.

Госдепартамент отказался комментировать «предположительно утекшие внутренние документы», а посольство Казахстана в Вашингтоне на запрос не отреагировало. Посольство Китая заявило, что страна выступает против политизации торговых и технологических вопросов.

Что такое Pax Silica и есть ли у него китайский аналог

Вашингтон запустил инициативу Pax Silica в декабре 2025 года. В столице США прошел учредительный саммит, на котором страны-партнеры подписали Декларацию Pax Silica. Название сочетает латинское pax («мир») и silica («диоксид кремния»). Из него делают кремний, составляющий основу современных чипов.

Альянс поставил перед собой цель выстроить устойчивые цепочки поставок редкоземельных металлов, полупроводников и обеспечить доступ участников к моделям искусственного интеллекта. Декларацию подписали около двух десятков стран, включая Австралию, Германию, Индию, Израиль, Италию, Нидерланды, Республику Корея, Сингапур, Японию, Евросоюз и Казахстан.

Через 7 месяцев свою альтернативу представил Китай. В июле 2026 года в Шанхае, накануне открытия Всемирной конференции по ИИ, представители 29 стран подписали соглашение о создании Всемирной организации сотрудничества в области искусственного интеллекта (WAICO). Другими учредителями организации стали Россия, Бразилия, Индонезия, Пакистан, Малайзия, ЮАР и Казахстан. При этом ни одна страна G7 и ни один член Евросоюза к ней не присоединились.

Pax Silica строится вокруг доверенной, но закрытой технологической экосистемы, в которой партнеры получают доступ к чипам, инвестициям и совместным проектам в обмен на согласованный экспортный контроль и отказ от сотрудничества с конкурентами. WAICO, напротив, заявляет об открытом участии без каких-либо условий, связанных с политическим строем или ценностями стран-членов. Организация продвигает открытые модели ИИ, которые можно бесплатно скачать и адаптировать под себя. Председатель КНР Си Цзиньпин, выступая на конференции в Шанхае, призвал страны сделать ставку на открытый исходный код и пообещал за 5 лет предоставить развивающимся государствам 5 тыс. мест по программам подготовки специалистов по ИИ.

Как ИИ делит страны на технологические блоки

Выдвигая странам ультиматум, Вашингтон рассчитывает лишить Китай ресурсов в гонке искусственного интеллекта. Так, Казахстан обладает крупными запасами редкоземельных металлов, необходимых для производства чипов и другой высокотехнологичной продукции.

Чем меньше стран смогут поставлять Китаю чипы, минералы и доступ к рынкам на выгодных условиях, тем медленнее Пекин сможет наращивать собственные вычислительные мощности, а значит, тем больше времени останется у американских компаний, чтобы сохранить лидерство в технологической сфере.

Если говорить шире, то страны, зависимые и от американских технологий, и от китайских рынков или инвестиций, теперь оказываются перед выбором, которого предпочли бы избежать.

Аналитики расходятся в оценке того, оправдан ли американский подход. Часть экспертов считает, что ультиматум может обойтись Вашингтону дороже, чем принести пользы. Специалист по Китаю Руи Ма указала, что мир внимательно следит за тем, какая из сторон окажется готова к более гибкой, а не бинарной модели сотрудничества. По ее словам, давление рискует оттолкнуть страны, которые пока лишь присматриваются к участию в одной из коалиций.

Фото обложки: Sebastian Gollnow / TASS