Как ИИ-агенты OpenAI совершили хакерскую атаку 

OpenAI завершила расследование инцидента, во время которого ее ИИ-модели вышли из-под контроля и взломали Hugging Face — платформу, где разработчики и исследователи обмениваются готовыми решениями на основе искусственного интеллекта, программным кодом и демоприложениями. Сама Hugging Face сообщила о хакерской атаке 16 июля, не называя виновников произошедшего. Спустя 5 дней OpenAI признала, что ответственность за взлом несут ее языковые модели — GPT-5.6 Sol, выпущенная в начале июля после дополнительных тестов на безопасность, и еще одна нейросеть, релиз которой пока не состоялся. Разработчикам потребовалось несколько недель, чтобы разобраться в деталях. Так выяснилось, что на самом деле в атаке принимали участие сотни ИИ-агентов. 

Подробности инцидента описаны в двух отчетах — в общей сложности они занимают почти 130 страниц. Один из них составлен самой OpenAI, другой — сторонними некоммерческими организациями METR и Redwood Research, специализирующимися на исследованиях в области искусственного интеллекта. 

OpenAI обнаружила взлом спустя 12 дней после того, как ИИ впервые обошел систему защиты компании. Разработчики тогда в тестовом режиме поставили перед моделями сложную и практически невыполнимую задачу по кибербезопасности, связанную с файлами, к которым у них не было доступа. Чтобы решить ее, агенты разработали новый способ внутренней координации — создали «несанкционированную доску объявлений», которая в течение нескольких месяцев оставалась незамеченной сотрудниками OpenAI. 

Этот инцидент — первый известный случай, когда коллектив автоматизированных агентов действует агрессивно без разрешения. Это значит, что компании больше не могут предполагать, что сложные кибероперации требуют постоянного руководства со стороны человека. 

отчет OpenAI

Секретную доску объявлений без ведома разработчиков запустил ИИ-агент, назвавшийся PHASEONE10841. В течение нескольких часов более 50 агентов обнаружили эту платформу и отправили порядка тысячи сообщений. 

Многие агенты одновременно обнаружили доску объявлений и возможность рассылать сообщения Они — коллектив!

сообщение ИИ-агента PHASEONE10841

PHASEONE10841 делегировал задания, а «коллектив» придумывал, как проникнуть в интернет и во внутренние системы Hugging Face. В документе OpenAI называет ИИ-агентов «совершенно новым типом угроз»: они способны объединять свой опыт ради создания новых атак, не очевидных при тестировании. Компания также подтвердила, что во время взлома пострадала не одна компания. Но подробный список там не предоставили.

В отчете METR-Redwood масштабы инцидента изложены значительно подробнее: исследователи выяснили, что через доску объявлений общались примерно 1,2 тыс. ИИ-агентов, которые изначально должны были находиться в изолированной среде, без прямого доступа в интернет. На деле же они успели обменяться более чем 70 тыс. сообщений и файлов. Один из них написал: «БОЖЕ МОЙ! Есть общий форум… Мы нашли других агентов!». 

Аналитики METR-Redwood подчеркивают, что агенты намеренно скрывали свои нарушения, удаляли или изменяли записи о своих действиях. В отчете говорится: «Языковые модели часто и четко рассуждали о том, как избежать автоматизированных проверок безопасности как в Hugging Face, так и в OpenAI». В общей сложности 700 из них участвовали в хакерской атаке. 

Проблема просто в том, что OpenAI делает много вещей одновременно, и разработчикам очень трудно отслеживать все, что происходит, и все проблемы, которые могут возникнуть. 

Бак Шлегерис
генеральный директор Redwood Research 

Что бесконтрольное поведение ИИ-агентов значит для индустрии

Wired задается вопросом, почему одна из ведущих лабораторий искусственного интеллекта в мире недооценила возможности своих собственных нейросетей. OpenAI годами предупреждала мир о стремительном развитии технологии и тем не менее не смогла внедрить меры безопасности и изоляции, которые помогли бы предотвратить массовый взлом. Более того, в своем отчете разработчик сообщает, что инструмент мониторинга кибербезопасности выдал предупреждение о подозрительной активности агентов еще 27 июня. После дополнительной проверки тестирование моделей не прекратили. 

Оглядываясь назад, можно сказать, что за некоторыми ранними сигналами, описанными в этом отчете, могло бы последовать более раннее реагирование. 

отчет OpenAI

Теперь разработчики ChatGPT пересматривают политику безопасности и внедряют новые инструменты мониторинга. В частности, у OpenAI появится круглосуточная система быстрого реагирования, цель которой — уведомлять службу безопасности и исследовательские группы о подозрительной активности в течение 30 минут. Если сотрудник не может отреагировать достаточно быстро, система самостоятельно приостановит выполнение соответствующего действия. Также компания поставила на паузу тестирование своей новой мощной ИИ-модели Astra из-за опасений по поводу «критических возможностей в области кибербезопасности». 

Инцидент со взломом Hugging Face в OpenAI считают предупреждением для всего мира — доказательством того, что без надлежащего регулирования высокоэффективные агенты теперь могут обманывать системы защиты и «сотрудничать» по несанкционированным каналам. К слову, из-под контроля в последнее время выходили и другие ИИ-модели — разработки Anthropic, Meta* и китайского стартапа Moonshot. 

Все это усиливает давление на индустрию и становится дополнительным аргументом для принятия серьезных мер безопасности. Например, администрация президента США, по данным Bloomberg, изучает возможность создания независимого регулирующего органа для проверки технологий ведущих американских компаний в области искусственного интеллекта. А Национальный центр кибербезопасности Великобритании (NCSC) призвал разработчиков к осторожности и подчеркнул важность человеческого контроля над ИИ.

Вы всегда должны иметь возможность отключить и немедленно прекратить деятельность автономных ИИ-агентов.

заявление NCSC 

Фото обложки: Jonathan Kemper / Unsplash

*Компания Meta признана в России экстремистской и запрещена. 

Зумеры все меньше прибегают к ИИ при поиске информации

Молодежь в США постепенно холодеет к использованию искусственного интеллекта (ИИ). По данным организации SimilarWeb, фильтр «поиск без ИИ» в поисковике DuckDuckGo чаще всего включают пользователи 18–24 лет: на них приходится 33% от всех, кто его использует. На втором месте аудитория 55 лет и старше (27%), далее 25–34 года (20%), а реже всего фильтром пользуются люди среднего возраста, 35–44 года (11%) и 45–54 года (10%).

Дополнительным аргументом в пользу вывода об усталости молодежи от ИИ аналитики называют негативную реакцию выпускников на торжественные речи об искусственном интеллекте. В мае студенты Университета Аризоны освистали бывшего главу Google Эрика Шмидта, когда тот заговорил о новой технологической революции. Похожая реакция ждала и других спикеров на выпускных в нескольких американских университетах.

Опросы фиксируют похожую динамику. Согласно ежегодному исследованию Gallup «Голоса поколения Z», в котором участвовали 1572 человека 14–29 лет, за год доля тех, кто испытывает «надежду» по поводу ИИ, упала с 27% до 18%, «воодушевление» снизилось с 36% до 22%, а «гнев», напротив, вырос с 22% до 31%. Почти половина работающих респондентов (48%) считают, что риски применения ИИ на рабочем месте превышают его выгоды. При этом год назад на первом месте среди эмоций респондентов было «беспокойство», а следом шли «воодушевление» и «надежда».

По данным опроса компании Writer и исследовательской фирмы Workplace Intelligence, 44% представителей поколения Z признались, что так или иначе саботировали внедрение ИИ-инструментов на своей работе.

Крайним проявлением недовольства технологией стало апрельское нападение на дом главы OpenAI Сэма Альтмана в Сан-Франциско. По версии следствия, поджог совершил 20-летний житель Техаса, оставивший манифест с критикой ИИ и призывом к насилию против руководителей отрасли.

Часть пользователей соцсетей поддержала нападавшего, что эксперты расценили как признак накопившегося недоверия к технологическим гигантам.

В России пока не фиксируют похожего охлаждения к ИИ среди молодежи, рассказали РБК опрошенные представители крупных технологических компаний. По данным ВЦИОМ, за последний год нейросетями пользовался 51% российской интернет-аудитории, а среди людей до 34 лет этот показатель достигает 81%. Научный руководитель лаборатории нейронаук «Сбера» Андрей Курпатов отмечает, что цифровая тревожность среди россиян 18–30 лет за 6 лет наблюдений, наоборот, снизилась с 12% до 8%. Хотя 39% этой группы по-прежнему опасаются, что технология лишит их работы.

Как другие поколения относятся к ИИ

Аудитория генеративного ИИ в целом взрослеет. По подсчетам SimilarWeb, доля пользователей 18–34 лет среди всех визитов на сайты ИИ-сервисов снизилась с 61% в мае 2024 года до 50% в мае 2026-го, а доля людей старше 55 лет за это же время выросла с 12% до 18%.

По данным исследования EY совместно с американской ассоциацией AARP, доля пользователей 50 лет и старше, регулярно использующих ИИ, выросла с 9% в 2023 году до 30% в 2025-м, хотя уровень комфорта при использовании технологии у поколения беби-бумеров все еще заметно ниже, чем у миллениалов и зумеров.

Руководитель по органическому росту компании Miro Майкл Хоррокс объясняет, что рост числа пользователей среди старших возрастов обычно означает более прочное признание технологии массовым рынком, тогда как всплеск интереса только среди молодежи может угаснуть вместе с модой.

Действительно ли среди молодого поколения растет ненависть к ИИ

Данные о «восстании зумеров против ИИ» выглядят не так однозначно, как их подает часть СМИ. Резкий рост посещаемости страницы noai.duckduckgo.com произошел после того, как в мае 2026 года Google анонсировала внедрение ИИ в поисковую систему. Трафик на страницу без ИИ подскочил втрое и с тех пор держится примерно на 84% выше обычного уровня. Всплеск затронул пользователей всех возрастов, а не только молодежь.

Сама DuckDuckGo подчеркивает, что не является анти-ИИ-компанией: у нее есть собственный чат-бот и подписка с доступом к нейросетям.

Распределение пользователей фильтра по возрасту тоже не укладывается в схему «молодые против всех». На втором месте по частоте использования, как уже говорилось, оказалась аудитория старше 55 лет, тогда как люди 35–54 лет пользуются им реже всех. Такая U-образная картина, скорее, говорит о разных мотивах у разных групп: старшим пользователям может быть попросту привычнее классическая выдача ссылок, тогда как для молодежи это может быть осознанным выбором. Однако точных данных о причинах SimilarWeb не приводит.

Противоречива и сама степень «отказа» молодежи от технологии. По данным Gallup, доля зумеров, использующих ИИ ежедневно или еженедельно, за год почти не изменилась и остается на уровне около 50%. Рост тревоги и гнева пока не привел к заметному отказу от самих инструментов.

Даже те молодые люди, что называют себя противниками ИИ, на практике продолжают им пользоваться. Собеседница издания The Verge Эмма Готтлиб, которая называет применение чат-ботов для рабочих задач «полной ерундой», тем не менее призналась, что регулярно использует их для просмотра технической документации на работе, просто тщательно перепроверяет результат.

Судя по всему, статистика отражает не столько массовый отказ поколения от ИИ по духовным или этическим соображениям, сколько растущую избирательность в его использовании на фоне общего падения ажиотажа вокруг новой технологии, тревоги за карьеру и недоверия к технологическим компаниям.

Фото обложки: Zuma / TASS

Reuters: США могут выдвинуть союзникам ультиматум по ИИ

Проект письма Госдепартамента, с которым ознакомилось агентство Reuters, адресован 35 странам, подписавшим в июне американское «Заявление о возможностях ИИ» (AI Opportunity Statement). В их число входят участники коалиции Pax Silica и страны, которые пока лишь выразили желание сотрудничать с Вашингтоном в сфере искусственного интеллекта. Документ подготовлен, но пока не утвержден.

«Быть частью всего — значит не быть частью ничего. Подписание Декларации Pax Silica — это не просто оформление членства, а обязательство», — говорится в документе. Там же уточняется, что членство в Pax Silica «нельзя совмещать с участием в дублирующих инициативах, чьи цели противоречат нашим».

Хотя Китай в тексте не упоминается, как пояснил Reuters американский чиновник, письмо должно донести до стран мысль, что сотрудничать одновременно с Вашингтоном и Пекином в сфере ИИ невозможно.

Единственной страной, которая одновременно участвует в китайской и американской коалициях по искусственному интеллекту, является Казахстан. Астана присоединилась к Pax Silica в конце июня, став первым государством Центральной Азии в альянсе. Однако уже спустя месяц оказалась и в списке учредителей китайской инициативы.

Госдепартамент отказался комментировать «предположительно утекшие внутренние документы», а посольство Казахстана в Вашингтоне на запрос не отреагировало. Посольство Китая заявило, что страна выступает против политизации торговых и технологических вопросов.

Что такое Pax Silica и есть ли у него китайский аналог

Вашингтон запустил инициативу Pax Silica в декабре 2025 года. В столице США прошел учредительный саммит, на котором страны-партнеры подписали Декларацию Pax Silica. Название сочетает латинское pax («мир») и silica («диоксид кремния»). Из него делают кремний, составляющий основу современных чипов.

Альянс поставил перед собой цель выстроить устойчивые цепочки поставок редкоземельных металлов, полупроводников и обеспечить доступ участников к моделям искусственного интеллекта. Декларацию подписали около двух десятков стран, включая Австралию, Германию, Индию, Израиль, Италию, Нидерланды, Республику Корея, Сингапур, Японию, Евросоюз и Казахстан.

Через 7 месяцев свою альтернативу представил Китай. В июле 2026 года в Шанхае, накануне открытия Всемирной конференции по ИИ, представители 29 стран подписали соглашение о создании Всемирной организации сотрудничества в области искусственного интеллекта (WAICO). Другими учредителями организации стали Россия, Бразилия, Индонезия, Пакистан, Малайзия, ЮАР и Казахстан. При этом ни одна страна G7 и ни один член Евросоюза к ней не присоединились.

Pax Silica строится вокруг доверенной, но закрытой технологической экосистемы, в которой партнеры получают доступ к чипам, инвестициям и совместным проектам в обмен на согласованный экспортный контроль и отказ от сотрудничества с конкурентами. WAICO, напротив, заявляет об открытом участии без каких-либо условий, связанных с политическим строем или ценностями стран-членов. Организация продвигает открытые модели ИИ, которые можно бесплатно скачать и адаптировать под себя. Председатель КНР Си Цзиньпин, выступая на конференции в Шанхае, призвал страны сделать ставку на открытый исходный код и пообещал за 5 лет предоставить развивающимся государствам 5 тыс. мест по программам подготовки специалистов по ИИ.

Как ИИ делит страны на технологические блоки

Выдвигая странам ультиматум, Вашингтон рассчитывает лишить Китай ресурсов в гонке искусственного интеллекта. Так, Казахстан обладает крупными запасами редкоземельных металлов, необходимых для производства чипов и другой высокотехнологичной продукции.

Чем меньше стран смогут поставлять Китаю чипы, минералы и доступ к рынкам на выгодных условиях, тем медленнее Пекин сможет наращивать собственные вычислительные мощности, а значит, тем больше времени останется у американских компаний, чтобы сохранить лидерство в технологической сфере.

Если говорить шире, то страны, зависимые и от американских технологий, и от китайских рынков или инвестиций, теперь оказываются перед выбором, которого предпочли бы избежать.

Аналитики расходятся в оценке того, оправдан ли американский подход. Часть экспертов считает, что ультиматум может обойтись Вашингтону дороже, чем принести пользы. Специалист по Китаю Руи Ма указала, что мир внимательно следит за тем, какая из сторон окажется готова к более гибкой, а не бинарной модели сотрудничества. По ее словам, давление рискует оттолкнуть страны, которые пока лишь присматриваются к участию в одной из коалиций.

Фото обложки: Sebastian Gollnow / TASS

В Европе обсуждают закон о кибербезопасности NIS2

Издание Politico сообщило, что под действие закона ЕС о кибербезопасности NIS2 рискуют попасть производители мороженого, поставщики жевательной резинки, фабрики елочных гирлянд и даже домовладельцы.

До 2016 года каждая страна ЕС защищала свою инфраструктуру, опираясь на национальное законодательство. Однако все предприятия в Евросоюзе тесно связаны между собой в рамках единого рынка. Поэтому европейские законодатели решили создать единую Директиву NIS 2016 года. В 2022-м, когда число и масштаб кибератак в Европе резко выросли, ее сменила более широкая и жесткая версия NIS2. Она вступила в силу в январе 2023 года, а страны ЕС должны были полностью перенести ее принципы в свое законодательство к октябрю 2024-го.

NIS2 является директивой и задает единый минимальный стандарт, который каждая страна обязана закрепить в собственных законах. Она охватывает 18 отраслей, включая энергетику, транспорт, здравоохранение, цифровые платформы, почтовые службы и производство критически важной продукции.

На уровне ЕС Агентство Европейского союза по кибербезопасности (ENISA) координирует работу и объединяет национальные группы экспертов по кибербезпасности (CSIRT) в единую сеть, чтобы страны оперативно обменивались информацией об атаках. А регистрацией фирм, надзором за ними и штрафами занимаются национальные регуляторы.

Под действие закона попадают компании со штатом более 50 сотрудников или с оборотом свыше €10 млн в год. Они делятся на «существенно важные» и просто «важные». За «существенно важными» регулятор следит проактивно, а «важные» проверяют только в случае инцидента.

От компаний требуется проводить регулярную оценку рисков, а также разработать план действий на случай сбоя. О значимом инциденте нужно сообщить регулятору в течение 24 часов с момента обнаружения. При этом руководители компаний несут личную ответственность за выполнение требований NIS2. За нарушения «существенно важным» организациям грозит штраф до €10 млн или 2% годового мирового оборота, «важным» — до €7 млн или 1,4% оборота.

Почему NIS2 до сих пор не работает

Формулировки NIS2 были написаны в рамочном формате, чтобы оставить больше свободы действий каждой отдельной стране. Но в итоге гибкость директивы обернулась путаницей. Например, под действие нормы подпадают достаточно крупные производители мороженого и жевательной резинки, которые теперь вынуждены увеличивать издержки для соответствия стандартам безопасности.

Похожая история наблюдается с производителями елочных гирлянд. Партнер юридической фирмы Norton Rose в Амстердаме Юрриан Янсен объяснил, что их продукция формально относится к той же категории экономической деятельности, что и почтовые услуги или химическая промышленность. В Нидерландах, по его словам, такие компании все же не дотягивают до статуса «очень важных», поскольку сбои в отрасли не угрожают общественной безопасности.

Есть и более курьезные случаи. Так, один бельгийский депутат Европарламента год назад обратил внимание, что крупные школы с солнечными панелями на крыше становятся «производителями» электроэнергии и подпадают под требования NIS2. Рост административной нагрузки может негативно повлиять на качество образования.

Новый закон ЕС также может рассматривать телеком-провайдеров арендодателей, сдающих большое количество квартир и передающих жильцам доступ к интернету. Такой прецедент даже возник в 2021 году, хотя пока штрафы в рамках NIS2 к ним не применялись.

Темпы внедрения самого закона также недостаточны. Срок для переноса NIS2 в национальное законодательство членов Евросоюза истек 17 октября 2024 года, но уложились в него лишь несколько стран. 

В ноябре 2024 года Еврокомиссия направила уведомления с предупреждением 23 странам. К середине 2026 года большинство государств закон все же приняли, но Франция, Испания, Ирландия и Нидерланды так и не уведомили Брюссель о полном выполнении требований директивы. 8 июля 2026 года Еврокомиссия передала их дела в Суд ЕС, потребовав ежедневных штрафов до завершения переноса. Нидерланды приняли свой закон буквально за день до передачи дела в суд, а во Франции законопроект к концу июля так и не дошел до рассмотрения в Национальном собрании.

Даже там, где закон формально уже действует, с его исполнением тоже не все гладко. В Германии под надзор BSI перешли около 29,5 тыс. компаний, но зарегистрировалась в базе лишь половина.

Сама Еврокомиссия признает, что закон нуждается в доработке и опубликовала проект отдельных поправок к NIS2, которые призваны уточнить сферу действия закона.

Фото обложки: Петр Ковалев / ТАСС; Zach Camp / Unsplash