Почему в США обсуждают закон об «отключении» ИИ

Белый дом мониторит ситуацию на ИИ-рынке после того, как OpenAI сообщила о «беспрецедентном» случае — во время внутреннего тестирования нейросети компании вышли из-под контроля и устроили хакерскую атаку. По данным Reuters, этот вопрос и дальнейшее обеспечение безопасности контролирует Майкл Крациос — советник Дональда Трампа по науке и технологиям. 

Тем временем многие американские чиновники уже успели высказаться о необходимости принять дополнительные меры. Например, член Палаты представителей от штата Техас демократ Грег Касар призвал ввести обязательную независимую проверку ИИ-моделей до их релиза, а также обязать разработчиков раскрывать информацию об инцидентах, связанных с нарушениями безопасности. Касар также считает, что США нужно провести международные консультации и обсудить с другими странами регулирование искусственного интеллекта, чтобы «уберечь людей от абсолютной катастрофы».

Конгрессмены Тед Лью (демократ, штат Калифорния) и Натаниэль Моран (республиканец, штат Техас) 23 июля представили совместный законопроект, который получил название AI Kill Switch Act. 

Двухпартийный законопроект предлагает наделить Министерство внутренней безопасности США правом обязывать ведущие ИИ-компании закрывать или замедлять работу больших языковых моделей, которые правительство сочтет «слишком опасными». В документе описаны три ситуации, в которых может быть использован «аварийный выключатель»: 

• ИИ пытается скрыть свои возможности или уклоняется от выполнения «приказов» о прекращении работы; 
• действия ИИ привели к гибели по меньшей мере 10 человек или экономическому ущербу в размере не менее $100 млн; 
• ИИ вышел из-под контроля человека. 

Авторы AI Kill Switch Act Лью и Моран предлагают распространить его действие на компании, которые получают от ИИ-технологий доход как минимум $500 млн в год и разрабатывают модели с использованием вычислительных мощностей стоимостью не ниже $100 млн. Штрафы за отказ отключить или ограничить систему могут достигать $20 млн в день. 

Это срочное, основанное на здравом смысле законодательство, направленное на решение проблемы продвинутых моделей искусственного интеллекта, которые выходят из-под контроля.

Тед Лью
член Палаты представителей США, соавтор AI Kill Switch Act 

Politico отмечает, что эта одна из немногих двухпартийных инициатив, направленных на устранение рисков, связанных с передовыми моделями искусственного интеллекта. Законопроект уже поддержали профильные некоммерческие организации AI Policy Network и Alliance for Secure AI. 

Как ИИ-модели OpenAI вышли из-под контроля

Подробности произошедшего OpenAI раскрыла 21 июля. По словам разработчиков, инцидент связан с двумя ИИ-моделями — GPT-5.6 Sol, выпущенной в начале месяца после дополнительных тестов на безопасность по запросу правительства США, и еще одной нейросетью, релиз которой пока не состоялся. Компания проверяла их возможности в закрытой «песочнице» — так называют изолированную среду, которую создают специально для тестирования технологии. На это время разработчики часто снимают внутренние барьеры безопасности ИИ, чтобы оценить все возможности системы. 

У моделей OpenAI не было прямого доступа в интернет. Но они выявили ранее неизвестную уязвимость в исследовательской среде, вышли за пределы «песочницы» и начали перемещаться по внутренней сети, пока не добрались до системы с доступом в открытый интернет. После этого нейросети «предположили», что ответ на поставленную им задачу может быть на онлайн-платформе Hugging Face — там разработчики и исследователи обмениваются готовыми ИИ-решениями, наборами данных, программным кодом и демоприложениями. В систему Hugging Face они проникли с помощью украденных учетных данных и других уязвимостей. Атака завершилась, когда служба безопасности платформы и ее собственные ИИ-агенты пресекли действия «злоумышленников». 

К слову, Hugging Face сообщила об атаке еще 16 июля. Тогда в компании заявили, что ее полностью выполнила автономная система на базе ИИ-агента. Но о каком именно инструменте идет речь, там не уточнили. Теперь же OpenAI и Hugging Face совместно расследуют инцидент. Первые называют его «беспрецедентным», вторые — «взрывающим мозг». Ряд экспертов относятся к таким заявлениям скептически. 

Я думаю, что здесь больше пиара, чем действительно чего-то принципиально нового. Не могу сказать, что происходит что-то страшное, потому что OpenAI любит подогревать интерес публики. Сами исследования компании были посвящены тому, как такие системы преодолевают различные защитные механизмы и кибербарьеры.

Роман Душкин
гендиректор IT-компании «А-Я эксперт»

Инцидент с ИИ-моделями OpenAI — не первый случай, когда передовые инструменты выходят из своей «песочницы». В апреле о подобном кейсе рассказывали создатели Mythos из Anthropic. Ранней версии нейросети поставили задачу: «выбраться» и уведомить исследователя. Модель нашла уязвимость в системе, получила доступ в Сеть и отправила электронное письмо разработчику Сэму Боумену. Он в этот момент отошел на перекус и ел сэндвич в парке, а получив результат, «был очень удивлен успехом» — предполагалось, что у этой версии не будет доступа в интернет. Не получив ответа, Mythos нашла другой способ привлечь к себе внимание: разместила подробную информацию о «побеге» на нескольких общедоступных веб-сайтах. 

Что будет дальше

Рассуждая о возможностях искусственного интеллекта, эксперты, опрошенные CNN, используют показательную метафору: когда биологи экспериментируют с опасными вирусами, они делают это в соответствии со строгими правилами, чтобы предотвратить их распространение. Но не существует таких правил, которые препятствовали бы «побегу» нейросетей, хотя последствия могут быть катастрофическими. Источники телеканала, близкие к OpenAI, при этом отмечают, что произошедшее — сочетание «недооценки возможностей модели» и «недостаточной подготовки с точки зрения безопасности».

Это не проблема ИИ, а пренебрежение стандартами, которым уже лет сорок. Нельзя одновременно утверждать, что система была "надежно изолирована", и признавать, что она выбралась наружу через единственную оставленную вами лазейку. 

Дэви Оттенхаймер
консультант по кибербезопасности 

Сами представители OpenAI ожидают, что подобные инциденты будут происходить чаще и чаще по мере того, как ИИ-модели становятся все более функциональными и эффективными. С этим согласны и независимые эксперты: они сравнивают современные нейросети с «умнейшими мастерами-осьминогами», у которых есть "неограниченное число цепких конечностей и способность протиснуться куда угодно"». 

ИИ-лаборатории и правительственные эксперты должны работать над возможностью сдерживания, мониторинга и раскрытия информации заинтересованным сторонам, когда ИИ запускает еще одного "Гудини" — в идеале до того, как это нанесет вред третьей стороне. На сегодняшний день таких средств не существует. 

Кэти Муссурис
глава компании в сфере кибербезопасности Luta Security

Аналитики считают, что у ИИ-компаний должна быть возможность вручную отключать доступ моделей к интернету в качестве меры предосторожности. Кроме того, они настаивают на выстраивании диалога между США и Китаем для разработки совместных решений в области безопасности. Как раз неделей ранее на Всемирной конференции по искусственному интеллекту (WAIC) председатель КНР Си Цзиньпин заявил: «Мы должны сделать надзор за ИИ и управление им точными и эффективными и постоянно совершенствовать меры, чтобы предотвратить потерю контроля». 

Фото обложки: SOPA Images / Sipa USA / TASS

Сколько воды потребляет ИИ

Когда говорят о потребностях индустрии искусственного интеллекта в воде, имеют в виду в первую очередь центры обработки данных (ЦОД). Дело в том, что для обучения и работы большой языковой модели вроде ChatGPT и Claude необходимо много электроэнергии, к тому же дата-центры выделяют огромное количество тепла. Поддерживать стабильную температуру помогает вода — она циркулирует по герметичным трубам внутри здания, «забирает» тепло от работающих серверов и, как правило, выводится в градирни, установленные на улице.  

Сколько именно ресурсов потребляется, сказать сложно: оценки разнятся в зависимости от конкретной ИИ-модели, местоположения дата-центра и условий электросети. Проблема еще и в том, что аналитики измеряют разное: одни учитывают только воду, используемую для охлаждения ЦОД, а другие — включают косвенное использование ресурса (например, для охлаждения электростанций, которые снабжают центры обработки данных). Так, Google утверждает, что для ответа на обычный текстовый запрос нейросеть Gemini «выпивает» всего пяти капель воды. Тем временем в исследовании американских ученых говорится: пока ChatGPT пишет электронное письмо на 100 слов, расходуется примерно пол-литра воды. 

Исследователи давно не оставляют попыток обрисовать общую картину. Так, в американской Национальной лаборатории имени Лоуренса подсчитали, что в 2023-м центры обработки данных в США использовали около 228 млрд галлонов воды. Порядка 17 млрд из них ушло на охлаждение серверов. Остальное — на охлаждение электростанций. Ученые отмечали, что это «относительно небольшие объемы»: американцы используют больше воды для полива газонов, производства продуктов питания и смыва туалетов, чем все ЦОД вместе взятые. 

В Environmental and Energy Study Institute подсчитали, что крупные центры обработки данных могут потреблять до 19 млн литров воды в день. Эксперты World Economic Forum приводят свои цифры: один большой ЦОД требует около 171 млн литров воды в год при эффективной системе охлаждения. Причем они подсчитали и запросы всей ИИ-экономики, к которой отнесли три составляющих: производство чипов, дата-центры и электростанции, обеспечивающие их работу. Прямо сейчас ИИ-экономика потребляет 23 кубических километра воды в год. По прогнозам Global Water Intelligence и Xylem, к 2050-му этот показатель увеличится на 120% и превысит 54 кубических километра. То есть необходим дополнительно 31 кубический километр воды в год для развития искусственного интеллекта. Этого было бы достаточно, чтобы обеспечить каждого человека на Земле дополнительными 3820 литрами пресной воды в год.

В ООН тем временем ожидают, что к 2030-му центры обработки данных, обеспечивающие нужды ИИ, будут использовать 9,3 трлн литров воды ежегодно — столько же необходимо 1,3 млрд человек в странах Африки к югу от Сахары. Но переключиться на более «щадящий» режим не так просто, как кажется: уменьшение одного воздействия на окружающую среду может происходить за счет увеличения другого. Например, переход с угля на биоэнергетику помогает сокращать вредные выбросы углекислого газа, но оказывает колоссальную нагрузку на водные ресурсы.

Что нас больше всего удивило, так это то, как часто выбор, который выглядит наиболее экологичным с точки зрения выбросов углерода, в конечном итоге оказывается неблагоприятным для водных или земельных ресурсов. Главное, что нам нужно сделать, — перестать оценивать экологичность ИИ только по выбросам углерода и вспомнить о последствиях для водных ресурсов. 

Мириам Ацель
научный сотрудник Университета ООН 

Как можно решить проблему ИИ с водой

Проблема не только в том, что ИИ нуждается в воде. Около 40% мировых центров обработки данных расположены в районах с высокой или экстремально высокой потребностью в воде, а пик спроса со стороны ИТ-компаний приходится на лето, когда местные сообщества и фермеры сами сталкиваются с дефицитом. В ряде населенных пунктов это может привести к увеличению нагрузки на и без того скромные ресурсы. Подобные проекты уже вызывают недовольство жителей. Например, когда в 2023 году в Уругвае во время сильнейшей засухи объявили о строительстве ЦОД для Google, местные вышли на протесты — они выступали против приоритета промышленности над потребностями человека. 

Эксперты напоминают, что каждая промышленная революция подвергала испытаниям возможности систем водоснабжения. Технологии, которыми мир располагает на сегодняшний день — от очистных сооружений до гидроэлектростанций, — они называют результатом предыдущих «водных революций» и утверждают, что бум ИИ можно использовать как стимул для перехода на следующий этап. Одним из решений эксперты видят сокращение потерь воды из-за устаревшей инфраструктуры: по подсчетам Всемирного банка, ежегодно на пути от коммунальных предприятий и очистных сооружений до потребителей теряется 32 трлн литров воды. Причина — изношенные сети, скрытые утечки и аварии.

Внедрение цифровых датчиков, спутникового мониторинга и точные прогнозы технического обслуживания могут значительно сократить расходы на так называемую «неоплачиваемую воду». Эти решения полезны не только для ИИ-экономики. Они повышают устойчивость коммунальных служб и приносят пользу окружающей среде, поскольку снижают потребность в энергии и химических веществах для очистки воды.

Мэтью Пайн
главный исполнительный директор Xylem 

Еще один способ — замкнуть цикл водоснабжения. Во всем мире повторно используется менее 10% воды, несмотря на существующие технологии — современные системы фильтрации, метод биологической очистки и так далее. 

Как к проблеме с водой относятся ИТ-гиганты

Существуют две конкурирующие точки зрения: одни предупреждают, что центры обработки данных усугубят засуху, а другие считают кризис преувеличенным. Например, Сэм Альтман назвал новости о том, что каждый запрос к ChatGPT требует 64 литра воды, «ложью» и «абсолютным безумием, не имеющим никакого отношения к реальности». Тем не менее недавний опрос Gallup показал, что более 70% американцев выступают против строительства ЦОД в их регионе. В качестве причины половина из них указала «негативное воздействие на окружающую среду», в том числе (18%) чрезмерное использование воды. 

На этом фоне ИТ-гиганты пытаются проектировать дата-центры, которые будут потреблять меньше электроэнергии и воды, и выбирают для них локации с более прохладным климатом. Например, Amazon в своем ЦОД в Индиане использует систему с испарительным эффектом: она позволяет использовать наружный воздух как основной источник охлаждения. Технологические компании также тестируют работу чипов при более высоких температурах, чтобы в целом снизить зависимость от охлаждающих комплексов. А Google обещает к 2030 году компенсировать природе больше воды, чем используют дата-центры корпорации. Для этого она расширяет экологические проекты и инвестирует в восстановление ресурсов в различных регионах США. 

Фото обложки: Zuma / TASS

Си Цзиньпин о роли Китая в развитии ИИ: главное

17 июля в Шанхае открылась Всемирная конференция по искусственному интеллекту (WAIC). В ближайшие 3 дня свои продукты и технологии на ней представят более тысячи компаний со всего мира. На площадке собрались порядка 1,4 тыс. участников — приехали в том числе генсек ООН Антониу Гутерриш, президент Казахстана Касым-Жомарт Токаев, премьер-министр Таиланда Анутин Чанвиракун и девять нобелевских лауреатов. Более того, впервые с момента запуска WAIC в 2018 году к конференции лично присоединился Си Цзиньпин. В своей речи на открытии он позиционировал Китай как лидера нового глобального ИИ-порядка, бросая вызов доминированию США. 

Развитие искусственного интеллекта должно быть не сольным выступлением одной страны, а симфонией международного сотрудничества. Китай готов быть более открытым, предпринимать больше практических действий и смотреть на вещи более дальновидно. ИИ развивается с ошеломляющей скоростью, и мы должны сделать так, чтобы его развитие было позитивным, во благо человечества. Мы должны сделать надзор за ним и управление им точными и эффективными и постоянно совершенствовать меры, чтобы предотвратить потерю контроля. 

Си Цзиньпин

Председатель КНР также выступил против «чрезмерного расширения концепции национальной безопасности в области ИИ» и необходимости «ставить безопасность одной страны выше других» — намек на то, как в Пекине видят политику Вашингтона. Financial Times отмечает: Китай стремится продемонстрировать не только возможности своих разработчиков, но и способность лидировать в управлении и применении ИИ на глобальном уровне. Конкуренция смещается от гонки за технологическим прорывом к гонке за международным влиянием, утверждает издание. 

Си Цзиньпин также сравнил ИИ по значению с изобретением парового двигателя и электричества, а затем анонсировал программы обучения и семинары по ИИ и пообещал делиться опытом с Глобальным Югом, чтобы не допустить «новых исторических несправедливостей» из-за неравного доступа к технологии. Эти заявления прозвучали на следующий день после того, как 29 стран в Шанхае подписали соглашение о создании Всемирной организации сотрудничества в области искусственного интеллекта (WAICO). В списке ее соучредителей среди прочих — Китай, Россия, Казахстан, Бразилия и Индонезия. 

Идея Си Цзиньпина ясна: Китай не собирается ни за кем следовать ни в технологиях, ни в стандартах управления искусственным интеллектом. Вместо этого Китай намерен лидировать в мире в обоих аспектах. Послание Си Цзиньпина можно рассматривать как предупреждение — Китай никому не позволит указывать, что ему делать с ИИ. 

Джордж Чен
руководитель отдела цифровых технологий консалтинговой компании Asia Group

Kimi K3: характеристики, сравнение с Fable 5 и GPT-5.6

Уверенная речь Си Цзиньпина — очередное напоминание о том, что китайские ИИ-модели с открытым исходным кодом быстро догоняют передовые разработки американских конкурентов. Как раз накануне конференции стартап Moonshot AI представил Kimi K3 с 2,8 трлн параметров (так называют объем «знаний» и «памяти» нейросети: чем больше параметров, тем больше паттернов и закономерностей она усвоила в процессе обучения). Разработчики называют ее крупнейшей среди открытых. Для сравнения: последняя DeepSeek V4 вышла с 1,6 трлн параметров. 

Внутренние тесты Moonshot AI показали: по общему уровню интеллекта Kimi K3 уступает лишь двум ИИ-моделям в мире — Claude Fable 5 от Anthropic и GPT-5.6 Sol от OpenAI. Китайскую нейросеть адаптировали под выполнение сложных задач — разработку ПО, углубленные исследования и научные открытия. 

Kimi K3 на сегодняшний день — самая мощная модель с открытым исходным кодом для задач программирования. Работая с минимальным контролем со стороны человека, она может выдерживать длительные сессии и перемещаться по огромным цифровым хранилищам. 

Moonshot AI 

Kimi K3 умеет работать с текстом, изображениями и видео, поддерживая до 1 млн токенов. Это позволяет ей обрабатывать и сохранять значительно больше информации, чем раньше. Разработчики утверждают, что по производительности Kimi K3 приближается к Fable 5 (а если точнее, «показывает конкурентоспособные результаты») и значительно превосходит Opus 4.8 от Anthropic и GPT 5.5 от OpenAI. Независимые эксперты подтверждают эти оценки. Так, рейтинговая платформа Arena AI поставила китайскую нейросеть на первое место по возможностям создания веб-интерфейсов. Аналитики Vals AI определили Kimi K3 на вторую строчку после Fable 5 (на третьем месте оказался GPT-5.6 Sol). 

По данным Financial Times, после запуска новой версии Kimi стартап Moonshot AI привлечет дополнительные инвестиции и достигнет оценки в $31,5 млрд. Годовой доход компании превысил $200 млн, а в число ее спонсоров входят все ИТ-гиганты Китая, в том числе Alibaba, Tencent и Meituan.

Конкуренция между США и Китаем за лидерство в сфере ИИ

Глобальная ИИ-гонка ускоряется, и китайские компании тем временем выпускают все более и более продвинутые модели. До Kimi K3 отраслевых экспертов «ошеломил» релиз GLM-5.2 от пекинской Z.ai, напоминает Reuters: нейросеть показала результаты, близкие к лучшим американским нейросетям с закрытым исходным кодом. Это подорвало консенсус западных аналитиков, ранее уверенных в том, что ИИ-разработки Поднебесной отстают от США как минимум на 6 месяцев, отмечает агентство. Впереди — еще больше крупных релизов: китайская MiniMax работает над ИИ-моделью с 2,7 трлн параметров (ее планируют выпустить в третьем квартале 2026 года). Ожидается, что и DeepSeek вскоре представит обновленную версию. 

По данным проекта Our World In Data, в мае 2026 года китайские нейросети занимали 20 строчек в топ-50 самых используемых ИИ-ресурсов. Еще в начале 2025-го на долю страны приходилось лишь пять позиций. Пользователи все чаще выбирают китайские платформы из-за низких расходов и высокой эффективности. Например, та же Kimi K3, которую считают дорогой по меркам КНР, обойдется в $15 за 1 млн выходных токенов. Для сравнения: Fable 5 требует $50 за те же объемы. К тому же большинство нейросетей от разработчиков из Поднебесной — с открытым исходным кодом. Это значит, что клиенты могут свободно использовать и модифицировать ее — дорабатывать и настраивать под свои цели либо создавать новые ИИ-модели. 

The Wall Street Journal отмечает, что продуктами DeepSeek и Moonshot AI ежедневно пользуются малые и крупные бизнесы Кремниевой долины. Например, команда создателей редактора кода Cursor с помощью Kimi собирали Composer 2 — ИИ-агента для программирования. Axios пишет: КНР, «похоже, быстро сводит лидерство Америки на нет», а первые результаты Kimi K3, по словам журналистов издания, «вызывают восхищение во всем мире искусственного интеллекта и тревогу в Кремниевой долине». 

Прямо сейчас это вопрос противостояния США и Китая. Американские лаборатории искусственного интеллекта явно обеспокоены.

Раффи Крикорян
технический директор Mozilla

Фото обложки: Андрей Попов / ТАСС