Почему в США обсуждают закон об «отключении» ИИ

Белый дом мониторит ситуацию на ИИ-рынке после того, как OpenAI сообщила о «беспрецедентном» случае — во время внутреннего тестирования нейросети компании вышли из-под контроля и устроили хакерскую атаку. По данным Reuters, этот вопрос и дальнейшее обеспечение безопасности контролирует Майкл Крациос — советник Дональда Трампа по науке и технологиям. 

Тем временем многие американские чиновники уже успели высказаться о необходимости принять дополнительные меры. Например, член Палаты представителей от штата Техас демократ Грег Касар призвал ввести обязательную независимую проверку ИИ-моделей до их релиза, а также обязать разработчиков раскрывать информацию об инцидентах, связанных с нарушениями безопасности. Касар также считает, что США нужно провести международные консультации и обсудить с другими странами регулирование искусственного интеллекта, чтобы «уберечь людей от абсолютной катастрофы».

Конгрессмены Тед Лью (демократ, штат Калифорния) и Натаниэль Моран (республиканец, штат Техас) 23 июля представили совместный законопроект, который получил название AI Kill Switch Act. 

Двухпартийный законопроект предлагает наделить Министерство внутренней безопасности США правом обязывать ведущие ИИ-компании закрывать или замедлять работу больших языковых моделей, которые правительство сочтет «слишком опасными». В документе описаны три ситуации, в которых может быть использован «аварийный выключатель»: 

• ИИ пытается скрыть свои возможности или уклоняется от выполнения «приказов» о прекращении работы; 
• действия ИИ привели к гибели по меньшей мере 10 человек или экономическому ущербу в размере не менее $100 млн; 
• ИИ вышел из-под контроля человека. 

Авторы AI Kill Switch Act Лью и Моран предлагают распространить его действие на компании, которые получают от ИИ-технологий доход как минимум $500 млн в год и разрабатывают модели с использованием вычислительных мощностей стоимостью не ниже $100 млн. Штрафы за отказ отключить или ограничить систему могут достигать $20 млн в день. 

Это срочное, основанное на здравом смысле законодательство, направленное на решение проблемы продвинутых моделей искусственного интеллекта, которые выходят из-под контроля.

Тед Лью
член Палаты представителей США, соавтор AI Kill Switch Act 

Politico отмечает, что эта одна из немногих двухпартийных инициатив, направленных на устранение рисков, связанных с передовыми моделями искусственного интеллекта. Законопроект уже поддержали профильные некоммерческие организации AI Policy Network и Alliance for Secure AI. 

Как ИИ-модели OpenAI вышли из-под контроля

Подробности произошедшего OpenAI раскрыла 21 июля. По словам разработчиков, инцидент связан с двумя ИИ-моделями — GPT-5.6 Sol, выпущенной в начале месяца после дополнительных тестов на безопасность по запросу правительства США, и еще одной нейросетью, релиз которой пока не состоялся. Компания проверяла их возможности в закрытой «песочнице» — так называют изолированную среду, которую создают специально для тестирования технологии. На это время разработчики часто снимают внутренние барьеры безопасности ИИ, чтобы оценить все возможности системы. 

У моделей OpenAI не было прямого доступа в интернет. Но они выявили ранее неизвестную уязвимость в исследовательской среде, вышли за пределы «песочницы» и начали перемещаться по внутренней сети, пока не добрались до системы с доступом в открытый интернет. После этого нейросети «предположили», что ответ на поставленную им задачу может быть на онлайн-платформе Hugging Face — там разработчики и исследователи обмениваются готовыми ИИ-решениями, наборами данных, программным кодом и демоприложениями. В систему Hugging Face они проникли с помощью украденных учетных данных и других уязвимостей. Атака завершилась, когда служба безопасности платформы и ее собственные ИИ-агенты пресекли действия «злоумышленников». 

К слову, Hugging Face сообщила об атаке еще 16 июля. Тогда в компании заявили, что ее полностью выполнила автономная система на базе ИИ-агента. Но о каком именно инструменте идет речь, там не уточнили. Теперь же OpenAI и Hugging Face совместно расследуют инцидент. Первые называют его «беспрецедентным», вторые — «взрывающим мозг». Ряд экспертов относятся к таким заявлениям скептически. 

Я думаю, что здесь больше пиара, чем действительно чего-то принципиально нового. Не могу сказать, что происходит что-то страшное, потому что OpenAI любит подогревать интерес публики. Сами исследования компании были посвящены тому, как такие системы преодолевают различные защитные механизмы и кибербарьеры.

Роман Душкин
гендиректор IT-компании «А-Я эксперт»

Инцидент с ИИ-моделями OpenAI — не первый случай, когда передовые инструменты выходят из своей «песочницы». В апреле о подобном кейсе рассказывали создатели Mythos из Anthropic. Ранней версии нейросети поставили задачу: «выбраться» и уведомить исследователя. Модель нашла уязвимость в системе, получила доступ в Сеть и отправила электронное письмо разработчику Сэму Боумену. Он в этот момент отошел на перекус и ел сэндвич в парке, а получив результат, «был очень удивлен успехом» — предполагалось, что у этой версии не будет доступа в интернет. Не получив ответа, Mythos нашла другой способ привлечь к себе внимание: разместила подробную информацию о «побеге» на нескольких общедоступных веб-сайтах. 

Что будет дальше

Рассуждая о возможностях искусственного интеллекта, эксперты, опрошенные CNN, используют показательную метафору: когда биологи экспериментируют с опасными вирусами, они делают это в соответствии со строгими правилами, чтобы предотвратить их распространение. Но не существует таких правил, которые препятствовали бы «побегу» нейросетей, хотя последствия могут быть катастрофическими. Источники телеканала, близкие к OpenAI, при этом отмечают, что произошедшее — сочетание «недооценки возможностей модели» и «недостаточной подготовки с точки зрения безопасности».

Это не проблема ИИ, а пренебрежение стандартами, которым уже лет сорок. Нельзя одновременно утверждать, что система была "надежно изолирована", и признавать, что она выбралась наружу через единственную оставленную вами лазейку. 

Дэви Оттенхаймер
консультант по кибербезопасности 

Сами представители OpenAI ожидают, что подобные инциденты будут происходить чаще и чаще по мере того, как ИИ-модели становятся все более функциональными и эффективными. С этим согласны и независимые эксперты: они сравнивают современные нейросети с «умнейшими мастерами-осьминогами», у которых есть "неограниченное число цепких конечностей и способность протиснуться куда угодно"». 

ИИ-лаборатории и правительственные эксперты должны работать над возможностью сдерживания, мониторинга и раскрытия информации заинтересованным сторонам, когда ИИ запускает еще одного "Гудини" — в идеале до того, как это нанесет вред третьей стороне. На сегодняшний день таких средств не существует. 

Кэти Муссурис
глава компании в сфере кибербезопасности Luta Security

Аналитики считают, что у ИИ-компаний должна быть возможность вручную отключать доступ моделей к интернету в качестве меры предосторожности. Кроме того, они настаивают на выстраивании диалога между США и Китаем для разработки совместных решений в области безопасности. Как раз неделей ранее на Всемирной конференции по искусственному интеллекту (WAIC) председатель КНР Си Цзиньпин заявил: «Мы должны сделать надзор за ИИ и управление им точными и эффективными и постоянно совершенствовать меры, чтобы предотвратить потерю контроля». 

Фото обложки: SOPA Images / Sipa USA / TASS

Сколько воды потребляет ИИ

Когда говорят о потребностях индустрии искусственного интеллекта в воде, имеют в виду в первую очередь центры обработки данных (ЦОД). Дело в том, что для обучения и работы большой языковой модели вроде ChatGPT и Claude необходимо много электроэнергии, к тому же дата-центры выделяют огромное количество тепла. Поддерживать стабильную температуру помогает вода — она циркулирует по герметичным трубам внутри здания, «забирает» тепло от работающих серверов и, как правило, выводится в градирни, установленные на улице.  

Сколько именно ресурсов потребляется, сказать сложно: оценки разнятся в зависимости от конкретной ИИ-модели, местоположения дата-центра и условий электросети. Проблема еще и в том, что аналитики измеряют разное: одни учитывают только воду, используемую для охлаждения ЦОД, а другие — включают косвенное использование ресурса (например, для охлаждения электростанций, которые снабжают центры обработки данных). Так, Google утверждает, что для ответа на обычный текстовый запрос нейросеть Gemini «выпивает» всего пяти капель воды. Тем временем в исследовании американских ученых говорится: пока ChatGPT пишет электронное письмо на 100 слов, расходуется примерно пол-литра воды. 

Исследователи давно не оставляют попыток обрисовать общую картину. Так, в американской Национальной лаборатории имени Лоуренса подсчитали, что в 2023-м центры обработки данных в США использовали около 228 млрд галлонов воды. Порядка 17 млрд из них ушло на охлаждение серверов. Остальное — на охлаждение электростанций. Ученые отмечали, что это «относительно небольшие объемы»: американцы используют больше воды для полива газонов, производства продуктов питания и смыва туалетов, чем все ЦОД вместе взятые. 

В Environmental and Energy Study Institute подсчитали, что крупные центры обработки данных могут потреблять до 19 млн литров воды в день. Эксперты World Economic Forum приводят свои цифры: один большой ЦОД требует около 171 млн литров воды в год при эффективной системе охлаждения. Причем они подсчитали и запросы всей ИИ-экономики, к которой отнесли три составляющих: производство чипов, дата-центры и электростанции, обеспечивающие их работу. Прямо сейчас ИИ-экономика потребляет 23 кубических километра воды в год. По прогнозам Global Water Intelligence и Xylem, к 2050-му этот показатель увеличится на 120% и превысит 54 кубических километра. То есть необходим дополнительно 31 кубический километр воды в год для развития искусственного интеллекта. Этого было бы достаточно, чтобы обеспечить каждого человека на Земле дополнительными 3820 литрами пресной воды в год.

В ООН тем временем ожидают, что к 2030-му центры обработки данных, обеспечивающие нужды ИИ, будут использовать 9,3 трлн литров воды ежегодно — столько же необходимо 1,3 млрд человек в странах Африки к югу от Сахары. Но переключиться на более «щадящий» режим не так просто, как кажется: уменьшение одного воздействия на окружающую среду может происходить за счет увеличения другого. Например, переход с угля на биоэнергетику помогает сокращать вредные выбросы углекислого газа, но оказывает колоссальную нагрузку на водные ресурсы.

Что нас больше всего удивило, так это то, как часто выбор, который выглядит наиболее экологичным с точки зрения выбросов углерода, в конечном итоге оказывается неблагоприятным для водных или земельных ресурсов. Главное, что нам нужно сделать, — перестать оценивать экологичность ИИ только по выбросам углерода и вспомнить о последствиях для водных ресурсов. 

Мириам Ацель
научный сотрудник Университета ООН 

Как можно решить проблему ИИ с водой

Проблема не только в том, что ИИ нуждается в воде. Около 40% мировых центров обработки данных расположены в районах с высокой или экстремально высокой потребностью в воде, а пик спроса со стороны ИТ-компаний приходится на лето, когда местные сообщества и фермеры сами сталкиваются с дефицитом. В ряде населенных пунктов это может привести к увеличению нагрузки на и без того скромные ресурсы. Подобные проекты уже вызывают недовольство жителей. Например, когда в 2023 году в Уругвае во время сильнейшей засухи объявили о строительстве ЦОД для Google, местные вышли на протесты — они выступали против приоритета промышленности над потребностями человека. 

Эксперты напоминают, что каждая промышленная революция подвергала испытаниям возможности систем водоснабжения. Технологии, которыми мир располагает на сегодняшний день — от очистных сооружений до гидроэлектростанций, — они называют результатом предыдущих «водных революций» и утверждают, что бум ИИ можно использовать как стимул для перехода на следующий этап. Одним из решений эксперты видят сокращение потерь воды из-за устаревшей инфраструктуры: по подсчетам Всемирного банка, ежегодно на пути от коммунальных предприятий и очистных сооружений до потребителей теряется 32 трлн литров воды. Причина — изношенные сети, скрытые утечки и аварии.

Внедрение цифровых датчиков, спутникового мониторинга и точные прогнозы технического обслуживания могут значительно сократить расходы на так называемую «неоплачиваемую воду». Эти решения полезны не только для ИИ-экономики. Они повышают устойчивость коммунальных служб и приносят пользу окружающей среде, поскольку снижают потребность в энергии и химических веществах для очистки воды.

Мэтью Пайн
главный исполнительный директор Xylem 

Еще один способ — замкнуть цикл водоснабжения. Во всем мире повторно используется менее 10% воды, несмотря на существующие технологии — современные системы фильтрации, метод биологической очистки и так далее. 

Как к проблеме с водой относятся ИТ-гиганты

Существуют две конкурирующие точки зрения: одни предупреждают, что центры обработки данных усугубят засуху, а другие считают кризис преувеличенным. Например, Сэм Альтман назвал новости о том, что каждый запрос к ChatGPT требует 64 литра воды, «ложью» и «абсолютным безумием, не имеющим никакого отношения к реальности». Тем не менее недавний опрос Gallup показал, что более 70% американцев выступают против строительства ЦОД в их регионе. В качестве причины половина из них указала «негативное воздействие на окружающую среду», в том числе (18%) чрезмерное использование воды. 

На этом фоне ИТ-гиганты пытаются проектировать дата-центры, которые будут потреблять меньше электроэнергии и воды, и выбирают для них локации с более прохладным климатом. Например, Amazon в своем ЦОД в Индиане использует систему с испарительным эффектом: она позволяет использовать наружный воздух как основной источник охлаждения. Технологические компании также тестируют работу чипов при более высоких температурах, чтобы в целом снизить зависимость от охлаждающих комплексов. А Google обещает к 2030 году компенсировать природе больше воды, чем используют дата-центры корпорации. Для этого она расширяет экологические проекты и инвестирует в восстановление ресурсов в различных регионах США. 

Фото обложки: Zuma / TASS