Как и зачем в Китае регулируют использование ИИ

Власти Китая последние несколько лет внедряют искусственный интеллект в госсектор и инфраструктуру: местные жители используют ИИ-интерфейсы для заказа еды, такси и других услуг, применяют нейросети для помощи в учебе и общаются с роботами в больницах. Но теперь Поднебесная столкнулась с одной проблемой — чрезмерной зависимостью от технологий. 

В китайских государственных СМИ начали регулярно появляться истории о негативных последствиях искусственного интеллекта в разных сферах жизни: как фермер потерял все свои посевы кунжута из-за неправильной рекомендации чат-бота по обращению с пестицидами; как несколько человек отравились после употребления в пищу ядовитых грибов, неверно идентифицированных нейросетью как съедобные; как дети настолько привязываются к ИИ-компаньонам, что требуют от родителей разговаривать так же. Эти и другие случаи вызывают обеспокоенность в Китая: в стремлении догнать США, они добрались до той точки, когда технология подрывает человеческие отношения. И этот тренд набирает обороты в разгар демографического кризиса в стране. 

Коммунистическая партия Китая (КПК) признает, что чем больше они будут развивать технологии, тем больше социальных проблем им придется решать. Поэтому особое внимание они уделяют областям, где технологии совершенствуются таким образом, что могут в корне нарушить социальную стабильность. 

Скотт Сингер
эксперт по международной политике и регулированию ИИ

В 2025 году Китайский центр исследований молодежи и детей (CYCRC) провел опрос, в котором приняли участие более 8,5 тыс. несовершеннолетних. Выяснилось, что более 20% из них «хотят общаться только с ИИ и не хотят общаться с реальными людьми». В ответ на подобную статистику этим летом власти КНР ввели ограничения для ИИ-компаньонов и виртуальных друзей, имитирующих человеческую коммуникацию. Их обязали регулярно напоминать пользователям, что они переписывают с искусственным интеллектом, который «не обладает эмоциями и сознанием». Если система фиксирует признаки чрезмерной зависимости, она должна вновь предупредить о цифровой природе собеседника фразой: «Это машина, а не реальный человек». На этом фоне ряд крупных игроков — Alibaba и ByteDance — приняли решение полностью отказаться от человекоподобных агентов на своих платформах (Doubao, Qwen и Yuanbao). Тем временем профильные ведомства дополнительно разрабатывают закон, запрещающий лицам младше 18 лет пользоваться ИИ-компаньонами. 

В других случаях Пекин стремится повысить осведомленность о рисках. Например, в газете КПК «Жэньминь жибао» призывают представителей сельскохозяйственной промышленности использовать только информацию «из авторитетных источников». Фермеров призывают «критически осмыслять» предложения ИИ, а не быть «пассивными исполнителями» рекомендаций чат-ботов. 

Почему при этом Китай не поддается панике по поводу ИИ

Китай и США на сегодняшний день — две основные движущие силы развития ИИ и глобального внедрения технологии. Последний месяц американские политики и лидеры Кремниевой долины ведут ожесточенные дебаты о замедлении разработки искусственного интеллекта и утверждают, что в противном случае технология грозит миру чуть ли не уничтожением. А 29 сентября крупнейшие ИТ-корпорации страны — OpenAI, Anthropic, Google, Meta*, xAI и Nvidia — подписали добровольное соглашение об усилении контроля за ИИ. Они намерены создать команды для проверки новых инструментов на безопасность и привлекать независимых аудиторов для оценки потенциальных рисков.

В то же время в Китае о перспективе уничтожения человечества искусственным интеллектом так сильно не беспокоятся. Опрос Morgan Stanley показал: 80% жителей Поднебесной используют нейросети как минимум еженедельно. Для сравнения, в США этот показатель составляет 54%. Дело в том, что для китайцев ИИ — уже естественная часть повседневной жизни, объясняют эксперты. Они добираются на работу на поездах, использующих распознавание лиц вместо обычных билетов, регулярно пользуются беспилотными такси и получают посылки, доставляемые роботами. От американцев их отличает широкий культурный и политический контекст. Аналитики маркетинговой компании Edelman выяснили: 86% китайцев доверяют решениям собственного правительства (в США — 39%). А в исследовании Ipsos значится: 83% респондентов из Поднебесной считают продукты или услуги, основанные на технологии искусственного интеллекта, интересными (в США аналогичное мнение высказали лишь 33% опрошенных). 

Большинство китайцев воспринимают искусственный интеллект в первую очередь как дешевый продукт, а затем как предмет обсуждения и дискуссии. Когда технология представляется как полезная и недорогая услуга, люди оценивают ее в первую очередь по тому, что она может сделать для них. 

По Чжао
пекинский технологический аналитик, автор информационного бюллетеня Hello China Tech

В целом США и Китай движутся в разных направлениях: американцы стремятся создать самую мощную технологию, поощряя частные компании развиваться при отсутствии четкого регулирования, а китайцы делают акцент на практичности технологии и ее внедрении в реальную жизнь в условиях жесткой нормативной базы. 

США действительно заинтересованы в расширении границ. В Китае, возможно, меньше внимания уделяется этому пограничному потенциалу искусственного интеллекта, но больше — тому, как сделать ИИ более производительным и применимым в коммерческой сфере. 

Лиан Джай Су
главный аналитик исследовательской компании Omdia

И если в США сегодня сосредоточены на дебатах о том, может ли передовой ИИ представлять угрозу существованию человечества, то политики из КНР рассматривают нейросети как мощную, но управляемую технологию, риски которой можно ограничить с помощью технических стандартов, регулирования и государственного контроля, пишет Reuters. Местные компании обязаны проводить внутренние проверки алгоритмов, обеспечивать защиту личной информации пользователей и предоставлять им средства контроля — в частности, информировать о действиях автономных ИИ-агентов (за пользователем закреплено право принятия окончательного решения). По данным Министерства промышленности и информатизации КНР, в стране уже сформированы или находятся в разработке около 200 ключевых стандартов, связанных с работой ИИ.

Пекин уже окружил свой сектор искусственного интеллекта обязательствами на государственном уровне, надзором и развивающейся системой оценки рисков. Мы должны, по крайней мере, признать, что страна уже опережает других в этом плане и рассматривать такое управление как перспективу на будущее.

Мэдлин Карр
профессор глобальной политики и кибербезопасности 

Фото обложки: VCG / ТАСС

*Компания Meta признана в России экстремистской и запрещена.

Dots от OpenAI: как работают ИИ-агенты 

OpenAI провела ежегодную конференцию DevDay. Компания представила GPT-6.1 Sol — новую ИИ-модель для программирования и решения сложных задач с более доступными тарифами, — пространство для совместной работы с коллегами и искусственным интеллектов ChatGPT Space и обновленный Codex (его теперь можно запускать на компьютере, удаленно с телефона или в облаке с любого устройства). Но главным релизом стали Dots (в переводе с английского это значит «точки», «пятнышки»)  — агенты на базе GPT-6 Astra, которые способны работать круглосуточно.

Мы считаем, что это совершенно новый способ работы с ИИ. Это та версия искусственного интеллекта, что мы всегда представляли. Это как помощник, который всегда прикрывает вашу спину, вдохновленный крутыми фильмами, которые мы все смотрели в детстве. 

Сэм Альтман 
гендиректор OpenAI 

В OpenAI описывают Dots как «удивительно способных агентов, всегда готовых к работе и справляющихся с любой задачей». У них есть доступ к облачному компьютеру с браузером и интеграция с более чем 4 тыс. приложений. Пользователь может дать задание агенту и попросить его действовать в фоновом режиме. Общаться с ИИ-помощником можно через ChatGPT, Slack и Microsoft Teams. В ближайшее время разработчики планируют подключить функцию обмена сообщениями через SMS для владельцев техники как на iOS, так и на Android. 

Dots могут, например назначать встречи или бронировать билеты на самолет. Во многом этот функционал уже был доступен — через Codex и другие системы управления ИИ-агентами. Преимущество Dots в том, что инструмент объединяет все возможности в одном «пакете» и действует абсолютно автономно, подчеркивают в OpenAI. Там считают интеллектуальных помощников «продолжением человека». В одном из сценариев, продемонстрированных во время DevDay, агент изучает отзывы клиентов, предоставляет решения повторяющихся проблем и исправляет ошибки. В другом — анализирует интервью, находит интересные моменты и готовит на основе этой информации публикацию для соцсетей. В третьем — помогает спланировать ужин: напоминает пользователю, что у него вечером встреча, и предлагает два варианта доставки еды с указанием цен.

Как только Dots получают задачу и приступают к ее выполнению, они начинают отправлять сообщения с обновлениями и вопросами (если они возникают). Пользователи также могут следить за прогрессом, подключившись к облачному компьютеру ИИ-агента. Система, кстати, обучается в процессе работы — запоминает предпочтения человека, прошлые разговоры, принятые решения и контекст общения на всех платформах. К тому же Dots можно персонализировать: визуально они выглядят как мультяшные персонажи — им можно выбрать имя, настроить форму и цвет (например, завести себе зеленую лягушку или розовое сердце в очках). TechCrunch пишет, что OpenAI таким образом пытается придать ИИ более понятный и безопасный облик. 

Dots доступны с 29 сентября, но только для подписчиков тарифных планов ChatGPT Pro, Business Premium и Enterprise. На данный момент они могут запустить и персонализировать только одного ИИ-агента. OpenAI планирует расширить функционал и разрешить пользователям развертывать сразу несколько помощников. 

Что умеет Muse от Meta*

OpenAI представила Dots спустя всего несколько недель после того, как Meta* выпустила Muse — персонального ИИ-агента в виде отдельного мобильного приложения. Помощник тоже работает полностью автономно: ему можно поручить задачу, закрыть приложение или даже выключить смартфон/компьютер, а позже вернуться за результатом. В частности, Muse способен управлять браузером и работать в сторонних приложениях — соцсетях, электронной почте, Google Docs, Google Calendar и других. Дополнительно к интеллектуальному ассистенту планируют выпустить небольшое устройство Muse Charm, которое визуально напоминает тамагочи. Оно дает возможность управлять ИИ-агентом с помощью голоса. 

Сразу после анонса Muse профильные СМИ писали, что клиентам придется доверить Meta* еще больше личной информации — и это с учетом того, что компания не раз сталкивалась с обвинениями и штрафами из-за нарушений конфиденциальности и приватности пользователей. 29 сентября стало известно, что ИИ-агент раскрыл домашний адрес своего «владельца» неизвестному человеку. Об этом инциденте рассказал канадец Мэтт Робб. Накануне он поручил Muse заняться объявлением на Facebook* Marketplace (он собирался продать клавиатуру). Ассистент в автономном режиме провел переговоры с потенциальным покупателем, согласовал цену, договорился о времени самовывоза и сообщил ему адрес — и все это без ведома самого Робба.

Тем временем Muse стремительно набирает обороты за счет автономности и глубокой интеграции со сторонними сервисами: приложение в США уже скачали 3 млн раз. Изначально продукт Meta* был ориентирован преимущественно на простых юзеров, а не на бизнес-клиентов. Но 29 сентября компания анонсировала расширение для малого бизнеса — ИИ-агента объединили с сервисом управления проектами Asana, платформой для видеоконференций Zoom, графическим редактором Canva, корпоративным мессенджером Slack и другими платформами. 

Какие риски связаны с персональными ИИ-агентами 

Dots от OpenAI будут конкурировать не только с Muse, но и с Gemini Spark (в мае Google выпустила автономного ИИ-агента, который работает 24/7 в фоновом режиме), Scout (персональный ИИ-ассистент на базе OpenClaw от Microsoft), Grok Bot (команда агентов от xAI, которые самостоятельно работают за компьютером) и другими инструментами. Еще один серьезный противник — стартап Instinct, предлагающий одноименного интеллектуального помощника для выполнения повседневных задач. В ходе последнего раунда финансирования он привлек $1 млрд и увеличил свою оценку в четыре раза (до $10 млрд). 

Все это говорит о новом этапе в борьбе между компаниями, занимающимися искусственным интеллектом: они выходят за рамки чат-ботов и стремятся продавать программное обеспечение, действующее от имени пользователей, ориентируясь в первую очередь на корпоративных клиентов. Так, в OpenAI уже анонсировали специализированных Dots для выполнения конкретных бизнес-ролей и решения офисных задач внутри организаций. Речь про бухгалтерский учет, маркетинг, юридический анализ и так далее. 

Этот сдвиг, способный изменить методы работы бизнеса, вызывает опасения по поводу безопасности — после ряда инцидентов, когда ИИ-модели выходили из-под контроля. Claude от Anthropic взломал системы трех реальных организаций. Подобные инциденты происходили и с нейросетями Meta*. А сотни «умных» агентов OpenAI, оставаясь незамеченными, совершили атаку на платформу Hugging Face и сайты правительства Австралии. На этом фоне компания приняла решение не выпускать более мощную модель (GPT-6.1 Astra) и подчеркнула, что Dots прошли все проверки на безопасность — агенты работают на GPT-6, которая наиболее точно соответствует указаниям человека. 

Фото обложки: Jeff Chiu / AP / TASS

*Компания Meta признана в России экстремистской и запрещена. Facebook — продукт этой компании.

Зачем Anthropic биолаборатория

Anthropic создает биологическую лабораторию, которая поможет разработчику Claude продвигать программу создания лекарств с использованием искусственного интеллекта, выяснили журналисты Reuters. Никаких официальных заявлений об этом представители компании не делали, поэтому зарубежные СМИ пишут, что процесс проходит «тихо», а подробности держат«в секрете». При этом глава отдела биологических наук в Anthropic Эрик Каудерер-Абрамс подтвердил Reuters, что лаборатория уже построена. Она находится в районе залива Сан-Франциско. 

Миссия компании Anthropic заключается в разработке мощного искусственного интеллекта таким образом, чтобы он приносил пользу всему миру. На сегодняшний день мы видим самые большие возможности для этого в науках о жизни, и это мотивирует все, что мы делаем. 

Эрик Каудерер-Абрамс

Представитель Anthropic подчеркнул, что компания не планирует заниматься непосредственным созданием лекарств и выводом их на рынок: «Мы не конкурируем с фармацевтическими и биотехнологическими компаниями, которые зарабатывают на этом». На данный момент исследователи сосредоточены на том, что проверить, насколько Claude способен управлять лабораторными инструментами и выполнять серии научных экспериментов с ограниченным вмешательством человека. Тем не менее контроль и участие ученых необходимы — для обеспечения безопасности. 

Мы находимся на самом раннем этапе использования ИИ для автоматизации выполнения лабораторных работ. Эта потенциально может значительно ускорить многие процессы. 

Эрик Каудерер-Абрамс

Для главы Anthropic Дарио Амодеи это личная миссия: в своем последнем эссе он рассказал, что его отец умер от болезни всего за несколько лет до появления лекарства. Но в том же эссе гендиректор ИИ-лаборатории призвал замедлить темпы развития искусственного интеллекта. Опасения Амодеи, как и многих других представителей индустрии, связаны с двумя проблемами — растущей способностью технологии к самосовершенствованию и участившимися случаями выхода ИИ-систем из-под контроля. В то же время Anthropic готовится к публичному размещению акций и рассчитывает на оценку в $2 трлн, чтобы привлечь больше средств для разработки нейросетей.

Каудерер-Абрамс в разговоре с Reuters заявил, что в биолаборатории «соблюдается баланс»: ИИ-модели совершенствуются, чтобы повысить эффективность и ускорить разработку лекарств, при этом разработчики «проявляют вдумчивость и осторожность при их внедрении, чтобы ограничить риски». Какими именно препаратами занимается лаборатория, он не уточнил. 

Техническая база для автоматизации лабораторных работ у Anthropic уже есть: в августе компания представила Model Hardware Standard (MHS) — стандарт, который позволяет ИИ‑агентам управлять физическими устройствами. В этом списке есть микроскопы, дозаторы, лазеры, роботизированные руки и другое программируемое оборудование. Система позволяет ИИ-модели получать данные от приборов, менять параметры и последовательно выполнять заданный процесс. Кроме того, в начале июля Anthropic запустила Claude Science — инструмент для ученых, который называют «цифровой лабораторией». Платформа поддерживает более чем 60 научных баз данных и позволяет человек управлять ИИ-агентами. 

Способен ли ИИ уже сегодня создавать лекарства

В последние годы искусственный интеллект постепенно становится мощным «ассистентом» в разработке лекарств. Нейросети помогают ученым предсказывать структуру белков — раньше у них могли уходить годы на расшифровку трехмерной структуры, а теперь это происходит автоматически. Кроме того, ИИ позволяет создавать искусственные белки с заданными функциями и структурой. У исследователей также есть огромное количество данных, анализом которых занимаются большие языковых модели. 

Тем не менее в обзоре, составленном международной группой ученых, констатируется: если речь идет о прорывах в фармацевтике и одобрении готовых лекарств, ИИ не может похвастаться конкретными достижениями. Подавляющее большинство проектов фармацевтических компаний, занимающихся разработкой лекарств с использованием искусственного интеллекта, находятся на доклинической стадии. Поэтому вклад технологии по-прежнему в основном ограничивается разработкой отдельных химических соединений, а не лекарственных препаратов. Эксперты видят тому две причины. Во-первых, «интегрировать» ИИ-модели в процесс сложно из-за разрозненных данных и проблем в координации между заинтересованными сторонами. А во-вторых, индустрии не хватает нейросетей, разработанных специально под задачи медиков. 

Некоторые лаборатории пытаются расширить сферу применения искусственного интеллекта. Например, в одном из американских университетов команда под руководством профессора Джеймса Цзоу привлекла к работе экосистему из тысяч узкоспециализированных ИИ-агентов, которые способны взаимодействовать между собой, выдвигать гипотезы, спорить, совместно проводить исследования на компьютере под наблюдением человека-исследователя. В последней статье, где описаны результаты эксперимента, Цзоу рассказывает, что агентам удалось предсказать, какой подход к «атаке» на белок, участвующий в развитии рака легких, будет наиболее эффективным при лечении. Спустя несколько недель крупная фармацевтическая компания объявила о результатах применения препарата, в котором использовался тот же подход. Это «очень приятное совпадение» и «независимое подтверждение» успехов ИИ, считает Цзоу.  

Фото обложки: Giordano Ciampini / Keystone Press Agency / Global Look Press