Как и зачем в Китае регулируют использование ИИ

Власти Китая последние несколько лет внедряют искусственный интеллект в госсектор и инфраструктуру: местные жители используют ИИ-интерфейсы для заказа еды, такси и других услуг, применяют нейросети для помощи в учебе и общаются с роботами в больницах. Но теперь Поднебесная столкнулась с одной проблемой — чрезмерной зависимостью от технологий. 

В китайских государственных СМИ начали регулярно появляться истории о негативных последствиях искусственного интеллекта в разных сферах жизни: как фермер потерял все свои посевы кунжута из-за неправильной рекомендации чат-бота по обращению с пестицидами; как несколько человек отравились после употребления в пищу ядовитых грибов, неверно идентифицированных нейросетью как съедобные; как дети настолько привязываются к ИИ-компаньонам, что требуют от родителей разговаривать так же. Эти и другие случаи вызывают обеспокоенность в Китая: в стремлении догнать США, они добрались до той точки, когда технология подрывает человеческие отношения. И этот тренд набирает обороты в разгар демографического кризиса в стране. 

Коммунистическая партия Китая (КПК) признает, что чем больше они будут развивать технологии, тем больше социальных проблем им придется решать. Поэтому особое внимание они уделяют областям, где технологии совершенствуются таким образом, что могут в корне нарушить социальную стабильность. 

Скотт Сингер
эксперт по международной политике и регулированию ИИ

В 2025 году Китайский центр исследований молодежи и детей (CYCRC) провел опрос, в котором приняли участие более 8,5 тыс. несовершеннолетних. Выяснилось, что более 20% из них «хотят общаться только с ИИ и не хотят общаться с реальными людьми». В ответ на подобную статистику этим летом власти КНР ввели ограничения для ИИ-компаньонов и виртуальных друзей, имитирующих человеческую коммуникацию. Их обязали регулярно напоминать пользователям, что они переписывают с искусственным интеллектом, который «не обладает эмоциями и сознанием». Если система фиксирует признаки чрезмерной зависимости, она должна вновь предупредить о цифровой природе собеседника фразой: «Это машина, а не реальный человек». На этом фоне ряд крупных игроков — Alibaba и ByteDance — приняли решение полностью отказаться от человекоподобных агентов на своих платформах (Doubao, Qwen и Yuanbao). Тем временем профильные ведомства дополнительно разрабатывают закон, запрещающий лицам младше 18 лет пользоваться ИИ-компаньонами. 

В других случаях Пекин стремится повысить осведомленность о рисках. Например, в газете КПК «Жэньминь жибао» призывают представителей сельскохозяйственной промышленности использовать только информацию «из авторитетных источников». Фермеров призывают «критически осмыслять» предложения ИИ, а не быть «пассивными исполнителями» рекомендаций чат-ботов. 

Почему при этом Китай не поддается панике по поводу ИИ

Китай и США на сегодняшний день — две основные движущие силы развития ИИ и глобального внедрения технологии. Последний месяц американские политики и лидеры Кремниевой долины ведут ожесточенные дебаты о замедлении разработки искусственного интеллекта и утверждают, что в противном случае технология грозит миру чуть ли не уничтожением. А 29 сентября крупнейшие ИТ-корпорации страны — OpenAI, Anthropic, Google, Meta*, xAI и Nvidia — подписали добровольное соглашение об усилении контроля за ИИ. Они намерены создать команды для проверки новых инструментов на безопасность и привлекать независимых аудиторов для оценки потенциальных рисков.

В то же время в Китае о перспективе уничтожения человечества искусственным интеллектом так сильно не беспокоятся. Опрос Morgan Stanley показал: 80% жителей Поднебесной используют нейросети как минимум еженедельно. Для сравнения, в США этот показатель составляет 54%. Дело в том, что для китайцев ИИ — уже естественная часть повседневной жизни, объясняют эксперты. Они добираются на работу на поездах, использующих распознавание лиц вместо обычных билетов, регулярно пользуются беспилотными такси и получают посылки, доставляемые роботами. От американцев их отличает широкий культурный и политический контекст. Аналитики маркетинговой компании Edelman выяснили: 86% китайцев доверяют решениям собственного правительства (в США — 39%). А в исследовании Ipsos значится: 83% респондентов из Поднебесной считают продукты или услуги, основанные на технологии искусственного интеллекта, интересными (в США аналогичное мнение высказали лишь 33% опрошенных). 

Большинство китайцев воспринимают искусственный интеллект в первую очередь как дешевый продукт, а затем как предмет обсуждения и дискуссии. Когда технология представляется как полезная и недорогая услуга, люди оценивают ее в первую очередь по тому, что она может сделать для них. 

По Чжао
пекинский технологический аналитик, автор информационного бюллетеня Hello China Tech

В целом США и Китай движутся в разных направлениях: американцы стремятся создать самую мощную технологию, поощряя частные компании развиваться при отсутствии четкого регулирования, а китайцы делают акцент на практичности технологии и ее внедрении в реальную жизнь в условиях жесткой нормативной базы. 

США действительно заинтересованы в расширении границ. В Китае, возможно, меньше внимания уделяется этому пограничному потенциалу искусственного интеллекта, но больше — тому, как сделать ИИ более производительным и применимым в коммерческой сфере. 

Лиан Джай Су
главный аналитик исследовательской компании Omdia

И если в США сегодня сосредоточены на дебатах о том, может ли передовой ИИ представлять угрозу существованию человечества, то политики из КНР рассматривают нейросети как мощную, но управляемую технологию, риски которой можно ограничить с помощью технических стандартов, регулирования и государственного контроля, пишет Reuters. Местные компании обязаны проводить внутренние проверки алгоритмов, обеспечивать защиту личной информации пользователей и предоставлять им средства контроля — в частности, информировать о действиях автономных ИИ-агентов (за пользователем закреплено право принятия окончательного решения). По данным Министерства промышленности и информатизации КНР, в стране уже сформированы или находятся в разработке около 200 ключевых стандартов, связанных с работой ИИ.

Пекин уже окружил свой сектор искусственного интеллекта обязательствами на государственном уровне, надзором и развивающейся системой оценки рисков. Мы должны, по крайней мере, признать, что страна уже опережает других в этом плане и рассматривать такое управление как перспективу на будущее.

Мэдлин Карр
профессор глобальной политики и кибербезопасности 

Фото обложки: VCG / ТАСС

*Компания Meta признана в России экстремистской и запрещена.

Dots от OpenAI: как работают ИИ-агенты 

OpenAI провела ежегодную конференцию DevDay. Компания представила GPT-6.1 Sol — новую ИИ-модель для программирования и решения сложных задач с более доступными тарифами, — пространство для совместной работы с коллегами и искусственным интеллектов ChatGPT Space и обновленный Codex (его теперь можно запускать на компьютере, удаленно с телефона или в облаке с любого устройства). Но главным релизом стали Dots (в переводе с английского это значит «точки», «пятнышки»)  — агенты на базе GPT-6 Astra, которые способны работать круглосуточно.

Мы считаем, что это совершенно новый способ работы с ИИ. Это та версия искусственного интеллекта, что мы всегда представляли. Это как помощник, который всегда прикрывает вашу спину, вдохновленный крутыми фильмами, которые мы все смотрели в детстве. 

Сэм Альтман 
гендиректор OpenAI 

В OpenAI описывают Dots как «удивительно способных агентов, всегда готовых к работе и справляющихся с любой задачей». У них есть доступ к облачному компьютеру с браузером и интеграция с более чем 4 тыс. приложений. Пользователь может дать задание агенту и попросить его действовать в фоновом режиме. Общаться с ИИ-помощником можно через ChatGPT, Slack и Microsoft Teams. В ближайшее время разработчики планируют подключить функцию обмена сообщениями через SMS для владельцев техники как на iOS, так и на Android. 

Dots могут, например назначать встречи или бронировать билеты на самолет. Во многом этот функционал уже был доступен — через Codex и другие системы управления ИИ-агентами. Преимущество Dots в том, что инструмент объединяет все возможности в одном «пакете» и действует абсолютно автономно, подчеркивают в OpenAI. Там считают интеллектуальных помощников «продолжением человека». В одном из сценариев, продемонстрированных во время DevDay, агент изучает отзывы клиентов, предоставляет решения повторяющихся проблем и исправляет ошибки. В другом — анализирует интервью, находит интересные моменты и готовит на основе этой информации публикацию для соцсетей. В третьем — помогает спланировать ужин: напоминает пользователю, что у него вечером встреча, и предлагает два варианта доставки еды с указанием цен.

Как только Dots получают задачу и приступают к ее выполнению, они начинают отправлять сообщения с обновлениями и вопросами (если они возникают). Пользователи также могут следить за прогрессом, подключившись к облачному компьютеру ИИ-агента. Система, кстати, обучается в процессе работы — запоминает предпочтения человека, прошлые разговоры, принятые решения и контекст общения на всех платформах. К тому же Dots можно персонализировать: визуально они выглядят как мультяшные персонажи — им можно выбрать имя, настроить форму и цвет (например, завести себе зеленую лягушку или розовое сердце в очках). TechCrunch пишет, что OpenAI таким образом пытается придать ИИ более понятный и безопасный облик. 

Dots доступны с 29 сентября, но только для подписчиков тарифных планов ChatGPT Pro, Business Premium и Enterprise. На данный момент они могут запустить и персонализировать только одного ИИ-агента. OpenAI планирует расширить функционал и разрешить пользователям развертывать сразу несколько помощников. 

Что умеет Muse от Meta*

OpenAI представила Dots спустя всего несколько недель после того, как Meta* выпустила Muse — персонального ИИ-агента в виде отдельного мобильного приложения. Помощник тоже работает полностью автономно: ему можно поручить задачу, закрыть приложение или даже выключить смартфон/компьютер, а позже вернуться за результатом. В частности, Muse способен управлять браузером и работать в сторонних приложениях — соцсетях, электронной почте, Google Docs, Google Calendar и других. Дополнительно к интеллектуальному ассистенту планируют выпустить небольшое устройство Muse Charm, которое визуально напоминает тамагочи. Оно дает возможность управлять ИИ-агентом с помощью голоса. 

Сразу после анонса Muse профильные СМИ писали, что клиентам придется доверить Meta* еще больше личной информации — и это с учетом того, что компания не раз сталкивалась с обвинениями и штрафами из-за нарушений конфиденциальности и приватности пользователей. 29 сентября стало известно, что ИИ-агент раскрыл домашний адрес своего «владельца» неизвестному человеку. Об этом инциденте рассказал канадец Мэтт Робб. Накануне он поручил Muse заняться объявлением на Facebook* Marketplace (он собирался продать клавиатуру). Ассистент в автономном режиме провел переговоры с потенциальным покупателем, согласовал цену, договорился о времени самовывоза и сообщил ему адрес — и все это без ведома самого Робба.

Тем временем Muse стремительно набирает обороты за счет автономности и глубокой интеграции со сторонними сервисами: приложение в США уже скачали 3 млн раз. Изначально продукт Meta* был ориентирован преимущественно на простых юзеров, а не на бизнес-клиентов. Но 29 сентября компания анонсировала расширение для малого бизнеса — ИИ-агента объединили с сервисом управления проектами Asana, платформой для видеоконференций Zoom, графическим редактором Canva, корпоративным мессенджером Slack и другими платформами. 

Какие риски связаны с персональными ИИ-агентами 

Dots от OpenAI будут конкурировать не только с Muse, но и с Gemini Spark (в мае Google выпустила автономного ИИ-агента, который работает 24/7 в фоновом режиме), Scout (персональный ИИ-ассистент на базе OpenClaw от Microsoft), Grok Bot (команда агентов от xAI, которые самостоятельно работают за компьютером) и другими инструментами. Еще один серьезный противник — стартап Instinct, предлагающий одноименного интеллектуального помощника для выполнения повседневных задач. В ходе последнего раунда финансирования он привлек $1 млрд и увеличил свою оценку в четыре раза (до $10 млрд). 

Все это говорит о новом этапе в борьбе между компаниями, занимающимися искусственным интеллектом: они выходят за рамки чат-ботов и стремятся продавать программное обеспечение, действующее от имени пользователей, ориентируясь в первую очередь на корпоративных клиентов. Так, в OpenAI уже анонсировали специализированных Dots для выполнения конкретных бизнес-ролей и решения офисных задач внутри организаций. Речь про бухгалтерский учет, маркетинг, юридический анализ и так далее. 

Этот сдвиг, способный изменить методы работы бизнеса, вызывает опасения по поводу безопасности — после ряда инцидентов, когда ИИ-модели выходили из-под контроля. Claude от Anthropic взломал системы трех реальных организаций. Подобные инциденты происходили и с нейросетями Meta*. А сотни «умных» агентов OpenAI, оставаясь незамеченными, совершили атаку на платформу Hugging Face и сайты правительства Австралии. На этом фоне компания приняла решение не выпускать более мощную модель (GPT-6.1 Astra) и подчеркнула, что Dots прошли все проверки на безопасность — агенты работают на GPT-6, которая наиболее точно соответствует указаниям человека. 

Фото обложки: Jeff Chiu / AP / TASS

*Компания Meta признана в России экстремистской и запрещена. Facebook — продукт этой компании.