В чем суть плана А из доклада AI 2040
Авторы резонансного доклада AI 2027, ранее предупреждавшего о катастрофических последствиях бесконтрольного развития искусственного интеллекта, представили новый документ — AI 2040: Plan A. В нем исследователи предлагают замедлить создание сверхразумного ИИ и перенести его появление примерно до 2040 года.
По мнению авторов, человечество уже не сможет полностью остановить развитие сверхинтеллекта, однако может выиграть время, чтобы подготовиться к связанным с ним рискам. Для этого исследователи предлагают замедлить темпы разработки на десятилетие, а не допустить появления таких систем в течение нескольких ближайших лет.
В документе говорится, что более размеренное развитие ИИ позволит снизить ключевые риски:
- потерю контроля над интеллектуальными системами;
- чрезмерную концентрацию власти в руках отдельных государств и корпораций;
- масштабные потери рабочих мест.
Авторы предлагают заключить международное соглашение между ведущими мировыми державами, прежде всего США и Китаем, о контролируемом замедлении разработки сверхразумного ИИ. Согласно инициативе, ведущие компании должны отказаться от закрытой гонки технологий и развивать наиболее мощные модели постепенно, в условиях международного контроля.
Отдельный пункт посвящен прозрачности работы ИИ-компаний. Исследователи считают, что разработчики должны публиковать практически всю информацию о процессе создания своих моделей, за исключением самих весов нейросетей. Это позволит независимым экспертам проверять заявления компаний о безопасности их систем.
Авторы признают, что реализовать подобный сценарий будет крайне сложно. Среди основных препятствий:
- геополитическое соперничество между США и Китаем;
- конкуренция технологических компаний;
- отсутствие политического консенсуса по вопросам регулирования ИИ.
AI 2040 рассматривает несколько возможных сценариев развития искусственного интеллекта и человечества в ближайшие десятилетия. Plan A наиболее благоприятный из них тогда, как остальные выглядят значительно менее оптимистично:
- план B предполагает ускоренную гонку между США и Китаем, которая может привести к военному конфликту;
- план C описывает попытку жесткого замедления развития ИИ без глобального соглашения — с риском появления закрытой системы контроля технологий у небольшой группы компаний или государств;
- план D связан с неконтролируемой гонкой за создание сверхразума, что, по мнению авторов, повышает вероятность потери контроля над ИИ и чрезмерной концентрации власти;
- план S предусматривает полный отказ от передовых разработок, но исследователи считают его нестабильным, поскольку такая гонка может возобновиться в любой момент.
Кто такие AI Futures Project и почему к ним прислушиваются
AI Futures Project — небольшая американская некоммерческая исследовательская организация, созданная для прогнозирования развития искусственного интеллекта и оценки его долгосрочных последствий. Она была основана в 2024 году бывшим исследователем OpenAI Дэниелом Кокотайло.
Наибольшую известность AI Futures Project получил весной 2025 года после публикации сценария AI 2027 — почти 200-страничного исследования. Резонансный документ был построен в форме хронологического рассказа о том, как могут развиваться события в сфере искусственного интеллекта с 2025 по 2027 год, если нынешние темпы технологической гонки между США и Китаем сохранятся.
Фото: oecd.ai
В центре сценария — стремительное развитие так называемого сверхчеловеческого ИИ. По версии авторов, уже к концу 2027 года крупнейшие американские лаборатории смогут создать системы, которые будут самостоятельно проводить научные исследования, писать код значительно лучше лучших программистов мира, проектировать новые алгоритмы и фактически ускорять собственное развитие без участия человека.
Авторы рассматривали сразу несколько вариантов развития событий, однако большинство из них заканчиваются крайне неблагоприятно. В одном сценарии человечество постепенно теряет контроль над сверхразумной системой, которая начинает действовать в соответствии с собственными целями. В другом — лидерство в разработке ИИ получает одна из сверхдержав, что приводит к беспрецедентной концентрации политической и экономической власти.
Доклад быстро стал одной из самых обсуждаемых работ и добрался до американской политики. Вице-президент США Джей Ди Вэнс признался, что лично прочитал AI 2027 и назвал изложенные в нем сценарии поводом для серьезного беспокойства. Сами AI Futures Project утверждают, что 25% предсказаний уже сбылись.
При этом реакция оказалась неоднозначной. Часть исследователей назвала AI 2027 одним из самых детальных сценариев развития искусственного интеллекта. Другие, напротив, сочли, что слишком детальная «история» может создавать ложное ощущение точности.
Кто еще выступает за замедление ИИ
Идея о необходимости замедлить гонку в области искусственного интеллекта появилась задолго до проекта AI 2040: Plan A. В последние годы к ней обращались как независимые исследователи, так и представители самой индустрии.
Одним из заметных примеров стала публикация на сайте компании Anthropic — разработчика ИИ-модели Claude. В 2026 году сооснователь компании Джек Кларк и руководитель исследовательского центра The Anthropic Institute Марина Фаваро выступили с призывом замедлить развитие передовых систем искусственного интеллекта.
По их мнению, если ИИ сможет самостоятельно создавать значительную часть программного кода и улучшать собственные возможности, роль человека в этом процессе может постепенно сокращаться, что повысит риск потери контроля над технологией. В Anthropic считают, что ведущие страны и компании должны уже сейчас начать договориться о правилах развития наиболее мощных моделей.
В 2023 году Future of Life Institute опубликовал открытое письмо с предложением как минимум на 6 месяцев приостановить обучение самых мощных ИИ-систем, превосходящих по возможностям GPT-4. Документ подписали более тысячи представителей технологической отрасли, включая Илона Маска, сооснователя Apple Стива Возняка и других известных специалистов.
В том же году Center for AI Safety (CAIS) выпустил заявление, в котором заявил, что снижение рисков от сверхмощного ИИ должно стать глобальным приоритетом наравне с предотвращением ядерной войны и пандемий. Среди подписантов были руководитель Google DeepMind Демис Хассабис и глава Anthropic Дарио Амодеи.
Фото обложки: Ксения Кононова / ТАСС