Московские новости
Киберпанк,Технологии

Крупнейшие ИТ-корпорации подписали соглашение о добровольном контроле над ИИ

Президент США Дональд Трамп и главы шести ведущих технологических компаний подписали добровольное соглашение об усилении контроля за искусственным интеллектом (ИИ). Документ, получивший название «Совместное обязательство по ответственности на передовых рубежах» (Joint Commitment on Frontier Responsibilities), был представлен 29 сентября в Белом доме по итогам встречи президента с лидерами ИТ-отрасли.

  • Договор подписали руководители OpenAI, Anthropic, Google, Meta (признана в России экстремистской и запрещена), xAI и Nvidia. Компании обязались внедрить механизмы внутреннего контроля, создать команды для мониторинга безопасности ИИ-моделей, а также привлекать независимых внешних аудиторов для оценки возможных рисков.
  • Инициатива носит добровольный характер. Документ не устанавливает санкций за нарушения и оставляет компаниям право самостоятельно выбирать независимых аудиторов и определять критерии безопасности. В соглашении лишь отмечается, что в будущем меры можно будет закрепить на законодательном уровне.

Также Трамп подписал указ, предписывающий правительственным ведомствам отказаться от термина «искусственный интеллект» (AI) в официальных документах в пользу словосочетания «суперинтеллект» (Super Intelligence, SI). По мнению президента, слово «искусственный» придает технологии оттенок чего-то «поддельного».

Почему в США решили создать рамки для развития ИИ

Инициатива Белого дома стала ответом на растущее давление международного сообщества. На прошлой неделе 20 стран и Евросоюз призвали создать наднациональный надзорный орган для контроля над ИИ из-за участившихся сбоев. В частности, на днях ИИ-агенты компании OpenAI получили несанкционированный доступ к государственным базам данных здравоохранения в Австралии, после чего релиз новой модели ChatGPT был отменен из соображений безопасности.

Несмотря на инциденты, администрация Трампа выступает против идеи международного контроля, делая ставку на саморегуляцию рынка и сохранение технологического лидерства над Китаем.