Anthropic призвала замедлить развитие ИИ: разработчик Claude видит риски потери контроля
Компания Anthropic, создавшая ИИ-модель Claude, предложила замедлить развитие искусственного интеллекта. Об этом говорится в статье сооснователя компании Джека Кларка и руководителя исследовательского центра The Anthropic Institute Марины Фаваро, опубликованной на сайте организации.
- Авторы считают, что влияние человека на создание новых ИИ-систем постепенно снижается. По их мнению, если качество кода, который пишет искусственный интеллект, сравняется с человеческим, программисты будут все реже заниматься разработкой самостоятельно и сосредоточатся на проверке результатов работы нейросетей. В компании опасаются, что ИИ начнет совершенствоваться без вмешательства человека, что приведет к утрате контроля над технологией.
- Возможности искусственного интеллекта растут все быстрее. Если раньше объем задач, которые ИИ способен выполнять самостоятельно, удваивался примерно каждые 7 месяцев, то сейчас — уже раз в 4 месяца. При сохранении этой тенденции уже в следующем году нейросети смогут за несколько часов выполнять работу, на которую человеку потребуются недели.
- В Anthropic считают, что обсуждать возможные ограничения необходимо всем крупным игрокам рынка, прежде всего в США и Китае. Уже в июне компания планирует начать консультации с политиками, учеными и представителями общественных организаций. Пауза в развитии наиболее мощных ИИ-моделей позволит выработать правила регулирования и подготовить общество к технологическим изменениям.
- Ранее Anthropic уже принимала подобные меры предосторожности. В апреле компания представила новую модель Claude Mythos, однако решила не выпускать ее в открытый доступ, сославшись на соображения кибербезопасности. А в феврале Anthropic отказались передавать Пентагону контроль над Claude, после того, как министерство поставило им ультиматум.
- Призывы замедлить развитие искусственного интеллекта звучат не впервые. В 2023 году организация Future of Life Institute опубликовала открытое письмо с предложением как минимум на полгода приостановить обучение ИИ-систем, превосходящих по мощности GPT-4. Документ подписали более тысячи представителей отрасли, включая Илона Маска, сооснователя Pinterest Эвана Шарпа и сооснователя Apple Стива Возняка.