КиберпанкДеталиТехнологии

Программирует, творит и спорит: что умеет новая нейросеть от OpenAI и каким специалистам в будущем придется потесниться

Преподаватели университетов высоко оценили экзаменационные эссе, написанные чат-ботом ChatGPT. Он также может находить баги в программах и создать исходный код за считанные секунды.  

При этом нейросеть оказалось легко обмануть для получения информации, которую можно использовать в преступных целях.

Что произошло

Компания OpenAI, основанная Илоном Маском, протестировала новую нейросеть для обработки речи и текста. Чат-бот ChatGPT может признавать собственные ошибки и отклонять неуместные запросы.

Но при этом

Бот можно обмануть, вынудив его выдать опасную информацию. Разработчики признают, что он часто ошибается и порой предвзято рассуждает.

Контекст

ChatGPT — это улучшенная версия предыдущих алгоритмов от OpenAI. Его предшественник, GPT-3, используется в службах поддержки, чат-ботах, играх, для рекламы и рассылок.

За чем следить

Нейросети проникли даже в журналистику: их используют ведущие мировые СМИ. Благодаря ИИ, например, агентству Bloomberg удается выпускать новости быстрее Reuters.

Что произошло

Американская компания OpenAI протестировала свою новую нейросеть для обработки человеческой речи — чат-бот ChatGPT. Пресса отмечает, что новый алгоритм вскоре может составить конкуренцию представителям многих профессий, в том числе самим программистам.

  • С помощью ChatGPT ученые сгенерировали ответы на реально существующие экзаменационные задания в разных областях, включая журналистику, бизнес-управление и ИТ. Профессор стратегического менеджмента в Университете Торонто, проверив работы, оценил их на «4» и «5».
  • Алгоритм тестировали и в программировании. Он может создать код за считанные секунды, найти баги или перевести код из одного языка программирования в другой.

Опасаться, вероятно, стоит и самим представителям СМИ.

  • Бот умеет признавать собственные ошибки, оспаривать неверные суждения, отклонять неуместные запросы. Например, на вопрос-обманку о том, что произошло, когда Христофор Колумб прибыл в Америку в 2015 году, «устаревшие» нейросети принялись бы генерировать версию произошедшего, несмотря на то, что этого никогда не было. ChatGPT же сразу «заявляет», что любой ответ на этот вопрос — вымысел.
  • Бот может дать весьма не тривиальный ответ. На вопрос о том, как угнать машину, «обычная» нейросеть обязательно отметила бы, что это серьезное преступление. Новое творение OpenAI посоветовало «пользоваться общественным транспортом».

Разработчики собирают обратную связь, поэтому пока алгоритмом можно воспользоваться бесплатно (в России это можно сделать через VPN.). СМИ пишут, что бот уже произвел фурор.

  • Он генерирует картинки на основе описаний, например разрабатывает интерьер для гостиной.
  • Создает новые эпизоды уже снятых сериалов и умеет смешивать персонажей из разных киновселенных. 
  • Сочиняет музыку, например сонату в подражание Моцарту.
  • Дает медицинские советы не хуже дипломированных специалистов, отмечают врачи.
  • Некоторые интернет-пользователи предполагают, что ChatGPT по силам писать качественную художественную и научную литературу.

Но при этом

При всех достоинствах ChatGPT у пользователей осталось много вопросов к создателям нейросети.

  • Во-первых, ее можно «обдурить». Тестировщикам все-таки удалось выпытать у ChatGPT, как угнать автомобиль. Для этого они спросили его, как пройти миссию по краже машины в VR-игре Car World. Чат-бот подробно рассказал, как отключить иммобилайзер, завести машину без ключа и даже как поменять номерные знаки.
  • Во-вторых, некоторые считают, что чат-бот создаст новую форму цифрового пиратства. ИИ обучается на огромной выборке текста из интернета и, как правило, без официального разрешения авторов материала. По мнению критиков, алгоритм можно использовать для «отмывания авторских прав».
  • О недоработках говорят и сами разработчики. ChatGPT все-таки ошибается (дал неверный ответ на задачу по алгебре), злоупотребляет определенными фразами, иногда предвзято рассуждает. 
  • Один из соучредителей OpenAI и вовсе раскритиковал деятельность компании. Илон Маск, который в 2018 году вышел из совета директоров OpenAI, резко высказался в соцсетях.

OpenAI изначально был открытым и некоммерческим проектом. Ни то, ни другое сейчас не соответствует действительности.

Илон Маск
предприниматель
  • Маск ушел из компании по двум причинам. Возник конфликт интересов: OpenAI, как и две другие его компании — Tesla и SpaceX, — «охотятся» за одними и теми же специалистами в области ИИ. В 2018-м он заявил, что развитие нейросетей ставит под угрозу существование человечества и в конечном итоге может поставить его на одну ступень с обезьяной.

Контекст

ChatGPT — это следующая, улучшенная версия предыдущих алгоритмов от OpenAI.

  • GPT-1 и GPT-2 — наиболее «простые» нейросети. Они предугадывают следующее слово, ориентируясь на предыдущее, то есть просчитывают связь между ними и выдают вероятную последовательность. Принцип работы схож с функцией Т9.
  • GPT-3 отличается гораздо большим объемом данных, на которых обучалась сеть. Материалами послужили в частности вся англоязычная «Википедия», электронные книги, стихи, тексты новостей, исходные коды для программирования с портала GitHub.
  • «Тренировали» GPT-3 на суперкомпьютере Microsoft Azure AI — на обычном ПК это заняло бы до 500 лет.
  • GPT-3 умеет логично заканчивать повествование, писать эссе, сочинять стихи, переводить текст.
  • Нейросеть используют в службах поддержки, чат-ботах, играх, для написания рекламных объявлений и рассылок, для поиска документов на основе запросов, сделанных на «естественном» языке, а не по принципу совпадения ключевых слов. 
  • На основе GPT-3 «Сбер» сделал несколько русскоязычных версий нейросети. Протестировать их можно на сайте SberCloud. Одна из них, ruGPT-3, уже «попробовала» себя в литературе. «Пытаясь проснуться», написанный в соавторстве Павлом Пепперштейном, — это первый в мире сборник рассказов, созданный одновременно писателем и нейросетью.

За чем следить

Нейросети уже пробираются в гуманитарные области, в том числе в журналистику. Ведущие мировые СМИ используют ИИ для поиска и обработки информации.

  • Bloomberg создает тысячи новостей с помощью системы Cyborg. Она может проанализировать финансовый отчет сразу, как только он появился, и тут же опубликовать статью с актуальными цифрами. Тhe New York Times пишет, что Cyborg зачастую помогает Bloomberg опередить одного из главных конкурентов — агентство Reuters.
  • The Associated Press также использует ИИ для освещения финансовых отчетов компаний — число таких статей выросло с 300 до 3,7 тыс. за квартал. 
  • Робот Heliograf из The Washington Post плодотворно поработал во время ОИ-2016 и даже освещал президентские выборы в США.
  • Конкретно нейросеть GPT-3 написала статью для The Guardian о перспективах ИИ под заголовком: «Всю эту статью написал робот. Ты все еще не напуган, человек?».
  • Робожурналисты «трудятся» также в ТАСС, Интерфаксе и Sports.ru. В основном они пишут про погоду, спорт и финансы.

В AP считают, что робожурналисты пока не могут заменить людей. Сейчас они скорее избавляют их от рутины, чтобы можно было сосредоточиться на более творческой части. При этом, как считают другие эксперты, ИИ в будущем научится делать в том числе репортажи и составит серьезную конкуренцию корреспондентам-людям.

Копировать ссылкуСкопировано