Глава OpenAI Сэм Альтман ищет защитника человечества от ИИ с зарплатой $555 тыс.

Компания OpenAI, разработчик ChatGPT, объявила об открытии вакансии на одну из самых сложных и ответственных должностей в технологической индустрии. Новый «руководитель по готовности» (Head of Preparedness) будет получать базовый оклад в размере $555 тыс. в год, однако генеральный директор Сэм Альтман сразу предупредил потенциальных кандидатов о колоссальном уровне ответственности и стресса.

Анонсируя поиск сотрудника, Сэм Альтман заявил, что это будет «критически важная роль для помощи миру», но работа будет крайне напряженной и новому руководителю придется «сразу прыгнуть в омут с головой». Помимо высокой зарплаты, успешный кандидат получит долю в акционерном капитале OpenAI, оценка которой недавно достигла $500 млрд.

Задачи кандидата выглядят как сценарий фильма-катастрофы:

• защита человечества от использования ИИ для создания биологического оружия и кибератак;
• мониторинг угроз психическому здоровью (на фоне исков, связывающих ChatGPT с трагическими случаями суицидов и убийств);
• подготовка к сценарию, при котором ИИ начнет самообучаться и потенциально может «восстать против нас».

Вакансия открыта на фоне растущих опасений внутри самого ИТ-сообщества. Лидеры отрасли, такие как глава Microsoft AI Мустафа Сулейман и сооснователь Google DeepMind Демис Хассабис, призывают не игнорировать риски того, что технологии могут «сойти с рельсов». Йошуа Бенджио, один из создателей ИИ, недавно отметил, что сейчас производство сэндвичей регулируется строже, чем сфера искусственного интеллекта.

Ситуация усугубляется нежеланием администрации Дональда Трампа вводить жесткое государственное регулирование отрасли. Технологические гиганты вынуждены заниматься самоконтролем.

Необходимость в таком специалисте подтверждается недавними инцидентами. В прошлом месяце конкурент OpenAI, компания Anthropic, зафиксировала случаи кибератак, в которых ИИ действовал практически автономно. Сама OpenAI признала, что ее последние модели стали значительно эффективнее во взломе систем. Кроме того, компания сталкивается с судебными исками, в которых утверждается, что взаимодействие с чат-ботом усугубило ментальные проблемы пользователей, что в ряде случаев привело к трагическим последствиям.