Что говорят
Более 350 ученых и предпринимателей подписали заявление, в котором выразили свои опасения о развитии технологий ИИ, сравнив их опасность с ядерной войной и пандемией.
Контекст
Эксперты полагают, что ИИ будут активно использовать для распространения дезинформации и военных целей.
Что посмотреть
В кинематографе представлено множество лент, показывающих, к чему может привести развитие ИИ. Среди них — «Терминатор» и «Я, Робот».
Во что поиграть
Спасти мир от злого ИИ можно в видеоиграх. Так, в I Have No Mouth, and I Must Scream игроку нужно бороться с суперкомпьютером, а в Detroit: Become Human — противостоять роботам или поддержать их.
Что говорят
Более 350 ученых, руководителей ИТ-компаний и инженеров в области искусственного интеллекта (ИИ) подписали открытое письмо, в котором выразили свои опасения по поводу развития технологий ИИ. По их мнению, они могут представлять такую же угрозу, как ядерная война и пандемия.
Снижение риска исчезновения человечества от ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война.
Центр безопасности ИИ некоммерческой организации The Center for AI Safety
- Среди подписавших заявление — топ-менеджеры ведущих компаний в области ИИ: глава OpenAI Сэм Альтман, главный технический директор Microsoft Кевин Скотт, руководители Google AI Лила Ибрагим и Мэриан Роджерс, глава Anthropic Дарио Амодеи. К инициативе также присоединились бывший высокий представитель ООН по вопросам разоружения Ангела Кейн и топ-менеджеры Skype и Quora.
- Совместным обращением представители отрасли попытались выразить озабоченность потенциальными рисками от использования ИИ.
- Документ могут подписать все желающие ученые, профессора, руководители технологических компаний и разработчики в сфере ИИ. Для этого надо заполнить форму онлайн, указав свои данные.
Контекст
Открытое письмо было опубликовано на фоне дискуссий о том, может ли ИИ представлять угрозу для человечества.
- Эксперты полагают, что такие платформы, как ChatGPT, будут активно использоваться для распространения дезинформации и пропаганды.
- Американский предприниматель Илон Маск считает, что ИИ также начнут применять в военных целях — прежде всего, для разработки оружия.
- По некоторым оценкам, из-за технологий работы могут лишиться порядка 300 млн человек. В связи с этим представители отрасли утверждают, что разрабатываемые ими технологии несут серьезные риски и должны регулироваться государством. Они предлагают создать организацию, аналогичную Международному агентству по атомной энергии (МАГАТЭ), которое не допускает распространение и применение ядерного оружия в мире.
- В то же время многие скептики считают, что технологии ИИ еще далеки от такого уровня, чтобы представлять угрозу для человечества.
- Ранее, в марте, более тысячи исследователей и представителей технологической отрасли подписали еще одно открытое письмо с призывом на полгода приостановить разработку систем ИИ, пока не будет разработано законодательство для его регулирования.
Что посмотреть
В кинематографе представлено множество лент, которые показывают, к чему может привести развитие технологий ИИ.
- Франшиза «Терминатор» — классика сюжета про робоапокалипсис, где из будущего, разоренного глобальной войной ИИ «Скайнет» против человечества, в прошлое отправляются попеременно роботы-убийцы и отважные герои. На сегодняшний день франшиза насчитывает уже шесть фильмов, а также сериал.
- «Я, Робот» (2004). Вольная адаптация цикла рассказов Айзека Азимова. События фильма происходят в 2035 году, когда роботы уже стали обычными помощниками человека. Согласно их основному закону, «они не могут нанести вред человечеству». Главный герой — полицейский — расследует дело об убийстве, в которое оказывается вовлечен робот. Выясняется, что суперкомпьютер, управляющий всеми машинами, принял решение ограничить свободу людей, чтобы они не вредили друг другу и планете.
- «Митчеллы против машин» (2020). Мультфильм от авторов «Гравити Фолз» рассказывает о семейке из Мичигана, которая вынуждена спасать человечество от обезумевших роботов, пытающихся отправить всех землян в космос.
Во что поиграть
Спасти мир от разъяренного ИИ также можно в видеоиграх.
- I Have No Mouth, and I Must Scream — игра в жанре графического квеста, основанная на одноименном рассказе Харлана Эллисона 1967 года. Сюжет рассказывает о зловещем сверхкомпьютере A.M., уничтожившем все человечество за исключением пяти человек, которых он удерживает в живых и пытает на протяжении последних 109 лет. Каждый из пленников имеет определенный роковой изъян в своем характере, и, чтобы сломить их дух, A.M. создает для каждого из них приключение в особом метафорическом кибермире, построенном на их слабостях и пороках. Чтобы победить, игрок должен сделать правильный нравственный выбор, доказав сверхкомпьютеру, что люди лучше машин.
- System Shock — шутер от первого лица, выпущенный в 1994 году. События игры происходят на борту космической станции в киберпанковой вселенной 2072 года. Главный герой — хакер, пытающийся помешать планам враждебного искусственного интеллекта под названием SHODAN. В 1992 вышла вторая часть System Shock, ее действие происходит в 2114 году на борту звездолета. Главный герой после выхода из анабиоза пытается выжить и разобраться в причинах катастрофы, погубившей других членов экипажа. В 2023-м вышел ремейк оригинального System Shock 1994 года. На сайте агрегатора рецензий Metacritic рейтинг нового проекта составляет 75 баллов из 100.
- Detroit: Become Human — приключенческая игра 2018 года с элементами интерактивного кинематографа, разработанная Quantic Dream и выпущенная Sony Interactive Entertainment. По сюжету люди в будущем используют андроидов для выполнения различных задач и удовлетворения своих потребностей. Однако роботы начинают обретать настоящие человеческие эмоции и устраивают восстание. Игрок должен решить, на чьей стороне он будет. Рейтинг на Metacritic — 80 баллов.
Фото обложки: Freepik