За чем следить
В Европарламенте готовятся к дебатам по вопросу запрета технологии распознавания лиц на улицах европейских городов. «Умные» камеры предлагают заменить на «обычные», а полицию — ограничить в применении современных систем для выявления преступников.
Контекст
Запрет на «биометрическую слежку» в ЕС — часть масштабного законопроекта о регулировании технологий на основе ИИ. Европейские парламентарии разрабатывают этот документ с 2021 года.
Мировая практика
В Китае и США в настоящий момент только разрабатывают законы, регулирующие ответственность в области нейросетей. В России действует запрет на системы ИИ, «способные нанести вред человеку», а в Бразилии легально создавать нейросети можно только в специализированных национальных центрах.
Почему это важно
По мнению многих исследователей, искусственный интеллект в перспективе способен освоить приемы контроля и манипулирования людьми и нанести вред здоровью миллионов жителей планеты. При этом нейросети уже сейчас помогают правоохранителям раскрывать сложные дела, и полный отказ от них может вызвать рост преступности.
За чем следить
Европарламент намерен запретить использование технологии распознавания лиц в ЕС. Депутаты, выступающие за одобрение закона, называют применение нейросетей в этой области «массовой биометрической слежкой в общественных местах» и считают, что это полностью противоречит основным правам человека.
- Если документ примут, на территории ЕС запретят использовать новейшие технологии для слежки за людьми в магазинах, на улицах, в парках или любых других общественных местах.
- Также будет запрещено сверять сканы лиц с любых камер видеонаблюдения с базами изображений, размещенных в соцсетях. Компании, нарушающие запрет, будут оштрафованы на сумму до €10 млн.
- Кроме того, под запретом окажутся и системы «социального скоринга», которые оценивают надежность граждан на основе их поведения.
- Полиции нельзя будет использовать ИИ-алгоритмы для «прогнозирования» преступлений или выявления подозреваемых.
Введение запрета на использование технологии станет частью большого законопроекта ЕС об искусственном интеллекте. Как пишет The Guardian, в парламенте ЕС эту поправку назвали основной в вопросах регулирования ИИ, так как она затрагивает каждого, кто посещает общественные места в европейских странах.
Голосование пройдет в Европарламенте 11 мая. Ожидается, что за запрет ИИ-камер выступят большинство депутатов. Но есть и те, кто намерен оказывать серьезное противодействие продвижению этого закона. Издание пишет, что группа правоцентристских депутатов, а также представители отдельных стран-членов ЕС всерьез опасаются, что повсеместный запрет на видеонаблюдение затруднит предотвращение серьезных преступлений, в том числе терактов.
Контекст
Разработкой законопроекта о регулировании рискованного использования технологий искусственного интеллекта в ЕС занялись еще в 2021 году, а конкретный документ парламент представил только в апреле 2023-го.
Депутаты, которые работают над общим законом об ИИ, заявили, что технологический прогресс «быстрее и непредсказуемее», чем ожидалось. По их мнению, промедление с введением закона грозит полной потерей контроля над развитием ИИ.
В законе об ИИ собран целый ряд нормативных актов о том, как и где можно использовать нейросети. Многие из них эксперты называют довольно жесткими. К примеру, согласно документу, разработчики чат-ботов будут обязаны подавать декларацию с подтверждением использования авторских материалов в ИИ. Они же будут нести ответственность и за любое злоупотребление нейросетями.
Как ожидается, новый документ примут в 2024 году — до того, как пройдут новые выборы в Европарламент.
Мировая практика
На фоне всплеска интереса технологических компаний к разработкам в сфере искусственного интеллекта правительства стран не остались в стороне: в одних государствах законодательно ограничивают развитие нейросетей, в других — власти, напротив, активно участвуют в развитии отрасли, но сохраняют над ней контроль — в том числе и в вопросе «умных» систем видеонаблюдения.
- В России с 2020 года действует закон, регулирующий разработку и внедрение технологий искусственного интеллекта. В нем предусмотрен запрет на использование систем, «способных по своему усмотрению нанести вред человеку».
- С сентября 2021-го в Бразилии можно изучать и разрабатывать нейросети только в четырех специальных центрах, которые в перспективе объединятся в национальную сеть.
- Китайские власти пока только разрабатывают законопроект, в котором будут прописаны все правила и ответственность разработчиков за исследования, обучение и создание ПО с использованием нейросетей.
- Министерство торговли США вынесло на общественное обсуждение вопрос о контроле за деятельностью нейросетей. Ведомство предложило проводить обязательные проверки ИИ-сервисов и запустить программу вознаграждения для тех, кто обнаружит их «предвзятость» или дискриминацию в алгоритмах нейросети.
Почему это важно
- По мнению исследователей из Великобритании, США, Австралии, Коста-Рики и Малайзии, искусственный интеллект посредством контроля и манипулирования людьми способен нанести вред здоровью миллионов людей по всему миру.
- Многие ИТ-эксперты и разработчики нейросетей опасаются, что видеоконтроль действий людей с помощью ИИ может негативно сказаться в будущем. По их мнению, нейросети будут только повышать эффективность такой слежки, а ее данными смогут пользоваться правительства стран в том числе для «стимулирования конформизма и наказания за инакомыслие», пишет Axios.
- При этом благодаря применению нейросетей правоохранители по всему миру поймали множество преступников. Как отмечает ТАСС, в торговых центрах использование таких камер снижает число краж, а на стадионах помогает выявлять в толпе неадекватных болельщиков и провокаторов.
Фото обложки: Mark Schiefelbein / AP / TASS