На этот счет есть самые разные мнения — например, что актуальная сейчас волна хайпа вокруг ИИ освобождает от необходимости трудиться в поте лица в основном тех людей, которые богатеют за счет растущей капитализации ИИ-стартапов. Сторонники же ИИ отвечают, что это полная ерунда и совсем скоро нейросети и роботы освободят пролетариат от тягостной необходимости работать руками.
Еще в конце 2010-х мегакорпорация Amazon запустила один из своих флагманских проектов в области искусственного интеллекта — сеть супермаркетов Amazon Go. Идея была простая — заменить кассиров на автоматику, которая не устает, не ошибается, не создает очередей, не ходит на перекуры и не требует повышения минимальной почасовой ставки оплаты своего труда. Берешь товар с полки, выносишь из магазина, а счет тебе приходит автоматически. Не нужно даже ковыряться с кассой самообслуживания — умная компьютерная система все отследит и посчитает самостоятельно. Удобно? Удобно! Идея потребовала комплекса революционных технических разработок.
Прежде чем хотя бы предложить этот масштабный замысел CEO Amazon Джеффу Безосу, менеджмент велел возвести тестовую модель такого супермаркета в натуральную величину, чтобы изучить все тонкости. Понадобилось разработать сложнейшую систему камер, отслеживающих, что покупатель делает и что у него в руках. Спроектировать умные полки, реагирующие на изменение веса. И, конечно, создать и обучить нейросеть, отслеживающую покупки и способную распознать пачку чебупелей «Алабамские» в руках быстро бегущего пользователя.
Поначалу все шло хорошо. Пилотный магазин в Сиэтле открылся в 2016-м для сотрудников Amazon, а в 2018-м заработал в нормальном режиме, для всех остальных покупателей. К концу 2023-го в разных городах США работало уже 22 супермаркета Amazon GO, а слухи ходили о невероятном масштабировании — то ли 2 тыс., то ли 3 тыс. таких магазинов за следующие 10 лет. Это было ровно то, о чем мечтает любая приличная мегакорпорация, — полноценная техническая революция там, где поменять, казалось, уже ничего невозможно, — в розничной торговле.
Ожидания инвесторов выросли соответственно и продолжали расти. Amazon была настолько уверена в своей технологии супермаркетов без кассиров, что начала предлагать ее своим прямым конкурентам — под ключ, под брендом Just Walk Out («Просто выйди»). Были некоторые технические шероховатости, например отдельным пользователям счета за покупки приходили с огромным опозданием, но недочеты обещали вскоре устранить. Пользователи относились с пониманием — в конце концов, технология молодая, новая, ради футуризма можно и потерпеть.
Все это великолепие сбила на взлете одна проблема. Оказалось, что широко разрекламированный магазинный ИИ Amazon — это не ИИ, а индийцы. Тысяча индийцев на аутсорсе где-то в штате Бангалор.
То есть отслеживанием покупок, конечно, занимался в своем роде интеллект. Но не искусственный, а вполне естественный.
В апреле 2024-го издание The Information опубликовало статью с нейтральным заголовком «Как технология «Просто выйди» споткнулась на пути к выходу», но вирусным стал пересказывающий ее материал на сайте Business Insider, озаглавленный гораздо более броско: «ИИ от Amazon — это просто тысяча индийцев, и все они пялятся на вас, пока вы бродите по магазину».
Неназванный источник cообщил журналистам, что нейросеть, отслеживающая покупки, действительно была создана и запущена — вот только она не работала. Процент ее ошибок даже в лучшие моменты составлял 20%. В таких случаях она честно сообщала оператору, что не может понять, что держит в руках покупатель — пельмени «Мормонские» или все-таки бутылку текилы «Байденовка», и в дело вступал живой человек. Этот механизм был предусмотрен проектировщиками системы. Но они закладывали в расчеты в среднем 50 ошибок на 1 тыс. покупок. В реальности, как это обычно бывает, все оказалось чуть сложнее — вмешательство оператора требовалось в 700 случаях из 1 тыс.
В этом и была причина счетов, приходивших с огромным запозданием, — пока пользователь недоумевал, почему компьютер не присылает ему счет, бедный индиец на аутсорсе, в американском супермаркете никогда не бывавший, щурил глаза, всматриваясь в записи с камер, и искал в справочнике ассортимента, как выглядит творожный сырок «Б. Ю. Трампов» со вкусом маминого яблочного пирога. А поскольку индийцев было всего 1 тыс. на 20 с чем-то магазинов, на это требовалась куча времени.
Случился скандал — по большей части за закрытыми дверьми, но страшный. Партнеры отказались покупать технологию «Просто выйди». А Amazon заявила, что Just Walk Out не нравится пользователям и вообще по характеру потребительского опыта плохо подходит для больших магазинов и будет свернута. Теперь корпорация продвигает не умные полки и камеры, а «умные» тележки — кладешь в такую продукты, и она определяет, что ты купил. На этот раз совершенно точно с помощью ИИ.
Над Amazon и над ИИ-индустрией в целом несколько месяцев потешался весь интернет. Все это действительно довольно смешно — особенно если вспомнить, что такое в человеческой истории случается не впервые. В XVIII веке, в эпоху Просвещения, тоже была большая мода и большая надежда на искусственный интеллект. Рене Декарт объявил животных мыслящими машинами. Казалось, что еще немного, наука разгадает тайну жизни и людям будут прислуживать механические автоматы, работающие на маленьких часовых шестеренках. Такие автоматы даже демонстрировались: в моду при дворах европейских монархов вошли «механические турки» — восковые фигуры, якобы умевшие играть в шахматы. На самом деле в каждом таком автомате сидел человек, часто — карлик.
История с громким провалом футуристического стартапа тоже не нова. Можно вспомнить знаменитый случай с компанией Theranos и ее создательницей Элизабет Холмс, которую долго называли Стивом Джобсом в юбке. Theranos обещал революцию в медицине — портативное оборудование для мгновенного анализа крови. Десять лет капитализация стартапа только росла, достигнув в какой-то момент оценки в $10 млрд, а потом оказалось, что никакого оборудования у компании нет, — анализ крови делается в ближайшей будничной лаборатории, чуть ли не в поликлинике, и выдается потом за работу волшебной машины. Как и в случае с карликами внутри шахматных автоматов, и с индийцами в супермаркетах Amazon Go, общественность была возмущена и разочарована.
Здесь самое время спросить: а что, собственно, разочаровывает людей в подобных ситуациях? Желание техногенного чуда понятно и объяснимо — всем хочется верить в футуристическую сказку, и всем обидно, когда будущее из научной фантастики в очередной раз откладывается.
Но что если попытаться посмотреть на проблему непредвзято? Ведь что на самом деле произошло? Оказалось, что вместо бездушной машины, глядящей на человека тысячей гигапиксельных глаз, покупатели в супермаркетах Amazon взаимодействовали с такими же, как они, живыми людьми из плоти и крови. По ту сторону коммуникационного канала все это время находился человек — пусть и говорящий на другом языке.
Индия за последние несколько десятилетий превратилась в мировой центр айти-аутсорса. По разным оценкам, на западные компании в сферах, связанных с ИТ, дистанционно работают от 5 млн индийцев — в основном на низовых позициях: сотрудники колл-центров, тестировщики, консультанты технической поддержки, системные администраторы, удаленные вахтеры и охранники. Часто зарплата, которая по меркам платящих ее западных корпораций считается копеечной, позволяет всем этим людям относительно прилично существовать — выбраться из нищеты, завести семью, дать своим детям образование — и в целом открывает им дорогу в жизнь. Это живые люди — и если помнить об этом, возмущение амазоновской программой «Просто выйди» начинает выглядеть не то чтобы неэтичным, это ладно, а просто устаревшим.
По мере того как движется вперед прогресс, роскошью становятся не цифровизация и автоматика, а как раз живой человеческий контакт.
Разве не приятно знать, что твою весовую дыню «Оклахомская колхозница» пробил не бездушный робот, а живой человек, пусть и невидимый? Который после своей 12-часовой смены придет домой, положит себе карри и, глядя на мерное течение великой священной реки Ганг, будет, может быть, поражаться про себя сценам далекой и чужой жизни, увиденной через камеры, и, покачивая головой, говорить жене: «Знаешь, Сарасвати, а ведь всюду люди живут — даром что американцы и на ужин берут замороженную готовую пиццу с ананасом «Дары Гавайев». Разве это плохо?
Что касается корпорации Amazon, то это одна из самых дорогих и богатых компаний планеты — за нее можно не переживать. Нейросети совершенствуются, и достаточно скоро индийцев можно будет сократить, а программа кассовых роботов будет перезапущена. Ей наверняка понадобится название. Можно предложить следующее: «Просто выйди и зайди нормально».