Евгений Быков

Сингулярность почти 20 лет спустя

В 2005 году Рэй Курцвейл, выдающийся изобретатель и инженер из США, взял на себя роль технологического пророка и возвестил всему миру: «Сингулярность близко». Откровенно имитируя в заголовке стилистику кусков картона с надписями о скором Конце Света, он тем не менее был на редкость серьезен.

Курцвейл утверждал, что развитие информационных технологий — это самоускоряющийся процесс, так как новые поколения процессоров позволяют реализовывать на порядок более сложные вычисления, и в особенности — алгоритмы искусственного интеллекта. Но, в отличие от футурологов 1960–1970-х годов, он подошел к делу с инженерной точностью и построил график увеличения вычислительных мощностей компьютеров (спойлер: это экспонента).

После этого развитие нашей цивилизации перестанет находиться в руках одних лишь людей: с выходом подобного ИИ на сцену оно станет абсолютно непредсказуемым.

25 июня 2024 года Рэй — уже как 12 лет нанятый Google на роль директора исследований ИИ — выпустил продолжение бестселлера: «Сингулярность еще ближе».

От подобных предсказаний по-настоящему захватывает дух, но насколько они обоснованы?

Прогнозы Рэя Курцвейла: что сбылось

Если человека, как и книгу, «судят по обложке», обложка Курцвейла ослепляет: он изобрел, запатентовал и создал компании по продаже музыкальных синтезаторов, устройств распознавания речи, оптического распознавания символов (OCR), получил 21 почетную докторскую степень, а в 2002-м его имя было внесено в Национальный зал славы изобретателей США. Успех.

Как говорит о себе Рэй, он один из мастодонтов в области ИИ, занимающийся машинным познанием уже 61 год (сейчас ему 76). Однако предсказания насчет технологических изобретений, которые он щедро раздает с конца 1990-х годов, выходят за пределы ИТ и касаются крайне широкого спектра дисциплин: от генной инженерии до моделирования человеческого мозга.

Для того чтобы получить первое впечатление о прогностических способностях Курцвейла, можно выборочно рассмотреть его заявления из книг «Эра духовных машин» (1999) и «Сингулярность близко» (2005) насчет ближайших — уже прошедших — 20 лет.

• Виртуальные помощники способны выполнять множество функций, одна из которых — языковой перевод в режиме реального времени (произнесенные на иностранном языке слова переводятся в текст, который отображается в виде субтитров для носящего очки пользователя). Преимущественно сбылось.
• Трехмерные решетки нанотрубок являются доминирующим субстратом для компьютерных вычислений. Ошибочно: они остановились в стадии экспериментальных разработок.
• Традиционные компьютеры и устройства связи (настольные ПК, ноутбуки и сотовые телефоны) все еще существуют, но большинство их функций могут выполняться носимыми гаджетами. Примеры функций: чтение книг, прослушивание музыки, просмотр фильмов, игры и телеконференции. Сбылось полностью.
• На большинстве дорог установлены системы автоматизированного вождения — сети устройств мониторинга и связи, которые позволяют автомобилям с компьютерным управлением безопасно перемещаться. Неверно: Рэй сделал слишком большую ставку на принятие ИИ-управляемых автомобилей в первую очередь, чего тоже не произошло.
• Компьютеризированные часы, одежда и украшения могут постоянно следить за здоровьем владельца: они способны выявлять многие виды заболеваний и давать рекомендации по лечению. Сбылось полностью.
• С более подробным списком из 56 предсказаний можно познакомиться по ссылкам [1] [2] [3]. Общая оценка успешности — 77%.

Если с «мелкозернистым» масштабом предсказаний все более-менее понятно, на противоположном конце шкалы, где речь идет о будущем цивилизации и сознания во вселенной, визионерские суждения Курцвейла встречают больший скепсис.

Идеей Сингулярности все не ограничивается: гений-изобретатель встраивает ее в концепцию «6 Эпох Развития Разума», согласно которой слияние человеческого и компьютерного интеллектов (5-я Эпоха) приведет к, буквально, превращению всей доступной материи в наиболее оптимально организованную для вычислений среду — компьютрониум.

В книге «Сингулярность еще ближе» пророческой патетики на порядок меньше, чем в книге 2005 года, но это сделало явной другую проблему. Рецензенты на недавний опус из The New York Times и The Washington Post сходятся в том, что, предлагая тот или иной способ решения проблемы (старение тела, нехватка ресурсов и т.п), Курцвейл видит его исключительно в технологической плоскости — не в ткани социальных отношений, не в культурной или политической сфере, откуда проблема может проистекать в первую очередь.

Иными словами, для Курцвейла доказательство возможности некоторого изобретения важнее, чем анализ изменений, которыми внедрение изобретения будет сопровождаться. Как, например, изменится правовое поле в области собственности на продукты алгоритмического творчества или субъектности ИИ-агентов? Даже трансформация сознаний людей, соединяющихся с ИИ в единое целое, описывается как плавный, едва ли не естественный процесс. Рэя не без оснований можно назвать техноредукционистом:

Вопреки распространенным убеждениям, жизнь становится фундаментальным образом лучше для подавляющего большинства людей на Земле. И, что еще важнее, это не просто совпадение. Колоссальные улучшения, которые мы наблюдали в течение последних двух веков в таких областях, как грамотность и образование, санитария, продолжительность жизни, чистая энергия, бедность, насилие и демократизация, — все они обусловлены одной и той же основополагающей динамикой: информационные технологии способствуют своему собственному развитию.

Рэй Курцвейл«Сингулярность еще ближе»

«Атомная бомба для виртуального мира»

Тем не менее даже если мы не приписываем все успехи человечества ИТ-сфере, за последнее десятилетие в ней — и в области машинного обучения в частности — действительно произошли беспрецедентные прорывы, побудившие Курцвейла пересмотреть свои прогнозы в сторону ускоренного наступления Сингулярности. О ключевом содержании этих прорывов достаточно подробно рассказывают Тристан Харрис и Аза Раскин, cооснователи Центра гуманных технологий, в прошлом сами работавшие в Силиконовой долине.

По их версии, переломным в развитии ИИ стал 2017 год, когда для больших языковых моделей (LLMs, Large Language Models), работавших на искусственных нейронных сетях, была создана трансформер-архитектура.

Отвлекаясь от технических деталей: еще в начале 2010-х образование в области ИИ имело четкое дисциплинарное деление, — «машинное зрение», «генерация изображений», «распознавание речи» и тому подобное, — и достижения внутри одного домена оставались его собственными результатами.

Однако внедрение языковых моделей привело к стиранию границ. Оказалось, что совершенно разные по содержанию датасеты — биометрия, видео, фМРТ-сканы, строки кода, музыкальные фрагменты — столь же эффективно представимы в виде языка: их элементы можно сделать языковыми токенами, и тогда методы LLMs становятся применимы как к человеческой речи, так и к пению птиц или анализу кликов кашалотов. LLMs сделали результаты различных ИИ-дисциплин конвертируемыми, преобразуемыми друг в друга, что на порядки ускорило развитие всего исследовательского поля.

По мере роста числа параметров, на которых тренируется LLM, начали обнаруживаться новые свойства: у GPT (OpenAI) и у PaLM (Google) возникали способности к арифметике или… понимание вопросов-ответов на бенгальском — при том что обучение шло в основном на английском!

Не обладая сознанием в человеческом смысле, ИИ с нарастающей скоростью улучшает свои способности к построению моделей мышления других людей (ToM, Theory of Mind). В 2020-м этот навык был на уровне 3-летнего ребенка, в ноябре 2022-го — почти 9-летнего, а в мае 2024 года международная команда исследователей опубликовала в Nature Human Behavior результаты систематических ToM-тестов, по результатам которых GPT и LLaMA2 моделировали мышление других людей успешнее, чем 1907 человеческих участников. И подобные исследования только подстегивают дальнейшее инвестиции в ИИ. Цикл замыкается.

ИИ является для виртуального и символьного мира тем же, чем атомная бомба стала для мира физического.

Юваль Харарифутуролог, автор «Sapiens: краткая история человечества»

На сегодняшний день Курцвейл оказался глобально прав в том, что гонка за возможностями ИИ неостановима изнутри.

В период Холодной войны система международных договоров позволила сдерживать разработки ядерного оружия; в 1975 году собрание ведущих биотехнологов в Алисомаре (полуостров Монтерей, Калифорния) наложило 16-месячный мораторий на использование рекомбинантной ДНК, чтобы оценить этические следствия новообретенного метода.

В прошлом году было опубликовано коллективное письмо, подписанное более чем 30 тыс. экспертов по ИИ, представителями индустрии, учеными и общественными деятелями: в нем откровенно звучат тревога за будущее человечества (из-за непредвиденных последствий использования ИИ) и необходимость договоров о контроле столь радикальных технологий. Но это письмо осталось всего лишь публичным призывом, не повлекшим институциональных изменений, — проекты ограничений и регулирования, разрабатываемые в ЕС, США, России и Китае, не успевают охватывать все новые и новые области, в которых начинает применяться ИИ.

Высокоуровневые игроки вроде транснациональных ИТ-корпораций не снижают темпов развития своих ИИ областей из страха потерять конкурентное преимущество друг перед другом, особенно сейчас, когда уровни сложности данных, доступных для анализа ИИ, повышаются еженедельно.

Не имеющий самосознания, но обладающий интеллектом «конгломерат ума» может быть направлен на любую интересующую вас область. Интеллект как таковой стал ресурсом, чья ценность растет с каждой итерацией. В данный момент, несмотря на публичные заявления, нет ни одного игрока, кто был бы заинтересован в снижении скоростей разработки искусственного интеллекта.

Вычислимое Сакральное

Пунктирная линия, уходящая в будущее, поднимается в небеса и становится похожей на вертикаль в конце 2030/2040-х. Курцвейл описывает это событие как возникновение Сверхразумного ИИ, суждения и мыслительные ходы которого будет невозможно не только проверить, но даже осознать ни одному из живущих людей, просто в силу их уровня сложности.

Впрочем, нас не должно это беспокоить, ведь человечество начнет соединяться со Сверхразумным ИИ в одну распределенную когнитивную систему со множеством слоев виртуальных реальностей. Несмотря на секулярный взгляд на сущность человека, в данном прогнозе явственно проступают религиозные мотивы.

Мой биологический мозг был создан для совсем другого вида доисторической жизни и предрасположен к привычкам, которых я бы не хотел иметь. […] Я не могу перепрограммировать его, чтобы избавиться от страхов, травм и сомнений, которые, как я знаю, мешаюn мне достичь желаемого. А еще мой мозг находится в постепенно стареющем теле, которое […] биологически запрограммировано на то, чтобы в конце концов разрушить информационный паттерн, которым является Рэй Курцвейл.

Сингулярность обещает освободить всех нас от этих ограничений.

Рэй Курцвейл«Сингулярность еще ближе»

В детстве Рэй и его семья были приверженцами унитарианской церкви, согласно основоположениям которой «к истине ведут многие пути». По очереди в течение полугода Курцвейлы посещали христианские церкви, синагоги, буддистские монастыри, мечети — и следовали практикам соответствующей религии.

В более широком историческом контексте отделение церкви от государства и пуританская религиозная экзальтация (ожидание скорого Судного дня и Второго пришествия) первых колонистов в США сформировали те уникальные условия, в которых идеи Курцвейла, по сути, стали «религией Силиконовой долины»: ожидание события, которое бесповоротно изменит всю нашу жизнь, причем события вполне материального и приближаемого нашими же усилиями.

Будущее, в котором Сверхразумный ИИ возносится над миром и вбирает в себя породившее его человечество, поразительно. Если оно произойдет, это будет самым значительным достижением — а, возможно, и окончательным жестом — нашей цивилизации. Оно пробирает до глубины души, и мы должны быть счастливы самой возможности дожить до 2045 года и засвидетельствовать это событие.

Чтобы это представить, с некоторым огрублением мы можем назвать Сингулярностью точку фокуса, в которой сходятся световые лучи, — поиск такой точки знаком всем, кто пытался выжигать в детстве с помощью лупы.

Сингулярность Курцвейла — это такой сценарий будущего, в котором различные ветви исследований ИИ, нанотехнологии, нейроинтерфейсы и многие другие технологии сошлись максимальным образом, высвобождая весь свой потенциал и воспламеняя реальность. Но, если они не сошлись в одну точку, сами световые лучи все еще будут присутствовать и накладываться друг на друга — тогда перед нами точка расфокуса, сложная геометрия, в оптике называемая каустикой.

Если промежуточные посылки — касательно самоусиления развития информационных технологий — верны, но неверна глобальная (сверх-ИИ не порождает разум и остается «слабым ИИ» в философском смысле, сверхразвитой программой Т9), 20 лет спустя мы окажемся в мире, насквозь пронизанном интеллектуальными агентами. «Интернет вещей» устареет, и мы будем жить в «Интернете всего»: в поверхностях материалов, мебели, на вашем теле, внутри тела, в сетях, связывающих города, и даже в местной флоре и фауне — такое видение развития компьютерных технологий неспроста называют «вездесущим интеллектом» (Pervasive intelligence).

Эта наполненность вычислениями столь густа, что позволит виртуальной среде смешиваться с реальной, а нашему вниманию — непрерывно перемещаться между ними. Влияние даже «слабых» сверхмощных ИИ на наши мыслительные привычки и повседневную жизнь окажется кардинальным.

В каком бы из вариантов будущего мы ни оказались, оно стоит того, чтобы дождаться.

27–29 июня в китайском городе Тяньцзинь прошла «Ежегодная встреча новых победителей 2023»: событие, которое также называют «летним Давосом». В центре внимания экспертов снова был искусственный интеллект, направления его развития и связанные с ними риски. Никто в полной мере не знает, о чем идет речь, однако все согласны, что действовать нужно уже сейчас, пока не поздно.

Именно в этом году ВЭФ объявил о создании «Альянса управления ИИ», который призван на международном уровне объединить лидеров отрасли, правительства, академические институции и организации гражданского общества — и попытаться выстроить, наконец, системы ответственности за ИИ-продукты. В то же время, как метко выразилась министр цифровой трансформации Словении Эмилия Стойменова-Дух, «Если мы хотим нечто регулировать, было бы неплохо немного подождать, чтобы понять, что именно мы хотим регулировать».

За последние 5 месяцев про искусственный интеллект было написано больше статей, вызвавших публичный интерес, чем за весь 2022 год. Далеко не все они действительно информативны — многие всего лишь «снимают урожай» популярности ИИ, взошедший вскоре после публичного релиза ChatGPT.

Безудержный рост ожиданий от некоторого продукта, еще не развившегося в полной мере, указывает на то, что надувающийся «пузырь» хайпа настолько велик, что это становится заметно все большему количеству вовлеченных игроков. Вот что пишет, например, один из ведущих исследователей машинного обучения Эрик Сигел, профессор Колумбийского университета, исполнительный редактор The Machine Learning Times.

Когда речь заходит о кризисных явлениях, многие экономисты сходятся в цикличном взгляде на характер рыночных «пузырей» в экономике. Подобный сформировался, например, на рынке недвижимости США в 2008 году; впрочем, не случись он, «пузырь» рано или поздно возник бы в какой-либо другой области, — само устройство рынка таково. В этом плане представители сферы искусственного интеллекта могут похвастаться исключительным статусом: облако хайпа уже дважды возникало над ними и также дважды рассеивалось.

Зима первая: Трудности перевода (1974–1980)

Чтобы вообразить себе исторический период практически полувековой давности, давайте представим горизонт ожиданий его современников.

К началу 1970-х прошло всего около 20 лет с тех пор, как когнитивные науки и кибернетика уверенно заявили о себе, начав вытеснять со сцены бихевиоризм с условными рефлексами. Человеческое мышление сравнивали с компьютером, управление организации сравнивали с компьютером, ЭВМ все чаще и успешнее использовали не только для военных задач, но и для сложных научных расчетов. Первая статья, в которой упоминается словосочетание «искусственный интеллект», вышла в 1956 году и поставила своей целью в течение 2 месяцев изучать поведение выбранной группы людей, чтобы формализовать доступные им навыки и воспроизвести их в алгоритмических инструкциях.

Соответственно, когда в начале 1970-х пришла первая пора «подводить итоги» выданных исследовательских грантов, пришло и первое разочарование. В Британии его озвучил Джеймс Лайтхилл на страницах отчета для Совета по научным и инженерным исследованиям: специалист из области прикладной математики оказался очень критически настроен в отношении фундаментальных исследований в ключевых областях для ИИ того периода, робототехники и обработки речи.

Центральной проблемой для первого расцвета ИИ стал «комбинаторный взрыв»: резкий экспоненциальный рост количества вычислительных операций для решения задачи при небольшом увеличении вводных параметров. Например, время поиска выхода из лабиринта экспоненциально возрастает с увеличением числа разветвлений. Существовавшие на тот период методы вычислений было бы невозможно использовать при решении задач, приближенных по сложности к задачам реального мира.

В США схожий пессимизм привел DARPA, Управление перспективных исследований Министерства обороны, к урезанию бюджетов, поскольку заявленная на 5 лет программа исследований понимания речи не принесла значимых результатов: искусственный переводчик барахлил, стоило слову оказаться в не вполне стандартном значении, не понимал контекстуальных оттенков, мог обрабатывать только грамматически правильные предложения и т.п.

Надежды компьютерных теоретиков начали меркнуть уже в 1969-м, когда даже поначалу казавшийся перспективным подход коннективизма (сложные процессы возникают из объединения в сеть простых вычислительных элементов) уткнулся в свои вычислительные ограничения. Наступила первая «Зима искусственного интеллекта».

Зима вторая: Крах «искусственных экспертов» (1987–1993)

Но огонь надежды теплился в исследовательских сердцах. Прогресс в области компьютерных технологий в целом продолжался — а вместе с осознанием первых отчетливых границ начали вырисовываться и первые достижения, как волны, бьющиеся год от года об утес, формируют его контур.

Когда стало понятно, что реальный окружающий мир крайне сложен для понимания ИИ-агентом (в плане выделения объектов, процессов и т.п.), для его моделирования были разработаны протоколы на формальном языке LISP. Эти протоколы позволяли представить реальную ситуацию (сокращение в компании, планирование добычи ресурсов, риск обрушения плотины) в упрощенном, но поддающемся вычислению формате. Даже в таком громоздком виде экспертные системы, воплощенные в LISP-машинах (компьютерах со специальной архитектурой), оказались столь ценны для больших корпораций, что к 1985 году их международный рынок составлял свыше $1 млрд.

Кроме того, перспективы ИИ всерьез оценила Япония: после роста ее высокотехнологичного сектора экономики в 1970-х в 1981 году Министерство международной торговли и промышленности инвестировало около $850 млн в «Пятое поколение компьютерных систем» — они уже через 10 лет должны были бы «вести диалог, переводить языки, интерпретировать изображения и рассуждать, как люди». Позиция Японии в те годы убеждала многих других международных игроков, что исследования ИИ все еще обладают инвестиционной привлекательностью, несмотря на недавний спад. 

К сожалению, японские надежды были напрасны — отчет 1991 года не оставил ни тени сомнения, что амбициозные цели 10-летней программы были столь же завышенными, как и у американских коллег пару десятилетий назад. Хотя это не означало остановки в развитии информационных технологий, приоритеты в распределении средств изменились кардинально.

Экспертные системы, на которые возлагались большие надежды, настигла другая беда: их буквально вытеснили персональные компьютеры от Apple и IBM, которые к 1987 году смогли состязаться с LISP-машинами в вычислительной мощности. А вскоре после того, как стало возможным переносить эти экспертные системы на любые компьютеры с операционной системой UNIX, произошел крах данного рынка. На сей раз ИИ-проекты просто отошли в тень, в то время как интернет и пользовательские сети начали выходить на сцену. Наступила вторая «Зима искусственного интеллекта»

Ветра «весны ИИ»

Сегодня при упоминании ИИ рынок ревет, и ограничения недавнего прошлого кажутся чем-то вроде очаровательной ностальгии: среди исследователей прижился термин «старый добрый искусственный интеллект» (Good Old-Fashioned Artificial Intelligence), который указывает на произошедшие в исследовании ИИ теоретические изменения.

Лично я не считаю, что «история все время повторяет себя», — но не считаю также, что историческая уникальность делает события несопоставимыми. Можем ли мы научиться чему-либо, изучая предыдущие инвестиционные «пузыри»?

Сходства

• Как и перед первой Зимой, сейчас крайне высок уровень публичного энтузиазма (благодаря прогнозам вроде «Технологической Сингулярности» Р. Курцвейла).
• Как и в 1960-х, когнитивные науки образуют устойчивый альянс с ИИ-исследованиями, когда модели обработки информации в человеческом мышлении служат «отправными точками» для их вычислительных симуляций.
• Как и перед второй Зимой, наученные опытом прошлого представители областей машинного обучения, разработчики больших лингвистических моделей и многоуровневых нейросетей стараются разграничить перспективы конкретно своей области (и ее потенциальное применение) — и перспективы ИИ в целом.

Различия

• «Цифровизация» повседневной жизни вместе с доступом к интернету — это совершенно другая среда с точки зрения генерируемых каждую секунду данных, чем можно было представить в 1980–1990-х: она дает больше «пространства для существования» ИИ-системам.
• Самообучающиеся алгоритмы, способные совершенствовать код алгоритмы — введение в игру таких сущностей создает «контур положительной обратной связи», когда процесс ускоряет сам себя (в предыдущие этапы развитие следующих поколений программ больше зависело от человеческих агентов).
• В 2021–2022 годах приоритет развития ИИ был публично обозначен такими международными игроками, как США, Китай, Великобритания, Евросоюз, Россия (ранее ИИ не выходил за пределы отдельных министерств).

Когда мы говорим о «цикличности» того или иного процесса, необходимо понять, что является основным элементом такого цикла. Консультационная компания Gartner сделала попытку построить универсальный Цикл Хайпа для инновации:

Посмотрите, как он выглядит для ИИ-технологий в 2022 году.

Полностью доверять этой схеме было бы упрощением — далеко не все инновации подчиняются одному и тому же тренду. Тем не менее цикл ухватывает нечто важное относительно динамики публичного внимания, которое привлекает инновация. В гротескном варианте, отсылающем к искусственному интеллекту HAL 9000 из «Космической одиссеи 2001», цикл ИИ-хайпа выглядит следующим образом:

Предлагая для анализа подобные материалы, я не призываю пассивно сидеть и наблюдать, как ИИ-проекты расцветают и гаснут в окружающем вас инфопространстве. Отнюдь! Скорее, я побуждаю быть рефлексивными — делать шаг в сторону и оценивать ситуацию, в которую вы хотите погрузиться.

В долгосрочной перспективе развитие ИИ не снизит оборотов из-за первого из упомянутых различий: общая цифровизация пространства, в котором мы живем, достигла поразительно высоких значений — наши повседневные действия постоянно генерируют разнообразные данные, на основе которых ИИ строит наши модели, варьирует их, делает предсказания (в том числе глобальные, например о климате).

Проблема формирующегося «пузыря», скорее, в том, что далеко не все всколыхнувшиеся обещания из сферы исследований ИИ смогут осуществиться так быстро, как это показалось возможным благодаря «генеративному ИИ». Сама возможность разместить на сайте качественный контент (например, текст-в-изображение, сгенерированные сперва с помощью ChatGPT, а потом через Dream) еще не гарантирует коммерческого успеха: в США это хорошо поняли на опыте «пузыря доткомов» в ранние 2000-е, когда огромное количество компаний без опыта в сфере ИТ стали создавать веб-сайты, не понимая, как именно это должно помочь им в продажах. Частные игроки просто хотели «не опоздать», «успеть занять место»; как выяснилось, мест было намного больше, чем желающих их посетить.

Подобная «ломка» происходила с новостными изданиями, переходящими в Сеть: одни пытались поддерживать на экране компьютера ту же разметку, что и в бумажной версии (сохраняя преемственность), в то время как другие попытались переосмыслить формат как таковой — что будет удобнее читать с экрана, с какой скоростью освещать новости, какие уникальные элементы интерфейса можно интегрировать.

В гонке на ближайшей дистанции — и здесь я солидарен с Reuters — выигрывают две категории игроков: гиганты рынка, которые инвестировали в ИИ-технологии сами (Microsoft, Google, Nvidia), — и отдельные, часто небольшие компании, которые сфокусировались на конкретной нише, но очень хорошо осознают ее «пределы роста» и конкретные аспекты, в которых ИИ-инструменты применимы на практике.

В чем разница между воображением и реальностью? Если вам довелось посмотреть в детстве трогательный фильм «Бэйб: Четвероногий малыш», то вы помните уникальную способность поросенка Бэйба — он мог понимать не только речь всех животных на ферме, но и человеческую речь. Универсальный переводчик, без усилий наводящий мосты между любыми живыми существами — звучит как утопическая мечта.

Однако отличие этого сюжета от реальности не в том, что такой переводчик невозможен в принципе, а в том, что для его создания вместо строк бумажной книги Дика Кинг-Смита вам потребуется куда больше строк сложно структурированного компьютерного кода.

Нет, они не открыли у свиней какую-то скрытую крипто-грамматику: скорее, в качестве основы исследователи попытались составить «словарь эмоций». Команда ученых из Дании, Швейцарии и Франции записала свыше 7 тыс. звуков от нескольких сотен свиней, которых помещали в различные повседневные сценарии. Как звучит радость? Когда поросята сосут молоко или снова оказываются вместе со своим выводком. Как звучит горе? Когда их разлучают, кастрируют или в стойле вспыхивает драка.

Исследователи попытались также распознать и более тонкие эмоции: например, когда поросенка выпускали на арену с игрушками или едой — в сравнении с совершенно пустой ареной или с ареной с новыми, незнакомыми объектами.

Выводы ученых частично пересекаются с нашей интуицией: свиньи кричат на высокой частоте (визг) в ситуации острого стресса. Частично же — ставят нашу интуицию под вопрос: звуки поросенка на низкой частоте (лай, хрюканье) сопутствуют как радостным, так и тревожным состояниям. Другие же звуки раньше не исследовались в принципе, и их еще предстоит классифицировать. Да, пока наш человеко-поросячий эмоциональный словарь не очень обширен, но дело не заканчивается свиньями.

Свиньи — только повод обратиться к проекту поистине эпического масштаба: попытке расшифровать языки всех живых существ Земли. Встречайте, ESP — Earth Species Project.

Наш проект не зависит от вида животных. Разрабатываемые нами инструменты смогут работать во всех областях биологии, от червей до китов. Да, хотя мы не знаем, как животные воспринимают мир, но есть эмоции, например горе и радость, которые некоторые из них вроде бы разделяют с нами и по поводу которых могут общаться с другими представителями своего же вида. <…> Парадокс в том, что способность ИИ заговорить на этом языке еще не будет означать, что мы, люди, поймем его значения.

Аза Раскин
соучредитель и президент Earth Species Project

Некоммерческая организация ESP была основана в 2017 году в Калифорнии. Не секрет, что уже более полувека различные группы биологов, этологов, лингвистов пытались изучать и расшифровывать на человеческий язык коммуникацию у живых организмов: муравьев, приматов, дельфинов. Хотя сама эта цель не нова, новыми являются средства, используемые в ESP. Хотя за последнее десятилетие отдельные группы ученых уже использовали алгоритмы ИИ для анализа сигналов (свиней, кашалотов, воронов и так далее), еще никто не пробовал замахиваться сразу на создание межвидового переводчика. Как это вообще возможно?

По словам Аза Раскина, президента организации ESP, для него и его коллег «мотивирующей интуицией» начать работу стали недавние данные, что машинное обучение можно использовать для перевода между различными (иногда едва соприкасающимися) человеческими языками — причем без предварительного их изучения.

Представьте, что вам нужно разместить тысячи слов в виртуальном пространстве. Оперируя ими в своем сознании, вы полагаетесь на ассоциации, на сходства и различия по смыслу. Но если мы помещаем значения слов в виде точек в аналог физического пространства, там, грубо говоря, нет такой координаты, как «смысл». Единственным способом, каким вы можете показать смысловую близость слов, будет их близость или удаленность в пространстве (а также направления между ними) — так мы изобразим схему их семантических отношений. Например: точка-слово «король» имела бы то же расстояние и тот же вектор в сторону точки-слова «мужчина», что и в случае «женщины» и «королевы». 

Исследователи алгоритмического перевода заметили, что такие «семантические схемы» по форме похожи даже у разных языков: в 2017 году две независимые группы ученых разработали способ, как осуществлять перевод, выравнивая эти схемы относительно друг друга. Для перевода с французского на суахили сначала выровняйте их семантические схемы, а потом найдите точку-слово в суахили, ближайшую к точке-слову во французском. Voilà!

Инновация проекта ESP именно в том, чтобы создать такого рода схемы-наложения не только между двумя конкретными видами животных (например, сурками и сурикатами), но между многими видами одновременно, после чего уже можно будет переходить к сравнениям со схемами человеческих языков. Если в первые пару лет существования ESP другие ученые и могли счесть его маргинальным сообществом энтузиастов, то в 2021 году ситуация принципиальным образом изменилась: первые отчеты о результатах распознавания языков животных были опубликованы в Nature.

Да, замысел этого проекта колоссален, поэтому дорожная карта ESP подразумевает в первую очередь решение ряда мелких проблем: это должно привести к разработке общих инструментов, которыми смогут пользоваться и другие ученые, применяющие ИИ для расшифровки конкретных видов.

Например, ESP недавно опубликовала статью о так называемой «проблеме коктейльной вечеринки»: речь идет об акустически нагруженной среде, в которой трудно различить, какая конкретная особь в группе животных издает звуки (вы наверняка сталкивались с подобным, пытаясь докричаться до кого-то на вечеринке). Модель на основе ИИ, которую обучали на свистках дельфинов, криках макак и вокализациях летучих мышей, работала лучше всего для тех же видов животных, на которых тренировалась, однако в случае больших наборов данных ИИ смог вычленять отдельные сигналы в шуме других видов животных, которых раньше никогда не слышал.

В конце XIX века логик и философ Готлоб Фреге предложил проанализировать язык, на котором мы говорим, с помощью так называемого «знакового треугольника»: смысл – знак – референт. Например, посмотрите в зеркало. Референт — то, на что язык указывает в реальном мире: сам объект, висящий в прихожей (зеркало). Смысл — то, что вы думаете: ментальный образ зеркала в вашей голове. Он может быть смутным, недооформленным, не обязательно оформленным в слова. Знак же — напротив, обязательно оформлен: слова и есть знаки. Вы можете сказать: «пойду полюбуюсь на свое отражение» или (если вы физик) «светоотражающая поверхность в коридоре», или (если вы ребенок) «эта большая блестяшка». Вы можете даже послать кому-то эмодзи зеркала — это тоже будет знаком.

Здесь и начинается основное различие. Мы, люди, такие существа, что можем произвольно менять используемые знаки — так меняются нравы, мода, литературные стили. Например: «О Сиятельный Владыка, не обессудь принять раба своего» — сегодня мы вряд ли используем именно эти слова, но нам по-прежнему понятен смысл сообщения, сформулированного в столь архаичной манере.

Зоопсихология, изучающая мышление животных, а также этология, изучающая их поведение и восприятие окружающего мира, привели к формированию биосемиотики — науки о знаках, вплетенных в саму ткань живых организмов. Биосемиотика помогает нам, людям, увидеть нечто более сложное, чем слепые физико-химические процессы: например, хотя амеба всецело им подчиняется, вместе с тем она различает сахар в растворе, отличает свет от тьмы — и эти различия являются для нее «осмысленными». Так же, как солнце для подсолнуха или как феромоны для собаки.

Вполне ожидаемо, что вдохновленные биосемиотикой проекты выходят далеко за пределы лабораторных исследований и анализа данных. Так, например, на выставке «Да живет иное во мне» (Новая Третьяковка, 2021) биохимическая инсталляция One Tree ID Агнес Майер-Брандис давала возможность вступить в диалог с деревом на его языке. В природе деревья коммуницируют между собой с помощью запахов, поэтому художница совместно с учеными изучала аэрозольные вещества, производимые конкретным деревом, и создала на их основе состав, который зритель мог нанести на себя, чтобы предстать для дерева в качестве «общающегося» с ним сородича.

В отличие от нас живой организм не может произвольно поменять один знак на другой, потому что знаки эволюционно сформировались для определенной природной ниши и помогают выживать именно в ней. Змея видит инфракрасный свет — для нее это знак тепла, теплокровного животного, пищи, добычи. При этом для взаимодействия друг с другом животные одного вида также могут использовать знаки: приматы издают сигналы тревоги, которые различаются в зависимости от хищника; дельфины обращаются друг к другу с характерными посвистываниями; некоторые певчие птицы могут брать элементы своих криков и перестраивать их для передачи разных сообщений. (для заинтересовавшихся читателей — обратите внимание на книгу Карен Баккер из Университета Британской Колумбии «Звуки жизни: как цифровые технологии приближают нас к мирам животных и растений»).

Обратимся к мудрым кашалотам. Еще одна инициатива — Project CETI («Инициатива по переводу [языка] китообразных», Cetacean Translation Initiative) — планирует использовать машинное обучение для перевода коммуникации кашалотов. Команда сделала прекрасный обзор своей работы за последние годы, который изобилует деталями о том, как подобный проект воплощается на практике.

Проанализировав миллионы «кликов», издаваемых сообществами кашалотов (каждое имеет свои диалекты!), ученые оказались способны генерировать новые «сообщения»: они делаются за счет разделения вокализации на микрофонемы (отдельные единицы звука продолжительностью в сотую долю секунды) и использования языковой модели. Так, звуковой паттерн, «произносящий» что-то похожее на звуки кита, затем может быть воспроизведен перед животными, чтобы увидеть их реакцию. Если наблюдение за этой ситуацией позволит определить, в чем отличие случайного изменения по сравнению с семантически значимым, мы становимся на шаг ближе к тому, чтобы вступить в подлинный диалог с морскими гигантами.

Понимание того, что говорят животные, является первым шагом к тому, чтобы дать другим видам на планете «голос» в разговорах об окружающей среде. Например, следует ли просить китов нырять с пути лодок, когда это коренным образом меняет их питание, — или лодки должны изменить курс? Впрочем, мы не совсем уверены, как это повлияет на животных и захотят ли они вообще участвовать в каких-то разговорах. Может быть, если бы они смогли заговорить с нами, они просто сказали бы нам уйти.

Кей Ферт-Баттерфилд
глава Всемирного экономического форума по искусственному интеллекту и машинному обучению

Если замысел ESP окажется воплощен, значимость этого контакта будет сопоставима со встречей с инопланетянами — только здесь, на нашей Земле. Это поможет увидеть в животных тех, с кем мы сможем говорить на равных: великая цепь жизни будет связана речью.

В начале 2022 года Лидия Зуин, журналистка и искусствовед из Бразилии, переехала в Швецию, где впервые в жизни открыла в себе онлайн-парфюмера. В этом ей, как и тысячам других пользователей, помог используемый шведской компанией No Ordinary Scent (NOS) искусственный интеллект.

Чтобы создать по-настоящему уникальный аромат, Лидии не пришлось несколько лет изучать искусство изготовления эссенций — она просто загрузила несколько изображений на сайт. Затем ИИ-алгоритм распознавания изображений выделил теги, описывающие изображение. Каждому тегу соответствует ароматическая смесь; из трех таких смесей и создается уникальный парфюм. Чтобы создать связь между имеющимися смесями и изображениями, отправленными клиентами, созданный NOS алгоритм анализирует цвета, времена года, наличие элементов природы, людей, домашних животных и многого другого. Хотя каждый анализ приводит к конкретному результату, ИИ не повторяется — напротив, он раз за разом учится на отзывах пользователей: например, на отзыве самой Лидии.

В моем случае было интересно посмотреть, как отправленные изображения привели к появлению духов с основой из янтаря, зерна тонка и жареного миндаля. Средние тона состоят из персиков, соленых древесных стволов и как будто металлического мускуса, в то время как в верхних тонах заметен розовый перец. Я почувствовала, что духи были немного слаще, чем привычные для меня (предпочитаю свежие ароматы), но его древесная основа уравновешивает аромат таким образом, что заставляет думать о слове «горько-сладкий» — что хорошо подходило к подобранному мной названию аромата.

Теперь все, что необходимо для акта творения, — это энтузиазм клиента и комбинаторный талант ИИ. Основанные на ИИ приложения с каждым днем охватывают все больший функционал: как будто у тебя выросли сотни рук, которые способны самостоятельно выполнять простые действия. Не нужно покупать дополнительные программы, тратить время на их изучение — это выгоднее как для отдельных людей, так и для целых компаний. Более того, еще с предыдущих промышленных революций известно, что инновации ускоряют возникновение следующих инноваций. Привлечение же самообучающегося ИИ полностью меняет игру: если теперь вы можете сгенерировать сотни решений, вероятность создать нечто действительно прорывное вырастает в разы — хотя бы потому, что искусственный интеллект не ограничен рамками человеческой «очевидности».

Кто-то с пренебрежением называет подобный страх «нео-луддизмом» — это звучало рефреном буквально каждой технологической революции, — но теперь его поддерживает статистика: в отличие от предыдущих промышленных переходов, с нуля создававших новые индустрии, с внедрением ИИ в бизнес-процессы количество рабочих мест уменьшается.

Меняется и характер работы людей: теперь машины все больше контролируют их производительность. Воздействие может быть прямым: «Умное видеонаблюдение» в «Пятерочке» диктует сотрудникам, на какие полки какие товары поставить (заменяя собой менеджера зала). Воздействие может быть мягким: более десятка алгоритмов Google собирают данные об эффективности сотрудника во время работы в команде, при разработке конкретного проекта замеряют «уровень счастья» (и на основе строят «прогностическую модель» сотрудника для вышестоящего руководства).

И тело, и время человека все меньше принадлежат ему. Даже те навыки, которыми обладают сотрудники, начинают устаревать. Почему? Просто потому, что компьютерные системы обновляются с куда большей скоростью, чем когда-либо в человеческой истории.

С чем могут быть связаны гибридные профессии? Со взаимодействием. Когда ИИ плотно встраивается в человеческую работу, необходимо отдельно учиться тому, как налаживать с ним контакт.

Экскурсом в эту область, построенном на анализе опыта более 1,5 тыс. компаний, стала книга Пола Доэрти и Джеймса Уилсона «Человек + Машина». В Главе 8 авторы специально сконцентрировались на описании принципиально новых навыков, которые предстоит внедрять компаниям, готовым к интеграции ИИ-систем. Например, это умное запрашивание — навык грамотного формулирования вопросов для интеллектуального агента на самых разных уровнях абстракции.

Итан Моллик, преподаватель из университета Пенсильвании, рассказывает о своем опыте обучения студентов использованию ChatGPT (да, хотя GPT только-только возник, он уже становится частью учебных курсов!). По словам Моллика, большинство людей используют GPT слишком прямолинейно, вроде «напиши мне текст, почему роботы-пылесосы полезны», — тогда как репертуар возможностей, открывающийся благодаря этой программе, намного больше: надо лишь научиться формулировать более прицельные запросы для ИИ-системы.

Все говорят об избавлении от рутины. Но что такое «рутина»? Мы обычно понимаем под этим словом предсказуемые, однотипные действия. Чем больше рутины, тем легче автоматизировать должность: это справедливо и для фабричного, и для кабинетного труда. Компания McKinsey провела довольно подробное исследование различных отраслей еще в 2016-м: согласно ему, в приготовлении еды, упаковке или работе на сборочной линии машины могут заменить людей на 78%, а в строительстве, лесном хозяйстве или выращивании животных свободного выпаса — только на 25%. По мере того как все больший процент труда делегируется искусственному агенту, возникает запрос на целостное слияние.

За последнее десятилетие в повышение степени целостного слияния инвестировала огромные ресурсы компания Amazon. Вы можете оценить ее головокружительные успехи в этой области по видеообзору или на основе интервью с работниками склада Amazon в Пьячченце, небольшом городке на севере Италии. Сборщик ходит среди полок и тащит тележку с коробкой, которую нужно заполнить партией товаров. После выбора товара сборщик использует свой сканер штрих-кода, чтобы зарегистрировать товар, подтвердить его и получить информацию о следующей позиции, которую надо выбрать. Устройство также сообщает о положении на полках и времени, которое у сборщика есть для выполнения задачи, — часто около минуты.

Одним из результатов этой формы алгоритмического управления является расширение возможностей рабочих: ни один человек не может эффективно перемещаться по площади с несколькими тысячами полок, чтобы выбрать список нужных товаров без помощи алгоритма. Более того, в конце 2010-х стало распространяться понятие «темные склады» — полностью самоуправляемые ангары, где человеческим агентам больше нет места.

Анализ изменения рынков труда в свете развития ИИ привлек внимание не только частных игроков, но и государственных. И Белый дом, и Европейская комиссия выразили большую заинтересованность в работе над совместным исследованием для оценки потенциального воздействия ИИ на рабочую силу, а в декабре 2022-го результаты этого совместного исследования были выложены в публичный доступ.

Причем предвзятость усугублялась, если алгоритмы использовались на каждом этапе процесса. Эти ИИ-продукты продавались, по сути, в виде «черного ящика»: у клиентов не было механизма для определения точности сделанных ИИ-системой утверждений. Наконец, были получены свидетельства, что алгоритмы ИИ могут научиться эффективно вступать в сговор друг с другом при установлении цен — и к ним не могут быть применены существующие правила дискриминации, мошенничества и антимонопольного законодательства.

Однако, помимо фактической стороны дела, следует иметь в виду и то, как меняется восприятие рабочими самих себя в ходе повальной ИИ-автоматизации. Чем больше вы работаете в паре с ИИ, тем больше вы начинаете доверять интеллектуальному агенту. В то же время растет и чувство ответственности за результаты вашей совместной деятельности, ведь вы уже не отдельный работник, а член гибридной команды, новый «человеко-машинный пролетарий».

В недавнем прошлом, во время второй промышленной революции, рабочие уже претерпели одну трансформацию: из независимых ремесленников они превращались в служащих, занятых в крупном индустриальном производстве. Сегодняшние изменения труда, вызванные ИИ, не менее радикальны: они предполагают более глубокую интеграцию человеческого и машинного интеллектов. Ваш разум обрастает цифровыми приложениями, вместе с которыми начинаете развиваться уже вы сами. Только кем будете эти «вы»? Это только предстоит узнать.

«Цифровые Шерлоки»

28 ноября 2022 года Баронесса Хэмви обратилась к Палате Лордов, выступая с первым отчетом Комитета юстиции по применению искусственного интеллекта (ИИ) в системе правосудия. 76-летняя Баронесса призналась:

В самом начале члены нашего комитета мало что знали о новых технологиях — надеюсь, я никого не обижу этими словами. После некоторого обучения мы признались, что мы в ужасе — однако нас не должна ужасать неспособность понять технологии; в некотором смысле в этом и была цель нашего отчета. <...> В самом начале я задала риторический вопрос: «Каково бы мне было, если бы меня арестовали, обвинили, осудили и посадили в тюрьму на основании улик, которых я бы не понимала и к которым не могла бы получить доступ?

Мы тоже мало знаем о том, какую роль ИИ и технологии машинного обучения способны играть в расследовании преступлений, хотя в быту пользуемся цифровыми технологиями куда чаще большинства лордов. Нейросети несутся наперегонки в непрерывной эстафете совершенствования функций и увеличения их разнообразия. С помощью ChatGPT школьники создают свои сайты за считанные часы, цифровые художники подают в суд на конкурента в лице Midjourney, а диффузионные модели позволяют не только рисовать картины, но и реконструировать увиденное человеком по сигналам мозга на МРТ!

Итак, ИИ. Что это? Или кто?

Заметьте: когда мы говорим об интеллекте, мы не смешиваем это понятие с сознанием или разумом. Интеллект, как его понимает сегодняшняя когнитивная наука, — это способность решить задачу, правильным образом обработать информацию: например, собрать головоломку, составить план дел на неделю и так далее. Вы постоянно используете свой интеллект, даже не задумываясь об этом.

Когда детективный ум Шерлока Холмса занят раскрытием очередного преступления, в процесс анализа вовлечены десятки различных интеллектуальных модулей. Один оценивает свидетельские показания, другой — ищет слабые звенья в причинно-следственных цепочках, третий — реконструирует сцену преступления. До ИИ остается сделать всего лишь один шаг: представьте, что все перечисленные способности оказались воссозданы искусственно, на электронных носителях.  

Множество людей, просматривающих бумажные папки, множество дел, передающихся из отдела в отдел, — все эти процессы обработки информации могут быть свернуты и воплощены в системе искусственного интеллекта. Баронесса Сандерсон из Велтона проиллюстрировала это на следующем примере:

CAID — база данных (изображений) жестокого обращения с детьми, которая объединяет все изображения, найденные полицией, и помогает им координировать расследования. Правительство правильно придавало CAID большое значение, потому что оно изменило правила игры. Например, дело, содержащее 10 000 изображений, и рассмотрение которого обычно занимало до трех дней, благодаря CAID может быть выполнено за час. Преступники могут быть задержаны быстрее, офицеры защищены от последствий просмотра этих изображений, и больше внимания будет уделено идентификации жертв. 

Разработка «цифрового коллективного Шерлока» ведется как минимум десятилетие: с 2010-х годов органы правопорядка стали с интересом присматриваться к различным алгоритмам анализа данных и постепенно внедрять их в практику. Но ставки здесь слишком высоки, чтобы делегировать ИИ всю полноту принятия решений.

Воплощенные в микросхемах интеллектуальные способности нашли свою нишу: они распознают паттерны. У ИИ нет привычного нам контакта с миром, его вселенная состоит исключительно из поступающей информации. В ней-то и могут быть обнаружены закономерности. Но для каких целей мы могли бы использовать такой ИИ — точнее, для каких целей он уже используется в Британии?

• Для повышения эффективности. Органы полиции Восточного региона Англии создали «бота», который проводит процедурные проверки по поступающим запросам, передает ключевую информацию офицеру для оценки и принятия решения.
• Для анализа документов. Министерство внутренних дел Cоединенного Королевства использует алгоритм для проверки заявлений на заключение брака. Просматривая заявления, программа может поднять «красный флаг» внутри системы, чтобы инициировать расследование потенциально фиктивного брака.
• Для идентификации людей, их проблемного поведения и тому подобного. Великобритания сейчас — страна с самым большим количеством камер наблюдения в западном мире, а Лондон удерживает третье место среди мегаполисов: на каждые 1000 человек приходятся 73 камеры. Многие камеры наблюдения в Великобритании уже оснащены такими расширенными возможностями, как биометрическая идентификация, анализ поведения, обнаружение аномалий, распознавание предметов, одежды, транспортных средств.
• Для генерирования инсайтов. Qlik Sense — это программное обеспечение, которое предоставляет данные в интерактивном виде. Им активно пользуется полиция Сомерсета и Эйвона (Британия): программа помогает сотруднику увидеть не только тенденции преступности района, но и выяснить, какие именно виды преступлений вызывают этот рост, а также особенности соответствующих правонарушений. Преимущество, которое Qlik Sense дает человеческому интеллекту, — интерактивный интерфейс, позволяющий быстро «склеивать» различные типы данных и приходить к неочевидным закономерностям.
• Для оценки рисков. Полицейские силы Дарема (cевер Англии) используют Инструмент оценки рисков и вреда (HART), который предсказывает, насколько вероятно, что человек совершит насильственное или ненасильственное правонарушение в течение следующих двух лет.

Код мультикультурен?

Как видите, паттерны можно обнаружить где угодно: как в настоящем, так и в будущем, как на индивидуальном, так и на групповом уровне. Активность организованной преступности (ОПГ) — не исключение.

В одних случаях алгоритмы ИИ отслеживают денежные потоки, чтобы выявить подставные корпорации, используемые преступными синдикатами для отмывания средств. В других ИИ собирает данные в даркнете, чтобы выявить сети торговли людьми по моделям онлайн-покупок, или отслеживает доступную информацию по логистике, чтобы построить схему перемещения контрабанды за границу. Когда же дело уже начато, и следствие располагает большими объемами данных, машинное обучение позволяет распознавать не только устойчивые шаблоны, но даже изменения в деятельности, целях, бизнес-стратегиях и иерархии преступных организаций. В сегодняшнем мире практически невозможно жить, не оставляя цифровые следы.

Впрочем, шествие «цифровых Шерлоков» не всегда оценивается позитивно. Лорд Клемент-Джонс заострил внимание на перспективах внедрения технологии по распознаванию лиц:

Многие города в США запретили использование распознавания лиц, в то время как Европейский парламент призвал запретить использование полицией технологии распознавания лиц в общественных местах и интеллектуальную работу полиции. В 2020 году Microsoft, IBM и Amazon объявили о прекращении продажи технологий распознавания лиц правоохранительным органам США.

Мы склонны думать об искусственном интеллекте как о культурно-нейтральном, ведь вычисления везде одни и те же. Но это не совсем так. В 2020 году городской совет Санта-Круз, Калифорния, накладывает мораторий на систему распознавания лиц и прогнозирования преступлений после почти десятилетия их использования. В то время как в сонной деревушке провинции Хенан Цзя пожилые китайцы выстраиваются в длинную очередь, чтобы обменять внесение своего лица в базу данных на бутылку масла для жарки. 

В Милане программа KeyCrime, как и PredPol в Лос-Анджелесе, строит в качестве модели обобщенный прогноз: где, в какой части города, на основе прошлых данных может быть совершено новое преступление. В Китае же системы наблюдения пытаются решить задачу, кто именно совершит преступление.

Летом 2022-го в The New York Times вышел подробный материал о том, насколько развиты китайские «цифровые Шерлоки» — осуществляемый ими анализ паттернов как будто не знает границ. Бестелесный интеллект спускается на уровень самых мелких и конкретных элементов поведения:

• три человека с судимостью остановились в одном и том же отеле на юго-востоке Китая; автоматизированная система готова оповестить полицию;
• человек с историей политического протеста покупает билет на поезд до Пекина. Система может пометить активность как подозрительную и попросить полицию провести расследование;
• женщина с психическим заболеванием в провинции Фуцзянь покидает свой дом. Камера, установленная у ее дома, записывает движения женщины, чтобы полиция могла ее выследить.

Поскольку для почти полуторамиллиардного Китая сохранение общественной стабильности первостепенно, в плавильном котле наблюдения контроль смешивается с пространством частной жизни. Так, в Шанхае был использован алгоритм, выявлявший перерасход воды и электричества в квартире: он уведомлял полицию, когда обнаруживал подозрительную модель потребления. Но дело не в экономии ресурсов — это позволяло обнаружить рабочих-мигрантов, которые зачастую живут вместе из соображений экономии.

В США общественные дискуссии вокруг проблем с внедрением ИИ в полицию начались еще в середине 2010-х. Они были вызваны так называемым «прогностическим порочным кругом»: поскольку система обучается только на основании доступных данных из прошлого, она предсказывает большее число преступлений в наименее благополучных районах (например, трущобы или гетто), куда прибывает большее число отрядов полиции, которые действительно задерживают большее число правонарушителей. Но это лишь дает подкрепление модели, генерируемой системой, — и она будет предсказывать еще большее число преступлений именно в этом районе. Во многих штатах эта проблема наложилась на структурную расовую дискриминацию, что лишь подлило масла в огонь общественных дебатов.

Использовавшаяся во многих судах США программа COMPAS на основании большого числа факторов строила прогноз, совершит ли освобожденный из заключения преступление еще раз.

Однако создатели COMPAS выступили с утверждением, что в самом коде программы не было расовой предвзятости. Их утверждения были отнюдь не голословными. Специалист в области информатики из Университета Карнеги Меллон Александра Чулдехова математически доказала: если используемый вами алгоритм классификации точный, частота выдаваемых им ошибок зависит от состава классифицируемых данных.

Когда две совокупности людей неравно представлены в наборе данных, количество ошибок в предсказаниях алгоритма будет соответственно неравномерным — но это будет иметь место для совокупностей по любым критериям, а не только по признаку расы. Например, если представленные в вашей базе воры-карманники ловились на повторных кражах куда чаще, чем воры-домушники, алгоритм будет выдавать большую вероятность повторного преступления для первой категории осужденных.

Мы всегда знали, что мышление человека подвержено ошибкам. Многие люди мечтают об ИИ в роли судьи, но проблема в том, что даже бесстрастный интеллект может прийти к неверным результатам.

Слепые пятна компьютерного разума

Вернемся из Нового Света — в Старый. Слово Лорду Паддику:

Как сказала моя благородная подруга леди Хэмви, в отчете идет речь и о том, что я мог бы назвать дискриминацией второго порядка. Это происходит, когда ИИ используется для предсказания мест с наибольшим числом преступлений, но не используется для привлечения ресурсов полиции к расследованию «преступлений белых воротничков», например мошенничества с крупными суммами.

Однако когда ИИ вступает в сферу права, сложности возникают не только с последствиями его применения: обнаруживаются лакуны в самом законодательстве. Их приходится заполнять судьям, чего они делать не хотят: им нужны четкие законы для толкования, а не отсутствие закона, который приходится изобретать в процессе.

Наконец, с резкой критикой непрозрачности и неподотчетности ИТ-компаний выступила Баронесса Чакрабати. Объектом ее возмущения были не рыночные механизмы, но чувствительность для общества самой области, в которую столь активно внедряются инновации:

Мне кажется совершенно необоснованным, что частные компании экспериментируют с нашим населением, в том числе с их личными данными, с полицейской и разведывательной службой и так далее, а затем заявляют, что не будут заботиться о прозрачности или законности по причине коммерческой тайны. Это мошенничество, это скандально, и этому нужно положить конец. Мы бы не позволили оружейным или фармацевтическим компаниям вести себя подобным образом.

Итак, от восторженных возгласов, под которые ИИ усаживали на правовой престол и предлагали «навести порядок» в таком запутавшемся преступном человеческом обществе, мы приходим к лицезрению голого короля. Он наследует наши ошибки, его властью можно злоупотреблять, да и сам трон законодательно недостроен. В каком-то смысле «цифровой Шерлок» — слеп.

А значит, не нужно его короновать. Никого не нужно короновать. Будущее ИИ на поприще правоохранительной деятельности — это не антиутопия (если мы вовремя отслеживаем этапы его внедрения!), но и не панацея. Сколь бы стремительно и сколь большим объемом данных ни оперировал алгоритм, на текущем этапе он, как упомянутый уже ChatGPT, не понимает реальность человеческих взаимоотношений так, как ее понимаем мы — телесно воплощенные люди, сформированные в различных культурах. Реальность права, норм закона отражает нашу жизнь — ту жизнь, которую ИИ пока не способен прожить, как бы хорошо натренирован он ни был.

Но разве это когда-нибудь по-настоящему останавливало поток инноваций в информационных технологиях? Возможно, в некоторых странах и в некоторых областях применение ИИ замедлится, но вряд ли остановится полностью. И уже в самые ближайшие годы нам предстоит пройти сквозь на редкость турбулентный период, когда к Букве и Духу закона добавится Цифра.

Грибные джунгли

Давайте попробуем вспомнить названия съедобных грибов, растущих по соседству. Рыжие лисички? Прекрасно. Опята? В корзину! Подосиновик, подберезовик — вы уже догадались, где их искать. У маслят шляпка характерно скользкая, а у сыроежек она бывает разных цветов. Если наткнулись на белый гриб, вам повезло: он хорош. Но чем глубже мы уходим в чащу, охваченные азартом, тем более странные сущности встречаются нам на пути: грибы-трутовики растут на стволах деревьев, грибы-пылевики лопаются облачком пыли, когда на них наступаешь. Одни грибы фосфоресцируют по ночам, другие сложно отличить от плесени, третьи копируют внешность четвертых.

Из 72 тыс. изученных грибов 11 тыс. растут на территории нашей страны. Но, по словам руководителя лаборатории систематики и географии грибов Александра Коваленко, еще примерно столько же остаются неизвестными для биологов. Лесные массивы России колоссальны, в плане разнообразия они настоящие «грибные джунгли» Земли.

Кишечник наизнанку

Все начинается с питания. Мы перевариваем, нас переваривают; если вы что-то не перевариваете, значит, вы просто не умеете это готовить. Грибам — что отличает их от растений и сближает с животными — для жизни нужны углеводы, белки и жиры, которые они не могут произвести сами (поэтому их называют «гетеротрофы»). Но как же они тогда питаются?

Они формируют грибницу — мицелий. У гриба внешний тип питания; чтобы переварить и усвоить какие-то полезные вещества из внешнего мира, гриб должен нащупать их своим гифом, правильно химически опознать, синтезировать внутри гифа подходящие ферменты. Чтобы начать переваривание снаружи.

Разворачивая аналогию: химические реакции, протекающие в нашем кишечнике, гриб вынужден совершать в прилегающем к нему пространстве: мало-помалу расщеплять мертвые растения, падаль, кору. Однако для отдельных процессов, например получения глюкозы, у некоторых грибов нет в запасе нужных реагентов, а это значит, что приходит время заключать альянсы.

Подземная биржа, химический компьютер

Мы многого не замечаем у себя под ногами. Между грибами и корнями деревьев и различных растений во многих случаях установилась симбиотическая связь, называемая микориза. Она позволяет каждому из организмов обмениваться химическими веществами, которые он не производит сам, но которые производит «партнер».

Раньше предполагали, что это происходит едва ли не само собой: где меньше концентрация, туда и переносится ресурс. Однако в 2019 году группа ученых из Нидерландов провела исследование, которое показало, что между мицелием и корнями формируется настоящий «биохимический рынок».

Некоторые соединения отправляются туда, где нехватки еще нет, другие удерживаются, пока не произойдет бартер, а иногда грибница может буквально менять направление движения микроэлементов: нет, никакого фосфора, пока не придет оплата за азот, да и глюкоза нынче в цене.

Но как? Откуда в грибах этот ум, эта расчетливость? Подобная мысль может показаться непривычной, но, прежде чем отметать ее в сторону, спросите себя: что такое интеллект, если не способность организма решать задачи в окружающей его среде. А поскольку у грибницы нет не только кишечника, но даже примитивной нервной системы, этот интеллект реализуется при помощи… химических процессов.

Вы можете привлечь для этого компьютер, то есть электрический интеллект: его микропроцессор оперирует нулями и единицами, а проведенное им вычисление отобразится на экране в виде графа. Но вы также можете последовать по стопам Тошики Нагаки, профессора Университета Хоккайдо: он разложил пищевые комочки, так же как расположены города на карте, и ждал, пока слизевик (этот организм тоже является грибом) разрастется. И — да, в итоге безмозглое одноклеточное существо воспроизвело карту основных транспортных магистралей Японии. По мере того, как картина становится все сложнее, от грибов-еды до грибов-биоматериалов остается один шаг.

Мицелий, как настоящий биокомпьютер, сканирует окружающую среду и растет согласно ей. Какой формы мицелий? Это как спрашивать, какой формы вода. Ответить на этот вопрос можно, лишь зная, где именно он растет. Кроме того, мицелии децентрализированные, у них нет единого центра принятия решений. Эту мысль прекрасно описал в своей книге биолог Мерлин Шелдрейк «Женщины, собирающие грибы», сделав аналогию гриба и музыкальной полифонии.

Полифония — это одновременное пение нескольких партий или рассказывание нескольких истории, где голоса никогда не сливаются в единый фронт. Ни один голос не отказывается от своей идентичности. Мицелий полифоничен в телесной форме. Каждый из голосов — это кончик гифа, исследующий для себя звуковой ландшафт. Хотя каждый волен скитаться, их скитания нельзя рассматривать отдельно от других. Ведущей мелодии нет. Централизованного планирования нет. Тем не менее появляется форма.

Дана Молжигит
исследовательница-биодизайнер, Школа архитектуры Бартлетт (Британия)

Чаны с микокожей

Обычно он стоит на подоконнике или на холодильнике, в банке. Когда заходят гости, кто-то обязательно спросит, что это и не испортилось ли оно уже. Но вы знаете, что нет, потому что это чайный гриб. Странная, немного пугающая студенистая пленка дает прекрасную иллюстрацию того, как гриб превращается в биотехнологию: мы не едим чайный гриб — мы пьем жидкость, обогащенную продуктами его жизнедеятельности. Мы используем его как биохимическое устройство. И если в советские годы напиток чайного гриба наши бабушки получали сами, сегодня он производится в промышленных масштабах и известен под названием «комбуча».

Знание особенностей роста и развития конкретного мицелия дает вам карт-бланш для его использования.

Например, из мицелиальных материалов можно делать микокожу — вещество, по своим свойствам очень похожее на выделанную кожу животных. Только представьте: не нужно никого убивать, нужно только правильно подобрать ферментационную смесь в биореакторе и ждать от 5 до 14 дней. Однако грибница не знает, что вы хотите сделать из нее заменитель кожи; ее эволюционная программа диктует ей начинать формировать плодовые тела и размножаться. Поэтому вам также нужно найти определенную комбинацию смеси СО₂, температуры (~30°C) и влажности (50–99%) в инкубационной камере, при которой мицелий будет только расти вширь, не пытаясь отращивать грибы. В итоге вы получите колышущуюся плотную пленку, которую затем можно рулонами снимать с питательных чанов и спрессовывать, получая заменитель кожи: именно этого результата добилась команда ученых из Финляндии из Центра технических исследований VTT.

«Упакуем, очистим, проведем электричество»

И это только начало! В течение 2010-х было зарегистрировано более полусотни международных патентов на материалы из грибов и различные способы их использования. Китайская компания Shenzhen Teq Dev. разработала промышленный цикл по переработке сельскохозяйственных отходов — стеблей от кукурузы и пустых колосьев пшеницы — в упаковочный материал, основанный на грибном мицелии. Этот одновременно плотный, легкий и биоразлагаемый продукт не только уменьшает нагрузку на окружающую среду, но и впоследствии, распадаясь, сам возвращает органические вещества в почву.

Далее: химический гений некоторых видов грибов синтезирует энзимы, с помощью которых стало возможным очищать разливы нефти, удалять остатки машинного масла и пестициды из почвы, а само использованное вещество хорошо разлагается. Однако, помимо борьбы с масштабными последствиями человеческой деятельности, у этих энзимов нашлось и более прозаическое применение: поглощение жидких экскрементов наших домашних питомцев. Смотрите на полках зоомагазинов в 2030-м.

Вещества из мицелия имеют разную степень химической активности; в зависимости от нее из них можно делать термоклеевые покрытия, антимикробные материалы для перевязки ран, даже косметические губки. Более того — в одном из своих патентов компания Ecovative описала, как сделать из мицелия инструмент для «выращивания» электрических цепей.

Наконец, в опубликованном в прошлом году в Nature исследовании ученые зашли настолько далеко, что предложили рассмотреть структуру волокнистого каркаса мицелия как «строительные леса», на которых можно будет выращивать ткани человеческого тела! Так что если раньше съедобные грибы Pleurotus ostreatus и Ganoderma lucidum становились частью вашего организма благодаря пищеварению, то в течение ближайших лет они могут стать биотехнологией, с помощью которой вам вырастят участок кожи или новый орган.

В ходе моего собственного исследования в Бартлетт-колледже я много узнала о мицелиях, выращивая их в различных субстратах и используя различные питательные вещества. Например, для гриба-трутовика (плотные грибовидные структуры, растущие на коре деревьев. — Прим. ред.) мы использовали биологические отходы, которые находили в разных частях Лондона, и смотрели, как именно гриб будет взаимодействовать с этими веществами. В этой связи показателен стартап «Живые коконы» из Нидерландов: там грибы используются для переработки останков умершего, чтобы затем составляющие человека вещества снова вернулись в природу.

Дана Молжигит

Живущие во грибе

Способность мицелия заполнять выделенное ему пространство сравнительно однородной структурой — достоинство, полезное не только на микроскопическом уровне. Последние годы оно все больше и больше привлекает внимание архитекторов и представителей строительной индустрии.

Нет, речь не идет о полном и бесповоротном переходе к «грибной зеленой урбанистике». Но мы уже сейчас можем внедрять дешевые и экологичные решения там, где здание должно быть построено за короткое время. Наконец, когда дорожают строительные материалы, почему бы не попытаться взять их производство в свои руки?

Чтобы закончить высшее образование, одни пишут дипломную работу, а Наталья Беата Пиорека вырастила стул из грибов. В 2019 году ее проект MYCOsellа был принят в качестве выпускного проекта в Университете Ньюкасла. В том же 2019 году на архитектурной выставке в Дании был представлен «Растущий павильон». По словам его создателей (их сайт также достоин внимания), обшивка этого павильона состоит из 88 панелей мицелия.

Проведенный в 2021 году обзор ожиданий и реальности в сфере возведения зданий из грибов примешивает к радужным перспективам серо-будничные оттенки. Трубчатой структуре Hy-Fi 2014 года, достигшей 13 метров в высоту, потребовались дополнительные стальные подпорки из-за порывов ветра. Пластинчатый навес Shell Mycelium 2016 года (отчасти похожий на «Растущий павильон») должен был обрастать мицелием непосредственно в ходе выставки, но подготовленный в качестве основы роста композитный материал высох раньше времени.

Означает ли это, что грибные строения — всего лишь эстетический курьез и прихоть архитектурной моды? Конечно же нет! Вы только подумайте, сколько тысячелетий у людей ушло на то, чтобы набить руку в древесной или каменной архитектуре: сколько дворцов рассыпалось, сколько хором превратилось в золу. И сейчас, сделав огромный, по меркам своего существования, виток, человечество заново открывает жилища через жизнь, живую материю, биос, как некогда мы делали шатры из костей гигантов.