Kitabı oxu: «Измерять и навязывать. Социальная история искусственного интеллекта»

Перевод Ивана Напреенко

Copyright © Matteo Pasquinelli, 2023

All rights reserved

The moral rights of the author have been asserted

© И. Напреенко, перевод с английского, 2024

© ООО «Индивидуум Принт», 2024

Предисловие переводчика

Книгу Маттео Пасквинелли, итальянского философа науки, можно отнести к критическим исследованиям искусственного интеллекта. Она четко очерчивает круг идейных противников автора в публичной сфере. Этот круг можно охарактеризовать двумя научно-популярными работами – на обе автор ссылается и обе переведены на русский. Это «Верховный алгоритм» Педро Домингеса и «Искусственный интеллект» Ника Бострома. По совпадению или нет, именно эти книги в 2016 году Билл Гейтс посоветовал прочитать желающим лучше понять, что такое ИИ, – дело было на одной из закрытых конференций Code, где «топовые инфлюэнсеры» из мира технологий и бизнеса обсуждают ближайшее будущее.

Книгу «Верховный алгоритм» Пасквинелли называет «примером корпоративной повестки». С первых же страниц Домингес берет читателя под ручку, используя узнаваемый тон, свойственный продавцам мечты: «Машинное обучение открывает новую главу в долгой, растянувшейся на миллион лет эволюционной саге: с его помощью мир сам почувствует, чего вы хотите, и сам под вас подстроится. Не надо даже волшебной палочки: окружающий вас мир – сегодня виртуальный, а завтра физический – станет похож на волшебный лес»¹. «Искусственный интеллект» – другая история. Волшебный лес Бострома сулит не исполнение (даже невысказанных) желаний, а мрачный финал, где «машинный сверхразум» изведет «всю Землю, а потом и обозримую Вселенную»² на канцелярские скрепки.

Эти две работы воплощают тот взгляд, который Пасквинелли совершенно претит, – технологический детерминизм, предполагающий, что развитие техники определяет судьбу общества в однонаправленной истории все более совершенных достижений. На одном полюсе находится утопия блаженства, на другом – классический монстр, который губит незадачливого Франкенштейна. Общий знаменатель – это мистификация ИИ. Приписывая объекту таинственную самостоятельность, завороженный наблюдатель проецирует на него свои страхи и надежды.

Если в искусственном интеллекте и есть тайна, то ее механизм раскрыт еще Людвигом Фейербахом: немецкий материалист полагал, что человечество проецирует на высшее существо, Бога, свои лучшие качества и способности, отчуждая их от самих себя. Схожим образом человечество не опознает в ИИ собственные силы, знания и – на чем делает особый акцент Пасквинелли – труд и его разделение. Расплетая цепочки уравнений, скрытые в черном ящике искусственного интеллекта, философ демонстрирует их проблематичность. Так, например, разумность машины в первых нейронных сетях 1950-х годов была приравнена к задаче классификации изображений, что довольно далеко от моделирования мозга и когнитивных процессов, которым занимались, по собственным утверждениям, отцы-основатели современной технологической реализации ИИ. В результате таких уравнений за проявления «сверхразума» предлагается принимать игру статистических корреляций внутри колоссальных объемов данных, запущенную за счет применения психометрических методов к анализу визуальной информации.

Оптический элемент в социальной истории ИИ для автора книги особенно важен. Название оригинала (Eye of the Master) отсылает к выражению Энгельса, которое в отечественной переводческой традиции передают как «хозяйский глаз». Немецкий философ описывал этой метафорой контроль мастеров над рабочими, усилившийся с внедрением промышленных машин и достигший пика в фордизме. Также оно широко употреблялось на фабриках и заводах XIX века. Пасквинелли трактует словосочетание расширенно – как «индустриалистскую перспективу», согласно которой развитие средств производства трансформирует трудовые отношения и которую автор диалектически переворачивает.

Выбранное для перевода название – «Измерять и навязывать», – помимо уместной отсылки к работе Фуко, акцентирует предикаты ИИ, которые связаны с измерением и координацией рабочих процессов. Соответствующие задачи стали необычайно значимы для хозяев производств еще на заре промышленного капитализма в связи с масштабной трансформацией разделения труда. Но ИИ, в чем уверен Пасквинелли, древнее первых станков и уж тем более ЭВМ. Его корни уходят в известную человечеству на протяжении тысячелетий культурную технику алгоритмизации социальных, в первую очередь трудовых, практик. Иными словами, ИИ – это не только и не столько технологический артефакт, не «искусственный интеллект», а созидательная деятельность, захваченная и перестроенная технонаукой. Несколько утрируя мысль автора, можно предположить, что отношения между интеллектом и ИИ отражают образ двух рук, рисующих друг друга. Представим, что его анимировали и обнаружилось, что загадки предшествования здесь нет. Одну руку видно сразу, другая же, поначалу нечеткая, обретает объем и начинает все сильнее искажать ту, которая ее рисует.

Проблематичность стоящих за ИИ уравнений, о которой я упомянул, имеет и переводческое измерение. В отечественной традиции предложенное в 1957 году Джоном Маккарти выражение artificial intelligence принято передавать как «искусственный интеллект», хотя в СССР это выражение стало применяться к научным разработкам и исследованиям позднее, уже в 1970-е (я еще расскажу, почему). Насколько верна эта привычка, если русскому слову «интеллект» в английском соответствует, собственно, intellect? Понятие intellect предполагает способность мыслить и понимать, тогда как intelligence относится к применению этой способности на практике, например в форме получения и использования знаний и навыков. Соответственно, эта практическая форма и может быть описана через набор инструкций, то есть алгоритмизирована.

Пасквинелли приводит еще один интересный пример, который помогает понять, в какую цепочку уравнений вписан термин intelligence. В конце 1920-х годов, развивая теорию информации на основе выработанных внутри телеграфного дела техник, инженер Ральф Хартли предложил отказаться от выражения act of intelligence³ – оно использовалось для описания работы операторов с принимаемым сигналом. Хартли указывал, что этот термин, обозначающий «интерпретацию сигнала», слишком психологичен и антропоцентричен, поскольку никакой интерпретации, то есть придания смысла сообщению, от оператора не ждут. От него требуется лишь декодировать сигнал, «определить последствия выбора в пользу одного символа при отказе от другого символа»⁴. Смещение в пользу механистического понимания умственной деятельности также объясняет, почему слово intelligence в дальнейшем вошло в обозначение секретных служб Великобритании (Secret Intelligence Service) и США (Central Intelligence Agency). Подобные содержательные сдвиги вокруг и внутри понятия intelligence, которые не улавливаются понятием «разум» в русском языке, нашли выражение в проекте ИИ.

Рассматривая генеалогию ИИ, Пасквинелли сосредоточился на англо-американской линии проекта. Обогатить социально-историческую перспективу и общее понимание читателю поможет обращение к советскому опыту в этой области.

Расскажу об эпизоде из собственной биографии: в конце XX – начале XXI века мой отец работал в Российском НИИ Искусственного интеллекта. Согласно информации на все еще живом официальном сайте, эта организация была создана в 1991 году «Государственным Комитетом РСФСР по делам науки и высшей школы… на базе Государственной научной фирмы “Интеллектуальные технологии”, образованной научным коллективом, сформировавшимся в Сибирском Отделении АН»⁵. Это место работы регулярно ускользало из моей подростковой памяти, поэтому я нередко переспрашивал отца и всякий раз удивлялся ответу. Романтичное словосочетание «искусственный интеллект» плохо сочеталось с бесконечными таблицами Excel, которые я видел на экране отцовского компьютера. Я спрашивал отца, что он считает, и слышал в ответ – математические модели экономики для неполных данных. Причем здесь искусственный интеллект, думал я?

Полудетское удивление внезапно схватывает своеобразие советского проекта: кибернетика, а затем «искусственный интеллект» в СССР развивались как управленческая парадигма, призванная в первую очередь решать задачи плановой экономики, которая сталкивалась с нехваткой необходимых показателей. Вокруг термина «искусственный интеллект» – самой возможности машины мыслить – велись оживленные дискуссии в научных кругах в 1950-х и начале 1960-х годов, и лишь позднее он был аккомодирован в исследованиях и разработках. В 1968 году философ Эдвард Ильенков доказывал, что машинное мышление принципиально невозможно и, более того, разговоры об этом уводят от сути вопроса. «Проблема “Человек – Машина”, если покопаться в ней чуть поглубже, оказывается на поверку проблемой отношения Человека к Человеку, или, как выразился бы философ старой закалки, проблемой отношения Человека к самому себе, хотя отношения и не прямого, а “опосредствованного” через Машину», – это утверждение советского марксиста очень близко к тому, что говорит Пасквинелли⁶. Последние исследования показывают, что на институциональную и культурную форму ИИ в СССР повлияло как нежелание признавать за машиной способность мыслить, так и общая ориентация на «ситуационное управление», за счет чего центральную проблему искусственного интеллекта начали понимать как контроль в комплексных системах (например, производстве и логистике)⁷. Но и на Западе, как утверждает автор этой книги, развитие ИИ стало продолжением «революции контроля», определившей рост информационных технологий в современном мире.

Главы книги Пасквинелли можно читать не последовательно: они похожи на отдельные исследовательские семинары, связанные общей перспективой и сквозными примерами. Сложный материал комбинируется с многообразием сюжетов, что требует от читателя внимания и концентрации. Однако усилия вознаградятся. Конечно, реконструированный ИИ предстает величественным и пугающим средоточием всеобъемлющей парадигмы «глаза Хозяина», эдаким гиперобъектом (если воспользоваться термином Тимоти Мортона), который подчиняет человеческий опыт алгоритмической логике квантификации, эффективности и оптимизации. Но вместе с тем интеллектуальное путешествие, предпринятое итальянским философом, оказывает духоподъемное и освобождающее воздействие. Лишая мистической автономности «верховный алгоритм», книга не приносит готовых рецептов того, как его расплести, но по меньшей мере определяет направление движения: вопрос о власти машин над человечеством есть вопрос политический, и ответ на него в конечном счете лежит в сфере отношений между людьми.

Иван Напреенко,

социолог, редактор журнала «Социология власти» и сайта о книгах и чтении «Горький»

Февраль 2024

Введение: ИИ как разделение труда

Частичное искусство отдельного машинного рабочего, подвергшегося опустошению, исчезает как ничтожная и не имеющая никакого значения деталь перед наукой, перед колоссальными силами природы и перед общественным массовым трудом, воплощенными в системе машин и создающими вместе с последней власть «хозяина»⁸.

Карл Маркс, «Капитал», 1867 г.

Все люди являются интеллектуалами… Это означает, что если можно говорить об интеллигентах, то нельзя говорить о неинтеллектуалах, ибо неинтеллектуалов не существует. <…> Нет такой человеческой деятельности, из которой можно было бы исключить всякое интеллектуальное вмешательство, нельзя отделить homo faber от homo sapiens⁹.

Антонио Грамши, «Тюремные тетради», 1932 г.¹⁰

В XX веке мало кому пришло бы в голову считать водителя грузовика работником умственного труда, иначе говоря, интеллектуалом. Однако в начале XXI века внедрение искусственного интеллекта (ИИ)¹¹ в беспилотные транспортные средства и другие артефакты побудило иначе взглянуть на ручные навыки, в частности, на вождение, и обнаружить, что самое ценное в труде никогда не сводилось к ручному компоненту, а включало в себя когнитивные и кооперативные аспекты. Нужно признать, что благодаря исследованиям ИИ водители грузовиков примкнули к интеллектуалам¹². В этом есть парадокс и вместе с тем горькое политическое откровение: понадобилось усерднейшим образом развивать автоматизацию, чтобы увидеть, насколько глубоко «интеллектуальные способности» проявлены в занятиях и работах, которые традиционно считались сугубо ручными и неквалифицированными, – настолько, что ими пренебрегали и профсоюзы, и критическая теория. В нынешнюю цифровую эпоху лишь немногие социологи, например Ричард Сеннет, взяли на себя труд утверждать, что «делать значит думать». Этот же тезис историки науки Лисса Роберт и Саймон Шаффер выразили в изящном образе «разумной руки», которая и в ренессансной мастерской, и в индустриальную эпоху не сводилась к мышечной силе, направляя проектирование, изобретательство и научные прорывы¹³. Отрицание разумности ручного труда и общественной деятельности, наблюдаемое нами сегодня, по-видимому, представляет собой симптом избыточного роста цифровой сферы и дематериализацию человеческой деятельности, которые нагнетают вокруг ИИ ауру таинственности.

Что такое ИИ? Согласно господствующей точке зрения речь идет о попытке «разгадать загадку разумности» [intelligence]. Ключ якобы лежит в тайной логике ума [mind] или в глубинной физиологии мозга, например в сложных нейронных сетях. В этой книге я утверждаю обратное: внутренний код ИИ заключается в имитации не биологического разума, а разумности труда и общественных отношений. Сегодня представляется очевидным, что ИИ – проект, направленный на сбор знаний, выраженных в индивидуальном и коллективном поведении, и их перекодирование в алгоритмические модели с целью автоматизации самых разных задач – от распознавания паттернов¹⁴ и манипулирования объектами до перевода с языка на язык и принятия решений. Как это бывает с типичными эффектами идеологии, «ключ» к загадке лежит на самом видном месте, но никто его не замечает – да и не хочет замечать.

Вернемся к беспилотным автомобилям. Какую работу выполняет водитель? И в какой степени ИИ cпособен эту деятельность автоматизировать? Беспилотное транспортное средство призвано имитировать – с высокой долей приближения и в условиях значительной неопределенности – все микрорешения, которые принимает водитель на оживленной дороге¹⁵. Искусственные нейронные сети «учатся» корреляциям между визуальным восприятием среды и механическим контролем транспортного средства (рулевое управление, ускорение, торможение), а также этическим решениям, которые в случае опасности необходимо принять за несколько миллисекунд. Вождение требует высоких когнитивных навыков, которые нельзя заменить импровизацией, и умения быстро решать задачи. Навыки вырабатываются только привычкой и тренировками – процессами, которые нельзя назвать полностью осознанными. Вождение остается, по существу, социальной и кооперативной деятельностью, регулирующейся кодифицированными правилами (включая правовые ограничения) и спонтанными элементами, к которым относится неявный культурный код – в каждой местности он свой. Считается, что закодировать такую сложную деятельность непросто, и даже бизнесмен Илон Маск признал (после не столь уж и малочисленных аварий автомобилей Tesla со смертельным исходом), что «обобщенное беспилотное вождение – это трудная проблема»¹⁶. Как бы то ни было, все сложности, с которыми столкнулся промышленный проект беспилотных транспортных средств, ясно показали, что задача вождения не сугубо «механическая». И если навык вождения можно перевести в алгоритмическую модель, то лишь потому, что это логическая деятельность, поскольку в конечном счете всякий труд логичен¹⁷.

В каких же тогда отношениях состоят труд, логические правила и автоматизация, которая представляет собой не что иное, как изобретение новых машин? Здесь все запутано, в этом и заключается главная проблема ИИ, которой посвящена моя книга. Предлагаемый взгляд на ИИ вовсе не нов. Историк науки Лоррейн Дастон, например, уже рассматривала эту проблему на примере великих счетных проектов эпохи Просвещения, которые предшествовали автоматическим вычислениям¹⁸. В конце XVIII века для создания длинных логарифмических таблиц, необходимых для модернизации революционной Франции, математику Гаспару де Прони пришла в голову идея применить промышленное разделение труда (канонизированное Адамом Смитом в «Исследовании о природе и причинах богатства народов») в ручных расчетах¹⁹. С этой целью Прони создал социальный алгоритм — иерархическую организацию, состоявшую из трех групп служащих, которые делили нагрузку; каждый брал на себя часть больших расчетов, а затем они вместе собирали окончательный результат. Несколько лет спустя в промышленной Англии Чарльз Бэббидж использовал интуицию разделения труда в качестве внутреннего принципа разностной машины, создав таким образом первый прототип современного компьютера. Что важно, Бэббидж понял: разделение труда может не только служить принципом для проектирования машин, но и применяться для вычисления затрат на производство (с тех пор этот метод известен как «принцип Бэббиджа»).

В индустриальную эпоху надзор за разделением труда входил в задачи фабричного мастера²⁰. Хозяйский глаз²¹ долго контролировал и дисциплинировал рабочих в мастерских, лагерях и на плантациях, составлял планы сборочных линий и планировал смены каторжного труда. Еще до изобретения промышленных машин мастерские-потогонки в городах и колониальных поместьях «механизировались» с точки зрения телесной дисциплины и режима визуальности²². Как показал философ Мишель Фуко, введение дисциплинарных техник, основанных на сегментации времени, пространства и отношений, подготовило почву для капиталистического режима эксплуатации труда²³. Вместе с тем рационалистический взгляд на мир позволил подробно описать движения человеческого тела и набросать эскиз его механизации. Историк Зигфрид Гидион детально зафиксировал этот процесс в известной работе «Механизация становится у руля». Согласно Гидиону, механизация «начинается с понятия Движения», вытесняет ремесла и наконец в развитом виде представляет собой «сборочный конвейер, в котором вся фабрика объединена в синхронно действующий организм»²⁴.

Кульминацией механического мышления стал тейлоризм – система «научного управления», которая стремилась экономить движения рабочих в мельчайших деталях. Как заметил политэконом Гарри Браверман, «Тейлор понимал принцип Бэббиджа лучше, чем кто-либо из современников последнего, и всегда им руководствовался в расчетах»²⁵. Для наблюдения за малейшими движениями рабочих тейлористская система обзавелась своего рода кинематографическими глазами: хозяин фабрики буквально стал режиссером, который снимал трудящихся, чтобы измерять и оптимизировать их производительность, осуществляя на практике «кинематографический способ производства» (по выражению исследователя медиа Джонатана Беллера)²⁶. Тейлоризм породил «исследования времени и движения», которыми в те же годы занимались советский революционер Алексей Гастев и американские инженеры Франк и Лилиан Гилбреты, породив по обе стороны Атлантики сходные фотографические методы – циклограмму и хроноциклограф соответственно²⁷. Эта книга продолжает указанную линию аналитических исследований трудовых процессов с начала индустриальной эпохи до появления ИИ и призвана показать, как «разумность» технологических инноваций часто возникает из подражания абстрактным отображениям человеческой практики и коллективного поведения.

Промышленные машины, например ткацкие и токарные станки, возникли не по мановению руки одинокого инженерного гения, а из имитации схем коллективного труда. Они появились на свет путем улавливания паттернов движений рук и орудий рабочих, фиксации невидимых творческих ноу-хау и последующего их превращения в механические артефакты. Основываясь на теории изобретательства, которую уже в XIX веке разделяли Смит, Бэббидж и Маркс, я утверждаю в этой книге, что самые сложные «разумные» машины также возникли из воспроизведения схем коллективного разделения труда. Я именую описанную теорию развития техники трудовой теорией автоматизации, или трудовой теорией машин, которую распространяю на исследования современного ИИ и обобщаю в виде трудовой теории машинного интеллекта²⁸.

Уже Маркс не считал «хозяина» отдельной личностью и, согласно открывающей это введение цитате, полагал, что он представляет собой согласованное могущество науки, колоссальных сил природы и общественного массового труда, воплощенного в системе машин. После того, как разделение труда в обществе приняло всеобъемлющий характер, что констатировал в конце XIX века Эмиль Дюркгейм, хозяйский глаз превратился в новые технологии контроля – в частности, статистику и глобальные «операции капитала» (меткое выражение Сандро Меццадра и Бретта Нильсона)²⁹. В конце XX века управление трудом превратило общество в «цифровую фабрику», приняв форму поисковых алгоритмов, онлайн-карт, приложений для обмена сообщениями, социальных сетей, платформ гиг-экономики, сервисов мобильности и, в конечном счете, алгоритмов ИИ, которые все шире используются для автоматизации всех упомянутых сервисов³⁰. Сегодня несложно увидеть, что ИИ означает дальнейшую централизацию цифрового общества и координацию разделения труда внутри него.

Тезис, что проектирование вычислений и «разумные машины» воспроизводят схему разделения труда, не надо считать еретическим. Его подтверждают основополагающие теории компьютерной науки³¹, которая унаследовала от индустриальной эпохи оттенок колониальных фантазий и классовое разделение. Например, прославленный гений автоматизированных вычислений Алан Тьюринг сам воспроизводил иерархический и авторитарный образ мысли. В лекции 1947 года Тьюринг представил Автоматическую вычислительную машину (АВМ), один из первых цифровых компьютеров, в качестве централизованного аппарата, который координирует операции согласно иерархии ролей «хозяина и слуги»:

Грубо говоря, те, кто работает с АВМ, разделятся на хозяев и слуг. Хозяева будут готовить для машины таблицы с командами, придумывая все более и более сложные способы ее применения. Слуги станут кормить машину карточками, когда она их позовет. Слуги починят любую деталь, которая сломалась. Соберут данные, которые она потребует. По сути, слуги заменят машине конечности. Со временем вычислитель возьмет на себя функции и хозяев, и слуг. Слуг заменят механические и электрические конечности и органы чувств. Можно, например, установить операторы отслеживания кривых, чтобы получать данные напрямую, не заставляя девушек считывать значения и набивать их на карточках. Хозяева также станут не нужны, поскольку, как только техника начинает действовать по шаблону, ее можно заменить таблицей с командами, которую электронный вычислитель способен сделать самостоятельно. Но, возможно, хозяева откажутся уходить. Возможно, они не захотят, чтобы их рабочие места таким образом украли. В этом случае они окружат свою работу тайной и придумают возражения, облеченные в умело подобранный птичий язык, и так станут отвечать на опасные предложения. Я полагаю, что подобного рода реакция представляет вполне реальную опасность³².

Молодой Тьюринг описывает разделение вычислительных задач между «хозяевами», «слугами» и «девушками» безжалостно. Это напоминает то, как Эндрю Юр в готическом ключе описывал фабрику викторианской эпохи: «огромный автомат, состоящий из различных механических и интеллектуальных органов, действующих в непрерывной заботе о производстве общего объекта и подчиненных саморегулирующейся движущей силе»³³. Схожим образом Тьюринг воображает разумный автомат, который в будущем будет программировать себя сам, заменив как хозяев, так и слуг. Сегодня видению Тьюринга противостоит армия рабочих-призраков с Глобального юга, которые, как документально доказывают Мэри Грей и Сиддхарт Сури, убраны из поля зрения, чтобы шоу машинной автономии продолжалось³⁴. Тьюринг бы счел это парадоксом, но ИИ в основном заместил хозяев, то есть управляющих, а не слуг – рабочие нужны (и всегда будут нужны), с одной стороны, чтобы производить данные и значения для ненасытных конвейеров ИИ и его глобальных монополий, а с другой стороны, чтобы обслуживать мега-машину, фильтруя контент, проверяя безопасность, бесконечно оценивая и оптимизируя. Как отмечают гендерные исследовательницы Неда Атанасоски и Калинди Вора, мечты о полной автоматизации и ИИ, подобные тем, что озвучивает Тьюринг, не нейтральны. Они исторически укоренены в существовании «суррогатного человечества» – рабов, слуг, пролетариев и женщин, которые невидимым трудом сделали возможным универсалистский идеал свободного и автономного (белого) субъекта³⁵.

Множественные истории ИИ

Написание истории ИИ в нынешней непростой ситуации требует принимать в расчет обширную идеологическую конструкцию: в компаниях Кремниевой долины и высокотехнологичных университетах пропаганда всемогущества ИИ стала нормой и порой даже принимает форму фольклорных представлений о машине, обретающей «сверхчеловеческий разум» и «самосознание». Хорошей иллюстрацией подобных представлений служит апокалиптический нарратив из «Терминатора», согласно которому системы ИИ достигли технологической сингулярности и стали представлять «экзистенциальную угрозу» для выживания человечества на планете – именно это проповедует среди прочих футуролог Ник Бостром³⁶. В мифологиях технологической автономии и машинного интеллекта ничего нового нет: они были придуманы в индустриальную эпоху для мистификации роли рабочих и субалтернов³⁷. Описывая культ автоматов в эпоху Бэббиджа, Шаффер сформулировал это так: «Чтобы машины казались разумными, требовалось спрятать источник энергии, то есть рабочие руки, которые их поддерживали и направляли»³⁸.

Помимо спекулятивных нарративов, которые никогда не вдаются в достаточные технические подробности, чтобы прояснить, какие именно алгоритмы реализуют «сверхинтеллект» (super-intelligence), сегодня можно найти множество технических историй ИИ, призванных сделать понятными его сложные алгоритмы³⁹. Соответствующие технические обзоры часто выражают ожидания корпораций от «верховного алгоритма»: чтобы он, с чудесной скоростью сжимая данные, решал перцептивные и когнитивные задачи. Именно так неромантично описывается метрика, по которой оценивают «разумность» систем⁴⁰. Эти публикации обычно игнорируют исторический контекст и социальные последствия автоматизации и рисуют линейную историю математических достижений, укрепляя тем самым технологический детерминизм⁴¹. К техническим историям ИИ следует также отнести когнитивную науку, поскольку она в значительной степени развивалась под влиянием компьютерной науки. Эпохальный двухтомник Маргарет Боден «Ум как машина» (Mind as Machine; 2006) остается, пожалуй, самой подробной историей ИИ как когнитивной науки и показывает сложную генеалогию проекта без какого-либо идеологического пафоса.

Сопротивляясь узкотехническим подходам, все большее число авторов рассматривают социальные последствия ИИ с точки зрения рабочих, сообществ, меньшинств и общества в целом. Эти авторы ставят под вопрос виртуозность алгоритмов, которые якобы «разумны», но по факту усиливают неравенство, усугубляют гендерные и расовые предубеждения и укрепляют новую форму извлечения знаний. Благодаря книгам «Убийственно большие данные» (2016) Кэти О’Нил, «Алгоритмы угнетения» (2018) Сафии Нобл, «Гонка за технологиями» (2019) Рухи Беньямин, «Дискриминация данных» (2021) Уэнди Чан (Цюань Сицин) и другим работам расширяется новая область знания – критические исследования ИИ⁴². В основе этого направления лежат более ранние исследования ИИ, кибернетики и рациональности времен холодной войны, среди которых стоит упомянуть «Искусственное понимание» (1998) Элисон Адамс, «Вычисления и человеческий опыт» (1997) Филипа Агре, «Закрытый мир» (1996) Пола Эдвардса, «Возможности вычислительных машин и человеческий разум» (1976) Джозефа Вайценбаума и статью Хьюберта Дрейфуса «Алхимия и искусственный интеллект» (1965) для корпорации RAND (эту работу обычно считают первой философской критикой ИИ)⁴³.

Размещая свою книгу внутри растущего корпуса критических работ, я стремлюсь осветить социальную генеалогию ИИ и, что важнее, точку зрения социальных классов, которые развивают ИИ как особое представление о мире и особую эпистемологию. На формирование информационных технологий и ИИ в XX веке воздействовали различные социальные группы и конфигурации власти. Можно сказать, что парадигмы механического мышления (а затем и машинного интеллекта) возникли в разное время и разными способами не на плечах гигантов, а на плечах торговцев, солдат, командиров, бюрократов, шпионов, промышленников, менеджеров и рабочих⁴⁴. Автоматизация труда представляет собой ключевой аспект каждой из этих генеалогий, но историография технологий часто это игнорирует, предпочитая взгляд «сверху».

Например, согласно популярной точке зрения подъем кибернетики, цифровых вычислений и ИИ детерминистски объясняется обильными финансовыми вливаниями со стороны Пентагона в годы Второй мировой и период холодной войны⁴⁵. Однако недавние исследования показали, что архипелаг «военной рациональности» был нестабилен и на нем культивировались только парадигмы, имевшие ключевое значение в моделировании гонки вооружений и логистических проблем, – теория игр и программирование линейных перемещений⁴⁶. Как бы то ни было, государственный аппарат начал влиять на информационные технологии задолго до военной гонки Второй мировой. Автоматизация поиска, выдачи информации и статистического анализа начали применяться с целью механизировать государственную бюрократию и работу правительства по меньшей мере с переписи 1890 года, когда Герман Холлерит представил табулятор для обработки перфокарт. «Правительственная машина», по выражению Джона Агара, предвосхитила появление в эпоху цифровых технологий крупных центров обработки данных, к которым причастны не только интернет-компании, но и спецслужбы, что во всех подробностях описали математик Крис Уиггинс и историк Мэтью Л. Джонс⁴⁷. Коротко говоря, свыше 100 лет сбор «больших данных» об обществе и его поведении стимулировал развитие информационных технологий – от табулятора Холлерита до машинного обучения⁴⁸.

Таким образом, ИИ представляет собой продолжение техник анализа данных, которые сначала развивали государственные бюро, затем тайно культивировали спецслужбы, и в конечном счете закрепили интернет-компании в форме глобального бизнеса по надзору и прогнозированию. Однако такая интерпретация – это также не что иное, как взгляд «сверху», фокусирующийся на техниках контроля, а вовсе не на субъектах, над которыми контроль осуществляется. Мишени этой власти («надзорного капитализма» в определении Шошаны Зубофф) обычно описываются как пассивные субъекты, подверженные измерению и контролю, то есть не как акторы, обладающие автономией и собственной «разумностью». В этом заключается проблема критической теории вообще и критических исследований ИИ в частности. Хотя эти исследования и фиксируют воздействие ИИ на общество, они часто упускают из виду, что коллективные знания и труд – главный источник той самой «разумности», которую извлекает, кодирует и превращает в товар ИИ. Более того, их авторы зачастую не способны оценить вклад социальных форм и сил в ключевые этапы технологических изобретений и разработок. По-настоящему критическая интервенция должна бросить вызов гегемонистской позиции ИИ как уникального «хозяина» коллективного разума. Выступая против образовательной иерархии, итальянский философ Антонио Грамши однажды заявил, что «все люди – интеллектуалы»⁴⁹. Аналогичным образом в этой книге я стремлюсь показать центральную роль социального интеллекта, поставляющего данные и расширяющего возможности ИИ. В ней также выдвинут более радикальный тезис, согласно которому именно социальный интеллект формирует изнутри саму структуру алгоритмов ИИ.

Моя книга задумана как экскурс в техническую и социальную историю ИИ и основана на социотехническом историческом подходе, который способен показать, какие экономические и политические факторы повлияли на внутреннюю логику ИИ. Вместо того, чтобы встать на сторону привычного социального конструктивизма и попытаться выйти за рамки новаторских идей социальной информатики, я применяю к ИИ метод исторической эпистемологии, который в истории науки продвигали, каждый по-своему, Борис Гессен, Генрик Гроссман, Жорж Кангийем и Гастон Башляр. Из недавних работ в этом направлении я выделяю исследования Института истории науки Макса Планка в Берлине⁵⁰. Если социальный конструктивизм в целом подчеркивает влияние внешних факторов на науку и технику, историческая эпистемология делает акцент на диалектическое развертывание социальной практики, орудий труда и научных абстракций внутри экономической динамики. В этой книге я подхожу к изучению ИИ и алгоритмического мышления точно так же, как историческая и политическая эпистемология изучает роль механического мышления и научных абстракций (например, число и пространство) в социально-экономических преобразованиях Нового времени⁵¹.

В последние десятилетия политическую эпистемологию науки и технологий продвигали исследовательницы-феминистки – Хилари Роуз, Сандра Хардинг, Эвелин Фокс Келлер, Сильвия Федеричи и другие. Они убедительно показали, как возникновение современной рациональности и механического мышления (к которому относится ИИ) связано с превращением женского тела и коллективного тела вообще в послушную производительную машину⁵². В традиции политической эпистемологии мы еще должны обратить внимание на анализ трудового процесса, предложенный Гарри Браверманом в работе «Труд и монополистический капитал» (Labor and Monopoly Capital; 1974), а также на исследования итальянских рабочих, проводившиеся операистами, в частности, Романо Альквати на заводе ЭВМ Olivetti в Ивреа еще в 1960 году⁵³. Браверман и Альквати – авторы влиятельных работ, в которых впервые показано, что проекты автоматизации вычислений Бэббиджа в XIX веке и кибернетика XX века неотъемлемо связаны с трудом и его организацией.

Автоматизация познания как распознавание паттернов

Перевод трудового процесса сначала в логическую процедуру, а затем в технический артефакт редко протекает просто и безотказно; чаще это путь проб и ошибок. В этом смысле название книги⁵⁴ содержит не только политическую, но и техническую аналогию. Оно иронически сигнализирует, что нынешняя парадигма ИИ амбивалентна: она возникла вовсе не из когнитивных теорий, как верят некоторые, а из спорных экспериментов по автоматизации перцептивного труда, то есть распознавания паттернов⁵⁵. Глубокое обучение начиналось как расширение методов распознавания визуальных образов, разработанных в 1950‑е годы, на невизуальные данные – текст, аудио, видео и поведенческие материалы самого разного происхождения. Подъем глубокого обучения начался в 2012 году, когда сверточная нейронная сеть AlexNet выиграла конкурс компьютерного зрения ImageNet. С тех пор термин «ИИ» стал по умолчанию обозначать парадигму искусственных нейронных сетей, которая в 1950‑х годах, напротив, считалась конкурентом ИИ (пример противоречий, характеризующих его «рациональность»)⁵⁶. Стюарт и Хьюберт Дрейфусы осветили эту коллизию в эссе 1988 года «Создание сознания vs моделирование мозга», в котором обрисовали две родословные ИИ – символическую и коннекционистскую. Cудьба этих подходов, основанных на разных логических постулатах, сложилась по-разному⁵⁷.

Символический ИИ – это родословная, связанная с Дартмутским семинаром 1956 года, на котором Джон Маккарти предложил небесспорный термин «искусственный интеллект»⁵⁸. На основе символического ИИ были разработаны программы Logic Theorist и General Problem Solver, а также множество экспертных систем и машин логического вывода, оказавшихся тривиальными и склонными к комбинаторному взрыву. Коннекционизм в свою очередь представляет родословную искусственных нейронных сетей, созданных Фрэнком Розенблаттом в 1957 году. Изобретенный им «перцептрон» в 1980‑х годах развился в сверточные нейронные сети и в конечном итоге породил архитектуру глубокого обучения, которая доминирует в этой области с 2010‑х.

Обе родословные развивают разные виды логики и эпистемологии. Символический подход утверждает, что разумность – это представление мира (знание-что), которое можно формализовать в виде суждений и, следовательно, механизировать согласно дедуктивной логике. Согласно коннекционистскому подходу, разумность представляет собой опыт мира (знание-как), и этот опыт можно реализовать в приближенных моделях, построенных по индуктивной логике. Что бы ни утверждали корпоративная пропаганда и вычислительные философии разума, ни одна из двух парадигм не смогла полностью имитировать человеческий интеллект. Однако нельзя отрицать, что машинное обучение и глубокие искусственные нейронные сети оказались очень успешными в распознавании паттернов и, как следствие, автоматизации многочисленных задач, благодаря высокой разрешающей способности при обсчете многомерных данных. Двигаясь против традиции, которая воспроизводит чрезмерно знаменитую сагу о Дартмутском семинаре, в книге я концентрируюсь на более убедительной истории ИИ, связанной с происхождением искусственных нейронных сетей, коннекционизмом и машинным обучением. По этому направлению, особенно в том, что касается работы Розенблатта, критической и обстоятельной литературы все еще не хватает.

Структура книги

Книга состоит из трех частей. В вводной части речь идет о вопросах методологии, а две основных посвящены истории – индустриальной и информационной эпохам соответственно. При этом в книге нет линейной истории технологии и автоматизации. Скорее, каждую главу можно читать как независимый «семинар» по изучению алгоритмических практик и машинного разума.

В первой главе я исхожу из необходимости прежде всего прояснить центральное вычислительное понятие: алгоритм. Что такое алгоритм? В компьютерной науке алгоритм определяют как конечную процедуру пошаговых инструкций по преобразованию ввода в вывод, которая оптимально использует имеющиеся ресурсы. В главе ставится под сомнение приведенное чисто техническое определение алгоритма и обосновывается его материалистическая критика, указывающая на экономические и социальные корни явления. Как и у других абстрактных понятий – таких как число или механизм, – у алгоритма долгая история. Как указал математик Жан-Люк Шабер, «алгоритмы существовали с незапамятных времен, задолго до того, как было придумано специальное слово для их обозначения»⁵⁹. Обращаясь к социальной математике древнего индуистского ритуала Агничаяна, я утверждаю, что алгоритмическое мышление и алгоритмическая практика присущи всем цивилизациям, а не только метаязыку западной компьютерной науки. В противовес математическому и философскому интуитивизму, который верит в полную независимость ментальных конструкций, в главе подчеркивается, что алгоритмическое мышление возникло в качестве материальной абстракции из взаимодействия разума и орудий, направленного главным образом на решение экономических и социальных задач. Центральный тезис главы сформулирован намеренно остро: труд представляет собой первый алгоритм.

Основные части книги посвящены изучению машинного разума в две исторические эпохи и выявляют сходную проблематику. В первой части рассматриваются труд как источник знаний и автоматизация умственного труда в индустриальную эпоху в Великобритании. Этот период обычно исследуется с точки зрения ручного труда, накопления капитала и ископаемых источников энергии, а вовсе не в перспективе когнитивных аспектов. Во второй части анализируется распространение коннекционизма (доктрины искусственных нейронных сетей) в кибернетических кругах в США 1940–1960‑х годов. Искусственные нейронные сети возникли в результате проекта автоматизации зрительного труда (т. н. распознавания образов), отличного от ручного и умственного. Я утверждаю, что изучение роли знаний, умственного труда и науки в XIX веке необходимо для понимания истории автоматизации, подготовившей восхождение ИИ в XX веке. Обе части книги подходят с разных сторон к одной проблеме: взаимосвязи между формами технологических инноваций и социальной организацией.

Как отмечали историки науки Дастон и Шаффер, движущую силу современных вычислений легче найти в мастерских индустриальной эпохи, чем в томах по математике или натурфилософии того же времени. Поэтому во второй главе в попытке избежать традиционной машинной агиографии новаторские эксперименты Бэббиджа в области автоматизированных вычислений – его Разностная и Аналитическая машины – пересмотрены с экономической точки зрения. Для объяснения устройства этих первых компьютеров (и воплощенного в них варианта «машинного разума») в главе описываются два принципа анализа труда, выработанные Бэббиджем. Согласно первому аналитическому принципу (трудовой теории машин), конструкция машины воспроизводит и заменяет схему разделения труда. Второй принцип (исчисления труда, т. н. принцип Бэббиджа) гласит, что разделение труда на мелкие задачи позволяет измерить и приобрести ровно столько труда, сколько требуется для производства. При совмещении два принципа дают промышленную машину, которая не только делает труд более интенсивным, но и выступает как инструмент (и неявная метрика) его измерения. Бэббидж применил оба принципа к автоматизации ручного счета. Так возникло вычисление – как автоматизация умственного труда и подсчет его стоимости.

Помимо представления обычных «термодинамических» интерпретаций ручного труда, в третьей главе показывается, что сложные понятия умственного труда, коллективного разума и отчуждения знания были разработаны уже в индустриальную эпоху. В этой главе исследуются идеи вокруг становления политической экономии в XIX веке, движения Института механики, общественной кампании «Марш разума» и Вопроса о машинах (дебаты о технологиях и безработице, волновавшие английское общество в те годы). Также освещены противоположные размышления о введенных Бэббиджем принципах анализа труда и изобретательстве. С одной стороны, я показываю, что задолго до появления теоретиков общества знаний в XX веке рикардианские социалисты Уильям Томпсон и Томас Годскин выдвинули познавательную теорию труда. С другой стороны, подчеркиваю необходимость признать влияние промышленных машин и инструментов на развитие знаний о природе, что требует расширить машинную теорию науки. В результате выражение «машинный интеллект» приобретает по меньшей мере четыре значения:

человеческое знание машины;

знание, воплощенное в ее конструкции;

человеческие задания, ею автоматизированные;

новое знание о мире, ставшее возможным благодаря ее применению.

Четвертая глава посвящена тому, как связаны Бэббидж и другой столп политической экономии индустриальной эпохи, Карл Маркс, – эта тема все еще изучена недостаточно⁶⁰. Здесь исследуется вплетение знаний в материальные действия и артефакты и дано соответствующее прочтение теорий Маркса. В известном отрывке из Grundrisse⁶¹ философ предсказывал, что постепенное накопление знаний (то, что он назвал «всеобщим интеллектом») в машинах подорвет законы капиталистического накопления и вызовет его фатальный кризис. Благодаря интерпретации итальянских операистов, данной в 1989 году, этот необычный отрывок, получивший название «Фрагмент о машинах», обрел широкую известность среди исследователей и активистов в качестве пророчества об экономике знаний, пузыре доткомов и восхождении ИИ. После десятилетий всевозможных спекуляций в этой главе впервые раскрывается происхождение идеи всеобщего интеллекта (general intellect), которую Маркс встретил в книге Уильяма Томпсона «Исследование принципов распределения богатства» (An Inquiry into the Principles of the Distribution of Wealth; 1824). Также я объясняю (и это даже важнее), почему это понятие не вошло в «Капитал». У Томпсона Маркс почерпнул идею добродетельного накопления знаний и аргумент, согласно которому знание, отчуждаясь в машинах, становится враждебным по отношению к рабочим. Однако именно у Бэббиджа Маркс нашел альтернативную теорию, позволяющую понять двусмысленную роль знаний и науки в промышленной экономике. В «Капитале» Маркс заменил утопические упования на всеобщий интеллект материальной фигурой «совокупного рабочего» (Gesamtarbeiter) – другое имя расширенной трудовой кооперации. Фигура совокупного рабочего как некоего сверхорганизма, объединяющего людей и машины, знаменует в этой книге переход к эпохе кибернетики и кибернетическим экспериментам по самоорганизации. Переходную роль выполняет пятая глава, где кратко описана трансформация труда индустриальной эпохи в век кибернетики и разъясняется, как труд распался на абстрактную энергию и абстрактную форму (информацию).

Вторая часть посвящена коннекционизму как главной родословной современных систем ИИ (я избегаю повторения известной литературы по кибернетике, теории информации и символическому ИИ). В шестой главе развитие искусственных нейронных сетей рассматривается с точки зрения, которой обычно пренебрегают, а именно в перспективе исследований самоорганизации организмов и машин (их обошла вниманием даже Боден в своей огромной истории ИИ). Теории самоорганизации сегодня востребованы в физике, химии, биологии, неврологии и экологии, но именно в среде кибернетиков, а не представителей естественных наук, в середине XX века вспыхнули дебаты о самоорганизации. В главе рассмотрены парадигмы самоорганизующихся вычислений, которые способствовали, среди прочего, укреплению коннекционизма, – в частности, концепция нейронных сетей Уоррена Мак-Каллока и Уолтера Питтса (1943–1947), клеточные автоматы Джона фон Неймана (1948) и перцептрон Розенблатта (1957). Также в шестой главе исследуется реакция кибернетических теорий самоорганизации на социотехнические изменения. Подобно иным вариантам механистического мышления в другие века, кибернетика проецировала на мозг и природу формы организации, которые были частью технического состава окружающего общества. Ключевым примером здесь выступает телеграфная сеть, которая использовалась в XIX веке в качестве аналогии нервной системы, а в ХХ веке – для формализации нейронных сетей, включая машину Тьюринга.

В седьмой главе прослеживается связь концепций искусственных нейронных сетей Мак-Каллока и Питтса с забытым спором о гештальте: дебаты о человеческом восприятии как о когнитивном акте, который может быть представлен аналитически и, следовательно, механизирован. В учебниках по машинному обучению обычно утверждается, что Мак-Каллок и Питтс вдохновлялись нейрофизиологией мозга, но авторами упускается из виду упомянутый интеллектуальный сор. Между тем, именно после этих дебатов выражение «гештальт-восприятие» из военных и академических публикаций превратилось в широко известное словосочетание «распознавание паттернов». Спор о гештальте – это когнитивная окаменелость нерешенной проблемы, и ее изучение помогает понять форму и ограничения, унаследованные глубоким обучением, в частности, неразрешенное противоречие между восприятием и познанием, образом и логикой, которое преследовало технонауку XX века.

В восьмой главе разъясняется двойственная роль неолиберального экономиста Фридриха фон Хайека в укреплении коннекционизма. В книге 1952 года «Сенсорный порядок» Хайек предложил коннекционистскую теорию разума, куда более продвинутую, чем определения ИИ, выработанные на Дартсмутском семинаре в 1956‑м. В этом тексте, как предположили Мак-Каллок и Питтс, Хайек размышлял о создании машины, функционально подобной «нервной системе как инструменту классификации»⁶². Подобно кибернетикам Хайек изучал самоорганизацию разума, но с другой целью: его интересовала не промышленная автоматизация, а автономия рынка.

Девятая глава посвящена одному из наиболее важных и наименее изученных эпизодов в истории ИИ: изобретению Розенблаттом в 1950‑х годах искусственной нейронной сети перцептрон. Несмотря на свои ограничения, перцептрон стал прорывом в истории вычислений – в нем впервые была автоматизирована техника статистического анализа; по этой причине его считают первым алгоритмом машинного обучения⁶³. В качестве технической формы перцептрон претендовал на имитацию биологических нейронных сетей, но с математической точки зрения осуществлял совсем другой трюк. Чтобы решить задачу распознавания образов, машина представляла пиксели изображения как независимые координаты в многомерном пространстве. Любопытно, что статистический метод многомерной проекции зародился в психометрии и евгенике в конце XIX века и аналогичен тому методу оценки «общего интеллекта» [general intelligence], который Чарльз Спирмен реализовал в спорном тесте на определение коэффициента интеллекта (IQ). Это еще одно доказательство социальной генеалогии ИИ: первая искусственная нейронная сеть – перцептрон – родилась не как автоматизация логического рассуждения, а как статистический метод, который применялся для измерения интеллекта в когнитивных задачах и соответствующей этим измерениям организации социальной иерархии.

В заключении утверждается, что принцип действия ИИ представляет собой не только автоматизацию труда, но и навязывание социальной иерархии ручного и умственного труда посредством автоматизации. С XIX по XX век «хозяйский глаз» промышленного капитализма охватил все общество и установил новые формы контроля, основанные на статистических измерениях «интеллекта», с целью дискриминировать рабочих по уровню навыков. Результаты теста IQ применялись именно так: американский психолог Льюис Терман в 1919 году заявлял, что «IQ 75 или ниже обычно относится к неквалифицированным рабочим, от 75 до 85 – диапазон для полуквалифицированного труда, а показатели 80 или 85 вполне достаточны для успеха в некоторых видах квалифицированного труда»⁶⁴. ИИ продолжает кодировать социальные иерархии и дискриминировать рабочую силу, косвенно навязывая метрики разумности. Классовые, гендерные и расовые предубеждения, которые системы ИИ, как известно, только усиливают, следует рассматривать не как технический недостаток, а как неотъемлемую дискриминационную черту автоматизации при капитализме. Предвзятость ИИ не ограничивается социальным угнетением: она также выражается в неявном навязывании иерархии труда и знаний, что усиливает поляризацию квалифицированных и неквалифицированных работников на рынке труда. Замену традиционных рабочих мест системами ИИ следует рассматривать вместе с умножением прекарных, низкооплачиваемых и маргинализированных рабочих мест в глобальной экономике⁶⁵. ИИ и «призрачная работа» – две стороны одного и того же механизма автоматизации труда и социальной психометрии.

Наконец, выдвинутая в книге трудовая теория автоматизации представляет собой не только аналитический принцип, нужный для демонтажа «верховного алгоритма» монополий ИИ, но и принцип синтетический. Он говорит о практике социальной автономии, которая создаст новые формы знания и новые культуры изобретательства.

1. Материальные орудия алгоритмического мышления

Силу наших «ментальных» орудий усиливает сила наших «металлических» орудий⁶⁶.

Жаннет Винг, «Вычислительное мышление», 2008 г.

Использование материального орудия всегда дает больше знаний, чем вложено в его изобретение⁶⁷.

Петер Дамеров и Вольфганг Лефевр, «Орудия науки», 1981 г.

Правила стали механическими до того, как им могли следовать машины⁶⁸.

Лоррейн Дастон, «Алгоритмы до компьютеров», 2017 г.

Воссоздание расчлененного бога

В космогоническом мифе индуистских Вед говорится, что верховное божество Праджапати распадается на части в акте сотворения вселенной. После творения происходит нечто контринтуитивное с точки зрения западных нарративов о господстве и принципов непротиворечивости: тело творца оказывается разобранным и расчлененным. В Индии этот древний миф разыгрывают в ритуале Агничаяна. Ритуал предполагает строительство огненного алтаря Шьеначити, и этот процесс служит символическим воссозданием распавшегося тела бога (см. рис. 1.1).

Рис. 1.1. Диаграмма огненного алтаря Агничаяна (Staal F. Greek and Vedic geometry // Journal of Indian Philosophy 27, no. 1 (1999): 111)

Алтарь Шьеначити возводят из тысячи кирпичей выверенной формы и точного размера в соответствии со сложной схемой, изображающей сокола. Рабочие кладут пять слоев по 200 кирпичей в каждом, повторяя специальную мантру и следуя пошаговым инструкциям. В основе ритуала лежит решение загадки: каждый слой должен повторять одну и ту же пространственную форму, но различаться внутренней конфигурацией⁶⁹. Соколиный алтарь следует обращать на восток, знаменуя предстоящий символический полет воссозданного бога к восходящему солнцу – здесь мы видим уникальный пример божественного перевоплощения средствами геометрии.

Агничаяна подробно описана в шульба-сутрах; это посвященное вопросам геометрии дополнение к Ведам записано около 800 года до н. э. в Индии и опирается на гораздо более древнюю устную традицию⁷⁰. Согласно этим текстам риши (духи жизни) создали семь пуруш (космических существ), имеющих форму квадрата; вместе они образовали единое тело, а уже из этой простой конфигурации возникло сложносоставное тело Праджапати⁷¹. Шульба-сутры учат строить алтари определенных геометрических форм, чтобы снискать благорасположение богов. Так, говорится, что «тем, кто хочет уничтожить настоящих и будущих врагов, следует построить огненный алтарь в форме ромба»⁷². Помимо религиозного значения ритуал Агничаяна и шульба-сутры обладали функцией передачи важных для общества техник, например умения планировать строительство и увеличивать существующие здания с сохранением первоначальных пропорций⁷³. Агничаяна служит примером того, что математическое знание изначально носит социально-материальный характер, а также демонстрирует типичную для кастовой системы иерархию ручного и умственного труда. При сооружении жертвенника рабочие руководствуются правилами, которые традиционно существуют лишь у определенной группы мастеров. Она же и передает эти правила. Ритуалы, подобные Агничаяне, – это не только упражнения в геометрии. Они обучают процедурному знанию, которое не сводится к абстракции и основано на продолжительной «механической» тренировке. Кроме того, они показывают, как религия может побуждать к точности, а духовные упражнения – использоваться как средство трудовой дисциплины⁷⁴.

Агничаяна – уникальный артефакт в истории человеческой цивилизации: это самый древний задокументированный ритуал, который практикуется по сей день, хотя из-за сложности и проводится лишь несколько раз в столетие⁷⁵. На протяжении тысячелетий с его помощью передавались и сохранялись сложные парадигмы знания, и благодаря комбинаторному механизму Агничаяны этот ритуал можно определить как первичный пример алгоритмической культуры. Что же позволяет интерпретировать как алгоритм столь древний ритуал? Согласно одному из самых распространенных в компьютерной науке определений, алгоритм, как уже упоминалось, – это конечная процедура пошаговых инструкций для преобразования ввода в вывод вне зависимости от данных и с наилучшим использованием имеющихся ресурсов⁷⁶. Рекурсивные мантры, которые направляют рабочих на строительной площадке огненного алтаря, напоминают правила компьютерной программы: вне зависимости от контекста алгоритм Агничаяны позволяет точно распределить кирпичи и построить Шьеначити. Историки обнаружили, что индийская математика с древних времен носила преимущественно алгоритмический характер. Это означает, что задачи предлагалось решать не с помощью логической демонстрации, а путем пошаговой процедуры⁷⁷.

Так, итальянский математик Паоло Целлини утверждает, что ритуал Агничаяны свидетельствует о более сложной технике, чем следование жесткому правилу, а именно – об эвристическом методе пошаговой аппроксимации. Известно, что ведическая математика раньше, чем это произошло у других цивилизаций, познакомилась с бесконечно большими и бесконечно малыми числами. В древних сутрах перемножались огромные позиционные числа индуистской системы счета для охвата необъятных просторов вселенной (мыслительное упражнение, которое невозможно себе представить, например, в аддитивных шумерских, греческих и римских системах счисления). Ведическая математика также была знакома с иррациональными числами, например квадратным корнем, который во многих случаях (например, √2) можно рассчитать только приблизительно. В мантрах шульба-сутр пропеваются самые древние (и доскональные) объяснения вычислительных процедур (например, так называемого вавилонского алгоритма) для приближенного выражения квадратного корня. Процедуры приближения могут показаться громоздкими, слабыми и неточными по сравнению с математическими функциями и геометрическими теоремами, но их роль в истории математики и техники важнее, чем это принято считать. В книге по истории методов постепенного прироста (включая, среди прочего, древний метод гномона) Целлини утверждал, что индуистские методы пошагового приближения эквивалентны современным счетным алгоритмам Лейбница и Ньютона и даже техникам исправления ошибок, которые лежат в основе искусственных нейронных сетей и машинного обучения, составляющих парадигму ИИ (см. главу 9)⁷⁸.

Некоторым прочтение древних культур через парадигму новейших технологий Кремниевой долины, как и изучение математической составляющей религиозных ритуалов в эпоху оголтелого национализма, может показаться актом незаконного присвоения. Однако утверждать, что абстрактные техники познания и искусственные метаязыки безраздельно принадлежат современному индустриальному Западу, исторически неверно. Подобное утверждение – акт скрытого эпистемического колониализма по отношению к культурам других эпох и регионов⁷⁹. Альтернативные формы вычислений, лежащие вне гегемонии Глобального севера и присущего ему режиму экстрактивизма знаний, получили признание и изучаются благодаря вкладу этноматематики, деколониальных исследований, а также истории науки и техники. Алгоритмами из-за их роли в компьютерном программировании обычно считают абстрактное применение сложных наборов правил. В этой книге я, напротив, утверждаю, что все алгоритмы, включая сложные алгоритмы искусственного интеллекта и машинного обучения, берут начало в общественной и материальной деятельности. Алгоритмическое мышление и алгоритмические практики, широко понимаемые как решение задач на основе правил, представляют собой часть всех культур и цивилизаций.

С учетом перечисленных вопросов в этой главе будет в общих чертах изложена предварительная история алгоритмов. В ней затронуты:

– социальные алгоритмы – процедуры, которые воплощались в ритуалах и практиках и обычно передавались устно без формализации на символическом языке;

– формальные алгоритмы – математические процедуры, которые помогали как вести расчеты, так и совершать административные процедуры, и встречались в Европе со Средних веков, а до этого в Индии;

– автоматизированные алгоритмы – формальные алгоритмы, которые воплощались в машинах и ЭВМ, начиная с зари индустриальной эпохи на Западе.

Археология алгоритма

Неудивительно, что идея исследовать «алгоритмы до появления первых электронно-вычислительных машин» пришла из компьютерной науки. В конце 1960‑х годов американский математик Дональд Кнут написал влиятельную книгу «Искусство программирования» (The Art of Computer Programming) и внес важный вклад в изучение древних математических методов, опубликовав эссе «Древние вавилонские алгоритмы». В те годы Кнут ставил перед собой задачу систематизировать компьютерную науку и превратить ее в респектабельную академическую и промышленную дисциплину. Данные по древним алгоритмам он использовал, чтобы показать: компьютерная наука не только связана с таинственными электронными устройствами, но и имеет отношение к давней традиции культурных методов символического манипулирования. В этом случае, однако, обращение к археологии алгоритмов служило не демонстрации универсальных принципов мышления или освободительного потенциала обучения в истории цивилизации, а конкретным интересам нового класса программистов и производителей компьютеров:

Один из способов сделать компьютерную науку респектабельной – показать, что она глубоко укоренена в истории, а не представляет собой кратковременное явление. Естественным выглядит обращение к самым ранним сохранившимся документам, которые имеют отношение к вычислениям, и изучение того, как люди подходили к этому предмету почти 4000 лет назад. В ходе археологических экспедиций на Ближнем Востоке ученые раскопали множество глиняных табличек, содержащих математические расчеты, и мы увидим, что эти таблички несут немало интересных сведений о жизни первых «ученых-компьютерщиков»⁸⁰.

Кнут заметил, что математические формулы, которые сегодня мы бы назвали алгебраическими или аналитическими, вавилоняне описывали с помощью пошаговых процедур, то есть алгоритмов. Эти процедуры, конечно, формулировались на обыденном языке, а не символическим метаязыком математики. Исследование Кнута подтверждает гипотезу о том, что методы, основанные на процедурах (то, что он назвал «машинным языком»), предшествовали упрочению математики как метаязыка символических представлений:

Вавилонские математики не ограничивались простыми действиями сложения, вычитания, умножения и деления; они умели решать многие виды алгебраических уравнений. Но у них не было такой прозрачной алгебраической записи, как у нас. Они представляли каждую формулу пошаговым списком правил ее вычисления, то есть алгоритмом вычисления формулы. По сути, они работали с представлением формул на «машинном», а не символическом языке⁸¹.

Кнут стремился оторвать алгоритм от эпохи компьютерной науки и инженерии и задним числом сделать его достоянием большой истории культуры. Это произошло в 1960‑х годах, когда компьютерная наука еще боролась, как подчеркивает историк Натан Энсменгер, за статус «нормальной дисциплины» в Соединенных Штатах. Это стало возможным потому, что центральным понятием дисциплины стал алгоритм, а вовсе не информация, как это случилось в Европе (см. немецкий термин Informatik, французский informatique и итальянский informatica⁸², которые служат синонимами компьютерной науки)⁸³. Канонизация алгоритма имеет особое значение для историков науки и техники, поскольку она произошла изнутри профессиональной среды: операторы вычислительных машин, новое поколение работников умственного труда, стремились написать собственную историю технологий и делали это в соответствии с логической формой, воплощенной в их работе.

Потребность реконструировать предысторию алгоритма (можно сказать, потребность в «археологии») также возникла в математике. Здесь стоит обратить внимание на образцовое резюмирование, проведенное французским математиком Жаном-Люком Шабером и выходящее за дисциплинарные границы компьютерной науки:

Алгоритмы существовали с незапамятных времен и возникли задолго до того, как было придумано специальное слово для их обозначения. Алгоритмы – это наборы пошаговых инструкций, которые для достижения желаемого результата должны выполняться совершенно механически… Алгоритмы не принадлежат одной лишь математике… Вавилоняне применяли их для юридических решений, учителя латыни – для объяснения грамматики, во всех культурах ими пользовались, чтобы предсказать будущее, определить ход лечения и приготовить пищу… Поэтому мы говорим о рецептах, правилах, техниках, процессах, процедурах, методах и т. д., используя одно слово для разных ситуаций. Китайцы, например, применяют слово шу (означает правило, процесс или стратагему) как для математики, так и для боевых искусств… В конечном счете термин «алгоритм» стал обозначать любой процесс систематических подсчетов, то есть процесс, который может выполняться автоматически. Сегодня под влиянием компьютерных вычислений существенным элементом в определении алгоритма стала идея конечности, позволяющая отличить его от более расплывчатых понятий, таких как процесс, метод или техника⁸⁴.

В таком прочтении алгоритм перестает выглядеть новейшей технологической абстракцией и предстает очень древней техникой, которая предшествовала многим орудиям и машинам, разработанным человеческим разумом. Усилия по историзации побуждают рассматривать алгоритм как фундаментальную культурную технику человечества, которая возникла из коллективных практик и ритуалов и по временным характеристикам стоит вплотную к основополагающим и первичным чертам всех цивилизаций. Иными словами, алгоритм следует отнести к широко цитируемому списку техник, составленному историком культуры Томасом Махо:

Культурные техники – письмо, чтение, рисование, счет, музицирование – всегда старше понятий, которые созданы на их основе. Люди писали задолго до того, как придумали письмо или алфавит; прошли тысячелетия, прежде чем рисунки и статуи породили концепцию образа; и по сей день люди поют и сочиняют музыку, ничего не зная о тональностях и системах нотной записи. Счет тоже старше, чем понятие числа. Безусловно, большинство культур осуществляли счет или выполняли определенные математические операции, но не обязательно выводили из этих занятий концепцию числа⁸⁵.

Исследование культурных технологий (немецкий термин Kulturtechniken также можно перевести как «техники цивилизации») подчеркивает роль материальных практик в создании символических форм любых цивилизаций. Однако этот непредвзятый и плюралистический подход часто обходит вниманием причины, почему при создании тех самых форм происходит постепенное смещение в сторону все более абстрактных понятий, и удовлетворяется лишь культуралистскими интерпретациями, которые не назовешь исчерпывающими. В своей истории алгоритмов Шабер, например, связывает появление техник счета с экономическими потребностями: «Основные арифметические действия уровня начальной школы (умножение и деление) возникли, по-видимому, из чрезвычайно ранних экономических потребностей – определенно раньше, чем из письма возникла цивилизация»⁸⁶. Всегда трудно обобщать исторические данные о далеком прошлом, однако экономические проблемы, такие как нехватка или избыток ресурсов, судя по всему, действительно лежат в основе счетных и математических техник⁸⁷. Стоит помнить (без стремления оживить голод предков), что слово «число» происходит от латинского numerus, означающего «порцию еды»⁸⁸.

Задолго до возникновения математических и геометрических дисциплин древние цивилизации уже представляли собой большие «машины» социальной сегментации, размечавшие человеческие тела и территории посредством абстракций, которые будут действовать тысячелетиями. Общеизвестно и регулярно упоминается, что одну из первых переписей населения провели вавилоняне около 3800 года до н. э., но история также свидетельствует, что «культурные техники» носили бесчеловечный и безжалостный характер. Опираясь на описание древних обществ как мегамашин, выполненное историком Льюисом Мамфордом, Жиль Делёз и Феликс Гваттари перечислили иные, помимо чисел, методы абстракции, на которых основывался социальный порядок. Они утверждали, что в древней цивилизации власть над «производительными силами… заключается в следующем: наносить татуировки, надрезать, срезать, отделять, калечить, покрывать шрамами, делать насечки, инициировать»⁸⁹. Числа и счетные орудия были частью примитивных абстрактных машин, которые сформировали человеческие цивилизации путем территориализации и сегментации. Числа, как и абстрактные правила и эвристические практики, выступали ключевыми орудиями управления древними обществами, но их не изобрели из ничего: они материализовались как форма власти через труд и ритуалы, дисциплину и муштру.

Неразрывную связь между математическими абстракциями и материальной жизнью не упускал из виду даже философ-неокантианец Эрнст Кассирер, оказавший значительное влияние на исследования культуры в немецкоязычных странах. Согласно Кассиреру, «символическая форма» числа возникла из отношений человеческого тела с окружающей средой и контингентного использования тела в качестве первого счетного медиума: «Материя исчислимого, как бы чувственно, конкретно и ограниченно она ни была первоначально воспринята, тем не менее служит основой развития новой формы и новой мыслительной силы, заключенной в числе»⁹⁰. Кассирер проанализировал восприятие пространства и времени, а также проследил происхождение числовых абстракций из ритмически-организованной трудовой деятельности. Развивая идеи основополагающей работы Карла Бюхера «Работа и ритм» (Arbeit und Rhythmus; 1896) и других антропологических исследований, Кассирер пришел к выводу, что символическая форма числа выросла из рабочих песен, то есть из пения, которым поддерживали ритм деятельности:

Ранее уже была сделана попытка проследить истоки поэзии вплоть до первых примитивных рабочих песен, в которых ощущение ритма движения собственного тела впервые находит внешнее выражение. <…> Любая форма физической работы предполагает целенаправленную координацию движений уже у отдельного человека, но еще в большей мере, если она осуществляется коллективом, эта координация, в свою очередь, стремится к непосредственному ритмическому обобщению и ритмическому членению отдельных фаз трудового процесса. <…> Размалывание и растирание, разбивание и волочение, выжимание и вытаптывание отличаются именно тем, что каждое из действий наряду с особой целью обладает особым тактом и звуковым сопровождением. Множество и разнообразие рабочих песен, песен прядильщиц и ткачих, молотильщиков и гребцов, песен, которые поют, когда мелют муку и пекут хлеб и т. п., еще непосредственно доносят до нашего слуха, как специфическое ритмическое ощущение, определяемое частным видом работы, существует и обращается в результат труда лишь благодаря тому, что оно одновременно объективируется в звуке. <…> Во всяком случае, у языка не было иной возможности достичь сознания чистой формы времени и чистой формы числа иначе, нежели через определенное предметное содержание, через фундаментальные ритмические ощущения, в которых обе формы были даны словно в неразрывно слитом виде⁹¹.

Это замечание можно рассматривать как остроумный ответ на платоновскую нумерологию, занимающую центральное место в истории музыки: еще до того, как числа стали использоваться для определения ритмических размеров, сам ритм работы способствовал изобретению чисел. В конечном счете эти открытия проливают иной свет на историю математики и позволяют предположить, что алгоритмические практики даже старше, чем само понятие числа.

Орудия для построения математических идей

Числа часто рассматривают как нечто данное, базовое и элементарное, не состоящее ни из чего другого и не представляющее собой результат какой-либо концептуальной фабрикации. Числа кажутся самоочевидными, вечными и не сконструированными. Такой платонический и интуитивистский взгляд на понятие числа подвергся критике со стороны историков математики, которые заинтересованы в объяснении того, как возникли и развивались техники счисления. Археологи в особенности склонны полагать, что институт числа не может считаться априорной категорией, так как развивался постепенно, о чем свидетельствует взаимодействие человека с материалами и символическими орудиями. Как уже говорилось, счет, похоже, развился из необходимости производить подсчеты и решать практические задачи, например поровну разделять между людьми землю и природные ресурсы.

Один из археологов абстракции, немецкий историк науки Петер Дамеров, среди прочих артефактов тщательно изучал древние вавилонские глиняные таблички, служившие счетными орудиями. Дамеров пришел к выводу, что идея числа не представляет собой форму априорного знания и «подвержена историческому развитию».

Размышления о числах и их свойствах уже в древности привели к вере, что высказывания об этом имеют особый статус, так как их истинность не зависит ни от эмпирических данных, ни от исторических обстоятельств. В исторической традиции, простирающейся от Пифагора через античную платоновскую традицию к поздней Античности и Средневековью, а далее через рационализм и критический идеализм кантовской и неокантианской философии к логическому позитивизму и конструктивизму современности, эта вера считалась доказательством того, что существуют объекты, знание о которых нам доступно a priori. Подобно лейтмотиву, убеждение, что числа по природе внеисторичны и универсальны, пронизывает всю историю философии. Для объяснения этого загадочного явления предлагалось множество аргументов. В свою очередь историк сталкивается с тем фактом, что у числовых техник и арифметических озарений есть история, которая по меньшей мере внешне ничем не отличается от истории других достижений нашей культуры. Ввиду разнообразия исторически задокументированных арифметических техник едва ли можно отказаться от предположения, что понятие числа – так же, как и большинство когнитивных структур человека, – подвержено историческому развитию, в ходе которого происходят существенные изменения самого явления⁹².

Более того, опираясь на археологические находки, Дамеров выражал уверенность, что «числа возникли из многообразных процессов обучения»⁹³. В исследованиях Дамерова обучение стало центральным понятием, с помощью которого ученый объяснял возникновение человеческой цивилизации и ее эволюцию. Для Дамерова обучение – это процесс взаимодействия человечества с природой и миром через труд, орудия и язык. Это сопровождается непрерывным абстрагированием. Однако обучение – это не процесс абстрагирования ради абстрагирования, а коллективное средство эмансипации и расширения возможностей. Как протекает социальный процесс обучения?

Дамеров утверждал, что обучение основано на построении ментальных моделей, которые представляют и интериоризируют внешние действия⁹⁴. Поверх интериоризированных ментальных моделей могут надстраиваться дальнейшие уровни абстракции за счет постепенного наращивания «метакогнитивных конструкций»⁹⁵. Это непрерывное возведение абстракций – форма эмансипации разума, однако некоторые уровни в конце концов начинают восприниматься как метафизические и обособленные. Согласно Дамерову, более высокие уровни когнитивных надстроек создают иллюзию дематериализованных абстракций и априорных категорий, таких как понятие числа. Однако решающую роль в этой теории играет не просто объяснение иллюзии априорности, а то, как «мыслительные операции… отражают действия над реальными объектами» и как орудия помогают строить мысленные модели:

Абстрагирование логико-математических понятий происходит не напрямую из объектов когнитивной деятельности, а из координации действий, которые к этим объектам применяются и через которые они так или иначе преобразуются. Согласно этому предположению, возникновение мыслительных операций логико-математического мышления основано на интериоризации систем реальных действий. Интериоризированные действия служат отправной точкой для метакогнитивных конструкций, посредством которых они становятся элементами систем обратимых психических преобразований, которые, следуя терминологии Пиаже, мы будем называть «операциями». Таким образом, метакогнитивные конструкции (например концепция числа), которые генерируются рефлективными абстракциями, можно понимать как внутренне представленные константы мыслительных операций, отражающих действия над реальными объектами. Это объясняет сбивающую с толку априорность таких конструкций, как концепция числа⁹⁶.

Чтобы объяснить, как на протяжении истории формируется концепция, Дамеров предположил, что происходит надстраивание семиотических и когнитивных моделей, которые постепенно развертывались из практик счета (эвристических и неформализованных – таких, как счет на пальцах) через системы cчисления (представляют величины внутри матрицы символов) и техники вычислений (выражают алгоритмы или процедуры решения задач с помощью манипуляции символами) в теорию чисел (арифметику как формальную дисциплину). Этот процесс носит нелинейный характер и разворачивается, как писал Дамеров, через попеременное чередование представлений (использование одних предметов и знаков в качестве символов других предметов, знаков и идей) и абстракций (решение задач).

Применив идею рефлексивной абстракции, которая сочетает в себе диалектическую логику Гегеля и генетическую эпистемологию Жана Пиаже, Дамеров составил набросок последовательных стадий символического представления (см. рис. 1.2), в которых переход от одного порядка представлений к следующему происходит через решение задач.

Представления первого порядка – это представление реальных объектов с помощью символов и моделей, которые, по существу, позволяют выполнять с этими символами те же действия или операции, которые можно выполнить с реальными объектами… Представления второго и более высокого порядков служат представлением объектов с помощью символов и правил преобразования символов, которые соответствуют тем мыслительным операциям, что относятся к когнитивным структурам, образующим ментальные объекты⁹⁷.

Рис. 1.2. Рефлексивная структура абстракции (Damerow P. Abstraction and Representation. Berlin: Springer, 2013. P. 379)

Таким образом, концепция числа развивалась через циклы символического представления и абстракции. Сначала существовали процессы квантификации и сравнения, которые были основаны на эквивалентности и не включали в себя счет. Счет возник как зависимая от контекста деятельность, и в ней использовались вспомогательные средства – пальцы, камни и так далее. Затем счетные устройства были замещены зависимыми от контекста символами (например, знаками на торговых буллах в древней Месопотамии). Впоследствии возникли независимые от контекста символы – то есть числа в современном понимании. Наконец, появилась арифметика как дисциплина для описания чисел и операций словами естественного языка, которые в свою очередь затем уступили место новым символам⁹⁸.

Чтобы понять, применим ли такой анализ к алгоритмической форме как практике решения задач, на этом этапе необходимо прояснить идею абстракции по Дамерову. Вслед за Гегелем и Пиаже Дамеров понимает абстракцию как процесс, в котором материальность и рефлексия, то есть орудия и когнитивная деятельность, переплетены и способствуют взаимному развитию:

Концепция [рефлексии] введена [Гегелем] в «Йенской реальной философии», чтобы отличить труд как «рефлексивную деятельность» от деятельности как «чистого опосредования», то есть удовлетворения желания посредством разрушения его объекта. Труд как «рефлексивную деятельность» от деятельности как «чистого опосредования» отличает устойчивость его материальных средств, орудий, в которых деятельность материально объективировалась в качестве единства идеальной цели и материального объекта… Единство чувственной данности и опосредующей деятельности, построенное в гегелевской логике, то есть опосредованная непосредственность как результат рефлексии, представляет собой не просто гипотетическо-теоретический конструкт. Это единство актуально создается в материальных средствах предметной деятельности во множестве форм⁹⁹.

Для Дамерова абстракция заключается не в изоляции наиболее значимых черт той или иной структуры, а в производстве нового знания о задаче, которую необходимо решить. Между тем абстракция представляет собой не просто «элегантное решение», а «деятельность, направленную на конкретную цель или задачу»¹⁰⁰. Контингентное понимание окружающей среды – часть этой деятельности:

Принято считать, что абстракция означает отказ от использования информации, доступной о данном реальном объекте, в пользу обособления некоторых качеств этого объекта и их независимого рассмотрения. Однако такая концепция абстракции оказывается неудовлетворительной, если используется для концептуализации развития математического мышления. Абстракция в этом смысле не объясняет возникновения нового знания, которое, очевидно, и есть результат математического мышления. Кроме того, эта концепция делает невозможным или по крайней мере трудным понимание того, почему некоторые абстракции оказываются очень полезными, тогда как огромная масса абстракций, которые получают путем произвольного обособления свойств математических объектов, остается бессмыслицей… Понять абстракцию по существу означает понять, что именно требуется абстрагировать, а не просто знать, как это делается. Понять абстракцию, ведущую к элегантному решению задачи, означает понять, как действительно можно найти решение¹⁰¹.

Абстракция всегда действует в рамках данных материальных ограничений и через них. Cимволы, орудия, техники и технологии задумываются и осуществляются в отношении с ограниченными ресурсами материи, энергии, пространства, времени и так далее. Реальность, с которой борется абстракция, – не идеальное пространство идей Платона, а реальный живой мир, состоящий из силовых полей и конфликтов. В этом смысле абстракция также выступает частью более широкого социального антагонизма.

Важно отметить, что материальные ограничения стимулируют расширение абстракции за пределы ее первоначальной области. Дамеров и его коллега Вольфганг Лефевр распространили историческую эпистемологию математики на науку вообще, обратившись к орудиям и инструментам. Предложенное ими понимание орудий контингентно и вместе с тем спекулятивно – словом, диалектично. Орудия – не только средства для достижения цели, но и средства, превосходящие цель их первоначального замысла:

Орудия определяют, будут ли предполагаемые мышлением цели достигнуты. В этом смысле орудия никогда не сводятся к тому, какие они на самом деле. Скорее, они представляют потенциал реализации интеллектуально предполагаемых целей, то есть идеи как реальные возможности. Их применение служит посредником между возможностью и реальностью. Использование орудий в первую очередь служит цели, для которой они были созданы. Но они шире частных целей, и опыт, накопленный в процессе их использования, ведет к познанию возможностей, которые есть вероятность осуществить, и отношений между целями и средствами в различных условиях осуществления. Таким образом, первичная форма, в которой из трудового процесса возникает знание о природных и общественных отношениях, представляется в форме правил надлежащего использования орудий¹⁰².

В таком понимании спекулятивный процесс начинается с труда, изобретающего орудия и технологии, которые впоследствии проецируют новые онтологические измерения и научные области (каноническим примером здесь служит изобретение парового двигателя, породившего дисциплину термодинамики, а не наоборот; см. главу 3). Эпистемология Дамерова и Лефевра носит политический характер, поскольку они признают, что исторические силы ограничены контролем над ресурсами и населением, экономическим производством и накоплением капитала, распространением войн и социальных конфликтов, а также вызванным всем этим развитием новых орудий, техник, технологий и, в конечном счете, науки. Демеров и Лефевр относят все эти силы к категории труда, посредством которого человек преобразует природу и производит новое знание о ней¹⁰³. Наука в целом, как и концепция числа в частности, представляет собой проекцию использования материальных орудий:

Развитие науки зависит от развития ее материальных орудий… Ключ к пониманию роста научного знания заключается в том, что знание, получаемое с помощью нового орудия, превосходит когнитивные предпосылки его изобретения. Причина этого связана с тем, что орудия науки, как и орудия вообще, материальны. Использование материального орудия всегда дает больше знаний, чем вложено в его изобретение¹⁰⁴.

Наряду с этим историческим обзором материальных абстракций легко представить также концепцию алгоритма, возникающего в результате диалектического процесса рефлексии с использованием объектов и орудий. Метод алгоритма – решение задачи с помощью пошаговых инструкций – это абстракция, которая, как и многие другие, возникла из бед этого мира¹⁰⁵.

От счетных орудий к алгоритмам расчета

Английскому термину «алгоритм» около восьми веков. Он происходит от средневекового латинского algorismus, который имеет отношение к выполнению основных математических операций в индо-арабской системе счисления. В средневековой Европе, благодаря торговле с арабским миром, ограниченная римская система счисления постепенно вытеснялась более универсальной индо-арабской позиционной системой, которая была удобнее для сложных операций с большими числами и с тех пор стала всемирным стандартом. Латинский термин algorismus можно, например, найти в поэме Александра из Вильдьё «Песнь об алгоризме» 1240 года – руководстве по техникам расчета, составленном для облегчения запоминания процедур в виде рифмованных строф. Книга, напечатанная в Венеции в 1501 году и приписываемая монаху XIII века Иоанну Сакробоско, называется Algorismus Domini и объясняет с помощью индийских числовых символов и схем, как вести ручные расчеты.

Рис. 1.3. Аллегория Арифметики (Reisch G. Margarita philosophica, 1503)

Лишь недавно установлено, что algorismus — это латинизация имени персидского ученого Мухаммада ибн Мусы аль-Хорезми, главного библиотекаря Дома мудрости в Багдаде. Около 825 года н. э. Аль-Хорезми написал книгу о расчетах с помощью индийских числовых знаков. Арабский оригинал книги был утерян, но в XII веке имели хождение по меньшей мере четыре латинских перевода под разными названиями. Инципит рукописи в библиотеке Кембриджа гласит DIXIT algorizmi (что означает: «так говорил Аль-Хорезми»). Другую версию перевода итальянский математик Бальдассаре Бонкомпаньи назвал в 1857 году Algoritmi de numero Indorum¹⁰⁶. В современную математику и компьютерную науку английский термин algorithm вошел через различные романские транслитерации, в частности французскую и испанскую. Книга Аль-Хорезми познакомила Запад с позиционной индийской системой счисления, однако купцы, например итальянский математик Фибоначчи, часто путешествовавший по Средиземноморью, вероятно, обучились этой системе не из книг, а в процессе торговых расчетов.

В математике принято считать, что усвоение термина «алгоритм» на Западе ознаменовало переход от аддитивной к позиционной системе счисления. Этот сдвиг носил как технический, так и экономический характер, поскольку был связан с ускорением товарооборота в Европе и Средиземноморье, требовавшим более совершенной системы бухгалтерского учета. Десятичная позиционная система позволяла более компактно записывать числа и ускоряла расчеты. В Италии флорентийские и венецианские купцы первыми взяли на вооружение индийские числовые символы, оценив их удобство в условиях коммерческих сделок и постоянно растущих капиталов. На рисунке 1503 года из книги Margarita philosophica под редакцией немецкого монаха-полимата Грегора Райша изображен спор между счетоводами, которые еще пользовались римской системой и абакусом, и новыми алгористами, усвоившими индийскую систему и ее алгоритмы для вычислений на бумаге с помощью стилуса. Аллегория Арифметики наблюдает за спором, явно принимая сторону алгориста; ее одеяние украшают новые числовые знаки (см. рис. 1.3). Позже термин «алгоритм» был воспринят учеными высокой европейской культуры, в частности Лейбницем, который его использовал в определении метода дифференциального исчисления¹⁰⁷. Энциклопедия Д’Аламбера дает «алгоритму» широкое определение:

Арабский термин, используемый некоторыми авторами, в частности испанцами, для обозначения практики алгебры. Также иногда под ним понимается арифметика с использованием цифр… Этим же словом принято в общем обозначать метод и запись всех видов расчетов. В этом смысле мы говорим: алгоритм интегрального исчисления, алгоритм экспоненциального исчисления, алгоритм синусов и т. д.¹⁰⁸.

Техники и приемы выполнения расчетов вручную, которым по сей день учат в школе, представляют собой набор алгоритмов для манипулирования числовыми знаками. Алгоритмы обладают рекурсивной структурой, которая может обрабатывать бесконечную или приближенную цифровую запись, как это происходит при делении простых чисел: 2/3 = 0,666666666… Простая непрерывная форма этой дроби показывает, что даже рациональные числа нельзя вычислить и выразить без помощи алгоритма. Точнее, даже способ записи чисел в системе счисления представляет собой алгоритм – в этом случае алгоритм представления простых величин. Например, когда мы записываем число 101 в индийской системе счисления, этот простой знак следует переводить следующим образом:

Рассмотрим линейную последовательность позиций, которые должны занимать символы величин, идущие справа налево. Каждая позиция представляет постепенно возрастающую степень десяти и может наполняться одной из десяти порядковых единиц: 0, 1, 2, 3, 4, 5, 6, 7, 8 или 9. Первая позиция – десять в степени нуля (то есть одна из «обычных» единиц), вторая позиция – десять в степени один (десятки), третья – десять в степени два (сотни) и так далее. Значение числа, представленного таким образом, определяется сложением каждой единицы после возведения в степень десяти, представленную занимаемой позицией. Когда числа выражаются таким образом, шкала степеней десяти не указывается явно и остается подразумеваемой.

Таким образом, число 101 равно: (1 х сто) + (0 х десять) + (1 х один). Это развернутое объяснение десятичной системы можно легко приспособить для представления двоичной системы, заменив степень десяти на степень двух, то есть сделав другим лишь одно правило в общей процедуре счисления. В двоичной системе число 101 означало бы другую величину:

Рассмотрим линейную последовательность позиций, которые должны занимать символы величин, идущие справа налево. Каждая позиция представляет постепенно возрастающую степень двух и может наполняться одной из двух порядковых единиц: 0 или 1. Первая позиция представляет двойку в степени 0 (то есть единицу), вторая позиция – двойку в степени один (два), третья позиция – двойку в степени два (четыре) и так далее. Значение числа, представленного таким образом, определяется сложением каждой единицы после возведения в степень двух, представленную занимаемой позицией. Когда числа выражаются таким образом, шкала степеней двух не указывается явно и остается подразумеваемой.

В этом случае число 101 равно: (1 х четыре) + (0 х два) + (1 х один), то есть 5 в десятичной системе счисления. В обоих развернутых парафразах слова естественного языка используются не для объяснения, а для кодирования правил построения чисел в соответствии с пошаговой инструкцией. Эти парафразы делают видимой процедуру систем счисления, которой обучают в школе главным образом с помощью упражнений и которая обычно не проговаривается. Однако столь педантичное проговаривание десятичных и двоичных счислений помогает сказать нечто непедантичное: все системы счисления по устройству алгоритмичны. Подобно тому, как любое слово подразумевает грамматику, любое число скрывает алгоритм, то есть процедуру представления величин и выполнения операций с величинами. В итоге все числа – алгоритмические числа, поскольку производятся алгоритмами, которые и представляют собой системы счисления. Числовые символы, скажем так, ничего не считают; они занимают позицию согласно процедуре, то есть алгоритму квантификации.

Механизация алгоритма

Алгоритмы ручных расчетов механизировались постепенно. В Европе XVII века естествоиспытатели Паскаль и Лейбниц разработали ручные калькуляторы для автоматизации четырех базовых действий с десятичной системой счисления. Эти устройства вовсе не были кабинетными диковинками и сигнализировали о глубоких эпистемологических изменениях. Нововременная мысль тогда уже развивалась в тесной связи с машинами – тесной до такой степени, что, как свидетельствуют документы, механическое мышление влияло на философское. Знаменитый «метод» Декарта, например, выглядит весьма «механическим» в стремлении разложить задачу на простые элементы. По словам польского экономиста Генрика Гроссмана, Декарт не случайно придумал рациональный метод, занимаясь проектированием собственных механизмов. Но Гроссман отмечает также и более глубокую связь между математикой и машинами: «Каждое математическое правило носит механический характер, избавляющий от интеллектуальной работы и больших расчетов». И как показывают исследования, этот экономический принцип – экономия времени, труда и ресурсов – и сегодня остается ключевым аспектом алгоритмического мышления и связанных с ним практик¹⁰⁹.

Как мы увидим в следующей главе, в контексте индустриальной экономики начала XIX века первым механизированным вычислительным алгоритмом стал разностный метод Гаспара де Прони, предназначенный для расчета больших логарифмических таблиц, и именно его Чарльз Бэббидж использовал в Разностной машине. Разностная машина спроектирована как воплощение этого алгоритма, но Бэббидж также задумал программируемую Аналитическую машину, которая могла бы работать с различными видами уравнений, но так и не была создана. Первым компьютерным алгоритмом, или «программой», считается «диаграмма Ады Лавлейс для вычисления чисел Бернулли», написанная для Аналитической машины. Вычислительные машины Бэббиджа представляют собой точку схождения счетных алгоритмов и промышленной автоматизации; в числе самых серьезных проблем, с которыми эти машины столкнулись, можно назвать представление десятичной системы в механических шестернях¹¹⁰.

В ХХ веке счетные алгоритмы успешно автоматизировались благодаря гибкости двоичной системы¹¹¹. Реализовать двоичную запись в электрическом устройстве гораздо проще, чем десятичную в механизме, поскольку наличие или отсутствие электрического тока (включено/выключено) может непосредственно представлять цифры 0 и 1. В этом случае сложение и вычитание максимально упрощаются. Технически двоичная запись стала применяться и кодироваться в электрических машинах после публикации в 1938 году магистерской диссертации американского математика Клода Шеннона «Символический анализ релейных и переключательных схем»¹¹². Шеннон впервые предложил использовать двоичные свойства электрических переключателей для представления не только двоичных чисел и операций с ними, но и логики высказываний – в частности, булевых логических операторов И, ИЛИ и НЕ.

После Второй мировой войны двоичный код, архитектура фон Неймана и инженерная реализация эффективных логических затворов на микрочипах позволили создать быстрые ЭВМ и формализовать вычислительные алгоритмы большего размера и большей сложности. Впервые в истории последовательности числовых знаков стали представлять не только величины, но и инструкции¹¹³. Так называемая вычислительная революция заключалась не только в использовании двоичных числовых знаков (двоичные цифры или биты) для кодирования человеческого языка и аналогового контента (оцифровка), но и в ускорении механических вычислений посредством двоичной логики (или булевой логики). Вопреки распространенному мнению о строгом разделении аппаратного и программного обеспечения, цифровые вычисления представляют собой сплетение в одном и том же носителе информации и инструкций, где двоичные числовые знаки и булева логика выступают взаимодополняющими формами. Другими словами, в цифровых вычислениях алгоритм счисления (двоичные числовые знаки) и алгоритм расчета (двоичная логика) практически стали одним целым.

В цифровую эпоху алгоритм возвысился до роли абстрактной машины (известной под разными именами – программа, программное обеспечение, код и т. д.), которая управляет электронно-вычислительными машинами. Как упоминалось в начале главы, самое известное сейчас определение алгоритма принадлежит компьютерной науке: «Конечная процедура пошаговых инструкций для преобразования ввода в вывод вне зависимости от данных и с наилучшим использованием имеющихся ресурсов»¹¹⁴. Абстрагирование логики от содержания – один из ключевых аспектов технического и когнитивного развития. Как и другие техники абстракции, алгоритм должен работать независимо от ограничений окружающей среды и источника данных. Однако в этой главе я ставлю под сомнение толкование абстракции как отделения от мира и его исторического развития. Фактически появление машинного обучения перевернуло статичное определение алгоритма с ног на голову: алгоритмы машинного обучения стали адаптивными, и на смену жестким наборам правил пришло «обучение» правилам из данных.

Каноническое определение описывает алгоритм как применение к некоторым входным данным строгих правил по принципу «сверху вниз». В этом случае данные не влияют на поведение алгоритма: они представляют собой пассивную информацию для обработки по правилам. Напротив, алгоритмы машинного обучения меняют свои внутренние правила (т. н. параметры) в соответствии с входными данными. Таким образом, данные перестают быть, скажем так, пассивными и становятся активной информацией, которая влияет на параметры пошаговой процедуры, уже не строго предзаданной алгоритмом. Прорыв машинного обучения заключается именно в этом сдвиге: алгоритмы анализа данных становятся динамичными и меняют жесткую структуру вывода для приспособления к свойствам поступающих данных, которые обычно касаются логических и пространственных отношений. Канонический пример – искусственная нейронная сеть для распознавания образов, которая изменяет параметры своих узлов в соответствии с отношениями между элементами визуальной матрицы. В этом смысле новейшие алгоритмы ИИ не слишком отличаются и не так уж далеко ушли от древних математических практик, возникших в результате непрерывного подражания конфигурациям пространства, времени, труда и социальных отношений.

Как заметил историк науки Юрген Ренн, после работ Дамерова алгоритмы машинного обучения уже не предстают чем-то «сверхчеловеческим» и оказываются частью цикла интернализации и экстернализации когнитивных функций, присущего всем культурным технологиям:

В конечном счете алгоритмы машинного обучения… – лишь новая форма экстернализации человеческого мышления, пусть даже и очень разумная [intelligent]. Как и предшествующие внешние представления, например счетные машины, они частично берут на себя – в иной модальности – функции человеческого мозга. Смогут ли они в конечном итоге заменить и даже вытеснить человеческое мышление? Решающим моментом в ответе на этот вопрос становится не то, что их совокупный интеллект все еще сильно отстает от человеческого и даже животного интеллекта, а то, что они способны полностью раскрыть свой потенциал только в рамках цикла интернализации и экстернализации, который… и есть отличительная черта и движущая сила культурной эволюции¹¹⁵.

Эта вводная глава служит для того, чтобы показать концепцию алгоритма в перспективе – в историческом контексте, внутри долгой эволюции систем знаний. Говоря кратко, торговое ускорение позднего Средневековья и подъем информационного общества способствовали формализации алгоритма в том виде, в каком он известен сегодня. По лингвистическому совпадению средневековый термин algorismus ознаменовал переход от аддитивной к позиционной системе счисления, а недавно устоявшийся термин «алгоритм» – переход от десятичной к двоичной системе числовых знаков. Речь не о просто формальных и технических, но и экономических сдвигах; в конечном счете индо-арабские числа и алгоритмы ручного счета получили распространение за счет упрощения бухгалтерского учета и торговых операций, а двоичные числа – за счет возможности их реализации в электрических схемах и логических затворах, нужных для ускорения промышленной автоматизации и государственного управления. Первый переход соотносится с ранним меркантилизмом, а второй – с промышленным капитализмом и в особенности с его потребностью ускорять коммуникационные технологии и автоматизировать умственный труд¹¹⁶.

Часть 1
Индустриальная эпоха

2. Бэббидж и механизация умственного труда

Мы должны помнить, что иная высшая наука, которой нет преград, грядет шагами гиганта… Это наука расчета, с каждым шагом прогресса она становится все нужнее, и в конечном счете именно ей надлежит управлять всяким приложением науки к искусству жизни¹¹⁷.

Чарльз Бэббидж, «Об экономике машин и мануфактур», 1832 г.

Вычисление как разделение труда

В Англии начала XIX века компьютерами, то есть вычислителями, называли не машины, а людей – офисных служащих, зачастую женщин, которым приходилось вручную вести утомительные расчеты для правительства, Астрономического общества и британского флота. Время от времени «компьютеры» работали из дома, получая по почте бесконечные списки чисел и отправляя обратно результаты расчетов. С исторической точки зрения именно так выглядела первая вычислительная сеть — как домашний труд с вероятным привлечением членов семьи. Размышляя о рационализации трудоемкого и чреватого ошибками процесса, полимат Чарльз Бэббидж задумал заменить «компьютеры» с их однообразной работой автоматизированной паровой машиной. Впоследствии Генри Колбрук, вручая Бэббиджу в 1823 году золотую медаль Лондонского астрономического общества за изобретение Разностной машины, заявил:

В иных случаях машины заменяли простые орудия и физический труд… Но изобретение, о котором я во всеуслышание говорю… заменяет механическим действием интеллектуальный процесс… Изобретение мистера Бэббиджа ставит на место [человека-] «вычислителя» двигатель¹¹⁸.

Разностная машина Бэббиджа, знаменитая предшественница современных компьютеров, появилась на свет благодаря деловым амбициям – желанию автоматизировать вычисления логарифмов и продавать сверхточные логарифмические таблицы, которые играли важную роль в астрономии и требовались для сохранения британской гегемонии в морской торговле. Таким образом, необходимость решить задачу определения долготы в открытом море дала дополнительный импульс развитию механизированных вычислений. Тогда уже существовали небольшие механические калькуляторы, но они не были автоматизированы и позволяли выполнять только основные математические операции. У Бэббиджа возникла идея соединить сложный логарифмический калькулятор и производимое паровым двигателем непрерывное движение, чтобы получить не просто счетное устройство, а счетную машину, которая превратит расчеты в бизнес промышленного масштаба. Новое слово «машина» [engine] подхлестывало фантазии о неограниченной производительности и бесконечном экономическом росте. Идея автоматического компьютера-вычислителя (в современном смысле этого слова) возникла из проекта механизации умственного труда клерков, а не из старой алхимической мечты о создании мыслящих автоматов, хотя подобный нарратив звучал в XIX веке не реже, чем в эпоху корпоративного ИИ, причем с той же целью – придать бизнесу респектабельность¹¹⁹.

Какой именно «интеллектуальный процесс» (умственный труд) хотел механизировать Бэббидж? Это ключевой вопрос, который нужно прояснить, если мы хотим понять ограничения и возможности вычислений, иначе уже одно только определение ИИ усилит недоразумения. Первым механизированным видом умственного труда стал ручной счет — особый навык, который воспроизводился вплоть до одной из моделей машины Тьюринга, задуманной как буквальное воплощение телеграфной машинистки («вычислительницы»), считывающей и записывающей цифры на ленте. Как мы увидим в главе 9, иная генеалогия вычислений и ИИ не имеет ничего общего с этим образом, который никак не связан с искусственными нейронными сетями для распознавания паттернов.

Разностная машина Бэббиджа – необычный артефакт. Она не была компьютером в современном понимании, поскольку в ней программное и аппаратное обеспечение представляли собой одно целое, а различия между инструкцией и информацией не существовало (см. рис. 2.1). Одновременно будучи и программой, и оборудованием, Разностная машина эстетически интригует современного наблюдателя. Латунные шестерни и вращающиеся цилиндры в физическом смысле воплощают алгоритм – метод разностей французского математика Гаспара де Прони для упрощения расчета квадратов целых чисел и логарифмов. Разностная машина также не была компьютером в современном смысле потому, что ее нельзя было программировать: звание промышленной машины с независимым вводом информации принадлежит куда более скромному Жаккардову ткацкому станку¹²⁰. Прототип Разностной машины так и не был завершен, а Жаккардовы станки, ставшие двигателем индустриальной эпохи, выпускали тысячами. Именно этот станок установил в качестве стандарта хранения информации перфокарты, которые IBM использовала в неизменном виде вплоть до конца XX века¹²¹. Более того, первая «цифровая картинка», то есть изображение, описанное числовой последовательностью, – тоже ткацкий артефакт. В 1839 году портрет самого Жаккарда была выткан с помощью 24000 карт¹²². Бэббидж хранил копию портрета Жаккарда в кабинете и даже принял решение использовать перфокарты для ввода информации в другом нереализованном прототипе – Аналитической машине. В отличие от предшественницы, по задумке она могла решать различные типы уравнений, поскольку информация уже на теоретическом уровне отделялась от инструкций.

Рис. 2.1. Разностная машина Бэббиджа (Babbage Ch. Passages from the Life of a Philosopher. London: Longman, Roberts & Green, 1864, первая обложка)

Разностную машину не изобрел одинокий созерцательный ум Бэббиджа сам по себе. Как показывает Саймон Шаффер, «центры разумности» [places of intelligence], разбросанные по всей Англии, помогали Бэббиджу экспериментировать с механическими вычислениями и в конечном итоге послужили первоисточником его «машинного разума»¹²³. Шаффер замечает, что Бэббидж поддерживал с промышленными мастерскими как локусами знаний более тесные отношения, чем с университетами, которые в то время не могли ничего предложить, кроме консервативных теоретических учебных программ. Хотя агиографы по-прежнему изображают Бэббиджа одиноким гением, в реальности он был глубоко вовлечен в круги промышленников и участвовал в дебатах о зарождающейся дисциплине политической экономии. Ему принадлежит одно из самых влиятельных руководств эпохи по управлению производством – сочинение «Об экономике машин и мануфактур» (1832).

Его первые же строки подтверждают, что автоматизированные вычисления «изобрела» не абстрактная математика, а прикладное разделение труда: «Настоящий труд может считаться одним из результатов работы Счетной машины, конструированием которой я так долго руководил»¹²⁴. Это историческое свидетельство того, что вычисления как выражение разделения труда были частью промышленного капитализма с его самой зари, а вовсе не стали продуктом его последних достижений. Прислушавшись, как Бэббидж пытается убедить читателя, что первое руководство по управлению промышленным производством вдохновлено проектом автоматизированных вычислений, историк-материалист, несомненно, воспримет эту автомифографию критически. Разве не проблемы организации труда и нарушения субординации привели к изобретению новых дисциплинарных техник, побуждая Бэббиджа всматриваться в топки индустриальной Европы?