Kitabı oxu: «Код и человек: жизнь в мире цифровых решений»

Глава 1

«Код и человек: жизнь в мире цифровых решений»

Обращение к читателю

Дорогой мой читатель!

Я не знаю, как вы держите эту книгу в руках — в метро, в тишине кухни, или, быть может, слушаете аудиоверсию по дороге на работу. Но я знаю точно: вы здесь, потому что чувствуете то же, что и я. Тревогу и любопытство одновременно. Желание разобраться, кто на самом деле управляет нашей жизнью, и не перестать при этом быть человеком.

Я не эксперт, который смотрит на вас сверху. Я такая же, как вы. Я тоже нажимаю «Принять все» на сайтах, потому что лень разбираться. Я тоже сравниваю свою жизнь с чужими блистательными постами в соцсетях. Я тоже иногда боюсь, что мои профессиональные навыки устареют быстрее, чем я успею их обновить. Но я ещё и тот человек, который однажды потерял почти всё, искал работу месяцами, сидел без денег и не знал, что будет завтра. И именно тогда я поняла: единственное, что нельзя отдать машинам — это способность задавать вопросы.

Поэтому я приглашаю вас в это путешествие. Будем искать вместе. Иногда нам будет тревожно, иногда — смешно от собственной наивности, иногда — грустно от правды. Но мы будем идти вперёд — от внешнего к внутреннему, от алгоритмов к душе.

Обещаю вам: я не буду использовать сложные термины без объяснения. Я не буду вас поучать. Я буду рассказывать, как для близкого друга, и вместе с вами удивляться, как быстро мир меняется, и как важно в этом меняющемся мире не потерять себя.

Готовы? Тогда начнём.

Введение. Когда за тебя уже решили

Вы когда‑нибудь чувствовали, что кто‑то принял решение о вас, даже не познакомившись? Что ваша судьба на пару секунд зависла в недрах чужого кода, а вы даже не знали, какое правило сработало?

Представьте: утро. Вы открываете почту — и видите отказ от банка. «К сожалению, по результатам скоринговой модели мы не можем одобрить вам кредит». Вы перечитываете строчку, пытаясь понять: что не так? Зарплата белая, стаж — десять лет, ни одной просрочки. Но машина, которая даже не видела вашего лица, уже решила. И ответа «почему» она не даст. Только сухая формулировка: «решение принято алгоритмом».

Или другой сценарий. Вы отправляете резюме в крупную компанию — идеально подходите, опыт релевантный, рекомендации — лучше некуда. А через день приходит автоматический ответ: «Благодарим за участие, но мы выбрали другого кандидата». И вы никогда не узнаете, что ваше резюме даже не дошло до человека — его отсеял скрипт за долю секунды, потому что в нём не оказалось нужного ключевого слова. Или потому, что система «научилась» на предыдущих наймах, где предпочитали мужчин, и теперь просто отметает женские фамилии, даже не моргнув.

Это не фантастика. Это реальность, в которой мы живём уже сегодня.

Я хорошо помню, как сама впервые столкнулась с этой безличной силой — не в теории, а в собственной жизни. Родители мои были преподавателями вузов: мама — филолог, папа — экономист. Оба защитили кандидатские, оба верили, что знания и труд всегда будут вознаграждены. А потом наступили девяностые. Экономические преобразования, о которых так красиво говорили с экранов, обернулись для нашей семьи тем, что мы потеряли практически все накопления. «Яйца в одной корзине» — эту горькую истину я усвоила тогда, ещё подростком.

Я пошла по стопам отца — изучала экономику, финансы. Начала с преподавания английского (мамино наследство), но быстро поняла: мне нужно не учить других говорить, а самой понимать, как устроены деньги, как они движутся, как их сохранить и приумножить. К счастью, в те годы в Россию понаехало много иностранных специалистов, экономистов, и я стала переводить, консультировать, а потом и работать в международных компаниях. Я оказалась в числе первых российских специалистов по управленческому учёту. Работала в крупных транснациональных корпорациях — финансы, планирование, прогнозирование, руководство проектами. Мне казалось, я на коне, я всё контролирую, я — профессионал высочайшего уровня.

А потом грянул 2014 год. Я ушла по собственному желанию из крупной французской компании — условия существенно ухудшились, атмосфера стала токсичной. Я была уверена, что с моим опытом найду новое место за месяц, максимум за два. Но рынок сжался, вакансий стало меньше, конкуренция — жестче. Месяц, второй, третий… Я рассылала резюме десятками, получала отказы или, что ещё обиднее, полное молчание. Тогда я решила: пока ищу работу, попробую инвестировать сбережения. Ведь я же экономист, я знаю, как считать риски.

Я ошиблась. Я потеряла почти всё, что накопила за годы работы. Не по глупости, не по незнанию — я просто не учла одного: мои собственные деньги оказались игрушкой в руках глобальной системы, которую я не контролировала. Тогда я впервые по‑настоящему осознала, что такое личная финансовая безопасность — и как легко она рушится, когда ты полагаешься на то, что кто‑то другой (банк, брокер, алгоритм) уже всё за тебя решил.

Долгие месяцы я жила в тревоге, чувствуя себя не просто безработной, а фактически уничтоженной. Потеря денег оказалась меньшим злом. Главное — я потеряла уверенность в завтрашнем дне, веру в то, что могу управлять своей жизнью. Мне пришлось заново учиться доверять себе, своему опыту, своему чутью. И именно тогда я начала заниматься персональным финансовым консультированием — не как «продавец инвестиционных продуктов», а как человек, который прошёл через это сам. Я помогаю людям не просто зарабатывать, а выстраивать личные финансовые стратегии, выбирать надёжные инструменты, распределять риски так, чтобы ни одна «цифровая модель» не решила за них их судьбу.

И всё чаще я стала замечать: мои клиенты боятся не только инфляции или обвала рынка. Они боятся «непоняток». Когда банк отказывает в ипотеке — почему? Когда страховка растёт вдвое — на каком основании? Когда платформа рекомендует одни активы, а не другие — кто стоит за этой рекомендацией? Мы передаём машинам всё больше прав, даже не осознавая, что те начинают не просто помогать, а решать за нас.

Вот о чём эта книга. Не о том, как работают нейросети или что такое глубокое обучение. Я не программист, я — экономист и исследователь. Мне интересно другое: что происходит с нами, когда код становится судьёй, учителем, психологом и даже хранителем наших воспоминаний. Я смотрю на технологии через призму справедливости распределения, доверия, репутации, капитала. И я пишу не сухие отчёты — я работаю с метафорами. Блокчейн для меня — не майнинг, а «цифровая тетрадь доверия». Соцсети — не платформы, а «кривые зеркала», где мы тонем или учимся отражать звёзды. ИИ-психотерапевты — не программы, а «поддержка без присутствия», которая может оказаться либо спасением, либо величайшей подменой.

Книга построена как путешествие от внешнего к внутреннему. В первой части мы разберём, как алгоритмы перекраивают общество — кредитуют, нанимают, страхуют, судят. Увидим, что алгоритм не нейтрален: он — зеркало наших прошлых ошибок, предрассудков и структурного неравенства. Поговорим о том, может ли децентрализованное доверие (блокчейн) стать альтернативой, и что такое экономика репутации, где главная валюта — не деньги, а поведение.

Вторая часть — наша повседневность. Те самые куки-файлы, которые мы принимаем, не глядя. Лайки, которые стали валютой самооценки. Цифровые отражения, в которых мы сравниваем свой «черновик» с чужой «финальной версией». Мы разберём, как удобство становится платой за наблюдение и как соцсети незаметно меняют наше отношение к себе.

Третья часть — самая сокровенная. Что происходит, когда мы доверяем машинам своё одиночество, тревогу, боль? Где проходит грань между помощью и дегуманизацией? Когда ИИ говорит: «Звучит так, будто вам сейчас тяжело» — это утешение или просто шаблон? И главное: если алгоритмы знают о нас больше, чем мы сами, если душевная боль превращается в «данные», а личность — в профиль, — что из нашего человеческого остаётся неприкосновенным?

В конце каждой главы я задаю вопросы. Не для того, чтобы вы ответили мне, — для того, чтобы вы остановились и спросили себя. Потому что эта книга — не инструкция и не готовая истина. Это приглашение к диалогу. Я хочу, чтобы, закрыв последнюю страницу, вы почувствовали: вы не одни в этом мире цифрового шума. У вас есть голос, есть выбор, есть способность не быть просто «данными» для чужого алгоритма.

Часть

I

Глава 1. Кто решает, что честно? Алгоритм как зеркало наших ошибок

1. Невидимый судья

Ваше утро начинается не с кофе. Оно начинается с решения, которое за вас уже принято.

Будильник на смартфоне сработал на пять минут раньше — потому что алгоритм сна «посчитал» фазу вашего цикла оптимальной для пробуждения. Пока вы моргаете спросонья, лента соцсетей уже подсунула новость, которая гарантированно вызовет эмоцию: гнев или страх, радость или зависть — неважно, главное, чтобы вы задержались. Вы открываете карту, и приложение предлагает маршрут, объезжая пробки, — но оно не знает, что вы сегодня не торопитесь, вам хочется пройтись пешком. Вы заказываете еду, и доставка рекомендует именно то, что вы ели в прошлый раз, — потому что «так удобнее». Вы заходите в онлайн-банк, а он уже подготовил предложение по кредиту — «только для вас», хотя вы не просили. Вы листаете вакансии, и система показывает те, которые соответствуют «профилю», составленному по вашим прошлым откликам, даже если вы мечтаете о чём-то совершенно другом.

Всё это — как тысячи маленьких шестерёнок, которые вращаются без вашего ведома. Они не спрашивают разрешения. Они не объясняют, почему выбрали именно это. Они просто работают. И вы принимаете их решения как данность, потому что они кажутся разумными, удобными, даже заботливыми.

Но есть и другая сторона. Та, где решения алгоритмов касаются не того, что посмотреть или съесть, а того, давать ли вам шанс.

Когда банк отказывает в ипотеке — не потому, что вы плохой плательщик, а потому, что модель посчитала ваш район «рискованным». Когда работодатель даже не рассматривает ваше резюме — потому что система отсеяла его по возрасту или по тому, что в нём не было слова «лидерство» в нужном месте. Когда страховка резко дорожает — потому что алгоритм выявил «повышенный риск», связанный с вашим адресом, профессией или тем, что вы на днях гуглили симптомы болезни.

Мы живём в мире, где код стал судьёй. Но мы не видели его лица. Мы не знаем, по каким законам он судит. И, самое страшное, мы не можем обжаловать приговор.

Мне хорошо знакомо это чувство — когда решение принимают за тебя, а ты стоишь в растерянности, потому что не понимаешь, что пошло не так. В 2014 году я ушла из большой западной компании. Уверенная, опытная, востребованная — я считала, что рынок труда сам найдёт меня. Прошёл месяц — тишина. Два — редкие отклики на мои резюме, и все с формулировкой «мы выбрали другого кандидата». Три — я уже не просто искала работу, я пыталась понять: что в моём профиле не так? Я переделывала резюме раз за разом, переставляла слова, добавляла проекты, убирала даты, чтобы не выдать возраст. Но в ответ — сухие уведомления, и ни одного живого объяснения.

Тогда я не знала, что многие мои отказы, возможно, были результатом автоматической фильтрации. Система искала ключевые слова, которые я неудачно сформулировала. Или, что ещё обиднее, моё резюме даже не дошло до рекрутера, потому что скрипт «решил», что я не подхожу. Я чувствовала себя не просто безработной — я чувствовала себя невидимкой.

Вот она, главная опасность цифрового судьи: он не злой. Он не предвзят в том смысле, в каком предвзят человек, который вас невзлюбил. Он просто безразличен. Он выполняет инструкции, которые когда‑то написали другие люди, и эти инструкции основаны на статистике, которая, в свою очередь, основана на нашем прошлом. Прошлом, полном ошибок, несправедливости и предрассудков.

А мы даже не знаем, как апеллировать к безликой машине. Мы можем только гадать: «Почему мне отказали?» — и слышать в ответ: «Извините, алгоритм не разглашает причину».

2. Миф о нейтральности

Существует устойчивая иллюзия: алгоритм — это математика, а математика, как известно, нейтральна. Дважды два — четыре, точка. Ошибка — она и в Африке ошибка. Но если алгоритм ошибается, мы склонны винить не его, а данные: «недостаточно качественно обучили», «выборка была неполной». Или, что ещё удобнее, «сам человек что‑то не так сделал».

Этот миф — один из самых коварных в наше время. Потому что он позволяет нам перекладывать ответственность на «объективность» кода, тогда как на самом деле код — это всего лишь увеличительное стекло, которое делает видимыми наши собственные трещины.

Как работает машинное обучение? На пальцах: вы даёте машине тысячи, миллионы примеров — кто получил кредит, а кому отказали; кого приняли на работу, а кого нет; кто совершал преступления, а кто был оправдан. Алгоритм ищет закономерности: какие признаки чаще сопровождают положительный исход? И когда приходит новый человек, машина примеряет на него эти закономерности.

Всё было бы хорошо, если бы те «исторические данные», на которых учится алгоритм, не были пропитаны нашими человеческими слабостями. Представьте, что вы даёте ребёнку учебник истории, написанный в стране, где десятилетиями угнетали женщин и меньшинства. И просите его предсказывать будущее. Что он предскажет? Он предскажет то же, что было в учебнике: что женщины — слабые, что люди с тёмной кожей — опасны, что бедные — ленивы. Он просто воспроизведёт прошлое. Он не скажет: «Давайте пересмотрим, а правильно ли мы относились к этим группам?»

Алгоритм — это такое дитя. Он не знает сомнений. Он не видит контекста. Он берёт то, что ему дали, и находит в этом самую надёжную, с точки зрения статистики, корреляцию. И если в прошлом банки чаще отказывали женщинам в кредитах — не потому, что они хуже платят, а потому, что в определённый период у них был перерыв в карьере, связанный с детьми, — то алгоритм «увидит»: женщины — риск. И начнёт отказывать им снова, даже если они сейчас работают и имеют высокий доход. Он просто будет повторять старую несправедливость, но уже с математической безупречностью.

Это я испытала на себе, когда после кризиса искала работу. Я была экономистом с отличными рекомендациями, но… Но моя дата рождения соответствовала возрасту, когда у многих женщин случается декрет. И хотя я никогда не брала длительного отпуска по уходу, доказать алгоритму, что я не «среднестатистическая» женщина моего возраста, просто невозможно. Он оперирует средними значениями, а я — не средняя. И таких «несредних» — тысячи, но алгоритм судит по формуле, и ему всё равно.

Вот почему я говорю: алгоритм не творит справедливость — он её повторяет. Или искажает. Но у него нет собственного морального компаса. Он — зеркало. И если зеркало кривое, то и отражение будет кривым, сколько ни протирай стёкла.

И здесь самый важный момент: мы сами создали эти кривые зеркала. Мы — те, кто принимал решения в прошлом, кто не заметил системной дискриминации, кто не позаботился о чистоте данных. Мы передали машинам наши собственные ошибки, завернули их в красивую упаковку «объективности» и теперь удивляемся, почему они воспроизводят несправедливость.

А ведь можно было бы по-другому. Можно было бы проверить данные на смещения, перевесить признаки, добавить человеческий контроль. Но это требует времени, денег, а главное — желания признать, что мы не нейтральны. Что мы, люди, никогда не были нейтральны. И что алгоритм — это не волшебная палочка, которая решает все проблемы, а скорее скальпель, который вскрывает наши старые раны.

3. Три главных примера несправедливости

Когда я рассказываю о том, что алгоритмы бывают несправедливыми, я часто слышу: «Ну, это же просто теория. В реальной жизни такого не происходит». Тогда я привожу факты. Они настолько вопиющие, что даже самые большие скептики замолкают.

Вот три истории, которые должны были бы стать для нас тревожным звонком — но мы их почти не заметили, погружённые в свой цифровой сон.

Первая история. Женщина, которую не пустили в Amazon

В середине 2010‑х годов Amazon, гигант мирового ритейла, разработал систему для автоматического отбора резюме. Идея казалась прогрессивной: машина будет просеивать тысячи заявок, находить лучших кандидатов, экономить время рекрутеров. Но уже через год разработчики с ужасом обнаружили, что система систематически дисквалифицирует резюме, содержащие слово «женский». Она понижала рейтинг выпускниц женских колледжей, резюме с упоминанием «женского шахматного клуба» или даже слова «женщина». Почему? Потому что алгоритм обучали на исторических данных — на резюме кандидатов, которых в прошлом нанимала компания. А в Amazon, как и во многих IT-гигантах, в технических должностях доминировали мужчины. Машина «решила», что мужчины — это и есть успешный кандидат. Она просто математически вывела эту закономерность.

Когда инженеры поняли ошибку, они попытались переучить систему, убрать гендерные признаки. Но алгоритм нашёл обходной путь: он начал использовать другие слова, которые косвенно коррелируют с полом. Машина была умнее своих создателей — она просто искала любые сигналы, которые помогали ей предсказывать «успешность» по старой, предвзятой логике.

Amazon в итоге закрыл проект, но осадочек остался. И ведь это не единичный случай. Похожие системы фильтрации резюме используются во многих крупных компаниях — иногда тайно, иногда под видом «безличного отбора». И сколько женщин, людей другой национальности, пожилых соискателей были отсеяны, даже не зная, что против них сыграл их же прошлый опыт, заархивированный в недрах корпоративных баз?

Вторая история. Банк, который доверился алгоритму

Финансовый сектор был одним из первых, кто с радостью передал полномочия машинам. Кредитный скоринг — это классика. Система оценивает вашу платёжеспособность по сотне параметров: доход, стаж, возраст, семейное положение, адрес, даже то, как часто вы меняете работу. И выписывает вердикт: кредит дать или не дать.

Но что, если в этих параметрах скрыто то же самое системное предубеждение? Исследования показывают, что алгоритмические модели кредитного скоринга могут воспроизводить и даже усиливать историческую дискриминацию. Если в прошлом определённым группам людей реже давали кредиты — по расовым, гендерным или географическим признакам, — алгоритм «увидит» эти группы как более рискованные и продолжит отказывать им. Именно поэтому Европейский Союз в своём новом Законе об искусственном интеллекте (AI Act) отнёс системы кредитного скоринга к категории высокого риска, обязав разработчиков проводить тестирование на предвзятость, обеспечивать человеческий контроль и давать объяснения по каждому отказу.

В России подобных открытых исследований меньше, но я своими глазами видела, как моим клиентам — женщинам, которые взяли перерыв в карьере на декрет, — банки давали меньшие лимиты по кредитным картам, чем их коллегам-мужчинам с таким же стажем и доходом. Когда я спрашивала менеджеров о причинах, они пожимали плечами: «Программа так посчитала». Программа. Безликая, неотвратимая программа, которая не несёт ответственности, но определяет, сможете ли вы купить квартиру, открыть бизнес или просто пережить трудный месяц.

Третья история. Лицо, которое не узнали

Системы распознавания лиц сейчас повсюду: в аэропортах, в полиции, в магазинах, в вашем смартфоне. Они обещают безопасность и удобство. Но у них есть одна неприятная особенность: они гораздо хуже справляются с распознаванием людей с тёмной кожей, особенно женщин.

В 2018 году проект Gender Shades под руководством исследовательницы Джой Буоламвини из Массачусетского технологического института вскрыл шокирующий разрыв: коммерческие системы распознавания лиц ошибались в определении пола у темнокожих женщин более чем в одном случае из трёх — при том, что в задаче с двумя вариантами (мужчина/женщина) вероятность случайного угадывания составляет 50%. Для светлокожих мужчин ошибка некоторых систем составляла 0%.

С тех пор технологии шагнули вперёд, но проблема не исчезла. Национальный институт стандартов и технологий США (NIST), который с 2019 года регулярно включает анализ демографических различий в свои отчёты по тестированию алгоритмов распознавания лиц, подтверждает: большинство алгоритмов по-прежнему чаще ошибочно идентифицируют людей с тёмной кожей, женщин и пожилых людей. Современные аудиты, проведённые в 2024 году, подтверждают сохранение существенных разрывов в точности работы алгоритмов в зависимости от тона кожи и пола. Согласно недавним исследованиям, ошибки гендерной классификации для темнокожих женщин достигают 34,7% по сравнению с 0,8% для светлокожих мужчин.

Исследование Университета Пенсильвании 2025 года также подтвердило, что в реальных условиях — при плохом освещении, размытости или изменении ракурса — качество распознавания падает, и это падение неравномерно распределено по демографическим группам.

Что это означает на практике? Если вы чернокожая женщина, ваше лицо может быть неправильно идентифицировано системой видеонаблюдения. Вас могут принять за другого человека, вас могут не пропустить в здание, вас могут задержать по ошибке. И такие случаи уже были — в США и Европе полицейские системы несколько раз давали ложные совпадения с фотографиями преступников, и люди страдали из-за технической ошибки, которую не могли оспорить.

В России мы тоже активно внедряем распознавание лиц — в метро, на улицах, в торговых центрах. Но кто проверял, как эти системы работают на людях нерусской внешности? Или на пожилых людях, чьи лица изменились с возрастом? Никто не даёт гарантий. А мы спокойно проходим мимо камер, даже не задумываясь, что алгоритм может ошибиться — и цена этой ошибки может быть очень высокой.

Эти три истории — не исключения, а симптомы. Симптомы того, что мы, не разобравшись, уже доверили машинам власть над нашей жизнью. И теперь пожинаем плоды: несправедливые отказы, потерянные шансы, ошибочные обвинения.

Но, возможно, самое страшное даже не это. Самое страшное — то, что мы начинаем привыкать. Привыкать к тому, что решение может быть необъяснимым. Привыкать, что у нас нет права голоса в этом диалоге между нами и машиной. И тогда грань между технологией и судьбой стирается окончательно.