Kitabı oxu: «Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами»

Упоминаемые в книге социальные сети Facebook и Instagram запрещены на территории Российской Федерации на основании осуществления экстремистской деятельности.

Упоминаемая в книге социальная сеть Twitter заблокирована на территории Российской Федерации по решению Роскомнадзора.

Упоминаемое в книге иностранное лицо, владеющее информационным ресурсом Google Поиск, является нарушителем законодательства Российской Федерации по решению Роскомнадзора.

© Руслан Юсуфов, текст, 2024

© Оформление. ООО «Издательство «Эксмо», 2025

Предисловие от Дмитрия Мариничева

Интернет-Омбудсмен, представитель Уполномоченного при Президенте Российской Федерации по защите прав предпринимателей в сфере интернета

Книга Руслана Юсуфова – это удивительный синтез научной фантастики в духе Жюля Верна, философских размышлений древних греков, а также самых передовых идей современных футурологов. Она предлагает читателю уникальную возможность заглянуть в будущее, которое находится на стыке технологий, этики и человеческой природы.

Юсуфов создает образы будущего, полные технических чудес и прорывных открытий. В книгах Жюля Верна люди покоряли глубины океанов и космоса, и Руслан продолжает эту традицию, предлагая нам не только заглянуть в будущее технологий, но и глубоко задуматься о том, каким будет это будущее для человечества. Однако в отличие от Верна, который всегда верил в торжество человеческого разума над природой, Юсуфов задает вопрос: готовы ли мы к вызовам, которые сами и создаем?

Как философы древности, автор поднимает вопросы о том, что значит быть человеком в мире, где технологии могут фундаментально изменить нашу природу. Его размышления перекликаются с учениями стоиков, которые учили жить в гармонии с природой и управлять своими желаниями, не поддаваясь влиянию внешних обстоятельств. В книге Юсуфова эти стоические идеи проявляются в размышлениях о том, как технологии могут затмить человеческие ценности, сделав нас рабами собственного творения. Здесь встает вопрос о внутреннем суверенитете человека перед лицом технологий, который стоики могли бы описать как борьбу за сохранение души в мире внешнего хаоса.

Этот философский пласт особенно ярко проявляется в контексте неоплатонической мысли, особенно в учениях Плотина о стремлении к Единому. Как Плотин видел душу, стремящуюся к единению с высшей реальностью, так и Юсуфов показывает нам мир, где человек может попытаться достичь нового «единства» через виртуальные миры и искусственные реальности. Но будет ли это истинное единение или лишь иллюзия, созданная новыми технологиями? Не потеряем ли мы наше истинное предназначение, погрузившись в цифровую утопию?

Эти вопросы перекликаются с идеями современных футурологов, таких как Рэй Курцвейл и Юваль Ной Харари. Курцвейл, известный своими прогнозами о технологической сингулярности, видит будущее, где люди и машины сольются в одно целое, что может привести к радикальному изменению природы человечества. Юсуфов задает аналогичные вопросы, но с большей долей философского сомнения: если мы станем частью машины, не потеряем ли мы себя как человечество? Будет ли это развитие прогрессом или шагом в пропасть? Харари, со своей стороны, в Homo Deus рассуждает о том, как технологии могут радикально изменить наше восприятие жизни, предлагая утопии, в которых человечество может потерять контроль над собственной судьбой. Руслан Юсуфов добавляет к этим размышлениям новый уровень, заставляя задуматься о том, как сохранять человечность в мире, где технологии стремятся заменить нас самих.

Сравнение с идеями известных футурологов позволяет нам еще глубже понять суть «сценариев будущего». Курцвейл видит сингулярность как неизбежное будущее, Юсуфов показывает несколько путей, некоторые из которых ведут к цифровому рабству, а другие – к технологической свободе. Харари предупреждает о возможных опасностях технологической элиты, Юсуфов рисует картину киберколониализма, где только немногие будут контролировать технологии, а большинство станет их жертвами.

Могу уверенно сказать, что это не просто книга о технологиях. Это философская работа, вдохновленная как великими умами прошлого, так и идеями сегодняшних футуристов. Руслан Юсуфов объединяет воедино фантастическое видение Жюля Верна, философскую глубину древних мыслителей и острые вопросы современного мира. Книга бросает вызов нашим представлениям о будущем, предлагая читателю задуматься не только о том, куда нас приведут технологии, но и о том, каким образом мы сможем сохранить свою человечность на этом пути. Вспоминая культовую фразу из фильма «Назад в будущее», хочется в финале спросить: «А вы, дорогой читатель, думаете о своем будущем?»

Предисловие от Алексея Лукацкого

Несущий позитивную весть о кибербезе

Манускрипт Руслана приоткрыл завесу над пугающими возможностями, что нас ожидают на грани нового времени, и не оставил мне выбора – я решил написать к этому фолианту отзыв, как мрачное пророчество, и с осторожностью предостеречь всех, кто решится изучить его зловещие сценарии будущего. С самого начала, когда я погрузился в первую главу книги, меня охватила странная дрожь, как от встречи с чем-то несомненно могущественным, но чуждым, неподвластным нашему разуму и, быть может, даже направленным против него.

Сценарное планирование – инструмент, внушающий почти оккультный трепет перед грядущими кошмарами кибермиров. Как ясновидец, предсказывающий в мрачных подробностях грядущее, Руслан провел нас через сложносочиненные развилки: что ждет нас за этими новыми рубежами, когда алгоритмы искусственного разума станут столь же могущественными, как боги? Станет ли это даром или, напротив, ярмом, под гнетом которого погибнет наша свобода и воля? Эти вопросы, словно проклятия, нависают над нами, заставляя взирать в неминуемую бездну с тревогой и трепетом.

Руслан, возможно, затронул то, чего мы все боялись: мысли, что человечество не просто столкнется с технокошмарами, но будет вынуждено пройти через новые варварские эпохи киберколониализма и кастовой сегрегации, в которых цифровая элита держит всех нас на цепи. Мы оказались перед выбором, от которого, как и пишет автор, зависит само существование: перед переходом либо к техноутопии, либо к проклятию, что завладеет нашим существованием. Взбунтованные цифровые двойники, охотники на невинных детей в безумных метавселенных и нечестивые алгоритмы, вмешивающиеся в наш генетический код… Мы, живущие в мире, который еще помнит запах лесов и воды, вскоре будем обитать в холодных тисках цифрового кошмара.

Эта книга – свиток темных пророчеств – не дает покоя, потому что, погружаясь в сценарии Руслана, я ясно понимаю: мое будущее, будущее моих коллег, детей и всего человечества наполнено угрозами, против которых порой невозможно бороться. Но, быть может, именно в этом и заключен дар Руслана: в том, чтобы пробудить в нас решимость, помочь вооружиться; дать осознать, что каждый из этих пугающих сценариев возможен и к каждому из них можно подготовиться.

Ведь что есть сценарное планирование, как не странная алхимия киберпространства, страхов и рецепта философского камня? Как некогда ученые в темных лабораториях создавали механизмы для победы над темными силами, так и Руслан, собрав воедино эти сценарии, обрисовал нам структуру инструментов для битвы за будущее. Мы живем в мире, где зловещие технологии появляются с пугающей скоростью, и потому «сценарист будущего» предупредил нас заранее, чтобы в темнейшие часы мы могли найти свет.

Должен признаться, что в течение многих лет я, как один из провидцев, стоящих на рубеже мира киберпространства, погружался в анализ сценариев грядущих угроз – тех, что скрываются за гранью воображения. Мне знакомы обе стороны этой вечной борьбы: защитники как неусыпные стражи, готовые к любой угрозе, и нападающие, чьи замыслы пронизаны тьмой и холодным расчетом. И если одна из миссий специалиста по безопасности – уметь смотреть за грань привычного, в самую черноту потенциальных угроз, то разве можно отказаться от столь важной ответственности? Мы обязаны видеть и готовиться к тому, что принесут с собой технологии будущего, о которых столь красочно написал Руслан.

Искусственный интеллект, чья природа лишь отчасти ясна человечеству, цифровые валюты, словно магические артефакты, распределенные реестры, темные и непостижимые… Сама ткань реальности изменяется, и повсюду встают новые формы угроз: от генетических редакторов и биохакинга до беспилотных механизмов, призраков квантового мира и эфемерных двойников, что несут в себе тени наших собственных образов.

Теперь, после прочтения книги, я понимаю: перед нами простирается не безмятежный рассвет, а бурный океан из экзистенциальных угроз и страшных перспектив. Какие чудовища пробудятся в этих неизведанных просторах? О, нам остается лишь повторить древнее латинское предостережение: praemonitus praemunitus – «предупрежден – значит вооружен». Но будет ли нам хватать этого знания, чтобы не дрогнуть перед лицом того, что принесет новый век? Остается только принять этот вызов, не ведая страха.

Предисловие от Филиппа Бегак

Ведущий телепрограммы «Правила Жизни» на канале «Культура»

Получил книгу Руслана Юсуфова и не смог оторваться. Читал всю ночь и, уверен, скоро буду перечитывать. Мы с Русланом часто встречаемся в нашей студии «Правил жизни» на ТК «Культура», говорим о будущем; я на камеру задаю бесконечные волнующие меня вопросы, а потом долго еще продолжаю это делать в гримерке. Я знал, что он пишет книгу. Но и представить не мог, что она окажется настолько яркой, живой и провоцирующей на размышление. Что она ответит на все мои вопросы о будущем!

Здесь обсуждается развилка, на которой мы стоим, и развилки, которые последуют за этой. Обсуждаются глобальные решения, которые предстоит принять: трансгуманизм или луддизм? Полный отказ от цифровизации или все же киберпанк и метавселенные? Корпоратизация или эмансипация? Руслан не просто пишет свои мысли о будущем – он обосновывает возможность каждого из множества гипотетических сценариев примерами из настоящего и прошлого, заставляя каждого задуматься о той реальности, в которой мы можем оказаться уже завтра. Книга поднимает важные вопросы о том, будут ли развивающиеся страны подчинены более продвинутым державам, погрязнут ли они в киберколониализме, станет ли цифровизация новым «одеялом с оспой», каким будет цифровое рабство? Руслан приводит примеры, как уже сегодня люди в развивающихся странах, размечая данные для ИИ за копейки, участвуют в процессе, который фактически лишает их возможности жить! Лишает их возможности смотреть на мир своими глазами!

Юсуфов поднимает и менее очевидные вопросы: как преобразуются дружба, доверие и любовь, когда они будут существовать на виртуальных платформах? Не превратятся ли социальные сети, с их вниманием к каждому нашему действию, в новый, гиперперсонализированный «паноптикум», в котором каждому жителю земли уже готовится свой комфортный «уголок»? Иронично и точно автор обращается к этим темам, рассказывая о сценариях, в которых метрополии и корпорации установят абсолютный контроль, ограничив права на индивидуальность и самоопределение.

Я в полном восторге! Это не просто книга, это интеллектуальный пинок. Это требование задуматься! Это требование думать не только о том, что мы будем есть на ужин сегодня, но и о том, как наши дети будут строить свою жизнь, когда все меньше будет зависеть от людей! Обязательно прочитайте это светлое произведение гениального автора, который точно знает, о чем говорит!

Введение

Изменения сопровождали человечество на протяжении всей его истории, но по сравнению с нашими предками у нас сегодняшних гораздо меньше времени на адаптацию. По мере ускорения научно-технического прогресса количество значимых изменений на единицу времени увеличивается. За тысячелетия между открытием огня, изобретением колеса и промышленным производством стали у человечества было время, чтобы привыкнуть к этим инновациям, адаптироваться и начать воспринимать их как само собой разумеющееся. У ныне живущих людей и их потомков такой роскоши, как время на адаптацию, нет и не будет: контекст будет постепенно становиться все более турбулентным, и поколение людей, родившееся в полностью физическом мире, сегодня проживающее в мире цифровом, уже завтра окажется в совершенно новой среде обитания. И, чтобы не только выжить, но и приспособиться, человечеству просто необходимо заранее подготовиться к этим изменениям.

Если бы я году в 2010-м почитал новостные сводки одного дня из 2024-го, я бы не поверил. Какой-то искусственный интеллект, близкий к суперинтеллекту, виртуальные любовники, ядерные реакторы, питающие центр обработки данных, дроны с гранатами, взрывающиеся тысячами пейджеры – это вообще из какого фильма, из какой книги в стиле киберпанк, кто автор сценария? Какая у нас сегодня серия «Черного зеркала»?

Мы живем в мире сбывшихся пророчеств и фантазий – тех самых, которые градом лились на нас из фантастических книг и фильмов, написанных и снятых 20–30–40 лет назад. Тогда они воспринимались как выдумка, результат богатой фантазии режиссера или автора. С повсеместным интернетом мы живем лишь последние пару десятилетий, а наши социально-экономические отношения и, что еще важнее, привычки уже изменились до неузнаваемости. В 2013 году, когда на экраны вышел фильм «Она», где герой заводит трогательные отношения с искусственным интеллектом, сюжет фильма казался, как и должен, маловероятной фантастикой. Но прошло всего несколько лет, и в каждом втором доме мы общаемся с ИИ-ассистентом внутри «умной» колонки, а некоторые люди даже заводят романтические отношения с виртуальными персонами – это хотя и довольно фантастическая, но все же реальность. Стало совершенно очевидно, что технический прогресс неумолим. Но станет ли он нашим спасением или подчинит себе все живое – вопрос пока открытый. Почему все эти фантастические изменения происходят именно сейчас? Какую ответственность это на нас накладывает?

Кем ты хочешь стать, когда вырастешь?

Самый частый вопрос, который я слышу на своих лекциях и публичных выступлениях: «Чему учить детей?» Каждый год вся страна собирает детей в школу, чтобы они там получали новые знания, желательно такие, которые пригодятся, чтобы… чтобы что?

– Чтобы вырасти счастливым? Какие это знания? Что ты можешь получать удовольствие и от химии, и от математики, и от оперы, и от балета? Что ты можешь общаться с разными людьми благодаря высокому уровню эмпатии? Что ты способен принимать решения вопреки чужой указке? Что ты научился слушать свое сердце? Что ты устойчив к промывке мозгов, пропаганде и идеологическому воздействию?

– Чтобы вырасти здоровым? Какие это знания? Как правильно питаться? Как работает человеческое тело? Как решать конфликты? Как не загнуться за 10 лет в школе, не испортить осанку, зрение и психику, участвуя во всех аудиторных, внеаудиторных, а также факультативных занятиях?

– Чтобы получить высокооплачиваемую работу? Какие это знания? Кто нужен на рынке труда через 10 лет? Как декомпозировать требования к вакансии в навыки и использовать это при выборе класса, профиля и будущего вуза? Как понять, кто будет «нужным», а кто будет «лишним» человеком через 5–10 лет? Из чего состоит умение учиться?

– Чтобы иметь возможность жить лучше, чем поколение родителей? Чтобы уехать из маленького городка без перспектив в место, где они есть? Нужно ли выучить язык и какой? Нужно ли на протяжении учебы ездить в это самое место с перспективами, чтобы понимать, как там живут люди?

– Чтобы стать успешным предпринимателем? Какие это знания? Что ты можешь вырасти и стать кем угодно? Что ты умеешь быть лидером и вести за собой? Что ты умеешь совершать ошибки и вставать после падения? Что ты научился понимать правила игры, но умудряешься играть по своим? Что ты научился вести двойную и даже тройную игру, одновременно не делая домашнюю работу, но при этом получая высокие оценки?

– Чтобы изменить мир к лучшему? Какие это знания? Что ты можешь принимать решения из любви, а не из страха? Что ты научился быть ответственным, не перекладывая на других? Что ты насмотрелся на чужую боль и скорбь и умеешь сопереживать? Что ты умеешь увлекать других своей мечтой?

Мало того, что знания, навыки и умения – разные для разной мотивации и разного «чтобы что». Сколько в этих навыках и умениях – математики, физики и химии? А сколько – коммуникации и умения вести переговоры, логики, критического мышления, наконец, осознанности?

Страшила хотел мозги, Железный Дровосек – сердце, а Трусливый Лев – смелость. Ни один из них не мечтал о знании математики, русского языка и литературы. Потому что математика и литература – это «что», а сердце и смелость – «зачем». Не подумайте, самый смелый дурак без знания правил русского языка останется всего лишь смелым невеждой, но при этом самый величайший филолог без сердца, сопереживания, мечты, страсти, духа обречен быть жалким, неприятным, недостойным трусливым львом, которого рано или поздно даже самые прекрасные деепричастные обороты перестанут радовать.

Тем не менее для любой мотивации и любого «чтобы что» ключевым является понимание образа будущего, к которому готовится сегодняшний школьник. Можно ли получить работу в мире, где искусственный интеллект заменил всех людей? Можно ли стать предпринимателем в мире технологически обеспеченного коммунизма? Можно ли слушать свое сердце в мире, где нет индивидуальности? Можно ли жить лучше, чем предыдущие поколения, если человечество окончательно разделилось на касты и плебеи Homo Sapiens никогда не догонят бессмертных патрициев с нейроимплантами?

Почему важно уже сейчас начать готовиться к будущему?

Все дело в ответственности, которая ложится на человечество в целом и на каждого человека в отдельности. Мир, каким мы его знаем, находится на переломном этапе. Грядущие ускоренные изменения не похожи ни на что известное или прожитое за всю историю человечества. Следующие десятилетия могут драматически развернуть ход эволюции человека, его среды обитания, экономических и социальных институтов, приведя нас в глобальную утопию или в мировой апокалипсис. Аналитические прогнозы варьируются от абсолютного пессимизма до ожидания золотого века для всей человеческой цивилизации. Сегодня на человека в гораздо меньшей степени влияет природа и гораздо больше – он сам и принятые им решения: по данным некоторых исследований экзистенциальных рисков, вероятность вымирания человечества от антропогенных последствий в сотни раз выше, чем от природных. Выборы, которые мы сделаем, приведут нас или к угасанию и закату, или к полному раскрытию человеческого потенциала, или даже к выходу за его пределы, к трансцендентности, когда человек трансформируется во что-то невообразимо большее. К опасениям ученых присоединяются религиозные и гуманитарные лидеры: даже папа римский высказывается об искусственном интеллекте, научно-техническом прогрессе и алгоритмах. Пожалуй, это неудивительно: поиск разумной жизни – в космосе или в искусственных системах – неизбежно связан с тысячелетним поиском бога, страстным желанием узнать правду и стремлением человечества к связи с чем-то большим, чем мы сами.

Книга, которую вы держите в руках, предлагает комплексный, проактивный и критический взгляд на подготовку к технологическому будущему, что поможет вам избежать тревог, связанных с прогрессом. Это ваш путеводитель по возможным вариантам завтрашнего дня, основанный на передовых исследованиях и экспертном анализе. А для меня – это способ передать часть своего опыта и знаний, собранных в простой и понятной форме, чтобы показать: будущее может быть захватывающе прекрасным, если смотреть на него с позиции исследователя.

На страницах этой книги мы будем погружаться в гипотетические сценарии развития событий, мысленно пройдем десятки перекрестков, «цивилизационных развилок», полярностей и крайностей, перед которыми стоит человечество, а также оценим связанные с ними риски и возможности. Каждому из нас нужно понимать последствия этой сложносочиненной навигации хотя бы потому, что эти последствия не только отзовутся эхом где-то через столетия в будущем, а реализуются на горизонте наших с вами жизней. Такой подход поможет вам точнее визуализировать возможные варианты развития событий. Через примеры и кейсы вы поймете, как описываемые в книге концепции уже применяются или могут быть применены в реальном мире и как они скажутся на нашей с вами жизни.

Эту книгу я написал, держа в голове большую цель: показать читателям возможные варианты развития событий и снабдить инструментами для подготовки к будущему. В книге раскрывается многовариантность возможных сценариев будущего, демонстрируя не только оптимистичные или пессимистичные варианты развития событий, но и весь спектр связей между ними.

Благодаря этой книге вы будете лучше разбираться в технологических трендах, узнаете о новейших технологиях и их потенциальном влиянии на общество, экономику и повседневную жизнь; улучшите навык критического мышления, научитесь анализировать информацию и формировать собственные прогнозы будущего; осмыслите роль искусственного интеллекта и других «сквозных» технологий в нашей жизни; поймете, как выглядят новые форматы экономических отношений и социальных взаимодействий.

На этих страницах не будет готовых рецептов или рекомендаций, а вопросов – больше, чем ответов. Но благодаря простой и интересной подаче вы рассмотрите разные взгляды на будущее, включая как оптимистичные, так и пессимистичные прогнозы, и в результате непременно сформируете собственное мнение, чтобы смотреть в будущее с уверенностью.

Я искренне надеюсь, что эта книга поможет вам задуматься об адаптации своей жизни к каждому из сценариев, самостоятельно «примерить» эти сценарии на себя, свой личный и карьерный план, а также оценить вероятность их наступления. Это позволит не просто наблюдать за будущим, но и самостоятельно выстраивать его контуры – даже за пределами описанного.

Глава 1
Сложносочиненная навигация

Как усложняется природа изменений и какую роль играют технологии?

Современный смартфон во много раз мощнее того суперкомпьютера, на котором проектировали полет человека в космос. С одной стороны, это огромная возможность как для каждого из нас, так и для всех сразу: доступ к информации позволяет быстрее развиваться, вести дела и общаться с близкими. С другой стороны, это колоссальный вызов, потому что мы меняемся гораздо медленнее, чем технологии, которые меняют наш мир.

Программисты не успевают следить за всеми новшествами в профессии, а ученые ежедневно публикуют сотни, если не тысячи научных работ, большинство из которых понятны лишь узким специалистам. Прогресс человечества можно описать как постоянно разгоняющийся поезд, за окном которого стремительно проносятся станции. Остановить этот поезд нельзя, но пока еще можно выбрать, по какому пути и в каком направлении он поедет. Разработка карты местности, по которой движется поезд, и превентивное проектирование его маршрута позволют нам заранее подготовиться к очередному повороту, чтобы новая реальность на следующей станции могла быть чуть менее чуждой и неблагоприятной.

Человечество на протяжении всей истории переживало изменения. Только вот изменения, которые происходили 1000 или даже 100 лет назад, оставляли нам гораздо больше времени на адаптацию. Например, колесо – это потрясающая инновация, которая облегчила жизнь человеку, принципиально поменяв логистику и даже способы ведения войны. Считается, что первое колесо появилось в Месопотамии в период 3500–4000 лет до н. э., и последние 6000 лет мы живем все с тем же колесом.

Может быть, оно стало чуть круглее, чем у древних шумеров, и производится из более износостойких материалов, но, как и наши пращуры, мы передвигаемся на четырехколесных повозках, только оборудованных двигателем внутреннего сгорания. Мы не входим в звездные врата, чтобы выйти в другом месте, у нас нет телепортационных будок, мы не декомпозируемся на атомы, чтобы синтезироваться в пункте назначения – нет, у нас все те же повозки!

При пересадке с лошадиной повозки на автомобильную у нас были десятилетия для адаптации. Первое время перед автомобилем должен был идти человек с факелом и разгонять зевак, а скорость выше 15 км/ч считалась опасной для организма. Извозчик мог довольно легко пересесть за руль, ведь принцип управления транспортными средствами был похож. Даже кузнец мог стать сборщиком на заводе Форда или автослесарем, но вот для лошади в сфере транспорта места не нашлось. Вслед за лошадьми лавина изменений смыла целые индустрии, еще недавно обеспечивавшие их овсом, конюшнями и лекарствами.

Нынешние изменения за очень короткий период могут поменять привычный нам способ действий, то есть наши потребительские привычки. За последние 10 лет мы стали вызывать такси по-другому (не звоним в диспетчерскую, а выбираем водителя в мобильном приложении), покупать по-другому (не ходим по магазинам, а заказываем товары на дом) и развлекаться по-другому (не идем в кино, а включаем домашний кинотеатр). Мы переучились даже засыпать и просыпаться: последнее, что мы видим перед сном, и первое после пробуждения – это экран смартфона.

Во всех традиционных видах социально-экономических отношений происходят изменения – завтра мы будем по-другому общаться, учиться, находить партнеров, создавать и потреблять контент, и даже любить и ненавидеть. Именно в этом заключается «подрывной» характер технологии, благодаря внедрению которой мы как общество станем что-то делать принципиально иначе. Из-за изменений в нашем потреблении вся социальная и бизнес-инфраструктура тоже должна будет поменяться. Изменения уже происходят не просто на протяжении одной жизни, а много раз за жизнь. Это ускорение в первую очередь касается нужности людей. Не станет ли человек, который не успевает адаптироваться, лишним?

Изменения не только ускорились, но и усложнились по своей природе. Любое из них можно рассматривать в контексте политических, экономических, технологических и социальных последствий, которые взаимосвязаны и влияют друг на друга. Например, научный прорыв в области искусственного интеллекта убьет старые бизнесы и породит новые, сформирует иные виды социальных взаимодействий и спровоцирует запрет на экспорт определенных технологий, что приведет к усложнению геополитических отношений между странами-конкурентами.

Влияние политики на изменения в обществе

Примеров подобного перекрестного влияния важных исторических событий на различные сферы жизни – множество. Так, победа СССР и союзников во Второй мировой привела к холодной войне, что можно рассматривать как глобальное геополитическое изменение, последствия которого отразились на множестве неполитических аспектов. Например, повлияли на общественный и экономический строй Северной и Южной Кореи. Из-за политики они стали двумя совершенно разными странами, хотя веками жили общим бытом, локальные различия в котором определялись скорее географией, чем влиянием США в 60-х годах прошлого века. За полвека структура общества в обеих странах успела перестроиться – непосредственных следов политики холодной войны в них осталось не так много, и все же именно она является корнем различий.

В Северной Корее общественный и экономический строй, обычаи и привычки, образ жизни и принципы распределения ресурсов во многом диктуются именно государственной иерархией. Даже то, что находится на столе у гражданина (а на севере рацион скуднее, чем у южан), – результат не политики, а холодной войны, вызванный санкциями США, а не их собственными политическими решениями.

В Южной Корее особенности структуры общества тоже связаны с политикой: развитая промышленность – результат американизации, и хотя она работает на рыночных механизмах, но социальный статус человека в значительной степени зависит от принадлежности к одной из огромных корпораций. Корни продолжительной американизации уходят в многолетнюю традицию получения образования в американских институтах, ведь в США учились целые когорты южнокорейских интеллектуалов. Зародившийся в Южной Корее музыкальный жанр «K-pop», вобравший в себя элементы западного электропопа, хип-хопа, танцевальной музыки и современного ритм-н-блюза, а впоследствии превратившийся в глобальную субкультуру, – также прямой результат американского влияния.

Власть корпораций и особенности корпоративных структур в Южной Корее – это влияющий на экономику и общество результат холодной войны, который не является непосредственно политическим. Отличным примером можно считать чеболь – южнокорейскую форму финансово-промышленных групп. В рамках такого конгломерата, состоящего из формально самостоятельных фирм, корпорацией почти полностью владеет определенная семья. Такие семьи – это новая аристократия, которая сильно влияет на экономику, общественные нормы и даже практику, например, запрещая профсоюзы или устанавливая жесткую иерархию на рабочем месте. Сами чеболи – лучший, а в некоторых случаях единственный социальный лифт. Они возникли в Южной Корее в конце Корейской войны и существуют до сих пор, но их современное доминирование в стране – не прямое следствие холодной войны, а лишь отголосок ее последствий.

Влияние космических технологий на изменения в обществе

Космическая гонка значительно продвинула человечество в области выведения различной аппаратуры на орбиту. Американская система глобального позиционирования GPS была разработана в 1970-х годах для использования в военных целях, а первый спутник был запущен в 1978 году. Сегодня GPS – неотъемлемая часть морской навигации, используемая для контроля движения судов, определения маршрутов и обеспечения безопасности на море.

Еще в 2011 году ученые предложили анализировать движение машин и людей, чтобы оптимизировать инфраструктуру городов и дизайн городской среды. Тогда обрабатывать и собирать данные было бы трудно, но сегодня можно использовать анализ GPS для оптимизации движения общественного транспорта и приоритизации логистических проектов. Более того, спутниковая навигация позволяет банкам определить, соответствует ли местоположение мобильного телефона владельцу счета, повышая безопасность транзакций, дает представление о потребностях и желаниях клиентов и множество другой информации.

Без достижений космической гонки не было бы и Starlink – глобальной спутниковой системы, разворачиваемой компанией SpaceX, чтобы обеспечить высокоскоростной широкополосный доступ в интернет. Могли ли лидеры США и СССР представить, что в будущем частная компания станет использовать дорогостоящие космические спутники, чтобы ее клиенты в любой точке мира могли оплатить счета за квартиру или заказать товары с доставкой на следующий день? Вряд ли, потому что в начале космической гонки самого интернета не существовало.

Интернет изначально разрабатывался для нужд военных, но постепенно коммерциализовался и теперь играет важную роль в политических, экономических, технологических и социальных взаимодействиях во всем мире. В 1958 году в ответ на запуск в СССР первого искусственного спутника в Министерстве обороны США создали Агентство по перспективным исследованиям (DARPA). Десятилетие спустя в нем решили разработать надежную систему передачи информации на случай войны, и родился проект ARPANET – компьютерная сеть, объединившая четыре научно-исследовательских института: Калифорнийские университеты в Лос-Анджелесе и Санта-Барбаре, Стэнфордский исследовательский центр и Университет Юты. К 1973 году к этой сети подключились первые иностранные организации из Великобритании и Норвегии, и она стала международной. 1 января 1983 года сеть ARPANET перешла на маршрутизацию пакетов данных при помощи протокола TCP/IP – так появился интернет.

Влияние интернет-технологий на изменения в обществе

Если поначалу интернет интересовал только военных и ученых, то теперь в него начали стягиваться компьютерные энтузиасты со всего мира, хотя коммерческого интереса он пока не представлял: здесь не было денег – его даже для регулярных коммуникаций не использовали, не то что для платежей и коммерции. Следующим шагом развития стало внедрение в конце 90-х алгоритмов шифрования, которые позволили обмениваться платежной информацией, передавая деньги из точки А в точку Б, что положило начало электронной торговле. Сегодняшний мультимиллиардер Джеф Безос, запуская в 1995 году сайт для торговли книгами онлайн, отмечал, что «нет никаких гарантий, что Amazon.com может стать успешной компанией; то, что мы пытаемся сделать, очень сложно».

В британской газете Daily Mail от 5 декабря 2000 года писали: «Интернет может быть просто проходящей причудой, миллионы уже отказываются от его использования, разочарованные его ограничениями и не желая оплачивать дорогой доступ». В подтверждение приводились следующие выводы, сделанные в ходе исследовательского проекта 25 университетов Европы и США:

• электронная почта далека от того, чтобы заместить другие формы коммуникации, только создавая переизбыток информации;

• будущее онлайн-шопинга ограничено;

• количество пользователей интернета достигло пика;

• подростки поначалу воодушевились возможностями интернета, но потом поняли, что реальный мир может предложить гораздо больше;

• прогнозы о том, что интернет совершит революцию в обществе, оказались значительно преувеличенными.

Но, оглядываясь назад, мы понимаем, что интернет изменил сферу маркетинга, а электронная коммерция стала основой современных бизнес-процессов. Возможность электронного перевода средств оказала колоссальное влияние на современные банки: наличные транзакции с каждым годом уменьшаются, а удаленное взаимодействие со своими счетами и банковскими услугами уже давно перестало быть роскошью, став требованием большинства клиентов.

Таким образом, с интернетом мы живем с конца 60-х годов прошлого столетия (полвека с хвостиком, в отличие от колеса), но повсеместно используем его всего несколько десятилетий. За последние 20–25 лет изначально децентрализованный интернет эволюционировал в глобальную сеть, где правила игры формируют десятки транснациональных корпораций (ТНК), которые знают о нас все и продают нам сервисы и устройства, опираясь на самые продвинутые алгоритмы для анализа информации о нас и нашем поведении.

В 2010-х к ним относились Google (нынешняя Alphabet), Amazon, Facebook (нынешняя Meta¹), Apple и Microsoft, иногда вместе именуемые «GAFAM» – по первым буквам названия каждой из компаний. Сегодня к неформальному клубу крупнейших технологических гигантов можно отнести американские Netflix, Nvidia, Adobe, Intel, IBM Salesforce и китайские Baidu, Alibaba, Tencent и Xiaomi (иногда вместе именуемые «BATX»). В списках лидеров также могут упоминать и меньшие по капитализации Twitter (нынешняя X), Snap, Uber и даже Tesla.

«Сквозные» технологии

Технологические изменения связаны с научным прогрессом и отличаются необратимостью: за редкими исключениями изобретенную технологию нельзя повернуть вспять. Один из таких примеров забытой технологии – римские додекаэдры, металлические многогранники с отверстиями разного размера, которые нередко находят археологи. В записях римлян они не упоминаются, поэтому никто не может понять, для чего их использовали. Ученые предполагают, что эти загадочные устройства применялись для решения какой-то бытовой задачи: например, вязания, измерения диаметра или калибровки.

Применение римского додекаэдра – настолько узкое и прикладное, что его изобретение необязательно для функционирования тогдашнего общества и понимания следующими поколениями. Однако если бы люди вдруг забыли принципы работы двигателя внутреннего сгорания или интернета, то остановилось бы множество процессов в самых разных индустриях – от сельского хозяйства до логистики.

Наибольшее влияние на мир оказывают так называемые «сквозные» технологии, которые одновременно влияют на большинство индустрий и множество аспектов жизни человека, поэтому обладают максимальным подрывным характером, меняя привычные нам способы взаимодействия.

Интернет, геолокация и искусственный интеллект – это «сквозные» технологии, пронизывающие общество, бизнес и государство, влияющие на любые индустрии и меняющие наш привычный образ жизни. К сквозным технологиям также можно отнести виртуальную реальность, интернет вещей, большие данные, децентрализованные реестры… Однако со временем список сквозных технологий может меняться. В ближайшем будущем важнейшими из них могут стать нейротехнологии и квантовые вычисления.

Влияние искусственного интеллекта на изменения в обществе

Шахматный суперкомпьютер DeepBlue от IBM в 1997 году выиграл матч из шести партий у чемпиона мира по шахматам Гарри Каспарова. И только спустя два десятилетия в 2015 году программа AlphaGo от компании Google DeepMind смогла обыграть профессионального игрока в го, предложив стратегии, которых человечество не смогло узнать за несколько тысяч лет существования этой игры. А уже через два года программа AlphaZero – прямой потомок AlphaGo – после всего лишь 24 часов обучения смогла победить чемпионов мира среди программ по играм в шахматы, сеги² и го.

«Zero» в названии означает, что программа начинала с нулевыми предварительными знаниями и самостоятельно обучалась играть без определения правил человеком. AlphaZero могла играть не только в го, а вообще в любые игры для двух игроков, поначалу совершая ходы случайным образом, но затем улучшая себя до уровня чемпиона мира в течение 24 часов. Игрок мирового класса в шахматы и по совместительству сооснователь и глава Google DeepMind Демис Хассабис³ так высказался о невероятных прорывах AlphaZero: «Представьте, что утром вы запустили обучение системы игре в шахматы, сходили за кофе и к обеду все еще можете ее обыграть. Но оставьте ее еще на несколько часов, и уже к ужину перед вами будет величайший игрок в шахматы из всех, что когда-либо существовали».

За AlphaZero последовала программа AlphaFold, способная предсказывать пространственную структуру белка – такая визуализация необходима ученым для понимания функций конкретного белка в живом организме. Раньше на такое исследование ученый в среднем тратил 4–5 лет, и описание структуры одного белка вполне могло стать докторской диссертацией. За последние 40 лет биологи всего мира смогли описать примерно 150 тысяч структур белков из более чем 200 миллионов. Такими темпами описание всех известных белков заняло бы вечность. AlphaFold справилась со всеми 200 миллионами всего за год, сэкономив около миллиарда лет исследовательского времени.

И сама программа, и результаты ее работы опубликованы в открытом доступе. Эти исследования крайне важны для понимания болезней и могут сократить сроки создания новых лекарств с нескольких лет до нескольких месяцев. Тот факт, что за несколько часов искусственный интеллект может достичь того, что не удалось миллионам человек на протяжении столетий, – одновременно восхищает и пугает.

Непосредственно на наши с вами жизни искусственный интеллект стал влиять где-то в эпоху Web 2.0, когда появились социальные сети, для которых мы начали писать тонны контента, делать селфи и снимать видео с котами. При этом мы потребляем различную информацию и фактически живем в разных информационных пузырях – каждый в соответствии со своими интересами. Для того чтобы все наши послания с фотографиями котов и еды доставлять до нужной аудитории, нужны алгоритмы, способные раскладывать контент по полочкам. На бытовом уровне искусственный интеллект позволяет нам быстрее и удобнее получать наиболее актуальную информацию. Распознавание голосовых команд, текстовые подсказки к поисковым запросам, рекомендательные сервисы платформ стриминга и электронной коммерции, навигация в реальном времени – все это помогает нам быть эффективнее.

Когда думаешь о роли технологий в социальных изменениях и преобразованиях бизнес-моделей для того, чтобы заработать или инвестировать средства, а может, для создания оружия и угрозы суверенитету других стран, то вопросов больше, чем ответов. Технологии влияют не только на инженерное дело, вычисления или криптографию, но и на экономику, политику и военное дело, имея потенциальное двойное назначение. ИТ-компании, владеющие средствами анализа данных, – это еще и политическое оружие, и орудие пропаганды, так как алгоритмы формирования общественного мнения позволяют убедить человека, что одни ценности, идеология или мировоззрение лучше других.

Возможность не только создавать новые правила, но и менять саму среду обитания человека, расширяя его физические и когнитивные возможности и открывая невероятные перспективы для инноваций, инвестиций и предпринимательства, ставят нас перед множеством выборов, с которыми мы раньше никогда не сталкивались. «Сквозной» характер «подрывных» технологий, помноженный на накопленный груз нерешенных глобальных и локальных проблем – социальных, экономических и политических, – позволит нам увидеть множество экспериментов, которые станут ответами на нынешние и грядущие кризисы.

Какими станут ближайшие десятилетия для человека и человечества?

1. Будет ли ИИ гармонично интегрирован в человеческое общество или начнет реализовывать собственные непонятные цели по сценарию «восстания машин» из фантастических книг и популярных кинофильмов?

2. Откроем ли мы лекарства от большинства видов рака, или прорывы в биомедицине будут использовать для создания нового биологического оружия?

3. Позволит ли бурное развитие генной инженерии радикально продлить человеческую жизнь или только усилит неравенство между богатыми и бедными, создавая новые биологические виды?

4. Приведет ли замена большей части физического труда роботизированными системами ко всеобщему благополучию, или миллионы людей останутся без работы и средств к существованию?

5. Поможет ли внедрение в большинстве стран мира всеобщей системы предиктивной аналитики⁴ и цифровой идентификации граждан победить преступность или приведет к тотальному контролю и превентивным арестам, не оставляя пространства для личной свободы?

6. Будет ли реализована возможность построения личных и профессиональных траекторий для раскрытия потенциала человека, или внедрение искусственного интеллекта приведет к коллапсу системы образования?

7. Решит ли введение безусловного базового дохода проблему глобальной бедности, или станет подачкой для «низшей касты», лишенной других способов обеспечить свое существование?

8. Повысят ли социальные сети уровень эмпатии и сотрудничества между людьми, или создание фейковых новостей и манипуляций приведет общество к тотальному недоверию?

9. Обеспечат ли технологии ИИ более высокий уровень общественной безопасности, или его массовое внедрение в армиях повысит риски войн и конфликтов, а киберпреступность и хакерство станут новой формой государственного терроризма?

10. Сможем ли мы победить депрессии благодаря новому поколению антидепрессантов и нейросетевым терапевтам, помогающим людям в саморазвитии, или случится пандемия информационной и психологической перегрузки?

11. Приведет ли научная и техническая революция к устойчивому развитию цивилизации, или квантовые компьютеры взломают традиционную криптографию, гарантируя крах финансовой системы?

12. Расширят ли нейронауки возможности человека в понимании механизмов сознания, или массовое внедрение нейроинтерфейсов превратит людей в программируемых биороботов?

13. Появятся ли поселения на Луне и Марсе, открыв эпоху колонизации планет и космического туризма, или космос станет зоной постоянных военных конфликтов?

14. Будет ли мощный искусственный интеллект писать компьютерные программы и совершать научные открытия в тандеме с человеком, или алгоритмы станут настолько сложными, что люди начнут их обожествлять?

15. Предоставит ли массовый переход в виртуальные миры новые возможности для творчества и самореализации людей, или виртуальная реальность станет новым наркотиком, на который подсядет значительная часть человечества?

Цивилизационные развилки

Возможных вариантов развития событий – множество, среди них есть как предельно оптимистичные, так и крайне пессимистичные, а реальное будущее, вероятнее всего, будет содержать элементы разных сценариев. Человечество ждут десятки развилок с противоположными возможностями и крайностями, поэтому каждый из нас должен понимать последствия того или иного выбора, хотя бы потому, что эта сложносочиненная навигация не только отзовется эхом где-то через столетия, но и отразится уже на наших с вами жизнях.

Проще всего представить разноплановые возможности развития цивилизации в виде бинарных развилок, где можно пойти направо или налево. Мы рассмотрим несколько таких развилок, сопровождая каждую современными и историческими прецедентами, гипотезами о том, каким образом люди могут прийти к одному из выборов, и возможными сценариями на их основе. Эти развилки следует понимать как гипотетические экстремумы противоположных путей развития в политике, обществе, экономике и технологиях, а сценарии рассматривать исключительно как иллюстрации, поскольку реальное будущее, безусловно, гораздо многограннее.

Киберколониализм или технологическая суверенность?

Как будут построены отношения между технологически развитыми и развивающимися государствами: они сравняются в доступе к технологиям и сохранят суверенность, или нас ждет киберколониализм, при котором лидеры будут экспортировать технологии и эксплуатировать население наименее благополучных регионов?

Техноанархизм или цифровое рабство?

Как будут использовать технологии: в качестве инструмента в руках людей, уравнивающего их с общественным институтом, или как инструмент для их контроля и подчинения?

Суверенитет корпораций или национализация?

Какие институты будут играть ключевую роль: транснациональные корпорации с технологическим и экономическим превосходством или государства, которые победят их благодаря регуляторным механизмам и закручиванию гаек?

Коллективизм или индивидуализм?

Приведет ли технологическое неравенство к главенству интересов группы над интересами личности, или технологии обеспечат максимум индивидуальной свободы от государств, корпораций и других людей?

Общее информационное поле или гиперкастомизация?

В каком информационном поле мы будем жить: в общем – на уровне отдельной страны или даже глобально, с одной объективной реальностью и правдой, или в мире с миллиардом субъективных реальностей, где продукты, контент и сервисы будут создавать (адаптировать) под каждого человека?

Физическая реальность или метавселенные?

Как поменяется среда, в которой живет, развивается, работает и развлекается человек: мы продолжим вести основную деятельность в привычном физическом мире или в расширенной реальности с метавселенными, влияющими на события и процессы в реальной действительности?

Техноцентризм или антропоцентризм?

Будет ли технологический прогресс нацелен на обеспечение человеческого благополучия, или его принесут в жертву развитию технологий?

Прозрачность или анонимность?

Как будет обеспечиваться доверие: тотальной прозрачностью всех процессов для каждого стейкхолдера (все будут знать все обо всех) или альтернативной технологической инфраструктурой общества, построенной на принципах конфиденциальности и обеспечивающей доверие при сохранении анонимности?

Запрет искусственного интеллекта или сильный ИИ?

Какое будущее у алгоритмов: появится ли сильный искусственный интеллект с равными или даже превышающими человека возможностями и невероятной скоростью принятия решений, или технологические и социальные ограничения и риски заставят сдерживать и даже запретить ИИ, чтобы вернуть джинна обратно в бутылку?

Непреодолимое экономическое расслоение или технологически обеспеченный коммунизм?

Продолжит ли работать капиталистическая модель, а общество безвозвратно расколется по уровню доступа к капиталам и технологиям, или же сформируются посткапиталистические подходы и наступит технологически обеспеченный коммунизм?

Равенство доступа к технологиям или новая кастовая система?

Возможны ли равные условия доступа к технологиям для людей вне зависимости от их пола, возраста, образования, социального и экономического положения, или нас ждет новая кастовая система, основанная на социальном, экономическом и технологическом неравенстве?

Отказ от цифровизации или полная оцифровка?

Продолжим ли мы воспринимать цифровизацию как единственно возможный путь развития общества, или неспособность противостоять возникающим рискам заставит нас отказаться от «цифры» и обновления технологий, а то и откатиться к предыдущим стадиям научно-технического прогресса?

Технолуддизм или трансгуманизм?

Как общество отнесется к возможности модифицировать не только среду, но и самого человека: воспримет трансгуманизм как прогресс или консервативно откажется от технологического улучшения человеческого организма?

Локализация или глобализация?

Каким будет мир: глобальным с синхронизацией экономических, культурных и технологических процессов в разных странах или еще более фрагментированным на политические, экономические и культурные союзы?

Глава 2
Киберколониализм или технологическая суверенность?

Как будут построены отношения между технологически развитыми и развивающимися государствами: они сравняются в доступе к технологиям и сохранят суверенность, или нас ждет киберколониализм, при котором лидеры будут экспортировать технологии и эксплуатировать население наименее благополучных регионов?

Вашего мнения никто не спрашивает, продолжайте

В США действительно нет ничего хорошего: Идешь в больницу – придется заплатить. Доллар – это язык, на котором все говорят, Их не особо волнует утечка радиации. К черту США!

The Exploited «U.S.A.», альбом «Troops of Tomorrow», студия Secret, 1982

Я никогда не видел вживую пожарный гидрант, но узнаю его днем и ночью. Благодаря десятилетнему опыту разгадывания капчи⁵ от компании Google, я смогу отличить пожарный гидрант от пешеходных переходов, автомобилей, светофоров, грузовиков, автобусов, мотоциклов и велосипедов. Безусловно, как и любой из вас.

На протяжении последнего десятилетия мы всем миром бесплатно обучали искусственный интеллект для крупных корпораций, размечая пожарные гидранты, автобусы, мотоциклы, лестницы и мосты. Тот самый ИИ, который будут использовать в беспилотных автомобилях. Вроде бы мелочь, но, учитывая миллиарды бесплатных человекочасов ежемесячно и 2,5 триллиона поисковых запросов в год только в одном Google, очевиден масштаб современного цифрового рабства под безобидным предлогом «докажите, что вы не робот». Невольно закрадывается мысль: а не придется ли нам выбирать квадраты с военной техникой, объектами критической инфраструктуры и гражданскими лицами, чтобы обучать боевых роботов?

Но если мы обучили искусственный интеллект выявлять гидранты на изображениях, то совершенно бессмысленно показывать их для определения человека, ведь робот теперь это тоже умеет! И если задуматься, то разгадка капчи не подтверждает, что вы человек, а лишь то, что вы американец или маскируетесь под него. Потому что в России нет пожарных гидрантов, а в Нигерии – пешеходных переходов.

В современном интернете вы не просто товар, а бесплатная рабочая сила. А если пойти дальше, то вы рабская сила, потому что без угадывания гидранта Google не покажет вам поисковую выдачу, то есть буквально ограничит вас в правах. Фактически наш бесплатный труд стал дополнительным неденежным налогом на доступ к информации.

В древности полезные ископаемые добывали вручную, что требовало огромного числа рабочих, в основном пленных или рабов. На древнеримских шахтах трудились 150 тысяч человек, а на испанских серебряных рудниках – 40 тысяч. Древнегреческий историк Диодор Сицилийский так описывал римские золотые рудники в Египте:

Самую твердую землю, содержащую золото, они сжигают в огне, размягчают и обрабатывают руками. Мягкий камень и тот, который легко поддается обработке долотом, разбивается на части тысячами несчастных душ. Человек, умеющий различать камни, наблюдает за всем процессом и дает указания рабочим. Те, что отправлены на рудники, многочисленные и в кандалах, трудятся день и ночь, не находя отдыха, и тщательно удерживаются от всякого бегства. Все, что они добывают, они бросают на пол – без перерыва и под суровой плетью надзирателя. Нет абсолютно никакого сочувствия или послабления больным или увечным, старым мужчинам и слабым женщинам – все вынуждены трудиться, пока не умрут, измученные своими страданиями и тяжелым трудом. Мальчики, еще не достигшие зрелого возраста, проходят через шахты, подбирают добытое и несут это к выходу. Мужчины старше тридцати лет берут определенный вес добытого камня и толкут его в каменных ступах железными пестиками, пока не образуются куски размером с чечевичное семя. Женщины и пожилые мужчины относят полученное к мельницам, становясь у рукояти по двое и трое, и перемалывают положенный объем камня, пока он не станет таким же мелким, как пшеничная мука.

А теперь сравните это с современными шахтами для ручной добычи редкоземельных металлов в Африке за доллар в день, чтобы делать батарейки для электромобилей в Калифорнии. Или с китайскими потогонками, где собирали ноутбук, на котором написана эта книга. Или с разметкой датасетов для моделей искусственного интеллекта, чтобы мы могли генерировать аватары в стиле аниме. Что поменялось за 2,5 тысячи лет? Каково современное рабство и у кого в руках плеть надзирателя?

Будущее киберколониализма

Миноносец на пути в Гавану. Раньше я зарабатывал на жизнь, Собирая бананы. Теперь я – проводник для ЦРУ. Ура США!

The Ramones «Havana Affair», альбом «Ramones», студия Sire, 1982

В современных шахтах нужно собирать и размечать датасеты, а также тренировать модели. В начале 2023 года компания OpenAI наняла для подобной работы более тысячи подрядчиков из Латинской Америки и Восточной Европы. Начиная с ноября 2021 года, компания использует труд работников из Кении за $1,3–2 в час для фильтрации травматичного контента. «Травматичный» или «токсичный» контент – это синоним или даже эвфемизм для понятий «сцена с сексуальным насилием», «порнография» или «издевательства над животными». Классификация и фильтрация подобных текстов и изображений, которые могут быть запрещены к распространению по законам США, необходимы для минимизации попадания в обучающие данные контента с насилием и сексуальным содержанием и создания инструментов, способных его обнаруживать.

OpenAI делает это не напрямую, а через компании вроде фирмы из Сан-Франциско Sama, которая помогает в создании «этичного искусственного интеллекта» и гордится тем, что позволила 50 тысячам людей из Кении, Уганды и Индии выбраться из бедности. В феврале 2022 года Sama получила от OpenAI $787,50 за разметку 1400 изображений следующих категорий: C4 – насилие над детьми; C3 – зоофилия, изнасилование и сексуальное рабство; V3 – сцены с убийствами, серьезными физическими травмами и увечьями. Подобными услугами пользуются и ведущие социальные сети: когда пользователь нажимает кнопку «пожаловаться», специальные люди отсматривают контент и определяют, насколько он «травматичный». Модераторы Sama отсматривали для Facebook материалы с казнями и насилием над детьми за $1,5 в час.

Важно понимать образ жизни такого модератора. Поставим себя на место условного Мбеке Рукеле, гражданина Ганы. Одно из ярких воспоминаний его детства – как в пять лет он с братьями ездил на базар в город Аккру продавать куриц. Местные жители поймали колдуна, который через рукопожатие при помощи черной магии украл чьи-то гениталии и требовал за них выкуп. Разъяренная толпа жестоко убила колдуна, и потом это показывали во всех новостях по телевизору. Сейчас у Мбеке две коровы, двое детей и две жены. Коров раньше было больше, но осталось только две, потому что трех съели крокодилы. Двое из восьми братьев уже погибли на войне, один в поисках лучшей жизни стал пиратом в Сомали, другой уехал учиться в университет. Сезон засушливый, а кормить детей как-то надо. Недавно брат Мбеке приезжал из университета, показывал смартфон и рассказывал, что можно зарабатывать $1,5 в час, просто нажимая на картинки, даже не нужно лезть под пули. $1,5 – это 18,75 ганских седи. За 20 седи можно купить цыпленка, за 35–40 – двухмесячную курицу, а за 40 часов можно заработать достаточно денег, чтобы купить козу. Что в такой жизненной ситуации выберет Мбеке Рукеле, и не является ли этот сценарий наилучшим вариантом для него?

С 2020 года военные перевороты один за другим потрясали Западную Африку от Гвинеи до Буркина-Фасо и Мали. В 2021 году армия пришла к власти в Чаде, в июле 2023 года государственный переворот произошел в Нигере, следом за ним – в Габоне. С начала 2020-х годов значительно повысилась террористическая активность в африканском регионе Сахель – это тысячи километров земель от Атлантического океана до Красного моря, где расположены 12 стран и проживает 300 млн человек. В Нигерии в начале марта 2024 года из школы были похищены 286 учеников, студентов и учителей, за освобождение которых похитители требовали выкуп в миллиард нигерийских найр ($620 тысяч). Предыдущее массовое похищение произошло в 2021 году.

В такой ситуации модерирование материалов с казнями и насилием может быть полностью осознанным выбором, так как иногда это единственная возможность оставаться на плаву. Этот выбор может быть и менее осознанным, потому что человек существует в парадигме, где психологические отклонения нереальны. Для него депрессия – это просто плохое настроение, при котором он все равно идет собирать плоды баобаба и доить коров, а не повод для похода к психотерапевту и саморефлексии. К тому же для жителей развивающихся стран некоторые «шокирующие» нас вещи абсолютно естественны и привычны, а насилие – нормализовано. Например, для них кролик или цыпленок – это не питомец, а источник пищи, из которого они, не особо задумываясь, сварят суп. А в некоторых регионах Индии публичная дефекация является нормой.

Проще говоря, если можно было бы измерить психологическую травму в неких условных единицах, то просмотр картинки с насилием нанес бы миллениалу из среднего класса в Сан-Франциско – Х ущерба, а жителю Ганы, Кении или Уганды – 0.7Х ущерба. Тем не менее, психологический ущерб от просмотра таких материалов неизбежен: после нескольких месяцев подобной работы модераторы выгорают и заменяются другими – без выходного пособия или медицинской страховки для проработки полученных психологических травм.

В числе своих клиентов компания Sama называет Google, Microsoft и Ebay. Полагаю, все они в курсе, как и откуда берутся их датасеты. Та же Microsoft еще в марте 2023 года объявила о роспуске централизованной команды по этике ИИ, сотрудники которой формировали правила в областях, где они еще не сформированы, то есть занимались саморегулированием тех сфер, куда пока не проникло законодательство. Компанию Microsoft можно понять: если соперники не отягощают себя этическими вопросами и дополнительными искусственными ограничениями, то для любой коммерческой организации это означает потерю скорости и конкурентного преимущества. Примечательно, что Microsoft является одним из крупнейших инвесторов в OpenAI, вложив в компанию $13 млрд.

В доденежных сообществах люди были вполне самодостаточны. Они находили, добывали или выращивали себе пищу и производили необходимые для быта вещи. Робинзон Крузо на необитаемом острове размышлял о ценности своих богатств, которые перестали быть таковыми, когда он один и торговать не с кем:

У меня было немного денег – серебра и золота, – всего около 36 фунтов стерлингов. Увы, они лежали, как жалкий, ни на что не годный хлам. Мне было некуда их тратить. С какой радостью отдал бы я пригоршню этого металла за десяток трубок для табака или ручную мельницу, чтобы размалывать зерно. Да что там, я отдал бы все эти деньги за шестипенсовую пачку семян репы и моркови, за горсточку гороха и бобов или за бутылку чернил. Эти деньги не давали мне ни выгод, ни удовольствия. Так и лежали они у меня в шкафу и в дождливую погоду плесневели от сырости в моей пещере. И будь у меня шкаф полон алмазов, они точно так же не имели бы для меня никакой цены.

Когда Робинзон Крузо находит в обломках погибшего корабля сундуки с одеждой, порохом и драгоценностями, он сожалеет, что приобрел очень немного полезных ему вещей:

Деньги же не представляли для меня никакой ценности: это был ненужный сор, и все свое золото я охотно отдал бы за три-четыре пары английских башмаков и чулок, которых не носил уже несколько лет. Да, у меня стало больше денег, но я не стал от этого богаче, ибо деньги в моем положении были мне так же мало нужны, как индейцам до вторжения в Перу испанцев.

Инки Южной Америки вообще дожили без денег до испанского завоевания начала XVI века: в их плановой экономике император давал указания, что выращивать и производить, а затем все это собирали и перераспределяли. Соседние мексиканцы управлялись менее жесткой рукой, поэтому расплачивались золотым песком и какао-бобами. Инки использовали драгоценные металлы для предметов искусства и религии, но так и не изобрели денег, в которых просто не было необходимости. Золота и серебра у инков было так много, что выкуп за своего правителя Атауальпу они собирали несколько месяцев и еще месяц переплавляли, в итоге заполнив комнату площадью 35 кв. м до отметки на высоте поднятой руки. Общая стоимость выкупа в ценах 2000 года составила в $6,8 млрд. Однако коварные испанцы все равно казнили вождя.

Кстати, американцы только недавно (по историческим меркам) обратили внимание на то, что они творили во времена колонизации и индустриализации, когда подбрасывали индейцам одеяла с оспой и ввозили рабов из Африки для хлопковых плантаций. Груз вины за деяния предков заставляет спортсменов преклонять колено на соревнованиях в знак протеста против недостаточного внимания к проблемам расового неравенства и жестокости полиции. Этот извинительный жест массово использовался и вне спортивного контекста в рамках акций протестного движения BLM⁶.

Сколько времени должно пройти до извинений и выплат репараций кенийцам, угандийцам и ганцам за искалеченную при разметке данных для искусственного интеллекта психику десятков тысяч человек? Возникнет ли в странах, граждане которых оказывают подобные услуги, поколенческая травма, вызванная постоянным просмотром токсичного контента? Как подобные бизнес-практики могут поменять культуры развивающихся стран?

Робинзона Крузо волею судеб отбросило на предыдущий этап исторического и финансового развития, где золото и серебро представляли ценности другой, ставшей для него недоступной реальности. Испанские конкистадоры увозили золото из доденежных сообществ в свою среду, где деньги имели ценность, а инки умирали не за драгоценный, а всего лишь за красивый металл. Что увозят современные конкистадоры из менее технологически развитых сообществ? За какие (и чьи) ценности психологически выгорают люди, сортирующие по папкам фотографии со сценами насилия?

Нужно учитывать, что взгляды и ценности кенийского мусульманина, жителя Ганы, исповедующего акан⁷, и стартапера из Сан-Франциско значительно различаются по целому спектру вопросов – от нетрадиционных сексуальных отношений и правомерности употребления марихуаны до фундаментальных проблем мироздания. Получается, что условный кенийский мусульманин должен не только наблюдать травматичный контент, но и корректно отделять «хорошее» от «плохого». Это усугубляет описанную проблему в двух аспектах:

1. Способен ли кенийский мужчина средних лет, выросший не в либеральном или протестантском обществе, размечать такие данные с полным пониманием тонких аспектов западной политкорректности? Хватит ли ему знаний и опыта, чтобы корректно отметить гендеры присутствующих на фотографии людей?

2. При этом работнику иногда придется поступаться собственными принципами, действуя вразрез со своими ценностями.

По некоторым свидетельствам, во время Корейской войны захваченных северянами пленных заставляли писать эссе о верности коммунизму: чтобы выжить, человек должен был вербализовать аргументацию чуждой ему идеологии. В описанном выше примере вместо написания коммунистического эссе условный кенийский работник будет вынужден помечать радужные флаги и трансгендеров на детском утреннике как хороший и правильный контент, даже если не согласен с этим.

Неужели будущее человечества создается немотивированными людьми, получающими минимальную зарплату, да еще и с очевидным покушением на права работника и человека? Чем разработка ИИ для западных стартапов силами глобального Юга и Востока отличается от утечки мозгов? Не станут ли страны-клиенты зависимыми от стран-провайдеров, соразмерно разрыву в инфраструктуре и способности самостоятельно разрабатывать искусственный интеллект?

Если дешевую рабочую силу из бедных регионов нанимают на удаленную работу для разметки датасетов, то это может привести к кибер-колониализму, когда жители развивающихся стран будут работать за копейки, создавая для корпораций продукт на миллиарды долларов. Минимальные зарплаты, ментальное здоровье и суверенитет целых стран, потогонные производства и детский труд – не имеют значения. Важны только интересы платящих потребителей и инвесторов из «золотого миллиарда». Это для них в советах директоров собирается достаточное «diversity»⁸, а внешняя коммуникация тщательно корректируется с поправкой на всевозможные гендеры, чтобы случайно не попасть под культуру отмены. Развитые государства продолжат экспортировать технологии в страны глобального Юга, получая сверхприбыли и эксплуатируя население наименее благополучных регионов для разработки новых решений.

Возможный сценарий «Транснациональное порабощение»

Киберколониализм – Цифровое рабство

2025 год – Крупные ИИ-корпорации скупают большую часть мировой ИТ-инфраструктуры и данных.

2026 год – ИИ-ассистенты становятся необходимыми посредниками для доступа к онлайн-сервисам.

2027 год – Приняты законы об экстерриториальном цифровом суверенитете ИИ-корпораций.

Технологически менее развитые страны становятся крайне зависимыми от крупных и прогрессивных союзов и блоков. Метрополии активно используют природные и интеллектуальные ресурсы колоний, которые стремительно теряют экономическую и технологическую независимость, что в конечном счете приводит к их неспособности отвоевать свободу политическими или военными методами.

2028 год – Страны глобального Юга полностью переходят под экономический контроль ИИ-гигантов.

2029 год – Внедряются глобальные цифровые валюты и механизмы безусловного базового дохода, окончательно привязывающие людей к платформам.

2030 год – Правительства «колоний» фактически отдают ключевые функции ИИ-алгоритмам.

Чтобы купировать растущие объемы внешней миграции в более развитые страны, в колониях вводят системы цифровых двойников, рекомендательных алгоритмов и корпоративных льгот для местных, а в метрополиях – системы фильтрации нелегальных мигрантов. Продвинутая технологическая инфраструктура позволяет полностью контролировать население колоний, благодаря комплексу информационных, технологических и даже силовых методов.

2031 год – ИИ-корпорации приватизируют космос.

2032 год – Фабрики ИИ-гигантов монополизируют материальное производство.

2033 год – Когнитивные ИИ-модели определяют образование, культуру и науку на планете.

Корпорации ограничивают в правах несогласных, общество теряет способность к сопротивлению из-за генерируемой специальным ИИ пропаганды, попытки мятежа подавляются в зародыше из-за предиктивных алгоритмов и тотальной слежки. Жители колоний становятся дистанционными рабами метрополии, в некоторых случаях даже на персональном уровне.

2034 год – 90 % населения мира находится под прямым или косвенным контролем нескольких ИИ-корпораций.

Экономическое и технологическое превосходство приводит к приватизации власти ИИ-корпорациями: цифровые платформы становятся базовой инфраструктурой цивилизации, заменив государственные институты. «Колонизированное» большинство лишается цифрового и материального суверенитета, усиление неравенства и зависимость от ИИ-сервисов ослабляют демократический контроль. Общество переживает тоталитарную трансформацию и необходимость формирования нового понимания гражданских прав и свобод в изменившихся реалиях.

Переговоры с Зевсом и технологическая суверенность

Ты можешь пойти к доктору, Ты можешь кашлянуть ему в лицо, Заразить все человечество, Но ты не можешь игнорировать мое техно.

Electric Six «Synthesizer», альбом «Fire», студия XL, 2003

Абсолютно всем государствам придется наращивать технологический уровень, чтобы обеспечить контроль, эффективное распределение ресурсов и свой суверенитет. Без собственных технологий (или доступа к политически-нейтральным разработкам) государству может быть опасно, затруднительно и дорого принимать решения в интересах своих граждан. В долгосрочной же перспективе без доступа к технологиям страна слабеет и становится жертвой киберколонизаторов.

В то же время единолично осуществить технологический прорыв могут только единицы, а у большинства стран нет возможности обучить типовую модель ИИ или построить квантовый компьютер – на это не хватит ни компетенции, ни ресурсов. Более того, создание и удержание собственных компетенций – отдельный важный вопрос, неизбежно упирающийся в проблему «утечки мозгов», для купирования которой нужно выстроить сложные организационные системы репатриации образованных кадров.

Чтобы талантливый гражданин Уганды, выучившийся на инженера в Германии, хотел вернуться на родину, ему нужно предложить целый набор преимуществ, включающих гарантии трудоустройства и хороший социальный пакет. Помимо создания центров компетенций в развивающихся регионах, подобные механизмы могли бы способствовать решению миграционного кризиса, который чиновники некоторых развитых стран признают следствием ошибочной политики, но только за закрытыми дверями.

Какими путями можно реализовать доступ к технологиям? Возможны несколько сценариев:

1. Обмен природных или человеческих ресурсов на алгоритмы и вычисления.

Этот сценарий аналогичен программе «Нефть в обмен на продовольствие», позволявшей Ираку с 1995 года продавать ограниченное количество нефти, чтобы оплатить гуманитарные поставки. Вполне вероятно, что подобные механизмы будут запущены по инициативам технологических лидеров (как стран, так и крупнейших корпораций) или в рамках международных программ. Технологическое знание может быть централизовано на уровне международного института, который заботится о всеобщем благоденствии. Институты поддержки ближайшего будущего станут продвигать достижения искусственного интеллекта в развивающихся странах, а может быть, даже предоставлять кредиты на вычисления, по аналогии с деятельностью Международного валютного фонда ООН.

Вне зависимости от способа реализации, развивающимся странам глобального Юга фактически предложат протекторат в обмен на технологии и доступ к вычислениям. Кому больше нужен такой протекторат – вассалу или сюзерену? На первый взгляд, обоим, но у высокотехнологичного сюзерена гораздо больший выбор потенциальных вассалов, а когда спрос превышает предложение, то с точки зрения рыночных отношений паритет выглядит невозможным.

Как будет определяться «справедливый» курс обмена, какие условия придется соблюсти, чтобы попасть в международную программу по распределению бесплатных вычислений? Стоит учитывать, что технологии принадлежат корпорациям, базирующимся в определенных странах, а значит, политически ангажированным. За кого потребуется проголосовать, какие реформы придется провести, какими ценностями поступиться и флаги каких движений развесить перед школами?

2. Коллаборация в рамках экономического или военного блока.

Собирать ресурсы и компетенции вместе значительно выгоднее, чем самостоятельно разрабатывать все с нуля. К тому же в блоки изначально объединяются государства с общими интересами в области безопасности, экономики, социальной стабильности или культуры. Так, в экономическом блоке БРИКС или военном блоке НАТО могут централизоваться необходимые для технологических инноваций ресурсы и компетенции, а все члены станут их бенефициарами, взамен отдавая на нужды блока часть своего ВВП деньгами или природными ресурсами (например литием), временем (например, размечая данные для обучения нейросетей) или информацией (например, позволяя получать данные своих граждан). Пока страна остается членом блока и делает взносы, ее допускают к технологиям, обеспечивающим необходимый уровень социального, экономического и военного развития.

Принадлежность к блоку может быть и неформальной: при совпадении интересов отдельным странам или организациям могут позволить пользоваться технологическими разработками. Каперы средневековья были частными лицами, которые с разрешения верховной власти воюющего государства использовали вооруженное судно для захвата торговых кораблей неприятеля. Достаточно поцеловать королеве ручку – и получаешь право ходить под ее флагом, и если уж зарезал человека на море, то не как пират и бандит, а во имя интересов империи. Так, хакерскую группировку Lazarus, которая стоит за атакой на компанию Sony Pictures в 2014 году и эпидемией компьютерного вируса-шифровальщика WannaCry в 2017 году, в совокупности похитившую более $3 млрд евро, многие аналитики связывают с правительством Северной Кореи. Такие вот кибер-каперы.

Возможный сценарий «Преимущество технопримитивизма»

Отказ от цифровизации – Локализация

2025 год – Ряд стран ограничивает внедрение иностранных технологий в критической инфраструктуре.

2026 год – Усиливается цензура и контроль над интернетом, создаются локальные сегменты сети.

Неспособность отдельных стран конкурировать в области высокотехнологичных разработок, а также высокие риски отдельных технологий для стабильности и суверенитета приводят к отказу от технологической интеграции с внешними партнерами. В связи с активной разработкой отечественного программного обеспечения и оборудования и переходом на локальную версию интернета, а также из-за отсутствия продвинутых систем цифровой связи с внешним миром, критически важные предприятия таких стран становятся гораздо устойчивее ко взлому, а население – к пропаганде стран-оппонентов.

2027 год – Формируются региональные технологические альянсы для совместных разработок.

Этим странам приходится самостоятельно (либо при поддержке доверенных, более развитых партнеров) разрабатывать военные технологии, чтобы обеспечить свою суверенность. Несмотря на увеличение объемов инвестиций в развитие собственной микроэлектроники и телекоммуникаций, они отстают в области высоких технологий, достигнув базового технологического суверенитета только в ограниченном перечне ключевых отраслей. «Примитивисты» делают ставку на «мягкую силу» и становятся лидерами в дипломатии и внешней коммуникации.

Высококвалифицированные дипломатические миссии и институты позволяют таким странам заручиться военной поддержкой одного из политических блоков, а медиа обеспечивают их видимость на карте мира для населения геополитических противников, что делает любое силовое давление на них крайне рискованным с репутационной и экономической точек зрения. На международной арене формируются альтернативные институты глобального управления, а новая модель сдерживания основывается не на технологическом и военном лидерстве, а на дипломатическом балансе и доминировании в медиа-пространстве.

3. Использование общедоступных технологий и открытого исходного кода.

В попытке сохранить суверенитет государства будут пытаться получить технологии бесплатно, например, пользоваться общественными технологическими достижениями, разрабатываемыми компьютерными энтузиастами и волонтерами на принципах открытого исходного кода.

Корпорации тоже могут предоставлять технологии по принципу бесплатного сыра в комплекте с мышеловкой. Механизмы влияния корпораций работают в обществе, которое находится на определенном этапе технологического развития, соответствующего его запросам и ценностям. Поэтому корпорации заинтересованы в расширении своего влияния для формирования новых рынков, увеличения числа потребителей, роста капитализации, получения новых ресурсов и авторитета. Так, компания Microsoft многие годы закрывала глаза на распространение пиратских версий своих операционных систем и программного обеспечения, понимая, что их использование привязывает будущего платежеспособного потребителя к программным продуктам корпорации, а сегодняшний домашний пользователь завтра станет корпоративным.

Современные технологии также могут распространяться условно или даже полностью бесплатно для обучения пользовательской базы и привязки персональных и бизнес-процессов к инфраструктуре оператора. Распробовав возможности технологии, бенефициары в будущем не захотят или не смогут от нее отказываться, и капкан захлопнется.

Будут ли общедоступные технологии достаточно эффективными по сравнению с проприетарными? Какую степень отставания от лидеров нужно соблюдать, чтобы не привлекать внимания или даже агрессии со стороны более сильных и влиятельных конкурентов? Согласно древнегреческому мифу, Прометей похитил огонь у олимпийских богов и передал его людям. За это Зевс – верховный бог, повелевающий громом и молниями, – приказал приковать бессмертного Прометея к скале, куда каждый день прилетал орел и выклевывал его печень, которая за ночь вырастала снова. Какие из современных технологий можно даровать людям, не разгневав богов современного Олимпа?

Официальным поводом для вторжения США и их союзников в Ирак в 2003 году стали поиск и уничтожение оружия массового поражения. В результате вторжения иракская армия была разгромлена, Саддам Хуссейн – свергнут и казнен на виселице, а в стране сформирована лояльная США администрация. И хотя спустя полтора года комиссия из 1400 американских, британских и австралийских экспертов так и не обнаружила в Ираке оружия массового поражения, она признала, что режим Хуссейна представлял угрозу для всего мира, так как планировал сразу же после снятия санкций вернуться к его производству. Одним из аргументом было то, что Хуссейн даже в самые тяжелые для экономики страны времена инвестировал в технологии, развивал инфраструктуру и удерживал квалифицированных ученых в стране, постоянно повышая зарплату научным сотрудникам в интересовавших его отраслях. Коварный, коварный Саддам Хуссейн финансировал науку! А как известно, что дозволено Юпитеру – не дозволено быку.

Насколько далеко отдельные государства, общества или корпорации готовы зайти, чтобы удержать контроль за технологиями? Вероятно, мы увидим прецеденты введения санкций или даже военных интервенций против целых стран, вызванных незаконным использованием чужих технологий в области прогрессивных алгоритмов, искусственного интеллекта и квантовых вычислений. То есть всего, что имеет двойное назначение и должно контролироваться ограниченной группой стран или организаций, разумеется, по их собственному мнению.

Такое вторжение может начаться из-за «вычислений массового поражения», несущих угрозу человечеству или ключевой инфраструктуре. Например, для пресечения разработки искусственного интеллекта, способного создавать новые вирусы или биологическое оружие. Случится ли отключение интеллектуальной инфраструктуры отдельного города из-за того, что его администрация посмела украсть и применять запатентованные, защищенные авторским правом, находящиеся в собственности корпораций-небожителей технологии? Когда современный Зевс проведет публичную порку Прометея, чтобы другим было неповадно?

Способные договориться с Зевсом получат право пользоваться огнем без негативных последствий, а остальные будут сталкиваться с противодействием и отставать. Разница в финансах и навыках, необходимых для работы с различными технологиями, может привести к социальному, экономическому и цифровому неравенству. В итоге такие разрывы углубятся настолько, что станут основой для новой структуры общества.

Возможный сценарий «Олигополия техногигантов»

Локализация – Киберколониализм

2025 год – Усиление технологического соперничества США и Китая, гонка ИИ-вооружений.

2026 год – Консолидация ИТ-индустрии, формирование пяти глобальных ИИ-конгломератов.

2027 год – Разделение глобального цифрового пространства на зоны влияния.

2028 год – Большинство развивающихся стран входит в цифровые неоколониальные блоки.

В результате ряда социальных, политических и военных кризисов мир разделяется на блоки и объединения, согласно геополитическим интересам и выбранной идеологии. В борьбе за влияние крупные союзы становятся поставщиками бесплатных решений высокотехнологичной инфраструктуры для менее развитых стран – сначала для обеспечения лояльности, а потом для привязки к собственным продуктам. Технологии становятся настолько сложными и дорогостоящими для самостоятельной разработки, что развивать их вне крупных блоков невозможно. Чтобы избежать экзистенциальных угроз для цивилизации, запускают международные инициативы по демократическому аудиту, коллаборативной ИИ-безопасности, равномерному глобальному распределению выгод и рисков передовых ИИ-технологий, но они оказываются несостоятельными.

2029 год – Военные конфликты за стратегические ИИ-активы и передовые вычислительные мощности.

2030 год – Запуск конкурирующих орбитальных группировок ИИ-спутников и милитаризация космоса.

2031 год – Геополитика редуцирована до ИИ-алгоритмов и гиперавтоматизированных платформ.

Технологические решения в разных блоках намеренно разрабатываются так, чтобы их было невозможно интегрировать с технологиями оппонентов. Международный бизнес с недружественными странами и блоками затруднен или невозможен. Частным корпорациям приходится показывать лояльность тому блоку, в юрисдикции которого находятся их штаб-квартиры. Растет конкуренция государственных корпораций, от успехов которых зависят политические решения мировых и региональных масштабов, а также влияние на покупателей – не только технологическое, но и культурное. Корпорации, по сути, становятся и новыми армиями, и инструментами «мягкой силы».

2032 год – Дипломатия заменяется соперничеством ИИ-систем, поддерживающих решения лидеров блоков.

2033 год – Принудительная интеграция стран-аутсайдеров в сферы влияния ИИ-альянсов.

2034 год – Мир разделен на три замкнутые технологические зоны с жестким когнитивным контролем ИИ.

Идеологии и институты вытесняются алгоритмическими механизмами контроля и оптимизации деятельности населения. Тотальный ИИ-надзор и предиктивное нормирование подавляют индивидуальную свободу и творчество. Мир стоит на грани самоуничтожения из-за потери контроля над рекурсивно самоулучшающимся военным ИИ.

Глава 3
Техноанархизм или цифровое рабство?

Индивиды и корпорации имеют разные уровни доступа к высоким технологиям, которые могут быть как инструментом управления людьми, так и инструментом в их руках. Будут ли технологии использовать как инструмент в руках людей, уравнивающий их с общественными институтами, или как подчиняющий инструмент контроля?

Техноконтркультура

Этот шип во мне – от дерева, Этот шип во мне – от дерева, которое я вырастил, Он разрывает меня, и я истекаю кровью.

Metallica «Bleeding Me», альбом «Load», студия Elektra, 1996

Первые криптоанархисты еще в начале 1990-х годов предвидели проблему цензуры и приватности. По мере развития информационных технологий обмен данными и поиск в интернете становились проще, что могло привести к формированию общества наблюдения и слежки. Криптография должна была стать решением этой проблемы.

Примерно тогда же возникла и «криптомечта», которая связана с работой Дэвида Чаума «Безопасность без идентификации: системы транзакций, которые оставят Большого Брата не у дел», опубликованной в начале 1980-х годов. Автор писал о введении анонимных цифровых денег как альтернативы валютам, поддерживаемым правительством, что должно было повысить уровень безопасности и конфиденциальности.

Идеи Чаума дали толчок движению шифропанков (производное от слов «шифр» и «киберпанк»). В конце 1992 года Эрик Хьюз, Тим Мэй и Джон Гилмор основали небольшую группу с ежемесячными встречами. На «учредительном собрании» Мэй зачитал свой «Манифест криптоанархиста», а несколько месяцев спустя Хьюз опубликовал «Манифест шифропанка». Они ратовали за приватность как возможность выбирать, какую информацию о себе открывать миру, что требовало системы анонимных транзакций. По их мнению, приватность необходима открытому обществу цифрового века. Таким образом, в своей риторике они пошли намного дальше предложений Чаума, а криптография легла в основу радикальных социальных и политических изменений, ослабляя власть государства и других институтов.

Декларация независимости киберпространства

Страны индустриального мира, вы, унылые гиганты из плоти и стали. Я из киберпространства, нового дома разума. От имени будущего я прошу вас, представителей прошлого, оставить нас в покое. Вам здесь не рады. Там, где мы собираемся, у вас нет никаких полномочий.

Мы не избираем правителей и вряд ли когда-нибудь будем, поэтому у меня не больше права к вам обращаться, чем у самой свободы. Мы строим глобальное общественное пространство, и я объявляю его независимым от той тирании, которую вы стремитесь на нас обрушить. У вас нет морального права руководить нами, а у нас – реальных причин бояться методов принуждения, которыми вы владеете.

Законную власть обретают с согласия тех, на кого она распространяется. Нашего вы не добились и не получили. Мы вас не звали. Ни нас, ни наш мир вы не знаете. Киберпространство – за пределами ваших границ. Не думайте, что можете его построить как объект инфраструктуры. Не можете. Это естественное явление, и оно прирастает нашими коллективными трудами.

Богатство наших рынков – плод не ваших усилий. Вы не знаете нашей культуры, нравов и неписаных законов, которые уже обеспечивают в нашем обществе больше порядка, чем все, что вы навязываете.

Вы утверждаете, что у нас есть проблемы, которые нужно решать, и на этом основании вторгаетесь в наши пределы. Многих из этих проблем не существует. Все реальные конфликты, все неправильное мы видим и устраняем своими силами. У нас будет свой общественный договор. И эта руководящая сила будет исходить из условий нашего мира, а не вашего. Наш мир не такой.

Киберпространство соткано взаимодействием, отношениями и самой мыслью. Наш мир везде и нигде, но не там, где живут тела.

Мы создаем мир, куда смогут войти все, независимо от расы, экономической мощи, военной силы и места рождения.

Мы создаем мир, где кто угодно сможет выразить свои мысли, какими бы необычными те ни были, не боясь, что его заставят молчать или подчиняться правилам.

К нам неприменимы ваши юридические определения собственности, самовыражения, личности, передвижения и обстоятельств. Они основаны на материи. Здесь материи нет.

У нас нет тел, поэтому, в отличие от вас, мы не можем добиться порядка физическим принуждением. Мы верим, что нашими руководящими началами станут нравственность, всеобщее благоденствие и принцип извлечения личной выгоды через общую. Мы можем находиться во множестве разных юрисдикций. Единственный закон, который признают все наши культуры, – поступать так же, как хочешь, чтобы поступили с тобой. Мы надеемся заложить это в основу конкретных решений. Но мы не можем принять те решения, которые пытаетесь навязать вы.

Принятый в США закон «О телекоммуникациях» противоречит их собственной Конституции и попирает мечты Джефферсона, Вашингтона, Милля, Мэдисона, Токвиля и Брэндайса.

Теперь эти мечты должны возродиться в нас. Вы боитесь собственных детей, ведь они свои в мире, где вы чужие. Из-за этого страха вы возложили родительские обязанности, которые вам страшно взять на себя, на бюрократические аппараты. В нашем мире все состояния и проявления человеческой натуры, от губительных до ангельских, формируют единое целое – глобальный диалог мельчайших частиц. Мы не можем отделить тот воздух, который вызывает удушье, от того, который окрыляет.

В попытке избавиться от вируса свободы Китай, Германия, Франция, Россия, Сингапур, Италия и США воздвигают погранпосты на рубежах киберпространства. Возможно, какое-то время им удастся его сдерживать, но в мире, который скоро будет пронизан потоками цифровой информации, они окажутся бесполезны.

В США и других странах отмирающие информационные отрасли могут пытаться продлить себе жизнь, создавая законы, которые устанавливают право собственности на слово. В них не больше благородства, чем в чугуне. В нашем же мире все, что ни создал бы человеческий разум, можно воспроизводить и распространять бесплатно и бесконечно. Для того чтобы донести мысль до всего мира, ваши фабрики не нужны.

Пусть наши тела остаются подвластными вам, но себя виртуальных мы обязаны провозгласить недоступными для вашего суверенитета. Мы рассеемся по всей планете, и никто не сможет сковать наши мысли.

Мы построим цивилизацию разума в киберпространстве. И пусть она будет гуманнее и справедливее того мира, который создали вы.

Джон Перри Барлоу, сооснователь Electronic Frontier Foundation, 1996 год

Первые криптоанархисты хотели построить мир без посредников и контроля со стороны регуляторов. Один из основоположников интернета Джон Перри Барлоу писал в своей декларации об общественном договоре и построении справедливой и гуманной цивилизации разума. Однако в киберпространстве действуют не только «хорошие» участники с высокими моральными принципами, но и «плохие» злоумышленники.

И если в реальном мире «плохишей» сдерживают государство и правоохранительные органы, то мир без регуляторов, о котором говорят киберанархисты, создает благодатную почву для злоупотреблений. Барлоу ссылается на нравственность и всеобщее благоденствие, но по каким критериям они будут определяться и кто их будет устанавливать? Этот тезис противоречит тому, что в мир киберанархии смогут войти все. А значит, и киберпреступники не упустят шанса воспользоваться возможностями виртуального мира.

Непременно воспользуются, ведь они давно стали частью криптоэкономики. Анонимность позволяет им не только избегать ответственности перед законом, но и обходить установленные в сообществе нормы, не неся репутационных обязательств перед коллегами, которые обычно подразумеваются даже в криминальных кругах. Например, им не зазорно атаковать фармацевтическую компанию Change Healthcare вирусом-шифровальщиком, нарушив доставку рецептурных препаратов по всей стране более чем на 10 дней, чтобы получить выкуп в размере $22 млн. В результате 350 биткоинов были переведены на кошелек хакерской группировки в начале марта 2024 года, а за 2023 год жертвы атак вирусов-шифровальщиков выплатили рекордный $1 млрд в криптовалютах в качестве выкупа за расшифровку данных и восстановление бизнес-процессов.

Сегодня криптографические инструменты используют в различных целях, поэтому профессор Принстонского университета Арвинд Нарайанан разделяет их на:

• криптографию для безопасности – в электронной коммерции для защиты финансовых транзакций, например при шифровании номера банковской карты пользователя;

• криптографию для конфиденциальности – в социальных и политических целях, например для противодействия государственной цензуре и попыткам контролировать обмен информацией.

Развитие электронных коммуникаций дало гигантские возможности для слежки за людьми и вызвало встречное желание определенных групп защитить свою приватность. Основанное на современных технологиях движение считает, что математические законы сильнее законов, устанавливаемых властями, поэтому криптоанархизм непобедим. Взлет популярности криптовалют обусловлен в том числе их способностью защитить частную жизнь и личную экономическую свободу средствами криптографии, так как связь между отправителем и получателем трудно выявить.

Американский журналист Стивен Леви в 2001 году писал в своей книге «Крипто» о том, как криптоповстанцы победили правительство, отстояв приватность в эпоху цифровых технологий. Под криптоповстанцами понимаются группы ученых и любителей, представителей гражданского общества, которые действительно одержали победу над государством, вынудив его отказаться от ограничительных мер при распространении криптографических инструментов. Однако в масштабах глобального вмешательства государства в частную и экономическую жизни граждан, в том числе в сфере цензуры, приватности и анонимности, эта победа была незначительной.

Значимую роль в освещении злоупотреблений власти сыграл проект WikiLeaks. Криптографические методы способствовали его успеху, но не стоит преувеличивать их важность. Сегодня организация получает защиту благодаря законам Швеции, а не технологиям анонимности. Можно ли говорить, что киберанархисты ошиблись, а их мечта осталась нереализованной?

Манифест криптоанархиста

Компьютерные технологии находятся на грани предоставления людям и группам возможности общаться и взаимодействовать друг с другом совершенно анонимно. Два человека могут обмениваться сообщениями, вести бизнес и переговоры через электронные контракты, не зная настоящих имен и не имея представления об идентичности друг друга. Обмен данными в сетях будет невозможно отслеживать благодаря многократному изменению маршрутов зашифрованных пакетов и предохраняющих от несанкционированного вмешательства блоков, в которых реализованы криптографические протоколы с практически идеальной защитой.

Репутация будет иметь первостепенное значение для сделок – большее, чем кредитные рейтинги имеют сегодня. Эти новшества полностью изменят характер государственного регулирования, возможность взимать налоги и контролировать экономические отношения, способность хранить информацию в тайне и даже представления о доверии и репутации.

Государство, чтобы не допустить социальной дезинтеграции, попытается замедлить или приостановить распространение технологий, ссылаясь на соображения национальной безопасности. Это обоснованно, ведь криптоанархия позволит свободно торговать национальными секретами, незаконными препаратами и краденым. Технологии сделают возможным даже создание отвратительного рынка заказных убийств и вымогательств. Но это не остановит криптоанархию.

Так же как книгопечатание изменило социальный строй и уменьшило могущество средневековых гильдий, криптография принципиально изменит роль корпораций и государств в экономических транзакциях. Изобретение колючей проволоки, которое кажется второстепенным, позволило огораживать земли и изменило представления о собственности в западных штатах. «Второстепенное» открытие «темной стороны» математики стало кусачками, которые разрежут колючую проволоку вокруг интеллектуальной собственности.

Действуйте, ибо вам нечего терять, кроме изгородей из колючей проволоки.

Тимоти Мэй, инженер Intel, 1992 год

Передача данных о себе третьим лицам стала нормой в современном обществе. Более того, без этого в некоторых случаях невозможно взаимодействовать с современными продуктами и сервисами. Поэтому любой пользователь самостоятельно принимает решение относительно каждого отдельного продукта: готов ли он обменивать информацию о себе на сервис или товар. Результаты ряда опросов подтверждают, что хотя многие пользователи придают большое значение своим персональным данным, далеко не все совершают действия для их активной защиты.

Конфиденциальность становится ценностным предложением, но далеко не для всех. Это может быть связано с неактуальностью проблемы («мне нечего скрывать»), непониманием последствий («и что они сделают с моими данными?»), бессилием («я все равно не могу ни на что повлиять») или готовностью пожертвовать конфиденциальностью ради комфорта («зато так удобнее, это разумная плата»).

Среди причин, по которым пользователи не могли защитить свои персональные данные, называли:

• невозможность отследить, что именно компании делают с ними;

• обязательства по передаче данных ради пользования сервисом;

• ощущение, что все данные уже где-то опубликованы;

• недоверие к компаниям, возможность нарушений заявленных ими протоколов или законодательства;

• непонимание или отсутствие альтернативного выбора.

Похоже, в обществе назревает разрыв во взглядах на анонимность и конфиденциальность – сами эти концепции теперь имеют несколько градаций в умах потребителей.

Сегодня «криптомечта» обретает новое прочтение и даже становится частью платформы отдельных политиков: Роберт Кеннеди-младший, американский юрист и деятель антипрививочного движения, кандидат на президентских выборах в США 2024 года, обещал освободить Джулиана Ассанжа из заключения в первый день своего президентства. В декабре 2022 года Илон Маск провел опрос среди своих подписчиков в Twitter о том, должны ли быть помилованы Джулиан Ассанж и Эдвард Сноуден – абсолютное большинство (80 %) проголосовали «за».

Конфиденциальность может усилить ценностное предложение коммерческого сервиса или продукта. Например, сегодня уже реализованы следующие коммерчески успешные решения:

• автоматизированный трекер-консультант, который рекомендует пользователю выбор тех или иных опций при взаимодействии с другими компаниями;

• встроенная в браузер функция, которая удаляет историю поиска и запутывает рекомендательные системы после смерти владельца;

• услуга по автоматической рассылке писем и иных запросов на удаление данных о клиенте различным дата-агрегаторам;

• валюта, счет которой не привязан к персональным данным владельца;

• СМИ без оглашенной редакции.

Будущее криптомечты

У сегодняшних «цифровых поколений» куда больше интереса к управлению своими данными, ведь они с детства живут в цифровом контексте. Когда цифровые аборигены⁹ сами станут родителями, у них будет особый запрос на обращение с данными их детей, потому что они выросли в мире, в котором информация имеет ценность и может быть использована злоумышленниками или корпорациями. Для цифровых аборигенов понятия «контроль над данными» и «способность самостоятельно принимать решения» практически эквивалентны: если о тебе знают слишком много, то могут тобой манипулировать. Далеко не все хотят бороться за эту самостоятельность, но связь между данными и решениями уже выстроена в их сознании, даже если явно не вербализирована.

Поколение Альфа¹⁰ получает доступ к технологиям раньше, чем их предшественники: в среднем они приобретают первый смартфон в 9 лет, тогда как представители поколения Z¹¹ – только в 12 лет. Альфа-дети гораздо чаще просят разрешения у родителей, прежде чем записывать или публиковать контент с их участием. Родители также становятся более осведомленными: 71 % опрошенных заявили, что уже беспокоились о публикации фотографий своих детей в интернете. Поколение Альфа придает больше значения контролю, свободе воли и целенаправленности в своем опыте работы со СМИ, чем их родители (в основном миллениалы¹²).

Этот запрос на персональный контроль в СМИ и технологиях может еще сильнее углубиться с развитием генеративного искусственного интеллекта: во всем мире почти 20 % детей получили доступ к ChatGPT через веб-браузер всего через год с небольшим после запуска.

Запрос на контроль над собственными данными может распространиться на любые технологии: в доступе к ним индивид может сравняться с корпорациями и другими организациями, а присутствие государства как медиатора между акторами станет необязательным для сохранения общественного строя. С развитием технологий общественный договор может стать алгоритмом, причем самоисполняющимся. Роль же государства как регулятора общественного договора перейдет к техническим средствам.

Автоматизация общественных договоров сильно упростит социально-экономические процессы, экономя время и силы людей. Онлайн-сервисы заменят не только привычные прежде вызов такси по телефону через диспетчерскую службу, поход в магазин или голосование на выборах, но даже процесс частного торга – функционалом приложения для поиска лучшей цены.

В отличие от человека, алгоритм не будет преследовать целей, не заложенных в него изначально. Власть машин не эксклюзивна: человек может сделать много разных устройств, изменить алгоритмы и правила или вообще разрушить механизмы. Например, люди просыпаются утром по звонку будильника, но могут изменить время сигнала или отключить будильник и проспать. При этом будильник не захочет разбудить вас пораньше и не будет заставлять неукоснительно следовать его воле.

Пожалуй, в качестве современного примера умеренного техноанархического сообщества можно привести участников экономических отношений на товарной или фондовой бирже. Фьючерс или опцион – автоматический договор на поставку товара. Если условие выполнено, то вы получите товар, а если нет, то автоматически спишется штраф. Повсеместное внедрение технологий, замещающих традиционные институты, будет долгим процессом, требующим масштабной перестройки уже существующих систем взаимоотношений. В мире без привычных нам посредников и регуляторов потребуется гораздо больше осознанности, самостоятельности и разумности.

Несмотря на нейтральный по своей природе характер любой технологии, использование технических средств для анонимизации коммуникаций и финансовых транзакций – это инструмент в руках киберпреступников, скрывающихся от правоохранительных органов и отмывающих украденное через криптовалютные миксеры. В большинстве стран техноанархизм воспринимается государством как нежелательный конкурент или даже угроза традиционным институтам. Это приводит к регулированию и сдерживанию: обязательной сертификации ввозимых и выпускаемых устройств, запретам и ограничениям на оборот криптовалюты, непременной идентификации личности при осуществлении значимых действий и т. д.

Однако быстрое развитие технологий в определенной отрасли способствует техноанархизму. Государство не успевает подчинить эту сферу, и роль регулятора берут на себя технические устройства и алгоритмы, которые и осуществляют социально-экономические процессы. Несмотря на кажущуюся слабость политической воли адептов техноанархизма, можно привести пример их абсолютной победы – глобальная сеть интернет. Когда техническое достижение способно кардинально изменить жизнь людей, удержать его под контролем одного правительства или корпорации невозможно. Более того, интернет не просто меняет жизнь людей – он слишком выгоден для всех участников, чтобы отказываться от него полностью. В Китае, с его развитой и самодостаточной внутренней экосистемой и внедренной с 2003 года системой фильтрации содержимого интернета «Золотой щит», тем не менее есть мостики в глобальную сеть. Да что там, даже в закрытой от всего мира изнутри и снаружи Северной Корее есть несколько точек доступа.

В то же время с развитием алгоритмов и появлением мощного ИИ у машин может появиться более сильный хозяин, чем создавший их человек. В этом случае мы можем стать рабами машины, не заметив и не осознав изменения своих функций и ролей.

Меланж должен течь не переставая

– Матрица повсюду. Она окружает нас. Даже сейчас она рядом с нами. Ты видишь ее, когда смотришь в окно или включаешь телевизор. Ты ощущаешь ее, когда работаешь, идешь в церковь, платишь налоги. Целый мирок, надвинутый на глаза, чтобы спрятать правду.

– Какую?

– Что ты только раб, Нео. Как и все, ты с рождения в цепях. С рождения в тюрьме, которой не почуешь и не коснешься. В темнице для разума.

к/ф «Матрица» (реж. братья Вачовски), студии Warner Bros., Village Roadshow Pictures, Groucho II Film Partnership, Silver Pictures, 2001

Может ли в основе интернета будущего лежать уважение к пользователю, его времени и информации, а не его эксплуатация?

Сомневаюсь, потому что уважение к пользователю неудобно для государств. Пока я пишу эту книгу, мне регулярно приходится разгадывать до пяти (Карл!) капч Google для каждого поискового запроса, потому что я запрашиваю информацию с российских IP-адресов, хотя раньше сомнений в моей человеческой природе не возникало. Именно так безобидное цифровое рабство превращается в цифровую сегрегацию, когда одним для получения информации требуется больше прыжков с бубном, чем другим, а то и вовсе доступ для них ограничен.

В нынешней дискуссии о «хороших» и «варварских» цивилизациях подразумевается, что варварам доступ к информации совершенно не нужен, а может, даже и вреден. И очень удобно, что варвары уже оцифрованы поголовно, иногда целыми народами. Для перехода из касты варваров в «хорошую» цивилизацию могут быть предусмотрены специальные процедуры. К примеру, Европейский союз предлагает выдавать «русским в изгнании» специальные «демократические паспорта». Будет ли у пользователя с таким «правильным» паспортом меньше проверок для предоставления доступа к информации в поисковой системе?

Сомневаюсь еще и потому, что уважение к пользователю неудобно для корпораций. Чтобы осознать масштабы вероятного цифрового рабства, достаточно понять, что в метавселенных с обычного пользователя они смогут получать еще больше «надоев» персональных данных. А увеличение надоя – одна из ключевых целей корпораций. Системы расширенной реальности можно использовать для отслеживания взгляда, паттернов движений, их изменения в ответ на эмоциональные стимулы, а также для измерения некоторых физиологических показателей. Отчасти то же самое касается и дополненной реальности – даже навигаторы подразумевают трекинг местоположения автомобиля или смартфона и конкретизацию направления движения. Со сбором более подробных данных станет доступна большая глубина поведенческих паттернов и появятся новые целевые аудитории.

Контроль корпораций или других акторов над окружающими нас бизнес-экосистемами вместе с изменениями в законодательстве могут привести к тому, что неповиновение им вызовет отказ от работы с таким человеком.

Я неоднократно сталкивался со следующей позицией людей: «Пусть собирают мои данные и профилируют меня, если это позволяет корпорациям предоставлять мне более удобный сервис». Битва за приватность проиграна не потому, что шифропанки оказались слабее, а потому что тем, за кого они боролись, эта свобода не нужна. Не надо насильно переводить бабушку через дорогу, менять ей пароль и рассказывать о рисках утечки персональных данных: она для себя уже все решила и готова отдать их за удобство и комфорт.

Как мы моргаем или потеем, с какой частотой бьется наше сердце или как расширяется зрачок при виде брендовой сумки – именно в таких данных кроются необходимые для гиперкастомизации коммерческого предложения возможности, потому что реакцию зрачка или скорость сердцебиения не подделать.

Исследователи Вашингтонского университета представили инновационные «термальные серьги», способные фиксировать температуру тела и уровень стресса, а также отслеживать овуляцию и менструальные циклы. Так что мониторинг сенситивных биометрических данных – вопрос не ближайшего будущего, а очень даже настоящего: их начинают собирать сразу после того, как внук подарит новые стильные серьги бабушке, заботясь о ее здоровье.

До того, как интернет стал коммерческим пространством, люди самостоятельно контролировали свои онлайн-взаимодействия. Развитие сетевых технологий в 1990-х и даже в начале 2000-х годов было окутано техноутопизмом и романтизированным киберпанком, идеями о пользе технологий для всего общества и создании более открытого пространства, в котором люди могли бы свободно собираться в сообщества, выражать идеи и строить бизнес.

С момента коммерциализации онлайн-пространств технологические гиганты с их централизованными платформами сделали интернет местом, где заправляют алгоритмы, ориентированные на извлечение прибыли, что, помимо появления компаний с капитализацией в триллионы долларов, подняло серьезные проблемы, связанные с неприкосновенностью частной жизни, личной безопасностью, поляризацией общества, сегрегацией, предвзятостью, разжиганием ненависти, сексуальными преследованиями и дезинформацией в глобальном масштабе.

Человек для корпораций – не только потребитель, в нуждах которого надо разбираться, но и трудовой ресурс, который нужно использовать эффективно и не расходовать попусту. Неспроста многие компании занимаются «управлением человеческими ресурсами», а не «развитием человеческих талантов» или «раскрытием человеческого потенциала». Инструменты для анализа выполнения целевых показателей эффективности, учета времени на работу и отдых, присутствия на рабочем месте и даже распознавание направления взгляда уже привели к буквальной цифровизации деловой активности каждого сотрудника. Представьте, какие возможности для управления рисками и повышения эффективности откроются, если проникнуть в активность и мысли работника еще глубже.

Возможный сценарий «Корпоративный надзор»

Цифровое рабство – Суверенитет корпораций

2024 год – Корпорации внедряют обязательное ПО для мониторинга удаленных сотрудников.

Корпоративный мониторинг эффективен, только когда сотрудник находится внутри корпоративного контура, используя ноутбук, электронную почту и информационные системы корпорации. Поэтому с переходом на удаленные и гибридные режимы работы у работодателя появляются белые пятна, которые не позволяют использовать человека-ресурс максимально эффективно. Компании стараются вернуть утраченный контроль, проникая в дом, быт и семью работника. Работодатели получают доступ к веб-камерам, микрофонам и активности на экранах, а отслеживание местоположения и биометрии становится частью трудовых договоров.

2026 год – Домашние устройства сотрудников интегрируют в корпоративные сети наблюдения.

Умная домашняя инфраструктура готова к принципиально новому использованию, а производители формируют новую и намного более устойчивую бизнес-модель: вместо продажи оборудования потребителям, гораздо эффективнее раздавать оборудование бесплатно, продавая корпорациям даже не данные, а инструменты для мониторинга и управления рисками. Сотрудник включает чайник – значит, «гоняет чаи» и мало работает. Запускает музыку – значит, отвлекается и расфокусируется. Разговаривает с умной колонкой – значит, может выдать корпоративные секреты. У него повышается пульс во время разговора с руководителем – значит, обманывает. ИИ круглосуточно анализирует поведение, настроение и привычки работников, а оценка алгоритмами продуктивности и лояльности влияет на карьерные перспективы.

2028 год – Корпорации диктуют режим дня, питание и занятия сотрудников вне работы.

Когда-то люди шутили, что холодильник считает, сколько раз его открывали, а теперь смиряются с тем, что так оно и есть. Несогласие с политикой тотальной прозрачности работодателя приводит к увольнениям, профсоюзы подавляются, а коллективные действия и самоорганизация пресекаются предиктивной аналитикой.

2030 год – Работодатели влияют на личные связи и семейную жизнь сотрудников.

2032 год – Дети сотрудников с рождения попадают под наблюдение корпораций.

Корпоративный контроль маскируется под программы благополучия и поддержки семьи. В отдельных компаниях несогласованные с работодателем отношения и зачатие детей влекут штрафы. Способности и наклонности детей анализируются для будущей «оптимальной» занятости, а индивидуальные траектории развития определяются интересами бизнеса.

2034 год – Грань между корпорацией и личной жизнью полностью стерта.

Гиперконтроль, принудительная прозрачность, психологическое давление и страх становятся новой нормой трудовых отношений и корпоративной культуры, а общество раскалывается на элиту топ-менеджеров и бесправных подконтрольных работников.

В январе 2023 года на хакерском сайте BreachForums анонимный пользователь опубликовал 45 ГБ исходного кода систем Яндекса. Оказалось, что компания отслеживает огромное количество информации о пользователях: курят ли они, на каком этаже находятся, в каком составе семьи живут, сколько лет их детям, интересуются ли они консольными видеоиграми и многое другое. Конечно, есть подозрение, что подобное практикуют многие, просто у Яндекса была утечка, а у других – не было. Но пока не посмотришь в исходный код, этого всего как бы и нет. Сами себя компании по рукам бить не станут.

И автор этого текста, и читатель – мы и есть та самая бабушка, описанная выше. В конце концов, зная реакцию конкретного индивида на тот или иной стрессор, можно подсовывать его в нужный момент, чтобы человек купил, выбрал, проголосовал… И тогда он превратится в бесконечную шахту по добыче данных, а сами данные – в универсальный ценный актив. В таком случае человека можно не увольнять, даже если он перестал быть эффективным на фоне продвинутого ИИ. Наоборот, нужно держать его внутри экосистемы, чтобы ручеек данных продолжал поступать: «Меланж должен течь не переставая».¹³

Эволюция социального рейтинга

Добро пожаловать, мой сын, Добро пожаловать в машину. Где ты был? Все в порядке, мы знаем, где ты был.

Pink Floyd «Welcome to the Machine», альбом «Wish You Were Here», студия Harvest, 1975

В Китае социальный рейтинг анонсирован в 2014 году и законодательно введен в 2021 году. Изначально предназначенный для оценки крупных компаний, таких как Tencent, Alibaba и Baidu, рейтинг быстро перерос в общенациональную программу. Стартуя с 1000 баллов, каждый гражданин оценивается по 160 тысячам параметров и своими действиями может как поднять, так и опустить рейтинг. Китайский социальный рейтинг практически идентичен классификации надежности и финансовой устойчивости для компаний: с 1050 баллами у гражданина индекс ААА, с 1000 – А+, с 900 – В, ниже 849 – С.

Инициативы о внедрении подобных систем обсуждаются в разных странах и на разных уровнях. Например, в Казахстане в 2023 году запущена «Цифровая карта семьи» с автоматическим начислением баллов, позволяющая получить финансовую и социальную поддержку от государства. В России обсуждений на государственном уровне пока не слышно, но отдельные инициативы запускаются. Так, ученые из Российского государственного социального университета с 2022 года разрабатывают свою концепцию рейтинга в виде двухкомпонентного скоринг-кода, например 47–29. Первое число – социальный статус и «заслуги» человека, а второе – социальный уровень и оцифровка его «перспектив» с точки зрения государства. В РГСУ ожидают, что органы власти всех уровней и общественные организации смогут использовать эту систему «для реализации оперативной и объективной социальной поддержки населения». Даже планируемое название этой рейтинговой системы – «Мы»¹⁴ – подразумевает отказ от личных интересов в пользу общественных.

Сегодняшние программы лояльности корпораций могут постепенно трансформироваться в программы сегрегации. Чем больше вы открываетесь, тем большую скидку получаете на услуги глобальных экосистем. Высокий рейтинг гарантирует более комфортную жизнь и качественный сервис, а низкий – ущемление в правах. Когда все социально-экономические задачи потребителя решаются в рамках одной экосистемы, выпадение из нее становится крайне болезненным и неудобным, а то и невозможным.

Наиболее прогрессивные корпорации уже предлагают комплексные программы лояльности. Например, Яндекс по программе «Плюс» начисляет кэшбэк баллами, которые можно тратить на товары и услуги в пределах экосистемы. При этом отдельные сервисы учитывают дополнительные количественные и качественные критерии. Так, приложение для краткосрочной аренды автомобилей «Драйв» формирует «профиль вождения», в котором фиксирует:

• стиль вождения за последние 200 км;

• резкие маневры – ускорения и торможения, перестроения, крутые входы в повороты;

• превышения скорости больше 20 км/ч.

Пользователям с рейтингом от 96 до 100 начисляют дополнительные 10 % кэшбэка, с рейтингом выше 42 – предлагают более широкий выбор автомобилей, а с рейтингом ниже 41 придется платить за аренду дороже.

Боитесь социального рейтинга «как в Китае»? А он уже здесь, и вы его активно составляете – каждый день:

• Водитель был пристегнут? А вы были пристегнуты? В салоне хорошо пахло? Вы довольны машиной? Сделайте соответствующую пометку в приложении.

• Здесь нельзя парковаться. Водитель будет ждать три минуты и может уехать, поставив вам плохую оценку.

• Высокий рейтинг в каршеринге открывает доступ к новым машинам. Превышение скорости снижает рейтинг, поэтому везите себя прилично.

• Если будете платить картой регулярно, то получите повышенный кешбек. Если станете вести себя неприлично, то баллы лояльности обнулят.

• Нарушают правила дорожного движения? Позвоните и сообщите об этом – нарушителя уволят.

• Плохое обслуживание? Напишите всю правду в соцсетях и поставьте одну звездочку.

• Он из этих? Или из тех? Давайте занесем его в специальные списки тех или этих.

Идея составить рейтинговую таблицу неизбежно возникает после оцифровки огромного количества социально-экономических взаимодействий. Государствам такая таблица нужна как для обеспечения безопасности, так и для более эффективной социальной и финансовой поддержки. Корпорациям она дает дополнительные механизмы удержания потребителя внутри экосистемы. Присвоение рейтинга клиенту также позволяет минимизировать риск мошенничества и экономить на аналитике.

Это снижает расходы корпораций на обслуживание и ускоряет доставку клиентских сервисов, упрощая идентификацию для совершения платежей и получения доступа к цифровым ресурсам. Корпорации готовы поделиться с клиентом сэкономленным в виде кэшбэка или баллов лояльности, что привяжет его еще сильнее. Зачем вырываться из комфортной экосистемы, если здесь кастомизированные услуги и товары, бесшовная оплата и доставка, а также кредитование с минимумом или вообще без документов? От потребителя требуется лишь раскрывать о себе максимум информации и соглашаться на мониторинг.

Клиентов с высоким рейтингом награждают бонусами, лучшими предложениями и максимальным выбором. Если вы лояльны к власти, не допускаете просрочек по кредитам, ведете здоровый образ жизни и не имеете проблем с законом, то можете получить повышенный кэшбэк, низкую ставку по кредиту, дешевую автостраховку, налоговые вычеты и персональные предложения от торговых сетей.

Штрафы за любое отклонение от желаемого поведения снизят рейтинг, и клиенту придется платить больше, а получать меньше. Отклонения могут варьироваться от страны к стране, включая громкую музыку, «токсичные» слова в переписке, нарушение правил дорожного движения, «антипрививочные» убеждения, неправильное питание, низкую успеваемость детей в школе, – сотни и тысячи социальных и бытовых нарушений неотвратимо повлияют на жизненные возможности.

Социальный рейтинг превратится в цифровое рабство в тот момент, когда подписка и мониторинг станут обязательным условием не только для комфорта и удобства, но и для существования в современном цифровом мире. Даже при наличии нескольких экосистем на выбор, жизнь вне их станет затруднительной, если вообще возможной.

Сбор данных о человеке в целях профилирования, постоянный мониторинг финансовых транзакций и социальных взаимодействий могут привести к ограничению его прав и свобод, искусственно затрудняя или ограничивая использование сервисов, находящихся за пределами экосистемы. С накоплением массивов чувствительных данных о человеке, утечки информации в результате хакерских атак или технических неисправностей, а также злоупотребления полученными данными, могут нанести ему невосполнимый финансовый и репутационный ущерб.

Кроме того, растет зависимость от технологий: люди становятся пленниками своих гаджетов и онлайн-сервисов. Они вынуждены быть подключенными к сети, чтобы постоянно обмениваться данными, обновлять программы и устройства. В случае недоступности технологии или сервиса человек оказывается «выключенным» из привычных социально-экономических взаимодействий. Наконец, угрозой становится и растущее могущество самих экосистем. Продолжение тенденции к монополизации и олигополии сделает эти структуры настолько сильными, что они будут определять качество жизни людей.

Возможный сценарий «Кибер-крепостничество»

Цифровое рабство – Полная цифровизация

2025 год – Правительства и корпорации повсеместно внедряют системы социального рейтинга.

С тотальной оцифровкой всех особенностей и качеств человека у корпораций и государств появляется возможность фильтровать людей на основе социального рейтинга, который складывается из их поведения, репутации, публичных заявлений и даже ДНК. Баллы начисляются за «правильное» поведение и вычитаются за «проступки», низкий рейтинг ограничивает доступ к работе, кредитам, образованию и услугам.

2026 год – Алгоритмы рейтингов становятся более инвазивными и непрозрачными.

ИИ отслеживает действия людей онлайн и оффлайн, анализируя их связи и влияние. Инакомыслие, критика власти, работодателя, экосистемы и даже просто «нежелательные» контакты строго, но справедливо наказываются снятием баллов. Люди с высоким рейтингом получают привилегии и ресурсы, а низший класс – ограничения. Доступ в престижные районы городов, заведения и транспорт требуют определенного количества баллов. Для «выпавших» из системы людей с низким рейтингом практически не остается возможности вернуться в общество: большинство видов работ для них недоступно, а возможности социальных взаимодействий за пределами собственного маргинального круга общения ограничены.

2028 год – Общество расслаивается на касты в зависимости от социального рейтинга.

Для людей с крайне низким рейтингом фактически введено «цифровое крепостное право». Появляется «теневой рынок» людей, на которых уже не распространяется даже правовая защита. Их используют для грязной работы, например разметки датасетов или фильтрации контента со сценами насилия. Такие люди не имеют социальной мобильности, сильно ограничены в возможностях выбора и физически привязаны к тому или иному месту работы, подобно крепостным. Они лишаются свободы передвижения, должны отрабатывать баллы на принудительных работах, а попытка побега из системы грозит полной социальной смертью и изоляцией.

2032 год – Дети наследуют рейтинг родителей и несут ответственность за их «долги».

Единственный способ повышения рейтинга – многолетнее покорное служение. Кому посчастливится, может найти себе «помещика» и стать постоянным обслуживающим персоналом, но в основном маргиналы зарабатывают на жизнь временными подработками. Некоторым людям с плохим цифровым профилем приходится безупречно работать на тяжелой рутинной работе десятилетиями, чтобы выправить рейтинг и дать путевку в жизнь своим детям.

2034 год – Общество полностью разделилось на рейтинговую аристократию и бесправных «крепостных».

Верхушка купается в роскоши и власти, а низы влачат жалкое существование в цифровом рабстве. Всеобщая слежка, страх и взаимное недоверие уничтожают остатки человечности. Выбраться из «крепостной» касты практически невозможно.

Глава 4
Суверенитет корпораций или национализация?

Какие институты будут играть ключевую роль: транснациональные корпорации с технологическим и экономическим превосходством или государства, которые победят их благодаря регуляторным механизмам и закручиванию гаек?

Как ключевые игроки переизобретают себя

Потому что это эволюция, детка.

Pearl Jam «Do the Evolution», альбом «Yield», студия Epic, 1998

В любом из рассматриваемых видов влияния технологий – политического, экономического, технологического и социального – существует широкий список акторов, которых затрагивают изменения: либо потому что они станут их бенефициарами, либо из-за угрозы сложившимся и привычным для них правилам игры. Например, в политике такими акторами являются государства, партии, отдельные лидеры и крупные корпорации, выполняющие государственные заказы, а в экономике – частные компании, предприниматели-инноваторы и бизнес-консультанты.

Успешных компаний или организаций, которые совершенно не меняются, не существует. Даже техногиганты США, крупнейшие китайские или российские корпорации не выживут и не справятся с растущей конкуренцией, если перестанут развиваться. Успех в гонке лидеров связан как с быстрой адаптацией к изменениям и умением подстраиваться под стратегические реалии, так и со способностью формировать эти изменения собственными руками, подстраивая их под запланированную бизнес-модель.

Компания Kodak пыталась продавать пленку для фотоаппаратов, несмотря на победное шествие цифрового формата, и не хотела отходить от старой бизнес-модели. Фотография перешла от пленки к цифре, а с появлением соцсетей – к «социальному формату». Взлет и падение Kodak – классический пример, который преподается в бизнес-школах по всему миру, ведь у компании даже был один из первых в мире прототипов цифрового фотоаппарата, концепция которого никак не укладывалась в старую и работающую годами бизнес-модель.

Компания владела сайтом для публикации цифровых фото KodakGallery, но вместо создания из него своего Instagram¹⁵ (задолго до появления оного) использовала его для продажи услуг по распечатке фотографий. Kodak пропустила два значительных изменения в своей индустрии и потеряла лидерские позиции, хотя вполне могла опередить Facebook и Instagram на десятилетие.

В чем кроются причины такой близорукости?

1. Неспособность переизобрести себя.

В Kodak не осознали, что инфраструктура для обмена цифровыми снимками и производство камер для смартфонов – и есть их завтрашний бизнес, а не возможность продать побольше пленки.

2. Удовлетворенность достигнутым и ложное чувство безопасности.

Главы компании считали, что надвигающиеся изменения не смогут сломить их бизнес. Они не прислушивались к тем, кто предлагал превратить их проблему в возможность для роста.

3. Нехватка организационной гибкости.

В Kodak избегали рискованных экспериментов и не хотели рисковать бизнесом с высокой маржинальностью, неверно интерпретировали надвигающиеся изменения и были недостаточно стратегически креативны.

Для традиционного бизнеса потенциальный выход в метавселенную – колоссальный вызов, порождающий множество вопросов. Например, доступные сегодня приложения и сервисы и есть та самая «метавселенная» или нужно еще немного подождать, когда сырая концепция дозреет? Каким образом бизнесу в нее интегрироваться: строить собственную платформу или создавать свое представительство на чужой виртуальной площадке?

Руководители корпораций, изучавшие кейс Kodak в бизнес-школах, боятся пропустить переломный момент, когда аудитория брендов расколется на «старых» пользователей, которые проигнорируют новое виртуальное пространство, и «молодых», которые с радостью войдут в цифровые миры, где их ждут другие герои, сервисы и бизнесы. Нужно также учитывать, что при выборе любого из сценариев возникнут насущные вопросы стоимости выхода компании в незнакомые пространства и управления новыми рисками.

Присутствие в бесконечном количестве метамиров с разными законами и правилами, принадлежащих компаниям из различных юрисдикций, сопровождается необходимостью решать юридические, технические и даже культурные задачи. Наконец, если и товар, и полка для него, и его производство, и даже материалы цифровые, то кража пароля от аккаунта или свихнувшийся системный администратор приведут к потере и произведенных товаров, и магазинов, и даже самих средств производства.

Чтобы избежать судьбы Kodak на уровне целой индустрии, бизнеса или даже отдельного человека, важно задавать вопросы о возможных сценариях будущего. Главные из них касаются того, как компания может извлечь выгоду из происходящих изменений и чего ей не хватает для капитализации этой выгоды. Нелишним будет регулярно задаваться вопросами о том, кто является вашим клиентом и что именно вы ему продаете. В Kodak думали, что продают пленку, тогда как клиенты покупали способ сохранить и передать свои впечатления и эмоции, а пленка для них была лишь средством – дорогостоящим и не всегда удобным.

На пути к паноптикону

Ты просто еще один клон, Так что сбрось свою кожу.

The Kovenant «Mannequin», альбом «Animatronik», студия Nuclear Blast, 1999

В моем детстве самыми ходовыми были дискеты 3,5 дюйма (на них помещалось 1,44 мегабайта данных). Пятидюймовые дискеты (до 1200 килобайт данных) уже тогда казались мне архаичными, а про перфоленту и перфокарты я слышал только от старших товарищей, обычно в роговых очках с толстыми линзами. Прошло всего несколько десятилетий, и человечество преодолело серьезный рубеж.

По мнению некоторых экспертов, в том числе из американской военно-промышленной компании Northrop Grumman, где-то в середине 2010-х мы перешли в так называемую «зеттабайтную¹⁶ эру», когда объем данных растет даже не в цифрах, а в математических порядках. По некоторым оценкам, к 2025 году совокупные объемы генерируемых, потребляемых, копируемых и хранимых данных должны составлять около 180 зеттабайт, но ученые уже предвещают, что в течение десятилетия нам придется измерять данные во всем мире йоттабайтами¹⁷.

Бизнес много лет повторял мантру о том, что «данные – это новая нефть», но лишь недавно пришло осознание, что речь не о бесконечном складировании данных, чтобы чахнуть над ними как Кощей. Они дают возможность принимать решения быстрее, точнее и дешевле, чем конкуренты. Сегодня собраны огромные массивы данных и появились алгоритмы, которые позволяют извлекать из них решения. От их корректного использования зависит способность компании к адаптации.

С внедрением современных технологий появляются новые формы и виды данных: снимки или сканы лица и сетчатки глаза, записи голоса, видеозаписи походки и иных рутинных движений, отпечатки пальцев, ДНК и другие виды биометрии. Данные становятся фундаментом множества технологий, внедрение которых улучшает методы и инструменты для работы с ними, что ускоряет появление новых данных. Благодаря им становятся возможными новые бизнес-процессы и появляется необходимость в новых партнерствах.

Данные нужны, чтобы точнее оценивать динамику различных параметров предприятия и эффект от внедряемых инициатив в реальном времени: коэффициент удержания, стоимость покупателя, ключевые показатели эффективности можно наблюдать на протяжении всего существования предприятия. Данные также позволяют бизнесу мониторить особенно важные или рискованные сферы деятельности. Наконец, они помогают разрабатывать и совершенствовать продукты и сервисы, адаптируя их под потребителя для повышения конкурентоспособности компании и выхода на новые рынки. Поэтому данные собираются повсюду – их легко монетизировать и производить: даже информация о том, в какую видеоигру вы играете, может пригодиться при анализе поведения.

В опубликованном в 2022 году патенте Bank of America описана система, обрабатывающая данные о клиенте (из базы банка или внешних источников, например социальных сетей) и создающая на их основе персонализированные по содержанию и времени отправки уведомления. Алгоритм также способен корректировать свою работу, анализируя историю реакций пользователя на уведомления: стал ли он больше или меньше пользоваться приложением, игнорирует ли оповещения или кликает на них и т. п. То есть даже если пользователь не взаимодействует с системой, он все равно кормит ее данными об эффективности подходов.

Безусловно, существуют и более глубокие модели персонализации, которые возможны благодаря обилию данных и достижениям в области алгоритмов. Например, одни компании предлагают разные версии одного и того же продукта в зависимости от поведения клиента, а другие – адаптируют кредитные ставки и стратегии управления активами согласно клиентским предпочтениям.

Скорость увеличения объема данных становится постоянным вызовом для техногигантов. С ростом объемов и видов данных потребуется новая инфраструктура и другие подходы к их обработке, нормализации и анализу. С каждым новым видом данных усложняются алгоритмы их анализа и увеличиваются требования к вычислительным мощностям и пропускной способности оборудования и сетей. Операции с этими данными требуют постройки и последующей поддержки центров обработки, крупнейшие из которых уже потребляют столько электроэнергии, что хватило бы на целый город, а также аппаратуры и программного обеспечения для их функционирования.

Одно из перспективных направлений в этой области связано с синтетическими данными, созданными искусственно, а не в результате реальных событий. Они генерируются с помощью компьютерных алгоритмов или моделирования, что позволяет получать столько данных, сколько требуется. Кроме того, это помогает создавать данные, которые опасно или затруднительно собирать в реальности. Как скоро мы достигнем точки, когда машины смогут сами учить друг друга, обходясь без услуг жителей Ганы или Кении по разметке датасетов?

Разумеется, с большими объемами и разнообразием данных приходят и новые угрозы. Предпочтения, психологические особенности, доходы и иные элементы персональной тайны могут использовать злоумышленники для подбора ключей к наиболее уязвимым или богатым гражданам. При достаточной глубине анализа взломщик может скорректировать свой подход под конкретного человека. И чем больше логинов, паролей и личной информации о человеке есть на руках у преступника, тем проще взломать его аккаунты или создать качественную подделку документов. Поэтому каждая новая утечка данных от корпораций пополняет арсенал хакеров. А получив доступ к данным клиентов организации, преступники не всегда атакуют самих людей – нередко они угрожают компании, у которой произошла утечка, опубликовать эту информацию и требуют выкуп.

Данные открывают возможности для принципиально новых атак. Например, глубокий анализ значительных объемов утекших или опубликованных данных может позволить получить конфиденциальную информацию, которая вовсе не подвергалась утечке. Если будет украден достаточный объем индустриальных данных «умного» завода, то злоумышленники получат производственные секреты, включая чертежи, параметры товаров и сырья, последовательность сборки на конвейере и т. д.

Наконец, большой объем генетических и медицинских данных позволяет разрабатывать штаммы бактерий, вирусов или грибков, которые будут вредить только определенной группе людей (например, отобранной по этническому признаку) либо атаковать конкретные сорта растений и породы животных, связанные с рыночными конкурентами или продовольственной безопасностью неприятеля.

В 2021 году компания Ford подала заявку на регистрацию патента, описывающего способы и технологии возврата автомобиля законному владельцу. Так, в случае просрочки по автокредиту система заблокирует пилотируемый автомобиль, а беспилотный – направит на парковку банка. В патенте обозначены точки взаимодействия с банками, страховыми компаниями, правоохранительными органами, коллекторскими агентствами и медицинскими организациями. В подобной системе заинтересован вовсе не среднестатистический водитель, а именно эти организации, получающие дополнительную степень надежности операций и транзакций. Учитывая объемы информации, которой будет обмениваться эта система, Ford получает не только новых партнеров в лице, скажем, страховых компаний, но и новую роль: агрегатора данных о финансовых операциях в индустрии автомобилей.

Не нужно быть пророком, чтобы предсказать, что хакеры воспользуются этой «системой восстановления в имущественных правах» для угона автомобилей, и за взломом банка или лизинговой компании последует не просто утечка персональных данных клиентов, а массовый угон всех автомобилей, находящихся в залоге или лизинге. Совсем непонятно, как эта инновация повлияет на безопасность автовладельцев и пассажиров. Будет ли этот функционал использоваться для совершения преступлений против личности? Увидел за рулем симпатичную девушку на светофоре – отправил ее на точку эвакуации, а сам туда же – с букетом цветов. Кто-то подрезал на дороге – отправил его на свалку. Партнеры не исполняют обязательства – отправил их в лес. Вероятно, подобные системы будут интегрированы с правоохранительными органами, хотя если вспомнить сюжеты голливудских фильмов про полицейских будущего¹⁸, то невольно представляется гипотетический сценарий, в котором такой автомобиль сам отвезет владельца в тюрьму, а пока он едет, судья вынесет приговор онлайн.

Однако инновации порождают не только новые риски, но и новые рынки. Появится рынок страхования ущерба от таких систем, например, если «восстанавливаемый в имущественных правах» автомобиль протаранил двери закрытого гаража. Автовладельцы будут покупать серые прошивки для автомобилей, хакерские автосервисы – их устанавливать, а Ford – платить юристам. Работы хватит всем! Если смотреть еще шире, то собранные данные порождают новые рынки: самих данных как товара, инфраструктурных решений для их хранения и обработки, услуг по их обработке и анализу и, наконец, безопасности данных.

Существуют компании, у которых доступ к данным критичен для их бизнес-моделей. Например, Uber использует данные не только для предсказания спроса на такси с привязкой к геолокации, но и чтобы следить за работниками: не нарушают ли они правила дорожного движения и не подрабатывают ли на стороне у конкурентов.

Визитной карточкой TikTok является рекомендательная система, механизмы которой до сих пор скрыты. Именно благодаря продвинутым рекомендательным алгоритмам, уже к 2021 году сервис набрал более миллиарда активных пользователей – всего за пять лет после запуска. Вся система направлена на работу с пользовательским контентом, усиливая вовлечение как его создателей, так и потребителей.

Один из главных элементов бизнес-модели китайского техногиганта Tencent – грамотное включение управления данными в свои процессы. Собирая сведения о пользователях на своей платформе, компания способна принять решение об инвестировании в тот или иной бизнес, продукты которого впоследствии выводятся в топ поисковой выдачи и рекомендательных алгоритмов внутри многофункциональной платформы WeChat.

Компания Palantir, основанная создателем PayPal Питером Тилем и на конец 2023 года оцениваемая в $38 млрд, предоставляет систему сбора, упорядочивания и анализа данных, применяемую силовыми структурами США. Известно, что система использует алгоритмы машинного обучения в антитеррористических операциях, а также помогает странам-сателлитам США в различных военных и политических конфликтах.

При этом даже международному лидеру порой не удается переломить традиционные модели, особенно если неэффективность и непрозрачность являются основой бизнеса других игроков. В 2016 году главный логистический оператор A.P. Moller-Maersk и крупнейшая ИТ-компания IBM создали систему TradeLens для оцифровки документооборота на базе блокчейна. К системе, в которой еженедельно обрабатывалось около 100 тысяч документов и более 13 миллионов событий, было подключено более 150 компаний – от операторов портов до логистических подрядчиков.

Несмотря на колоссальные возможности обоих партнеров по продвижению нового подхода к документообороту, далеко не все игроки считали выгодным открывать о себе информацию (а может, просто не хотели подчиняться новой очевидной монополии), и в конце 2022 года TradeLens была закрыта. Тем не менее, если бы внедрение этой системы прошло успешно, то компания A.P. Moller-Maersk из грузоперевозчика превратилась бы в глобального агрегатора данных в области логистики, торговли и экономики, что позволило бы ей торговать этими данными и строить новые сервисы.

Важный фактор «переизобретения себя» – корректный анализ точек роста. Компания Илона Маска SpaceX разрабатывает ракеты-носители с возможностью многоразового использования для удешевления доставок на орбиту Земли. Проект Hyperloop и покупка Илоном Маском соцсети Twitter с последующим ребрендингом в X подразумевают интерес к наземной логистике и медиа-платформам, а присутствие в группе компании Starlink гарантирует частную спутниковую инфраструктуру. SpaceX из компании, занимающейся исключительно космическими технологиями, превращается в корпорацию, которой принадлежит доля рынка телекоммуникаций, а Илон Маск начинает контролировать сразу несколько видов потребительских взаимодействий: перевозку пассажиров и грузов, средства связи и даже формирование общественных настроений. После покупки Twitter Маск дал сотрудникам год на то, чтобы платформа вышла на рынок банкинга и финансовых услуг.

Казалось бы, вывод очевиден: бизнес должен меняться в соответствии с клиентскими потребностями, которые изменяются под влиянием перемен и открывающихся возможностей. Но как угадать, что будет востребовано у клиентов завтра? Телеком-операторы продавали голосовую связь, а когда мы стали звонить друг другу в мессенджерах, начали торговать доступом в интернет. Лавинообразный рост телефонного спама и утечек персональных данных привел к появлению двух новых продуктов: фильтров от непрошеных звонков и уведомлений о рисках. Например, телеком-оператор МТС предлагает сервисы «Защитник», оберегающий от спам-звонков, и «ФинЗащита», позволяющий получить уведомление, если произойдет утечка данных или от имени клиента будет подана заявка на кредит.

Функционал коротких СМС все еще существует, но ими практически никто не пользуется по назначению: папка с сообщениями превратилась в клоаку для СМС-спама и шаблонных уведомлений от оператора связи. Голосовые сообщения в сотовой связи существуют, но они почти бесполезны, потому что прослушивание голосовой почты от телеком-оператора – неприемлемо долгий клиентский путь. Можно позвонить по телефону, но это на крайний случай – если не работает звонок в интернет-мессенджере. Входящий звонок с незнакомого номера – вероятнее всего рекламный или мошеннический.

Электронная почта постепенно движется в сторону склада уведомлений о назначенных встречах и изменениях пароля, а также почтовых рассылок, которые мы не читаем. Телевизор все еще существует, но эфирные каналы отходят на второй план, уступая всему многообразию онлайн-платформ. Наши привычки меняются очень быстро: заказ такси через приложение, домашний стриминг вместо кинотеатра, бизнес-коммуникация через мессенджер, общение с банком через чат-бота, голосовое сообщение вместо звонка и т. д. Сами сообщения, голос и письма никуда не делись, просто старая инфраструктура не смогла адаптироваться под натиском новых форматов.

Что мы продолжим делать и через пять, и через десять лет, но иначе – удобнее, быстрее, специализированнее, в другом месте, иными инструментами? На этот вопрос множество ответов, и каждый правильный ценится на миллиард долларов. Скажем, если завтра мы столкнемся с беспрецедентным уровнем фейковых новостей и повышением уровня недоверия в обществе, могут ли телеком-операторы в своей естественной эволюции стать поставщиками правды?

А может, такими фактчекерами и поставщиками правды могут стать банки? Судите сами: ключевые функции банка – хранение, поиск и верификация информации, а процедуры оценки рисков и сбора данных фигурируют во многих финансовых бизнес-процессах. Так как банкам выгодно благополучие клиента, которое зависит в том числе от принимаемых им решений, то они могут быть заинтересованы в информационной поддержке, особенно когда это касается финансов, карьеры, образования и здоровья.

Таким образом, банковская сфера имеет значительный потенциал и комплекс точек роста в области фактчекинга и медиа. Банки могут разрабатывать сервисы проверки фактов для повышения узнаваемости бренда и поддержания чистоты информационного поля клиентов. Эти же сервисы можно будет использовать для реагирования на инфоповоды в области экономики и финансов. У банков может появиться интерес к инвестициям в соцсети и интернет-медиа, что позволит им получать большой объем новых данных, даст доступ к площадкам для PR и рычаги контроля над распространяемыми в интернете нарративами.

Интернет стал общественным благом: он не просто повышает уровень нашей жизни – без него мы уже не можем нормально существовать. И разрыв в доступе к технологиям (микрочипам, вычислениям, передовым разработкам) сказывается на отдельных странах и целых регионах. При этом мы оказались в мире, где международная коммерческая компания может в одночасье уйти из целой страны, прекратив обслуживание сотен миллионов человек. Даже если она продолжит оказывать услуги, то может исчезнуть возможность за них заплатить, потому что другая компания, которая обеспечивает платежи по кредитным картам, больше не обслуживает эти миллионы людей.

Парадоксальная ситуация: при колоссальном потенциальном влиянии ИИ на человечество, его разработки находятся в руках организаций и структур, которые одномоментно могут принять (самостоятельно или под давлением) решение о том, чтобы одних обслуживать, а других нет. Искусственный интеллект, как суперпрорывная технология, доступен далеко не всем, но это еще полбеды. Куда страшнее то, что он доступен именно тем, кто и так уже контролирует интернет и многократно злоупотреблял нашим доверием. Информация, которую мы получаем, ранжируется и формируется не по степени полезности, а чтобы удержать внимание пользователя в ленте еще на несколько секунд и показать еще немного релевантной рекламы.

Рост объема и детализации данных ведет цивилизацию к паноптикону¹⁹, в котором возможность наблюдения находится в руках у государств и корпораций, но не у граждан. Из-за подробности и обширности цифрового следа уже сейчас есть люди, которые знают о себе меньше, чем корпорации.