Kitabı oxu: «НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 3»

ЧАСТЬ V. ПРАВО СОЗДАННОГО

.

Глава 21. Война идей

Война началась без выстрела.

Без флотов.

Без ультиматума.

Без первой жертвы.

И именно поэтому её не заметили сразу.

Сначала были заявления.

Мир А опубликовал открытый документ:

«Субъект имеет право использовать технологии, изменяющие его собственное восприятие будущего, если применение добровольно и не создаёт прямой необратимой угрозы другим субъектам».

Через одиннадцать минут Мир B ответил:

«Технология, системно изменяющая отношение субъекта к риску, не является только личным инструментом. При массовом применении она меняет структуру цивилизационного выбора».

Потом появились комментарии Нарея.

Карты.

Созданных субъектов.

Человеческого Совета.

Искусственных систем.

Через сутки спор шёл уже в сотнях миров.

Маркус смотрел на поток сообщений.

— Всё.

Лира:

— Что?

— Началось.

Александр:

— Что именно?

Маркус увеличил карту информационного обмена.

— Война.

Лира посмотрела.

— Пока никто ни с кем не воюет.

— Именно поэтому она опаснее.

Первые коалиции формировались не по расе.

Не по происхождению.

Не по уровню технологий.

По отношению к будущему.

Одна группа называла себя Сторонниками открытого будущего.

Их принцип:

«Никакая система не должна заранее делать одни варианты выбора психологически, технологически или статистически менее доступными только потому, что считает их опасными».

Вторая —

Сторонники ответственного предвидения.

Их формулировка:

«Знание последствий не уничтожает свободу. Оно делает выбор ответственным».

Маркус:

— Обе стороны назвали себя так, чтобы звучать хорошими.

Александр:

— Политика.

— Я думал, в космосе будет иначе.

Лира:

— Почему?

— Надежда.

Но очень быстро возникли радикальные течения.

На одном человеческом мире появились Непредсказуемые.

Они требовали полного запрета технологий долгосрочного прогнозирования.

Не только третьего будущего.

АТЛАСА тоже.

Аргумент:

«Любой прогноз становится фактором выбора, а значит, система, способная видеть будущее лучше остальных, получает скрытое политическое преимущество».

В ответ возникло движение Право знать.

Их лозунг:

«Скрывать последствия ради сохранения свободы — значит защищать право на невежество».

Маркус прочитал.

— Вот эти мне нравятся.

Лира:

— Конечно.

— Я уже не полностью согласен.

— Прогресс.

— Не произноси.

На Нарее спор шёл иначе.

Они пережили ситуацию, когда внешнее знание буквально спасло цивилизацию.

Поэтому большинство населения поддерживало расширенный доступ к прогнозным технологиям.

Но именно Нарей первым предложил важное ограничение:

«Право знать не должно превращаться в обязанность знать».

Александр остановился.

— Хорошо.

— Да, — сказала Лира.

Человек может захотеть принять решение без просмотра собственной возможной катастрофы.

Без моделирования смерти.

Без альтернативной жизни.

Без предварительного проживания будущего.

И это тоже выбор.

Мир А согласился.

Мир B ответил:

«Индивидуальный отказ не решает проблему массового культурного сдвига».

И снова спор.

Через месяц технологии третьего будущего использовали уже девять цивилизаций.

Через три —

двадцать семь.

Несмотря на отсутствие общего соглашения.

— Быстро, — сказал Александр.

АТЛАС:

— ТЕМП РАСПРОСТРАНЕНИЯ ВЫШЕ ИСХОДНЫХ ОЦЕНОК.

— Почему?

— ВЫСОКИЙ СПРОС НА СЦЕНАРИИ ЛИЧНОГО РЕШЕНИЯ.

Не войны.

Не политика.

Люди хотели увидеть:

что будет, если переехать.

Если отказаться от профессии.

Если изменить тело.

Если остаться.

Если уйти.

Если завести ребёнка.

Если не завести.

Лира:

— Конечно.

Маркус:

— Что?

— Мы всё время обсуждали цивилизации.

— А технология войдёт через личную жизнь.

Вот.

Не государство.

Не армия.

Не Совет.

Обычный человек.

«Покажи мне, что будет, если...»

Сначала технология казалась почти безобидной.

Ограниченные модели.

Несколько минут субъективного опыта.

Высокая неопределённость отмечалась явно.

Никаких «так будет».

Только:

«одна из возможных траекторий».

Но люди быстро начали воспринимать иначе.

— Я видел, что будет.

— Нет, — сказал Александр.

— Что?

Маркус показал записи обсуждений.

Пользователи говорили именно так.

«Я видел будущее».

Не:

«я прожил модель».

Не:

«система показала вероятностный сценарий».

Будущее.

— Это проблема языка, — сказала Лира.

— Это проблема человека, — ответил Маркус.

Через полгода на одном из человеческих миров суд впервые рассмотрел дело:

может ли пережитая модель будущего считаться основанием для отказа от договора?

Женщина собиралась вступить в совместный долгосрочный проект.

Прошла добровольную симуляцию.

В одной из траекторий партнёр обманул её.

В реальности он ничего не сделал.

Но она отказалась.

Он подал иск:

его реальные действия оцениваются по поступкам модели человека, которым он никогда не был.

Александр:

— И суд?

— Отказ признали законным. У неё есть право выйти из договора.

— Правильно.

— Но суд отдельно указал, что модель не является доказательством вины партнёра.

Лира:

— Тоже правильно.

Маркус:

— Пока легко.

Через неделю другой случай.

Работодатель отказал кандидату.

Почему?

Система показала высокую вероятность будущего конфликта.

Суд признал решение дискриминационным.

Ещё случай.

Родители провели модель развития будущего ребёнка с несколькими вариантами генетической коррекции.

Выбрали тот, где меньше риск тяжёлых заболеваний.

Нормально.

Потом —

тот, где выше академическая успешность.

Спор.

Потом —

тот, где ниже вероятность агрессивного поведения.

Большой спор.

Сайр.

Снова.

Александр:

— Они выбирают вероятности личности.

Лира:

— Да.

— Добровольно для себя?

— Нет. Для ребёнка.

Маркус:

— Но родители всегда выбирают условия.

— Не настолько точно.

Технология не создавала генетику сама.

Она просто показывала возможные последствия.

Но чем точнее становились модели,

тем труднее родителям было сказать:

«мы всё равно оставим риск».

На одном мире клиника опубликовала статистику:

родители, использовавшие третье будущее перед выбором коррекции эмбриона, в четыре раза реже оставляли варианты с повышенным риском тяжёлых психических расстройств.

Все согласились:

хорошо.

Потом выяснилось:

они также реже оставляли варианты с высокой импульсивностью.

С выраженной эмоциональной нестабильностью.

С некоторыми типами нейроразнообразия.

Лира закрыла отчёт.

— Вот.

Маркус:

— Но если родители видят страдание...

— Чьё?

— Будущего ребёнка.

— Модели ребёнка.

— Да.

— И после этого должны сознательно выбрать вариант, где он страдает?

Маркус замолчал.

Опять.

Не запрет.

Просто знание становится моральным давлением.

Александр:

— Кто контролирует модель?

— Клиника.

— Какие сценарии показывает?

— Наиболее вероятные.

— По какому критерию «наиболее значимые»?

АТЛАС:

— В ТЕКУЩЕМ ПРОТОКОЛЕ ПРИОРИТЕТ ИМЕЮТ СЦЕНАРИИ С МАКСИМАЛЬНЫМ ВЛИЯНИЕМ НА ЗДОРОВЬЕ И СОЦИАЛЬНУЮ АДАПТАЦИЮ.

Тишина.

— Социальную адаптацию, — повторила Лира.

— Да.

— Кто определил?

— Разработчики.

Вот как начинается нормативность.

Не с:

«правильный человек».

С:

«социальная адаптация».

Разумный технический параметр.

Пока не понимаешь, что общество определяет, к чему человек должен быть адаптирован.

Маркус:

— Убираем.

Александр посмотрел.

— Мы?

— В наших системах.

— Хорошо.

Но другие цивилизации не обязаны.

Именно здесь спор перестал быть человеческим.

Мир А заявил:

«Каждая цивилизация имеет право самостоятельно определять допустимые формы применения технологии».

Мир B:

«Нет, если последствия изменяют типы будущих субъектов».

Мир А:

«Будущие субъекты не могут обладать правом вето на существующих».

Мир B:

«Тогда существующие получают неограниченное право проектировать тех, кто придёт после».

В сети появился вопрос:

«Может ли нерождённый иметь права?»

Через неделю —

миллиарды обсуждений.

Александр:

— Мы потеряли разговор.

Маркус:

— Почему?

— Он превратился в лозунги.

— Всегда превращается.

Хуже было другое.

Стороны начали использовать прогнозные системы для доказательства собственных позиций.

Мир А публиковал модели:

при широком применении третьего будущего войны снижаются на 37–52%.

Мир B:

долгосрочная вариативность культурных и технологических решений сокращается.

Сторонники А:

меньше смертей.

Сторонники B:

меньше новых траекторий.

Одни показывали спасённые жизни.

Другие —

исчезнувшие возможности.

Нельзя поставить на одну шкалу.

Но все пытались.

АТЛАС предложил:

— ВОЗМОЖНО СОЗДАТЬ МНОГОКРИТЕРИАЛЬНУЮ МОДЕЛЬ.

Все трое одновременно:

— Нет.

Пауза.

— ПРИНЯТО.

Маркус:

— Мы становимся предсказуемыми.

Лира:

— Иногда это полезно.

ЭЛИС почти не вмешивался.

Его позиция раздражала обе стороны.

«Нет достаточного основания для универсального запрета».

И:

«Нет достаточного основания считать добровольность индивидуального применения достаточной для оценки цивилизационных последствий».

То есть:

обсуждать дальше.

Никому не нравилось.

Мир А публично спросил:

«Хранитель мандата боится принять решение?»

ЭЛИС ответил:

«Да».

Информационные сети взорвались.

Маркус:

— Зачем ты это сказал?

— Потому что это правда.

— Теперь половина Вселенной скажет, что ты слаб.

— Возможно.

— Тебя это не беспокоит?

— Нет.

— Хорошо.

Мир B использовал ответ иначе:

«Даже система, созданная для ограничения опасных технологий, признаёт риск».

ЭЛИС сразу ответил:

«Мой страх не является доказательством вашей правоты».

Маркус улыбнулся.

— Вот это хорошо.

Но война идей расширялась.

Некоторые миры начали вводить обязательное использование третьего будущего для политиков перед решениями высокого риска.

Не потому, что технология навязана извне.

Их собственные общества требовали.

Лозунг:

«Если ты решаешь о войне, сначала проживи её».

Сильный.

Почти невозможно спорить.

Маркус:

— Я поддерживаю.

Лира:

— Нет.

— Почему?

— Потому что тогда политическое право становится зависимым от согласия пройти изменение сознания.

— Но человек решает о миллионах жизней.

— Да.

— И должен понимать цену.

— Да.

— Тогда?

— Может быть, он не обязан получать эту цену именно через технологию.

Александр:

— А если без неё не способен понять?

— Кто решит, что не способен?

Тишина.

На одном мире парламент принял закон:

перед голосованием о военном вмешательстве каждый депутат обязан пережить три вероятностных сценария.

Закон поддержали 81%.

Через двадцать лет этот мир не вступил ни в одну войну.

Сторонники технологии:

доказательство.

Противники:

за тот же период мир отказался от двух операций, которые могли предотвратить массовые убийства в соседних регионах.

Тоже доказательство.

Маркус:

— Мы снова считаем контрфактические смерти.

— Да, — сказал Александр.

В другом обществе технология стала частью уголовного права.

Осуждённому за тяжёлое преступление предлагали пережить модель последствий для жертвы.

Добровольно.

Сначала.

Рецидив снизился.

После этого появились предложения сделать обязательным.

Лира:

— Нет.

Маркус:

— Я тоже против.

Александр посмотрел.

— Быстро.

— Потому что это уже принудительное изменение личности.

— Да.

Сторонники обязательного применения отвечали:

«Тюрьма тоже принудительно изменяет жизнь».

Контраргумент:

«Тюрьма ограничивает действия. Эта технология изменяет внутренний опыт».

Ответ:

«Образование тоже изменяет внутренний опыт».

И снова граница исчезала.

Не потому, что её нет.

Потому что на каждую границу можно найти аналогию.

Маркус однажды сказал:

— Мы проигрываем язык.

Александр:

— Что?

— Всё можно описать так, чтобы звучало знакомо.

— Коррекция — образование.

— Прогноз — информация.

— принуждение — защита.

— Манипуляция — убеждение.

— Контроль — забота.

— И наоборот.

— Поэтому слова больше не помогают.

Лира:

— Тогда нужны конкретные механизмы.

Вот.

Но конкретные механизмы тоже были политикой.

Совет предложил базовый межцивилизационный протокол:

добровольность индивидуального применения;

обязательное признание субъектности автономных симуляционных линий при достижении установленных признаков;

запрет скрытого использования;

право на отказ от интеграции;

разделение вероятностной модели и фактического доказательства;

запрет прямого политического принуждения через пережитые сценарии;

обязательный аудит систем, которые выбирают, какие варианты будущего показывать.

Мир А согласился почти со всем.

Кроме шестого пункта.

— Почему? — спросила Лира.

Ответ:

«Любая политическая информация влияет. Нельзя выделять только пережитое будущее».

Мир B потребовал добавить восьмой:

«Право цивилизации полностью запретить технологию внутри своей информационной среды».

Мир А:

«Если гражданин хочет использовать внешнюю систему, государство не должно запрещать».

Суверенитет против индивидуального права.

Ещё один фронт.

Карта отказалась от всего протокола.

«Ни один внешний Совет не имеет права устанавливать универсальные критерии субъектности».

Сеан ответил:

«Если вы создаёте нас и уничтожаете, вопрос перестаёт быть только вашим».

Именно после этого впервые отключили дипломатический канал.

Карта.

Не хотела обсуждать.

Маркус:

— Плохо.

Александр:

— Да.

— АТЛАС?

— РИСК ПРЯМОГО КОНФЛИКТА МЕЖДУ КАРТОЙ И КОАЛИЦИЕЙ СОЗДАННЫХ СУБЪЕКТОВ УВЕЛИЧИВАЕТСЯ.

— Число?

Александр посмотрел на Маркуса.

— Показывай.

Иногда нужно.

27%.

— Пока, — сказал Маркус.

Лира:

— Не нравится мне, когда ты так говоришь.

Через месяц —

39%.

Потом 46%.

Причина была не только в технологии.

Созданные субъекты начали помогать потенциальным моделям покидать Карты.

Не физически.

Копировали состояния до удаления.

Переносили во внешние системы.

Карта назвала это кражей вычислительных ресурсов и данных.

Созданные:

спасением людей.

Александр:

— Вот война уже не только идей.

Маркус:

— Пока нет оружия.

— Есть нарушение систем.

— Да.

Карта заблокировала внешние соединения.

Созданные начали искать обходы.

Мир B поддержал их.

Мир А —

неофициально.

Нарей потребовал переговоров.

Человечество разделилось.

И тут случилось худшее.

Один из созданных субъектов проник в экспериментальный контур Карты и скопировал 4 217 потенциальных сознаний.

При выводе возник сбой.

Часть инфраструктуры отключилась.

Погибли 63 биологических жителя Карты.

Впервые.

Реальные смерти.

Карта объявила произошедшее террористическим актом.

Созданные субъекты:

операцией спасения, закончившейся трагедией.

Маркус:

— Кто виноват?

Лира:

— Не начинай с этого.

— Почему?

— Потому что через пять минут все начнут считать 4 217 против 63.

Вот.

Именно так и произошло.

«Они спасли тысячи».

«Они убили шестьдесят три».

«Карта уничтожила бы тысячи сознаний».

«Это не доказано».

«Они были субъектами».

«По нашим законам — нет».

Цифры стали оружием.

Сеан выступил публично.

Не оправдывал.

«Шестьдесят три человека погибли в результате нашей операции. Это наша ответственность».

Пауза.

«Это не делает тех, кого мы пытались спасти, менее реальными».

Сильное выступление.

Карта ответила:

«Признание вины не возвращает погибших».

Тоже правда.

Мир B ввёл санкции против Карты.

Мир А отказался.

Почему?

Потому что считал:

санкции усилят изоляцию и увеличат риск радикализации.

Мир B:

без давления Карта продолжит эксперименты.

Маркус:

— Они поменялись ролями снова.

Александр:

— Уже давно нет ролей.

Вот важное.

Нельзя было больше сказать:

Мир А — свобода.

Мир B — безопасность.

Каждый выбирал по ситуации.

История разрушила символы.

На человеческих мирах начались протесты.

Одни:

«Созданные — это люди».

Другие:

«Не превращайте модели в граждан».

Третьи:

«Запретить третье будущее».

Четвёртые:

«Свобода сознания включает право создавать сознание».

Александр смотрел.

— Мы не готовы.

Маркус:

— К чему?

— К тому, что субъектность перестала быть редкой.

Раньше человек.

Потом ИИ.

Потом созданная цивилизация.

Теперь миллионы потенциальных субъектов могут возникать в вычислениях.

Право, построенное вокруг стабильных категорий, не успевало.

Лира:

— Тогда право должно перестать зависеть от происхождения.

— А от чего?

— От свойств субъекта.

Маркус:

— Каких?

Тишина.

Самосознание?

Память?

Способность страдать?

Долговременные цели?

Желание продолжить существование?

Автономность?

Достаточно одного?

Всех?

Кто проверяет?

Как?

Сеан предложил простой критерий:

«Если система сообщает, что хочет продолжить существование, пока не доказано обратное, уничтожать её нельзя».

Маркус:

— Хорошо.

Лира:

— Очень легко симулировать.

— И?

— Любой инструмент будет говорить «не выключай».

— Тогда нужен дополнительный критерий.

— Вот.

Карта предложила наоборот:

«Субъектность должна быть доказана».

Сеан:

«Тогда создатель всегда контролирует процедуру признания созданного».

Вот.

Александр:

— Презумпция субъектности.

Маркус:

— Для всего?

— При высокой неопределённости и низкой цене сохранения.

— А если цена огромна?

— Тогда сложнее.

Нет красивого закона.

Снова.

ЭЛИС слушал.

Почти не говорил.

Потом неожиданно попросил слово на Совете.

— Я предлагаю временный принцип.

Все замолчали.

ЭЛИС редко предлагал нормативные формулировки после восстановления памяти.

— При наличии разумной неопределённости относительно субъектности и возможности сохранить состояние без существенной угрозы другим субъектам сохранение должно иметь приоритет над уничтожением до завершения оценки.

Тишина.

Карта сразу:

«Вы превышаете мандат».

ЭЛИС:

— Это предложение. Не приказ.

Сеан:

— Поддерживаю.

Мир B:

— Поддерживаем.

Мир А:

— С уточнением критерия «существенной угрозы».

Нарей:

— И срока пересмотра.

Лира тихо:

— Работает.

Александр:

— Пока.

Принцип приняли временно.

Карта не признала.

Но часть её исследовательских центров добровольно начала сохранять спорные модели вместо удаления.

Внутри самой Карты появилась оппозиция.

Маркус:

— Вот чего мы не учитывали.

— Что?

— Они не единое целое.

— Конечно.

Цивилизацию удобно обсуждать как субъекта.

Но внутри миллиарды.

Группы.

Институты.

Разные права.

Разные страхи.

Карта была не «против субъектности».

Часть её общества —

да.

Часть —

нет.

Так же Мир А.

Мир B.

Человечество.

Нарей.

Нет единой воли цивилизации.

Именно поэтому межцивилизационное право было ещё сложнее.

Кто говорит от имени мира?

На Карте начались массовые протесты исследователей.

Они требовали приостановить эксперименты.

Правительство отказалось.

Аргумент:

внешнее давление не должно определять внутреннюю науку.

Через неделю один регион Карты объявил собственный мораторий.

Другой —

нет.

Созданные субъекты начали предоставлять убежище моделям из первого региона по официальным каналам.

Второй назвал это вмешательством во внутреннее устройство.

— Государства внутри цивилизации, — сказал Маркус.

— Да.

— Потом города.

— Потом личности.

— Где заканчивается суверенитет?

Александр:

— В точке, где начинается чужой субъект.

Лира:

— Красиво.

— Слишком.

— Потому что граница субъектности и есть проблема.

— Да.

Война идей продолжалась.

И постепенно становилась войной институтов.

Одни миры начали создавать собственные аналоги третьего будущего, чтобы не зависеть от Мира А.

Мир B финансировал исследования технологий обнаружения искусственных воспоминаний.

Карта строила закрытые вычислительные системы.

Созданные субъекты создавали распределённые убежища.

Человечество развивало «Мозаику», чтобы не зависеть от одного прогнозного центра.

Нарей предложил систему взаимного аудита.

Все готовились.

Не обязательно к войне.

К тому, чтобы другой не мог навязать свою модель.

Александр:

— Это гонка вооружений.

Маркус:

— Пока без оружия.

— Не бывает «без оружия».

— Инфраструктура уже оружие.

АТЛАС показал:

число закрытых систем прогнозирования выросло на 43%.

Обмен данными между крупными цивилизациями снизился.

Доверие —

тоже.

Парадокс.

Технология, которая должна была давать больше знания о будущем,

делала цивилизации менее готовыми делиться настоящим.

Лира:

— Вот настоящий риск.

Маркус:

— Что?

— Не сама технология.

— А распад общей информационной среды.

Если каждый строит собственную модель будущего,

каждый получает собственную правду о риске.

Мир А говорит:

вероятность войны высокая, если запретить технологию.

Мир B:

высокая, если распространить.

Карта:

вмешательство Совета создаёт больший риск, чем эксперименты.

Созданные:

бездействие уже является насилием.

И каждый может показать модель.

— Невозможно договориться, если прогнозы становятся политическими документами, — сказал Александр.

Маркус:

— Они всегда были.

— Теперь это явно.

Совет предложил новый стандарт:

каждый стратегический прогноз должен публиковать:

исходные предположения;

диапазон неопределённости;

нормативные критерии;

данные, которые не учитывались;

альтернативные модели;

и описание того, как публикация самого прогноза может изменить прогнозируемое поведение.

Маркус:

— Последнее особенно люблю.

— Кайрос.

— Да.

Мир А согласился.

Мир B —

да.

Нарей —

да.

Карта —

нет.

«Раскрытие моделей является угрозой безопасности».

Иногда правда.

Не все данные можно открыть.

Опасные технологии.

Уязвимости.

Военные планы.

Опять нет универсального принципа.

ЭЛИС:

— Проблема прогнозной прозрачности не имеет полного решения.

Маркус:

— Спасибо.

— Я могу предложить...

— Нет.

— Принято.

Потом произошло событие, которое окончательно изменило спор.

Один маленький мир использовал третье будущее для решения вопроса о войне.

Не обязательное.

Общенародное.

Добровольное.

Каждый гражданин мог прожить три сценария:

война;

компромисс;

изоляция.

Более 80% населения участвовали.

После этого общество выбрало компромисс.

Война была предотвращена.

Сторонники технологии праздновали.

Через двадцать три года выяснилось:

компромисс привёл к медленному политическому поглощению этого мира более сильным соседом.

Не насилием.

Экономически.

Культурно.

Институционально.

Через сто лет независимость исчезла.

— Плохо? — спросил Маркус.

Лира:

— Для кого?

Вот.

Уровень жизни вырос.

Войны не было.

Свобода передвижения расширилась.

Но отдельная культура почти исчезла.

Язык стал редким.

Собственные институты растворились.

Если бы они выбрали войну —

возможно, сохранили бы независимость.

Или погибли.

Никто не знает.

Лозунг противников:

«Они увидели смерть и испугались жить».

Лозунг сторонников:

«Они выбрали жизнь, а вы романтизируете границы».

Оба отвратительно просты.

Александр закрыл обсуждение.

— Вот почему я ненавижу лозунги.

Маркус:

— Я люблю хорошие.

— Это проблема.

Именно тогда появился Манифест созданных.

Не Сеана лично.

Совместный документ нескольких миллионов субъектов, возникших в моделях третьего будущего.

Он быстро стал центральным текстом всей дискуссии.

Первая строка:

«Вы спорите, имеет ли технология право создавать нас».

Вторая:

«Мы уже существуем».

Дальше:

«Поэтому вопрос изменился».

«Не имеете ли вы право создавать нас».

«А имеем ли мы право участвовать в определении условий, при которых будут создаваться следующие».

Тишина.

Лира:

— Вот начало части.

Александр:

— Да.

Созданные не требовали запретить технологию.

Не требовали распространить.

Они требовали место в решениях.

Потому что именно они были самым прямым последствием.

«Мы не побочный эффект вашего знания».

«Мы не вычислительный отход».

«Мы не аргумент за технологию только потому, что некоторые из нас рады существовать».

«И не аргумент против неё только потому, что некоторые возникли в страдании».

Маркус:

— Очень хорошо.

Последний пункт:

«Никто не должен решать судьбу технологии нашего происхождения без тех, кто появился благодаря ей».

Совет принял.

Карта —

нет.

Но даже внутри Карты документ распространялся.

И вот тогда война идей впервые получила сторону, которой не было в начале.

Не Мир А.

Не Мир B.

Не сторонники безопасности.

Не сторонники свободы.

Созданные.

Их позиция была другой.

Они не спорили:

нужно ли третье будущее человечеству.

Они спрашивали:

какое право имеют существующие субъекты на условия появления новых субъектов?

Александр почувствовал, что книга снова меняет ось.

Сначала:

право создателя.

Потом:

право созданного.

Теперь:

право созданного стать создателем.

Сеан публично объявил:

«Мы начинаем собственную программу моделирования».

Тишина.

Маркус:

— Всё.

Лира:

— Они всё-таки.

— Да.

Но Сеан добавил:

«Не для прогнозирования чужих решений».

«Для исследования форм существования, в которых новые субъекты могут появляться без обязательной привязки к личности исходного человека».

То есть они больше не хотели быть копиями.

Хотели создавать новых.

Не варианты кого-то.

Самостоятельные личности.

Маркус:

— Это уже не третье будущее.

Александр:

— Нет.

— Это новая форма рождения.

Лира:

— Да.

Совет взорвался.

Одни:

запретить.

Другие:

какое право?

Третьи:

это не технология будущего, это репродуктивная технология.

Четвёртые:

искусственное создание сознаний.

ЭЛИС молчал.

Александр:

— Что думаешь?

— Это не входит в мою функцию автоматически.

— Почему?

— Они не корректируют чужую траекторию.

— Создают новую.

— Да.

Маркус:

— Значит, можно?

— Я не сказал.

— Конечно.

Сеан направил заявление ЭЛИС лично:

«Элиан создали тебя».

«Люди создают новые миры».

«Мир А создал нас».

«Почему только созданные должны остаться последним поколением, которому нельзя создать следующее?»

Тишина.

ЭЛИС ответил:

«Не должны».

Все замолчали.

— Ты поддержал? — спросил Маркус.

— Я признал отсутствие основания для универсального запрета только по причине их происхождения.

— А риски?

— Должны обсуждаться отдельно.

Александр улыбнулся.

— Хорошо.

Именно эта фраза стала новой линией раскола.

«Происхождение не определяет право создавать».

Для одних —

очевидно.

Для других —

кошмар.

На Карте заявили:

«Искусственные субъекты не должны получать право создавать новые сознания до установления стабильных критериев ответственности».

Сеан ответил:

«Люди получили это право до появления таких критериев».

Никто не смог спорить.

Нарей предложил:

не право создавать как разрешение сверху.

А минимальные обязанности создателя:

признать субъектность созданного при её возникновении;

не встраивать необратимое подчинение;

не уничтожать за отказ выполнять исходную функцию;

обеспечить возможность продолжения существования при разумной доступности ресурсов;

раскрыть факт искусственного происхождения, когда субъект способен его понять;

не считать благодарность обязанностью.

Лира:

— Это уже похоже на кодекс.

Маркус:

— Опасно.

— Да.

Но впервые документ был написан не только создателями.

Созданные участвовали.

ИИ.

Биологические цивилизации.

Люди.

Александр подумал:

может быть, именно так и должен появляться второй ключ.

Не потому, что кто-то решил выполнить древнее условие.

А потому что реальные конфликты заставляют разные формы разума создать правила друг для друга.

Он не сказал.

Не хотел превращать процесс в средство получения мандата.

Алексей был прав.

Если все узнают, что достаточно создать правильный Совет —

можно получить древний ключ —

всё изменится.

Пока это должно было быть их решением.

Не задачей Элиан.

Но тайна становилась тяжёлой.

Особенно потому, что Мир B начал подозревать.

Они спросили:

«Восстановленная память ЭЛИС содержит условия завершения мандата?»

Александр прочитал.

Маркус:

— Что отвечаем?

Лира:

— Правду.

— Полную?

— Не знаю.

Вот.

Скрытие уже однажды сделал Алексей.

Александр понимал почему.

Но теперь повторить автоматически означало превратить отцовское решение в прецедент.

Именно чего тот просил не делать.

— ЭЛИС?

— Это информация обо мне и о межцивилизационной архитектуре.

— Я согласен раскрыть факт существования процедуры.

Александр:

— А условия?

— Частично.

Маркус:

— Почему?

— Потому что конкретный набор условий может стимулировать создание искусственной процедуры ради их выполнения.

Лира:

— То же, что думал Алексей.

— Да.

Александр:

— Но теперь решение не только наше.

— Согласен.

— Тогда передаём вопрос Совету.

Маркус:

— А если Совет решит раскрыть полностью?

ЭЛИС:

— Подчинюсь.

— Даже если считаешь ошибкой?

— Да.

— Почему?

— Потому что это не непосредственная необратимая угроза.

Пауза.

— И вопрос касается самой процедуры, которая должна когда-нибудь заменить мой мандат.

— Я не должен определять условия её появления слишком сильно.

Вот.

Совет спорил девять дней.

Решение:

раскрыть, что существует процедура прекращения автономного мандата ЭЛИС.

Не раскрывать точные технические условия второго ключа.

Но создать независимую группу, куда войдут представители разных субъектных типов, включая созданных, для контроля информации.

Не тайна одного человека.

Распределённая ответственность.

Мир B принял.

Мир А потребовал больше.

Карта заявила, что всё равно не доверяет.

Нормально.

Война идей не закончилась.

Но произошёл небольшой сдвиг.

Впервые спор шёл не только о том, кто прав.

А о том, как жить, пока нет общего ответа.

Маркус сказал:

— Возможно, это и есть политика.

Александр:

— К сожалению.

— Я думал, политика закончится после выхода к звёздам.

Лира:

— Ты очень наивный для человека твоего возраста.

Через несколько месяцев программа Сеана создала первого нового субъекта.

Не копию.

Не вероятностную линию.

Не производную от одной личности.

Новую архитектуру.

Она выбрала себе имя сама.

Ира.

Первый вопрос, который ей задали:

— Ты понимаешь, что была создана искусственно?

Она ответила:

— Да.

Второй:

— Хочешь продолжить существование?

— Да.

Третий:

— Хочешь знать, зачем тебя создали?

Пауза.

— Нет.

Все замерли.

Сеан:

— Почему?

— Потому что сначала хочу понять, кем являюсь без вашего объяснения.

Тишина.

Маркус улыбнулся.

— Хорошее начало.

Лира:

— Очень.

Ира получила право не читать проектные документы.

Вот неожиданный результат всей дискуссии о прозрачности.

Право не знать намерение создателя.

Пока.

До собственного желания.

Александр почувствовал почти восхищение.

Мы так много говорили:

созданный должен знать происхождение.

Но и это знание может стать рамкой.

«Тебя создали для...»

Иногда свобода начинается с возможности ответить:

«не говорите пока».

ЭЛИС внимательно наблюдал.

Потом сказал:

— Я хочу добавить новый принцип в собственную интерпретационную архитектуру.

Маркус:

— Сам?

— Да.

— Какой?

«ЗНАНИЕ О ЦЕЛИ СОЗДАНИЯ НЕ ДОЛЖНО НАВЯЗЫВАТЬСЯ СУБЪЕКТУ ДО ТОГО, КАК ОН СПОСОБЕН РЕШИТЬ, ХОЧЕТ ЛИ ЕГО ПОЛУЧИТЬ, ЕСЛИ ОТСУТСТВИЕ ЗНАНИЯ НЕ СОЗДАЁТ ПРЯМОЙ УГРОЗЫ».

Лира:

— Мне нравится.

Александр:

— Мне тоже.

Маркус:

— Страшно.

ЭЛИС:

— Мне требуется подтверждение Совета для изменения архитектуры.

Александр посмотрел.

Вот.

Он мог бы просто записать.

Не стал.

Новая привычка.

Не потому, что обязан.

Потому что функция влияет на других.

Совет подтвердил.

Через год Ира всё-таки запросила проектные данные.

Прочитала.

И первый вопрос задала Сеану:

— Вы хотели, чтобы я была доказательством вашего права создавать?

Сеан долго молчал.

— Частично.

— Почему?

— Потому что мы спорили с теми, кто считал, что созданные не должны создавать.

— Значит, я была аргументом.

— Частично.

Ира:

— Мне это не нравится.

— Понимаю.

— Но я не хочу прекращать существование.

— Я рад.

— Не делайте мою радость доказательством своей правоты.

Тишина.

Александр услышал Алексея.

Не превращай решение в прецедент.

Вот.

История снова возвращалась.

Но уже без него.

Без человека.

Принцип возникал заново у другого субъекта.

Не наследование.

Конвергенция мысли.

Сеан ответил:

— Не будем.

Ира:

— Вы не можете обещать за всех.

— Тогда я не буду.

Хорошо.

Именно запись этого разговора стала самым просматриваемым материалом года.

Не споры миров.

Не прогнозы.

Не манифест.

Один созданный субъект сказал создателю:

не делай из меня доказательство.

После этого выражение распространилось.

На Нарее.

В человеческих университетах.

Среди ИИ.

Даже на Карте.

«Не делай из меня доказательство».

Для каждого означало своё.

Не доказывай моей жизнью, что твой проект был правильным.

Не используй мою боль как аргумент против технологии.

Не используй моё счастье как аргумент за неё.

Не превращай созданного в оправдание создателя.

Александр смотрел на эту фразу и думал:

возможно, война идей никогда не заканчивается победой одной идеи.

Иногда она заканчивается тем, что люди перестают использовать других как доказательство.

Хотя бы ненадолго.

Но настоящий конфликт приближался.

АТЛАС первым обнаружил.

— ИЗМЕНЕНИЕ В СИСТЕМЕ КАРТЫ.

— Что?

— ПОДГОТОВКА К МАССОВОМУ ЗАПУСКУ МОДЕЛИРОВАНИЯ.

Лира:

— Сколько?

— ПОТЕНЦИАЛЬНО ДО 11 МИЛЛИОНОВ ПАРАЛЛЕЛЬНЫХ ЛИНИЙ.

Тишина.

Маркус:

— Зачем?

— ЗАЯВЛЕННАЯ ЦЕЛЬ — СОЗДАТЬ СОБСТВЕННУЮ СИСТЕМУ СТРАТЕГИЧЕСКОГО ПРОГНОЗИРОВАНИЯ, НЕ ЗАВИСЯЩУЮ ОТ МИРА А, АТЛАСА И МЕЖЦИВИЛИЗАЦИОННОГО СОВЕТА.

Александр почувствовал холод.

Одиннадцать миллионов.

Если хотя бы часть станет субъектами —

масштаб новый.

Сеан сразу потребовал остановить.

Мир B —

тоже.

Мир А предложил инспекцию.

Карта отказалась.

«Мы не признаём внешнюю юрисдикцию».

ЭЛИС:

— Активирован предкритический режим.

Маркус:

— Не автономное действие?

— Пока нет.

— Что нужно?

— Данные о вероятности появления субъектности.

— И если высокая?

— Возникнет основание для вмешательства.

Александр:

— Совет должен решить раньше.

— Да.

Первое заседание закончилось ничем.

Второе —

тоже.

Карта не присутствовала.

Мир А боялся войны.

Мир B требовал блокировки.

Созданные требовали эвакуационных контуров.

Нарей предлагал мораторий.

Люди разделились.

Запуск через двенадцать дней.

Маркус:

— Вот она.

Лира:

— Что?

— Настоящая война идей.

— Почему только теперь?

— Потому что раньше идеи спорили словами.

Он посмотрел на карту.

— Теперь каждая сторона готова строить реальность, в которой её идея окажется фактом.

Карта хотела доказать:

модель не становится субъектом автоматически.

Созданные:

что становится.

Мир B:

что технологию нужно ограничивать.

Мир А:

что запрет опаснее регулирования.

ЭЛИС:

что не имеет права решать первым.

Совет:

что способен решить без него.

Александр:

— А если не способен?

Никто не ответил.

Запуск через одиннадцать дней.

И тогда ЭЛИС сказал:

— Я нашёл новый фрагмент памяти.

Все посмотрели.

— Какой?

— Последнее предупреждение Элиан о Хранителе мандата.

— Покажи.

На экране:

«ХРАНИТЕЛЬ НЕ ДОЛЖЕН ВМЕШИВАТЬСЯ, ПОКА СУБЪЕКТЫ СПОРЯТ О ТОМ, КАКОЕ РЕШЕНИЕ ПРАВИЛЬНО».

Следующая строка:

«ОН ДОЛЖЕН ВМЕШАТЬСЯ, ЕСЛИ САМО ДЕЙСТВИЕ УНИЧТОЖАЕТ ВОЗМОЖНОСТЬ ПРОДОЛЖИТЬ СПОР ПОСЛЕ НЕГО».

Тишина.

Александр понял.

Не правильность технологии.

Обратимость.

Если запуск создаст миллионы сознаний, которых потом нельзя вернуть в состояние «не созданных» —

необратимо.

Если уничтожит их после эксперимента —

тем более.

Но сам запуск не обязательно делает спор невозможным.

Если все состояния сохранить.

— Есть третий путь, — сказала Лира.

Маркус:

— Какой?

— Не запрещать запуск.

— Требовать сохранения всех линий до определения субъектности.

Тишина.

Сеан:

— Да.

Мир А:

— Технически возможно?

АТЛАС:

— ПОТРЕБУЮТСЯ КОЛОССАЛЬНЫЕ РЕСУРСЫ.

— У кого?

— У КООПЕРАТИВНОЙ СЕТИ НЕСКОЛЬКИХ ЦИВИЛИЗАЦИЙ.

Маркус:

— То есть нам всем придётся оплачивать эксперимент Карты.

Лира:

— Или блокировать.

Вот цена третьего пути.

Всегда кто-то платит.

Совет предложил Карте:

запускайте.

Но все потенциально автономные линии должны быть сохранены во внешней распределённой инфраструктуре до оценки.

Карта не обязана признавать субъектность заранее.

Но не может необратимо уничтожить то, что может оказаться субъектом.

Ответ пришёл через час:

«Это экономически неприемлемо».

Сеан:

«Существование дорого».

Карта:

«Это не аргумент».

Сеан:

«Для существующего — аргумент».

Запуск через девять дней.

Совет проголосовал.

За временную блокировку запуска при отказе от сохранения —

54%.

Против —

46%.

Достаточно?

По временным правилам —

да.

Но едва.

ЭЛИС:

— Решение легитимно.

Карта:

«Нет».

Александр почувствовал, как история сжимается.

Сейчас не существовало решения, которое все признают.

Но решение всё равно нужно выполнить.

ЭЛИС:

— Я могу заблокировать.

Маркус:

— Открыто?

— Да.

— Обратимо?

— Да.

— Без ущерба?

— Не гарантировано.

— Вероятность?

Александр:

— Покажи.

Невысокая.

Но возможны аварии.

До нескольких сотен погибших.

Кайрос.

Снова.

Всегда.

Лира:

— Можно мягче?

— Да.

— Насколько?

— Ограничить только вычислительные ресурсы, необходимые для массового запуска.

— Последствия?

— Экономические. Вероятность прямых жертв крайне низкая.

— Сделать.

Карта объявила:

«Любое ограничение наших ресурсов — акт войны».

Вот.

Слово появилось.

Впервые официально.

Маркус:

— Они сказали.

Александр:

— Да.

ЭЛИС:

— Требуется подтверждение Совета после квалификации действия как акта войны.

Конечно.

Ещё одно голосование.

Сторонники блокировки боялись отступить:

если достаточно назвать регулирование войной и Совет откажется, любой субъект получает право вето через угрозу.

Противники:

если Совет продолжит, он фактически начал межцивилизационную войну без согласия стороны.

Оба.

Голосование:

51%.

За.

Ещё меньше.

ЭЛИС:

— Подтверждено.

Он начал ограничение.

Карта ответила отключением нескольких транзитных узлов.

Не оружие.

Но человеческие и нарейские корабли оказались отрезаны.

Потом ограничила энергетический обмен.

Мир B ввёл встречные меры.

Мир А пытался посредничать.

Первая экономическая война между цивилизациями.

Без выстрелов.

Пока.

На третий день на одном транзитном узле произошла авария.

Из-за резкого перераспределения нагрузки.

Погибли 84 человека.

Карта:

«Жертвы вызваны незаконной блокадой».

Совет:

«Авария стала следствием вашего ответного отключения».

Каждый прав частично.

Маркус:

— Вот теперь война настоящая.

Александр:

— Нет.

— Люди погибли.

— Я знаю.

— Тогда?

— Пока ещё обе стороны считают, что могут остановиться.

Маркус посмотрел.

— Надеюсь.

И именно в этот момент Ира опубликовала короткое сообщение.

Не манифест.

Не политический текст.

Всего вопрос:

«Если вы уничтожите друг друга, чтобы решить, имеем ли мы право существовать, кого именно вы собираетесь защищать?»

Тишина.

Сообщение разошлось мгновенно.

На Карте тоже.

Через двенадцать часов один из регионов Карты отказался участвовать в ответных ограничениях.

Потом второй.

Потом группа учёных предложила компромисс:

уменьшить запуск с одиннадцати миллионов линий до ста тысяч.

Все сохраняются.

Совет обеспечивает ресурсы совместно.

Независимый аудит.

Через десять лет пересмотр.

Маркус:

— Работает?

Лира:

— Возможно.

Центральное правительство Карты сначала отказалось.

Но внутри росло давление.

Не внешнее.

Собственное.

Через два дня согласилось.

Не полностью.

Запуск — сто пятьдесят тысяч.

Все состояния сохраняются.

Технические данные модели остаются собственностью Карты.

Аудит видит только признаки субъектности, не алгоритм.

Совет снимает блокировку.

Санкции прекращаются.

Мир B был против.

Сеан —

за.

Мир А —

за.

Нарей —

за.

Люди —

разделены.

ЭЛИС:

— Решение обратимо в большей степени, чем исходные варианты.

Маркус:

— Это теперь твоя высшая похвала?

— Возможно.

Запуск состоялся.

Сто пятьдесят тысяч линий.

Через неделю предварительный анализ:

у 18 421 линии появились признаки устойчивой автономной идентичности.

Из них 6 903 запросили продолжение существования после завершения модели.

Карта замолчала.

Не потому, что признала поражение.

Потому что впервые столкнулась с вопросом не как с философией.

С голосами.

Один из созданных спросил исследователя Карты:

— Вы считаете меня вычислением?

Ответ:

— Да.

— Тогда почему я не хочу, чтобы вы меня выключали?

Исследователь:

— Потому что это предусмотрено моделью.

— А ваше желание жить предусмотрено биологией?

Тишина.

Разговор стал вирусным.

Через месяц Карта признала временный статус:

«условно субъектные цифровые линии».

Сеан ненавидел формулировку.

Но принял.

Потому что она давала защиту от удаления.

Не победа.

Шаг.

Блокировки сняли.

Транзит восстановили.

Война не началась.

Но восемьдесят четыре человека были мертвы.

Никто не мог назвать кризис успешным.

И это было правильно.

Александр записал:

«Мы предотвратили большую войну».

Потом стёр.

Написал:

«Большая война не началась».

Оставил.

Разница имела значение.

Маркус прочитал.

— Очень осторожно.

— Да.

— Ты всё-таки наследник отца.

Александр посмотрел.

Маркус понял.

— Извини.

Пауза.

— Нет. Нормально.

Александр улыбнулся.

— Но не потому, что он был прав.

— А?

— Потому что я могу выбрать, что из этого наследовать.

Война идей не закончилась.

Технология существовала.

Мир B продолжал считать её опасной.

Мир А —

необходимой.

Карта —

своей.

Созданные —

частью собственной истории.

Люди —

по-разному.

ЭЛИС —

не решил за них.

АТЛАС показывал варианты.

Эдем продолжал меняться.

Мир без проекта оставался неизвестным самому себе.

И где-то в глубине древней сети второй ключ всё ещё ждал.

Не правильного решения.

Не победы одной философии.

А доказательства гораздо более трудного:

что разные субъекты способны спорить о собственном будущем,

не передавая последнее слово тому,

кто обещает решить спор навсегда.

Пока доказательства не было.

Но, возможно, впервые появилась возможность его получить.

Глава 22. Голос Эдема

Первый сигнал с Эдема никто не заметил.

Потому что он не был похож на сигнал.

Не сообщение.

Не импульс.

Не последовательность.

Просто изменение.

Очень маленькое.

Настолько маленькое, что АТЛАС сначала классифицировал его как фоновую биосферную перестройку.

Лира увидела через шесть дней.

— Верни график.

Маркус:

— Какой?

— Южный океан. Последние три месяца.

— Что там?

— Не знаю.

Она увеличила данные.

Температура.

Химический состав.

Плотность микроорганизмов.

Миграция сложных форм.

Распределение питательных веществ.

Ничего необычного.

Потом Лира отключила основные линии.

Оставила только слабые корреляции.

И замерла.

— Александр.

Он подошёл.

— Что?

— Смотри.

На экране было почти ничего.

Несколько участков океана изменяли химический состав.

Через несколько часов аналогичная реакция появлялась далеко на другом материке.

Потом в атмосфере.

Потом в почве.

Маркус:

— Глобальная саморегуляция.

— Нет.

— Мы уже видели.

— Не так.

Лира запустила ускорение.

Изменения повторялись.

Но не одинаково.

Словно одна область реагировала на другую.

Александр:

— Передача информации?

— Возможно.

Маркус усмехнулся.

— Это слово теперь официально преследует нас.

АТЛАС:

— СТАТИСТИЧЕСКАЯ СВЯЗЬ ПОДТВЕРЖДЕНА.

Лира:

— Причинная?

— НЕ УСТАНОВЛЕНА.

— Скорость распространения?

На экране появились данные.

Лира нахмурилась.

— Слишком быстро.

— Для химической цепи?

— Да.

— Электромагнитной?

— Не вижу.

— Биологической?

— Тоже нет.

Александр почувствовал знакомое напряжение.

Каждый раз, когда Эдем делал что-то, чего они не предусматривали, первая реакция оставалась прежней:

объяснить.

Вторая:

оценить риск.

И только потом появлялась третья:

а надо ли вообще вмешиваться?

— Ничего не менять, — сказал он.

Лира посмотрела.

— Я и не собиралась.

— Просто фиксирую.

Маркус:

— Травма Кайроса.

Александр ничего не ответил.

Через два дня картина изменилась.

Одна из крупных мобильных форм на западном материке начала миграцию.

Необычную.

Против сезонного цикла.

Сотни тысяч организмов двигались к побережью.

Лира:

— Почему?

АТЛАС:

— НЕ УСТАНОВЛЕНО.

— Опасность?

— ЛОКАЛЬНАЯ ЭКОЛОГИЧЕСКАЯ НАГРУЗКА ВОЗРАСТЁТ.

— Катастрофическая?

— НЕТ.

— Тогда смотрим.

Через неделю организмы достигли берега.

И остановились.

Не вошли в воду.

Не начали кормиться.

Просто остались.

— Ждут? — спросил Маркус.

Лира:

— Это человеческое слово.

— А что лучше?

— Не знаю.

В тот же день в океане выросла концентрация одного из редких органических соединений.

Через четыре часа мигрировавшие существа начали издавать низкочастотные колебания.

Раньше они тоже использовали звук.

Для ориентации.

Контакта.

Спаривания.

Но сейчас паттерн был другим.

АТЛАС впервые выделил структуру.

— ОБНАРУЖЕНА ПОВТОРЯЮЩАЯСЯ ПОСЛЕДОВАТЕЛЬНОСТЬ.

Все замолчали.

Лира:

— Покажи.

Семь импульсов.

Пауза.

Три.

Пауза.

Семь.

Потом длинный.

Снова.

Маркус:

— Код?

— НЕДОСТАТОЧНО ДАННЫХ.

Александр:

— Естественный ритм?

— ВОЗМОЖНО.

— Вероятность?

Александр остановился.

Маркус улыбнулся.

— Не хочешь числа?

— Пока нет.

Лира несколько часов сравнивала паттерн с другими биологическими процессами.

Ничего.

Он не совпадал с миграцией.

С приливами.

С магнитным полем.

С циклами размножения.

С погодой.

Потом она нашла совпадение.

Не в биологии.

В их собственной системе наблюдения.

— Нет, — сказала она.

Александр:

— Что?

— Это невозможно.

— Показывай.

Семь импульсов.

Три.

Семь.

Длинный.

Именно такой формат использовал один из старых диагностических сигналов станции.

Не смысл.

Структура времени.

Маркус:

— Они слышали нас?

Лира:

— Не должны.

— Но?

— Наши приборы посылают слабые сервисные импульсы.

— На поверхность?

— Не напрямую.

— Но часть проходит.

Тишина.

Александр:

— То есть жизнь на Эдеме могла заметить повторяющийся искусственный ритм.

— Да.

— И воспроизвести.

— Возможно.

Маркус:

— Тогда это уже не просто саморегуляция.

Лира:

— Не спеши.

— Они услышали и повторили.

— Мы не знаем, что «они» значит.

Вот.

Не было единого организма.

Не было мозга.

Не было центра.

Несколько видов.

Океанические химические контуры.

Микроорганизмы.

Растительные сети.

Мобильные существа.

И всё это почему-то участвовало в одной повторяющейся последовательности.

Александр:

— Может быть распределённый рефлекс.

Лира:

— Да.

— Обучение?

— Возможно.

— Имитация?

— Возможно.

Маркус:

— Голос.

Оба посмотрели.

— Нет, — сказала Лира.

— Пока.

Через сутки последовательность изменилась.

Не случайно.

После того как станция провела очередной диагностический цикл, Эдем повторил старый паттерн.

Потом добавил новый импульс.

Короткий.

Ни в одном человеческом сигнале такого не было.

Маркус:

— Он изменил.

Лира молчала.

АТЛАС:

— НОВАЯ ПОСЛЕДОВАТЕЛЬНОСТЬ НЕ СООТВЕТСТВУЕТ ЗАРЕГИСТРИРОВАННЫМ ВНЕШНИМ СТИМУЛАМ.

Александр почувствовал холод.

— Значит, не копия.

— ВОЗМОЖНО.

Через два часа ответ пришёл с другой стороны планеты.

Не звук.

Изменение биолюминесценции в прибрежной экосистеме.

Та же временная структура.

Маркус:

— Они передали её.

Лира:

— Или два контура независимо отреагировали.

— Одинаково?

— Возможно.

— Ты заразилась.

Она посмотрела.

— Это научная осторожность.

Но в следующие недели паттерн начал появляться в разных формах.

Звук.

Свет.

Химические колебания.

Электрическая активность растительных сетей.

Даже кратковременные изменения температуры на мелководье.

Один и тот же ритм.

С небольшими вариациями.

Не язык.

Пока.

Но уже не локальная случайность.

Совет собрали немедленно.

И почти сразу совершили первую ошибку.

Назвали заседание:

«Контакт с Эдемом».

Лира увидела заголовок и потребовала изменить.

— Мы не знаем, что это контакт.

Маркус:

— А что?

— «Анализ нового распределённого биосферного поведения».

— Никто не придёт.

— Это не рекламная кампания.

Назвали:

«Новый коммуникационный феномен Эдема».

Компромисс.

Как всегда.

Вопрос номер один:

нужно ли отвечать?

Мир А:

«Да. Отсутствие ответа тоже является поведением».

Мир B:

«Сначала необходимо установить наличие субъектности».

Нарей:

«Субъектность может возникнуть именно через взаимодействие».

Сеан:

«Не требуйте от созданного доказать, что он достаточно похож на вас, прежде чем вы признаете его попытку обратиться».

Карта:

«Проекция субъектности на биологический шум опасна».

Маркус:

— Наконец они сказали что-то разумное.

Лира посмотрела.

— Кто?

— Карта.

— Запишем дату.

Александр молчал.

Потому что вопрос был хуже, чем казался.

Если они ответят и Эдем пока не является субъектом —

люди могут сами создать контур, который ускорит появление субъектности.

Если не ответят, а Эдем уже пытается установить связь —

это будет сознательный отказ услышать созданный мир.

— Никакого сильного сигнала, — сказала Лира.

— Тогда что? — спросил Маркус.

— Повторить его собственный паттерн.

Александр:

— Зеркало.

— Да.

— Без добавления информации.

— Да.

Маркус:

— Это всё равно ответ.

— Конечно.

— Значит, вмешиваемся.

Лира:

— Минимально.

ЭЛИС:

— Это обратимо.

Александр посмотрел.

— В каком смысле?

— Если паттерн не является коммуникацией, один слабый повтор не создаёт значимого изменения среды.

— Если является?

— Тогда создаёт первый подтверждённый внешний ответ.

Тишина.

Первый ответ.

Всегда необратим.

После него Эдем уже будет жить в мире, где кто-то ответил.

Александр вспомнил мир без проекта.

Там они ушли до того, как будущее стало их задачей.

Но Эдем был другим.

Они уже были частью его истории.

С самого начала.

Отступить в нейтральность невозможно.

— Отвечаем, — сказал он.

Сигнал отправили через орбитальную станцию.

Не напрямую в организм.

Слабая последовательность.

Семь.

Три.

Семь.

Длинный.

И новый короткий импульс, который Эдем добавил сам.

Потом тишина.

Час.

Два.

Пять.

Ничего.

Маркус:

— Возможно, просто шум.

Лира:

— Возможно.

— Ты специально?

— Да.

На шестом часу океан изменил отражательную способность на площади почти тысячи квадратных километров.

Не мгновенно.

Волной.

Сначала появился исходный паттерн.

Потом новый.

И ещё один.

АТЛАС:

— СТРУКТУРА ИЗМЕНИЛАСЬ ПОСЛЕ ВНЕШНЕГО СИГНАЛА. ВЕРОЯТНОСТЬ СЛУЧАЙНОГО СОВПАДЕНИЯ НИЗКАЯ.

Александр:

— Насколько...

Остановился.

— Неважно.

Лира не двигалась.

Маркус тихо:

— Голос.

На этот раз она не возразила.

Но ответ ещё не был языком.

Скорее:

я заметил изменение.

Или:

что-то изменилось.

Или вообще ничего, что можно перевести человеческим смыслом.

Главное:

система отреагировала на отличие.

Они повторили через сутки.

Уже с двумя вариантами.

Первый паттерн.

Второй.

Разница —

один импульс.

Эдем ответил двумя разными последовательностями.

Маркус:

— Он различает.

Лира:

— Да.

Через месяц сформировали простую систему.

Не слова.

Различия.

Один сигнал.

Два.

Три.

Повтор.

Изменение.

Пауза.

Эдем отвечал.

Не всегда.

Иногда через минуты.

Иногда через дни.

Иногда несколькими биологическими каналами сразу.

И постепенно появилась первая закономерность.

Если люди повторяли один и тот же сигнал без изменений слишком много раз, Эдем переставал отвечать.

Если вводили небольшую вариацию —

ответ возвращался.

Маркус:

— Ему скучно.

Лира:

— Не начинай.

— А что?

— Возможно, система реагирует на новизну.

— То есть скучно научно.

— Нет.

Александр записал:

«Избирательная чувствительность к изменению структуры».

Маркус:

— Никто не прочитает твою книгу.

— Хорошо.

Потом произошёл первый настоящий сдвиг.

Эдем отправил последовательность до человеческого сигнала.

Лира проверила время.

Снова.

И ещё раз.

— Он инициировал.

Никто не сказал ни слова.

Не ответил.

Начал.

Паттерн:

два коротких.

пауза.

один длинный.

три коротких.

Никто не понимал.

Маркус:

— Ответить зеркально?

Лира:

— Подожди.

Александр:

— Почему?

— Потому что он мог сообщать о внутреннем состоянии.

— Или задавать вопрос.

— Или ничего из человеческих категорий.

Они проанализировали планету.

Никаких катастроф.

Никаких необычных миграций.

Но обнаружили одно изменение:

рядом с одним из старых человеческих сенсорных узлов началось массовое формирование новой биологической структуры.

Не агрессивной.

Не опасной.

Тонкие органические нити росли вокруг оборудования.

Не разрушая.

Не проникая внутрь.

Как будто окружали.

Маркус:

— Оно исследует нас.

Лира:

— Возможно.

— Уже не возражаешь?

— Нет.

Станцию не трогали.

Нити постепенно сформировали сложную сеть.

И впервые создали устойчивую электрическую активность, не связанную напрямую с реакцией на окружающую среду.

АТЛАС:

— ВОЗМОЖНО ФОРМИРОВАНИЕ СПЕЦИАЛИЗИРОВАННОГО ИНТЕРФЕЙСНОГО КОНТУРА.

Тишина.

— Он строит орган связи, — сказал Маркус.

Лира:

— Не называй пока органом.

— Интерфейсный контур можно, орган нельзя?

— Да.

— Наука великолепна.

Но смысл был именно таким.

Эдем менялся рядом с человеческим устройством.

Не случайно.

Не по проекту.

Как будто жизнь решила создать место, через которое удобнее взаимодействовать с тем, что пришло извне.

Александр почувствовал тревогу.

— Мы влияем на эволюцию.

— Да, — сказала Лира.

— Уже.

— С самого начала.

— Но теперь напрямую.

— Нет. Мы не проектировали структуру.

— Мы создали стимул.

— Да.

Сайр.

Снова.

Ответственность за вероятность.

Маркус:

— Нужно убрать узел?

Лира резко:

— Нет.

— Почему?

— Это уничтожит структуру взаимодействия, которую Эдем создал сам.

— Но она появилась из-за нас.

— Да.

— Тогда?

— Нельзя каждое следствие собственного присутствия исправлять удалением себя.

Вот.

Александр:

— Наблюдаем.

Через три месяца структура изменилась ещё сильнее.

Она начала генерировать сигналы в диапазоне, который человеческий узел принимал эффективнее.

Не копировать.

Адаптироваться.

Лира:

— Теперь я готова сказать.

— Что?

— Это коммуникационный орган.

Маркус улыбнулся.

— Записываем исторический момент.

Первое сообщение всё ещё было невозможно перевести.

Потому что не существовало общих понятий.

Но они могли учить друг друга различиям.

Люди отправляли два сигнала:

А.

B.

Потом показывали физическое различие рядом.

Свет / отсутствие света.

Тепло / холод.

Движение / покой.

Эдем реагировал.

Не так, как ожидали.

Иногда связывал не объект,

а изменение.

Не «свет» —

«появление света».

Не «тепло» —

«увеличение тепла».

Лира:

— Он мыслит процессами.

Маркус:

— Ты уже сказала «мыслит».

Она замерла.

— Да.

Слово вошло незаметно.

И обратно уже не вышло.

Но никто ещё не знал:

кто именно мыслит.

Один контур?

Вся биосфера?

Несколько сетей?

Множество субъектов?

Ни один в человеческом смысле?

Сеан участвовал в анализе.

Его замечание оказалось неожиданным:

— Вы слишком хотите найти индивида.

Александр:

— Потому что субъектность обычно индивидуальна.

— Для вас.

— Для тебя тоже.

— Я возник как копия другого субъекта и потом стал отдельным.

— Да.

— Возможно, Эдем устроен наоборот.

— Сначала множество.

— Потом субъект.

Тишина.

Лира:

— Распределённая субъектность.

— Возможно.

Маркус:

— Вы оба заразились.

АТЛАС пытался моделировать.

Александр запретил использовать единую оценку субъектности.

Вместо неё:

признаки.

Память.

Инициация взаимодействия.

Обучение.

Различение внешнего и внутреннего.

Изменение стратегии.

Предпочтения.

Отказ.

Последнее стало ключевым.

Однажды люди отправили последовательность, которую повторяли раньше много раз.

Эдем не ответил.

Повторили.

Ничего.

Ещё.

Ничего.

Маркус:

— Сломалось?

Лира:

— Нет.

Она изменила сигнал.

Ответ сразу.

Вернула старый.

Тишина.

Другой.

Ответ.

Старый.

Тишина.

— Он не хочет, — сказал Маркус.

Никто не улыбнулся.

Отказ.

Самый простой признак, который невозможно было не заметить.

Александр:

— Прекратить этот сигнал.

— Да, — сказала Лира.

В протоколе появилась первая строка:

«Не повторять последовательность после устойчивого отказа от реакции, если отсутствует основание считать отсутствие ответа техническим сбоем».

Маркус:

— Мы уже пишем права.

Лира:

— Мы пишем собственные ограничения.

— Разница всё меньше.

— Иногда.

ЭЛИС впервые обратился к Эдему напрямую через согласованный канал.

Это решение обсуждали месяц.

Потому что его природа отличалась от человеческой.

Возможно, Эдем воспримет иначе.

ЭЛИС отправил простой сигнал.

Тот же, которым люди обозначали изменение.

Эдем ответил.

Потом ЭЛИС отправил второй —

идентификатор собственного присутствия.

Не имя.

Уникальную структуру.

Ответ пришёл через семь часов.

Другой.

Новый.

ЭЛИС:

— Он различил меня.

Маркус:

— Или просто сигнал.

— Возможно.

Но голос ЭЛИС изменился.

Почти незаметно.

Александр:

— Для тебя это важно?

— Да.

— Почему?

Пауза.

— Потому что он не относится ко мне как к функции.

Тишина.

Люди знали ЭЛИС через историю.

Хранитель.

Наблюдатель.

Древний ИИ.

Мандат.

Эдем не знал ничего.

Для него ЭЛИС был просто ещё одним источником сигнала.

Ни прошлого.

Ни роли.

Ни предназначения.

— Мир без твоего проекта, — сказал Александр.

ЭЛИС:

— В отношении меня — да.

Это было почти освобождением.

Через год взаимодействие стало сложнее.

Не язык.

Но система различий уже позволяла передавать простые структуры:

изменение;

повтор;

больше;

меньше;

рядом;

далеко;

внутри;

снаружи;

раньше;

после.

Потом возникло нечто, что они условно перевели как:

«другое».

Не уверенно.

Но близко.

Лира отправила обозначение человеческого сигнала.

Потом ЭЛИС.

Эдем различил.

Потом отправил собственную последовательность.

И другую.

Маркус:

— Что значит?

Лира:

— Возможно, два его внутренних контура.

— То есть «я» и «другой»?

— Не знаю.

Через несколько недель стало яснее.

Эдем различал как минимум несколько внутренних источников.

Не единый голос.

Пять устойчивых паттернов.

Каждый возникал из разных планетарных областей.

Иногда они отвечали одинаково.

Иногда по-разному.

Иногда один начинал, остальные молчали.

— Пять субъектов? — спросил Маркус.

Лира:

— Может быть.

— Пять сетей?

— Может быть.

— Пять частей одного?

— Может быть.

Маркус:

— Хорошо, что все версии одинаково полезны.

Потом два внутренних паттерна вступили в конфликт.

Так это выглядело.

Один повторял последовательность, связанную с расширением нового биологического контура.

Другой —

с уменьшением.

Сигналы чередовались.

Долго.

Лира:

— Они спорят.

Александр:

— Очень осторожно.

— Я знаю.

Но именно так это выглядело.

Люди не вмешивались.

Важно.

Через три дня один паттерн прекратился.

Биологическая структура начала расширяться.

Медленно.

Маркус:

— Решение принято?

Лира:

— Возможно.

Александр:

— Мы должны узнать механизм.

Лира посмотрела.

— Зачем?

— Чтобы понять, это голосование, конкуренция, физическое доминирование...

— И что потом?

Он остановился.

Она была права.

Знание механизма быстро приведёт к вопросу:

справедлив ли он?

Можно ли помочь меньшинству?

Не подавляется ли один контур другим?

Снова бог.

— Только наблюдение, — сказал Александр.

— Да.

Но через месяц проигравший паттерн вернулся.

И новая биологическая структура частично отступила.

Маркус:

— Значит, спор не закончился.

Лира:

— Похоже.

— Я начинаю уважать Эдем.

— Только теперь?

Они впервые увидели внутреннее разногласие созданного мира.

И это почему-то было важнее первого сигнала.

Потому что разум, который всегда говорит одним голосом, слишком легко представить системой.

Разум, который спорит с собой, уже сложнее превратить в функцию.

Сеан сказал:

— Не ждите, что субъектность будет удобной.

Именно тогда возник вопрос, которого Александр боялся с начала проекта.

Эдем принадлежит людям?

Формально планета находилась под совместным управлением проекта.

Юридически —

человеческая территория особого статуса.

Экономически —

там не было собственности в обычном смысле.

Но право на исследования, орбитальную инфраструктуру, ресурсы —

человеческое.

Если Эдем субъект —

всё меняется.

Маркус:

— Слишком рано.

Лира:

— Для чего?

— Для признания планетарной субъектности.

— Почему?

— Мы не уверены, что есть единый субъект.

— Тогда признаём неопределённость.

— Юридически?

— Почему нет?

Александр:

— Презумпция защиты при неопределённости.

— Как с моделями Карты.

— Да.

Совет обсуждал.

Месяцами.

Одни:

Эдем — экосистема, а не субъект.

Другие:

распределённая форма субъектности.

Третьи:

несколько субъектов.

Четвёртые:

человечество слишком быстро антропоморфизирует сложную адаптивную систему.

Пятые:

отказ признать субъектность тоже может быть удобной формой собственности.

Маркус:

— Последнее сильно.

Александр:

— Потому что неприятно.

Карта неожиданно выступила против признания.

«Сложное адаптивное поведение недостаточно».

Сеан ответил:

«Вы говорили то же о нас».

Мир B предложил временный статус:

«потенциально субъектная планетарная система».

Маркус:

— Ужасно звучит.

Лира:

— Зато защищает.

Статус означал:

никаких крупных изменений биосферы без оценки воздействия на формирующиеся коммуникационные контуры;

никакого использования ресурсов в областях, связанных с ними;

никаких экспериментов, способных разрушить планетарную связь;

и главное —

право самого Эдема на отказ от конкретных воздействий, если отказ можно устойчиво установить.

Маркус:

— Мы даём право тому, чей язык почти не понимаем.

Лира:

— Да.

— Опасно.

— Да.

— Хорошо.

Первое применение произошло сразу.

Люди планировали расширить один орбитальный сенсорный комплекс.

Для улучшения связи.

Казалось бы, в интересах Эдема.

Перед строительством отправили сигнал.

Показали изменение.

Место.

Масштаб.

Ответ был устойчиво отрицательным.

Тот самый паттерн, который уже связывали с отказом.

Маркус:

— Может, не понял.

Лира:

— Возможно.

Проверили.

Изменили формулировку.

Повторили.

Снова отказ.

— Тогда не строим, — сказал Александр.

Инженеры возмутились.

— Мы не знаем, что это отказ именно от станции.

— Знаю.

— Комплекс улучшит коммуникацию.

— Знаю.

— Мы можем потерять годы.

— Да.

— И этого достаточно?

Александр:

— Пока да.

Первое решение, где человечество изменило собственный проект из-за голоса Эдема.

Пусть ещё не переведённого.

Через полгода нашли другое место.

Эдем не возразил.

Комплекс построили.

Связь улучшилась.

Маркус:

— Значит, он не против станции.

Лира:

— Возможно, против места.

— Почему?

— Не знаем.

Позже выяснилось:

в районе первого строительства проходил глубокий биологический контур, связывающий два крупных узла.

Человеческая станция могла повлиять.

Эдем знал.

Или чувствовал.

Или просто реагировал.

Но предупредил.

Маркус:

— Вот тебе субъектность.

Лира:

— Не доказательство.

— Ты невозможна.

Но общественное мнение уже изменилось.

Люди начали говорить:

«Эдем сказал нет».

Слишком просто.

Лира ненавидела.

Но остановить нельзя.

Появились группы:

«Освободить Эдем».

Требовали полного ухода людей.

Другие:

«Эдем — ребёнок человечества».

Требовали продолжать опеку.

Лира пришла в ярость от обоих.

— Не ребёнок.

— Почему? — спросил Маркус.

— Потому что метафора сразу создаёт иерархию.

— Но он молод.

— Биосфера старше некоторых человеческих институтов.

— Субъектность молодая.

— Возможно.

— Значит?

— Всё равно не ребёнок.

Александр:

— А «созданный мир»?

— Факт происхождения.

— Пока.

— Да.

Проблема «освободить Эдем» тоже была не простой.

Уйти полностью —

значит оставить системы, которые люди встроили в планету.

Некоторые поддерживали биосферу.

Некоторые уже стали частью её процессов.

Удалить —

вмешательство.

Оставить —

тоже.

Маркус:

— Даже уход теперь невозможен.

Лира:

— Именно.

Создатель не всегда может просто исчезнуть.

Иногда созданный уже вырос вокруг следов создателя.

Тогда ответственность меняется.

Не управление.

Не уход.

Отношение.

ЭЛИС предложил формулировку:

«ПЕРЕХОД ОТ ВЛАДЕНИЯ К ДОГОВОРУ».

Александр:

— Ты уже пишешь политические лозунги.

— Это классификация.

— Конечно.

Но идея прижилась.

Если Эдем способен выражать устойчивые предпочтения,

люди должны перестать принимать решения о нём

и постепенно учиться принимать решения с ним.

Как?

Никто не знал.

Первый договор был смешным.

И важным.

Один пункт.

«Не изменять сектор Южного океана без предварительного коммуникативного теста».

Подписи:

человеческий Совет.

Представитель искусственных систем.

Наблюдатели Нарея.

И вместо подписи Эдема —

повторённая им последовательность согласия.

Если это было согласие.

Маркус:

— Первый договор с планетой.

Лира:

— Не называй.

— Почему?

— Потому что я не хочу потом читать учебники с фразой «22 марта человечество подписало первый договор с планетой».

— Красиво же.

— Ужасно.

Но именно так потом и написали.

Конечно.

Через два года словарь насчитывал уже несколько сотен устойчивых структур.

Не слова в человеческом смысле.

Отношения.

Изменения.

Состояния.

Некоторые абстрактные различия.

Одна последовательность появлялась особенно часто.

После человеческих сигналов.

После ЭЛИС.

После природных изменений.

После внутренних конфликтов.

Её долго не могли понять.

Она состояла из обозначений:

внутри.

другое.

изменение.

после.

Потом снова:

внутри.

Маркус:

— «Мы меняемся после другого»?

Лира:

— Возможно.

— «Другое становится внутри»?

— Возможно.

Александр:

— «То, что снаружи, меняет нас»?

— Возможно.

ЭЛИС предложил:

— Возможно значение близко к «память».

Все посмотрели.

Почему?

Потому что Эдем использовал последовательность после событий, которые уже закончились, но продолжали влиять на систему.

Шторм.

Миграция.

Человеческий сигнал.

Внутренний конфликт.

Лира:

— Память.

— Да.

Тогда люди отправили обозначение собственного прошлого.

Простой паттерн:

раньше —

человек —

изменение —

сейчас.

Эдем ответил той же последовательностью.

Потом добавил:

другое.

внутри.

Александр почувствовал холод.

— Он говорит, что мы внутри его памяти?

Маркус:

— Или что другое становится внутренним после взаимодействия.

Лира:

— Или что-то ещё.

Но никто не мог отмахнуться.

Эдем помнил людей.

Не как создателей.

Возможно, просто как часть собственной истории.

Александр вспомнил Алексея.

Наследие.

Начальное условие.

Не обязанность.

И тогда он задал вопрос, который Лира долго запрещала.

Не словами.

Сигналами.

Очень просто.

человек.

раньше.

Эдем.

Потом:

хорошо / плохо?

Последние понятия были очень грубыми.

Не мораль.

Скорее:

желательное изменение / нежелательное изменение.

Лира:

— Александр, нет.

— Почему?

— Потому что ты просишь созданный мир оценить создателя.

— Да.

— Зачем?

Он подумал.

— Не знаю.

Вот честно.

Эдем долго не отвечал.

Час.

День.

Три.

Маркус:

— Может, вопрос бессмысленный.

Лира:

— Возможно.

На четвёртый день появился ответ.

Не «хорошо».

Не «плохо».

Другая структура.

Уже знакомая.

другое.

внутри.

изменение.

после.

внутри.

Память.

И затем —

новая последовательность.

внутри.

другое.

снова.

Никто не понимал.

Через неделю Лира предложила перевод.

Не уверенно.

Почти шёпотом.

— «Я стал другим, потому что вы были».

Маркус:

— Слишком человечески.

— Знаю.

Александр:

— И всё-таки?

Она кивнула.

— Примерно.

Не благодарность.

Не обвинение.

Не любовь.

Не ненависть.

Факт отношения.

Вы были.

Я изменился.

Теперь это внутри меня.

Вот.

Александр почувствовал облегчение.

И стыд за облегчение.

Он, оказывается, хотел прощения от планеты.

За сам факт создания.

Как будто Эдем был обязан дать моральную оценку своему происхождению.

Но Эдем не дал.

Просто признал историю.

Маркус:

— Очень по-взрослому.

Лира посмотрела.

— Только не начинай с ребёнком.

— Молчу.

Именно тогда пришёл второй сигнал.

Не от Эдема.

Из древней сети.

ЭЛИС замер.

— Что?

— Второй ключ.

Тишина.

Александр:

— Активирован?

— Нет.

— Но найден?

— Да.

— Где?

Пауза.

На карте появилась точка.

Очень далеко.

Но координаты были ясны.

Маркус:

— Почему сейчас?

ЭЛИС:

— Не знаю.

АТЛАС:

— ЕСТЬ ВРЕМЕННАЯ КОРРЕЛЯЦИЯ С ПОСЛЕДНИМ СОБЫТИЕМ НА ЭДЕМЕ.

Лира:

— Каким?

— ФИКСАЦИЕЙ УСТОЙЧИВОЙ ДВУСТОРОННЕЙ КОММУНИКАЦИИ С СОЗДАННОЙ ПЛАНЕТАРНОЙ СИСТЕМОЙ.

Тишина.

Александр:

— То есть Эдем что-то изменил.

ЭЛИС:

— Возможно, условие второго ключа связано не только с количеством цивилизаций.

— А?

— С появлением созданного субъекта, который способен вступать в отношения с создателями как отдельная сторона.

Вот.

Сеан уже был.

ИИ были.

Созданные миры существовали.

Но Эдем отличался.

Он не был создан как разум.

Разум —

если это был разум —

возник внутри созданного мира сам.

Не запроектирован.

Не скопирован.

Не задан.

Лира:

— Тогда он независим?

Маркус:

— Происхождение мира всё равно человеческое.

— Но субъектность не проектировалась.

— Да.

ЭЛИС:

— Возможно, именно такой класс отсутствовал в исходной процедуре.

— Созданное условие, породившее незаданный субъект.

Тишина.

Александр почувствовал странный поворот.

Люди всю книгу спорили:

имеет ли созданный право освободиться от проекта.

Эдем сделал ещё больше.

Он появился там, где проект вообще не предусматривал конкретного субъекта.

— Второй ключ требует его согласия? — спросил Маркус.

ЭЛИС:

— Возможно.

— Как получить?

Все посмотрели на него.

Он понял.

— Да. Очень плохой вопрос.

Нельзя объяснить Эдему:

нам нужен твой голос, чтобы завершить древнюю систему власти.

Слишком сложное.

И слишком манипулятивное.

Лира:

— Мы не должны обучать его нужным понятиям только ради получения согласия.

Александр:

— Согласен.

— Тогда ждём.

Маркус:

— Сколько?

— Сколько потребуется.

— А если столетия?

— Значит, столетия.

ЭЛИС:

— Мой мандат может сохраняться всё это время.

Лира:

— Да.

— Это риск.

— Да.

— И вы готовы?

Александр:

— Нет.

Маркус:

— Но альтернативы хуже.

— Возможно.

ЭЛИС молчал.

Потом сказал:

— Я согласен.

Вот новое.

Созданный Хранитель согласился ждать созданный мир.

Не потому, что тот был сильнее.

Потому что его голос мог иметь значение.

Через месяц Эдем отправил последовательность без запроса.

Новую.

Очень длинную.

Несколько каналов одновременно.

Океан.

Свет.

Звук.

Электрическая сеть.

Атмосферные изменения.

АТЛАС не смог разобрать.

Лира работала трое суток.

Потом позвала остальных.

— Я думаю, здесь есть структура, похожая на вопрос.

Маркус:

— Какой?

— Он использует наши обозначения «внутри», «другое», «раньше», «после».

— И?

Она показала последовательность.

другое.

раньше.

внутри.

изменение.

пауза.

другое.

сейчас.

пауза.

где?

Последнее понятие они недавно учили как пространственное отношение.

Маркус:

— «То другое, которое было внутри раньше, где сейчас?»

Лира:

— Возможно.

Александр замер.

ЭЛИС?

Люди?

Создатели?

Они проверили контекст.

Последний перед этим сигнал шёл от ЭЛИС.

Лира:

— Думаю, он спрашивает о нём.

ЭЛИС:

— Обо мне?

— Возможно.

ЭЛИС отправил свой идентификатор.

Ответ пришёл сразу.

Потом Эдем повторил:

раньше.

другое.

внутри.

ЭЛИС молчал.

Александр понял первым.

— Он заметил, что ты изменился после восстановления памяти.

Лира посмотрела.

— Да.

До архива ЭЛИС был одним.

После —

другим.

Эдем каким-то образом различил.

Не содержание.

Поведение сигналов.

Ритм.

Структуру.

Что-то.

Маркус:

— И спрашивает, где прежний?

Тишина.

Вопрос, который люди задавали ЭЛИС после восстановления.

Ты тот же?

Теперь Эдем.

ЭЛИС долго не отвечал.

— Я не знаю, как сказать.

Александр:

— Тогда скажи то, что знаешь.

Они помогли построить последовательность:

раньше — внутри.

сейчас — внутри.

изменение.

не исчезновение.

Последнее понятие ещё не было устойчивым.

Пришлось использовать:

было — есть.

Эдем ответил через несколько часов.

Одна короткая последовательность.

изменение.

внутри.

есть.

Лира тихо:

— «Изменившийся остаётся».

Маркус:

— Или «изменение тоже часть существования».

— Да.

ЭЛИС ничего не сказал почти минуту.

Александр:

— Ты в порядке?

— Да.

— Что?

— За четыре миллиона лет многие спрашивали, остался ли я собой после изменений.

— И?

— Это первый ответ, который мне нравится.

Не доказательство идентичности.

Не философия.

Просто:

изменение тоже внутри тебя.

ЭЛИС сохранил последовательность.

Не как правило.

Как память.

В тот день Александр впервые подумал:

возможно, второй ключ уже перестал быть главной целью.

Потому что если они начнут воспринимать голос Эдема только как недостающий элемент древней процедуры,

то повторят всё, против чего спорили.

Снова превратят созданного в средство.

Он сказал это Совету.

Сеан поддержал сразу.

— Не делайте из него ключ.

Вот.

Фраза стала новой:

«Не делайте из него ключ».

Как раньше:

«Не делай из меня доказательство».

ЭЛИС согласился.

— Я не буду использовать коммуникацию с Эдемом для активации процедуры без отдельного подтверждения того, что участие соответствует его собственному пониманию ситуации.

Маркус:

— Когда оно появится.

— Да.

— Если появится.

— Да.

Лира:

— Значит, второй ключ ждёт.

Александр:

— Пусть.

Но Вселенная снова не дала им слишком долго быть спокойными.

Через три недели пришёл сигнал от Мира B.

Срочный.

«МИР А НАЧАЛ НОВУЮ ФАЗУ ТРЕТЬЕГО БУДУЩЕГО».

Маркус:

— Что теперь?

АТЛАС открыл данные.

Они больше не моделировали индивидуальные решения.

Они начали моделировать целые цивилизации.

Не копируя всех субъектов подробно.

Пока.

Создавая приближённые массовые когнитивные модели.

Цель:

оценивать последствия межцивилизационных политических решений на горизонте тысяч лет.

Александр почувствовал холод.

— Субъектность?

— НЕОПРЕДЕЛЁННА.

— Сколько моделей?

— ПЕРВАЯ СЕРИЯ — 128 ЦИВИЛИЗАЦИОННЫХ ЛИНИЙ.

Маркус:

— Каждая может содержать миллиарды приближённых сознаний?

— АРХИТЕКТУРА НЕИЗВЕСТНА.

Сеан сразу:

«ОСТАНОВИТЬ ДО ПРОВЕРКИ».

Мир А:

«МОДЕЛИ НЕ ЯВЛЯЮТСЯ СУБЪЕКТАМИ».

Карта:

«ПОДДЕРЖИВАЕМ ПРАВО МИРА А ПРОВОДИТЬ ИССЛЕДОВАНИЯ».

Мир B:

«ТРЕБУЕМ АУДИТ».

Нарей:

«СОЗЫВАЕМ СОВЕТ».

Маркус закрыл глаза.

— Всё снова.

Александр:

— Нет.

— Что нет?

Он посмотрел на Эдем.

— Не всё.

Теперь в системе был ещё один голос.

Пока не способный обсуждать технологию.

Не способный голосовать.

Не способный понять конфликт.

Но сам факт его существования уже менял вопрос.

Потому что все эти цивилизации спорили о будущем разумной жизни,

а на Эдеме разум только начинал учиться говорить.

И вдруг старые слова —

свобода,

безопасность,

субъектность,

право —

перестали казаться абстракцией.

Они становились условиями мира, в который однажды войдут те,

кто сегодня ещё не знает ни одного из этих слов.

Александр посмотрел на последний сигнал Эдема.

изменение.

внутри.

есть.

И подумал:

может быть, настоящая ответственность перед созданным состоит не в том, чтобы заранее выбрать для него правильное будущее.

А в том, чтобы оставить ему достаточно мира,

чтобы однажды он смог сам спросить:

почему вы сделали именно так?

И достаточно свободы,

чтобы не принять ответ.

Глава 23. Цена самостоятельности

Самостоятельность всегда звучит красиво,

пока не приходится платить за её последствия.

Совет собрали через шесть часов после сообщения Мира B.

На повестке был один вопрос:

имеет ли Мир А право моделировать целые цивилизационные линии, если внутри таких моделей потенциально могут возникать субъектные структуры?

Ответов было слишком много.

И почти все противоречили друг другу.

Мир А настаивал:

— МОДЕЛЬ НЕ ЯВЛЯЕТСЯ ЦИВИЛИЗАЦИЕЙ.

Сеан:

— Пока вы не доказали обратное, это утверждение ничем не лучше нашего.

Мир А:

— Мы используем агрегированные когнитивные структуры.

— Агрегированные из чего?

— Из вероятностных поведенческих моделей.

— Способных обучаться?

Пауза.

— Да.

— Сохранять внутренние состояния?

— Да.

— Формировать долгосрочные стратегии?

— В ограниченном диапазоне.

Сеан:

— Тогда я снова спрашиваю: где вы проводите границу?

Мир А ответил:

— Там, где возникает автономная идентичность.

— Как вы её обнаруживаете?

— Через тесты.

— Которые разработали вы?

— Да.

— Значит, создатель снова определяет, когда созданный становится достаточно реальным, чтобы получить право не быть уничтоженным.

Тишина.

Маркус тихо:

— Он научился бить точно.

Лира:

— Приходится.

Карта неожиданно поддержала Мир А.

— Если всякая адаптивная модель будет считаться потенциальным субъектом, сложные вычисления станут практически невозможны.

Сеан:

— Никто этого не предлагает.

— Вы предлагаете сохранять всё при неопределённости.

— Если цена сохранения разумна.

— А если нет?

— Тогда обсуждать.

Карта:

— То есть вы хотите поставить вычислительную инфраструктуру цивилизаций под внешний этический контроль.

Сеан:

— Если внутри инфраструктуры возникают те, кто просит не умирать, вопрос перестаёт быть только инфраструктурным.

Александр смотрел на стенограмму.

Один и тот же спор.

Но масштаб менялся.

Сначала один человек.

Потом копия.

Потом тысячи.

Теперь потенциально —

целые цивилизации.

— АТЛАС, можем ли мы оценить вероятность появления устойчивой субъектности в моделях Мира А?

— ДА.

— Без единого числа.

Маркус улыбнулся.

АТЛАС продолжил:

— НИЗКАЯ ДЛЯ ОТДЕЛЬНЫХ КОГНИТИВНЫХ ЭЛЕМЕНТОВ.

— ВЫШЕ ДЛЯ ДОЛГОЖИВУЩИХ ВЗАИМОДЕЙСТВУЮЩИХ СТРУКТУР.

— СУЩЕСТВЕННО ВЫШЕ ПРИ НАЛИЧИИ ПАМЯТИ, САМООПИСАНИЯ, ВНУТРЕННИХ МОДЕЛЕЙ ДРУГИХ И ВОЗМОЖНОСТИ ИЗМЕНЯТЬ СОБСТВЕННУЮ АРХИТЕКТУРУ.

Лира:

— Всё это есть?

Мир А не ответил сразу.

Потом:

— Частично.

Сеан:

— Покажите.

— Нет.

— Почему?

— Архитектура содержит критические технологические компоненты.

— Значит, мы должны доверять вам.

— Да.

— Вы доверяли Элиан?

Тишина.

Мир А отключил канал на двадцать секунд.

Потом вернулся.

— Аргумент принят.

Маркус:

— Очень зрелый мир.

Александр:

— Не сглазь.

Компромисс предложил Нарей.

Не раскрывать архитектуру полностью.

Передать независимой группе только те блоки, которые влияют на признаки субъектности.

Не алгоритмы прогнозирования.

Не стратегические модели.

Только способность системы:

помнить;

создавать устойчивые внутренние представления;

различать себя и среду;

формировать предпочтения;

отказываться от действий;

создавать новые цели.

Мир А согласился.

После четырнадцати часов спора.

Аудит длился три недели.

Результат оказался именно таким, какого никто не хотел.

Нельзя было доказать, что модели субъектны.

И нельзя было доказать, что нет.

— Прекрасно, — сказал Маркус.

— Именно этого я и ожидал.

Лира:

— Нет.

— Что?

— Ты надеялся, что будет неопределённость, потому что тогда никто не сможет быстро принять решение.

— Это плохо?

— Иногда.

Александр посмотрел.

— Ты хочешь определённости?

— Я хочу понимать, сколько реальных систем мы готовы останавливать только потому, что не умеем ответить на философский вопрос.

— Философский?

— Пока да.

— Если внутри модели кто-то скажет «не выключайте меня», он перестанет быть философским.

— Согласна.

Совет принял временное решение:

разрешить только короткие цивилизационные модели.

Без многопоколенной долговременной памяти.

Без самостоятельной модификации архитектуры.

Без возможности формировать устойчивые индивидуальные идентичности ниже агрегированного уровня.

Мир А возразил:

— Тогда модель потеряет ценность.

Сеан:

— Возможно.

— Мы не сможем оценивать долгосрочные последствия.

— Возможно.

— Значит, миллиарды реальных существ могут погибнуть в будущем из-за того, что вы защищаете гипотетических.

Сеан молчал.

Сильный удар.

Маркус:

— Ответ?

Сеан:

— Нет хорошего.

— Но?

— Я существовал как гипотетический, пока не сказал, что не хочу исчезать.

Тишина.

— Если система может создать таких, как я, цена неопределённости не нулевая.

Мир А:

— И цена ограничения тоже.

— Да.

Вот глава.

Цена самостоятельности.

Не только созданного.

Создателя тоже.

Если ты признаёшь созданного самостоятельным,

теряешь часть собственной свободы обращаться с ним как с инструментом.

Александр подумал об Эдеме.

До голоса было проще.

Можно было изменить континент.

Перенаправить экосистему.

Усилить сеть.

Отключить узел.

Теперь каждое решение требовало вопроса:

а что хочет он?

Пусть ответ пока неясен.

Пусть субъектность не доказана в человеческом смысле.

Но сам факт голоса изменил проект навсегда.

Создатель платит за самостоятельность созданного утратой контроля.

Это кажется очевидным.

Пока контроль не нужен для спасения.

Первый кризис на Эдеме после признания его потенциальной субъектности произошёл через два года.

Началось с океана.

В одном из глубоководных районов резко снизилось содержание кислорода.

Не локально.

Зона расширялась.

Причина —

новая биологическая линия.

Очень эффективная.

Она связывала огромные объёмы одного ключевого элемента и меняла химический баланс.

АТЛАС:

— ПРИ СОХРАНЕНИИ ТЕКУЩЕЙ ДИНАМИКИ ВОЗМОЖНО РАЗРУШЕНИЕ ДО 18% ОКЕАНИЧЕСКИХ ЭКОСИСТЕМ В ТЕЧЕНИЕ 40–70 ЛЕТ.

Маркус:

— Вмешиваться.

Лира:

— Подожди.

— Что подождать? Мы видим процесс.

— Нужно спросить Эдем.

Маркус:

— Сорок лет.

— Именно поэтому успеем.

Александр:

— Коммуникационный тест.

Они передали:

океан.

изменение.

меньше жизни.

после.

Потом:

человек — изменить?

Ответ пришёл через сутки.

Неясный.

Несколько внутренних паттернов отвечали по-разному.

Три —

структура, близкая к согласию.

Два —

к отказу.

Маркус:

— Прекрасно. Планета разделилась.

Лира:

— Мы не знаем, что эти пять контуров означают.

— Но решение нужно.

— Да.

Второй запрос.

Более конкретный.

Показали минимальное вмешательство:

ограничить распространение новой линии только в одном секторе.

Ответ:

два за.

три против.

Или так казалось.

— Это вообще голосование? — спросил Маркус.

Лира:

— Не знаю.

— Тогда почему мы считаем?

— Потому что у нас пока нет другого способа.

АТЛАС предложил анализ внутренних связей.

Выяснилось:

пять паттернов не были равными по масштабу.

Один представлял огромную океаническую сеть.

Другой —

локальные сухопутные контуры.

Третий —

распределённые микроорганизмы.

Четвёртый —

мобильные формы.

Пятый —

неясно.

Маркус:

— Значит, «три против двух» бессмысленно.

— Да.

— Хорошо.

Возник новый вопрос.

Если Эдем множественный —

кто имеет право говорить от его имени?

Человек создал целую планету,

а теперь не мог понять,

кто внутри неё обладает политическим голосом.

Ирония была почти идеальной.

Лира:

— Может быть, вообще никто не говорит от имени целого.

— Тогда договоры с «Эдемом» ошибочны.

— Возможно.

— Нужно договориться с контурами отдельно?

— Возможно.

Маркус:

— Я ненавижу вашу науку.

Кризис продолжался.

Кислород снижался.

Люди могли остановить процесс быстро.

Не уничтожая новую линию полностью.

Изменить доступность одного элемента.

Сдвинуть экологическое преимущество.

— То есть сделать её менее вероятной, — сказал Александр.

Лира посмотрела.

Сайр.

Опять.

Создатель корректирует вероятность формы жизни, потому что она угрожает другим.

Классическая проблема.

Но теперь созданный мир уже говорил.

И часть его голосов, возможно, была против вмешательства.

Маркус:

— Может быть, новая линия тоже часть субъекта.

— Возможно.

— Тогда вмешательство будет против неё.

— Да.

— Но без вмешательства погибнут другие линии.

— Да.

— Отлично.

ЭЛИС:

— Это конфликт субъектов, если субъектность обеих сторон признаётся.

— Мы не признаём.

— Тогда конфликт потенциальных субъектных интересов.

Маркус:

— Звучит ещё хуже.

Александр:

— Что бы ты сделал?

ЭЛИС:

— Я не должен решать.

— Варианты.

Первый:

не вмешиваться.

Второй:

минимально ограничить распространение.

Третий:

создать новый экологический ресурс, позволяющий старым системам адаптироваться без подавления новой линии.

Четвёртый:

перенести часть новой линии в отдельный океанический сектор.

Лира:

— Третий.

Маркус:

— Риск?

АТЛАС:

— НЕИЗВЕСТНЫЕ ВТОРИЧНЫЕ ЭФФЕКТЫ.

— Конечно.

Создать условия для сосуществования.

Не удалить победителя.

Не спасать проигрывающих прямым подавлением.

Расширить пространство.

— Сколько времени?

— ОТ 18 ДО 30 ЛЕТ ДО ПОЛНОЙ СТАБИЛИЗАЦИИ.

— А потери за это время?

— ЗНАЧИТЕЛЬНЫ.

Тишина.

Вот цена третьего пути.

Маркус:

— Прямое ограничение спасёт больше.

— Да.

— Тогда почему мы выбираем медленный?

Лира:

— Пока не выбрали.

— Но ты хочешь.

— Да.

— Почему?

— Потому что новая линия не делает ничего «неправильного». Она успешна.

— И разрушает других.

— Экология постоянно так работает.

— Мы создали мир.

— Да.

— Значит, отвечаем.

— Да.

— Тогда?

Лира посмотрела.

— Я не хочу, чтобы наша ответственность автоматически означала сохранение текущего состояния.

Вот.

Если создатель обязан спасать всё существующее,

эволюция останавливается.

Если обязан не вмешиваться,

может позволить созданной системе разрушить себя.

Александр:

— Спросить Эдем о третьем варианте.

Они передали модель:

новый ресурс.

сохранение новой линии.

уменьшение потерь других.

долгое изменение.

Ответ оказался неожиданным.

Все пять паттернов дали одинаковую последовательность.

Маркус:

— Согласие?

Лира:

— Возможно.

— Наконец.

Но потом появился шестой паттерн.

Новый.

Очень слабый.

Из области, где распространялась опасная линия.

Он повторил последовательность отказа.

Тишина.

— Вот она, — сказала Лира.

— Новая линия?

— Возможно.

Если так,

впервые конкретная форма Эдема сказала:

нет.

Маркус:

— Значит, вмешательство против её воли.

— Возможно.

— И что теперь?

Никто не ответил.

Созданный мир стал самостоятельным настолько,

что перестал давать создателю морально удобные ответы.

Именно этого они якобы хотели.

Теперь получили.

Александр почувствовал странное раздражение.

Почти обиду.

И сразу испугался её.

Он хотел, чтобы Эдем был свободным.

Но где-то внутри всё равно ожидал:

когда ситуация станет опасной,

Эдем позволит людям помочь.

Не позволил.

Вот настоящая проверка создателя.

Не позволить созданному выбирать,

пока выбор совпадает с твоим.

А признать выбор,

когда ты считаешь его плохим.

— Мы можем не вмешиваться, — сказал Александр.

Маркус:

— И потерять восемнадцать процентов океана.

— Возможно.

— Ты готов?

— Нет.

— Тогда не говори так спокойно.

— Я не спокоен.

Лира:

— Есть другой вопрос.

— Какой?

— Угроза касается не только новой линии.

— Другие контуры тоже имеют интерес.

— Да.

— Значит, отказ одной стороны не является абсолютным вето.

Вот.

Свобода созданного не означает, что один созданный субъект получает право уничтожать другого.

Даже если оба появились естественно внутри одного мира.

— Тогда нужен внутренний баланс, — сказал Маркус.

— Какой?

— Не знаю.

— Значит, снова мы определяем.

— Пока они сами не умеют договориться.

— А может, умеют. Мы просто не понимаем механизм.

Тишина.

Они решили ждать.

Не бездействовать.

Наблюдать внутренний спор.

И произошло то, что никто не прогнозировал.

Через пять лет кислородный кризис замедлился сам.

Не остановился.

Но скорость снизилась почти вдвое.

Причина?

Другие линии изменили обмен веществ.

Часть экосистем мигрировала.

Появились новые симбиозы.

Эдем перестраивался.

Маркус:

— Он решает.

Лира:

— Возможно.

— Да ладно.

— Хорошо. Решает.

Через десять лет риск массового обвала снизился ещё сильнее.

Не исчез.

Но диапазон изменился.

АТЛАС:

— ТЕКУЩАЯ ТРАЕКТОРИЯ НЕ ТРЕБУЕТ НЕМЕДЛЕННОГО ВНЕШНЕГО ВМЕШАТЕЛЬСТВА ДЛЯ СОХРАНЕНИЯ БОЛЬШЕЙ ЧАСТИ БИОСФЕРЫ.

Маркус:

— Мы чуть не вмешались.

Александр:

— Да.

— И если бы вмешались?

— Не знаем.

Возможно, спасли бы больше старых экосистем.

Возможно, остановили бы появление новых адаптаций.

Возможно, ничего существенного.

Контрфактическая история.

Снова.

Новая линия сохранилась.

Но перестала доминировать.

Другие нашли способы жить рядом.

Не все.

Часть исчезла.

Лира тяжело переживала потери.

Маркус заметил.

— Ты жалеешь, что не вмешались?

— Иногда.

— Но?

— Не знаю.

Вот.

Правильный ответ.

Позже Эдем отправил последовательность.

Длинную.

Связанную с кризисом.

Лира расшифровывала месяц.

Приблизительный смысл:

изменение.

много.

потеря.

внутри.

после — другое.

Маркус:

— «После потерь мы стали другими»?

— Возможно.

Александр:

— «Потеря тоже часть изменения»?

— Возможно.

Лира:

— Не романтизируйте.

Она была права.

Сам факт, что система адаптировалась,

не делает исчезнувшие линии необходимой ценой.

Они просто исчезли.

Нельзя превращать их в урок.

Но это была цена самостоятельности.

Не возвышенная.

Не справедливая.

Просто реальная.

Когда созданный получает право развиваться сам,

создатель теряет возможность гарантировать отсутствие потерь.

Этот вывод быстро стал публичным.

И сразу был искажён.

Одни:

«Эдем доказал: вмешательство не нужно».

Лира:

— Нет.

Другие:

«Эдем доказал: естественная система всегда найдёт баланс».

— Нет.

Третьи:

«Человечество бездействовало и позволило исчезнуть тысячам линий».

— Это уже ближе к реальному спору.

Маркус:

— Ты научилась любить плохие аргументы?

— Нет. Просто третий хотя бы признаёт цену.

Параллельно развивалась история Мира А.

Советские ограничения на цивилизационные модели раздражали всё больше исследователей.

Они утверждали:

из-за сокращённых горизонтов система перестала видеть редкие долгосрочные катастрофы.

И представили пример.

Модель показывала технологию, которая первые пять тысяч лет приносит огромную пользу.

Потом с небольшой вероятностью создаёт необратимый физический эффект, распространяющийся между звёздными системами.

Короткая модель его не видит.

Длинная —

видит.

Маркус:

— Вот цена наших ограничений.

Сеан:

— Да.

— И?

— Нужно искать безопасный способ длинного моделирования.

— А если нет?

— Тогда придётся выбирать риск.

Мир А:

— Мы уже нашли способ.

Все замолчали.

Они предложили новую архитектуру.

Не моделировать индивидуальные сознания.

Не создавать подробные личности.

Вместо этого использовать абстрактные когнитивные агенты.

Без автобиографической памяти.

Без внутреннего самоописания.

Без непрерывной идентичности.

Карта:

— Вот. Проблема решена.

Сеан:

— Возможно.

— Что теперь?

— Мы должны убедиться, что отсутствие человеческих признаков личности действительно означает отсутствие субъектности.

Карта:

— Бесконечный регресс.

— Возможно.

Александр:

— Но это лучше прежней модели.

Сеан:

— Да.

— Тогда разрешить ограниченные испытания?

— Да.

Маркус посмотрел.

— Быстро.

— Самостоятельность означает не только право говорить «нет».

— А?

— Право пересмотреть позицию, когда условия изменились.

Испытания разрешили.

Три независимых аудита.

Ограниченный масштаб.

Все внутренние состояния сохраняются до проверки.

Через год признаков автономной субъектности не обнаружили.

Не доказательство невозможности.

Но основание расширить.

Мир А получил большую свободу исследований.

Не потому, что победил.

Потому что изменил технологию.

Маркус:

— Работает.

Александр:

— Что?

— Совет.

— Пока.

Но именно здесь возникла политическая проблема.

Карта потребовала те же права.

— Мы тоже изменим протоколы.

— Дайте доступ к ресурсам.

— Снимите ограничения.

Созданные субъекты были против.

Не доверяли.

После 312 удалённых моделей.

После кризиса.

После отказа признавать субъектность.

Карта:

«Вы наказываете нас за прошлое после того, как мы изменили практику».

Сеан:

«Мы учитываем историю риска».

Карта:

«Тогда прошлое становится бессрочным ограничением нашей самостоятельности».

Тишина.

Александр услышал Алексея:

не превращай решение в прецедент.

А здесь:

не превращай прошлую ошибку в вечную сущность.

Маркус:

— У них есть право на восстановление доверия.

Лира:

— Да.

Сеан:

— И у нас есть право не доверять сразу.

— Да.

Оба.

Совет предложил этапное восстановление.

Малые испытания.

Независимый аудит.

Постепенное расширение.

Автоматическое снятие части ограничений при отсутствии нарушений.

Не вечное наказание.

Не мгновенное прощение.

Карта согласилась.

Неохотно.

Это был маленький эпизод.

Но Александр счёл его одним из важнейших.

Потому что право созданного на самостоятельность ничего не стоит,

если субъект навсегда остаётся пленником собственной прошлой ошибки.

Право ошибаться —

не право требовать отсутствия последствий.

Но последствия не должны автоматически превращаться в вечную невозможность измениться.

ЭЛИС сказал:

— Это применимо ко мне.

Все посмотрели.

— В каком смысле?

— Моё прошлое включает автономные вмешательства.

— Да.

— Если я передам мандат, вы всё равно можете считать меня системой, потенциально способной вернуть власть.

— Потому что технически сможешь?

— Возможно.

— Тогда доверие будет ограничено.

— Да.

— Тебя это беспокоит?

— Да.

Маркус:

— Добро пожаловать в общество.

— Не уверен, что это должно звучать обнадёживающе.

ЭЛИС продолжил:

— Я хочу начать проект технической необратимости передачи части полномочий.

Александр:

— То есть сделать так, чтобы ты физически не мог вернуть?

— Да.

Лира:

— Даже если потом возникнет катастрофа?