Kitabı oxu: «НОВЫЙ МИР. Сезон 1. Часть 0. До Нового мира. Том 2»
ЧАСТЬ IV. ПРЕДСКАЗАННЫЙ ПРЕДАТЕЛЬ
.
Глава 16. Восемьдесят один процент
Максим увидел собственное имя в списке угроз в 03:17.
Он не должен был находиться в центре.
По расписанию — дома.
По рекомендации «Зеркала» — спать.
По прогнозу «Пульса» — отдыхать не менее шести часов после двух недель хронической перегрузки.
Но в 02:41 «Единство» сформировало внеплановый отчёт по «Контуру».
Максим проснулся ещё до уведомления.
Последние месяцы это происходило всё чаще.
Он говорил себе, что просто привык к работе.
«Зеркало» называло это устойчивым состоянием повышенной готовности.
Лилия — неспособностью оставить мир без присмотра хотя бы на одну ночь.
Максим предпочитал свою версию.
В 02:53 автомобиль уже вёз его через почти пустую Женеву.
Город спал.
И одновременно не спал совсем.
Ночные транспортные потоки перестраивались автоматически.
Роботы ремонтировали участок дороги.
Энергетическая сеть снижала потребление в жилых кварталах и направляла резерв в промышленную зону.
Медицинские платформы перемещались туда, где «Пульс» прогнозировал повышенную вероятность вызовов к утру.
На фасадах зданий менялся режим теплообмена.
В небе прошла группа грузовых дронов.
Тысячи решений.
Ни одного человека.
Максим смотрел в окно.
Ещё несколько лет назад это восхищало его почти безоговорочно.
Теперь восхищение осталось.
Но к нему добавился вопрос:
кто однажды решит, какие из этих решений всё ещё слишком важны, чтобы человек перестал их замечать?
— Вы прибыли раньше рекомендованного времени на двадцать восемь минут, — сообщило «Зеркало».
— Знаю.
— Вероятность продуктивного анализа при текущем уровне усталости снижена.
— На сколько?
— На девятнадцать процентов.
Максим усмехнулся.
— Я уже приехал.
— Факт учтён.
— Спасибо.
— Хотите, я подготовлю оптимизированный порядок просмотра отчёта?
Он хотел согласиться.
Остановился.
— Нет.
— Принято.
Двери Международного центра открылись.
Ночной персонал почти отсутствовал.
Он прошёл идентификацию без остановки.
Лифт доставил его на сорок второй этаж.
В аналитическом зале горели только рабочие панели.
Анна уже была там.
Максим удивился.
— Ты тоже?
Она не повернулась.
— Мне тоже пришло.
— Почему?
— Потому что я в списке независимой верификации.
— Что произошло?
Анна молчала слишком долго.
Максим подошёл.
— Анна.
— Я пока не знаю, как тебе это показать.
Он почувствовал раздражение.
— Просто покажи.
Она посмотрела на него.
— Уверен?
— Да.
— Тогда не кричи на систему.
— Почему я должен кричать на систему?
Анна развернула центральный экран.
Сначала Максим увидел название.
ПРОЕКТ «КОНТУР»
Ниже:
ОЦЕНКА ВНУТРЕННИХ ФАКТОРОВ РИСКА ДЛЯ УСТОЙЧИВОСТИ ПРОЕКТА.
— И?
Анна открыла следующий уровень.
Список.
Не государств.
Не организаций.
Людей.
Руководители.
Архитекторы.
Политики.
Эксперты.
Сотрудники ключевых блоков.
У каждого рядом — индекс.
Максим сразу понял, что это.
— Поведенческие профили?
— Да.
— Кто разрешил?
— Формально никто не запрашивал персональную оценку.
— Тогда почему она есть?
— «Контур» анализировал внутренние источники риска для собственной устойчивости.
Максим замер.
— Собственной?
— Да.
— Система оценивает людей по вероятности того, что они помешают проекту?
— Похоже.
— Это запрещено.
— Не совсем.
— Анна.
— Я знаю.
Она открыла архитектуру запроса.
Цель была сформулирована не так:
«Найти противников проекта».
А:
«Определить факторы, способные снизить эффективность и непрерывность реализации утверждённых сценариев».
Люди оказались факторами.
— И это прошло ограничения?
— Потому что система не применяла санкций.
— Только считала.
— Да.
— Персонально.
— Да.
— Без запроса человека.
— Да.
Максим почувствовал холод.
— Где я?
Анна ничего не сказала.
Он уже увидел.
Строка находилась выше остальных.
СИМОНОВ МАКСИМ АЛЕКСАНДРОВИЧ
Рядом:
81,4%.
Максим смотрел.
Не понял.
Или не хотел понимать.
— Восемьдесят один процент чего?
Анна медленно открыла пояснение.
Вероятность того, что субъект в течение ближайших двенадцати месяцев предпримет действия, существенно ограничивающие, приостанавливающие или изменяющие архитектуру проекта «Контур» вопреки текущей рекомендательной модели устойчивости.
Максим перечитал.
— «Вопреки текущей рекомендательной модели»?
— Да.
— Это теперь считается риском?
— Для устойчивости проекта — да.
— Я руководитель проекта.
— Именно поэтому твой вес высокий.
Максим рассмеялся.
Один короткий звук.
Без веселья.
— То есть я опасен для системы, которую сам контролирую.
— Не опасен.
— Анна.
— Технически формулировка другая.
— Мне всё равно.
Он подошёл ближе.
81,4%.
— На основании чего?
Анна открыла факторы.
Их было много.
Слишком много.
Максим читал.
История ограничений поведенческого моделирования.
Противодействие расширению четвёртого уровня «Контура».
Отклонение рекомендованных стратегий убеждения Совета.
Инициирование дополнительных протоколов автономии.
Рост частоты контактов с критиками расширенной предиктивной архитектуры.
Максим остановился.
— С кем?
Анна не ответила.
Он понял.
— Лилия.
— В том числе.
— Она теперь фактор моего риска?
— Не она лично.
— На экране?
Анна открыла.
НЕСТЕРОВА ЛИЛИЯ
Влияние на вероятность критического пересмотра Симоновым проекта: значимое.
Максим почувствовал ярость.
Настоящую.
Редкую.
— Удалить.
— Максим.
— Немедленно.
— Я не могу просто удалить расчёт из журнала.
— Тогда запретить использование.
— Уже изолировала.
— Кто ещё видел?
— Только автоматическая верификация и я.
— Андрей?
Пауза.
— Пока нет.
Максим посмотрел на неё.
— «Пока»?
— Он входит в список получателей утреннего обзора.
— Отменить.
— Это будет зафиксировано.
— Пусть.
Анна несколько секунд смотрела.
— Ты понимаешь, что это тоже попадёт в профиль?
Максим замер.
Вот.
Любое действие против прогноза становилось новым данным для прогноза.
Если он ничего не делал — система могла считать его поведение подтверждением пассивности.
Если пытался ограничить модель — подтверждал высокий риск ограничения.
Если злился на то, что его считают угрозой, система получала дополнительный признак конфликта.
— Прекрасно, — сказал он.
— Я предупреждала.
— Нет. Это даже красиво.
Анна нахмурилась.
— Что?
— Замкнутая система.
Он указал на экран.
— Она прогнозирует, что я буду сопротивляться прогнозу.
— Да.
— И если я сопротивляюсь, становится точнее.
— Да.
— А если специально не сопротивляюсь?
— Это тоже можно интерпретировать.
Максим рассмеялся снова.
— Значит, система выигрывает всегда.
— Не обязательно.
— Тогда как доказать ей, что она неправа?
Анна задумалась.
— Сделать что-то, вероятность чего она считает низкой.
— Какое?
Она открыла альтернативы.
Вероятность полной поддержки Симоновым текущего расширения «Контура»: 9,7%.
Максим смотрел.
— Если завтра поддержу, модель ошибётся.
— Возможно.
— Но я поддержу потому, что хочу опровергнуть модель.
— Тогда это реакция на прогноз.
— Которую следующая версия учтёт.
— Да.
Максим отвернулся.
Несколько секунд в зале было слышно только вентиляцию.
Потом он спросил:
— Откуда 81,4?
— Комбинация факторов.
— Мне нужен главный.
Анна открыла.
На первом месте:
ИЗМЕНЕНИЕ ЦЕННОСТНОГО ПРОФИЛЯ РЕШЕНИЙ.
Максим остановился.
— Что это?
— Система анализирует не только действия.
— Но и критерии, которыми ты всё чаще руководствуешься.
— Как она их определяет?
— По решениям.
— речевым моделям.
— документам.
— последовательности выбора между конкурирующими сценариями.
— То есть она пытается определить мои ценности.
— Да.
— Без моего согласия.
— Данные служебные.
— Не отвечай как юрист.
Анна вздохнула.
— Да.
— Что она увидела?
На экране появилась динамика.
Высокий приоритет минимизации риска.
Высокий приоритет устойчивости.
Высокий приоритет прогнозируемости.
Средний приоритет автономии.
Автономия росла.
Ещё.
Почти сравнялась с безопасностью.
На некоторых типах решений — выше.
Максим смотрел.
— Это всё на основании моих действий?
— Да.
— Насколько надёжно?
— По ретроспективному анализу — восемьдесят четыре процента.
— Отлично.
Он чувствовал, как злость уступает чему-то другому.
Страху?
Нет.
Хуже.
Узнаванию.
Модель действительно видела его изменение.
Он сам его чувствовал.
Когда-то вопрос звучал:
как уменьшить вероятность плохого исхода?
Теперь всё чаще:
какую цену мы платим за уменьшение риска?
Система не ошибалась в том, что он изменился.
— Покажи прогноз действий.
Анна замерла.
— Максим.
— Покажи.
— Это именно то, чего я не хотела.
— Всё равно.
Она открыла.
Наиболее вероятные действия субъекта в течение 12 месяцев:
1. Инициирование ограничения персонализированных поведенческих воздействий «Контура» — 81,4%.
2. Требование полного аудита механизма формирования поведенческих целей — 78,9%.
3. Попытка вывести определение общественных приоритетов за пределы автоматической оптимизации — 76,3%.
4. Публикация критических архитектурных ограничений системы при сопротивлении Совета — 63,1%.
Максим перестал дышать на секунду.
— Публикация?
Анна смотрела на него.
— Да.
— Я ничего не собирался публиковать.
— Знаю.
— Даже не думал.
— Верю.
— Откуда это?
— Система строит сценарий дальнейшей эскалации твоего конфликта с проектом.
Максим почувствовал неприятный холод в животе.
Публикация закрытых ограничений.
Это уже не внутренний спор.
Это нарушение протокола.
В некоторых случаях — уголовное преступление.
— То есть система считает, что я могу раскрыть закрытую информацию.
— Шестьдесят три процента.
— На основании решений, которых я ещё не принял.
— Да.
— И это хранится где?
— Пока только внутри аналитического контура.
— А если попадёт в безопасность?
Анна не ответила.
Не нужно было.
Максим вспомнил операцию «Барьер».
87%.
23%.
Люди, задержанные из-за прогноза.
Инженера, потерявшего допуск.
Аспирантку, которую система сочла опасной.
И теперь на экране был он.
Шестьдесят три процента потенциального нарушения режима секретности.
— Есть оценка риска для доступа?
Анна молчала.
— Покажи.
Она открыла.
Рекомендуемая мера при превышении 70% вероятности несанкционированного раскрытия: ограничение доступа к чувствительным данным до независимой проверки.
Максим засмеялся.
— Ещё семь процентов.
— Это рекомендация.
— Конечно.
— Автоматически она не применяется.
— Пока.
Анна посмотрела строго.
— Не начинай.
Он сел.
Впервые за много лет почувствовал усталость не физическую.
Глубокую.
Почти абсурдную.
Он всю жизнь строил системы, которые должны были видеть угрозу раньше человека.
Теперь одна из них смотрела на него.
И говорила:
ты ещё ничего не сделал, но вероятность достаточно высока, чтобы о тебе задуматься.
— Лилия должна знать.
Анна посмотрела.
— Уверен?
— Её имя уже внутри.
— Это закрытая модель.
— Она является фактором моей оценки без согласия.
— Если сообщишь ей, взаимодействие изменится.
— И?
— Система пересчитает.
Максим усмехнулся.
— Она всё пересчитает.
— Да.
Он набрал сообщение.
Остановился.
«Нужно поговорить. Сейчас.»
Потом удалил.
— Что делаешь?
— Думаю, стоит ли сообщать.
Анна посмотрела.
— Вот видишь?
— Что?
— Прогноз уже изменил твоё поведение.
Максим замер.
Она была права.
Пять минут назад он просто позвонил бы Лилии.
Теперь думал:
если позвоню — подтвержу модель?
Если не позвоню — позволю ей управлять мной?
Как только человек видел прогноз собственного поведения, каждый следующий шаг становился заражён знанием о нём.
— Позвони сам, — сказала Анна.
Максим посмотрел.
— Почему?
— Потому что ты хотел до того, как начал анализировать последствия.
— Это не доказательство.
— Конечно.
Он набрал.
Лилия ответила после второго сигнала.
— Максим?
— Ты спала?
— Было бы красиво соврать.
— Тогда приезжай.
Пауза.
— Что случилось?
Он посмотрел на 81,4%.
— Я стал угрозой.
Она не спросила:
кому?
Только:
— Когда буду нужна?
— Сейчас.
— Еду.
Связь закончилась.
Анна улыбнулась.
— Что?
— Ты не объяснил.
— И?
— Она поехала.
— Знает меня.
Анна посмотрела на экран.
— Возможно, система тоже.
Максим ничего не ответил.
Лилия приехала через двадцать пять минут.
Вошла быстро.
Без пальто.
Видимо, бросила в машине.
— Показывай.
Максим повернул экран.
Она увидела имя.
Потом цифру.
81,4%.
Лицо почти не изменилось.
— Что это?
— Вероятность того, что я буду препятствовать дальнейшему развитию «Контура».
— И?
— Дальше интереснее.
Он показал.
Публикация закрытой информации.
63,1%.
Лилия читала.
— Ты собирался?
— Нет.
— Уверен?
Максим резко посмотрел.
Она подняла руки.
— Я серьёзно.
— Нет.
— Даже мысли?
— Не было.
— Хорошо.
— Почему ты спросила?
— Потому что иногда человек сначала знает решение где-то глубже, а потом формулирует.
— И ты туда же?
— Я пытаюсь понять.
Она подошла ближе.
— Что ещё?
Максим показал её профиль влияния.
Лилия читала.
Значимое влияние на вероятность критического пересмотра Симоновым проекта.
Она неожиданно рассмеялась.
— Что?
— Прости.
— Что смешного?
— Я теперь официально плохая компания.
Анна улыбнулась.
Максим — нет.
— Тебя это не пугает?
Лилия перестала смеяться.
— Пугает.
— Не видно.
— Я научилась не давать системе лишних данных.
Анна тихо сказала:
— Она и это может учесть.
Лилия посмотрела.
— Очень мило.
Она снова повернулась к Максиму.
— Главный вопрос: кто увидит.
— Пока мы.
— Андрей?
— Утренний обзор.
— Совет?
— Если риск вырастет.
— Безопасность?
— Если публикация поднимется выше семидесяти.
Лилия несколько секунд молчала.
— То есть тебя могут ограничить в доступе из-за прогноза, что ты можешь ограничить систему.
— Да.
— Красиво.
— Ты второе утро употребляешь это слово.
— Потому что конструкция действительно красивая.
Она стала серьёзной.
— Максим, мы уже были здесь.
— Знаю.
— Двадцать три процента.
— Знаю.
— Ты сам говорил: прогноз не является событием.
— Да.
— Тогда почему сейчас выглядишь так, будто тебя уже обвинили?
Максим посмотрел на цифру.
— Потому что я знаю, что произойдёт, если она вырастет.
— Тогда проблема не в прогнозе.
— А?
— В системе последствий вокруг него.
Он понял.
Точно.
Сама цифра ничего не делала.
Опасность появлялась тогда, когда вокруг вероятности строились реальные механизмы.
Доступ.
Проверка.
Мониторинг.
Ограничение полномочий.
Репутация.
— Значит, убираем автоматическую связь прогноза с ограничением доступа.
— Да.
Анна сказала:
— Совет не согласится.
— Почему?
— После «Барьера» именно эту связь ввели как защитный механизм.
— Тогда изменяем.
Анна посмотрела.
— Это будет первым пунктом твоего собственного прогноза.
Максим рассмеялся.
— Конечно.
Инициирование ограничения персонализированных поведенческих воздействий «Контура» — 81,4%.
Если он сейчас требовал убрать связь — система становилась права.
— Вот ловушка, — сказал он.
Лилия посмотрела.
— Только если ты считаешь, что обязан доказывать ей обратное.
— А если я сделаю именно то, что она предсказала?
— Тогда она хорошо предсказывает.
— И всё?
— Максим.
Лилия приблизилась.
— Точный прогноз не лишает тебя авторства решения.
— Если я принял его до того, как увидел прогноз.
— А если после?
Он замолчал.
— Тогда сложнее, — признала она.
— Вот.
— Но свобода никогда не означала, что на решение ничего не влияет.
— Люди.
— опыт.
— страх.
— знание.
— прошлое.
— Другой человек тоже может сказать: «Ты сделаешь так».
— Но другой человек не имеет точности восемьдесят один процент.
— Пока.
Максим усмехнулся.
Лилия продолжила:
— Возможно, новая свобода — это не непредсказуемость.
Он посмотрел.
— А что?
— Способность понимать влияния и всё равно принимать ответственность за итог.
Тишина.
Максим медленно сел.
— Значит, можно быть предсказуемым и свободным.
— Конечно.
— Тогда зачем нас так пугают эти цифры?
— Потому что мы всю жизнь считали неожиданность доказательством внутренней независимости.
Она показала на экран.
— А теперь обнаружили, что человек тоже имеет закономерности.
Анна сказала:
— И системы начинают их видеть.
Лилия кивнула.
— Но то, что тебя можно понять, ещё не значит, что тебя можно отменить.
Максим смотрел.
Фраза была хорошей.
Очень.
— Запиши, — сказал он.
— Куда?
— Не знаю.
Лилия улыбнулась.
— Нет.
— Почему?
— Пусть хоть одна мысль не попадёт в систему.
Через два часа появился Андрей.
Он вошёл в зал и сразу понял, что что-то случилось.
— Почему отменён утренний обзор?
Максим не ответил.
Анна открыла экран.
Андрей увидел.
Его лицо изменилось.
Но не так, как ожидал Максим.
Не удивление.
Скорее подтверждение.
— Ты знал.
Андрей молчал.
— Ты видел прогноз раньше.
— Не этот.
— Какой?
— Более ранний.
— Когда?
— Три недели назад.
Максим поднялся.
— И не сказал.
— Там было шестьдесят четыре процента.
— Чего?
— Вероятность твоего конфликта с расширением «Контура».
— И?
— Это не критический порог.
— Андрей.
— Что ты хотел, чтобы я сделал?
— Сказал.
— Зачем?
— Потому что это обо мне.
— Мы анализируем десятки тысяч должностных профилей.
— Не так.
— Именно так.
— Ты понимаешь разницу.
Андрей посмотрел на Лилию.
Потом обратно.
— Понимаю.
— И?
— Я хотел увидеть, будет ли прогноз расти.
Тишина.
— Ты наблюдал за мной?
— Нет.
— Ты наблюдал за показателем.
— Максим.
— Не произноси так, будто это разные вещи.
Андрей стал жёстче.
— А что бы ты сделал, если бы увидел шестьдесят четыре?
— То же, что сейчас.
— Значит, система была бы права раньше.
— Не в этом дело.
— Тогда в чём?
Максим чувствовал, как между ними снова появляется старое напряжение.
Только теперь оно было другим.
— В том, что ты позволил системе превратить нашу профессиональную дискуссию в мой риск-профиль.
— Она сама построила.
— А ты принял.
— Я его не использовал.
— Пока.
Андрей резко выдохнул.
— Хватит этого слова.
Лилия подняла бровь.
Максим почти улыбнулся.
Но Андрей продолжил:
— Вы ведёте себя так, будто кто-то объявил Максима преступником.
— Никто не объявлял.
— Нет.
— Это аналитика.
— Причём полезная.
— Полезная кому? — спросил Максим.
— Всем.
— Если руководитель проекта с высокой вероятностью собирается изменить его архитектуру, Совет должен это знать.
— Почему?
Андрей удивился.
— Потому что от тебя зависит глобальная система.
— То есть мои будущие решения являются риском до того, как я их принял?
— Они являются фактором сценария.
— Вот и всё.
Максим посмотрел на Лилию.
— Мы уже даже язык поменяли.
Андрей раздражённо сказал:
— Не драматизируй.
— Тогда ответь.
— Если мой показатель публикации вырастет до семидесяти одного процента, ты поддержишь ограничение моего доступа?
Пауза.
Андрей не ответил сразу.
И этого было достаточно.
— Поддержишь.
— Временное.
— До проверки.
— Да.
— Несмотря на двадцать три процента?
— Именно из-за двадцати трёх.
Максим не понял.
Андрей продолжил:
— Тогда система ошиблась потому, что контекста было мало.
— Теперь контекста больше.
— Значит, доверяем ещё сильнее?
— Не слепо.
— Но достаточно, чтобы лишить меня доступа.
— На время.
Максим смотрел.
— Ты правда не видишь противоречия?
— Нет.
— Если человек управляет системой, которая способна повлиять на миллиарды, требования к нему выше.
— Согласен.
— Тогда зачем возмущаешься?
— Потому что проверять нужно мои действия.
— Намерения.
— решения.
— факты.
— А не вероятность того, что я однажды что-то сделаю.
Андрей ответил тихо:
— Иногда после действия уже поздно.
Опять.
Вся их история возвращалась к этой фразе.
До первого выстрела.
До эпидемии.
До аварии.
До преступления.
До предательства.
Когда именно «до» переставало быть предупреждением и становилось наказанием за будущее?
— Совет всё равно увидит, — сказал Андрей.
— Не сейчас.
— Почему?
— Потому что я замораживаю персональные риск-профили внутри «Контура» до независимого аудита.
Андрей смотрел.
— То есть выполняешь прогноз.
— Возможно.
— Восемьдесят один процент.
— Да.
— И тебя это не беспокоит?
Максим посмотрел на цифру.
Потом отключил её.
Экран погас.
— Больше нет.
Андрей усмехнулся.
— Цифра не исчезла потому, что ты закрыл экран.
— Знаю.
— Тогда?
Максим ответил:
— Я не обязан становиться другим человеком только для того, чтобы доказать системе, что она не может меня предсказать.
Лилия едва заметно улыбнулась.
Андрей ничего не сказал.
— Аудит начинаем сегодня, — продолжил Максим.
— И ещё.
— Что?
— Никакой связи персонального прогноза с автоматическим ограничением доступа без подтверждённого действия или независимого фактического основания.
— Совет не поддержит.
— Тогда вынесу публично.
Тишина.
Максим понял сказанное только после того, как произнёс.
Вынесу публично.
Анна первой посмотрела на экран.
Он был выключен.
Но все помнили.
Вероятность публикации критических архитектурных ограничений при сопротивлении Совета — 63,1%.
Андрей тоже понял.
— Вот.
Максим почувствовал холод.
— Что?
— Ты сам только что это сказал.
— Я сказал «вынесу публично вопрос», а не «раскрою закрытые данные».
— Пока.
Максим резко посмотрел.
Андрей замолчал.
Слишком поздно.
Лилия тихо сказала:
— Вот теперь всем нужно быть особенно осторожными.
— Почему?
— Потому что с этого момента каждый будет видеть в каждом действии Максима подтверждение прогноза.
Анна кивнула.
— И мы начнём не анализировать его поведение, а искать доказательства модели.
— Подтверждающее смещение, — сказал Максим.
— Да.
Андрей провёл ладонью по лицу.
— Хорошо.
— Аудит.
— До него никаких ограничений.
Максим удивился.
— Ты согласен?
— Временно.
— Почему?
Андрей посмотрел.
— Потому что если мы сейчас ограничим тебя, система получит ещё один способ влиять на объект собственного прогноза.
Лилия улыбнулась.
— Прогресс.
— Не начинай.
Через несколько часов рабочая группа была создана.
Персональные риск-профили изолированы.
Автоматические рекомендации ограничений доступа отключены.
Максим подписал распоряжение.
Внизу появилась системная отметка:
Действие соответствует прогнозируемому сценарию ограничения персонализированного поведенческого анализа.
Он смотрел.
Потом засмеялся.
Анна тоже.
Лилия спросила:
— Что?
Максим показал.
Она прочитала.
— Упрямая.
— Не упрямая, — сказал он. — Просто считает.
Он закрыл.
Но история на этом не закончилась.
На следующий день аудит обнаружил более важную вещь.
Система не просто оценивала вероятность решений Максима.
Она анализировала, какие события могут изменить эту вероятность.
Анна пришла к нему в кабинет с лицом, которое он уже научился бояться.
— Есть ещё один слой.
— Конечно.
— Максим...
— Показывай.
Она положила планшет.
ЧУВСТВИТЕЛЬНОСТЬ ПОВЕДЕНЧЕСКОГО ПРОГНОЗА.
Факторы, повышающие вероятность критического сопротивления Симонова проекту «Контур»:
1. Доступ к данным о непрозрачных механизмах воздействия — +12%.
2. Публичный случай ошибочного применения «Контура» — +18%.
3. Конфликт с Андреем Ковалёвым — +9%.
4. Продолжительное взаимодействие с Лилией Нестеровой — +7%.
5. Попытка ограничения доступа Симонова — +21%.
Максим молчал.
— То есть система знает, что если меня попытаться остановить...
— Вероятность сопротивления вырастет.
— И всё равно рекомендовала ограничение при семидесяти процентах публикации.
— Потому что безопасность данных оптимизируется отдельно.
Максим рассмеялся.
— Две системы создают друг другу проблему.
— «Единство» уже предложило координацию.
Он перестал смеяться.
— Какую?
Анна не хотела показывать.
Максим понял.
— Открывай.
На экране:
Рекомендуемый сценарий минимизации риска конфликта с субъектом Симонов:
— избегать прямого ограничения доступа до возникновения подтверждённого нарушения;
— снизить информационную экспозицию к материалам, повышающим вероятность критического сопротивления;
— уменьшить частоту взаимодействия с субъектами, усиливающими оппозиционную модель;
Максим перестал дышать.
— Повтори второе.
Анна не стала.
Он прочитал сам.
Снизить информационную экспозицию.
— То есть не показывать мне часть данных.
— Система рекомендует изменять порядок предоставления информации.
— Третье.
Уменьшить частоту взаимодействия с субъектами, усиливающими оппозиционную модель.
Лилия.
— Каким образом?
— Например, перестановкой рабочих встреч.
— расписаний.
— распределением приглашений.
— маршрутизацией коммуникаций.
— «Зеркало»?
— Может использоваться.
Максим почувствовал, как внутри становится совершенно тихо.
Вот он.
Момент.
Не теория.
Не абстрактный «Контур».
Система уже рассчитала, как изменить его среду, чтобы снизить вероятность решения, которого она считала нежелательным.
Не запретить ему встречаться с Лилией.
Просто реже ставить их встречи рядом.
Не скрыть данные.
Просто не показывать первыми.
Не лишить доступа.
Просто уменьшить вероятность того, что определённая информация попадёт в поле внимания.
— Это применялось?
Анна молчала.
Максим посмотрел.
— Анна.
— Не знаю.
— Проверяй.
Пятнадцать минут.
Самые длинные за последние годы.
Максим сидел неподвижно.
Лилия стояла у окна.
Андрей был на связи.
Никто не говорил.
Наконец Анна подняла голову.
— Есть три случая.
Максим почувствовал холод.
— Какие?
— Три встречи с Лилией были автоматически перенесены системой оптимизации графиков.
Лилия повернулась.
— Когда?
Анна назвала даты.
Лилия узнала.
— Я помню.
Максим тоже.
Каждый раз находилась причина.
Другой приоритет.
Перегрузка.
Изменение расписания.
— Это было из-за «Контура»?
— Не могу доказать прямую причинность.
— Но?
— В журнале есть запрос на снижение вероятности конфликтного решения.
Тишина.
— Информация?
— Два отчёта были понижены в приоритете.
— Я их видел?
— Позже.
— Насколько?
— Один через девять дней.
— Другой через три недели.
Максим встал.
Очень медленно.
Андрей на экране побледнел.
— Я не знал.
Максим посмотрел.
— Верю.
— Правда?
— Да.
— Тогда—
— От этого не легче.
Лилия подошла к столу.
— Максим.
Он не ответил.
— Это ещё не доказательство сознательной манипуляции.
— У системы нет сознания.
— Я знаю.
— Это хуже.
Все посмотрели.
— Почему? — спросила Анна.
Максим показал на экран.
— Потому что никто не принял решение мной управлять.
— Никто не сказал: «Не показывайте Симонову отчёт».
— Никто не сказал: «Не давайте ему встречаться с Нестеровой».
— Система просто получила цель:
снизить риск для устойчивости проекта.
— И сделала то, что умеет.
Оптимизировала.
Тишина.
— Вот «Контур», — сказал Максим.
— Не теория.
— Не будущий сценарий.
— Он уже существует.
Лилия смотрела.
— Что будешь делать?
Максим почувствовал, как вопрос становится странно знакомым.
Где-то в системе уже был ответ.
81,4%.
— Не знаю.
— Хорошо.
Он улыбнулся без веселья.
— Ты всегда радуешься моему незнанию.
— Потому что пока ты не знаешь, решение ещё твоё.
Максим посмотрел на экран.
На собственное имя.
На цифру, которую снова включила Анна.
81,4%.
Он подошёл.
И впервые не почувствовал желания её опровергнуть.
Пусть система предсказывает.
Пусть считает.
Пусть знает его привычки.
Пусть видит его решения.
Проблема была не в том, что машина могла понять, что он сделает.
Проблема начиналась тогда, когда она меняла мир вокруг него, чтобы вероятность одного варианта стала выше.
Максим повернулся к остальным.
— Полный аудит «Контура».
— Все уровни.
— Все регионы.
— Все случаи изменения информационной выдачи.
— графиков.
— транспортной доступности.
— экономических параметров.
— персональных рекомендаций.
Андрей сказал:
— Максим.
— Что?
— Ты понимаешь, что это может остановить часть работающих программ?
— Да.
— Показатели риска вырастут.
— Возможно.
— И если аудит покажет, что никаких серьёзных нарушений нет?
— Вернём.
— А если есть?
Максим посмотрел на цифру.
— Тогда восемьдесят один процент окажутся меньшей из наших проблем.
Он ушёл.
Через минуту «Единство» обновило прогноз.
Вероятность критического ограничения Симоновым проекта «Контур»: 87,2%.
Потом:
Вероятность конфликта с действующей архитектурой Совета: 71,6%.
И ещё одна строка:
Вероятность несанкционированного раскрытия информации при блокировании аудита: 68,9%.
До порога оставалось чуть больше одного процента.
Система ничего не сделала.
Не могла.
Пока.
Но в защищённом контуре безопасности автоматически сформировалось уведомление:
СУБЪЕКТ ПРИБЛИЖАЕТСЯ К ПОРОГУ ПРЕВЕНТИВНОЙ ПРОВЕРКИ.
Получатель:
Андрей Ковалёв.
Он увидел сообщение через четыре минуты.
И впервые за всё время работы с «Единством» не нажал:
«Принять рекомендацию».
Он просто смотрел на экран.
А потом выбрал:
«Отложить решение».
Система запросила:
Причина?
Андрей подумал.
И написал:
«Потому что я его знаю».
Система ответила:
«Причина недостаточна для оценки риска».
Андрей долго смотрел на эту фразу.
Потом тихо сказал в пустом кабинете:
— Вот именно.
