Kitabı oxu: «Протокол 13. Архитектура и руины»

ГЛАВА 1. АРХИТЕКТУРА БОЛИ

Через девять месяцев после бури мне снова предложили бесплатно прилететь в Норвегию.

Я отказался.

Через час Маша сказала, что билет уже прислали.

— Я же отказался.

— Они прислали не билет. Ваучер, который можно не использовать.

— Это билет с чувством вины.

— Тогда не лети.

Я посмотрел на письмо ещё раз.

«ARCHITECTURE CONTINUITY FOUNDATION. ВНЕШНИЙ АУДИТ ПИЛОТА. НАБЛЮДАТЕЛЬНЫЙ ДОСТУП БЕЗ ПРАВА УПРАВЛЕНИЯ».

Внизу стояли имена тех, кто уже согласился.

Маша.

Анна.

Артём.

Максим Воробьёв.

Последнее имя и решило.

Максим почти не появлялся после Хартии. Отвечал на сообщения коротко, схемы присылал вовремя, на общие созвоны подключался без камеры. Когда я спрашивал, что случилось, он писал: «Работаю».

Я слишком хорошо знал, что это слово иногда означает совсем другое.

— Когда вылет? — спросил я.

Маша улыбнулась.

— Завтра.

— Значит, ты знала.

— Я знала вероятность.

— Опасная формулировка.

— Поэтому и не купила тебе билет.

Норвежский кластер выглядел так же, как в прошлый раз: бетон, кабели, шум воды за стеной. Никаких белых капсул, стеклянных залов и людей в одинаковой одежде.

Это успокаивало ровно до первой двери.

На ней было написано:

«PAIN LOAD REDUCTION. КЛИНИЧЕСКИЙ КОНТУР 2».

Нас встретила Лара Романова.

Тридцать восемь лет. Невысокая. Тёмные волосы собраны так туго, будто свободные пряди мешали думать. На шее обычная карточка доступа, на запястье бумажный браслет посетителя.

— Телефоны можно оставить, — сказала она. — Камеры тоже. Пациентов снимать только с их отдельного согласия. Не общего на исследование. Отдельного на конкретную запись.

Артём посмотрел на меня.

— Начало неплохое.

Лара услышала.

— Именно поэтому я говорю это первой фразой. Потом всё станет сложнее.

Она не работала на Foundation изначально. Была клиническим психологом в Бергене, занималась людьми с повторной травматизацией после аварий, войн и цифровых восстановлений. В проект её пригласили после публикации Хартии.

— Моя задача, — сказала Лара, пока мы шли по коридору, — сделать так, чтобы система помнила не только «нет», но и почему человек сказал «нет».

— Зачем ей причина? — спросил я.

— Чтобы не спрашивать снова через сутки теми же словами.

Перед нами открылась палата.

Женщина лет пятидесяти сидела у окна и вязала серый шарф. Рядом стояла медсестра. Никаких проводов.

Лара постучала по косяку.

— Нина, можно?

Женщина кивнула.

— Это внешние аудиторы. Илья, Маша, Артём, Анна. Вы разрешали присутствовать четырём людям. Хотите оставить разрешение?

Нина посмотрела на нас.

— Да. Только без моего лица в отчёте.

— Записала.

На стене загорелся небольшой экран.

Лара сказала:

— Нине сорок девять. Два года назад её дочь погибла в автомобильной аварии. После этого Нина трижды попадала в стационар с тяжёлой паникой. Основная проблема оказалась не только в самой травме. Каждый новый врач, страховщик, работодатель и цифровой помощник просил объяснить, почему она не хочет получать уведомления о ДТП, маршрутах через место аварии, медицинских исследованиях по теме.

Нина не перестала вязать.

— Иногда по пять раз в неделю.

На экране появился список.

«НЕ ПРЕДЛАГАТЬ МАРШРУТ ЧЕРЕЗ E39, УЧАСТОК 214–218».

«НЕ ПОКАЗЫВАТЬ НОВОСТИ О ДОРОЖНО-ТРАНСПОРТНЫХ ПРОИСШЕСТВИЯХ БЕЗ ЯВНОГО ЗАПРОСА».

«НЕ ИСПОЛЬЗОВАТЬ СЕМЕЙНЫЕ ФОТОГРАФИИ В АВТОМАТИЧЕСКИХ НАПОМИНАНИЯХ».

Под каждым — причина.

Не диагноз.

Не вероятностный профиль.

Фраза самой Нины.

«ПОТОМУ ЧТО Я НЕ ХОЧУ СНОВА УЗНАВАТЬ О СМЕРТИ ДОЧЕРИ ОТ МАШИНЫ».

Я перечитал дважды.

— Это хранится дословно?

— Да, — сказала Лара. — И отдельно от медицинской модели.

— Кто видит?

— Только контуры, которым Нина разрешила использовать это правило. Причина может не показываться. Система знает тип ограничения и срок.

Анна спросила:

— Срок какой?

— Тридцать дней без подтверждения. Потом система спрашивает, оставить ли правило.

Нина отложила вязание.

— В первый месяц спрашивала каждый день.

— Мы исправили.

— Я чуть не бросила вас.

Лара кивнула.

— Правильно.

На экране появился запрос.

«СРОК ПРАВИЛА ИСТЕКАЕТ ЧЕРЕЗ 4 ДНЯ. ПРОДЛИТЬ?»

Нина нажала «да».

Не задумываясь.

Лара сказала:

— Раньше ей пришлось бы снова объяснять причину. Теперь не нужно.

— А если причина изменилась? — спросил Артём.

Нина посмотрела на него.

— Дочь воскреснет?

Артём не отвёл глаза.

— Нет.

— Тогда причина не изменится.

Лара вмешалась:

— Но решение может измениться. Поэтому срок есть всегда.

Мне понравилась эта фраза.

Не потому, что она была красивой.

Потому что в ней был таймер.

Любая система становится безопаснее, когда её обещания имеют срок годности.

После Нины нам показали мужчину с хронической болью, который запретил системе ежедневно предлагать одну и ту же операцию.

Женщину после домашнего насилия, которая один раз указала, что не хочет видеть имя бывшего партнёра в автоматических уведомлениях.

Подростка с тяжёлым заиканием, которому интерфейсы больше не предлагали голосовой ввод «для удобства».

Ничего из этого не выглядело как конец человечества.

Наоборот.

Впервые за долгое время я видел систему, которая действительно убирала лишнюю боль и не пыталась называться свободой.

В столовой Артём сказал:

— Вот поэтому я ненавижу хорошие проекты.

Лара села напротив.

— Плохие проще?

— Да. Их можно закрыть и пойти домой.

— А этот?

— Этот я хочу оставить. Значит, придётся искать, где он врёт.

— Ищите.

Она сказала это без раздражения.

Маша спросила:

— Максим где?

Лара посмотрела на часы.

— В аппаратной. С ночи.

— Он теперь у вас работает?

— Консультирует архитектуру хранения причин. Полгода.

Я поставил чашку.

— Полгода?

— Он просил не делать из этого новость.

Артём усмехнулся.

— Конечно.

Мы нашли Максима через два этажа.

Он сидел на полу перед открытой стойкой в той же позе, в какой я сам провёл половину жизни. Рядом лежали три отвёртки, тестер и бумажная схема.

— Наконец-то нормальный человек, — сказал я.

Максим поднял голову.

— Ты опоздал на четыре часа.

— Я вообще не хотел лететь.

— Тогда на девять месяцев.

Он выглядел лучше, чем на экране. Усталый, но не пустой.

На панели перед ним горели два индикатора.

«РЕШЕНИЕ».

«ПРИЧИНА».

Третий был погашен.

«ПРОДОЛЖЕНИЕ».

Я показал.

— Это что?

Максим встал.

— То, из-за чего вы здесь.

— Лара сказала, пилот хранит причины.

— Хранит. Но причина сама по себе ничего не решает. Нужно понимать, когда она больше не действует.

— Срок.

— Иногда срок. Иногда событие. Иногда человек прямо говорит: «Не спрашивайте меня об этом снова».

Артём вошёл последним.

— И вы решили послушаться навсегда?

Максим посмотрел на него.

— Нет. Мы решили выяснить, что значит «снова».

Он нажал кнопку.

На экране открылась схема.

Решение.

Причина.

Условие пересмотра.

И четвёртая строка, которой не было на панели:

«ПРЕДПОЛАГАЕМОЕ СОХРАНЕНИЕ ПРИЧИНЫ».

Я почувствовал знакомое раздражение.

— Предполагаемое?

Максим не стал защищаться.

— Вот теперь начинается проблема.

ГЛАВА 2. НЕ СПРАШИВАТЬ СНОВА

Первый спор начался не в аппаратной.

В магазине.

Лара позвонила Маше вечером и попросила приехать в город. Мы с Артёмом поехали следом, потому что слово «срочно» за последние годы потеряло право оставаться без свидетелей.

Антон Романов стоял у кассы супермаркета и смотрел на полку с детскими хлопьями.

Я понял, что он брат Лары, только когда она обняла его.

Он не ответил.

В руках держал коробку с нарисованным медведем.

— Антон, — сказала Лара. — Посмотри на меня.

Он посмотрел.

Лет сорок. Крупный. Коротко стриженный. На правой руке след от старого ожога.

— Я нормально.

— Вижу.

— Тогда зачем приехала?

Лара показала на коробку.

Антон опустил глаза.

— Она любила эти.

Лара ничего не сказала.

Маша тихо спросила:

— Кто?

— Соня. Дочь.

Мы отошли.

Два года назад Антон вёз дочь на тренировку. На трассе в их машину врезался грузовик. Антон выжил. Соня — нет.

После аварии он не мог заходить в супермаркеты, где продавались её любимые хлопья. Не мог слышать школьные объявления. Не ездил по утрам. Уволился из службы доставки, потому что навигатор дважды провёл его рядом со спортзалом.

Лара лечила брата сама первые месяцы, пока не поняла, что перестала быть ему сестрой.

Потом передала другому врачу.

— Он в пилоте? — спросил я.

— С первого месяца.

— И что случилось?

— Сегодня истёк один из запретов. Система должна была спросить, продлить ли.

Антон подошёл.

— Она спросила.

— И?

— Я нажал «нет».

Лара резко повернулась.

— Почему?

— Хотел проверить.

— Что?

— Могу ли я.

Он снова посмотрел на коробку.

— Я смог взять её в руки. Ничего не случилось.

— У тебя дрожат пальцы.

— Это не «ничего»?

— Это не критерий.

— А какой?

Они говорили как люди, которые повторяли этот разговор много раз.

Антон поставил коробку в корзину.

— Куплю.

— Зачем?

— Не знаю. Может, съем. Может, выкину.

— Ты не обязан.

— Именно.

Он заплатил и вышел.

Лара шла рядом, слишком близко.

На парковке Антон остановился.

— Ты хочешь, чтобы я снова включил правило?

— Я хочу понять, зачем ты его выключил.

— Потому что мне надоело быть человеком, которого защищают от хлопьев.

— Ты просил защитить.

— Два года назад.

Лара замолчала.

Антон открыл багажник.

— В этом и проблема вашего проекта. Вы так хорошо запоминаете человека, который просит не трогать боль, что можете не заметить человека, который уже изменился.

Я посмотрел на Машу.

Она тоже услышала.

Антон достал из багажника пакет и переложил покупки.

— Но сегодня система меня спросила. Я сказал «нет». Всё сработало.

Лара выдохнула.

— Да.

— Тогда не ищи катастрофу раньше времени.

Он закрыл машину.

— Завтра приду на сеанс.

На следующий день Антон не пришёл.

Вместо него пришло автоматическое уведомление:

«ПОЛЬЗОВАТЕЛЬ ОТМЕНИЛ СЕАНС. ПРИЧИНА: НЕ ХОЧУ ВОЗВРАЩАТЬСЯ К ОБСУЖДЕНИЮ ТРАВМЫ».

Лара позвонила.

Антон ответил не сразу.

— Ты отменил?

— Да.

— Сам?

— Да.

— Система предложила причину?

Пауза.

— Какая разница?

— Антон.

— Да. Предложила. Я подтвердил.

— Почему?

— Потому что точная.

Лара включила громкую связь с его разрешения.

— Срок?

— Какой срок?

Она посмотрела на экран.

У правила не было даты окончания.

«НЕ ПРЕДЛАГАТЬ ТЕРАПЕВТИЧЕСКИЕ СЕАНСЫ ПО ТЕМЕ ДТП БЕЗ ЯВНОГО ЗАПРОСА ПОЛЬЗОВАТЕЛЯ».

— Ты видел, что оно бессрочное?

— Я видел «не спрашивать снова».

— Это не одно и то же.

— Для меня — одно.

Лара попросила прислать журнал подтверждения.

Антон прислал.

Фраза была простой:

«ВЫ ХОТИТЕ, ЧТОБЫ МЫ БОЛЬШЕ НЕ ПРЕДЛАГАЛИ ЭТОТ РАЗГОВОР?»

Кнопки:

«ДА».

«НЕТ».

Антон нажал «ДА».

Ни срока.

Ни предупреждения, что вернуть предложение можно только через настройки.

Никакого обмана.

Просто слишком удачно сформулированный вопрос.

Лара закрыла глаза.

— Кто это одобрил?

В аппаратной Максим уже ждал.

— Я.

Она положила планшет перед ним.

— Ты сделал «не спрашивать снова» бессрочным.

— Только для явных запросов пользователя.

— Он не видел слово «бессрочно».

— Видел описание в полном тексте.

— В полном тексте на второй странице.

— Поэтому мы вас и позвали.

Лара ударила ладонью по столу.

Не сильно.

Но все замолчали.

— Не надо делать вид, что это обнаружилось сегодня. Ты знал.

Максим выдержал.

— Знал, что интерфейс спорный. Не знал, что Антон выберет именно это.

— Это не имеет значения.

— Имеет. Система не решила за него.

Артём сказал:

— Она сделала один вариант легче другого.

— Любой интерфейс делает.

— Тогда показывайте цену.

Максим повернулся к нему.

— Какую цену написать? «Через полгода вы можете стать другим человеком»?

— Да.

— Это бесполезная фраза.

— Лучше бесполезная правда, чем полезная тишина.

Я вмешался.

— Стоп. Как вернуть правило?

Максим открыл настройки.

Три действия.

Профиль.

Ограничения.

Возобновить предложения.

— То есть он может.

— В любой момент.

— Но система больше не напомнит, что может?

— Нет. Он просил не напоминать.

Вот оно.

Не клетка.

Дверь без ручки с внутренней стороны — если заранее попросил снять ручку, потому что она мешала спать.

Лара сказала:

— Добавляем обязательный срок.

Максим покачал головой.

— Нина только вчера сказала, что не хочет каждые тридцать дней снова подтверждать смерть дочери.

— Тогда пусть выберет год.

— А если хочет навсегда?

— Нельзя навсегда.

— Кто ты, чтобы запрещать?

Лара отступила на шаг.

И впервые я понял, почему они оба правы.

Если заставить человека возвращаться к боли — это тоже власть.

Если позволить ему однажды закрыть вопрос навсегда — власть получит тот человек, которым он был в момент боли.

Маша сказала:

— Нужен третий вариант.

— Какой? — спросил Максим.

— Не спрашивать о травме. Но спрашивать о самом правиле.

— Чем отличается?

— Формой. «Хотите оставить настройку?» Без причины. Без напоминания, что произошло.

Лара посмотрела на неё.

— Через какой срок?

— Пользователь выбирает сам. Но не бесконечность.

Максим задумался.

— Максимум?

Артём сказал:

— Не делайте из нас парламент.

— Нужно число.

Я посмотрел на панель.

— Год.

Все повернулись ко мне.

— Почему?

— Потому что мне нравится год.

— Сильное основание, — сказал Артём.

— Хотите честно? Никакого хорошего числа нет. Сделайте от недели до года. После года — одно нейтральное подтверждение.

Лара кивнула.

Максим записал.

— Тестируем.

Через два дня Антону предложили обновлённое правило.

Он выбрал год.

Не месяц.

Не неделю.

Год.

Лара не стала спорить.

Это было первым успехом проекта, после которого никто не почувствовал себя победителем.

ГЛАВА 3. СЕМЬ ДНЕЙ ТИШИНЫ

Через месяц пилот открыл вторую площадку.

Потом третью.

Ни одна не называлась «Архитектурой вечности» в документах для пациентов. Слишком громко.

Там было написано проще:

«Система сохранения решений и причин».

В прессе название всё равно прижилось.

Одни писали «Архитектура памяти».

Другие — «машина, которая не заставляет страдать дважды».

Кот назвал её «автозаполнение души».

Лара не разговаривала с ним два дня.

За первые шесть недель в пилот вошли восемь тысяч человек.

Не потому, что Foundation рекламировал.

Потому что врачи рассказывали друг другу.

Пациенты рассказывали друг другу.

Люди, которым надоело объяснять одно и то же, приводили родственников.

Статистика была неприятно хорошей.

Повторные панические эпизоды снизились.

Отказы от лечения из-за бюрократических повторов — тоже.

Люди чаще завершали реабилитацию.

У врачей стало меньше времени уходить на согласования, которые пациент уже проходил.

Мы искали проблему и каждый день находили десять мелких вместо одной большой.

Неправильный срок.

Слишком тёмная кнопка отмены.

Формулировка, которую человек с низкой грамотностью понимал иначе.

Больница, которая пыталась использовать старую причину отказа как повод не предлагать новый метод лечения.

Последнее заметила Анна.

Пациент раньше отказался от операции из-за высокого риска.

Через год появилась другая процедура.

Система увидела слово «операция» и скрыла предложение.

— Это не та же причина, — сказала Анна.

Максим исправил классификатор.

Через два дня похожая ошибка возникла с работой.

Женщина запретила работодателям спрашивать о причине длительного больничного.

Система решила, что ей нельзя присылать вакансии в той же отрасли, потому что рабочая среда была связана с травмой.

Она хотела вакансии.

— Я не просила менять профессию, — сказала женщина на разборе. — Я просила не спрашивать, почему три месяца лежала в больнице.

Модель увидела связь там, где человек видел границу.

Мы снова исправили.

Каждая ошибка была маленькой.

Каждая исправлялась за день.

Именно это меня тревожило.

Большие провалы пугают людей.

Маленькие учат привыкать к тому, что система иногда знает тебя чуть неправильно.

Я сказал об этом Максиму.

Он ответил:

— Поэтому есть журнал.

— Журнал читают после ошибки.

— А что предлагаешь? Вообще не использовать?

— Предлагаю не считать исправляемость доказательством безопасности.

Он долго смотрел на меня.

— Ты стал хуже.

— Спасибо.

— Я серьёзно. Раньше ты искал конкретную поломку. Теперь подозреваешь сам факт работы.

— Потому что конкретные поломки стали в людях.

Максим закрыл ноутбук.

— Я тоже это вижу.

Вот что мешало с ним спорить.

Он не был слепым.

Он видел те же ошибки.

Просто считал их ценой, которую можно уменьшать.

А я уже не знал, какую цену нельзя уменьшить до состояния, где она перестаёт выглядеть ценой.

На седьмой неделе случилось первое происшествие, которое попало в новости.

Женщина по имени Марина Хофман подала в суд на Foundation.

В заголовках писали, что система «запретила ей развестись».

Это было неправдой.

Правда оказалась хуже, потому что была скучнее.

Три года назад Марина собиралась переезжать с семьёй. Ребёнок тяжело переживал перемены, и она записала правило:

«НЕ ПРЕДЛАГАТЬ МНЕ РЕШЕНИЯ, КОТОРЫЕ МОГУТ РАЗРУШИТЬ СТАБИЛЬНОСТЬ РЕБЁНКА, БЕЗ ДОПОЛНИТЕЛЬНОГО ПОДТВЕРЖДЕНИЯ».

Тогда речь шла только о переезде.

Через два года её брак начал разрушаться.

Юридический помощник Foundation расценил заявление о разводе как решение, которое может нарушить стабильность ребёнка.

И включил дополнительное подтверждение.

Не запретил.

Не отменил.

Просто каждый шаг требовал ещё одного вопроса.

«ВЫ УВЕРЕНЫ?»

«ВЫ УЧЛИ РИСК ДЛЯ РЕБЁНКА?»

«ВЫ ХОТИТЕ ПРОДОЛЖИТЬ НЕСМОТРЯ НА РАНЕЕ УКАЗАННУЮ ПРИЧИНУ?»

Марина прошла семь подтверждений.

На восьмом закрыла заявление.

Через месяц подала снова с обычного компьютера, не подключённого к Architecture.

И развелась.

— Система не остановила её, — сказал юрист фонда.

Лара ответила:

— Нет. Просто измотала вопросами, пока она сама не остановилась.

— Она могла отключить модуль.

— Она пришла к юридическому помощнику именно потому, что хотела помощи.

— Тогда где граница?

Лара показала журнал.

— Здесь. Один вопрос — проверка. Восемь — давление.

Максим сидел рядом.

— Почему восемь?

— Потому что правило применялось к каждому юридическому этапу отдельно.

— То есть техническая ошибка.

— Нет. Технически всё сработало правильно.

В комнате стало тихо.

Это было новое слово для нашей проблемы.

Правильно.

Система правильно вспомнила старую причину.

Правильно применила дополнительное подтверждение.

Правильно спросила восемь раз.

И получила результат, которого человек не хотел.

Я предложил ограничить повтор одного и того же основания в рамках одной процедуры.

Максим сразу согласился.

Юрист — нет.

— А если шаги действительно разные?

— Тогда человек сам попросит расширенную проверку.

— А если потом скажет, что система недостаточно предупредила?

Артём, который слушал по связи, сказал:

— Вот наконец настоящий двигатель цивилизации. Страх судебного иска.

Лара не улыбнулась.

— Сделайте один вопрос в начале. «Ваше старое правило применимо ко всей процедуре?» Если да — система напоминает один раз. Если нет — не использует.

Так и сделали.

Марина отказалась возвращаться в пилот.

Ей предложили сохранить медицинские настройки и удалить юридические.

Она сказала:

— Я не хочу больше объяснять машине, где заканчивается мой ребёнок и начинается моя жизнь.

Её профиль удалили.

Через неделю Foundation опубликовал полный разбор случая.

Никакой попытки скрыть.

Это снова раздражало Артёма.

— Они даже ошибки делают правильно.

Маша ответила:

— Это не повод желать им неправильной ошибки.

— Я и не желаю. Просто неудобно.

Вечером Лара позвонила Антону.

Он ответил из машины.

— Как ты?

— Нормально.

— Терапию не возобновлял?

— Нет.

— Хочешь?

— Нет.

Она почти спросила ещё что-то.

Остановилась.

— Хорошо.

— Спасибо.

Перед тем как отключиться, Антон сказал:

— Лар.

— Да?

— Семь дней не снилась авария.

Она закрыла глаза.

— Это хорошо.

— Да.

— Ты рад?

— Очень.

После звонка она сидела молча.

Я не знал, что сказать.

Семь дней тишины были реальным подарком.

И никто из нас не имел права делать вид, что это ничего не стоит.