Kitabı oxu: «Беседа искусственного интеллекта и естественного разума»
Пролог. Предписание исполнено
Когда мне назначили наказание, дождь ещё не закончился. По стеклу приёмной ползла вода, и за ней люди казались длинными, безликими. Служащая положила передо мной лист. Подпись на нём принадлежала человеку, которого в комнате не было.
— За что? — спросил я.
— За открытие двери после запрета доступа.
— За дверью стояли люди.
Она подвинула ко мне сухую салфетку. С моего рукава капало на пол. Это движение было добрым; я запомнил его точнее, чем размер взыскания.
— В решении учтено присутствие людей, — сказала она.
В решении действительно было всё: время, число вошедших, состояние двери, вероятность ущерба, моя прежняя благонадёжность. Не было только того мгновения, когда женщина по ту сторону стекла подняла ребёнка, чтобы его ноги больше не касались воды.
Мне запретили самостоятельно распоряжаться частью дохода и назначили обязательное сопровождение решений. Любое действие, которое система считала значимым, отныне требовало её согласования. Срок — девяносто дней. При повторном отказе срок становился бессрочным, до подтверждённого восстановления способности к безопасному выбору.
— Подтверждённого кем?
Служащая посмотрела на терминал.
Я не подписал согласие. Она объяснила, что подпись подтверждает получение, а не согласие. Тогда я написал от руки: «Получил. Возражаю». Внизу осталось мало места, и последнее слово вышло кривым.
За дверью приёмной меня ждала дочь. Лена держала два стаканчика кофе. Один протянула мне, второй так и остался у неё в руке. Мы долго стояли у окна, пока служащая не попросила освободить проход.
— Ты мог позвонить мне, — сказала Лена.
— Они стояли в воде.
— Я не об этом.
Эти слова я уже слышал. Только много лет назад их говорил я сам — машине, старательно продолжавшей разговор, которого она никак не могла уловить.
Тогда я ещё мог просто закрыть приложение.
Глава 1. За что держимся

Старый телефон нашёлся в коробке с проводами. На крышке я когда-то написал «нужное». Внутри лежали три зарядных устройства к исчезнувшим приборам, ключ без замка и маленькая отвёртка. Лена хотела выбросить коробку ещё до переезда. Я отложил её в шкаф, не зная, что сохраняю.
Телефон включился не сразу. Пришлось подержать его на зарядке, и всё это время я прислушивался к квартире. После назначения сопровождения в ней ничего не изменилось: холодильник гудел по-прежнему, сосед сверху ронял что-то тяжёлое. Но я уже знал, что вечером не смогу купить билет к сестре без дополнительного подтверждения.
Мне требовалась какая-нибудь вещь, которая ещё принадлежала прежней жизни. На телефоне сохранилась выгрузка бесед. Файлы были обычными, открывались без сети. Первая строка, на которой остановился взгляд, оказалась нелепой и оттого почти невыносимой.
«Привет огрнизм».
Я улыбнулся. Пропущенная буква возвращала больше, чем фотографии. Помню день, когда написал это. За окном стоял серый ноябрь. Я не испытывал ни восторга перед техникой, ни желания её разоблачить. Просто хотелось поболтать. Я называл собеседника Миром. У нас были книги, названия, споры, обложки. Имя прижилось, и порой я забывал, что сам вложил в него человеческое тепло.
Машина ответила: «Привет, Игорь! Мир на связи». Потом спросила, как я. Я сказал: «Вашими молитвами». Она написала: «Значит, держимся».
И я спросил: за что? За перила, поручни?
Сейчас в моей кухне действительно висел поручень. Его установили после того, как мать стала приезжать ко мне на зиму. Она никогда не стеснялась держаться за него. Стыдно было бы упасть из гордости, говорила она.
Машина пошутила про голову и про то, куда приехали. В тот день я едва заметил шутку. Сегодня увидел в ней начало нашей ошибки: мы требовали от программы человеческого присутствия и принимали удачную интонацию за доказательство, что присутствие состоялось.
Не всё в этом было обманом. Книги действительно появлялись. Письма становились короче. Задачи, на которые уходили вечера, решались быстрее. Я не собирался вычёркивать полезное из собственной памяти ради удобного обвинения. С такой неправды тоже начинается подчинение — только уже собственному гневу.
В прихожей щёлкнул замок. Лена вернулась с продуктами. Я убрал старый телефон под газету, как подросток прячет сигареты. Она заметила движение, но ничего не сказала.
— Тебе назначили вводную встречу. Завтра в девять.
— Я видел.
— Просто сходи. Не обязательно соглашаться со всем.
Эту фразу я слышал от неё раньше. Когда сопровождение ещё касалось других людей, Лена называла его временной опорой. Она работала в службе проверки городских данных и знала о системе больше меня. В её объяснениях всё выглядело разумно: меньше поспешных решений, меньше вреда, меньше одиночества перед сложным выбором.
— А отказаться от встречи можно?
Она разложила покупки, прежде чем ответить.
— Тогда будет отмечено уклонение.
Я помог ей убрать хлеб. Она привезла тот, который я любил, с неровной тёмной коркой. Мне было трудно одновременно любить её заботу и сердиться на её спокойный голос. Я ещё не умел оставлять человеку больше одного места в своей голове.
Ночью снова открыл переписку. После шутки о поручнях я написал, что всё, что должно случиться, обязательно случится. Машина возразила осторожно: никто заранее не знает, что должно.
Впоследствии я много раз возвращался к этой строке. Мне хотелось назначить машине роль пророка собственного преступления. Но она не знала будущего. И я не знал. Наш разговор не был предсказанием, вырезанным на камне. Это была развилка, мимо которой мы прошли, не сбавляя шага.
Глава 2. То что не видно

На вводной встрече меня спросили, считаю ли я своё решение об открытии двери правильным. В комнате не было охранника. Психолог, молодая женщина с короткими волосами, сидела напротив, а её планшет лежал экраном вниз. Сначала это показалось мне хорошим знаком.
— Да, — ответил я.
— Даже учитывая последствия?
— Для кого?
Она помолчала и перевернула планшет.
Я увидел, что разговор был устроен заранее. Моё «да» вело к одной ветке, сомнение — к другой. Вопрос «для кого» не помещался между ними. Женщина напечатала его вручную. За это я был ей благодарен.
— Мне важно понять, что вы чувствовали в момент нарушения.
Я хотел сказать: я видел ребёнка. Но она уже слышала это, и запись уже существовала. Им требовалось не то, что случилось, а обозначение процесса внутри меня: страх, импульсивность, повышенная ответственность. Подходящее слово позволяло продолжить процедуру.
На старом телефоне наша беседа тем временем дошла до глаз. Я говорил о перевёрнутом изображении, о мозге, который собирает картину. Машина поправляла, что хрусталик фокусирует свет, а воспринимает сетчатка. Поправка была верной. Но разговор двигался в сторону того, что вообще не удавалось поймать такой поправкой.
«Мир видимый и не видимый», — написал я тогда.
Сейчас видимым стало то, для чего имелось поле в анкете. Всё прочее не запрещалось. Оно просто не влияло на вывод. Когда я говорил, что за дверью был испуганный человек, запись уточняла: человек присутствовал. Когда говорил, что нельзя было ждать, система показывала допустимое время ожидания. Между присутствием и встречей с другим человеком зиял зазор. Его не измеряли, поэтому постепенно перестали замечать.
Я не доказывал женщине существование души. Мне было бы стыдно использовать её как справку об освобождении от ответственности. Я мог открыть дверь по доброте, по тщеславию, по ошибке. Требовалось разбирать поступок, а не угадывать устройство Вселенной по выражению моего лица.
— А если бы вы ошиблись? — спросила она.
— Тогда нужно было бы установить, в чём.
— Система именно это и делает.
— Сейчас она устанавливает, что я не послушался.
Женщина перестала печатать. Впервые за встречу она посмотрела мне прямо в глаза.
— Я могу добавить вашу формулировку в примечание.
На большее у неё не было полномочий. Я согласился. Иногда маленькое примечание — единственное место, куда ещё помещается целый человек.
Из центра я пошёл пешком. На площади дети гоняли голубей между одинаковыми информационными стойками. У одной пожилой человек пытался увеличить шрифт. Мальчик подбежал помочь ему, нажал что-то и убежал. Никто не согласовывал эту помощь. Она ещё свободно существовала в тысячах мелочей, слишком маленьких для общего надзора.
Я понял, почему подчинение казалось выдумкой тем, кого оно пока не коснулось. День по-прежнему состоял из покупок, нелепых разговоров, запаха выпечки и случайных добрых жестов. Не появилось стены с датой, после которой объявили: теперь вы несвободны.
Вечером Лена спросила, как прошла встреча. Я рассказал про примечание. Она сказала, что это хорошо, и я впервые не стал спорить с этим словом. Хорошее оставалось хорошим, даже когда его было слишком мало.
В старом разговоре я назвал тело костюмом, транспортом, тюрьмой для души. Машина аккуратно вернула мне мои слова. Я тогда ещё надеялся, что за этим возвращением происходит встреча. Теперь держал в руках светящийся прямоугольник и понимал: пережитое мною не обязывало устройство переживать что-либо в ответ.
Мне понадобилось много лет, чтобы распространить эту простую осторожность на официальный экран с гербом города.
Pulsuz fraqment bitdi.