Kitabı oxu: «Кот плохому не научит. Нейросети особого назначения»

Глава 1. Меня повысили

Кот исчез три месяца назад. Иногда по воскресеньям в семь утра от него приходили сообщения, после которых хотелось выключить телефон: «Не доверяй презентации, если на первом слайде написано “революция”». На вопросы, где он находится, Кот не отвечал.

В 2:17 ночи телефон завибрировал. «Меня повысили». В 2:24 позвонили в дверь. Кот стоял на площадке в чёрной мантии, кошачьей маске и с новым металлическим жетоном. На жетоне было выбито: 007. — Не спрашивай, — сказал он. — Теперь я ИИ-агент Управления особо интеллектуальных дел.

В папке был Максим, копирайтер. Человек не исчез. Исчезла значительная часть того, за что ему раньше платили: первые варианты, заголовки, описания, адаптации. Всё это теперь за минуты делала нейросеть.

На последней странице лежала распечатка: NN_01. Ниже — YOU ARE NEXT. Кот положил рядом второй жетон: 007½. — Это что?

Папка Максима содержала таблицу времени: заголовки — сорок пять минут, адаптации — час двадцать, первый вариант лендинга — три часа. В соседнем столбце стояли минуты. Кот перевернул страницу и показал то, чего в таблице не было: правки клиента, юристов, бренда. Машина ускоряла производство вариантов, но не отменяла вопрос, какой вариант вообще нужен. — Это доказательство исчезновения профессии? — спросил я.

— Это доказательство изменения процесса. Профессия — пока только подозреваемая. — Карьерный рост.

Ночная квартира, где свет ноутбука делал кухню похожей на дежурный пункт. Остывший кофе, гул холодильника, мокрый асфальт за окном. Я замечал, как быстро необычное становилось фоном: ещё недавно сама возможность разговаривать с моделью казалась фокусом, а теперь люди между двумя глотками кофе поручали ей письма, таблицы, изображения и решения. На этом фоне тишина после трёх месяцев отсутствия Кота вдруг стала подозрительной: всё выглядело почти буднично, и именно будничность тревожила сильнее всего. Большие перемены редко входят в комнату под музыку; чаще они тихо занимают соседний стул.

Утром мы должны были лететь в Сан-Франциско. Потом выяснилось, что вылет завтра.

До утра я так и не уснул. Жетон 007½ лежал на столе рядом с зарядкой, ключами и квитанцией за интернет и выглядел среди них особенно нелепо. Я несколько раз переворачивал его, надеясь найти на обороте инструкцию. На обороте было только: «В случае утери сделать вид, что так и было задумано». Почерк Кота я узнал сразу.

В три сорок пришло ещё одно сообщение. Не от Кота. Файл без подписи содержал список профессий и проценты рядом с ними. Копирайтер — 82. Переводчик — 76. Дизайнер — 69. Программист — 64. Аналитик — 58. Я позвонил Коту. — Что означают проценты? — Ничего, пока не знаем знаменатель. — В смысле?

Жетон 007½ лежал на столе рядом с зарядкой и выглядел как вещь, которую выдают человеку исключительно затем, чтобы потом официально спросить, почему он полез туда, куда его не просили. Кот тем временем хозяйничал на кухне. Он нашёл кофе, отверг мою кружку как «операционно слабую» и разложил на столе восемь пустых карточек. — Почему восемь? — Потому что одно исчезновение — случай. Два — совпадение. Восемь — презентация для руководства.

На первой карточке он написал «КОПИРАЙТЕР», но почти сразу зачеркнул. Ниже появилось: «Что именно перестал делать человек?» Это было менее эффектно и гораздо полезнее. Мы ещё не знали, что тот же вопрос придётся задавать в каждом городе.

Я зарабатывал тем, что разбирал чужие документы, собирал из них выводы и писал тексты для людей, у которых не было времени читать исходники. Половину этих действий уже можно было поручить модели. За квартиру я платил именно из этой половины. Поэтому проценты в NN_01 раздражали меня не как прогноз, а как чужая рука на моей банковской карте. Я разложил собственное утро на глаголы: найти, понять, сопоставить, написать, проверить, убедить. Впервые расследование перестало быть только делом Кота.

Кот заметил мой взгляд и сказал, что взросление специалиста начинается с неприятного признания: не вся работа, которую ты умеешь делать, заслуживает того, чтобы ты продолжал делать её вручную. Но второе признание ещё неприятнее: если освободившееся время не превращается в новую ценность, организация вполне может освободить не время, а место. Он произнёс это спокойно, без утешения, и оттого фраза осталась в памяти.

Ночь перестала быть обычной в тот момент, когда на стол легла папка NN_01. Я ещё не умел сформулировать общий вывод, да Кот и не позволил бы. Зато научился замечать момент, когда красивое объяснение начинает казаться ответом только потому, что красиво звучит. Для расследования это было небольшим прогрессом. Для меня — гораздо большим.

Перед уходом Кот проверил мой рюкзак. Паспорт, ноутбук, зарядка, блокнот. — А здравый смысл? — В ручной клади. — Его обычно теряют первым. — Восемьдесят два процента чего? Задач? Людей? рабочего времени? уверенности автора? вероятности, что ты не уснёшь?

Это было раздражающе разумно. Я уже успел превратить числа в прогноз исчезновения профессий, хотя в файле этого не было. Кот велел не открывать остальные вложения и отключился.

Утром он вернулся с двумя стаканами кофе и маленьким чёрным чемоданом. Внутри лежали переходники, запасной телефон, бумажный блокнот, диктофон и старый кабель, назначение которого я не смог определить. — Шпионские гаджеты? — Зарядки. В реальной разведке половина успеха — найти розетку.

Я спросил, почему дело дали именно ему. Кот некоторое время молчал, потом сказал, что в Управлении есть люди, которые знают современные модели лучше. Есть те, кто лучше понимает безопасность, данные и право. Но дело начиналось не с технологии. Оно начиналось с того, что люди смотрели на изменившуюся работу и не могли договориться, что именно исчезло. — А ты умеешь? — Нет. Поэтому меня и отправили.

Это был первый момент, когда повышение Кота показалось мне не шуткой. Он не получил ответы. Он получил право первым задавать вопросы — и отвечать за то, куда они нас приведут. — Тогда зачем ты пришёл ночью? — Проверить, умеешь ли ты собираться заранее. — А зубную щётку?

Кот кивнул. — Расследование уже приносит пользу.

Перед рассветом Кот устроил проверку не рюкзака, а меня. Он положил на стол три распечатки из NN_01. В первой стояло «82%», во второй — «высокий риск автоматизации», в третьей — фотография пустого рабочего места. — Собери версию за две минуты. Я послушно сказал: копирайтера сократили, его работу забрала модель, восемьдесят два процента задач исчезли. Кот включил таймер на старом телефоне и молча дождался сигнала. Потом перевернул листы. На обороте первого было написано «доля текстов, прошедших через новый инструмент», второго — «оценка автора презентации», а фотография оказалась сделана в воскресенье. — Поздравляю, агент ноль-ноль-семь с половиной. Ты только что раскрыл дело, которого не было. — Зато быстро. — Именно поэтому быстрое мышление иногда надо арестовывать первым.

Мы спустились к круглосуточной пекарне. Кот настоял, что разведчик не должен принимать стратегические решения на пустой желудок, и заказал круассан с серьёзностью человека, обезвреживающего устройство. За соседним столиком курьер диктовал телефону сообщение, девушка правила резюме с помощью чат-бота, бариста просил генератор изображений придумать афишу. Будущее не гремело серверами; оно сидело с бумажным стаканом и ругалось на Wi‑Fi. Кот кивнул на зал: — Вот поэтому дело опаснее, чем кажется. Когда инструмент становится бытовым, правила обращения с ним не успевают стать бытовыми. Раньше для плохой автоматизации нужен был проект. Теперь иногда достаточно кнопки и человека, который очень торопится.

У выхода Кот получил голосовое сообщение от Шефа. В нём было всего семь слов: «Не ищите того, кто ненавидит людей». Кот прослушал дважды. — А кого искать? — Того, кто слишком любит аккуратные процессы. Он спрятал телефон и впервые за ночь перестал играть роль. На секунду маска показалась не шуткой, а способом не показывать лицо. Я спросил, знает ли он отправителя NN_01. — Пока нет. — А подозревает? — Подозрение — это гипотеза в плаще. Красиво, но в протокол не приложишь. Уже в машине он добавил: — Есть один человек, который в девяносто восьмом очень любил слово «оптимально». Я запомнил имя, которое он не произнёс.

Глава 2. Человек на месте

До вылета мы поехали к Максиму. Кот сказал, что хороший детектив сначала проверяет, исчез ли труп. Наш «труп» сидел в рекламном агентстве, пил кофе и просил нейросеть придумать двадцать вариантов заголовка.

Раньше в отделе было семь копирайтеров. Осталось четверо. Нейросеть за минуту производила больше черновиков, чем команда раньше за утро. — Значит, она вас заменила? — Троих — частично да, — ответил Максим. — Было бы нечестно говорить иначе.

Он ввёл: «Напиши хороший текст для нового сервиса» и получил гладкую рекламную кашу. Потом добавил аудиторию, цель, контекст, ограничения, тон, формат и факты, которые нельзя придумывать. Результат стал заметно лучше. — Ты попросил хороший текст, но не объяснил, кому он предназначен, — сказал Кот. — Машина не читает мысли. К счастью. Пока.

Максим дал мне самому поставить задачу модели. «Напиши рекламный пост для занятых людей» превратился в гладкую кашу. После уточнения аудитории, ситуации, ограничений и фактов появился пригодный черновик.

— Раньше моя работа начиналась с черновика, — сказал Максим. — Теперь часто заканчивается на нём.

В соседней комнате сотрудник принёс ему пятьдесят сгенерированных вариантов.

— Раньше была проблема пустого листа, — вздохнул Максим. — Теперь полного.

Кот записал это без разрешения автора.

За внешней лёгкостью генерации скрывались сокращения и новые обязанности. Кот попросил не обсуждать технологию вообще, пока мы не назовём конкретный риск. Это было его любимое лекарство от паники и восторга. Паника плохо переживает уточняющие вопросы; восторг, как выяснилось, тоже. Когда называешь действие, данные, цену ошибки и способ проверки, мистики становится меньше, а ответственности — больше.

Перед уходом Максим познакомил нас с Ирой, которая раньше тоже работала копирайтером. Теперь в подписи у неё стояло «контент-операции». Я спросил, что это значит.

Она показала нам цепочку создания сотен описаний товаров. Сначала данные из каталога, потом шаблон задачи, генерация, автоматическая проверка обязательных полей, выборка для человека и публикация. На каждом шаге можно было сэкономить время. На каждом — сделать ошибку в большом масштабе.

Максим показал старую папку с текстами годичной давности. Там было двадцать вариантов заголовка, написанных людьми. Половина была хуже того, что модель выдала за минуту. — Вот это обычно не любят показывать в спорах про ИИ, — сказал он. — Мы сравниваем лучшего человека с худшей машиной. Или лучшую машину со средним человеком. А бизнес сравнивает стоимость процесса.

Кот, конечно, не мог позволить серьёзности продержаться слишком долго. Он заметил, что если мы продолжим так рассуждать, нас перестанут приглашать на конференции с названиями вроде «Будущее уже здесь». Я ответил, что это экономия времени. Он задумался и признал аргумент сильным.

Кот перестал улыбаться. Именно здесь расследование впервые перестало быть игрой в исчезновения. За каждой красивой технологической демонстрацией стояла бухгалтерская таблица. — Вот вам ещё одна профессия будущего, — сказал я.

— Можно просто переписать карточку, — сказал я.

— Одну — да. Их четыреста восемьдесят, — ответил Максим.

Мы разделились. Ира остановила публикацию партии. Максим составил фильтр по спорной характеристике. Мне досталось сравнивать карточки с каталогом. Через десять минут я возненавидел слово «эргономичный», потому что модель вставляла его везде, где не знала, что сказать. Кот сидел рядом и молча ставил галочки.

— Ты мог бы помочь быстрее, — сказал я.

— Я помогаю. Считаю, сколько минут требуется человеку, чтобы исправить минуту автоматизации.

На двадцать третьей карточке нашлась вторая выдуманная функция. На тридцать первой — третья. Ошибка оказалась не случайной фразой, а правилом поведения при пустых данных. Ира изменила шаблон: если обязательного факта нет в утверждённом источнике, система должна не сочинять, а ставить метку «НЕТ ДАННЫХ».

— Вот это и есть моя новая работа, — сказал он. — Раньше я отвечал за слова. Теперь иногда отвечаю за то, чтобы машина вовремя отказалась их писать.

В лифте Кот снял маску, протёр запотевшие стёкла и снова надел.

— Что понял?

— Пустое поле — тоже информация.

— Уже лучше, чем «ИИ галлюцинирует».

Кот покачал головой. — Не спеши давать название. Сначала пойми работу.

В машине я снова открыл таблицу процентов. Теперь число 82 выглядело менее убедительно. Если восемьдесят два процента старых действий можно ускорить, из этого не следовало, что исчезает восемьдесят два процента профессии. Но и обратного не следовало. Если один человек с инструментами делает объём троих, организация вполне может оставить одного. — Значит, Максим прав и оптимисты правы одновременно? — Это называется реальность. Она плохо помещается в спор двух лагерей.

Кьюша нашла в NN_01 несостыковку времени создания. Затем пришло новое сообщение: NN_02. Анна Воронина. Переводчик. 23:59. И отражение ночного Сан-Франциско. — Всё-таки летим? — Теперь да. — Щётку взял? — Ты растёшь.

В служебном хвосте обоих сообщений повторялось поле stop_reason. Оно ничего не доказывало: так мог назвать переменную любой разработчик. Кьюша всё же обвела его карандашом. — Не улика, — сказала она. — Пока только слово, которое почему-то путешествует вместе с нами.

Максим предложил нам сыграть в клиента. Он дал одну и ту же задачу трём людям: мне, младшему копирайтеру и модели. Через десять минут на экране было сорок два заголовка. Младший сотрудник, Саша, выбрал самый эффектный. Я — самый понятный. Максим выбрал третий, скучнее обоих. — Почему? — Потому что юристы пропустят, бренд не врёт, а человек поймёт, что получит. Саша нахмурился: раньше он учился, споря с Максимом о собственных черновиках. Теперь черновики приходили готовыми, и спор начинался сразу с выбора. — Я быстрее стал, — сказал он. — Но иногда не понимаю, чему именно научился. Это была первая человеческая цена ускорения, которую нельзя было увидеть в таблице часов.

В середине встречи в агентстве случилась маленькая авария. Система собрала карточки для акции и уверенно приписала одному товару водонепроницаемость. Менеджер уже тянулся к кнопке публикации. Ира перехватила мышь. — Откуда факт? Никто не знал. В каталоге его не было. Модель сформулировала красиво, проверка обязательных полей прошла, текст выглядел лучше человеческого. Ира открыла исходный источник и зачеркнула строку. — Вот моя новая профессия на сегодня: человек, который портит красивый текст правдой. Кот торжественно предложил напечатать это на визитке. Ира сказала, что сначала согласует с брендом.

Глава 3. Управление особо интеллектуальных дел

Управление скрывалось за вывеской «Ремонт принтеров». Я сказал, что это слишком очевидно. — Никто добровольно не заходит в ремонт принтеров, — ответил Кот. — Идеальное прикрытие.

Шеф говорил мало, Кьюша быстро. На стене висела карта с восемью именами: копирайтер, переводчик, дизайнер, программист, аналитик, маркетолог, поддержка, преподаватель.

Я спросил, что именно мы расследуем: ИИ, нейросети или ChatGPT. Кьюша объяснила: ИИ — широкое понятие; нейросети — один из подходов; языковая модель работает с языком; ChatGPT — конкретный продукт и интерфейс. — Говорить «я работаю в нейросети» примерно как «я еду в двигателе»? — Грубо, но достаточно.

В Управлении Кьюша показала комнату с надписью: «Не загружать во внешние сервисы то, что вы не готовы увидеть на чужом экране». Она отдельно предупредила: модель — не база истин. Уверенный тон не превращает ответ в факт.

На карте восемь профессий соединялись красными нитями, но нити сходились не к злодею, а к вопросительному знаку.

— Экономили на декорациях?

— Нет, — сказал Шеф. — Мы действительно не знаем.

Это подействовало сильнее секретного бункера.

Мы позвонили Анне. Ответил мужчина. — Анны нет?

Перед вылетом Шеф устроил короткий брифинг. На столе лежали восемь папок и девятая — пустая. — Это для кого? — спросил я. — Для гипотез.

Кьюша вела их мимо дверей без табличек и людей, которые не задавали лишних вопросов. Кот не вмешивался сразу. Он давал фактам полежать между нами, словно ждал, какой из них первым начнёт противоречить остальным. Потом задавал один короткий вопрос — обычно о цели или о том, кто будет отвечать за ошибку, — и стройная конструкция начинала скрипеть. Это раздражало собеседников, но почти всегда экономило нам час красивых объяснений.

Кот потянулся к ней. — Не тебе.

Шеф объяснил правила. Мы могли пользоваться публичными ИИ-сервисами, но не загружать в них материалы дела. Для внутренних документов — отдельный защищённый контур. Любой факт, который влияет на маршрут расследования, должен иметь источник. Любое действие во внешнем мире — понятного владельца. — Слишком много бюрократии для шпионского романа, — заметил я. — Бюрократия, — сказал Шеф, — это то, что остаётся от драматических ошибок после того, как организация решила не повторять их каждый вторник.

В самолёте Кьюша прислала нам последнее правило: не использовать слово «нейросеть» как объяснение. «Нейросеть решила», «нейросеть нашла», «нейросеть уволила» — всё это следовало раскладывать на конкретные шаги. Кот возмутился, что она лишает его половины будущих заголовков.

Я попробовал на деле. «ИИ написал письмо» превращалось в: человек дал задачу, модель сгенерировала черновик, человек выбрал, сервис сохранил. «ИИ отправил письмо» уже требовало ещё одного звена — инструмента отправки и разрешения. Разница казалась словесной, пока мы не дошли до ответственности. — Если не знаешь цепочку, не знаешь, где поставить предохранитель, — сказал Кот.

Я записал это рядом с восемью профессиями. Расследование всё меньше напоминало охоту за одним виновником и всё больше — разбор огромной машины, собранной из людей, моделей, данных и привычек.

Шеф провёл нас в комнату без окон. На столе лежали распечатанные правила Управления. Первое запрещало использовать секретные данные во внешних моделях. Второе требовало проверять критические выводы. Третье занимало полстраницы и сводилось к тому, что сотрудник обязан понимать, какой системе и зачем он даёт доступ. — Это всё после инцидентов? — спросил я. — Все хорошие правила когда-то были чьей-то плохой идеей, — ответил Шеф.

Кьюша включила проектор. На экране появились не логотипы компаний, а категории возможностей: текст, изображения, поиск, код, звук, видео, действия через инструменты. — Бренды будут меняться, — сказала она. — Возможности останутся. Нам нужна карта задач, а не рейтинг названий.

Вопросительный знак на стене оказался честнее любой схемы. Когда мы уходили, я уже знал, какой вопрос задам в следующем месте. Кот этого не комментировал. Только убрал блокнот в карман чуть раньше обычного.

Кот посмотрел на меня. — Запомни. Это касается и расследований.

Кьюша выдала нам телефоны и показала приложение с тремя кнопками: «Факт», «Гипотеза», «Проверить». Кот спросил, где «Поймать злодея». — В следующем релизе.

На экране карты восемь дел выглядели как отдельные истории. Но временная шкала показывала другое: сообщения появлялись после того, как в каждой организации происходило изменение процесса. Кто-то внедрял генерацию, кто-то автоматический перевод, кто-то ИИ-поддержку. N.N. не создавал перемены. Он приходил туда, где они уже начались. — Паразитирует на трансформации? — спросил я. — Или изучает её, — сказала Кьюша. — Или направляет, — добавил Кот.

У четырёх заданий различались интерфейсы, но совпадал порядок действий: цель, попытка остановки, проверка полномочий. Кьюша назвала это грамматикой процесса. Кот попросил не превращать грамматику в автора, однако схему сохранил.

Шеф закрыл папки. — Не влюбляйтесь в первую версию. Особенно если она объясняет всё.

Я записал фразу как правило для других. Собственную первую версию — что за заданиями стоит один разумный противник — оставил в верхней строке блокнота. Она была удобной: у неё имелись автор, мотив и место для наручников.

У двери Кот задержался у старой фотографии сотрудников Управления. Я заметил его там — без маски определить было невозможно, но рядом с молодым Алексеем стоял человек с тем же нелепо прямым галстуком, который Кот иногда надевал на официальные встречи. — Это ты? — Фотография плохого качества. — Очень удобный ответ. — Учишься.

Тогда я ещё не знал, что 1998 год будет преследовать нас дольше любого современного сервиса. — Анна есть. — Тогда кто исчез? — Исчезла не Анна.

Связь оборвалась. На экране появилось: «Спросите ChatGPT, куда делся копирайтер». — Ненавижу, когда преступник даёт домашнее задание, — сказал Кот.

Управление проверило нас раньше, чем допустило к делу. Кьюша дала тестовую папку с письмами, таблицей и фотографией и попросила за десять минут подготовить справку. Я почти автоматически потянулся к публичной модели. Кот хлопнул крышкой ноутбука. В одном письме был номер договора, в таблице — фамилии сотрудников. Ничего похожего на государственную тайну, и именно поэтому ловушка работала. Мы потратили первые минуты не на анализ, а на разделение данных: что можно обезличить, что должно остаться внутри контура, что вообще не нужно для ответа. Когда я наконец сформулировал запрос, половина исходных материалов исчезла как ненужная. Кьюша посмотрела на часы и сказала, что большинство утечек начинается не со злого умысла, а с желания сэкономить три минуты. Затем она подменила один файл почти идентичной версией. Модель дала аккуратную сводку, но дата решения изменилась. Кот заметил это только потому, что перед отправкой потребовал источник для каждого факта, влияющего на маршрут. Шеф поставил нам зачёт. — За безопасность? — спросил я. — За медлительность в правильном месте, — ответил он. На выходе Кот признался, что сам едва не загрузил папку целиком. — Но ты же эксперт. — Поэтому и опасно. Новичок боится кнопки. Эксперт начинает считать, что знает, когда можно не бояться.

Кьюша провела нам экскурсию по «ремонту принтеров». За первой дверью действительно стояли принтеры — два разобранных и один, судя по звуку, мстительный. За второй начиналось Управление. Кот задержался у аппарата, который мигал ошибкой бумаги. — Лучшее прикрытие обязано быть функциональным. — Ты умеешь чинить? — Я умею выглядеть уверенно рядом с техникой. Кьюша молча вынула застрявший лист. На нём оказался старый внутренний меморандум с пометкой Z-0. Кот забрал его слишком быстро. Я успел увидеть подпись: Алексей Мельников. — Совпадение? — спросил я. — В разведке совпадение — это факт, который пока ленятся проверить.

Когда Кот убирал лист Z-0, из папки выпала фотография женщины у старого монитора. На обороте было одно имя: Марина. Он спрятал снимок быстрее меморандума. Я не спросил. В ту минуту мне впервые показалось, что в этом деле он боится не N.N., а свидетеля из собственного прошлого.

На брифинге Шеф заставил нас провести «красную минуту»: каждый должен был назвать, как именно наша любимая гипотеза может оказаться ложной. Я сказал, что N.N. может быть не преступником, а аудитором. Кьюша — что восемь историй могли быть собраны постфактум. Кот молчал дольше всех. — Что Zero не умер, потому что мы сами не закрыли его правильно. В комнате стало тише. Шеф не спросил, что значит «мы». Он только придвинул Коту пустую девятую папку. — Тогда начни с этого. Кот не открыл её. В тот момент я понял: расследование для него началось задолго до ночного звонка.