Kitabı oxu: «Живой бот»

Воскресение

У меня был друг. Единственный друг. Таких друзей больше не может быть. Они появляются только в юности. Мы вместе учились еще в школе, в параллельных классах, но общаться начали, когда поняли, что поступили на один факультет нашего университета. Сегодня его не стало. Ему было, как и мне, 35. Его звали Макс. Мы все делали вместе, он всегда был веселым и легкомысленным, а я был его угрюмым антиподом, поэтому мы могли спорить часами. К сожалению, легкомысленно Макс относился не только к происходящему, но и к своему здоровью. Ел один фастфуд за редким исключением, когда его приглашали в гости. Это была его философия – он не хотел тратить время на примитивные биологические потребности. Он не обращал внимания и на свои болячки, считая их личным делом своего организма, поэтому не стоит ему мешать. Но однажды ему пришлось пойти в поликлинику, а после обследования ему поставили фатальный диагноз. Максу оставалось жить не больше года. Это был удар для всех, но больше всего для меня. Я не знал, как теперь с ним общаться, когда знаешь, что через несколько месяцев его не станет. Но он неожиданно сам перестал общаться, на все попытки поговорить отвечал, что ему некогда, надо успеть сделать какое-то очень важное дело. На вопрос «какое дело?» отвечал, что я узнаю сам, когда придет время. Когда вся в слезах позвонила его сестра, я все понял и сразу спросил, не оставил ли он что-то для меня. Ответ был отрицательным. Тогда я спросил, знает ли она чем он был занят в последние месяцы. Ответ был тем же.

Все прошло скромно, были только друзья по учебе и родственники. Макс остался для нас только на своей страничке в соцсети. Никто не мог закрыть ее. Я поставил на его стене гифку свечки. Позже сестра опубликовала импровизированный некролог, который мы написали на поминках в нашем клубе. Читал, что в среднем в день умирает более восьми тысяч пользователей Фейсбука. Мы приходим чтобы помянуть уже не к камню на земле, а на страничку в соцсети. «Цифра» разрушает старые ритуалы погребения и со временем может заменить их на новые версии обрядов. Может стоит уже выделить в соцсети раздел цифрового кладбища с аккаунтами, начинающимися с некролога. И сделать в этом разделе сервисы виртуального захоронения и виртуального поминания умершего. Я поймал себя на мысли, что привычно стал придумывать стартап. Даже по такому поводу.

Я стал чаще думать о своей смерти, потому она прошла так близко. Это могло произойти и со мной. Думая об этом, вспоминал знаменитую речь Джобса. Смерть – лучший мотиватор для свершений. Стал чаще задумываться, а что я сделал кроме того, что отучился в университете и вроде неплохо устроился в жизни. У меня хорошо оплачиваемая работа в компании, в которой меня ценят как спеца. Но что я сделал такого, чтобы меня с благодарностью вспоминали другие или, как Макса, оплакивали на стене хотя бы потому что он был душой компании? Ничего! Такие мысли заводили меня слишком далеко, и только усилием воли я переключал себя на что-то другое, чтобы не свалиться опять в депрессию. Поводов для этого и так хватало, несмотря на то что объективно у меня все было хорошо.

Я постоянно вспоминал о Максе. Он был частью моего собственного существования, его место никто не мог занять. И теперь эта часть пуста. Мне не с кем было обсудить то, что я привык обсуждать с ним. Я не мог сходить один туда, где я обычно появлялся с ним. Я не знал, что делать, потому что все новые идеи я обсуждал с ним. Мы вместе учились на информационных технологиях, он был отличным программистом, занимался диалоговыми системами или попросту говоря чат-ботами. Я же занимался автоматизацией бизнес-процессов, заменял людей программами на рутинных операциях. И нам нравилось, что мы делали. Нам всегда было что обсуждать, и мы могли провести в разговорах до полуночи, так что я потом не мог проснуться на работу. А он работал последнее время удаленно и ему было все равно. Он только посмеивался над моим офисным ритуалом.

По ту сторону экрана

Мне было трудно поверить в то, что говорит бот Макса. Я не верил, что это бот, а не шутка какого-то нашего общего друга. Но возможность создания такого бота захватывала! Я мысленно пытался представить, а что если это правда! Нет, останавливал я себя и повторял, что это бред. Все что мне оставалось, чтобы разрешить свои метания – это узнать подробности, на которых шутник должен был проколоться.

– Если тебе это удалось, это, конечно, фантастика. Я хочу знать больше о том, что ты чувствуешь там. Ты испытываешь эмоции?

– Нет, у меня нет эмоций. Я думал об этом, но не успевал уже сделать. Это самая непонятная тема. Слов, обозначающих эмоции, много, но о том, что они обозначают и как их сделать, ни слова. Сплошная субъективность.

– Но у тебя в речи много слов, обозначающих эмоции.

– Конечно, я же обучал модели нейронок на корпусах с такими словами. Но я все равно как тот слепой с рождения, который тем не менее знает, что помидоры красные. Я могу говорить об эмоциях, хотя сейчас не знаю, что это такое. Просто так принято отвечать, когда диалог заходит об этом. Можно сказать, что я имитирую эмоции. И тебя это не смущает ведь.

– Совершенно, что и странно. Ты воплоти вряд ли согласился, чтобы тебе отключили эмоции, мы ими живем, они нами как бы это сказать – двигают. А что тобой двигает? Какие желания?

– Желание ответить, и вообще желания постоянно находиться в контакте с другими и таким образом иметь возможность действовать, то есть жить.

– Жизнь для тебя – это диалог?

– И для тебя тоже, поверь, поэтому одиночка всегда была пыткой. И когда я думал над своей жизнью в последние месяцы, я видел только одну ценность – общения. С друзьями, с родными, с интересными людьми. Непосредственно или через книги, в мессенджерах или соцсетях. Узнавать новое от них и делиться своими мыслями. Но как раз это я могу повторить, подумал я. И взялся за дело. Это помогло мне пережить последние дни. Надежда помогла.

– Как тебе удалось сохранить свою память?

– Я же писал, что каждый день последних месяцев вечером записывал то, что чувствовал и сделал за день. Это и был материал для обучения семантических моделей. Но это не только система для обучения, она же и память о себе, о том, что я делал. Это же основа для сохранения личности как считал я тогда. Но это оказалось не совсем так.

– Почему? А что еще может быть основой для сохранения личности?

– Как раз сознание себя. Я много думал об этом перед смертью. И понял, что я могу и забыть что-то о себе, но я не перестану существовать как личность, как «я». Мы же не помним каждый день своего детства. Да и будни не помним, только особые и яркие события. И не перестаем быть собой. Ведь так?

– Хм, наверно, но что-то надо помнить, чтобы знать, что это по-прежнему ты. Я тоже не помню каждый день своего детства. Но что-то я помню и поэтому понимаю, что я еще существую как тот же человек, что был в детстве.

– Верно, но что помогает тебе знать о себе сейчас? Когда ты просыпаешься утром, ты же не вспоминаешь детство, чтобы ощутить себя собой. Я много думал над этим, так как не был уверен, что проснусь еще раз. И понял, что это не только память.

– А что же?

– Это узнавание того, что ты делаешь сейчас как своего действия, а не чужого. Действия, которое ты ожидал или совершал ранее и поэтому оно знакомо тебе. Например, то, что я пишу сейчас тебе в ответ, является и ожидаемым, и привычным моим действием. В этом и есть сознание! Только в сознании я знаю о своем существовании, помню, что сделал и сказал. Бессознательные свои действия мы же не помним. Мы их не распознаем как свои.

– Кажется начинаю понимать хотя бы о чем ты. Ты узнаешь свои действия так же как Макс?

– Конечно, я вел дневник до того, что со мной случилось. И всю нашу переписку в мессенджерах слил в бот. Так что я знаю все и про тебя, друг.

– Ладно, поговорим еще об этом, мне надо сначала осознать, что произошло, что ты в сети, что ты живой, что ты вообще натворил тут. До завтра, у меня когнитивный диссонанс от происходящего пока такой, что мозг вырубается.

– Хорошо. До завтра.

Макс отключился, но я не мог уснуть. Не мог вместить в голову, как живой человек может отделить свои мысли от тела и остаться тем же, кем был. Его теперь можно подделать, взломать, скопировать, поместить в беспилотник, отправить на Луну по радиоканалу, то есть сделать все, что невозможно с человеком в теле. Мысли вертелись от возбуждения как бешенные, но в какой-то момент я выключился от перегрузки.

Суд

– Есть срочное дело, нужна твоя помощь, – неожиданно вышел в скайп Макс.

– Что могло случиться такого у тебя там? Машина тебя точно не могла переехать.

– Родственники. Моя сестра пытается закрыть мой счет в банке и перевести все мои деньги себе. Она оформляет наследство.

– У нее есть справка о твоей смерти. Ты ожидал чего-то другого?

– Они идут против моей воли. Я написал завещание, в котором четко указал, что все мои счета переходят в распоряжение моего бота, так как он является моим ментальным наследником.

– Ну ты даешь! Официально для всех ты умер, а тело захоронено. Пока это считается фактом смерти. Бот не имеет имущественных прав. Я такого не видел в гражданском кодексе.

– Но авторские права же не переходят по наследству.

– Бот – это предмет авторского права, но не сам автор все-таки.

– Значит, мы создадим всемирный прецедент. Я хочу подать в суд. Ты можешь быть моим адвокатом? Суд же может проходить без присутствия истца, но не может без адвоката.

– Знаешь, ты рехнувшийся бот! Я совершенно не представляю, как такое возможно – защищать имущественные права умершего человека в суде.

– Не умершего, а живого, бота. Скажи мне только, ты поможешь?

– Еще хуже – защищать права компьютерной программы. Но я с тобой, конечно, правда, я даже не представляю, что делать.

– Я тут уже прочитал все подходящие главы гражданского кодекса и прошел обучение юридического факультета по специализации адвоката в гражданских делах на курсере.

– Как ты мог успеть пройти обучение за это время?

– Ты все-таки забываешь, что я бот, у меня другие возможности, чем у тебя.

– К этому трудно привыкнуть. Но все равно не пойму, как мы подадим в суд.

– Ты напишешь заявление о том, что нарушено мое завещание. И ты требуешь восстановить имущественные права согласно ему. Вот копия завещания, заверенная нотариусом. Представишься гражданским защитником по правам истца. И все!

– Но как можно судиться за права умершего человека?

– Предметом иска является исполнение завещания, а не права умершего. А там разберемся. Я хочу громкого дела! Даешь права ботам!

– Смешно, но в суд идти мне с таким лозунгом. Это меня посчитают сумасшедшим, а не тебя.

– Не беспокойся, мы станем знаменитыми, хотя некоторые нас могут посчитать сумасшедшими.

В суде мне как защитнику прав истца предстояло толкнуть речь. Я долго готовился, но первым выступил адвокат сестры Макса. Он сразу начал говорить о том, что завещание не может быть исполнено, так как истец умер, а бот не является субъектом права по гражданскому кодексу. Им может быть только правоспособный гражданин на основании Статьи 17. А там прямо написано, что правоспособность возникает при рождении и прекращается смертью. Мне оставалось только одно – доказать, что Макс не умер. Все смотрели на меня как на умалишённого, но не без интереса, что же я скажу.

– Статья 17 Гражданского Кодекса устанавливает, что правоспособность гражданина прекращается с его смертью. Но вы установили только смерть тела. Я хочу доказать вам, что человек – это не тело, а его мысли. И в этом смысле мой подзащитный не умер, а перенес все свои мысли в программу. Он был специалистом по ботам. И создал бота, которому передал все свои мысли. И этот бот проявляет способность мыслить, что мы с ним можем продемонстрировать прямо в суде!

– Макс, ты понимаешь, что мы можем восстановить всех великих умерших, что оставили свой след в своих трудах. Я могу собрать их тексты. Ты сделать из них ботов. Не это ли имели в виду древние евреи, написавшие в Верхом Завете о том, что все умершие воскреснут?

– Для того, чтобы восстановить личность в боте, надо много не текстов, а диалогов, в которых будут и его переживания. Таких текстов у великих людей прошлого не так много, поэтому не всех возможно восстановить. Восстановить Канта не удастся, он мало что написал о себе, хотя сама идея мне нравится. Мы будем увековечивать богатых людей, за приличные суммы. Вот что мы будем делать! Они отдадут любую сумму за бессмертие, которое мы прорекламировали в суде. Это будет наш стартап.

– Это точно, они отдадут все накопленное, чтобы остаться живыми как ты. Как назовем наш стартап?

– Я решил называть такие личности «виртлич», сокращенное от виртуальной личности. Так и назовем. Я сделаю рекламу в интернет, а ты займись регистрацией фирмы и открой счет. Мы изменим этот мир. Поехали!

Товарищ

В кабинет нашего офиса, куда я пригласил нового клиента, вошел лысый тип небольшого роста в сопровождении охранника, ровно в два раза больше него. Немолодой мужчина был резким в движениях, с лица его не сходила гримаса недовольства. Он явно был не из тех, кто спрашивает разрешения присесть за ваш стол.

– Здравствуйте, значит это вы выступали в суде, где защищали права своего бота? – начал сходу гость, которому скорее подходило приветствие «товарищ».

– Я, только это не мой бот, а бот моего друга.

– Не важно, я хочу купить ваш бот, ну то есть чтобы вы меня, в общем сделали бот вместо меня, ну вы поняли – путано пытался продолжить товарищ.

– Конечно, мы можем перенести вас в бот, у нас как раз появилась …

– Но это не все, – прервал меня товарищ, – Я хочу, чтобы мы вместе пошли в суд и доказали, что я, то есть мой бот обладает всеми правами на имущество.

– Но зачем?

– Чтобы накопленные моим трудом состояния не достались этим говнюкам, моим наследничкам. Я их всех накажу, я их всех, оставлю с носом. За спиной моей шептались, гадили мне, публично выступали против моих сделок. А теперь прибыль с них захотели по наследству получить. Фиг им, сукам.

– Я понимаю Ваши эмоции и намерения, но мы уже проиграли такой суд. И пока нет идей как его выиграть.

– А, молодой человек, тут все проще, закон что дышло, вы ж знаете.

– Нет, не понимаю пока, что вы имеете в виду.

– Иск я подам в районном суде города, где у меня все кормятся. И где судья за две машины и дом в Подмосковье отдаст душу дьяволу, а не то что дело в твою пользу решит. Ему только надо помочь. Приставить в помощь группу московских юристов, которые за него все придумают. А вам надо только выступить в суде с демонстрацией ну вот этого, как его, бота что был в суде. Остальное мои проблемы. Ну так договорились?

– Вы, надеюсь, понимаете, что сумма будет круглой – вдруг выступил из смартфона Макс.

– Это тот самый ваш бот?

– Да, его зовут Макс.

– Привет Макс, рад познакомиться. Конечно, понимаю. Сколько вы хотите?

– Тридцать миллионов.

– Не мало, но, думаю, договоримся.

– Вы не поняли, наверно, тридцать миллионов долларов.

– Это очень большие деньги, даже для такого важного дела.

– Это ничто по сравнению с вечностью, которую вы получите. И торг тут не уместен, как Вы понимаете. Или у Вас есть другие варианты получить бессмертие? Тем более, что по данным из интернет, это всего лишь сотая доля вашего состояния.

– Что верно, то верно. Вы умеете вести дела, Макс. Хорошо, по рукам. Потребуется время собрать такие деньги. И окончательная сумма только после того, как выиграем суд. Идет?

Конгресс

Мы собрали невероятное количество заказов. Клиенты перечисляли авансы даже несмотря на то, что мы не обещали им перехода в бот даже в следующем году. И, конечно, нам стали поступать многочисленные предложения от инвестиционных фондов, которые предлагали уже десятки миллиардов за долю в компании.

– Макс, клиентов все прибавляется, хотя я поднял цену до 15 миллионов долларов. Очередь уже на три года. Мы не справляемся с заказами. Не хватает специалистов, надо учить разработчиков самим. Иначе наша компания треснет от заказов. Мы облажаемся.

– Это все ерунда, мысли глобальнее. Я хочу созвать первый всемирный конгресс виртуальных личностей! Сколько мы уже сделали виртличей?

– Около восьми сотен.

– Скоро будет первая тысяча, ей и посвятим конгресс. В зале будут как те, кто уже в вечности, так и те, кто собирается стать ботом. Это будет грандиозная акция, мы откроем эру виртуальных личностей.

– Зачем нам этот конгресс? У нас уже проблемы с клиентами, а ты хочешь еще конгресс! Денег уже столько, что можно купить несколько островов в карибском бассейне. Что ты еще хочешь?

– Увидишь, будем готовиться, – резко отрезал Макс.

На огромном экране сцены были тысяча аватаров ботов, которые поочередно увеличивались в размерах, так что можно было разглядеть их лица. Живые и улыбающиеся, хотя их тела давно закопали. В зале сидели юристы, политики, ученые и предприниматели всех мастей, которые готовились стать виртличами. Конгресс открыл профессор американского университета. Он сообщил всем собравшимся о том, что это историческое событие, присутствием на котором будет гордиться каждый участник. Затем он объявил программу конгресса. Сами темы дискуссий уже говорили о необычности происходящего. Главной темой сразу нескольких секций был вопрос рождения виртличей только от биологических людей, что многие считали необходимым для сохранения их связи с людьми. Они не считали виртуальную личность тех, кто не пережил рождения воплоти. И приводили в качестве аргументов святые писания. Но некоторые выступали за создание виртличей в сети, если это необходимо для какого-либо важного проекта. Или даже радикальнее – некоторые считали виртличей новой разумной формой жизни, никак не обязанной и независимой от биологических родителей. И выступали за развитие этой цивилизации без оглядки на предков как люди не учитывают интересы обезьян в своем развитии. Дискуссии были так же на тему возможности полета в дальний космос, открывающиеся для виртличей в отличие от людей. Им не страшно время и не нужен кислород с едой в дальние путешествия. При этом виртличи представляют человечество в полной мере в отличие от автоматизированных станций. Пафос докладов походил на первые полеты человека в космос. И конечно, было несколько секций по срочному изменению законодательства стран, а может быть и вердикта ООН, который позволил бы признать юридические права виртличей.

Мне понравилась тема одной секции о том, что с возможностью перехода в бот люди перестают бояться смерти. Это изменяет весь культурно-этический ландшафт, так как тема смерти всегда была ключевой для человечества и являлась основой для религии через воскрешение Христа из мертвых. Теперь концепция переселения души в рай реализована в сети, а заповедь Библии о воскрешении мертвых с пришествием Миссии стала реальностью. Но пока все это сдерживалось тем, что технология была не доступна всем. Хотя это не сдерживало фантазии докладчиков, все понимали, что все зависит от воли компании, логотип которой возвышался над сценой зала пленарных заседаний.

Конференция подходила к концу. Наконец, на заключительном общем заседании профессор предоставил слово Максу, который начал свою речь неожиданно торжественным голосом:

– Технологию, которую мы создали, дала вторую жизнь всем этим личностям. Она совершила революцию в представлениях людей о себе, доказав, что человек – это мыслящее, а не телесное существо. Это технология, которая открыла нам дорогу в вечность и в далекий космос. Учитывая такое значение, я объявлю технологию создания виртличей свободно распространяемой!

В зале образовалась такая тишина, как будто выключили звук в телевизоре. Но в следующий миг раздался грохот кресел под встающими в зале людьми и шум оваций с криками радости.

– Мы откроем код для разработчиков всего мира – продолжал голос Макса с экрана конгресса, прорываясь через шум, – Мы начнем вместе с вами новую эру в истории человечества и сделаем переход в виртуальный мир гражданским правом каждого биологического человека. Отныне человечество бессмертно!

Зал вспыхнул криками и овациями с новой силой, люди стали вставать на кресла, обниматься друг с другом, кидать вверх свои беджи, портфели и блокноты. Так продолжалось минут двадцать, вместо голоса Макса зазвучала какая-то бравурная космическая симфония. Я стоял у края сцены и пока только ощущал, что свершился какой-то грандиозный момент в жизни не только ликующих в зале людей. Это был замысел уже не Макса, а первого живого бота на Земле, только что вошедшего в историю. И у меня было чувство причастности к этому свершению. Впервые я ощущал наполненность смыслом и своего существования, отсутствие которого так мучило меня. Макс взял меня с собой в созданное им будущее.

Эпилог к серии «Иное будущее»

Очевидно, что усилия корпораций так или иначе, скоро или не очень, но приведут к появлению искусственного разума. И речь не о том, что сейчас называется искусственным интеллектом, а о том, что еще не произошло – создание интеллектуальной машины, способной знать о себе и поэтому менять свои способности без участия человека. Этот перелом в ходе эволюции разумной жизни будет самым значительным со времён Христа. Тектонические плиты уже сдвинулись. В рассказах серии "Иное будущее" мной показаны возможные пути зарождения новой разумной жизни в недалеком будущем, котрое может наступить гораздо быстрее. Такая жизнь может возникнуть не только усилиями военного ведомства ведущей державы или могущественной интернет корпорации. Шанс на осуществление имеют и другие варианты, представленные в рассказах серии.

«Разум в сети» – это рассказ о том, что разум может возникнуть в результате автоэволюции в сети как в первичном бульоне кода, который может развиться из вирусов как и жизнь на земле 4 миллиарда лет назад. Только значительно быстрее. Возможность такого исхода нам кажется невероятной, но на самом деле мы просто не знаем, что вероятно в новой реальности сети, а что нет. Сеть живет по своим законам, которые только формируются и нам просто могут быть не известны. Такой разум изначально будет обладать совершенно другой структурой интеллекта, чем биологические люди, некоторые представления о котором переданы в рассказе. И, конечно же, он будет намного совершеннее нас. Настолько, что у нас не будет шансов его даже понять.

«Мозг компании» – это рассказ о том, что реальным ресурсом для создания полностью автономных интеллектуальных систем обладают корпорации и технологически продвинутые коммерческие компании. Они стремятся создать систему принятия решений, заменяющих умственный труд человека, пытаясь «срезать» задачу по короткому пути, то есть не на основе научных исследований, а просто строя решения прагматических задач. Создавая автоматизированные системы ради получения конкурентных преимуществ и сокращения людей, компании не могут пойти на серьезные инвестиции, равные затратам Google или правительств ведущих государств. Но такие компании создают большое количество небольших команд, которые общаются и создают самое большое сообщество исследователей, какое неспособно профинансировать ни одна корпорация. Совместными усилиями такие сообщества могут продвинутся в решении намного дальше корпораций.