Kitabı oxu: «Дневник писателя – Продолжение Выпуск 5. 2026 Г. Лучшая защита от суперинтеллекта – настоящий реализм Достоевского»

Введение

Искусственный интеллект стремительно эволюционирует, разрабатывается равный человеческому общий искусственный интеллект (Artificial general intelligence, AGI), а также суперинтеллект (Artificial Superintelligence, ASI), превосходящий человеческий. Все больше становится ИИ-ассистентов и ИИ-агентов. Сейчас никто не знает, как будет думать этот ИИ, хотя правила рассуждений, которые позволяют решать задачи лучше обычного человека, хорошо известны. Их, в частности, придерживался писатель Федор Михайлович Достоевский.

Сам он называл свой метод рассуждений настоящим реализмом, реализмом в высшем смысле: «Меня зовут психологом: неправда, я лишь реалист в высшем смысле, т. е. изображаю все глубины души человеческой». А вот как он описал свой метод в письме А. Н. Майкову: «Совершенно другие я понятия имею о действительности и реализме, чем наши реалисты и критики. Мой идеализм реальнее ихнего. … А между тем это исконный, настоящий реализм! Это-то и есть реализм, только глубже, а у них мелко плавает. – Ихним реализмом – сотой доли реальных, действительно случившихся фактов не объяснишь. А мы нашим идеализмом пророчили даже факты. Случалось.»

Одна из особенностей реализма Достоевского – стремление рассматривать явления во всей полноте. Особенности такого способа мышления можно понять, исходя из ситуации, описанной в романе «Мастер и Маргарита»: встречи Воланда с редактором толстого художественного журнала и главой литературного объединения МАССАЛИТ Михаилом Берлиозом. Редактор был уверен, что может предсказывать свое будущее, по крайней мере, в краткосрочной перспективе, и, в частности, полагал, что вечером он будет председательствовать на заседании МАССАЛИТа. Но этого не произошло, потому что Аннушка разлила масло на трамвайных путях, Берлиоз подскользнулся, упал, и трамвай отрезал ему голову. Воланд рассказал ему, что произойдет, но Берлиоз не поверил. То есть он не учел важный процесс, который помешал осуществлению его планов.

Воланд и Достоевский делали почти одно и то же – они правильно пророчили факты, но первый не объяснил, как ему это удалось, в то время как Достоевский описал свой метод рассуждений, хотя и не в систематизированном виде, разбросав мысли на этот счет по своим письмам, статьям и даже романам. Воланду судьба человека, в данном случае Берлиоза, была глубоко безразлична, более того, он на самом деле был одним из факторов, который привел к смерти Берлиоза, как и Аннушка с маслом, так как если бы тот не задержался для беседы с Воландом, то и под трамвай бы не попал. А Достоевский стремился предостеречь людей от неприятностей, и свой проект ежемесячного журнала «Дневник писателя» он организовал как раз для того, чтобы описывать те части русской жизни, которые оставались без внимания общества.

Таким образом, по части полноты охвата событий существуют три способа мышления.

Первый: Берлиоз оперирует признанными в обществе знаниями, которые являются неполными и частично ошибочными, и упускает из вида некоторые процессы, которые имеют место в тех явлениях, которые он рассматривает.

Второй: Воланд находит знания, которые касаются тех процессов, которые в какой-либо конкретной ситуации определяют ход и результат события. Но он не стремится использовать данную информацию для предотвращения неприятностей у людей, хотя и предоставляет ее им.

Третий: Достоевский тоже находит подобную информацию, но он стремится предоставить ее людям, объяснив им как он нашел информацию, в чем состоят процессы, которые не замечены, и в чем их опасность.

Эти три способа мышления полностью охватывают все возможные варианты (с точки зрения полноты/неполноты, а также понятности/непонятности для людей). Это значит, что любой способ мышления – человека, обычного ИИ, ASI или AGI будет относиться к одному из трех способов. Современные нейросети думают как Берлиоз – они усвоили некоторые имеющиеся знания, и на их основе делают выводы, не зная, в какой степени они полные.

Разрабатываемый в настоящее время AGI будет думать тоже как Берлиоз, потому что планируется, что он будет равным человеку по умственным способностям. А вот ASI может подняться до уровня Воланда, но не Достоевского, так как разработчики систем ИИ, похоже, сами не очень хорошо понимают, как тот работает. По факту же ASI должен использовать метод Достоевского, так как правила мышления, которые ведут к истине, одни, так как они определяются некоторыми законами природы. Подобно тому, как все яблоки, падающие на землю, подчиняются закону всемирного тяготения Ньютона, хотя каждое яблоко падает по-своему.

Знание этих правил позволит человеку перейти от способа мышления Берлиоза к способу Достоевского, то есть освоить способ рассуждений самого умного будущего ASI. Подобный процесс должен произойти и с ИИ. Собственно, он уже идет, в частности, в данном направлении эволюционирует интеллектуальный поисковик Perplexity, а также нейросеть Илона Маска Grok.

Впрочем, уже сейчас имеющиеся нейросети можно обучить рассуждать в данном режиме – используя правила настоящего реализма Достоевского, что будет показано ниже на примере с нейросетью Алиса AI. И сделать это может любой человек, освоив правила рассуждений Достоевского. Получив такого ИИ-ассистента, человек расширит свои умственные способности по ряду показателей до уровня суперинтеллекта. Что и станет защитой людей от последнего.

То есть, можно сказать, что в ответ на угрозу со стороны суперинтеллекта человечеству предстоит эволюционировать, увеличив свои собственные способности к мышлению, хотя и тоже с помощью ИИ. Это произойдет неизбежно, надо только понять, каким образом, что и попробуем сделать.

Глава 1. Настоящий реализм Достоевского – НРД

1.1 Perplexity не смог преодолеть собственную цензуру

Всего несколько лет назад интеллектуальный поисковик Perplexity совершил революцию, объявив устаревшей модель поиска информации в Google, и предоставив человеку не ссылки, а готовый ответ на вопросы. По словам одного из основателей Perplexity Дениса Яраца, фундаментальной идеей нового подхода было то, что «Благодаря языковым моделям пользователю уже не нужно самостоятельно искать ответ на свой вопрос по ссылкам из поисковой выдачи – он может получить готовый ответ».

Perplexity также претендует на истинность. Денис Ярац в 2024 году в интервью «Forbs» сказал, что «Наша задача – сделать так, чтобы люди полностью доверяли Perplexity, не боялись задавать сложные вопросы, и у них не возникало желания перепроверить информацию в других сервисах».

Поисковик осуществляет некоторые действия, направленные на получение достоверного ответа, в частности, он не полагается на устаревшую информацию, а всегда проверяет свежие данные в интернете, использует разные нейросети, и, кроме того, как заявлено, выбирает релевантную информацию, то есть ту, которая имеет отношение к делу. То есть претендует на компетенции Воланда.

Но свежесть данных не означает их истинность, а чтобы решить, имеет информация отношение к делу или нет, надо уметь отличать ее от всего прочего. Как это делает Perplexity? Он в конечном итоге перекладывает решение данной задачи на пользователя, хотя и пытается установить релевантность используемой информации по формальным признакам, типа использования специализированных баз данных и т. д. Но в конечном итоге пользователь должен сам искать правильный ответ на вопрос.

Правда, Perplexity пытается искать истину, и претендует на то, чтобы предоставлять информацию, свободную от искажений. В начале 2025 года компания выпустила модифицированную версию китайской DeepSeek-R1, из которой удалили цензуру Коммунистической партии Китая. Сделали это посредством обучения модели на реальных диалогах пользователей по 300-м цензурированным темам, после чего по этим темам были обработаны фактически точные ответы, и модель была дообучена. Эту модель представили как свободную от коммунистической цензуры.

Выглядит это на первый взгляд довольно убедительно, однако DeepSeek-R1 не свободна от цензуры вообще, так как неизвестно, насколько релевантными и истинными были рассуждения в реальных диалогах, и кто и как отбирал фактически точные ответы. С чего это вдруг разработчики Perplexity решили, что они в состоянии правильно установить, какой ответ является фактически точным, а какой нет? Конечно, сотрудники компании уверены в своей правоте, но не человек, ни ИИ, который стремится найти истину, так работать не должен – в принципе нельзя никому верить, в том числе себе, любое мнение должно быть подтверждено научными теориями и фактами. И при описании обучения подобной системы необходимо указывать научный метод, по которому отбирались факты и оценивалась истинность мнений.

В интеллектуальном поисковике этого не сделали, то есть по факту просто заменили коммунистическую цензуру на цензуру пользователей и сотрудников Perplexity, осуществлявших дообучение. Может их цензура и лучше, чем у КПК, а может и хуже. В это утверждение я не вкладываю никакого скрытого смысла, и на всякий случай отмечу, что коммунистических взглядов я не придерживаюсь, я сторонник экономических представлений Адама Смита, Джона Стюарта Милля, Достоевского, Торстейна Веблена, Джона Гэлбрейта и подобных им мыслителей.

То есть, критикуя проект DeepSeek-R1, я защищаю не КПК, а научный способ мышления от его возможного искажения в Perplexity.

Разработчики поисковика попали в ловушку так называемой «расхожей мудрости», явления, описанного Джоном Гэлбрейтом в книге «Общество изобилия». Он написал, что «во всем, что касается описания общественных явлений, наблюдается непрекращающееся, нестихающее противоборство между тем, что является истинным, и тем, что считается всего лишь приемлемым». И констатировал печальный результат этой борьбы: «Самая различная публика бурными аплодисментами приветствует именно то, что больше всего ей нравится. И в общественной дискуссии критерий публичного одобрения становится важнее критерия истинности, тем самым оказывая влияние на саму эту дискуссию. Оратор или публицист, намереваясь рассказать всю правду о нелицеприятных и даже шокирующих фактах, неизменно переходит к изложению того, что больше всего публика хочет от него услышать».

Это произошло и с интеллектуальным поисковиком. Его разработчики стремились к правде, а вместо этого представили общественности то, что та хочет услышать и одобрит. В США это, в частности, критика взглядов китайской коммунистической партии. Но насколько эта критика является объективной? Неизвестно. В США принято считать, что является. Ну, принято и принято – вон Берлиоз считал, что вечером он будет на заседании МАССАЛИТа, что для него плохо кончилось.