Kitabı oxu: «От предвидения к власти. Как ИИ-прогнозирование трансформирует экономику и как использовать его силу в своих целях»

Name: От предвидения к власти. Как ИИ-прогнозирование трансформирует экономику и как использовать его силу в своих целях
ISBN: 9785002143818

Ави Голдфарб, Аджай Агравал, Джошуа Ганс

Şrift:

Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав.

This edition published by arrangement with Levine Greenberg Rostan Literary Agency and Synopsis Literary Agency

* * *

Нашим семьям, коллегам, студентам и стартапам, вдохновившим нас всесторонне и глубоко задуматься над искусственным интеллектом.
Спасибо

Предисловие партнера

Кирилл Семенихин, директор Университета Иннополис

Британский словарь английского языка Collins назвал аббревиатуру AI (ИИ, «искусственный интеллект») словом 2023 года не случайно. Частота употребления этого словосочетания в обществе возрастает с пугающей скоростью. И дело не только в распространении больших языковых моделей и расширении доступа к сервисам на их основе. Сегодня ИИ, помимо решения сложных задач, успешно применяется и для постановки самих задач.

В Университете Иннополис мы работаем над медицинскими сервисами для распознавания легочных патологий и рака по медицинским снимкам, ведем проекты по поиску новых материалов и лекарств с заданными свойствами, а также работаем над еще не решенными в мире задачами – такими, как автогенерация кода.

Мы держим в постоянном фокусе практическую пользу технологий ИИ для решения прикладных задач бизнеса: спрос на проекты с применением технологий машинного обучения и компьютерного зрения растет, требования усложняются. Но предсказанного футурологами лавинообразного внедрения технологий ИИ во все сферы нашей жизни мы еще не видим. В ходе собственного исследования о влиянии ИИ на бизнес, которое Университет Иннополис провел в рамках первой международной конференции AI IN 2023, показал, что барьеров все еще немало. Это и нехватка профильных специалистов и их компетенций, и недостаточная зрелость технологий, и высокая стоимость внедрения.

Экономика ИИ – обширная область исследования с отрезвляющими результатами, в которую нас погружают авторы этой работы вместе с экспертами и представителями лидирующих технологических компаний. Эта книга будет полезна всем, так как она повествует не только о применении ИИ для составления прогнозов и цене ошибок, но и о влиянии искусственного интеллекта на частный бизнес и процессы мировой экономики.

Предисловие. Гость издалека?

Когда в 2018 году из печати вышла наша книга «Искусственный интеллект на службе бизнеса. Как машинное прогнозирование помогает принимать решения»¹, нам казалось, что в ней сказано все, что надо знать об экономике искусственного интеллекта (ИИ). Мы ошибались.

Понимая, что развитие технологий не остановится (тогда ИИ находился в зачаточном состоянии), мы считали, что экономика инноваций полностью сформировалась. Технологии изменятся, экономика – нет. Ее основы, актуальные и сегодня, мы описали в издании «Искусственный интеллект на службе бизнеса». Однако в книге изложена лишь часть истории – та, что касалась точечных решений. За прошедшие годы мы обнаружили, что осталась неохваченной другая, не менее важная часть, а именно системные решения. Их-то мы и обсудим. Но почему мы упустили ключевую информацию? Чтобы объяснить это, вернемся в 2017 год, когда мы работали над «Искусственным интеллектом на службе бизнеса».

Тогда прошло уже лет пять с тех пор, как канадские первопроходцы в области ИИ продемонстрировали высочайшую эффективность глубокого обучения для классификации изображений. Новая технология вызвала прямо-таки взрывной интерес. Повсюду говорили об ИИ – высказывались предположения, что именно он выведет Канаду на мировой технологический уровень. Причем считалось, что это просто вопрос времени.

Мы создали научно-исследовательскую стартап-программу ЛСР с направлением, посвященным ИИ. Все спрашивали: «Где, по-вашему, появится первый канадский ИИ-единорог – стартап с миллиардной капитализацией?» Мы ставили на Монреаль. Или Торонто. А возможно, на Эдмонтон.

Ставки делали не только мы, но и канадское правительство; 26 октября 2017 года мы принимали премьер-министра Канады Джастина Трюдо на нашей ежегодной конференции «Машинное обучение и рынок интеллектуальных систем» по ИИ в ЛСР. В своем выступлении он подчеркнул важность инвестирования в кластеры – группы связанных между собой участников (крупных предприятий, стартапов, университетов, инвесторов и талантливых специалистов), объединенных отраслью и расположенных на одной территории. Их сотрудничество дает больший результат, чем в случае, если бы они действовали по отдельности. Это способствует развитию инноваций и созданию рабочих мест. Ключевое условие – территориальная близость участников. Несколько месяцев спустя правительство объявило, что инвестирует крупную сумму в пять новых «суперкластеров», один из них – специализирующийся на ИИ, в Монреале.

Мы не сомневались в своих представлениях о коммерциализации ИИ и считали себя мировыми экспертами в этой области. Мы написали бестселлер по экономике искусственного интеллекта, опубликовали множество научных статей и управленческих докладов на эту тему, были соредакторами книги Economics of Artificial Intelligence: An Agenda («Экономика искусственного интеллекта: актуальная повестка»), которая стала основным пособием для аспирантов по этой теме. Мы разработали программу коммерциализации ИИ, которая, насколько нам известно, привлекла больше профильных компаний, чем другие подобные инициативы. Мы выступали с докладами перед лидерами бизнеса и членами правительств по всему миру, участвовали в работе политических комитетов, целевых групп и круглых столов, связанных с ИИ.

Наша точка зрения, согласно которой ИИ следует рассматривать как инструмент прогнозирования, нашла отклик у практиков.

Нас приглашали выступить в Google, Netflix, Amazon и Microsoft. Руководитель отдела исследований и развития в одном из крупнейших в мире стриминговых музыкальных сервисов Spotify Густав Седерстрём отозвался о нас в интервью: «[Авторы] прекрасно выразили это в своей книге “Искусственный интеллект на службе бизнеса”. Представьте, что точность прогнозирования системы машинного обучения – это ручка громкости на радиоприемнике… [П]овернув ее до определенной точки – и достигнув определенного уровня точности, – вы понимаете: что-то не так. Вы переступаете черту, за которой следует переосмысление бизнес-модели и продукта на основе машинного обучения… С Discover Weekly мы перешли от парадигмы покупки – доставка к парадигме доставка – покупки, как это описано в [вышеупомянутой книге]. Мы достигли такого уровня точности [прогнозирования], что вслед за еще более совершенными инструментами для составления плейлистов начали предлагать пользователям еженедельные подборки, из которых можно было выбирать и сохранять действительно полюбившиеся треки. От “еще более эффективных инструментов для формирования плейлиста” мы совершили переход к концепции “вам больше никогда не придется составлять плейлист”».

Наш подход к разработке в условиях, когда качественное прогнозирование обходится очень дешево, имеет практическое значение и дает представление о стратегии развития ИИ.

Почему же мы были так уверены, что первый ИИ-единорог появится в Монреале, Торонто или Эдмонтоне? Мы общались с двумя недавними лауреатами премии Тьюринга (в сфере компьютерных наук это аналог Нобелевской премии) из Монреаля и Торонто, награжденными за новаторскую работу по глубокому обучению, а также с одним из первопроходцев в области обучения с подкреплением из Эдмонтона. Правительство Канады собиралось щедро профинансировать три новых института, развивающих машинное обучение, – в Монреале, Торонто и Эдмонтоне. Многие мировые корпорации поспешили создать лаборатории ИИ в этих городах: например, Ericsson, Microsoft, Huawei и Samsung в Монреале; Nvidia, LG Electronics, Johnson & Johnson, Roche, Thomson Reuters, Uber и Adobe в Торонто; Google/DeepMind, Amazon, Mitsubishi и IBM в Эдмонтоне.

Поэтому мы небезосновательно считали, что многое знаем о коммерциализации ИИ. Однако и это оказалось ошибкой, причем глубокой. Первый канадский ИИ-единорог появился не в Монреале, Торонто или Эдмонтоне и даже не в городах, занимавших в нашем рейтинге кандидатов вторую строчку, – Ванкувере, Калгари, Ватерлоо или Галифаксе. Но если не в одном из этих технологических центров Канады, то где?

19 ноября 2020 года газета Wall Street Journal опубликовала статью под заголовком «NASDAQ покупает компанию Verafin за 2,75 млрд долларов». Штаб-квартира Verafin находилась в Сент-Джонсе на острове Ньюфаундленд. Мало кто, и уж точно не мы, мог предположить, что первый канадский ИИ-стартап с миллиардной капитализацией появится именно здесь, на северо-восточной оконечности Северной Америки.

Трудно представить более далекое от центра событий место, чем город Сент-Джонс. Ньюфаундленд – самая восточная провинция Канады с населением всего около полумиллиона человек, где никогда не случалось событий, заслуживающих внимания технологического сообщества. Действительно, хотя США граничат с Канадой, многие американцы впервые услышали о Ньюфаундленде только в 2017 году, когда прогремевший бродвейский мюзикл «Гости издалека» (Come from Away) был выдвинут на премию Tony Awards в пяти номинациях. Душевная и полная доброго юмора постановка основана на реальных событиях, произошедших в течение недели после теракта 11 сентября: тридцать восемь самолетов получили приказ приземлиться в Ньюфаундленде, и местные жители сердечно приняли семь тысяч пассажиров. Именно в этом небольшом городе Брендан Бразерс, Джейми Кинг и Рэймонд Претти основали компанию Verafin, которая впоследствии предоставила решения для борьбы с киберпреступлениями трем тысячам финансовых учреждений в Северной Америке. Как мы могли это упустить? Была ли это чистая случайность? Игра судьбы? Что ж, как известно, все крепки задним умом. Эксперты тоже время от времени ошибаются. Иногда случается маловероятное.

NASDAQ приобрела не что иное, как искусственный интеллект. Verafin вложила значительные средства в создание инструментов, позволяющих выявлять случаи мошенничества, отмывания денег и подтверждать личность клиентов банка. Для финансовых организаций это критично с точки зрения деятельности в целом и соблюдения регламентов в частности. В основе таких программных решений – анализ больших данных, которые наиболее объемны именно у банков и кредитных кооперативов.

При зрелом размышлении лидерство финтеха Verafin уже не кажется случайным. Оно было неизбежным. Сосредоточившись на возможностях инструментов прогнозирования, мы не учли вероятности их реального коммерческого использования. Увлекшись экономическими последствиями собственно внедрения ИИ – снижением стоимости прогнозирования, мы недооценили экономические последствия, к которым приведет создание новых систем со встроенным ИИ.

Вместо того чтобы оценивать производство самых современных моделей машинного обучения, нам стоило обратить внимание на приложения, ориентированные на устранение проблем прогнозирования. Такие приложения встраиваются в системы, которые работают на базе машинного прогнозирования, но так, что не вытесняют человеческий труд. Нам следовало обратить внимание на компании, которые интегрировали предиктивную аналитику в рабочий процесс и располагают большим штатом специалистов, анализирующих данные. И тогда мы бы сразу выяснили, что большинство таких организаций – финансовые, где целые отделы аналитиков прогнозируют мошенничество, отмывание денег, нарушение санкций и другие преступные действия. Затем мы поискали бы небольшие компании, использующие последние достижения в области ИИ для решения этих проблем. И тогда мы бы узнали, что в Канаде на тот момент всего несколько подобных компаний – и одна из них Verafin, со штаб-квартирой в Сент-Джонсе (Ньюфаундленд).

Настало время вернуться назад и подумать об экономике ИИ. Подход Verafin весьма напоминал сценарий, описанный в книге «Искусственный интеллект на службе бизнеса». В этом не было ничего удивительного. Менее очевидны причины, по которым многие другие приложения требуют гораздо больше времени для масштабного развертывания. Стало явно, что необходимо учитывать экономику не только самой технологии, но и систем, в которых она задействована. Мы должны понять, почему ИИ быстро внедрялся для автоматического обнаружения мошенничества в банковской сфере и рекомендаций товаров в электронной коммерции и медленно – для автоматического андеррайтинга в страховании и поиска лекарств в фармацевтике. Наша задача – разобраться, какие экономические силы к этому привели.

Не только мы недооценивали сложности внедрения ИИ в существующие организационные структуры. Наш коллега из Университета Торонто Джеффри Хинтон, получивший прозвище Крестный Отец ИИ за свою новаторскую работу в области глубокого обучения, в своих прогнозах, возможно, также недооценивал трудности внедрения. Ранее он говорил: «Если вы, например, рентгенолог, то сейчас вы в положении койота, который уже добрался до края обрыва, но еще не посмотрел вниз и не понял, что дальше земли нет. Сейчас уже нет смысла обучать этой специальности. Совершенно очевидно, что в течение пяти лет глубокое обучение будет работать лучше, чем люди». Он был прав в том, что касается темпов технического прогресса: сегодня ИИ превосходит рентгенологов в широком спектре диагностических задач. Однако спустя пять лет после его высказывания Американский колледж рентгенологии сообщает, что число желающих освоить эту специальность не уменьшилось.

На каком-то этапе мы осознали, что переживаем уникальный момент в истории – «междувременье»: потенциал ИИ уже очевиден, но он еще не получил широкого распространения. В некоторых случаях внедрение инноваций представляет собой точечные решения. Они прямолинейны. Где-то применение ИИ сводится к простой замене старой машинной предиктивной аналитики на более новые инструменты (это происходит быстро – например, как в Verafin). Но где-то надо перестроить продукт или услуги, а также производящую их компанию, чтобы полностью реализовать преимущества ИИ и оправдать затраты на его использование. В таком случае бизнес и власти стремятся найти выгодный путь.

Мы сместили акцент с исследования нейронных сетей на изучение человеческого познания (как мы принимаем решения), социального поведения (почему в одних отраслях люди стремятся быстро освоить ИИ, а в других – сопротивляются), производственных систем (как одни решения зависят от других) и отраслевых структур (как мы скрываем некоторые решения, чтобы оградить себя от неопределенности).

Чтобы разобраться в этом, мы встречались с руководителями компаний, менеджерами по продуктам, предпринимателями, инвесторами, специалистами по обработке данных и учеными, внедряющими ИИ. Мы проводили семинары и конференции с участием экспертов и политиков, а также внимательно изучали, что работает, а что нет в сотнях финансируемых венчурными фондами стартапов в области ИИ.

Конечно, мы обратились к базовым принципам экономики в эмпирических исследованиях экономики ИИ – эта сфера бурно развивается, хотя едва ли существовала всего несколькими годами ранее, когда была написана книга «Искусственный интеллект на службе бизнеса». Мы начали аккумулировать собранную информацию и формировать экономическую концепцию, в которой различались бы точечные и системные решения. Она помогла бы не только объяснить парадокс Verafin, но и спрогнозировать следующую волну внедрения ИИ. Фокус на системных, а не на точечных решениях помогает объяснить, как эта технология в итоге охватит все отрасли, укрепив позиции одних компаний и ослабив другие. Пришло время написать еще одну книгу. Именно ее вы держите в руках.

Часть I. Межвременье

Глава 1. Притча о трех типах предпринимателей

Электричество изменило наше общество. Оно повлияло на образ жизни человека: мы получаем недорогое и безопасное освещение, стоит щелкнуть выключателем, а холодильники, стиральные машины, пылесосы и другие приборы значительно облегчают быт. Оно повлияло и на рабочие места, вдохнув новую жизнь в промышленные предприятия. Что потребовалось для этих коренных изменений? Время.

Электричество настолько распространено, что трудно представить мир без него, а ведь на рубеже ХIХ и XX веков, через два десятилетия после изобретения лампы накаливания, его не было практически нигде. В 1879 году Эдисон продемонстрировал усовершенствованную им электрическую лампочку, а всего через несколько лет запустил электростанцию Pearl Street Station на Манхэттене и осветил улицы. Однако двадцать лет спустя всего 3 % американских домохозяйств и едва ли большая доля фабрик были обеспечены электричеством (см. рис. 1.1). Еще через два десятилетия в домохозяйствах этот показатель вырос до 50 %. Период межвременья для электричества занял сорок лет.

Рис. 1.1. Распространение электричества в США

Источник: Paul A. David, Computer and Dynamo: The Modern Productivity Paradox in a Not-Too-Distant Mirror (working paper #339, Stanford University, Department of Economics, 1989), twerp339.pdf (warwick.ac.uk).

Тогда энтузиазма по его поводу было много, а реальных результатов мало. Сегодня, когда появляются новые радикальные технологии, мы склонны забывать об этом опыте. Свет зажегся, но перемены происходили постепенно. И свет ИИ зажегся тоже. Но впереди еще много работы. Сейчас мы находимся в своего рода межвременье: нам уже известны возможности технологии, но ее потенциал пока полностью не реализован – она не внедряется повсеместно. Будущее ИИ пока неопределенно. Но мы уже наблюдали подобную картину с электричеством. Поэтому, чтобы понять проблемы, стоящие перед коммерциализацией ИИ, поставьте себя на место предпринимателей 1880-х годов. Электричество – это будущее. Но как в него попасть?

Поставщики точечных решений

Во второй половине XIX века экономику двигала энергия пара. Уголь использовался для нагрева воды, в результате вырабатывалась энергия, приводившая в движение рычаги, шкивы и ремни, а они, в свою очередь, запускали промышленные станки. По общему мнению, именно пар стал движущей силой экономической революции – крупнейшей со времен аграрного переворота. Поэтому предпринимателю, желающему зарабатывать на электричестве, сначала приходилось убеждать потенциальных покупателей в недостатках пара как источника энергии.

При сравнении преимущества электроэнергии очевидны. Пар рассеивал тепло – в этом и был смысл, но значительная его часть уходила впустую. От 30 до 85 % энергетического потенциала терялось из-за конденсата, негерметичности клапанов и трения при использовании вала и ремней для передачи энергии к станкам. Система центрального вала выглядит довольно громоздкой. Представьте источник паровой энергии, вращающий длинный трехдюймовый вал из железа или стали, который, в свою очередь, приводит в движение ремни и шкивы. Иногда валы располагались горизонтально, но на некоторых фабриках – вертикально, проходя через несколько этажей. Один такой вал мог приводить в действие сотни ткацких станков.

Самое простое применение электричества состояло в том, чтобы оно приводило вал в движение вместо пара. Бывший сотрудник компании Edison Фрэнк Спрейг оценил эту возможность и в 1886 году разработал один из первых электродвигателей. Эдисон сосредоточился на освещении, а Спрейг вовремя понял, что днем электроэнергия будет дешевой и ее можно использовать для питания моторов. Его идеи нашли применение в электрификации трамваев и строительных лифтов. Другие изобретатели внедряли электродвигатели на заводах.

Поскольку пар просто заменяли на новый источник энергии – электричество, мы называем такие решения точечными. Внедрявшие их предприниматели конца XIX века определили две группы потребителей, готовых к изменениям. К первой относились крупные предприятия с паровыми машинами. Так, в 1893 году текстильная фабрика в городе Колумбия (штат Южная Каролина) стала первой, работающей исключительно на электричестве. Энергия здесь обходилась дешевле, чем в других регионах США: ее производили турбины на Колумбийском канале, и многокилометровая проводная линия не требовалась. Другую группу составили мануфактуры, производящие одежду и ткани. Пар недостаточно чистый, и при его использовании энергия генерируется неравномерно, могут возникать перепады. Электричество позволило сгладить эти недостатки.

Поставщики точечных решений обещали снизить затраты и обеспечить некоторым фабрикантам специфические преимущества. Сразу было ясно, что это решения, готовые к использованию. Но во многих случаях их все равно было трудно продать. За счет смены источника питания можно лишь незначительно снизить издержки на электроэнергию. Но такие решения не позволяли наращивать мощность.

Поставщики прикладных решений

Если паровая машина запущена, произвольно ее уже не остановить. Чтобы станок начал работать, надо присоединить его к валу через систему рычагов, а чтобы перестал – наоборот, отсоединить. Электрический двигатель позволяет включать и выключать станки по мере необходимости, что делает их более простыми в управлении и менее требовательными к обслуживанию. Однако это означает, что количество потребляемой заводом электроэнергии зависит от условий эксплуатации. Как отмечает историк экономики Натан Розенберг, наступила эра «дискретной энергетики», когда «стало возможным предоставлять электроэнергию маленькими и более дешевыми порциями, что предотвращало ее избыточную выработку».

С точки зрения предпринимателя, ценность электричества заключалась в том, что оно сокращало потребность в энергии и вырабатывалось только тогда, когда нужно. Исходя из этого, происходили некоторые изменения в технической базе предприятий: например, для различных типов станков предусматривались различные источники питания; некоторые инженеры начали задумываться об установке электродвигателей на каждый станок. Даже если группа станков питалась от одного источника, это было очень выгодно: за электроэнергию приходилось платить, только когда оборудование работало.

Установка электропривода на каждый станок стала большим шагом вперед. В наши дни такое решение назвали бы прикладным. Вместо того чтобы просто поменять источник питания, модифицировалось все устройство (то есть приложение в современных реалиях). Более того, некоторые машины существенно уменьшились в размерах. Станки больше не крепились к центральному валу, а значит, их можно было перемещать. Не работа приходила к станкам, а станки перемещались туда, где в них была необходимость.

Однако все это в идеале. На деле же оказалось, что любой отдельно взятый станок, например сверлильный, металлорежущий или прессовый, надо полностью перепроектировать, чтобы использовать преимущества индивидуального электрического двигателя. Более того, двигатель тоже должен быть адаптирован к конкретной машине или варианту использования. Возможностей использования электроэнергии было много, но сами устройства еще предстояло разработать. К тому же внедрение одного станка с собственным двигателем снижало ценность любого мотора, питающего другие станки. Очевидно, оптимальный баланс достижим, если перепроектировать многие станки. Однако это означает создание новой системы, что требует времени.

Поставщики системных решений

Во времена Промышленной революции фабрики строились в расчете на использование энергии пара, которая, как мы уже знаем, вращала центральный вал, а он, в свою очередь, запускал отдельные станки через систему ремней и шкивов. С нынешней точки зрения это была одна большая машина, в которой рабочие служили всего лишь шестеренками. Глобально она представляла собой конструкцию, в которой сотни движущихся частей подключались к одному источнику энергии. Внедрение электричества не изменило ситуацию. Но появление новых устройств заставило некоторых предпринимателей переосмыслить саму концепцию предприятия. Предположим, что нет ни центральных валов, ни даже валов, предназначенных для отдельных групп машин. Как будет выглядеть фабрика, которую спроектировали с нуля, исходя из знаний о свойствах электричества?

Фабрики были устроены так, чтобы станки размещались ближе к источнику энергии. Это оправдывало вертикальную конструкцию с расположенными друг над другом цехами. Однако тесные многоэтажные фабрики конца 1800-х годов имели множество недостатков с точки зрения условий труда, безопасности и производительности оборудования. Электрификация избавляла от необходимости втискивать производство в небольшое помещение.

Более предприимчивые менеджеры поняли: истинная ценность электроэнергии в том, что на ее основе возможно предложить системное решение, которое в полной мере использовало бы ее потенциал. Под системой мы понимаем набор процедур, которые в совокупности обеспечивают выполнение того или иного действия.

Вспомните пространственную экономику на фабрике, использующей силу пара. Самое ценное пространство в цехе – возле центрального вала. Рядом с ним выполнялись производственные операции, а все остальное складировалось и убиралось как можно дальше. Это означало, что детали, материалы и так далее перемещались туда-сюда в зависимости от потребностей в энергии.

Электричество уравняло разные зоны помещения в их экономической ценности и позволило использовать пространство гибко. Теперь можно было расположить оборудование в линию, чтобы сократить расстояние, на которое перемещаются детали в процессе обработки. Изобретенный Генри Фордом конвейер для сборки автомобиля Model T не смог бы работать на паровой энергии. Такая возможность появилась только благодаря электричеству, причем спустя десятилетия после демонстрации его коммерческих перспектив. Да, Форд производил автомобили. Но в значительной степени он был поставщиком системного решения, которое изменило промышленный ландшафт. Только после этого стало очевидно колоссальное влияние электрификации на производительность труда.

Поставщики решений на основе ИИ

Из истории промышленности можно извлечь три урока. Во-первых, чтобы значительно повысить производительность, надо понять, что предлагает новая технология. Предприниматель, делавший ставку на электричество в 1890 году, сосредоточился бы на «экономии затрат на топливо» как на ключевом ценностном предложении. Но электричество – это не просто более дешевая замена парового двигателя. Его истинная ценность заключалась в том, что оно позволяло отделить использование энергии от ее источника. Это освободило промышленников от ограничений, связанных с размещением оборудования, что привело к целому ряду усовершенствований в планировке фабрик и рабочих процессов. Предпринимателю, предлагавшему перейти на электричество в 1920 году, следовало понимать, что ключевое ценностное предложение – это не «экономия затрат на топливо», а «создание гораздо более эффективной организации производства». Такую же картину мы ожидаем увидеть и с ИИ. Как мы уже отмечали, первоначально предлагавшиеся предпринимательские возможности были связаны с точечными решениями: так, компания Verafin заменила один способ прогнозирования другим – более качественным, быстрым и дешевым.

Нам также известны прикладные решения, требующие перепроектирования устройств или продуктов. Таковы роботы или приложения на ваших гаджетах, реализованные на основе ИИ. Например, камера смартфона, распознающая ваше лицо, сконструирована определенным образом. К ней прилагается аппаратное обеспечение для защиты передаваемой информации. Пожалуй, наиболее заметно к инновациям такого рода подтолкнуло вложение миллиардов долларов в разработку и запуск автомобилей, которые могли бы самостоятельно передвигаться в существующих дорожных условиях. Хотя внешне они ничем не отличаются от обычных автомобилей, их внутреннее устройство существенно изменено и включает датчики, средства бортовой обработки данных и последующего управления машиной.

В будущем мы увидим множество высокоэффективных системных решений на основе ИИ. В этой книге мы рассмотрим как возможности, так и проблемы, связанные с их реализацией.

Во-вторых, осознав, в чем состоит ценностное предложение ИИ, следует поставить довольно очевидный, но при этом трудноразрешимый вопрос. Как бы мы подошли к разработке наших продуктов, услуг или предприятий с нуля с учетом уже имеющихся знаний об ИИ? Многоэтажные фабричные корпуса возникли не в традиционных отраслях, а в тех, что появились в 1900-х годах, то есть были новыми на тот момент. Это табачная промышленность, производство металлоизделий, транспортного оборудования и, собственно, электрооборудования. История повторяется в наши дни: ориентированные на ИИ системы прежде всего складываются в инновационных цифровых отраслях современной экономики: в поиске, электронной коммерции, стриминговом контенте и социальных сетях.

В отношении ИИ мы можем задать те же два вопроса. Первый: что на самом деле дает нам ИИ? Второй: если мы создаем бизнес с нуля, то какие процессы и модели следует внедрить? Если электричество позволяло не просто «снизить стоимость энергии», а «гораздо эффективнее организовать производство», то, возможно, ИИ тоже позволяет не «снизить стоимость прогнозирования», а «гораздо эффективнее создавать продукты, услуги и организации». Основное преимущество электричества заключалось в том, что оно отделяло использование энергии от ее источника, а это способствовало инновациям в планировке фабрик. Основное преимущество ИИ в том, что он отделяет прогнозирование от остального процесса принятия решений, а это помогает переосмыслить взаимодействие решений и тем самым способствует инновациям в организационном проектировании. Мы утверждаем, что, отделяя прогнозирование от других аспектов принятия решения и передавая его машине, ИИ позволяет внедрять инновации на системном уровне. В таких системах ключевой структурный элемент – это решения, а ИИ совершенствует процесс их принятия.

В-третьих, различные типы решений предоставляют разные возможности для получения власти на рынках. Предприниматели получают прибыль, создавая и присваивая ценность. В случае точечных решений проблема состоит в том, что создается относительно небольшая ценность. Электричество заменяло паровые двигатели, которые уже широко применялись. Заместить одно другим было не так просто, а если и удавалось, то ценностное предложение для потребителя заключалось в уменьшении счета за энергию. Другими словами, поставщики точечных решений получают устойчивую прибыль благодаря тому, что лучше других реализуют эти решения, что и продемонстрировала Verafin. Но это в лучшем случае.

По мере перехода к прикладным, а затем системным решениям создаваемая предпринимателями ценность получает все более надежную защиту. Чтобы обезопасить продукт от конкурентов, следует оформить патент или использовать другие средства охраны интеллектуальной собственности. Однако в случае с системными решениями возможностей защиты еще больше. В эпоху электричества по большей части сами владельцы предприятий заботились о том, чтобы обустроить производство по-новому. Они создавали в своей отрасли ноу-хау, благодаря чему завоевывали рынок и ограждали себя от конкуренции. Планировку завода может видеть каждый, но процедуры, компетенции и обучение, лежащие в основе организации рабочих процессов, не так очевидны, и воспроизвести их довольно трудно. Более того, новые системные решения обеспечивают масштабирование.

Взрывная сила и власть ИИ

Потребовались десятилетия, чтобы электричество зарекомендовало себя как подрывная инновация. В течение первых двух десятилетий своего существования оно точечно использовалось на некоторых предприятиях, для освещения улиц и в других областях. Но оно изменило экономику, только когда появились новые системные решения. Трансформация оказалась глубокой, и власть получили те, кто контролировал выработку электроэнергии и электросети, а также те, кто сумел использовать электричество в массовом производстве. После этого уже не интересно было выпускать ремни и шкивы или владеть промышленными площадями в центре города.

То же самое происходит с искусственным интеллектом. Перераспределение экономической власти, в результате которого контроль над дефицитными ресурсами и активами переходит от одной группы людей к другой, сопровождается возможностью оградить бизнес от конкурентного давления. Безусловно, у ИИ есть для этого потенциал, но он изменит отрасли и распределение сил в них, то есть станет подрывной инновацией, лишь при наличии новых систем. Их трудно разработать, а также, как мы увидим, трудно скопировать по причине высокой сложности. Это является преимуществом для тех, кто способен их создавать.

Однако при этом сохраняется значительная неопределенность. Остается открытым вопрос о том, кто получит влияние благодаря технологиям на основе ИИ. Все зависит от того, как будут выглядеть новые системы. Наша задача – помощь в прогнозировании: кто приобретет, а кто потеряет власть по мере развития и внедрения систем ИИ.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Наша притча о трех типах предпринимателей, посвященная энергетическому рынку более чем столетней давности, иллюстрирует, как на основе одного и того же технологического сдвига – от пара к электричеству – формируются различные ценностные предложения: точечные решения (стоимость энергии снижается, а потери из-за трения сокращаются, но организация производства не меняется); прикладные решения (индивидуальные электроприводы на каждом станке обеспечивают им автономность, так что остановка одного не влияет на работу других; при этом организация производственной деятельности остается прежней); системные решения (перепроектирование заводов – облегченная одноэтажная конструкция зданий, рабочие процессы оптимизированы с точки зрения пространственной планировки и перемещения рабочих и материалов).

• Одни ценностные предложения привлекательнее других. В случае с электричеством точечные и прикладные решения, основанные на прямой замене пара электричеством без модификации системы, имели ограниченную ценность. Поэтому изначально инновация внедрялась медленно. Со временем некоторые предприниматели сумели предложить решения на системном уровне благодаря тому, что электричество обеспечивало автономную работу станков – при использовании пара это было невозможно или слишком дорого. Во многих случаях для системных решений стоимость была значительно выше, чем для точечных.

• Электричество позволило отделить машину от источника энергии и тем самым сместить ценностное предложение от «более низкой стоимости топлива» к «гораздо более производительной организации производства». Точно так же ИИ позволяет отделить прогнозирование от других аспектов принятия решения и тем самым сместить ценностное предложение от «более низкой стоимости прогнозирования» к «гораздо более эффективному процессу принятия решения».

Глава 2. Будущее систем ИИ

В 2017 году мероприятия, посвященные ИИ, проходили одно за другим. На них собирались представители бизнеса, правительств и академических кругов. Мы осознавали, что ИИ способен трансформировать экономику, и решили, что это перспективная тема для дискуссии лучших мировых ученых. Чтобы определить перечень приоритетных исследований, мы организовали в Торонто конференцию по ИИ. К нашему удивлению, мы без труда привлекли множество участников. Среди них был Пол Милгром из Стэнфордского университета, который впоследствии стал лауреатом Нобелевской премии за усовершенствование теории аукционов. «Я хорошо помню, как в 1990 году NSF² предложил обсудить экономику интернета, – написал он нам, – а я был слишком занят теорией принципала-агента, экономикой фирмы и супермодулярностью и потому отказался. И зря! На этот раз никаких оправданий. Да, я буду у вас».

Некоторые участники конференции оптимистично оценивали перспективы ИИ. Еще один нобелевский лауреат, Даниэль Канеман, сказал: «Думаю, в мире не слишком много того, что в итоге не смогут сделать компьютеры». Бетси Стивенсон, работавшая в Совете экономических консультантов при президенте Обаме, так резюмировала подобные настроения: «Очевидно, коллеги считают, что искусственный интеллект открывает возможности для того, чтобы получить существенную экономическую выгоду».

Однако среди собравшихся были и скептики. Лауреат Нобелевской премии Джозеф Стиглиц разделял мнение, что развитие ИИ способно усугубить неравенство. Тайлер Коуэн, экономист и бывший обозреватель The New York Times, опасался, что из-за производительности ИИ увеличится дефицит материальных ресурсов. Мануэль Трахтенберг из Израиля, часть своей карьеры посвятивший политике, отметил, что долгосрочные преимущества технологии не имеют значения, если растущее сопротивление автоматизации и распространенное мнение о ее влиянии на рабочие места приведут к революции.

Особенно интересен тезис о том, что ИИ, похоже, вообще не оказывает большого влияния на экономику. Экономисты Эрик Бриньолфсон, Дэниел Рок и Чад Сайверсон отмечают:

Мы живем в эпоху парадоксов. Все больше областей, где системы на основе ИИ соответствуют человеческому уровню или превосходят его, опираясь на стремительный прогресс в других технологиях и способствуя стремительному росту цен на акции. При этом зафиксированный в последнее десятилетие рост производительности труда сократился вдвое, а реальные доходы большинства американцев с конца 1990-х годов стагнируют.

Для тех, кто изучает историю развития технологий, это не беспрецедентный парадокс (как мы убедились на примере электричества). В 1987 году Роберт Солоу из Массачусетского технологического института произнес знаменитую фразу о том, что «компьютерный век наступил везде, но только не в статистике производительности труда». Компьютеры были повсюду, но к заметному повышению результативности труда это не привело, причем во всех секторах экономики. Специалисты задались вопросом: что происходит, когда появляются «технологии общего назначения» – то есть такие, которые обеспечивают устойчивый рост производительности в широком спектре отраслей? К технологиям общего назначения относятся паровой двигатель и электричество, а в более поздние времена – полупроводники и интернет. По мнению участников нашей конференции, ИИ выглядел вполне вероятным кандидатом на включение в этот список. Чего же нам следует ожидать? Да, исторически такие технологии в итоге трансформировали экономику, бизнес и рабочие процессы, но что происходило в течение десятилетий до наступления этого момента – в межвременье?

Системные инновации для ИИ

Генеральный директор Google Сундар Пичаи заявил, что «ИИ – это, пожалуй, самое важное, над чем когда-либо работало человечество. Я думаю о нем как о чем-то более глубоком, чем электричество». Google уже получила выгоду от ИИ, но многим компаниям это не удалось. В исследовании, проведенном в 2020 году журналом Sloan Management Review Массачусетского технологического института и глобальной консалтинговой компанией BCG, говорится, что только 11 % организаций сообщили о значительных финансовых результатах от использования ИИ. И это не значит, что остальные не пытались добиться успеха. Представители 59 % компаний заявили, что у них есть стратегия в области ИИ, а в 57 % организаций внедрялись или были опробированы соответствующие решения.

Пионер ИИ Эндрю Ын, основатель проекта Google Brain и ведущий научный сотрудник компании Baidu, заявил, что «ИИ – это новое электричество. Он способен изменить любую отрасль и создать огромную экономическую ценность». У ИИ не меньший потенциал трансформации, чем у электричества, но если верить истории, то путь к изменениям будет долгим и ухабистым.

Пример с электричеством показывает, что нет никакого несоответствия между оптимизмом в отношении будущего ИИ и разочарованием в уже достигнутых результатах. Бриньолфсон, Рок и Сайверсон обратили внимание на этот парадокс эпохи. Следовало ожидать, что оптимизм в отношении будущего будет сосуществовать с разочарованием в том, что мы имеем сегодня. Действительно, есть веские глубинные причины ожидать таких противоречий, когда экономика переживает реструктуризацию, связанную с трансформационными технологиями.

На первом этапе внедрения электричества лампочки заменили свечи, а электродвигатели – паровые машины. Это были точечные решения, не требующие переворота в экономике.

ИИ находится в такой же ситуации. Он применяется как новый инструмент для предиктивной аналитики. Лишь немногие компании получают выгоду от улучшения прогнозирования – например, Verafin. Это те самые 11 % организаций, которые уже достигли финансовых результатов с помощью ИИ. Они и прежде занимались прогнозированием, но теперь делают это точнее, быстрее и с меньшими затратами. Точечные решения для ИИ находятся буквально под рукой и уже вовсю применяются.

Истинный потенциал электричества был реализован, только когда удалось понять и использовать преимущества распределенной генерации. Точно так же потенциал ИИ раскроется, только когда получится в полной мере задействовать его возможности в области прогнозирования. Для нас это означает, что прогнозирование играет важную роль в принятии решений. Мы покажем, что во многих случаях изменения будут настолько значительными, что потребуют от компаний перестроить всю систему принятия решений и обеспечивающие ее процессы. Только в этом случае внедрение ИИ станет действительно реальным.

Мы находимся в межвременье: колоссальный потенциал ИИ уже очевиден, но его трансформирующее воздействие на экономику еще не началось. Verafin входит в те 11 % крупных корпораций, которые добились успеха при внедрении ИИ. Их прогнозы вписались в существующую систему, а бизнес-процессы и организация труда оказались к этому приспособлены, так что значительных нововведений не потребовалось. Остальные 89 % компаний еще не готовы. Перспективы понятны, но как их реализовать, пока неясно. Необходимо найти способ использовать машинные прогнозы для повышения эффективности работы, то есть для принятия более эффективных решений. Благодаря ИИ люди смогут делать больше, поскольку будут принимать лучшие решения. Речь идет не только о технических аспектах прогнозирования (сборе данных, построении моделей, генерации прогнозов), но и об организационных – создании условий, позволяющих людям принимать правильные решения в нужное время. А стратегическая задача состоит в том, чтобы определить, что можно сделать по-другому после получения более качественной информации.

Первый этап

Для межвременья характерны энтузиазм и успех точечных решений, но при этом ИИ все еще остается нишевой технологией. Тем не менее уже проводятся эксперименты и существуют прикладные разработки, в основном специфические. Они позволяют улучшить имеющиеся продукты, например телефоны или системы безопасности автомобиля. Бюро переписи населения США выяснило, используют ли компании ИИ. В опросе участвовали представители более 300 тыс. организаций. Из тех, кто ответил положительно, большинство подчеркивали, что применяют ИИ для автоматизации и улучшения процессов. Другими словами, внедряются точечные и прикладные, но не системные решения. Соответственно, ИИ довольно скромно влияет на производительность труда. Анализ существующих рабочих процессов и участков, которыми ИИ может заменить человека, приносит значимую дополнительную ценность, но широких возможностей не открывает.

В период межвременья предприниматели и менеджеры борются за то, чтобы реализация прикладных решений стала экономически оправданной. Как отмечает Натан Розенберг, «многочисленные неудачи объясняются тем, что предприниматель не учел взаимосвязь между технологией, поглощавшей все его внимание, и остальными аспектами бизнеса как целостной системы».

Настоящая трансформация произойдет, только если сосредоточиться на системных решениях. Они поднимут внедрение ИИ на уровень экономики в целом и создадут импульс для его дальнейшего прикладного применения. При таком потенциале масштабирования и последующих инноваций ИИ станет экономически выгодным.

Учитывая важность этих решений, необходимо четко объяснить, что имеется в виду. Итак, давайте определимся с понятиями:

• Точечное решение улучшает существующую процедуру. Его можно внедрить независимо от прочих решений и без изменения системы, в которую оно встроено.

• Прикладное решение создает новую процедуру. Ее можно реализовать независимо от прочих процессов и без изменения системы, в которой она функционирует.

• Системное решение позволяет усовершенствовать существующие или создать новые процедуры и при этом изменить связанные с ними процессы.

Обратите внимание: оборот «независимо от (прочих)» встречается в определениях точечного и прикладного решений, но применительно к системному не употребляется. Представьте, что какую-либо существующую или новую процедуру можно усовершенствовать с помощью новой технологии. Если рост создаваемой ценности превышает затраты на разработку и внедрение этого решения, то оно экономически целесообразно – причем неважно, изменится ли что-то еще. Однако предположим, что выгода от инновации слишком мала и может быть увеличена только за счет изменения других процедур. Тогда внедрять ее в индивидуальном порядке, без сопутствующих изменений, будет экономически неоправданно. Потребуется совершенствование сразу нескольких процедур.

Мы уже говорили о том, что некоторые фабрики легко заменили энергию пара электрической. Это точечное решение. Кроме того, электрические двигатели использовались в существовавших производственных системах. Это прикладное решение. Однако во многих случаях для того, чтобы получить реальную экономическую выгоду, надо было перепроектировать предприятия, а также разворачивать централизованные электрические линии и сети. Другими словами, при системном подходе электричество – это не просто новый источник энергии, а спектр новых возможностей, которые открываются при его использовании.

В следующей главе мы вернемся к теме, затронутой в книге «Искусственный интеллект на службе бизнеса», – к тому, что достижения современного ИИ, по сути, представляют собой усовершенствованные технологии прогнозирования. Более того, прогнозы ценны только как исходные данные, на основе которых принимаются решения. Таким образом, давайте скорректируем определения, приведенные выше.

ТОЧЕЧНОЕ РЕШЕНИЕ НА ОСНОВЕ ИИ: прогноз ценен, если позволяет улучшить принятое без его учета управленческое решение, не зависящее от прочих.

ПРИКЛАДНОЕ РЕШЕНИЕ НА ОСНОВЕ ИИ: прогноз ценен, если позволяет принять отличное от имеющегося управленческое решение или изменить процедуру его принятия, причем независимо от прочих.

СИСТЕМНОЕ РЕШЕНИЕ НА ОСНОВЕ ИИ: прогноз ценен, если улучшает существующие или позволяет принимать более эффективные управленческие решения при условии, что будут реализованы изменения в способах принятия прочих решений.

Если в других случаях мы можем прибегнуть к ретроспективному анализу и точно определить, что было независимым, а что зависимым, то в случае ИИ нам еще предстоит это выяснить. Наша книга – о том, как это сделать.

Подрывной характер системных изменений

Если верить истории, то активнее всего ИИ должен внедряться на этапе системных изменений. Однако такие изменения будут подрывными по своему характеру: заставят пересмотреть роли многих людей и компаний в отраслях и одновременно перераспределить влияние. То есть, вероятно, появятся экономические победители и проигравшие, особенно если трансформация происходит относительно быстро.

Давайте для наглядности рассмотрим прогнозирование в земледелии. В этой отрасли механизация резко сократила занятость. Однако управление, независимо от масштабов хозяйства, по-прежнему сосредоточено в руках человека – настолько, что многие фермы остаются в частной собственности. Принимая решение, фермеры учитывают прогноз погоды, но состояние земельного надела уникальным образом связано с их собственными навыками в прогнозировании и принятии решений в целом.

Однако время идет, и ситуация меняется. Земледелие зависит от погодных условий, но также, что критически важно, от выращиваемых культур и характеристик почвы. Из этих дополнительных рисков исходил Дэвид Фридберг, когда первым предложил американским фермерам индивидуальное онлайн-страхование от погодных условий. Правительство США располагало информацией не только о погоде, но и о составе почвы 29 млн полей (на основании инфракрасных спутниковых снимков). Это позволило Фридбергу рассчитать влияние погодных условий на отдельные земли или сельскохозяйственную культуру.

Фридберг основал компанию Climate Corporation для продажи страховки, но вскоре обнаружил, что не менее, чем в страховке, фермеры заинтересованы в том, что он может сообщить им об их собственных полях:

От него [Фридберга] фермер мог узнать о влажности почвы на данный момент и о том, какое превышение уровня влаги будет губительным. Можно было получить информацию о температуре и ежедневном количестве осадков. Вероятно, вы скажете, что фермер и так это знает, но что, если у него двадцать или тридцать полей, расположенных в разных округах? Точная стадия роста определенной культуры, лучшие моменты для удобрения земли, оптимальный период для сева и идеальная дата сбора урожая – Фридберг располагал всеми этими данными.

Прогнозирование в значительной степени определяло ключевые решения, касающиеся внесения удобрений, сева и уборки. Все они принимались с одной и той же целью – получить максимальный урожай: «Земледелие всегда было связано с принятием решений, которые зависели от интуиции фермера. Climate Corporation превратила земледелие в науку, основанную на теории вероятностей. Фермер играл уже не в рулетку, а в блек-джек. А Дэвид Фридберг помогал ему считать карты».

Фермеры привычно связывали технологический прогресс с появлением новых сельскохозяйственных орудий, но теперь изменилась сама процедура принятия решений. Более того, решения принимались дистанционно – в Сан-Франциско, далеко от сельских регионов Америки. Из корпорации, расположенной в городе на Западном побережье, канзасские фермеры получают совет, стоит ли выращивать кукурузу.

В настоящее время Climate Corporation принимает далеко не все решения по ведению сельского хозяйства. Значительная их часть по-прежнему относится к компетенции фермеров. Однако, по мнению Фридберга, «со временем участие аграриев сведется к нулю. Все будет под контролем. Появятся прогнозы на любой случай». Фермеры понемногу привыкают к этой мысли. Майкл Льюис пишет: «[Никто] никогда не задавал Фридбергу вопрос: если в моих знаниях больше нет необходимости, то кому нужен я?» Иначе говоря, дело идет к подрыву старой системы и централизованному управлению фермерскими хозяйствами. Мы не знаем, сколько времени займет процесс изменений и все ли решения удастся автоматизировать. Но можно точно сказать, что у этих инструментов большой потенциал: в 2013 году компания Monsanto приобрела Climate Corporation за 1,1 млрд долларов.

Шаг за шагом, по мере совершенствования технологий прогнозирования, фермеры не просто изучают прогнозы и принимают решения, а передают эти полномочия другим. Вероятно, таким образом эффективность управления фермой повышается, поскольку ответственность берут на себя люди, обладающие необходимой информацией, навыками, стимулами и умеющие координировать процессы. Но в то же время какова будет роль фермеров? Сейчас они землевладельцы, но надолго ли?

О чем эта книга?

Наша цель – мотивировать разработку системных решений на основе ИИ. В центре внимания – принятие управленческих решений и роль прогнозирования в этой процедуре. В части I мы обсудили притчу о трех предпринимателях и охарактеризовали проблемы разработки и внедрения ИИ в период межвременья, которые, скорее всего, имели место и в прошлом, во времена внедрения электричества и других технологий общего назначения. Чтобы перекинуть мостик к пониманию этих проблем и возможностей, в главе 3 мы напомним основные положения нашей предыдущей книги – «Искусственный интеллект на службе бизнеса». Также мы разберемся, почему прогнозирование – одна из ключевых функций ИИ. В части II подробнее рассмотрим процесс принятия решений и докажем, что одних точечных решений недостаточно, чтобы получить высокую отдачу от прогнозирования. Мы рассмотрим три основных положения. Во-первых, процесс принятия решений сложен, связан с когнитивными издержками и не сводится к простому следованию правилам. Он позволяет скорректировать действия в ответ на новую информацию. Без прогнозирования эти преимущества отчасти утрачивают свою ценность. Во-вторых, прогнозы ИИ могут изменить баланс между правилами и решениями, а за правилами и действиями, призванными защитить компанию от негативных последствий, таится неопределенность. Из-за нее трудно найти применение искусственному интеллекту. В то же время именно с неопределенностью могут быть связаны наиболее сильные потрясения. Если она проявится, то компании, которые стараются ее скрыть, окажутся в опасности. В-третьих, мы обсудим, как решения связаны между собой. Когда они взаимодействуют, переход от правил к решениям, основанным на прогнозировании, фактически добавляет системе определенную долю ненадежности. Чтобы с ней справиться, часто нужны общесистемные изменения. Проблема в том, что правила служат для системы связующим материалом, нередко тонким и малозаметным. Поэтому проще построить новую систему с нуля, чем изменить существующую. Исторически сложилось так, что новые компании и стартапы часто опережают устоявшиеся предприятия, когда для оптимизации требуется полная перестройка. Таким образом, изменения на системном уровне угрожают действующим организациям разрушением.

В части III речь пойдет о создании новых систем, которое предполагает не просто пересмотр одного решения на основе прогноза, а комплексную переоценку всех взаимосвязанных решений. Мы выясним, насколько важны системное мышление и способность подмечать неочевидную взаимосвязь между решениями, особенно если ранее многое регулировалось правилами. Мы покажем, что прогнозирование с помощью ИИ уже оказывает системное воздействие на инновационный процесс. На основании этих данных можно судить о том, какие изменения потребуются в других сферах.

В части IV мы рассмотрим ключевое следствие системной трансформации, а именно: что она будет означать для руководства. Подрывные процессы предполагают перераспределение экономической власти, то есть изменится положение тех, кто создает наибольшую экономическую ценность. Мы обратимся к истории, чтобы объяснить, как подрывные процессы, преобразовавшие промышленность, связаны с системными изменениями. Затем поговорим о наиболее распространенном страхе, связанном с ИИ: могут ли машины захватить власть. Мы убедимся, что функция ИИ всего лишь прогностика, помогающая принимать решения. Властью обладают не машины – какими бы могущественными они ни казались, – а те, кто стоит за ними и определяет их реакцию на прогнозы, которую мы называем суждением. Далее мы опишем преимущества более точных прогнозов в условиях конкуренции и охарактеризуем необходимые для них данные. Иначе говоря, узнаем, как прогнозирование помогает укрепить позиции компании на рынке.

В части V описан механизм, с помощью которого прогнозирование меняет соотношение сил на рынке, то есть как ИИ разрушает систему. Мы выясним, как внедрение ИИ разделяет прогнозы и суждения, которые были неразрывно связаны ранее – когда решения принимались лицами, не имевшими надежных прогностических инструментов. Здесь возникает закономерный вопрос: действительно ли тот, кто принимает решение в настоящий момент, располагает наилучшими возможностями для этого? Далее мы разберемся, к кому перейдет право выносить суждения после их отделения от прогнозов. В частности, изучим, каким будет переход от децентрализованной процедуры принятия решений к централизованной – с последующей концентрацией власти. Аналогично, когда прогнозирование позволяет перейти от правил к решениям, а затем к инновационной системе их принятия, в ее фокусе оказываются новые люди и, следовательно, они и получают власть.

Наконец, в части VI мы покажем, как проектируются надежные системы, основанные на новых разработках ИИ. Также предложим инструмент, который поможет проанализировать свой бизнес и отрасль как систему решений (или потенциальных решений). Для этого используется подход с «чистого листа»: при доступе к мощным предсказательным машинам он позволяет свести задачу к небольшому набору основополагающих решений. Мы покажем, как это работает, на примере страхования жилья. Затем рассмотрим, как выстроить подобные процессы в здравоохранении – на системном уровне оно уже сталкивается с проблемами, которые связаны с применением ИИ.

В заключение приведем пример погрешности ИИ, который волнует многих. Мы утверждаем, что если рассматривать ИИ как точечное решение, то эта погрешность представляет собой проблему и может вызвать обоснованное сопротивление внедрению инструментов прогнозирования. Однако правильнее рассматривать ее на системном уровне. Как только мы поймем, какое место занимает ИИ в системе прогнозирования, станет ясно, что он не порождает данную погрешность, а скорее создает возможность для ее устранения.

В целом мы хотели бы подчеркнуть, что трансформация отрасли на основе ИИ требует времени. Вначале не очевидно, как это сделать. Многие будут экспериментировать и терпеть неудачи из-за непонимания возникающих проблем или неспособности снизить себестоимость единицы продукта. В конце концов кто-то добьется успеха и проложит путь к прибыльности. Другие попробуют подражать. Лидер отрасли попытается воздвигнуть барьеры на их пути, чтобы защитить свое преимущество. Возможно, это ему удастся. Как бы то ни было, отрасль будет трансформироваться, и, как всегда, в ней будут победители и проигравшие.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Несмотря на потрясающие прогностические возможности ИИ, измеренный рост производительности труда за последнее десятилетие сократился вдвое, а реальные доходы большинства американцев стагнируют с конца 1990-х годов. Этот парадокс производительности встречается не впервые: нечто подобное наблюдалось в 1980-х годах, когда появились компьютеры. Мы называем такой период межвременьем: мощь искусственного интеллекта уже видна, но широкого распространения он еще не получил. Точечные и прикладные решения разрабатываются и внедряются достаточно быстро, но для системных решений, которые позволят раскрыть огромный потенциал ИИ, требуется гораздо больше времени.

• Независимость – ключевое понятие в определениях трех типов решений ИИ: точечных, прикладных и системных. Если прогнозирование с помощью ИИ позволяет усовершенствовать принимаемое управленческое решение и это не зависит от каких-либо других изменений в системе, то целесообразно использовать точечное решение (то есть улучшить существующий процесс) или прикладное решение (новое). Однако если улучшение не имеет независимого характера, а требует других существенных изменений в системе для создания ценности, то необходимо системное решение.

Системные решения, как правило, сложнее реализовать, чем точечные или прикладные, поскольку они, как правило, не могут быть независимыми. Если точечные и прикладные решения позволяют добиться улучшений, то системные, по определению, приводят к изменениям, а следовательно, и к возможным сбоям. Однако во многих случаях системные решения, скорее всего, принесут наибольшую совокупную отдачу от инвестиций в ИИ. Кроме того, они, скорее всего, станут подрывными инновациями в некоторых отраслях, в результате чего появятся победители и проигравшие.

Глава 3. ИИ как технология прогнозирования

В нашей первой книге «Искусственный интеллект на службе бизнеса» мы рассмотрели простую экономику ИИ. Ознакомившись со всеми потенциальными сложностями и шумихой вокруг этой технологии, мы сосредоточились только на одном аспекте – прогнозировании. Сведение захватывающей новинки к ее менее сенсационной сущности – ключевой инструмент экономиста.

Когда люди думают об ИИ, они вспоминают о разумных машинах из массовой культуры. Представляют полезных роботов вроде R2-D2 или ВАЛЛ-И или гениальных помощников, таких как Дейта из «Звездного пути» или Д.Ж.А.Р.В.И.С из «Железного человека». Возможно, кому-то на ум приходят куда менее дружелюбные версии: ЭАЛ из «Космической Одиссеи 2020» или Альтрон из фильма «Мстители: эра Альтрона». Все эти воплощения ИИ, независимо от их особенностей или намерений, объединяет одно: они способны думать, рассуждать и действовать самостоятельно, как и мы.

Возможно, мы разработаем технологию, которой все это окажется под силу, но пока ее не существует. Мы имеем скорее прогресс в статистических методах, чем способный мыслить ИИ, но этот прогресс очень значительный. По мере раскрытия предсказательного потенциала ИИ затраты на прогнозирование неуклонно будут падать. А без прогностики не обойтись в любой сфере человеческой деятельности.

Знаковое событие последних лет в развитии ИИ – появление новых методов машинного обучения. Они доказали свои преимущества и известны как глубокое обучение. В 2012 году группа специалистов из Университета Торонто под руководством Джеффри Хинтона применила эту методику, чтобы значительно улучшить способность машин распознавать изображения. Используя набор данных из миллионов визуальных образов под названием ImageNet, специалисты почти десять лет пытались разработать алгоритмы, позволяющие точно определить объекты на картинке. В ImageNet каждое изображение снабжено аннотацией – словесным описанием. Идея заключалась в том, чтобы взять этот набор данных, использовать его для разработки алгоритма, а затем пропустить через алгоритм новые изображения. Затем между алгоритмом и человеком проводились бы соревнования по распознаванию объектов на картинках. Способности людей в этом деле не отличались совершенством, но до 2012 года значительно превосходили любой алгоритм. В 2012 году ситуация начала меняться.

В глубоком обучении идентификация визуальных образов рассматривается как проблема прогнозирования. Цель в том, чтобы, получив новую картинку, машина умела определить, что на ней изображено с точки зрения человека. Если это фотография щенка, то задача не в том, чтобы понять, действительно ли это щенок. Вместо этого нужно угадать, какая из имеющихся аннотаций точнее всего соответствует этому изображению. Таким образом, машина должна выбрать наиболее вероятное правильное описание, которое становится своего рода прогнозом. Учитывая огромное множество атрибутов и их комбинаций, это сложнейшая вычислительная задача. В своих исследованиях команда из Торонто показала, что глубокое обучение превосходит любой другой прогнозный алгоритм и в конечном счете большинство людей.

Из сказанного можно сделать вывод, что машина угадывает наобум, а не решает задачу. Но если даже и так, то ее способности намного мощнее, чем у человека. Машинное прогнозирование полезно тем, что оно точнее, чем любое другое. А прогноз – это ключевой фактор принятия решений.

Дополняя прогнозирование

Процесс принятия решений основан не только на прогнозировании. Чтобы понять, насколько оно важно, рассмотрим две другие ключевые составляющие этого процесса: суждения и данные.

Объясним на примере, что такое суждение. В фильме «Я, робот» детектив Дел Спунер живет в будущем, где роботы служат людям. Герой ненавидит их, и на этом построена большая часть сюжета. О причине ненависти мы узнаём из предыстории. Когда-то Спунер попал в аварию: его автомобиль и другая машина, в которой ехал мужчина с двенадцатилетней дочерью, сорвались с моста и оказались в воде. Оценив шансы людей на выживание, робот спас Спунера, а не девочку. Детектив считает это решение преступным и с тех пор не доверяет искусственному разуму.

Герой мог проверить ход рассуждений робота, по оценкам которого вероятность выжить составляла 45 % для детектива и лишь 11 % для девочки. Времени хватало на спасение только кого-то одного, и робот выбрал Спунера. Дел же уверен, что 11 % – это более чем достаточно, и человек в такой ситуации попытался бы спасти девочку.

Может быть. Это представление о суждении – процессе, в ходе которого оценивается отдача от конкретного действия в конкретных условиях. Если спасение девочки – правильное решение, то отсюда следует, что, по мнению Спунера, ее жизнь в четыре с лишним раза ценнее, чем его собственная. Даже зная, что у нее было 11 % шансов выбраться, а у него 45 %, человек делал бы выбор, исходя из относительной ценности их жизней. Робот же, по всей видимости, был запрограммирован на то, чтобы считать все человеческие жизни одинаково ценными. Если мы используем прогнозную машину, следует формулировать суждение как можно четче.

Корреляция и причинно-следственные связи

Данные – это информация, на основе которой делается прогноз. Он тем точнее, чем больше высококачественных данных получает ИИ. Под качеством мы понимаем использование данных в контексте разработки прогноза. Статистики называют это необходимостью предугадывать при «поддержке» данных. Если извлечь из массива данных слишком много информации, прогноз может оказаться неточным.

Предсказывать на основе имеющихся данных сложнее, чем собирать информацию из широкого круга источников, ведь вам нужно избежать неоправданной экстраполяции и установить реальный горизонт прогнозирования. Иногда нужных данных не существует вовсе. Именно поэтому, в какой стране мира вы ни проходили бы курс статистики, вас непременно предупредят: корреляция – это не обязательно причинно-следственная связь.

В производстве игрушек в США существует сильная корреляция между рекламой и доходами. Расходы на рекламу резко возрастают к концу ноября и остаются высокими примерно в течение месяца. В этот период игрушки разлетаются с прилавков. Уже только на основании этих данных может возникнуть соблазн увеличить объем рекламы в остальное время года. Например, если в апреле потратить на нее столько же, сколько за месяц до Рождества, доход тоже должен бы вырасти.

Но этого не происходит. Расходы на рекламу игрушек в апреле значительно ниже, чем в декабре. Это означает, что прогнозируемые последствия увеличения рекламных расходов в апреле нельзя подтвердить фактическими данными. Корреляция между помесячной выручкой и вложениями в рекламу не означает, что последние способствуют росту продаж. Что, если близость Рождества влияет и на потребительское поведение, и на рекламную активность? Есть вероятность, что корреляция носит причинно-следственный характер, поэтому с увеличением расходов на рекламу в апреле продажи резко вырастут. Также может быть, что большая часть продаж в декабре обусловлена вовсе не рекламной коммуникацией. Вдруг это предвкушение Рождества стимулирует и рекламу, и продажи? Возможно также, что продажи в декабре действительно возрастают благодаря рекламе, но в апреле ее эффект в любом случае будет незначительным, так как обычно в этом месяце потребители покупают гораздо меньше игрушек.

Другими словами, прогнозные машины сами по себе не дают информации о том, что произойдет с апрельскими продажами игрушек, если изменить рекламную стратегию. Чтобы обнаружить взаимозависимость, необходимо обратиться к другому типу статистических исследований – анализу причинно-следственных связей. Как и в сфере ИИ, в этой области за последние несколько лет также удалось добиться значительного прогресса (подтверждение тому – Нобелевская премия по экономике 2021 года). Все очевиднее, что эти инструменты дополняют ИИ: поставляют ему данные, необходимые для эффективного прогнозирования во многих ситуациях. Это признают ведущие мировые компании в области ИИ. Например, из трех нобелевских лауреатов 2021 года двое работали в компании Amazon. Гвидо Имбенс – не только профессор Стэнфордского университета, но и научный сотрудник команды Core AI, а Дэвид Кард преподает в Калифорнийском университете в Беркли и получает от Amazon финансирование для своих проектов.

Проблемы анализа причинно-следственных связей ограничивают полезность ИИ теми сферами деятельности, где можно собрать соответствующие данные. ИИ очень эффективно справляется с играми, включая шахматы, го и Super Mario Brothers. Правила каждый раз одни и те же, поэтому нет необходимости экстраполировать данные прошлых игр на нынешние. Более того, можно проводить имитационные эксперименты для ранее не встречавшихся сценариев, поскольку игры – это программное обеспечение. Эксперименты позволяют ИИ расширить базу данных, изучить, что произойдет, если нажать другую кнопку или попробовать новую стратегию. Именно так AlphaGo и AlphaGoZero – приложения компании DeepMind – обнаружили выигрышные стратегии в игре го, которых не нашли даже участники соревнований высокого уровня. В DeepMind провели миллионы имитационных экспериментов, и машина научилась предсказывать выигрышные стратегии, моделируя, что произойдет, если попробовать несколько различных подходов.

Во многих ситуациях в бизнесе данные доступны. Если нет, то их часто можно получить из экспериментов. Эксперименты в бизнесе занимают больше времени, чем в играх, поскольку проводятся с учетом быстроты мышления человека, а не скорости проведения симуляции, доступной для компьютера. Тем не менее это мощный инструмент, позволяющий собирать полезные исходные данные для ИИ.

В статистике рандомизированное исследование – основной инструмент выявления причинно-следственных связей. Это золотой стандарт при испытании новых медицинских препаратов и методов лечения. Пациенты случайным образом распределяются по двум группам: одни получают лекарственное средство, другие – плацебо. Хотя группы не идентичны – все люди разные, – различия представляют собой результат случайного отбора. При достаточном количестве участников в каждой группе можно сделать вывод о том, какой результат дало то или иное лечение. Если эксперимент организован правильно, то по собранным данным можно судить о причинно-следственной зависимости, а не просто о корреляции.

Иногда симуляция не позволяет получить рандомизированные или даже квазирандомизированные данные. Крайнее проявление такой ситуации – использование ИИ в военных условиях. Вначале может показаться, что военные условия идеальны для применения машинных средств. Как писал в XIX веке военный теоретик Карл фон Клаузевиц, «Война – это область недостоверного». Прогнозирование уменьшает неопределенность и тем самым обеспечивает существенное боевое преимущество. Однако проблема в том, что в войнах участвуют две противоборствующие стороны: если «ИИ найдет оптимальное решение какой-либо задачи, то у интеллектуального противника появится стимул изменить ее». Противник пересмотрит исходные условия, и данные мирного времени окажутся малопригодными. То же справедливо и для бизнеса. Прогнозы будут работать при отсутствии конкурента, у которого есть стимул опровергнуть ваши прогнозы, или клиента, у которого есть стимул их обойти. Если потребитель может добиться большего, перепроектировав ключевые составляющие вашего ИИ и скормив ему ложную информацию, то машинный интеллект будет служить вашим целям только до тех пор, пока потребитель не узнает, как он работает. Когда прогнозы не подтверждаются данными и возникают проблемы с причинно-следственными связями, то решение, сначала казавшееся точечным, в итоге оказывается системным. Тем не менее для 11 % компаний, которые уже увидели пользу от ИИ, прогнозы опираются на имеющиеся данные, поэтому точечное решение на машинной основе показывает себя просто отлично.

Суть прогнозирования

Рассмотрим решение о проведении или об отказе от финансовой операции. Ключевой момент в его принятии – прогнозирование мошенничества. Именно на этом основана деятельность компании Verafin. Предлагается транзакция, включающая запрос на платеж, то есть перевод средств с одного счета на другой. Если транзакция одобрена, деньги переходят в другие руки, что приводит к обмену реальных товаров и услуг. Если операция отклонена, деньги остаются у владельца, что препятствует перемещению реальных товаров и услуг. Тот факт, что сделка вообще требует одобрения платежа, объясняется тем, что ошибки дорого обходятся. Если разрешить транзакцию, которую проводит человек, не владеющий счетом, это повлечет за собой целый ряд обязательств и проблем. Но отклонение легитимной транзакции нарушит реальный обмен товаров и услуг, лежащий в основе хозяйственной деятельности.

Вероятно, вы решите, что в таком случае нужна система, полностью исключающая ошибки. Однако проблема не в том, чтобы избежать упущений. Проведя тщательный анализ и потратив на это достаточно времени, банк, скорее всего, добьется успеха. Проблема заключается в том, что полное исключение ошибок требует огромных затрат. Транзакции замедлятся, комиссионные за них возрастут, и, кроме того, банковские операции станут неудобными. В конце концов, если так дорого обходится изменение записей на счетах, совершаемое при помощи цифровых сообщений, то не лучше ли вернуться к старым добрым наличным и расплачиваться прямо в момент сделки?

Вместо этого банки играют в угадайку, чтобы заставить систему работать. Им требуется оценить вероятность ошибок. Если слишком жестко подходить к одобрению транзакций, то есть риск отклонить многие законные операции и получить в итоге недовольных клиентов. Если же придерживаться слишком мягкого подхода, это развяжет руки мошенникам. Кроме того, затруднится возврат неправомерно потраченных средств, что напрямую скажется на прибыли банка. Таким образом, необходимы определенные стандарты жесткости, чтобы сбалансировать потенциальные – и неизбежные – ошибки. ИИ – это средство, с помощью которого банки лучше играют в угадайку и сокращают количество ошибок. Как экономисты, изучающие новые разработки в области ИИ за последнее десятилетие, мы видим свою роль в том, чтобы отсечь шумиху. ИИ привлекает внимание философов, кинематографистов, футуристов, предсказателей судьбы и многих других людей, которые могут оживить беседу на званом ужине. Но наша роль состоит в другом. Если отталкиваться от недавних достижений компьютерной науки, то все разработки в области ИИ с такими причудливыми названиями, как нейронные сети, машинное обучение, глубокое обучение или состязательная оптимизация, направлены на достижение прогресса в области статистики, а именно статистики прогнозов. Таким образом, ИИ, по сути, не борется с мошенничеством, а совершенствует способность банков отделять законные операции от мошеннических с гораздо меньшими затратами – то есть с помощью прогнозирования.

ИИ в наши дни – это инструмент прогнозирования, и не более того. Компании Verafin требовалось именно это. Современные системы платежей значительно автоматизированы. Необходима высокая степень уверенности в том, чтобы получить одобрение транзакции. Именно в этой ситуации на помощь приходит искусственный интеллект. Он использует весь имеющийся у банков объем информации о клиентах, моделях поведения, времени и месте проведения операций и вырабатывает на ее основе прогноз законности транзакции. За последние два десятилетия точность прогнозов повысилась. В настоящее время широко распространены инструменты ИИ для выявления мошенничества в сфере банковских и финансовых услуг. По отзывам компаний, точность этих инструментов заметно прогрессирует.

Бизнес Verafin – это прогнозирование, и, поскольку ИИ представляет собой большое достижение в области прогностических технологий, эта и подобные ей компании, несомненно, станут его первыми бенефициарами. Банки и прочие финансовые учреждения также широко используют прогнозирование. Одобрение или отклонение транзакций – суть их бизнеса. Чем эффективнее принимаются такие решения, тем эффективнее деятельность самих организаций, которые задействуют всю доступную им информацию. Как выяснилось, компания Verafin сумела аккумулировать необходимые данные, используя свои техники обучения и совершенствования алгоритмов на основе транзакций, проводимых тысячами финансовых учреждений и их клиентов.

Лидерство на рынке прогнозирования дается непросто. У компании Verafin на это ушло почти два десятилетия. Но суть в том, что прогнозирование всегда было и остается ее бизнесом, а искусственный интеллект открыл перед ней новые возможности его развития.

Прогнозирование – это еще не всё

Эта книга не о таких компаниях, как Verafin. Но мы вспомнили о кейсе потому, что он иллюстрирует скорее исключение, чем правило, в деле внедрения и оценки роли ИИ. В Verafin все сложилось удачно. Во-первых, прогнозирование – главная функция ИИ – стало основой ее бизнеса. Во-вторых, клиенты, то есть финансовые организации, без проблем перешли на продукты Verafin, поскольку бизнес для этих компаний также базируется на прогностике. В-третьих, такие клиенты строят свои решения на прогностике, знают, что с ней делать и как бороться с последствиями ошибок. Таким образом, условия для внедрения ИИ созрели. Банки были готовы к внедрению точечных решений.

В итоге Verafin оказалась в системе, благоприятствующей внедрению ИИ. Чтобы использовать прогнозирование, системный подход не требовался. Не нужно было создавать новый способ принятия решений. Компания уже поставляла свой продукт клиентам, которые знали, что им нужно, как это использовать, и, что особенно важно, умели выбирать дальнейшие действия на основе этих прогнозов.

Verafin – пример бизнеса, успешно добравшегося до последнего этапа процесса, который грозил оказаться наиболее сложным для большинства компаний, способных извлечь выгоду из внедрения ИИ сейчас и в будущем. Если ваш бизнес собирается внедрить ИИ, то, скорее всего, сначала придется выкорчевать заросли, а то и целый лес устаревших функций. В книге мы расскажем, как расчистить место: что необходимо изменить, какие дилеммы и проблемы возникнут в процессе этих изменений. Мы имеем в виду трансформацию на уровне системы, а не точечные или прикладные решения, которые не требуют коренных преобразований. Чтобы решить, связываться ли с внедрением ИИ, следует хорошо понимать, что вам предстоит.

В чем проблема?

Одна из наиболее упоминаемых частей нашей предыдущей книги была написана на основе мысленного эксперимента. Компания Amazon использует ИИ для прогнозирования потребностей конкретных потребителей. Когда вы совершаете покупки на сайте Amazon, выбор рекомендуемых товаров из каталога, насчитывающего десятки миллионов наименований, производится на основе этого прогноза. Вы просматриваете рекомендации и оформляете заказ, который передается в службу доставки. С момента визита на сайт до получения товара проходит несколько дней.

В связи с этим мы задались вопросом: что изменится, если прогнозы покупательских предпочтений станут намного более точными? Что, если Amazon сэкономит вам эти несколько дней? В компании попытаются угадать нужный вам товар и доставят его к вашей двери – вам останется только принять его или отказаться. То есть Amazon отправляет товары на основании собственных прогнозов, а затем вы забираете то, что вам нужно, из коробок, принесенных к вашему порогу. Мы это называем переходом от принципа магазин – доставка к принципу доставка – магазин. Нетрудно представить, насколько это удобно (хотя кому-то может показаться, что внезапно обнаружить за дверью коробку – это несколько жутко).

Переход к системе доставка – магазин мы считаем прикладным вариантом. В этом случае Amazon принимает решение о доставке, а не предоставляет клиенту самому выбирать, отправлять ли товар. Многие люди считают, что ходить по магазинам весьма обременительно, поэтому более точный прогноз позволяет предложить покупателю такую услугу за небольшую плату.

Пока еще Amazon до этого не дошла, но некоторые шаги предприняла. Компания уже запатентовала идею «опережающей доставки», однако ее реализация на практике откладывается. Например, компания регулярно предлагает потребителям не заказывать товар, а подписаться на него. Каким образом? Amazon отслеживает, сколько туалетной бумаги вы закупаете, и обещает поставлять ее через регулярные промежутки времени. В результате компания гарантирует себе спрос, а часть экономии передает потребителям в виде скидок за подписку.

Однако при переходе от идеи к практике становится понятно, почему внедрение системы доставка – магазин сталкивается с серьезными трудностями. Если прогнозы идеальны, то реализовать ее нетрудно. Но прогнозы несовершенны и вряд ли когда-то станут совершенными. Следовательно, Amazon необходимо организовать систему возврата товаров, от которых отказались потребители. Достаточно сложно доставить товар в целости и сохранности, а тем более забрать его обратно. Кроме того, это дополнительные хлопоты для покупателей. Таким образом, не имея системы практически беззатратного возврата товаров, Amazon вряд ли приступит к реализации этой идеи. Действительно, у компании уже сейчас столько проблем с возвратами, что многие поступившие от покупателей товары никогда не перепродаются, а сразу отправляются в мусорный бак. При нынешней организации работы Amazon дешевле их выбросить, чем возвращать на склад. Отсюда вывод: решение доставка – магазин кажется прикладным, но, чтобы оно было экономически выгодным, необходимы изменения в других компонентах системы. Хотя мы не осознавали этого во время работы над книгой «Искусственный интеллект на службе бизнеса», но идея доставка – магазин носит системный характер, поскольку влияет на другие ключевые решения и требует перестройки работы, чтобы Amazon не теряла на возвратах.

Что дальше?

«Хорошо, а что дальше?» Именно этот вопрос задавали нам на многих предприятиях и в организациях, начинающих внедрять технологии ИИ. Эти компании уже слышали о шумихе вокруг машинного интеллекта и воспользовались планом действий, предложенным нами в предыдущей книге. Они собрали команды, которые изучали предстоящие задачи и оценивали пути их решения с помощью прогнозирования – той самой возможности, которую предлагает ИИ. Прогнозирование – это процесс, в ходе которого информация преобразуется из имеющейся в необходимую. Как следует из этой книги, все последние инновации в области ИИ направлены на то, чтобы оно стало более качественным, быстрым и дешевым. Результаты их внедрения настолько широко распространены, что мы уже даже не задумываемся о них. Ваш смартфон оснащен технологиями ИИ. При разблокировании он легко распознает ваше лицо. Вы даже не чувствуете, что смартфон защищен надежным барьером, через который пропускает только вас. На главном экране расположены приложения, отобранные на основе прогноза о том, что вам понадобится в данный момент. Вы находитесь рядом с любимой кофейней и хотите сделать заказ? Вы в машине и хотите составить маршрут поездки? Смартфон все это умеет, но у вас создается впечатление, что он просто удобен. Дело в том, что все находящиеся под рукой возможности применения ИИ уже использованы. Бизнес задается вопросом «И это всё?».

Ответом будет «нет», и мы объясним почему. Несмотря на то что ИИ, как и многие другие прорывные технологии, получил повсеместное распространение, его развитие только начинается. Такие революционные технологии, как электричество, двигатель внутреннего сгорания и полупроводники, внедрялись медленно, десятилетиями. Прогнозирование на основе ИИ ждет такая же судьба, несмотря на чрезмерно оптимистичное мнение, что он якобы представляет собой готовый рецепт ускорения технологических изменений.

Вместо того чтобы кататься на американских горках по прихоти неподвластных нам сил, мы должны осознать, что сейчас – в период межвременья – перед нами открываются новые возможности. Определять путь развития ИИ будут люди и компании, способные ответить на вопрос «Что дальше?».

Мы экономисты, поэтому ищем ответ в своей сфере. Однако мы выходим за рамки простой экономики, где снижение стоимости прогнозирования означает рост количества способов его применения. Вместо этого мы исходим из очевидного факта: способ принятия решений людьми и предприятиями – это не магическое упражнение, позволяющее быстро подобрать оптимальный вариант, это процесс, который предполагает обдумывание, определенную процедуру и затраты. Чтобы воспользоваться преимуществами прогнозирования, необходимо задуматься над тем, для чего его использовать. Также стоит иметь в виду, что лица, принимающие решения (ЛПР), раньше как-то обходились без него. Когда у вас чего-то нет, вам не от чего отказываться. Вы каким-то образом компенсируете это отсутствие. Если нет информации, необходимой для осознанного выбора, вы ограждаете себя от последствий, к которым могут привести действия вслепую. Поэтому неудивительно, что возможности использования ИИ становятся очевидными не сразу после его появления. Те, кто принимает решения, привыкли делать выбор, не имея всей информации.

Все это означает, что для ответа на вопрос «Что дальше?» надо не только тщательно изучить возможности прогнозирования, но и понять, что мешает людям задать этот вопрос. Мы разложим решения по полочкам и предоставим вам набор инструментов, позволяющих распознать не только явные преимущества машинного прогнозирования, но и его скрытые – потенциально более значимые – возможности.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Последние достижения в области ИИ привели к снижению стоимости прогнозирования. Мы используем прогнозы для получения информации из внутренних баз данных (например, о том, встречались ли мошеннические финансовые операции в прошлом) и генерирования данных, которые нам нужны, но отсутствуют (например, является ли текущая финансовая операция мошеннической). Прогнозирование – исходный материал для принятия решений. Когда стоимость исходных данных снижается, мы задействуем их больше. Поэтому по мере удешевления прогнозирования ИИ будет использоваться все интенсивнее и одновременно будет падать стоимость его заменителей – например, ручного прогнозирования. В то же время ценность элементов, дополняющих машинное прогнозирование, будет расти. Два основных дополнения к машинному прогнозированию – данные и суждения. Мы используем данные для обучения моделей ИИ. Для принятия решений мы используем суждения, а также прогнозы. Если прогноз – это оценка вероятности, то суждение – это выражение намерения, то есть того, что мы хотим. Поэтому, принимая решение, мы оцениваем вероятность каждого возможного результата принятия решения (прогноз) и его важность для нас (суждение).

• Возможно, самая большая ошибка в использовании прогнозов ИИ заключается в том, что выявляемые ими корреляции принимаются за причинно-следственные связи. Часто выявления корреляции достаточно для решения прикладных задач. Однако если требуется, чтобы ИИ установил причинно-следственные связи, то приходится использовать рандомизированные эксперименты для сбора соответствующих данных. Такие эксперименты – лучший инструмент для статистиков, позволяющий выяснить, где причина, а где следствие.

• В книге «Искусственный интеллект на службе бизнеса» мы описали мысленный эксперимент, касающийся системы рекомендаций товаров и услуг на Amazon. Мы представили, что произойдет, если точность рекомендаций будет повышаться. Вначале она будет лучше выбирать товары для рекомендации покупателям. Однако затем наступает переломный момент: точность прогнозирования потребностей покупателей возрастает настолько, что сотрудники Amazon задаются вопросом: «Если наши прогнозы настолько точны, то зачем ждать, пока они это закажут? Давайте просто отправим товар». Компания Amazon подала заявку на патент идеи так называемой опережающей доставки, но пока не перешла на эту новую бизнес-модель. Почему? Первоначальное точечное решение – ИИ, обеспечивающий лучшие рекомендации на существующей платформе, – функционирует в рамках имеющейся бизнес-модели Amazon. Новая бизнес-модель потребует от Amazon коренной перестройки, особенно в части обработки возвратов товаров. В настоящее время система возврата настолько затратная, что часто оказывается выгоднее выбросить возвращенный товар, чем везти его на склад для продажи другим покупателям. Достижение переломного момента в нашем мысленном эксперименте требовало перехода от точечного решения к системному. В книге «Искусственный интеллект на службе бизнеса» мы недооценили разницу.

Часть II. Правила

Глава 4. Решать или не решать

Хотите узнать секрет? Экономисты на самом деле не верят в то, что люди абсолютно рациональны. Предполагается, что есть этакие люди-калькуляторы, которые тщательно просчитывают все варианты действий – миллионы вариантов во времени и пространстве, – точно знают, какие цели преследуют, будь то прибыль, счастье или что-то еще, а затем делают выбор и придерживаются тщательно разработанного плана. Именно такой идеально рациональный человек часто изображается в моделях экономистов, если воспринимать их буквально. И экономисты действительно серьезно относятся к прогнозам, полученным на основе этих моделей. Но они знают, хотя бы из собственного опыта, что реальные люди далеко не соответствуют этому представлению о рациональности. Поэтому, слыша расхожую фразу «Экономисты считают, что все люди рациональны», они только закатывают глаза. Это не так. Верить в это было бы совершенно нерационально.

Тем не менее исходить из представления о человеке как о субъекте расчетливом, последовательном и действующем в соответствии с определенными интересами полезно, чтоб понимать поведение тысяч или миллионов людей. Хотите понять, приведут ли налоги на сигареты к сокращению числа курильщиков? Вот одно из последствий: если сигареты будут стоить дороже, то люди станут курить меньше. Насколько меньше и хватит ли этого для достижения поставленных целей – другой вопрос. Потребуется учесть историю, уровень стресса в обществе, его деление на социальные группы, а также маркетинговые приемы, которые используют табачные компании. Но признать, что люди принимают решение рационально, – это отличная отправная точка для многих социальных наук.

Каждый день люди оказываются перед выбором, что надеть. Стив Джобс, как известно, носил фирменную черную водолазку и джинсы независимо от ситуации и погоды. Барак Обама в пору своего президентства носил только серые или синие костюмы и так объяснил это Майклу Льюису из Vanity Fair:

«Как видите, я ношу только серые или синие костюмы, – сказал он. – Я пытаюсь минимизировать необходимость принимать решения. Не хочу задумываться о том, что ем или надеваю, поскольку у меня слишком много других дел». Он упомянул об исследованиях, согласно которым каждая ситуация выбора забирает ресурсы, которых в конце концов может не хватить на дальнейшие решения. Именно поэтому шопинг так утомителен. «Следует поберечь силы для того, что действительно важно, а в остальном следовать рутине. Нельзя в течение дня отвлекаться на мелочи».

Один из нас (Джошуа) однажды скупил весь запас понравившейся модели ботинок (всего шесть пар, если хотите знать), чтобы избавиться от необходимости ходить в обувные магазины в течение следующих десяти лет. Это тоже способ избежать принятия решений. Когда люди следуют привычке или придерживаются правил, они признают, что затраты на поиск оптимального варианта слишком высоки. Поэтому, по сути, они решают не принимать решений. Это происходит повсеместно. Припомните свои последние решения, и вы поймете, что большинство из них не реальные, а скрытые, то есть те, которые вы могли бы принять, но не приняли, положившись на привычку.

Применительно к ИИ мы видим здесь серьезную проблему. Машинные прогнозы полезны только в случае, если вы принимаете решение. Но это еще не все. Мы создаем системы, состоящие из взаимозависимых компонентов, делая упор на надежность. Вы ведь не хотите, чтобы каждый компонент действовал без учета ожиданий или прогнозов остальных? От системы вы ждете надежности, которая обеспечивается правилами. Однако если прогнозирование на основе ИИ устраняет правила, заменяя их решениями, то одним из последствий станет недостаточная надежность существующих систем. Это может привести к нецелесообразности внедрения ИИ, разве что систему удастся перепроектировать так, чтобы она могла принимать решения, предлагаемые машиной.

Именно поэтому мы начнем с выбора, от которого сознательно отказались. Мы хотим понять, почему так поступаем, чтобы оценить, может ли применение ИИ изменить наш образ действий и превратить эти скрытые решения в реальные. Из данной главы вы узнаете, что, по нашему мнению, ИИ способен это сделать, причем с потенциально большими преимуществами и последствиями для организаций.

Реши и забудь

Легче не принимать решения, чем принимать его. То есть легче избежать сбора информации, ее обработки, взвешивания всех вариантов и принятия решения. Экономика в значительной степени строится на том, что за решения отвечают другие люди, даже если мы не вполне верим, что они поступят так, как сделали бы мы. Никто не понимал этого лучше, чем Герберт Саймон, который не только получил Нобелевскую премию по экономике, в том числе за теорию ограниченной рациональности, но и был удостоен премии Тьюринга за одно из первых исследований в области искусственного интеллекта. Уже на своей первой работе в Департаменте парков Милуоки он заметил, что средства на мероприятия распределяются далеко не эффективно; с появлением компьютеров стало ясно, что люди не оптимизируют свою деятельность так, как это моделировали экономисты. В 1950-х годах Саймон пытался запрограммировать новомодные компьютеры на принятие разумных решений, что привело его к мысли об издержках оптимизации. Даже если бы мы понимали суть сложных динамических вычислений, необходимых в трудной ситуации (а мы их не понимаем), вряд ли нам удалось бы уделить достаточное внимание решению вытекающих из них проблем. Имея в своем распоряжении лишь ограниченные вычислительные ресурсы, люди поступали так же, как и Саймон с примитивными компьютерами своего времени, – обходились без них.

Саймон удачно назвал этот подход принципом разумной достаточности: не стоит делать лучшее врагом хорошего. Вместо того чтобы искать наиболее верное решение, люди выбирают приемлемый, то есть достаточно хороший вариант. Вместо попыток разобраться в сложной обстановке они сужают круг рассматриваемых вариантов. Вместо того чтобы постоянно корректировать свой выбор в зависимости от получаемой информации, они принимают правила, регламент и модель поведения, которые невосприимчивы к новой информации и, следовательно, позволяют полностью ее игнорировать.

То, что иногда люди руководствуются правилами, а не принимают решения, это интересное замечание, но для наших целей его недостаточно. Нам необходимо понять, когда принимаются решения. Как отличить проблему, для устранения которой нужно действовать по установленным правилам, от проблемы, которая потребует особого решения?

Незначительные последствия

При принятии решений учитываются два основных обстоятельства: насколько серьезными обещают быть их последствия и насколько дорого обойдется сбор необходимой информации. Об информации мы поговорим немного позже. Пока же рассмотрим последствия. Мысль о том, что не стоит тратить много времени на принятие решения, если его последствия ограниченны, одна из основных в философии. Самый яркий пример – притча французского философа Жана Буридана об осле, который между двумя одинаковыми охапками сена или ведрами воды выберет то, что ближе. А если расстояние до них будет одинаковым, осел не сможет сделать выбор и умрет от голода. Можно представить, что подобная проблема заставит компьютер зависнуть. Для наших целей сформулируем проблему так: время, затрачиваемое на принятие решения, зависит от серьезности его последствий. Вернемся к правилам выбора одежды Джобса и Обамы, призванным избавить от лишней когнитивной нагрузки. Оба понимали, что последствия выбора одного костюма по сравнению с выбором другого невелики. Имея в своем распоряжении целый гардероб, они были бы вынуждены каждый день принимать малозначительное решение. Проще закрыть глаза и взять первую попавшуюся вещь. Но они не полагались на волю случая и поэтому сознательно ограничивали возможности выбора.

Для большинства из нас последствия выбора одежды более серьезны. Конечно, Джобс мог приходить на работу в чем угодно. Конечно, Обаме нужно было носить в основном костюмы – таков протокол, и никого не волновал цвет ткани, ну разве что кроме коричневого. Но остальные не могут себе этого позволить. Вы каждый день перетряхиваете весь гардероб или заранее составляете комплекты, которые используете регулярно? Доводилось ли вам ограничивать возможность выбора, чтобы упростить его? В конечном счете мы стремимся свести последствия выбора к минимуму, чтобы принимать решения было легче. Пример с выбором одежды напоминает решение с потенциально незначительными последствиями и относительно высокой когнитивной нагрузкой в процессе принятия. Однако серьезность последствий и когнитивная нагрузка зависят друг от друга. Представьте, что думаете над тем, стоит ли вам жениться или завести ребенка. В такой ситуации размышления требуют времени и усилий, поскольку неправильный выбор приведет к серьезным последствиям. Здесь вы рассматриваете потенциальное решение как действие, которому надо посвятить время и силы, а не как следование готовым правилам или то, что можно отложить на потом. И чем значительнее последствия, тем сильнее стремление все обдумать – в противовес отказу от принятия решения.

Дорогостоящая информация

Второй фактор, влияющий на принятие активного решения, – наличие необходимой информации или, точнее, ее стоимость. Если данные обходятся дорого, то последствия решения могут быть незначительными. Это побуждает к тому, чтобы принимать его по однажды установленным правилам, а не подолгу размышлять в каждом отдельном случае.

Взять ли сегодня зонтик? Этот выбор не слишком интересен окружающим, но он может иметь большие последствия. Если вы решите не брать с собой зонт и попадете под дождь, будет неприятно. Чтобы этого не случилось, можно носить с собой зонтик, но это связано с определенными издержками. Конечно, имея точную информацию (в частности, о том, пойдет ли дождь и попадете ли вы под него), вы бы взяли зонтик при высокой вероятности осадков, а при низкой – оставили бы его дома. Но что, если шансы – пятьдесят на пятьдесят?

Чтобы оценить ситуацию, равнозначную подбрасыванию монеты, предположим, что ваши личные издержки составят 10 долларов в обоих случаях: 1) если выйдете без зонта и промокнете; 2) если возьмете с собой зонт зря (и весь день будете носить ненужную тяжесть). Ожидаемые издержки в любом случае составят 10 долларов × 0,5 = 5 долларов. В результате не имеет значения, возьмете вы зонтик или нет.

Но прежде чем забивать себе голову расчетами, имеет смысл просто посмотреть прогноз погоды. Если там сказано, что вероятность дождя больше 50 %, то вы берете зонтик, а если меньше 50 % – не берете. Но в данном случае мы упростили проблему и убрали аспекты, делающие недостаточной даже такую информацию. Если известно, что будет сухо с 90 %-ной вероятностью, то все ясно. Однако прогнозы погоды не всегда так однозначны. Мы редко располагаем дополнительной информацией, чтобы сделать выбор при вероятности дождя в 40 или 30 %, то есть менее 50 %. Более того, к тому времени, когда вы уточните данные, скажем изучив розу ветров или барометрическое давление, окажется, что когнитивные затраты превысят эффект от принятия решения – в данном случае снижение затрат максимум на 5 долларов. Процедуру можно представить в виде дерева решений, о котором говорят на всех курсах MBA по экономике и анализу данных. Ветви представляют собой варианты выбора. Например, на рис. 2.1 выбор (в черном кружке) состоит в том, чтобы взять или оставить зонтик. Это решение принимается в условиях неопределенности, представленной двумя вариантами развития событий: 90 % – в пользу дождя, 10 % – в пользу ясной погоды. Если бы не было прогноза, то вероятность наступления любого из этих событий составляла бы 50 %.

Рис. 2.1. Дерево решения: брать или не брать зонт

Однако синоптики предсказывают, что шансы на выпадение осадков – 90 %. Поэтому каждый вариант выбора имеет два исхода. С каждым исходом (всего их четыре: взять зонт + дождь, взять + ясно, оставить + дождь и оставить + ясно) связана сумма затрат в денежном выражении, если исход окажется неблагоприятным. Их величина – это предмет субъективной (в данном случае вашей) оценки. Именно поэтому мы называем эти суммы суждениями. Это важное понятие, которому в нашей книге отведено значительное место. В частности, тот, кто выносит суждение, во многом контролирует решение. Кроме того, прогностические машины позволяют отделить прогноз от суждения, поскольку ЛПР, не прибегая к ИИ, часто формулирует то и другое одновременно. В данном случае мы решили сделать затраты на неблагоприятные исходы одинаковыми, то есть в обоих случаях они равны 10 долларам. Это означает, что при 90 %-ной вероятности дождя вы ожидаете, что затраты составят 1 доллар, если у вас есть зонт, и 9 долларов, если он остался дома. Разумный человек в такой ситуации решит взять зонтик.

Многие вообще отказываются принимать решение, особенно если нет прогноза. Например, вы можете сделать рабочий график гибким, чтобы в случае дождя не оказаться на улице. Тогда по умолчанию можно не носить с собой зонтик. В качестве альтернативы можно купить маленький раскладной зонт, который в итоге обойдется недешево, поскольку прослужит не слишком долго. Зато он легкий и его можно всегда носить с собой, не беспокоясь из-за погоды.

Смысл в том, что для оптимального выбора мы не собираем дорогостоящую информацию, а вырабатываем привычки или правила. Они избавляют нас от необходимости накапливать и анализировать данные. Мы просто каждый раз, не задумываясь, следуем установившейся привычке.

Какие решения покупают

Если вы воздерживаетесь от принятия решений, предпочитая следовать правилам, то на первый взгляд машинные прогнозы вам не пригодятся. Задача ИИ – предоставлять информацию для принятия решений. Если вы не принимаете решения, то эта информация не имеет ценности.

Функция ИИ состоит в обеспечении более точных прогнозов, то есть, по сути, в предоставлении информации, необходимой для принятия более обоснованных решений. Решение брать или не брать с собой зонтик можно принимать, если прогноз погоды надежен и не оставляет места неопределенности. При наличии более качественной информации можно отказаться от правил и счесть целесообразным потратить некоторое время на принятие реального решения.

В примере с зонтом надежная информация освобождает от издержек. Будь они связаны с риском промокнуть или таскать лишнюю тяжесть, но если вы точно знаете, что произойдет, то не понесете никаких потерь. Конечно, придется отказаться, скажем, от привычки всегда носить с собой зонт. Вместо этого вы заглянете в приложение с прогнозом погоды и затем решите, нужен ли он вам. Можно представить, что приложение будет отвечать на вопрос, брать ли зонтик, просто «да» или «нет», никак не обосновывая эту рекомендацию. Это все равно считается переходом от правила к решению, даже если разработчики приложения установили пороговые значения, при превышении которых выдается рекомендация взять зонт. Возможно, в описанной ситуации мы не добрались до этого момента, но вспомните рекомендуемые плейлисты в музыкальных сервисах или новости в социальных сетях. В их основе лежит необходимость принять решение. Выбирая следовать рекомендациям, вы тем самым отказываетесь от правил (например, чтения новостной ленты от начала до конца) и переключаетесь на принятие решений.

В результате перехода к принятию решений на основе прогнозов ИИ можно многое выиграть. Мы имеем представление об этом из опыта «вынужденных экспериментов», знакомых всем, кому так или иначе пришлось работать удаленно во время пандемии COVID-19. Ранее мы не представляли, может ли дистанционная работа быть продуктивной и насколько, но благодаря вынужденной необходимости ее освоить многое узнали об этом. Мы выяснили что-то новое благодаря отказу от прежних представлений. Если после отмены локдауна мы не возвращаемся в офис, это означает, что выбор формы организации труда теперь имеет для нас смысл.

Такая же ситуация сложилась в 2014 году во время двухдневной забастовки работников лондонского метрополитена. Более 60 % станций были закрыты, и пассажиры были вынуждены искать альтернативные маршруты. Многие выяснили, что ближайшая открытая станция находилась ненамного дальше, чем та, с которой они привыкли отправляться в путь. Речь идет об Англии, поэтому неудивительно, что оба дня были дождливыми, а значит, у людей не было никакого желания идти пешком или ехать на велосипеде. Изучение последствий этого события показало, что, несмотря на кратковременность забастовки, более 5 % пассажиров изменили свои маршруты передвижения. С наибольшей вероятностью это сделали те, кто прежде не осознавал искажений на схеме метро – того, что показанные на ней расстояния между станциями существенно отличаются от реальных. Подсчеты показали, что сменившие маршрут экономили на этом более шести минут в день. При среднем времени поездки на работу около получаса экономия составила 20 % – этого времени вполне хватит на размышления о том, что надеть.

Этот пример показывает, что правила не отличаются гибкостью и не обеспечивают оптимального результата. Так, в мае 2015 года в австралийском городе Перте разразилась трехнедельная ценовая война в розничной торговле бензином, которая для многих не прошла незамеченной. Интересно, что с 2001 года в городе существовала интернет-платформа (а затем и приложение), показывающая цены на разных заправках. Во время описываемых событий важность этой информации сразу же возросла. Исследователи выявили любопытный факт: приложение использовалось на 70 % чаще как в период ценовой войны, так и в течение года после ее окончания. Таким образом, ценовая война послужила достаточным стимулом для того, чтобы люди изменили свою прежнюю привычку не искать самое дешевое предложение и сделали это частью процесса принятия решений.

Дело в том, что, следуя правилам, вы можете не осознавать ценности сбора информации и принятия решения. Эти примеры свидетельствуют о том, что процесс принятия решений содержит скрытые и неиспользуемые ранее преимущества. Поэтому можно предположить, что такие же возможности характерны для некоторых форм прогнозирования с помощью ИИ.

Инвестиции в отказ от принятия решения

Действительно ли Джобс или Обама уклонялись от принятия решений о выборе повседневной одежды? Да, если речь идет о конкретном дне, но не о картине в целом. Если вы собираетесь носить одно и то же каждый день, лучше выбрать что-то подходящее для этой цели. Вы не можете позволить себе купить неудобную вещь, не подходящую для большинства ситуаций. Найти такую одежду нелегко. Скорее всего, каждый из них потратил немало времени на то, чтобы сделать окончательный выбор.

С этой точки зрения правила можно считать не столько способом отказа от принятия решения, сколько, наоборот, способом принятия упреждающего решения. Планируя что-то, мы делаем это постоянно. Мало кто решится отправиться в путь, не забронировав предварительно жилье, не выбрав обратный рейс и не потрудившись упаковать вещи. Опытные путешественники снижают когнитивную нагрузку, заранее готовя «дежурный набор» – туалетные принадлежности и зарядные устройства, предназначенные исключительно для поездок. По сути, это практика управления сроками и частотой принятия решений: на предварительную подготовку надо потратить какое-то время, но это заметно сэкономит издержки впоследствии.

Вкладывая деньги в отказ от принятия решения, взамен вы приобретаете привычки, и отказаться от них достаточно тяжело. Если они эффективны, то вы их даже не замечаете, а значит, не можете улучшить результат с помощью решений. Ценность ИИ в том, что он облегчает принятие решений, вместо которых пока действуют привычки и правила, и его разработчикам предстоит нелегкая борьба на этапе внедрения.

Любые инвестиции медийных лиц в привычку следовать определенному стилю в одежде меркнут по сравнению с вложениями, которые делают большинство предприятий и организаций в непринятие решений. Их операционная модель основана на отказе от принятия решений, хотя они стремятся создать себе совсем другую репутацию. В ее основе лежат стандартные операционные процедуры (СОП). Это подробные документы, описывающие порядок действий в организации. Очевидно, что в разных компаниях они различны, но ни один бизнес без них не обходится.

СОП избавляют от необходимости вновь и вновь изобретать колесо в плане принятия решений, тем самым снижая когнитивную нагрузку и ограничивая возможности личного выбора. Однако помимо этого у них есть еще одно преимущество – надежность. Если сотрудники следуют правилам, не приходится без нужды поддерживать затратные коммуникации – например, проводить совещания.

В строительной отрасли производственный процесс часто разбивается на отдельные этапы. Существует график, в котором перечислены все работы в порядке их выполнения. Их результаты планируются заранее. Каждый работник на стройплощадке думает исключительно о поставленной перед ним задаче. Завершив ее, он должен сообщить об этом, поставить галочку – и двигаться дальше. Бывают исключения, требующие изменений графика и пересмотра работ, но в основном все идет по плану. Каждый выполняет то, что должен, и отмечает выполнение.

Соблюдение этих правил гарантирует надежность, снижающую неопределенность и устраняющую необходимость активно координировать работы. По сути, решения принимаются заранее и отражаются в плане. Но само существование плана подразумевает, что изменения по ходу работ обходятся дорого. Пока возникающие проблемы невелики, все может идти своим чередом. Однако большая проблема может привести к общему срыву. А фиксированный набор СОП может затруднить внесение изменений и адаптацию. Как мы увидим далее, добавление ИИ в эту отлаженную систему правил сразу же вызывает проблемы. Смысл ИИ в том, чтобы дать возможность принимать решения, но после этого координировать их реализацию затруднительно.

Новые решения

Прогноз ИИ достаточно значим, поскольку предоставляет информацию, ценность которой оправдывает принятие решений на его основе вместо того, чтобы следовать правилам.

Новые решения заменяют старые правила. Но старые правила существуют не сами по себе. Чтобы оградить их от все еще существующей неопределенности, возводятся сложные сооружения и строительные леса. Это делают целые предприятия и даже отрасли. Таким образом, возможности для принятия новых решений бывают неочевидными. Задача в том, чтобы осознать это, выявить такие возможности и принять новые решения, способные заменить существующие правила. Далее мы рассмотрим, как это делается.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Правила – это решения, принятые заблаговременно. Принятие решения, в отличие от следования правилу, позволяет учитывать информацию, имеющуюся на момент и в момент принятия решения. Поэтому действия на основе принятых решений часто оказываются лучше, чем действия, обусловленные правилами: они приняты с учетом текущей ситуации. Так почему же мы используем правила, а не принимаем решения? Принятие решений требует больших когнитивных затрат. Когда эти затраты оправдывают себя? Когда последствия принятия решений значительны и когда стоимость информации невелика. Внедрение ИИ не меняет последствий, но снижает стоимость информации.

• Выбор между правилами и принятием решений имеет решающее значение в контексте систем ИИ, поскольку основная польза от ИИ заключается в повышении эффективности принятия решений. ИИ бесполезен в системе, основанной на правилах. Его основная функция – генерировать прогнозы, а они, в свою очередь, составляют ключевой информационный ресурс для принятия решений. По мере того как ИИ становится все более мощным, он снижает стоимость информации (прогнозов) и повышает относительную отдачу от принятия решений по сравнению с использованием правил. Таким образом, развитие ИИ позволит переключиться на принятие решений вместо следования правилам.

• Правила не только требуют меньших когнитивных затрат, но и обеспечивают более высокую надежность. Одно решение часто влияет на другие. В контексте системы со взаимозависимыми решениями надежность имеет огромное значение. Например, в большинстве организаций используются СОП, которые представляют собой не что иное, как свод правил. СОП снижают когнитивную нагрузку и повышают надежность. Если вы собираетесь использовать прогнозирование с помощью ИИ для перехода от правил к решениям, то, возможно, придется перепроектировать систему с учетом снижения надежности.

Глава 5. Скрытая неопределенность

Экономист Джордж Стиглер однажды заметил: «Если вы никогда не опаздывали на самолет, значит, проводите слишком много времени в аэропортах». Эта фраза сказана несколько десятилетий назад, но стал бы он это утверждать сегодня?

Архитекторы, проектировавшие новый, второй терминал южнокорейского аэропорта Инчхон, надеются, что нет. Приехав туда заблаговременно, вы найдете чем заняться вместо того, чтобы просто сидеть и ждать рейса. Можно посетить спа-салон, поиграть в казино, сходить на художественную выставку, посмотреть танцевальный спектакль или покататься на коньках. А еще – отправиться на шопинг, перекусить или поспать в транзитной зоне. Для современных терминалов это не исключение, а норма. В Сингапуре в аэропорту разбит сад с пятиэтажным водопадом, в Дохе есть бассейн и детский развлекательный центр, а в Ванкувере – аквариум. В аэропорту Амстердама регулярно выставляются коллекции произведений искусства из фондов его знаменитых городских музеев.

Архитектурный проект второго терминала в Инчхоне разрабатывала компания Gensler, поставившая перед собой задачу сделать аэропорт «местом назначения»:

Для нового поколения аэропортов терминал не просто перевалочный пункт. Фактически мы сталкиваемся с новой реальностью: из-за требований безопасности пассажиры проводят больше времени в терминалах, что делает эти сооружения жизненно важными для роста доходов и репутации и создает новые возможности для функционирования аэропортов. Следовательно, терминалы все чаще рассматриваются как места назначения, где пассажиры также тратят деньги.

Смиритесь с этим, Стиглер. Вы не можете проводить в аэропорту слишком много времени, если вам это нравится. Вот как сегодня поступают люди:

«Пассажиры проводят в терминалах на час больше, чем десять лет назад», – говорит Том Теобальд, архитектор и директор компании Fentress Architects, специализирующейся на проектировании аэропортов. Он отмечает, что, даже несмотря на значительные перемены в авиаперевозках, нередко в течение этого дополнительного времени люди находятся в аэропортах, построенных в 1960–1970-х годах.

Но что появилось раньше? Аэропорты только сейчас стали восприниматься как «место назначения». Несмотря на то что они остались такими же, как раньше, люди проводят в них больше времени. Это их выбор. Почему? Потому что успеть на свой рейс стало труднее. Приходится стоять в пробках и в очередях к постам контроля, искать место на парковке. Собственно перелеты – это сборы за замену рейса, перебронирование, пересадки и нехватка мест на багажных полках. Попасть на рейс вовремя стало сложнее, а последствия опоздания становятся серьезнее. Даже если в аэропорту нет поля для гольфа с девятью лунками (слетайте в Бангкок и посмотрите), возможно, вам захочется приехать чуть раньше и просто почитать книгу. Тем не менее чем больше удобств, тем легче забыть, зачем вы оказались в аэропорту за час до вылета. Это становится вашим новым правилом.

Задумайтесь, насколько удивительно такое положение дел. С 1992 года на расширение аэропорта Инчхон потрачено 10 млрд долларов. Значительная часть этих расходов направлена на строительство архитектурно сложных и просторных терминалов за пределами зоны безопасности. Но посмотрите на программное заявление: цель аэропорта Инчхон – «обеспечить бесперебойную работу воздушного транспорта». Вы не найдете ни одного аэропорта, где утверждали бы, что занимаются чем-то еще, помимо перевозки людей. И все же архитекторы и проектировщики думают о том, как привлечь в терминалы людей. Более того, в настоящее время около 40 % доходов аэропорты получают не от аэронавигационных сборов; наибольшая доля поступлений – это арендная плата, которую вносят предприятия розничной торговли. Проектировщики выполняют свою работу – повышают доходность аэропортов и в то же время дают пассажирам возможность с пользой провести дополнительное время.

Современные аэропорты – это памятник тому, что мы называем «скрытой неопределенностью». Когда люди не располагают информацией, необходимой для принятия оптимальных решений, например о времени выезда в аэропорт, они устанавливают правила. Изменения в организации авиаперевозок и доставки к месту перелета и обратно сделали предпочтительными правила. Оборотная сторона этих правил – более длительное ожидание. В аэропортах знают, что если ожидание будет неприятным, то и поездки будут неприятными, и вы будете совершать их реже. Поэтому, принимая решение о новых крупных инвестициях в инфраструктуру, там думают не только об увеличении пассажиропотока. Необходимо скрасить ожидание и заодно заработать на этом. Приехав в аэропорт раньше, вы с большей готовностью заплатите за еду или другие развлечения. Точно так же попкорн по завышенной цене все равно пользуется спросом перед сеансом в кинотеатре. Если вы не опаздываете на рейсы и при этом не замечаете издержек, связанных с выполнением того или иного правила, то и не почувствуете его бремени. Неопределенность отходит на второй план, и в результате на свет появляются сверкающие новые здания с удивительными пятиэтажными водопадами.

В предыдущей главе мы выяснили, что следует внимательно изучить правила и посмотреть, можно ли заменить их решениями, использующими ИИ для учета факторов неопределенности вместо того, чтобы пренебрегать ими. В этой главе мы покажем, что замене новыми решениями на основе ИИ подлежат не только сами по себе правила, но и искусственные приемы, применяемые для сокрытия остающейся неопределенности, которая создает ощущение их неэффективности. Они не только свидетельствуют о новых возможностях для ИИ, но и демонстрируют их масштабы. Действительно, некоторые очень простые способы применения ИИ обещают полностью изменить наши представления об аэропортах.

Аэропорты в альтернативной вселенной

Прежде чем рассматривать угрозу, которую ИИ-прогнозирование может представлять для аэропортов, следует отметить, что альтернативные представления об одном и том же предмете существуют везде и всегда. В качестве примера можно привести альтернативную вселенную очень и очень богатых людей. Они не летают коммерческими рейсами, поэтому им не приходится иметь дела ни со старыми, ни с новыми терминалами общественных аэропортов. Такие пассажиры проходят через частные терминалы, и перевозят их частные самолеты. Как правило, с представлением об очень богатых людях неразрывно связаны блеск, гламур, хорошие рестораны и художественные галереи. Но в мире аэропортов частные терминалы выглядят весьма скромно. В их благоустройство не инвестируют, потому что богатые не мучатся от той самой неопределенности, которая так тревожит всех нас. Если вы летите коммерческим рейсом, то связаны расписанием. Экипаж не будет ждать опоздавших пассажиров. У частных самолетов расписание более гибкое или вообще отсутствует.

Если богатые пассажиры опаздывают, без них рейс не состоится. Если они приходят раньше, то самолет взлетает незамедлительно. Система основана на отсутствии ожидания – по крайней мере со стороны пассажиров. А это значит, что нет никакой необходимости вкладывать средства в то, чтобы сделать ожидание более приятным. В то же время у богатых людей нет правил относительно того, когда следует отправляться в аэропорт. Они выезжают, когда хотят. Если бы это могли себе позволить больше людей, то, конечно, оптимальный терминал был бы скорее лаконичным, чем сложно устроенным.

Однако не обязательно быть миллионером, чтобы увидеть эту альтернативную вселенную. Достаточно просто сравнить зону вылета с зоной прибытия. Если последняя обособлена, то она выглядит по-спартански. Прибывшие пассажиры найдут здесь несколько скромных закусочных, но все остальное предназначено для того, чтобы люди могли быстрее покинуть аэропорт. Здесь важнее, насколько близко расположены автостоянки и стоянки такси, даже если вы не торопитесь. Помните ли вы о зоне прибытия в привычном вам аэропорту хоть что-то, кроме желания скорее оттуда выйти?

Чем ИИ угрожает аэропортам

Аэропортам не чужд искусственный интеллект. Системы управления воздушным движением на основе ИИ позволяют лучше прогнозировать прибытие и загрузку воздушных судов. В аэропорту Эйндховена (Нидерланды) испытывают новую систему обработки багажа с использованием ИИ, которая позволяет пассажирам просто фотографировать свои сумки, сдавать их и забирать в пункте назначения – без всяких бирок. При соблюдении требований конфиденциальности предполагается таким же образом идентифицировать пассажиров. Все это поможет вам быстрее сесть на свой самолет.

Однако здесь не учитываются ключевые факторы неопределенности: безопасность и дорожное движение. Правда, в отношении последнего перемены уже наступили. Навигационные приложения, например Waze, учитывают дорожную обстановку и обоснованно оценивают время, необходимое для того, чтобы добраться до любого аэропорта в зависимости от времени суток. Такие программные продукты неидеальны, но они постоянно совершенствуются.

Эти приложения освобождают пассажиров от правил, определяющих, когда нужно отправляться в аэропорт. Можно просто добавить время вылета в электронный календарь, а приложение подскажет оптимальное время выхода из дома и соответствующим образом спланирует поездку. Более того, в ближайшем будущем будет учитываться такой фактор неопределенности, как фактическое время вылета рейса. Вместо того чтобы ориентироваться на расписание, приложение будет сообщать, когда следует выезжать в аэропорт с учетом фактического времени вылета рейса. Опять же, некоторая неопределенность остается, но переход к уточненной информации от полного ее отсутствия может сэкономить часы ожидания. Аналогичным образом многие пользователи Uber, которые раньше считали, что им не важно знать прогнозируемое время прибытия такси, теперь называют эту информацию одной из самых ценных функций сервиса. В Uber для такого прогнозирования используется ИИ.

ИИ также может предсказывать время ожидания в очереди к пункту предполетного досмотра. Если сложить все это, то можно использовать ИИ для принятия решения о времени выезда в аэропорт, а не полагаться на правила. Как всегда, найдутся те, кто ухватится за эту возможность раньше других. В Инчхоне и многих других аэропортах есть чем заполнить время ожидания рейса, поэтому, возможно, вам уже не так важно принимать взвешенное решение.

У разработчиков навигационного приложения с ИИ или генератора, прогнозирующего время вылета рейсов, нет прямой заинтересованности в доходах от коммерческой деятельности аэропортов. Однако ценность их ИИ-приложений в решающей степени зависит от того, сколько людей не хотят проводить много времени в терминале. Таким образом, если в настоящее время ожидание в аэропортах становится менее затратным, ценность этих приложений снижается.

Другое дело – прогнозирование времени в очереди на досмотр. В аэропортах утверждают, что хотят его сократить и снизить связанную с этим неопределенность. Но мы, как экономисты, считаем, что здесь их интересы и желания пассажиров не совпадают. Да, чем быстрее пройдет проверка, тем дольше человек пробудет потом в терминале. Но если пассажир знает, что досмотр пройдет быстро, то и в аэропорт он может приехать чуть позже. Нужно ли в таком случае устранять контролируемую неопределенность, если учесть, что ИИ помогает пассажирам ослабить влияние другого фактора – времени, проведенного в дороге до аэропорта?

Правила размещения

В глобальном смысле речь идет не об аэропортах, а о правилах. Правила возникают потому, что неопределенность дорого обходится, но они создают собственный набор проблем.

Известен принцип, названный в честь предложившего его писателя и исследователя интернета Клэя Ширки: «Любая организация стремится сохранить проблему, для решения которой она создана». То же самое можно сказать и о бизнесе. Если ваш бизнес предоставляет услуги людям, ожидающим самолет, какова вероятность того, что вы постараетесь сократить время ожидания рейса?

Если вы хотите найти возможности, чтобы принимать новые решения с помощью ИИ, надо выйти за рамки, защищающие правила от последствий неопределенности. Также необходимо обдумать меры, которые позволят сократить затраты на следование правилам или снизить вероятность неблагоприятных последствий их соблюдения.

В качестве примера приведем давний способ защиты, применяемый фермерами в Англии, – живые изгороди. Тщательно спланированные ряды деревьев и кустарников с густыми кронами разграничивают земельные наделы. Очень удобно, если вы на своем поле выпасаете скот и не хотите нанимать пастуха. Это также полезно, если надо уберечь почву от размывания во время дождей или защитить посевы от сильного ветра. Учитывая количество рисков, устраняемых живыми изгородями, неудивительно, что от их названия³ образован термин «хеджирование», которое известно всем, кто сталкивался со страхованием от финансовых рисков.

Однако у использования живых изгородей есть и другая сторона. Разделяя сельскохозяйственные угодья, они делают невозможным использование некоторых агротехнических приемов, включая механизацию, которые эффективны только на больших площадях. После Второй мировой войны британское правительство фактически субсидировало вырубку живых изгородей, хотя в некоторых случаях это делалось без учета их роли в управлении рисками. Сегодня развернуто движение за восстановление живых изгородей, которое возглавляет принц Уэльский.

Во многих ситуациях дорогостоящие инвестиции призваны уберечь от риска человека, принимающего решение. Автомагистрали обнесены ограждениями, чтобы предотвратить падение автомобилей с насыпей, холмов или выезд на встречную полосу. К счастью, такие ситуации нечасты и барьеры «простаивают», но без них дороги были бы недостаточно безопасными. Ведь за рулем сидят люди, а они склонны к ошибкам.

В более общем случае строительные нормы и правила точно определяют меры по защите тех, кто находится в здании, от вероятных рисков. К таким угрожающим событиям относятся пожар, проблемы с фундаментом, а также повреждения из-за погодных условий и других природных катаклизмов, например землетрясений.

У этих защитных мер есть кое-что общее: обычно они влекут за собой решения, выглядящие избыточными. Они рассчитаны на специфические ситуации – ураган, который бывает раз в жизни, или наводнение, которое случается раз в столетие. Когда такие события происходят, инженерные решения выглядят оправданными. Но если их нет, то возникают сомнения. В течение многих лет авторы книги «Фрикономика» Стивен Левитт и Стивен Дабнер указывали на то, что спасательные жилеты и плоты на самолетах, не говоря уже о демонстрации их применения, не что иное, как напрасные затраты, если вспомнить о том, как мало самолетов успешно садилось на воду. Но в 2009 году капитан Салленбергер посадил самолет US Airways с неработающими двигателями на реку Гудзон. Оправдывает ли этот пример маловероятного события комплектацию самолетов спасательными жилетами? Трудно сказать. Но нельзя делать вывод, что вероятность некоторого события равна нулю только потому, что мы с ним не сталкивались.

Однако основная мысль Левитта и Дабнера такова: хотя при использовании мер защиты нередко можно оценить вероятность возникновения основной неопределенности с течением времени, но невозможно определить, чрезмерны ли инвестиции в ее снижение, поскольку сама стратегия управления рисками обесценивает эту информацию. Вполне возможно, что слишком много средств тратится на устранение рисков, по другим причинам уже утративших актуальность.

Тепличная система

Аэропорт может показаться потрясающим местом, где ИИ устраняет издержки неопределенности. Но и в вашей деятельности иногда таятся такие же возможности. Выявление скрытой неопределенности и машинное прогнозирование для принятия новых решений способны полностью изменить ваш способ ведения бизнеса. Выращивание сельскохозяйственных культур сопряжено с неопределенностью, в основном связанной с погодой. Если она слишком жаркая, слишком холодная, слишком ветреная, слишком влажная или, напротив, сухая, то урожайность будет низкой. В результате вы, возможно, захотите перенести свой агробизнес в помещение, чтобы контролировать климатические условия. Вот только растениям необходим свет. Поэтому появилась теплица – помещение для выращивания сельскохозяйственных культур, куда по-прежнему попадает солнечный свет. А все остальное – температуру, влажность и орошение – контролирует фермер. Такой контроль обходится недешево. Отопление, охлаждение и дополнительное освещение требуют затрат энергии – правда, ее потребление предсказуемо и поддается регулированию.

Однако проблема в том, что не только сельскохозяйственные культуры любят идеальный климат. В нем также процветают вредители. В парнике тля, мошки, черви, клещи и другие насекомые растут и размножаются быстрее, чем на открытом воздухе. В штате Массачусетс существует руководство по управлению теплицами, треть которого посвящена борьбе с вредителями. Именно на нее фермеры тратят немалую часть времени. Они осматривают растения, отводят застоявшуюся воду, стерилизуют инструменты и применяют пестициды. Значительная часть работы по управлению теплицами приходится на защиту от проникновения насекомых или уничтожения уже обосновавшихся вредителей.

ИИ способен помочь в этом деле. Ecoation – один из стартапов, использующих ИИ для борьбы с вредителями в теплицах. По сути, это организованная разведка. Человек-оператор управляет машиной в теплице. Системы машинного зрения генерируют прогнозы о возможных очагах заражения и зонах риска. Благодаря этому фермер получает актуальные рекомендации, где надо использовать пестициды или другие средства. Эти данные также позволяют ИИ спрогнозировать, насколько теплица будет заражена насекомыми в течение недели. Этого времени хватит, чтобы заказать, получить и применить нужные пестициды. Основное преимущество – экономия: ИИ гарантирует, что средства для борьбы с вредителями всегда будут под рукой вовремя и в необходимом объеме. Именно так Ecoation и продвигает свои услуги в настоящее время. Но если взглянуть на предложенную компанией систему в целом, то можно увидеть и другие преимущества. Фермеры придерживаются множества правил, которые сводят к минимуму проблемы с вредителями: определенным образом задают климатические условия, высаживают устойчивые к воздействию насекомых сорта, ставят небольшие теплицы, чтобы было удобнее делать обход, и так далее. Возможность отступления от этих правил имеет реальную ценность. Если прогноз ИИ, касающийся заражения вредителями, станет точнее, то многое в эксплуатации теплиц изменится. Фермеры смогут выращивать более уязвимые сорта и культуры, а также расширять теплицы. Вероятно, появятся альтернативные стратегии экономии энергии. Если компании, подобные Ecoation, добьются успехов в борьбе с вредителями, то мы сможем заменить существующие правила и построить новую систему. В сельском хозяйстве, как и в аэропортах, ИИ позволит перейти от правил к решениям.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Не только сами правила представляют собой объект для принятия решений с помощью ИИ, но и искусственные конструкции, созданные для маскировки неопределенности, которая приводит к напрасной трате средств и неэффективности принятых правил.

• Современные аэропорты – это пример дорогостоящих искусственных конструкций, предназначенных для маскировки неопределенности. Основной источник неопределенности – это возможные задержки, связанные с движением транспорта и обеспечением безопасности. Новые роскошные аэропорты призваны помочь людям забыть о том, что они подчиняются правилам, заставляющим их прибывать в аэропорт задолго до запланированного вылета.

• В теплицах прогнозирование заражения вредителями с помощью ИИ можно использовать для повышения эффективности борьбы с ними. Это точечное решение. Если ИИ для прогнозирования заражения вредителями станет достаточно эффективным, то вместо использования в качестве точечного решения он обеспечит изменения на уровне системы. Конструкция теплицы и процесс ее эксплуатации зависят от риска заражения вредителями. Имея надежный инструмент прогнозирования, фермеры могут выращивать другие (более чувствительные к вредителям) культуры, эксплуатировать теплицы большей площади и применять новые альтернативные стратегии энергосбережения.

1.Русский перевод опубликован издательством «Манн, Иванов и Фербер» в 2019 году. Прим. ред.

2.Национальный научный фонд (National Science Foundation – NSF) – независимое агентство при правительстве США, занимающееся поддержкой научных исследований и технологических разработок. Прим. ред.

3.Англ. hedgerows – «живая изгородь». Прим. пер.

Pulsuz fraqment bitdi.