Kitabı oxu: «Душа машины. Радикальный поворот к человекоподобию систем искусственного интеллекта»

Глава 1. Интеллект

Больше человеческого, меньше искусственного

«Могут ли машины мыслить?»

Именно так Алан Тьюринг начал свою знаменитую статью «Вычислительные машины и разум», опубликованную в 1950 году⁶. С тех пор было много споров о «тесте Тьюринга»: может ли компьютер заставить нас поверить, что он человек? Сам Тьюринг никогда не утверждал, что компьютеры действительно способны думать. Однако это не помешало писателям-фантастам и простым обывателям представлять – обычно с ужасом – машины, наделенные человеческим сознанием.

Это не про нас.

Тотальное очеловечивание, которое мы сейчас наблюдаем в развитии искусственного интеллекта, заключается не в воспроизведении человеческого сознания. Речь идет о решении проблем путем использования самых мощных когнитивных характеристик человека, усиленных вычислительными мощностями современных компьютеров. Это ведет нас не к господству машин, а к появлению более полных, эффективных, доступных и инновационных средств для решения социальных проблем и задач, стоящих перед коммерческими компаниями.

«И малое дитя будет водить их»

⁷

Любой машине, управляемой искусственным интеллектом, очень далеко до той легкости и эффективности, с которой даже малые дети учатся, понимают и воспринимают контекст. Если вы случайно уроните карандаш и годовалый ребенок увидит, как вы тянетесь за ним, он подберет его и подаст. Бросьте его специально – и ребенок проигнорирует это⁸. Другими словами, даже груднички понимают, что у других людей есть намерения – выдающаяся когнитивная способность, которая, кажется, по умолчанию предустановлена в человеческий мозг.

Но это еще не все. С самого раннего возраста у детей развивается интуитивное «чувство физики»: они начинают предугадывать, что предметы будут двигаться по плавным траекториям, не исчезнут сами по себе, что без опоры они упадут и что с ними нельзя взаимодействовать на расстоянии. Еще не научившись говорить, малыши отличают одушевленных существ от неодушевленных предметов. По мере освоения языка они проявляют замечательную способность к обобщению на основе очень небольшого ряда: им достаточно одного-двух примеров, чтобы понять значение нового слова⁹. А еще дети самостоятельно, путем проб и ошибок, учатся ходить.

Искусственный интеллект может делать многое из того, что от природы наделенные разумом люди считают невозможным или трудновыполнимым. Например: обнаруживать закономерности в огромных массивах данных; побеждать величайших шахматистов и чемпионов игры в го; запускать сложные производственные процессы; эффективно обслуживать клиентов в чатах и кол-центрах; анализировать изменения погоды, состояние почвы и спутниковые снимки, чтобы помочь фермерам повысить урожайность; сканировать миллионы интернет-изображений для борьбы с эксплуатацией детей; выявлять финансовые мошенничества; прогнозировать запросы потребителей; персонализировать рекламу и многое другое.

Автоматизация таких задач выходит за рамки не только возможностей человека, но и традиционной логики процедурного программирования. Самое главное, что искусственный интеллект позволил людям и машинам дополнять друг друга, превращая механистические процессы в высокоадаптивные, органичные и ориентированные на человека виды деятельности. Вопреки опасениям противников автоматизации, такое сотрудничество создает множество новых высокооплачиваемых рабочих мест¹⁰.

Неудивительно, что внедрение искусственного интеллекта стремительно набирает обороты во всех отраслях по всему земному шару. Согласно проведенному в 2019 году опросу, компании планировали в 2020 году удвоить число связанных с искусственным интеллектом проектов, а к 2022-му реализовать по 35 проектов в этой области или области машинного обучения¹¹. Для сравнения: в 2019 году таких проектов было в среднем 14 на компанию.

Что ускоряет внедрение? В производстве используются новые модели искусственного интеллекта. Специализированное аппаратное обеспечение расширяет их возможности и помогает быстрее получать результаты обработки больших массивов данных. Упрощенные и меньшие по размеру инструменты позволяют ИИ работать практически на любом устройстве. Облачные сервисы обеспечивают доступ к ИИ-ресурсам из любой точки планеты и дают возможность масштабировать модели в соответствии с нуждами бизнеса.

Необходимость интегрировать данные из многих источников, решать сложные задачи бизнеса и компьютерной логики, а также конкуренция, заставляющая придавать данным более удобную для пользователей форму, ускоряют внедрение искусственного интеллекта. И конечно, оказалось очень велико влияние пандемии.

Наше недавнее исследование показало: более чем три четверти крупных компаний реализуют инициативы по глубокому обучению¹². Глубокое обучение – это мощная подгруппа методов машинного обучения. В его основе лежат нейросети, состоящие из простых нейроноподобных блоков обработки данных, вместе выполняющих сложные вычисления. Работающий по этому принципу искусственный интеллект должен обучаться методом «снизу вверх» на огромном массиве данных и нередко для более тонкой настройки использовать дополнительные данные. Но этот «жадный до данных» подход имеет существенные ограничения – по мощности, доступности и устойчивости, как мы увидим в следующей главе.

Между тем на переднем крае исследований природа машинного интеллекта становится абсолютно человеческой – менее искусственной и более разумной, походящей не на беспилотный автомобиль, который нужно кропотливо тренировать, а на человеческого младенца, обладающего удивительно эффективной способностью к обучению.

Все это должно заставить топ-менеджеров задуматься о расходах на технологии в ближайшие три-пять лет. С одной стороны, стоящие перед глубоким обучением проблемы огромны и для многих компаний непреодолимы. С другой – глубокое обучение дало так много открытий и ценных результатов, что в ближайшее время оно не уйдет из практики. Согласно планам участвовавших в нашем опросе компаний, эти технологии из разряда необязательных перешли в необходимые.

Однако поиски искусственного интеллекта, наиболее близкого к человеческому, откладывались несколько десятилетий. Теперь же они обрели новую жизнь в попытках преодолеть ограничения нынешних подходов к интеллекту. Для высших руководителей это преодоление начинается с понимания имеющихся ограничений.

Проблема с интеллектом

Авторы MIT Technology Review проанализировали исследования в области искусственного интеллекта за последние 25 лет (а это 6625 научных работ) и пришли к выводу: глубокое обучение, доминировавшее в этой области последние десять лет, может пойти на спад¹³. Однако оно не исчезнет – останется мощным инструментом для решения некоторых узкоспециальных задач.

Оно будет важным элементом в широком спектре сложных методов, которые в машинном интеллекте склонят чашу весов в пользу человеческого, а не искусственного. Но идея, что глубокое обучение – если ему только дать достаточно времени и скормить достаточно данных – приведет нас к созданию всеобъемлющего искусственного интеллекта, выглядит все менее вероятной.

Многие системы искусственного интеллекта не так уж и умны

Начнем с того, что системы глубокого обучения по необъяснимым причинам часто заходят в тупик. Рассмотрим, как искусственный интеллект распознает объекты на изображениях, – в последнее время это один из самых успешных примеров его применения, хотя с 2017 года прогресс здесь незначительный.

Проект ImageNet, поддерживаемый Стэнфордским университетом, представляет собой общедоступную базу вручную аннотированных изображений из более чем 14 миллионов экземпляров более чем 20 тысяч категорий. Этот массив данных использовался для обучения многих знакомых нам инструментов для идентификации изображений – таких, как Bing от Microsoft, например.

Однако около 7500 реальных фотографий, собранных исследователями, сбивают с толку современные системы компьютерного зрения (так, бегущий юноша на фото был принят за одноколесный велосипед), и при использовании подобных изображений точность падает с 95 до 2 %¹⁴. То есть отдельные из самых мощных в мире систем компьютерного зрения правильно идентифицируют эти изображения только в двух случаях из ста. А когда на кону не просто корректная классификация, а подлинное распознавание объекта, как в случае с управляемыми искусственным интеллектом автомобилями или дронами, неудачи могут иметь фатальные последствия.

Проблема черного ящика и работа сложных систем

Системы искусственного интеллекта часто используют при принятии важных решений. Кому одобрят кредит? Кого возьмут на работу? Кто получит условно-досрочное освобождение? На какой срок человек попадет в тюрьму? Почему беспилотный автомобиль совершает опасный маневр? Каким именно образом реклама компании распространяется в социальных сетях? И так далее. Однако многие из этих систем (особенно те, которые используют глубокое обучение) непрозрачны.

Невозможно объяснить, как алгоритмы, работающие с огромным количеством параметров и множеством хитросплетенных уровней абстрагирования, делают те или иные выводы. А ведь они иногда могут обернуться катастрофой – приводить к расовой дискриминации в сфере кредитования и судебных решений по уголовным делам, к чудовищным ДТП или к тому, что онлайн-реклама уважаемых брендов появится рядом с неонацистским или конспирологическим контентом.

Стремление сделать искусственный интеллект объяснимым, законодательно закрепленное в Общем регламенте Европейского союза о защите данных, вызывает вопрос: объяснимым для кого? Трактовки ищут разные заинтересованные стороны. А трудности возникают даже при использовании относительно простой системы оценки кредитного риска¹⁵.

Разработчики программного обеспечения и системные администраторы хотят получить разъяснение с точки зрения архитектуры и параметров обработки данных. Опытному кредитному специалисту, принимающему окончательное решение, возможно, понадобится информация о том, как система учитывала разные факторы, выдавая рекомендацию. Заявитель хочет понять, почему ему отказали: из-за возраста, расы, места проживания, плохой кредитной истории?

Регулятору важно быть уверенным, что система не нарушает конфиденциальности данных и антидискриминационных законов и что она неуязвима для финансовых мошенников. Неспециалист, размышляющий о проблеме черного ящика в целом, может захотеть узнать, зачем кому-то создавать машину, действий которой он не понимает.

Системы глубокого обучения не умеют читать

Мы можем собрать все книги мира в огромную базу данных с возможностью поиска (как в Google Books) и разработать программы машинного чтения, чтобы обнаружить все присутствующие виды взаимосвязей. Но ни одна из существующих систем искусственного интеллекта не может читать и понимать прочитанное даже на уровне маленького ребенка.

Исследователи Гэри Маркус и Эрнест Дэвис задали сервису Google Talk to Books простой вопрос: «Где Гарри Поттер встретил Гермиону Грейнджер?» Ни один из двадцати предложенных ответов не относился к книге «Гарри Поттер и философский камень» и ни в одном не содержалось информации, где же произошла встреча¹⁶.

Смартфоны могут относительно хорошо исправлять опечатки или предлагать следующее слово в предложении. Программы-переводчики выдают вполне сносные переводы со многих языков. Но ни одно из этих приложений – как и никакие другие – не дает базовых знаний, чувства контекста и бесчисленных предположений о реальности, необходимых для понимания прочитанного.

Им не хватает базовых знаний

А именно: понимания пространства, времени и причинно-следственных связей – того, чему люди, подобно младенцу, достающему карандаш, научаются без видимых усилий¹⁷.

Возьмем причинно-следственные связи – важнейший компонент рационального мышления. Во многом успех глубокого обучения был обусловлен мощной способностью находить корреляции, например между совокупностью симптомов и конкретным заболеванием. Но корреляция – это не причинно-следственная связь. Если бы машины понимали, что одно является следствием другого, их не нужно было бы переучивать под каждую новую задачу¹⁸. Вместо этого они могли бы применять свои знания из одной области к другим областям.

Будущее радикально человеческого интеллекта

Несмотря на достижения когнитивной психологии и нейронаук, мы так и не знаем, каким образом человеческий мозг с его очень ограниченными вычислительными ресурсами творит удивительные вещи. Нам в целом известно, что представляют собой некоторые из основных структурных блоков человеческого разума, и первопроходцы начинают создавать их машинные аналоги.

Авторы работы «Создание машин, которые учатся и думают как люди», основополагающей в этом новом направлении в развитии машинного интеллекта, считают: «До тех пор, пока естественный интеллект остается непревзойденным, реверсивный инжиниринг¹⁹ человеческих решений для сложных вычислительных проблем будет продолжать информировать и развивать искусственный интеллект»²⁰.

Вопрос уровня топ-менеджеров: какие из описанных ниже когнитивных способностей, более похожих на человеческие, актуальны для создания ценности и предоставления ее клиентам в их бизнесе?

Обобщение в условиях реального мира

Пока теоретики яростно спорят о глубоком обучении и некой идеальной версии искусственного интеллекта, способной сделать его похожим на человеческий, практики действуют. Они используют все дисциплины ИИ как средство поиска новых перспектив, расширяющих возможности и увеличивающих производительность машин.

Рассмотрим в качестве примера грядущее поколение логистических и складских роботов, созданных по технологии, которая может оказать огромное влияние на деятельность и прибыль компаний во многих отраслях. В автоматизированных центрах обработки и выполнения заказов с многокилометровыми складскими стеллажами роботы выполняют большую часть тяжелой работы и начальные этапы комплектации.

Но автоматизированные системы сталкиваются с сотнями тысяч артикулов, которые часто меняются. А значит, либо эти системы должны быть разработаны для подбора определенной категории товаров, либо их придется обучать подбору каждого товара. Но тогда при добавлении новых товаров их необходимо будет вносить в систему вручную, что крайне нерационально.

Именно поэтому складские работники во многих отношениях превосходят нынешнее поколение роботов-сборщиков. Людей не нужно переучивать под каждый новый товар. Они могут обобщать свой опыт, легко отличать один объект от другого и быстро определять, как лучше обращаться с предметом, чтобы его не повредить. Но центры обработки заказов, нацеленные на доставку в тот же день или даже в течение часа, страдают от текучки кадров и ограничений в объеме и скорости работы, связанных с человеческими возможностями.

Немецкая компания Obeta, занимающаяся оптовыми продажами электроники, совместно с австрийской логистической компанией KNAPP AG запустила на своих складах новое поколение роботов-сборщиков, способных менять правила игры. От предыдущих поколений их отличает искусственный интеллект от Covariant – стартапа, основанного робототехниками из Калифорнийского университета в Беркли и исследовательской лаборатории Open AI.

Благодаря ИИ от Covariant роботы обучаются 3D-восприятию, пониманию физических возможностей объектов, планированию движения в реальном времени, а также методу «на раз-два-три»: освоению задачи в результате выполнения нескольких тренировочных примеров. Наличие общих способностей позволяет роботам быстро научиться манипулировать объектами без команд извне²¹. Задача роботов заключается в том, чтобы выбрать товары на оптовом складе и добавить их в индивидуальные заказы для отправки.

Один из посетителей штаб-квартиры Covariant описал технологию в действии: «Я наблюдал, как три разных робота мастерски собирают заказ из всевозможных товаров. За считаные секунды алгоритм анализирует положение предметов, рассчитывает угол атаки и последовательность движений, а затем вытягивает руку, чтобы захватить товар с помощью присоски. Он движется уверенно и точно, меняя скорость в зависимости от хрупкости покупки»²².

В роботах используются готовый промышленный манипулятор, захват с присоской и система технического зрения. Система технического зрения соединена с захватом с помощью Covariant Brain – программной платформы, не зависящей от аппаратного обеспечения. Она призвана стать универсальным искусственным интеллектом для роботов в любой клиентской среде – единой нейросетью, способной адаптироваться к разнообразным условиям.

«Наша система делает выводы об объектах, которые никогда раньше не встречала. Видеть полную картину и понимать, как взаимодействовать с отдельными предметами, включая совершенно незнакомые, – это человеческая способность и это, по сути, общий интеллект, – говорит Питер Эббил, один из основателей компании. – Такое обобщенное понимание того, что находится в корзине, является ключом к успеху. В этом разница между традиционной системой, где вы заранее каталогизируете все товары и пытаетесь их распознать, и складами, где у вас много артикулов и постоянно появляются новые»²³.

Назвать эту систему гибридной вряд ли справедливо по отношению ко всем техникам, которые использовались для наделения ее способностью к обобщению. Covariant использует широкий спектр методов, включая имитационное обучение и обучение с подкреплением.

Например, чтобы обучить робота взаимодействовать с новым набором предметов, их раскладывают перед ним и смотрят, сумеет ли он правильно сориентироваться. В случае неудачи робот может обновить свое представление о том, что он видит, и попробовать другие подходы. Добиваясь успеха, он получает вознаграждающий сигнал, который подкрепляет обучение.

Когда набор артикулов совсем ни на что не похож, Covariant вынужден вернуться к обучению с учителем – сбору и маркировке большого количества новых обучающих данных, как в системах глубокого обучения.

Чтобы добиться успеха в коммерческой среде, роботы должны работать на очень высоком уровне. Ранее роботы-сборщики KNAPP надежно обрабатывали около 15 % объектов; теперь же, оснащенные технологией Covariant, они справляются с 95 % объектов²⁴. За час робот собирает около 600 объектов, а человек – 450. И тем не менее в компании Obeta не сократили ни одного сотрудника.

По словам Питера Пухвайна, вице-президента по инновациям компании KNAPP, персонал прошел переподготовку, чтобы лучше разбираться в робототехнике и компьютерах²⁵. Тем временем компания Covariant собирается развивать платформу Brain, чтобы использовать роботов в производстве, сельском хозяйстве, гостиничном бизнесе, на промышленных кухнях и в конечном счете в домах людей.

Выживает сильнейший алгоритм

Нерелевантные результаты поиска – вечная головная боль для интернет-магазинов вроде Zappos. Запросы могут иметь несколько разных значений для поисковой системы сайта, поэтому получить точные результаты порой непросто. Потенциальные клиенты, подбирающие туфли к платью определенного стиля и получающие платья вместо туфель, вскоре от этого устанут и перейдут к конкурентам. Чтобы решить эту проблему, Zappos сталкивает алгоритмы друг с другом в цифровой игре «Выживший».

Эти так называемые генетические алгоритмы, по сути, являются алгоритмами рандомизированного поиска, имитирующими механику естественного отбора. В этом процессе человек, наткнувшись на полезные результаты, использует их, – например, оптимизирует маршруты доставки или проектирует легкие, но прочные конструкции.

Генетические алгоритмы были впервые представлены в 1960 году Джоном Холландом, крупным ученым в области психологии, электротехники и информатики, но применять их стали лишь недавно: раньше не хватало вычислительных мощностей. Компания Zappos начала экспериментировать с генетическими алгоритмами в 2017 году.

В то время на сайте компании ежемесячно появлялось около миллиона уникальных поисковых запросов. Поисковая система должна была сопоставить эти запросы с более чем 100 000 позиций в каталоге²⁶. Генетические алгоритмы моделируют процесс естественного отбора – по Дарвину. Система Zappos, например, создает алгоритмы, которые определяют смысл поисковой фразы.

Один алгоритм рассматривает в определенной фразе как сильный сигнал слово «платье». Конкурирующий алгоритм в этом же запросе уделяет больше внимания другим словам. «Тест на релевантность», имитирующий поведение пользователей, вознаграждает победителя и передает его черты следующему поколению. Алгоритм, который лучше всех справился с поставленной задачей, и начинает работать на сайте, пока его не заменят более эффективным. Таким образом, поисковая система постоянно совершенствуется.

Менее чем через год использования технологии генетических алгоритмов компания обнаружила, что клиенты быстрее совершают покупки и применяют меньше фильтров: покупателям не приходится постоянно переформулировать запросы для уточнения поиска. По словам Амина Казеруни, ведущего специалиста по обработке данных в Zappos, «в конце концов, это не постоянные расходы: подключил – и работает»²⁷.

Прогнозы все точнее

Люди регулярно и часто без особых усилий перебирают вероятности и, даже имея относительно небольшой опыт, действуют в соответствии с наиболее возможными из них. Сейчас специалисты обучают машины подражать рассуждениям с помощью вероятностных моделей, основанных на гауссовских процессах; такие модели позволяют действовать в условиях значительной неопределенности, работают с разреженными данными и обучаются на опыте.

Около десяти лет назад компания Alphabet, материнская компания Google, запустила в регионах мира, слабо охваченных интернетом, проект Loon. Это было сделано с помощью системы гигантских аэростатов, размещенных в стратосфере²⁸. Их навигационные системы использовали гауссовские процессы для определения траектории оптимального движения среди разных слоев порывистых и изменчивых воздушных потоков. Каждый шар перемещался в воздушный поток нужного направления, таким образом из аэростатов формировалась большая коммуникационная сеть.

Воздушные шары могли не только делать достаточно точные прогнозы на основе прошлых полетов, но и анализировать новые данные прямо в воздухе, корректируя с их учетом свежие прогнозы.

Компания Alphabet завершила эксперимент в начале 2021 года, однако использование гауссовских процессов имеет большие перспективы. Стартап Secondmind разработал продукт Decision Engine, основанный на вероятностном моделировании с помощью гауссовских процессов. С помощью этой платформы японский автоконцерн Mazda смог улучшить настройку двигателя, используя в тысячу раз меньше данных, чем требуется обычным современным системам²⁹.

Некоторые эксперты считают, что использование гауссовских процессов для работы с небольшими объемами данных может ускорить создание автономного искусственного интеллекта. «Чтобы создать действительно независимое средство, нужно научить его очень быстро адаптироваться к меняющимся внешним условиям, – говорит Вишал Чатрат, генеральный директор стартапа Secondmind, занимающегося искусственным интеллектом. – То есть обучаться, эффективно используя данные»³⁰.

Гауссовские процессы не требуют огромного количества данных для распознавания закономерностей. Вычисления, необходимые для выводов и обучения, относительно просты, а если что-то пойдет не так, причину этого можно будет отследить, чего не скажешь о черных ящиках нейросетей.

Уже ближе к причинно-следственной связи

Искусственный интеллект хорошо умеет выявлять взаимосвязи и делать на их основе ценные прогнозы. Например, компания GNS Healthcare из Кембриджа, занимающаяся точной (персонализированной) медициной, использует алгоритмы причинно-следственных связей, чтобы помочь крупнейшим фармацевтическим компаниям мира понять не только кто именно из пациентов реагирует на те или иные препараты, но и почему.

Используя байесовские методы, их программная платформа переводит данные в каузальные (причинные) модели. Это позволяет определить, какие переменные в наборе данных оказывают максимальное влияние на другие переменные, улучшить качество проверки лекарственных препаратов, ускорить их апробацию и лучше спрогнозировать риски для пациентов.

В одном из исследований компания GNS совместно с Альянсом клинических испытаний в онкологии поставила задачу определить предикторы (прогностические параметры) для группы пациентов с метастатическим колоректальным раком (мКРР)³¹. Это один из самых распространенных видов рака в США: ежегодно диагностируется около 140 000 новых случаев.

В исследовании использовалась платформа на основе ИИ, учитывающего причинно-следственные связи; с ее помощью был проведен анализ клинических данных более чем 2000 пациентов с мКРР. Исследователи хотели выявить биомаркеры пациентов на разные лекарственные препараты и предикторы общей выживаемости среди определенных подгрупп пациентов.

«Мы никогда не были в лучшем положении, чтобы разгадать движущие силы заболевания и реакции пациентов на конкретные препараты, – говорит Колин Хилл, председатель совета директоров, генеральный директор и соучредитель GNS. – Мы создали компьютерную модель пациента с колоректальным раком и смогли обнаружить биомаркеры, показывающие, какие пациенты будут реагировать на то или иное лечение и, самое главное, почему. Именно это приведет нас к созданию персонализированной медицины и позволит искоренить болезнь»³².

Завоевание пространства-времени

Ежедневно на YouTube загружается около 720 000 часов³³ видео, которое необходимо обработать для рекламных рейтингов и выдачи в рекомендациях пользователям. В медицинских учреждениях терабайты видеозаписей должны использоваться только на локальных устройствах, чтобы не нарушать конфиденциальность пациентов. В «умных» городах огромный объем записи камер видеонаблюдения иногда надо проанализировать очень быстро, чтобы предотвратить угрозу потенциально опасных или преступных действий.

Все эти задачи требуют точного и эффективного понимания происходящего на каждой конкретной видеозаписи. Но распознавание видео (в отличие от распознавания статичных изображений) требует временного моделирования – способности понимать и предугадывать последовательность действий. Как и другие разновидности искусственного интеллекта, основанные на глубоком обучении, видеоприложения обычно нуждаются в огромных и дорогих вычислительных мощностях, без которых просто не работают.

Однако недавно в лаборатории MIT-IBM Watson AI Lab разработали новую методику обучения систем распознавания видео, обеспечивающую высокую точность при сокращении вычислительных затрат³⁴. Исследователям удалось обучить систему выдавать результат втрое быстрее, чем если бы они использовали другие современные методики.

Обычно видео разбивается на отдельные кадры, а затем для каждого из них запускаются алгоритмы распознавания. Предложенная новая технология извлекает из каждого кадра эскизы объектов и накладывает их друг на друга, чтобы увидеть, как они перемещаются в пространстве. Скорость обработки изображений при этом крайне важна. Ее увеличение может быть критичным для беспилотных транспортных средств при распознавании визуальной информации, реагировании на нее и прогнозировании ближайших возможных событий.

Кроме того, предложенная система может работать на маломощных устройствах – таких, как смартфоны. Так, она смогла быстро распознать жесты рук с помощью портативного компьютера и камеры, потребляющих примерно столько же энергии, сколько велосипедный фонарик³⁵. Эта технология может снизить вычислительные затраты на распознавание видео и уменьшить углеродный след от этой операции. Эффективность аппаратного обеспечения, кроме того, позволяет создать компактные диагностические устройства для врачей и медсестер, необходимые в местах оказания первой медицинской помощи.

Взывая к здравому смыслу

Разные компании работают над тем, чтобы научить машины ориентироваться в мире в соответствии с человеческим здравым смыслом: понимать повседневные предметы и действия, непринужденно общаться, справляться с непредвиденными ситуациями и учиться на собственном опыте. Но то, что человеку дается от природы, без специального обучения или дополнительных данных, оказывается чертовски сложным для машин.

По словам Орена Эциони, СЕО Института искусственного интеллекта имени Аллена (AI2), «ни одна из существующих на сегодняшний день систем искусственного интеллекта не может достоверно ответить на широкий круг простых вопросов вроде “Если я положу носки в ящик, будут ли они завтра там лежать?” или “Как понять, что пакет молока полон?”»³⁶.

Чтобы приблизиться к пониманию, что для машин значит «иметь здравый смысл», AI2 разрабатывает портфель задач для измерения прогресса. Управление перспективными исследовательскими проектами Министерства обороны США (DARPA) инвестирует в исследования в области ИИ $2 млрд. В рамках программы Machine Common Sense (MCS) исследователи будут создавать модели, имитирующие основные области человеческого познания, включая области объектов (интуитивная физика), мест (пространственная навигация) и акторов (преднамеренные действия). Исследователи из Microsoft и канадского Университета Макгилла совместно разработали перспективную систему для преодоления двусмысленностей естественного языка – проблемы, требующей разных форм умозаключений и знаний³⁷.

Здравый смысл формируют миллионы невысказанных предположений о том, как устроена реальность и по каким принципам она существует. И это почти можно назвать человеческим разумом. На заре развития искусственного интеллекта исследователи пытались кодифицировать все эти принципы, оформить в виде символической логики – создать базу знаний, на основе которой система могла бы делать выводы.

Но эти «символистские» попытки провалились, так как оказалось практически невозможно каталогизировать множество существующих правил с массой исключений из них, а также уточнения и контексты, чтобы разработать алгоритмы, способные во всем этом ориентироваться.

Сторонники глубокого обучения пошли другим путем. Они разработали нейросети с взаимосвязанными слоями, которые могут различать заранее не заложенные программистами закономерности. Как мы увидели, результаты были неоднозначными: нейросети впечатляюще управляли беспилотными транспортными средствами, но уморительно проваливали простейшие тесты на здравый смысл.

Однако имеются предпосылки к тому, что объединение символьных подходов с нейросетями даст результаты, более похожие на выводы человеческого разума. Цель таких систем – выдать правильный ответ и его обоснование.

Например, часто разочаровывают пользователей чат-боты и голосовые помощники. Эти приложения действительно легко поставить в тупик, но даже когда они приходят к верному ответу, то не могут дать ему разумного обоснования. Компания Salesforce, специализирующаяся на облачных сервисах и каузальном маркетинге, стремится изменить ситуацию с помощью своего голосового ассистента Einstein.

Разработки компании направлены на создание нейросетей, способных не только давать правильные ответы, но и правдоподобно объяснять логику таких действий. Голосовые помощники для предприятий вообще редкость, поэтому Einstein дает компании большое преимущество в сфере обслуживания и привлечения клиентов.

Помимо этого, результаты в сфере сближения ИИ и здравого смысла, очевидно, пригодятся там, где решающее значение имеет способность объяснять: в здравоохранении, финансовом секторе, безопасности и государственном управлении. Логика здравого смысла также способна помочь преодолеть некоторые ограничения систем визуального распознавания. Например, донести до искусственного интеллекта общеизвестный факт: наезд на дорожный конус существенно менее страшен, чем наезд на пешехода.

«Здравый смысл – важнейший компонент для создания искусственного интеллекта, способного понимать прочитанное, управлять роботами, эффективно и безопасно работающими среди людей, а также разумно взаимодействовать с людьми, – говорит Гэри Маркус, ведущий эксперт по искусственному интеллекту и основатель Robust.AI. – Здравый смысл – это не только самая сложная проблема для искусственного интеллекта; в долгосрочной перспективе она же является и самой важной»³⁸.

Отслеживание эмоций

Только в 2018 году так называемое рассеянное, или отвлеченное, вождение унесло в Соединенных Штатах жизни 2841 человека, в том числе 1730 водителей, 605 пассажиров, 400 пешеходов и 77 велосипедистов³⁹. Отвлечением считаются любые действия, отрывающие внимание водителя от дороги: переписка, разговор по телефону, еда и питье, общение с пассажирами, настройка звуковой или навигационной системы.

Особенно опасно за рулем писать сообщения. Но и отвлечься от дороги на 5 секунд на скорости около 90 км/ч, чтобы прочитать чье-то послание, все равно что проехать с закрытыми глазами футбольное поле⁴⁰. Однако еще опаснее заснуть за рулем: по вине задремавших водителей каждый год происходит до 6000 ДТП со смертельным исходом.

Другая причина аварий – опасное вождение. Около 94 % всех дорожно-транспортных происшествий происходит из-за ошибки водителя, и до трети из них связаны с поведением, характеризующимся как опасное вождение⁴¹.

Эти цифры могут резко снизиться, если система искусственного интеллекта, способная распознавать эмоции водителя, станет для автомобилей обыденной, как ремни безопасности. В настоящее время над такой системой работает Affectiva, основанный в 2009 году исследователями из Media Lab Массачусетского технологического института бостонский стартап (в середине 2021 года его приобрела шведская компания Smart Eye).

Алгоритмы Affectiva сканируют лица людей, чтобы определить их эмоциональное состояние и временные когнитивные нарушения. Система призвана помочь водителям сохранять спокойствие, быть внимательными и бодрыми, поэтому она автоматически вмешивается в процесс вождения, вынося предупреждения или предлагая действия. Но это чрезвычайно сложная задача.

Когнитивные нарушения наподобие сонливости развиваются постепенно; отображение эмоций на лице может различаться из-за возраста, пола, этнической принадлежности и культурных норм.

Компания разработала систему отслеживания эмоций, которая позволяет медиа и рекламодателям понимать, как на их контент реагирует целевая аудитория. Система основана на анализе более чем 7,6 миллиона лиц в 87 странах мира. Примерно четверть компаний из списка Fortune Global 500 использовали эту технологию для тестирования своей рекламы по всему миру, и это помогло им спрогнозировать намерение совершить покупку, рост продаж или вероятность того, что контент станет вирусным⁴².

Эмоциональные вычисления, или, как говорят, эмоциональный ИИ, были использованы в работе с детьми-аутистами, чтобы помочь им понимать и выражать свои эмоции. По словам Габи Зийдервельд, ранее работавшей в компании Affectiva, а теперь – в Smart Eye, создатели системы руководствовались «идеей о том, что технология может распознавать человеческие эмоции и реагировать на них, чтобы, по сути, улучшить взаимодействие человека с технологией, сделать его более уместным, более подходящим, а также, возможно, помочь человеку лучше понимать эмоции или лучше их контролировать»⁴³.

Рана эль Калиуби, основательница компании Affectiva, а ныне заместитель генерального директора в Smart Eye, не понаслышке знает о переполняющих эмоциях. Она родилась на Ближнем Востоке, а в 1990 году, когда она была еще ребенком, Ирак вторгся в Кувейт. «В одночасье наш мир изменился, – пишет она. – Мои родители потеряли работу, дом, сбережения. На меня обрушился такой поток эмоций, какого я никогда больше в жизни не испытывала»⁴⁴.

Глубокие потрясения, вызванные COVID-19, заставили эль Калиуби задуматься, что и тут может пригодиться работающий с эмоциями цифровой мир. Массовый переход на онлайн-обучение, виртуальные встречи и телемедицина, а также изоляция, вызванная социальным дистанцированием, всех лишили таких естественных и обыденных элементов общения.

Сотрудники жаловались на «Zoom-усталость». Профессора и спикеры не имели возможности узнать, как на самом деле реагирует аудитория на их слова. Врачи и психологи, принимавшие пациентов виртуально, испытывали трудности с оценкой их настроения и общего самочувствия. Программное обеспечение для отслеживания эмоций способно восстановить хотя бы часть связей между людьми, нарушаемых при онлайн-общении, и помочь контролировать и укреплять психическое здоровье.

Рана эль Калиуби пишет: «Наша зависимость от технологий для связи с миром будет только усиливаться. Дополнение технологий искусственным эмоциональным интеллектом может стать единственным способом сохранить то, что изначально делает нас людьми: эмпатию, эмоции и содержательное общение»⁴⁵.

Машины постигают теорию разума

Ребенок, возвращающий случайно упавший карандаш и игнорирующий специально брошенный, обладает моделью психического состояния. Дети понимают, что у других людей есть эмоции, намерения, желания и знания, и используют это, чтобы анализировать чужое поведение и реагировать на него. Модель психического состояния принципиально важна для бесчисленных повседневных взаимодействий, которые мы считаем само собой разумеющимися.

Но она имеет значение и для роботов, взаимодействующих с другими роботами или людьми. Например, созданный для заботы об одиноких людях робот должен уметь понимать эмоции и желания человека, вполне возможно ограниченного в возможности их выразить.

Попытки наделить роботов теорией разума идут по нескольким направлениям, и в каждом случае приходится преодолевать барьеры, связанные с глубоким обучением. Подход глубокого обучения «снизу вверх» основан на всеобъемлющем эмпиризме (богатом опыте), необходимом для распознавания объектов.

Например, построенная на глубоком обучении система визуального распознавания пропускает изображение объекта через огромное количество обучающих данных нейросети. Поиск все более сложных паттернов продолжается до тех пор, пока система уверенно не определит, что же перед ней находится.

Как мы уже отмечали, недостатками этого подхода являются его зверский аппетит, требующий колоссальных массивов данных, и невозможность объяснить сделанные выводы.

Исследователи из DeepMind компании Google пытаются преодолеть эти ограничения, используя нейросети с так называемой машинной моделью психического состояния⁴⁶. Их нейросеть ToMnet («Теория разума») строит на основе метаобучения и простого наблюдения модели внешних агентов. При относительно небольшом количестве наблюдений ToMnet получает тем не менее сильную предварительную модель поведения агентов и способность к начальной загрузке для более точного прогнозирования их характеристик и ментальных состояний. Как и другие системы глубокого обучения, ToMnet совершенствуется с опытом.

Сущности искусственного интеллекта DeepMind – простые агенты в виртуальной комнате – собирали цветные коробки и получали за это очки, а ToMnet «наблюдал»⁴⁷. Одни из агентов были слепыми, другие забывали свои последние шаги, а третьи могли и видеть, и помнить.

Слепые агенты, как правило, следовали вдоль стен; агенты с пораженной памятью искали ближайшие объекты; а те, которые могли и видеть, и помнить, разработали стратегию и собирали коробки в определенном порядке, чтобы заработать больше очков. После обучения ToMnet смог быстро определять агентов каждого типа и правильно предугадывать их поведение.

Подобные эксперименты завязаны на жестко заданный контекст и ограничены взаимодействием с очень простыми агентами. Зачаточные способности ToMnet очень далеки от человеческого умения постигать происходящее в чужой голове. Но направление подобной работы, даже если в ней задействованы нейросети, соответствует повороту в сторону подходов «сверху вниз», требующих меньшего количества данных.

Еще один подход «сверху вниз» предполагает, что разум создает модели мира, позволяющие проверить даже очень разреженные данные. Искусственный интеллект не обучается моделировать, а использует симуляторы, помогающие проверять гипотезы и предугадывать действия двигающихся поблизости агентов.

Исследователи из Университета Западной Англии изучили возможности мобильного робота с учетом его собственной модели, других двигающихся агентов и окружающей среды⁴⁸. Внутренняя модель, основанная на симуляции и работающая в режиме реального времени, оказалась способна прогнозировать последствия своих действий и действий других агентов, находящихся поблизости.

Например, при движении по узкому коридору навстречу другому роботу искусственный интеллект может определить, какое действие позволит избежать столкновения, и смоделировать поворот налево или направо либо продолжить двигаться вперед⁴⁹. Роботы, конечно, преуспели в таких маневрах и без моделирования, но здесь мы хотим доказать, что подобные симуляции открывают путь к искусственной модели психического состояния.

Разумное отношение к интеллекту

Подобно отражающимся в боковом зеркале автомобиля объектам, более естественные когнитивные и эмоциональные способности искусственного интеллекта могут находиться ближе, чем кажется. Как мы уже видели, они разрабатываются и совершенствуются в научно-исследовательских институтах (наподобие AI2), а также стартапах вроде Covariant и Affectiva / Smart Eye и глобальных корпорациях (Zappos, Salesforce, Google и многих других). Эта технология уже здесь, она с каждым днем набирает обороты и помогает заложить основу для будущей конкуренции.

Доверие – ключ ко всему, и более похожий на человеческий искусственный интеллект позволит завоевать лояльных клиентов, увеличивая разрыв между лидерами и аутсайдерами.

Кроме того, радикально человеческий машинный интеллект перенесет нас из прошлого, где клиенты и сотрудники с трудом учились использовать навязанные им технологии и приспосабливались к новым методам, в будущее, где люди охотно принимают новшества, поскольку теперь уже технологии адаптируются к человеку.

По мере приближения этого будущего компаниям придется сокращать использование старых дорогостоящих и громоздких подходов к машинному интеллекту и сосредоточиваться на методах, более ориентированных на человека.

Точной формулы этой трансформации нет, но руководители уже сейчас могут предпринять некоторые шаги, чтобы подготовить к ней всю компанию с ее широкой экосистемой – от руководства и до технических специалистов (и даже далее). Процесс должен начинаться сверху – с генерального директора, с топ-менеджеров компании. Им следует удостовериться: у них есть команды, которые изучают искусственный интеллект и экспериментируют с новыми подходами к нему в бизнес-контексте.

Эти команды должны сосредоточиться на алгоритмах, которые наиболее точно имитируют когнитивные способности человека, дают объяснимые результаты и предлагают максимально доступные и инновационные решения бизнес-задач.

Компании в целом следует стремиться к распространению того, что мы называем цифровой беглостью. Мы подробно рассмотрим это явление в главе 6, посвященной талантам. Вкратце идея заключается в том, чтобы перейти от цифровой грамотности – простого знакомства с терминами искусственного интеллекта – к погружению в язык, методы и применение интеллектуальных технологий.

Сотрудники, владеющие цифровыми технологиями, особенно если вплотную занимаются клиентами или внутренними проблемами компании, способны именно в нужный момент находить отличные решения.

За пределами офиса вам необходимо стать частью более широкого мира технологических партнеров, исследователей и представителей отрасли. Они способны помочь быстрее собрать воедино элементы новых подходов к интеллекту, наиболее актуальные для вашего бизнеса. Это принципиально важный шаг к скоординированному стратегическому сотрудничеству в экосистеме: оно все больше характеризует конкуренцию в мире, где никто не обладает монополией на огромное количество технологических прорывов, происходящих практически ежедневно.

Решительный переход к человеческому интеллекту, влекущий за собой глубокие последствия для процессов, продуктов и услуг вашей компании, отчасти будет обеспечен поворотом к требующему меньшего количества данных искусственному интеллекту, дополняющему устоявшиеся подходы к большим данным и способному выровнять игровое поле для всех конкурентов. К этому мы обратимся в следующей главе.