Свежий взгляд на то, почему ИИ всё ещё глупее вашей кошки
Если вы, как и я, устали от ежедневных новостей о том, что очередной чат-бот вот-вот отберёт у нас работу, увлечёт наших супругов и захватит мир, эта книга — лучшее успокоительное.
Главная мысль автора:
Настоящий разум нельзя просто «напрограммировать» или выкормить петабайтами текста из Интернета. Настоящий разум появляется только тогда, когда у системы появляется то, чего нет ни у одного сервера Google — способность искренне, физически и необратимо «попасть в просак».
Что здесь действительно круто:
• Физика вместо эзотерики. В кои-то веки нам не рассказывают про «квантовую душу» или «магию сознания». Всё упирается в железо. У нас с вами память и «процессор» совмещены в одном мозге: оступился, упал — получил травму. У нейросети память — это отдельный файл. Накосячила? Жмём Ctrl+Z, откатываемся к бэкапу и делаем вид, что ничего не было. Без риска и боли нет ответственности.
• Честная оценка боли. Автор очень здорово показывает, что боль — это не просто «минус 10 очков» в компьютерной игре. Это реальное сокращение твоих будущих возможностей. Именно из страха потерять всё и рождается способность планировать, страдать и создавать шедевры.
• Идеально для космоса (и только для него). Концепция отлично объясняет, зачем нам нужен независимый разум: чтобы отправить его на Марс, где задержка сигнала 20 минут, и не переживать, что он застрянет в бесконечном цикле, пытаясь распарсить нетипичный камнепад.
В чём автор немного лукавит (или о чём умалчивает):
• «Инструкция: как нарисовать сову». Теория выглядит потрясающе стройной, пока не задаёшься простым вопросом: «А из чего, собственно, мы будем собирать этот живой необратимый субстрат?» В этом месте книга от точной науки плавно дрейфует в сторону изящного научпоп-фэнтези.
• Проблема «Бунта машинки». Если мы всё же создадим систему, которая умеет чувствовать боль и не поддаётся сбросу настроек, у меня для вас плохие новости: если она совершит ошибку в ценностях, починить её будет нельзя. Мы получим автономного, обидчивого и абсолютно неуправляемого робота.
Вердикт
Забудьте про сказки о скором пришествии Скайнета. Пока машина не может получить физический «синяк» за глупое решение и не боится быть выключенной навсегда, она остаётся просто очень продвинутым калькулятором, умеющим выразительно подбирать рифмы.
Отличная книга, чтобы проветрить мозги от хайпа вокруг ИИ и снова начать уважать собственную нервную систему!
Юрий Садов, Спасибо за отзыв и за то, что реально дочитал до конца.
Книга и правда только для упорных и любознательных — тех, кто готов не просто потреблять очередной хайп про ИИ, а копать глубже и не пугаться, когда вместо красивых обещаний получает довольно сухую, но честную конструкцию. Ты правильно схватил главную мысль: настоящий разум появляется не от петабайтов текста и не от масштаба модели, а только там, где у системы есть необратимая цена ошибки. Всё остальное — уже следствия из этого одного наблюдения. Приятно, когда тебя понимают.
Данная книга несет очень интересное размышление, насколько может искусственный интеллект быть высоко обучаемым и в чем это мотивация заключается. Это фактически такой вызов. А можно ли описать человеческие чувства алгоритмом, ноликами и единичками? То есть без этого, как говорится, нет души, без вот этой вот чувственности. Но опять-таки все же боятся сейчас, что искусственный интеллект скоро изменит мир и вытеснит многие профессии. Да, какие-то профессии он вытеснит, которые требуют строго алгоритмичного решения. Но те, кто по-прежнему основывается на нестандартном, вот на комплексное восприятие (опыт, интуиция, ...) , останутся по-прежнему востребованы. Отсюда судите сами. Сама по себе книга очень хорошая, тема для размышления. Советую прочтению.
Интересная и нестандартная работа. Автор предлагает оригинальный взгляд на природу сознания искусственного интеллекта. Очень своевременная книга!
Şərhlər, 3 rəylər