Глава 5

Снятся ли роботам в агонии уроки китайского?

в которой наши герои очень-очень медленно читают две очень-очень толстые книги

1

В качестве небольшого эпилога к предыдущей главе вспомним прекрасное:

Форд поманил Проссера, и тот печально, неловко уселся в грязи с единственным ощущением, что вся его жизнь — это сон. Правда, непонятно чей, и непонятно, нравится ли он тому, кто его смотрит*.

* He felt that his whole life was some kind of dream and he sometimes wondered whose it was and whether they were enjoying it.

Douglas Adams, The Hitchhiker's Guide to the Galaxy

2

Эксперимент, который в скором времени будут проводить наши друзья, предложен американским философом Джоном Сёрлем. Он называется "китайская комната". Вероятно, это самый известный мысленный эксперимент во всей философии и уж точно в когнитивной философии и дискуссиях об искусственном интеллекте.

Статья Сёрля о китайской комнате была критикой работы Роджера Шенка по созданию компьютерных программ, которые якобы понимали рассказы, отвечая на заданные вопросы*.

Надо сказать, что в своей статье Сёрль немного перестарался с постановкой задачи, так что её нужно прочитать несколько раз, чтобы понять, что он хочет сказать. Давайте упростим задачу. Вкратце, эксперимент с китайской комнатой проводится так.
Вы не говорите ни слова и не читаете по-китайски. В закрытую комнату вам дают некий текст, написанный по-китайски и список вопросов, тоже написанных по-китайски. При этом вы получаете подробные инструкции (на вашем родном языке), глядя на которые можно соотнести иероглифы текста с иероглифами вопросов и "ответить" на эти вопросы, нарисовав соответствующие иероглифы - опять же с помощью подробнейших инструкций.
Итак: вы не знаете иероглифов, не понимаете, что вы рисуете в своём ответе, не имеете ни малейшего понятия, о чём был текст и в чём состояли вопросы - и тем не менее, человеку со стороны (который находится вне комнаты) будет казаться, что вы владеете китайским и прекрасно отвечаете на все заданные вопросы. Ваши действия неотличимы (внешне) от действий человека, прекрасно говорящего по-китайски.
Значит ли это, что вы умеете говорить по-китайски, хотя бы в пределах заданных вопросов?
Конечно же нет! И тем не менее, все люди на свете, вне вашей "китайской комнаты" будут успешно одурачены.

* Сёрль приводит следующий пример из работ Шенка:

(см. продолжение сноски)

* (продолжение сноски)

Представьте себе, что вы услышали следующий рассказ: “Человек пришел в кафе и заказал гамбургер. Когда ему принесли заказанное, гамбургер оказался подгоревшим дочерна, и разгневанный клиент выбежал из кафе, не заплатив по счету и не оставив чаевых.” Если вас спросят, съел ли тот человек гамбургер, вы, скорее всего, ответите: “Разумеется, нет!” Аналогично, если вы услышите следующий рассказ: “Человек пришел в кафе и заказал гамбургер. Когда ему принесли заказанное, гамбургер оказался превосходным, и довольный клиент, оплатив счет, оставил щедрые чаевые,” на вопрос “Съел ли он гамбургер?” вы, вероятно, ответите “Да, съел.” Машины Шенка могут отвечать на вопросы о ресторанах подобным образом.

Подвох здесь, разумеется, в том, что в рассказе нигде, ни одним словом не упоминается сам процесс поедания гамбургера. Машина должна самостоятельно прийти к этому выводу на основании заложенных в неё знаний о том, что 1) если гамбургер сгорел, то его, скорее всего, не едят; 2) если клиент не платит, то он, скорее всего, ничего не съел; 3) если клиент не оставляет чаевых, то он наверняка недоволен и тому подобное.
Можно ли на основании правильных ответов компьютера сделать вывод, что он мыслит? Сёрль в своей статье пытается доказать, что нет.

3

Очевидно, что такая книга является не чем иным, как алгоритмом.
Здесь нам нужно сделать шаг назад и рассказать о двух теориях: теории сильного ИИ (искусственного интеллекта) и теории слабого ИИ.

Согласно слабой версии ИИ - пишет Сёрль - "компьютеры — могучий инструмент для изучения разума. Они позволяют нам более точно формулировать и проверять гипотезы". И только.

Основная идея сторонников теории сильного ИИ заключается в том, что мышление - это по сути набор алгоритмов, выполняющихся мозгом.
А раз так, то мозг может быть заменён любым другим адекватным устройством* (в нашем случае - компанией супергероев, вооружённых толстой книгой инструкций).
Выдающийся физик и математик современности Роджер Пенроуз** в своей интереснейшей книге "Новый ум короля" пишет о теории сильного ИИ:

Все свойства ума — мышление, способность чувствовать, интеллект, понимание, сознание — должны рассматриваться, согласно этому подходу, просто как разные аспекты сложной деятельности; иными словами, они есть не более, чем свойства алгоритма, выполняемого мозгом. [...]

Алгоритм, нацеленный на подражание тому, что, как предполагается, действует в мозге человека, должен быть невообразимо сложным. Но если такой алгоритм для мозга существует — а это как раз то, что с уверенностью утверждают поборники идеи сильного ИИ, — то он в принципе мог бы быть запущен на компьютере. В сущности, он мог бы выполняться на любом современном компьютере общего назначения, если бы не имеющиеся ограничения по скорости и пространству для хранения данных.

* Эти невинные на первый взгляд слова - "любое адекватное устройство" - открывают окно в дивный мир, подаренный нам Аланом Тьюрингом.

Речь пойдёт о том, что именно можно назвать вычислительным устройством, какова его вычислительная мощь, и может ли бумажная лента, человек с карандашом и стиральной резинкой (или примитивное считывающе-записывающее устройство), а также простая таблица, представляющая алгоритм, соревноваться по вычислительной мощности с суперкомпьютером.

(см. продолжение сноски)

** Роджер Пенроуз ещё сыграет большую роль в этой книге. Нашим героям предстоит побывать в целых трёх "областях" его модели мира.

* (продолжение сноски)

Великий английский математик Алан Тьюринг считается одним из отцов компьютерной науки потому, что в своей работе, задолго до появления настоящих, "железных" компьютеров, он заложил основные принципы знакомых нам современных компьютеров - в частности изобрёл гипотетическую машины (ныне называемую Машиной Тьюринга), а также сформулировал тезис, который также назван его именем. Но об этом позже.

Машина Тьюринга необычайно проста, причём в её простоте и заключается её сила (в чём именно заключается эта сила, мы увидим позже). Машина состоит из нескольких элементарных частей:

1) бесконечная лента (не забывайте, что машина гипотетическая), поделённая на клетки, в каждой из которых может поместиться один из символов некоего данного алфавита.

2) сам алфавит, который, в принципе, может быть любым. В простейшем случае - это алфавит, состоящий из трёх символов - 0, 1 и какой-либо разделительный символ, например #. Всем известно, что любую информацию можно представить в так называемом двоичном (или бинарном) виде, с помощью нулей и единиц. Разделительный символ поможет нам узнавать отдельные слова или числа.

3) считывающе-записывающее устройство. Это устройство в любой данный момент времени находится над одной из клеток бесконечной ленты. Оно может распознать символ, записанный в этой клетке, может записать на его место какой-то другой символ (например, заменить 0 на 1), и, кроме того, это устройство обладает способностью передвигаться по ленте вправо или влево - одна клетка за один шаг.

4) и, наконец, составляющая машины Тьюринга, которую в наше время мы бы назвали software, или попросту программа, управляющая машиной.

Для примера рассмотрим машину Тьюринга, которая умеет прибавлять единицу.
Выглядит это так:

Сначала на ленте находятся три единицы, представляющие число 3. Это входные данные нашей машины (input).
После того, как машина завершит свою работу, на ленте будет уже четыре единицы, представляющие число 4. Это вывод машины (output).
Программу машины Тьюринга можно представить по-разному. Часто её представляют в виде таблицы, но проще изобразить её в виде диаграммы состояний:

На этой диаграмме изображены три состояния машины Тьюринга, прибавляющей единицу. Во многом она говорит сама за себя, и в объяснении нуждаются только подписи под стрелками перехода из одного состояния в другое. Так 0 -> 0 / Right обозначает: если считывающе-записывающее устройств (СЗУ) видит в клетке 0, оно должно заменить его на 0 (то есть, оставить в клетке 0) и сдвинуться вправо; 1 ->1 / Right обозначает: если СЗУ видит в клетке 1, оно должно заменить его на 1 (то есть, оставить в клетке 1) и сдвинуться вправо.
Таким образом, 0 -> 1 / Stop значит: если в клетке 0, замени его на 1 и остановись: в этом случае задача выполнена.
Осталось только упомянуть, что если машина находится в состоянии А и СЗУ видит в клетке 0, она остаётся в состоянии А. Если же СЗУ видит в клетке 1, машина переходит в состояние В - и так далее.
В самом начале, чтобы программа сработала, СЗУ должно находиться справа от трёх единиц.

Очевидно, что эта программа (то есть, наша диаграмма) будет прибавлять единицу к любому числу, а не только к тройке (читателю предлагается проверить работу машины для других чисел в качестве домашнего задания). И всё-таки, эта конкретная машина Тьюринга очень ограничена: да, она умеет прибавлять единицу к любому числу, но этим её возможности исчерпываются (кстати, можно создать программу машины Тьюринга, которая будет уметь прибавлять единицу только к числу 3; такая убогая машина тоже имеет право на существование).
Возникает вопрос: можно ли создать машину Тьюринга общего назначения: так, чтобы она могла выполнять самые разные действия? Ответ на этот вопрос смотрите в следующем комментарии.

Возникает и другой вопрос, ещё более насущный: зачем так подробно рассматривать этот явно теоретико-компьютерный механизм в книге о (как бы) философии? На этот вопрос можно дать два ответа: во-первых, Универсальная машина Тьюринга, которую мы рассмотрим дальше, приведёт нас к уже не раз исхоженной дороге (пусть это пока останется секретом).
Во-вторых, если верить теории сильного ИИ, наш мозг есть не что иное, как гигантская машина Тьюринга.
Как так?! - воскликнет возмущённый до глубины души читатель. - Наш мозг несравнимо, неизмеримо, бесконечно сложней, чем какая-то лента с нулями и единицами! Возможно. Но - повторимся - если верить теории сильного ИИ, то наш мозг ничем не сложнее машины Тьюринга. Почему? Встречайте:

Тезис Тьюринга-Чёрча:

Любая задача, для которой существует алгоритм решения, может быть решена с помощью машины Тьюринга. Другими словами, машина Тьюринга может быть запрограммирована так, чтобы выполнять любой заданный алгоритм.
(Тезис назван в честь Алана Тьюринга и Алонзо Чёрча, которые одновременно и независимо друг от друга пришли к этому выводу в 1930 году).

Если расписать этот основополагающий тезис более подробно, он означает вот что:

представьте, что у вас есть сверх-эффективный алгоритм решения некоей очень сложной задачи. Представьте теперь, что вы располагаете поистине неограниченными средствами, которые позволяют вам обзавестись тысячами суперкомпьютеров с поистине необъятными ресурсами скорости и памяти. Вы запускаете свой алгоритм на этом монстрообразном конгломерате и ждёте - сто, двести, тысячу лет - столько, сколько понадобится (вам точно известно, что задача имеет решение, а ваша жизнь, равно как и ресурсы, не ограничена ничем).

И что же ? А вот что:

та же самая задача с тем же самым (или даже гораздо менее эффективным) алгоритмом решения может быть столь же успешно решена с помощью примитивнейшей Машины Тьюринга с одной единственной лентой, поделённой на клеточки, и допотопным считывающим устройством.

Иными словами, если задача может быть решена с помощью Машины Тьюринга, то она может быть решена с помощью любого компьютера, с любыми ресурсами, на любом, сколь угодно сложном языке программирования.

Никогда, ни при каких обстоятельствах, ни сейчас, ни в сколь угодно далёком будущем не будет придуман язык программирования или компьютер, позволяющий решать задачи, которые невозможно решить с помощью Машины Тьюринга или с помощью одного из существующих языков и компьютеров общего назначения.

Вывод из всего этого именно тот, о котором и было сказано раньше: если теория сильного ИИ верна (то есть, мышление есть набор алгоритмов, "запущенных" на мозге - и ничего больше), то наш мозг эквивалентен по вычислительной мощи машине Тьюринга.

4

Очевидно, что перед нами очень специализированный алгоритм, который выполняется на "компьютере", состоящим из наших поистине бесстрашных героев.
В прошлом комментарии (в сноске *) мы обещали вернуться к нечто гораздо более интересному, чем специализированные компьютеры, а именно к удивительному механизму, который называется Универсальная Машина Тьюринга.

На рисунке вы видите две машины: одна из них - специального назначения (такая машина позволяет решать одну конкретную задачу), вторая - Универсальная Машина Тьюринга. Каждая из них имеет свою программу (таблицу или диаграмму состояний - см. комментарий 3). Сейчас нас интересует программа, управляющая работой специальной машины Тьюринга.

Как известно, любую информацию можно представить в виде последовательности нулей и единиц - в так называемом бинарном виде. Поэтому и программу любой машины Тьюринга тоже можно представить в виде нулей и единиц (другими словами - неким конечным набором символов) на ленте конечной длины. Именно так мы и поступим с таблицей специальной машины Тьюринга (СМТ) - шаг 1 - а потом просто отобразим эту последовательность на ленте Универсальной Машины Тьюринга (УМТ) - шаг 2. Таким образом, входными данными УМТ будет программа некоей специализированной машины Тьюринга (СМТ), которая призвана решать какую-то конкретную задачу (например, прибавлять единицу к данному числу - см. комментарий 3).

Какую же задачу призвана решать в таком случае УМТ?

Ответ почти очевиден: получив программу, управляющую СМТ, УМТ должна уметь эту программу интерпретировать* (то есть, понимать и выполнять) и производить над входными данными СМТ те же самые действия, которые бы производила над ними СМТ. Иначе говоря, УМТ должна симулировать работу СМТ - любой СМТ! - и выдавать точно такой же ответ, какой бы выдала СМТ.

Для того, чтобы дать УМТ те же самые входные данные, которые получает СМТ, поместим эти входные данные где-нибудь на ленте УМТ, например, перед программой, представляющей СМТ - шаг 3. Две эти входные последовательности - программу и данные - можно разделить каким-либо специальным (не встречающимся более нигде) символом (напомним, что алфавит нашей машины может быть любым)**. Осталось только запустить УМТ - шаг 4 - и ответ, эквивалентный ответу СМТ, будет получен.

Тьюринг в своей работе показал, что УМТ может быть построена. Что же такое УМТ на самом деле? Вы, конечно же, уже догадались. Универсальная Машина Тьюринга - это прототип современного компьютера общего назначения. В самом деле - компьютер точно так же получает некую программу, которую он должен выполнить (причём программа эта может решать любую, но всякий раз строго определённую задачу), и входные данные, с которыми программа будет работать***.

Компьютер общего назначения универсален в том же смысле, что и УМТ: он умеет симулировать любую другую, более специализированную машину и совершать над её входными данными те же самые действия, которые совершила бы эта самая специализированная машина.

В чём же философский смысл Универсальной машины Тьюринга? (См. сноску * к комментарию 3 - там было обещано поговорить на эту тему).

Вспомним Уробороса из Главы 3: ведь УМТ - это машина, съедающая - правда не саму себя - но другую машину Тьюринга - специализированную, а также входные данные этой СМТ.
Вернёмся к сноске ** к комментарию 11 Главы 1: философы хотят заглянуть за границы нашего мира, посмотреть на него снаружи, пользуясь при этом языком нашего мира и находясь внутри этого мира - задача, очевидно, невыполнимая. Универсальная машина Тьюринга выполняет эту задачу - она сама является машиной Тьюринга, то есть принадлежит миру машин Тьюринга и говорит на языке того же мира, то есть на языке входных данных мира машин Тьюринга. При этом она как бы "смотрит" на мир машин Тьюринга снаружи, то есть может справиться с любой задачей, с которыми справляются все специализированные машины Тьюринга.
Где бы мы ни встретились с самореференцией, нас обязательно подстерегают сюрпризы, парадоксы и радостное философское настроение!

* Интерпретация - огромная и важная тема, с которой мы близко познакомимся в разговоре о герменевтике - учении об интерпретациях, огромное влияние на которое в 20-м веке оказал наш друг Хайдеггер.

** Здесь важно обратить внимание на то, что программа СМТ, закодированная на ленте УМТ, и входные данные - это две разные сущности, несмотря на то, что находятся они на одной ленте и закодированы с помощью одного и того же алфавита.

*** Компьютерный учёный и писатель Дэвид Гелернтер, в своей книге "The Muse in the Machine" вводит понятие виртуальной машины, чтобы высказать эту же мысль:

(см. продолжение сноски)

*** (продолжение сноски)

Идея виртуальной машины глубока и удивительна. Она стоит в ряду самых значительных понятий в истории технологии... В чем же значение этой идеи ? Большинство машин есть то, что они есть. Тостер – это тостер. Его возможности определены способом, которым он был сконструирован. Отличие компьютера от всех остальных машин фундаментально. Компьютер – это машина, которая может имитировать другие машины: его характеристики и функциональность определяются не тем способом, которым он создан, а характеристиками той машины, которую он в данный момент представляет – то есть, той программой, которую он выполняет.

5

Сёрль является ярым противником теории сильного ИИ. В своей статье он приводит 28 "ответов" на загадку китайской комнаты. Каждый из них он опровергает с точки зрения анти-операционалиста*:

Я попытаюсь доказать, что в буквальном смысле запрограммированный компьютер понимает столько же, сколько автомобиль или калькулятор, то есть совершенно ничего. Понимание компьютера не частично или неполно (как мое понимание французского или немецкого) — оно равно нулю.

Джим Холт в замечательной книге "Почему существует мир?" пишет:

Вывод, к которому приходят философы на основе подобных мысленных экспериментов, состоит в том, что сознание не сводится лишь к обработке информации. Если это верно, то наука, в той мере, в какой она описывает мир как обмен информацией, кажется, оставляет за кадром часть реальности – ее субъективную, не поддающуюся разложению на составляющие, качественную часть.**

Отталкиваясь от структуры сознания, Холт продолжает рассуждать о структуре всей реальности:

Британский философ-идеалист Тимоти Спригг выразил это так: «То, что обладает структурой, должно иметь и нечто большее, чем структура» [...]

Таким образом, наши научные познания о реальности, говоря словами Спригга, «очень похожи на знание о музыкальном произведении того, кто родился глухим и чье музыкальное образование полностью основано на изучении нот».

Впрочем, с одной частью реальности мы знакомы и без посредства науки – с нашим собственным сознанием. Мы ощущаем присущие состояниям сознания качества напрямую, изнутри. У нас к ним есть то, что философы называют «исключительный доступ». Нет ничего, в чьем существовании мы были бы больше уверены.

Мы специально использовали эту несколько уводящую в сторону цитату, чтобы она исподволь привела нас к понятию интенциональности.
Интенциональность - одно из основных понятий феноменологии (см. комментарий 10 Главы 1) - обозначает свойство человеческого сознания быть направленным на некоторый объект***.
- Ну вот, начинается, - ворчит читатель. - Как только речь заходит о феноменологии, сразу начинаются трюизмы. Разве непонятно, что всё, что происходит в нашем сознании, направлено на некоторый объект?

Попробуем разобраться.

Роберт Соколовски в своём "Введении в феноменологию" пишет о том, как философия последних столетий (по крайней мере до феноменологии Гуссерля) относилась к сознанию и его связи с внешним миром:

Сознание воспринимается как некий пузырь или закрытый ящик. Разум "поставляется" в этом ящике. Впечатления и концепции возникают в замкнутом пространстве, и наше осознание этого круга идей и переживаний направлено на них, а не на вещи "снаружи".

Мы можем попытаться выйти наружу, рассуждая, что наши идеи должны быть вызваны чем-то вне нас; мы можем строить гипотезы или модели того, какими должны быть эти вещи внешнего мира - но мы не находимся с ними в прямом контакте . Мы "добираемся" до вещей только исходя из наших внутренних впечатлений о них, а не благодаря непосредственному контакту с ними. Наше сознание, прежде всего, вообще "ни о чём". Скорее, мы попали в то, что было названо "эгоцентрическим затруднением" (egocentric predicament); всё, в чём мы действительно можем быть уверены в начале, - это наше собственное сознательное существование и состояния этого сознания****.

Современное феноменологическое понятие интенциональности, разработанное Гуссерлем*****, призвано освободить нас из тюрьмы сознания как вещи в себе. (Время вспомнить демона Декарта из комментария 6 Главы 4). Соколовски продолжает:

Одно из величайших достижений феноменологии - возможность вырваться из "эгоцентрического затруднения", поставить мат картезианской доктрине (то есть, доктрине Декарта - прим. автора). Феноменология утверждает, что разум является публичной вещью, что он действует и проявляет себя открыто, а не только внутри себя. Всё снаружи.

Естественно, что и Хайдеггер, будучи учеником Гуссерля, всеми силами пытается привязать людей к миру, в котором они живут. Традиционно философы отделяли "познающего" мир от мира, который он познаёт; задача мыслителя состоит в том, чтобы иметь дело с "содержимым ума" и делать выводы о реальности за его пределами по объектам, представленным нам в нашем сознании. Хайдеггер отвергает этот подход, указывая на то, что мы не можем смотреть на мир объективно, потому что мир не находится и не может быть "вне" нас. Мы - неотъемлемая часть мира. Мы неразрывно связаны со всеми другими существами "всемирной сети".

Важно также понимать, что интенциональность в феноменологии структурируется. Простыми словам, мы меняем нашу интенциональность в зависимости от способа восприятия предмета: мы по-разному воспринимаем материальные объекты и их изображения; по-разному относимся к нашим собственным воспоминаниям и к чему-то, пересказанному нам другими - и так далее.
Вещи являют себя нам в многообразии своих проявлений. Это многообразие в совокупности обладает идентичностью (identity in a manifold) ****** .

Всё это длинное отступление на самом деле предваряло опровержение, данное Джоном Сёрлем сторонникам сильного ИИ. Это опровержение основано на понятии интенциональности:

Что понадобилось бы для того, чтобы представить, что эта кучка металла на стене обладает настоящими убеждениями; убеждениями направленными и интенциональными; желаниями, могущими быть удовлетворенными; убеждениями, могущими быть слабыми или сильными; убеждениями нервными, тревожными или уверенными; догматическими, рациональными или полными предрассудков убеждениями — любым типом убеждений. Термостат исключается из кандидатов. Также не являются возможными кандидатами желудок, печень, калькулятор или телефон. Тем не менее, поскольку мы принимаем эту идею всерьез, заметьте, что ее истинность была бы смертельной для утверждения сильной версии ИИ о том, что она является наукой о разуме, поскольку теперь разум оказался бы повсюду. Мы же хотели узнать, что отличает разум от термостатов и желудков.

* Основная идея операционалистов заключается в том, что умственная деятельность — это просто выполнение алгоритмов (и здесь они вторят сторонникам сильного ИИ).

** Мы сейчас очень кратко коснёмся проблемы сознания, потому что сознанию будет посвящено ещё очень много места на этих страницах.

*** Хорошо знакомый нам Джон Сёрль написал целую книгу под названием "Интенциональность".

**** Если б расчищены были врата восприятия, всякое предстало бы человеку, как оно есть — бесконечным. Ибо человек замуровал себя так, что видит всё чрез узкие щели пещеры своей.

Уильям Блейк

"Бракосочетание Неба и Ада"

***** Великий немецкий философ Эдмунд Гуссерль - отец феноменологии, учитель Мартина Хайдеггера - оказал влияние практически на всю современную философию.
Гуссерль так описывает интенциональность (не самыми простыми словами, как и положено философу):

Восприятие есть восприятие чего-либо, например, вещи; акт суждения есть суждение о каком-либо содержании […] Во всяком актуальном cogito "взгляд", лучами расходящийся от чистого Я, направляется на предмет соответствующего коррелята сознания, на вещь, содержание и исполняет весьма разнообразное сознание о…

****** Чтобы лучше объяснить феноменологический подход, Соколовски приводит интересные примеры
идентичности в многообразии:

(см. продолжение сноски)

****** (продолжение сноски)

В качестве примера рассмотрим важное историческое событие, такое как вторжение в Нормандию во время Второй мировой войны. Это событие по-разному пережили те, кто в нем участвовал, по-другому - те же люди, когда они его помнили, по-другому - те, кто читал о нем в газетах, по-другому - те, кто пишет. и те, кто позже прочитает об этом книги, по-другому те, кто присоединяется к мемориальному празднованию на пляжах Нормандии, по-другому те, кто смотрит фильмы, снятые с фактического события, и еще по-другому те, кто смотрит фильмы и делают об этом телешоу. Этого же события ожидали и те, кто планировал это сделать, и те, кто, с другой стороны, планировал ему противостоять. Несомненно, существуют и другие способы, с помощью которых одно и то же событие может быть задумано и представлено, и идентичность события поддерживается всеми этими способами.

Обратимся к эстетическим объектам. Одна и та же драма, скажем, "Герцогиня Мальджи", представлена во всех постановках и во всех чтениях, со всеми их различными интерпретациями, в которых дается пьеса, так же, как она была представлена Джону Вебстеру, когда её написал.
Одна и та же симфония, например, Хаффнеровская симфония Моцарта, представлена во всех ее исполнениях. Интерпретация, данная Бруно Вальтером, отличается от той, которую дал Клаус Теннштедт, а общий способ её интерпретации в начале двадцатого века отличается от того, каким он был в конце двадцатого века, но тем не менее, все интерпретации едины, и это одна и та же симфония. Интересно отметить, что запись музыкального произведения отличается от живого выступления, потому что запись передаёт только одно из выступлений, а каждое живое исполнение отличается от всех остальных. Если бы я дважды послушал одну и ту же запись, я бы оба раза услышал одно и то же исполнение, а не одну и ту же симфонию, и тем не менее моё восприятие этих звуков каждый раз было бы разным: разные способы оценки выходили бы на первый план, моё настроение может отличаться, сам день может быть светлым или пасмурным.

В общем, как говорил Козьма Прутков, "всякая вещь есть форма проявления беспредельного разнообразия".

6

Итак, ключевой вопрос этой главы задан. Император, находясь за дверью, получил точные ответы на вопросы, заданные по-китайски. Для него нет сомнений в том, что некто, находящийся в комнате, умеет читать, писать и понимать китайский. И тем не менее, мы с читателем точно знаем, что никто из наших героев ни слова по-китайски не знает. Означает ли это, что на вопросы отвечала книга? Или книга в совокупности со всеми, находящимися в комнате? Это так называемый ответ систем на эксперимент Сёрля, который мы рассмотрим в комментарии 8.

Да, мы можем ответить на вопрос, поднятый экспериментом с китайской комнатой множеством способов. Но - по всей видимости - никто не может дать однозначный ответ на вопрос где именно находится знание языка? И что такое знание языка вообще? Набор алгоритмов, переводящих определённые звуки и символы в ментальные образы? Дополнительный набор алгоритмов, переводящий ментальные образы и семантические сети в набор звуков и символов? И даже если это так - на чём запущен этот набор алгоритмов? На мозге? На нейронных сетях внутри мозга? На совокупности очень сильно специализированного hardware и не менее специализированного software в нашем мозгу? Вопрос громоздится на вопросе, и возможные ответы только увеличивают количество вопросов...*

Для "ответа" на вопрос, где именно находится знание языке (или даже шире - где находится мышление), можно привести аналогию с моделированием урагана на компьютере, предложенную Хофштадтером**.

Вы всё ещё здесь, читатель? Ну хорошо, допустим вы уже прочитали ГЭБ (в таком сокращённом виде эта книга известна почитателям). Тогда продолжим.

Итак, в философском диалоге*** под названием "Тест Тьюринга: Беседа в кафетерии" Хофштадтер приводит пример симуляции урагана на компьютере. Пример этот удобен, потому что он гораздо проще модели разума и сознания, поднимающих в свою очередь мириады разного рода побочных вопросов. Ураган - вещь, конечно, крайне сложная, но одновременно очень простая по сравнению с мозгом. Попробуем вкратце разобрать этот пример.
Существует ли ураган внутри симулирующего его компьютера? Конечно, нет - внутри компьютера не дует разрушающий ветер, и процессор не заливает дождевой водой. Но постойте - если бы симуляция включала в себя и симулированных людей, для них и ветер, и вода - всё было бы абсолютно настоящим! Значит ли это, что симулированный предмет неотличим от настоящего? Или же он неотличим только для симулированного наблюдателя?

И всё же - никакой симулированный ураган никогда по-настоящему не будет мокрым (забудем о симулированных людях). Хорошо, но тогда где же находится этот "ураган" - где его сущность, "душа"; что именно мы симулируем?

Вспомните, с чего начинался этот комментарий: где именно находится знание языка? Не тот ли это самый вопрос - где находится сущность урагана?

По всей видимости, нет. Хофштадтер делает заключение, что ураган узнаётся по его результатам; ветер, вода, разрушения - это и есть результаты урагана, это определяет ураган. Но мы ведь пришли к выводу, что результаты знания языка не тождественны его настоящему знанию (ведь для наблюдателя вне комнаты ответы, данные по-китайски, подтверждают, что некто, находящийся в комнате, знает китайский; а мы-то с вами знаем, что этот некто не знает по-китайски ни слова!).

Далее идёт настолько важный для нас - исследователей Хайдеггера - обмен репликами, что мы просто обязаны привести его целиком:

ПАТ: [...] Так что я, кажется, начинаю понимать, как имитация урагана может, в некоем странном смысле, быть для тебя настоящим ураганом.

КРИС: Может быть, здесь расширяется не понятие “ураган”, а понятие “быть”!

ПАТ: Что ты имеешь в виду?

КРИС: Если Тьюринг мог употребить в расширенном смысле глагол “думать”, то почему бы мне не употребить так же и глагол “быть”? Я хочу сказать, что когда имитированные объекты нарочно принимаются за настоящие, кто-то при этом вовсю занимается философским лапшевешанием. Все это гораздо серьезнее, чем расширение нескольких понятий вроде “ураганов”.

СЭНДИ: Мне нравится твоя мысль насчет расширения значения слова “быть”, но по-моему, ты зря оскорбляешь философов.

А по-моему, Мартин Хайдеггер не только бы не оскорбился, но был бы абсолютно счастлив, если бы услышал слова Криса о расширении понятия "быть" - ведь именно этим он и занимался всю свою жизнь!

* Лучше Роджера Пенроуза всё равно не скажешь, поэтому давайте лучше снова обратимся к книге "Новый ум короля":

Что значит — думать или чувствовать? Что есть разум? Существует ли он объективно? И если да, то в какой степени он функционально зависим от физических структур, с которыми его ассоциируют? Может ли он существовать независимо от этих структур? Или он есть лишь продукт деятельности физической структуры определенного вида? В любом случае — должны ли подходящие структуры быть обязательно биологическими (мозг) или, возможно, этими структурами могут быть и электронные устройства? Подчиняется ли разум законам физики? И вообще, что такое законы физики?

** Давайте же, наконец, познакомимся с одним из наших главных героев, тем более, что и дальше в этой главе речь тоже пойдёт о нём.

Дуглас Хофштадтер - живое воплощение интеллектуального супергероя, о которых говорилось в самом начале книги. Только в отличие от Наныча, мистера Цо и других он существует в действительности. В какой именно действительности - это другой вопрос. Если мы и в самом деле живём в симуляции некоего верхнего уровня (см. обсуждение этого в Главе 4), то ничего удивительного в существовании Хофштадтера нет. Судите сами.

(см. продолжение сноски)

*** Хофштадтер вообще обожает философские диалоги. Почти половина его книги "Гёдель, Эшер, Бах" занята разговорами между Ахиллесом и Черепахой (из того самого парадокса Зенона).

** (продолжение сноски)

Дуглас Хофштадтер - профессор когнитивных наук (он занимается моделированием мышления, в частности, механизмами аналогий), физик, компьютерный учёный, философ сознания и искусственного интеллекта, писатель, переводчик (в частности, он перевёл "Евгения Онегина" на английский - об этом буквально в следующем абзаце), музыкант и вообще непревзойдённый затейник - поистине энциклопедист нашего времени. Его знаменитая книга "Гёдель, Эшер, Бах: эта бесконечная гирлянда" получила в 1979 году Пулитцеровскую премию и National Book Award for Science. С тех пор эта книга вдохновляет поколение за поколением различного рода нёрдов, гиков, программистов и философов - к коим автор данного произведения себя ни в коем случае не причисляет (имеется в виду, к философам), но вдохновляется этой книгой не меньше. Если вы ещё не читали "Гёдель, Эшер, Бах", бросьте всё (в частности, бросьте вот эту самую эпигонскую писанину - говорю без малейшего кокетства) и бегите со всех ног читать.

Чтобы по достоинству оценить степень затейливости Хофштадтера, посмотрим на его перевод строфы II первой главы "Евгения Онегина":

...

Онегин, добрый мой приятель,
Родился на брегах Невы,
Где, может быть, родились вы
Или блистали, мой читатель;
Там некогда гулял и я:
Но вреден север для меня.

...

Onegin, my true friend and trusty,
Who by the Neva’s banks was born,
Just as were you, I would have sworn,
Dear reader — but my memory’s rusty.
There once throve I, but left, I fear;
The North was, shall I say, “severe.”

Вот как сам переводчик объясняет свой трюк (выделено мной):

мой перевод гласит: The North was, shall I say, “severe.”. Черт побери, я не просто играю со временами; Я также сильно грешу, играя на том факте, что русское слово "север" произносится как “séver”. Некоторым читателям это мое легкомыслие покажется настолько непочтительным по отношению к Пушкину, что они сослали бы меня в Бессарабию☆, если бы у них была возможность; другим это покажется просто забавным. Что до меня, то я вижу в этом еще один типичный пример поэтической lie-sense, причем вполне пушкинской.

Мой перевод изобилует подобными вещами ...

В этом объяснении вы, конечно же, заметили необычный каламбур lie-sense, который созвучен слову license (имеется в виду poetic license, то есть "поэтическая вольность"), но в прямом переводе означает "чувство лжи". Этот термин-каламбур, естественно, придуман самим Хофштадтером - известным мастером играть в слова - и вот как он его объясняет:

Я бы предложил альтернативное название искусству компромисса в переводе стихов - я бы сказал, что перевод стихов - это искусство "поэтического чувства лжи" (the art of “poetic lie-sense” ). Да, переводчик всегда лжёт, потому что переводить - значит лгать. Но даже просто говорить - не меньшая ложь☆☆. Ни одно слово не является совершенным, ни одно предложение не отражает всю правду и только правду. Все, что мы делаем, это довольствуемся тем, чем можем (оцените эту фразу в оригинале: "All we do is make do" - прим. автора), и в поэзии, надеюсь, делаем это изящно.

☆ Как известно, Пушкин начал писать "Евгения Онегина" именно в Бессарабии. Как пишет Набоков в своих комментариях к ЕО:

Бессарабия, упоминаемая в пушкинском примечании, — это область между реками Днестр и Прут, с фортами Хотин, Аккерман, Измаил и др.; ее главный город — Кишинев. Если Хотин в некотором смысле — колыбель русского четырехстопного ямба, то Кишинев — родина величайшей написанной этим размером поэмы.

☆☆ Неизвестно, читал ли Хофштадтер Тютчева, но как здесь не вспомнить вечное "мысль изреченная есть ложь"...

7

Вам может показаться, что умение считать без понимания природы чисел - нонсенс. Отнюдь! Взгляните на следующий алгоритм сложения двух чисел*:

Собственно говоря, это отрывок из той же самой книги "Как отвечать на вопросы, написанные по-китайски..." только для операции сложения.

Вам даже не нужно знать, что такое число 3, достаточно уметь опознавать его символ. Вам не нужно понимать, что такое 3+2 - достаточно срисовать символ 5.
Мы написали совершенно правильный ответ - означает ли это, что мы понимаем природу чисел?

Уподобимся Роджеру Пенроузу из комментария 6: и вообще, а что такое природа чисел?

А теперь вернёмся к комментарию 6, где мы обсуждали диалог "Тест Тьюринга: Беседа в кафетерии" Хофштадтера. В этом же диалоге он говорит и о природе счёта и редукционизме**:

Ты говоришь, что кассовый аппарат не способен считать. Твое утверждение напоминает мне еще об одном моем любимом отрывке из “Мозговой атаки” Деннетта. Этот отрывок довольно ироничен, за что он мне и нравится. Деннетт пишет примерно так: “Кассовые аппараты не могут считать по-настоящему — они могут только вращать колесиками. Однако, сами они и колесики не могут крутить — они могут лишь следовать законам физики.” У Деннетта это сказано о компьютерах; я же применяю это к кассовым аппаратам. И ту же логику можно применить и к людям: “На самом деле, люди не могут считать по-настоящему — они лишь манипулируют мысленными символами. Но и символами они не манипулируют, а только возбуждают различные нейроны в разных сочетаниях. Однако они не могут самостоятельно возбуждать собственные нейроны; им приходится позволять законам физики делать это за них”. И так далее. Видишь, как это вдохновленное Деннеттом reductio ad absurdum может заставить тебя заключить, что вычислений не существует, ураганов не существует… и вообще нет ничего выше уровня частиц и законов физики?

* Обратите внимание, что в этом алгоритме используется понятие "состояния" (это та же самая идея, с которой мы познакомились в комментарии 3, когда говорили о машине Тьюринга).
Название состояния не имеет никакого значения; чтобы подчеркнуть это, мы намеренно назвали его "Гиппопотам". На самом деле это, конечо, состояние необходимости переноса единицы в следующую колонку сложения.

** Наш старый знакомый Дэвид Дойч так объясняет редукционизм в своей книге "Структура реальности":

Редукционизм предполагает не только то, что объяснение всегда состоит в разделении системы на меньшие и более простые системы, но и то, что все поздние события объясняются через более ранние; другими словами, единственный способ что-то объяснить — это указать причины. А это подразумевает, что, чем раньше произошли события, на основе которых мы что-то объясняем, тем лучше объяснение, так что в конечном счёте всё лучше объяснять на основе первоначального состояния Вселенной.

8

Сёрль называет это "ответом систем":

Верно, что один человек, запертый в комнате, не понимает рассказа — но он является частью целой системы, которая этот рассказ понимает. Перед человеком лежит толстый том, в котором написаны правила, у него полно бумаги и карандашей, чтобы делать вычисления, у него есть “банк данных” в виде китайских иероглифов. Но понимание не приписывается только этому индивиду; скорее, оно приписывается всей системе, частью которой он является.

Сёрль пробует опровергнуть этот ответ следующим образом. Представим, что человек в комнате выучит наизусть все элементы системы: все правила в книге, все иероглифы - и сможет производить манипуляции с символами в уме. В таком случае вся "система" помещается внутри мозга этого человека. Этот человек (сверх-человек на самом деле) для окружающих ничем не отличается от человека, говорящего по-китайски - и тем не менее нельзя отрицать, что он ровным счётом ничего не понимает. Ведь если его потом спросят на его родном языке, о чём шла речь, он ничего не сможет ответить!

Хофштадтер и Деннетт - ярые противника Джона Сёрля - называют такого человека "демоном Сёрля" (ещё один демон - впридачу к Декарту, Лапласу и Максвеллу!) и возражают ему так: при всём желании невозможно вообразить, что человек способен запомнить программу, которая воплощает в себе целый разум другого существа, такого же сложного, как человек, который способен пройти текст Тьюринга*.

Может ли какой-либо человек просто “проглотить” описание разума другого человека? Нам достаточно трудно запомнить один абзац текста, а Сирл предполагает, что его демон запросто запомнил миллионы, если не биллионы страниц, усеянных абстрактными символами, и может по требованию вызвать из памяти любой из них. Этот невероятный аспект ситуации описан легко и непринужденно.

Этот контраргумент кажется немного наивным: ведь речь идёт о гипотетическом эксперименте - при чём же здесь наши способности к запоминанию? И всё же что-то в этом есть; проглатывание разумом одного человека целого разума другого человека представляется уж слишком сильным допущением.

Здесь мы возвращаемся к вопросу: а что такое разум? Это некая субстанция или... что? Роджер Пенроуз пишет:

"Разумная субстанция" в представлениях сильного ИИ — это логическая структура алгоритма [...] её физическое воплощение не имеет никакого значения. Алгоритм обладает неким бесплотным существованием, никак не связанным с конкретной физической реализацией.

Джан-Карло Рота (знакомый нам по комментарию 10 Главы 1) в своей книге "Indiscrete Thoughts" продолжает тему в феноменологическом ключе:

Сегодня все понимают, что компьютерная программа - это не
объект, поскольку слово "объект" относится в обыденной речи к физическому объекту. [...] Одна и та же программа может
переноситься с одного типа оборудования (hardware) на другое. Компьютерная программа наделена собственной идентичностью, совпадающей с функцией, которую программа, как ожидается, будет выполнять снова и снова. Этот "объект" не зависит от того, какое оборудование может потребоваться для работы программы. Ученый-компьютерщик никогда не перепутает элемент, называющийся "программа" (software), с оборудованием (hardware), которое помогает этому элементу работать.[...]
Идентичность компьютерной программы - это элемент, который связан с аппаратным обеспечением посредством особого отношения, которое философы называют Fundierung. [...] Это понятие было введено Эдмундом Гуссерлем. (см. комментарий 5)

Что ж, если речь идёт о компьютерной программе, достаточно понятно, что именно думает и где именно находится идентичность происходящего. Но имеем ли мы право переносить во многом механистический процесс выполнения программы на такую тонкую материю, как сознание и мышление?**

* Тест Тьюринга (о Тьюринге см. комментарий 3) предложен им в ответ на заданный в его статье "Вычислительные машины и разум" вопрос "могут ли машины думать?"

(см. продолжение сноски)

** И в этом месте - неожиданно для самого себя - автор решает сделать большое отступление о поэзии. Почему о поэзии? Потому что аналогия между вопросами, поднятыми в этой главе - где находится мышление? где находится знание языка? что именно думает: некая плохо определённая сущность или целая система взаимосвязанных компонентов - и структурой и сутью поэтического произведения представляется на первый взгляд несколько безумной, но на второй...

(см. продолжение сноски)

* (продолжение сноски)

Тест состоит из экзаменатора, человека и компьютера. Все они находятся в разных комнатах. Задача экзаменатора состоит в том, чтобы, задавая любые вопросы, определить, кто из собеседников человек, а кто машина. Задача машины - имитировать поведение человека. Если экзаменатор не справится со своей задачей, будем говорить, что компьютер прошёл тест Тьюринга.

Сам Тьюринг считал, что к началу 21-го века уже удастся построить машины, способные имитировать человеческий разум. Заметим - ключевое слово здесь имитировать; Тьюринг, по-видимому, хотел избежать спора, подобного "эксперименту с китайской комнатой". Он пишет: "Первоначальный вопрос — “способны ли машины мыслить?” — я считаю слишком бессмысленным, чтобы его обсуждать".

** (продолжение сноски)

Если вдуматься, стихотворение подобно такого рода системе: мы не можем определить, где именно находится его центр; где именно находится то, что оказывает на нас эмоциональное и смысловое воздействие.
Мы видим отдельные слова, отдельные фразы, словосочетания, паттерны. Каждое из этих слов и фраз нам понятно, но ни одно из них, взятых отдельно, ещё не создаёт то, что мы называем цельным впечатлением. Они делают это только вместе - в сложно организованной системе связей, смыслов, ритма, размера, рифм. В сочетании звуков, перепадов интенсивности впечатлений, эмоциональной окраски.
Аналогию можно продолжить. Каждое слово в стихотворении находится в центре огромной семантической сети понятий; каждая фраза тянет за собой гигантскую паутину ассоциаций. И только работающее вместе всё это создаёт единое эстетическое явление.
Почему не живопись? Во-первых, картина не делится на чёткие семантические модули, во-вторых - хоть её и можно долго рассматривать - всё-таки картина создаёт единое моментальное впечатление, что не подходит для наших целей.
Почему не музыка? Здесь понятно: это практически чисто эмоциональный язык (даже учитывая то, что существует программная музыка, подразумевающая некий точно заложенный смысл - см., например, "Фантастическую симфонию" Берлиоза); так что для рассмотрения здесь музыка тоже не годится.
Пусть будет поэзия.

Нам подойдёт, конечно, бесконечное множество стихов, но мы возьмём "Художника" Александра Блока. Во-первых, потому что оно о непередаваемом феномене творческого вдохновения (а нас как раз и интересует всё то, что невозможно передать словами и рационально объяснить). Во-вторых, потому что это стихотворение разобрал чудесный Лотман - да-да, тот самый Юрий Михайлович Лотман из комментария 13 Главы 1, создатель понятия семиосферы. Для нас в его разборе интересно практически всё. Вот увидите.

Итак. Первые две строфы:

В жаркое лето и в зиму метельную,
В дни ваших свадеб, торжеств, похорон,
Жду, чтоб спугнул мою скуку смертельную
Легкий, доселе не слышанный звон.

Вот он - возник. И с холодным вниманием
Жду, чтоб понять, закрепить и убить.
И перед зорким моим ожиданием
Тянет он еле приметную нить.

Лотман разбивает этот текст на несколько ступеней - уровней (в терминологии Хофштадтера). Первая ступень - внешний мир - мир по ту сторону поэзии (ваших свадеб, торжеств, похорон). Следующий пласт - мир поэтического "я". На следующем уровне поэтический мир погружен в глубину и в обычном состоянии пребывает во сне, но в некоторые - непредсказуемые - моменты он пробуждается как лёгкий, доселе не слышанный звон. Лотман произносит ключевую фразу: "Здесь существен переход от мира, выражаемого в словах, в мир, лежащий за их пределом". Не забудем, что Лотман - семиотик; для него переход в мир, невыражаемый словами, крайне важен:

Следующая строфа посвящена именно этой безнадежной попытке: Блок вынужден как поэт, материалом которого является слово, пытаться в пределах этого материала выразить то, что принципиально им не выражаемо. В третьей строфе следует серия отрывочных предложений. Их вопросительные интонации выражают сомнение в адекватности слова его значению. Это сочетается с принципиальной несовместимостью смыслов: единой логической картины они не образуют. Синтаксическая конструкция строфы — как бы продолжение известного вопроса Жуковского: "Невыразимое подвластно ль выраженью?"

Вот эта строфа:

С моря ли вихрь? Или сирины райские
В листьях поют? Или время стоит?
Или осыпали яблони майские
Снежный свой цвет? Или ангел летит?

Всё та же мысль! Мы (вместе с Хайдеггером, Борхесом☆, Хофштадтером, Тютчевым, Жуковским и другими) продолжаем спотыкаться о нечто, невыразимое языком (в рамках системы), которое нужно выразить языком самой этой системы. В данном случае системой является человеческий мир и поэтическое вдохновение. Какими словами описать его? Не является ли оно выражением той самой свободы воли, той самой новизны решения, о который мы говорили в комментарии 2 Главы 4?
И если так, существуют ли в нашем языке слова, чтобы описать явления такого рода?
Хайдеггер решал вопрос с языком, изобретая свои собственные (довольно неуклюжие) конструкции - бытие-в-мире, точка-теперь и другие; Борхес придумывал поэтические объекты, состоящие из одного слова (см. комментарий 2 Главы 2); Блок пытается передать непередаваемое с помощью поэтических конструкций (поют райские птицы, останавливается время, летит ангел, майские яблони осыпают снежный цвет)☆☆.

Тем временем Лотман продолжает:

Строфа, демонстрирующая отсутствие адекватного языка и необходимость заменить его многими взаимоисключающими языками, сменяется композиционным центром стихотворения — описанием момента высшего напряжения поэтического вдохновения. Мир признаков и овеществлении сменяется миром высшей ясности, снимающей противоречия в некоем глубинном их единстве.

Длятся часы, мировое несущие.
Ширятся звуки, движенье и свет.
Прошлое страстно глядится в грядущее.
Нет настоящего. Жалкого - нет.

"Длятся часы": возможность продлить час и то, что часами называется краткая минута вдохновения, свидетельствует о том, что речь идет не об единице измерения времени, а о прорыве в не-время. Противоположности отождествляются, "звуки, движенья и свет" выступают как синонимы.

Особенно интересно исчезновение настоящего. Оно оказывается лишь лишенным реальности, как геометрическая линия, пространством между прошедшим и будущим. А формула "прошлое страстно глядится в грядущее" звучит как пророческое предсказание современных представлений о перенесении в нашем сознании прошлого в будущее.

Момент высшего напряжения снимает все границы непереводимостей и делает несовместимое единым. Перед нами — поэтическое описание нового смысла. Блок хотел вырваться за пределы смысла, но с ним случилось то же, что с пророком Валаамом, который, намереваясь проклясть, благословил. Блок исключительно точно описал то, что считал неописуемым.

Здесь каждая фраза на вес золота.

"Звуки, движенья и свет выступают как синонимы". Вспомним слова Артюра Рембо из сноски *** к комментарию 10 Главы 2: "То будет язык, идущий от души к душе и включающий в себя все: запахи, звуки, цвета".
"Перед нами — поэтическое описание нового смысла. Блок хотел вырваться за пределы смысла[...] и точно описал то, что считал неописуемым". Не так ли и философы пытаются вырваться за пределы смысла? Не так ли и они хотят описать неописуемое?

Ну так что - можно ли поверить алгеброй гармонию? Вот что на этот счёт думал Уолт Уитмен☆☆☆:

Когда я слушал ученого астронома
И он выводил предо мною целые столбцы мудрых цифр
И показывал небесные карты, диаграммы для измерения звезд,
Я сидел в аудитории и слушал его, и все рукоплескали ему,
Но скоро - я и сам не пойму отчего - мне стало так нудно
и скучно,
И как я был счастлив, когда выскользнул прочь и в полном
молчании зашагал одинокий
Среди влажной таинственной ночи
И взглядывал порою на звезды.

(Перевод К. Чуковского)

☆ В частности вот, что пишет Борхес в рассказе "Дом Астерия" от лица Минотавра:

Мне не интересно, что один человек может сообщить другим; как философ, я полагаю, что с помощью письма ничто не может быть передано.

☆☆ Созданием нового поэтического языка, походом к самим вещам, очищенным от "словесной шелухи" (привет феноменологам!), занимались и ОБЭРИУты (как не вспомнить их, хотя бы в честь Хармса, который подарил нам Самовар в названии этой книги?). Вот отрывки из манифеста ОБЭРИУтов:

Мы — поэты нового мироощущения и нового искусства. Мы — творцы не только нового поэтического языка, но и созидатели нового ощущения жизни и ее предметов. [...] В своем творчестве мы расширяем и углубляем смысл предмета и слова, но никак не разрушаем его. Конкретный предмет, очищенный от литературной и обиходной шелухи, делается достоянием искусства. В поэзии — столкновение словесных смыслов выражает этот предмет с точностью механики. Вы как будто начинаете возражать, что это не тот предмет, который вы видите в жизни? Подойдите поближе и потрогайте его пальцами. Посмотрите на предмет голыми глазами, и вы увидите его впервые очищенным от ветхой литературной позолоты.

Александр Введенский (один из ОБЭРИУтов) в своём мистическом стихотворении "Гость на коне" производит магические превращения времени в расстояние (вечер находится на расстоянии, измеряемом в вёрстах), предметов из железа в слова, ропот, сон, несчастье или каплю света (вспомните лотмановское "Звуки, движенья и свет выступают как синонимы"; здесь синонимами выступают вещи материальные, абстрактные, бессознательные и фантастические):

Я забыл
существованье
слов, зверей, воды и звезд.
Вечер был на расстояньи
от меня на много верст.
Я услышал конский топот
и не понял этот шепот,
я решил, что это опыт
превращения предмета
из железа в слово, в ропот,
в сон, в несчастье, в каплю света.

☆☆☆ А вот что на этот счёт думал уже известный нам из Главы 1 e.e.cummings:

While you and i have lips and voices which
are for kissing and to sing with
who cares if some oneyed son for a bitch
invents an instrument to measure Spring with?

9

Здесь описан так называемый "парадокс функционализма"*, предложенный Лоуренсом Дэвисом. Предположим, говорит он, мы полностью изучили нейро-физиологический механизм боли, а потом смоделировали его с помощью множества офисных работников с телефонами внутри гигантского робота. Загляните внутрь робота. Всё, что вам удастся там обнаружить, это несметную толпу клерков, некоторые из которых будут разговаривать друг с другом по телефону, а некоторые будут время от времени скучать и потягивать свой кофе. Все согласны, что робот, нервную систему которого имитирует этот офис, должен корчиться от боли; но где же именно она находится?

Похоже, что именно этот вопрос является центральным: где находится знание языка? где находится боль? где находится "душа урагана"? где находится центр стихотворения?

Теологи скажут, что мышление есть функция бессмертной души человека, данной вему Богом. Рене Декарт** укажет на тот очевидный факт, что мышление есть "разумная субстанция", которая не может состоять из обычной материи и существует независимо от неё. Сторонники сильного ИИ уверены, что разумная субстанция - это логическая структура алгоритма (см. комментарий 8). Приверженцы философии процесса*** думают, что мышление это не субстанция, а процесс, выполнение этого самого алгоритма. Возможно, что все они правы одновременно.

И если уж речь зашла о душе, а тем более о роботах, нам просто необходимо поговорить о Руди Рукере (или Ракере) - математике и писателе, одного из основателей жанра киберпанк, автора Ware Tetralogy (в которую входят книги Software, Wetware, Freeware и Realware) и - немаловажный факт! - прапраправнуке Гегеля****.
Подход Рукера к вопросу "есть ли у роботов душа" довольно неожиданный: он мистический. Руди Рукер в принципе согласен со сторонниками сильного ИИ, но в своей аргументации он обращается к Абсолюту (очевидно, ему передались гены прапрапрадедушки), придерживаясь при этом строгих законов математической логики.
Итак, Рукер замечает, что личность человека состоит из трёх частей:
1) hardware - тело и мозг; 2) software - умения, навыки, воспоминания, поведение; 3) сознание - чувство "я" или, проще говоря, душа. Рукер утверждает, что мы можем спокойно заменить любую часть hardware и software человека, оставив при этом нетронутой душу. В принципе (по Рукеру), даже мозг человека можно заменить на искусственный; человек может полностью потерять память, разучиться делать множество вещей, полностью поменять набор знаний и умений - при этом душа, как некая сущностная идентичность, останется на месте. Так что же остаётся в этом случае для души? Только первичное ощущение существования, которое выражается высказыванием "Аз есмь". И каждый из нас выражает своё личное ощущение существования в точности теми же словами. В книге "Infinity and the Mind" Рукер пишет:

Можно предположить, что на самом деле существует только одно сознание, что отдельные люди - просто разные обличья того, что классическая мистическая традиция называет Единым*****. Но мы можем пойти дальше этого. Сущность сознания - это на самом деле не более чем существование - "Я есть". Почему мы должны отказать в обладании таким сознанием всему, что существует?****** Фома Аквинский сказал, что Бог - это чистое неизменное существование. Разве не очевидно, что существует некое единственное нечто - назовем это Богом, Единым или "чистым существованием", - которое пронизывает весь мир?[...] В конце концов, существование - единственное, что требуется для сознания. Камень сознательный. Эта бумажка сознательная.******* И, конечно же, робот - как до, так и после того, как его поведение эволюционирует до нашего уровня. Традиционно те, кто утверждает эквивалентность людей и (возможных в будущем) машин - позитивисты, механисты и материалисты. Они формулируют свою точку зрения так: "Люди не лучше машин". Но если изменить акцент, эта эквивалентность может стать выражением глубокой веры в универсальность и реальность сознания: "Машины могут быть не хуже людей!"

* Функционализм утверждает, что компьютерная программа, которая во всех деталях воспроизводит работу человеческого мозга, полностью сопоставима с мозгом, включая наличие сознания (!).

** Рене Декарт, хорошо знакомый нам из Главы 4, являлся приверженцем доктрины дуализма, то есть учения о том, что существуют два независимых вида субстанций: "разумная" и обычная материя.

*** Философия процесса рассматривает изменение как основу реальности. Естественным образом прадедушкой философии процесса является Гераклит ("всё течёт", "нельзя войти в одну реку дважды"), но её отец - философ, много раз встреченный нами по пути - Альфред Норт Уайтхед.

**** Великий немецкий философ Георг Гегель - один из фундаментальных философов (как и Хайдеггер) - разработал свою собственную, зубодробительную систему философии, в которой (в свете текущей дискуссии) нам может быть интересно следующее: разум и история развиваются в направлении Абсолюта, преодолевая различные стадии относительной незрелости.

***** Неизвестно, осознаёт ли Рукер, что практически цитирует учение каббалистов:
каждая человеческая душа на самом деле является фрагментом или частью одной души, состоящей из суммы всех душ. Хотя все души являются частью одной общей человеческой души, каждый фрагмент уникален и незаменим и работает со всеми другими душами, чтобы стать самим собой.

****** Помните панпсихизм из комментария 10 Главы 2?

******* Последние сомнения отпали: Руди Рукер совершенно определённо панпсихист.

10

11

10

Наш друг Хофштадтер посвятил горы страниц значению и взаимоотношениям уровней систем; в основном его, как когнитивного философа интересуют, конечно, уровни, принимающие участие в возникновении мышления. Будучи сторонником сильного ИИ, он декларирует полную нерелевантность нижних уровней системы для её корректного функционирования. В книге "I am a Strange Loop" Хофштадтер приводит следующий элегантный пример возможности полного игнорирования "нижних уровней".
Когда маленькому Дугласу было восемь лет, его мать поставила пластинку с одним из этюдов Шопена, который его совершенно поразил на всю жизнь*.
Что было бы, если бы мать Хофштадтера поставила иглу на пластинку секундой позже, задаётся он вопросом? Нет никакого сомнения, что все молекулы воздуха в комнате находились бы в совершенно других местах (и если бы вы, читатель, были одной из этих молекул, ваша жизнь с той секунды пошла бы по-другому). Но пошла ли по-другому из-за этой задержки жизнь Хофштадтера? Абсолютно другие молекулы воздуха передали бы в его уши этюд Шопена, но поразил ли бы он его меньше? Ни на йоту!
Таким образом, нижний уровень передачи звуков, то есть молекулы, участвовавшие в звуковых волнах, были другими, но верхний уровень системы, состоявшей из Шопена, его музыки и Хофштадтера остался неизменным**.

Далее Хофштадтер приводит настолько забавный пример нерелевантности деталей нижних уровней системы для получения стабильных статистических результатов, что хочется процитировать его всего целиком:

Подбросьте четвертак миллион раз, и вы с большой вероятностью получите 500 000 решек в пределах одного процента погрешности. Подбросьте пенни столько же раз - это утверждение останется верным. Используйте разные монеты на каждом броске - десятицентовики, четвертаки, новые пенни, старые пенни, пятаки, серебряные доллары и т. д. - вы всё равно получите тот же результат. Обрежьте пенни так, чтобы он стал шестиугольником - никакой разницы. Замените шестиугольный контур формой слона. Перед каждым переворачиванием обмакивайте пенни в яблочный сок. Подбрасывайте пенни высоко в воздух бейсбольной битой. Делайте это в газообразном гелии вместо воздуха. Проведите эксперимент на Марсе вместо Земли. Эти, и бесчисленное множество других вариаций никак не повлияют на тот факт, что из миллиона подбрасываний 500 000 окажутся решкой в пределах одного процента погрешности. Этот статистический результат высокого уровня устойчив и инвариантен к деталям и микроскопическим законам, управляющим переворотами и отскоками; результат высокого уровня изолирован от микроскопического уровня. И хотя то, что происходит на более низком уровне, отвечает за то, что происходит на более высоком уровне, тем не менее, это не имеет отношения к высокому уровню. Более высокий уровень может совершенно спокойно игнорировать процессы, происходящие на более низком уровне***.

11

О виртуальных машинах смотрите ссылку *** к комментарию 4.

* Интеллектуальный супергерой, как и было сказано.

** В дальнейшем мы ещё увидим, что (возможно) происходит, когда уровни системы начинают перемешиваться.

*** Хочется попробовать привести аналогичный пример для поэзии (см. сноску ** к комментарию 8).
Предположим, что мы перевели стихотворение на другой язык - в нём не осталось ни единого слова, ни единой буквы от оригинала. Предположим также, что перевод этот конгениален, и оба языка являются для некоего человека родными. Для усиления эффекта мы не дадим этому человеку читать глазами, а прочитаем ему стихотворение сами. Теперь от оригинала не осталось ровным счётом ничего - даже способ донесения использует уже другие органы чувств.
И всё-таки можно утверждать, что стихотворение (верхний уровень) окажет на этого человека такое же воздействие как и оригинал.

12

13

12

Здесь описывается диалог Дугласа Хофштадтера "Беседа с мозгом Эйнштейна". Диалог, как водится, ведут его любимые герои Ахиллес и Черепаха. Хофштадтер тратит немало страниц на то, чтобы объяснить как всё это работает, но мы с читателем, поднаторевшие в умозрительных экспериментах и начитанные не в меру (вспомните хотя бы "китайскую книгу"!) - мы можем разобраться в механизме работы этой книги без всяких инструкций.

13

"Настоящий Эйнштейн"?! А не погорячился ли наш уважаемый Кламсидайл? Интересно, что сказал бы о бытии этого книго-Эйнштейна Хайдеггер? Во всяком случае, можно точно сказать, что сказал бы об этом Руди Рукер (см. комментарий 9). Если сама по себе книга - это hardware, записанные в ней инструкции для "нейронов Эйнштейна" - software, то где же тут душа - ну, или та загадочная штука, которая по Рукеру отвечает за слова "Я есть, я существую"?
Постойте, но с другой стороны, разве "мозг Эйнштейна" (пусть и перенесённый в книгу) не способен сказать "Я есть"? А с третьей стороны - как он это скажет, если книгу никто никогда не открывал (то есть, другими словами, никто не запускал "алгоритм" мозга Эйнштейна, чтобы он мог заявить о своём существовании). С четвёртой стороны (так мы быстро исчерпаем все стороны), что это значит, что некто открыл книгу и запустил "алгоритм Эйнштейна"? Ведь именно этот кто-то читает книгу, то есть алгоритм работает в его голове? Не значит ли это, что он "проглотил разум" Эйнштейна?*

* См. комментарий 8:
Может ли какой-либо человек просто “проглотить” описание разума другого человека?

Во всяком случае, мы знаем, что Универсальная Машина Тьюринга может проглотить специализированную Машину Тьюринга (комментарий 4).

14

Неподражаемый Хофштадтер, собственно, и дал нам вполне реальные примеры "общения с книгой" в своей колонке в Scientific American. Разговор этот может выглядеть таким образом. Писатель говорит предложению:

Ты находишься под моим полным контролем, потому что я выбираю слова, из которых ты состоишь, и в каком порядке они идут.

На что предложение отвечает читателю (то есть, нам):

Нет, я контролирую тебя, потому что ты будешь читать, пока не дойдёшь до моего конца*.

С этим трудно не согласиться, особенно если задуматься о том, что предложение обретает смысл только тогда, когда читатель дочитывает его до конца, тем самым подтверждая контроль.

А как вам такое? -

Читатель этого предложения существует только, пока читает меня.

Мысль поначалу кажущаяся абсурдной, хотя формально она совершенно верна!

Ну и напоследок отступим от темы, потому что нельзя же не привести вот эти, совершенно замечательные примеры:

Когда вы на него не смотрите, это предложение написано по-испански.

Сможете опровергнуть?

Предложение, которое вы сейчас читаете, провело целый месяц, будучи написанным по-венгерски, и только недавно было переведено на английский (русский, в нашем случае).

* Можно даже совсем похулиганить и изобразить битву предложения с его создателем, например так:

Ты находишься под моим полным контролем, нет, не нахожусь, потому что я выбираю слова, состоишь ты которых из идут в каком порядке они и.

15

16

15

Так рассуждает Роджер Пенроуз, обсуждая диалог Хофштадтера "Беседа с мозгом Эйнштейна" в книге "Новый ум короля":

Книгу могут не открыть ни разу — или же, напротив, над ней будут корпеть многочисленные студенты и искатели истины. Как книга «поймет» разницу между этими двумя крайностями? Возможно, книгу даже не понадобится открывать, если в ход будет пущено считывание информации при помощи рентгеновской томографии или какое-нибудь другое технологическое чудо-средство. Осознает ли Эйнштейн, что книга изучается подобным образом? Будет ли он знать о двух попытках найти с его помощью ответ на один и тот же вопрос, если он был задан дважды, разными людьми и в разное время? Или это вызовет две разделенные по времени копии одного и того же состояния осознания? Возможно, акт осознавания будет иметь место только в случае изменений, произошедших с книгой? В конце концов, мы обычно осознаем нечто, когда получаем о нем информацию извне, которая воздействует на наши воспоминания и, естественно, несколько изменяет состояние нашего ума. Если это так, то означает ли это, что именно (соответствующие) изменения алгоритмов (здесь я рассматриваю хранилище информации как часть алгоритма) должны приниматься за события, происходящие в процессе умственной деятельности — а не само выполнение (хотя, быть может, и оно тоже) алгоритмов? Или же «книго-Эйнштейн» способен полностью осознавать себя даже в том случае, когда его никто не будет изучать и ничто не потревожит? [...]

Что значит «запустить алгоритм» или «реализовать его физически»? Будет ли изменение алгоритма как-нибудь отличаться от его замены на другой алгоритм? И как же все это, черт побери, связано с нашими чувствами и осознаванием?!*

16

Завершить эту главу можно интересной аналогией с проблемой "китайской комнаты". В довольно посредственном (но интересном своей идеей) фильме Yesterday герой-музыкант попадает в альтернативную реальность, в которой есть всё, что есть в нашей реальности, кроме группы The Beatles. Её никогда не существовало, никто на земле, кроме нашего героя, не знает их песен. Он выдаёт песни Beatles за свои собственные и становится знаменитым музыкантом.

Возникает вопрос: является ли этот человек вором и плагиатором? На первый взгляд несомненно. Однако задумаемся. В мире, в котором он теперь живёт нет и никогда не было песен Beatles. Наш музыкант приносит эти песни в мир "из ничего"; ну, не совсем из ничего - из своей памяти. А откуда же возникают песни у настоящих творцов? Из "божественного вдохновения", из "алгоритмов мышления", из процессов обработки информации, из неожиданных комбинаций чужих идей, из "свободы воли" вносить случайные изменения в детерминированные алгоритмы, из Абсолюта? Мы не знаем. Результаты, тем не менее, одинаковы - и наш плагиатор (или "плагиатор"), и Beatles производят из головы нечто, чего в мире до этого не было. А вдруг творцы тоже вспоминают своё творение, только бессознательно?

Ситуация совершенно идентична нашим героям в "китайской комнате". Они правильно отвечают на вопросы, не зная при этом китайского. Является ли настоящим автором ответов на эти вопросы книга инструкций, а наши герои просто ловкими обманщиками? Или подобная "книга инструкций" есть в голове каждого человека, говорящего по-китайски - просто он этого не осознаёт?...**

* Это, сказанное в сердцах, "чёрт побери" невольно выдаёт ту степень отчаяния, которая охватывает Пенроуза при попытке ответить на такого рода вопросы. Действительно, все эти дьявольские мысленные эксперименты кого угодно сведут с ума...

** Я нашёл поистине чудесное решение этого вопроса, но к сожалению поля этой книги слишком узки для него.

Хайдеггер и Самовар

занимательное пособие по экспериментальной философии

Глава 5

Снятся ли роботам в агонии уроки китайского?

1

1

2

2

3

3

4

4

5

5

6

6

7

7

8

8

9

9

10

11

10

11

12

13

12

13

14

14

15

16

15

16