Загрузка...



  • 4 А. М. ТЬЮРИНГ Вычислительные машины и разум
  • Размышления
  • 5 ДАГЛАС Р. ХОФШТАДТЕР Тест Тьюринга: Беседа в кафетерии
  • Размышления
  • 6 СТАНИСЛАВ ЛЕМ Принцесса Несказана
  • Размышления
  • 7 ТЕРРЕЛ МИДАНЕР Душа Марты-зверя
  • Размышления
  • 8 ТЕРРЕЛ МИДАНЕР Душа Марка-зверя Третьего
  • Размышления
  • II

    В ПОИСКАХ ДУШИ

    4

    А. М. ТЬЮРИНГ

    Вычислительные машины и разум


    Игра-имитация

    Я предлагаю рассмотреть вопрос “Могут ли машины думать?”. Для начала необходимо определить значения терминов “машины” и “думать”. Мы можем попытаться составить определения, максимально приближенные к обычному значению этих слов, но это — опасный подход. Если проанализировать то, как обычно употребляются слова “машины” и “думать”, то придется заключить, что ответ на вопрос “Могут ли машины думать?” надо искать в результатах статистических опросов, вроде тех, что проводятся институтом общественного мнения Гэллапа. Но ведь это абсурд! Вместо того, чтобы пытаться дать подобное определение, я заменю вопрос на другой, тесно связанный с первым, но выраженный не такими двусмысленными словами.

    В этой новой форме проблема может быть описана в терминах игры, которую мы будем называть “игра-имитация”. В ней принимают участие три человека: мужчина (А), женщина (Б) и экзаменатор (В), который может быть любого пола. Экзаменатор сидит в отдельной комнате. Цель игры заключается в том, что экзаменатор должен определить, кто из остальных двоих — женщина и кто — мужчина. Ему они известны как X и Y, и в конце игры он говорит либо “X это А, a Y — Б”, либо “X это Б, a Y — А” Экзаменатор может задавать вопросы, например:

    В: X, скажите пожалуйста, какой длины ваши волосы?

    Предположим, X — это А, тогда отвечать приходится А. Целью А является любым путем обмануть В. Ответом, следовательно, может быть что-нибудь вроде:

    “Мои волосы коротко острижены и самые длинные прядки длиной около девяти дюймов.”

    Чтобы тембр голоса не выдал отвечающих, ответы должны быть написаны или, еще лучше, напечатаны. Идеально было бы иметь телетайп для сообщения между двумя комнатами — или же вопросы и ответы могут передаваться с помощью посредника. Третий игрок, Б, старается помочь экзаменатору. Пожалуй, лучшая стратегия для нее заключается в правдивых ответах. Она может сказать, в дополнение к своим ответам, что-нибудь вроде “Не слушайте его, женщина — я!”; однако это мало поможет, поскольку мужчине ничто не мешает утверждать то же самое.

    Теперь мы спрашиваем: а что произойдет, если вместо А в игре примет участие машина? Будет ли экзаменатор ошибаться так же часто, как и в игре с женщиной и мужчиной? Эти вопросы заменяют наш первоначальный вопрос о том, могут ли машины думать.


    Критика новой проблемы

    Вместо того, чтобы искать ответ на этот новый вопрос, вы могли бы спросить: “А стоит ли нам вообще тратить время на исследование этой проблемы?” Вот на этот вопрос мы ответим немедленно, предотвратив, таким образом, возможность бесконечного регресса.

    Преимущество новой задачи в том, что она проводит четкую границу между физическими и умственными способностями человека. Ни один инженер или химик не возьмется утверждать, что может произвести материал, неотличимый от человеческой кожи. В будущем такое может стать возможным, но даже если подобное изобретение и будет сделано, мы, скорее всего, решим, что не стоит пытаться приблизить “думающие машины” к человеку, одевая их в человекообразную оболочку. Форма, в которую мы облекли нашу проблему, отражает этот факт, поскольку экзаменатор не может увидеть или прикоснуться к остальным участникам игры, не может услышать их голоса.

    Некоторые другие преимущества предложенного критерия можно вывести из списка примерных вопросов и ответов:

    В: Пожалуйста, напишите мне сонет о мосте и Форте.

    О: Увольте; я не умею писать стихи.

    В: Сложите 34957 и 70764.

    О: (После паузы секунд в тридцать) 105621.

    В: Вы играете в шахматы?

    О: Да.

    В: Мой король стоит на e1; других фигур у меня нет. Ваш король на e3, а ладья на a8. Ваш ход. Как вы пойдете?

    О: (Подумав секунд пятнадцать): Ла1, мат.

    Метод вопросов и ответов позволяет затронуть любую область человеческой деятельности, которую мы пожелаем включить. Мы не хотим наказывать машину за ее неспособность блистать на конкурсах красоты, или человека за то, что он не может соревноваться в быстроте с самолетом. Условия нашей игры делают подобное неравенство неважным. Играющие могут хвастаться, если сочтут это нужным, расхваливая собственную красоту, силу или героизм, но экзаменатор не может потребовать у них практического подтверждения.

    Можно критиковать эту игру, утверждая, что шансы человека в ней значительно перевешивают шансы машины. Если бы человек должен был притвориться машиной, ему пришлось бы значительно труднее. Его сразу выдала бы медлительность и неаккуратность в арифметике. Могут ли машины делать нечто, что нам пришлось бы определить как мышление, но что сильно отличалось бы от того, на что способен человек? Это очень сильное возражение; тем не менее, мы можем утверждать, что если нам удастся сконструировать машину, способную играть в игру-имитацию, этот аргумент не должен нас тревожить.

    Возможно, что в процессе игры лучшей стратегией машины вовсе не является рабская имитация человеческого поведения. Однако мне не кажется, что это окажет значительное влияние на исход игры. Так или иначе, мы не собираемся здесь изучать теорию данной игры; мы предполагаем, что наилучшей стратегией являются естественные ответы, которые дал бы человек.


    Машины, участвующие в игре

    Поставленный нами вопрос останется неопределенным, пока мы не поясним, что имеется в виду под “машиной”. Естественно, что мы допускаем в ней использование любой инженерной технологии. Мы допускаем и возможность того, что инженер или группа инженеров сконструируют машину, принцип действия которой они сами не смогут удовлетворительно объяснить, поскольку применяли в основном экспериментальный метод. Мы исключаем из класса машин людей, рожденных обычным способом. Трудно сформулировать определение, удовлетворяющее все три условия. Например, можно потребовать, чтобы все инженеры в команде были одного пола, но это условие не будет удовлетворительным, так как в принципе возможно создать полноценного индивида из единственной клетки кожи, взятой, скажем, у мужчины. Это было бы огромным достижением биологической техники, достойным наивысших похвал — но вряд ли это можно было бы назвать “конструированием думающей машины”. Следовательно, нам придется отказаться от того условия, что любая техника разрешена. Мы готовы на это еще и потому, что сегодняшний интерес к “думающим машинам” вызван определенным типом машины, обычно именуемым “электронным компьютером” или “цифровым компьютером”. В соответствии с этим предположением, мы допустим к нашей игре лишь цифровые компьютеры....

    Цифровые компьютеры имеют особое свойство: они могут имитировать любую дискретную машину; поэтому они зовутся универсальными машинами. Существование машин с подобным свойством имеет важное следствие — чтобы выполнять разнообразные вычислительные операции, нет необходимости создавать множество новых машин (если, конечно, не принимать в расчет соображений скорости). Любая операция может быть выполнена одним и тем же компьютером, запрограммированным соответственно. Мы увидим, что вследствие этого все цифровые компьютеры в каком-то смысле эквивалентны.


    Противоположный взгляд на основной вопрос

    Теперь, когда почва подготовлена, мы приступаем к обсуждению нашего основного вопроса: “Способны ли машины думать?”

    …Мы не можем совсем отбросить первоначальную форму проблемы, поскольку мнения о правомочности замены могут разниться, и мы обязаны хотя бы выслушать то, что может быть сказано в связи с этим.

    Для читателей будет проще, если я сначала изложу собственное мнение. Рассмотрим сначала наиболее аккуратную форму вопроса. Я считаю, что лет через пятьдесят удастся запрограммировать компьютеры с памятью примерно в 109 так, что они смогут играть в игру-имитацию настолько успешно, что обычный экзаменатор после пяти минут опроса будет иметь не более чем 70% шансов на верную идентификацию. Первоначальный вопрос — “способны ли машины мыслить?” — я считаю слишком бессмысленным, чтобы его обсуждать. Тем не менее, я верю, что к концу столетия словоупотребление и общественное мнение среди образованных людей изменятся настолько, что разговоры о мыслящих машинах не вызовут протеста. Далее, я считаю, что сокрытие подобных взглядов не может принести никакой пользы. Многие ошибочно полагают, что ученые движутся от одного проверенного факта к следующему и никогда не попадают под влияние непроверенных гипотез. Если четко разграничивать установленные факты и гипотезы, никакого вреда от последних нет. Гипотезы чрезвычайно важны, так как они указывают на новые пути исследований.

    Далее я рассмотрю мнения, противоположные моему.

    1. Теологический аргумент. Мышление есть функция бессмертной души человека. Бог дал бессмертную душу всем мужчинам и женщинам, но не животным и не машинам, и посему ни одно животное и ни одна машина не способна думать.

    Я не могу согласиться ни с чем из вышесказанного, но попытаюсь ответить в терминах теологии.

    Я посчитал бы этот аргумент более убедительным, если бы животные были классифицированы вместе с людьми, ибо мне кажется, что между живой и неживой материей разница гораздо больше, нежели между человеком и животным. Произвольный характер ортодоксальных взглядов становится яснее, если взглянуть на них с точки зрения представителя иной религии. Что думают христиане о мусульманском убеждении, что женщины лишены души? Но давайте оставим это в стороне и вернемся к основному возражению. Мне кажется, что из приведенного выше аргумента вытекает серьезное ограничение всемогущества Господа. Мы признаем, что существуют некие вещи, на которые неспособен даже Всемогущий — например, сделать единицу равной двум — но должны ли мы верить, что Господь не волен дать душу слону, если Он этого пожелает? Мы могли бы ожидать, что вместе с душой Бог дарует слону и улучшенный мозг, способный соответствовать нуждам этой души. Точно такой же аргумент приложим и к машинам. Он может казаться иным, так как его труднее “переварить”. Но это всего лишь означает, что нам кажется менее вероятным, что Бог посчитает обстоятельства подходящими, чтобы даровать душу. Остаток этой статьи посвящен обсуждению данных обстоятельств. Пытаясь сконструировать подобные машины, мы не должны бесцеремонно узурпировать Его власть даровать души, подобно тому, как мы не делаем этого, производя на свет детей. В обоих случаях мы являемся скорее Его инструментами, создавая вместилища для созданных Им душ.

    Тем не менее, все это не более чем домыслы. Меня не впечатляют теологические аргументы, какую бы гипотезу они ни поддерживали. В прошлом подобные аргументы были не раз сочтены неудовлетворительными. Во времена Галилея теологи говорили, что тексты “И солнце застыло на небе… и не торопилось спускаться в протяжение целого дня” (Иисус х. 13) и “Он заложил основы земли, и не шелохнутся они во веки веков” (Псалмы, 5) являются адекватным опровержением теории Коперника. С точки зрения современных знаний подобная аргументация выглядит несерьезной. Когда достаточных знаний у людей еще не было, эти аргументы производили совершенно иное впечатление.

    2. Аргумент “голова в песке”. “Последствия машинного мышления были бы слишком ужасны. Давайте же надеяться, что машины ни на что подобное не способны.”

    Этот аргумент редко высказывается в такой прямой форме. Но он влияет на каждого, кто хоть раз задумывался об этой проблеме. Нам нравится считать, что в той или иной форме человек превыше всех остальных созданий. Лучше всего, если будет доказано, что он выше всех по определению — ведь тогда он никак не сможет утерять своей главенствующей позиции. Очевидно, что популярность теологического аргумента напрямую связана с этим чувством. Вероятно, сильнее всего подобное чувство развито у интеллектуалов, так как они ценят способность мыслить превыше всего и более склонны считать человека выше остальных созданий именно по этому признаку. Я не считаю этот аргумент достаточно обоснованным, чтобы заслуживать опровержения. Здесь более уместно говорить об утешении; его можно попытаться найти в теории о переселении душ.

    3. Математическое возражение. Некоторые результаты математической логики могут быть использованы для доказательства того, что мощь дискретных машин ограничена. Самый известный из этих результатов — теорема Гёделя. Она показывает, что в любой достаточно сложной непротиворечивой логической системе можно сформулировать высказывания, относительно которых нельзя средствами этой системы доказать, истинны они или ложны. Существуют и другие похожие результаты, полученные Чёрчем, Клини, Россером и Тьюрингом. Мы рассмотрим здесь последний из этих результатов, поскольку он прямо относится к машинам, тогда как остальные могут быть использованы только в косвенных аргументах. Так, чтобы использовать теорему Гёделя, мы должны найти способ описывать логические системы в терминах машин, а машины — в терминах логических систем. Результат, о котором мы говорим, относится к цифровому компьютеру с бесконечной памятью и утверждает, что существуют некие операции, которые этот компьютер не может выполнить. Если заставить такой компьютер играть в игру-имитацию, на некоторые вопросы он ответит неверно или же вообще не сможет дать ответа, сколько бы времени он ни затратил на поиски. Таких вопросов множество, и те из них, на которые не сможет ответить определенная машина, смогут быть благополучно решены другими машинами. Мы предполагаем, что на все вопросы можно ответить “да” или “нет” и пока не рассматриваем вопросы вроде: “Что вы думаете о Пикассо?” Машины не смогут ответить на вопросы следующего типа: “Представьте себе машину со следующими спецификациями… Сможет ли эта машина когда-нибудь ответить “да” на любой вопрос?” Точки должны быть заменены описанием некой машины, данным в стандартной форме. Когда описываемая машина в какой-то мере схожа с экзаменуемой машиной, можно доказать, что ответ будет либо неверным, либо мы его вообще не получим. Это математический результат, и многие утверждают, что он доказывает ограниченность возможностей машин по сравнению с человеческими возможностями.

    Краткий ответ на этот аргумент таков: действительно, возможности каждой отдельной машины ограничены — но никто пока не пытался строго доказать, что подобных ограничений не существует для человеческого интеллекта. Но я не думаю, что от этого аргумента можно легко отмахнуться. Каждый раз, когда одна из этих машин дает определенный ответ на соответствующий критический вопрос, мы знаем, что этот ответ должен быть неправильным, и это знание дает нам некое чувство превосходства. Иллюзорно ли это чувство? Безусловно, оно вполне подлинно, но мне кажется, что ему не стоит придавать слишком много значения. Наша радость по поводу слабости машин неоправданна, поскольку мы и сами слишком часто даем неверные ответы на вопросы. Кроме того, наше превосходство приложимо лишь к той конкретной машине, над которой мы одержали нашу мелочную победу. Мы не можем одержать победу одновременно над всеми машинами. Короче говоря, некоторые люди умнее, чем определенные машины, но некоторые машины умнее этих людей… и так далее.

    Я думаю, что большинство сторонников математического аргумента примут игру-имитацию в качестве основания для дискуссии. Те же, кто верит в два предыдущих возражения, не будут заинтересованы ни в каких критериях.

    4. Аргумент от сознания. Этот аргумент прекрасно выражен в Листерской Речи профессора Джефферсона в 1949 году: “Пока машина не напишет сонета или концерта, вдохновленного чувствами, а не полученного в результате случайного сочетания символов, мы не сможем согласиться с тем, что машина равна мозгу. Никакой механизм не может почувствовать (а не просто показать при помощи какого-либо несложного ухищрения) удовлетворения от удачи, печали от того, что его контакты перегорели, испытать удовольствие от похвалы, расстроиться из-за своих ошибок, быть очарован сексом, сердиться или впадать в депрессию, когда он не может получить желаемого.”

    На первый взгляд, этот аргумент ставит под сомнение пригодность нашего теста. Согласно крайней форме этого аргумента, единственный способ убедиться в том, что машина думает, — это стать машиной и почувствовать собственное мышление. Затем эти чувства можно было бы описать — но, разумеется, никто не обязан принимать это описание всерьез. Точно так же, чтобы убедиться в том, что человек мыслит, необходимо стать именно этим человеком. В действительности, это солипсистская точка зрения. Возможно, это наиболее логичная точка зрения, но она делает обмен идеями затруднительным. А расположен считать: “А думает, а Б — нет”, в то время, как Б считает: “Б думает, а А — нет”. Чтобы избежать вечных споров по этому поводу, принято считать, что каждый человек способен думать.

    Я убежден в том, что профессор Джефферсон не придерживается крайней, солипсистской точки зрения. Вероятно, он согласился бы воспользоваться игрой-имитацией, как тестом на мышление. Вариант этой игры, в котором отсутствует игрок Б, часто используется на практике под именем viva voce, с тем чтобы выяснить, действительно ли кто-либо что-то понимает, или же это что-то затвержено им механически. Давайте взглянем на фрагмент игры viva voce:

    ЭКЗАМЕНАТОР: В первой строке вашего сонета “Сравнить ли с летним днем тебя” не лучше ли звучит “с весенним днем”?

    ИГРОК: Это не подходит по размеру.

    ЭКЗАМЕНАТОР: А как насчет того, чтобы поставить “с зимним днем”? Здесь с размером все в порядке.

    ИГРОК: Верно — но никто не захочет, чтобы его сравнивали с зимним днем.

    ЭКЗАМЕНАТОР: Можно ли сказать, что мистер Пиквик напоминает вам о Рождестве?

    ИГРОК: В какой-то степени.

    ЭКЗАМЕНАТОР: И тем не менее, Рождество — зимний день, а я не думаю, чтобы мистер Пиквик стал бы возражать против подобного сравнения.

    ИГРОК: Не думаю, что вы говорите серьезно. Под зимним днем обычно понимают типичный зимний день, а не особенный день вроде Рождества.

    И так далее. Что сказал бы профессор Джефферсон, если бы слагающая сонеты машина могла бы отвечать подобным образом в viva voce? Посчитал бы он, что машина “искусственным образом сигнализирует” свои ответы? Не знаю; но если бы ответы были такими удовлетворительными и аргументированными, как в приведенном отрывке, не думаю, что он назвал бы их “несложными ухищрениями.” Полагаю, что под этим он имел в виду нечто вроде заложенной в машину звукозаписи с сонетом, которая бы включалась и выключалась в нужные моменты.

    Короче, я считаю, что большую часть сторонников аргумента от сознания можно убедить от него отказаться, не переходя при этом на позиции солипсизма. Тогда они, возможно, согласятся принять наш тест.

    Я не хочу сказать, что в сознании нет ничего таинственного. Например, при попытках его локализовать каждый раз возникает нечто вроде парадокса. Но я не думаю, что все эти тайны должны быть непременно раскрыты прежде, чем мы сможем ответить на интересующий нас в этой статье вопрос.

    5. Аргумент от различных ограниченных способностей. Вот как он выглядит: “Хорошо, я согласен, что вы можете создать машины, делающие все, о чем вы упомянули, но вы никогда не заставите машину проделать X”. В этой связи предлагалось множество вариантов X; я приведу здесь лишь некоторые из них:

    Быть доброй, изобретательной, красивой, дружелюбной… быть инициативной, иметь чувство юмора, отличать добро от зла, делать ошибки… влюбляться, наслаждаться клубникой со взбитыми сливками… влюбить кого-нибудь в себя, учиться на опыте… правильно использовать слова, думать о себе… выказывать такое же разнообразное поведение, как человек, создать нечто новое…

    Обычно все это — голословные утверждения. Мне кажется, большинство из них основаны на принципе научной индукции. Человек за свою жизнь видел тысячи машин. Из того, что он видел, он делает обобщающие выводы. Машины уродливы, каждая из них построена для выполнения определенного задания, другие задания они выполнять не умеют, вариативность поведения каждой из них крайне мала и так далее. Естественно, он заключает, что это общие свойства всех машин. Большинство перечисленных ограничений связаны с очень маленькой памятью большинства машин. (Я предполагаю, что понятие “памяти” здесь понимается широко и включает недискретные машины. Точного определения здесь не нужно, поскольку в подобных дискуссиях математическая аккуратность не требуется.) Несколько лет назад почти ничего не было известно о цифровых компьютерах и по этому поводу легко было вызвать большое недоверие, описав их свойства, но не упомянув об их конструкции. Предположительно это происходило из-за применения принципа научной индукции, подобного вышеизложенному. Это применение, разумеется, происходит в большой степени бессознательно. Когда обжегшийся ребенок боится огня и показывает свою боязнь, избегая его, я сказал бы, что он применяет принцип научной индукции. (Безусловно, я мог бы описать его поведение и множеством иных способов.) Творения и обычаи человечества — не самый подходящий материал для применения научной индукции. Чтобы получить достоверные результаты, необходимо исследовать огромный участок пространственно-временного континуума. Иначе мы можем (как делает большинство английских детей) решить, что все говорят по-английски и что учить французский глупо.

    Тем не менее, о многих из упомянутых ограничений следует поговорить особо. Неспособность наслаждаться клубникой со взбитыми сливками может показаться читателю легкомысленной. Может быть, нам и удалось бы создать машину, способную наслаждаться этим восхитительным блюдом, но любая подобная попытка была бы идиотской. В упомянутой неспособности важно то, что она способствует другим ограничениям: например, возникновению дружеских отношений между человеком и машиной, подобных дружеским отношениям между двумя белыми или двумя черными людьми.

    Утверждение, что машина не способна ошибаться, довольно интересно. На это хочется ответить: “Но разве они становятся от этого хуже?” Но давайте отнесемся к нему с большей симпатией и попробуем выяснить, что же оно на самом деле означает. Мне кажется, эта критика может быть объяснена с точки зрения игры-имитации. Утверждается, что экзаменатор сможет отличить машину от человека, просто задав обоим несколько арифметических задач. Машина будет безошибочна, благодаря своей мертвой аккуратности. Ответ на это прост. Машина, запрограммированная для подобной игры, не будет пытаться давать правильные ответы на арифметические вопросы. Она будет иногда нарочно ошибаться с тем, чтобы сбить экзаменатора с толку. Вероятно, механической неполадкой был бы вызван неверный тип ошибочных ответов. Мы еще не рассмотрели достаточно внимательно этот критический аргумент, но у нас нет места, чтобы углубляться в него еще больше. Мне кажется, что он зависит от неразличения между двумя типами ошибок. Мы можем называть их “ошибки функционирования” и “ошибки интерпретации”. Ошибки функционирования зависят от механических или электрических неполадок, из-за которых машина ведет себя не так, как хотели программисты. В философских дискуссиях подобные ошибки обычно не принимаются в расчет, и обсуждаются “абстрактные машины”. Эти абстрактные машины являются скорее математической фикцией, чем физическими объектами. Они по определению не способны на ошибки функционирования. В этом смысле мы можем правдиво сказать, что “машины никогда не делают ошибок”. Ошибки интерпретации могут возникнуть только тогда, когда выходным данным машины придается некое значение. Например, машина может выдать высказывание на английском языке или математическое уравнение. Когда высказывание ложно, мы говорим, что машина допустила ошибку интерпретации. У нас нет причины утверждать, что машина не может допустить подобную ошибку. Она может быть запрограммирована так, что будет все время печатать “0 = 1” — или, используя не такой крайний пример, она может иметь какой-нибудь метод для нахождения выводов путем научной индукции. Мы можем ожидать, что этот метод иногда приводит к ошибочным результатам.

    Утверждение, что машина не может являться предметом своих собственных мыслей, можно опровергнуть, только доказав, что машина имеет какие-либо мысли с каким-либо предметным содержанием. Тем не менее, “предметное содержание машинных операций” в действительности имеет значение, по крайней мере для людей, имеющих с ним дело. Скажем, если машина пыталась найти решение уравнения x2 ? 40x ? 11 = 0, соблазнительно представить это уравнение как часть предметного содержания машины в данный момент. В этом смысле машина несомненно может являться собственным предметным содержанием. Ее можно использовать, чтобы помочь составлять программы для нее же или чтобы предсказать эффект изменения в ее структуре. Наблюдая за результатами своего поведения, она может менять собственные программы с тем, чтобы более эффективно добиться поставленной цели. Все это не утопические мечтания, но возможности ближайшего будущего.

    Критицизм, утверждающий, что у машины не может быть разнообразного поведения, по сути дела утверждает лишь то, что у нее не может быть большого объема памяти. До недавнего времени объем даже в 1000 знаков был редкостью.

    Аргументы, которые мы здесь рассматриваем, часто лишь завуалированные формы аргумента от сознания. Как правило, человек, утверждающий, что машина способна сделать одну из этих вещей, и описывающий соответствующий метод, не производит большого впечатления. Считается, что метод (каким бы он ни был, поскольку он все равно будет механическим) всегда слишком прост. (Сравните со скобками в отрывке из речи Джефферсона, приведенной выше.)

    6. Аргумент леди Лавлейс. Об Аналитической Машине Баббиджа нам лучше всего известно из мемуаров леди Лавлейс. Она пишет: “Аналитическая машина не претендует на создание чего-либо нового. Он может делать лишь то, что мы умеем ей приказать” (выделено автором). Хартри цитирует это высказывание и добавляет: “Из этого не следует, что невозможно сконструировать электронное оборудование, которое “думало бы само по себе”. Говоря языком биологии, в такое устройство был бы встроен некий условный рефлекс, который мог бы служить базой для “обучения”. Возможно ли подобное в принципе — это захватывающе интересный вопрос, который возникает в некоторых недавних исследованиях. Однако мне кажется, что машины, создаваемые или проектируемые во времена леди Лавлейс, этой особенностью не обладали.”

    Здесь я полностью согласен с Хартри. Надо заметить, что он не утверждает, что рассматриваемая машина этой особенностью не обладала. Он лишь замечает, что имевшаяся у леди Лавлейс информация не позволяла ей предположить, что данная машина могла иметь эту особенность. Вполне возможно, что на самом деле она ее имела. Представьте себе, что некая дискретная машина этой способностью обладает. Аналитическая Машина была универсальным цифровым компьютером, поэтому, обладая достаточным объемом памяти и скоростью и будучи соответствующим образом запрограммированной, она могла бы уподобиться упомянутой машине. Вероятно, этот аргумент не пришел в голову ни леди Лавлейс, ни самому Баббиджу. Так или иначе, они не были обязаны заявлять все, что только возможно.

    Этот вопрос снова будет рассмотрен нами, когда мы будем говорить об обучающихся машинах.

    Сторонники леди Лавлейс утверждают, что “машина никогда не сможет создать ничего действительно нового”. Это высказывание можно парировать поговоркой “Под солнцем нет ничего нового.” Кто может с уверенностью утверждать, что “оригинальная работа” проделанная им, не является на самом деле ростком, выросшим из семечка обучения, или результатом следования общеизвестным принципам? Улучшенный вариант аргумента утверждает, что машина “не способна нас удивить”. Это утверждение является прямым вызовом, и на него можно прямо ответить. Машины удивляют меня очень часто. Это происходит потому, что я не делаю расчетов относительно того, что от них можно ожидать, а если и делаю, то торопливо и недостаточно аккуратно. Например, я говорю себе: “Наверное, напряжение здесь такое же, как и там; предположим пока, что так и есть”. Естественно, я часто ошибаюсь, и результат бывает для меня сюрпризом, поскольку к концу эксперимента я уже успеваю забыть о своих предположениях. Это признание делает меня уязвимым для критики моей небрежности, но не может служить основанием для сомнения в том, что я испытываю искреннее удивление.

    Я не ожидаю, что мой ответ заставит критиков замолчать. Вероятно, они скажут, что мое удивление вызвано неким творческим актом с моей стороны, и что машина здесь совершенно ни при чем. Это возражение уводит нас в сторону от аргумента “от удивления” и возвращает к “аргументу от сознания”. Эту линию аргументации мы уже должны считать закрытой, но, пожалуй, стоит заметить, что для восприятия чего-либо как удивительного, будь это человек, книга, компьютер или что-нибудь иное, обязательно потребуется “творческое мысленное действие”.

    Мнение о том, что машины не способны нас удивлять, обязано своим возникновением ошибочному убеждению, которое особенно свойственно философам и математикам. Это предположение, что едва некий факт становится нам известным, то в тот же момент становятся автоматически ясны и все его последствия. Во многих условиях это предположение полезно, но мы слишком легко забываем, что оно ложно. Естественным следствием этого является убеждение, что в вычислении результатов, вытекающих из неких данных и общих принципов, нет никакой особой заслуги.

    7. Аргумент от непрерывности нервной системы. Разумеется, нервная система не является машиной дискретных состояний. Малейшая ошибка в интенсивности нервного импульса в одном из нейронов может вызвать значительную разницу в выходящем импульсе. Имея это в виду, можно утверждать, что невозможно имитировать поведение нервной системы с помощью какой-либо дискретной машины.

    Безусловно, дискретная машина отличается от непрерывной. Но если мы будем соблюдать условия игры-имитации, экзаменатору не удастся получить от этой разницы никакой выгоды. Ситуация станет понятнее, если мы рассмотрим некоторые непрерывные машины попроще. Для этой цели отлично подойдет дифференциальный анализатор. (Дифференциальный анализатор — это недискретная машина, используемая для некоторых вычислений.) Некоторые из них дают ответы в напечатанной форме и, таким образом, годятся для нашей игры. Цифровой компьютер не сможет предсказать, какие ответы на определенные вопросы будет выдавать дифференциальный анализатор, но сам сможет решить задачу правильно. Например, если попросить его определить значение числа пи (около 3,1416), он может сделать выбор между 3,12, 3,13, 3,14, 3,15 и 3,16 с вероятностью, скажем, 0,05, 0,15, 0,55, 0,19 и 0,06. В этих условиях экзаменатору было бы очень трудно отличить дифференциальный анализатор от цифрового компьютера.

    8. Аргумент от неформального поведения. Невозможно выработать свод правил, предписывающих человеку, что тот должен делать во всех возможных обстоятельствах. Можно, например, придумать правило, что человек должен останавливаться, когда он видит красный свет светофора, и идти на зеленый свет. Но что ему делать, если из-за технической неполадки оба зажигаются одновременно? Возможно, надежнее будет остановиться. Но из этого решения могут последовать затруднения в дальнейшем. Попытаться составить свод правил поведения, учитывающих любую возможность — даже сломанный светофор, — не представляется возможным. Со всем этим я согласен.

    Исходя из этого, некоторые утверждают, что мы не можем быть машинами. Я попытаюсь восстановить здесь эту линию аргументации, но боюсь, что не смогу отдать ей должное. По-видимому, сторонники этой точки зрения рассуждают так: “Если бы у любого человека был свод правил, регулирующий его жизнь, то человек был бы не лучше машины. Но таких правил нет, а значит, человек не может быть машиной.” Здесь очевидна логическая ошибка. Не думаю, что этот аргумент выражен такими словами, но суть его именно такова. Однако иногда возникает путаница между “правилами поведения” и “законами поведения”. Под “правилами поведения” я понимаю предписания типа “Остановитесь, если вы видите красный свет”, согласно которым можно действовать и которые могут быть восприняты сознательно. Под “законами поведения” я понимаю законы природы в приложении к человеческому телу, как например: “Если его ущипнуть, он вскрикнет.” Если вместо “законов поведения, регулирующих его жизнь” мы скажем “законы природы, регулирующие его жизнь” логическая ошибка в вышеприведенном аргументе становится легко устранимой. Дело в том, что мы верим не только в то, что объект, чье поведение регулируется подобными правилами, является машиной (хотя и не обязательно дискретной), но и в то, что поведение машины обязательно должно регулироваться подобными правилами. Однако, нам труднее убедить себя в отсутствии свода законов природы, чем в отсутствии свода правил поведения. Единственная дорога к познанию этих законов лежит через научное наблюдение, и мы ни при каких обстоятельствах не можем сказать: “Довольно, мы искали достаточно. Таких законов не существует.”

    Мы можем доказать, что любое подобное утверждение было бы неоправдано. Предположим, мы были бы уверены в том, что если эти законы существуют, мы бы могли их обнаружить. Тогда, имея в нашем распоряжении машину дискретных состояний, мы могли бы ожидать, что наблюдение помогло бы узнать о ней достаточно для того, чтобы предсказывать ее поведение — и все это в разумных временных пределах, скажем, в тысячу лет. Однако кажется, что это не так. Я снабдил Манчестерский компьютер небольшой программой, использующей только 1000 единиц памяти. Согласно этой программе, машина, получив некое шестнадцатизначное число, выдает в течение двух секунд другое шестнадцатизначное число. Я предлагаю любому попытаться выяснить на основании ответов компьютера достаточно об этой программе, чтобы научиться предсказывать будущие ответы на неопробованные числа.

    9. Аргумент от экстрасенсорного восприятия. Я предполагаю, что читатель знаком с понятием экстрасенсорного восприятия и его четырех составляющих — телепатии, ясновидения, предвидения и телекинеза. На первый взгляд, эти тревожащие явления отрицают все наши обычные научные идеи. Как было бы хорошо, если бы нам удалось их дискредитировать! К несчастью, статистические свидетельства, по крайней мере в пользу телепатии, подавляют. Очень трудно перестроить идеи так, чтобы там нашлось место для этих новых фактов. Как только они приняты, отсюда уже недалеко и до веры в привидения и в домовых. В первую очередь пришлось бы распрощаться с идеей о том, что наши тела двигаются в соответствии с уже известными и некоторыми еще не открытыми, но схожими законами физики.

    Этот аргумент кажется мне очень сильным. Здесь можно было бы ответить, что многие научные теории, по-видимому, продолжают действовать на практике, несмотря на то, что противоречат экстрасенсорному восприятию, и что мы могли бы прекрасно обходиться без него. Однако это слабое утешение, и мышление — как раз тот феномен, для которого экстрасенсорное восприятие очень важно.

    Более конкретный аргумент, основанный на экстрасенсорном восприятии, звучит следующим образом: “Давайте сыграем в игру-имитацию с участием человека-телепата и цифрового компьютера. Экзаменатор может задавать вопросы вроде: “Какой масти карта в моей правой руке?” Человек при помощи телепатии или ясновидения даст 130 правильных ответов из 400 карт. Машина может лишь угадывать и, может быть, даст 104 правильных ответа. Таким образом, экзаменатор легко их различит.” Здесь возникает интересная возможность. Предположим, цифровой компьютер включает генератор случайных чисел. Тогда он, естественно, будет пользоваться им, чтобы решить, какой ответ дать. Но сам генератор случайных чисел будет под влиянием психокинетической энергии экзаменатора. Возможно, что телекинез заставит машину угадывает чаще, чем можно ожидать из теории вероятности, и тогда экзаменатору снова будет трудно верно идентифицировать игроков. С другой стороны, он сможет угадать безо всяких вопросов, используя способности ясновидения. С экстрасенсорным восприятием возможно все.

    Если мы согласимся с существованием телепатии, нам придется ужесточить условия теста. Данную ситуацию можно рассматривать, как аналогичную той, которая возникает, когда экзаменатор разговаривает сам с собой, а один из испытываемых слушает его, прижав ухо к стене. Если бы удалось поместить испытуемых в комнату, непроницаемую для телепатии, все условия были бы выполнены.

    Размышления

    Наш ответ на эту замечательную, написанную ясным языком статью содержится в следующем диалоге. Тем не менее, здесь мы хотели бы сделать небольшое замечание по поводу очевидной готовности Тьюринга поверить в то, что экстрасенсорное восприятие может стать последним, решающим различием между людьми и созданными ими машинами. Если мы воспримем комментарий Тьюринга серьезно (а не как некую утонченную шутку), мы обязаны понять, чем он вызван. Очевидно, Тьюринг был убежден в том, что свидетельства в пользу телепатии весьма убедительны. Однако, если они были убедительны в 1950 году, то сейчас, тридцать лет спустя, они не стали убедительнее — скорее наоборот. За последние тридцать лет было заявлено множество претензий на обладание теми или иными психическими способностями; часто эти заявления поддерживались известными учеными. Многие из этих ученых потом понимали, что их одурачили, и брали обратно свои публичные высказывания в пользу экстрасенсорного восприятия, — но через несколько месяцев снова оказывались среди сторонников паранормальных явлений. Однако можно с уверенностью утверждать, что большинство ученых — и, безусловно, большинство психологов, специализирующихся на понимании разума, — сомневаются в существовании экстрасенсорного восприятия в любой форме.

    Тьюринг находил некое утешение в том, что паранормальные явления могут быть каким-то образом совместимы с хорошо известными научными теориями. Мы с ним не согласны. Мы считаем, что если телепатия, телекинез и ясновидение действительно существовали бы и обладали бы теми удивительными свойствами, которые им приписываются, то, чтобы они вписались в научную картину мира, недостаточно было бы лишь частично изменить законы физики. В научном мировоззрении должна была бы произойти настоящая революция! Подобной революции можно было бы ожидать с радостным возбуждением — но она тем не менее оказалась бы окрашенной грустью и недоумением. Как могло случиться, что наука, так хорошо работавшая до сих пор, могла так ошибаться? Подобная революционная переделка всей науки, начиная с фундаментальных идей, была бы увлекательным интеллектуальным приключением, но пока у нас нет достаточных оснований полагать, что она нам понадобится.

    5

    ДАГЛАС Р. ХОФШТАДТЕР

    Тест Тьюринга: Беседа в кафетерии


    УЧАСТНИКИ

    Крис, студент-физик; Пат, студентка-биолог; Сэнди, студентка-философ



    КРИС: Сэнди, я хотел тебя поблагодарить за то, что ты мне порекомендовала прочесть статью Алана Тьюринга “Вычислительные машины и разум”. Это прекрасная работа, и она заставила меня задуматься — в частности, задуматься о моей способности думать.

    СЭНДИ: Рада слышать. Ты все еще остаешься таким же скептиком в отношении искусственного разума, как раньше?

    КРИС: Ты меня неправильно поняла. Я не против искусственного интеллекта; я считаю, что это замечательная штука — может быть, с примесью безумия, но почему бы и нет? Я просто убежден, что сторонники ИИ сильно преуменьшают достоинства человеческого разума, и что есть вещи, которых компьютер никогда не сможет сделать. Например, можешь ли ты вообразить компьютер, пишущий новеллу в стиле Пруста? Богатство воображения, сложность характеров…

    СЭНДИ: Рим не был построен в один день!

    КРИС: Из статьи видно, что Тьюринг был интересным человеком. Он еще жив?

    СЭНДИ: Нет, он умер в 1954 году. Ему был всего сорок один год. Сейчас ему было бы всего шестьдесят семь; правда, он стал такой легендарной фигурой, что странно даже подумать, что он мог бы быть еще жив сегодня.

    КРИС: От чего он умер?

    СЭНДИ: Почти наверняка это было самоубийство. Он был гомосексуалистом, и ему пришлось столкнуться с жестокостью и непониманием общества. В конце концов он, видимо, не выдержал, и убил себя.

    КРИС: Печальная история.

    СЭНДИ: Да, конечно. Меня особенно печалит то, что он не смог увидеть удивительного прогресса последних лет в вычислительной технике и теории.

    ПАТ: А мне вы расскажете, о чем эта статья Тьюринга?

    СЭНДИ: В основном, она посвящена двум вещам. Одна — это вопрос “Могут ли машины мыслить?” — или, точнее, “Будут ли машины когда-либо мыслить?”. Тьюринг отвечает на этот вопрос — кстати, утвердительно, — оспаривая один за другим ряд возражений против этой идеи. Кроме этого он утверждает, что в этой форме вопрос не имеет смысла — он слишком полон эмоциональных коннотаций. Многие люди раздражаются, когда слышат, что люди — машины, или что машины способны мыслить. Тьюринг пытается избавиться от лишних эмоций, ставя тот же вопрос в более нейтральной форме. Вот, например, ты, Пат — что ты думаешь о “думающих машинах”?

    ПАТ: Честно говоря, меня сбивает с толку само это выражение. Знаешь, что меня смущает? Все эти объявления в газетах и по телевизору, рекламирующие “думающие продукты”, “разумные духовки” и т.п. Я просто не знаю, насколько серьезно к ним следует относиться.

    СЭНДИ: Я знаю, о каких объявлениях ты говоришь, и думаю, что они сбивают с толку не только тебя. С одной стороны, нам внушают, что “компьютеры на самом деле глупы, им приходится объяснять все до мелочей” — с другой стороны, нас закидывают объявлениями об “умных продуктах”.

    КРИС: Ты права. Я слышал, что какой-то производитель компьютерных терминалов решил выделиться, называя свой продукт “глупыми терминалами”.

    СЭНДИ: Это забавно, но, как и другие подобные трюки, только затемняет вопрос. Когда я думаю об этой проблеме, мне на ум всегда приходит выражение “электронный мозг”. Одни принимают его безоговорочно, другие не задумываясь отвергают. Мало у кого хватает терпения проанализировать ситуацию и решить, есть ли в нем смысл.

    ПАТ: А что, Тьюринг предлагает решение? Какой-нибудь тест на разумность для машин, вроде Ай Кью? (Коэффициент умственного развития, стандартный тест на умственное развитие. — Прим. перев.)

    СЭНДИ: Это было бы интересно, но пока ни одна машина еще не подошла близко к тому, чтобы попробовать свои силы на Ай Кью. Вместо этого Тьюринг предлагает тест, который теоретически приложим к любой машине; тест Тьюринга помогает определить, может ли она думать.

    ПАТ: Неужели этот тест дает однозначный ответ? Если так, то я бы в нем усомнилась!

    СЭНДИ: Нет, ничего такого Тьюринг не утверждает. В каком-то смысле, это и есть одно из преимуществ его теста. Он указывает, насколько расплывчата граница и насколько непрост весь этот вопрос.

    ПАТ: Значит, как всегда в философии, это все вопрос словоупотребления.

    СЭНДИ: Возможно; но эти слова несут большую эмоциональную нагрузку, и поэтому мне кажется важным как следует рассмотреть этот вопрос и точно определить значения основных слов. Эти проблема лежит в основе нашего понимания самих себя, и мы не должны ее игнорировать.

    ПАТ: Теперь объясни, в чем состоит тест Тьюринга.

    СЭНДИ: Его идея основана на том, что он называет “игрой-имитацией”. В этой игре участвуют мужчина и женщина; они расходятся по отдельным комнатам и отвечают на вопросы третьего участника, экзаменатора. Вопросы и ответы передаются устройством вроде телетайпа. Экзаменатор может посылать вопросы в любую комнату, но он не знает, кто в ней. Его задача — определить, в какой комнате находится женщина. Задача женщины — своими ответами помогать экзаменатору, в то время как мужчина старается сбить того с толку, отвечая так, как по его мнению должна бы ответить женщина. И если ему удается одурачить экзаменатора…

    ПАТ: Значит, экзаменатор видит только напечатанные слова? И должен определить пол отвечающего? Да, задачка не из легких! Хотелось бы когда-нибудь поиграть в такую игру. Скажи, до начала игры экзаменатор знает обоих играющих лично? А они знают друг друга?

    СЭНДИ: Думаю, что это было бы плохо. В таком случае экзаменатор мог бы использовать всяческие трюки на подсознательном уровне. Эксперимент был бы гораздо чище, если бы никто из играющих не знал никого из остальных.

    ПАТ: Можно задавать любые вопросы, без ограничений?

    СЭНДИ: Конечно; в этом-то вся соль!

    ПАТ: Тебе не кажется, что тогда очень скоро вопросы станут однобокими, ориентированными на тот или иной пол? Могу себе представить мужчину, который выдаст себя с головой, с готовностью ответив на такие вопросы, которые большинство женщин посчитают слишком личными, чтобы отвечать на них даже посредством безличной компьютерной связи.

    СЭНДИ: Вполне возможно.

    КРИС: Можно было бы попытаться нащупать разницу в знании второстепенных аспектов социальных ролей, определяемых полом, спрашивая о чем-нибудь вроде размеров одежды и т.п. Психология игры-имитации может быть очень тонкой. Думаю, что многое зависело бы от того, мужчина или женщина сам экзаменатор. Вам не кажется, что женщина могла бы найти различия быстрее мужчины?

    ПАТ: Если это так, то может это и есть способ их различить?

    СЭНДИ: Гм… Интересная мысль. Так или иначе, не знаю, опробовал ли кто-нибудь эту первоначальную версию игры-имитации на практике. С помощью современных компьютерных терминалов это было бы нетрудно. Но должна признаться, что не знаю, что? такая игра доказала бы, при любом ее исходе.

    ПАТ: Я тоже об этом подумала. Что из того, если экзаменатор — скажем, женщина — не смог бы определить, кто из двоих игроков — женщина? Это вовсе не доказывало бы, что мужчина на самом деле женщина!

    СЭНДИ: Вот именно! Хотя я сама в целом за тест Тьюринга, я не понимаю, в чем смысл игры-имитации, на котором он основан.

    КРИС: Мне кажется, что тест Тьюринга как испытание для “думающих машин” ничем не лучше игры-имитации как испытания на женственность.

    ПАТ: Если я правильно вас поняла, тест Тьюринга — такой вариант игры-имитации, в котором один из игроков — человек, а другой — компьютер.

    СЭНДИ: Правильно. Машина пытается убедить экзаменатора в том, что она — человек, а человек помогает экзаменатору, правдиво убеждая того в своей человеческой природе.

    ПАТ: Если пропустить мимо ушей твою провокационную фразу “машина пытается”, все это звучит довольно интересно. Но откуда ты знаешь, что этот тест определяет суть мышления? Может быть, он проверяет что-нибудь другое. Вот только один возможный пример: скажем, кто-нибудь может решить, что машина мыслит, если она умеет танцевать так же хорошо, как человек. А кто-нибудь другой может придумать иной критерий. Что такого особенного в умении дурачить людей, печатая ответы?

    СЭНДИ: Не понимаю, как ты можешь такое говорить. Мне уже доводилось слышать это возражение, но, честно говоря, оно меня удивляет. Что с того, если машина умеет танцевать или может уронить камень тебе на ногу? По мне, если машина способна разумно рассуждать на любую предложенную тему, эта машина может мыслить. Мне кажется, что Тьюрингу удалось одним росчерком пера наметить четкую границу между мышлением и другими аспектами человеческого бытия.

    ПАТ: Теперь ты меня удивляешь. Если мы не могли заключить ничего определенного из человеческой способности победить в этой игре, то как мы можем делать какие-либо заключения из способности компьютера победить в ней?

    КРИС: Отличный вопрос!

    СЭНДИ: Мне кажется, что из способности мужчины выигрывать в этой игре можно кое-что заключить. Вы не сможете заключить, что он — женщина, но поймете, что он неплохо разбирается в женской психологии (если таковая вообще существует). Если же компьютеру удастся обмануть экзаменатора и заставить его поверить в то, что он — человек, то о нем можно будет сказать, что он хорошо понимает человеческую психологию и неплохо разбирается в том, что означает — быть человеком (что бы это ни означало).

    ПАТ: Может быть — но ведь это не равносильно мышлению, не так ли? Мне кажется, что машина, выдержавшая тест Тьюринга, докажет только то, что она отлично умеет подражать мышлению.

    КРИС: Я совершенно согласен с Пат. Мы все знаем, что сейчас есть сложнейшие программы, имитирующие самые разные явления. Например, в физике мы имитируем поведение частиц, атомов, твердых веществ, жидкостей, газов, галактик и так далее. Но никто не принимает эти имитации за сами явления!

    СЭНДИ: У Дэниэля Деннетта в его книге “Мозговая атака” есть похожее сравнение, только там он говорит об имитации ураганов.

    КРИС: Это тоже отличный пример. Ясно, что когда компьютер симулирует ураган, внутри у него никакого урагана нет, память машины не разрушается от ветра, дующего со скоростью 200 миль в в час, на полу в компьютерной лаборатории нет дождевой воды и так далее.

    СЭНДИ: Да ну вас! Это нечестное сравнение! Во-первых, программисты и не утверждают, что создают настоящий ураган. Это всего лишь имитация некоторых его аспектов. А во-вторых, неправда, что в симулированном урагане нет ливня и ветра со скоростью 200 миль в час. Для нас, разумеется, их нет — но если бы программа была разработана во всех деталях, она могла бы включать симулированных людей на земле, которые испытывали бы дождь и ветер так же, как мы, когда на нас налетает ураган. В их мыслях — или, если вам так больше нравится, в их симулированных мыслях — ураган был бы не имитацией, а настоящим явлением, несущим потоп и разрушение.

    КРИС: Ну и ну! Что за фантастический сценарий! Теперь мы уже дошли до симуляции целых народов, а не только одного-единственного разума.

    СЭНДИ: Я только хотела показать тебе, почему твой довод о том, что симулированный предмет — это не то же самое, что настоящий предмет, не годится. Он основан на молчаливом допущении того, что любой наблюдатель симулированных объектов, достаточно знакомый с предметом наблюдения, способен определить, что происходит. На самом деле, для этого может понадобиться наблюдатель с определенной точкой зрения. В таком случае, ему будут нужны специальные “компьютерные очки”, в которые он сможет увидеть ветер, дождь и так далее.

    ПАТ: “Компьютерные очки”? О чем ты?

    СЭНДИ: Я хотела сказать, что для того, чтобы увидеть ливень и ветер этого урагана, наблюдатель должен быть способен взглянуть на него с правильной точки зрения.

    КРИС: Нет, нет и нет! Никакого ливня в симулированном урагане нет. Неважно, насколько мокрым ураган кажется симулированным людям, он никогда не будет по-настоящему мокрым! И никакой компьютер никогда не будет разрушен ураганным ветром!

    СЭНДИ: Разумеется, нет — но ты путаешь разные уровни. Законы физики не разрушаются настоящими ураганами. В случае симулированного урагана, если ты посмотришь в память компьютера, надеясь найти там разорванные провода и так далее, тебя ждет разочарование. Но посмотри на правильный уровень — на те структуры, которые закодированы в памяти. Ты обнаружишь, что некие абстрактные связи порваны, некоторые значения переменных радикально изменились и тому подобное. Вот это и есть те самые потоп и разрушение — и все это настоящее, только спрятано и труднонаходимо.

    КРИС: Извини, но я в это не верю. Ты настаиваешь, что я должен искать новый вид разрушения, который никогда раньше не ассоциировался с ураганами. Выходит, можно считать ураганом любое явление, если только его результат, увиденный через специальные “очки”, может быть назван “потопом и разрушением”.

    СЭНДИ: Именно так — ты правильно понял! Ураган узнается по его результатам. Тебе никогда не удастся забраться в самый центр урагана и найти там его “бесплотную сущность”, “душу урагана”. Мы узнаем ураганы по существованию некоей схемы: спиральный шторм со штилем в центре. Разумеется, чтобы называться ураганом, явление должно удовлетворять многим условиям.

    ПАТ: Тебе не кажется, что “атмосферное явление” — необходимая составляющая определения урагана? Как можно назвать ураганом нечто, происходящее внутри компьютера? По-моему, симуляция — это симуляция и ничего больше!

    СЭНДИ: Тогда ты, наверное, считаешь, что и расчеты, производимые компьютером, — всего лишь подделка. Это не настоящие расчеты. Только люди могут считать по-настоящему, не так ли?

    ПАТ: Компьютеры получают верные ответы, так что их расчеты нельзя назвать подделкой — но все равно, это всего лишь определенные схемы. Компьютер не понимает, что он делает. Возьми, например, кассовый аппарат. Можешь ли ты серьезно утверждать, что, когда его колесики крутятся, он чувствует, что совершает расчеты? Насколько я понимаю, компьютер — это тот же кассовый аппарат, только посложнее.

    СЭНДИ: Конечно, кассовый аппарат не чувствует себя, как школьник, решающий арифметические задачки — тут я с тобой согласна. Но разве “расчеты” означают именно это? Разве это — необходимая часть расчетов? Если это так, то нам придется пересмотреть наши взгляды и написать сложнейшую программу для совершения настоящих расчетов. Разумеется, такая программа иногда будет ошибаться, или писать ответы небрежно, или в задумчивости рисовать на бумаге каракули… Она будет не надежнее, чем почтовый работник, складывающий числа от руки. Вообще-то я считаю, что когда-нибудь подобная программа может быть написана. Тогда мы узнаем много интересного о том, как работают почтовые служащие и школьники.

    ПАТ: А я не верю, что подобное будет когда-нибудь возможно!

    СЭНДИ: Может быть, да, а может быть, и нет — но не в этом дело. Ты говоришь, что кассовый аппарат не способен считать. Твое утверждение напоминает мне еще об одном моем любимом отрывке из “Мозговой атаки” Деннетта. Этот отрывок довольно ироничен, за что он мне и нравится. Деннетт пишет примерно так: “Кассовые аппараты не могут считать по-настоящему — они могут только вращать колесиками. Однако, сами они и колесики не могут крутить — они могут лишь следовать законам физики.” У Деннетта это сказано о компьютерах; я же применяю это к кассовым аппаратам. И ту же логику можно применить и к людям: “На самом деле, люди не могут считать по-настоящему — они лишь манипулируют мысленными символами. Но и символами они не манипулируют, а только возбуждают различные нейроны в разных сочетаниях. Однако они не могут самостоятельно возбуждать собственные нейроны; им приходится позволять законам физики делать это за них”. И так далее. Видишь, как это вдохновленное Деннеттом reductio ad absurdum может заставить тебя заключить, что вычислений не существует, ураганов не существует… и вообще нет ничего выше уровня частиц и законов физики? Что ты выигрываешь, утверждая, что компьютер всего лишь манипулирует символами и не вычисляет по-настоящему?

    ПАТ: Не будем ударяться в крайности; я только хотела подчеркнуть, что между настоящими явлениями и их имитацией имеется огромная разница. Это верно в случае ураганов и еще вернее в случае мышления.

    СЭНДИ: Не хочу застревать на этом аргументе, но позволь привести еще один пример. Представь себе, что ты — радиолюбитель. Ты слушаешь другого радиолюбителя, передающего сообщение морзянкой, и отвечаешь ему на том же коде. Тебе не показалось бы странным говорить о человеке “на другом конце провода”?

    ПАТ: Пожалуй, нет, хотя существование человека на другом конце провода было бы допущением.

    СЭНДИ: Да, но ты вряд ли отправилась бы проверять это лично. Ты готова признать человечность, передающуюся по этим, довольно-таки необычным каналам. Тебе не надо видеть тело этого человека и слышать его голос; тебе достаточно абстрактной манифестации, некоего кода. Вот к чему я веду: чтобы “увидеть” человеческое существо за точками и тире, ты должна быть готова произвести некую расшифровку, некую интерпретацию. Здесь задействовано не прямое восприятие, а косвенное. Тебе придется снять несколько оболочек, пока ты дойдешь до спрятанной под ними действительности. Ты надеваешь “очки радиолюбителя”, чтобы “увидеть” человека за точками и тире. То же самое приложимо и к имитации урагана! Ты не видишь, как от него темнеет в компьютерной лаборатории — тебе приходится декодировать машинную память, надевать специальные “очки для расшифровки памяти”. Тогда и только тогда ты увидишь ураган!

    ПАТ: Ха-ха! Кто кого теперь дурачит? В случае коротковолнового радио, где-то там на островах Фиджи или где-нибудь еще, находится настоящий человек. Моя дешифровка просто показывает мне, что этот человек существует — это похоже на то, как по тени я могу догадаться о реальном предмете, который ее отбрасывает. Но никто не спутает тень с самим объектом! А в случае урагана, никакого настоящего урагана, поведение которого повторяет компьютер, за сценой нет. Здесь мы имеем дело только с ураганом-тенью, в отсутствие настоящего урагана. Я отказываюсь принимать тени за реальность.

    СЭНДИ: Ну хорошо, не стану больше спорить. Я готова согласиться с тем, что глупо называть имитацию урагана настоящим ураганом. Однако это все же не настолько глупо, как может показаться с первого взгляда. А уж когда мы вместо имитации урагана говорим об имитации мыслей, мы имеем дело совсем с другой ситуацией.

    ПАТ: Не понимаю, почему. Шквал мыслей, по-моему, что-то вроде мысленного урагана. Нет, серьезно, тебе придется постараться, чтобы меня в этом убедить.

    СЭНДИ: Никто не может точно, во всех деталях, определить, что такое ураган. Существует некая абстрактная схема, по которой развиваются некоторые виды шторма — их мы называем ураганами. Однако невозможно провести четкую границу между ураганами и другими типами штормовых явлений — торнадо, циклоны, тайфуны, смерчи… А Великое Красное пятно на Юпитере — это ураган или нет? А пятна на солнце? Может ли возникнуть ураган в аэродинамической трубе? А в пробирке? При достаточном воображении можно даже включить в понятие “урагана” микроскопические шторма, возникающие на поверхности нейтронных звезд.

    КРИС: Знаете, все это не так уж далеко от действительности. На самом деле, понятие “землетрясение” теперь используется и в отношении нейтронных звезд. Астрофизики говорят, что в крохотных сбоях в периодах излучения пульсаров виноваты “звездотрясения”, случающиеся на поверхности нейтронных звезд.

    СЭНДИ: Да, я вспомнила, что слышала об этом. Мне тогда показалась очень странной сама идея “звездотрясения” — нечто вроде сюрреалистического дрожания на сюрреалистической поверхности.

    КРИС: Представь себе — тектонические плиты на гигантской вращающейся сфере, состоящей из атомных ядер?

    СЭНДИ: Фантастическая идея! Значит, теперь звездотрясения и землетрясения могут быть объединены в новую, более абстрактную категорию. Именно так наука расширяет известные понятия, уводя их все дальше от повседневного опыта, но сохраняя суть неизменной. Классический пример этого — система чисел. К положительным числам постепенно добавились отрицательные, рациональные, действительные, комплексные — и так далее.

    ПАТ: Да, я понимаю. В биологии есть множество примеров близких отношений, которые установлены довольно абстрактным путем. Чтобы определить, к какому семейству относится тот или иной вид, зачастую приходится опираться на некое абстрактное сходство на том или ином уровне. Когда система классификации основана на абстрактных типах сходства, самые непохожие явления могут оказаться “в одном классе”, хотя на первый взгляд у них множество различий. Так что я, кажется, начинаю понимать, как имитация урагана может, в некоем странном смысле, быть для тебя настоящим ураганом.

    КРИС: Может быть, здесь расширяется не понятие “ураган”, а понятие “быть”!

    ПАТ: Что ты имеешь в виду?

    КРИС: Если Тьюринг мог употребить в расширенном смысле глагол “думать”, то почему бы мне не употребить так же и глагол “быть”? Я хочу сказать, что когда имитированные объекты нарочно принимаются за настоящие, кто-то при этом вовсю занимается философским лапшевешанием. Все это гораздо серьезнее, чем расширение нескольких понятий вроде “ураганов”.

    СЭНДИ: Мне нравится твоя мысль насчет расширения значения слова “быть”, но по-моему, ты зря оскорбляешь философов. Так или иначе, если ты не возражаешь, я хочу сказать еще кое-что по поводу симуляции ураганов перед тем, как перейти к имитации мышления. Представь себе, что ты имеешь дело с необычно детальной имитацией, вплоть до каждого отдельного атома (да, да, я знаю, что на практике это невозможно). Надеюсь, что тогда ты согласишься с тем, что такая имитация полностью разделяет с настоящим ураганом абстрактную структуру, определяющую, что есть ураган. Назовешь ли ты такую имитацию “ураганом”?

    ПАТ: Я думала, ты уже перестала утверждать, что имитация может быть тождественна настоящему явлению!

    СЭНДИ: Я тоже так думала — но из-за всех этих примеров мне пришлось вернуться к первоначальной точке зрения. Ну хорошо, позволь мне отступить и перейти, как я и обещала, к мышлению — в конце концов, именно оно — главная тема нашей беседы. Мысли, еще в большей степени, нежели ураганы, являются абстрактной структурой, описывающей некие сложные события. Эти события происходят в среде, именуемой мозгом. Мысль может родиться в любом из нескольких миллиардов мозгов. Все эти мозги очень разные, и, тем не менее, все они позволяют существование “одного и того же явления” — мышления. Следовательно, здесь важна не среда, но некая абстрактная структура. Та же самая структура может возникнуть в голове любого человека, так что никто не может утверждать, что его мышление — более настоящее, чем мышление любого другого человека. Теперь представьте себе, что подобная структура возникает в отличной от мозга среде. Можете ли вы отрицать, что мы имеем дело с мышлением?

    ПАТ: Может быть, и нет, но ты подменяешь один вопрос другим. Теперь возникает вопрос, каким образом можно установить, что там возникает “подобная структура”?

    СЭНДИ: Прелесть теста Тьюринга как раз в том, что он говорит, нам, когда это происходит.

    КРИС: Я с этим не согласен. Откуда вы узнаете, что внутри компьютера происходит то же, что и внутри моего мозга? Только лишь из того, что он отвечает на вопросы, подобно мне? Вы видите только то, что снаружи!

    СЭНДИ: Но откуда ты знаешь, что когда я с тобой разговариваю, внутри у меня происходят процессы, подобные тому, что ты называешь “мышлением”? Тест Тьюринга — это гениальный “зонд”, подобный ускорителю частиц в физике. Думаю, что тебе понравится эта аналогия. В физике, чтобы узнать, что происходит на атомном или субатомном уровне, поскольку вы не можете это увидеть, вам приходится бомбардировать ваш объект ускоренными частицами и наблюдать, как они себя ведут после столкновения. По результатам наблюдения вы делаете заключения о внутренней природе объекта. Тест Тьюринга применяет ту же идею к интеллекту. Интеллект в нем рассматривается как “объект”, невидимый глазом; структура этого объекта может быть вычислена абстрактно. “Бомбардируя” вопросами разум-объект, мы узнаем нечто о том, что происходит у него внутри, так же, как в физике.

    КРИС: Говоря точнее, мы можем строить гипотезы о том, какие внутренние структуры ответственны за наблюдаемое поведение объекта. Мы не знаем в точности, существуют ли эти структуры.

    СЭНДИ: Погоди — ты что же, утверждаешь, что атомные ядра — всего лишь гипотетические объекты? Но ведь их существование (или я должна говорить “гипотетическое существование”?) было доказано (или “предположительно установлено”?) поведением частиц, которые сталкивались с атомами?

    КРИС: Мне кажется, что физические системы намного проще разума, и поэтому для них больше вероятность того, что наши умозаключения окажутся верными.

    СЭНДИ: Зато там гораздо труднее осуществлять эксперименты и интерпретировать результаты. В тесте Тьюринга можно за час провести несколько сложных экспериментов. Я утверждаю, что мы считаем других людей разумными просто потому, что постоянно за ними наблюдаем и делаем выводы — а это тоже нечто вроде теста Тьюринга.

    ПАТ: Может, это и так, но только приблизительно, поскольку это все же нечто большее, чем беседа с людьми по телетайпу. Мы видим, что у других людей есть тела, мы наблюдаем за выражением их лиц — мы видим, что они тоже люди, и заключаем, что они думают.

    СЭНДИ: По-моему, это весьма антропоцентрический взгляд на мышление. Значит, ты скорее признаешь способность мыслить у манекена в витрине, чем у прекрасно запрограммированного компьютера, только лишь потому, что манекен больше похож на человека?

    ПАТ: Разумеется, что мне понадобится большее, чем простое физическое сходство с человеком, прежде чем я решу, что некое существо способно думать. Но именно это органическое качество, общность происхождения, добавляет значительную долю вероятности.

    СЭНДИ: Здесь я с тобой не согласна — по-моему, это просто шовинизм. Мне кажется, что главное здесь — не телесное, органическое и химическое сходство, а сходство внутренней, организационной структуры, программы. Вопрос о том, может ли некое существо думать, сводится для меня к вопросу о том, может ли его внутренняя организация быть описана определенным образом, и я считаю, что тест Тьюринга позволяет определить наличие или отсутствие этой организации. Мне кажется, что твоя зависимость от моего телесного облика как свидетельства того, что я — мыслящее существо, довольно поверхностна. Тест Тьюринга, на мой взгляд, заглядывает гораздо глубже физической оболочки.

    ПАТ: Постой, ты недооцениваешь мои слова. Я опираюсь в своем заключении не только на форму тела, но и на идею об общем происхождении. И ты, и я произошли от молекул ДНК, и мне это кажется очень важным. Я бы сказала, что внешняя телесная форма показывает глубокую общность биологической истории — и именно эта глубина придает вероятность тому, что обладатель подобного тела может мыслить.

    СЭНДИ: Все это только косвенные доказательства. Наверняка, ты хочешь иметь и прямые! А для этого тебе как раз понадобится тест Тьюринга. Я полагаю, что это единственный способ определить, принадлежит ли существо к классу думающих.

    КРИС: Но ты можешь и ошибиться — ведь экзаменатор иногда принимает мужчину за женщину.

    СЭНДИ: Я признаю, что ошибка возможна, если я проведу тест слишком торопливо или поверхностно. Но я могу спрашивать и о самых глубоких и важных вещах, какие только могу вообразить.

    КРИС: Мне бы хотелось узнать, может ли программа понимать шутки. Вот это будет настоящий тест на разумность.

    СЭНДИ: Я согласна. Юмор — суровое испытание для предположительно разумной машины; но таким же важным критерием, если не важнее, мне кажется ее эмоциональная реакция. Я спросила бы машину о том, что она чувствует, слушая музыку и читая литературные произведения, особенно мои любимые.

    КРИС: А что, если она ответит: “Я не знаю этого произведения” или даже “Музыка меня не интересует”? Что, если она будет избегать любого упоминания об эмоциях?

    СЭНДИ: Это покажется мне подозрительным. Любое постоянное увиливание от определенных тем вызовет во мне сомнение насчет того, что я имею дело с мыслящим существом.

    КРИС: Но почему? Разве не может быть, что ты имеешь дело с мыслящим, но не эмоциональным существом?

    СЭНДИ: Это важный момент. Я просто не могу поверить, что эмоции могут быть отделены от мыслей. Иными словами, мне кажется, что эмоции — это побочный продукт способности к мышлению. Сама природа мышления предполагает наличие эмоций.

    КРИС: А если ты ошибаешься? Что, если бы я сконструировал машину, способную думать, но не умеющую чувствовать? Разумность такой машины могла бы остаться незамеченной, поскольку она не прошла бы твой вариант теста.

    СЭНДИ: Я бы хотела, чтобы ты показал мне, где граница между эмоциональными и неэмоциональными вопросами. Ты мог бы спросить о содержании какого-нибудь великого романа. Для ответа понадобилось бы понимание человеческих чувств. Это мышление или холодный расчет? Ты мог бы спросить о выборе слов. Чтобы ответить, собеседник должен понимать ассоциативный ряд этих слов. Тьюринг приводит подобные примеры в своей статье. Ты мог бы попросить совета в сложной романтической коллизии. Собеседник должен понимать мотивы человеческих действий и их корни. Если бы машина не смогла ответить на подобные вопросы, вряд ли я бы сказала, что она может мыслить. По моему мнению, способность думать, чувствовать и сознавать — разные стороны одного и того же явления. Ни одна из них не может присутствовать отдельно от других.

    КРИС: Но почему мы не можем построить машину, не способную чувствовать, но тем не менее умеющую мыслить и принимать сложные решения? Я не вижу здесь никакого противоречия.

    СЭНДИ: А я вижу! Наверное, когда ты это говоришь, ты представляешь себе металлическую прямоугольную машину в комнате с кондиционером — твердый, угловатый, холодный предмет с тысячами цветных проводочков внутри. Твоя машина неподвижно стоит на полу, гудит и крутит свои пленки. Такая машина может сыграть хорошую партию в шахматы — я признаю, что для этого нужна способность принимать решения. Но я никогда не назову такую машину сознательной.

    КРИС: Отчего же? Разве по мнению механистов машина, играющая в шахматы, не обладает рудиментарным сознанием?

    СЭНДИ: Только не по мнению этого механиста! Я считаю, что сознание должно возникать из определенной структуры — правда, мы пока еще не можем точно ее описать. Но я верю, что со временем мы научимся ее понимать. По-моему, сознание — это некая внутренняя модель внешнего мира и способность отвечать на стимулы внешней реальности при помощи этой внутренней модели. Кроме того, необходимо, чтобы эта разумная машина включала бы хорошо развитую и достаточно гибкую модель самой себя. И именно это и есть камень преткновения для всех существующих программ, включая шахматные.

    КРИС: Но разве программы-шахматисты, рассчитывая последствия того или иного хода, не говорят сами себе: “Если ты пойдешь сюда, то я отвечу так, а если сюда, то я могу сделать вот так…”? Разве это в каком-то смысле не модель самого себя?

    СЭНДИ: Я бы так не сказала. Или, если хочешь, это очень ограниченная модель, понимающая себя только в самом узком смысле. Ведь шахматная программа не знает, зачем играет в шахматы, не сознает, что она — программа, что она находится в компьютере, что играет против человека и так далее. Она не знает, что такое победа или поражение, и—

    ПАТ: Откуда ты знаешь, что она этого не понимает? Почему ты вообразила, что можешь рассуждать о том, что чувствует и знает шахматная программа?

    СЭНДИ: Брось, пожалуйста — мы все знаем, что некоторые вещи ничего не думают и не чувствуют. Брошенный камень ничего не знает о параболах, а вентилятор не имеет понятия о воздухе. Верно, я не могу этого доказать, но здесь мы почти соприкасаемся с вопросом веры.

    ПАТ: Это мне напоминает об одной даоистской истории, которую я недавно читала. Два мудреца стоят на мосту над бурной рекой. Один говорит другому: “Хотел бы я быть рыбой. Они так счастливы!” Второй отвечает: “Откуда ты знаешь, счастливы ли рыбы? Ты же не рыба!” Первый мудрец возражает: “Но ты — не я, так что откуда ты знаешь, знаю ли я, как чувствует себя рыба?”

    СЭНДИ: Превосходно! Все эти разговоры о сознании должны иметь некоторые ограничения. Иначе придется либо становиться солипсистом и утверждать “Я — единственное думающее существо во вселенной!”, либо уверовать в то, что все предметы во вселенной обладают сознанием.

    ПАТ: Может быть, так оно и есть?

    СЭНДИ: Если ты собираешься присоединиться к тем, кто утверждает, что камни и даже элементарные частицы обладают сознанием, то мне с тобой не по дороге. Я не могу понять подобного мистицизма. Что же до шахматных программ, то я знаю, как они работают, и могу тебя заверить, что сознанием там и не пахнет!

    ПАТ: Почему?

    СЭНДИ: Потому что они имеют только отдаленное понятие о целях шахматной игры. Понятие “игра” превращается в механический акт сравнения множества чисел и выбора наибольшего числа снова и снова. Шахматная программа не испытывает стыда за поражение или гордости от победы. Ее представление о самой себе чрезвычайно ограничено. Она делает минимум возможного — играет в шахматы, и ничего более. Интересно, что тем не менее мы продолжаем говорить о “желаниях” шахматного компьютера. Мы говорим: “Он хочет защитить своего короля, поместив его за пешечным заграждением”, или “Ему нравится развивать ладей очень рано” или “Он думает, что я не вижу этой “вилки”!”

    ПАТ: Мы делаем то же самое с насекомыми. Увидим где-нибудь одинокого муравья и говорим: “Он пытается добраться домой” или “Он хочет дотащить эту мертвую осу до муравейника”. Говоря о любом животном, мы используем слова, указывающие на эмоции, но при этом мы не уверены, насколько данное животное способно чувствовать. Я могу запросто сказать о коте или собаке, что они грустные или счастливые, имеют желания и убеждения и так далее, но я не думаю, что их грусть или счастье так же глубоки, как человеческие.

    СЭНДИ: Но тем не менее ты не считаешь, что это только имитация чувств?

    ПАТ: Разумеется, нет. Я думаю, что эти чувства вполне настоящие.

    СЭНДИ: Употребления таких телеологических, менталистских терминов трудно избежать. Думаю, что они имеют смысл, но мы не должны использовать их без разбору. У них просто нет такого глубокого значения в приложении к сегодняшним шахматным компьютерам, как в приложении к людям.

    КРИС: До меня все еще не дошло, почему разум должен обязательно идти рука об руку с эмоциями. Почему вы не можете представить себе разум, который только вычисляет, но при этом ничего не чувствует?

    СЭНДИ: На это у меня имеется целых два ответа. Во-первых, любой разум должен иметь мотивацию. Что бы ни утверждали некоторые люди, машина не может думать более “объективно”, чем человек. Когда машина видит какую-то сцену, она должна сосредоточиться на определенных ее аспектах и разложить их на имеющиеся у нее категории, точно так же, как сделал бы человек — а это значит, что она заметит какие-то вещи и упустит из виду другие. Это происходит на любом уровне обработки информации.

    ПАТ: Что ты имеешь в виду?

    СЭНДИ: Возьмем, например, меня. Ты можешь подумать, что я просто отпускаю некие интеллектуальные замечания и мне для этого не нужны эмоции. Но почему эти замечания так важны для меня? Почему я так напираю на слово “важны”? Потому что мои эмоции тоже участвуют в этом разговоре! Люди говорят друг с другом из убеждения, а не благодаря чисто механическим рефлексам. Даже самая интеллектуальная беседа воодушевляется скрытыми страстями. В любой беседе есть эмоциональные подводные течения — говорящие хотят, чтобы их внимательно слушали, понимали и уважали за то, что они говорят.

    ПАТ: Мне кажется, что ты хочешь сказать только то, что люди должны быть заинтересованы в предмете беседы, иначе разговор у них не получится.

    СЭНДИ: Точно! Я бы не стала ни с кем разговаривать, если бы не была мотивирована интересом. А интерес — просто одно из названий для целого созвездия подсознательных пристрастий. Когда я говорю, все эти пристрастия действуют одновременно; то, что вы воспринимаете на внешнем уровне — это мой стиль, мой характер. Но этот стиль рождается из множества крохотных склонностей, пристрастий и предпочтений. Сложив миллион таких “мелочей”, мы получаем множество желаний. Все это просто складывается! И это подводит меня к другой теме — бесчувственных вычислений. Разумеется, они существуют — в кассовом аппарате, в карманном калькуляторе. Это верно даже для всех сегодняшних компьютерных программ. Но когда-нибудь, когда мы сложим все бездушные расчеты вместе в некую гигантскую координированную систему, мы получим нечто, имеющее особенности на другом уровне. И мы сможем — более того, мы должны будем увидеть их не как совокупность крохотных вычислений, но как систему склонностей, желаний, убеждений и так далее. Когда система становится достаточно сложной, нам приходится сменить наш уровень описания. В какой-то степени это уже происходит, и поэтому мы используем такие слова, как “хочет”, “пытается”, “думает”, “надеется” в описании шахматных программ и других попыток создать механический интеллект. Деннетт называет подобное изменение уровней у наблюдателя “принятие интенциональной позиции”. Думаю, что по-настоящему интересные вещи в Искусственном Интеллекте начнут происходить тогда, когда программа примет интенциональную позицию в отношении самой себя.

    КРИС: Это будет престранным смешением уровней в обратной связи!

    СЭНДИ: Безусловно! Однако пока еще рано говорить о принятии интенциональной позиции по отношению к какой-либо из современных программ. По-крайней мере, таково мое мнение.

    КРИС: Здесь возникает важный вопрос: насколько правомочно принятие интенциональной позиции по отношению к существам или объектам, не являющимся людьми?

    ПАТ: Я бы безусловно приняла интенциональную позицию по отношению к млекопитающим.

    СЭНДИ: Я голосую за!

    КРИС: Интересно! Как же это получается, Сэнди? Ты же не станешь утверждать, что кошка или собака могут пройти тест Тьюринга? И в то же время ты утверждаешь, что этот тест — единственный способ определить наличие мышления. Как ты можешь совместить эти два убеждения?

    СЭНДИ: Гммм… Ну хорошо, кажется, мне придется признать, что тест Тьюринга действует, только начиная с определенного уровня сознания. Могут существовать думающие существа, которые не в состоянии его пройти — но, с другой стороны, любое существо, выдержавшее этот тест, будет, по моему мнению, по-настоящему мыслящим существом.

    ПАТ: Как ты можешь считать компьютер мыслящим существом? Извини, если мои слова звучат слишком стереотипно, но я просто не могу представить себе машину в роли мыслящего существа! Для меня, как ни глупо это звучит, сознание связано с мягким, теплым телом.

    КРИС: Звучит действительно странно, особенно в устах биолога. Разве ты не имеешь дела с жизнью в терминах химии и физики? Разве от этого не пропадает все ее волшебство?

    ПАТ: Не сказала бы. Иногда физика и химия только сильнее заставляют меня чувствовать, что я имею дело с чем-то магическим. Так или иначе, мне не удается всегда совмещать мои чувства с моими научными познаниями.

    КРИС: Думаю, что я разделяю с тобой эту черту.

    ПАТ: И что же вы будете делать с такими укоренившимися предрассудками, как у меня?

    СЭНДИ: Я постараюсь докопаться до сути твоего понимания машин и найти те интуитивные ассоциации, которые скрыты в твоем подсознании, но, тем не менее, влияют на твои убеждения. Думаю, что у нас у всех остался в голове образ времен Индустриальной Революции: машина — это нелепая, неуклюже двигающаяся железная конструкция, приводимая в действие оглушительно тарахтящим мотором. Возможно, что Чарльз Баббидж, изобретатель компьютеров, видел такими людей. В конце концов, он ведь назвал свой великолепный многофункциональный компьютер Аналитической Машиной.

    ПАТ: Что до меня, то я вовсе не считаю людей похожими ни на паровые экскаваторы, ни даже на электрические консервные ножи. В людях есть что-то такое… какой-то внутренний огонь, нечто живое, непредсказуемое, неточное — и творческое!

    СЭНДИ: Отлично! Это именно то, что я надеялась услышать. Это очень человеческий образ мыслей. Твой образ внутреннего огня напоминает мне о свечах, пожарах, о молниях, танцующих в небе безумный танец. Но разве ты не видела тот же самый танец на консоли компьютера? Эти мигающие огоньки складываются в удивительные, непредсказуемые, сверкающие узоры. Это так далеко от куч безжизненного металла! Это похоже на тот самый огонь! Почему бы тебе, услышав слово “машина”, не подумать о танцующих огненных узорах, вместо гигантских паровых экскаваторов?

    КРИС: Какой красивый образ, Сэнди. Он меняет мое представление о механизме от ориентированного на материю на ориентированный на некие схемы, на организацию. Он заставляет меня представить мысли у меня в голове — даже те мысли, которые там в данный момент — в виде крохотных огонечков, мерцающих у меня в мозгу.

    СЭНДИ: Для крохотных огонечков в мозгу это довольно поэтический автопортрет!

    КРИС: И все-таки, я еще не полностью убежден в том, что я — лишь машина. Признаю, что мой образ машин не свободен от подсознательных атавистических ассоциаций, но боюсь, что не смогу сразу отказаться от так глубоко укоренившегося чувства.

    СЭНДИ: По крайней мере, в тебе нет предубеждения. Честно говоря, какая-то часть меня симпатизирует тому, как вы с Пат видите машины. Эта часть протестует, когда я отождествляю себя с машиной. В конце концов, это действительно очень странная мысль — что чувство личности может возникнуть из некой схемы. Вы удивлены?

    КРИС: По крайней мере, я удивлен. Так что же, ты веришь в возможность разумного компьютера или нет?

    СЭНДИ: Все зависит от того, что ты имеешь в виду. Мы все слышали вопрос: “могут ли компьютеры думать?” Здесь возможны разные интерпретации (кроме того, множество интерпретаций может быть и у слова “думать”). Все они вертятся вокруг разных значений слов “могут” и “компьютеры”.

    ПАТ: Снова словесные игры…

    СЭНДИ: Верно. Во-первых, этот вопрос может означать “думает ли какой-нибудь существующий сейчас компьютер?” На этот вопрос я немедленно отвечу решительным “нет”. Этот вопрос может означать “Сможет ли какой-нибудь из существующих на сегодняшний день компьютеров думать, если он будет снабжен соответствующей программой?” Это уже более вероятно, и все же я отвечу “Скорее всего, нет”. Основная трудность здесь упирается в слово “компьютер”. Мне кажется, что оно вызывает образ, который я описывала раньше: комната с кондиционером, и в ней — холодные металлические прямоугольные ящики. Но думаю, что прогресс в компьютерном дизайне вскоре сделает этот образ устаревшим.

    ПАТ: Ты не думаешь, что компьютеры в их теперешнем обличье будут с нами долго?

    СЭНДИ: Да нет, эти компьютеры будут существовать долго, но будут развиваться и компьютеры нового поколения, которые будут выглядеть совсем по-другому; может быть, они и называться будут по-другому. Возможно, что, как и в случае с живыми организмами, их эволюционное древо будет разветвляться. Будут компьютеры для бизнесменов, для школьников, для научных вычислений, для системных исследований, компьютеры для имитации, компьютеры для космических ракет и так далее. И наконец, будут компьютеры для изучения разума. И я имею в виду именно эти последние — компьютеры, обладающие максимальной гибкостью, компьютеры, запрограммированные на то, чтобы быть максимально разумными. И они вовсе не должны оставаться в традиционной форме. Вполне возможно, что вскоре у них появится некая рудиментарная сенсорная система — сначала, в основном, для зрения и слуха. Они должны быть способны к передвижению, чтобы иметь возможность исследовать окружающее. Они должны обладать физической гибкостью. Короче говоря, они будут больше походить на животных, будут более самодостаточными.

    КРИС: Это напоминает мне о роботах R2D2 и С3РО в фильме “Звездные войны”.

    СЭНДИ: Я думаю совсем не о них, когда представляю себе разумные машины. Они слишком глупы, не более чем плод воображения кинодизайнера. Правда, у меня и самой нет ясного представления. Но я считаю, что если люди хотят сформировать реалистический образ искусственного интеллекта, им придется отказаться от ограниченного, жесткого образа компьютеров, сформированного тем, что мы имеем на сегодняшний день. Единственное, что всегда будет общего между всеми машинами — это лежащая в их основе механистичность. Это может показаться холодным и жестким — но что может быть более механистичным (и чудесным!), чем действие ДНК, белков и органелл на наши клетки?

    ПАТ: Для меня все, происходящее в клетках, кажется “мокрым” и “скользким”, а то, что происходит в машинах — “сухим” и “жестким”. Мое ощущение связано с тем, что компьютеры не совершают ошибок и делают только то, что мы им велим. По крайнем мере, таково мое представление о компьютерах.

    СЭНДИ: Любопытно — минуту назад это был образ огня, а теперь ты говоришь о “мокром” и “скользком”. Не чудесно ли, насколько противоречивыми мы можем быть?

    ПАТ: Пожалуйста, оставь свой сарказм при себе.

    СЭНДИ: Никакого сарказма — я действительно считаю это чудесным.

    ПАТ: Это просто пример неопределенности человеческого ума — в данном случае, моего.

    СЭНДИ: Верно. Но твой образ компьютеров застрял в наезженной колее. Компьютеры вполне способны на ошибки — и я не имею в виду ошибки на уровне аппаратуры. Вспомни о сегодняшних компьютерах, предсказывающих погоду. Они могут выдавать неверные прогнозы, хотя их программа при этом работает безукоризненно.

    ПАТ: Только потому, что в них ввели неверные данные.

    СЭНДИ: Вовсе нет! Это происходит потому, что предсказание погоды — слишком сложное дело. Любая подобная программа обязана обходиться ограниченными данными — при этом совершенно верными — и делать выводы на их основании. Иногда прогноз получается ошибочным. Компьютер здесь не отличается от фермера, стоящего на своем поле и глядящего на тучи: “Думаю, что сегодня ночью выпадет снежок…” Мы создаем у себя в голове модели и используем их, чтобы предвидеть, как себя поведет мир вокруг. Мы должны обходиться нашими моделями, какими бы неаккуратными они ни были. А если у кого-то они окажутся слишком неаккуратными, естественный отбор выполет его, как сорную травку — он свалится с обрыва, или что-нибудь подобное. С компьютерами дело обстоит точно так же. Просто так человеческие дизайнеры ускоряют эволюционный процесс, ставя перед собой задачу получения искусственного интеллекта, в то время как природа набрела на это случайно.

    ПАТ: Так ты думаешь, что компьютеры будут ошибаться тем меньше, чем умнее они будут становиться?

    СЭНДИ: Как раз наоборот. Чем умнее они будут, тем чаще им придется иметь дело с запутанными, как сама жизнь, проблемами, так что они, скорее всего, будут строить все более неаккуратные модели мира. Для меня ошибка — это признак высокого интеллекта!

    ПАТ: Ну и ну! Ты меня удивила!

    СЭНДИ: Наверное, я и правда необычный защитник машинного интеллекта. В какой-то мере я и сама колеблюсь. Я думаю, что машины не будут разумными по-человечески, пока в них не появится некая биологическая “влажность” и “скользкость”. Я не имею в виду, что они должны быть влажными в прямом смысле слова — это может быть влажность на уровне программы. Но даже если они будут в какой-то степени биологическими, разумные машины будут оставаться машинами. Мы будем их разрабатывать и создавать — или же растить. Мы будем знать, как они работают, — по крайней мере, до известной степени. Возможно, что никто в отдельности не будет способен их понять полностью, но коллективно люди будут понимать, как они работают.

    ПАТ: По-моему, ты собираешься съесть один и тот же пирог дважды.

    СЭНДИ: Может, ты и права. Я только хотела сказать, что когда искусственный интеллект появится, он будет одновременно механическим и органическим. Он будет обладать той же удивительной гибкостью, которую мы находим в живых механизмах. Да-да, я не оговорилась! Под “механизмом” я понимаю именно “механизм” ДНК, и энзимы действительно совершенно механистичны и надежны. Ты с этим согласна, Пат?

    ПАТ: Это верно. Но когда они работают вместе, часто случаются самые неожиданные вещи. Существует так много сложностей и разнообразных моделей поведения, что в результате всей этой механичности получается нечто весьма текучее.

    СЭНДИ: Мне кажется совершенно невообразимым этот переход от механического уровня молекул к живому уровню клетки. Но именно это и убеждает меня в том, что люди по сути являются машинами. В каком-то смысле эта мысль меня смущает, но с другой стороны, она же меня радует.

    КРИС: Если люди — машины, то почему тогда их так трудно в этом убедить? Наверняка машины должны быть способны осознавать собственную машинность.

    СЭНДИ: Ты должен учитывать эмоциональный фактор. Если тебе говорят, что ты — машина, это означает, что ты — не что иное, как сумма твоих физических частей, а это ставит тебя лицом к лицу с тем, что ты смертен. Этот факт нелегко принять. Но оставим в стороне эмоциональное возражение. Чтобы увидеть, что ты — машина, ты должен перескочить с низшего, полностью механического уровня на уровень, где происходит сложная жизнедеятельность. Промежуточные уровни при этом действуют как щит, и механичность становится почти невидимой. Именно такими разумные машины покажутся нам — и самим себе — если они когда-либо появятся.

    ПАТ: Я однажды слышала забавное предположение о том, что произойдет, если у нас когда-нибудь появятся разумные машины. Когда мы попытаемся наделить этим разумом приспособления, которые мы захотим контролировать, то обнаружим, что их поведение далеко не всегда предсказуемо.

    СЭНДИ: Может быть, у них внутри будет этот странный маленький огонек?

    ПАТ: Возможно.

    КРИС: Так что же в этом забавного?

    ПАТ: Подумай о военных снарядах. Согласно этой идее, чем сложнее будет их целенаводящее компьютерное устройство, тем менее предсказуемым оно окажется. Рано или поздно некоторые снаряды решат, что они пацифисты, повернут обратно и спокойно приземлятся дома, не взорвавшись. Можно даже вообразить себе “разумные пули”, которые поворачивают на полпути, потому что не желают совершать самоубийства.

    СЭНДИ: Как мило!

    КРИС: Я отношусь к таким идеям скептически. И все-таки, Сэнди, мне бы хотелось услышать твое предсказание по поводу того, когда появятся первые разумные машины.

    СЭНДИ: Скорее всего, их еще долго не будет — по крайней мере таких, которые будут приближаться по интеллекту к человеку. Мне кажется, что в ближайшем будущем мы не сможем воспроизвести настолько сложный субстрат, как мозг.

    ПАТ: Как ты считаешь, пройдет ли когда-нибудь компьютерная программа тест Тьюринга?

    СЭНДИ: Это довольно сложный вопрос. Если разобраться, существуют различные степени удовлетворительного прохождения этого теста. Тут нельзя все видеть в черно-белом цвете. Во-первых, это зависит от того, кто будет экзаменатором. Какой-нибудь простачок может быть одурачен даже сегодняшними программами. Во-вторых, это зависит от того, насколько глубоко будет “копать” экзаменатор.

    ПАТ: Можно выработать шкалу теста Тьюринга — версия одной минуты, пяти минут, одного часа и так далее. Было бы здорово, если бы какая-нибудь организация выступила спонсором ежегодных чемпионатов, вроде шахматных, для программ, пытающихся пройти тест Тьюринга.

    КРИС: Программа, которая продержалась бы дольше всех против опытного жюри, выходила бы победителем. Надо бы установить большой приз для программы, которая смогла бы продержаться против знаменитого экзаменатора целых десять минут!

    ПАТ: Что бы эта программа стала делать со своим призом?

    КРИС: Тебе не кажется, что если эта программа достаточно умна, чтобы ввести в заблуждение судей, то она сообразит, как ей распорядиться призом?

    ПАТ: Конечно — в особенности, если приз будет состоять из танцевального вечера в загородном парке вместе со всеми экзаменаторами.

    СЭНДИ: Мне бы хотелось, чтобы подобное начинание стало явью. Было бы забавно посмотреть, как первые программы с треском проваливаются.

    ПАТ: Однако ты настроена очень скептически! Как ты думаешь, могла бы какая-нибудь из сегодняшних программ продержаться пять минут против хорошего экзаменатора?

    СЭНДИ: Сомневаюсь. Дело в том, что сейчас никто не работает над этой проблемой. Правда, существует программа под названием “Пэрри”; ее авторы утверждают, что она уже прошла элементарную версию теста Тьюринга. В серии заочных интервью Пэрри удалось одурачить нескольких психиатров, которым было сказано, что они говорят либо с компьютером, либо с пациентом-параноиком. В предыдущей версии этого же теста психиатрам просто показали запись коротких интервью и попросили определить, в каких из них участвовал человек-параноик, а в каких — компьютер.

    ПАТ: То есть у них не было возможности задавать вопросы? Это большой недостаток, противоречащий самому духу теста Тьюринга. Представь себе, что кто-то пытается определить, какого я пола, лишь прочитав несколько моих замечаний. Это очень трудно! Я рада, что первую версию улучшили.

    КРИС: Как им удалось заставить компьютер разговаривать как параноика?

    СЭНДИ: Я не говорила, что компьютер в действительности разговаривал, как параноик — просто некоторые психиатры в необычных обстоятельствах так подумали. В этом варианте теста Тьюринга мне не понравилось то, как Пэрри работает. “Он”, как называли эту программу, внезапно ударялся в самозащиту, уходил от неприятных тем и вообще контролировал беседу, так что “его” невозможно было по-настоящему спрашивать. В этом смысле подражать параноику гораздо легче, чем нормальному человеку.

    ПАТ: Да ну? Это напомнило мне об одной шутке — какого человека легче всего имитировать на компьютере.

    КРИС: И какого же?

    ПАТ: Кататоника — он сидит и ничего не делает день за днем. Даже я могла бы написать компьютерную программу для этого!

    СЭНДИ: Интересно, что Пэрри не создавал собственных фраз — он был снабжен обширным репертуаром готовых высказываний, из которых просто выбирал наиболее подходящие к “сказанной” ему в данный момент фразе.

    ПАТ: Удивительно! Но это было бы невозможным в более крупном масштабе, правда?

    СЭНДИ: Да, конечно. Чтобы компьютер мог отвечать нормально на все возможные высказывания в беседе, пришлось бы занести в его память поистине астрономическое, невообразимо огромное число предложений. И чтобы извлекать их из памяти, нужно было бы снабдить каждую сложным индексом. Те люди, которые считают, что программа, снабженная набором фраз, которые она вытаскивает из памяти подобно пластинкам в музыкальном автомате, сможет пройти тест Тьюринга, не понимают, о чем они говорят. Забавно то, что именно такой тип нереализуемых программ противники искусственного интеллекта используют как аргумент против теста Тьюринга. Они хотят, чтобы вместо действительно разумной машины вы вообразили себе гигантского неуклюжего робота, который монотонно повторяет законсервированные фразы. Предполагается, что его механический уровень остается очевидным даже тогда, когда он выполняет задачи, традиционно требующие интеллектуальной гибкости. Тогда критики заявляют: “Вот видите, это всего лишь машина — механическое приспособление, не обладающее никаким разумом”. Что до меня, то я вижу ситуацию как раз наоборот. Если бы мне показали машину, способную делать то же, что и я, — я имею в виду тест Тьюринга — то я не почувствовала бы, что меня оскорбляют или мне угрожают. Наоборот, я присоединилась бы к философу Рэймонду Смолляну и воскликнула бы: “Как прекрасны машины!”

    КРИС: Если бы в качестве теста Тьюринга тебе разрешили задать всего лишь один вопрос, каким бы он был?

    СЭНДИ: Гм…

    ПАТ: А как насчет “Если бы в качестве теста Тьюринга тебе разрешили задать всего лишь один вопрос, каким бы он был?”?

    Размышления

    Многих людей отталкивает в тесте Тьюринга необходимое условие, чтобы экзаменуемые находились в комнате отдельно от экзаменатора, так, чтобы тот имел дело лишь со словесными ответами. Для салонной игры такое правило в самый раз, но как может настоящее научное исследование включать в себя сознательную попытку спрятать некие факты от наблюдателей? Пряча кандидатов на разумность в “черные ящики” и оставляя как свидетельство лишь ограниченный спектр внешнего поведения (в данном случае, словесную продукцию в напечатанной форме), тест Тьюринга на первый взгляд догматически придерживается некоей формы бихевиоризма, или (хуже) операционализма, или (и того хуже) верификационизма. (Эти три кузена “изма” — ужасные пугала недавнего прошлого. Говорят, что философы науки с ними расправились и похоронили их — но что это за кошмарный звук, от которого кровь стынет в жилах? Неужели они зашевелились в своих могилах? Надо было пронзить их сердца осиновым колом!) Не является ли тест Тьюринга, по словам Джона Сирла, чем-то вроде “операционалистского фокуса”?

    Действительно, тест Тьюринга довольно категорично определяет, что в интеллекте важнее всего. Тьюринг утверждает, что важно вовсе не то, какой тип серого вещества имеется у кандидата в голове (и есть ли эта голова вообще) и не то, как он выглядит и пахнет, но то, способен ли он на разумное поведение. Предложенная Тьюрингом для тестирования игра-имитация не представляет из себя нечто “святое” — это просто ловко выбранная проверка общей разумности. Тьюринг был готов предположить, что любой субъект, прошедший тест Тьюринга, одержав победу в игре-имитации, с необходимостью должен быть способен вести себя разумно в неопределенно большом количестве других ситуаций. Если бы он выбрал в качестве лакмусовой бумажки способность поставить мат чемпиону мира по шахматам, мы могли бы с полным правом возражать против такой проверки. Сейчас кажется вполне вероятным, что такую машину возможно создать — но она не будет уметь делать ничего другого. Если бы он выбрал в качестве проверки способность украсть Британские Королевские Драгоценности без сообщников и без применения силы, или способность разрешить арабо-израильский конфликт без кровопролития, немногие стали бы возражать, что разум здесь “сведен” к поведению или “операционно определен” в терминах поведения. (Хотя, без сомнения, какой-нибудь философ тотчас принялся бы выдумывать весьма сложный и совершенно невероятный сценарий, согласно которому некий полный идиот случайно завладел Британскими Королевскими Драгоценностями, выдержав тест и таким образом опровергая его значимость в качестве проверки на общую разумность. Разумеется, настоящему операционалисту пришлось бы признать, что, согласно его критериям, этот удачливый дурачок по-настоящему умен, поскольку он выдержал определенный экзамен — несомненно, именно поэтому настоящие операционалисты так редко встречаются.)

    Тест Тьюринга имеет определенное преимущество по сравнению с воровством королевских драгоценностей или улаживанием арабо-израильского конфликта. Дело в том, что подобные тесты невозможно повторить (если пройти их успешно один раз); они слишком трудны (многие весьма разумные люди в прошлом не смогли сделать этого); их слишком трудно судить объективно. Подобно хорошему пари, тест Тьюринга очень соблазнителен; он выглядит справедливым, трудным, но возможным, и объективным в принятии окончательного решения. Этот тест напоминает пари и в другом смысле. Он мотивирован желанием Тьюринга прекратить бесконечные бесплодные препирательства, заявив: “Либо докажите, либо замолчите!” Тьюринг говорит нам: “Вместо того, чтобы спорить о конечной природе и сущности разума, почему бы нам не договориться, что любой, кто сможет пройти этот тест, наверняка разумен, и затем задаться вопросом, как сконструировать машину, которая сможет его пройти?” По иронии судьбы, Тьюрингу не удалось остановить этот вечный спор — он лишь направил его по иному руслу.

    Можно ли критиковать тест Тьюринга за его идеологию “черного ящика”? Во-первых, как замечает Хофштадтер в своем диалоге, мы обращаемся друг с другом, как с черными ящиками — наше убеждение в том, что другие люди разумны, основано на наблюдении над их поведением, которое кажется нам разумным. Во-вторых, идеология “черного ящика” является общей для любого научного исследования. Мы узнаем нечто о молекуле ДНК, наблюдая, как она отвечает на разного рода стимулы, точно так же, как мы узнаем новое о раке, землетрясениях и инфляции. Когда мы исследуем макроскопические объекты, иногда бывает полезным “заглянуть” в черный ящик. Для этого мы применяем к его поверхности “открывающий” зонд (например, скальпель); затем фотоны отражаются от открывшихся внутренностей и попадают к нам в глаза. Все это лишь еще один эксперимент с черным ящиком. Мы должны, как говорит Хофштадтер, поставить перед собой следующую проблему: “Какой зонд будет самым подходящим для поисков ответа на интересующий нас вопрос?” Если мы хотим узнать, разумно ли некое существо, вряд ли нам удастся найти более прямой и красноречивый “зонд”, чем повседневные вопросы, которые мы задаем друг другу. “Бихевиоризм” Тьюринга заключается лишь в том, что он попытался включить это почти общее место в полезный эксперимент лабораторного типа.

    Другая проблема, затронутая, но не решенная в диалоге Хофштадтера — это вопрос изображения. Компьютерная имитация чего-либо обычно представляет из себя детальное, “автоматическое” многоплановое изображение этого объекта или явления; но, разумеется, между реальностью и изображением — огромная разница, не правда ли? Джон Сирл говорит: “Никто не ожидает, что мы получим молоко и сахар, симулировав на компьютере формальные процессы лактации и фотосинтеза…” Если бы мы написали программу, которая изображала корову на цифровом компьютере, наше изображение, будучи всего лишь имитацией коровы, не давало бы молока. Вместо этого, “подоив” нашу корову, мы получили бы имитацию молока. Какой бы качественной эта имитация ни была, и как бы вы ни страдали от жажды, пить это молоко нельзя.

    Однако представьте себе, что мы разработали имитацию математика, и что наша программа работает хорошо. Стали бы мы жаловаться, что хотели получить доказательства, а вместо этого обрели лишь имитацию доказательств? Но ведь имитация доказательств — это те же доказательства, не так ли? Здесь все зависит от того, насколько хороши эти “сымитированные” доказательства. Когда авторы комиксов изображают математиков, размышляющих перед исписанными досками, в качестве доказательств или формул они обычно пишут полную белиберду, какими бы “реалистичными” эти каракули ни казались неспециалистам. Если бы имитация математика выдавила “липовые” доказательства, похожие на доказательства из комиксов, она все же могла бы имитировать некие черты математиков, представляющие теоретический интерес — может быть, манеру речи или рассеянность. С другой стороны, если бы программа была написана так, что выдавала имитацию тех доказательств, которые мог бы найти хороший математик, она была бы не хуже ее “коллеги” — по крайней мере, в области доказательств. По-видимому, в этом и заключается разница между абстрактной, формальной продукцией, такой как доказательства или песни (см. следующую главу, “Принцесса Несказанка”), и конкретными, материальными продуктами вроде молока. К какой категории относится разум? На что похожа способность мыслить — на молоко или на песню?

    Если считать, что продукт разума — контроль над телом, то такой продукт выглядит довольно абстрактным. Если же продуктом разума является некая субстанция, или даже набор различных субстанций — море любви, пара щепоток боли, немного экстаза и несколько унций того энтузиазма, которого так много у игроков в мяч — то такой продукт кажется весьма конкретным.

    Прежде чем углубляться в дебаты по этому вопросу, давайте остановимся и спросим себя, насколько ясным остается этот принцип разделения там, где мы хотим его использовать. Что, если бы нам пришлось иметь дело с абсолютно детализированной, безупречной имитацией любого конкретного объекта или феномена? Любая имитация конкретным образом “воплощена” в некоей аппаратуре, и эти носители имитации как-то влияют на окружающий мир сами. Если на имитацию события мир реагирует точно так же, как и на само событие, вряд ли мы можем с полным правом утверждать, что это всего лишь имитация. Эта мысль, которая с таким юмором обыгрывается в следующей главе, будет часто возникать на страницах этой книги.


    Д.Д.

    6

    СТАНИСЛАВ ЛЕМ

    Принцесса Несказана

    — Мне что-то такое снилось.... забыл, что, — произнес Король, вернувшись к Шкафчику-Сновидцу. — Но отчего ты, Хитриус, на одной ноге скачешь, а другую руками держишь?

    — Да так, ничего… пустяк. Роботизм, ваше величество, замучил… Должно быть, к перемене погоды, — пробормотал хитрый архимудрит, и снова стал искушать короля, дабы тот себе новый сон присмотрел. Поразмыслил Шириний, справился в “Оглавлении снов” и выбрал “Брачную ночь принцессы Несказаны”. И приснилось ему, будто сидит он у камина и читает старинную книгу в роскошном переплете. А в книге той на тонком пергаменте с золоченым обрезом, алыми буквами написаны словеса затейливые, повествующие о принцессе Несказане, что пять веков назад в Данделии правила; о Лесе ее Льдистом, о Башне Спиральной, о Ржущей Птице Домашней, о Стоглазой Сокровищнице, а больше всего — о красе ее несказанной, да о добродетели несравненной. И возжаждал Шириний этой красы, и желания его воспылали, как пламень, и очи его зажглись, как два маяка в ночи. И помчался он внутрь сна искать Несказану, но ее не было там, и только самые старые роботы хранили память о принцессе. Утомленный дорогой, забрел Шириний в самое сердце Королевской Пустыни, где даже дюны были покрыты позолотой, и наткнулся там на убогую хижину. Шириний подошел поближе и увидел старца в белоснежных одеждах. Старец поднялся навстречу ему и произнес:

    — Ты ищешь Несказану, глупец, будто не ведаешь, что уже пять столетий не живет она на белом свете; сколь же страсть твоя тщетна и пуста! Единственное, что я могу для тебя сделать, это показать тебе ее — не во плоти, разумеется, но смоделированную информационно. Модель та цифровая, а не психическая, стохастическая, энергетическая, и тем более, эротическая; она находится в Черном Ящике, который я смастерил на досуге из всякой всячины.

    — Ах, покажи мне ее, покажи скорее! — вскричал, дрожа, Шириний. Старец кивнул, нашел в старинном фолианте данные принцессы, закодировал их на перфокартах вместе со всем средневековьем, написал программу, включил Черный Ящик и отодвинул щиток с окошечка:

    — Зри, несчастный!

    Наклонился король, взглянул, и вправду увидел точную копию средневековья, всю цифровую, двоичную и нелинейную, а в нем — страну Данделию, Лес ее Льдистый, Башню Спиральную, Ржущую Птицу Домашнюю, Стоглазую Сокровищницу и Несказану собственной персоной, что в лесу смоделированном прогуливалась неспешно и бинарно, и электрические схемы у нее внутри лучились золотым и алым и тихо гудели, когда она срывала смоделированные маргаритки и напевала смоделированную песенку. Шириний, не в силах дальше сдерживаться, вскочил на Ящик и давай в него колотиться, пытаясь забраться в смоделированный мир. Но старец тотчас выключил ток, столкнул Короля наземь и вскричал:

    — Безумец! Почто невозможного возжелал? Не дано материальному существу попасть в мир, состоящий из электронных завихрений, интегральных конфигураций и процессов нелинейного моделирования!

    — Но я должен! Должен! — вопил вне себя Шириний, пытаясь пробить лбом обшивку Черного Ящика и оставляя на ней вмятины. Тогда старый мудрец произнес:

    — Ну что ж, если таково твое желание, я помогу тебе соединиться с принцессой Несказаной — есть один способ, но для этого ты должен расстаться со своей материальной формой. Я сниму с тебя мерку и по твоим коэффициентам смоделирую и запрограммирую тебя, атом за атомом, а потом помещу эту модель в средневековый цифровой мир в ящике, где она пребудет, доколе электроны текут в проводах и скачут с катода на анод. Но сам ты, здесь стоящий, исчезнешь и пребудешь лишь в образе токов, что кружат прекрасно, дискретно, вероятностно и нелинейно.

    — А тебе можно верить? — спросил Шириний. — Как я узнаю, что ты смоделировал меня, а не кого-то другого?

    — Хорошо, давай устроим испытание, — сказал старец. И он обмерил короля, как это делает портной, но точнее, поскольку снял мерку с каждого атома. Наконец он запустил программу в ящик и молвил:

    — Смотри!

    Глянул король в окошечко и увидел, как он сам сидит у огня и читает старинную книгу о принцессе Несказане, как он бежит ее искать и у встречных-поперечных дорогу спрашивает, как в златой пустыне находит хижину, а в ней — белоснежного старца, который встречает его словами: “Ты ищешь Несказану, глупец!” — и так далее.

    — Убедился теперь? — спросил старец, выключая Ящик. — А теперь я запрограммирую тебя в средневековье, рядом с чудесной Несказаной, чтобы вместе вы наслаждались сном бесконечным, цифровым и нелинейным.

    — Хорошо, хорошо, — сказал король. — Но ведь это только мое подобие, а сам я останусь здесь, а не в Ящике!

    — Это ненадолго, — пояснил старец с любезной улыбкой. — Вскоре тебя здесь не будет, я об этом позабочусь.

    С этими словами он достал из-под лежанки тяжелый, но удобный молот.

    — Когда ты окажешься в объятиях возлюбленной, — объяснил ему старец, — я избавлю тебя от двойного существования — здесь и в Ящике — способом старым и примитивным, но надежным; так что соблаговоли наклониться немного…

    — Сперва покажи мне Несказану еще разок, — сказал король, — на всякий случай…

    Мудрец включил ящик и показал ему принцессу; король смотрел, смотрел, да и сказал:

    — Описание в старинной книге сильно преувеличено. Она, конечно, ничего себе, но вовсе не так уж прекрасна, как утверждают летописи. Прощай, старче…

    И повернулся к двери.

    — Куда же ты, безумец?! — вскричал старец вслед королю, сжимая молот в руке.

    — Куда угодно, только не в Ящик! — ответил Шириний и выбежал прочь; и в то же мгновение сон лопнул у него под ногами, как мыльный пузырь, и он увидел, что стоит в дворцовой передней рядом с Хитриусом, жестоко разочарованным, — ведь ему почти удалось заманить короля в Черный Ящик, из которого архимудрит нипочем бы его не выпустил…

    Размышления

    Это первый из трех приведенных в нашей книге отрывков из работ польского писателя и философа Станислава Лема. Здесь он дан в переводе Марины Эскиной, специально сделанном для “Глаза разума”. Прежде, чем рассуждать об идеях Лема, мы должны отдать должное переводчику за ее изобретательное превращение блестящей польской игры слов в блестящую русскую игру слов. Читая подобные переводы, мы вспоминаем, как прискорбно далеки сегодняшние программы машинного перевода от замечательных человеческих переводчиков.

    Всю жизнь Лем живо интересовался проблемами, которые мы затрагиваем в этой книге. Возможно, его интуитивный, литературный подход более убедителен, чем строго научная статья или туманный философский трактат.

    Что касается рассказанной им истории, нам кажется, что она говорит сама за себя. Нам бы хотелось узнать лишь одно: какая разница между смоделированной песней и настоящей песней?

    7

    ТЕРРЕЛ МИДАНЕР

    Душа Марты-зверя

    Джейсон Хант поблагодарил его и, незаметно вздохнув с облегчением, вызвал своего следующего свидетеля.


    Др. Александр Белински, профессор психологии животных, был невысоким, крепко сбитым субъектом; он вел себя резковато, по-деловому. Уже в начале допроса всем стало ясно, что перед ними — настоящий эксперт в своей области, носитель множества академических регалий. Уяснив все это, Хант испросил у судьи разрешения представить суду довольно сложное доказательство.

    Члены судейской коллегии некоторое время обсуждали эту возможность. Фейнман колебался, но, поскольку Моррисон не возражал, разрешение было дано, и вскоре судебный пристав уже вводил в зал двоих ассистентов-аспирантов. Ассистенты толкали перед собой тележку с разнообразным электронным оборудованием.

    До недавнего времени, поскольку судебные протоколы исторически сводились только к словесной записи, подобного рода доказательства не были разрешены. Однако несколько лет назад были приняты специальные законы, разрешающие, с целью ускорения судопроизводства, записывать происходящее в суде на видеокамеру. Эти записи, сделанные судебными репортерами, затем использовались в качестве протоколов. Однако, пока Фейнман смотрел, как один из ассистентов готовит к работе сложные электронные приборы, а другой выходит из зала и через минуту возвращается с шимпанзе, ему захотелось вернуться в старые, добрые времена.

    Животное казалось нервным и напуганным присутствием такого количества людей; оно старалось держаться поближе к ассистенту, пока тот вводил его в зал суда. Увидев д-ра Белински, обезьяна с готовностью прыгнула на свидетельское место, демонстрируя явные знаки расположения. Следуя распоряжениям Ханта, Белински представил ее суду как Марту, одного из двадцати экспериментальных животных, использованных в его недавних исследованиях, результаты которых были только что опубликованы в форме книги. Когда Хант спросил его, что это были за эксперименты, он рассказал следующее:

    “Многие годы считалось, что у животных нет языка, подобного человеческому, из-за того, что их мозг недостаточно развит. Однако в начале шестидесятых некоторые специалисты по психологии животных предположили, что шимпанзе не говорят только потому, что их примитивные голосовые связки не позволяют им артикулировать слова. Они приступили к проверке своей гипотезы, разрабатывая простые символические языки, обходящиеся без речи. Исследователи опробовали цветные карточки, картинки, магнитные доски, специальную клавиатуру и даже международный язык глухих — все это с некоторой долей успеха.

    Хотя эти эксперименты и показали, что символическая речь присуща не только человеку, они, по-видимому, указывали и на то, что языковые возможности даже самых высокоразвитых животных сильно ограничены. Когда некоторое время спустя один блестящий студент написал компьютерную программу, способную повторить все языковые достижения шимпанзе, интерес к лингвистическим экспериментам с животными сильно угас.

    Тем не менее, нам кажется, что животные могли быть ограничены условиями предыдущих экспериментов так же, как раньше они были ограничены возможностями своих голосовых связок. В человеческом мозгу имеется речевой центр, специальная область, занимающаяся интерпретацией и созданием человеческих речевых форм. В естественных условиях шимпанзе общаются друг с другом; у них в мозгу также имеется область, интерпретирующая их систему бормотания и криков.

    Я понял, что, используя руки вместо голосовых связок, предыдущие эксперименты тем самым игнорировали этот речевой центр. Я решил задействовать его в эксперименте, одновременно продолжая избегать использования голосовых связок, и оборудование, которое вы видите перед собой, помогло мне добиться успеха.

    Если вы посмотрите внимательно на левую сторону головы Марты, вы увидите там пластмассовый диск. Он покрывает электрический контакт, перманентно вживленный в ее череп. К нему прикреплено множество электродов, кончающихся у нее в мозгу. Наше электронное оборудование может быть присоединено к голове Марты таким образом, что нейронная активность ее речевого центра начинает переводиться в английскую речь.

    Марта — шимпанзе только с семью электродами, одно из самых “медленных” наших животных. Она “говорит”, стимулируя некоторые из вживленных электродов, хотя сама об этом не догадывается. Электрические сигналы расшифровываются маленьким компьютером, и полученные слова озвучиваются через синтезатор. Эта техника позволила ей развить некий механизм вопросно-ответной обратной связи. Если не считать грамматических ошибок и отсутствия интонации, “говорящая” таким образом Марта звучит совсем как человек.

    Однако не ждите слишком многого, поскольку, как я уже сказал, Марта — далеко не лучшая наша ученица. Хотя ее система из семи электродов может быть декодирована в 128 человеческих слов, Марта выучила только 53. Другие животные достигли гораздо больших результатов. Наша звезда с девятью электродами освоила словарь в 407 слов из 512 возможных. Тем не менее, — добавил он, протягивая руку за проводом, — думаю, что вы найдете ее приятной собеседницей.”

    Когда д-р Белински начал подключать Марту к миру человеческой речи, животное явно пришло в радостное возбуждение. Она запрыгала на своем месте и что-то забормотала, когда д-р Белински взял в руки провод, протянутый ему одним из ассистентов, и застыла неподвижно, пока он убирал защитную пластину и соединял провода. Как только их концы оказались соединены, она снова подскочила и указала на маленькую коробочку в руках ученого. Казалось, что она вовсе не замечает провода, подключенного к ее голове.

    “Для Марты” — пояснил д-р Белински, “речь — непрекращающаяся деятельность, поскольку ее голосовые связки никогда не устают. Чтобы иметь возможность вставить слово, мне придется использовать это дистанционное управление и в буквальном смысле слова выключить ее.

    Ну хорошо, Марта, давай начнем”, — сказал психолог, включая звук.

    Небольшой динамик на тележке с оборудованием немедленно ожил. “Привет! Привет! Я Марта счастливая шимпанзе. Привет привет —”

    Животное было отключено с тихим электрическим щелчком. Люди в зале оцепенели от удивления. Зрелище животного, открывающего и закрывающего рот в то время, как из динамика лился приятный женский голос, было непросто переварить.

    Ее учитель продолжал. “Сколько лет Марте?”

    “Три три Марта три —”

    “Очень хорошо. Теперь успокойся, Марта, расслабься. Кто я такой?” — спросил он, указывая на самого себя.

    “Белински человек хороший Белинс —”

    “А кто это?” — обвел он переполненный зал.

    “Человек люди хорошие люди —”

    Исследователь снова отключил Марту и повернулся к защитнику, готовый продолжать.

    Хант встал и задал первый вопрос: “По вашему мнению, это животное разумно?”

    “В широком смысле этого слова думаю, что да.”

    “Разумна ли она в человеческом смысле?”

    “Полагаю, что да, но чтобы в этом убедиться, вы должны обращаться с ней, как с человеком — разговаривать с ней, играть… Для этого я принес коробку с ее любимыми игрушками. Она обратит свое ограниченное внимание либо на меня, либо на того, у кого в руках ее игрушки. Предлагаю вам попробовать.”

    Боковым зрением Моррисон заметил, что судья смотрит на него, явно ожидая возражения, которое он тут же высказал. “Я возражаю, Ваша Честь. Я хотел бы вначале, чтобы м-р Хант подтвердил суду, что это свидетельство относится к делу.”

    “М-р Хант?” — отнесся Фейнман.

    “Безусловно; вскоре суд в этом убедится.”

    “Если это будет не так, оно будет стерто из протокола”, — пообещал Фейнман. “Продолжайте.”

    Хант открыл Мартину коробку — огромный ларец для украшений, ярко раскрашенный в красный и серебряный цвета. Пошарив в его содержимом, он извлек оттуда сигару, завернутую в целлофан. Завидев сигару, шимпанзе вскрикнула тонким голосом: “Сигара Белински плохая сигара —” и добавила к этому свое обычное бормотание, после чего картинно зажала нос. “Откуда взялась эта старая сигара в твоей коробке для игрушек, Марта?” — спросил Хант.

    “Что? Что? Чт —” — начала обезьяна, пока Белински не прервал контакта.

    “Этот вопрос слишком сложен для нее. Попробуйте свести его к ключевым словам и коротким глаголам”, — предложил он.

    Хант послушался. “Марта ест сигары?”

    На этот раз животное ответило: “Нет сигара не ест не ест. Ест еда курит сигара.”

    “Да, это впечатляет,” — похвалил Хант ученого. Потом он повернулся к Моррисону. “Может быть, обвинение желает допросить свидетеля?”

    Моррисон поколебался, прежде, чем согласиться, потом взял в руки коробку с игрушками. Испытывая непонятное чувство дискомфорта, он вынул оттуда плюшевого медведя и спросил шимпанзе, что это такое. Животное немедленно возбужденно запрыгало, и ее искусственный голос заспешил, пытаясь успеть за ней.

    “Человек плохой плохой не брать медведь, медведь Марта помощь Белински помощь Марта брать медведь помо—”

    Как только ее отключили, Марта вернулась к обычному бормотанию. Исследователь объяснил, в чем дело: “Она чувствует, что вы настроены против нее, сэр. Честно говоря, я вас отлично понимаю. Уверяю вас, что вы не одиноки — многие чувствуют неловкость при мысли, что животное может разговаривать. Но Марта сильно разволновалась. Может быть, будет лучше, если с ней поговорит кто-нибудь другой…”

    “Я хотел бы попробовать,” — вмешался судья Фейнман. Присутствующие с готовностью согласились, Моррисон поднес ящик с игрушками к скамье, и Марта сразу успокоилась, забыв о нахмуренном лице прокурора.

    “Марта хочет есть?” — спросил Фейнман, заметив в ящике несколько конфет и спелых бананов.

    “Марта есть сейчас, Марта есть—”

    “Что Марта хочет съесть?”

    “Марта есть сейчас—”

    “Марта хочет конфету?”

    “Конфету, да, да, конфету, кон—”

    Он сунул руку в ящик и протянул ей банан, которое животное ловко схватило, очистило, и засунуло в рот. Пока она ела, Белински на мгновение подключил ее к динамику, и поймал часть бесконечной цепи: “Счастливая Марта”. Обезьяна слегка вздрогнула. Покончив с бананом, она снова повернулась к судье, бесшумно открывая и закрывая рот, пока ассистент не включил радио. “Хороший банан хороший банан спасибо человек теперь конфета теперь конфета.”

    Довольный своим успехом, Фейнман опустил руку в коробку и дал обезьяне желанное угощение. Она взяла его, но вместо того, чтобы сразу съесть, показала на выключатель в руках Белински, указывая, что хочет быть услышанной.

    “Сигара сигара Марта хочет сигара…”

    Судья нашел сигару и протянул ее Марте. Она взяла ее, понюхала, и протянула обратно. “Хороший хороший человек есть Белински сигара спасибо спасибо человек—”

    Судья был одновременно поражен умом животного и очарован его детской непосредственностью. Животное почувствовало его симпатию и ответило взаимностью к удовольствию суда. Но Хант не хотел продолжать эту сцену и вмешался, прервав межвидовую беседу.

    “Я бы хотел продолжить свое свидетельство, ваша честь.”

    “Разумеется”, — согласился судья, с неохотой передавая животное, которое к тому времени перебралось к нему на скамью.

    “Доктор Белински”, — продолжал Хант, когда Марта уселась на свое место, — “можете ли вы кратко изложить ваше научное заключение, касающееся интеллекта этого животного?”

    “Ее разум отличается от нашего”, — сказал ученый, — “но только степенью развития. Наши мозги крупнее и наше тело лучше адаптируется; поэтому мы находимся на высшей ступени. Но разница между нами может оказаться чрезвычайно незначительной. Я считаю, что Марта, какой бы слаборазвитой она ни была, все же обладает интеллектом, подобным человеческому.”

    “Можете ли вы провести четкую границу между мыслительными способностями ее биологического вида и нашего?”

    “Нет. Ясно, что она уступает в развитии нормальному человеку. Но при этом Марта безусловно умнее, чем люди на стадии идиотизма, и находится на равных с умственно неполноценными. Ее преимущество перед идиотами состоит также в том, что она чистоплотна и может обслуживать себя и своих детей. Я не стал бы проводить четкой границы между ее интеллектом и нашим.”

    Хант помедлил, прежде чем задать следующий вопрос. Разумеется, этот эксперимент был согласован с исследователем. Чтобы завершить свидетельство, Хант должен был потребовать еще одной демонстрации, которая по своей природе не могла быть отрепетирована заранее. Но он не был уверен, что Белински сделает то, о чем они договорились заранее. В действительности он уже сомневался в том, что и сам этого хочет. Но нужно было продолжать.

    “Доктор Белински, заслуживает ли это существо, обладающее человекоподобным разумом, того, чтобы с ним обращались как с человеком?”

    “Нет. Мы, разумеется, обращаемся с лабораторными животными хорошо, но их ценность заключается только в их экспериментальных возможностях. Марта, к примеру, исчерпала свой полезный потенциал и вскоре будет уничтожена, поскольку стоимость ее содержания уже превысила ее экспериментальную ценность.”

    “Каким образом вы уничтожаете подобное животное?”

    “Существует множество быстрых и безболезненных методов. Я предпочитаю яд, данный неожиданно в любимой еде. Хотя этот прием может показаться жестоким, он предохраняет животное от предчувствия смерти. Смерть неизбежна для каждого из нас, но по крайней мере эти простые создания могут быть избавлены от страха перед ней.” С этими словами Белински вынул из жилетного кармана маленькую конфету.

    “Вы продемонстрируете эту процедуру суду?” — спросил Хант.

    Когда ученый протянул конфету животному, до Фейнмана наконец дошло, что происходит. Он приказал остановить смертельный эксперимент, но опоздал.

    Исследователь никогда раньше не уничтожал своих животных, оставляя эту работу ассистентам. В тот момент, когда ничего не подозревающая обезьяна сунула конфету в рот и надкусила ее, ему в голову вдруг пришла идея нового эксперимента. Он повернул выключатель. “Конфета конфета спасибо Белински счастливая счастливая Марта”.

    Вдруг ее голос умолк. Она напряглась и обвисла на руках у хозяина. Марта была мертва.

    Но мозг не умирает сразу. Последняя вспышка сенсорной активности в ее неподвижном теле заставила нейроны отреагировать, что было расшифровано как “Марта больно Марта больно”.

    В следующие две секунды ничего не произошло. После чего случайные нейронные разряды, уже не связанные с безжизненным телом животного, послали последний пульсирующий сигнал в мир людей.

    “Почему почему почему почему—”

    Тихий электрический щелчок прервал свидетельство.

    Размышления

    Был в офисе утром и занимался делами. По очереди нас призывали к сэру В. Баттензу смотреть на странное создание, которое капитан Холмс привез с собой из Гвинеи; это огромный бабуин, настолько схожий с человеком во многом, что (хотя они и утверждают, что существует такой род) я могу поверить лишь в то, что это чудище рождено от человека и самки бабуина. Мне кажется, что он уже понимает много английских слов; и, по моему мнению, его можно научить говорить или изъясняться знаками.

    (Дневник Самуила Пеписа) (24 августа 1661)

    Жалобный, недоуменный крик умирающей обезьяны вызывает в нас сильное чувство симпатии — мы легко можем отождествить себя с этим невинным, очаровательным созданием. Однако в чем именно заключается правдоподобие этой сцены? Языковые способности шимпанзе являются объектом дискуссий уже больше десятилетия. Исследования показывают, что человекообразные обезьяны способны выучить множество слов — до нескольких сотен — и могут иногда изобретательно комбинировать их, создавая сложные слова. Однако менее ясно, способны ли обезьяны усвоить грамматику, при помощи которой они смогли бы строить сложные значимые высказывания. По-видимому, шимпанзе вместо синтаксических структур используют случайные сочетания слов. Является ли это серьезным ограничением? Некоторые считают, что да, поскольку это устанавливает жесткий предел сложности выражаемых идей. Ноам Хомски и другие исследователи утверждают, что человека отличает именно врожденная лингвистическая способность, что-то вроде “первоначальной грамматики”, общей для всех языков на достаточно глубоком уровне. Таким образом, шимпанзе и другие человекообразные обезьяны, у которых нет этой грамматики, принципиально отличаются от нас.

    Некоторые другие исследователи полагают, что приматы, использующие язык, на самом деле делают нечто совершенно отличное от людей, использующих язык. Вместо коммуникации, то есть превращения собственных идей в общепринятые символы и схемы, они манипулируют символами, значения которых не понимают, для достижения определенных целей. Строгому бихевиористу покажется абсурдом различение внешнего поведения на основании гипотетических мысленных качеств, вроде “значения”. И тем не менее однажды был проведен именно такой эксперимент. Вместо приматов в нем использовались старшеклассники. Ученикам раздали цветные пластмассовые карточки различной формы и научили их, как манипулировать этими карточками, чтобы добиться вознаграждения. Последовательность, в которой они научились выкладывать карточки, чтобы получить желаемое, могла быть расшифрована как простые английские фразы-просьбы; однако большинство школьников утверждали, что они не заметили этого соответствия. Они сказали, что всего лишь научились отличать работающие схемы от неработающих. Для них это было упражнением на манипуляцию бессмысленными символами! Этот поразительный результат может убедить многих в том, что утверждения о языковых способностях шимпанзе — всего лишь пример того, как любители животных принимают желаемое за действительное, пытаясь уподобить приматов человеку. Однако эта дискуссия все еще далека от завершения.

    Вне зависимости от того, насколько реалистичен приведенный отрывок, в нем ставятся многие философские и моральные проблемы. Какая разница между наличием разума — интеллекта — и души — эмоциональности? Может ли одно существовать без другого? Убийство Марты оправдывается тем, что она не настолько “ценна”, как человеческое существо. Видимо, это кодовое слово, обозначающее, что Марта имеет “меньшую душу”, чем обычный человек. Однако является ли степень интеллекта верным индикатором степени духовности? Можно ли сказать, что умственно отсталые или сенильные люди обладают “меньшей душой” чем нормальные? Критик Джеймс Хунекер сказал об Одиннадцатом этюде (опус 25) Шопена: “Люди с меньшей душой, какими бы беглыми ни были их пальцы, должны избегать его.” Какое удивительное высказывание! Тем не менее, хотя оно и кажется снобистским и высокомерным, в нем есть доля правды. Однако кто может сказать, какой мерой должно измерять душу?

    Не является ли тест Тьюринга такой мерой? Можно ли измерить душу, измерив языковые способности? Нет нужды говорить, что некоторые душевные качества Марты ясно видны из ее высказываний. Она очень симпатична, частично из-за своего внешнего вида (на самом деле, откуда мы это знаем?), частично потому, что мы идентифицируем себя с ней, частично благодаря ее очаровательно простодушной грамматике. Мы чувствуем, что хотим ее защитить, словно маленького ребенка.

    Все эти и многие другие детали будут рассматриваться — еще более подробно! — в следующей главе, представляющей собой еще один отрывок из книги “Душа Анны Клейн”.


    Д.Р.Х.

    8

    ТЕРРЕЛ МИДАНЕР

    Душа Марка-зверя Третьего

    “Мнение Анатоля достаточно ясно, — сказал Хант. — Он считает биологическую жизнь сложной формой механизма.”

    Она пожала плечами, но было видно, что разговор не оставляет ее равнодушной. “Я признаю, что этот человек очень интересен, но такую философию я не могу принять.”

    “Однако вы знаете, — сказал Хант, — что теория неоэволюции считает, что тела животных созданы благодаря полностью механистическим процессам. Каждая клетка — это микроскопическая машина, крохотный компонент большого и сложного механизма.”

    Дирксен отрицательно покачала головой: “Но тела людей и животных — больше чем машины! Они отличаются от машин уже тем, что могут самовоспроизводиться.”

    “Что хорошего в том, что одна биологическая машина может породить другую биологическую машину? В том, как самка млекопитающего зачинает и производит на свет детеныша, не больше творчества, чем в том, как автоматическая фабрика производит детали моторов.”

    Глаза Дирксен блеснули: “Вы думаете, фабрика что-нибудь чувствует, когда производит на свет моторы?” — вызывающе бросила она.

    “Металл испытывает большое напряжение и рано или поздно изнашивается.”

    “Я вовсе не это имела в виду, говоря о чувствах!”

    “Я тоже, — согласился Хант. — Но не всегда легко понять, кто или что имеет чувства. На ферме, где я вырос, у нас была племенная свиноматка с несчастной склонностью давить насмерть почти всех своих поросят — скорее всего, нечаянно. Потом она съедала тела своих детенышей. Как вы думаете, она испытывала материнские чувства?”

    “Я не говорю о свиньях!”

    “Точно так же мы могли бы говорить о людях! Кто взялся бы подсчитать количество новорожденных, утопленных в туалете?”

    Дирксен была так шокирована, что не могла говорить.

    После паузы Хант продолжал. “То, что кажется вам в Клейне чрезмерным интересом к машинам, на самом деле просто иная перспектива. Машины для него — еще одна форма жизни, которую он сам создал из пластмассы и металла. К тому же он достаточно честен, чтобы и самого себя рассматривать как машину.”

    “Машина, порождающая машину! — колко заметила Дирксен. — Скоро вы назовете его матерью!”

    “Нет, — ответил Хант. — Он инженер. И хотя машины, которые он производит, по сравнению с человеческим телом весьма несовершенны, они представляют из себя действие, более высокое по сравнению с простым биологическим воспроизводством, поскольку являются результатом творческой мысли.”

    “Зря я стал а спорить с юристом, — заметила она все еще сердито. — Но я просто не могу установить контакт с машинами! С эмоциональной точки зрения существует огромная разница между тем, как мы обращаемся с животными и с машинами, и разница эта не поддается логическому объяснению. Я могу сломать машину без малейшего угрызения совести, но я не могу убить животное.”

    “А вы когда-нибудь пробовали?”

    “Что-то в этом роде, — вспомнила Дирксен. — В квартире, которую я студенткой снимала, кишели мыши. Однажды я поставила там мышеловку. Но когда туда наконец попалась мышь, я не могла заставить себя ее вытащить — бедное мертвое создание выглядело таким маленьким и безобидным. Я похоронила мышь во дворе вместе с мышеловкой и решила, что лучше жить с мышами, чем убивать их.”

    “Однако вы едите мясо, — заметил Хант. — Значит, вы не против убийства животных, только не хотите делать этого сами.”

    “Ваши доводы не учитывают основного — уважения к жизни. У нас есть нечто общее с животными. Вы это признаете, не так ли?”

    “У Клейна есть теория, которая может вас заинтересовать, — настаивал Хант. — Он утверждает, что настоящее или воображаемое биологическое родство не имеет ничего общего с вашим “уважением к жизни”. На самом деле, вы не любите убивать просто потому, что животное сопротивляется смерти. Оно кричит, борется или выглядит грустным — оно просит вас не убивать его. Кстати, отвечает на эту просьбу ваш разум, а не ваше тело.”

    Она взглянула на него. Было заметно, что его слова ее не убедили.

    Хант положил на стол несколько монет и отодвинул свой стул. “Пойдемте со мной.”


    Через полчаса Дирксен входила в дом Клейна в сопровождении его адвоката, перед машиной которого автоматически открылись входные ворота. Дверь без намека на замочную скважину бесшумно отворилась, повинуясь дистанционному управлению, когда адвокат дотронулся до нее.

    Она последовала за ним в лабораторию, расположенную в цокольном этаже. Хант открыл один из нескольких дюжин шкафов и извлек оттуда нечто напоминающее крупного алюминиевого жука с маленькими цветными лампочками индикаторов и несколькими выступами на гладкой металлической поверхности. Хант перевернул его, показывая Дирксен три резиновых колесика на нижней поверхности. На металле была выгравирована надпись: “Марк-зверь Третий.”

    Хант поставил аппарат на облицованный плиткой пол и переключил крохотный тумблер у него на брюхе. С тихим жужжанием жук начал передвигаться взад и вперед, словно ища чего-то. Он остановился на мгновение, потом двинулся к розетке в углу. Перед розеткой он помедлил, затем выдвинул из отверстия в корпусе пару щупалец и воткнул их в источник энергии. Несколько огоньков на его теле засветились зеленым; раздался звук, напоминающих мурлыканье котенка.

    Дирксен с интересом наблюдала за хитрой штуковиной: “Механический зверек. Забавно — но что вы хотите этим доказать?”

    Хант взял лежащий на стуле молоток и протянул ей: “Пожалуйста, убейте его.”

    “О чем вы? — беспокойно воскликнула Дирксен. — Почему я должна его убивать… ломать… эту машину?” Она отступила, отказываясь брать молоток.

    “Это всего лишь эксперимент, — ответил Хант. — Я сам несколько лет назад попробовал сделать такое по просьбе Клейна и нашел это поучительным.”

    “Что же вы узнали?”

    “Кое-что о значении жизни и смерти.”

    Дирксен смотрела на Ханта с подозрением.

    “Это животное беззащитно и не может вам повредить, — заверил он ее. — Только не налетите здесь ни на что, пока за ним гоняетесь.” Он снова протянул молоток.

    Дирксен неуверенно шагнула вперед, взяла оружие, покосилась на необычную машину, которая мурлыкала, питаясь электричеством. Она подошла к аппарату, нагнулась и подняла молоток. “Но… он же ест”, — сказала она, повернувшись к Ханту.

    Он засмеялся. Рассердившись, она схватила молоток обеими руками, подняла его и с силой опустила.

    Издав резкий звук, напоминающий крик страха, аппарат оторвал свои щупальца от розетки и отпрянул назад. Молоток ударил в плитки пола, туда, где мгновение назад стоял механический зверь. Плитки треснули.

    Дирксен подняла глаза. Хант смеялся. Машина откатилась на два метра и остановилась, глядя на Дирксен. Нет, сказала себе женщина, она на меня не смотрит. Злясь на саму себя, она перехватила оружие покрепче и начала подкрадываться к жертве. Машина отступала, и две красные лампочки на передней панели светились то ярче, то тусклее, в примерном соответствии с частотой альфа-излучения человеческого мозга. Дирксен стремительно бросилась вперед, взмахнула молотком — и промахнулась.

    Через десять минут она вновь стояла рядом с Хантом, красная и запыхавшаяся. Ее тело болело в нескольких местах, там, где она ударилась о стоящие кругом машины; голова разламывалась от боли после удара о скамейку.

    “Это все равно что пытаться поймать большую крысу! Когда же у него кончатся эти идиотские батарейки?”

    Хант взглянул на часы: “По-моему, у него еще есть около получаса, если вы будете продолжать за ним гоняться.” Он указал под скамью, где зверюшка нашла еще одну розетку. “Но можно поймать его и более легким способом.”

    “Я согласна.”

    “Оставьте молоток и возьмите его в руки.”

    “Просто… взять в руки?”

    “Ну да. Он боится только родственных ему объектов — в данном случае, железной головки молотка. Он запрограммирован на то, чтобы доверять невооруженной протоплазме.”

    Она положила молоток на скамью и медленно подошла к машине. Та не пошевелилась. Мурлыканье стихло; тихо светились бледные желтые огоньки. Дирксен наклонилась и неуверенно протянула руку. Она почувствовала под пальцами мелкую дрожь и схватила зверюшку обеими руками. Огоньки сменились на зеленые и под приятно теплой металлической кожей вновь раздалось мягкое мурлыканье моторов.

    “Ну, а что теперь? Что мне делать с этой дурацкой игрушкой?” — спросила она раздраженно.

    “Всего лишь положить ее на спинку. Так она будет совершенно беспомощна, и вы сможете расплющить ее в свое удовольствие.”

    “Я предпочла бы обойтись без антропоморфизма”, — проворчала Дирксен, следуя совету Ханта. Она твердо решила довести дело до конца.

    Когда она перевернула машину и положила ее на скамью, огоньки на панели снова сменились на красные. Колесики закрутились, но вскоре остановились. Дирксен снова взяла молоток, быстро подняла его и неуверенно опустила на беспомощную машину, ударив ее с краю. Удар сломал одно из колесиков и снова перевернул машину на брюхо. Испорченное колесико заскрипело, и зверь завертелся на месте. Внутри у нее что-то щелкнуло, и машина остановилась, страдальчески мигая огоньками.

    Дирксен сжала губы и занесла молоток для последнего удара. Но когда молоток начал опускаться, изнутри зверюшки раздался тихий жалобный звук, похожий на плач младенца. Дирксен выронила молоток и отшатнулась, не в силах отвести глаз от лужи красной, как кровь, смазочной жидкости, которая медленно текла из-под аппарата. Она в ужасе взглянула на Ханта. “Это… это…”

    “Всего лишь машина, — сказал Хант уже серьезно. — Так же как и эти ее эволюционные предшественники.” Он обвел руками мастерскую, полную металлических силуэтов, молчаливых и угрожающих наблюдателей. “Но в отличие от них она может почувствовать приближающуюся опасность и позвать на помощь.”

    “Выключите его”, — сказала она тихо.

    Хант подошел к столу и попытался повернуть крохотный выключатель. “Боюсь, что вы его сломали.” Он нагнулся и подобрал с пола молоток. “Хотите его добить?”

    Она отступила, мотая головой. Хант поднял молоток: “А вы не можете починить…” Раздался короткий металлический лязг. Она вздрогнула и отвернулась. Плач прекратился, и они поднялись обратно по лестнице в молчании.

    Размышления

    Джейсон Хант замечает: “Но не всегда легко понять, кто или что имеет чувства.” В этом — вся суть вышеприведенного отрывка. Вначале Ли Дирксен утверждает, что живые существа отличаются от неживых способностью к самовоспроизводству. Хант возражает, что способностью к самосборке обладают и автоматы. А микробы и даже вирусы, несущие в себе инструкции по самовоспроизводству? Есть ли у них душа? Вряд ли!

    Тогда она предполагает, что различие заключается в чувствах. Автор использует все возможности, чтобы показать, что могут существовать и механические, металлические чувства — хотя само это словосочетание кажется внутренне противоречивым. Пытаясь нас убедить, автор по большей части обращается к нашему подсознанию. Он использует фразы типа “алюминиевый жук”, “тихое мурлыканье”, “резкий звук, похожий на крик страха”, “глядя на нее”, “мелкая дрожь”, “приятное тепло металлической кожи”, “страдальчески мигая огоньками”. Все это шито белыми нитками — и все же автор ухитряется пойти еще дальше, написав, что аппарат издавал тихий жалобный звук, похожий на плач младенца, в то время как из-под него медленно текла красная, как кровь, смазочная жидкость. Это уж слишком!

    Эти образы настолько эмоциональны, что затягивают читателя. Мы чувствуем, что нами манипулируют, и все же, несмотря на раздражение, не можем превозмочь инстинктивного чувства жалости. С каким трудом некоторые открывают кран над раковиной, чтобы смыть попавшего туда муравья. С какой легкостью некоторые скармливают любимым пираньям живых золотых рыбок! Где здесь проходит граница? Что для нас свято, а чем можно пожертвовать?

    Мало кто из нас является вегетарианцем, и немногие серьезно задумывались о том, чтобы отказаться от мяса. Означает ли это, что нас не смущает убийство коров и свиней? Вряд ли. Никому не хочется вспоминать, что бифштекс на тарелке — ни что иное, как кусок мертвого животного. Мы защищаемся от этой мысли при помощи ловкого словоупотребления и набора условностей, позволяющих нам иметь двойные стандарты. Мы решаемся говорить о настоящей природе мясоедения, как и о настоящей природе секса и естественных отправлений, только с помощью эвфемизмов, синонимов и аллюзий: “говяжьи котлеты”, “заниматься любовью”, “идти в туалет”. Мы чувствуем, что на бойнях происходит убийство душ, но не хотим, чтобы нашим желудкам об этом напоминали.

    Что вам будет легче сломать: Чесс Чэлленджер-7 (шахматный компьютер — Прим. перев.), который может сыграть с вами хорошую партию в шахматы и радостно мигает красным огоньком, “обдумывая” ход, или симпатичного пушистого медвежонка, с которым вы играли в детстве? Почему медвежонок так трогает ваше сердце? По какой-то причине он ассоциируется с беззащитностью, невинностью, детством.

    Мы так легко поддаемся эмоциям — и тем не менее, так придирчивы в выборе тех, кому мы приписываем душу. Как смогли нацисты убедить себя в том, что убивать евреев было правильно? Почему американцы были готовы уничтожать “желтомордых” во время вьетнамской войны? По-видимому, эмоции определенного сорта — патриотизм — могут служить барьером, не дающим людям отождествить себя с врагом, увидеть в нем человеческое существо.

    В какой-то мере мы все — анимисты. Некоторые из нас приписывают “характер” своей машине, другие одушевляют пишущую машинку или любимую игрушку. Нам трудно сжигать любимые вещи, потому что вместе с ними в пламени оказывается какая-то часть нас самих. Понятно, что “душа”, которую мы приписываем этим объектам, существует только в нашем воображении. Но если это так, то почему дело должно обстоять по-другому для тех душ, которые мы видим в наших родных и близких?

    Для каждого из нас существует набор вещей, с которыми мы можем себя отождествить с большей или меньшей легкостью, в зависимости от настроения и стимула. Иногда слова или вскользь брошенные выражения попадают в цель, и мы смягчаемся. В других случаях мы остаемся непреклонными и безжалостными.

    В этом отрывке зверюшка, отчаянно сопротивляющаяся смерти, тронула как сердце Ли Дирксен, так и наши сердца. Мы видим, как малыш сражается за жизнь, или, по словам Дилана Томаса “за то, чтобы свет не погас”, отказываясь “покорно соскальзывать в тихую ночь”. Это предполагаемое понимание грозящей опасности, возможно, самая убедительная черта в рассказе. Это напоминает нам о несчастных животных в круге, животных, которых выбирают по жребию и убивают, пока остальные дрожат в ужасе перед приближением неизбежного рока.

    Когда можно сказать, что в теле есть душа? В этом эмоциональном рассказе душа возникает не как функция ясно определенного внутреннего состояния, но как функция нашей способности к самоотождествлению. Как ни странно, это самый что ни на есть бихевиористский подход! Мы не интересуемся внутренними механизмами, но делаем заключение на основании поведения. Это подтверждает разумность теста Тьюринга в качестве инструмента “для обнаружения души”.


    Д.Р.Х.