Что такое мысленный эксперимент китайская комната джона серла

Китайская комната

Этот философский аргумент до сих пор является одним из самых обсуждаемых в области когнитивистики. Некоторые исследователи даже определяют когнитивистику как «исследовательский проект по опровержению аргумента Сёрла». Только с 2010 по 2014 год было выпущено более 750 статей в научных журналах, где обсуждается мысленный эксперимент Сёрла.

Эксперимент был опубликован в 1980 году в статье «Minds, Brains, and Programs» журнала «The Behavioral and Brain Sciences (англ.)русск.». Ещё до публикации эксперимент вызвал полемику, поэтому статья содержала как оригинальный аргумент Сёрла, так и возражения 27 исследователей в области когнитивных наук, а также ответы Сёрла на эти возражения. Помимо этого, эксперимент описан в книге 1984 года «Minds, Brains and Science» и в январском выпуске журнала Scientific American 1990 года.

Представим себе изолированную комнату, в которой находится Джон Сёрл, который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов и Сёрл просто следует этим инструкциям подобно компьютеру.

Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы компьютер.

В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.

Таким образом Сёрл заключает, что хотя такая система и может пройти тест Тьюринга, но при этом никакого понимания языка внутри системы не происходит, а значит тест Тьюринга не является адекватной проверкой мыслительных способностей. Доводы Сёрла направлены на критику позиции так называемого «сильного» искусственного интеллекта, согласно которой компьютеры с соответствующей программой на самом деле могут понимать естественный язык, а также обладать другими ментальными способностями, свойственными людям. Гипотеза слабого искусственного интеллекта, напротив, лишь говорит о том, что компьютеры способны имитировать ментальные способности человека, поэтому Сёрла она не интересует.

У этого философского аргумента можно выделить 3 важных предшественника:

«Мельница Лейбница» — мысленный эксперимент, описанный Готфридом Лейбницем в «Монадологии». Лейбниц предлагает представить машину размером с мельницу, которая симулирует чувства, мысли и восприятие. И если зайти внутрь такой машины, то ни одна из движущихся частей, обеспечивающих её работу, не будет являться сознанием или объяснением восприятия. Так Лейбниц пытался показать, что одних физических состояний недостаточно для функционирования сознания.

Бумажная машина Тьюринга

«Бумажная машина Тьюринга» — машинный алгоритм для игры в шахматы, придуманный Аланом Тьюрингом в 1951 году, где в качестве машины-исполнителя выступал человек. При этом человеку не нужно было знать, как играть в шахматы, а нужно было просто исполнять алгоритм, на основе входных данных о ходе соперника (например, «при ходе противника N передвиньте ферзя на B7»). Тьюринг был оптимистом и считал, что компьютеры будут способны к поддержанию беседы на человеческом языке, для этого он и разработал то, что сейчас называется тестом Тьюринга.

«Китайская нация» — мысленный эксперимент, предложенный Недом Блоком в 1978 году для опровержения функционализма. Эксперимент Блока схож с «Китайской комнатой», однако Блок предлагает использовать множество китайцев, каждый из которых бы эмулировал нейрон искусственного мозга. В такой системе каждый китаец имел бы телефон и список номеров других китайцев. В зависимости от того, когда зазвонил телефон конкретного китайца, он бы звонил кому-либо из своего списка. При этом передача сообщения по телефону не требуется, необходим лишь только факт звонка (так же происходит взаимодействие между нейронами). Тогда, если в такой системе создать функциональное состояние, которое появляется при восприятии боли, вся «Китайская нация» окажется в состоянии боли, при этом ни один из китайцев не будет эту боль чувствовать. Это применимо к любым ментальным состояниям и чувствам.

Мысленный эксперимент вызвал интенсивную критику в академических кругах. Были выдвинуты различные доводы против аргумента Сёрла.

Аргумент о системе

Некоторые критики считают, что тест Тьюринга выдержал не человек в комнате, а система, состоящая из комнаты, книги правил и человека. Сёрл, по их мнению, отвлекает внимание от этого факта, скрывая логические ошибки и концентрируясь на одном из компонентов системы, выполняющем в данном случае чисто механическую работу. Система из книги правил, человека и комнаты, по их мнению, является разумной и понимает китайский язык. В качестве контраргумента Сёрл предлагает заставить человека запомнить формальные правила ответов для системы. По мнению философа, система, которая теперь будет состоять только из человека, всё равно не сможет понять китайский язык.

Часть критиков согласна с тем, что следование простым инструкциям на человеческом языке не создаёт понимания, однако это не значит, что такое понимание невозможно создать в принципе. Так, например, эти критики полагают, что эффект понимания достижим, если создать робота с самообучающейся программой, а также оснастить его сенсорами для восприятия мира. Такой робот, по их мнению, может взаимодействовать с миром, познавать его и быть способен обучиться подобно ребёнку, а следовательно начать понимать так же, как человек. Сёрл возражал против того, что в случае робота применим тот же аргумент. Сёрл предлагал поместить человека внутрь робота, и человек, в зависимости от увиденных через сенсоры иероглифов, выполнял бы движение телом робота, и в то же время он бы не имел никакого понимания происходящего, а лишь выполнял синтаксические манипуляции над символами.

Поскольку компьютерные алгоритмы работают не так, как настоящий мозг, некоторые критики предлагают воссоздать нейронную сеть человека, владеющего китайской письменностью. Тогда такая нейронная сеть должна понимать иероглифы точно так же, как и человек. На это Сёрл возражал, что даже симуляция работы мозга недостаточна для создания эффекта понимания, и предлагал модифицированную «китайскую комнату». В такой комнате вместо нейронов можно представить водопроводные трубы, а человек внутри комнаты переключает эти трубы согласно инструкции в зависимости от входных сигналов. При этом понимания иероглифов не появляется ни у человека, ни у водопроводных труб.

Ещё одно возражение к «китайской комнате» основано на том, что мы определяем, понимает ли человек китайские иероглифы, лишь по его поведению. Если компьютер ведёт себя так же, как человек, владеющий китайской письменностью, то тогда нам следует полагать, что и компьютер её понимает. Таким критикам Сёрл отвечал, что суть аргумента не в том, откуда мы знаем, что у других людей есть ментальные состояния, а в том, что́ есть эти ментальные состояния. С точки зрения Сёрла, ментальные состояния не могут быть определены как просто вычислительный процесс и его вывод, поскольку для этого не требуется ментальное состояние.

Многие исследователи критиковали Сёрла за то, что в своих суждениях относительно терминов «понимание» и «сознание» он опирается на интуицию. Однако многие вещи контринтуитивны даже в современной науке, поэтому не следует полагаться на интуицию в суждениях об искусственном интеллекте. В качестве иллюстрации С. Пинкер приводит научно-фантастический очерк, где инопланетяне, имеющие другую форму сознания, прибывают на Землю и не могут поверить, что люди способны что-либо понимать, поскольку внутри их голов находится мясо. По мнению Пинкера, интуиция подводит инопланетян так же, как она подводит Сёрла. Д. Хофштадтер заявлял также, что автор просто не принимает идею возможности сильного ИИ, настаивая, что тому не будет хватать некой чудодейственной «каузальной силы мозга», которую Сёрл описывает по-разному и с пробелами в логике.

Общие философские вопросы

Синтаксис и семантика

Сёрл полагал, что эксперимент с «китайской комнатой» поднимает и более общий философский вопрос соотношения синтаксиса и семантики. По его мнению, в эксперименте не удалось достичь понимания потому, что человек внутри комнаты оперировал лишь синтаксическими конструкциями, в то время как сознание обладает ментальными состояниями, содержащими смысл. Человеческий разум, в отличие от компьютера, воспринимает иероглифы не по тому, как они выглядят, а согласно смыслу, который они содержат. И хотя компьютеры и могут выдавать ответы на естественном языке, они не связывают со словами никакого смысла. Сёрл считал, что невозможно получить семантические значения лишь из формальных манипуляций символами.

В свою очередь, критики возражали, что компьютерная система, выполняющая программу, тоже имеет сознание. Действительно, алгоритм, записанный в книге и лежащий на книжной полке, не может привести к появлению понимания. Но алгоритм, запущенный на сложной вычислительной машине, имеющий как физическое состояние (вольтаж на транзисторе), так и интерпретацию физического состояния (символы), вполне может давать «эффект» понимания. В качестве пародийного контрпримера к аргументам Сёрла Д. Чалмерс приводит рецепт кекса, который является чисто синтаксической конструкцией и не приводит к «эффекту» рассыпчатости (аналог «понимания» у Сёрла), однако кексы являются рассыпчатыми, следовательно, выполнение рецепта недостаточно для появления кекса.

Станислав Лем утверждал, что описанная в эксперименте Сёрла работа вообще всегда асемантично формальна, следовательно, «понимание» в самих текстах не участвует и тем более «сознание» (в т.ч. в системе «Сёрл—инструкции»), — тем самым идея доводится до абсурда, не имея отношения к реальной проблематике ИИ.

Ещё одним вопросом в дискуссии стала проблема соотношения тела и сознания. По мнению Сёрла, сознание — это одна из эксклюзивных способностей мозга, основанная на его нейронных процессах. То есть Сёрл является сторонником теории идентичности в философии сознания.

Сторонники функционализма же, напротив, полагают, что любое ментальное состояние (в том числе сознание) является тем, какие функции оно выполняет. Следовательно, сознание может быть реализовано на любой платформе, которая позволяет выполнить те же функции.

Современные исследования в области нейронауки пока не позволяют сказать, является ли сознание достаточно абстрактной сущностью, чтобы быть абстрагированной от нейронов, или, наоборот, сильно связано с биологической основой функционирования мозга. Этот вопрос остаётся открытым.

Симуляция и дупликация

В дискуссии Сёрл также упирал на разницу между симуляцией и дупликацией. Ведь никто не путает компьютерную симуляцию погоды с реальной погодой. Так, по мнению Сёрла, и не стоит путать компьютерную симуляцию понимания с реальным пониманием. Однако к этому аргументу высказывались претензии о невозможности отличить симуляцию от дупликации. Например, не ясно, является ли искусственное сердце симуляцией настоящего сердца или дубликатом. То же самое применимо к протезам: люди на протезах ходят или симулируют хождение? Поэтому принцип разделения симуляции и дупликации Сёрла имеет серьёзные проблемы.

Источник

Выход из «Китайской комнаты» или может ли машина думать

Предисловие

В 1980-м году философ Джон Серл впервые представил свой мысленный эксперимент в статье «Minds, Brains, and Programs» журнала «The Behavioral and Brain Sciences». Эксперимент вызвал множество споров среди людей занимающихся проблемами философии сознания и искусственного интеллекта. Заявленная цель статьи состояла в том, чтобы доказать два утверждения: 1) Интенциональность человека (и животных) есть результат каузальных свойств мозга; и 2) Выполнение компьютером программы не может быть достаточным условием появления интенциональности.

Три десятилетия до выхода статьи Серла, Алан Тюринг сформулировал свой известный критерий для разумной машины, известный также как Тест Тюринга: компьютер, способный поддерживать диалог (текстовый) и сойти, таким образом, за человека, должен считаться разумным. К концу 70-х годов компьютеры и программы ИИ достигли того уровня, когда некоторые из их разработчиков стали заявлять, что их машины способны понимать английский язык. Статья Серла, содержащая описанный ниже эксперимент, стала во многом реакцией на подобные утверждения и общее мнение, что компьютер в принципе способен понимать человеческую речь.

В чем же заключался эксперимент? Серл предложил представить комнату, в которой находится человек. Внутрь комнаты можно подавать карточки с нарисованными на них китайскими иероглифами. Человек, находящийся внутри комнаты, совершенно не говорит и не читает на китайском, поэтому смысл иероглифов ему не понятен. В то же время, человеку даны подробные инструкции о том, как оперировать поступающими карточками и какими карточками отвечать. Таким образом, человек снаружи комнаты может задавать различные вопросы с помощью карточек и получать вразумительные ответы. У человека, задающего вопросы, должно сложиться впечатление, что человек внутри комнаты владеет китайским и понимает смысл их диалога, но на самом деле он лишь бездумно выполняет инструкции и не понимает ни слова. Более того, человек в комнате даже не способен постепенно выучить язык, поскольку бессмысленные для него карточки на китайском – это единственный способ связи с внешним миром.

В данном примере легко увидеть параллель с компьютером. Компьютер так же оперирует данными в двоичном коде, который не несет для него совершенно никакого смысла, машина просто выполняет арифметические и логические операции согласно заложенной в нее инструкции.

По мнению Серла, компьютер (или китайская комната) не способен достичь понимания, т.к. оперирует лишь синтаксическими конструкциями. Человек же в свою очередь воспринимает и оперирует смыслами, а не только лишь самими символами, на что компьютер не способен. Если суммировать идеи Серла изложенные в статье, он не против идеи существования искусственного интеллекта как такового. Основная его идея заключается в том, что для существования сознания не достаточно формальной программы, но необходим носитель обладающий свойствами, которые порождают интенциональность, формальная же программа не несет смысл и не может служить носителем понимания или сознания: «… only a machine could think, and only very special kinds of machines, namely brains and machines with internal causal powers equivalent to those of brains… Intentionality in human beings (and animals) is a product of causal features of the brain… Instantiating a computer program is never by itself a sufficient condition of intentionality » [1]. Таким образом Серл говорит, что интенциональность является необходимым свойством для возникновения мышления, и эта интенциональность является продуктом неких внутренне присущих свойств мозга. Машина, обладающая такими же свойствами, способна мыслить. Классический компьютер не обладает такими свойствами, поэтому, независимо от того, какая программа будет написана, она не способна привести к появлению мышления, и, как следствие, к появлению сознания.

«The aim of the Chinese room example was to try to show this by showing that as soon as we put something into the system that really does have intentionality (a man), and we program him with the formal program, you can see that the formal program carries no additional intentionality. It adds nothing, for example, to a man’s ability to understand Chinese». [1]

(Цель примера с китайской комнатой состояла в том, чтобы попытаться отразить это, показав, что как только мы помещаем в систему нечто, действительно обладающее интенциональностью (человека), и программируем его формальной программой, то можно убедиться, что эта формальная программа не несет никакой дополнительной интенциональности. Она не прибавляет ничего, например, способность человека понимать китайский язык).

Идеи, изложенные Серлом, нельзя назвать завершенными, что вызвало вокруг них не мало споров. Тем не менее, эти споры так и не привели к окончательному выводу. Ни противники Серла, ни его сторонники ни сам философ так и не пришли к решению важных вопросов, ответы на которые должны лежать в основании размышлений о сознании и ИИ: «Какие свойства мозга порождают интенциональность?»,«Что есть смысл? И как он возникает?», «Каков процесс формирующий понимание?».

В данной статье я постараюсь дать ответы на эти вопросы.

Прежде всего, стоит разобраться с интенциональностью – внутренне присущим свойством мозга – которое, по мнению Серла, является столь необходимым для существования сознания. Для этого я хочу несколько отступить от основной темы и рассмотреть вкратце происхождение и эволюцию живых организмов.

Биологическую эволюцию можно рассматривать как продолжение эволюции химической, которая в свою очередь является продолжением физической эволюции. Согласно современным космологическим представлениям, после большего взрыва высвободилось огромное количество энергии/вещества, которое по мере расширения и остывания вселенной сконденсировалось в огромное количество разнообразных частиц. Время жизни большинства частиц, ввиду их нестабильности, оказалось чрезвычайно мало, и по прошествии времени остались лишь наиболее стабильные частицы, которые стали основой для формирования атомов известных химических элементов. Атомы вещества взаимодействовали, образовывая различные соединения. Наиболее стабильные из них копились, нестабильные распадались и объединялись в стабильные. В результате сложившихся уникальных условий на Земле появились соединения, которые были не только достаточно стабильны, но и могли производить дупликаты своих молекул, то были предки ДНК. Постепенно такие реплицирующиеся молекулы, путем случайных рекомбинаций, эволюционировали до состояния, когда они смогли не только воспроизводить себе подобных, но и создавать вокруг себя благоприятные условия для стабильного существования и размножения. Такая создаваемая благоприятная среда стала внутренней средой бактерий и одноклеточных организмов, а управляющие молекулы, которые уже можно назвать ДНК, приобрели функцию поддержки динамического равновесия организма (внутренней среды) — гомеостаза. Дальше были мутации и естественный отбор, которые создали тот живой мир, который мы знаем. Идея о том, что все живущие организмы являются лишь сложными механизмами для распространения молекулы ДНК, не нова, и подробно рассмотрена, например, Ричардом Докинзом [2]. Таким образом можно проследить, как происхождение жизни вытекает из фундаментальных законов существующей Вселенной. Грубо говоря, вся эволюция Вселенной – это лишь хаотичное движение энергии, подчиняющееся вероятностным законам. Происходит то, что наиболее вероятно, остается во времени то, что наиболее стабильно. Живую клетку, мельчайшую единицу жизни, можно рассматривать как огромный химический завод с множеством сложных химических процессов, которые сами по себе каждый в отдельности не имеют никакой внутренней цели, но все вместе осуществляют поддержание стабильной внутренней среды клетки, которая необходима для существования и репликации ДНК. Мы говорим, что целью всего живого является выживание и размножение, это несомненно так с точки зрения биологии, но необходимо заметить, что человек сам «присвоил» эти цели живому, чтобы описать общий характер поведения живых организмов. Если же быть последовательным с вышеописанными размышлениями об эволюции, то надо признать, что никакой цели или внутренне присущей интенциональности у живых организмов нет в принципе, как нет никакой цели у падающего яблока – оно падает подчиняясь фундаментальным физическим законам (мы можем говорить, что яблоко стремится упасть, но это не значит, что стремление упасть обусловлено какими-то внутренне присущими намерениями яблока). Живой организм – способ существования вещества обусловленный лишь фундаментальными физическими законами, нет никакой нужды в дополнительной магии. Я пишу об этом, чтобы показать, что в плане интенциональности между живым и неживым нет фундаментального различия. ДНК — это молекула, у нее нет и не может быть целей, только направления – физические и химические законы, следуя которым, она существует и управляет клеткой.

Далее в этой статье, когда будут использоваться слова цели, потребности, интенциональности в отношении живых организмов, необходимо помнить, что данные понятия лишь удобные абстракции, используемые для описания поведения, за которым стоят реальные процессы обусловленные фундаментальными объективными законами, а не туманными субъективными факторами.

Как уже было сказано, главное отличительное свойство живых организмов от неживых физических структур заключается в способности первых к репликации и поддержании стабильной внутренней среды – гомеостазе. Это именно свойства(!), но для удобства будем называть эти свойства целями и вернемся к тому, что целями живых организмов является размножение и поддержание гомеостаза. Рассмотрим стандартную схему поведения живого организма.

Живой организм не может пассивно существовать ожидая милостей от внешнего мира, ему приходится активно воздействовать на окружающую среду, чтобы достигнуть своих целей – выжить и размножиться. Именно эти цели являются отправными точками для его поведения. Но как именно себя вести? Главный вопрос, который стоит перед любым живым организмом в каждый момент времени – «Что делать дальше?». Рассмотрим гипотетический простейший одноклеточный организм. В схеме его работы есть три основных элемента: внешняя среда, внутреннее состояние и программа(1). Каждый из них может быть инициатором движения. Например, чтобы ответить на Главный вопрос, происходит проверка внутреннего состояния организма, которая определяет текущие потребности (например, питание). В клетке эта проверка происходит за счет хаотичного движения молекул вещества внутренней среды. Отдельные органеллы и ДНК взаимодействуют с химическими веществами и реагируют соответствующим образом. В ответ на внутреннее состояние запускается программа, которая определяется ДНК, а в более сложных многоклеточных организмах программа определяется нервной системой. Программа запускает процесс, который изменяет внутреннее состояние, которое в свою очередь меняет внешнюю среду (например, организм движется в пространстве). Внешняя среда воздействует на внутреннее состояние, и цикл замыкается. Эта схема приложима как к самым простым организмам, так и к самым сложным, включая человека. Более того, эта схема применима к различным частям организма, различным его системам разного уровня.»

Запомним рассмотренную схему и вернемся к китайской комнате. Как я уже сказал, принцип ее функционирования, по сути, идентичен устройству стандартного компьютера, а сам эксперимент прекрасно демонстрирует ограниченность возможностей машины для понимания окружающего мира. Но погодите, разве мозг не находится в такой же ситуации, в какой находится человек внутри китайской комнаты? По сути, мозг имеет дело с той же китайской грамотой. Мозг сидит в темноте черепной коробки, изолированный от всего, кроме бессмысленного кода, который он получает от органов чувств. Если мы подключим электрод к нервной клетке, любой нервной клетке, не важно, принадлежит она мозгу или же сетчатке глаза, все, что мы увидим, это серии скачков напряжения. Для удобства наблюдения, такие импульсы часто подключают к громкоговорителю, тогда они слышны как неравномерное стрекотание. Такое стрекотание издают нервные клетки органов восприятия – клетки сетчатки глаза, волосковые клетки уха и т.д. Это стрекотание мозг и получает от органов чувств. Все что мозг может знать о внешнем мире – это то, что он похож на стрекочущий гул миллиардов клеток. В этом гуле нет абсолютно ничего указывающего на наличие пространства и времени, на существование предметов или людей вокруг. Звуки, формы, цвета, запахи – это все совершенно не похоже на странный и бессмысленный стрекот. Из собственного опыта нам известно, что мозгу все-таки удалось расшифровать этот код и использовать его вполне успешно для ориентации в мире. Почему же у мозга это получается, а человеку в китайской комнате (или компьютеру) это принципиально не под силу? Ведь они находятся в одинаковом положении! На самом деле последнее утверждение ошибочно – их положение принципиально различается.

Дело в том, что метод постановки мысленного эксперимента лишил человека внутри комнаты одной принципиально важной возможности – человек не может задавать вопросы вовне. Условия эксперимента говорят, что он может принимать карточки, манипулировать ими согласно инструкциям и таким образом отвечать на поставленные перед ним вопросы, хотя сам человек и не понимает что это за вопросы, он даже не понимает, что это вообще вопросы. Помимо этого, человек, оперируя внутри китайской комнаты, не преследует своими манипуляциями никаких целей – отсутствует интенциональность. Карточки никак не воздействуют на состояние человека внутри комнаты, они не полезны и не вредны, например, для выживания. Хоть и можно сказать, что карточки влияют на внутреннее состояние комнаты в целом, так как заставляют совершать манипуляции, но это влияние нейтрально, оно не приближает систему к цели и не удаляет ее, так как никакой цели изначально нет, кроме манипуляции ради манипуляции, как нет и обратной связи. Если же рассматривать работу нервной клетки и принимаемые ею сигналы (химические, по своей природе), то становится очевидным, что они непосредственно влияют на работу клетки. Они меняют ее внутреннее состояние. В то же время, нервная клетка имеет оптимальные для нее режим работы и внутреннее состояние, оптимальный химический состав. Поэтому сигналы не просто меняют работу клетки, но и смещают ее внутреннее состояние относительно целевого (оптимального) значения. Целевое внутреннее состояние задается программой, которая записана в ДНК. ДНК находится в положении схожем с мозгом и с КК, поскольку не контактирует напрямую с внешним миром, но только через посредство внутреклеточной среды. Таким образом, оптимальное внутреннее состояние, которое есть цель функционирования клетки, и является как условием, так и причиной присущей этой клетке интенциональности, задается программой (ДНК).

Можно сказать, что сама программа является носителем интенциональности. Но откуда интенциональность там взялась? Как уже было сказано, ДНК существует и функционирует по физическим/химическим законам. Репликация и прочие функции, связанные с поддержанием гомеостаза, являются свойствами ДНК, вытекающими из этих законов, а не целями или потребностями ДНК. Так же как краснота является свойством красного яблока, а не его намерением. Отсюда следует, как я уже оговаривал в начале статьи, что то, что мы называем интенциональностью живых организмов, по сути своей ею не является. Поэтому вопрос «откуда появляется интенциональность?» не имеет смысла. Интенциональности там нет, как нет ее нигде. Есть только цепочка причин и следствий, которая следует универсальным физическим законам. Интенциональность – человеческая выдумка и удобная абстракция, впрочем, это я тоже уже писал. Но мы продолжим пользоваться этим понятием, поскольку оно удобно для описания сложного поведения организмов. Чтобы немного суммировать написанное, выстроим логическую цепочку возникновения «интенциональности»:

Физические законы → Химические законы → ДНК + эволюция → Репликация и Гомеостаз → Целевое внутреннее состояние → Интенциональность (целевое поведение)

Вернемся к вопросу о «понимании». В чем оно состоит? Когда мы можем сказать, что китайская комната «поняла»? Где проходит граница между понимающей системой, и системой не способной к пониманию? Способна ли единичная клетка обладать каким-либо «пониманием»? И если способна, то чем отличается клетка понимающая от непонимающей?

Можно рассматривать животных, по мере уменьшения и упрощения их ЦНС и задаваться вопросом, способно ли данное животное к пониманию? Лично для меня крайне сложно нащупать границу между пониманием и непониманием таким способом, поэтому я решил пойти снизу вверх, начиная с единичной нервной клетки.

Нервная клетка, в отличие от «китайской комнаты», способна не только пассивно реагировать, принимая сигналы, но и активно воздействовать на их источник. Методами такого воздействия может быть, например, изменение количества рецепторов медиатора на постсинаптической мембране клетки, или изменение частоты и силы (количества молекул медиатора) генерируемых сигналов. Последний метод тем более очевиден, чем проще рассматриваемая нейронная сеть. На основе универсальной схемы функционирования живых организмов (1) рассмотрим простейшую нейронную сеть (2), осуществляющую работу этой схемы.

Допустим, внешний раздражитель, на данной схеме, это источник света, рецептор (Р) – это световой рецептор на сетчатке глаза, (Н) – управляющий нейрон, а актуатор (А) – мышца отвечающая за сужение зрачка. Очевидно, что схема работает следующим образом: свет попадает на рецептор; тот генерирует импульсы, поступающие на управляющий нейрон; который в свою очередь генерирует управляющие импульсы на сужение зрачка; зрачок уменьшает количество попадающего на рецептор света; в результате чего изменяется частота генерируемых рецептором импульсов и так далее по кругу. Управляющему нейрону в данной схеме ничего не известно о внешнем мире, он с ним не контактирует напрямую. Все, что «известно» данному нейрону это то, как его «поведение» влияет на его внутреннее состояние, т.е. генерируемые на выходе импульсы влияют на характер получаемых импульсов на входе. Нейрон, как и мозг в целом, как и человек в китайской комнате, находится в изоляции, все что его «волнует» и доступно для восприятия — это его внутреннее состояние. Внешняя среда оказывает воздействие, изменяя внутреннее состояние, и, отталкиваясь от этого изменения, нейрон меняет свое поведение. При этом целью поведения является достижение оптимального для клетки внутреннего состояния или режима работы. Возвращаясь немного назад, нужно заметить, что целевое состояние не есть конечная цель, которой, как было уже сказано, является выживание и размножение организма.

Просто для Программы доступна информация только о внутреннем состоянии организма. Достижение целевого внутреннего состояния и является условием для выживания и/или размножения. Целевое состояние не является чем-то постоянным, но зависит от внешних условий и личного опыта клетки. Стоит также отметить, что для самого нейрона не стоит задачи единоличного выживания и размножения, т.к. он является лишь частью целого организма. Однако, преследовать какие-либо другие цели кроме «личных» нейрон (как и любая другая клетка организма) не способен, вследствие ограниченности получаемой им информации. Поэтому залогом успешного функционирования целого организма является то, что «личные» цели отдельных его составляющих согласованны, и их достижение отдельными клетками приводит к выживанию организма в целом.

Для того, чтобы показать, как клетка может что-то понимать или не понимать рассмотрим еще один пример. Представим нейрон, на который воздействуют два химических вещества: А и В. Оба вещества влияют на внутреннее состояние нейрона. Вещество А является нейромедиатором, на который нейрон способен реагировать, т.к. обладает соответствующими рецепторами и программой записанной в ДНК. Вещество А деполяризует мембрану, возникает потенциал действия, часть ионов натрия заходит в клетку, часть ионов калия выходит из клетки, затем баланс ионов восстанавливается с помощью натрий-калиевых насосов, которые приводятся в действие с помощью АТФ синтезируемой внутри клетки. Помимо этого, происходит элементарное обучение, т.е. изменение синаптической проводимости и некоторые другие процессы, являющиеся актом адаптации к внешним воздействиям. Это обычный процесс жизнедеятельности нейрона, все в рамках программы ДНК. Произошло воздействие, воздействие изменило внутреннее состояние, ДНК запустила соответствующую программу, внутреннее состояние вернулось к целевому. Нейрон готов к подобного рода воздействию и знает как себя вести, чтобы вернуться к целевому состоянию.

В случае с веществом В ситуация несколько иная. Допустим, что это ионы тяжелых металлов, которые постепенно проникают внутрь клетки, и клетка не обладает молекулярными механизмами для распознавания и выведения данных ионов. В свою очередь, эти ионы, накапливаясь внутри клетки, мешают нормальной работе ионных каналов и тем самым нарушают баланс веществ.

Существующих внутриклеточных механизмов оказывается недостаточно, чтобы поддержать баланс на должном уровне, избегание воздействия тоже не происходит, клетка не способна адаптироваться к воздействию, вернуться в целевое состояние. Отсутствие адекватной реакции адаптации можно расценивать как «отсутствие понимания» клеткой данного вида воздействия. В ходе эволюции клетки способны приобрести это «понимание», если подобное воздействие будет оказывать существенное эволюционное давление.

Подведем итоги. Что представляет собой система (например, живой организм) способная к пониманию? Система должна обладать следующими свойствами:

1. Интенциональность. То есть функционирование системы должно иметь цель – достижение и/или поддержание некоего внутреннего состояния;
2. Каузальность. Система способна воспринимать только такое воздействие, которое влияет на внутреннее состояние системы таким образом, что оно смещается от целевого состояния;
3. Адекватная реакция. После того, как воздействие вызвало изменение внутреннего состояния, система должна попытаться вернуться к целевому состоянию. Достигается это за счет изменения внешнего воздействия, т.е. происходит обратное воздействие на внешнюю среду (простейший пример – избегание).
4. Реакция подразумевает наличие Программы, которая запускает поведение в ответ на соответствующее воздействие. В Программе хранятся целевые состояния и порядок действия/реакции в различных ситуациях. Нужно заметить, что такая Программа обладает некоторого рода предвидением, поскольку чтобы запустить адекватное поведение, необходимо знать, что результатом этого поведения (с некоторой вероятностью) станет достижение целевого состояния.

Такое знание или предвидение живые организмы приобретают в ходе фило- и онтогенеза.
Не трудно убедиться, что любой живой организм обладает перечисленными свойствами. А как насчет «китайской комнаты»? Как правильно заметил Серл, у нее отсутствует интенциональность. Из наших рассуждений это следует из отсутствия целевого внутреннего состояния. Соответственно все остальные пункты тоже отсутствую, потому как они базируются на первом. Сигналы (воздействие) передаваемые в КК, воздействуют на внутреннее состояние, но не смещают его от целевого, они нейтральны. А если нет смещения, то и адекватной реакции не может быть. Правда КК обладает Программой, но эта программа не удовлетворяет описанным требованиям, а именно, не запускает адекватное поведение.

Способна ли формальная программа наделить классический компьютер мышлением, т.е. наделить систему 4-мя описанными свойствами? Очевидно, ответ – да. Я не хочу описывать, каким образом этого достигается, так как это довольно просто сделать, опираясь на приведенные выше тезисы.В конце концов, ДНК так же является формальной программой. Вместо этого предлагаю рассмотреть более радикальный и любимый многими философами пример – обыкновенный термостат.

Термостат – это прибор для поддержания постоянной температуры. Схема и принцип функционирования термостата могут быть очень просты. Элементарный термостат имеет датчик, который срабатывает при заданном пороговом значении температуры и передает управляющий сигнал на включение/выключение нагревательного элемента. Допустим, такой термостат поддерживает температуру в комнате на уровне 25 град С. Изначально, обогреватель работает и повышает температуру в комнате. Когда температура поднимается до 25 градусов, датчик срабатывает и отключает обогреватель. Комната начинает постепенно остывать. После того, как температура опустилась ниже определенного порогового значения (например 23 градС), датчик срабатывает и включает обогреватель. Цикл повторяется.

Проверим, обладает ли термостат 4-мя свойствами мыслящих (семантических) систем. Первое – целевое состояние и интенциональность. Термостат «стремится» поддерживать температуру датчика в районе 25 градС. Это вполне попадает под определение целевого внутреннего состояния системы. Второе – внешнее воздействие. Термостат способен воспринимать температуру и только ее, таким образом, система одномерна, к тому же обладает всего двумя состояниями, грубо говоря, «Вкл» и «Выкл». Диапазон «ощущений» так же сводится к двум – температура выше или ниже порогового значения. Третье – адекватная реакция. Поведение термостата адекватно воздействию и направлено на восстановление целевого внутреннего состояния – заданной температуры датчика. При этом термостат воздействует на внешнюю среду, которая в свою очередь воздействует на датчик. Все в рамках описанной концепции. Четвертый пункт – программа. Можно сказать, что программа задана самой конструкцией термостата и параметрами датчика.

Выходит, что термостат способен мыслить и понимать. Кому-то это покажется смешным, кому-то безумным, а кто-то согласится с ходом моих размышлений. К тому же, я не первый, кто пришел к подобным выводам [3]. Конечно, уровень понимания термостата совершенно иной чем тот, которым обладает человек или даже мышь, это элементарнейший уровень. Поэтому попытки проводить параллели между человеком и термостатом могут показаться притянутыми.

Человеческое мышление подразумевает задействование огромного количества элементарных схем, связанных между собой, и вложенных друг в друга. Мир внутренних состояний бесконечно богаче мира термостата, но суть самого процесса мышления остается одинаковой на всех уровнях. Суть эта отражена в схеме (1) и четырех свойствах мыслящей системы.

Важно всегда помнить при исследовании структур мозга и его функций, что главным назначением и конечным продуктом мозга является не мышление, а действие. Действие, направленное на внешнюю, по отношению к исследуемой структуре, среду. Целью такого действия является изменение воздействия среды обратно на внутреннее состояние организма (структуры, клетки). Это и есть описанный в схеме (1) цикл: Внеш. Среда → Внутр. Состояние → Программа → Внутр. Состояние → Внеш. Среда. Этот цикл и порождает «смысл», образует смысловую петлю. При этом в качестве внешней среды может выступать как окружающий мир, так и другие структуры организма или соседние клетки, в зависимости от того, какой уровень системы рассматривается.

Таким образом, смысл любой информации (воздействия) заключается в том, какое влияние она оказывает на внутреннее состояние, и какое ответное воздействие организм (структура) может оказать, чтобы изменить это влияние. Говоря еще проще, смысл информации заключается в ответе на вопрос «Что делать в связи с полученной информацией?». Назначение мозга в конечном счете тоже сводится к ответу на этот вопрос, Главный вопрос, как я назвал его в начале статьи при описании схемы (1): «Что делать дальше (чтобы выжить и размножиться)?».

Заключение

В заключение, вернемся к тезисам, которые выдвинул Джон Серл в своей статье.

1) Интенциональность человека (и животных) есть результат каузальных свойств мозга.
Данное утверждение верно лишь отчасти. Если тщательнее разобраться, корни интенциональности уходят глубже. Носителем интенциональности всего живого является ДНК. Это сложная молекула, обладающая ключевым свойством – способностью к саморепликации. Именно это свойство сделало возможным эволюцию ДНК, в ходе которой молекула строила вокруг себя все более и более сложные живые организмы. Именно ДНК определяет структуру, развитие и поведение живого организма. ЦНС появляется несколько позже в процессе эволюции. Она необходима для управления большим и сложным многоклеточным организмом и способна значительно расширить поведенческий репертуар. Мозг является сложной динамической самоорганизующейся структурой.

Внутреннее состояние мозга, с одной стороны, отражает отдельные характеристики внешнего мира, с другой стороны, содержит информацию о состоянии и функционировании организма. Цель мозга – поддержание оптимального внутреннего состояния организма. Для достижения этой цели мозг действует как реактивно, так и проактивно. Как видно из рассуждений, мозг хорошо вписывается в схему Внешний мир Внутреннее состояние Программа. Мозг, как и ДНК, выступает в роли носителя программы. Эта программа частично задается ДНК во время развития организма, частично формируется жизненным опытом. Она хранится в структуре связей нейронной сети и текущей активности нейронов. Программа является носителем интенциональности — направленность мышления и поведения. Таким образом, можно сказать, что интенциональность мозга задана структурой его нейронных связей и свойствами самих нейронов, и то и другое определяется по большей части ДНК.

2) Выполнение компьютером программы не может быть достаточным условием появления интенциональности.

Как было показано, носителем интенциональности в живых организмах является именно закодированная в структуре ДНК, программа. Сам физический носитель в данном случае не принципиален, главное чтобы он был способен взаимодействовать с внутренней средой и обладать достаточной структурной емкостью, чтобы вместить программу. В этом смысле, ДНК ничуть не предпочтительнее полупроводниковых элементов, из которых сделан компьютер. Любой организм – это, в конечном счете, машина, талантливое инженерное решение эволюции. Любая машина является физическим носителем программы, которая записана в самой структуре машины. В то же время, любая программа нуждается в физическом носителе для того, чтобы быть запущенной.

Каким образом все вышесказанное относится к способности компьютера понимать человеческую речь? Любое внешнее воздействие обретает смысл только будучи встроенным в цепочку причинно-следственных взаимодействий Внеш. Среда (воздействие) → Внутр. Состояние → Программа → Внутр. Состояние → Внеш. Среда (воздействие). Это применимо и к словам, с единственной оговоркой, поскольку слова являются абстракциями высокого уровня, причинно следственная цепочка для них будет выглядеть сложнее, хоть и сохранит общую структуру и смысл. Другими словами, слово, как и все остальное, имеет смысл только в том случае, если способно повлиять на внутреннее состояние так, что сместит его от целевого состояния. Для человека слово «красный» имеет большое значение. Например, красные ягоды – спелые, а зеленые – нет. Это полезная для выживания информация. Для компьютера, чтобы слово красный обрело значение, притом схожее с человеческим, ему необходимы сенсоры, воспринимающие красный цвет, цель и взаимосвязь красного цвета и достижения цели. В одном Серл был совершенно прав, современные компьютеры лишь симулируют понимание, т.к. их «знания» о словах опираются не на реальный опыт, а на другие слова, что в теории может породить некоторую степень понимания, но совершенно отличную от человеческой. К тому же современные компьютеры и программы не наделены внутренними целевыми состояниями, что делает невозможным появление смысла.

P.S. Цепь размышлений в данной статье идет снизу вверх, от элементарных понятий и объектов, к более сложным и абстрактным. Размышления следуют логике эволюции и в целом опираются на эволюционную парадигму. Такой подход видится автору наиболее научным. Терминология также развивается снизу вверх. В результате, современные понятия получают новую трактовку. Автор не ставил себе целью подмену терминов, и тем более нет у него желания использовать это в качестве хитрого приема, для облегчения задачи объяснения феномена мышления. Новая трактовка терминов является неизбежным следствием последовательных размышлений основанных на научном подходе. Современная философия сознания зачастую использует подход «сверху вниз» и потому постоянно жонглирует терминами, которые ссылаются друг на друга. В результате, картина напоминает попытку вытащить себя из болота за собственные усы. Отличие данной статьи заключается в том, что мышление выводится непосредственно из фундаментальных законов. Таким образом, мышление лишается ореола загадочности и перестает быть прерогативой человека, высших животных, и даже животных вообще.

Можно заметить, что в статье понятие мышления приравнивается к понятию понимания. Необходимо разъяснить этот момент, чтобы избежать непонимания. Если говорить о мышлении в его классическом определении, то это сложный многоуровневый процесс, и понимание является лишь его частью. Более того, понимание в том виде, в котором оно используется в данной статье тоже не дотягивает до своего общепринятого оригинала. Можно привести некоторую иерархию существующих общепринятых понятий, которые близки вопросу, обсуждаемому здесь:

Ощущение → Восприятие → Понимание → Мышление

Строго говоря, то, что я называю здесь актом мышления, ближе по своим свойствам к самому нижнему уровню этой иерархии – ощущению. Вот определение ощущения взятое из Википедии: «Ощущение, чувственный опыт — простейший психический процесс, представляющий собой психическое отражение отдельных свойств и состояний внешней среды, субъектом внутренних или внешних стимулов и раздражителей при участии нервной системы». Что касается восприятия, оно основано на ощущениях, но является более сложным процессом, подразумевающим активное извлечение информации из окружающего мира, в том числе и путем воздействия на мир. Понимание подразумевает не только восприятие информации, но и интеграцию полученной информации в собственную структуру знаний. Мышление находится наверху цепочки, оно включает в себя все предыдущие уровни и другие процессы, подразумевающие оперирование полученной информацией (анализ, синтез, абстрагирование, классификация и т.д.). Поскольку каждый последующий уровень приведенной иерархии понятий включает предыдущий, то понятия пересекаются. Если постепенно двигаться от мышления во всей его полноте и сложности, как оно представлено у человека, к более элементарным уровням мышления, как у более простых животных, то можно заметить, что понятия ощущения, восприятия, понимания и мышления постепенно сближаются и приобретают именно тот вид, который они получили в данной статье, становясь единым понятием. Если разобрать элементарный акт мышления, описанный выше, то он включает в себя зачатки всех понятий входящих в цепочку. Рассмотрение мышления на его элементарном уровне позволяет избавиться от лишней шелухи, и увидеть суть процесса. Сформированное таким образом заново понятие мышления является хорошей отправной точкой для дальнейших размышлений и исследований.

1. Searle J. Minds, Brains, and Programs. The Philosophy of Artificial Intelligence / Boden M (ed.) Oxford. 1990. Впервые опубликовано в журнале: «The Behavioral and Brain Sciences», 1980, № 3, pp. 417–424.
2. Докинз, Ричард. Эгоистичный ген. — Пер. с англ. М.: АСТ:CORPUS, 2013
3. Чалмерс Д. Сознающий ум: В поисках фундаментальной теории. М.: URSS, 2013

Источник