Андрей Курпатов "Иной разум. Как «думает» искусственный интеллект?"

Таким образом, по Коржибскому, понимание – это корректное ориентирование среди уровней абстракции, при котором:

• «карта» осознанно отличается от «территории»;

• собственная «карта» трансформируется под новые данные;

• семантические реакции отделяются от фактов;

• сохраняется память о том, что мы говорим не всё.

Понимание – не метафизическое «озарение», а умение управлять расстоянием между словом (лингвистической картиной мира) и миром как таковым. Можно сказать и иначе: понимание – это дисциплина различения, благодаря которой «карта» остаётся лишь «картой»[15 - Чейз С. Тирания слов. М.: Fortis Press, 2025. 408 с.].

Это ставит нас перед вопросом: а что же мы в таком случае вообще «познаём» или «понимаем»? Получается, что мы никогда не встречаем «территорию» как таковую, а на деле лишь путешествуем в воображении – по устоявшимся схемам, учебникам, привычкам языка.

Коржибский требовал различать уровни, датировать смысл, возвращаться к фактам и держать семантическую дистанцию. Всё это предельно разумно – можно сказать, основа критического мышления. Но разве умение управлять картами – строить их, уточнять, сверять – это о «понимании»?

Поль Рикёр и Михаил Бахтин

Параллельно с этим – рационально-аналитическим – подходом в философии продолжала развиваться и другая её ветвь. На смену классической метафизике пришла философская антропология – исследователи принялись анализировать человеческий опыт, пытаясь доискаться до сути человека, включая и феномен его понимания.

Здесь нам может быть важен французский философ Поль Рикёр, который обратил внимание на то, что сам по себе язык никогда не говорит однозначно. Он отходит от пространных идей своих предшественников – Эдмунда Гуссерля, Мартина Хайдеггера, Ханса-Георга Гадамера – и утверждает, что всякое понимание есть интерпретация[16 - Рикёр П. Конфликт интерпретаций: очерки о герменевтике / пер. с фр. И. С. Вдовиной. М.: Канон-Пресс-Ц, Кучково поле, 2002. 624 с. (Канон философии).].

Тоже звучит вроде бы как банальность, но и тут не следует торопиться. Если мы говорим, что понимание – это интерпретация, то это значит, что мы никогда не имеем дело с «подлинным» смыслом. Все наши понимания – это, если угодно, «личное мнение», и у каждого, включая даже автора той или иной идеи, оно своё.

При этом интерпретации, как объясняет Рикёр, не только различаются, но и конфликтуют друг с другом. Один и тот же текст может быть понят как свидетельство веры, исторический документ, выражение культуры или как личная драма. Эти интерпретации несовместимы, и, хотя они дополняют друг друга, они не создают подлинного единства понимания.

Любой текст всегда больше, чем намерение его автора, потому что открыт к бесконечному порождению новых смыслов. Каждое новое прочтение – это всегда уже другой горизонт, другая позиция и другие вопросы. То есть Рикёр говорит о «понимании» не как об окончательной ясности, а, скорее, как о попытке удержания напряжения между разными прочтениями.

Наш гениальный соотечественник Михаил Михайлович Бахтин в чём-то очень близок к этим взглядам Рикёра, но даёт иную перспективу – он говорит не о конфликте интерпретаций, а о внутренней диалогичности.

Анализ романов Ф. М. Достоевского приводит его к идее «полифонии голосов». Ни один голос, как говорит Бахтин, не может быть окончательным, ни одно высказывание – замкнутым, и каждое слово всегда обращено к другому и, более того, предполагает ответ[17 - Бахтин М. М. Проблемы поэтики Достоевского. СПб.: Азбука, 2015. 414 с. (Азбука-классика. Non-Fiction).].

Таким образом, понимание не может быть индивидуальным актом: оно не возникает внутри сознания, как озарение, но всегда случается между. Между говорящим и слушающим, между текстом и читателем, между культурами и традициями.

Всякий акт понимания, по Бахтину, это событие – совместное присутствие разных голосов. Даже когда мы думаем «про себя», мы продолжаем внутренний диалог: разговариваем с воображаемым собеседником, спорим с учителем, откликаемся на чужой голос.

Наше «я» – это уже полифония, где звучат чужие слова и интонации. Так что наше понимание всегда диалогично. И эта диалогичность нас самих, от которой нам никуда не уйти, оставляет нас без «нашего», собственного понимания. Всякое наше понимание – процесс постоянного обсуждения.

Получается, что и философская антропология не даёт нам ответа на вопрос, что же такое «понимание». Более того, развиваясь дальше, эти идеи последовательно приводят к негативной диалектике Теодора Адорно[18 - Адорно Т. В. Негативная диалектика / пер. с нем. Е. Л. Петренко. М.: Науч. мир, 2003. 373 с. (История. Университетская библиотека).], с одной стороны, и к постструктурализму Жака Дерриды[19 - Деррида Ж. Диссеминация / пер. с фр. Д. Кралечкина. Екатеринбург.: У-Фактория, 2007. 607 с. (Philosophy).] – с другой.

Важно, что эти две фигуры, по сути, ставят точку в истории философии. И мы видим замкнутый круг – по сути, пусть и очень своеобразно, они повторяют тезис Сократа: понимание – это не какое-то знание, а «разрыв» в очевидности. Адорно отрицает всякую тождественность и утверждает абсолютность инаковости, а Деррида утверждает радикальную множественность.

Что ж, философия оставляет нас ни с чем… Последовательный анализ приводит к тому, что «понимание» – через которое мы, по сути, и определяем собственное существование, – лишь кажимость. Это не «понимание», а бесконечное говорение, которое переговаривает самого себя, не схватывая сути дела.

Когнитивное упражнение

Все модели неверны, но некоторые полезны.

    Джордж Бокс

Середина XX века – старые объяснения больше не работают.

Философия продемонстрировала нам неспособность объяснить «понимание», да и редукционистский бихевиоризм Берреса Фредерика Скиннера[20 - Скиннер Б. Ф. О бихевиоризме / пер. с англ. И. В. Митрофанова. М.: Эксмо, 2023. 333 с. (Научный подход к изучению поведения) (Легенды психологии. Книги Б. Ф. Скиннера).], утверждавшего, что нам не следует даже пытаться проникнуть в «чёрный ящик» сознания, тоже сдался под напором критики.

Так что настал момент, когда пальму первенства в объяснении феномена «понимания» переняла когнитивная психология. Отцом когнитивной революции стал молодой тогда ещё Ноам Хомский, бросивший вызов Скиннеру[21 - Хомский Н. Избранное / под ред. Э. Арноува; пер. с англ.: С. Александровский, В. Глушаков. М.: Энциклопедия-ру, 2016. 718 с.].

Аргумент Хомского был прост и убедителен: ребёнок не может выучить язык во всей его сложности, просто копируя взрослых. А следовательно, в мозге должна существовать врождённая способность к «пониманию» – универсальная грамматика.

Впрочем, подход Хомского позволил лишь описать внутреннюю структуру языка, а этого совершенно недостаточно, чтобы объяснить само наше мышление. Собственно, этот вопрос и стал основным для его учеников-отступников – с одной стороны, Джорджа Лакоффа и Марка Джонсона, и чуть позже, с другой, Стивена Пинкера.

Метафизика языка

Лакоффу и Джонсону принадлежит знаменитая работа «Метафоры, которыми мы живём»[22 - Лакофф Д., Джонсон М. Метафоры, которыми мы живём / пер. с англ. А. Н. Баранова и А. В. Морозовой; под ред. и с предисл. А. Н. Баранова. М.: УРСС, 2004. 254 с. (Мировой научный бестселлер).], где они показали, что понимание – это не просто умственная операция, а скорее перенос внутренних схем с одних ситуаций на другие. Проще говоря, мы понимаем что-то новое, когда нам предлагают подходящую метафору.

Прислушаемся к тому, что мы говорим: «будущее ждёт нас впереди», «отношения – это сложный квест» или, например, «душевная тяжесть» и «эмоциональная гибкость». Это даёт нам ощущение понимания, но на самом деле перед нами классические метафоры.

Строго говоря, «будущее» не может «ждать». И почему оно делает это именно «впереди» – речь же не про пространство? «Отношения» – это что-то между двумя людьми, так при чём тут «квест»? И какая «тяжесть» или «гибкость» может быть у того, что, в общем-то, нематериально?

Но да, нам нужны понятные, укоренённые в нашем сенсомоторном опыте переживания, чтобы схватить суть того, о чём идёт речь. То есть понимание возникает не в системе абстрактных представлений, а через перенос схем из телесного мира в мир идей.

В книге «Субстанция мышления» Стивен Пинкер идёт ещё дальше[23 - Пинкер С. Субстанция мышления: Язык как окно в человеческую природу / пер. с англ. В. П. Мурат, И. Д. Ульяновой. М.: URSS, 2013. 557 с. (Философия сознания).]. Он показывает, что язык не просто описывает мир, а буквально повторяет его структуру. Пространственные координаты, причинность, время – всё это не абстрактные категории, а формы, в которых мы телесно переживаем мир.

И наш язык, по сути, моделирует структуру нашего поведения в физическом мире, а затем переводит её в символическую форму, чтобы мы понимали, о чём идёт речь. Когда мы строим предложение, мы фактически выстраиваем модель мира – соотношение объектов, действий, состояний.

Например, фраза «Мяч покатился к двери» – как мы понимаем её смысл? Здесь «мяч» – объект, «покатился» – действие со встроенной динамикой (движение по поверхности), «к двери» – указание направления.

Смысл рождается мгновенно, потому что и в нашем собственном опыте движения мы действуем по тем же схемам: объект ? движение ? цель. Язык просто переводит этот телесный паттерн в символическую форму.

Или другой пример – «Он преодолел трудности». Трудности – не физическая стена, но мы схватываем смысл через ту же телесную схему: есть препятствие ? движение вперёд ? усилие ? победа.

Таким образом, мы что-то понимаем не потому, что нам оно каким-то чудесным образом «открылось», а потому, что мы спроецировали на реальность свой способ существования в собственном теле.

Когда мы строим предложение, мы фактически моделируем свою реальность: кто-то действует, что-то происходит, причём в какой-то последовательности.

Язык повторяет и базовые координаты нашего физического опыта – пространство, время, причинность – в мире абстрактных идей, наших представлений. Вот почему «будущее» может «ждать», а «душа» – быть «тяжёлой»: мы нашли способ перенесения телесного опыта в символическое пространство.

Но если так, то что мы тогда «понимаем»? Мы же просто проецируем себя вовне. То есть, по существу, себя же и познаём? Да, это даёт нам ощущение «понимания», но оно иллюзорно. Проецируя своё мировоззрение на другого человека, мы, согласитесь, часто ошибаемся. Проекция – это не познание, а иллюзия знания, и это вовсе не понимание, хотя нам так кажется.

Функциональное моделирование

Другая линия когнитивных исследований оказалась более прагматичной. Здесь пионером считается профессор факультета психологии Принстонского университета Филип Джонсон-Лэрд. Он сформулировал идею «ментальных моделей»: «Понимание, – утверждает он, – это не запоминание слов, а построение внутренней модели ситуации»[24 - Johnson-Laird Ph. N. Mental models: Towards a cognitive science of language, inference, and consciousness. – Cambridge (Mass.): Harvard University Press, 1983. xiii, 513 p. (Cognitive science series).].

Например, когда мы слышим: «На столе стоит ваза с цветами», – в нашем сознании моментально возникает соответствующий образ: стол, ваза, цветы. И если нам затем скажут, что «цветы находятся выше стола», то мы ничуть этому не удивимся. Однако же, если прозвучит фраза: «Цветы располагаются ниже стола», – то мы почувствуем напряжение. Наш образ рушится – нам нужно срочно менять свою модель, вообразить что-то другое.

Человеческое мышление, по Джонсону-Лэрду, – это построение, проверка и реструктурирование ментальных моделей. При этом соответствие наших внутренних моделей реальности – это понимание, а ошибка понимания – это проблема или модели, или нашей рабочей памяти, которая не может удержать необходимый уровень сложности.

Собственно, именно благодаря этому механизму, как утверждают исследователи, мы и способны рассуждать о гипотетических ситуациях, удерживать альтернативы, предсказывать последствия событий. То есть понимание – это всегда некая функциональная модель, без какой-либо философской претензии на истинность.

В последующем этот подход углубил основатель междисциплинарной области когнитивной инженерии Дональд Норман – он ввёл понятие «концептуальная модель»[25 - Норман Д. А. Дизайн привычных вещей / пер. с англ. А. Семиной. 5-е изд., обновл. и доп. М.: Манн, Иванов и Фербер, 2021. 381 с.]. Когда мы взаимодействуем с прибором, мы создаём в себе представление о том, «как он работает». И если это представление совпадает с логикой системы, мы говорим о понимании. Если же не совпадает, то, значит, мы не обладаем пониманием.

Простейший пример – газовая плита. Если ручка соответствует конфорке, мы понимаем: поворот ? нагрев. Но если интерфейс построен так, что ручка «отвечает» за другую конфорку, то возникает сбой. В результате мы теряем понимание, но не потому, что стали «глупее», а потому, что среда не поддержала эту нашу модель и нам надо создать какую-то другую.

То есть в когнитивной науке постепенно возобладал подход, согласно которому понимание стало приравниваться к оценке эффективности взаимодействия человека со средой.

Этот тренд продолжает и один из создателей теории управленческих решений, лауреат Нобелевской премии по экономике и Премии Тьюринга Герберт Саймон. Он приходит к заключению, что «понимание» – это, прежде всего, способность решать задачи[26 - Саймон Г. Науки об искусственном: философия и методология науки, информатика, теория упр., психология, моделирование экон., соц. и биол. систем / пер. с англ. Э. Л. Наппельбаума. 2-е изд. М.: УРСС, 2004. 142 с. (Науки об искусственном) (Из классического наследия).].

По сути, он говорит: понять задачу – значит реструктурировать её так, чтобы она стала решаемой. Человек решает шахматную задачу не потому, что хранит в своём мозгу все возможные комбинации фигур на доске, а по-тому, что видит ключевую конфигурацию и выделяет структуру.

Неудивительно, что Саймон и его не менее знаменитый коллега Аллен Ньюэлл создали одну из первых компьютерных моделей мышления – General Problem Solver. Она была, по нынешним временам, очень примитивной, но реализовывала заявленный принцип «понимания» – осуществляла процесс поиска и перестройки данных, а не накопление готовых знаний[27 - Newell A., Shaw J. C., Simon H. A. Report on a general problem-solving program // Proceedings of the International Conference on Information Processing. Paris: UNESCO House, 1959. P. 256–264.].

Нейробиология понимания

Мозг – это машина для поспешных выводов.

    Дэниел Канеман

Когнитивная психология показала нам, что понимание – это не какой-то мистический акт сознания, а работа с моделями: мы строим их (Джонсон-Лэрд), проверяем на согласованность с реальностью (Норман), решаем задачи (Саймон).

А субъективная понятность нашего «понимания» обусловлена проекциями – «телесностью» наших метафор (Лакофф и Джонсон) и в принципе нашим способом существовать в физическом мире (Пинкер).

Но все эти объяснения остаются на уровне описания процессов – как если бы мы знали, что делает человек, но не понимали, как ему это удаётся. В чём хитрость, как возникают эти модели и где эти метафоры «живут»?

Короче говоря, вопрос в том, каким образом тело и мозг производят то, что мы называем пониманием? И здесь на сцену выходят нейронауки.

Предиктивное кодирование

То, что когнитивные психологи описывали как «ментальные модели» (Джонсон-Лэрд), нейробиология в лице Карла Фристона определяет как процесс минимизации ошибки предсказания.

Карл Фристон показывает, что наш мозг минимизирует трату энергии посредствам предсказаний («принцип свободной энергии»). Он не столько исследует мир, сколько предсказывает, что будет происходить в каждую следующую секунду.

Для этих целей мозг жонглирует множеством моделей разного уровня сложности – от сенсорных до поведенческих. Если угадывает – отлично («всё понятно»), если нет – он пересматривает свой прогноз: пытается понять, что пошло не так, и подобрать другую, более подходящую модель[28 - Friston K. The free-energy principle: a unified brain theory? // Nature Reviews. Neuroscience. 2010. Vol. 11(2). P. 127–138. DOI: 10.1038/nrn2787.].

Понимание, таким образом, – это активный поиск снижения неопределённости, целый динамический цикл: иерархическое предсказание, активное уточнение, построение модели мира.

Чувство «я понял» возникает тогда, когда все уровни этой иерархии совпадают и система достигает устойчивости.

Соматические маркеры

То, что когнитивные психологи исследовали как телесные метафоры и схемы действий (Лакофф, Джонсон, Пинкер), получило подтверждение в работах выдающегося нейробиолога Антонио Дамасио.

В своих исследованиях он изучал пациентов, которые имели повреждения в тех зонах мозга, которые отвечают за связь сознания с телесными функциями (префронтальная кора и системы, интегрирующие соматические сигналы). Оказалось, что такой человек сохраняет интеллект, память, логику, но его способность понимать ситуацию была катастрофически нарушена.

То есть такие пациенты могли рассуждать «в принципе», демонстрировать другие свойства памяти и сознания, но не могли принять ни одного осмысленного решения. Дамасио даже использует термин «соматические маркеры» мысли – без, по большей части неосознанных, телесных сигналов мы теряем способность соотнести свою мысль с реальностью, прожить её[29 - Damаsio A. R. Descartes' error: Emotion, reason, and the human brain. N. Y.: Putnam, 1994. 346 p.].

Совместная интенциональность

То, что философы называли конфликтом интерпретаций (Рикёр) и диалогичностью (Бахтин), а психологи наблюдали в языке, получает эволюционное подтверждение со стороны блестящего нейробиолога Майкла Томаселло. Его концепция «совместной интенциональности» показывает, что понимать – значит уметь разделять внимание и цели с другими[30 - Томаселло М. Истоки человеческого общения / пер. с англ. М. В. Фаликман и др.; науч. ред. Т. В. Ахутина. М.: Языки славянских культур, 2011. 323 с. (Разумное поведение и язык = Language and reasoning).].

Вообще слово «интенциональность» появилось в научном обиходе благодаря идее философа Франца Брентано, который считал её главной характеристикой сознания. Идея в том, что сознание не бывает пусто, оно всегда направлено (интенция) на какой-то предмет (пусть даже это наша собственная мысль)[31 - Брентано Ф. Психология с эмпирической точки зрения // Брентано Ф. Избранные работы / сост., пер. с нем. В. Анашвили; М.: Дом интеллектуальной книги, Русское феноменологическое общество, 1996. 176 с. С. 11–94.].

Томаселло развивает эту идею дальше и показывает, что интенциональность конкретного человеческого сознания определяется совместной деятельностью людей. Мы постоянно синхронизируем с ними свои интенции – например, вместе смотрим на один объект, когда его обсуждаем, можем иметь общую цель, строить общие планы.

И именно здесь, говорит Томаселло, рождается понимание как общее пространство смыслов, доступное сразу нескольким умам. На множестве виртуозных экспериментов он убедительно доказывает, что наше понимание обусловлено не мощностью наших абстракций, а способностью совместного действия – разделять внимание, цели и способы действия с другими, что возникает общее пространство смысла.

Томаселло показывает, что и наш язык – это не «модуль» для кодирования, а «инструмент кооперативной коммуникации». Языковой знак – это средство управления общим полем: установления общего фокуса, уточнения роли, фиксации долей ответственности. И смысл слов формируется не «изнутри слова», а в ходе координации намерений – мы постоянно помечаем, на что смотрим, чего хотим достичь, каких шагов ждём друг от друга.

Глобальное рабочее пространство

И наконец, то, что когнитивисты описывали как «реструктурирование» и «согласование модели со средой» (Саймон, Норман), в нейронауке оказывается функцией глобальной нейронной сети, которая интегрирует локальные процессы в единое «глобальное рабочее пространство».

Профессор Коллеж де Франс, нейробиолог Станислас Деан предлагает смотреть на мозг как на оркестр. Каждая его зона играет свою партию: зрительная кора занимается буквами, слуховая – звуками, память хранит ассоциации, лобные доли отвечают за план.

Пока все эти партии звучат отдельно, музыка не складывается – есть только фрагменты. Но стоит им синхронизироваться, как возникает общий рисунок, в котором буквы становятся словами, слова – предложениями, а предложения складываются в связный текст.

Иными словами, чтобы информация стала «понятой» и доступной для использования, она должна выйти за пределы локальных специализированных областей мозга и быть интегрирована в глобальную сеть – «рабочее пространство»[32 - Деан С. Сознание и мозг: как мозг кодирует мысли/пер. с англ. И. Ющенко. М.: Карьера Пресс, 2018. 416 с.].

Сейчас вы видите перед собой буквы – вы делаете это вашей зрительной корой. Но пока эта обработка остаётся локальной, вы их не сможете распознать. Понимание начинается там, где эти данные «распространяются» на языковые области, память, контекстные зоны: буквы становятся словами, слова встают в предложение, а предложение – в смысловую картину. Это и есть переход локального в глобальное.

Итого

Итак, мы сделали первый подход к пониманию «понимания». Да, оно кажется нам таким понятным, таким естественным, но как только мы всматриваемся в него, как тут же вся эта ясность куда-то испаряется.

• В философии оно оказывалось то языковой игрой (Витгенштейн), то картой без территории (Коржибский), то бесконечной цепочкой интерпретаций (Рикёр, Деррида) и «полифонией» (Бахтин).

• В когнитивной психологии понимание открывается нам как метафора телесного опыта (Лакофф, Джонсон) и проекция структуры нашего существования (Пинкер), а ещё ментальной моделью (Джонсон-Лэрд) и способом реструктурировать задачу (Норман, Саймон).

• В нейронауке появляются новые объяснения: минимизация ошибок предсказания (Фристон), следствие телесных сигналов (Дамасио), продукт совместного внимания (Томаселло), интеграция локальных процессов в глобальное пространство (Деан).