Олдос Хаксли
Недавно в ходе приятной беседы напомнили мне понятие «китайской комнаты» — и все мои отложенные до поры до времени интересы в области когнитивистики ожили. Вкратце объясню, что это такое, для тех, кто не в курсе. Китайская комната (англ. Chinese room) — мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Цель эксперимента — опровержение утверждения, что цифровая машина, наделенная искусственным интеллектом, путем программирования определенным образом способна обрести сознание в том же смысле, в котором им обладает человек. Иными словами, целью является опровержение гипотезы так называемого сильного искусственного интеллекта и критика теста Тьюринга.
Представим себе изолированную комнату, где находится Джон Сёрл, который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов. Сёрл просто следует этим инструкциям подобно компьютеру. Наблюдатель, знающий китайские иероглифы, через щель передает в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы компьютер.
В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.
Хотя такая система и может пройти тест Тьюринга, но при этом никакого понимания языка внутри системы не происходит, а значит тест Тьюринга не является адекватной проверкой мыслительных способностей. Доводы Сёрла направлены на критику позиции так называемого сильного искусственного интеллекта, согласно которой компьютеры с соответствующей программой на самом деле могут понимать естественный язык, а также обладать другими ментальными способностями, свойственными людям. Гипотеза слабого искусственного интеллекта, напротив, говорит о том, что компьютеры способны лишь имитировать ментальные способности человека, поэтому Сёрла она не интересует.
Откровенно говоря, меня не интересуют обе теории, я в искусственную личность не верю и тем более не верю в то, что интеллект равен личности. Искусственный интеллект, скрупулезно исполняющий заветы программиста, личностью не является, а свободное мышление и способность творить, которые для меня и есть признаки личности (притом, что личностью становится далеко не каждый хомо, я в этом плане расхожусь во мнениях и с психологами), в подобных теориях приобретают вид прикладывания фона «Звездной ночи» Ван Гога к «Крику» Мунка. Или наоборот. Принимать, как некоторые позитивно настроенные товарищи, жалкие кунштюки за творчество, конечно, можно, но незачем. Все-таки мы не над малышом с ЗПР воркуем. Подобные упражнения — как раз то, что выполняет болванчик в китайской комнате.
У меня другой вопрос: есть ли какой прок в замене человеческого потенциала китайской комнатой? А ведь именно это и происходит на идеологическом, фактически государственном уровне. Сидит в отведенном для него «спейсе» офисный болванчик-маркетолог и составляет инструкции, какую табличку куда совать; соседняя кубикула занята коммерческими авторами, перекладывающими таблички как было велено, не имея представления, что на выходе получится — то ли вечность, то ли жопа. Но все, как один, надеются получить в награду весь мир и пару коньков в придачу. Каи хреновы.
В это время настоящий читатель, любящий литературу, а не глотающий ее, словно поросята юшку, пытается пробиться через преграду в виде имитации творчества к тем немногим авторам, что остались некоммерческими. Некоммерческие писатели хотя бы пытаются выучить язык, чтобы понимать надписи на табличках — однако число понимающих написанное, число тех, кто может научить начинающих литераторов, все сокращается. Ведь мануалы пишутся теми, кто тоже не понимает языка надписей и составить из них новые, интересные комбинации не в силах.
А над обозначенной идиллией парит на облаках своей мечты о чуде, об успехе издатель-наблюдатель, также не имеющий представления, что главное в его как бы коммерческом предприятии не маркетинг, не толпа оболваненных имитаторов, не копеечные книггеры-рерайтеры и не привлечение мифической «новой ЦА». Главное — надписи на тех самых табличках, их язык, их смысл, их идеи. Как только понимание их будет утрачено, все, и авторам, и читателям, не говоря уж об издателях, придется начинать даже не с азов (азы и есть те таблички), а попросту с нуля, с «аз-буки-веди». И мы уже довольно близки к нулевому уровню, спасибо издателю-мечтателю.
Трудно объяснить не-писателю, в чем главная беда современной литературы. Он будет искать бед в недостатке финансирования, в засилье цензуры, помянет падение тиражей и вал конъюнктуры… Всё это крайне неприятные, но не самые опасные симптомы. Важнее них — потеря младоаффторами (как, впрочем, и мэтрами) творческих целей, не касающихся вознаграждения и раскрутки. А также утрата понимания, чем эти самые «высшие цели» выше столь актуальной жажды успеха.
Попробую объяснить, что это за цели такие, на примере произведения Питера Уоттса, которое мне также напомнил френд. В «Ложной слепоте» выведены инопланетяне (земляне называют их «болтуны»), похожие формой на офиур, а по поведению — на о-о-очень умного умного осьминога. Неудивительно — автор же гидробиолог.
Лингвист плюнула на геометрию и сообщила болтунам, что один плюс один равняется двум. Очевидно, ничего нового она им не сказала: десять минут спустя медузы на заказ вычисляли десятизначные простые числа.
Джеймс показала им ряд двумерных фигур; они выбирали следующую из набора едва различающихся вариантов. Она вообще перестала давать им варианты, демонстрируя очередной ряд с начала и показав, как рисовать кончиками щупалец на сенсорной панели. Болтуны завершали ряд идеальными набросками, отображая цепочку логических последовательностей и заканчивая ее фигурой, неотвратимо возвращавшей к началу ряда.
— Они не роботы, — голос Сьюзен застревал в горле.
— Это всего лишь математика, — отозвался Каннингем. — Миллионы компьютерных программ делают то же самое, не просыпаясь.
— Они разумны, Роберт. Они умнее нас. Может быть, даже умнее, чем Юкка. А мы… почему ты не можешь этого признать?
Я читал по ее граням: Исаак признал бы.
— Потому что у них нет мозгов, — настаивал Каннингем. — Как может…
— Не знаю я, как! — заорала она. — Это твоя работа! Я знаю только, что пытаю существа, которые могут нас за пояс заткнуть…
— Скоро это закончится. Как только ты поймёшь их язык…
Она покачала головой.
— Роберт, об их языке у меня даже представления нет. Мы этим занимаемся уже… несколько часов, да? Со мной вся Банда, базы данных по языкам глубиной в четыре тысячи лет, самоновейшие лингвистические алгоритмы. И мы совершенно точно знаем, что они говорят, и отслеживаем все возможные способы сказать это. С точностью до ангстрема.
— Именно. Так что…
— И у меня нет ничего. Я знаю, они общаются узорами на коже. Возможно, что-то кроется в манере поводить щетинками.
Ужас какой, думаешь. Низвести наше великолепное Супер-Эго до какого-то там шевеления щетинками! Тьфу на вас, Питер Уоттс! Но если ты не только плеваться мастак, постепенно закрадываются сомнения: а что, если не в горних высях Супер-Эго, а в океане Ид надобно искать эту самую личность? В конце концов, не только конечный мозг, но и лимбическая система участвует в формировании поведения и восприятия, отвечая как за автоматическую регуляцию, но и за эмоции, память, сны и бодрствование. То бишь при ее отключении человек теоретически может превратиться в безэмоционального и беспамятного робота. Гиппокамп, гипоталамус и миндалины отключить (подумаешь, пять мелких бугорков) — и рули этим куском мяса, как теми «болтунами», из центра управления вроде «Роршаха». Выходит, я такая же умная, но примитивная офиура, шевелящая щетинками?
Вот и получается, что в произведении Уоттса была поставлена одна задача, а выполнена оказалась совсем другая, диаметрально противоположная. По идее, человек, узревший безликий интеллект «Роршаха», должен испытать прилив ксенофобии или хоть опасливого почтения перед иными формами сознания. Мы, хомо, идейные индивидуалисты! Наша самость превыше всего! Нам не нравится быть частью улья-муравейника-человейника! Мы желаем свободы того-сего и в первую очередь свободы слова! Мы, нам, наше… А «Роршах» не заморачивается тем, что есть он, а что есть мы. У него имеется программа, которую он выполняет столь долго и цели ее столь отдаленны, что исполнитель приобретает облик и привычки высшей силы — нерассуждающей и несправедливой.
Ничего не напоминает? Например, творца — причем не обязательно небесного, можно взять и земного. Так через некоторое время человек, склонный к творчеству, начинает идентифицировать себя со странной расой болтунов, чей интеллект похож на сверхспособности савантов, гениев-идиотов.
Человек с синдромом саванта может повторить несколько страниц текста, услышанного им всего один раз, безошибочно назвать результат умножения многозначных чисел, будто результат ему известен заранее, или сказать, на какой день недели придется 1 января 3001 года. Встречаются саванты, способные пропеть все услышанные арии, выйдя из оперы, или начертить карту района Лондона после полета над городом, как это сделал 29-летний савант Стивен Уилтшир. Помимо этого, среди зарегистрированных проявлений синдрома саванта есть способности к изучению иностранных языков, обостренное чувство времени, тонкое различение запахов и другие. Одновременно с этим в областях, лежащих вне проявлений синдрома, такой человек может демонстрировать явную неполноценность, вплоть до умственной отсталости. Встречается савантизм довольно редко и обычно является вторичным явлением, сопровождающим некоторые формы нарушений развития, например детский аутизм или синдром Аспергера, либо умственную отсталость. В особо редких случаях может быть одним из последствий черепно-мозговой травмы или заболевания, затрагивающего головной мозг.
