Инженерия разума

Александр Розов


Существует некая дилемма, которую мало кто рискует обсуждать: является ли наш способ познания вселенной высшей стадией эволюции, или промежуточной? Можно рассматривать три аспекта этой дилеммы.
1 (частный): Является ли наука в том виде, в котором она у нас существует, наиболее эффективным методом познания, или возможны более эффективные способы, которые нам пока неизвестны?
2 (общий): Является ли наш разум самым эффективным из возможных инструментов познания, или эволюция (естественная или искусственная) может привести к появлению качественно более эффективного инструмента?
3 (всеобщий): Является эволюция методов и инструментов познания ограниченной или нет? Существует или не существует предельно эффективный принцип познания, или для любого наперед заданного принципа познания может быть найден другой, значительно более эффективный принцип?



§1. Как устроено наше познание.

Мы умеем:
1) Случайным образом находить решения задач, встречающихся впервые.
2) Запоминать пройденные ситуации и пути решения задач — удачные и неудачные.
3) Воспроизводить свои или чужие решения, успешно примененные в сходной ситуации.
4) Обобщать и классифицировать объекты, ситуации и задачи в символьной форме.
5) Распространять обобщения на новые ситуации и улучшать ранее найденные решения.

Эти пять умений в совокупности мы называем разумом. Первые три умения свойственны как нам, так и высокоорганизованным животным, которых мы считаем неразумными. Первые три умения есть ничто иное, как условно-рефлекторная деятельность. Умение воспроизводить не только свои, но и чужие решения (т.е. способность к подражанию) развито у многих зверей и птиц, живущих стаями.

Достоинством условно-рефлекторного метода познания является самообучение на опыте (своем или чужом) при минимуме априорных знаний. Для сравнения: существа с низкой организацией нервной системы имеют готовый и практически неизменный врожденный набор знаний (инстинктов), пригодных лишь в строго определенной и довольно узкой области ситуаций. Инстинкты могут меняться только в ходе биологической эволюции вида, т.е. сравнительно медленно. Таким образом, любое быстрое изменение внешней обстановки, делающее инстинкты бесполезными, неминуемо приводит к гибели популяции.

Отличие организованной разумной деятельности (в частности — научной деятельности) от просто условно-рефлекторного самообучения состоит в использовании более сильных абстракций — символьных систем и классификаций (пункт 4). Научная и изобретательская деятельность (пункт 5) становится возможной только благодаря этим сильным абстракциям.

Тем не менее, даже современная научная методология стоит на тех же четырех принципах, что и условно-рефлекторная деятельность с подражанием. Назовем это постулатами объективности, повторяемости, делимости и преемственности.
1) Объективность — это постулат о том, что окружающая нас реальность не зависит от наблюдателя. Если это не так, и результат эксперимента зависит от того, кто проводит эксперимент, то данные, полученные одним исследователем, в общем случае не имеют значения для другого исследователя.
2) Повторяемость — это постулат о том, что структура реальности имеет гладкую, а не сингулярную природу, так что малые отклонения условий, которые неизбежно возникают при любом воспроизведении эксперимента, не вызывают больших отклонений результата. Если это не так, и минимальное отклонение может приводить к совершенно иным наблюдаемым эффектам, то экспериментальное подтверждение данных (в привычном для нас виде) в общем случае невозможно.
3) Делимость — это постулат о том, что структура реальности имеет невысокую связность, так что ее можно разделить "естественным образом" на некоторое количество классов объектов и ситуаций, после чего изучать каждый класс отдельно, вне связи с другими. Если это не так, и реальность имеет высокую связность, а результат эксперимента может зависеть от обстоятельств, то "естественная" классификация заведомо не приводит к хорошим результатам.
4) Преемственность — это постулат о том, что правильным методом создания научной картины мира является последовательное уточнение той картины мира, которая считается общепринятой на сегодняшний день. Если это не так, и общепринятая картина мира может оказаться принципиально не соответствующей действительности, то метод "от достигнутого" рано или поздно, заведет процесс познания в тупик.

Обоснованность этих постулатов, вообще говоря, не подтверждена абсолютно ничем. То обстоятельство, что, действуя на основании этих принципов примерно 2 миллиона лет, человечество не погибло и даже добилось некоторых успехов, ничего не доказывает. Динозавры, как известно, процветали на нашей планете десятки миллионов лет, и где они теперь? Кроме того, как показывает история, не все из 4 постулатов выдерживают проверку опытом.


§2. Недостатки метода.

Объективность — это самый достоверный из 4 постулатов, случаи его несрабатывания исключительно редки и обычно имеют правдоподобные объяснения (некорректные условия эксперимента, невнимательность, предвзятость или психологические особенности исследователя и т.п.).

С повторяемостью дело обстоит неоднозначно. В биологических и социально-экономических структурах, в динамике мирового океана и атмосферы, в поведении солнца и вообще в сложных системах повторяемость выполняется лишь от случая к случаю. У них есть множество особых точек (сингулярности, бифуркации, и т.п.), так что малое отклонение параметров дает полное изменение картины.

Делимость выглядит так себе. Чем дальше развивается наука, тем яснее становится, что, по крайней мере, "естественная" классификация, которая установилась в науке более 300 лет назад, никуда не годится. Отрасли науки, которые объявлялись непересекающимися по предмету исследования, начинают переплетаться и проникать друг в друга, так что названия типа "физико-химическая робототехника", "социально-экономическая биокибернетика" или "политическая зоопсихология" уже никого и не удивляют. Похоже, что постулат делимости в большинстве случаев выполняется, но только при какой-то другой, не "естественной" классификации.

Хуже всего с преемственностью. Как уже было сказано, у нас процесс научного познания требует построения абстракций и классификаторов (понятийного аппарата). Далее все частные приемы решения задач привязаны к уже построенному классификатору, составляя с ним единую базу знаний. Таким образом становится практически невозможным сохранить знания, поменяв понятийный аппарат. Если обстоятельства меняются, и наш классификатор становится непригодным для окружающих объектов и ситуаций, то все накопленные знания могут оказываться бесполезными. Так, довольно обширная база инженерных знаний об объектах, составленных из вращающихся и перемещаемых элементов, не годится для собирания граней "кубика Рубика" (у него другая структура классов ситуаций). При этом знание нескольких простых "рубиковских" правил позволяет решать эту головоломку, почти не задумываясь.

Можно возразить, что правила для "кубика Рубика" были созданы в рамках нашего научного метода познания. Конечно, это так, но надо учитывать, что злосчастный кубик был придуман как иллюстрация к некоторым абстрактным системам в теории групп, т.е. задача о его сборке вместе с решением появилась в ходе совершенно других исследований. Если бы эту головоломку придумали до упомянутых исследований, то ее решение потребовало бы несоразмерно больших усилий. Для ряда других комбинаторных головоломок, аналогичных кубику Рубика, у нас нет общего решения — это, например, "задача о коммивояжере", к которой мы еще вернемся.

Другой недостаток преемственности связан со свойством отбирать и совершенствовать только тот способ решения, который дал более успешные результаты, отбрасывая при этом другие способы. Это т.н. "жадный" (greed) алгоритм перебора вариантов, который работает лишь для узкого класса задач, а в общем случае приводит к неоптимальному методу. Грубо говоря, если нам требуется найти самую высокую точку в Тибете, то "жадный алгоритм", стараясь на каждом шаге увеличить высоту, приведет нас не на Эверест, а на вершину ближайшего холма. В науке отражением этого недостатка являются периодические кризисы, состоящие в том, что все исследования, казалось бы, завершены, открывать больше нечего, но при этом природа множества явлений осталась совершенно неясной.

Можно возразить, что естественные науки все-таки каждый раз выходили из кризиса. Конечно, как-то выходили, но каждый раз это был тяжелый и драматический процесс, который был связан с ломкой преемственности — там, где необходимость этой ломки становилась очевидно-неизбежной. При этом неизвестно, были ли преодолены кризисы, или были просто пришиты заплатки на старые концепции естествознания, придуманные еще в античные времена.

Третий недостаток преемственности относится к коллективному поведению и алгоритму подражания. Достоинства подражания уже были отмечены: оно позволяет всем особям использовать полезный опыт, полученный одной из них (в т.ч. более молодым особям использовать опыт старших). Суть подражания в том, что чужой опыт перепроверяется минимально, или вообще не перепроверяется. Но в этом скрыта опасность заимствования "ошибочного опыта" — т.е. подражания действиям, которые или бесполезны, или просто вредны. Этому вопросу посвящено эссе С.Лема "Культура как ошибка". Все обучение человеческих существ основано на подражании старшим и подражании лидерам. Так из поколения в поколения передаются не только знания, но и ошибки, в т.ч. ошибки концептуальные, и они накапливаются в виде той "культурной традиции", которая объективно мешает развитию познания и прогресса.



§3. Культура мифа как ошибка.

Нам достоверно известно, что общая концепция современного естествознания в чем-то ошибочна, и уж точно не является по-настоящему объективной (истинной, абсолютно верной). Наши знания о природных процессах — это лишь связи между описаниями условий некоторой группы экспериментов и описаниями их обобщенных результатов, в рамках нашей довольно неадекватной лексики. Описания условий и результатов заведомо некорректно отражают реальные условия и результаты — поскольку термины и структуры языка описания являются продуктом культурного мифа, уходящего корнями в первобытную эпоху. Это — важный момент, на котором надо остановиться подробно.

Вся познавательная человеческая деятельность с момента превращения человека в существо, владеющее символическим аппаратом (т.е. членораздельной речью), протекает в рамках мифических представлений. В каждую эпоху совокупность замеченных связей и эффектов повторяемости интерпретировалась в виде мифа о том, "как все устроено". Миф, требовал связи всех существенных знаний в единое целое, в "концепцию естествознания" — поскольку разрозненные знания трудно пересказывать и трудно запоминать. В ходе превращения знаний в мифы, к ним, для связности и образности, добавлялось множество паразитных утверждений о мотивах деятельности метафизических существ — богов или духов, которые устроили мироздание определенным образом.

Если первобытный миф содержал паразитные конструкции только для связности, то мифы эпохи развитых общественных отношений придали таким конструкциям статус выше, чем у собственно полезных знаний. По мифу получалось, что боги или духи устроили не только природу, но и общество, раз и навсегда предписав определенные законы как отношениям между вещами, так и отношениям между людьми. Миф становился священной коровой — его нельзя было редактировать, в нем нельзя было менять ни слова, поскольку это затрагивало не только парадигму естествознания, но и устои общества. Природа не имела права быть устроена иначе, чем сказано в мифе, поскольку она обязана была своим строением обосновывать и оправдывать идиотское устройство социума.

Паразитные лексические конструкции порождались метафизикой для объяснения и оправдания дефективных социальных отношений. Эти конструкции через общность языка попадали в естествознание и застревали там, обрастая всяческой мистикой и парализуя познавательную активность, иногда на целые столетия. С другой стороны, социальные отношения воспроизводились в среде естествоиспытателей, порождая там иерархию званий, носителям которого приписывался априорный авторитет в вопросе толкования основ устройства природы. Цель создаваемой научной иерархии, как нетрудно догадаться, в том, чтобы управлять иллюзиями в области строения окружающей природы, регулируя общественные представления о том, "как все устроено". Выдающиеся открытия делают обычно люди в возрасте 35–50 лет без особых званий. Но средний "академический ученый" — это 60–70 летний чиновник, который за предшествующие 35-45 лет работы в науке показал себя последовательным жрецом преемственности и ни разу не выразил сомнения в компетентности "старших товарищей". Науку двигают вперед активные, смелые и талантливые люди, а управляют наукой носители противоположных качеств.

В случае, если обществу надо бороться за свое существование перед лицом острой конкуренции, войн и стихийных бедствий, научную иерархию приходится отодвигать в сторону вместе с ее мифами, и стимулировать реальную исследовательскую деятельность без уважения к парадигме и почтенному возрасту ее носителей. Но как только уровень опасности снижается, все возвращается "на круги своя".

Совершенно также выглядела и производственная деятельность в средневековую эпоху, когда ремесленный труд был индивидуальным, а следовательно — был сопряжен с неким объемом прикладных исследований и научно-технического творчества. Во всех отраслях господствовали т.н. "цеха" — объединения ремесленников, где технология труда была регламентирована, и любое новаторство преследовалось как покушение на устои. Как нетрудно догадаться, во главе цехов стояли "заслуженные пролетарии", единственным достоинством которых была лояльность по отношению к "старшим товарищам". Такой стиль организации деятельности носит название "культурная традиция" (как делали предки, так делаем и мы), а основными его результатами является блокирование прогресса и культ повторения ошибок, допущенных предыдущими поколениями.

Не надо думать, что цеховая организация ремесла, академическая организация науки или догматическая организация общества выдуманы назло прогрессу. Они формировались в ходе борьбы за сохранение системообразующих ошибок, лежащих в основе социального мифа, и называемых "культурой" или "духовной сферой". Это — комплекс иллюзий о жизненном назначении человека, добре и зле, справедливости, совести и смысле жизни, служащий для того, чтобы человек не осознавал и не исправлял дефекты социума.



§4. Три вопроса о "сверхразуме".

Вопрос 1: Необходимо ли самообучение на опыте?

Единственная альтернатива самообучению — это получение априорных знаний извне, т.е. наследование инстинкта. Здесь не важно, происходит такое наследование биологическим путем или каким-либо другим способом (например, путем заучивания правил жизни в экстремально-консервативном "традиционном" обществе). Важно, что знания передаются в готовом виде и никак не модифицируются по мере накопления опыта. Инстинкт может оказаться более эффективен, чем самообучение, только при условии, что он полностью описывает оптимальные приемы для всего спектра возможных ситуаций. Можно строго доказать, что в любом другом случае самообучение "выиграет" у инстинкта, т.е. через некоторое время начнет давать более эффективные решения.

Если бы некто обладал абсолютно полной и абсолютно адекватной информацией об устройстве реальности, и был бы в состоянии оперировать всей этой информацией без потери адекватности, то он мог бы создать идеальный инстинктивный алгоритм, превосходящий по качеству знаний любую самообучающуюся систему. Но любая инстинктивная (априорная) система, составленная на базе неполной и лишь частично адекватной информации, по прошествии некоторого конечного времени неизбежно окажется в проигрыше по сравнению с самообучающейся системой.

Здесь полезно вспомнить историю компьютеризации шахмат, где были реализованы оба случая. Так, знаменитая таблица Томпсона, которая содержала абсолютно все возможные позиции эндшпиля король и ладья белых против короля и коня черных, играла этот эндшпиль лучше любого шахматиста-человека (т.е. она за меньшее число ходов выигрывала, играя за белых, и за большее число ходов проигрывала, играя за черных). Но, когда игралась полная партия (где число возможных позиций слишком велико, так что полный перебор технически нереализуем), шахматные программы с любым жестким (инстинктивным) алгоритмом проигрывали хорошим игрокам — людям, которые осваивали игру в значительной мере путем самообучения. В конце XX века, когда появились компьютерные алгоритмы самообучения, ситуация поменялась на противоположную: компьютерные программы стали играть лучше людей, несмотря на то, что по используемому объему памяти и вычислительной мощности значительно уступали человеческому мозгу.

Вероятно, дело в том, что разум игрока-человека имеет некоторые "паразитные" культурные квази-инстинкты, которые иногда вынуждают его к действиям по априорным правилам, непригодным для шахматной игры. Игрок-программа с самообучением практически не имеет таких "паразитов сознания" и, соответственно, не делает ошибок такого рода. Это — тоже важный момент: наличие даже небольшого числа априорных правил, не обладающих абсолютной адекватностью и не допускающих редактирования, уже достаточно, чтобы носитель этих "квази-инстинктов" проигрывал системе "instinct-free".


Вопрос 2: Имеет ли объективная реальность "абсолютное" описание?

Сложилась такая социальная практика, при которой этот вопрос относится к области метафизики или религии. Считается почему-то, что для естественных наук ответ на него не важен, но на самом деле он имеет серьезное методическое значение.

Сразу же надо отметить, что здесь не имеется в виду догматическая чепуха, которая преподносится в догматических учениях под видом абсолютной истины. Сами формулировки, которые мы встречаем в догматических учениях и "священных книгах", показывают, что их авторы могли бы соревноваться в своем невежестве с копченой треской. Кроме того, как известно, ни одна естественнонаучная проблема не была решена на базе этих т.н. "абсолютных истин".

Иное дело — научные теории наподобие "великого объединения", которые предъявляют действительно серьезные претензии на раскрытие базовых закономерностей устройства нашей Вселенной. Особенностью теорий этого типа является избыточная универсальность. Считается, что они могут описать, вообще говоря, все множество возможных конструкций мироздания, вопрос лишь в подборе параметров модели (D-bran, или гиперповерхности, отображающей Вселенную вместе со всеми возможными в ней объектами и связями).

Предположим, что это — правда, и что такая теория действительно будет обладать свойством абсолютной полноты, т.е. на его основании можно будет теоретически предсказать решительно любое явление во Вселенной. Но будет ли она абсолютным описанием в смысле практического метода? Будет ли она обеспечивать принятие безошибочных практических решений в любой области? Теоретически — да, но проблема в том, что при решении практических задач такой метод потребует гигантского объема расчетов и множества допущений, а в конечном счете приведет к гораздо менее удачным результатам, чем сравнительно простые инженерные методы, разработанные в той или иной отрасли прикладной науки. Поэтому, например, никому не придет в голову использовать базовые уравнения физики твердого тела при проектировании здания, а базовые уравнения теории полупроводников — при проектировании процессора. Если даже "теория великого объединения" будет завершена, то из-за колоссальной сложности реальных систем, она не решит ни одной задачи инженерного характера. Скорее наоборот: предложив новые возможности в сфере фундаментальной физики, она поставит множество новых проблем в прикладной науке. Так, открытие термоядерного синтеза состоялось полвека назад, а методы реализации этого процесса в энергетических установках еще только разрабатываются.

Кроме того, в "теории великого объединения" уже содержатся новые фундаментальные проблемы. Например, если мы даже выясним параметры гиперповерхности, описывающей нашу Вселенную, это никак не исключает возможности существования других Вселенных, где эти параметры отличаются. Когда (и если) "теория великого объединения" будет завершена, на повестке дня окажется "теория виртуальных Вселенных", а лет через 200 школьникам будут рассказывать про древних людей, считавших, что есть всего одна Вселенная (как сейчас про древних людей, считавших что Земля стоит на трех китах).

В общем, у нас есть достаточно оснований, чтобы утверждать: объективная реальность не имеет полного "абсолютного" описания, которое могло бы быть приведено в форме конечной и завершенной теории, отвечающей на все практические вопросы.


Вопрос 3: Возможно ли познание без инстинктов и квази-инстинктов?

Простейшие живые существа не нуждаются в технике познания и даже в информации о правилах деятельности. У них нет нервной системы. Все реакции, необходимые им для жизни, заложены в самой конструкции их тела.

Живые существа, имеющие низкоорганизованную нервную систему, рождаются с готовым набором инстинктов, позволяющим выжить в окружающей среде, стандартной для существ данного вида. В последующей жизни они дополняют инстинкты некоторым количеством условных рефлексов — т.е. собственными, индивидуальными результатами познания.

Высокоорганизованные живые существа (в т.ч. люди) рождаются с некоторым набором инстинктов, а в первые годы жизни получают значительное количество информации, превращающееся в квази-инстинкты, т.е. в правила и стереотипы, не подлежащие редактированию на протяжении всей последующей жизни. Затем, на этот базис они наращивают некоторый объем информации, получаемой в ходе самостоятельного познания окружающего мира. (Люди отличаются тем, что получают квази-инстинкты в процессе длительного воспитания, причем преобладающая часть этих квази-инстинктов является бесполезным или даже вредным информационным балластом — "культурой").

Нам известен только один бесспорный пример того, как жизнь начинается с абсолютного нуля в смысле инстинктивного и квази-инстинктивного багажа информации. Это — само зарождение жизни в ходе предбиологической эволюции. В начале по определению не было никакой полезной информации. Широчайший спектр приемов целесообразной деятельности, которым обладает совокупность живых существ, населяющих нашу планету (в т.ч. приемы т.н. "разумной деятельности" людей), возник из ничего — правда, для этого потребовалось более миллиарда лет непрерывных проб и ошибок.

Если бы все это было разработано неким субъектом, мы бы должны были признать, что такой субъект реализует мощный метод разумного (или даже "сверхразумного") познания. То, что в данном случае нет никакого субъекта, а есть лишь реализация определенных закономерностей неравновесной термодинамики, не меняет дела. Тот факт, что все конструктивные и информационные решения, реализованные в биологических организмах, порождены методом, не требующим никаких априорных правил, доказывает, что познание без инстинктов и квази-инстинктов возможно.

Еще одним существенным моментом является то, что конструирование нашего разума является всего лишь одним из частных приемов познания, получаемых в ходе работы метода "instinct-free" (как для нас, например, одним из приемов познания является полный факторный эксперимент). Нет никаких оснований полагать, что в ходе применения метода "instinct-free" не конструируются другие, не менее (а возможно — и более) эффективные приемы, чем наш разум.


§5. "Сверхразум" и дерево альтернатив.

Задачу любого метода познания можно в упрощенном виде представить как процесс генерации альтернатив возможной деятельности в реальном мире и их последовательного развития путем генерации новых, дополнительных альтернатив. Это игра наподобие шахмат, когда любой из возможных альтернативных ходов приводит к новой позиции, из которой (после хода противника) можно опять сделать один из альтернативных ходов, приводящих в следующей позиции. Возникает картина многократного ветвления возможных путей развития игры. Эту картину называют обычно деревом игры или деревом альтернатив. В некоторых играх на каждом ходе допускается распределение ресурса между несколькими альтернативами (такова, например, игра на бирже).

Если игра конечна, то качество стратегии игрока, т.е. уровень его разумности в данной игре, можно оценить по финалу (выигрыш или проигрыш). Анализ возможных ходов производится перебором вариантов с возвратом (back-tracking). Пройдя по ветви ходов и обнаружив ее бесперспективность, игрок возвращается к точке ветвления и анализирует другую альтернативу. Существуют алгоритмы полного перебора возможных ходов до финала игры, но они требуют слишком большого числа операций.

Та игра, в которую играют биологические виды (в т.ч. человечество) может считаться полубесконечной. В ней нет идеального представления о выигрыше, но есть идеальное представление о проигрыше. Проигравший биологический вид бесследно исчезает с игрового поля природы. Так, нельзя сказать, кто больше выиграл — муравьи или люди, но можно сказать, что динозавры проиграли все, поскольку не осталось ни их самих, ни их потомков. В бизнесе похожим образом рассматривается игра между конкурирующими фирмами.

Можно говорить об аналогичной игре цивилизаций в рамках одной планеты, или в глобальном масштабе (исходя из представления, что мы не одиноки во Вселенной). Если цивилизация исчезла, не оставив преемника (как это произошло с инками), то ясно, что она играла плохо. Но как оценить качество игры цивилизаций, существующих сейчас?

В некоторых случаях это возможно: если две цивилизации оказались в одинаковом положении, но одна из них затратила для этого больший ресурс (например, количество времени), то выигрывает вторая. Этот подход хорошо иллюстрируется задачей о коммивояжере, которая упоминалась выше. Задача состоит в том, как бродячему торговцу объехать несколько заданных городов и вернуться домой, затратив на дорогу минимум ресурса (времени, или денег, или нервов). При этом известны затраты ресурса на переезд между двумя любыми городами. Мы не умеем решать эту задачу без перебора возможных маршрутов путем back-tracking, но некоторые маршруты можно отсечь как заведомо неудачные. Если участки двух маршрутов имеют одинаковую начальную и конечную точку, и проходят через одни и те же города, то заведомо неудачен маршрут, на котором это делается с большей затратой ресурса. Остальную часть этого маршрута можно не рассматривать, он заведомо неоптимален. По лаконичной формулировке Беллмана, "Каждый фрагмент оптимального маршрута — оптимален".

Применительно к качеству игры цивилизаций можно сказать, что заведомо неудачными оказались те маршруты, которые задержались в периодах застоя ("темных веках") дольше других. Такие цивилизации или вообще исчезли с доски, или оказались аутсайдерами, вынужденными заимствовать организационные формы у более развитых соседей.

Биологическая эволюция действует также по "жадному" алгоритму, отчего нередко возникают тупиковые ветви, которые затем вымирают, не выдержав конкуренции. Тем не менее, даже эволюционно перспективные цивилизации и биологические виды наследовали значительную часть неудачных конструктивных решений, поскольку формировались по принципу "от достигнутого" (преемственность + жадность).

Ни современные технические алгоритмы, ни эволюционные пути биологических видов или цивилизаций, работая с действительно большими задачами перебора вариантов, в общем случае не находят оптимальных решений. Они генерируют лишь небольшую часть возможных альтернатив и из этого подмножества выбирают лучший вариант. При таком подходе нет никакой гарантии, что оптимальный вариант не будет упущен — но и его нахождение не обязательно. В техническом проектировании достаточно, чтобы новое найденное решение укладывалось в смету, а в биологической эволюции — чтобы коэффициент размножения нового вида в заданной среде был больше единицы.

Каким может быть отличие "сверхразума" от приведенных выше систем? Ну, например: он решает задачи наподобие поиска маршрута коммивояжера не путем последовательного перебора ветвей с возвратом, как это делаем мы, и не путем параллельной генерации множества ветвей, как это делает естественная эволюция. Он генерирует оптимальный маршрут за один прогон, на каждом шаге безошибочно отсекая неоптимальные ветви. В этом нет ничего невозможного, некоторые природные процессы развиваются примерно таким образом.

Если бы такой "сверхразум" играл в шахматы, то шансы выиграть у его противника отсутствовали бы вовсе, а шансы сыграть вничью имел бы только суперкомпьютер, осуществляющий полный перебор альтернатив, или другой сверхразум. (Для того, чтобы определить, какой из двух сверхразумов сверхразумнее, пришлось бы искать другую игру гораздо большей степени сложности). Но нас в общем-то не интересует, как сверхразумы играли бы в шахматы. Нам интереснее поведение сверхразума в реальных ситуациях.


§6. Эволюция, "сверхразум" и смысл жизни.

Современные представления о биологической эволюции указывают на то, что возникновение разумных существ является ее закономерным этапом. В принципе, появление разума не сильно выделяется из числа прочих инструментов, порожденных эволюцией — таких, как зрение, мимикрия, половое размножение или коллективное поведение. А как быть со "сверхразумом"? Является ли он также закономерным этапом эволюции? А "сверх-сверхразум" (и т.д. — до бесконечности)?

Здесь надо сказать о нелепом заблуждении, будто человечество выскочило из бурлящего котла эволюции и естественного отбора, как Будда Гаутама — из колеса сансары. На самом деле — ничего подобного. Естественный отбор продолжается, и еще как! Сталкиваются в борьбе за выживание модели цивилизаций, организационные структуры и технические решения. Сегодня социально-экономические системы с легкостью перекраивают "под себя" психику и жизненный цикл человека. Завтра они с такой же легкостью будут перекраивать его морфологию и физиологию — если это будет необходимо для победы над другими системами в конкурентной войне за ресурсы и жизненное пространство. Поскольку теоретически "сверхразум" возможен, и поскольку он дает своему обладателю огромные конкурентные преимущества, он будет реализован с вероятностью, близкой к единице. Если "сверхразум" можно реализовать средствами человеческого мозга — это будет сделано на базе человеческой физиологии, если нет — то на искусственной базе.

Что будет тогда? Да то же самое примерно, что произошло в биологической эволюции, когда у некоторых живых существ возник эффективный способ оптического поиска и локализации объектов на дальней дистанции — т.е. зрение. Незрячие животные были вытеснены из всех экологических ниш, где оптический поиск работает, а зрячие заняли и эти экологические ниши, и те, которые раньше вообще были недоступны из-за отсутствия способов ориентации в них — например, воздух. Летающим существам необходимо зрение, а некоторые — например летучие мыши — дополнительно выработали кроме оптического зрения еще ультразвуковую локацию, и освоили ночное небо.

"Сверхразум", обладающий свойством решать задачи выбора так, как было написано выше, отличается от разума так же, как зрячий от слепого. Сверхразумное существо при накоплении опыта ставит минимально возможное число экспериментов, извлекая из них максимально возможную информацию о свойствах окружающей среды. Если бы легендарное яблоко упало на голову не Ньютону, а сверхразумному индивиду, он сформулировал бы не закон всемирного тяготения, а всю теорию "великого объединения" для нашей Вселенной (см. §4) вместе со всеми возможными технологиями и инженерными методами расчета для всех прикладных наук. Действительно, яблоко содержит всю информацию, необходимую для таких выводов: во Вселенной с другим фундаментальным устройством яблоки вообще не могли бы существовать. При этом сверхразуму не понадобилась бы никакая априорная информация (он может работать в режиме instinct-free — поэтому не повторяет и не накапливает ошибки).

Показательно, что смена доминирующих видов в процессе эволюции происходит, как правило, в моменты кризисов среды обитания. Например, млекопитающие сменили динозавров в эпоху глобального изменения климата и перераспределения типов растительности. До этого момента оба класса животных миллионы лет существовали параллельно, поскольку ресурсы это позволяли.

С другой стороны, отбор с участием разумных существ происходит гораздо жестче. Когда Homo Sapiens мигрировали из Африки на другие континенты, они уничтожали там большую часть крупных хищников за какие-то полторы-две тысячи лет. Одни подвиды Homo Sapiens в отношении других подвидов вели себя не менее жестко: колонизация Америки и Австралии привела к геноциду местных рас и к практически полному уничтожению их культуры.

Значит ли это, что реализация "сверхразума" в пределах нашей планеты приведет к ликвидации человеческой культуры? Видимо, да — поскольку сверхразуму с его методами принятия решений она явно ни к чему. На самом деле, она и нам ни к чему — поскольку, как уже было сказано выше, культура является просто самоподдерживающейся ошибкой. То, что для сверхразумных существ может выполнять роль коммуникационной системы, совершенно не похоже ни на нашу культуру, ни на нашу языковую среду.

А как же быть со столь любимыми вопросами о смысле жизни? Ведь оптимальные решения ищутся всегда для чего-то — значит должна формулироваться конечная цель.

Вопрос, на самом деле, бессмысленный. И жизнь, и разум, и любой сверх-сверх-разум преследует только одну цель: контроль над ресурсами (энергией, пространством, временем). Вопрос "зачем" так же бессмысленен, как вопрос "зачем 2x2=4?". Просто в глобальной эволюции на каждом этапе сохраняются только те системы, которые не проигрывают в конкуренции по поводу такого контроля. Это может показаться забавным, но каким бы сверх-сверх-сверх... не был будущий разум, его цель будет формулироваться в этих простых на первый взгляд представлениях термодинамики и теории игр.


Взято с http://alex-rozoff.livejournal.com/7347.html