Станислав Лем «Сумма технологии»

Книга представляет собой сборник статей с размышлениями на самые разные темы. Лем пишет, что ему пришлось довольно жёстко ограничить круг рассматриваемых тем, потому что в ином случае книга получилась бы настолько большой, что её не удалось бы завершить. Из-за такого жёсткого ограничения читателю может справедливо показаться, что книга не сбалансирована — некоторые темы разобраны достаточно подробно, а некоторые упомянуты вскользь, а то и вовсе остались за рамками обсуждения. Дальше следует моя вольная сокращённая интерпретация размышлений автора на темы, показавшиеся мне наиболее важными.

Об инопланетных цивилизациях

-----------------------------------------

Почему космос «молчит»? У Лема имеется множество различных объяснений на этот счёт.

Во-первых, может быть мы и правда одиноки. Нам лишь кажется, что если что-то возникло хотя бы раз, то это наверняка где-то и когда-то должно повториться в том или ином виде. А если так оно и есть, и мы действительно не одиноки в космосе, то почему же мы не находим следов высокоразвитых цивилизаций в космосе?

Во-вторых, дело может быть в том, что проявления таких цивилизаций кажутся нам естественными процессами. Радиосигналы ловить от них может быть бесполезно скорее всего потому, что они пользуются высокоэффективными средствами обмена информацией — остронаправленными маломощными сигналами, информация в которых сжата, зашифрована, защищена помехоустойчивым кодированием и передаётся каким-нибудь оригинальным способом модуляции.

В-третьих, на определённом этапе развития высокоразвитая цивилизация закукливается. Она создаёт для себя удобную среду для существования и развития, а происходящие вовне процессы её интересуют разве только с точки зрения имеющихся там ресурсов для обеспечения собственного существования.

В нашумевшем фильме «Аватар» технологическая цивилизация уничтожает биосоциальную цивилизацию в погоне за редкими ресурсами. В реальности наша планета могла бы быть интересной цивилизации с другой планеты в Солнечной системе. Но таких цивилизаций в Солнечной системе не наблюдается. Если же цивилизация, существующая в другой звёздной системе, достигла такого уровня развития, который позволяет ей прилететь к нам, то вряд ли они отправятся так далеко ради того, что можно без проблем найти и ближе.

Вот почему нам, скорее всего, не стоит ждать ни общения с другими цивилизациями, ни опасаться их. Придёт время — мы сами достигнем того уровня, который позволит нам без труда обнаруживать цивилизации, находящиеся на нашем нынешнем уровне развития. Вряд-ли к этому времени они будут представлять для нас какой-то интерес, отличный от того, который представляют различные дикие племена для этнографических экспедиций. Более развитые цивилизации будут рассматривать в таком же ключе нас.

Лишь в исключительно редких случаях две цивилизации могут оказаться поблизости друг от друга на примерно равном уровне развития. В таких исключительно редких случаях эти цивилизации скорее всего будут обладать разной скоростью развития, так что очень скоро более слабая цивилизация окажется в подчинённой роли, которая приведёт её к полному поглощению другой цивилизацией или приведёт её к состоянию культурно-технологического реципиента. Возможно и мирное сосуществование двух цивилизаций, находящихся на примерно равных уровнях развития, если они обладают разной биохимией и потому будут претендовать на ресурсы разного типа, естественным образом избегая конфликтов. Возможно именно соседство двух примерно равно развитых цивилизаций позволит совершить им мощный рывок в развитии, благодаря постоянному соперничеству или сотрудничеству, а одинокие цивилизации, лишённые такого стимула, могут развиваться очень медленно или вовсе добровольно остановиться в развитии на определённом этапе.

О познании

--------------

В настоящее время наблюдается экспоненциальный рост количества научных публикаций. Лем считает, что на определённом уровне роста наука столкнётся с недостаточностью ресурсов — в первую очередь людей. И тогда нужно будет каким-то образом решать эту проблему.

Во-первых, нужно будет научиться управлять направлениями исследований. Исследования более не будут стихийными и всенаправленными, но будут выполняться планомерно в рамках намеченного направления. Тут могут возникнуть трудности, потому что часто для получения результатов в одной области, требуются ещё не известные результаты из другой области. Даже когда будет установлен приоритет в исследованиях по одному направлению, то для достижения результатов в этом направлении придётся изучить ещё несколько связанных направлений. То есть, проблема с экспоненциальным ростом научной информации будет лишь слегка ослаблена, но не будет решена полностью. Другая трудность заключается в том, что для верного выбора приоритетов нужно иметь хорошее общее представление о возможных направлениях исследований. Когда в исследованиях начнут выделяться приоритетные направления, картина общего представления будет искажена в каком-то определённом направлении, так что объективный выбор сделать уже не получится. Раз вступив на определённый путь развития, человечеству придётся продолжать его.

Во-вторых, для того, чтобы справиться с экспоненциальным ростом в научных данных, можно попробовать автоматизировать науку. Лем предполагает, что в будущем появятся некие «фабрики знания». У него нет никаких идей, как в точности они будут устроены. Одно из возможных предположений — это будут системы из взаимодействующих друг с другом химических веществ, которые будут «черпать» знания из собственной структуры и свойств веществ, из которых они сложены.

В-третьих, нужно будет сосредоточиться на практических результатах, умерив попытки объяснения обнаруженных явлений, и сделав акцент на их практическом применении. Именно таким образом поступает эволюция. Нейронная сеть, которой является и мозг человека, умеет достигать практических результатов долгой тренировкой, но не коренным пониманием законов, лежащих в основе явлений. Например, человек, забрасывающий мяч в баскетбольную корзину, не рассчитывает силу и направление броска исходя из массы мяча, его формы, материала поверхности, состава воздуха, направления ветра, расположения кольца в пространстве. Человек видит корзину и бросает в неё мяч, сам не зная, каким образом он выбрал силу и направления броска. Нейронные сети не пользуются достоверными знаниями, они используют корреляции.

Об искусственном интеллекте

---------------------------------------

Возможен ли искусственный интеллект? Лем отвечает на этот вопрос утвердительно. Возьмём за основу наших рассуждений известный тест Тьюринга. Представим, что конструктор пытается создать машину, которая прошла бы тест Тьюринга. Он не ограничен в ресурсах и поэтому его первая машина представляет собой огромное хранилище со всеми возможными вопросами, которые можно задать машине, и ответами на них. Человек, проверяющий такую машину, очень скоро обнаружит, что эта машина всегда отвечает на одни и те же вопросы одинаково и не помнит прошлых бесед. Наш конструктор создаёт новую машину, которая помнит прошлые беседы и учитывает их содержание при ответах на вопросы. Предположим, что и эта машина по каким-то причинам не проходит тест Тьюринга. Конструктор создаёт и создаёт новые машины, внося в них новые доработки. Через некоторое время очередной машине удаётся убедить собеседника в собственной человечности. Обратимся теперь к длинному ряду машин. Можно ли провести границу между двумя соседними машинами, сказав об одной из них, что она не обладает интеллектом, а о другой, что она обладает интеллектом? Нет. Таким образом Лем приходит к выводу, что интеллект не является вещью, о которой можно было бы в точности судить — есть он или его нет. Интеллект — величина не дискретная, сила интеллекта может плавно возрастать от полного нуля до единицы — уровня, сравнимого с уровнем интеллекта среднего человека.

Но интеллект может быть и выше нашей условной единицы. Имеются ли пределы уровня интеллекта? Лем считает, что такой предел может существовать. По мере линейного роста системы, отдельные её части настолько удаляются друг от друга, что более не могут работать в едином ритме из-за слишком долгого распространения сигналов. Система перестаёт, таким образом, представлять собой единое целое и неизбежно распадается на части, не способные работать друг с другом согласованно. Отдельные части такой системы могут даже вступать друг в другом в соперничество или явное противостояние.

Природа неоднократно натыкалась на пределы линейного роста и неоднократно находила выход из создавшейся ситуации в создании надсистем. Одним из таких примеров было изобретение природой многоклеточных организмов. Когда даже самые большие амёбы потеряли преимущества перед клеточными колониями, природа начала экспериментировать с многоклеточными организмами. В последующем природа изобрела социальные группы, объединяющие отдельных индивидов. Примерами таких социальных групп могут служить общественные насекомые и люди. При переходе от линейного роста системы к построению надсистемы может наблюдаться деградация элементов, ставших компонентами надсистемы. Компоненты новой системы, ранее обладавшие полной автономией, отказываются от части собственных функций, передавая их другим компонентам получившейся системы. Известно, например, что современные люди обладают меньшим объёмом мозга по сравнению с неандертальцами.

Искусственный интеллект, построенный по принципам нейронной сети, мог бы оказаться полезным для достижения практических результатов в науке. Нейронные сети хорошо умеют обнаруживать корреляции между различными явлениями. Однако, нейронные сети не обладают способностью к интроспекции — они могут находить и использовать корреляции, но не могут объяснить, почему обнаруженная корреляция должна сработать. Это одна из причин, по которой искусственный интеллект в чистом виде вряд ли будет использоваться на практике в особенно ответственных областях. Прежде чем применить обнаруженную корреляцию, в целях безопасности её неплохо было бы проверить с логической точки зрения. Лем приводит такой пример: перед искусственным интеллектом ставится задача замедлить рост населения, искусственный интеллект предлагает чаще пользоваться людям определённой маркой зубной пасты. В чём заключается взаимосвязь — искусственный интеллект объяснить не может, но он точно знает, что существует связь между продажами зубной пасты и рождаемостью. Люди проведут клинические испытания этой зубной пасты и не обнаружат никакой взаимосвязи между её использованием и способностью зачать потомство. Выявленная взаимосвязь, однако, может оказаться коварной — вещество из зубной пасты может оказывать воздействие на клетки организма, в результате которого в ДНК появляется вариант рецессивного гена, который проявит себя только при встрече с другим рецессивным геном, который образовался сходным образом от лекарства от облысения. Человек, обладающий комплектом двух таких генов, будет обладать пониженной плодовитостью. Использование таких необъяснённых закономерностей может оказаться губительным в долгом масштабе времени.

Ещё одна причина, по которой, возможно, искусственный интеллект не получит широкого распространения в чистом виде, заключается в том, что создание такого интеллекта может оказаться чрезмерно неэффективным. Может оказаться, что коллектив людей, снабжённый более дешёвой техникой, будет способен достигать более точных решений с меньшими затратами. Подобно тому, как боевые человекоподобные роботы из мультфильмов в реальности окажутся слабее по всем параметрам, чем более дешёвые танки, самолёты и ракетная техника, так и универсальный искусственный интеллект может оказаться очень дорогим и менее эффективным по сравнению с коллективами людей, снабжённых специализированной техникой.

О генной инженерии

--------------------------

Поскольку люди давно уже живут в обществе, где почти не действуют законы естественного отбора, генофонд человечества становится всё более разнообразным. Это обстоятельство имеет не только положительные, но и отрицательные стороны, потому что всё большую распространённость в человеческом генофонде получают наследственные болезни. Лем считает, что человечество неизбежно будет заниматься автоэволюцией — модификацией собственного генома. Поначалу, возможно, эти модификации будут сводиться к простому устранению наследственных болезней. В последующем, возможно, модификации генома будет придано определённое направление. Каждая модификация не должна создавать очевидной разницы между людьми разных поколений, чтобы человечество не поделилось на отдельные новые виды или касты. Для соблюдения преемственности очередная модификация должна вноситься только тогда, когда прежняя модификация распространилась во всём человечестве. Такая плавная автоэволюция может придать человечеству нужные свойства, не вызывая при этом социальных проблем.

О религии и виртуальной реальности

------------------------------------------------

В одной из глав Лем обсуждает, что человечество на протяжении всей своей истории жило в условиях дефицита, в том числе дефицита знаний. Преодолевать этот дефицит помогали воля и вера, в результате чего человек, так или иначе, стремился к совершенству. Сейчас наступила эпоха изобилия. У человечества пропали стимулы для самосовершенствования, в том числе человек утратил веру. В то же время человеку необходимы непреходящие ценности, придающие жизни смысл. Лем предлагает, при наличии соответствующих технологий, изобрести загробный мир, где эквивалент души будет жить в соответствии с заслугами его прототипа в реальной жизни.

Если искусственный интеллект будет построен по принципам нейронной сети, обнаруживающей корреляции, то через некоторое время этот искусственный интеллект может обнаружить корреляции, не имеющие логического обоснования. Он будет просто верить, что явление Б следует из явления А. Таким образом, считает Лем, возникновение веры окажется обусловленным естественными причинами. А раз разум неизбежно будет изобретать веру, которая будет вступать в конфликт с рациональным началом, то выходом может оказаться рационализация веры — то самое конструирование загробных миров.

Такой загробный мир будет представлять собой один из вариантов виртуальной реальности (виртуальную реальность Лем называет «фантоматикой»). Человечество могло бы избрать своей целью конструирование искусственного мира, содержимое которого соответствовало бы наилучшим представлениям людей о справедливости или о райской жизни. Такой мир должен быть устроен так, чтобы изнутри него нельзя было обнаружить внешний мир. Наша Вселенная — хороший пример такого мира. Его границы постоянно удаляются от нас, а на скорость передвижения наложено ограничение, так что нельзя ни увидеть границы этого мира, ни достичь их.

Другой вариант виртуальной реальности предполагает подключение к нему сознания людей. Почему-то Лем вводит искусственное ограничение, что в каждой из виртуальных реальностей может находиться не больше одного человека. Это противоречит нашим современным представлениям, возникшим на основе многопользовательских компьютерных игр, в которых в одном виртуальном мире одновременно может находиться и взаимодействовать между собой по правилам этого мира множество людей.

Прочее

---------

Лем рассматривает в своей книге ещё множество других интересных тем, связанных с технологиями. Виртуальная реальность, связанная с погружением в неё людей, основывается на технологиях, которые можно использовать для так называемого телеприсутствия, которое Лем называет «телетаксией». Технологии телепортации, способные в различных вариантах не только переносить предметы, но и копировать их, Лем называет «фантопликацией». Все эти технологии — виртуальная реальность, телеприсутствие, клонирование, телепортация — порождают массу интересных вопросов на тему сущности сознания и относительности идентичности. Чем будут отличаться друг от друга оригинал и копия? Можно ли будет считать телепортированного человека оригиналом или только копией исчезнувшего оригинала? А если при телепортации сохранять оригинал?

Итог

------

В общем и целом можно сказать, что книга полностью сохранила актуальность содержания, но несколько устарела по форме. В книге имеется множество отсылок на результаты научных исследований и на книги 1960-х годов. В книге используются самостоятельно выдуманные названия для вещей вроде виртуальной реальности, телеприсутствия и телепортации. Только эти особенности напоминают о времени написания книги. Сейчас со всей очевидностью можно сказать, что только одно предположение автора оказалось полностью ошибочным — о том, что в одной виртуальной реальности не могут присутствовать сразу несколько людей. Ценность книги немножечко снизилась только из-за названных обстоятельств, да, пожалуй, из-за того, что на рассмотренные темы позже было написано немало других книг.

Долго собирался почитать СТ, и вот, наконец, решился. Сразу скажу: работа оставила двоякое впечатление.

Сначала о жанре. СТ — это трактат, и сравнивать его надо с трактатами и требования предъявлять, как к трактатам.

Теперь о плюсах.

1. Камю как-то раз заметил, что в современной философии творится безобразие: если раньше философы говорили о проблемах, то теперь говорят о других философах, и, — внимание — трактат без ссылок и цитат никто не воспринимает в серьёз. Так вот: этот трактат не цитирует другие, он посвящён проблемам. Т.е., это — правильный трактат.

2. Учитывая годы написания СТ, а так же эпоху, книга, безусловно прорывная. Поднимаются вопросы, волновавшие людей в ту эпоху.

3. Отдельно интересно посмотреть, как из 60-х гг. Лем воспринимал ИИ. Современный ИИ распространяется в виде сетей без чётко выделенного центра, а для Лема он помешён внутрь машины. Иными словами, для Лема ИИ — это высокоорганизованный робот, а современный ИИ — Матрица. Обычную «цифровую машину» — «цифруху» Лем недооценивает, считает её более низкой ступенью организации машин, недостойной самостоятельного сознания и интеллекта.

Теперь о минусах.

1. В начале — в первой главе — Лем мешает в одну кучу природное и человеческое. Если ты пишешь про технологию, то логичным первым шагом будет дать определение технологии (хотя бы примитивное — рабочее), а затем дать обзор технологий — или прошлых, или актуальных, или просто интересных автору. Вместо этого Лем долго сравнивает природный прогресс и человеческий. Делает он это, чтобы указать, чем человеческая технология отличается от приодного развития, но выводы у Лема получаются слишком общие, неконкретные.

2. В общем тексте больше вопросов, нежели ответов, и, что важно подчеркнуть, Лем сам не знает ответов на большую часть поставленных самим же вопросов. Можно сказать: часть вопросов остаются без ответов по сей день. Но от тебя, если ты пишешь трактат, не требуется истина в последней инстанции. Скажи как ты, лично ты готов ответить на эти вопросы.

Почему такая низкая оценка: потому что я сравнивают «Сумму технологии» не с фантастической литературой, а с другими трактатами. Подсознательно я надеялся, что прочту что-то, что ну хоть немного откроет мне дверь в новое измерение, а увидел набор уже известных в науке и философии вопросов.

Очень полезная, но трудная для прочтения книга. Тем не менее, это единственный известный мне пример научно-популярной книги про технологическую эволюцию. Для ИТ-шников и кибернетиков прочтение ОЧЕНЬ РЕКОМЕНДОВАНО!

В основном данная книга мне подходит не для чтения за раз, чтобы запомнить основную мысль и отложить, а для использования в качестве справочника, о проверке своих идей, например на оригинальность или логичность. Здесь отражена большая часть общечеловеческих чаяний, о грядущем веке, из тех, что витают в воздухе. Почти все с кем я разговаривал, находят свое, что вертелось на языке, сказать было трудно, а тут уже сформулировано в емкую цитату.

Мне не очень нравится что отрывки из этого произведения часто используют как «нерушимый аргумент» в споре, но что поделать, такова судьба всех отлично написанных произведений. Тем кто возьмет книгу в руки советую распоряжаться ей мудро, а не разбрасываться по мелочам цитируя направо и налево и еще проверять описанные в ней факты, все таки она написана несколько десятков лет назад и не с целью стать чисто научным трудом.

Первый раз прочитал книгу в год её первого русского издания 1968 года. Мне её дали люди всерьёз увлекавшиеся философией и социологией. Я же студент-физик МГУ был далёк от подобных проблем, казавшихся мне излишествами интеллекта. Но начав читать трудно было остановиться, настолько силён был подход основанный на знаниях и здравом смысле. Особенно меня поразил случай поатомного копирования индивида — является ли копия аналогом оригинала? И подобных неожиданных ситуаций в книге много. Для читателей с нетехническим образованием местами будет сложно уловить тонкости но в общем язык достаточно демократичный и изложение основано на здравом смысле. В любом случае трудности чтения будут вознаграждены окунанием в фонтан оригинальных идей. Если есть возможность читайте издание 1968 года. По какой то злой воле все современные издания даны в редакции Переслегина и Ютанова. Возможно почитателю Переслегина будет интересны его бесконечные пререкания с Лемом в сносках но мне лично это показалось абсолютно бессмысленным и мешающим чтению книги. В любом случае читайте и получайте удовольствие :))

Книгу прочитал лет так 12 назад. Читается конечно не легко, но того стоит.

С. Лем попытался исследовать принципиальные возможности развития технологий. Многое актуально сейчас, что-то еще предстоит понять... В общем кладезь идей.

Относительно творчества Лема сложилось такое мнение (я его уже оставлял на других ресурсах):

Сумма технологии – это теоретическая база для фантастических произведений Лема.

Поэтому можно смело сказать даже так: сумма технологии – это теория, а большинство остальных книг – это практика в примерах, литературно оформленных и приукрашенных.

Вообще-то свой подход к написанию фантастических произведений Лем высказал в «Фантастика и футорология». Подход действительно ученого, Философа и Великого Мыслителя. Там же с позиций этого подхода он и раскритиковал американскую фантастику (за исключением Ф.Дика и некоторых).

Это не художественная литература, а научно-популярная, некоторые моменты правильнее уже читать в учебниках (там более полный и корректный подход к описанию информации). Самое забавное читать в этой книге мнение автора про экстрасенсов — мол, это единичные случаи, которые попадают под теорию вероятности (хоть кто-то должен был угадать), а наука может исследовать только систематически повторяемые события. При этом вся книга — «прогноз», то есть попытка угадать развитие науки. Поэтому основную ценность в моих глазах книга теряет.

Много повторяется и описывает разными словами одно и то же, рассматривая с разных сторон. Для науки это полезно, но читать грустно.

В возрасте, когда первоначальная накипь знаний собрана и хаотично, грудой лежит в мозгах (а ум работает и не хочет проводить время на бесмысленные «гы-гы» с ПТУшниками в соцсетях и т.д...) , бессистемно и забываясь — самое время для некоторых людей прочесть эту книгу. Это время, как правило, приходит к 18-20-22 годам(У некоторых не приходит никогда...)

...прочесть внимательно и удивиться — а ведь столько лет назад уже думали над эдакими вопросами :)... (На самом деле и до Лема думали даже не сотни лет, а целые тысячелетия).

На большинство вопросов по развитию цивилизации и спустя столько лет, т.е. — сейчас: ответов не дано.

Для интересующихся астрономией/астрофизикой и т.п. — бонус.

Внятнее и логичнее ответа на вопрос «Молчание вселенной» я с тех пор так не встретил, хотя специально интересуюсь

Удивительное по своей глубине произведение, не потерявшее свою актуальность и в наши дни. И пусть я согласен с автором не во всём — его точка зрения заслуживает внимания и уважения.

Очень рекомендую прочесть «Сумму Технологий» Станислава Лема. Это не роман, там не будет ни глав. героев, ни баталий, ни мести, но там очень сильные и серьезные размышления автора, которые и через 40 лет звучат так же актуально. Там описана идея Матрицы (кстати Вачковски вроде поляки, вполне возможно что они вдохновились Лемом), там же и идея Аватара (то есть перенос личности в другое тело, а позднее и вообще отвязка от тела человеческого), теория информации, почему космос молчит и пока недосягаемый разум, почему неизбежно будут кибогри, генная инжинерия, и человечество как проект. Дочитала лишь месяц назад до сих пор под сильным впечатлением.

Совершенно фантастический труд, лежащий в основе современной футурологии. Нетривиальный ход мысли, блестящие догадки, запутанные логические цепочки, и, на выходе, — предсказания, которые сбываются.

Конечно, не обошлось без шероховатостей и неточностей в некоторых рассуждениях о современной науке. Но в этой книге заключено именно то мировоззрение и тот взгляд на мир, которого всё сильнее не хватает сегодняшнему обществу. А будущее, странное и новое, всё ближе и ближе. Сумеем ли мы разглядеть его? И — сконструировать, таким, которое нужно нам?

Не побоюсь сказать, но прочтение этого труда как минимум наполовину определило моё мировозрение и отношение к науке и околонаучным спекуляциям.

В поисках фантастики во времена «Искателя» и др. изданий, я наткнулась на библиографию Лема. Выяснила, что из изданного в наше время в России осталась мной непрочитанной «Сумма Технологии».

Начался безумный поиск. В итоге найдена она была в библиотеке в Кунцево, на полке в разделе «Наука» (!).

С тех пор вспоминаю о ней с соответствующим пиететом. По себя и мои отзывы скажу лишь, что для 19-летнего возраста надо было ОЧЕНЬ любить автора, чтобы упереться и прочитать ее. Взгляды изложены для того времени интересные, однако написано академично, хотя Лем, конечно, чувствуется.

Очень интересный взгляд на Эволюцию, на значение человека в ней. Рассмотрено всё, что только можно рассмотреть, относящиеся прямо или косвенно к Эволюции. Это, поистине, «Сумма технологий».