21 урок для 21 века. Урок для xxi века yuval Noah Harari 21 lessons for the 21st century copyright 2018 by Yuval Noah Harari
 Скачать 2.5 Mb.
|
|
18 НАУЧНАЯ ФАНТАСТИКА БУдУЩЕЕ — НЕ ТО, ЧТО ВЫ ВИдИТЕ В КИНО 295 НАУ ЧНА Я ФАНТАСТИК А «Она», и сериалы вроде «Мира Дикого запада» и «Черного зер- кала». Но это значит, что создатели научной фантастики должны более ответственно относиться к тому, как они изображают на- учную реальность; в противном случае они могут внушить лю- дям неверные идеи или привлечь внимание к несуществующим проблемам. Как отмечалось в предыдущей главе, самый большой грех со- временной научной фантастики, пожалуй, в том, что ее авторы склонны путать интеллект с сознанием. В результате они слиш- ком обеспокоены возможной войной между роботами и людьми, тогда как нам следует бояться конфликта между немногочислен- ной элитой суперменов, вооруженных алгоритмами, и огромным низшим классом бесправных Homo sapiens. Размышляя о буду- щем искусственного интеллекта, пока что лучше обращаться к Карлу Марксу, чем к Стивену Спилбергу. И действительно, многие фильмы на тему искусственного ин- теллекта чрезвычайно далеки от научной реальности, и возни- кает подозрение, что это лишь аллегории или что они отража- ют совсем другие проблемы. Так, снятый в 2015 году фильм «Из машины» вроде бы рассказывает о специалисте в области искус- ственного интеллекта, влюбившемся в женщину-робота, кото- рая обманывает его и манипулирует им. Но в действительности фильм повествует не о страхе человека перед умными роботами, а о страхе мужчин перед умными женщинами — в частности, пе- ред тем, что равноправие женщин может привести к их домини- рованию. Если вы смотрите фильм об искусственном интеллекте, в котором искусственный интеллект — женщина, а ученый — мужчина, скорее всего, это фильм о феминизме, а не о киберне- тике. Зачем, в конце концов, искусственному интеллекту нужна гендерная идентичность и сексуальная ориентация? Секс — это привилегия органических многоклеточных существ. Какой в нем смысл для неорганической кибернетической сущности? 296 21 УРОК ДЛЯ XXI ВЕКА ЖИЗНЬ В МАТРИЦЕ Одна из тем, в которых научная фантастика проявляет гораздо большую прозорливость, связана с опасностью использования технологии для манипуляции человеческими существами и конт- роля над ними. В фильме «Матрица» изображен мир, в котором почти все люди заперты в киберпространстве и все их пережи- вания определяются управляющим алгоритмом. В «Шоу Трума- на» показан человек, который, сам того не сознавая, стал звездой телевизионного реалити-шоу. Выясняется, что все окружающие его люди — в том числе мать, жена и лучший друг — на самом деле актеры. Все, что с ним происходит, подчиняется искусно со- чиненному сценарию, а все, что он говорит или делает, снимает- ся скрытыми камерами и транслируется на многомиллионную аудиторию поклонников. Тем не менее оба фильма — несмотря на все их достоинства — не решаются рассказать о реальных последствиях, заданных сценарием. Они предполагают, что люди, запертые в матрице, обладают настоящей личностью, которую не затронули техноло- гические манипуляции, а за пределами матрицы есть настоящий мир, до которого герои, если очень постараются, могут добрать- ся. Матрица — это лишь искусственный барьер, отделяющий настоящую внутреннюю личность от настоящего внешнего ми- ра. Преодолев многочисленные препятствия и трудности, оба героя — Нео из «Матрицы» и Труман из «Шоу Трумана» — су- мели одержать победу и вырваться из паутины манипуляций, обрести свою истинную личность, достичь настоящей «земли обетованной». Довольно забавно, что эта настоящая «земля обетованная» в основных аспектах не отличается от вымышленной матри- цы. Убегая из телевизионной студии, Труман хочет найти свою школьную любовь, которую директор шоу исключил из проекта. Но если романтическая фантазия Трумана сбудется, его жизнь 297 НАУ ЧНА Я ФАНТАСТИК А будет выглядеть точно так же, как голливудская мечта, которую «Шоу Трумана» продавало миллионам зрителей в разных стра- нах — плюс отпуск на Фиджи. Фильм не дает нам даже намека, какая жизнь может ждать Трумана в реальном мире. Точно так же, когда Нео разрушает матрицу, проглотив зна- менитую красную таблетку, выясняется, что мир снаружи не слишком отличается от мира внутри. В нем тоже есть жестокие конфликты, а люди движимы страхом, похотью, любовью и за- вистью. Фильм должен был бы закончиться тем, что Нео сооб- щают, что реальность, в которую он попал, всего лишь еще более масштабная матрица, и, если он хочет вырваться в «настоящий реальный мир», ему снова нужно выбирать между синей и крас- ной таблеткой. Нынешняя революция в науке и технологиях дает понять: де- ло не в том, что алгоритмы и телевизионные камеры способ- ны манипулировать аутентичными индивидами и аутентичной реальностью, а в том, что аутентичность — миф. Люди боятся оказаться запертыми в матрице, но не понимают, что уже запер- ты в матрице своего сознания, которое, в свою очередь, заперто внутри еще большей матрицы — человеческого общества с его бесчисленными вымыслами. Освобождаясь от матрицы, единст- венное, что вы можете обнаружить, это еще более масштабную матрицу. Когда в 1917 году крестьяне и рабочие в России под- няли восстание против царя, они в итоге получили Сталина; ко- гда вы начинаете анализировать множество способов, которы- ми мир вами манипулирует, то в конце концов понимаете, что ваша внутренняя идентичность — сложная иллюзия, созданная нейронными сетями. Люди боятся, что, будучи запертыми в матрице, они не смо- гут видеть и осязать все чудеса мира. Пока Нео находится внутри компьютерной симуляции, а Труман — внутри телевизионной студии, они никогда не увидят Фиджи, Париж или Мачу-Пик- чу. На самом деле все чувства и переживания находятся в вашем 298 21 УРОК ДЛЯ XXI ВЕКА теле и вашем мозгу. Освобождение от матрицы или путешествие на Фиджи ничего не изменят. В вашем мозгу нет железного сей- фа с большой красной надписью «Открыть только на Фиджи». Когда вы наконец доберетесь до южной части Тихого океана, вы не откроете сейф и не обнаружите особые эмоции и чувства, ко- торые сможете испытать только там. И если вы никогда в жизни не побываете на Фиджи, эти особые чувства не останутся для вас недоступными. Ничего подобного! Все, что вы можете испытать на Фиджи, вы можете почувствовать в любом другом месте — даже внутри матрицы. Возможно, мы все живем внутри гигантской компьютерной симуляции, как в фильме «Матрица». Это противоречит всем на- шим национальным, религиозным и идеологическим представле- ниям. Но наши ощущения остаются реальными. Если выяснится, что человеческая история — искусная симуляция, выполняемая на суперкомпьютере, который построили похожие на крыс уче- ные с планеты Циркон, это станет очень неприятной новостью для последователей Карла Маркса и «Исламского государства». Но эти крысы-ученые все равно должны ответить за геноцид ар- мян и за Освенцим. Как они сумели провести свой проект через комитет по этике Цирконского университета? Даже если газовые камеры были всего лишь электрическими сигналами в кремни- евых микросхемах, то боль, страх и отчаяние не стали от этого менее мучительными. Боль остается болью, страх страхом, а любовь любовью — да- же в матрице. Не имеет значения, чем вызван ваш страх — груп- пой атомов во внешнем мире или электрическим сигналом, ко- торым управляет компьютер. Страх все равно реален. Поэтому если вы хотите исследовать реальность вашего разума, то можете сделать это как внутри матрицы, так и вне ее. На самом деле большинство научно-фантастических филь- мов рассказывают очень старую историю о победе разума над материей. 30 тысяч лет назад эта история развивалась так: разум 299 НАУ ЧНА Я ФАНТАСТИК А воображает каменный нож; руки изготавливают нож; человек убивает мамонта. Но люди завоевали мир не столько благодаря изобретению ножей и истреблению мамонтов, сколько благодаря манипуляции разумом других. Разум не субъект, который по сво- ей воле формирует исторические события и биологическую ре- альность, а объект, который формируется под влиянием истории и биологии. Даже наши священные идеалы — свобода, любовь, творчество — подобны каменному ножу, который изготавли- вает кто-то другой, чтобы убить мамонта. Как свидетельствуют новейшие научные теории и самые современные технологиче- ские инструменты, разум постоянно подвергается манипуляци- ям. Нет никакой аутентичной личности, которая ждет, пока ее освободят от манипулятивной оболочки. Вспомните, сколько вы посмотрели фильмов, прочли рома- нов и стихов за все годы своей жизни и как эти артефакты фор- мировали ваше представление о любви. Романтические коме- дии отвечают за любовь, порнография за секс, а Рэмбо за войну. А если вам кажется, что можно нажать клавишу Delete и стереть все следы Голливуда из своего подсознания и лимбической сис- темы, то вы обманываете себя. Все хотят изготавливать каменные ножи, но никому не нра- вится самому быть каменным ножом. Поэтому «матричный» ва- риант старой истории о мамонтах звучит приблизительно так: «Разум воображает робота — рука создает робота — робот уби- вает террористов, но также пытается контролировать разум — разум убивает робота». Это фальшивая история. Проблема не в том, что разум не сможет убить робота. Проблема в том, что ра- зум, придумавший робота, сам уже является продуктом преды- дущих манипуляций. Поэтому убийство робота не сделает нас свободными. 300 21 УРОК ДЛЯ XXI ВЕКА дИСНЕЙ ТЕРЯЕТ ВЕРУ В СВОБОдУ ВОЛИ В 2015 году Pixar Studios и Walt Disney Pictures выпустили гораздо более реалистичную и пугающую анимационную сагу о челове- ческой природе, которая быстро завоевала огромную популяр- ность как у детей, так и у взрослых. Мультфильм «Головоломка» рассказывает об одиннадцатилетней девочке Райли Андерсен, которая вместе с родителями переезжает из Миннесоты в Сан- Франциско. Она скучает по друзьям и старому дому, ей трудно привыкнуть к новой жизни, и она пытается сбежать в Минне- соту. Но незаметно для Райли у нее в мозгу разворачивается го- раздо более масштабная драма. Райли не наивная звезда реали- ти-шоу, и она не заперта внутри матрицы. Скорее Райли сама является матрицей, и кое-что заперто у нее внутри. Компания Disney построила свою империю, раз за разом пе- ресказывая один и тот же миф. В ее бесчисленных мультфильмах герои сталкиваются с трудностями и опасностями, но в конце концов побеждают, находя свое истинное «я» и делая свобод- ный выбор. Фильм «Головоломка» жестоко развенчивает этот миф. Он придерживается самого современного нейробиологи- ческого взгляда на человека и приглашает зрителей в путешест- вие по мозгу Райли. При этом выясняется, что у девочки нет ни истинного «я», ни свободы выбора. На самом деле Райли — это сложный робот, управляемый рядом конфликтующих биохи- мических механизмов, которые в фильме изображаются в виде симпатичных мультяшных персонажей: желтой веселой Радости, синей мрачной Печали, красного вспыльчивого Гнева и так да- лее. Манипулируя кнопками и рычагами в мозговом центре, эти персонажи наблюдают за каждым движением Райли на огромном телевизионном экране и управляют настроением, решениями и действиями девочки. Неспособность Райли привыкнуть к новой жизни в Сан- Франциско — это результат неразберихи в мозговом центре, 301 НАУ ЧНА Я ФАНТАСТИК А которая угрожает полностью нарушить работу всего мозга. Что- бы исправить положение, Радость и Печаль пускаются в эпиче- ское путешествие по мозгу Райли; они едут на поезде мыслей, ос- матривают тюрьму подсознания, посещают внутреннюю студию, где творческие нейроны заняты производством снов. Погружа- ясь вместе с этими персонифицированными биохимическими механизмами в глубины мозга Райли, мы не встречаем там ду- ши, истинного «я» или свободной воли. Прозрение, на котором строится весь сюжет, происходит не в тот момент, когда девочка обнаруживает свое единственное «я», а когда становится понят- но, что Райли невозможно идентифицировать с каким-то одним центром и что ее благополучие зависит от взаимодействия мно- жества разных механизмов. Поначалу зрителей подталкивают к тому, чтобы они ото- ждествляли Райли с главной героиней — желтой веселой Радо- стью. Но в конце концов выясняется, что это было главной ошиб- кой, угрожающей разрушить жизнь Райли. Полагая, что она одна представляет суть Райли, Радость подавляет других персонажей, тем самым нарушая шаткое равновесие в мозгу девочки. Катар- сис наступает после того, как Радость осознает свою ошибку и понимает — вместе со зрителями, — что Райли не Радость, не Печаль и не какой-то другой персонаж. Райли — это очень слож- ный конгломерат, результат конфликтов и сотрудничества всех биохимических персонажей. По-настоящему удивляет даже не то, что компания Disney ре- шилась вывести на рынок фильм с таким радикальным послани- ем, а то, что он стал мировым хитом. Возможно, успех во многом объясняется тем, что «Головоломка» — это комедия со счастли- вым концом, и большинство зрителей могли не уловить как не- врологический контекст этой истории, так и ее мрачный смысл. Этого нельзя сказать о самой, пожалуй, пророческой из науч- но-фантастических книг XX века. Ее зловещую суть невозмож- но не заметить. Книга, изданная почти сто лет назад, с каждым 302 21 УРОК ДЛЯ XXI ВЕКА годом становится все более актуальной. Олдос Хаксли написал «О дивный новый мир» в 1931 году, когда в России и Италии уко- ренились коммунизм и фашизм, в Германии расцвел нацизм, ми- литаристская Япония развязала захватническую войну в Китае, а мир был охвачен Великой депрессией. Но Хаксли смог заглянуть за эти черные тучи и представить будущее общество без войн, голода и эпидемий, с вечным миром, процветанием и здоровь- ем. Это общество потребления, в котором никак не ограничи- ваются секс, наркотики и рок-н-ролл, а главная его ценность — счастье. Основная идея книги в том, что человек представляет собой биохимический алгоритм, что наука может взломать этот алгоритм, а технология — манипулировать им. В этом дивном новом мире государство использует передовые технологии и социальную инженерию, чтобы все были довольны и ни у кого не было причин бунтовать. Как будто Радость, Пе- чаль и другие персонажи в мозгу Райли стали верными агента- ми правительства. Этому обществу не нужны тайная полиция, концентрационные лагеря или министерство любви, как в рома- не Оруэлла «1984». Гений Хаксли в том, что он показал: любовь и удовольствия куда более надежные помощники в управлении людьми, чем страх и насилие. После прочтения «1984» становится ясно, что Оруэлл описал жуткий мир, словно вышедший из ночного кошмара, и остается открытым только один вопрос: как нам не дойти до такого ужас- ного состояния. «О дивный новый мир» оставляет читателя в некотором замешательстве, ведь ему предлагают самому понять, почему изображенный в книге мир кажется таким мрачным и безысходным. Это мирное и процветающее общество с доволь- ными и счастливыми гражданами. Что же с ним не так? Этот вопрос Хаксли поднимает в кульминационной сцене книги: разговоре между Мустафой Мондом, Главноуправите- лем Западной Европы, и Джоном Дикарем, который всю жизнь 303 НАУ ЧНА Я ФАНТАСТИК А прожил в резервации в Нью-Мексико и который один во всем Лондоне что-то знает о Шекспире и Боге. Когда Джон Дикарь пытается призвать жителей Лондона к восстанию против системы, которая их контролирует, люди не откликаются на его призывы, а полиция арестовывает его и при- водит к Мустафе Монду. Главноуправитель мило беседует с Джо- ном и заявляет, что если ему не нужно общество, то он должен удалиться в какое-нибудь уединенное место и жить отшельни- ком. Джон ставит под сомнение взгляды, лежащие в основе ми- ропорядка, и обвиняет Мировое Государство в том, что в погоне за счастьем оно лишило жизнь не только истины и красоты, но и всего благородного и героического: — Милый мой юноша, — сказал Мустафа Монд. — Цивили- зация абсолютно не нуждается в благородстве или героизме. Благородство, героизм — это симптомы политической неуме- лости. В правильно, как у нас, организованном обществе ни- кому не доводится проявлять эти качества. Для их проявле- ния нужна обстановка полнейшей нестабильности. Там, где войны, где конфликт между долгом и верностью, где против- ление соблазнам, где защита тех, кого любишь, или борьба за них — там, очевидно, есть некий смысл в благородстве и геро- изме. Но теперь нет войн. Мы неусыпнейше предотвращаем всякую чрезмерную любовь. Конфликтов долга не возникает; люди так сформованы, что попросту не могут иначе посту- пать, чем от них требуется. И то, что от них требуется, в общем и целом так приятно, стольким естественным им- пульсам дается теперь простор, что, по сути, не приходится противиться соблазнам. А если все же приключится в кои веки неприятность, так ведь у вас всегда есть сома, чтобы отдох- нуть от реальности. И та же сома остудит ваш гнев, при- мирит с врагами, даст вам терпение и кротость. В прошлом, чтобы достичь этого, вам требовались огромные усилия, годы 304 21 УРОК ДЛЯ XXI ВЕКА суровой нравственной выучки. Теперь же вы глотаете две-три таблетки — и готово дело. Ныне каждый может быть добро- детелен. По меньшей мере половину вашей нравственности вы можете носить с собою во флакончике. Христианство без слез — вот что такое сома. — Но слезы ведь необходимы. Вспомните, что сказал Отел- ло: «Если каждый шторм кончается такой небесной тишью, пусть сатанеют ветры, будя смерть». Старик индеец нам сказывал о Девушке из Мацаки. Парень, захотевший на ней жениться, должен был взять мотыгу и проработать утро в ее огороде. Работа вроде бы легкая; но там летали мухи и кома- ры; не простые, а волшебные. Женихи не могли снести их уку- сов и жал. Но один стерпел — и в награду получил ту девушку. — Прелестно! — сказал Главноуправитель. — Но в цивилизо- ванных странах девушек можно получать и не мотыжа ого- роды; и нет у нас жалящих комаров и мух. Мы всех их устра- нили столетия тому назад. — Вот-вот, устранили, — кивнул насупленно Дикарь. — Это в вашем духе. Все неприятное вы устраняете — вместо то- го чтобы научиться стойко его переносить. «Благородней ли терпеть судьбы свирепой стрелы и каменья или, схватив ору- жие, сразиться с безбрежным морем бедствий…» А вы и не терпите, и не сражаетесь. Вы просто устраняете стрелы и каменья. Слишком это легкий выход. Он замолчал — вспомнил о матери. О том, как в комнате на тридцать восьмом этаже Линда дремотно плыла в мо- ре поющих огней и ароматных ласк — уплывала из времени и пространства, из тюрьмы своего прошлого, своих привычек, своего одрябшего, дряхлеющего тела. Да и ее милый Томасик, бывший Директор Инкубатория и Воспитательного Центра, до сих пор ведь на сом-отдыхе — заглушил сомой унижение и боль и пребывает в мире, где не слышно ни тех ужасных слов, ни издевательского хохота, где нет перед ним мерзкого лица, 305 НАУ ЧНА Я ФАНТАСТИК А липнущих к шее дряблых влажных рук. Директор отдыхает в прекрасном мире… — Вам бы именно слезами сдобрить вашу жизнь, — продолжал Дикарь. — А то здесь слишком дешево все стоит. («Двенадцать с половиной миллионов долларов, — возразил Генри Фостер, услышав ранее от Дикаря этот упрек. — Две- надцать с половиной миллиончиков, и ни долларом меньше. Вот сколько стоит новый наш Воспитательный Центр».) — «Смертного и хрупкого себя подставить гибели, грозе, судь- бине за лоскуток земли». Разве не заманчиво? — спросил Ди- карь, подняв глаза на Мустафу. — Если даже оставить Бога в стороне — хотя, конечно, за Бога подставлять себя грозе был бы особый резон. Разве нет смысла и радости в жизнен- ных грозах? — Смысл есть, и немалый, — ответил Главноуправитель. — Время от времени необходимо стимулировать у людей рабо- ту надпочечников. — Работу чего? — переспросил непонимающе Дикарь. — Надпочечных желез. В этом одно из условий крепкого здо- ровья и мужчин и женщин. Потому мы и ввели обязательный прием ЗБС. — Зебеэс? — Заменителя бурной страсти. Регулярно, раз в месяц. На- сыщаем организм адреналином. Даем людям полный физио- логический эквивалент страха и ярости — ярости Отелло, убивающего Дездемону, и страха убиваемой Дездемоны. Даем весь тонизирующий эффект этого убийства — без всяких со- путствующих неудобств. — Но мне любы неудобства. — А нам — нет, — сказал Главноуправитель. — Мы предпо- читаем жизнь с удобствами. — Не хочу я удобств. Я хочу Бога, поэзию, настоящую опас- ность, хочу свободу, и добро, и грех. 306 21 УРОК ДЛЯ XXI ВЕКА — Иначе говоря, вы требуете права быть несчастным, — ска- зал Мустафа. — Пусть так, — с вызовом ответил Дикарь. — Да, я требую. — Прибавьте уж к этому — право на старость, уродство, бес- силие; право на сифилис и рак; право на недоедание; право на вшивость и тиф; право жить в вечном страхе перед завтраш- ним днем; право мучиться всевозможными лютыми болями. Длинная пауза. — Да, это всё мои права, и я их требую. — Что ж, пожалуйста, осуществляйте эти ваши права, — сказал Мустафа Монд, пожимая плечами 1 . Джон Дикарь удаляется в безлюдную пустыню и становится отшельником. Годы жизни в индейской резервации, религия и чтение Шекспира подготовили его к тому, чтобы отвергнуть все блага современного мира. Но слухи о необычном парне возбу- ждают любопытство и быстро распространяются по миру. В пу- стыню стекаются толпы людей, чтобы посмотреть на отшельни- ка, и вскоре он становится знаменитостью. Глубоко опечаленный непрошеным вниманием, Дикарь бежит из матрицы цивилиза- ции — он не глотает красную таблетку, а просто вешается. В отличие от создателей «Матрицы» и «Шоу Трумана» Хакс- ли сомневался в возможности бегства, потому что считал, что бежать некуда. Поскольку ваш мозг и ваша «личность» — часть матрицы, для освобождения от матрицы вы должны освобо- диться от себя. Эту возможность стоит рассмотреть подробнее. В XXI веке отказ от узкого определения личности вполне может стать необходимым средством выживания. Как жить в век неопределенности, когда старые истории потерпели крах, а новые еще не появились? Часть V ГИБКОСТЬ МЫШЛЕНИЯ Ч еловечество сталкивается с беспрецедентными революцион- ными переменами, и все наши старые истории рассыпаются, а новая, которая должна прийти им на смену, еще не появилась. Как подготовить самих себя и своих детей к миру столь мас- штабных потрясений и фундаментальных неопределенностей? Ребенку, рожденному сегодня, в 2050 году будет чуть больше 30 лет. Если с миром ничего не случится, этот ребенок доживет до 2100 года и может остаться активным членом общества даже в XXII веке. Чему учить ребенка, чтобы обеспечить ему достой- ную жизнь в том мире, каким он будет в 2050 году или в XXII ве- ке? Какие навыки ему понадобятся, чтобы найти работу, пони- мать происходящее и ориентироваться в жизненном лабиринте? К сожалению, никто не знает, как будет выглядеть мир в 2050 го- ду, не говоря уже о 2100-м, и поэтому мы не можем ответить на эти вопросы. Конечно, люди никогда не умели точно предсказывать будущее. Но сегодня сделать это гораздо труднее, чем прежде: ведь когда технология позволит нам конструировать свое тело, мозг и |