Книга в других форматах Приятного чтения! Артуро розенблюту
 Скачать 1.87 Mb.
|
|
[c.313] способность машины поглощать дальнейшую информацию начнет догонять внутреннюю информацию ее структуры. Но при некоторой степени сложности приобретенная информация может не только сравняться с той, которая была первоначально заложена в машину, но и далеко ее превзойти, и с этой стадии сложности машина приобретает некоторые из существенных характеристик живого существа. Необходима сложность Рассматриваемая ситуация допускает любопытное сравнение с атомной бомбой, с атомным реактором или с огнем в очаге. Если вы попытаетесь построить атомный реактор или атомную бомбу слишком малых размеров или зажечь большое дубовое полено одной спичкой, вы убедитесь, что всякая запущенная вами атомная или химическая реакция угаснет, как только будет удален ее возбудитель, и никогда не будет расти или оставаться на одном уровне. Лишь когда воспламенитель достигнет определенной величины, или в атомном реакторе соберется определенное количество молекул, или масса изотопа урана достигнет определенного взрывного размера, положение изменится, и мы увидим не только мимолетные и неполные процессы. Точно так же действительно существенные и активные явления жизни и обучения начинаются лишь после того, как организм достигнет некоторой критической ступени сложности; и хотя эта сложность, вероятно, достижима при помощи чисто механических, не слишком трудных средств, тем не менее потребуется предельное их напряжение. Из этого разбора, посвященного лишь некоторым идеям книги д-ра Эшби, можно заключить, что она открывает нам широкий взгляд на новые рубежи мысли. Д-р Эшби, хотя в сущности и обладает сильным математическим воображением, не является в полном смысле профессиональным математиком, и профессиональным математикам надлежит осуществить многие из набросанных им идей. Он не причисляет себя к профессиональным математикам, но он, несомненно, обладает принципиальностью и талантом, и книгу его надо читать как одни из первых плодов на ниве, заслуживающей усердного возделывания. [c.314] Приложение III. Кибернетика и человек210 (Интервью для советского журнала «Природа») 210 См.: Природа. — 1960. — № 8. — С. 68—69, в разделе «Наши интервью». Летом 1960 г. в Москве состоялся I конгресс Международной федерации по автоматическому управлению (International Federation of Automatic Control, отсюда сокращение ИФАК), в котором принимали участке ученые из многих стран. В числе американских делегатов был и Норберт Винер. Во время своего пребывания в Москве Винер дал ряд интервью, в частности настоящее интервью сотруднику журнала «Природа». — Прим. ред . Вопрос. Каково Ваше мнение относительно возможности развития математики при помощи машин? Можем ли мы ожидать, что таким путем будут открыты новые теоремы или созданы новые доказательства уже существующих? Ответ. В настоящее время уже созданы такие машины, которые не только производят сложные вычислительные операции, но также способны проверять и исправлять программу, составленную для этих машин. Можно поэтому сказать, что такие машины, в прямом смысле этого слова, сами себя обучают. Ныне идет работа по созданию таких машин, которые имеют возможность сами открывать новые теоремы из области геометрии или логики. В таком направлении работает, например, д-р Соломон из фирмы ИБМ. Принцип действия таких машин заключается в том, что различные доказательства связываются между собой на основе некоторых заранее установленных критериев. Машина сохраняет только те доказательства, которые этим критериям лучше других соответствуют, и отбрасывает все остальные. Здесь возникает важная проблема, которая интересна с философской стороны. А именно: какое [c.315] соотношение существует между индуктивной и дедуктивной логикой? Обычно новые теоремы или новые доказательства известных теорем сначала формулируются индуктивным путем, а затем доказываются строго логически, т. е. дедуктивно. В этом направлении работает известный японский математик Ватанабе. Он исходит из общих гипотез, справедливость которых может быть оценена при помощи чисел. Применяя этот метод, Ватанабе в состоянии, сравнивая гипотезы, выбрать те, которые соответствуют данному предположению и которые справедливы также в других аналогичных случаях. Данная ситуация очень похожа на ту, которая возникает при определении оптимальной стратегии в теории игр. Тут появляется то парадоксальное обстоятельство, что, применяя в этих целях вычислительные машины, мы решает проблемы индуктивной логики при помощи дедуктивной. Этот метод очень важен потому, что он дает нам представление о том, как у человека происходит процесс индукции. Обычно принимается, что индукция по существу состоит в выборе правильного результата из бесконечного числа возможностей. Однако на практике оказывается, что выбор ограничивается только конечным числом возможностей и, что самое удивительное, это число очень мало. Осознание данного факта имеет большое практическое значение. Вопрос. Известно, что у живых организмов существуют функции, которые с успехом используются в технических устройствах, например принцип обратной связи в автоматике. Каково Ваше мнение, есть ли еще какие-нибудь принципы такого рода? Ответ. Наши нынешние автоматические машины отличаются тем, что они могут правильно работать лишь в том случае, если они получают от человека необходимую им информацию и в самой точной форме. Это означает, что характер информации, вводимой в машину, в общем смысле должен быть точно и заранее известен человеку. Живые организмы, наоборот, развивают необходимую им информацию благодаря постоянному взаимодействию с природой. Это означает, что возникновение информации в живых организмах есть исторически развивающийся процесс. Мне бы хотелось еще раз подчеркнуть, что речь здесь идет именно о [c.316] взаимодействии и обмене с окружающей средой. Можно сказать, что живые организмы сами себя организуют. Как уже было показано в моих работах, о которых я рассказывал на докладе в Политехническом музее в Москве, такие явления самоорганизации имеют место и в технических устройствах. Примером могут служить электрические генераторы, имеющие несколько различных частот; будучи укрепленными на одной оси, они автоматически принуждаются генерировать на вполне определенной резонансной частоте. Как показал недавно состоявшийся в Москве I конгресс ИФАК, человек в настоящее время уже в состоянии конструировать такие самоорганизующиеся машины. Это представляет собой новую главу в истории техники. Вопрос. Успехи кибернетики настолько значительны, что в последнее время появились суждения о том, что машина якобы может полностью заменить человека. Каково Ваше мнение по этой проблеме? Ответ. Различие между человеком и машиной, прежде всего, заключается в том, что в организме человека число элементов по порядку величин во много раз больше, чем обладает машина. Из этого непосредственно вытекает, что организация элементов в организме настолько сложна, что при помощи наших современных логических средств мы не можем еще овладеть этой сложностью. Я бы даже не решился сейчас дать определение понятия «сложность». Помимо этого количественного различия, существует еще качественное отличие. Преимущество человека состоит в его гибкости, в его умении работать с неточными идеями. Это означает, что человек обладает фантазией, другими словами, он создает понятие. Преимущества машин — в скорости и точности. В некоторых странах, в том числе в США, заметна тенденция к «обожествлению» машин, к попытке приписать им такие возможности, которыми они в действительности не обладают. В этом заключается большая опасность. Далее, наши машины нуждаются в программах. Эти программы могут, правда, быть составлены другими машинами, однако для этих машин программу должен опять-таки составить человек. Данную мысль можно [c.317] продолжить — это означает, что подвижна сама граница между машиной и организмом, и ответ на вопрос, какой сложности могут быть построены машины, даст только опыт. Однако при конструировании новых машин мы всегда должны сознавать, какие возможны последствия от их применения. Программы для этих машин должны быть всегда заранее точно определены, в противном случае могут быть не только положительные, но и вредные последствия. Если последствия не будут точно известны, то может произойти то, о чем говорится в известной английской сказке, которую я обычно при рассмотрении этого вопроса привожу. Один человек стал обладателем талисмана, с помощью которого могло быть выполнено любое его желание. Однако какой ценой он должен был заплатить за такое благо, было ему неизвестно. Когда он однажды получил с помощью своего талисмана большую сумму денег, то оказалось, что он должен был за это пожертвовать жизнью любимого сына… Исполнение желания имеет свои хорошие и дурные последствия. То же относится и к новым автоматам. Применение их может иметь либо хорошие, либо плохие результаты. Какие именно получатся — это зависит от людей. Вопрос. Какими физиологическими проблемами Вы интересуетесь в настоящее время? Ответ. Сейчас я занимаюсь проблемой: как можно теоретически осмыслить способности гена или вируса к воспроизведению. Я надеюсь, что по этим вопросам смогу поговорить с моими коллегами в Москве. Вопрос. В заключение мы хотели бы спросить, каковы Ваши впечатления от Москвы и конгресса? Ответ. Я получил много хороших впечатлений от города, от успехов советских людей. Конгресс показал, что советские ученые играют значительную роль в области автоматического регулирования. Я уверен, что сотрудничество ученых различных стран приведет к еще большим успехам в деле мира и взаимопонимания на благо человечества. [c.318] Приложение IV. Машины изобретательнее людей?211 (Интервью для журнала «Юнайтед Стэйтс Ньюс энд Уорлд Рипорт») 211 Machines Smarter than Men? Interview with Dr. Norbert Wiener, Noted Scientist, // U.S. News & World Report . — 1964. — Feb. 24. — P. 84-86. Вопрос. Д-р Винер, существует ли опасность, что машины — вычислительные машины — когда-нибудь возьмут верх над людьми? Ответ. Такая опасность, несомненно, существует, если мы не усвоим реалистического взгляда на вещи. Собственно говоря, это опасность умственной лени. Некоторые так сбиты с толку словом «машина», что не представляют себе, что можно и чего нельзя делать с машинами и что можно и чего нельзя оставить человеку. Вопрос. Существует ли тенденция придавать чрезмерное значение применению вычислительных машин? Ответ. Существует культ техники. Люди заворожены техникой. Машины предназначены для службы человеку, и если человек предпочитает передать весь вопрос о способе их употребления машине, из-за слепого машинопоклонства или из-за нежелания принимать решения (назовете ли вы это леностью или трусостью), тогда мы сами напрашиваемся на неприятности. Вопрос. Согласны ли Вы с прогнозом, который мы иногда слышим, что дело идет к созданию машин, которые будут изобретательнее человека? Ответ. Осмелюсь сказать, что если человек не изобретательнее машины, то уже слишком плохо. Но здесь нет убийства нас машиной. Здесь просто самоубийство. Вопрос. Действительно ли машины обнаруживают тенденцию становиться сложнее, изобретательнее? [c.319] Ответ. Мы делаем сейчас гораздо более сложные машины и собираемся в ближайшие годы делать еще более сложные. Есть вещи, которые совсем пока не дошли до общественного внимания, вещи, которые заставляют многих из нас думать, что это случится не позже, чем через какие-нибудь десять лет. Вопрос. Можете ли Вы дать нам взглянуть в будущее? Ответ. Могу. Одним из важных событий была миниатюризация — уменьшение размеров деталей. Там, где в самом начале развития вычислительной техники понадобилась бы машина величиной с Эмпайр-Стэйтс-Билдинг212, теперь вы можете обойтись конструкцией, которая поместится в довольно небольшой комнате. Одним из главных факторов в этой миниатюризации было введение новых типов памяти — памяти, основанной на физике твердого тела, на транзисторах и т. п. Сейчас возник интерес к вопросу, как работает человеческий мозг. И за последний примерно год мы впервые получаем настоящее представление об этом. Видите ли, генетическая память — память наших генов — в значительной степени зависит от веществ, являющихся комплексами нуклеиновых кислот. В последнем году стали подозревать более или менее широко, что память нервной системы — того же рода. На это указывает открытие комплексов нуклеиновых кислот в мозгу и тот факт, что они обладают свойствами, обеспечивающими хорошее запоминание. Это весьма тонкий раздел физики твердого тела, как и физика, ныне используемая в машинной памяти. Я предполагаю — и я не одинок, — что ближайшее десятилетие увидит это в техническом воплощении. Вопрос. Иными словами, вместо магнитной ленты как элемента памяти вычислительной машины Вы будете располагать генами? Ответ. Мы будем располагать веществами, родственными генам. Называть их генами или нет, вопрос терминологический, но вещества — того же рода. Это вызовет массу новых фундаментальных исследований. Как вводить в эту генетическую память и выводить из нее данные, как ее использовать, — все это требует [c.320] большой исследовательской работы, пока едва начатой. Некоторые из нас имеют предчувствия (еще не проверенные), что ввод и вывод осуществимы посредством световых колебаний определенных молекулярных 212 102-этажный нью-йоркский небоскреб — одно из высочайших зданий Америки (381 м.) — Прим. ред . спектров. Так ли это или не так, я бы не поклялся. Но кое-кто из нас смотрит на это серьезно. Вопрос. Не будет ли пугать народ такая перспектива? Ответ. Любая перспективная возможность будет пугать народ. Она будет пугать народ, если ее использовать без понимания. Использованная же с пониманием, она может оказаться весьма ценным орудием. Вопрос. Можете ли Вы описать вычислительную машину, использующую гены как запоминающее устройство? Что было бы для нее возможно? Ответ. Слишком похоже на фантастику, чтобы говорить сейчас. Вопрос. Каковы бы были возможности подобной машины по сравнению с вычислительными машинами, которыми мы располагаем сегодня? Ответ. Они могут оказаться несравненно бо́льшими. Машина могла бы быть гораздо меньше; она могла бы пропускать гораздо больше данных. Но все, что я сказал бы о ней, было бы не только преждевременным, но и безнадежно преждевременным. Однако работа в этих областях должна проводиться, я уверен. Вопрос. Говорят, что вычислительные машины думают. Так ли это? Ответ. Если иметь в виду нынешнее положение вещей, то вычислительные машины могут обучаться. Вычислительные машины могут учиться улучшать свою работу путем ее анализа. Это, безусловно, верно. Называть ли это мышлением, вопрос терминологический. Что вещи такого рода получат гораздо большее развитие в будущем, когда наша способность строить более сложные вычислительные машины возрастет, в этом, я думаю, не приходится сомневаться. Вопрос. Существует ли вероятность, что машины могут учиться больше, чем человек? Способны ли они к этому сейчас? Ответ. Сейчас наверняка нет, и наверняка нет еще долгое время, если вообще когда- либо будут способны. Но если смогут, то лишь потому, что мы перестанем [c.321] учиться. Я хочу сказать, что намучиться легче, чем машине. Если же мы поклоняемся машине и все ей оставляем, то мы должны благодарить самих себя за все неприятности, в которые попадаем. В этом суть дела. Вычислительная машина очень хороша при быстрой работе, проводимой однозначным образом над полностью представленными данными. Вычислительная машина не может сравниться с человеческим существом при обработке еще не выкристаллизовавшихся данных. Если назвать это интуицией, то я не сказал бы, что интуиция недоступна вычислительной машине, но у нее она меньше, а экономически невыгодно заставлять машину делать то, что человек делает намного лучше. Вопрос. Что именно представляет собой обучающаяся машина? Ответ. Обучающаяся машина — это такая машина, которая не просто, скажем, играет в какую-нибудь игру по твердым правилам, с неизменной стратегией, но периодически или непрерывно рассматривает результаты этой стратегии, дабы определить, нельзя ли изменить с пользой те или иные параметры, те или иные величины в стратегии. Вопрос. Пример, который всегда приходит на ум, — машины, играющие в шашки… Ответ. Прекрасно, возьмем шашки. Машина была достаточно хороша, чтобы через некоторое время стать способной систематически обыгрывать своего изобретателя, пока тот не выучил про шашки немного больше. Вопрос. Почему же с шахматами не так? Ответ. Потому что шахматы сложнее. С шахматами тоже будет так, но это потребует гораздо более длительной работы. Вопрос. Обучаются ли машины письму? Ответ. Да. Имеются машины, способные воспринять код и перевести его в рукописный шрифт или воспринять рукописный, а также печатный шрифт и перевести его в код. О да! Это разрабатывается: можно даже воспринять речь и перевести ее в код. Вопрос. Говорить о думающих роботах, захватывающих власть над Землей, — фантастика? Ответ. Фантастика, если только народ не придет к идее: «Оставим все Железному Майку!» Я хочу [c.322] сказать: если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать ее под контролем. Иначе нельзя. Машинопоклонники, ожидающие, что машина будет работать, а народ пусть сидит и получает все без труда, думают, конечно, по-другому. Вопрос. Разумно ли используются сегодня вычислительные машины? Ответ. В 10% случаев — да. Вопрос. Поразительно низкая цифра. Почему Вы так говорите? Ответ. Потому что нужен разум, чтобы знать, что давать машине. И во многих случаях машина используется в расчете на разум, которого-то и нет. Вычислительная машина ценна ровно настолько, насколько ценен использующий ее человек. Она может позволить ему продвинуться дальше за то же самое время. Но он обязан иметь идеи. И на ранней стадии проверки идей вам не следует быть зависимым от вычислительных машин. Вопрос. Относится ли это также к применению вычислительных машин как средства автоматизации? Иными словами, не используется ли автоматизация в некоторых случаях неразумно? Ответ. Вне всякого сомнения. Однако, что касается примера, сие не моя область. Вопрос. Какие можно назвать работы, для которых машины могут применяться разумно и которые они делают лучше, чем люди? Ответ. Бухгалтерию, продажу билетов и тому подобное ведение записей. Когда мы составили свой план вычислений, машина может выполнить его гораздо лучше, чем человек. И вычислительные машины будущего смогут делать эти вещи еще лучше. Они будут обладать достаточной разносторонностью, чтобы позволить себе то, что делает мозг, — затрачивать массу усилий и все-таки достигать чего-то. Вопрос. Эти машины будущего отнимут еще много занятий у людей? Ответ. Отнимут. Вопрос. Это обострит проблему, которая уже существует. Где же решение? Ответ. Ответ гласит: мы больше не можем |