дб. Четвертое издание джозеф Джарратано Университет Хьюстон клиэрЛэйк Гари Райли People5oft, Издательский дом "Вильямс" Москва СанктПетербург Киев 2007 ббк 32. 973. 26 018 75 Д
 Скачать 3.73 Mb.
|
Катастрофической потери информации не происходит. Кроме того, такая форма хранения и обеспечения качества хранимых данных характерна для голограмм. ° Данные хранятся естественным образом, будучи представленными с помощью ассоциативной памяти. Ассоциативной памятью называют такую память, в которой достаточно выполнить поиск частично представленных данных, чтобы полностью восстановить всю хранимую информацию. В этом состоит отличие ассоциативной памяти от обычной памяти, в которой восстановление данных осуществляется путем указания точного адреса восстанавливаемых данных. А в ассоциативной памяти вся первоначальная информация может быть извлечена даже при наличии неполных или зашумленных входных данных. ° Сети позволяют выполнять экстраполяцию и интерполяцию на основе хранимой в них информации. А обучение позволяет придать сети способность осуществлять поиск важных особенностей или связей в данных. После этого сеть становится способной к экстраполяции и обнаружению связей во вновь поступающих данных. Водном эксперименте было проведено обуче- 110 Глава 1. Введение в экспертные системы ние нейронной сети на гипотетическом примере семейных связей между людьми. В результате этого сеть приобрела способность правильно отвечать на такие вопросы о связях, в отношении которых обучение не проводилось. Новейшие достижения в технологии искусственных нейронных систем Для коннекционистов, или специалистов по нейронным сетям основное направление разработок развивается вокруг идеи о том, что в своих психологических исследованиях мы должны "относиться к мозгу серьезно. Безусловно, истоки этой идеи можно проследить до тех философских работ древнегреческих ученых, в которых рассматривались действия жизненных духовных начал в нервной системе. В дальнейшем Рене Декарт изложил в своих трудах важные предположения, касающиеся этой темы. А разработка самих искусственных нейронных систем началась с исследований по математическому моделированию нейронов, выполненных Маккаллохом и Питтсом в 1943 году. Объяснение процесса обучения с помощью нейронов предложено Хеббом (НеЬЬ) в 1949 году. В хеббовском ° Сети обладают пластичностью. Даже после удаления определенного количества нейронов может быть проведено повторное обучение сети до ее первоначального уровня навыков, если осталось достаточное количество нейронов. Такая особенность является также характерной для мозга, в котором могут быть повреждены некоторые части, но со временем с помощью обучения достигнуты первоначальные уровни навыков. Благодаря таким особенностям искусственные нейронные системы становятся очень привлекательными для применения в роботизированных космических аппаратах, нефтепромысловом оборудовании, подводных аппаратах, средствах управления технологическими процессами ив других технических устройствах, которые должны функционировать продолжительное время без ремонта в неблагоприятной среде. Искусственные нейронные системы не только позволяют решить проблему надежности, но и предоставляют возможность уменьшить эксплуатационные расходы благодаря своей пластичности. Причем, даже если есть возможность выполнять ремонт аппаратных средств, то, по-видимому, более экономически эффективным является перепрограммирование нейронной сети, чем ее замена. Нов целом искусственные нейронные системы не очень хорошо подходят для создания приложений, в которых требуются сложные математические расчеты или поиск оптимального решения. Кроме того, искусственная нейронная система не является наилучшим вариантом, если существует практически применимое алгоритмическое решение (безусловно, если нет возможности создать менее дорогостоящую искусственную нейронную систему на основе микросхемы. Искусственные нейронные системы обучении эффективность активизации одних нейронов другими возрастает с увеличением количества запусков. Термин запуск означает, что нейрон испускает электрохимический импульс, способный стимулировать другие связанные с ним нейроны. Повышение эффективности активизации свидетельствует о том, что проводимость соединений между нейронами на участках их сопряжения, называемых синапсами, возрастает с увеличением количества запусков. А в искусственной нейронной системе для моделирования изменений проводимости синапсов естественных нейронов применяется способ корректировки весовых коэффициентов соединений между нейронами [90]. В году Розенблатт опубликовал свою книгу, оказавшую значительное влияние на дальнейший ход исследований, в которой рассматривалась новая исследованная им разновидность искусственной нейронной системы, получившая название персептрон. После этого стало очевидно, что персептрон — замечательное устройство, которое обнаруживает способности к обучению и распознаванию образов. По существу, он состоит из двух слоев нейронов и предоставляет возможность использовать простой алгоритм обучения. Но весовые коэффициенты должны устанавливаться в нем вручную, в отличие от современных искусственных нейронных систем, которые сами способны устанавливать свои весовые коэффициенты на основе обучения. Под влиянием этих достижений в течение х годов многие исследователи перешли в область искусственных нейронных систем и приступили к изучению персептронов. Эта ранняя эпоха исследования персептронов подошла к концу в 1969 году, когда Минский (Minsky) и Пейперт (Papert) публиковали книгу Perceptrons, в которой показали теоретические ограничения персептронов, рассматриваемых как вычислительная машина общего назначения. Эти авторы подчеркнули то, что персептроны способны вычислять только 14 из 16 основных логических функций, поэтому обладают неустранимыми недостатками. Это означает, что персептрон нельзя считать вычислительным устройством общего назначения. В частности, они доказали, что персептрон неспособен вычислять функцию исключительного ИЛИ. Безусловно, эти ученые не проводили серьезных исследований многослойных искусственных нейронных систем, но высказали пессимистическое мнение о том, что даже многослойные сети не будут способны решить задачу вычисления функции исключительного ИЛИ. Бюджетное финансирование исследований в области искусственных нейронных систем было сокращено в пользу символического подхода к разработке искусственного интеллекта с использованием таких языков, как LISP, и алгоритмов. В х годах получили широкое распространение новые способы представления символической информации в приложениях искусственного интеллекта на основе фреймов, предложенные Минским. В дальнейшем на основе фреймов был создан современный подход, в котором применяются сценарии. Но современная технология интегральных схем позволяет легко конструи- Глава 1. Введение в экспертные системы 112 Рис. Искусственная нейронная сеть Хопфилда Одной из искусственных нейронных систем, позволяющих легко решить задачу вычисления исключительного ИЛИ, является сеть с обратным распространением, известная также как сеть, основанная на обобщенном дельта-правиле. Сеть с обратным распространением, как правило, реализуется в виде сети ровать персептроны и другие искусственные нейронные системы, поскольку эти технические устройства являются достаточно простыми. Исследования в области искусственных нейронных систем продолжались в небольших масштабах ив х годах, а в конце х годов Джеффри Хинтон (Geoffrey Джеймс Макклелланд (James McClelland), Дэвид Рамелхарт (David Rumelhart), Пол Смоленский (Paul Smolensky) и другие члены Parallel Distributed Processing Research Group проявили интерес к теориям познания, основанным на нейронных сетях. Основополагающая книга, Parallel Distributed Processing. Explorations in the Microstructure of Ñognéãon, опубликованная этими учеными в 1986 году, ознаменовала собой возврат к коннекционизму как к принципиально значимой теории познания. В дальнейшем Хопфилд (Hopfield) разработал надежное теоретическое основание искусственных нейронных систем на примере Hopfield Net (сети Хопфилда) и показал, что с помощью искусственной нейронной системы можно решать самые разнообразные задачи. Общая структура сети Хопфилда приведена на рис. 1.12. В частности, Хопфилд показал, что с помощью искусственной нейронной системы задачу коммивояжера можно решать за постоянное время, тогда как в обычных алгоритмических решениях обнаруживается комбинаторный взрыв. Искусственная нейронная сеть, выполненная в форме электронной схемы, способна решить задачу коммивояжера за 1 микросекунду или за меньшее время. Кроме того, искусственные нейронные системы способны легко решать другие комбинаторные задачи оптимизации, такие как раскраска карты четырьмя цветами, реконструкция формы объектов в евклидовом пространстве и поиск перестановочного кода. Искусственные нейронные системы стремя слоями, хотя могут быть также заданы дополнительные слои. Слои, находящиеся между входными выходным слоями, называются скрытыми слоями, поскольку для внешнего мира видимы только входной и выходной слои. Еще одним широко применяемым типом искусственной нейронной системы является сеть со встречным распространением, которая была предложена Хехтом-Нилсеном (Hecht-Nielsen) в 1986 году. А один из важных теоретических результатов в математике, теорему Колмогорова, можно интерпретировать как доказательство того, что трехслойная сеть си входами и 2n + 1 нейронами вскрытом слое позволяет представить любую непрерывную функцию. Приложения технологии искусственных нейронных систем Важный пример обучения с помощью обратного распространения был продемонстрирован с помощью нейронной сети, которая обучалась правильному произношению слов, представленных в виде текста. Эта искусственная нейронная система обучалась путем корректировки своего выхода с помощью устройства преобразования текста в речь, называемого DECTalk. Для разработки правил грамотного произношения, используемых в устройстве потребовалось двадцать лет лингвистических исследований, а искусственная нейронная система освоила эквивалентные навыки произношения за одну ночь, просто прослушивая правильное произношение речи вовремя чтения текста. При этом в самой этой искусственной нейронной системе не было заложено путем программирования никаких лингвистических навыков. Искусственные нейронные системы использовались для распознавания радарных целей с помощью электронных и оптических компьютеров. В перспективе на основе новых реализаций нейронных сетей с применением оптических компонентов могут быть созданы оптические компьютеры с быстродействием, превышающим в миллионы раз быстродействие электронных компьютеров. Привлекательность реализаций искусственных нейронных систем на основе оптических компонентов обусловлена тем, что свет характеризуется свойством параллельного распространения. Это означает, что не происходит обоюдное воздействие совместно распространяющихся световых лучей. А такие оптические компоненты, как зеркала, линзы, высокоскоростные программируемые пространственные модуляторы света, массивы оптических устройств с двумя устойчивыми состояниями (способные действовать как оптические нейроны) и дифракционные решетки, позволяют легко вырабатывать и осуществлять манипуляции с огромными количествами фотонов. Складывается впечатление, что оптические компьютеры, спроектированные как искусственные нейронные системы, и сами ИНС являются дополнительными по отношению друг к другу Глава 1. Введение в экспертные системы Классические приложения искусственных нейронных систем обсуждаются в. В частности, искусственные нейронные системы являются полезным компонентом таких систем управления, в которых обычные подходы являются неприменимыми [38]. В действительности, как показано в [48], искусственные нейронные системы широко используются во многих промышленных системах управления в этом можно также убедиться, перейдя по ссылкам, приведенным в приложении Ж Коннекционистские экспертные системы и индуктивное обучение С использованием искусственных нейронных систем могут быть также созданы экспертные системы. Водной из экспертных систем искусственная нейронная система представляет собой базу знаний в области диагностики, сформированную путем обучения на основе примеров, взятых из практической медицины. Эта экспертная система предпринимает попытки распознать заболевание по его симптомам как одно из известных заболеваний, поданным о которых была обучена система. Кроме того, была спроектирована машина логического вывода, называемая (Matrix Controlled Inference Engine), в которой применяется база знаний на основе искусственной нейронной системы. В этой системе используется прямой логический вывод для формирования логических заключений и обратный логический вывод — для передачи пользователю запросов на предоставление тех дополнительных данных, которые требуются для выработки решений. Безусловно, сама эта искусственная нейронная система неспособна объяснить, почему ее весовым коэффициентам присвоены те или иные значения, но машина MACIE способна интерпретировать ответы искусственной нейронной системы и вырабатывать правила IF — THEN, применимые для объяснения ее знаний. В подобной экспертной системе на основе искусственной нейронной системы используется индуктивное обучение. Это означает, что система логически выводит информацию, содержащуюся в ее базе знаний, с помощью примеров. Индукция — это процесс логического вывода общего случая из частных. Как показано в приложении Ж, кроме искусственных нейронных систем, имеется целый ряд коммерчески доступных программных средств принятия решений, позволяющих явно вырабатывать правила с применением примеров. Индуктивное обучение используется для уменьшения значимости или устранения узкого места, связанного с приобретением знаний. Вся нагрузка по приобретению знаний возлагается на экспертную систему, поэтому появляется возможность сократить время разработки и повысить надежность, если система логическим путем выводит правила, которые небыли известны человеку. Сведения о многих экспертных системах. Современное состояние разработок в области. применяемых в сочетании с искусственными нейронными системами, приведены в [36]. 1.15 Современное состояние разработок в области искусственного интеллекта В течение 1990-х годов в области искусственного интеллекта были реализованы значительные достижения, и эта тенденция продолжается в XXI столетии. А приверженцы таких взглядов, что единственным приемлемым направлением разработок искусственного интеллекта является создание сильного искусственного интеллекта, основанного на логике и рассуждениях, сумели добиться лишь очень ограниченного успеха в создании систем, которые таки не вышли за пределы замкнутого мира лабораторий. Успешно действующие системы на основе искусственного интеллекта, которые смогли противостоять грубой реальности жесткого, конкурентного рынка, обычно создавались на базе систем, в основе которых лежат биологические принципы. Эволюция искусственного интеллекта с х годов показана на рис. 1.13. На этом рисунке течение времени показано сверху вниз. Первоначально разработки в области искусственного интеллекта подразделялись на два основных подхода. Водном из них использовались модели, созданные на базе символической логики, а в основу другого важного подхода легли результаты изучения биологических процессов. Между этими двумя направлениями всегда существовала жестокая конкуренция, но исходя из результатов опыта, полученного при реализации решений на базе искусственного интеллекта, теперь можно утверждать, что в общем ни один из этих отдельно взятых подходов не позволяет получить правильный ответ на сложную задачу. Самым лучшим, на что можно надеяться, является оптимальное решение, но чаще всего приходится довольствоваться просто хорошим решением. В правой части схемы, приведенной на рис. 1.13, показаны новые подходы, основанные на достижениях физики, особенно тех, в которых используются квантовые компьютеры. Безусловно, в наши дни считается, что применение квантовых компьютеров приведет лишь к ускорению поиска на несколько порядков величины, но такой способ использования указанных устройств слишком упрощен. Сразу после открытия в XX веке квантовой механики благодаря анализу уравнения Шрёдингера и эквивалентного ему формализма, матричной механики Гейзенберга, многие ученые, включая Альберта Эйнштейна, ее не признавали. Сам Эйнштейн любил повторять "Бог не играет в кости со Вселенной. Тем не менее квантовая механика неразрывно связана с вероятностью, и поэтому, в отличие от классической ньютоновской теории, теперь ни одно утверждение не может рассматриваться как абсолютная истина. Фактически предложена даже та (D s Мол С ц хв ОБ о ? С «6 hC S m Б CL о е- Б о Я LQ а s m О од х ЛС6ЯФ от Ь Б в ] m z CL С цо а CI Ь о о CL C о о m Го- в Б во во со) о в Б Ф тот со Фа о в э S >- о в I- с Ф (D л т Ио сов о о отв л т д Ос о X в ez та Ф z т д X Ф о m Со о о о (6 ат ст ое ес ох Ст т в л са о s о Е о в л X >s о sl ос О X аГ ото во а в '.» m а. m О о о Л U Tl а о I- (D Бог со Б s о s S Б а Св е CD m Со ш Фут о > Ф с Б т Бос М s Ф CL о Ф 1 М S I ос Ф m тол в с Б Ф с (Л (/) ш Ъ о аХ ох Со С 1 ID с с Ф т Я о I о X Ф о S Ф s о S m CL в Илл л z CLQ) mmm в I- m ооа о s z C oom Щ ОБ) о а О о в Л > I- Л осба Б в m У го а- - а с6 ОС6С а Ф о о I- S СО са с С С Со ар И Я а в л m Ф с й - С эх С Л m Ро ото) С до С6 х о Са>т ФИ л т mmz О m < о о uc( ov SZ о о саГ а сбс> р о о о Y CL m л :.1 .. Сов Ж С Ль Ф л, аР CmZC о сосл Б м тов с с muon С O m С л т ь z Ео асс о z 1.15. Современное состояние разработок в области. 117 кая теория, согласно которой сознание рассматривается как феномен квантовой механики [85]. Многие ученые размышляли на тему о том, что разум и сознание сами могут рассматриваться как эмерджентное (от слова emergent появляющийся) свойство мозга, поскольку мозг состоит из нейронов, которые в конечном итоге состоят из атомов и субатомных частиц. В свою очередь, эти частицы могут рассматриваться как квантовая пена, лежащая в основе всего существующего. Пространство субатомных частиц является дискретным, а не непрерывным, как принято считать в математике и классической ньютоновской физике, а расстояния в нем настолько малы, что не превышают 10 О метров. По мнению физиков, в масштабах столь малых расстояний пространство имеет необычных измерения, а 11 измерений. Безусловно, для человека очень лестно считать, что все истины могут быть установлены лишь с помощью человеческих рассуждений и размышлений, но, как установили еще философы Древней Греции, те. примерно 2500 лет тому назад |