дб. Четвертое издание джозеф Джарратано Университет Хьюстон клиэрЛэйк Гари Райли People5oft, Издательский дом "Вильямс" Москва СанктПетербург Киев 2007 ббк 32. 973. 26 018 75 Д
 Скачать 3.73 Mb.
|
|
при эксплуатации экспертных систем возникает проблема, не присущая обычным программам, основанным на алгоритмах поскольку в обычных программах не бывает конфликтов между правилами, но таких конфликтов не следует опасаться. В действительности машина логического вывода как рази предназначена для разрешения указанных конфликтов. По существу возникновение конфликта между правилами свидетельствует о том, что произошло согласование события с шаблоном в левой части больше чем одного правила, поэтому появились предпосылки запуска сразу нескольких правил. А люди постоянно совершают свою мыслительную деятельность именно по такому принципу. Например, рассмотрим следующий парадокс игры. Допустим, что высидите в кресле и следите за футбольным матчем по телевизору, держав одной руке бокал с пивом, а в другой — горсть чипсов. Что вы отправите прежде всего к себе в рот Одно правило гласит "Если у вас есть пища, то ешьте, а другое правило говорит о том, что "Если у вас есть пиво, то пейте. Поскольку в вашем распоряжении есть и еда, и напиток, то возникает конфликт правил. К счастью, читатели этой книги могут взять на вооружение минус первый закон успеха если у вас нет намерения отправиться по какому-то конкретному адресу, то отправляйтесь туда, куда вам вздумается, поскольку неизвестно, упустите ли вы что-либо, не отправившись в другое место. В данном случае очевидное решение парадокса игры состоит в том, чтобы обмакивать чипсы в пиво, те. одновременно и есть, и пить. (В конце концов, мир стал бы совсем другим, если бы граф Сэндвич не был настолько занят азартной игрой, что не мог выделить время для обеда, поэтому просто зажал кусок мяса между двумя ломтями хлеба, изобрел таким образом сэндвич и стал знаменитым) Кроме того, задача дальнейшего усовершенствования экспертной системы после ее доставки конечному пользователю является более значимой применительно к системам коммерческого назначения. Разработчики коммерческой системы стремятся к тому, чтобы созданный ими продукт позволил достичь финансового успеха. Это означает, что разработчики всегда готовы выслушать пожелания пользователей и, воспользовавшись предлагаемой оплатой, внести необходимые усовершенствования. Мир частного предпринимательства снова и снова предоставляет доказательства, что пользователи неизменно приобретают усовершенствованные версии программного обеспечения, руководствуясь неоправданной надеждой на то, что когда-либо количество ошибок в этих программах станет меньше. Вполне естественно, что этого никогда не происходит, поскольку перечень имеющихся средств постоянно расширяется. В действительности стало общепринятой такая практика, что разработчики выпускают программные продукты с сотнями или даже тысячами известных ошибок. Фактически такой подход стал основой одного из способов борьбы с программным пиратством, поскольку законные пользователи имеют возможность выходить на Web- узел изготовителя, чтобы снова и снова загружать одну заплату за другой, затем инсталлировать сервисный. Ошибки, возникающие на различных этапах разработки пакет, после чего опять устанавливать заплаты, пока не появится следующий сервисный пакет, и т.д., до тех пор, пока компания-разработчик не будет вынуждена выпустить новый продукт, чтобы не столкнуться с жесткими штрафами со стороны Комиссии по ценным бумагами биржам за манипулирование с курсом акций. Может оказаться, что экспертная система в действительности таки не достигнет полного совершенства (как и любое подобное программное обеспечение система лишь будет становиться все лучше и лучше. 6.4 Ошибки, возникающие на различных этапах разработки Потенциальные крупные ошибки, возникающие в процессе разработки экспертной системы, могут классифицироваться с учетом тех этапов, на которых появление этих ошибок является наиболее вероятным, как показано на рис. 6.3. Ниже приведено подробное описание возможных ошибок. Ошибки эксперта. Эксперт является источником экспертных знаний для экспертной системы. Если же знания эксперта ошибочны, то результаты реализации неправильных подходов могут отразиться на всем процессе разработки. Как было указано в главе 1, побочное преимущество создания экспертной системы состоит в том, что появляется возможность обнаружения ошибочных знаний, после того как знания эксперта становятся явно выраженными. Не следует рассчитывать на то, что возможность ошибки со стороны некоторого человека исключена лишь потому, что данный человек считается экспертом. Это утверждение является столь же истинным, как и констатация факта, что вероятность ошибки со стороны эксперта намного меньше по сравнению стем, что может неправильно сообщить обычный человек, пытающийся разобраться в той же области экспертных знаний. Например, в принципе провести хирургическую операцию на головном мозге мог бы каждый, но пациент вряд ли выживет, если этим не будет заниматься опытный нейрохирург. С другой стороны, у всех на слуху телевизионные передачи, в которых сообщается о том, что в случае нанесения ущерба со стороны любого специалиста (или любого человека, обладающего деньгами, всегда найдется множество адвокатов, готовых помочь вам получить компенсацию. Применительно к ответственным проектам, в которых жизнь и собственность человека подвергаются риску, может возникнуть необходимость предусмотреть формальные процедуры для сертификации знаний эксперта. Одним из подходов, который успешно использовался NASA для организации космических полетов, состоит в проведении совещаний по разработке авиакосмической техники, на 522 Глава 6. Проектирование экспертных систем ° Ошибки в знаниях эксперта, такие как неправильные и неполные знания Семантические ошибки из-за разного толкования смысла инженером познаниями экспертом ° Неполное выявление знаний эксперта ° Синтаксические ошибки в формах представления знаний ° Ошибки в содержимом из-за неправильных и неполных знаний, а также из-за неопределенности в правилах и фактах ° Ошибки в машине логического вывода ив другом программном обеспечении инструментальных средств экспертных систем ° Ошибки логического вывода из-за неправильного определения приоритетов правил, взаимодействия правили ошибок в базе знаний ° Ошибки из-за немонотонного логического вывода Рис. Основные ошибки, возникающие в процессе разработки экспертной системы, и некоторые причины этих ошибок которых регулярно рассматриваются решения предстоящих задача для разработки этих решений применяются методы анализа. В число участников совещания входят пользователи системы, независимые эксперты в данной проблемной области, разработчики системы и руководители, поэтому появляется возможность охватить все области, от которых зависит успех разработки. Преимущество подхода, основанного на проведении совещаний группы специалистов, состоит в том, что знания эксперта подвергаются тщательной и скрупулезной проверке с самого начала процесса разработки, а это позволяет проще откорректировать ошибочные знания, ведь чем дольше ошибочные знания остаются необнаруженными, тем дороже обходится их корректировка. Если же проверка знаний эксперта не осуществляется с самого начала, то окончательной проверкой становится аттестация экспертной системы. Окончательная аттестация экспертной системы показывает, удовлетворяет ли система предъявленным требованиям, особенно в части правильности и полноты решений. Ошибки, возникающие на различных этапах разработки В крупных компаниях рабочие совещания проводятся постоянно. Иногда такие совещания именуются собраниями групп контроля производительности или обозначаются более нейтральными терминами. В 1970 — х годах проводились попытки использовать в разработке программного обеспечения одну из разновидностей совещаний по контролю заходом выполнения работы такие совещания позволяли программистам взаимно рецензировать код, разработанный каждым из участников совещания. К сожалению, этот подход быстро выродился и стал одним из самых неудачных инструментов контроля заходом работ со стороны руководства, поскольку руководители начали оценивать производительность программистов с помощью таких показателей, как "количество безошибочных строк кода в сутки" или "количество ошибок в расчете на 100 строк кода". Безусловно, руководство не стремилось погружаться в детали этого процесса контроля со стороны товарищей по работе, рассчитывая на объективность самих программистов, но некоторые коллеги не проявляли столь же товарищескую непредвзятость, когда речь шла о повышениях в должности и премиях. Совещания могут стать полезным административным инструментом при соблюдении соответствующих предосторожностей, но при оценке надежности информации, полученной входе таких совещаний, необходимо всегда учитывать, что "товарищеская" критика может оказаться далеко не такой безобидной. Еще одним полезным средством получения помощи могут оказаться фокус- группы. В частности, фокус-группы оказывают значительную помощь при осуществлении попытки узнать, какой продукт действительно найдет сбыт. В крупных компаниях обычно принято до начала разработки нового продукта нанимать людей для обсуждения сними предстоящих проблем, чтобы в распоряжении компании был кто-то, способный выслушать непредвзятую оценку того, действительно ли людям требуется данный продукт, и какие характеристики он должен иметь. А недостатки подхода с использованием фокус-группы состоят в основном в том, что с этим связаны дополнительные затраты денег и времени. Тем не менее такие затраты часто окупаются благодаря повышению эффективности процесса разработки. Кроме того, фокус-группа может сберечь для компании миллионы долларов, если с ее помощью удастся определить, что продукт, намеченный к выпуску, не отвечает ожиданиям большинства потребителей. Как правило, разработчикам системы не следует поручать выработку решений, касающихся маркетинга. Отступление от этого правила допускается только в том случае, если разработчики предназначают свой будущий продукт для людей, разделяющих общую сними культуру. В данном случае термин культура" используется в формальном смысле, как корпоративная культура или культура конечного пользователя; под культурой подразумевается общий основной набор ценностей, благодаря которым данная группа приобретает свои отличительные особенности. В частности, термин "корпоративная культура" закрепился в повседневном обиходе начиная с х годов, когда многие компании пытались опре- 524 Глава 6. Проектирование экспертных систем делить, в чем состоят их отличительные особенности по сравнению с другими компаниями. Нов настоящее время понятие корпоративной культуры постепенно теряет свою значимость в связи с распространением глобального аутсорсинга. Важность подхода, в котором учитывается общность культуры, выражается, например, в том, что наиболее успешные видеоигры создаются программистами, которые любят такие игры и постоянно участвуют в них, сидя за компьютером. Это означает, что преуспевающие разработчики видеоигр действительно знают свой рынок, а компании, в которых развита культура игры, неизменно нанимают программистов, не только достигших высокой квалификации в своей работе, но и любящих игры. Рассматриваемый пример может служить иллюстрацией к минус второму закону успеха если вы собираетесь отправиться в путешествие, то оно пройдет более удачно при условии, что вы действительно стремитесь его совершить. В х годах многие компании потратили массу времени и денег на консультантов, чтобы они помогли сформировать корпоративную культуру, ввести всеобщий контроль качества и реализовать другие "тенденции десятилетия. Такая практика все еще продолжается, поскольку деловым предприятиям по-прежнему приходится развиваться и приспосабливаться к изменяющейся ситуации. Но после того как компания становится открытой, для нее задача сохранения собственной корпоративной культуры значительно усложняется, поскольку теперь ей приходится выпускать ежеквартальные отчеты, привлекательные для фондового рынка. Это означает, что, возможно, президента компании, создавшего с нуля успешно действующую компьютерную компанию, придется заменить тем человеком, который раньше был президентом компании по выпуску безалкогольных напитков. (Примечание. Если читателя заставляет задуматься вопрос о том, почему здесь принята и положительная, и отрицательная нумерация законов успеха, отметим, что настоящая книга — приложение из области разработки философского интеллекта, а в этой области такая нумерация вполне допускается) Семантические ошибки. Любая ошибка в семантике возникает, если не удается должным образом сообщить потребителю знаний смысл самих знаний. В качестве очень простого примера предположим, что эксперт сообщает такие сведения "Огонь может быть погашен водой, а инженер познаниям интерпретирует это утверждение как: "Любой огонь может быть погашен водой. Анализ этого примера показывает, что рекомендация для всех инженеров познаниям научиться готовить пищу и самим попробовать потушить вспыхнувшее масло действительно оправдана (поскольку горящее масло невозможно потушить с помощью воды). Семантические ошибки возникают, если инженер познаниям неправильно интерпретирует ответы эксперта, или эксперт неправильно интерпретирует вопросы инженера по знаниям, или ив томи в другом случае. Ошибки, возникающие на различных этапах разработки Одна из причин, по которой возникает неправильная интерпретация, обусловлена тем, что семиотические (знаковые) ассоциации могут вызвать неправильное понимание. Например, предположим, что рядом с вами посадили нового сотрудника и каждый раз после его прибытия на работу вы чувствуете неприятный для вас запах. У вас постепенно складывается о нем неблагоприятное впечатление, а однажды вы сталкиваетесь с ним вплотную и испытываете настоящий шок, услышав заявление "Рад вас встряхнуть, тогда как фактически он сказал "Рад вас встретить" (и это зарегистрировала офисная видеокамера системы обеспечения безопасности. Безусловно, люди слышат сказанные (или читают написанные) слова, но другие чувства всегда оказывают свое влияние, и если в вашем сознании с кем-то ассоциируется что-то неприятное, то эти восприятия выражаются ив общении. Эти факторы очень важно учитывать, подготавливаясь к собеседованию с экспертом. Специальная комната, предназначенная для проведения интервью, должна иметь стены нейтрального цвета и должна быть декорирована в мягких тонах, в нее необходимо подавать свежий воздух без запахов, должна быть установлена комфортная мебель (ноне слишком располагающая к отдыху, а самое главное в этой комнате должна быть ТИШИНА. Это позволит эксперту успокоиться и подсознательно установить ассоциацию между пребыванием в специальной комнате для интервью и подробным изложением знаний предметной области. А наихудшим местом для проведения собеседования является рабочее место инженера познаниям. В этом случае эксперт чувствует дискомфорт, поскольку "играет на чужом поле. Но столь же неудобно проводить собеседования на рабочем месте эксперта, так как и там постоянно звонят телефоны, раздаются сигналы, указывающие на поступление электронной почты, к вам подходят люди "только на минутку" и все вокруг напоминает о работе, которой придется заняться сразу после окончания собеседования. Вполне естественно, что эксперты стараются как можно быстрее завершить собеседование, чтобы снова вернуться к "настоящей работе. Еще один источник ошибок, возникающих при проведении собеседования, связан с когнитивными иллюзиями [78]. В общем иллюзия — это то, что вы наблюдаете, но знаете, что оно не существует, хотя и выглядит вполне реально, как мираж в пустыне. Люди обычно испытывают затруднения, пытаясь преодолеть когнитивные иллюзии, особенно если они сочетаются с соответствующими восприятиями. Например, рассматривая классический рисунок Мюллера — Лиера (Mueller — Lyer) и даже зная о том, что длина обоих отрезков, дополненных с двух сторон стрелками, является одинаковой (рис. 6.4), вы не сможете избавиться от ощущения что эти отрезки неравны (даже после того, как измерите отрезки с помощью линейки. Причина возникновения этой иллюзии связана стем, что система зрительного восприятия человека работает независимо от той части мозга, которая отвечает за Глава 6. Проектирование экспертных систем 526 Рис. Пример рисунка, вызывающего зрительную иллюзию мышление и познание. Принято считать, что мозг функционирует на основе такой модели, как архитектура классной доски, в которой различные виды деятельности осуществляются специализированными участками нейронных кластеров. Такие кластеры могут рассматриваться как аппаратные компоненты, соединенные в мозгу связями, в отличие от привычных нам программных компонентов. Несомненно, система зрительного восприятия в процессе эволюции появилась раньше, чем когнитивные компоненты более высокого уровня, поскольку организм вообще не может выжить без развитого зрения. Когнитивные иллюзии возникают постоянно и преодолеваются с большим трудом. Например, попытайтесь ответить наследующий вопрос, не глядя на карту США "Какой город находится западнее — Лос-Анджелес, штат Калифорния, или Рено, штат Невада" Большинство людей сразу же отвечают, что это — ЛосАнджелес, поскольку он находится на побережье Тихого океана, а Рено — на внутренней территории штата Невада. Это — хороший пример рассуждений на основе здравого смысла. К сожалению, он также является примером неправильных рассуждений. В действительности город Рено расположен западнее Лос-Анджелеса, в чем можно убедиться, проведя проверку по карте или сверив географические координаты этих городов, полученные в Web. В качестве еще одного примера предлагаем ответить на вопрос о том, какой город расположен севернее, Рим или Ф Нью-Иорк? Мы привыкли видеть в фильмах солнечную Италию и заснеженный \.Ф Ъ.Ф Нью-Иорк, поэтому здравый смысл подсказывает, что Нью-Иорк находится ближе к Северному полюсу. Но и этот ответ является неправильным, поскольку Нью Ф Иорк южнее Рима. Это — еще одна когнитивная иллюзия, причем настолько навязчивая, что даже зная правду, в нее нелегко поверить, как и преодолеть описанную выше иллюзию со стрелками. Подобные когнитивные иллюзии с большим трудом поддаются обнаружению, особенно при проведении собеседования с экспертом. Достаточно сказать, что человек, являющийся экспертом водной предметной области, необязательно должен хорошо ориентироваться в любых других областях. Эксперты тоже люди, поэтому подвержены когнитивным иллюзиям, как и все остальные. Опасность состоит в том, что лицо, проводящее собеседование, может принять предположе- |