Российская академия наук институт проблем управления им. В. А. Трапезникова
 Скачать 1.88 Mb.
|
|
Литература 1. АБРАМОВА Н.А. О проблеме рисков из-за человеческо- го фактора в экспертных методах и информационных технологиях / Проблемы управления, 2007, №2. − С. 11– 21. 2. АБРАМОВА Н.А., КОВРИГА С.В. О некоторых аспектах формирования и согласования понятий и их влияния на ка- чество интеллектуальной деятельности / Тез. докл. 2-ой междунар. конф. по когнитивной науке. − СПб.: СПГУ 2006. – Т.2. – С. 607. 3. АБРАМОВА Н.А., КОВРИГА С.В., РАЗБЕГИН В.П. Об одном подходе к порождению формализованных знаний и его возможностях / Труды конференции КИИ'98. – г. Пу- щено: 1998, Т1. – С.186-192. 4. Большая советская энциклопедия. 3-е изд. – М.: Советская энциклопедия, 2001. – http://slovari.yandex.ru 5. ДЁРНЕР Д. Логика неудачи. Стратегическое мышление в сложных ситуациях. М.: Смысл, 1997. – 243 с. 6. КОВРИГА С.В. Некоторые критерии достоверности моделей на основе когнитивных карт / Труды 7-ой Между- нар. Конф. “Когнитивный анализ и управление развитием ситуаций”. М.: ИПУ РАН, настоящий сборник. 7. ПРАНГИШВИЛИ И.В., АБРАМОВА Н.А., КОВРИГА С.В. и др. Поиск подходов к решению проблем. М.: СИНТЕГ, 1999. − 192 с. 42 НЕКОТОРЫЕ КРИТЕРИИ ДОСТОВЕРНОСТИ МОДЕЛЕЙ НА ОСНОВЕ КОГНИТИВНЫХ КАРТ Коврига С.В. (Институт проблем управления РАН, Москва) maxi@ipu.ru Ключевые слова: слабоструктурированная проблемная си- туация, формализация первичных знаний, когнитивная карта, достоверность моделей. При решении самых разнообразных управленческих задач все шире применяется формализация знаний и представлений людей о проблемной ситуации посредством построения и иссле- дования моделей на основе когнитивных карт. (См., например, обзоры [5, 6].) Проблема рисков, связанных с формализацией первичных экспертных знаний и последующим применением формальных методов, поставлена лишь недавно [1] и мало изу- чена. Суть этой проблемы проявляется в том, что такие методы и соответствующие информационные технологии не обеспечива- ют достоверности получаемых решений 3 ; возникают разного рода риски, обусловленные человеческими факторами, в ходе создания и применения методов и технологий. Типичным для разработчиков методов, основанных на фор- мализации, является то, что эта проблема либо не замечается, либо недооценивается. Однако на сегодня накоплено довольно много теоретических и экспериментальных данных [1, 7], свиде- тельствующих о практической значимости проблемы. В особен- 3 Достоверность знаний, применительно к знаниям, используемым при решении практических задач, интуитивно понимается как возможность полагаться на них при решении конкретной практической задачи. В таком смысле можно говорить о достоверности модели и достоверно- сти формализации. 43 ности это касается сложных слабоструктурированных ситуаций, которые являются основной областью приложения моделей на основе когнитивных карт. Анализ опыта участия автора в при- кладной деятельности по моделированию сложных слабострук- турированных ситуаций на основе когнитивных карт, выбороч- ный анализ опубликованных карт, полученных в различных практических приложениях, также свидетельствуют о наличии рисков (для достоверности) при построении и использовании таких моделей. Значимой составляющей проблемы рисков при построении когнитивных карт слабоструктурированных ситуаций представ- ляется проблема критериев достоверности формализованных моделей. Проблема включает методологию выявления критери- ев, вопросы их теоретического обоснования, разработку спосо- бов их применения для повышения качества формализации, эмпирической проверки таких способов, их внедрения в инфор- мационные технологии. Особый интерес представляют крите- рии, которые могут применяться на этапе формализации, позво- ляя распознавать и блокировать риски для достоверности результатов и прямые семантические ошибки. В докладе представлен ряд эвристических критериев досто- верности моделей на основе когнитивных карт. (Часть из них предложена в [4].) Эти критерии могут применяться при понятий- но-структурной формализации, т.е. на этапе построения собствен- но когнитивной карты (без оценки значений ее параметров). Критерии формировались, в основном, применительно к типу моделей, в основе которых лежит линейная динамическая модель. Однако по степени их общности можно рассчитывать на приме- нимость к другим типам моделей на основе когнитивных карт. Общий критерий адекватности перевода на язык матема- тической модели и обратно основан на допущении, что основ- ным источником рисков для достоверности является искажаю- щий эффект при переходе знаний от одних носителей к другим и смене схем представления знаний [3]. Критерий связан с переводом промежуточной содержатель- ной модели первичных знаний, которая формируется у субъекта 44 при составлении когнитивной карты, на язык математической модели, подвергающейся формальной обработке, и обратным переводом математической модели в вербальную форму, обес- печивающим адекватное понимание карты. Искажения возможны как при составлении конкретной ког- нитивной карты (искажения первого рода), так и при составле- нии шаблонов словесного прочтения элементов карты теорети- ками и разработчиками соответствующих информационных технологий (искажения второго рода). Вопросы о том, какие переводы можно считать адекватны- ми, какие искажения – отрицательными и какие – несуществен- ными, на сегодня открыты. Предлагаются частные локальные критерии, направленные на снижение рисков для адекватности перевода (искажения первого рода). Имеется группа критериев, которые можно отнести к кри- териям когнитивной ясности (достижения понимания при минимуме затрат ресурсов): • наличие нормальной формы у понятий, представляющих факторы (далее по тексту понятия факторов) 4 , К с (р); • легкости перевода элементов формальной модели в вер- бальную (словесную) форму − бесконтекстность перевода математического смысла связи в карте в вербальную форму, − однотипность перевода (по вербальному шаблону). Согласнокритерию К с (р),понятие фактора р, поименован- ное принятым способом, может быть интерпретировано (понято) и как фактор, в содержательном смысле, и как переменная, 4 Понятия, представляющие факторы, обладают свойством двуликости, т.е. несут в себе двойственный смысл [1, 8]. Понятия факторов (с их содержательным смыслом) в модель, как правило, вносят эксперты, а общий математический смысл определяется носителями определенной теоретической модели. 45 принимающая значения на определенной измерительной или оценочной шкале. Проверка соответствия этим критериям и коррекции дости- гаются лингвистическими средствами – подбором подходящих словесных форм. Как показали наши исследования по составлению и прочте- нию когнитивных карт, что присущее человеку стремление к когнитивной ясности может оказывать двоякое влияние на достоверность формализации. С одной стороны, представленные критерии когнитивной ясности, по предварительной экспери- ментальной проверке, действительно способствуют снижению риска искажений за счет ясности понимания. С другой стороны, обнаружились риски искажения второго рода, обусловленные стремлением к упрощению формирования и понимания карт (например, упрощенные шаблоны словесной формулировки связей, неадекватные их математической интерпретации). Следующая группа критериев связана с оценкой связей ме- жду факторами. При оценке характера влияний факторов друг на друга, когда эти влияния осмысливаются более углубленно, может обнаружиться, что за общими понятиями скрыты разные факторы, не отражающие характер введенных между ними связей. Критерий соразмерности объемов понятий факторов сло- жился у автора в ходе участия в работе по построению моделей на основе когнитивных карт, когда при оценке влияний одних факторов на другие обнаруживалась несоразмерность понятий факторов по степени их общности в сравнении с теми реальны- ми влияниями, которые учитывались при построении карты. Формально данный критерий представляется в следующем виде: пусть 1 В A → и существует (найдено) В 2 , такое что 2 В A → и 21 22 B B V V ⊃ , где А – понятие фактора p 1 ; В 21 , В 22 – понятия фак- тора p 2 ; 21 22 , B B V V – объемы понятий В 21 и В 22 соответственно. Тогда понятие В 22 более соразмерно по объему (экстенсионалу), чем В 21 во влиянии на А, и В 21 несоразмерно А в этом влиянии (рис. 1). 46 В 21 А В 22 p 1 p 2 : Рис. 1 Несоразмерность принятых понятий по объему создавала риск неадекватной оценки сложности взаимосвязей между фак- торами. (В одном из примеров “реального” моделирования она привела к ложной транзитивности влияний и неадекватным (несоответствующим реальности) результатам моделирования.) Дальнейший выборочный анализ показал, что несоразмер- ность принятых понятий факторов по объему характерна для многих опубликованных когнитивных карт практических ситуа- ций. Вопрос о способах контроля несоответствий и их достаточ- ности на сегодня открыт. Однако, по крайней мере, частично такие несоответствия обнаруживаются применением следующе- го критерия. Критерий соразмерной полноты влияний на фактор, ( , ( )) sc K p B p , применим к любому фактору карты р с множест- вом факторов, прямо влияющих на него, ( ) B p ≠ ∅ . Критерий выполняется, если, по оценке эксперта, нет других факторов прямого влияния на фактор р, соразмерных по значимости с факторами из ( ) B p . Речь идет о соразмерных влияниях, по- скольку предполагается возможность других факторов, в том числе, неизвестных, влиянием которых в проводимом анализе можно пренебречь. Обоснованиями для введения этого критерия служат – экспериментальные исследования психолога Д. Дёрнера, в которых к типичным видам ошибок относятся ошибки односто- ронности (как особого случая неполноты); – гипотеза о зависимости состава факторов, выделяемых субъектом при построении формализованной карты определен- ной ситуации, от порядка фиксации факторов в строящейся карте, которая согласуется с данными Дёрнера и некоторыми 47 психологическими теориями (в частности, об утрате целостно- сти по Д.Шапиро); – выборочный анализ опубликованных карт, полученных в различных практических приложениях. Исправления в карте с целью удовлетворения критерия мо- гут выражаться в виде расширения состава факторов в ( ) B p ; изменения понятий факторов по объему, включая как р, так и ( ) B p ; введения формального фактора «прочие факторы» (с последующей оценкой относительной силы его влияния). Критерии согласованности коллективных понятий факто- ров, в отличие от предыдущих, учитывают, что построение и исследование моделей сложных слабоструктурированных си- туаций нередко представляет собой коллективную деятельность экспертов, аналитиков, лиц принимающих решение, и других специалистов. Эти критерии направлены на то, чтобы достичь приемлемо- го уровня взаимопонимания. В качестве основной нормы, направленной на достижение когнитивной ясности при взаимодействиях, предлагается крите- рий нормальной согласованности коллективных понятий. Этот критерий удовлетворяется в случае вполне согласованных поня- тий. Он опирается на определение вполне согласованного поня- тия 5 : Вполне согласованное понятие, в определенном сообществе с установленными или сложившимися целями и контекстом дея- тельности и установленным или сложившимся распределением ролей, − это совокупность одноименных индивидуальных поня- тий членов сообщества с такой степенью согласованности, что каждый член сообщества может пользоваться своим индивиду- альным понятием; и при этом достигается взаимопонимание. 5 Определение введено в ходе разработки модели научно- прикладного понятия [8] и уточнено в [2]. 48 В случае невозможности достичь такого уровня согласова- ния в коллективе могут применяться и более слабые и нормы согласования, например, согласование с рефлексией [2]. Выявленные критерии направлены на распознавание и бло- кирование семантических ошибок формализации первичных представлений субъекта о сложной слабоструктурированной ситуации на основе когнитивных карт, что позволяет снизить риски из-за человеческого фактора при переходе знаний от одних носителей к другим (будь то человек или компьютер) и смене схем представления знаний. Дальнейшие исследования связываются с разработкой способов их применения в информа- ционных технологиях поддержки интеллектуальной деятельно- сти построения и исследования моделей сложных слабострукту- рированных ситуаций (в частности, с разработкой интерфейса, обеспечивающего мягкое интеллектуальное управление целена- правленным процессом порождения формализованных знаний). Литература 1. АБРАМОВА Н.А. О проблеме рисков из-за человеческого фактора в экспертных методах и информационных техно- логиях / Проблемы управления, 2007, №2. − С. 11–21. 2. Абрамова Н.А. Рефлексивный подход к проблеме взаимо- понимания / Сборник статей «Человеческий фактор в управлении» / Под ред. Н.А. Абрамовой, К.С. Гинсберга, Д.А. Новикова. – М.: КомКнига, 2006. − С.52-82. 3. АБРАМОВА Н.А., КОВРИГА С.В. На пути от информаци- онных технологий к технологиям знаний / Межд. конферен- ция «Когнитивный анализ и управление развитием ситуа- ций». Материалы конф. – М.: ИПУ РАН, том 3, 2001, стр. 149-155. 4. АБРАМОВА Н.А., КОВРИГА С.В., НОВИКОВ Ф.В. О достоверности формализованных знаний и некоторых критериях ее оценки / Тез. докл.. 3-ей Междунар. конф. по проблемам управления. − М.: ИПУ РАН, 2006. – Т.2. – С. 157. 49 5. АВДЕЕВА З.К., КОВРИГА С.В., МАКАРЕНКО Д.И., МАКСИМОВ В.И. Когнитивный подход в управлении / Про- блемы управления, 2007, №3. − С. 2-8. 6. КУЗНЕЦОВ О.П., КУЛИНИЧ А.А., МАРКОВСКИЙ А.В. Анализ влияний при управлении слабоструктурированными ситуациями на основе когнитивных карт / Человеческий фактор в управлении / Под ред. Н.А. Абрамовой, К.С. Гинс- берга, Д.А. Новикова. – М.: КомКнига, 2006. – С. 313–344. 7. ДЁРНЕР Д. Логика неудачи. Стратегическое мышление в сложных ситуациях. М.: Смысл, 1997. – 243 с. 8. ПРАНГИШВИЛИ И.В., АБРАМОВА Н.А., КОВРИГА С.В. и др. Поиск подходов к решению проблем. М.: СИНТЕГ, 1999. − 192 с. 50 СИСТЕМАТИЗАЦИЯ КОГНИТИВНЫХ КАРТ И МЕТОДОВ ИХ АНАЛИЗА Кулинич А.А. (Институт проблем управления РАН, Москва) kulinich@ipu.rssi.ru Ключевые слова: когнитивная карта, анализ влияний, дина- мики изменения состояния, устойчивости когнитивных карт, поиск управляющих воздействий, объяснение, оценивание и интерпретация прогнозов и решений. Введение В настоящее время для поддержки принятия решений в сла- боструктурированных динамических ситуациях применяются различные виды когнитивных карт. Цель этой работы заключа- ется в систематизации когнитивных карт и методов их анализа. 1. Виды когнитивных карт Когнитивная карта, формально представляемая как ориен- тированный знаковый граф, является моделью представления знаний экспертов о законах развития и свойствах анализируемой ситуации. Разнообразие когнитивных карт определяется различ- ными способами экспертного задания силы причинно- следственных отношений и значений факторов в когнитивной карте. По этим двум признакам можно выделить следующие виды когнитивных карт: качественные когнитивные карты (знаковые); взвешенные когнитивные карты; нечеткие когнитив- ные карты влияния; нечеткие когнитивные карты на правилах; качественные когнитивные карты на правилах. В качественных (знаковых) когнитивных картах факторы ситуации связаны причинно-следственными отношениями, для которых определен только знак влияния: положительный (+) или отрицательный (-) [11]. В когнитивных картах, основанных на 51 взвешенных знаковых орграфах определятся знак (+ или - ) и вес влияния, определяющий силу причинной связи [9]. В нечетких когнитивных картах влияния [12], сила связей между факторами принимает лингвистические значения из множества возможных значений. В нечетких когнитивных картах, основанных на пра- вилах, определены шкалы всех факторов ситуации как множест- во лингвистических значений, заданных функциями принадлеж- ности и нечетких правил изменения значений факторов «Если…, То…» [12]. В качественных когнитивных картах, основанных на правилах, определены шкалы факторов в виде упорядоченных лингвистических значений и правило, связывающее эти значе- ния линейной зависимостью [6]. 2. Методы анализа когнитивных карт Методы анализа когнитивных карт и поддержки принятия решений следующие: анализ влияний, анализ динамики измене- ния состояния (прогноз развития ситуации); анализ устойчиво- сти; сценарный анализ; поиск управляющих воздействий; под- держка объяснений, оценивания и интерпретации прогнозов развития ситуации. 2.1. Анализ влияний Анализ влияний в когнитивной карте направлен на опреде- ление знака и силы непрямого и суммарного влияния между любой парой факторов в знаковых и нечетких когнитивных картах. Наиболее известные методы анализа влияний в когни- тивных картах основаны на: 1. Каузальной алгебре Аксельрода [11], позволяющей опре- делить только знак влияния между факторами; 2. Гипотезе о том, что сила влияния между вершинами ос- лабевает с увеличением длины пути [17], связывающего эти вершины. Этот метод, кроме знака влияния позволяет опреде- лить еще и силу влияния. 3. Каузальной алгебре Б. Коско [12], позволяющей опреде- лить силу и знак влияния в нечетких когнитивных картах влия- ния лингвистическим значением. 52 2.2. Анализ динамики изменения состояния ситуации При анализе динамики изменения состояния ситуации ана- лизируется поведение ситуации - изменение значений всех факторов в ответ на изменение значений некоторых из них – входных факторов. Для анализа динамики задаются шкалы факторов, позволяющие выразить их значение в числовом или лингвистическом виде. Рассмотрим две группы моделей для анализа динамики из- менения состояния ситуации: недетерминированные и детерми- нированные модели динамики. 1) В недетерминированных моделях динамики значения ве- сов на дугах когнитивной карты интерпретируется как степень неопределенности влияния фактора на фактор. В этом случае, на вход когнитивной карты поступает вектор степеней неопреде- ленности изменения входных факторов, а на выходе получаем прогноз в виде вектора степеней неопределенности изменения значений всех факторов ситуации. В зависимости от меры неопределенности, используемой при построении и настройке когнитивной карты, используются три модели вывода прогноза развития ситуации. Если значения на дугах интерпретируется как: a) Условная вероятность, то для получения прогноза ис- пользуется правило вычисления вероятностей Байеса [16]. b) Коэффициенты уверенности, то правило вывода про- гноза развития ситуации предложено в работе [18]. c) Степень принадлежности, то для вывода используется композиционное правило вывода Л. Заде [2, 10]. 2) В детерминированных моделях динамики веса на дугах когнитивной карты интерпретируются как передаточные коэф- фициенты. В этом случае, прогноз развития ситуации выражает- ся в абсолютных значениях факторов, как реакция на абсолют- ные изменения значений факторов из входного множества. Рассматриваются три модели этого класса. а) Модель, описывающая динамику ситуации системой конечно-разностных уравнений [4, 8, 9]. 53 b) Нечеткая модель динамики, основанная на правилах [12]. Факторы определены как лингвистические переменные, значения которых заданы функциями принадлежности. Динами- ка изменения состояния задается с помощью системы нечетких правил «Если, То…». Нечеткий вывод осуществляется на основе импликации Мамдани [13] или Сугено [19]. с) Качественная модель динамики, основанная на прави- лах. В этой модели для каждого фактора определено упорядо- ченное множество его лингвистических значений. Динамика изменения состояния определяется правилами, связывающими изменения значения фактора причины и фактора следствия простой функциональной зависимостью (линейной) [6]. 2.3. Анализ устойчивости когнитивных карт Анализ устойчивости когнитивных карт позволяет: во- первых, верифицировать когнитивную карту, т.е. выявить те ошибки эксперта, построившего карту, которые привели к ее неустойчивости; во-вторых, найти структурные решения, т.е. решения направленные на изменение структуры карты. По- скольку дуги когнитивной карты отражают законы или законо- мерности предметной области, то изменение карты интерпрети- руется как решение по изменению этих законов. Для анализа устойчивости когнитивных карт используется метод [9], основанный на представлении когнитивной карты (орграфа) в виде обобщенной знаковой «розы», связывающей ее устойчивость со структурой. Анализ обобщенной «розы» позво- ляет найти изменения структуры карты, позволяющие добиться ее устойчивости. Другой метод, основанный на полиэдральном анализе орграфа, позволяет выявить типовые структуры орграфа с характерным для этой структуры поведением [1]. Для графовых моделей, включающих большое число факто- ров и связей между ними, применяется метод, основанный на нахождении сильных компонент графа [4, 9]. В работе [4] пред- лагается анализировать устойчивость отдельных сильных ком- понент и стабилизировать их путем ввода дополнительных связей или удалением связей в самой компоненте; вводить до- 54 полнительные связи между разными компонентами; вводить динамическую обратную связь с использованием нового графа регулятора. Структурные решения, получаемые с помощью описанных выше методов, требуют интерпретации в предметной области, которые не всегда возможны. В работе [5] предложен метод поиска структурных решений, основанный на представлении альтернатив управления ситуацией в модели кластерной поня- тийной системы предметной области. Поиск структурного ре- шения в этой модели основан: вначале на поиске допустимой интерпретации, а затем на поиске структурного решения (изме- нений структуры), соответствующего этой интерпретации. 2.4. Сценарный анализ Сценарный анализ основан на сравнительном анализе пове- дения ситуации при различных входных воздействиях. Он по- зволяет сгенерировать сценарий и обосновать наиболее пред- почтительный вариант развития ситуации [3]. 2.5. Поиск управляющих воздействий Поиск управляющих воздействий для перевода ситуации в целевое состояние основывается на решении обратной задачи (inverse problem). В этой работе рассмотрены алгоритмы реше- ния обратной задачи для систем конечно-разностных уравнений [8] нечетких и качественных моделей динамики, основанных на правилах [14, 15]. 2.6. Поддержка принятия решений Объяснение, оценивание и интерпретация прогнозов разви- тия ситуации направлены на верификацию когнитивной карты и поддержку генерации управленческих решений. В работе [7] показано, что в качественных когнитивных картах, основанных на правилах, объяснение сводится к нахож- дению пути в орграфе, имеющему максимальное влияние. Для оценивания прогнозов развития ситуации в работе [6] предложе- на интегрированная модель динамики и оценки, включающая качественную модель динамики, основанную на правилах и иерархическую модель оценивания ситуации. 55 Для поддержки интерпретации прогнозов развития ситуа- ции и решений обратной задачи в работе [5] предложено, про- гнозы развития ситуации и решения обратной задачи представ- лять в понятийной системе предметной области и связывать их с обобщенными понятиями предметной области, облегчающими интерпретацию прогнозов развития ситуации. |