Выравнивание инженерного доверия теория, метод и эксперименты а
 Скачать 0.97 Mb.
|
|
Правила для Выравнивание Общий Новая оценка доверия Отправить оценку доверия на основе неизвестных взаимодействий 9 Правила для 3 Проводите индуктивное обучение Набор сообщений о выравнивании Конкретная форма Модель доверия 7 5 2 Принять решение о цели 4 1 А. Костер и соавт. / Междунар. Дж. Человеко-компьютерные исследования 70 (2012) 450–473 Рис. 1. Схематический обзор процесса согласования доверия. (продолжение сноски) контрпродуктивно. Вместо этого нам нужно найти способы перевода доверия из субъективной системы отсчета одного агента в другую. Один из способов сделать это предлагается в этой статье. 453 Если есть много общих взаимодействий, согласование может быть лучшим выбором, а в противном случае - аргументация. Кроме того, это пропозициональные атрибуты, которые могут быть недостаточно выразительными для описания взаимодействий. Еще один метод прямого подхода к общению о доверии — это попытка спорить об оценках доверия. Работа в этом направлении была описана Pinyol и Sabater-Mir (2010) и Matt et al. (2010). Кажется, что такой подход и согласование, описанное в этой статье, могут очень хорошо дополнять друг друга. Во-первых, перевод можно использовать в рамках аргументации оценок, с которыми агенты расходятся во мнениях. Во-вторых, агент может быть оснащен обоими и использовать то, что лучше всего подходит для ситуации. Наконец, у агентов должен быть какой-то метод формирования выравнивания на основе утверждений на этом языке. Весь процесс показан на рис. 1. Агент Алиса — это агент, выполняющий согласование с Бобом, который отправляет требуемые сообщения. На рисунке эллипсы представляют объекты или наборы объектов в процессе выравнивания, а прямоугольники представляют действия или вычисления агента. Процесс выравнивания начинается с пункта (1) приема набора сообщений выравнивания. На этапе (2) на рис. 1 принимающий агент формирует набор специальных правил для выравнивания (SRA), Однако этот метод не учитывает ситуативный аспект доверия: в разных контекстах агенты могут по-разному оценивать доверенных лиц. При простом усреднении это различие не учитывается. BLADE (Regan et al., 2006) пытается исправить это. Он связывает прошлые рейтинги с взаимодействием, на котором основан рейтинг, и использует байесовский подход к обучению, чтобы выяснить, какие атрибуты коррелируют с каким рейтингом. Затем для неизвестного агента система может, получив рейтинг, дать распределение вероятностей по атрибутам взаимодействий. При оценке системы используются взаимодействия только с одним единственным внутренним свойством, что поднимает вопросы о том, как учащийся приспосабливается к более сложным средам. Учащийся также не позволяет использовать фоновые знания, и поэтому любая контекстуальная информация должна быть закодирована во взаимодействиях. Во-первых, мы рассматриваем агентов с гетерогенными моделями доверия, которые мы хотим рассмотреть, не вдаваясь в особенности этих моделей, чтобы сохранить структуру как можно более общей. Кроме того, для согласования агенты должны общаться, и для этого нам нужно определить язык. Несмотря на эти недостатки, подход кажется очень перспективным. В этой статье мы будем использовать третий подход: рассматривать общение о доверии как отдельную проблему и пытаться решить ее. Насколько нам известно, есть две системы, которые следуют этому подходу. Первая — это модель, описанная Абдул-Рахманом и Хейлсом (2000), которая подходит к проблеме, связывая рекомендации по доверию с их собственным непосредственным опытом. Толкование сплетен основано на предыдущих взаимодействиях с одним и тем же отправителем. Он вычисляет смещение путем усреднения разницы между собственной оценкой агента и входящей сообщенной оценкой. Затем это вычитается из будущих оценок, переданных тем же агентом. так что эти подходы будут работать только частично в очень специфических В предыдущем разделе проблема согласования доверия была описана в общих чертах, но для ясного представления решений нам необходимо формальное описание проблемы. области. 3. Теоретическая основа Machine Translated by Google Сценарий: Алиса пишет книгу и хочет, чтобы приглашенный автор написал для нее предисловие. Она не уверена, какой из авторов справится с этим, и просит совета у Боба. Как описано во введении, оценки доверия агента основаны на некоторых свидетельствах в окружающей среде. Эти доказательства можно разделить на фоновые знания о том, что 3.1. Модель установления доверия, основанная на взаимодействии В разделе 3.1 описывается, что мы понимаем под совместными взаимодействиями, а в разделе 3.2 мы детализируем нашу абстракцию модели доверия. Разделы 3.3 и 3.4 описывают формирование сообщений выравнивания и то, как они соотносятся с собственными оценками доверия агента. В Разделе 4 мы обсуждаем, как мы можем изучить мировоззрение на основе общения. Язык общения для обсуждения взаимодействий подробно описан в разделе 4.1 , а мы опишем SRA в разделе 4.2. В разделе 4.3 мы описываем, как набор GRA извлекается из этих SRA, а в конце этого раздела мы демонстрируем, как можно применить выравнивание для перевода оценки доверия. Чтобы помочь в каждой части этого объяснения, мы проиллюстрируем основные определения примером. Однако наблюдения за взаимодействиями по своей сути субъективны: даже если агенты используют общий язык для описания взаимодействий, их разные точки зрения могут привести к разным знаниям о взаимодействии. Поскольку эти наблюдения затем используются для оценки вовлеченного агента, субъективность доверия усугубляется. Мы не хотим ограничивать, какие концепции можно считать взаимодействиями, это зависит от фактической области. Мы также не будем различать участников взаимодействия и наблюдателей взаимодействия: все они считаются наблюдателями, хотя все они наблюдают разную информацию. Поэтому мы полностью абстрагируемся от взаимодействия и просто используем уникальный идентификатор для его обозначения. Мы предполагаем, что среда заполнена множеством агентов агентов, а множество I — это множество всех взаимодействий между этими агентами в среде. Пример 1. В нашем примерном сценарии мы можем рассматривать статью как представление взаимодействия. Строго говоря, статья — это всего лишь результат более сложного взаимодействия нескольких исследователей, сотрудничающих над темой исследования, но в данном примере это единственный аспект взаимодействия, который можно наблюдать. Есть разные наблюдатели: авторы воспринимают взаимодействие совершенно иначе, чем читатели. В нашем примере мы ориентируемся на читателей. Акт чтения статьи можно рассматривать как акт наблюдения за взаимодействием. Читатель наблюдает всевозможные свойства взаимодействия: хорошо ли оно написано, имеет ли оно отношение к его или ее собственному направлению работы, насколько оригинальна работа и т. д. Если мы предположим, что этот тип знания доступен для компьютеризированный агент, можно также сказать, что этот агент наблюдал за взаимодействием: он имеет доступ к наблюдениям. агента о своем окружении, такие как общие знания о предметной области и наблюдения агента за взаимодействиями между агентами в системе. Хотя у агентов могут быть разные базовые знания, и это может повлиять на их оценку доверия, мы не считаем это проблемой: если фоновые знания не используются совместно, они могут быть переданы до процесса согласования доверия. Мы также опишем, как применить выравнивание. Когда тот же агент, Боб, отправляет новую оценку доверия на основе взаимодействий, которые не являются общими, пункт (6), Алиса может использовать выравнивание, чтобы найти перевод этой переданной оценки. Это представлено на этапе (7) на фиг. 1 и приводит к оценке доверия, которая транслируется в собственную систему отсчета агента, которая представлена как пункт (8) на рисунке. Наконец, эта переведенная оценка может служить входными данными для модели доверия и использоваться, возможно, вместе с другой информацией о цели, для принятия решения о надежности цели на этапе (9). множества взаимодействий, то ObserveAðIÞ = S подмножество OA представляет собой все множество наблюдений агента A и имеет форму внутреннего представления агента. Мы обозначаем подмножество взаимодействий, которые агент А наблюдает с помощью I9ADI. Цифра 9 означает, что это набор взаимодействий, ограниченный теми, которые наблюдаются агентом А. Частичные функции visibleA и ObserveA являются тотальными на множестве I9A. или пункт (3). Эти SRA представляют отношение между собственными оценками доверия отправителя и получателя в конкретных случаях. Чтобы иметь прогностическую ценность, эти SRA необходимо обобщить, что делается посредством индукции на этапе (4) на рис. 1. Это приводит к общим правилам выравнивания или пункту (5). Эти GRA формируют согласование между оценками доверия двух агентов и могут рассматриваться как результат работы механизма согласования доверия. Поскольку оценки доверия обычно поддерживаются наблюдениями за несколькими взаимодействиями, мы определяем другую функцию, ObserveA, следующим образом. Пусть I DI будет наблюдатьAðiÞ. В приведенной выше ситуации кажется, что Алиса должна принять эту информацию, однако это не так просто. Алиса оценивает только первого автора любой статьи, думая, что другие авторы на самом деле не участвуют в написании статьи. Боб рассматривает статью как коллективную работу всех авторов и одинаково оценивает всех авторов. С другой стороны, он считает устаревшими все статьи старше двух лет, а Алиса их учитывает. Если оценка Боба была основана на статьях, в которых Зак был вторым автором, возможно, Алисе не следовало соглашаться с его мнением. Вместо того чтобы искать автора самостоятельно, Алиса поручает это сделать своему личному вычислительному агенту. Агент Алисы спрашивает агента Боба, какому автору доверить эту задачу. Поскольку эти агенты ранее не обменивались информацией о доверии, им необходимо сначала выполнить согласование. В этом суть модели доверия. Как мы утверждали в разделе Определение 3.1 (Наблюдение за взаимодействиями). Наблюдения агента A 2 Agents задаются частичной функцией observA : I-PðOAÞ, которая связывает взаимодействие с набором наблюдений. Мы используем PðXÞ как обозначение набора мощностей X. Боб прочитал некоторые статьи Зака и был впечатлен их ясностью и техническим качеством, поэтому он рекомендует Зака. Наблюдения агента А подтверждают некоторую оценку доверия. i2I 454 А. Костер и соавт. / Междунар. Дж. Человеко-компьютерные исследования 70 (2012) 450–473 Machine Translated by Google LTrust½Tfj 2 LTrust 9 все предикаты в j имеют цель Tg Пример 2. В нашем сценарии LTrust имеет только один предикат: trustðtarget; значениеÞ, со значением 2 ½5; 5\Z и выберите агента в системе. tokðMI AÞ ¼ PðOAÞ. typðMI AÞ ¼ LTrust½T. Пример 3. В примере мы могли видеть это следующим образом. Такая классификация определяется следующим образом: Мы определяем модель доверия как классификацию, чтобы сделать явным наше интуитивное предположение о том, что доверие к целевому агенту поддерживается некоторым набором наблюдений за взаимодействиями в окружающей среде. Абстрактное представление, предоставляемое теорией каналов, позволяет определению быть независимым от внутренней работы модели доверия и, таким образом, абстрагироваться от того, какую фактическую модель использует агент. Теория канала, а не количественная теория потока информации, как классическая теория коммуникации Шеннона (1948), является качественной теорией, лучше подходящей для семантических сценариев или сценариев выравнивания доверия. Далее мы представим основные концепции теории каналов по мере того, как приступим к формализации нашей схемы выравнивания доверия. Однако мы ссылаемся на Барвайза и Селигмана. В теории каналов системы, содержащие информацию, моделируются как классификации, а обмен информацией между системами моделируется с помощью канала. В нашей ситуации мы рассматриваем модели доверия как системы, содержащие информацию. Эта информация рассматривается очень абстрактно: в теории каналов это акт классификации объекта или маркера как объекта определенного типа, который заставляет систему передавать информацию. Если aFAa, то говорят, что a имеет тип a или что он поддерживает a. Теперь мы можем дать очень абстрактную модель доверия, которую мы можем использовать в качестве основы для общения. Мы основываем эту структуру на математической модели информационного потока, называемой теорией каналов (Barwise and Seligman, 1997). Эта теория позволяет моделировать поток информации в распределенной системе и доказала свою полезность для моделирования множества различных сценариев согласования онтологий и семантической интеграции (Kalfoglou and Schorlemmer, 2003; Schorlemmer et al., 2007; Schorlemmer и др.) . Kalfoglou, 2008; Atencia and Schorlemmer, готовится к печати). Его преимущество в том, что оно помогает нам сформулировать независимое от представления определение и теорию того, что такое доверительное выравнивание, и относительно которой мы можем определять и проверять конкретные реализации выравниваний (см., например, теорему 1 ) . Бинарное отношение FADtokðAÞ typðAÞ, дающее классификационное отношение. 3.2. Модели доверия в теории каналов взаимодействия I - это классификация с: Определение 3.3 (Модель целевого доверия). Модель доверия MI A½T агента A по отношению к цели T, учитывая (1997) для всестороннего понимания теории каналов, что выходит за рамки этой статьи. Набор, typðAÞ, объектов, используемых для классификации токенов, называемых типами. Предположим, что есть две статьи, подтверждающие доверие Алисы к автору Дейву: статья1 и статья2. Алиса запрограммировала в своем агенте модель доверия, основанную на ее собственном мнении, и, таким образом, ее агент может вычислить, как оценивать Дэйва на основе этих двух статей. Формально: ObserveAliceðarticle1; article2gÞ FAlice trustðDave; 4Þ Набор, tokðAÞ, объектов, подлежащих классификации, называемых жетонами. 1 существует множество различных вычислительных моделей доверия, но все они вычисляют оценки доверия, основанные на наблюдениях за взаимодействиями. Мы говорим, что эти наблюдения поддерживают оценку доверия, и предполагаем, что эти оценки доверия являются утверждениями на языке LTrust. Агенты разделяют синтаксис этого языка, но способ, которым каждый агент вычисляет свои оценки доверия на основе различных наблюдений, может различаться и определяется моделью доверия агента. Это ограничение на LTrust не является строго необходимым, но делает структуру более понятной. Это не влияет на выравнивание доверия, так как в конечном итоге две оценки доверия в любом случае будут рассматриваться отдельно. Однако для проектирования системы и понимания работы фреймворка полезно использовать общий синтаксис в LTrust. где доверятьðDave; 4Þ — это целевой предикат в LTrust. Боб наблюдал одни и те же предметы, но наблюдает разные свойства и оценивает их по-разному. Его доверие Мы требуем, чтобы предложения в LTrust были основными атомами логики первого порядка (FOL). Это необходимо в разделе 3.3, где мы определяем ограничения на выравнивание с помощью LTrust. Нам также нужно, чтобы предложения в LTrust были наземными атомами, чтобы изучить прогностическую модель, как мы увидим в разделе 4. Кроме того, поскольку доверие всегда относится к какому-то целевому агенту (все предикаты доверия имеют объект), мы рассматриваем только те предикаты, которые дают оценку ровно одному такому целевому агенту T 2 : S 8T;T0 2 Агенты: TaT0 -LTrust½T \ LTrust½T0 ¼ |. FADPðOAÞ LTrust½T, так что если ODOA (другими словами, O 2 PðOAÞ) и j 2 LTrust½T, то O FA j представляет, что для агента A оценка доверия j поддерживается O. Определение 3.2 (Классификация, Barwise and Seligman, 1997, стр. 69). Классификация A ¼ /tokðAÞ;typðAÞ;FAS состоит из: Таким образом, сообщаемые оценки доверия всегда должны относиться к конкретному целевому агенту. Такое разделение целей позволяет нам легко разделить LTrust: LTраст½T ¼ LTраст. T2Агенты А. Костер и соавт. / Междунар. Дж. Человеко-компьютерные исследования 70 (2012) 450–473 455 Machine Translated by Google Следует сделать еще одно замечание: хотя теория каналов не накладывает никаких ограничений на бинарное отношение FA, мы обсуждаем особый тип классификации; это модель доверия агента, поэтому ее выходные данные должны иметь смысл для этого агента. Мы предполагаем, что модели доверия являются детерминированными и всегда дают наиболее точную оценку доверия, которую может вычислить агент. Таким образом, любое наблюдение O относится не более чем к одному типу, и мы можем рассматривать модель доверия как частичную функцию между наборами наблюдений и отдельными оценками доверия. Это упростит теорию, которую мы рассмотрим в следующем разделе. Теперь, когда мы алгебраически описали модели доверия, мы можем сосредоточиться на формальной модели того, как оценивать сообщения друг друга о доверии. Для этого агенты должны сформировать выравнивание, и для этого агенты A и B устанавливают некоторый набор общих взаимодействий I9AB ¼ типðC½TÞ ¼ типðMA½TÞ ] типðMB½TÞ Классификационное отношение FC½T , такое что подмножество взаимодействий I поддерживает оценку доверия агента А, если эта оценка доверия поддерживается в модели доверия А посредством Пример 4. Поскольку и Алиса, и Боб наблюдали взаимодействия article1 и article2, они входят в набор общих взаимодействий Алисы и Боба: farticle1; article2gD I9Алиса;Боб. Следует отметить одну вещь: в нашем сценарии не очевидно, почему взаимодействия вообще распределяются между наблюдателями. Это означает, что каждый, кто читал статью, знает, кто еще читал статью. Это, однако, легко обойти путем предварительного общения, обмена информацией о том, какие статьи читали владельцы агентов, таким образом формируя набор общих взаимодействий. 3.3. Канал доверия Типы представляют собой оценки доверия, представленные в LTrust, но отличающиеся между оценками от агента A и агента B путем объединения непересекающихся множеств: общее свидетельство — это набор общих взаимодействий I9AB , и, рассматривая только наблюдения этих взаимодействий, мы ограничиваем то, какие оценки доверия могут поддерживаться. В модели каждого агента могут быть оценки доверия, которые поддерживаются взаимодействиями, не входящими в этот общий набор взаимодействий. С этого момента мы больше не будем ссылаться на всю модель доверия агента, а будем обсуждать только модели доверия |