Выравнивание инженерного доверия теория, метод и эксперименты а
 Скачать 0.97 Mb.
|
|
Электронный адрес: andrew@iiia.csic.es (А. Костер). Выравнивание инженерного доверия: теория, метод и эксперименты а б Марко Шорлеммера b Андрей Костера,б,н , Хорди Сабатер-Мира 1071-5819/$ — см. обложку и 2012 Elsevier Ltd. Все права защищены. doi:10.1016/j.ijhcs.2012.02.007 1. Введение В современных распределенных открытых вычислительных системах часто невозможно контролировать все аспекты системы: корыстные агенты могут свободно входить и использовать платформу в своих интересах. Примеры таких систем включают одноранговые сети и онлайн-рынки. Мы рассматриваем такие системы как примеры открытых мультиагентных систем (МАС), в которых автономным агентам необходимо взаимодействовать для достижения своей цели. В этих системах цели агентов могут противоречить друг другу и, что еще хуже, мошеннические агенты могут пытаться обмануть. По аналогии с человеческим обществом доверие и репутация изучались как механизмы выбора партнеров по взаимодействию в вычислительных обществах (Castelfranchi and Falcone, 2010). Однако у механизмов доверия и репутации есть большой недостаток: они в значительной степени полагаются на общение между агентами, чтобы определить, кому можно доверять, а кому нет (Конте и Паолуччи, 2002). Это общение далеко не прямолинейно, потому что доверие — понятие субъективное. Разные агенты могут использовать совершенно разные свидетельства для обоснования одинаковой оценки доверия, используя, таким образом, один и тот же синтаксис, но означая что-то другое. Например, если один агент в значительной степени полагается на репутацию для расчета оценки доверия, эта оценка может быть синтаксически эквивалентна оценке другого агента, который полагается только на непосредственный опыт. Несмотря на синтаксическую эквивалентность, эти две оценки не означают одно и то же. Это не представляет особой проблемы, пока значения совпадают, но если они не совпадают, возникает вопрос, насколько надежна оценка, переданная другим агентом. Или, другими словами, что означает переданная другим агентом оценка доверия в его собственной системе отсчета. Однако до сих пор было проделано мало работы по согласованию субъективности оценок доверия различных агентов. В большинстве работ предполагается, что если агенты говорят правду, то их оценки доверия можно использовать напрямую: они предполагают, что оценки доверия совпадают. Прямой подход может состоять в том, чтобы предложить сообщать о самой модели доверия. Однако такой подход & 2012 Elsevier Ltd. Все права защищены. Междунар. Дж. Человеко-компьютерные исследования 70 (2012) 450–473 Абстрактный В открытых многоагентных системах модели доверия являются важным инструментом для эффективного взаимодействия агентов. Однако в таких открытых системах агенты не обязательно используют одинаковые или даже похожие модели доверия, что приводит к семантическим различиям между оценками доверия у разных агентов. Следовательно, чтобы успешно использовать сообщенные оценки доверия, агенты должны согласовать свои модели доверия. Мы разъясняем, что предлагаемые в настоящее время решения, такие как общие онтологии или методы согласования онтологий, приводят к дополнительным проблемам и предлагают новый подход. Мы показываем, как можно сформировать выравнивание доверия, рассматривая взаимодействия, которые разделяют агенты, и описываем математическую структуру, чтобы точно сформулировать, как взаимодействия поддерживают оценку доверия для обоих агентов. Мы показываем, как эту структуру можно использовать в процессе выравнивания, и объясняем, как следует изучать выравнивание. Наконец, мы демонстрируем этот процесс выравнивания на практике, используя алгоритм регрессии первого порядка, чтобы изучить выравнивание и протестировать его в примерном сценарии. Доступно на сайте www.sciencedirect.com , н www.elsevier.com/locate/ijhcs Поступила в редакцию 6 июня 2011 г.; получено в исправленном виде 3 февраля 2012 г.; принято 21 февраля 2012 г. Сообщение Э. Мотты Доступно онлайн 3 марта 2012 г. Научно-исследовательский институт искусственного интеллекта, CSIC, Беллатерра, Барселона, Испания Автор, ответственный за переписку: Научно-исследовательский институт искусственного интеллекта, CSIC, Беллатерра, Барселона, Испания. Факс: +34 93 580 9661. Ключевые слова: выравнивание; теория канала; Регрессия; Доверять Universitat Autonoma de Barcelona, Беллатерра, Барселона, Испания Machine Translated by Google Даже если агенты могут объяснить, как работает их модель доверия, и у них есть общий язык для выражения этого объяснения, возникает проблема с интерпретацией: как агент-получатель может сравнить свою собственную модель доверия с полученной моделью доверия. Автоматический поиск сходств и различий между двумя сложными программами сам по себе является сложной задачей. Во второй части обсуждается реализация метода выравнивания доверия, основанного на теоретической структуре. Основным вкладом является эмпирическая оценка этой реализации, показывающая, что алгоритм регрессии первого порядка можно использовать для изучения выравнивания доверия, даже когда система зашумлена. Эта реализация фокусируется на выравнивании на уровне отдельных взаимодействий: теория обучения, основанная на наборе взаимодействий, остается той же, однако практическая проблема значительно сложнее, поскольку используемый метод агрегирования может быть сложным. Мы обсудим это далее в разделе 5.6. Однако агент-консультант обладает обширными знаниями о велосипедах и знает, что велосипед плохой марки. Его оценка состоит в том, что покупатель заплатил слишком много за ожидаемое качество велосипеда, и консультанту кажется, что покупатель был обманут. На основе этого же взаимодействия советник отрицательно оценивает агента продавца. Учитывая это описание, становится ясно, что агенты покупателя и консультанта имеют разные критерии для интерпретации доказательств, предоставленных взаимодействием. Не существует априорного метода определения того, какой из агентов имеет правильные критерии, и, как правило, не бывает таких вещей, как правильные или неправильные критерии. Хотя представление этого примера, кажется, указывает на то, что оценка консультанта в чем-то лучше оценки покупателя, если мы добавим, что пользователь агента по закупкам очень доволен велосипедом, несмотря на его недостатки, консультант покажется чрезмерно недоверчивым. Основная цель этого примера заключалась не в том, чтобы решить, у кого из агентов модель доверия лучше, а в том, чтобы показать, что если бы покупатель попросил консультанта дать рекомендацию относительно продавца, покупатель не купил бы велосипед, основываясь на иные субъективные критерии, чем сам покупатель использует для оценки продавцов велосипедов. Ни один из агентов в этом примере не ошибается, но их доверие не выровнено. Чтобы усугубить эту проблему, оценки доверия обычно поддерживаются не одним единственным взаимодействием, а совокупными данными из разных источников. Существует множество различных вычислительных моделей доверия (Sabater and Sierra, 2005) , которые позволяют При этом мы имеем в виду, что оценка доверия, которую модель имеет ряд практических проблем. Во-первых, требуется, чтобы агенты были самоанализом в отношении своей модели доверия: они должны не только уметь ее использовать, но и знать, как она работает, чтобы рассказывать другим агентам, как она работает. На практике очень немногие модели доверия разрабатываются с учетом этого свойства, и большинство из них просто рассматриваются как черные ящики: информация из различных источников предоставляется в качестве входных данных, а рассчитанные оценки доверия возвращаются в качестве выходных данных. Даже BDIþRepage (Pinyol et al., в печати), который предлагает интегрировать модель доверия в когнитивный агент, рассматривает вычислительный процесс модели доверия как черный ящик. Первый вклад заключается в том, что мы указываем теоретическую основу, которая охватывает масштаб проблемы и дает нам определение согласования доверия. Выравнивание доверия — это процесс поиска перевода оценок доверия другого агента на основе общих свидетельств. Его результатом является метод перевода других оценок доверия от того же агента на основе неразделяемых доказательств. Это формализовано в разделах 3 и 4. Формализация абстрагируется от вычислительных деталей отдельных моделей доверия и дает основу для поиска согласования доверия между любыми двумя вычислительными моделями доверия. Согласование доверия основано на осознании того, что любая оценка доверия поддерживается некоторыми свидетельствами в окружающей среде, и мы представим это неформально, рассмотрев короткий пример: представьте трех агентов в среде онлайн-аукциона: покупатель, продавец и агент-консультант. . Агент по закупкам покупает велосипед у продавца и доволен ценой, которую он должен заплатить, и быстрой доставкой продавца. На основе этого взаимодействия покупатель положительно оценивает агента продавца. Кроме того, мы предполагаем, что модели доверия агентов неизменны. Эта статья разделена на две основные части: Выравнивание доверия обеспечивает решение этой проблемы за счет использования основных свидетельств, которые агенты совместно используют для перевода субъективной оценки доверия другого агента, чтобы ее можно было использовать точно. Например, в приведенном выше примере, если покупатель знает, что консультант довольно требователен в отношении марки велосипеда, и это единственная причина, по которой продавец может дать плохую оценку, он может преобразовать это в хорошую оценку в своей собственной. системе отсчета, поскольку у него нет требований к марке продаваемого велосипеда. В этой статье мы предлагаем новый подход, основанный на теории, для решения проблемы согласования доверия, тем самым позволяя агентам сообщать свои оценки доверия, несмотря на субъективные различия. Учитывая эти недостатки, необходим другой подход. Чтобы наша структура выравнивания доверия работала, мы предполагаем, что агенты и домен соответствуют некоторым основным свойствам. Во-первых, для любого типа согласования агентам нужен набор общей информации, из которой они могут начать поиск согласования (это формализовано в разделе 3). В нашей структуре мы предполагаем, что этот набор общей информации представляет собой взаимодействия, которые могут наблюдать оба агента. Среда должна обеспечивать возможность для таких совместных взаимодействий. Во-вторых, агенты должны уметь идентифицировать эти взаимодействия друг с другом и описывать некоторые объективные свойства этих взаимодействий на общем языке. Точно так же мы предполагаем, что у всех агентов есть некоторое знание об окружающей среде. Например, в приведенном выше примере с агентами, покупающими велосипед, агенты могут не делиться знаниями о качестве определенных велосипедов, но они могут делиться знаниями о том, что такое велосипед. совокупность доказательств из множества различных источников, таких как репутация, прямое взаимодействие или переданные рекомендации. Это приводит к еще большему количеству способов, которыми оценки доверия агентов могут отличаться друг от друга, несмотря на то, что лежащие в основе доказательства, подтверждающие эти оценки, абсолютно одинаковы. А. Костер и соавт. / Междунар. Дж. Человеко-компьютерные исследования 70 (2012) 450–473 451 Machine Translated by Google Хотя такие подходы дают интересные результаты, квалифицируя агента как лжеца, если его оценки доверия не совпадают с вашими, вы игнорируете потенциально полезный источник информации. Другие методы фильтрации других агентов, мнения которых не совпадают с собственной точкой зрения агента, такие как методы совместной фильтрации (Su and Khoshgoftaar, 2009), страдают от той же проблемы. Они объединяются в оценки доверия. На каждом последующем уровне становится сложнее обмениваться информацией. Они заявляют, что при общении на самом низком уровне (на уровне объективных описаний окружающей среды) проблема решается, потому что получающий агент может просто использовать эту объективную информацию для имитации ее, как если бы это был его собственный опыт, а затем использовать ее для вычислений. оценка доверия, избавляющая от необходимости общения на более высоких уровнях. Этот подход используется Сенсоем и Йолумом (2007), но он имеет ряд существенных недостатков. Во-первых, это ограничивает автономию агентов: агенты должны «хранить» всю информацию, которая может быть связана с оценкой доверия любого другого агента. Например, если в среде электронной коммерции агент считает, что цена товара не имеет значения, он может прекрасно функционировать, если не помнит цену купленных им товаров. Однако, если мы ожидаем, что другие агенты смогут воссоздать свои собственные оценки из такой низкоуровневой информации, эта информация, такая как цена предмета, должна быть сохранена: агент должен иметь возможность сообщать ее другим агентам. Это относится не только к цене, но и к любому возможному аспекту взаимодействия: какому-то агенту где-то может потребоваться эта информация. Наш подход не требует этого: агенты могут выбирать, какие свойства взаимодействия они хотят запомнить и, кроме того, сообщить о них. Это связано со вторым недостатком общения на таком низком уровне, который заключается в том, что агенты ограничены использованием общей онтологии: Сенсой и Йолум (2007) делают неявное предположение, что все соответствующие аспекты взаимодействия для всех возможных агенты коммуникабельны в общей онтологии. Неясно, всегда ли так: реальные взаимодействия могут включать в себя детали, не включенные в онтологию. Вдобавок к этому могут возникнуть проблемы с конфиденциальностью: агенты могут захотеть сообщить друг другу, было ли взаимодействие успешным или нет, не желая обсуждать точные детали этого взаимодействия. взаимодействие. Особенно, если это содержит конфиденциальную информацию (например, финансовые операции). Другие методы работы с сообщением о доверии сосредоточены в трех основных областях. Первый подход заключается в том, чтобы приравнять эту проблему к выявлению лжецов. Мошеннические агенты уже давно признаны проблемой для вычислительных моделей доверия, и для их обнаружения был предложен ряд методов (Teacy et al., 2006; S-ensoy et al., 2009). Прежде чем представить наш подход, мы обсудим некоторые связанные с ним работы. Хотя проблема сообщения о доверии не была широко изучена, были достигнуты некоторые значительные успехи. Стааб и Энгель (2008) теоретически рассматривают проблему интеграции свидетельской информации в расчет доверия. Они рассматривают это как многоуровневую проблему: у агента есть объективные наблюдения за окружающей средой, которые он оценивает как субъективные переживания. 2. Связанная работа Обратите внимание, что агенты могут лгать о своих оценках доверия на основе этих взаимодействий, но описание объективной информации должно быть правдивым. Если агенты и домен соответствуют этим критериям, агенты могут быть согласованы с помощью нашей платформы. В разделе 5.6.1 мы обсудим некоторые реалистичные области приложений, в которых это верно. Второй подход заключается в рассмотрении проблемы передачи оценки доверия как проблемы согласования онтологий. Таким образом, кажется логичным определить всеобъемлющую онтологию доверия (Pinyol and Sabater- Mir, 2007; Casare and Sichman, 2005). Однако на практике эти онтологии не имеют поддержки многих различных разрабатываемых методологий доверия. Служба согласования онтологий представлена в Nardin et al. (2009), но требует перевода всех конкретных онтологий модели доверия в общую онтологию. Кроме того, даже если согласование возможно, доверие по-прежнему субъективно и зависит от контекста1. Хотя нам требуется общий язык для общения о взаимодействиях, агенты могут сами выбирать, какие свойства взаимодействия им сообщать. Это означает, что их внутреннее представление о таком взаимодействии может быть намного богаче, чем обычное. Это работает, потому что, как мы обсуждали в разделе 3, мы изучаем соответствие, которое основано на наборе общих взаимодействий: агент может изучать отношения, используя гораздо более ограниченный объем общения на самом низком уровне, дополнительно получая информацию. на втором уровне — субъективных оценок взаимодействий. Иногда информация об этих лжецах также распространяется через систему, что может привести к негативной репутации, основанной не на преднамеренной лжи, а на простом недопонимании. Эти системы могут быть улучшены за счет использования некоторого типа выравнивания, как показано Regan et al. (2006). вычисляет, не меняется, если не изменяются свидетельства, которые он использует в качестве входных данных. Наконец, мы предполагаем, что агенты правдивы в отношении наблюдаемых ими взаимодействий и их объективных свойств. Наш подход не делает вышеуказанных предположений. ˇ 452 Проблема общения с контекстно-зависимым доверием двойственна: во-первых, из-за неконтролируемой группировки в контексты агенты, имеющие разный опыт, будут группировать их по-разному. Это приводит к тому, что агенты имеют разные эталонные контексты, и создает проблему при общении, поскольку два агента могут сгруппировать один и тот же опыт в разных контекстах. Насколько нам известно, этой проблемой никто не занимается: контекстно- зависимые модели, использующие информацию-свидетель, ссылаются на таксономию общих ролей. Вторая проблема заключается в том, что даже если агенты соглашаются на роль, они могут использовать разные критерии для оценки доверия. Можно возразить, что если это так, то кластеры слишком велики и концептуально охватывают множество ролей, но мы утверждаем, что из-за субъективного характера доверия попытка уместить оценки в фиксированную ролевую таксономию нецелесообразна. А. Костер и соавт. / Междунар. Дж. Человеко-компьютерные исследования 70 (2012) 450–473 С зависимостью доверия от контекста можно иметь дело, как в Reha´k and Pechoucćek (2007), но это не имеет отношения к его коммуникации. 1 Machine Translated by Google Алиса Боб 8 Оценка Выравнивание Перевести полученную оценку доверия 6 Отправка сообщений о выравнивании Правила для Доверять Выравнивание Переведено Специфический |