IT как оружие. Копирование, воспроизведение и иное использование электронной книги, ее частей
 Скачать 2.83 Mb.
|
|
нуждаются ли наши лица в такой же защите, как и телефоны? В июне 2002 г. Стивен Спилберг представил новый фильм «Особое мнение, снятый по мотивам рассказа 1956 г. известного фантаста Филипа Дика. По сюжету дело происходит в 2054 г. в Вашингтоне, где уровень преступности снижен до нуля. Главную роль в фильме исполняет Том Круз — он играет начальника, элитного подразделения полиции, которое арестовывает убийц до того, как они совершают преступление. Этому подразделению разрешено арестовывать людей на основе видений трех экстрасенсов, которые предвидят будущее. Но вскоре Крузу приходится скрываться от собственного подразделения в условиях тотальной слежки, когда один из медиумов предсказывает, что он сам вот-вот совершит убийство 1 Через 15 с лишним лет такая картина обеспечения правопорядка все еще казалась далекой от жизни. Однако сегодня похоже, что один из аспектов Особого мнения станет реальностью намного раньше 2054 г. Находясь в бегах, Круз заходит в магазин Gap. Там действует технология, которая распознает каждого входящего покупателя и сразу начинает демонстрировать на экране одежду, которая предположительно должна понравиться ему. Одним такой уровень обслуживания может понравиться. Другим он может показаться навязчивыми даже неприятным. Короче говоря, посещение магазина начинает напоминать просмотр веб-страниц, после которого социальные сети подсовывают новую рекламу того, чем вы только что интересовались. В Особом мнении Спилберг просил зрителей задуматься о том, что последствия у применения технологий двоякие — с одной стороны, она позволяет предотвращать преступления до того, как они будут осуществлены, ас другой — приводит к нарушению прав людей, когда что-то идет не так. Система, которая опознает Круза в магазине Gap, получает информацию из чипа, вживленного в его тело. Однако технический прогресс впервые два десятилетия XXI в. превосходит даже воображение Спилберга, поскольку в наши дни чипы уже не требуются. Технология распознавания лиц, опирающаяся на машинное зрение, данные в облаке и ИИ, позволяет идентифицировать покупателей на основе их визита в магазин на прошлой неделе или даже час назад. Она открывает для технологического сектора и правительств одну из первых возможностей ясно и однозначно определиться с подходами к вопросам этики и прав человека в сфере ИИ, приняв решение о том, как следует регулировать распознавание лиц. То, что начиналось для большинства людей с довольно простых вещей вроде доступа к каталогами поиску фотографий, быстро стало значительно более сложным. Уже сейчас многие полагаются на распознавание лица не на пароль при разблокировании iPhone или ноутбука на Windows. И прогресс на этом не останавливается. Компьютер умеет сейчас делать то, что все мы, как люди, делаем почти с рождения — распознавать лица людей. Для большинства из нас это, скорее всего, начинается с узнавания матери. Одна из прелестей материнства — это видеть, как ребенок радуется вашему приходу. Такая реакция проявляющаяся до начала подросткового возраста, связана с нашей внутренней способностью распознавать лица людей. Хотя эта способность принципиально важна для повседневной жизни, мы практически не задумываемся о том, что делает ее возможной. На самом деле наши лица также уникальны, как и отпечатки пальцев. В число характерных черт входят расстояние между зрачками, размер носа, профиль улыбки и овал лица. Когда компьютеры используют фотографии для выделения этих черти сведения их воедино, они создают основу для математического выражения, которое можно оценивать с помощью алгоритмов. По всему миру эту технологию внедряют стем, чтобы сделать нашу жизнь лучше. В некоторых случаях на нее смотрят, как на удобство для потребителей. Национальный банк Австралии разрабатывает на основе технологии распознавания лиц Microsoft систему, позволяющую безопасно снимать деньги в банкомате без предъявления пластиковой карты. Банкомат распознает лицо клиента, после чего можно ввести код и выполнить операцию 2 В других случаях выгоды от этой технологии более существенны. Например, в Национальном научно- исследовательском институте генома человека в Вашингтоне распознавание лиц помогает врачам диагностировать так называемый синдром Ди Джорджи, или синдром делеции хромосомы 22q11.2. Это заболевание чаще всего поражает жителей Африки, Азии и Латинской Америки. Оно может вызывать ряд серьезных проблем со здоровьем, включая нарушение функций сердца и почек. При этом его нередко можно диагностировать с помощью компьютерных систем по незначительным изменениям черт лица 3 Описанные сценарии показывают, как именно распознавание лиц может использоваться с пользой для общества. Это — новый инструмент XXI в Как и многие другие инструменты, впрочем, его можно также превратить в оружие. Правительство может использовать распознавание лиц для идентификации тех, кто участвует в мирном митинге, а потом преследовать их и, таким образом, подавлять свободу слова и собраний. Даже в демократическом обществе полиция может чрезмерно полагаться на этот инструмент при идентификации подозреваемых, забывая о том, что распознавание лиц, как и любая другая технология, не всегда работает идеально. По этим причинам распознавание лиц тесно переплетается с более широкими политическими и социальными аспектами и вызывает принципиально важный вопрос какую роль, с нашей точки зрения, эта форма искусственного интеллекта должна играть в обществе? Некоторое представление о том, что нас ждет, мы неожиданно получили летом 2018 г. в связи с одной из самых злободневных политических тем того сезона. В июне один из жителей Вирджинии, называвший себя свободным разработчиком софта», вдруг сильно заинтересовался более широкими политическими вопросами. Он опубликовал ряд твитов о контракте Microsoft с Бюро иммиграционного и таможенного контроля США (ICE), основываясь на истории, которая была опубликована в маркетинговом блоге компании в январе 4 Честно говоря, об этом посте в компании давно забыли. В нем говорилось о том, что технология Microsoft, созданная для отвечает высоким требованиям по безопасности и принята для внедрения. Кроме того, отмечалось, что компания гордится своим сотрудничеством с бюро, перед которым теперь открывается возможность использовать технологию распознавания лиц 5 В июне 2018 г. решение администрации Трампа о разлучении детей и родителей на южной границе США стало взрывной темой. На этом фоне сделанное несколько месяцев назад маркетинговое заявление, а вместе сними использование технологии распознавания лиц, приобрело совсем другой смысл. Людей волновало, чем может обернуться использование такой вещи, как распознавание лиц, в работе ICE и других иммиграционных ведомств. Не приведет ли это к тому, что камеры, связанные с облаком, будут идентифицировать иммигрантов на улицах городов Не будет ли это, учитывая нынешний уровень данной технологии с присущим ему риском ошибки, приводить к задержаниям совсем не тех, кого нужно? К обеду в Сиэтле твиты о маркетинговом блоге заполонили интернет, и наша команда по связям с общественностью в срочном порядке занялась выработкой ответа. Некоторые представители разработчиков и маркетинговой службы считали, что нам следует просто удалить пост и сказать Эта информация устарела и больше не имеет отношения к делу». Фрэнк Шоу, руководитель службы Microsoft по коммуникациям, три раза просил их не удалять сообщение. Это лишь осложнит ситуацию, — говорил он. Кто-то все жене удержался и частично удалил пост. Как и следовало ожидать, это спровоцировало новый раунд негативных отзывов. К следующему утру все извлекли очевидный уроки пост был восстановлен в первоначальном виде. Как это нередко случается, нам пришлось разбираться с тем, что жена самом деле предусматривал контракт компании с Когда мы добрались до его сути, выяснилось, что в контракте не было ни слова об использовании технологии распознавания лиц. Microsoft, слава богу, не имела никакого отношения к проектам по разлучению детей сих семьями на границе. Контракт касался оказания ICE помощи в перемещении электронной почты, календарных графиков, рассылок и документооборота в облако. Он ничем не отличался от проектов, над которыми мы работали с другими клиентами, включая государственные ведомства, в Соединенных Штатах и по всему миру Так или иначе, возник новый спор. Некоторые предлагали вообще аннулировать этот контракт и свернуть все работы стема использования правительством технологий захватила многих тем летом. Появилась даже группа сотрудников, которая разослала петицию за приостановку контракта с ICE. Этот вопрос даже начал будоражить технологический сектор в целом. Аналогичную активность стали проявлять работники Salesforce, разработчика облачных систем, в связи сего контрактом с Таможенно-пограничной службой США. За ними последовали работники Google, заставившие компанию отказаться от проекта по разработке искусственного интеллекта для военного ведомства США. А Американский союз гражданских свобод нацелился на Amazon, поддержав ее работников, которые высказывали опасения в отношении Recognition, сервиса компании по распознаванию лиц 6 Для технологического сектора и делового сообщества в целом такая активность работников была в новинку. Некоторые усматривали в ней нечто похожее на деятельность профсоюзов, которые более столетия существовали в некоторых отраслях. Однако профсоюзы уделяли внимание главным образом экономике и условиям работы своих членов. Активность работников летом 2018 г. выглядела иначе. Это был призыв занять позицию по конкретным общественным проблемам. Работники не получали от этого ни прямой, ни косвенной выгоды. Они хотели, чтобы работодатели выступили в защиту важных, на их взгляд, общественных ценностей и позиций. С нашей точки зрения, было очень полезно посмотреть, как на эту новую волну активности работников реагируют другие. Всего в нескольких километрах от Сиэтла руководители похоже, не особенно старались вступать в прямое обсуждение подобных вопросов с работниками. Такая реакция охладила интерес работников к дебатам, фактически заставив их замолчать и заняться делом. В Кремниевой долине руководство Google выбрало прямо противоположный подходи стало в ответ на жалобы работников порою очень быстро изменять свой курс, включая разрыв контракта по ИИ с военным ведомством 8 Довольно скоро выяснилось, что единого подхода в отрасли нет, и каждой компании нужно исходить из собственной культуры итого, что она хочет сточки зрения отношений с работниками. Опираясь на нашу культуру, мы решили выбрать нечто среднее по сравнению стем, что делали другие. Эти эпизоды высветили ряд важных обстоятельств. Важнее всего, пожалуй, был рост ожиданий работников в отношении работодателей. Это стало ясно еще несколько месяцев назад, когда изменение зафиксировало коммуникационное агентство в своем ежегодном аналитическом докладе Барометр доверия. Edelman в своем Барометре доверия, который издается с 2001 г, отмечает изменения в настроениях масс по всему миру, отслеживая колебания доверия людей к разным институтам. Доклад, вышедший в свет вначале г., показывал, что на фоне резкого падения доверия ко многим государственными общественным институтам доверие работников к работодателям остается высоким. По его данным людей в мире верили, что их работодатели делают то, что должны делать, а в Соединенных Штатах уровень доверия был еще выше — 79% 10 . В отличие от этого лишь одна треть американцев чувствовала тоже самое в отношении правительства. То, с чем столкнулись мы, подтверждало эту точку зрения и даже развивало ее. В технологическом секторе некоторые работники хотели играть активную роль в формировании решений, принимаемых компаниями, и определении их позиции по проблемам дня. Наверное, вряд ли стоит удивляться тому, что такое стремление проявляется сильнее во времена, когда доверие к правительству снижается. Работники начинают искать другой институт, который, на их взгляд, может делать правильные вещи и оказывать определенное влияние на ситуацию в обществе. В результате такого изменения бизнес-лидеры оказывались на неизведанной для них территории. Вовремя обеда в узком кругу в Сиэтле генеральный директор одной технологической компании так обобщил общую тревогу. Я всегда был готов справиться совсем, что касается моей работы, — сказал он, рассказывая о своей карьере. — А тут меня занесло в совершенно другую сферу. Мне совершенно неясно, как реагировать на запросы работников, которые хотят, чтобы я разделял их обеспокоенность из-за вопросов иммиграции, изменения климата и других проблем». Не стоит удивляться и тому, что это явление больше всего связано с самым молодым поколением работников. В конце концов, студенты с давних времен шумно митингуют в кампусах колледжей, призывая к социальным изменениями временами заставляя университеты отступать от своей политики и подавать пример. Было лето, ив кампусе Microsoft работало порядка стажеров. Понятное дело, их очень интересовала возникшая проблема. Некоторым из них хотелось напрямую влиять на позицию компании, хотя они и пришли к нам всего лишь на летний период. Речь шла о том, как подходить к теме и реагировать на нее. Пока мыс Сатьей сравнивали свои заметки, я рассуждало том, что вынес из своей работы в совете попечителей Принстонского университета. Намой взгляд, управление технологической компанией становится все больше похожим на управление университетом, — сказал я. — У нас полно исследователей с докторскими степенями — это факультет. У насесть стажеры и молодые работники, взгляды которых сродни взглядам студентов. Каждый хочет быть услышанным, а некоторые ждут от нас бойкота государственного ведомства во многом подобно тому, как они ждут от университета отказа от покупки акций компании, замеченной в чем-то предосудительном Из моего опыта работы в попечительском совете вытекали два ключевых момента. Пожалуй, самым важным из них было то, что у действующих из лучших побуждений студентов необязательно имелись правильные ответы, но они могли задавать правильные вопросы. А эти вопросы могли указать на более правильный путь, который ускользнул от экспертов и руководителей. Как я люблю повторять своим командам в компании, сырую идею нередко лучше не отбрасывать, а дать возможность довести ее до готовности. Некоторые из наших лучших инициатив родились именно таким образом. Этот подход опирается на культуру роста и непрерывного обучения, которую Сатья заботливо взращивал в. Короче говоря, если наступает новая эра активности работников, тонам нужно искать новые пути взаимодействия с персоналом, стараться понять его заботы и выработать содержательный ответ. Принстонский опыт также говорил мне, что у университетов уже есть адекватные процессы удовлетворения такой потребности. Они предоставляют всем возможность внести свой вклад и вести коллективную дискуссию. Это позволяет рациональным аргументам отодвинуть эмоции на второй план, дает время для обдумывания правильного ответа и совместного принятия трудного решения. Мы выбрали именно такой путь, а Эрик Хорвиц, Фрэнк Шоу и Рич Сойер, наш старший юрисконсульт, отвечающий за этическую сторону ИИ, взялись за организацию серии круглых столов с участием работников. Становилось все очевиднее, настало время прямо сказать, когда, на наш взгляд, компании стоит занимать позицию по вопросу общественной значимости, а когда не стоит. Мы не считали, что лидерство в мире бизнеса дает право на использование имени компании во всех вопросах без разбора. Проблема должна была иметь жизненно важное отношение к нам. Мы считали своей принципиальной обязанностью заниматься теми вопросами общественной значимости, которые затрагивали наших клиентов в связи с использованием нашей технологии, наших сотрудников на работе ив обычной жизни, а также наш бизнес и потребности наших акционеров и партнеров. Такой подход давал ответы не на все вопросы, однако служил основой для разговора с нашими работниками. Вопросы, которые ставили работники, также заставили нас более глубоко обдумать взаимоотношения с правительством и проблемы, создаваемые новыми технологиями вроде технологии распознавания лиц. Так или иначе, нас не очень устраивало предложение объявить бойкот правительственным агентствам в ответ на текущие события, особенно в демократическом обществе сего верховенством закона. В какой-то мере это было бы чересчур. Я всегда старался напоминать другим, что мы не являемся выборным органом. Это непросто странно, а недемократично требовать, чтобы технологические компании следили за правительством. В принципе более разумно было бы просить избранное правительство регулировать компании, а не требовать от невыборных компаний регулирования правительства. Мыс Сатьей часто обсуждали этот вопрос и считали его важным. Здесь присутствовали прагматический аспект. Мы ясно сознавали огромную зависимость организаций и людей от нашей технологии. Простое отключение доступа к этой технологии на основании нашего несогласия с действиями того или иного правительственного агентства могло запросто привести к хаосу и непредвиденным последствиям. Этот аспект неожиданно получил безоговорочное решение в августе 2018 г. По путина работу утром в пятницу я слушал по радио подкаст The Daily газеты The New York Times, который напрямую касался проблемы. Темой выпуска была неспособность правительства в срок, установленный судом, обеспечить воссоединение детей иммигрантов со своими семьями. В передаче участвовала Уэнди Янг, возглавлявшая общественную организацию Дети, нуждающиеся в защите, где я председательствовал более десятилетия. Как объясняла Уэнди, администрация реализовала первоначальную политику разъединения семей, не подумав о том, как эти семьи воссоединять позднее 12 Хотя я был знаком с ситуацией по рассказам Уэнди, меня поразила дополнительная деталь, раскрытая журналистами The New York Times Кейтлин Дикерсон и Энни Корреал. Они объяснили, что сотрудники Бюро таможенного и пограничного контроля пользуются компьютерной системой с ниспадающим меню, когда люди впервые пересекают границу. Им нужно отнести человека к одной из категорий — несовершеннолетний без сопровождающих лиц, одинокий взрослый или взрослый с детьми, те. семья. Когда детей впоследствии разлучают с родителями, компьютерная система вынуждает сотрудников возвращаться к базе данных и изменять записи, например относить ребенка к категории несовершеннолетних без сопровождающих лица родителя — к категории одиноких взрослых. Самое главное, что при этом уничтожаются прежние записи, и информация о семьях теряется. В результате у ведомства не остается записей о членах семей. |