горизонт. Сканирование горизонтов роль информационных технологий в будущем
 Скачать 3.29 Mb.
|
|
113 Граж данск ое общ ество и контро ль социальных эффект ов те хно логий решений еще до закрытия «черного ящика». В таком сце- нарии, где участие гражданского общества будет блокиро- ваться, мы столкнемся с притеснениями уязвленных групп, отсутствием прозрачной коммуникации и обсуждения. Худшие сценарии — это: централизованный тота- литарный контроль государства на основе технологий (например, распознавание лиц); монополизированный корпоративный контроль над данными и невозможность влиять на социальные эффекты (например, усиление со- циального неравенства и исключение отдельных социаль- ных групп); разрозненный набор сильных стейкхолдеров и лоббистов, которые создают исключительно экономи- ческие или рыночные механизмы, делая пользователей исключительно потребителями (например, используют персональных ассистентов или нейроинтерфейсы исклю- чительно в маркетинговых целях). Подобные сценарии не предполагают публичного контроля, как, например, в но- вой национальной стратегии развития искусственного интеллекта 128 , где заявляется повышение качества жизни населения, но нет места участию или экспертизе соци- альных ученых и гражданского общества. Справедливости ради стоит отметить, что в страте- гии идет речь о предотвращении предвзятых решений в работе алгоритмов, отмечаются ценности защиты прав и свобод человека, прозрачности, а также подчеркива- ется необходимость выработки этических правил взаи- модействия человека с ИИ (в правовом ключе, в первую очередь), но среди игроков и участников гражданское общество не упоминается ни в каком виде. Джокеры (Wild Cards) В условиях, когда преодоление технократического взгля- да на производство станет разделяемой повесткой для 128 Указ Президента Российской Федерации от 10.10.2019 № 490 «О разви- тии искусственного интеллекта в Российской Федерации». URL: http:// publication.pravo.gov.ru/Document/View/0001201910110003. 114 Лилия Земну хов а всех уровней социальной структуры, нетрудно предполо- жить появление джокеров или wild cards, которые малове- роятным образом повлияют на развитие событий. Яркий пример опасного тренда — это цифровой тоталитаризм под маской государственной безопасности, в котором не будут понятны границы контроля и участия граждан. Одной из таких ситуаций может стать коллективное лобби технократически настроенных властных структур и экономической элиты из технологической среды, ко- торые вместе не допустят участия граждан в формиро- вании общей повестки, изберут путь «государственной безопасности» в ущерб вопросам приватности. Джоке- ром в этом тренде может стать информационная война или условия, которые создают государственные службы по ограничениям коммуникации, включая физические и инфраструктурные ограничения. Закрытость, изолированность, «суверенность» могут стать важным предупреждением или даже угрозой для развития гражданского общества, которое должно будет выживать в условиях тотального информационного кон- троля и коммуникационной изоляции. Это желтая карточ- ка, которая определена форматом использования инфор- мационных технологий не в пользу граждан, а в пользу государства. Зеленой карточкой в этих условиях должны появить- ся свои гражданские ответы на внешние ограничения, которые предполагают альтернативные, возможно, не цифровые способы взаимодействия и борьбы за право на трансграничное взаимодействие или внесение в по- вестку пунктов о большей независимости и участии гра- ждан в обсуждении принимаемых решений. Общенациональная мобилизация может потенциально изменить ситуацию, но для этого необходимы новые нор- мы, например, гражданской партиципаторности (которых еще нет). Дополнительным креативным потенциалом мо- жет стать реактивное участие специалистов с экспертным знанием в области социальных и гуманитарных исследо- ваний технологий, взаимодействия науки, технологий 115 Граж данск ое общ ество и контро ль социальных эффект ов те хно логий и общества. Понятные механизмы мониторинга и контро- ля со стороны гражданского общества также могут стать джокерами в системе производителей технологий. Вероятное будущее Надо признать, что разработчики, бизнесмены, чинов- ники и другие интересанты технологического развития самостоятельно не построят идеального будущего, не спроецируют исключительно работающие модели, не предусмотрят все возможные последствия. Неизвестные элементы в картину добавляют представители разных об- щественных групп и гражданского общества — активисты, НКО, меньшинства, уязвимые по разным причинам группы. Чем более разнообразны точки зрения и экспертиза, тем больше шансов совместными усилиями продумать дизайн сбалансированного и гармоничного будущего. Это характеристики технореализма — третьей альтер- нативной перспективы на развитие будущего, в котором экспертами потенциально выступают не только про- фильные социальные или гуманитарные исследователи, но и представители гражданского общества со своим уникальным жизненным опытом и аналитической, и даже критической перспективой. Ключевым механизмом может стать кооперация этих разных участников: например, исследователей с интел- лектуальной повесткой, представителей гражданского общества с социальной повесткой, а также чиновников и разработчиков с необходимыми ресурсами и статусом для влияния на принятие решений. Остающиеся неизвестные Непрозрачность политических решений о технологиях — главный барьер в понимании того, как устроено технологи- ческое развитие в разных странах. Наблюдается множество 116 Лилия Земну хов а конфликтующих логик и интересов, в которых побеждают (часто краткосрочно) те, что смогли собрать более убеди- тельных количественно или качественно сторонников. Как только решения принимаются, их практически невозможно откатить назад, тем более в условиях отсутствия понятных механизмов обратной связи и коммуникации. Глубокие системные кризисы в государственном управлении только усугубляют закрытость границ доступа даже к обсуждению технологических решений, которые вообще-то имеют непосредственное отношение к тому, как после них будет меняться повседневная жизнь обще- ства. Приоритетная работа с гражданским обществом могла бы изменить ситуацию и вынести на повестку все- стороннее решение социальных вопросов с помощью но- вых технологий. Неизвестными поэтому остаются далеко не техноло- гии как таковые, а их политики — на уровне отдельных инженеров, крупных компаний, недальновидных или не- компетентных чиновников, и даже безучастных граждан. Технологии — это отражение существующих слож- ностей с непонятной обратной связью, как если бы они работали в одностороннем технодетерминистском по- рядке. Однако современные тенденции показывают, что такой подход быстро приведет к тупиковым ситуациям, которые будет невозможно исправить простым «откатом системы» или «регрессионным тестированием». Заяв- ляемые гибкие методологии в самой разработке должны также полноценно реализовываться в гибком и открытом обсуждении производства и распространения. Заключение Как подключить пользователей или граждан к участию в формировании таких технологических решений, которые можно было бы охарактеризовать как прозрачные, ответ- ственные и гуманные? Концепция социального конструи- рования технологий говорит об активном участии в про- Граж данск ое общ ество и контро ль социальных эффект ов те хно логий изводстве не инженеров на всех этапах производства, об открытых публичных обсуждениях, о быстрой обратной связи. Компании могут реализовывать эти рекомендации разными способами: вовлекать ранние группы пользова- телей, привлекать социальных исследователей к форми- рованию экспертных заключений, устраивать публичные демонстрации в соответствии с логикой социальной от- ветственности. Однако многое все равно будет оставать- ся закрытым под предлогом NDA или других формальных причин неразглашения. Государство, в свою очередь, также будет принимать оптимальные со своей перспективы решения, направ- ленные на достижение своих собственных целей, напри- мер, государственной безопасности. Некоторые страны, вроде Японии или Швеции, ставят технологические про- блемы в приоритетную политическую повестку и делают ее предметом дискуссии и публичных обсуждений, что, в свою очередь, обязывает других игроков — как компа- нии, так и гражданское общество — участвовать в этих обсуждениях. Эти политические эксперименты стали эф- фективно работать только по прошествии 15–20 лет их активной реализации. Нет никаких универсальных алгоритмов социотех- нического развития, но есть рекомендации от опытных государств, которые методом проб и ошибок смогли добиться изменения в самых ригидных структурных элементах. Это не означает, что они решили также и все социальные проблемы, но они сделали политику техно- логий более социально ориентированной и принудили компании играть по этим же правилам. Гражданское об- щество в развитых странах может стать главным контро- лером технологической повестки. 118 Ст анислав Ронжин Станислав Ронжин аспирант на факультете геоинформатики и наблюдения Земли Университета Твенте, Нидерланды Гражданское общество и будущее персональных данных 119 Граж данск ое общ ество и бу дущ ее персональных данных Технологии предполагают, что есть только один правиль- ный способ делать что-то, и это никогда не верно. — Роберт Пирсиг, «Дзэн и искусство ухода за мотоциклом» (1974) 129 Как мы потеряли контроль над нашими данными Всемирная Сеть (World Wide Web) отпраздновала своё 30-летие в 2019 году. За это время история появления Сети практически превратилась в миф. Считается, что основа будущей Всемирной Паутины была изложена в записке 130 Тима Бернерса-Ли по «управлению общей информацией о ускорителях и экспериментах в ЦЕРН». Эта новая система управления информацией была раз- работана для преодоления информационного «взрыва», который к тому моменту уже начал оказывать влияние на области исследований, работающих со значительными объемами данных, как, например, физика высоких энер- гий. Оригинальный исходных код и документация, описы- вающие Сеть, были опубликованы в 1991 году, а первый веб-сайт с описанием настройки личного веб-сервера и инструкциями для публикации документов в Сети уже успешно работал в 1993 году. В последующие 30 лет децентрализованная и рас- пределенная природа Сети стала главным фактором, способствовавшим её практически неограниченному росту. Люди могли свободно выкладывать в Сеть любые документы, не внося их ни в один централизованный реестр: сразу после публикации документы моменталь- но становились доступны любому пользователю Сети, имеющему веб-браузер. Таким образом, была достигнута главная цель первоначального документа Бернерса-Ли: Сеть объединила людей в обход границ и иерархий. 129 Pirsig M. (1974) Zen and the Art of Motorcycle Maintenance: An Inquiry Into Values (Phaedrus #1). NYC: William Morrow & Inc. 130 Berners-Lee T. (1990) Information Management: A Proposal // CERN [Элек- тронный ресурс]. URL: https://www.w3.org/History/1989/proposal.html (дата обращения 22.08.2020). 120 Ст анислав Ронжин Несмотря на все успехи, многие склонны думать, что Сеть скорее подвела человечество, нежели помог- ла ему. «Несмотря на все хорошее, что нам удалось до- биться, Сеть эволюционировала в двигатель неравенства и разделения; управляемая силами, использующими ее в своих целях» — написал Тим Бернерс-Ли в марте 2018 131 Так вышло из-за того, что исходная концепция сети опи- ралась на беневолентное управление как на основопо- лагающий принцип. Этот принцип предполагал, что она управлялась так, чтобы помочь другим, а не получить прибыль. Это предложение звучит наивно в наши дни, но 30 лет назад исследователи ЦЕРН точно не были наивны, они просто не могли предположить, что технология для обмена данными с товарищами-коллегами из соседней лаборатории будет использоваться для «спонсируемых государствами хакерских атак, криминальной активно- сти и преследования». Можно полагать, что все эти вещи существовали до появления сети и лишь просто перешли в онлайн. Что намного более занимательно, Сеть создала экосистему технологий, в которой стали возможны новые бизнес-мо- дели, основанные на рекламе. В этих моделях прибыль зависит от количества людей, посетивших вашу страни- цу. Это способствует возникновению положительной об- ратной связи — больше пользователей, больше прибыль. Оборотной стороной таких моделей является зациклен- ность на показателях: важно, что человек зашел на стра- ницу, а вот насколько ценным окажется ее содержание, особого значения уже не имеет. В действительности, Facebook не ставил своей целью собрать наши данные. Facebook всего лишь хотел, чтобы все больше людей проводило все больше времени на его платформах, посредством доступности самого Facebook на растущем количестве используемых устройств. Тим Бернерс-Ли сформулировал проблему следующим обра- 131 Berners-Lee T. (2018) One Small Step for the Web… // Medium.com [Элек- тронный ресурс]. URL: https://medium.com/@timberners_lee/one-small- step-for-the-web-87f92217d085 (дата обращения 22.08.2020). 121 Граж данск ое общ ество и бу дущ ее персональных данных зом: «Сложно себе представить, насколько люди могут быть умными, но всё равно, при проектировании новой системы очень, очень, сложно представить себе все спо- собы, которыми она будет атакована». Это и есть главная причина по которой мы оказались вовлечены в разворачи- вающуюся битву за персональные данныы, главный актив XXI века. Исход этой битвы не только изменит нашу жизнь в кибер пространстве, но и напрямую повлияет на наше физическое состояние и здоровье (из-за того, например, что современное здравоохранение стало значительно бо- лее зависимо от производства и потребления данных). Цель данной статьи состоит в обсуждении разных подходов к организации персональных данных в Сети и выделение наиболее многообещающих для граждан- ского общества подходов. Несмотря на все многообра- зие проблем и злоупотреблений веб-технологиями в про- шлом, будущее все равно значительно шире, больше прошлого. Мы попытаемся представить, какой тип режи- ма управления данными будет выгоднее для гражданского общества и какие шаги следует принимать акторам гра- жданского общества для популяризации такого видения. Пирамида данных Данные сами по себе имеют достаточно мало ценности, до тех пор, пока они не представлены в виде, понятном людям. Как только данные интерпретированы и осмысле- ны людьми, они становятся информацией. Информация имеет больше ценности, чем данные, так как она позво- ляет понять, что происходит вокруг нас. Комбинация не- скольких источников информации, их структурирование и обогащение контекстом создает знание. Знание может ответить на вопрос о том, как и почему что-либо произо- шло. Мудрость располагается наверху пирамиды, пред- ставляя собой интегрированное знание, позволяющее определить наиболее оптимальную последовательность действий. Эта иерархия отражена на Рисунке 7. Данные 122 Ст анислав Ронжин позволяют производить новое знание, которое, в свою очередь, позволяет делать предположения о будущем. 132 Модель, представленная на Рисунке 7, — Святой Гра- аль и, одновременно, Клондайк того, что называется на- укой о данных. Причина проста: пирамидальная модель позволяет доходчиво объяснить представителям бизнеса, почему им следует нанять ученого в области данных. На языке бизнеса, правда, название модели будет звучать как-то так: «дата-инсайты и реалистичные бизнес-метрики для инновационного и устойчивого развития». В следую- щем предложении после подобного бизнес-описания мы с большой вероятностью найдем такие ключевые слова как «большие данные» и «искусственный интеллект». Понима- ние того, что инновации, основанные на данных, жизненно необходимы для успешной рыночной конкуренции, лежит в сердце разворачивающейся четвертой промышленной революции и экономики, которую она создает. 132 Rowley J. (2007) The wisdom hierarchy: representations of the DIKW hier- archy // Journal of Information Science [Электронный ресурс]. № 33 (2). С. 163–180. URL: https://doi.org/10.1177/0165551506070706. Рисунок 7. Пирамида иерархии Данные Информация Знание Мудрость 132 ДАННЫЕ исходные значения и величины ИНФОРМАЦИЯ в доступном виде ЗНАНИЕ связанная смыслом информация МУД РОСТЬ понимание, подтвержденное опытом Прошлое Б уд ущее Ц енность 123 Граж данск ое общ ество и бу дущ ее персональных данных Ценность персональных данных Ученые были первыми, кто испытал на себе эффект от революции данных еще в конце 80-х. У бизнеса ушло ещё полтора десятка лет, чтобы выяснить то, что для того, чтобы компания не вылетела с рынка, ее управле- ние, принятие решений и маркетинг должны опираться на данные. Что же касается государства и общества, то им, похоже, ещё только предстоит это осознать. Данные пользователей приносят колоссальные прибыли техни- ческим компаниям-гигантам, в то время как пользовате- ли взамен получают персонализированную рекламу. Это не похоже на выгодную сделку. И только относительно недавно политики начали предпринимать шаги по улуч- шению (или, лучше сказать, созданию) регулирования в отношении данных, таких, например, как GDPR (Общий регламент по защите данных Европейского союза). Не- смотря на это, все юридические усилия политиков на- правлены, в основном, на защиту приватности и профи- лактику неправомерного использования персональной информации. Безусловно, это важно, т. к. дает юридиче- ские основания посудиться с Facebook в случае нового скандала в духе «Cambridge Analytica». Но генералы все- гда готовятся к прошлой войне, поэтому нереалистично рассчитывать, что государствам удастся использовать текущую технологическую революцию на общее бла- го. Законодатели всегда будут отставать от тех.отрасли, а сама отрасль будет всегда стараться использовать су- ществование серых зон. Ситуацию ухудшает еще и то, что существующие законодательные инициативы не пре- доставляют техническую базу для функционирования этих инициатив. В результате, воплощение идей в реаль- ную жизнь отдано в руки самих разработчиков прило- жений. А мы уже знаем, что подстегиваемые моделями монетизации, основанными на рекламе, разработчики будут заинтересованы в лишь еще большем увеличении длины пользовательских соглашений, чтобы получать еще больше доступа к пользовательским данным. |