горизонт. Сканирование горизонтов роль информационных технологий в будущем
 Скачать 3.29 Mb.
|
|
103 Граж данск ое общ ество и контро ль социальных эффект ов те хно логий лансированные выборки становятся легким результатом безответственной разработки алгоритмов. Это не озна- чает, что разработчики делают алгоритмы сознатель- но несправедливыми, скорее речь идет о том, что они едва ли закладывают социальные измерения в принци- пы разработки. Особенно с учетом того, что для самих разработчиков алгоритмы ИИ представляются «черным ящиком», необходимо особое внимание уделять тому, ка- кие социальные эффекты они могут вызывать. Не случайно все больше профессиональных ассо- циаций занимаются разработкой рекомендаций, где осо- бое внимание уделяется более ответственным подходам к разработке и «настройке» социального измерения тех- нологий. Например, в отчете института «AI now» 124 по- ловина рекомендаций касается конкретно социальных и этических аспектов, которые чаще всего игнорируются разработчиками. — Разрабатывая стандарты для обработки баз данных, необходимо понимать природу смещений и ошибок в данных; — Следует отказаться от узкотехнического подхода, поскольку он чрезмерно упрощает комплексность социальных систем; — Серьезная проблема сейчас состоит в том, что сла- бо учитывается разнообразие социальных групп (женщины, меньшинства и т. п.), поэтому нужно бо- лее глубокое изучение редких и частных сюжетов жизни общества; — Привлекая специалистов не из инженерных областей, надо убедиться, что их голосу и экспертизе предо- ставлено достаточно силы для принятия решений, особенно если речь идет о длительных проектах; — Требуется постоянное сопровождение технологиче- ского развития в аспекте реализации этических прин- ципов. 124 Crawford K., Dobbe R., Dryer T., Fried G., Green B., Kaziunas E., Kak A., Mathur V., McElroy E., Sánchez A., Raji D., Rankin J., Richardson R., Schultz J., West S., Whit- taker M. (2019) AI Now 2019 Report. New York: AI Now Institute. URL: https:// ainowinstitute.org/AI_Now_2019_Report.html (дата обращения 26.02.2020). 104 Лилия Земну хов а Доминирующий на сегодня технократический подход в разработке технологий требует пересмотра. Он может быть реализован только благодаря разнообразию социаль- ного знания, которое должно лечь в основу принятия тех- нологических решений еще до закрытия «черного ящика». Роль гражданского общества Гражданское общество, возможно, самый важный из по- тенциальных участников технологического развития, по нескольким причинам. Во-первых, экспертное знание отдельных активных граждан или некоммерческих орга- низаций часто представляет собой взвешенную и крити- ческую оценку происходящего в современном обществе. Гражданское общество объединяет диверсифицирован- ные мнения и позволяет спроектировать более взвешен- ные политические решения. Акторы гражданского общества становятся реле- вантными группами, опыт и мнение которых необходимы для того, чтобы понимать возможности и ограничения конкретных технологических решений. Обратная связь представителей гражданского общества характеризует- ся заинтересованностью в социальной ответственности, предотвращении рисков и в взвешенном и сбалансирован- ном отношении к технологическому развитию. НКО вносят на повестку технополитики вопросы, которые справедли- во усложняют технологические решения и делают их не за- мкнутыми на инженерное сообщество, а дискутируемыми широко за пределами ограниченного круга специалистов. Публичное обсуждение делает технологии более гибкими и изменчивыми — сначала на интерпретативном уровне, потом на материальном. На этапе, когда итого- вые решения еще не приняты, представители разных со- циальных групп могут вносить предложения по их улуч- шению или адаптации, тогда обратная связь становится значимым конструктивистcким аргументом в отношении технологии, ее вида и даже функций. В условиях рынка 105 Граж данск ое общ ество и контро ль социальных эффект ов те хно логий такими акторами могут быть не только финальные поль- зователи, но и представители экспертных сообществ. Процесс коммуникации по поводу технологии может быть описан как взаимное фреймирование: инженеры представляют свой способ видения проекта, но внешние обстоятельства и конкретные участники преобразуют его в соответствии со своими традиционными практика- ми и культурными убеждениями. В результате взаимодействия между разными акто- рами и релевантными группами формируются технологи- ческие фреймы, отражающие как технологические зада- чи, поставленные перед инженерами, так и социальные аспекты, которые в своих реакциях представляют реле- вантные группы и особенно НКО. Когда основные вопросы решены и приняты компро- миссные решения, технология стабилизируется и закрыва- ется. Но стабилизация происходит только после того, как собрана обратная связь не только от пользователей, но и от тех релевантных групп, к которым эта технология имеет по- тенциальное и непосредственное отношение. А поскольку современные технологии требуют постоянных доработок и соответственно реакций на изменения, то пользователи вынуждены постоянно отслеживать изменения. Как уже видно сейчас в развитии технологий искус- ственного интеллекта, НКО и активисты способствуют более равномерному его распространению. На уровне рекомендаций глобальных ассоциаций необходимость вовлекать НКО и уязвимые (социально незащищенные) группы стоит на одном из главных мест в дизайне раз- вития ИИ. Дело в том, что их уникальная экспертиза высвечивает те аспекты и искажения (bias), которые не учитываются разработчиками на этапе конструирования технологии и которые потом вызывают ошибки репрезен- тативности данных, лежащих в основе моделей. Обсуждение этических вопросов искажений и тех- нологий вообще, а также проблемы границ приватности или безопасности также не являются пока прерогативой разработчиков или даже государства. В отдельных случа- 106 Лилия Земну хов а ях пользователи открыто выражают недовольство или не- понимание, когда речь идет о технологиях, которые каса- ются их самих (например, социальные сети…). В других случаях правила этики пытаются регулировать на уровне международных стандартов (например, GDPR 125 ). Но в действительности забота об этических аспектах развития технологий оказывается в сфере ответственно- сти отдельных экспертов внутри компаний или же в виде представителей экспертного сообщества, отмеченного государством. В то же время НКО и другие акторы гра- жданского общества выступают с коллективными ини- циативами, которые, к сожалению, далеко не всегда име- ют эффект на легализацию прав и свобод. Технологии в помощь гражданскому обществу Некоторые технологии призваны сделать социальные отношения более равными, прозрачными и прямыми (не опосредованными институциональными, организа- ционными или индивидуальными игроками). Приведем пример некоторых технологий будущего, которые могут быть направлены на укрепление гражданского общества. 1. Блокчейн. В основе разработки блокчейн-техноло- гий лежит идеология, которая подразумевает равный до- ступ, равные знания, компетенции и инфраструктурные возможности. Конечно, блокчейн сам по себе не меняет логику или мышление о природе социальных отношений, а скорее воспроизводит уже существующие проблемы, ограничения и неравенства, несмотря на благие намере- ния. Тем не менее могут возникнуть такие возможности, как создание независимых сообществ (как противостоя- ние корпоративным монополиям, верификация тран- закций, например, в целях борьбы с мошенничеством; изобретение новых экономик и валют в качестве альтер- 125 General Data Protection Regulation (Общий регламент по защите данных) — рамочное постановление Европейского союза по усилению и унификации защиты персональных данных. URL: https://gdpr-info.eu/. 107 Граж данск ое общ ество и контро ль социальных эффект ов те хно логий нативы централизованным банковским и валютным систе- мам). Обратной стороной подобных свобод становятся риски создания закрытых сетей и обмена нелегальными ресурсами или опасность тоталитарных систем слежки. 2. Искусственный интеллект. Помимо обозначен- ных ранее недостатков и смещений, ИИ характеризует- ся и сильными сторонами, которые потенциально спо- собствуют развитию гражданского общества. Широкое внедрение технологии ИИ, которые смогут быстро об- рабатывать большие объемы информации, предоставят возможности контролировать отдельные процессы, на- пример, с принятием политических решений или отсле- живанием распространенных социальных паттернов. ИИ позволит выявлять и мониторить несистемные, но потен- циально продуктивные точки роста. 3. Интерфейсы мозг-компьютер. С одной стороны, нейроинтерфейсы могут стать мощным инструментом для предоставления равных возможностей уязвленным группам населения (например, помогают людям с огра- ниченными возможностями компенсировать навыки), а также эффективно использоваться в сфере медицины и обучения, в том числе сложным навыкам. Но с другой стороны, технология потенциально нарушает право мен- тальной приватности, может использоваться как вмеша- тельство в коммерческих или гражданских целях, а также характеризуется пока повышенным уровнем уязвимости. 4. Доступный спутниковый Интернет. Демократич- ность технологии предполагает подключение к информа- ционным ресурсам для удаленных регионов, как правило, исключенных из основных трендов развития граждан- ского общества. Однако с материальной или инфра- структурной точки зрения, дороговизна и громоздкость производства и эксплуатации потребует дополнительных ресурсов по установке и поддержке этих сетей, а нагруз- ка экономически может лечь на местное население, сде- лав его еще более уязвимым. Приведенные примеры призваны продемонстриро- вать неоднозначность и комплексность отдельных тех- 108 Лилия Земну хов а нологий в отношении развития гражданского общества. Показать полноту этих ограничений и сложностей могут представители гражданского общества во всем много- образии жизненных ситуаций и культурных контекстов. Полноценное развитие этих технологий невозможно не только без экосистемы и среды (а их нужно создавать с учетом множественных барьеров), но и без активного участия представителей гражданского общества. Слабые сигналы В проектировании новых технологических систем люди — не просто пользователи, а социальные и культурные кон- тексты — становятся основным ориентиром в дизайне и разработке. Человеческие интерфейсы, гуманитарные технологии, менеджмент сообществ, работа с группами пользователей — все эти направления отражают общий тренд разработки: необходимо расширять представле- ния о технологиях благодаря сдвигу в сторону социотех- нического взаимодействия. Технологические решения давно перестали быть самостоятельными и независимыми, к каждому из них нужно добавлять приставку «социо-», которая обозна- чает включение их в реальный, а не лабораторный кон- текст повседневной жизни. Но следующими вопросами становятся: кому будет доступен контроль над данными и технологиями? кто сможет отслеживать ошибки и нега- тивные социальные эффекты? как не допустить усиления существующих неравенств и социальных уязвимостей? Разнообразие человеческих отношений и жизнен- ных ситуаций продолжает быть самым маргинальным элементом во всех возможных сценариях будущего, по- скольку там всегда остается место ограниченному соци- альному контролю (в лице государств или корпораций) и закрепленным системам власти и отношений. Идет ли речь об искусственном интеллекте как «освободителе от рутины», блокчейне как «платформе для доверия» или 109 Граж данск ое общ ество и контро ль социальных эффект ов те хно логий этике технологий как «главном судье», ни одна из со- временных разработок не способна решить социальные проблемы или изменить социальную структуру само- стоятельно, а требует широкого вовлечения разнообраз- ной экспертизы и горизонтальных механизмов контроля. В списках 126 профессий будущего появляется все больше специалистов в области социальных взаимо- действий или человеческих отношений, способных увязать строгие технологические модели с разнообра- зием жизненных опытов. При этом недостаточно пред- ставлены те сферы экспертного знания, которые плот- но работают с уязвимыми группами, некоммерческими организациями, а также индивидуальными граждански- ми активистами. Технологическая картина будущего не предполагает возможных каналов вертикальной комму- никации или самодостаточных механизмов публичного обсуждения принимаемых решений. По этим причинам создается стойкое ощущение, что из планирования тех- нологий будущего выпадает тот элемент, на который это будущее направлено, — общество и способы его интеграции в идеальную технокартину, где граждан- скому обществу уделяется особая роль стейкхолдера и контролера. Модели возможного будущего Желаемое будущее Гражданское общество и многообразные его представи- тели должны стать активными и равноправными участни- ками технологического развития и обсуждения решений до их принятия. Идеология активного участия граждан- ского общества преследует две цели. Во-первых, это подробное информирование или об- учение граждан, которое касается не столько недостат- ка знаний о том, как устроены конкретные технологии, 126 «Каталог профессий» // «Атлас новых профессий» [Электронный ресурс]. URL: http://atlas100.ru/catalog/. 110 Лилия Земну хов а сколько о том, как устроены процессы принятия решений как таковые и какие возможности есть у рядовых граждан. Во-вторых, вовлеченность граждан способствует их включенности в локальные инициативы, которые пред- полагают заинтересованность и ответственность за обсуждаемые решения. Коллективные дискуссии — это всегда сложно организованные и контролируемые меро- приятия, но они оказываются необходимыми хотя бы для сбора обратной связи по поводу того, что не учитывают сами разработчики или какие социальные группы оказы- ваются в уязвимой позиции или несправедливо выклю- ченными из социотехнических отношений. Но есть и третья цель реализации партиципаторного взаимодействия — это гражданский контроль, который оказывает влияние на чиновников и разработчиков с точ- ки зрения их уровня ответственности. Партиципаторность в целом предполагает более прозрачные процедуры, с ясными механизмами взаимодействия между разными слоями и структурами одного и того же общества. Социальная ответственность бизнеса и гражданская ответственность чиновников — это необходимый минимум, который лежит в основе желаемого будущего. Доступ к ин- формации, механизмы обратной связи, локальные ини- циативы, прозрачность процедур и другие мероприятия в рамках принятия технологических решений позволят со- вместному будущему стать общей целью и стремлением. Например, корпорации, развивающие ИИ, должны созда- вать понятные каналы коммуникации и обратной связи, по которым пользователи могли бы информировать о найден- ных социальных эффектах или найденных ошибках. Блокчейн-технологии не должны быть централизованы государственными акторами, а скорее давать новые альтер- нативные возможности тем группам, которые сталкиваются со структурными и институциональными ограничениями. Этика технологий должна стать открытой для публичных дискуссий темой, а результаты дискуссий — учтены при принятии последующих технологических решений. Одна- ко реальность пока показывает альтернативные сценарии. 111 Граж данск ое общ ество и контро ль социальных эффект ов те хно логий Нежелательное будущее В академической литературе и медиа разыгрываются лишь два сценария возможного будущего — где все будет хорошо и где все будет плохо 127 Первый — технооптимистский, в котором доминиру- ет вера в то, что технологии могут решить все проблемы человечества. Он неполноценен тем, что в нем общество максимально редуцируется до простых базовых потреб- ностей; до однообразия личностей и человеческих от- ношений; до стандартных предсказуемых алгоритмов повседневной рутины, где почти не остается места слож- ным ситуациям и сбоям. В этих оптимистичных мирах че- ловек и социальные отношения — это самое «неправиль- ное» с точки зрения предсказуемого поведения. А чтобы мир был лучше, достаточно максимально оцифровать все сферы жизни, чтобы проблемы решались автоматически, а человек пусть получает безусловный базовый доход и занимается творческой деятельностью. Второй сценарий — технопессимистский, где пред- лагается вообще не развивать технологии ради того, что- бы избежать всех потенциальных проблем, угроз, слож- ностей, которые возникают в технологическом развитии. То есть фокус делается не на том, чтобы разобраться в них, а скорее выбор впоследствии ограничивается ре- шением не создавать, не преумножать технологические разработки. Этот сценарий вызван последствиями войны и техногенных катастроф, но в реальности он абсолютно утопичен, поскольку в развитии технологий заинтересо- вано слишком большое число акторов разных масштабов. Оба эти сценария, конечно, ограничены в представ- лении о действительном будущем, однако они позволяют проявить главные проблемы и ограничения в том, как моделируют или представляют технологическое буду- 127 Бычкова О., Земнухова Л., Руденко Н. (2018) Цифровой ад, технологиче- ский рай или нечто совершенно иное: какие технологии определяют бу- дущее человечества // НОЖ [Электронный ресурс]. 2018. 23 октября. URL: https://knife.media/tech-changes/ (дата обращения 26.02.2020). 112 Лилия Земну хов а щее его создатели. Здесь есть два базовых ограничения. Во-первых, будущее оказывается редуцировано до моде- лей, которые охватывают из всего многообразия соци- альных отношений только совсем простые, примитивные, часто оценочные: хорошо или плохо, война или мир, раз- витие или регресс. На эти вопросы нет и не должно быть простых ответов, потому что все социальные процессы и отношения множественны, многомерны или динамичны. Предупреждения Разыгрывание сценариев (не)желательного будущего очень быстро обнаруживает недостатки, когда сталки- вается с реальностью и активным участием пользовате- лей или граждан. Проблемы, которые дают о себе знать, связаны с социальным неравенством, этикой и моралью, технофобией, некомпетентностью разработчиков или чиновников и рядом других причин, которые скорее ха- рактеризуются системными и структурными условиями и культурными убеждениями. Дело в том, что современные технологии отражают уже существующие напряжения в обществе, где сохра- няется позиция доминирующих по разным основаниям групп: например, чиновников по властному основанию, разработчиков по профессиональному статусу, мужчин по гендерному признаку и т. д. Все новые технологические решения, если не обсуждаются публично и не продвигают эксплицитно повестку изменения существующих отноше- ний, продолжают воспроизводить и усиливать устоявшиеся структурные неравенства, в которых нет доступных кана- лов взаимодействия и эффективного сбора обратной связи. Доминирующий на сегодня технократический под- ход в разработке технологий требует пересмотра и вклю- чения новых акторов на разных этапах производства. Смена парадигмы разработки может быть реализова- на только благодаря диверсификации социального знания, которое должно лечь в основу принятия технологических |