горизонт. Сканирование горизонтов роль информационных технологий в будущем
 Скачать 3.29 Mb.
|
|
166 Гюнай К азимз ад е ными сообществами, которые послужили исходными данными для этой платформы. Чтобы обеспечить спра- ведливость, полиция Нью-Йорка должна быть прозрачна говоря о внедряемых технологиях и позволять независи- мым исследователям проверять эти системы перед тем, как они будут тестироваться на жителях Нью-Йорка». 185 Одновременно со взрывом умных технологий, со- циальные платформы, изначально призванные связывать людей друг с другом, стали доверенными местами для обмена личной информацией, фотографиями, досугом; в них обсуждаются темы, связанные с политикой, религи- ей, так и другими деликатными темами. Чтобы масштаби- ровать свою деятельность, эти платформы применяют ис- кусственный интеллект для фильтрации сообщений (т. н. «умная лента») и таргетированной рекламы, рекоменду- ют кино, музыку, новостных каналы. Эти рекомендации формируются с учетом демографической информации о пользователе, поле, возрасте и истории посещения сторонних веб-страниц, таким образом предоставляя пользователям информацию, которая совместима с их уже существующим «инфо-пузырем». Со временем, предрассудки и предубеждения этих «инфо-пузырей» усиливаются и распространяются да- лее. Эта же проблема встречается в голосовых интер- фейсах, таких как Amazon Alexa, Microsoft Cortana или др. Растущее число пользователей испытывают на себе посредничество подобных систем, управляемых умными алгоритмами. Существует опасность того, что эти техно- логии будут ограничивать наши решения и взаимодей- ствия, даже без нашего ведома. Принимая во внимание скорость, с которой тестиру- ются и оцениваются процессы алгоритмического приня- тия решений, велика вероятность, что в скором времени они будут влиять на общество еще сильнее. Жизненно необходимо, чтобы гражданское общество открыто об- суждало такие проблемы, как предрассудки и дискрими- 185 O’Neil С. (2017) Weapons of Math Destruction: How Big Data Increases In- equality and Threatens Democracy. 167 Те хно логии разнообразия про тив те хно логий дискриминации на примере сист ем, основ анных на иску сственном инт еллект е нация в ИИ-системах, вместе с обсуждением стратегии, видения, и плана действий по преодолению этих проблем. Возможные направления развития и желаемое будущее Но как? Какое возможное развитие может встать перед лицом общества при экспоненциальном росте объема данных и создания различного рода систем, основанных на ИИ, в особенности, социо-технологических систем? Первый шаг к решению дискриминационных про- блем в ИИ возможен благодаря применению рекоменда- ций, обращающих внимание на гендерные и культурные различия, по справедливому сбору и обработке данных, дизайну и имплементации слоев в процессе создания и функционирования ИИ-систем. Более того, жизненно важно, чтобы все общественные акторы, включая госу- дарственные организации, коммерческие компании, НКО, образовательные учреждения, следовали этим руковод- ствам и использовали их в своих областях деятельности. Другое направление решения проблемы неравен- ства состоит в применении новых технологий самим гра- жданским обществом. На данный момент, приложения, зависимые от данных и натренированные на неполных наборах данных, полученных для ограниченных культур- ных или географических групп, могут иметь предвзятые результаты по отношению к группам, не попавшим в эти наборы данных. Такое происходит из-за недоступно- сти качественных данных в определенных территориях. Например, в базе данных, представленной UK Biobank, которая была нацелена на генотипирование 500 000 человек, недопредставлены этнические меньшинства, включая черных (на треть), китайцев (более, чем на треть), индийцев, пакистанцев (более, чем на половину). Белые британские участники составляют 94,6 % выборки Biobank, по сравнению с 91,3 % общего населения. Эта выборка значительно влияет на медицинские диагнозы 168 Гюнай К азимз ад е и создает предубеждения и неверные диагнозы среди указанных недопредставленых групп. 186 Разработчики ИИ ориентируют дизайн систем на европейское и американ- ское население, из-за нехватки качественных данных для репрезентации населения других стран 187 . Инициативы открытых данных могут быть уникальной возможностью для включения недопредставленых групп в повестку тех- нологических решений для повышения разнообразия. Применение машинного обучения и ИИ технологий в области образования, а особенно роль развивающих- ся технологий в уменьшении социального неравенства, практически не обсуждаются. Но все же, у них есть об- надеживающий потенциал в преодолении проблемы об- щественного неравенства, вызванного развивающимися технологиями. При текущем быстром темпе развития технологий, решения относительно разработки технологий и сбора данных принимаются небольшой элитой. Следовательно, существует возможность распределить знание и силу среди всех слоев общества. Это возможно через обуче- ние нового поколения женщин-технологических лиде- ров, преподавание новых технологий в раннем возра- сте, преподавание междисциплинарной, межкультурной кооперации, разнообразия, равно как и просвещение в области сознательных и несознательных предубежде- ний, внедряемых в технологии, которые, в свою очередь, влияют на общество. Гражданское общество должно играть в этом про- цессе ключевую роль, понимая и адаптируя техноло- гии, использующие данные, и их влияние на тайну част- ной жизни, политику и экономику, а также возможности и риски, которые они несут. Что же касается таких проблем, как профилирование социальных медиа, политической манипуляции, дискри- 186 Swanson J. M. (2012) The UK Biobank and selection bias // The Lancet [Электронный ресурс]. 2012. 14 июля. URL: https://doi.org/10.1016/S0140– 6736 (12) 61179–9 (дата обращения 25.08.2020). 187 Olteanu A., Castillo C., Diaz F., Kiciman E. (2016) Social Data: Biases, Meth- odological Pitfalls, and Ethical Boundaries. 169 Те хно логии разнообразия про тив те хно логий дискриминации на примере сист ем, основ анных на иску сственном инт еллект е минирующих систем по принятию решений, то граждан- ское общество могло бы послужить мостом между обще- ством и законодателями, техническими исполнителями, в привлечении к диалогу представителей тех сообществ, которым они служат, включая недопредстваленные уяз- вимые группы. Самая уместная роль гражданского общества состо- ит в понимании опасностей предубеждений, вызванных системами ИИ и тем, как они могут усугубить проблемы, решить которые они призваны, при понимании возмож- ностей этих технологий послужить обществу. Целью не- коммерческих организаций может быть информирование и просвещение компаний и организаций, разрабатываю- щие новые алгоритмы, а также законодателей, принимаю- щих новые законы об управлении этими технологиями, о том, что такое равенство, прозрачность, подотчетность. Просвещение может идти вместе с мониторингом и ана- лизом последствий применяемых стратегий и стандартов. Что может пойти не так? Без надлежащих ограничений, системы, основанные на ИИ, могут принести негативные общественные послед- ствия за счет создания систем централизованного мани- пулирования, фильтрации и дискриминации уязвимых об- щественных групп. Манипулируя данными для обучения и дизайном самих моделей машинного обучения в таких важных областях, как трудоустройство, подобные си- стемы могут создавать неравенство доступа, в том чис- ле, по географическому признаку. Это может привести к использованию таких технологий для неравномерного распределения власти и создания «разъединенных» пу- зырей в обществе 188 . Технологии ИИ также могут принес- ти проблемы, связанные с тайной личной жизни, фейко- вых новостей и политического манипулирования через 188 O’Neil С. (2017) Weapons of Math Destruction: How Big Data Increases In- equality and Threatens Democracy. 170 Гюнай К азимз ад е таргетированную рекламу и фильтрацию в социальных медиа — все это является рисками подхода «разделяй и властвуй», угрожающими демократии. 189 Децентрализация или централизация власти в этих технологиях может принести последствия, касающиеся общественной справедливости, равенства, и, следова- тельно, может быть использована как инструмент для манипуляции, управления и направления дальнейше- го развития общества. Китайская система социального кредита сравнивается с сериалами «Черное зеркало», «Большой брат» и другими научно-фантастическими сю- жетами о мрачном будущем. «Что по-настоящему страш- но, так это то, что ты ничего не можешь с этим поделать. Ты не можешь никому пожаловаться. Ты застреваешь посередине пустоты» говорит один из журналистов из Китая, внесенный в «черный список» и «помеченный» как «негодный» для покупки билета на самолет, а также путешествия некоторыми железнодорожными линиями, покупки недвижимости или получения кредита 190 Неизвестные Обсуждения на темы прозрачности, справедливости и подотчетности алгоритмов и технологий, использующих- ся для влияния на жизни общества, не утихают. Но, до сих пор, результаты этих обсуждений не внедрены в дизайн и воплощение этих технологий. Не все алгоритмы машин- ного и глубоко обучения могут объяснить свои решения, большая часть данных, использованных для разработки таких систем, предвзяты, и не отражают все многообразие населения. Как будут управляться алгоритмы, созданные по модели «черных ящиков», как стереотипы ИИ повлияют 189 Bourdieu P. (1989) Social Space and Symbolic Power // American Socio- logical Association: Sociological Theory. № 7 (1). С.14–25. URL: https://doi. org/10.2307/202060 (дата обращения 25.08.2020). 190 Matsakis L. (2019) How the West Got China’s Social Credit System Wrong // Wired [Электронный ресурс]. 2019. 29 июля. URL: https://www.wired.com/ story/china-social-credit-score-system/ (дата обращения 25.08.2020). Те хно логии разнообразия про тив те хно логий дискриминации на примере сист ем, основ анных на иску сственном инт еллект е на тех людей, которым они призваны помочь, кто должен отвечать за управление всеми этими технологиями — на все эти вопросы ответов пока еще нет. И всё же, продол- жаются инициативы институтов AI Now institute, Alan Tu- ring Institute, Leverhulme Institute for the Future of Intelli- gence и других, одновременно привлекающих внимание как к критическим проблемам дискриминации и исклю- чения в системах, использующих данные, так и к приме- нению новых технологических решений, направленных на устранение влияния проблем, привнесенных разными законодателями и комиссиями в стратегии и политике ИИ. Слабые сигналы Хоть мы и спорили о стереотипах и дискриминации, со- здаваемых ИИ, возможно мы сможем использовать эти же технологии для выявления всех тех предубеждений, о ко- торых мы говорили. Это одно из направлений, которое имеет медленное, но постоянное влияние на преодоле- ние проблемы ИИ-неравенства. Например, команда разработчиков из США создала инструмент ИИ для определения стереотипов и предубе- ждений, основанных на расе или гендере при принятии человека в университет или на работу. Система натрени- рована на большом объеме данных и дает рекомендации по найму кандидатов-женщин, если они долгое время были недопредставлены на определённых позициях или кафедрах в течение долгого времени. Такие типы техник могут управляться и использо- ваться организациями гражданского общества, для того, чтобы измерять и устранять стереотипы и дискримина- цию в социотехнических системах. 172 П олина Ко лоз ариди Полина Колозариди интернет-исследователь, координатор клуба любителей интернета и общества, преподаватель НИУ ВШЭ Интернеты будущего: чем они могут быть для гражданского общества 173 Инт ерне ты бу дущ ег о: чем они мог ут быть для граж данск ог о общ еств а В последнее время многие утверждают, что интернет уже не тот, что прежде. Будто он сломался, испортился, перестал помогать людям, стал вредить демократии 191 Об этом говорят активисты, программисты и инженеры. Один из самых ярких случаев — обращение 192 в 2019 г. Тима Бернеса-Ли к широкой общественности, в кото- ром один из создателей проекта Всемирной сети пишет о том, что интернет задумывался совсем другим и сейчас важно опять вернуть его развитие в нужное русло, раз- работать новое техническое решение, где пользователи сами смогут контролировать свои данные. За каждой по- добной оценкой стоит определенное видение функций интернета и представление о желаемом будущем, к кото- рому приведет или которому помешает интернет. То, каким будет интернет завтра, и то, как он повлия- ет на развитие гражданского общества, зависит от того, как люди воображают интернет сейчас и видят будущее его развития. Автор предлагает исследовать изменения представлений об интернете и как эти представления могут повлиять на развитие интернета в будущем. «Мы просто хотели, чтобы пакеты [информации] перемещались из одной точки в другую» 193 Современный интернет отличается от того, что был в са- мом начале. Вероятно, он изменится еще не раз. Мо- бильные сервисы и приложения на все случаи жизни, современные мессенджеры и стримы, Госуслуги и Убер — всего этого не было еще десять лет назад. Тогда интерне- 191 Baker D. (2017) The internet is broken // Wired [Электронный ресурс]. 2017. 19 декабря. URL: https://www.wired.co.uk/article/is-the-internet-broken-how- to-fix-it (дата обращения 25.08.2020). 192 Berners-Lee T. (2019) Tim Berners-Lee on 30 years of the world wide web: We can get the web we want // The Guardian [Электронный ресурс]. 2019. 12 мар- та. URL: https://www.theguardian.com/technology/2019/mar/12/tim-berners- lee-on-30-years-of-the-web-if-we-dream-a-little-we-can-get-the-web- we-want (дата обращения 25.08.2020). 193 Baker D. (2017) The internet is broken. 174 П олина Ко лоз ариди том называли в основном то, что происходит в браузере. Еще лет 15 назад интернет называли «сеть «Интернет»» с прописной буквы, а теперь во многих языках, включая русский и английский, пишут со строчной и склоняют 194 Иначе как бы тогда люди говорили, что они «познакоми- лись в интернете» или «скачали что-то в интернете»? Какую часть этого меняющегося явления мы продол- жим называть интернетом в будущем? Чисто технологи- ческого описания недостаточно. Среди разработчиков и инженеров все чаще звучат слова о том, что понять ин- тернет — значит понять, что он представляет собой для множества пользователей одновременно. А для пользователей интернет — разный и разнооб- разный. Когда в бытовых разговорах люди говорят «интер- нет», они обычно имеют в виду сразу несколько состав- ляющих: тексты, картинки, кино, мемы, письма, музыка, программы и алгоритмы. Когда интернет используют ор- ганизации, то в понимание интернета включаются не толь- ко провода, но и данные, которые по ним проходят, кон- тент, который размещают пользователи. Интернет — это одновременно и технология, и средство общения, и ин- фраструктура с сервисами и платформами. Но здесь и далее в тексте, под интернетом не бу- дет подразумеваться нечто целостное, некая стабиль- ная технология с устойчивыми элементами, функциями и смыслами. Наоборот, я делаю акцент на изменчивости того, что называется интернетом и действует под этим названием в обществе. Интернет понимается сегодня в контексте той утопии, которая его окружала, начиная примерно с момента его создания (а возможно, и до того — многие ученые XX века представляли в том или ином виде глобальные сети передачи данных). Изначаль- но эта утопия была укоренена в европейской культуре и получила развитие в формирующейся глобальной сре- 194 Corbett B. P. (2016) It’s Official: The ‘Internet’ Is Over // New York Times [Электронный ресурс]. 2016. 1 июня. URL: https://www.nytimes.com/2016/ 06/02/insider/now-it-is-official-the-internet-is-over.html (дата обращения 25.08.2020). 175 Инт ерне ты бу дущ ег о: чем они мог ут быть для граж данск ог о общ еств а де. Но чем больше людей пользуется интернетом, тем бо- лее зыбкой оказывается идея единого взгляда на интер- нет, претендующего на исчерпывающее описание этого явления. Необходимо адаптироваться к многообразию трактовок того, что такое интернет, и технологических решений, которые уже сейчас составляют интернет и в будущем продолжат множиться. Такое многообразие определений интернета не проблема, а норма в ситуации изменчивой технологии. В разных контекстах инфраструктурная конфигурация и социальная роль интернета различаются. На специфи- ку интернета в отдельных регионах влияет доступный тип телекоммуникационных сетей и других способов пе- редачи сигнала. Например, оптоволокно позволило передавать зна- чительно большие объемы данных, чем прежде, на боль- шие расстояния, с более высокой скоростью. Мобиль- ный интернет дал возможность использовать интернет в новых ситуациях. Но и широкополосный доступ, и мо- бильный интернет появились во многих городах России только к 2010-м годам. На восприятие интернета влияет не только географическое положение, но и само город- ское устройство. Например, в Казани сложилась ситуа- ция, когда интернет-провайдеры разделили рынок, пре- вратив интернет в инфраструктуру (как электричество), просто из-за того, что удаленность районов друг от дру- га способствовала монополизации рынка. Помимо инфраструктурных различий, следует по- мнить и о совершенно разных практиках взаимодействия с интернетом — эти практики будут различаться для раз- ных групп пользователей, локаций, регионов, стран (это один из важных выводов проекта Why We Post 195 ). Одни пользователи, например, связывают интернет с публич- ным взаимодействием, другие — исключительно с част- ным. Эта множественность практик особенно важна при анализе гражданского общества. Ведь оригинальность 195 Miller, D., Costa, E., et al. (2016) How the World Changed Social Media. UCL Press. 176 П олина Ко лоз ариди и независимость пользовательских практик могут быть основой для разнообразных низовых инициатив. Но как поддерживается изменчивая целостность этого многосоставного явления? В теориях управления интернетом обычно говорят 196 о том, что есть несколь- ко участников этого управления, или акторов, которые участвуют в определении его судьбы. Это коммерческие компании, гражданское общество и национальные госу- дарства. Рассмотрим, как эти акторы пытаются влиять на будущее интернета. Как корпорации, государства и гражданское общество видят пути развития интернета Корпорации (Facebook, Google, «Яндекс», «Amazon» и другие) Один из вариантов возможного будущего — это такое будущее, в котором интернет полностью отдан глобаль- ным корпорациям. Как это может выглядеть? Например, как мир корпоративных технологических экосистем. Представьте, что интернета в целом нет, а есть отдель- ные «Facebook», «Яндекс», Google, и каждая компания устанавливает свои правила и пытается создать полную экосистему, из которой пользователь никогда не выхо- дит 197 . В такой экосистеме может быть почти все: обще- ние, кино и музыка, городские карты и приложения, ра- бочие инструменты, и так далее. В 2017 году Марк Цукерберг описал будущее как глобальную «социальную инфраструктуру» 198 , призван- 196 Raymond M., DeNardis, L. (2015) Multistakeholderism: anatomy of an in- choate global institution // International Theory. № 7 (3). С. 572–616. 197 На раннем этапе развития интернета похожую модель закрытой экоси- стемы пыталась реализовать компания America Online (AOL), которая была одним из лидеров в IT и интернет-отрасли в 1990-е годы. 198 Zuckerberg M. (2017) Building Global Community // Запись в социальной сети Facebook [Электронный ресурс]. 2017. 16 февраля. URL: https:// www.facebook.com/notes/mark-zuckerberg/building-global-communi- ty/10154544292806634/ (дата обращения 25.08.2020). |