Эссе Метафоры цифровой эры и Black Box Problem. Метафоры цифровой эры и Black Box Problem. Метафоры цифровой эры и Black Box Problem
 Скачать 21.23 Kb.
|
|
Метафоры цифровой эры и Black Box Problem В статье рассмотрены эффекты цифровой эры, управляющим устройством, которой является искусственный интеллект. Основная цель состоит в том, чтобы сфокусировать внимание на проблеме «выхода из-под контроля» (Black Box Problem), непрозрачности искусственного интеллекта и возможности его злонамеренного использования. Сопряжены три взаимосвязанных направления. Во-первых, для анализа новообразований, генерируемых цифровизацией, используется потенциал метафор, позволяющих образно обрисовать имеющие место трансформации. Цифровые трансформации выступают мегатрендом, изменяют социотехнологический ландшафт , что свидетельствует не только о расширяющемся проникновении искусственного интеллекта (ИИ) во все сегменты человеческой жизни, но и о тенденции замещения человеческого потенциала ресурсами интеллектуальных систем. Учение считают, что многие запрограммированные действия ИИ «непрозрачны», имея строго нормативный характер, они тем не менее представляют своеобразный «черный ящик». Не совсем ясно, какой тип регулярности или корреляции между входами и выходами действительно имеет место. Ученые алармисты (паникеры) угрозы существованию человека в связи с распространением и совершенствованием технологий ИИ манипулирование сознанием в киберпространстве, цифровое слабоумие, цифровое право и новое цифровое неравенство, маркируемое наличием или отсутствием доступа к сети, уровнем цифровых навыков и компетенций одной из острых проблем является «углубление неравенства между теми, кто владеет, и теми, кто не владеет технологиями ИИ, а другой – критичность ошибок для тех, кто становится их жертвой» угрозы связаны с наличием «электромагнитного смога», производимого современными электронными средствами коммуникации «аудионаркотиков» – определенных звуковых ритмов, создаваемых с расчетом определенного влияния на потребителя К широко обсуждаемым темам относятся: цифровая идентификация, прозрачность приватной жизни, цифровой контроль за поведением человека, где даже мобильные телефоны могут быть использованы для отслеживания траекторий и местонахождения индивида, обнаружения сведений о его склонностях и интересах Ученые фиксируют, что у современного человека на фоне пандемии развивается ярко выраженная потребность не только в получении информации, но и в субъективном переживании ее избыточности или недостоверности В-вторых, рассматриваются перспективы технологического симбиоза и фиксируется процесс «конвергенции субъектности», понимаемый как взаимопроникновение естественных возможностей человека и ресурсов интеллектуальных систем. -Тем не менее на сегодняшний день следует зафиксировать активно протекающий процесс «конвергенции субъектности», объединяющий естественные способности человека с возможностями и ресурсами Сети, фиксирующий их «гипервзаимосвязанность». Современник воспринимает «умные» устройства как интеллектуальных партнеров, в том числе с функцией трансактивной памяти, способствующей хранению информации на внешнем носителе. Это указывает на так называемый распределенный интеллект, поддерживаемый размещением новейших технологических устройств как на теле, так и внутри его. Радикальная степень конвергенции современного человека и цифровых технологий отражена метафорой “Нomosolus” (человек одинокий). Интерпретируя суть данных метафор, заметим, что масштабная цифровизация рождает образ одинокого, сосредоточенно нажимающего на клавиатуру человека, предпочитающего добровольную изоляцию. Поглощенный «черной дырой» монитора Нomosolus в реальности оказывается «совершенно замкнутой в себе субъективностью». Цифровая жизнь, предоставляя симулятивные аналоги, ведет к отчужденности от реальных взаимодействий Заслуживает внимания метафора мультитаскинга, характеризующая современного человека в его стремлении использовать цифровые технологии для сопряжения различных режимов деятельности (онлайнового и офлайнового, досугового и профессионального). По мнению ученых, цифровая многозадачность – это не только способность совмещать работу с потреблением развлекательного контента, но и сама психологическая готовность переключаться с одного вида деятельности на другой, «пропускать через себя» разнонаправленные информационные потоки. По большей части цифровая многозадачность свойственна представителям молодого поколения Анализирует метафоры, указывающие на 1) тип современного существования – «лицом в экран» или «лицом в устройство», - пандемии сделала этот способ существования общепринятым. Между тем как жизнь «лицом в экран» представляет собой совершенно иную практику для центральной нервной системы, порождающую многочисленные когнитивные деформации. Среди них: снижение концентрации внимания, ухудшение кратковременной и долговременной памяти, возрастание психической напряженности и тревожности, деформации мотивационной направленности и неизбежная потеря части богатства и сложности сенсорного опыта. (статистика уже в 2019 г. эффект проникновения Интернета в современную жизнь у подростков (16–19 лет) достиг почти 100%, в возрастной категории 20–39 лет этот показатель варьируется от 94% до 97%, в категории 40–49-летних составляет 89%, для людей в возрасте 50–64 лет – 66%, у тех, кто старше 65 лет, достигает 36%) 2) особенности субъекта цифровой эры – «просмотрщик контента» Поэтому вторая метафора указывает на человека, который выступает в статусе «просмотрщика контента» и реже в роли просьюмера – создателя собственного контента, что никак не уменьшает, а, напротив, увеличивает необходимость просмотра обновлений, сделанных другими. , 3) специфический тип цифровой рациональности – «аренда знания», цифровой мультитаскинг. метафорой «аренда знания», указывающей на специфический тип рациональности, связанной с использованием готовых информационных ресурсов и компиляцией контента Сети. Имеется в виду ситуация, когда индивид, обладая цифровыми навыками, находит содержащуюся в Сети нужную информацию, присваивает ее себе и выдает за эквивалент собственных умственных способностей. Эффект «аренды знания» или «заимствованных знаний» отражает несоответствие между высокоразвитыми цифровыми навыками, которыми характеризуется молодое поколение, и их неспособностью освоить концептуальную основу культурного наследия, Причем заимствование контента Сети, т.е. «аренда знаний», предельно снижает осмысленность и рефлексивность и не способствует усилению мотивации к познанию. В ситуации, когда индивид передает огромную часть познавательной нагрузки поисковым системам, рискогенным оказывается, во-первых, то, что представители «поколения Гугл», как отмечают исследователи, запоминают не саму суть изучаемого вопроса, а путь к информации [Sparrow, Liu, Wenger, 2011]. Во-вторых, сам контент Сети может включать в себя ложные домыслы, псевдознания и сведения. Во-третьих, на фоне взрывного роста потребности в высоких технологиях обозначены негативные последствия функционирования искусственного интеллекта, в связи с чем формулируется ряд парадоксов научно-технического прогресса. Гонка в развитии ИИ делает очевидным тот факт, что ИИ выполняет своеобразную функцию демаркации, разделяя высокотехнологичные страны и те, которые не обладают технологиями ИИ. Мониторинг ресурсов позволяет обнаружить отличие направлений развития и использования ИИ в различных государствах. Т Система ИИ – это техническая система, которая используется для решения проблем Возможность того, что ИИ, используя собственные преимущества, станет корректировать, изменять себя и начнет действовать злонамеренно, вызывает особые опасения. Следует подчеркнуть, что по сравнению с программной уязвимостью использование искусственного интеллекта с преднамеренным вредом и иллюстрирующие эти инциденты ситуации выделяются в отдельное проблемное поле Вследствие того, что нюансы процесса принятия решений понять все сложнее, остро встает вопрос: как сформировать и внедрить в искусственный интеллект алгоритм дружественного отношения к человеку? В связи с этим представляется правомерным введение «алгоритмической ответственности», которая должна быть сфокусирована на решениях и их последствиях, принятых на основе алгоритма. Имеются в виду ситуации, когда лица, принимающие решения, всецело полагаются на результаты автоматизированной системы. Негативные последствия для рынка труда в отношении рабочих мест, которые активно замещаются интеллектуальными системами, вытесняющими людей, различимы уже сейчас. Однако, во-первых, считается, что интеллектуальная система может куда качественнее справиться с исполнением однотипных функций, в то время как индивиду не всегда хватает специальных навыков в человеко-машинном взаимодействии. Во-вторых, применение технологий, как полагают, будет способствовать тому, чтобы сделать нашу жизнь более независимой от субъективных предпочтений и противоречивой предвзятости. Масштабы предполагаемых трансформаций велики. Выводы Использование ИИ, свидетельствующего о новой ступени социотехнологической эволюции, порывающей со своим неотцифрованным прошлым, должно быть поставлено под контроль человеческого разума. Философско-концептуальный анализ современной ситуации выявляет ряд парадоксов. Первый, экзистенциальный, заключается в двойственной принадлежности человека, состоящей в том, что, с одной стороны, потребности, ценности и смыслы «здесь и теперь» существования обусловлены наличным физическим бытием, а с другой – они должны быть привязаны к возможностям и перспективам цифровой реальности. Второй парадокс, технологический, показывает, что, несмотря на фиксацию Black Box Problem, а также проблему злонамеренного использования искусственного интеллекта, степень доверия к ИИ и интеллектуальным системам растет, невзирая на имеющий место эффект быстрого программного устаревания. Третий парадокс – парадокс прогресса – фиксирует, что стремительное научно-техническое развитие ведет к «опустошению» рынка труда и замещению человека. В противостоянии «слепому» развитию технологий современная наука и институциональная мысль должны объединить свои усилия для установления баланса между человеческим потенциалом и развитием интеллектуальных систем и ИИ. |