учебник по цифровому праву. блажеев учебник. Цифровое право Введение

• Название: Цифровое право Введение
• Анкор: учебник по цифровому праву
• Дата: 21.02.2022
• Размер: 1.01 Mb.
• Имя файла: блажеев учебник.docx
• Тип: Документы; #368835
• страница: 19 из 70

Глава 4. Правовое регулирование искусственного интеллекта

§ 1. Понятие и особенности технологий искусственного интеллекта как объекта правоотношений

В условиях активного развития цифровизации общества и формирования цифровой экономики явно наблюдается недостаточность и неэффективность традиционных правовых механизмов регулирования использования современных цифровых технологий. Сегодня не только и не столько право влияет на развитие отношений в сфере использования цифровых технологий, сколько последние вынуждают право трансформироваться и взаимодействовать с другими регуляторами, использовать цифровые технологии для собственных целей саморазвития на различных уровнях жизни. Одной из таких технологий является искусственный интеллект. Сегодня практически все экономически развитые страны мира рассматривают развитие искусственного интеллекта как важнейшую стратегию повышения национальной конкурентоспособности в мире и обеспечения национальной безопасности. Искусственный интеллект широко используется в сфере образования, медицинского обслуживания, пенсий, охраны окружающей среды, осуществления государственного управления и в правоприменительной деятельности. Технология искусственного интеллекта может точно воспринимать, прогнозировать и предупреждать основные тенденции в инфраструктуре и операциях социального обеспечения. Использование искусственного интеллекта становится важнейшим фактором развития цифровой экономики любого государства. Однако неопределенность в развитии искусственного интеллекта, возможные угрозы от его использования порождают вопросы и требуют правовых гарантий безопасного функционирования систем искусственного интеллекта.

Искусственный интеллект - это и разрушительная технология с весьма широким спектром воздействий, которая может вызвать такие проблемы, как изменение структуры занятости, роль правового и этического регулирования, неприкосновенность частной жизни и т.п. Развитие искусственного интеллекта будет иметь далеко идущие последствия для государственного управления, экономической безопасности и социальной стабильности, а также для глобального управления во всем мире. При стремительном развитии искусственного интеллекта необходимо придавать большее значение возможным рискам и угрозам безопасности, разработать перспективные рекомендации по их предотвращению и ограничению, минимизировать риски и обеспечить безопасную, надежную и контролируемую разработку искусственного интеллекта.

Активное использование искусственного интеллекта и робототехники привело к необходимости правового осмысления данных технологий. "Роботовызовы" и "роботоугрозы" ставят вопрос о необходимости правового регулирования ряда отношений, возникающих в связи с использованием искусственного интеллекта и робототехники.

Понятие искусственного интеллекта официально в Российской Федерации не дается. В Программе "Цифровая экономика Российской Федерации" и в Национальной программе "Цифровая экономика Российской Федерации" искусственный интеллект отнесен к основным сквозным цифровым технологиям, которые применяются в различных сферах общественной жизни*(271). В Стратегии развития информационного общества в Российской Федерации на 2017-2030 гг. искусственный интеллект определен в числе основных направлений развития российских информационных и коммуникационных технологий*(272). Стратегия научно-технологического развития Российской Федерации среди приоритетов научно-технологического развития Российской Федерации в ближайшие 10-15 лет определяет "переход к передовым цифровым, интеллектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования, создание систем обработки больших объемов данных, машинного обучения и искусственного интеллекта; связанность территории Российской Федерации за счет создания интеллектуальных транспортных и телекоммуникационных систем" (подп. "а", "е" п. 20)*(273). Согласно Транспортной стратегии Российской Федерации на период до 2030 г., в рамках транспортной безопасности предусматривается внедрение нового поколения бортовых систем безопасности с использованием компьютерных технологий с элементами искусственного интеллекта*(274).

Термин "искусственный интеллект" относится к области компьютерных наук, которая фокусируется на создании технических систем, способных собирать данные и принимать решения и/или решать проблемы; это развивающаяся область, нацеленная на создание "мыслящих машин", т.е. систем общего назначения с интеллектом, сопоставимым с интеллектом человека, также называемые (так называемый сильный искусственный интеллект) "способность машины имитировать разумное поведение человека"*(275).

Бернард Марр указывает, что "определения искусственного интеллекта начинают меняться в зависимости от целей, которые пытаются достичь с помощью системы искусственного интеллекта. Как правило, люди вкладывают средства в развитие искусственного интеллекта для одной из этих трех целей: создание систем, которые думают точно так же, как люди ("сильный искусственный интеллект"); создание систем, которые будут работать, не понимая, как работает человеческое мышление ("слабый искусственный интеллект"); использование человеческого мышления в качестве модели, но не обязательно конечной цели"*(276).

Таким образом, искусственный интеллект представляет собой совокупность технологий, в том числе информационных, цифровых, позволяющих решать когнитивные проблемы, связанные преимущественно с человеческим интеллектом. Определить с позиции права "искусственный интеллект" достаточно сложно, и традиционно он рассматривается через такие смежные категории, как робот, роботизированный агент (робот-агент), роботизированная система, киберфизическая система с искусственным интеллектом и др.

Попытки регулирования использования искусственного интеллекта и робототехники связаны с рядом инициатив. Так, Исследовательским центром проблем регулирования робототехники и искусственного интеллекта "Робоправо" был разработан проект Конвенции по робототехнике и искусственному интеллекту, цель которой - определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить базовые правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем. Данный проект к объектам робототехники относит все категории роботов в самом широком их понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме. Таким образом, разработчики Модельной конвенции под роботами понимают роботизированные механизмы и киберфизические системы, в том числе с искусственным интеллектом. При этом содержание понятия "робот" и смежных с ним ("роботизированный механизм" или "умный робот") определяется в соответствии с общепринятым значением этих понятий в конкретной стране и (или) применительно к конкретной модели робота. В случае, если значения этих понятий не определены, могут быть использованы существующие международные стандарты, в частности ISO 8373:2012 "Роботы и робототехнические устройства. Термины и определения"*(277).

Российская Федерация сегодня во многом использует понятия в сфере робототехники и искусственного интеллекта данного стандарта и разработанного на его основе национального стандарта РФ "Роботы и робототехнические устройства. Термины и определения", согласно которым "робот представляет собой приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению"*(278).

Кроме того, подкомитет ISO/IEC по стандартизации в области искусственного интеллекта поддержал предложение Технического комитета "Киберфизические системы", созданного на базе РВК, о разработке стандарта "Artifi cial intelligence. Concepts and terminology" на русском языке в дополнение к базовой английской версии. Терминологический стандарт "Artifi cial intelligence. Concepts and terminology" является основополагающим для всего семейства международных нормативно-технических документов в области искусственного интеллекта. Кроме терминов и определений, данный документ содержит концептуальные подходы и принципы построения систем с элементами искусственного интеллекта, описание его взаимосвязи с другими сквозными технологиями, а также базовые принципы и рамочные подходы к нормативно-техническому регулированию искусственного интеллекта*(279).

На базе Российской венчурной компании (РВК) создан Технический комитет (ТК) по стандартизации искусственного интеллекта, рассматривающий вопросы, связанные с нормативно-техническим регулированием прикладного использования технологий искусственного интеллекта. Также подготовлен проект Национальной стратегии развития искусственного интеллекта в России.

Среди основных тенденций в регулировании использования искусственного интеллекта можно выявить следующие:

- сочетание различных механизмов социального регулирования использования искусственного интеллекта (правового, этического, технического, локального и иных механизмов регулирования, саморегулирования и сорегулирования, а также их синтез; создание принципиально новых синтезированных механизмов регулирования, основанных на многоуровневой командной системе действия норм);

- обязательность обеспечения безопасности человека и его прав при использовании искусственного интеллекта, исключение рисков уничтожения человечества;

- сочетание концептуального регулирования всестороннего использования искусственного интеллекта и регулирование наиболее острых, требующих немедленного решения проблем по отдельным технологиям искусственного интеллекта (беспилотный транспорт, использование роботов в сфере услуг, телемедицина, обработка больших данных, навигация и др.);

- неоднозначность восприятия систем искусственного интеллекта и роботов с позиции права (начиная от использования режима "рабов человека" и до приравнивания прав роботов к правам человека и созданию электронных лиц как субъектов права). Как рассматривать робота - в качестве субъекта или объекта права? Использование приема юридической фикции позволяет рассматривать его как субъекта права, наделяемого специальной правосубъектностью. Зарубежный опыт свидетельствует о возможности наделения робота статусом гражданина (подданного), например, человекоподобный робот-женщина (гиноид) София, который был разработан гонконгской компанией Hanson Robotics и получивший в октябре 2017 г. подданство Саудовской Аравии. Резолюция Европейского союза N 2015/2103 (INL) "Нормы гражданского права о робототехнике" свидетельствует о возможности наделения роботов статусом электронных личностей по аналогии с юридическими лицами. Такой подход активно поддерживается многими корпорациями в мире, которые стремятся избежать юридической ответственности за действия роботов, используемых в процессе осуществления предпринимательской деятельности. Роботы также рассматриваются и как объект права, поскольку представляют собой сложные объекты интеллектуальной собственности, включающие в себя программы для ЭВМ, базы данных, иные объекты авторского и смежных прав, объекты патентного права, секреты производства (ноу-хау). Неопределенность правовой природы роботов, их сложная организационная структура обусловливают проблему выработки единых правовых понятий в сфере правового регулирования искусственного интеллекта; - необходимость решения этических проблем использования искусственного интеллекта и робототехники.

§ 2. Правовое регулирование использования технологий искусственного интеллекта в России

Анализ действующего российского законодательства, законодательных инициатив Российской Федерации и других стран мира свидетельствует о постановке задач государствами как по решению отдельных, наиболее актуальных вопросов, связанных с применением искусственного интеллекта и робототехники, так и по глобальному определению перспектив системного анализа и регулирования использования искусственного интеллекта в различных сферах общественной жизни, а также необходимости обеспечения системы безопасности личности, общества и государства от возможных угроз выхода искусственного интеллекта из под контроля человека. Вероятные риски и угрозы, исходящие от использования технологий искусственного интеллекта, все больше находят свое отражение в российском законодательстве. Так, уже закреплен принцип обязательного контроля человеком результатов работы алгоритмов искусственного интеллекта*(280).

Одним из ключевых направлений использования технологий искусственного интеллекта, робототехники и соответствующего правового регулирования в Российской Федерации являются транспортная сфера Российской Федерации, в которой, в условиях формирования цифровой экономики, реализуется ряд проектов по созданию и использованию беспилотных транспортных средств. Опыт регулирования использования цифровых технологий в транспортной сфере уже активно реализуется в мировой практике.

В Российской Федерации активно реализуется ряд проектов по регулированию использования беспилотных транспортных средств. Проводятся испытания беспилотных автомобилей, согласно которым тестирование беспилотных автомобилей на дорогах общего пользования в Татарстане и Москве с 01.03.2019 по 01.03.2022. Среди мер развития данного направления особо выделяется функционирование специального реестра беспилотных транспортных средств. Стратегия развития автомобильной промышленности Российской Федерации на период до 2025 года определяет основные направления государственной политики в сфере развития автомобильной промышленности Российской Федерации на период до 2025 г. предполагает завершить разработку и вывод на рынок новых продуктов и услуг в области систем управления и искусственного интеллекта - до 2020 года*(281).

Использование информационных технологий в транспортной сфере заложены в Транспортной стратегии Российской Федерации на период до 2030 года (далее - Транспортная стратегия), которая предусмотрела решение задач по развитию транспортной техники, технологий и информационного обеспечения за счет создания Единой информационной среды транспортного комплекса и аналитически х информационных систем для поддержки управления развитием и регулирования процессов функционирования транспортного комплекса.

Единая информационная среда транспортного комплекса является частью инфраструктуры транспортной отрасли и состоит из:

- управленческого уровня (информационная среда верхнего уровня управления транспортным комплексом - Министерство транспорта Российской Федерации, находящиеся в его ведении служба и агентства);

- технологического уровня (информационная среда технологической интеграции различных видов транспорта и участников транспортного процесса, развития интеллектуальных транспортных систем);

- пользовательского уровня (информационная среда транспортных услуг и информационного обслуживания клиентов)*(282).

Важным аспектом является и нормативное правовое обеспечение внедрения и развития сервисов интеллектуальных транспортных систем в сфере обеспечения безопасности дорожного движения. В 2018 г. во исполнение постановления Правительства от 29.09.2017 N 1184 "О порядке разработки и реализации планов мероприятий (дорожных карт) по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы и внесении изменений в некоторые акты Правительства Российской Федерации" Минпромторгом России внесено в Правительство РФ, а 29.03.2018 было принято распоряжение N 535-р, которым был утвержден "План мероприятий (дорожная карта) по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы по направлению "Автонет". Данный план направлен на развитие и продвижение технологий беспилотного транспорта, сервисных телематических платформ, навигационных технологий, систем содействия водителю, технологий кибербезопасности, систем беспроводной связи нового поколения, технологий в сфере электротранспорта, других автотранспортных средств, использующих альтернативные виды топлива, и связанных с ними сервисов.

Реализация "плана мероприятий направлена на обеспечение приоритетных позиций российских компаний на формируемых глобальных рынках, предусмотренных планом мероприятий "Автонет", ключевыми направлениями которого являются развитие и продвижение, в том числе на формирующиеся глобальные рынки, продукции и услуг в сфере мультимодальной логистики, включая создание и развитие сервисных телематических платформ, платформ "взаимодействия для совместного пользования" и других платформенных решений в сфере "подключенные автомобили", навигационных технологий, систем содействия водителю, технологий кибербезопасности, систем беспроводной связи нового поколения, технологий в сфере микроэлектротранспорта, иных использующих альтернативные виды топлива автотранспортных средств и связанных с ними сервисов, а также решений в сфере контрактной логистики, перевозок пассажиров и грузов, сервисных решений в сфере логистической инфраструктуры и др. Правовые ограничения в рамках реализации плана мероприятий "Автонет" состоят в отсутствии правового и технического регулирования, необходимого для правового обеспечения вывода на рынок новых продуктов и выхода на рынок субъектов новых видов предпринимательской деятельности, для реализации новых бизнес-моделей, в отсутствии норм, обеспечивающих условия для разработки и продвижения передовых технологических решений, а также в существовании и применении нормативных правовых актов и документов по стандартизации, положения которых не отвечают современным научно-технологическим вызовам и приоритетам научно-технологического развития и сдерживают вывод на рынок новых продуктов и услуг"*(283).

Принято решение, что с 01.12.2018 по 01.03.2022 на территориях Москвы и Республики Татарстан будет реализован эксперимент по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств. Утверждено положение о проведении эксперимента. Положением определены цели, задачи, порядок проведения эксперимента, его участники. В ходе эксперимента разработчики планируют подтвердить возможность эксплуатации высокоавтоматизированного транспортного средства на автомобильных дорогах общего пользования России в автоматизированном режиме управления, а также выработку технических требований к автоматизированной системе вождения для разработки технических регламентов и документов по стандартизации.

Особое место среди беспилотных транспортных средств занимают квадрокоптеры - воздушные судна, на использование которых распространяются авиационные правила. Беспилотное воздушное судно, согласно п. 5 ст. 32 Воздушного кодекса РФ, - это воздушное судно, управляемое, контролируемое в полете пилотом, находящимся вне борта такого воздушного судна (внешний пилот). Практически аналогичное определение мы находим и в Федеральных правилах использования воздушного пространства Российской Федерации, утв. постановлением Правительства РФ от 11.03.2010 N 138, единственное, что в определении используется термин "летательный аппарат", а не "воздушное судно" как в Воздушном кодексе РФ. Так, под беспилотным летательным аппаратом понимается летательный аппарат, выполняющий полет без пилота (экипажа) на борту и управляемый в полете автоматически, оператором с пункта управления или сочетанием указанных способов (абз. 8 п. 2 Федеральных правилах использования воздушного пространства Российской Федерации).

В ГОСТ Р 56122-2014 беспилотное воздушное судно определяется как воздушное судно, которое предназначено выполнять полет без пилота на борту. Таким образом, в настоящее время не предусматривается вмешательство пилота в управление полетом (пп. 2.1.1, 2.1.4 "ГОСТ Р 56122-2014. Национальный стандарт Российской Федерации. Воздушный транспорт. Беспилотные авиационные системы. Общие требования").

Как граждане, так и организации, органы государственной власти и органы местного самоуправления активно используют сегодня квадракоптеры, которые как беспилотные летательные аппараты (далее - БПЛА) широко применяются при проведении целого ряда работ, в том числе для фото- и видеосъемки окружающей среды или конкретной местности, локационной точки; фиксации численности, передвижения, особенностей этологии животных; доставки различных товаров; выявления браконьеров и иных правонарушителей; фиксации пожаров и в спасательных операциях. При этом следует отметить, что ежегодно увеличивается сфера использования квадракоптеров и иных БПЛА не только в государственных, общественных, но и в коммерческих целях, а также стремительно развивается их использование и для удовлетворения различных личных потребностей и интересов граждан.

Вместе с тем использование квадракоптеров представляет собой угрозу обеспечения информационной безопасности. Вызовы и угрозы информационной безопасности в сфере государственных и общественных интересов традиционно связываются с защитой государственной и служебной тайны. Ряд объектов на местности являются засекреченными, и сбор информации о них автоматически подпадает под действие уголовного и административного законодательстве о незаконном сборе сведений, составляющих государственную тайну, служебную тайну, а также распространение данных сведений, поскольку квадракоптеры могут автоматически передавать фиксируемую информацию тем или иных субъектам, в том числе иностранным. В связи с тем, что скорость получения и передачи данной информации сегодня существенно увеличивается незаконное получение (сбор информации ограниченного доступа) может осуществляться за считанные секунды.

Как показывает изучение практики использования квадрокоптеров, нередки случаи применения их в целях промышленного шпионажа, осуществления сбора и распространения сведений, составляющих коммерческую тайну, банковскую тайну, инсайдерскую информацию, различные виды других профессиональных тайн. Получение информации осуществляется в отношении пространственно-геометрических особенностей тех или иных зданий и сооружений, специфики организации сельскохозяйственных и агроинженерных работ, системы полива и т.п. Квадракоптеры используют и для переноса различных записывающих, фото- и видеофиксирующих устройств, иных средств сбора и записи информации, они стационарно прикрепляются такие устройства на провода между зданиями, на подоконники офисных окон или временно зависают над кабинетами, в которых проходят совещания. В процессе таких действий происходит либо постоянный, текущий, либо специальный, временный сбор информации. Кроме того, квадракоптеры используются для фиксации контрагентов, с которыми работают организации, сбора сведений, дискредитирующих организации и их руководство, с целью возможного использования в дальнейшем такой информации в противоправных целях, например, для шантажа и т.д.

Необходимо обратить внимание, что сегодня коммерческие организации, банки предпринимают конкретные меры активного противодействия данным практикам. Так, в положениях по информационной безопасности, корпоративных политиках информационной безопасности, регламентах по защите отдельных видов информации ограниченного доступа они определяют, закрепляют меры по противодействию использования квадракоптеров и иных БПЛА в целях обеспечения информационной безопасности.

Такие беспилотные летательные аппараты, как квадракоптеры, используются и в шпионаже в сфере интеллектуальной собственности. С их помощью специально фотографируют и фиксируют на видео произведения архитектуры, зодчества, садово-паркового искусства, ландшафтного дизайна и других объектов в целях дальнейшей продажи полученных данных конкурентам для переработки, а часто и просто незаконного воспроизведения.

Динамика развития использования квадракоптеров и иных БПЛА является угрозой информационной безопасности личности. Отмечается рост практики их использования для слежения за частной жизнью тех или иных лиц. Многие охранные и детективные организации незаконно фиксируют личную жизнь тех или граждан по заказу конкурентов, членов их семей, недоброжелателей и прочее. Вместе с тем сбор таких данных (сведений) может нанести ущерб интересам личности. Аналогичной деятельностью занимаются многие обычные граждане, которые распространяют информацию о своих услугах через интернет и социальные сети. Исследования показывают, что сбор персональных данных и сведений о личной и семейной жизни с помощью БПЛА осуществляется в различных формах фиксации передвижения, дислокации, встреч с теми или иными людьми, посещения определенных заведений; а также использования прослушивающих и фиксирующих устройств способами, ранее приведенными нами применительно к организациям и банкам.

Анализ законодательных инициатив в сфере правового регулирования беспилотных транспортных средств в России свидетельствует о целом ряде проблем, с которыми приходится сталкиваться разработчикам. Это, прежде всего, проблемы ответственности. Полагаем, что необходимо определиться, на кого может быть возложена ответственность в случае причинения вреда жизни или здоровью граждан и (или) вреда чужому имуществу. Будут ли субъектами ответственности владельцы беспилотных транспортных средств, возможно ли страхование использования таких транспортных средств, могут ли нести ответственность разработчики таких средств? Представляется, что все эти вопросы нуждаются в тщательной проработке и научно обоснованном правовом решении.

В Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы искусственный интеллект определен в числе основных направлений развития российских информационных и коммуникационных технологий. Акцентируется, что технологии искусственного интеллекта стали частью современных управленческих систем во всех отраслях экономики, сферах государственного управления.

Возможные сферы применения искусственного интеллекта в государственном управлении весьма разнообразны и могут быть сгруппированы по предметному принципу: "в промышленности - автоматизация различных процессов, снижение издержек, повышение качества оказываемых услуг; в сфере финансов - предотвращение мошенничества, обслуживание клиентов, контроль правомерности деятельности субъектов экономической деятельности; в сфере транспорта - обеспечение безопасности движения транспортных средств, составление расписания транспорта, разгрузка дорожных "пробок"; в сфере образования - беспристрастная оценка уровня знаний, разработка индивидуальных программ обучения, реализация потенциала учащегося; в сфере здравоохранения - анализ медицинских изображений, поддержка здорового образа жизни, коммуникации с пациентами, рекомендации по тактике ведения пациентов и лечению; в сфере ЖКХ - предотвращение коммунальных аварий, помощь людям с ограниченными возможностями; в сфере сельского хозяйства - автоматизация процессов сбора урожая, поддержка необходимых условий возделывания сельскохозяйственных культур; в сфере правосудия - развитие системы электронного правосудия, генерация судебных решений, контроль судебной практики; в сфере безопасности - выполнение опасных для жизни и здоровья человека функций, предупреждение совершения преступлений, обеспечение беспристрастности наказания"*(284). Основными проблемами использования технологий искусственного интеллекта в сфере государственного и муниципального управления на ближайшие годы будут несовершенство законодательство; отсутствие квалифицированных специалистов, которые бы обладали интегративными знаниями в различных сферах, например, IT-юристов; неразвитость цифровых платформ и инфраструктуры органов власти; неопределенность сфер, где искусственный интеллект не может быть использован, а где эти технологии должны занимать доминирующее положение; системы управленческого сдерживания и контроля за решениями и действиями, реализуемыми с использованием технологий и искусственного интеллекта; практически полная неготовность большинства муниципальных образований к внедрению и использованию цифровых технологий и др.

Важное значение в регулировании отношений в сфере использования искусственного интеллекта должно играть и саморегулирование. Саморегулирование в соответствии с ФЗ "О саморегулируемых организациях" от 01.12.2007 N 315-ФЗ осуществляется на условиях объединения субъектов предпринимательской или профессиональной деятельности в саморегулируемые организации (далее - СРО), т.е. "некоммерческие организации, созданные в целях, предусмотренных настоящим Федеральным законом и другими федеральными законами, основанные на членстве, объединяющие субъектов предпринимательской деятельности исходя из единства отрасли производства товаров (работ, услуг) или рынка произведенных товаров (работ, услуг) либо объединяющие субъектов профессиональной деятельности определенного вида"*(285). Фактически сегодня саморегулирование оказываются определенным механизмом, позволяющим государству решать часть проблем использования цифровых технологий, которые сложно решить с помощью непосредственно правового регулирования.

Саморегулирование необходимо рассматривать как сложный, комплексный механизм, который направлен на регулирование общественных отношений, а значит, он представляет собой разновидность социальной регуляции наряду с правом, моралью, корпоративными нормами и другими социальными регуляторами. Данный механизм наиболее тесно связан с правом как социальным регулятором, поскольку во многом опирается на него, например, механизмы саморегулирования сегодня устанавливаются законом. Представляется, что саморегулирование можно определить как сложный, комплексный механизм социальной регуляции общественных отношений, с помощью которого на различных уровнях, используя различные виды социальных регуляторов, субъектами предпринимательской или профессиональной деятельности осуществляется самостоятельная и инициативная деятельность, целью которой являются разработка и установление стандартов и правил указанной деятельности, а также контроль за соблюдением их требований. Саморегулирование можно рассматривать как форму совместного существования гражданского общества и государства, при которой государство обязуется обеспечить реализацию инициатив тех или иных субъектов предпринимательской или профессиональной деятельности, направленных на улучшение качества производимых товаров (оказываемых услуг, выполняемых работ), защиту прав потребителей и иных лиц.

В анализируемом контексте саморегулирование сферы цифровых технологий является очень перспективным, поскольку фактически сегодня отсутствует правовое регулирование использования современных цифровых технологий. Причем использование саморегулирования сферы цифровых технологий может быть эффективно и в рамках российской модели саморегулирования. Но необходимо совершенствование норм ФЗ "О саморегулируемых организациях". Сегодня СРО могут создаваться исходя из единства отрасли производства товаров (работ, услуг) или рынка произведенных товаров (работ, услуг) либо объединяющие субъектов профессиональной деятельности определенного вида. Данные критерии не позволяют участникам в сферах, основанных на использовании блокчейн, искусственного интеллекта и других цифровых технологий, объединяться в СРО. Необходимо дополнить ст. 3 ФЗ "О саморегулируемых организациях" в части определения того, что представляют собой СРО, и разрешить их создание с целью объединения формирующихся отраслей производства или рынка производственных товаров либо профессиональной деятельности определенного вида, не урегулированных действующим законодательством. Необходимость использования механизмов саморегулирования для развития использования цифровых технологий обусловливается рядом причин и факторов, среди которых можно выделить следующие:

- неэффективность традиционных механизмов правового регулирования, необходимость более оперативного реагирования на происходящие изменения общественных отношений, все более активное внедрение цифровых технологий в самые различные процессы;

- использование саморегулирования в сфере цифровых технологий является уже сложившейся закономерностью и мировой тенденцией. Саморегулирование рассматривается как часть системы регулирования, которая не возникает без отрыва от общности целей всей системы; ее функционирование осуществляется в тесной связи с другими регуляторами и тесно взаимодействует с ними. Система саморегулирования цифровых технологий может рассматриваться в таковом качестве, поскольку ее характеристики, как свидетельствует мировой опыт, позволяют разграничить ее с другими системами;

- разноотраслевая принадлежность источников (конституционного, информационного, административного, гражданского, финансового, трудового, процессуальных и других отраслей права) правового регулирования отношений, возникающих в связи с использованием цифровых технологий, предполагает необходимость их системного осмысления, создания стандартов и правил, которые бы позволяли субъектам сферы цифровых технологий эффективно взаимодействовать как друг с другом, так и с внешней средой. Саморегулирование позволяет эффективно решать эти проблемы благодаря собственной системе правил и механизмов, позволяющих регулировать поведение участников "цифровых" отношений в условиях отсутствия правового регулирования, а также его неэффективности;

- необходимость гибкости системы регулирования цифровых технологий, обусловленная активным развитием информационного общества, постепенного перехода к обществу знаний. Важной характеристикой информационного общества и общества знаний (общества множества знаний) является нелинейное развитие, постоянные скачки в развитии, стремительное обновление технологий. Все это приводит к невозможности законодателем оперативно реагировать и регулировать эти процессы. Современный российский законодатель фактически не успевает определиться с необходимостью и возможностью регулирования использования той или иной технологии, а уже появляются новые, в отношении регулирования использования которых приходится ставить те же задачи. В результате, когда появляются проекты нормативных правовых актов, направленных на регулирование той или иной технологии, то оказывается, что они "технологически" уже устарели или соответствующая сфера общественных отношений, экономическая система уже нашли механизмы существования в режиме действия локального, оперативного, договорного регулирования, использования механизмов иностранных юрисдикций. С этим сталкиваются многие страны мира, и ряд из них для решения этих вопросов используют механизмы саморегулирования.

§ 3. Правовое регулирование использования технологий искусственного интеллекта за рубежом

Анализ зарубежного опыта правового регулирования отношений в сфере использования искусственного интеллекта и робототехники свидетельствует о наличии нескольких моделей регулирования отношений, возникающих в связи с использованием искусственного интеллекта.

Достаточно распространена практика частных инициатив, связанная с объединением усилий ряда компаний по развитию использования технологий искусственного интеллекта и закреплению основных принципов работы с такими технологиями. Например, Азиломарские принципы искусственного интеллекта (США), направленные на создание полезного интеллекта, поддержания человеческих ценностей, конфиденциальности личных данных*(286).

Важным механизмом регулирования отношений в сфере искусственного интеллекта является саморегулирование. Саморегулирование сегодня оказывает различное влияние на процессы развития цифровых технологий как в России, так и во всем мире. Можно выделить несколько направлений такого влияния. Во-первых, ставится вопрос о возможности использования механизма саморегулирования для развития ряда направлений информационно-телекоммуникационной сферы, сферы массовых коммуникаций, в которых активно используются цифровые технологии. Причем это не только традиционное регулирование интернет-среды, но и отдельные отрасли использования криптовалют, блокчейн-технологий, искусственного интеллекта и других. Во-вторых, это использование цифровых технологий в процессе развития саморегулирования в уже действующих сферах. Так, цифровизация строительной отрасли, включающая функционирование информационных систем, основанных на использовании больших данных, блокчейн-технологии, искусственного интеллекта, предполагает создание единого информационного пространства, охватывающего всех субъектов системы саморегулирования строительной отрасли.

Большинство государств сегодня идут по пути национального правового регулирования отношений в сфере использования технологий искусственного интеллекта.

Анализ национального регулирования свидетельствует о достаточно ограниченном круге отношений, которые подвергаются правовому воздействию - это преимущественно транспортная сфера, образование, медицина, общественная безопасность, промышленность, государственное управление. Но намечается явная тенденция к расширению и включение новых сфер, в которых регулируется использование искусственного интеллекта. В 2008 г. одним из первых в мире в Южной Корее был принят Закон "О развитии и распространении умных роботов". Анализ мирового опыта свидетельствует, что пока проявляются тенденции "точечного", конкретного регулирования вопросов, связанных с использованием роботов. Так, в 2017 г. в Эстонии были приняты нормы об использовании роботов-курьеров, которые в пределах определенного пространства доставляют различную корреспонденцию и покупки.

В Германии 12.05.2017 Бундестагом внесены изменения в Закон о дорожном движении Германии (Strassenverkehrsgesetz), согласно которым с 21.06.2017 официально допускается эксплуатация автомобиля посредством значительно или полностью автоматизированной функции вождения, если эта функция используется по назначению. Под такими автомобилями в п. 1 ст. 1 Восьмого закона о внесении изменений в Закон о дорожном движении от 16.06.2017 немецкий законодатель понимает "имеющие техническое оснащение, которое: 1) после активации может управлять автомобилем для выполнения задачи вождения, включая продольное и боковое управление; 2) при значительно или полностью автоматизированном управлении автомобилем способно соблюдать правила дорожного движения, относящиеся к вождению; 3) может быть в любое время вручную перехвачено или деактивировано водителем автомобиля; 4) способно распознавать ситуации, когда управление автомобилем должно осуществляться самим водителем; 5) может визуально, акустически, тактильно или иным образом уведомлять водителя о необходимости взять на себя управление автомобилем с достаточным запасом времени до момента передачи управления и 6) сигнализирует об использовании, противоречащем справочному руководству"*(287). Водитель, в соответствии с новыми правилами, может отвлекаться и переходить на автоматизированное управление транспортом, но при этом он должен сохранять достаточную внимательность и перейти к управлению транспортным средством, если "значительно или полностью автоматизированная система предлагает ему сделать это, или если он признает или должен признать на основании очевидных обстоятельств, что условия целевого применения значительно или полностью автоматизированных функций вождения больше не существуют"*(288). С пяти до десяти миллионов евро увеличена предельная сумма возмещения вреда, которая может быть потребована, если вред, при наличии смерти или травмирования одного или нескольких людей, причинен в результате ДТП с участием автомобиля посредством значительно или полностью автоматизированной функции вождения.

Регулирование аналогичных транспортных средств имеется в Дании, где с 1 июля 2017 г. вступили в силу изменения в Закон о дорожном движении и разрешены испытания беспилотного автотранспорта на дорогах общего пользования. При этом во время самого испытания внутри салона автомобиля обязательно присутствие человека, который должен иметь возможность во время испытания взять контроль над управлением автотранспортного средства*(289). Согласно пояснительной записке к данному закону, его основная цель - разрешить испытания беспилотных (самоходных) транспортных средств в Дании, когда это безопасно по соображениям безопасности дорожного движения. При этом создана экспериментальная схема, которая станет основой для различных испытаний с самоходными двигателями; процедуры испытаний не ограничивают возможности определения в законодательстве в области дорожного движения того, какие транспортные средства или дороги могут быть охвачены. Однако в разрешении на проведение испытаний беспилотных транспортных средств будет определено, какие средства будут одобрены для подобных испытаний в соответствии с требованиями ЕС и национально одобренным перечнем транспортных средств, а также конкретные участки дорог и, при необходимости, время, когда подобные испытания разрешены.

В Канаде принят ряд общих документов, рекомендующих национальному законодателю ряд позиций, которые необходимо учитывать при регулировании автоматизированных транспортных средств; на уровне провинций и регионов разрабатываются и принимаются регламентные положения об испытании беспилотных транспортных средств, в частности в провинции Онтарио (Регламент N 306/15 от 16.09.2015 "Пилотный проект - Автоматизированные транспортные средства", принятый в соответствии с Законом о дорожном движении (вступил в силу 13.10.2015)*(290).

В ряде государств были приняты концептуальные государственные документы, заложившие основу для регулирования отношений в сфере использования искусственного интеллекта и робототехники, а также принятия ряда специальных законов. За последние годы национальные стратегии в области ИИ и продвижения ИИ-технологий выпустили Канада, Китай, Дания, Комиссия ЕС, Финляндия, Франция, Индия, Италия, Япония, Мексика, Скандинаво-Балтийский регион, Сингапур, Южная Корея, Швеция, Тайвань, ОАЭ и Великобритания. При этом каждая из них фокусируется на различных аспектах политики в области искусственного интеллекта: научные исследования, развитие талантов, навыки и образование, взаимодействие государственного и частного секторов, этика и совместное существование, стандарты и положения, а также данные и цифровая инфраструктура*(291).

Канада стала первым государством, выпустившим в 2017 г. Всеканадскую стратегию искусственного интеллекта, которая преследует четыре основные цели: увеличение числа выдающихся исследователей искусственного интеллекта и квалифицированных выпускников в Канаде; установить взаимосвязанные узлы научного совершенства в трех основных центрах искусственного интеллекта Канады в Эдмонтоне, Монреале и Торонто; развивать мировое лидерство в вопросах экономического, этического, политического и правового значения достижений в области искусственного интеллекта; поддержать национальное исследовательское сообщество по искусственному интеллекту*(292).

Государственный совет КНР 08.07.2017 принял План развития технологий искусственного интеллекта нового поколения. Данный План содержит три основных этапа развития технологий искусственного интеллекта. На первом этапе к 2020 году общая технология и применение искусственного интеллекта должны прийти к мировым стандартам. Индустрия искусственного интеллекта станет новой важной точкой экономического роста. Применение технологий искусственного интеллекта станет новым способом улучшения средств к существованию людей и эффективной поддержки вступления и внедрения инновационных стран. Второй шаг - добиться крупного прорыва в основной теории искусственного интеллекта к 2025 году. Искусственный интеллект должен стать главной движущей силой для модернизации промышленности и экономических преобразований в Китае. Новое поколение искусственного интеллекта должно широко использоваться в таких областях, как интеллектуальное производство, интеллектуальная медицинская помощь, умные города, умное сельское хозяйство и национальное оборонное строительство. Должно быть обеспечено внедрение законов и положений об искусственном интеллекте, этических норм и систем формирования оценки, и контроля безопасности искусственного интеллекта. Третий шаг - к 2030 г. теория искусственного интеллекта, технологии и приложения должны стать ведущими в мире, а Китай должен стать инновационным центром искусственного интеллекта, умной экономикой, умным обществом. Должна быть создана целая промышленная цепочка и высококлассный кластер промышленности, охватывающий основные технологии, ключевые системы, поддерживающие платформы и интеллектуальные приложения. Должен быть сформирован реестр ведущих мировых инновационных технологий в области искусственного интеллекта, а также созданы более полные законы, нормы, этические нормы и системы обеспечения безопасности искусственного интеллекта*(293).

Таким образом, Китай нацелен на планомерное развитие искусственного интеллекта и основные правовые, этические и технические нормы, направленные на регулирование использования систем искусственного интеллекта и обеспечения их безопасного функционирования, предполагается принять только к 2025 году. Сегодня в Китае происходит активное развитие отдельных технологий искусственного интеллекта, появляются первые законопроекты об использовании беспилотного транспорта и автоматизации процессов управления транспортной системой в стране.

Многие страны сегодня вполне оправданно осознают, что правовое регулирование вряд ли можно рассматривать в качестве единственного или основного механизма регулирования данной сферы. В мире наблюдается также тенденция на отраслевое регулирование отношений в сфере робототехники и наднациональный характер. Так, 16.02.2017 Парламентом Европейского союза принята резолюция N 2015/2103 (INL) "Нормы гражданского права о робототехнике". Несмотря на отражение в названии данного документа гражданско-правового характера регулирования отношений, резолюция содержит в себе достаточно большое количество положений, регулирующих и иные отношения, что характеризует данный документ как комплексный. В нем рассматриваются "в том числе: общие принципы робототехники со ссылкой на законы А. Азимова, а также основные предпосылки и положения, которые предшествовали и способствовали принятию Резолюции; уточненное определение роботов; подходы к проблеме ответственности за причиненный роботами вред; предложение о создании Европейского агентства по робототехнике и искусственного интеллекта; предложение о создании единых критериев для создания тестовых зон; базовые правила регулирования по категориям роботов; предложение о системе регистрации умных роботов; Устав роботов и Этические кодексы производителей; предложение подумать над особым статусом "электронных личностей"*(294).

Анализ зарубежного опыта свидетельствует о наличии ряда моделей регулирования искусственного интеллекта. При этом правовое регулирование оказывается не единственным регулятором. Активное использование организационных норм, этических норм, саморегулирования и сорегулирования, формирование наднациональных норм свидетельствует о поиске решения сложной задачи упорядочить отношения в сфере использования киберфизических систем и искусственного интеллекта.

Вопросы для обсуждения

1. Попробуйте сконструировать определение искусственного интеллекта с точки зрения рассмотрения его как объекта права.

2. Проанализируйте практику иностранных и российских судов в части вопросов использования технологий искусственного интеллекта.

3. С какими проблемами сталкиваются и могут столкнуться российские правоприменители?

4. Каковы современные направления правового регулирования отношений, связанных с использованием искусственного интеллекта и робототехники?

5. Приведите примеры российского опыта правового регулирования таких отношений и выносимых на обсуждение законопроектов.

6. Рассмотрите особенности технологий искусственного интеллекта как объекта и субъекта права.

7. Проанализируйте состояние современной российской и иностранной доктрин в указанной области.

8. Приведите примеры правового регулирования отношений, связанных с использованием искусственного интеллекта и роботоехники, за рубежом и на международном уровне.

9. В чем заключается механизм саморегулирования в сфере искусственного интеллекта?

10. Приведите примеры применения искусственного интеллекта в государственном управлении.

Список литературы

Монографии, учебники, учебные пособия

1. Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий искусственного интеллекта / В.В. Бакуменко и др.; под ред. А.В. Незнамова. М.: Инфотропик Медиа, 2018. 220 с.

2. Морхат П.М. Право и искусственный интеллект: монография / предисл. д-ра юрид. наук, проф. И.А. Близнеца и д-ра юрид. наук, проф. И.В. Понкин; под ред. д-ра юрид. наук, проф. И.В. Понкина. М.: ЮНИТИ-ДАНА, 2018. 544 с.

3. Правовое регулирование цифровой экономики в современных условиях развития высокотехнологичного бизнеса в национальном и глобальном контексте: монография / под общ. ред. В.Н. Синюкова, М.А. Егоровой. Московский государственной юридический университет имени О.Е. Кутафина (МГЮА). М.: Проспект, 2019. 240 с.

4. Регулирование робототехники: введение в "робоправо". Правовые аспекты развития робототехники и технологий искусственного интеллекта / В.В. Архипов и др.; под ред. А.В. Незнамова. М.: Инфотропик Медиа, 2018. 232 с.

5. Цифровая экономика: проблемы правового регулирования: монография / коллектив авторов; отв. ред. В.В. Зайцев, О.А. Серова. М.: Кнорус, 2019. 200 с.

Научные статьи

1. Грищенко Г.А. Искусственный интеллект в государственном управлении // Российский юридический журнал. 2018. N 6. С. 27-31.

2. Минбалеев А.В. Проблемы регулирования искусственного интеллекта // Вестник Южно-Уральского государственного университета. Серия: "Право". 2018. Т. 18. N 4. С. 82-87.

3. Незнамов А.В., Наумов В.Б. Вопросы развития законодательства о робототехнике в России и в мире // Юридические исследования. 2017. N 8. С. 14-25.

4. Незнамов А.В., Наумов В.Б. Стратегия регулирования роботехники и киберфизических систем // Закон. 2018. N 2. С. 69-90.

Нормативные правовые акты

1. Федеральный закон Российской Федерации от 01.12.2007 N 315-ФЗ "О саморегулируемых организациях" // СЗ РФ. 2007. N 49. Ст. 6076.

2. Постановление Правительства РФ от 25.08.2017 N 996 (ред. от 06.05.2019) "Об утверждении Федеральной научно-технической программы развития сельского хозяйства на 2017-2025 годы" // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru.

3. Распоряжение Правительства РФ от 22.11.2008 N 1734-р "О Транспортной стратегии Российской Федерации".

4. Распоряжение Правительства Российской Федерации от 28.07.2017 N 1632-р "Об утверждении Программы "Цифровая экономика Российской Федерации" // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru.

5. Распоряжение Правительства РФ от 28.04.2018 N 831-р "Об утверждении Стратегии развития автомобильной промышленности Российской Федерации на период до 2025 года" // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru.

6. План мероприятий (дорожная карта) по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы по направлению "Автонет". Утв. Распоряжением Правительства РФ от 29.03.2018 N 535-р // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru.

7. Распоряжение Правительства РФ от 22.11.2008 N 1734-р "О Транспортной стратегии Российской Федерации" // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru.

8. Указ Президента Российской Федерации от 01.12.2016 N 642 "О Стратегии научно-технологического развития Российской Федерации" // СЗ РФ. 2016. N 49. Ст. 6887.

9. Указ Президента РФ от 09.05.2017 N 203 "О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы" // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru, 10.05.2017.

10. ISO 8373:2012. "Роботы и робототехнические устройства. Термины и определения" // https://www.iso.org/standard/55890.html (дата последнего обращения - 30.05.2019).

11. ГОСТ Р ИСО 8373-2014 "Роботы и робототехнические устройства. Термины и определения".