делать. The practical implementation of artificial intelligence technologies in medicine
 Скачать 64.99 Kb.
|
Вставка 3. Практический пример IDx-DRСлучай с IDx-DR демонстрирует один из первых успехов технологии на основе ИИ, завершившей процесс регулирования в Соединенных Штатах. IDx-DR — это программа, разработанная для проведения скрининга на диабетическую ретинопатию в учреждениях первичной медико-санитарной помощи или, в более общем плане, в условиях, когда врач, специально обученный офтальмологии (например, окулист или офтальмолог), недоступен. Программное обеспечение анализирует цифровые цветные фотографии сетчатки пациента с использованием алгоритма искусственного интеллекта, чтобы предоставить результат скрининга — либо (i) «обнаружена более чем легкая диабетическая ретинопатия; обратитесь к офтальмологу» или (ii) «отрицательный результат диабетической ретинопатии более чем легкой степени тяжести; повторный просмотр через 12 месяцев» (https://www.fda.gov/NewsEvents/Newsroom/PressAnnouncements/ucm596575.htm). Хотя ранее были одобрены другие устройства с компонентом ИИ (вставка 2), это первое устройство, обеспечивающее результат скрининга без интерпретации изображения врачом: это первая автономная диагностическая система ИИ. Кроме того, вместо того, чтобы идти по традиционному пути, IDx-DR прошел предпродажный путь Automatic Class III или De Novo, а также получил обозначение Breakthrough Device. Путь De Novo предназначен для новых медицинских устройств, для которых общие меры контроля обеспечивают разумную гарантию безопасности и эффективности (https://www.fda.gov/MedicalDevices/DeviceRegulationandGuidance/HowtoMarketYourDevice/PremarketSubmissions/ucm462775.htm); по сути, это альтернативный путь регулирования для устройств с низким и умеренным риском. FDA принимало активное участие в консультировании и руководстве компанией на протяжении всего клинического испытания и в определении значимых конечных точек. Это раннее участие и активное сотрудничество между производителем устройства и FDA, несомненно, облегчили обзор. Раннее взаимодействие с FDA и следование пути De Novo, вероятно, представляет собой выгодную стратегию для других производителей технологий на основе ИИ. | |
The view toward global implementation of AI in healthcare | Взгляд на глобальное внедрение ИИ в здравоохранение |
| The issues surrounding AI implementation are universal in nature and are not unique to the United States. One of the organizations leading guidance in this area is the International Medical Device Regulators Forum (IMDRF), a voluntary group of medical device regulators working toward harmonizing international medical device regulation (http://www.imdrf.org/). Its members currently include Australia, Brazil, Canada, China, Europe, Japan, Russia, Singapore, South Korea, and the United States. The IMDRF has issued key definitions for SaMD and a common framework for regulators31. Its guidance also recommends a continuous iterative process based on real-world performance data35. Similar to the FDA approach, the IMDRF states that low-risk SaMD may not require independent review. | Проблемы, связанные с внедрением ИИ, носят универсальный характер и не являются уникальными для Соединенных Штатов. Одной из организаций, ведущих руководство в этой области, является Международный форум органов регулирования медицинских устройств (IMDRF), добровольная группа органов регулирования медицинских устройств, работающая над гармонизацией международного регулирования медицинских устройств (http://www.imdrf.org/). В настоящее время в его состав входят Австралия, Бразилия, Канада, Китай, Европа, Япония, Россия, Сингапур, Южная Корея и США. IMDRF выпустил ключевые определения программного обеспечения как медицинского изделия и общую структуру для регулирующих органов. В его руководстве также рекомендуется непрерывный итеративный процесс, основанный на реальных данных о производительности. Подобно подходу FDA, IMDRF утверждает, что программное обеспечение как лекарственное средство с низким уровнем риска может не требовать независимой проверки. |
| The European Union (EU) has issued some key regulatory policies that will affect AI implementation in their healthcare systems. The General Data Protection and Regulation (GDPR) outlines a comprehensive set of regulations for the collection, storage, and use of personal information, which was adopted by the European Parliament in April 2016 and became effective in May 201836. A critical component of this regulation is Article 22, “Automated individual decision making, including profiling.” This article of regulation describes the right of citizens to receive an explanation for algorithmic decisions. This would potentially prohibit an array of algorithms currently in use in advertising and social networks36. Although the GDPR applies to data from EU citizens, given the global nature of the Internet and modern connectivity, the regulation has impacted companies from the US and worldwide as they adapt to the new regulations. | Европейский союз (ЕС) выпустил ряд ключевых нормативных документов, которые повлияют на внедрение ИИ в системы здравоохранения. Общий регламент по защите данных (GDPR) представляет собой всеобъемлющий свод правил по сбору, хранению и использованию личной информации, который был принят Европейским парламентом в апреле 2016 года и вступил в силу в мае 2018 года. Важнейшим компонентом этого регламента является статья 22 "Автоматизированное принятие индивидуальных решений, включая профилирование". Эта статья регламента описывает право граждан на получение объяснения алгоритмических решений. Это потенциально может запретить целый ряд алгоритмов, используемых в настоящее время в рекламе и социальных сетях. Хотя GDPR применяется к данным граждан ЕС, учитывая глобальный характер Интернета и современные возможности подключения, это постановление повлияло на компании из США и других стран мира, поскольку они адаптируются к новым правилам. |
| The GDPR will affect AI implementation in healthcare in several ways. First, it requires explicit and informed consent before any collection of personal data. Informed consent has been a long-standing component of medical practice (unlike in social media or online-based marketing), but having to obtain informed consent for any collection of data still represents a higher bar than obtaining consent for specific items, such as procedures or surgical interventions. Second, the new regulation essentially lends power to the person providing the data to track what data is being collected and to be able to request removal of their data. In the healthcare context, this will shift some of the power balance toward the patient and highlights the importance of ongoing work needed to protect patient privacy and to determine appropriate governance regarding data ownership. Finally, the need for a ‘right to explanation’ will potentially limit the types of models that manufacturers are able to use in health-related applications. However, as we described earlier in this review, model interpretability is important in AI-based healthcare applications given the high stakes of dealing with human health, and this requirement may actually help AI applications become more reliable and trustable. In addition, this requirement of a right to explanation will hold the manufacturers of AI-based technologies more accountable. | GDPR повлияет на внедрение ИИ в здравоохранении несколькими способами. Во-первых, он требует явного и информированного согласия перед любым сбором персональных данных. Информированное согласие является давним компонентом медицинской практики (в отличие от социальных сетей или онлайн-маркетинга), но необходимость получения информированного согласия на любой сбор данных по-прежнему представляет собой более высокую планку, чем получение согласия на конкретные действия, такие как процедуры или хирургические вмешательства. Во-вторых, новое положение, по сути, дает право лицу, предоставляющему данные, отслеживать, какие данные собираются, и иметь возможность потребовать удаления своих данных. В контексте здравоохранения это сместит часть баланса сил в сторону пациента и подчеркнет важность постоянной работы, необходимой для защиты конфиденциальности пациента и определения надлежащего управления в отношении владения данными. Наконец, потребность в «праве на объяснение» потенциально ограничит типы моделей, которые производители могут использовать в приложениях, связанных со здоровьем. Однако, как мы описали ранее в этом обзоре, интерпретируемость моделей важна в приложениях для здравоохранения на основе ИИ, учитывая высокие ставки, связанные со здоровьем человека, и это требование может фактически помочь приложениям ИИ стать более надежными и заслуживающими доверия. Кроме того, это требование о праве на объяснение повлечет за собой большую ответственность производителей технологий на основе ИИ. |
| The GDPR regulation has occurred so recently that the long-term effects remain to be seen. Companies may need to enact significant innovations in their practices in order to meet the new standards. The GDPR regulation may also eventually affect regulatory practices in other countries. We anticipate that the GDPR may potentially slow down AI implementation in healthcare in the short term owing to the stricter regulatory standards, but it may facilitate implementation over the long term by promoting public trust and patient engagement. | Регулирование GDPR произошло так недавно, что его долгосрочные последствия еще предстоит увидеть. Компаниям может потребоваться внедрить значительные инновации в свою практику, чтобы соответствовать новым стандартам. Регламент GDPR также может в конечном итоге повлиять на практику регулирования в других странах. Мы ожидаем, что GDPR потенциально может замедлить внедрение ИИ в здравоохранении в краткосрочной перспективе из-за более строгих нормативных стандартов, но может облегчить внедрение в долгосрочной перспективе, способствуя общественному доверию и вовлечению пациентов. |
| China is also a major player in AI in the global arena. With the world’s largest population and a relatively centralized healthcare system, data for training and validation of AI algorithms are vast. Healthcare equity has been a major concern due to the uneven distribution of resources between urban and rural areas. As such, AI technologies represent an opportunity to overhaul China’s medical system. The rapid adoption of mobile technology and increased Internet connectivity throughout China is projected to facilitate adoption of AI technologies, which could help make more efficient triage and referral systems for patients. Furthermore, Chinese health providers envision that the combination of AI technologies with wearable devices could assist with health maintenance as well as disease surveillance on a broad scale. | Китай также является крупным игроком в области ИИ на мировой арене. Благодаря самому большому в мире населению и относительно централизованной системе здравоохранения, данные для обучения и проверки алгоритмов ИИ огромны. Равенство в здравоохранении является одной из главных проблем из-за неравномерного распределения ресурсов между городскими и сельскими районами. Таким образом, технологии ИИ представляют собой возможность перестроить медицинскую систему Китая. По прогнозам, быстрое внедрение мобильных технологий и расширение возможностей подключения к Интернету по всему Китаю будет способствовать внедрению технологий ИИ, что поможет создать более эффективные системы сортировки и направления пациентов. Кроме того, китайские поставщики медицинских услуг считают, что сочетание технологий ИИ с носимыми устройствами может помочь в поддержании здоровья и наблюдении за заболеваниями в широком масштабе. |
| In July 2017, the China State Council issued a development plan for AI, including strong promotion of AI applications in the healthcare system. This plan issued favorable policies and funding for AI start-up companies and implementation efforts. Hundreds of new start-up companies working on AI applications in healthcare in China have emerged. Similar to how Google and Amazon are expanding into the health space in the United States, in China, Internet giants such as Alibaba, Tencent, and Baidu have also established their own groups to work on healthcare AI applications. | В июле 2017 года Государственный совет Китая опубликовал план развития ИИ, включая активное продвижение приложений ИИ в системе здравоохранения. Этот план предусматривал благоприятную политику и финансирование для начинающих компаний ИИ и усилий по внедрению. Появились сотни новых стартапов, работающих над приложениями ИИ в здравоохранении в Китае. Подобно тому, как Google и Amazon расширяются в области здравоохранения в Соединенных Штатах, в Китае интернет-гиганты, такие как Alibaba, Tencent и Baidu, также создали свои собственные группы для работы над приложениями искусственного интеллекта для здравоохранения. |
| In terms of implementing AI technologies in real clinical practice, AI-based screening tools have already been deployed in clinical trials in multiple Chinese hospitals. These include AI-based tools for the diagnosis of lung cancer, esophageal cancer, diabetic retinopathy, and general diagnostic assistance in pathology examinations. The first AI-powered medical device is expected to be approved by the Chinese Food and Drug Administration in the first half of 2019. | Что касается внедрения технологий ИИ в реальную клиническую практику, инструменты скрининга на основе ИИ уже были развернуты в клинических испытаниях в нескольких китайских больницах. К ним относятся инструменты на основе ИИ для диагностики рака легких, рака пищевода, диабетической ретинопатии и общей диагностической помощи при патологоанатомических исследованиях. Ожидается, что первое медицинское устройство на базе искусственного интеллекта будет одобрено Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов Китая в первой половине 2019 года. |
| One example of a successful implementation in China is an AI-based screening and referral system for the diagnosis and referral of major eye and systemic diseases in the Kashi First People’s Hospital and its healthcare network. Located in the remote most western part of the Xinjiang autonomous region of China, this health system serves a population of 4.5 million people scattered across a mountainous area of 112,057 km2. This population has a high prevalence of blinding eye diseases, including diabetic retinopathy, glaucoma, retinal vein occlusions, and age-related macular degeneration, as well as common chronic systemic diseases including diabetes, hypertension, cardiovascular disease, and stroke. This AI system employs retinal photographs captured by nonmydriatic fundus cameras to screen for and diagnose the aforementioned diseases. Preliminary results demonstrate high accuracy of the AI-generated diagnoses, comparable to that of a trained eye doctor. | Одним из примеров успешного внедрения в Китае является основанная на искусственном интеллекте система скрининга и направления для диагностики и направления к специалистам по основным глазным и системным заболеваниям в Первой народной больнице Каши и ее сети здравоохранения. Эта система здравоохранения, расположенная в самой отдаленной западной части Синьцзянского автономного района Китая, обслуживает 4,5 миллиона человек, разбросанных по горной местности площадью 112 057 км2. В этой популяции высока распространенность заболеваний глаз, приводящих к слепоте, включая диабетическую ретинопатию, глаукому, окклюзию вен сетчатки и возрастную дегенерацию желтого пятна, а также распространенных хронических системных заболеваний, включая диабет, гипертонию, сердечно-сосудистые заболевания и инсульт. Эта система искусственного интеллекта использует фотографии сетчатки, снятые немидриатической камерой глазного дна, для выявления и диагностики вышеупомянутых заболеваний. Предварительные результаты демонстрируют высокую точность диагнозов, сгенерированных ИИ, сравнимую с точностью опытного врача-офтальмолога. |