делать. The practical implementation of artificial intelligence technologies in medicine

• Название: The practical implementation of artificial intelligence technologies in medicine
• Анкор: делать
• Дата: 02.10.2022
• Размер: 64.99 Kb.
• Имя файла: Artificial intelligence in sustainable energy industry.docx
• Тип: Документы; #709299
• страница: 7 из 10

Education of an AI-literate workforce

All stakeholders need to be actively involved in the AI implementation process in medicine. The workforce should be educated about AI and understand both its benefits and limitations. Medical school and residency curricula should be updated to include topics in health informatics, computer science, and statistics9. In an ideal world, physicians would understand the construction of algorithms, comprehend the datasets underlying their outputs, and, importantly, understand their limitations. But in a world of finite resources and competing demands on clinicians’ time, it may not be reasonable to expect every provider to reach that level of understanding. However, as AI becomes increasingly prevalent not only in healthcare, but also in our world at large, we anticipate that an increasing number of clinicians will be interested in obtaining this type of dedicated training, whether through research projects during medical school, residency, or fellowship, or through dedicated training programs in informatics, such as those offered by the National Library of Medicine. Ultimately healthcare providers will need this knowledge to maximize their functioning on human–machine teams. Additionally, as patient advocates, a cadre of healthcare workers needs to understand these technologies in order to educate policymakers on the complexities of clinical decision-making and the consequences of potential misuse.

Подготовка грамотных в области ИИ кадров

Все заинтересованные стороны должны быть активно вовлечены в процесс внедрения ИИ в медицине. Работники должны быть осведомлены об ИИ и понимать как его преимущества, так и ограничения. Учебные программы медицинских вузов и ординатур должны быть обновлены и включать темы по медицинской информатике, информатике и статистике. В идеальном мире врачи понимали бы принципы построения алгоритмов, разбирались бы в массивах данных, лежащих в основе их результатов, и, что очень важно, понимали бы их ограничения. Но в мире ограниченных ресурсов и конкурирующих требований к времени врачей, возможно, неразумно ожидать, что каждый врач достигнет такого уровня понимания. Однако, поскольку ИИ становится все более распространенным не только в здравоохранении, но и в мире в целом, мы ожидаем, что все большее число врачей будет заинтересовано в получении такого рода специальной подготовки, будь то в рамках исследовательских проектов в медицинской школе, ординатуре или стипендии, или в рамках специальных учебных программ по информатике, таких как те, которые предлагает Национальная библиотека медицины. В конечном итоге медицинским работникам понадобятся эти знания, чтобы максимально эффективно работать в составе человеко-машинных команд. Кроме того, как защитники интересов пациентов, группа медицинских работников должна понимать эти технологии, чтобы разъяснять директивным органам сложность принятия клинических решений и последствия потенциального неправильного использования.

AI policy and the regulatory environment in the United States

Политика в области искусственного интеллекта и нормативно-правовая база в США

One key element to implementing AI technologies in healthcare is the development of regulatory standards for assessment of safety and efficacy. Conventional medical device approvals in the United States currently go through the FDA’s Center for Devices and Radiological Health (CDRH) and are classified as Class I, II, or III, with higher numbers indicating increasing risk of illness or injury and therefore a higher level of regulatory control to ensure safety and effectiveness (https://www.fda.gov/ForPatients/Approvals/Devices/ucm405381.htm). Medical devices undergo an extensive regulatory process, which includes establishment registration, medical device listing, and a Premarket Notification 510(k) for Class I or II devices or Premarket Approval (PMA) for Class III devices. The process is very complicated and can be lengthy. The average time for FDA 510(k) submissions to be cleared in 2015 was 177 days30. PMA reviews are normally longer than 180 days (https://www.fda.gov/medicaldevices/deviceregulationandguidance/howtomarketyourdevice/premarketsubmissions/premarketapprovalpma/). Evaluations are performed for individual medical devices, and any changes to the devices after approvals require an amendment or a supplement, resulting in another review cycle of 180 days (https://www.fda.gov/MedicalDevices/ucm050467.htm). The process is not well-suited for fast-paced cycles of iterative modification, which is what software entails.

Одним из ключевых элементов внедрения технологий ИИ в здравоохранение является разработка нормативных стандартов для оценки безопасности и эффективности. В настоящее время в США обычные медицинские устройства проходят через Центр по приборам и радиологическому здоровью FDA (CDRH) и классифицируются как класс I, II или III, причем более высокие номера указывают на повышенный риск заболевания или травмы и, следовательно, на более высокий уровень нормативного контроля для обеспечения безопасности и эффективности (https://www.fda.gov/ForPatients/Approvals/Devices/ucm405381.htm). Медицинские устройства проходят обширный процесс регулирования, который включает регистрацию учреждения, внесение в список медицинских устройств и предварительное уведомление 510 (k) для устройств класса I или II или предварительное утверждение (PMA) для устройств класса III. Процесс очень сложный и может затянуться. Среднее время рассмотрения заявок FDA 510(k) в 2015 г. составило 177 дней30. Проверка PMA обычно длится более 180 дней (https://www.fda.gov/medicaldevices/deviceregulationandguidance/howtomarketyourdevice/premarketsubmissions/premarketapprovalpma/).Оценка проводится для отдельных медицинских изделий, а любые изменения в изделиях после утверждения требуют внесения изменений или дополнений, что приводит к еще одному циклу рассмотрения в течение 180 дней (https://www.fda.gov/MedicalDevices/ucm050467.htm). Этот процесс не очень подходит для быстрых циклов итеративных изменений, что характерно для программного обеспечения.

The International Medical Device Regulators Forum (IMDRF) has defined AI-based technologies as being encompassed by the term Software as a Medical Device (SaMD)31, and the FDA has put forth the Digital Health Innovation Action Plan32, which outlines its approach to SaMD, including AI technologies. A few AI technologies have already received FDA approval (Box 2). The FDA has also developed a Software Precertification Program33 (Fig. 3), a ‘more streamlined and efficient’ voluntary pathway resulting in improved access to technologies. The FDA acknowledges that traditional forms of medical-device regulation are not well suited for the faster pace of design and modification for software-based medical devices.

Международный форум регуляторов медицинских устройств (IMDRF) определил технологии на основе ИИ как охватываемые термином «Программное обеспечение как медицинское устройство» (SaMD), а FDA представило План действий по инновациям в области цифрового здравоохранения, в котором излагается его подход к SaMD, включая технологии ИИ. Несколько технологий искусственного интеллекта уже получили одобрение FDA (вставка 2). FDA также разработало Программу предварительной сертификации программного обеспечения (рис. 3), «более упорядоченный и эффективный» добровольный путь, обеспечивающий улучшенный доступ к технологиям. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов признает, что традиционные формы регулирования медицинских устройств не совсем подходят для более быстрого проектирования и модификации медицинских устройств на основе программного обеспечения.

According to the FDA’s description of the program, this pathway is organization-centric and focuses on the technology developer instead of the individual products. Manufacturers who demonstrate ‘organizational excellence’ can achieve precertification, facilitating exemption from premarket review for lower-risk SaMD products or faster review for higher-risk SaMD products. These organizations are expected to continue monitoring the safety and effectiveness of their products with real-world performance data, some of which may be automatable. The FDA predicts that with this strategy, precertification and postmarket oversight will allow low-risk devices to forego premarket review and be introduced directly to the market. In addition, the overall timeline for a precertified company’s SaMD product review should be shorter than traditional processes. The FDA’s hope is that this approach will support continued innovation, allow increased availability of new and updated software, and better focus the organization’s resources on higher-risk developers and products.

Согласно описанию программы FDA, этот путь ориентирован на организацию и сосредоточен на разработчике технологии, а не на отдельных продуктах. Производители, демонстрирующие "организационное превосходство", могут получить пресертификацию, что позволит освободить от предпродажной проверки продукты SaMD с низким уровнем риска или ускорить проверку продуктов SaMD с высоким уровнем риска. Ожидается, что эти организации продолжат отслеживать безопасность и эффективность своих продуктов с использованием реальных данных о производительности, некоторые из которых могут быть автоматизированы. FDA прогнозирует, что с этой стратегией предварительная сертификация и послепродажный надзор позволят устройствам с низким уровнем риска отказаться от предпродажной проверки и вывести их на рынок напрямую. Кроме того, общий график проверки продукта программного обеспечения как медицинского изделия предварительно сертифицированной компании должен быть короче, чем традиционные процессы. FDA надеется, что этот подход будет поддерживать непрерывные инновации, позволит увеличить доступность нового и обновленного программного обеспечения и лучше сосредоточит ресурсы организации на разработчиках и продуктах с более высоким риском.

In our view, the FDA’s efforts to define a completely new process for this type of technology acknowledges the delicate and difficult balance between protecting patients and promoting innovation. With overregulation, innovation and advancements in this field may be stifled. However, with under-regulation, there may be risks to patient safety.

The FDA invited public comment on the program throughout the spring of 2018, which led to some additional clarifications33. The FDA will continue to actively review public feedback throughout this iterative process. We expect that these policies will continue to evolve as these technologies undergo real-world implementation and that this will be an area of dynamic change in the coming years.

На наш взгляд, усилия FDA по определению совершенно нового процесса для этого типа технологий признают тонкий и сложный баланс между защитой пациентов и продвижением инноваций. Чрезмерное регулирование может задушить инновации и достижения в этой области. Однако при недостаточном регулировании могут возникнуть риски для безопасности пациентов. Весной 2018 года FDA предлагало общественное обсуждение программы, что привело к некоторым дополнительным разъяснениям. FDA продолжит активно изучать отзывы общественности на протяжении всего этого повторяющегося процесса. Мы ожидаем, что эти политики будут продолжать развиваться по мере того, как эти технологии внедряются в реальный мир, и что в ближайшие годы это будет областью динамических изменений.

The first ‘autonomous’ AI diagnostic system to receive FDA approval for marketing was IDx-DR (Box 3). Implementation of the device has begun at the University of Iowa for screening patients with diabetes34. This represents one of the earliest translations of an autonomous AI screening system into real-world clinical practice, and it will be interesting to see what kind of impact the screening system has and whether it actually leads to improvement in visual outcomes for patients with diabetes.

Первой «автономной» диагностической системой ИИ, получившей одобрение FDA для продажи, была IDx-DR (вставка 3). Внедрение устройства началось в Университете Айовы для скрининга пациентов с диабетом. Это один из первых переводов автономной системы скрининга ИИ в реальную клиническую практику, и будет интересно посмотреть, какое влияние оказывает система скрининга и действительно ли она приводит к улучшению результатов лечения пациентов с диабетом.