Технологии искусственного интеллекта (ИИ) активно развиваются в современном здравоохранении благодаря повсеместному появлению больших размеченных данных, увеличению вычислительных мощностей, развитию облачных сервисов, а также многочисленным примерам эффективности и перспективности прикладных решений и их способности отвечать на современные вызовы и проблемы в здравоохранении.

Ключевые направления развития технологий искусственного интеллекта

1. Применение технологий ИИ в программном обеспечении (ПО) для врачей-клиницистов, преимущественно в виде быстрой и точной интерпретации изображений, а также развития систем поддержки принятия врачебных решений (СППВР).

2. Применение ИИ в управлении здравоохранением, в том числе в прогнозировании развития заболеваний, эпидемий, повышении эффективности использования ресурсов, выявлении и сокращении врачебных ошибок, управлении цепочками поставок лекарств и т.д.

3. Применение ИИ в приложениях для пациентов, позволяющее создавать программные продукты для самостоятельного управления пациентами собственным здоровьем [1].

Число научных публикаций в медико-биологической сфере, описывающих ИИ, выросло с 596 в 2010 г. до 12 422 в 2019 г., при этом в целом исследователи подтверждают, что мы все еще находимся в начале эры широкого внедрения технологий ИИ в медицину. Несмотря на многочисленные сведения о перспективах применения технологий ИИ, таких как сокращение времени ожидания в принятии решений, улучшение приверженности лечению, повышение точности интерпретации медицинских данных, можно наблюдать завышенные обещания разработчиков таких продуктов и вследствие этого часто завышенные ожидания практического здравоохранения к предлагаемым ИИ-продуктам [2, 3]. Имеется множество препятствий на пути широкого внедрения ИИ в практическое здравоохранение. К ним относятся проблемы прозрачности и интерпретируемости ИИ-алгоритмов, определенная предвзятость их решений вследствие ограничений наборов данных, на которых производится машинное обучение, недостаточная для реальной клинической практики точность работы моделей, проблемы конфиденциальности и этичности ИИ. В этой связи остро возникают вопросы обеспечения безопасности и предоставления достоверных данных о клинической эффективности в проектах внедрения ИИ в повседневной клинической практике [2, 3].

Поиск баланса между созданием условий для ускоренного внедрения программных продуктов на основе ИИ и обеспечением разумного и обоснованного контроля потенциальных рисков причинения вреда здоровью пациентов практически во всех странах рассматривается через нормативно-правовое и техническое регулирование.

Основу правовых подходов к регулированию программного обеспечения для здравоохранения, которую поддерживают практически все государственные регуляторы ведущих стран мира, определяет International Medical Device Regulators Forum (IMDRF) — ведущее мировое сообщество регуляторов медицинских изделий, созданное в 2011 г. Основной задачей IMDRF является сближение регуляторной деятельности стран-участниц в целях обеспечения безопасности, эффективности и качества медицинских изделий, а также разумное содействие внедрению инноваций.

IMDRF воспринимает ПО, предназначенное для применения в лечебно-диагностических целях, как Software as a Medical Device (SaMD), что дословно переводится как «Программное обеспечение, являющееся медицинским изделием» [4]. Далее в этой статье мы для упрощения будем использовать термин «Программное медицинское изделие» (ПМИ). Начиная с 2013 г., IMDRF выпустило ряд руководящих документов, которыми определило единые подходы к созданию национальных регуляторных инструментов в отношении ПМИ [4—7]. В частности, IMDRF предложило единую систему классификации ПМИ в зависимости от потенциального риска применения, общие требования к системе менеджмента качества у производителей, а также сконцентрированный подход к организации клинической оценки ПМИ [8].

Практически во всех ведущих странах мира, включая США, Евросоюз, Японию, Россию, приняты национальные законы и подзаконные акты, которые на основании рекомендаций IMDRF рассматривают программные продукты, разработанные для использования в медицинских целях как медицинское изделие (МИ) и предусматривают его обязательную государственную регистрацию до вывода ПО на рынок. Вместе с этим национальное нормативное регулирование ряда стран, включая США, Евросоюз и Российскую Федерацию, частично отличается друг от друга и от рекомендаций IMDRF, например, в части классификации ПМИ в зависимости от риска [9]. В январе 2016 г. в России принят Федеральный закон от 31.01.2016 №4-ФЗ¹ «О ратификации Соглашения о единых принципах и правилах обращения медицинских изделий (изделий медицинского назначения и медицинской техники) в рамках Евразийского экономического союза», которым предусмотрена выработка общей скоординированной политики обращения МИ на основе правил и рекомендаций IMDRF². Все страны-члены ЕАЭС должны перейти на регулирование рынка МИ на основе этих правил к 01.01.2022.

В целом нормативное регулирование ПМИ в большинстве стран мира выстроено уже многие годы, однако в 2017 г. началась активная работа над его совершенствованием на фоне разработки и выпуска некоторыми странами, включая США, Китай, Великобританию, Францию, Германию, национальных стратегий развития ИИ, большинство из которых признало особую специфику ПО на основе ИИ [10].

Многие национальные стратегии развития ИИ предусматривают пересмотр нормативного регулирования и развитие особого технического регулирования в целях создания предпосылок ускоренного внедрения ИИ в различных сферах, в том числе в здравоохранении.

Указом Президента России от 10.10.2019 №490 в России утверждена собственная национальная стратегия развития ИИ на период до 2030 г., направленная на вхождение нашей страны в число мировых лидеров в области развития ИИ³. С целью создания единого общенационального подхода к развитию российского нормативного и технического регулирования ИИ распоряжением Правительства России от 19.08.2020 №2129-p утверждена «Концепция регулирования искусственного интеллекта и робототехники до 2024 г.»⁴. Документом определены основные подходы к изменениям в российском нормативно-правовом регулировании для создания необходимых условий разработки и применения продуктов и технологий ИИ в различных сферах, включая здравоохранение. Это необходимо для ускорения экономического роста и повышения конкурентоспособности национальной экономики и вывода России на лидирующие позиции в быстро растущем глобальном рынке ИИ.

Основными задачами нормативного и технического регулирования названы упрощение внедрения продуктов с использованием технологий ИИ, определение юридической ответственности при применении таких решений, развитие страховых инструментов, улучшение в регулировании оборота данных, стимулирование развития и применения технологий ИИ.

Минздрав России совместно с Росздравнадзором, Центром компетенций по нормативному регулированию цифровой среды (Фонд «Сколково») и отраслевыми экспертами активно работают над совершенствованием нормативно-правового регулирования ПО в сфере здравоохранения на основе ИИ. Вопросами технического регулирования занимается подкомитет ПК01/ТК164 «Искусственный интеллект в здравоохранении», входящий в состав Технического комитета ТК 164 «Искусственный интеллект».

В данной статье рассмотрено российское нормативно-правовое регулирование ПО, созданного с применением технологий ИИ.

Краткий обзор нормативно-правовых актов

Федеральный закон от 21 ноября 2011 г. №323 «Об основах охраны здоровья граждан в Российской Федерации»⁵ содержит статью 38, в которой специальное ПО, созданное для применения в медицинских целях, включено в состав термина «медицинское изделие». Обращение (производство, реклама, реализация, применение, техническое обслуживание и т.д.) МИ, включая ПМИ, разрешено только при условии предварительной государственной регистрации в установленном Правительством порядке. Единственным исключением является использование ПМИ на территории международного медицинского кластера (ММК) или других территориях инновационных научно-технологических центров, в которых, согласно постановлению Правительства РФ от 01.09.2020 №1335⁶, МИ освобождены от государственной регистрации.

Для нарушителей, допустивших обращение незарегистрированных МИ, статьей 6.28 Кодекса административных правонарушени⁷ и статьей 238.1 Уголовного кодекса⁸ предусмотрены административная и уголовная ответственность. Согласно этим статьям, если производитель ПО осуществил продажу ПМИ на сумму свыше 100 тыс. руб., то за данный факт может наступить уголовная ответственность. Если меньше — то административная.

Уголовное наказание предусмотрено в нескольких вариантах:

1. Принудительные работы на срок 3—5 лет или лишение свободы на срок 3—5 лет со штрафом 0,5—2 млн руб. в случае обращения незарегистрированного ПМИ без причинения вреда здоровью.

2. Лишение свободы на срок 5—8 лет со штрафом 1—3 млн руб. в случае, если обращение ПМИ привело к причинению тяжкого вреда здоровью, включая смерть человека, или имеются действия группы лиц по предварительному сговору или организованной группы лиц.

3. Лишение свободы на срок 8—12 лет со штрафом 2—5 млн руб. в случае, если применение незарегистрированного ПМИ привело к смерти двух или более лиц.

Государственная регистрация МИ и контроль за их обращением на территории Российской Федерации осуществляются Федеральной службой по надзору в сфере здравоохранения (далее — Росздравнадзор). Общие правила государственной регистрации медицинских изделий описаны в постановлении Правительства РФ от 27.12.2012 №1416⁹ с учетом изменений и дополнений, предусмотренных для ПМИ, созданных в том числе с применением технологий ИИ, внесенных постановлением Правительства РФ от 24.11.2020 №1906¹⁰. Регламент государственного контроля установлен приказом Росздравнадзора от 09.12.2019 №9260¹¹.

Действующее российское законодательство устанавливает, что государственная регистрация ПМИ осуществляется на основании технических и клинических испытаний с учетом потенциального риска применения и в соответствии с номенклатурной классификацией МИ, которые определены приказом Минздрава России от 06.06.2012 №4н¹².

Документальным подтверждением государственной регистрации ПМИ является регистрационное удостоверение (РУ) на МИ, бланк которого установлен приказом Росздравнадзора от 16.01.2013 №40-Пр/13¹³.

На момент публикации данной статьи в России зарегистрировано 3 ПМИ, созданных с применением технологий ИИ:

1. Платформа прогнозной аналитики и управления рисками в здравоохранении на основе ИИ Webiomed, РУ №РЗН 2020/9958, выдано 03.04.2020.

2. Платформа для анализа и обработки медицинских изображений с технологиями ИИ Botkin.Ai, РУ №РЗН 2020/12028, выдано 03.11.2020.

3. Сервисная платформа лучевой диагностики на основе ИИ Care Mentor Ai, РУ РЗН 2020/11137, выдано 11.12.2020.

Порядок государственной регистрации программных медицинских изделий

Процесс подготовки и государственной регистрации ПМИ его производителем условно можно разделить на 3 основных этапа (рисунок).

Общая этапность подготовки, испытаний и регистрации программных медицинских изделий для получения возможности вывода их на рынок.

Этап №1. Подготовка к испытаниям и регистрации программных медицинских изделий

Вначале производителю ПО, которое планируется для применения в медицинских организациях, необходимо определить — является ли его продукт ПМИ. Для этого разработаны соответствующие критерии, представленные в информационном письме Росздравнадзора от 13.02.20 №02И-297/20¹⁴.

Предусмотрено 4 базовых критерия: ПО должно быть программой для электронно-вычислительной машины, при этом не являясь частью другого медицинского изделия, должно быть предназначено производителем для оказания медицинской помощи и должно осуществлять интерпретацию полученной информации, в том числе с использованием технологий ИИ. Результат работы ПО должен влиять на принятие клинических решений. Для того, чтобы ПО было признано ПМИ, оно должно соответствовать всем предусмотренным критериям. Если ПО не соответствует хотя бы одному из них — оно не является ПМИ, а значит не подлежит государственной регистрации и может быть выпущено на рынок без нее.

При использовании критериев отнесения ПО к ПМИ целесообразно учитывать несколько важных нюансов. Во-первых, ПМИ может быть любое программное обеспечение вне зависимости от того, на каком аппаратном обеспечении оно работает и как пользователь получает к нему доступ и использует. Например, ПО, работающее по модели SaaS («облачные системы»), web-сервисы, встраиваемые программные компоненты (модули), может быть ПМИ точно также, как и обычное настольное ПО. Если какое-то ПО разработано для другого (чаще всего аппаратного) медицинского изделия, то такое ПО является составной частью этого изделия и поэтому освобождается от отдельной регистрации: такое ПО не является самостоятельным ПМИ.

Очень важно учитывать цели применения: только если ПО специально предназначено производителем для применения именно при оказании медицинской помощи, оно признается ПМИ. Если производитель выпускает ПО для применения в медицинских организациях, но не при оказании медицинской помощи, это ПО не является ПМИ.

Наконец, самым главным критерием является степень обработки медицинской информации. Логика этого критерия состоит в следующем: если ПО осуществляет изменение информации или создает новую информацию путем интерпретации медицинских данных, и затем результаты такого ПО используются медицинскими работникам при оказании медицинской помощи и влияют на принятие ими решений, то ошибки или некачественная работа такого ПО может потенциально причинить вред больному, поэтому такое ПО следует воспринимать как ПМИ. Если же такой обработки медицинской информации нет, например, если ПО просто передает или хранит «как есть» медицинские данные, то и риска причинить вред у такого ПО нет, а значит оно не относится к ПМИ. Системы ведения электронных медицинских карт (ЭМК), медицинские информационные системы (МИС) и программные средства для просмотра медицинских изображений, представленных в формате DICOM (DICOM-viewer) не являются ПМИ, если они не интерпретируют внесенную в них информацию и не формируют на основе этой интерпретации подсказки для врачей.

Если ПО создает новую медицинскую информацию или выполняет машинную интерпретацию полученных данных, тем более если такая информация выводится для принятия клинических решений (неважно — врача, медсестры), то такое ПО однозначно относится к ПМИ. Примерами ПМИ являются практически все системы поддержки принятия врачебных решений (СППВР), в том числе созданные с применением ИИ, системы анализа и интерпретации медицинских данных, включая медицинские изображения (большинство современных PACS/РИС-систем), развитые лабораторные информационные системы (ЛИС), системы назначения и контроля лекарственной терапии.

Если программный продукт использует технологии ИИ, но предназначен для самостоятельного использования гражданами (различные мобильные приложения для поддержания здорового образа жизни, питания, занятий физкультурой) или для применения в сфере управления здравоохранением, например, для поддержки принятия управленческих решений, прогнозной аналитики, то такое ПО скорее всего не будет являться ПМИ.

Основная сложность применения критериев отнесения ПО к МИ состоит в ответе на вопрос: какую обработку данных можно считать интерпретацией, имеющей реальный риск причинения вреда здоровью пациента? В статье А.П. Столбова такой интерпретацией предложено считать обработку клинических данных о пациенте, в результате которой «продуцируется (формируется) отсутствующая в исходных данных, содержательно новая, клинически значимая информация, необходимая и используемая при принятии клинического решения и/или выполнении медицинского вмешательства» [11].

Таким образом, если производитель на основании установленных критериев определил, что его продукт является МИ, то до вывода такого продукта на рынок необходимо пройти его государственную регистрацию. Началом подготовительной работы является определение класса потенциального риска применения ПМИ. Это необходимо уточнить в самом начале работы, так как от класса риска зависят особенности выполнения следующих этапов, включая разработку документов и проведение клинических испытаний.

Приказом Минздрава России от 06.06.2012 №4н предусмотрено 4 класса риска: 1 (минимальный), 2а, 2б и 3 (максимальный). В настоящее время все ПО, созданное с применением технологий ИИ, относится к классу 3 потенциального риска.

Этап №2. Технические и клинические испытания программных медицинских изделий

Вначале производителю ПМИ необходимо подготовить определенный набор документов, предусмотренный пунктом 5 постановления Правительства РФ от 27.12.2012 №1416, включая техническую и эксплуатационную документацию. Состав информации, которая должна быть отражена в документации, определен приказом Минздрава России от 19.01.2017 №11н¹⁵, в который приказом Минздрава России от 20.11.2020 №1236н¹⁶ добавлен отдельный IV раздел с соответствующими требованиями.

Самым сложным и вместе с этим самым важным документом являются «Технические условия» (ТУ). В нем производитель указывает технические требования, которым должно соответствовать его изделие, а также описание процедур того, как можно проверить их соблюдение. Рекомендуется, чтобы документация производителя соответствовала ГОСТам, список которых представлен в табл. 1.

Таблица 1. Рекомендованный список стандартов для оформления технической и эксплуатационной документации на программное медицинское изделие

После подготовки необходимого пакета документов производителю ПО необходимо пройти:

1. Технические испытания, цель которых состоит в оценке соответствия характеристик ПМИ требованиям предоставленной нормативной, методической, технической и эксплуатационной документации.

2. Клинические испытания, цель которых состоит в оценке безопасности и эффективности ПМИ в форме заранее разработанного и запланированного систематического исследования. Провести клинические испытания можно только после успешного проведения технических испытаний.

Для ПМИ не требуется проведение токсикологических исследований, а также испытаний для утверждения типа средств измерений, хотя такие мероприятия предусмотрены законодательством для аппаратных медицинских изделий.

Порядок проведения технических и клинических испытаний МИ определен приказом Минздрава России от 09.01.2014 №2н¹⁷. Согласно постановлению Правительства РФ от 24.11.2020 №1906, для проведения клинических испытаний ПМИ не требуется получать предварительное разрешение от Росздравнадзора и одобрение этического комитета. Планируется издание обновленной версии приказа Минздрава России от 09.01.2014 №2н, в которой будут дополнительно учтены особенности ПМИ, в том числе созданных с применением ИИ.

Клинические испытания ПМИ проводятся в форме сбора, анализа и оценки клинических данных, полученных при проверке испытуемого образца ПМИ в условиях клинической практики и/или на основании обработки ПМИ готовых размеченных наборов данных. Порядок и другие детали клинических испытаний описываются в документе «Программа клинических испытаний». Он разрабатывается производителем ПМИ совместно с той медицинской организацией, в которой планируется проведение клинических испытаний, с учетом заявленных производителем положений технических условий и эксплуатационной документации. Сложность, продолжительность и другие параметры клинических испытаний зависят от сложности самого ПМИ.

Основная задача специалистов, которые проводят клинические испытания, состоит в том, чтобы убедиться и собрать достаточные, информативные и заслуживающие доверие доказательства безопасности и эффективности ПМИ. Нередко для доказательства эффективности испытуемый продукт сравнивают с его аналогами. Если в ходе клинических испытаний необходимых доказательств собрать не удается, или если будут выявлены несоответствия ПМИ заявленным показаниям к применению и другим разделам документации производителя, либо установлены факты, что ПМИ может приводить к реальной угрозе жизни и здоровью пациентов, то по такому ПО выносится решение об отрицательном результате испытаний. В остальных случаях выносится положительное решение.

Итогом успешного проведения клинических испытаний является «Протокол оценки результатов клинических испытаний медицинского изделия», оформленный в виде специальных актов по образцам, предусмотренным приказом Минздрава России от 09.01.2014 №2 н. В нем описываются полученные клинические доказательства эффективности и безопасности ПМИ. Данный документ впоследствии станет главным основанием, на базе которого эксперты на этапе государственной регистрации будут принимать решение о допуске продукта на рынок.

Производитель ПМИ вправе сам выбрать испытательную лабораторию, которая проведет технические испытания, а также медицинскую организацию, которая выполнит клинические испытания. Приказом Минздрава России от 16.05.2013 №300н определены требования к медицинским организациям, имеющим право на проведение клинических испытаний¹⁸. Список аккредитованных Росздравнадзором медицинских организаций, имеющих право на проведение клинических испытаний, доступен по адресу https://www.roszdravnadzor.ru/services/test_clinical

Для проведения испытаний производитель ПМИ, как правило, заключает соответствующий договор на оказание услуг с выбранной организацией. Методика определения стоимости экспертизы и испытаний медицинских изделий определена приказом Минздрава России от 22.11.2011 №1386н¹⁹.

Итоговый сводный перечень мероприятий по разработке документации и прохождению технических и клинических испытаний приведен в табл. 2.

Таблица 2. Список мероприятий технических и клинических испытаний программных медицинских изделий

Примечание. ПМИ — программное медицинское изделие.

Основные сложности испытаний ПМИ:

— Разработка качественной технической и эксплуатационной документации. Недостаточная глубина проработки, ошибки и неточности в документации являются основанием для приостановки испытаний или государственной регистрации и возвращения документов производителю на доработку.

— Правильная разработка методики клинических испытаний с учетом особенностей продукта, распространенности нозологии и многих других факторов, которые эксперты могут учитывать при проведении этого мероприятия.

— Качественное проведение клинических испытаний и оформление протокола с оценками их результатов. От этого зависит успешность прохождения экспертизы на следующем этапе —на этапе государственной регистрации.

Этап №3. Государственная регистрация программных медицинских изделий

Основная задача процедуры государственной регистрации состоит в проведении независимой экспертизы качества, эффективности и безопасности ПМИ на основании предоставленного производителем комплекта документов. Она осуществляется опытными экспертами подведомственных Росздравнадзору институтов: ФГБУ «ВНИИИМТ» и ФГБУ «Национальный институт качества».

Порядок проведения экспертизы определен приказом Минздрава России от 21.12.2012 №1353н²⁰ и решением Совета Евразийской экономической комиссии от 12.02.2016 №46²¹. В своей работе эксперты опираются на общие методические рекомендации по проведению экспертизы [12], а также специальные методические рекомендации, которые периодически обновляются экспертными организациями Росздравнадзора [13]. Последнее такое обновление выпущено в октябре 2020 г.

В случае успешного прохождения экспертизы Росздравнадзор принимает решение о государственной регистрации ПМИ. Сведения об этом размещаются в специальном государственном реестре, ведение которого регулируется постановлением Правительства РФ от 19.06.2012 №6152²². Электронная версия реестра доступна по адресу: https://www.roszdravnadzor.ru/services/misearch

Для ПМИ, созданных в том числе с использованием технологий ИИ, в РФ применяется ускоренная процедура регистрации, предусмотренная постановлением Правительства РФ от 31.05.2018 №633, длительность которой составляет 20 рабочих дней. Она представляет собой одноэтапное проведение экспертизы без необходимости предварительного получения одобрения на проведение клинических испытаний²³. Список мероприятий государственной регистрации ПМИ приведен в табл. 3.

Таблица 3. Список мероприятий государственной регистрации программных медицинских изделий

Пострегистрационный мониторинг программных медицинских изделий

В соответствии с решением коллегии Евразийской экономической комиссии от 22.12.2015 №174²⁴, после регистрации и вывода МИ на рынок должен осуществляться мониторинг его безопасности. Порядок его проведения на территории РФ утвержден приказом Минздрава России от 15.09.2020 №980н²⁵. Целью мониторинга является выявление и предотвращение побочных действий и неблагоприятных событий, связанных с применением МИ и создающих угрозу жизни и здоровью граждан и медицинских работников. Мониторинг представляет собой сбор сведений о таких событиях и их централизованную регистрацию в информационной системе «Неблагоприятные события медицинских изделий» для последующего анализа, проведения экспертизы и при необходимости контрольных мероприятий, направленных на предотвращение таких ситуаций в будущем. Источником информации могут быть различные каналы, включая получение сведений из государственных информационных систем в сфере здравоохранения, информации от пользователей, данных, предоставленных самим заявителем и т.д. В соответствии с приказом Минздрава России от 19.10.2020 №1113н субъекты обращения МИ обязаны сообщать в Росздравнадзор о фактах и обстоятельствах, создающих угрозу жизни и здоровью граждан и медицинских работников при применении и эксплуатации МИ, в течение 20 рабочих дней. Производитель МИ обязан предоставить отчет о неблагоприятном событии и корректирующих действиях²⁶. В случае выявления и подтверждения неблагоприятных событий или причинения вреда жизни и здоровью производитель ПМИ обязан выполнить ряд превентивных мероприятий, предусмотренных приказом Минздрава России от 15.09.2020 №980н, включая информирование потребителей. Если производитель не будет принимать необходимых мер по предотвращению угрозы здоровью, Росздравнадзор имеет право изъять данное ПМИ из обращения.

Заключение

Процесс испытаний и государственной регистрации программных медицинских изделий, в том числе созданных с применением технологий искусственного интеллекта, достаточно детально урегулирован в России с нормативной точки зрения.

Вместе с тем на основании национальной стратегии развития технологий искусственного интеллекта и «Концепции регулирования искусственного интеллекта и робототехники до 2024 г.» в нашей стране ведется постоянная точечная работа над совершенствованием этого регулирования. Росздравнадзор совместно с Минздравом России и отраслевыми экспертами активно ведут поиск баланса между созданием условий для ускоренного вывода продуктов на рынок и совершенствованием государственного контроля безопасности и эффективности продуктов технологий искусственного интеллекта с учетом потенциальных рисков и проблем, вызванных особенностями технологий искусственного интеллекта.

В качестве первоочередных мер по совершенствованию законодательного регулирования мы видим следующие направления:

— Сокращение сроков клинических испытаний и экспертизы продуктов технологий искусственного интеллекта перед их государственной регистрацией за счет дальнейшего совершенствования процедур клинической оценки безопасности и эффективности программных медицинских изделий.

— Создание условий для возможности проведения клинических испытаний на основе качественных размеченных наборов данных.

— Развитие требований к системе менеджмента качества и возможностей государственного контроля ее наличия и уровня с целью повышения доверия к разработчикам, а также предоставление таким разработчикам упрощенных или ускоренных процедур вывода программных медицинских изделий на рынок.

— Разрешение на выпуск новых версий продуктов через извещение регулятора и без необходимости проведения повторных клинических испытаний.

— Развитие пострегистрационного мониторинга в части программных медицинских изделий и технологий искусственного интеллекта, в том числе через создание независимых сервисов автоматизированного контроля работы продуктов технологий искусственного интеллекта и автоматической регистрации фактов неблагоприятных событий в соответствующей информационной системе Росздравнадзора, например, в случае ухудшения указанных в технических условиях программных медицинских изделий метрик точности работы моделей искусственного интеллекта.

Авторы заявляют об отсутствии конфликта интересов.

¹ https://www.kremlin.ru/acts/bank/40478

² https://docs.cntd.ru/document/420246566

³https://publication.pravo.gov.ru/Document/View/0001201910110003

⁴https://publication.pravo.gov.ru/Document/View/0001202008260005

⁵https://base.garant.ru/57499516

⁶ https://publication.pravo.gov.ru/Document/View/0001202009030024

⁷https://finansovyesovety.ru/statya6.28-koap-rf/

⁸https://finansovyesovety.ru/statya238.1-uk-rf/

⁹https://base.garant.ru/70291692/

¹⁰https://publication.pravo.gov.ru/Document/View/0001202011270010

¹¹https://publication.pravo.gov.ru/Document/View/0001202002200032

¹²https://www.roszdravnadzor.ru/documents/121

¹³ https://base.garant.ru/70329006/

¹⁴https://roszdravnadzor.ru/medproducts/registration/documents/65752

¹⁵https://base.garant.ru/71626748/

¹⁶ Приказ Минздрава России от 20.11.2020 №1236н «О внесении изменений в требования к содержанию технической и эксплуатационной документации производителя (изготовителя) медицинского изделия, утвержденные приказом Министерства здравоохранения Российской Федерации от 19 января 2017 г. №11н».

¹⁷https://base.garant.ru/70631448/

¹⁸https://www.roszdravnadzor.ru/documents/106

¹⁹https://docs.cntd.ru/document/902314476.

²⁰https://www.roszdravnadzor.ru/documents/115

²¹https://docs.eaeunion.org/docs/ru-ru/01510767/cncd_12072016_46

²²https://docs.cntd.ru/document/902353655

²³https://government.ru/docs/32763/

²⁴https://docs.eaeunion.org/docs/ru-ru/0149291/clcd_30122015_174

²⁵https://docs.eaeunion.org/docs/ru-ru/0149291/clcd_30122015_174

²⁶https://publication.pravo.gov.ru/Document/View/0001202012070057