radiologyРадиология — практикаRadiology - Practice2713-0118Центральный научно-исследовательский институт лучевой диагностики10.52560/2713-0118-2023-2-63-77radiology-416Research ArticleОРГАНИЗАЦИОННЫЕ И ПРАВОВЫЕ ВОПРОСЫПравовые основы применения технологий искусственного интеллекта в лучевой диагностикеLegal Basis for the Use of Artificial Intelligence Technologies in Radiation Diagnosticshttps://orcid.org/0000-0001-7453-6201КазаковаВ. А.KazakovaV. A.

Казакова Вера Александровна, доктор юридических наук, профессор, заведующая кафедрой уголовно-правовых дисциплин Института международного права и правосудия; главный научный сотрудник 3-го отдела НИЦ-3

119034, г. Москва, ул. Остоженка, д. 36+7 (916) 948-09-54

Kazakova Vera Aleksandrovna, Doctor of Law, Professor, Head of the Department of Criminal Law Disciplines of the Institute of International Law and Justice; Chief Researcher of the 3rd Department of SIC-3

36, ul. Ostozhenka, Moscow, 119034+7 (916) 948-09-54

vera1313@yandex.ruhttps://orcid.org/0000-0002-0338-798XТюляковаС. А.TyulyakovaS. A.

Тюлякова Софья Андреевна, руководитель департамента международного сотрудничества; обучающаяся Института международного права и правосудия

119034, г. Москва, ул. Остоженка, д. 36+7 (926) 230-50-09

Tyulyakova Sofya Andreevna, Head of the Department of International Cooperation; student of the Institute of International Law and Justice

36, ul. Ostozhenka, Moscow, 119034+7 (926) 230-50-09

sofya.tyulyakova@yandex.ruhttps://orcid.org/0000-0003-1345-6579ШивиловЕ. В.ShivilovE. V.

Шивилов Евгений Витальевич, кандидат медицинских наук, врач-онколог онкохирургического отделения молочной железы

11123, г. Москва, шоссе Энтузиастов, д. 86+7 (985) 109-36-40

Shivilov Evgeny Vitalievich, Ph. D., oncologist of oncosurgical department of breast

86, shosse Entusiastov, Moscow, 111123+7 (985) 109-36-40

shivilov@yandex.ruhttps://orcid.org/0000-0003-2274-6519АничкинаК. А.AnichkinaK. A.

Аничкина Кристина Арсеньевна, лаборант-исследователь научного отдела «Онкология», ординатор-хирург

111123, г. Москва, шоссе Энтузиастов, д. 86+7 (929) 989-01-91

Anichkina Kristina Arsenievna, Research laboratory Assistant, Resident of Surgery

86, shosse Entusiastov, Moscow, 111123+7 (929) 989-01-91

dr.anichkina.k@gmail.comhttps://orcid.org/0000-0002-0459-8914МифтаховаА. Л.MiftakhovaA. L.

Мифтахова Алсу Линаровна, врач-онколог онкохирургического отделения молочной железы

111123, г. Москва, шоссе Энтузиастов, д. 86+ 7 (916) 258-90-84

Miftakhova Alsu Linarovna, Oncologist of the Department of Breast Surgery

86, shosse Entuziastov, Moscow, 111123+ 7 (916) 258-90-84

zuh1103@gmail.comhttps://orcid.org/0000-0001-8973-6644ЮркановаД. Д.YurkanovaD. D.

Юрканова Дарина Дмитриевна, студентка 5-го курса

119991, г. Москва, ул. Трубецкая, д. 8, стр. 2+7 (929) 925-38-23

Yurkanova Darina Dmitrievna, 5th year student

8-2, ul. Trubetskaya, Moscow, 119991+7 (929) 925-38-23

d.iurkanova@yandex.ruВсероссийский научно-исследовательский институт МВД России; ФГБОУ ВО «Московский государственный лингвистический университет»РоссияRussian Research Institute of the Ministry of Internal Affairs of Russia; Moscow State Linguistic UniversityRussian FederationФГБОУ ВО «Московский государственный лингвистический университет»; Национальный совет молодежных ассоциаций юристовРоссияMoscow State Linguistic University; National Council of Youth Organizations of LawyersRussian FederationГБУЗ «Московский клинический научный центр имени А. С. Логинова ДЗМ»РоссияMoscow Clinical Research Center named after A. S. Loginov, Moscow Healthcare DepartmentRussian FederationФГАОУ ВО «Первый МГМУ имени И. М. Сеченова» (Сеченовский университет) МЗ РФРоссияI. M. Sechenov First Moscow State Medical University (Sechenov University), Ministry of Healthcare of RussiaRussian Federation202318032023026377Copyright © Казакова В.А., Тюлякова С.А., Шивилов Е.В., Аничкина К.А., Мифтахова А.Л., Юрканова Д.Д., 20232023Казакова В.А., Тюлякова С.А., Шивилов Е.В., Аничкина К.А., Мифтахова А.Л., Юрканова Д.Д.Kazakova V.A., Tyulyakova S.A., Shivilov E.V., Anichkina K.A., Miftakhova A.L., Yurkanova D.D.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.radp.ru/jour/article/view/416

В статье рассмотрены правовые основы регламентации деятельности технологий искусственного интеллекта (ИИ) в отечественном здравоохранении. Лучевая диагностика — одна из первых сфер здравоохранения, куда внедряется ИИ для анализа рентгенограмм и формирования проекта заключений к исследованию. Из­за непрозрачности процесса принятия решений («эффект черного ящика») и высокой частоты ошибок уровень доверия специалистов и пациентов к инновациям остается невысоким. В этой связи возникает объективная необходимость создания эффективных правовых механизмов, предусматривающих меры ответственности за ошибочные решения ИИ, защищающие права врачей и пациентов при работе данных программам.

The article considers the legal basis for the regulation of artificial intelligence (AI) technologies in domestic health care. Radiation diagnostics is one of the first areas of medicine where AI is being introduced to analyze radiographs and form draft conclusions for the examination. Due to the opaqueness of the decision­making process («black box effect») and high error rate, the level of trust of specialists and patients in innovations remains low. In this connection, there is an objective need to create effective legal mechanisms that provide for measures of responsibility for erroneous AI decisions, protecting the rights of doctors and patients in the operation of these programs.

лучевая диагностикаискусственный интеллектправовое регулирование здравоохранениямедицинское правоэкспериментальные правовые режимыRadiation DiagnosticsArtificial IntelligenceLegal Regulation of HealthcareLaw of InnovationMedical LawExperimental Legal RegimesReferencesВавилин Е. В. Искусственный интеллект как участник гражданских отношений: трансформация ПРАВА // Вестн. Том. гос. ун-та. Право. 2021. № 42. С. 135–146. DOI: 10.17223/22253513/42/11ВVavilin E. V. Artificial intelligence as a participant in civil relations: transformation of Law. Vestnik of Tomsk State University. Right. 2021;42:135–146 (in Russian). DOI: 10.17223/22253513/42/11Васильев А. Ю., Павлова Т. В., Буромский И. В. Лучевая диагностика и профилактика ятрогенных повреждений молочной железы. М.: ИКАР, 2022. 180 с.: ил. DOI: 10.56582/9785797407522Vasil’ev A. Y., Pavlova T. V., Buromsky I. V. Radial diagnosis and prevention of iatrogenic lesions of the breast. М.: ICAR, 2022. 180 p.: ill. (in Russian). DOI: 10.56582/9785797407522Дремлюга Р. И., Дремлюга О. А. Искусственный интеллект — субъект права: аргументы за и против // Правовая политика и правовая жизнь. 2019. № 2. С. 120–125.Dremlyuga R. I., Dremlyuga O. A. Artificial intelligence — the subject of law: arguments for and against. Legal policy and legal life. 2019; 2:120–125 (in Russian).Заявление заместителя министра здравоохранения РФ Павла Пугачева. URL: https://tass.ru/obschestvo/16985437 (дата обращения: 19.02.2023).Statement of the Deputy Minister of Health of the Russian Federation Pavel Pugachev. URL: https://tass.ru/obschestvo/16985437 (accessed: 02.19. 2023) (in Russian).Исследование «В IT-медицину больше всего верят мужчины моложе 35 лет» // Интернет-портал SuperJob. https://www.superjob.ru/research/articles/113919/v-it-medicinu-bolshe-vsego-veryat-muzhchiny-molozhe-35-let/?utm_source=rassylka-smi&utm_medium=email&utm_campaign=20230216-rassylka-smi-23248&utm_content=-1000004-0 (дата обращения: 16.02.2023).Research «Men younger than 35 believe in IT medicine the most» // SuperJob Internet portal. URL: https://www.superjob.ru/research/articles/113919/v-it-medicinu-bolshe-vsego-veryat-muzhchiny-molozhe-35-let/?utm_source=rassylka-smi&utm_medium=email&utm_campaign=20230216-rassylka-smi-23248&utm_content=-1000004-0 (accessed: 02.16.2023) (in Russian).Карпов О. Э., Храмов А. Е. Информационные технологии, вычислительные системы и искусственный интеллект в медицине. М.: ДПК Пресс, 2022. С. 321.Karpov O. E., Khramov A. E. Information technologies, computing systems and artificial intelligence in medicine. Moscow: DPK Press, 2022. P. 321 (in Russian).Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. № 2. 2019. С. 79–102. DOI: 10.17-323/2072-8166.2019.2.79.102Laptev V. A. The concept of artificial intelligence and legal responsibility for its work. Right. Journal of the Higher School of Economics. 2019; 2:79–102. DOI: 10.17-323/2072-8166.2019.2.79.102 (in Russian).Морхат П. М. Право и искусственный интеллект / предисл. И. А. Близнеца и И. В. Понкина; под ред. И. В. Понкина; Российская гос. академия интеллектуальной собственности. М.: Юнити-Дана, 2018. С. 218.Morkhat P. M. Law and artificial intelligence / preface by I. A. Gemini and I. V. Ponkin; edited by I. V. Ponkin; Russian State Academy of Intellectual Property. Moscow: Unity-Dana, 2018. P. 218 (in Russian).Официальное заявление главного внештатного специалиста по лучевой и инструментальной диагностике городского Департамента здравоохранения Юрия Васильева // Официальный интернет-портал Правительства Москвы: https://www.mos.ru/news/item/118401073/ (дата обращения: 07.03.2023).Official statement of the chief freelance specialist in radiation and instrumental diagnostics of the City Department of Health Yuri Vasiliev // Official Internet portal of the Government of Moscow: https://www.mos.ru/news/item/118401073 / (date of request: 07.03.2023) (in Russian).Постановление Правительства Москвы от 21 ноября 2019 г. N 1543-ПП «О проведении эксперимента по использованию инновационных технологий в области компьютерного зрения для анализа медицинских изображений и дальнейшего применения в системе здравоохранения города Москвы» // СПС Гарант [Электронный ресурс].Decree of the Government of Moscow dated November 21, 2019 No. 1543-PP «On conducting an experiment on the use of innovative technologies in the field of computer vision for the analysis of medical images and further application in the healthcare system of the city of Moscow» // SPS Garant [Electronic resource] (in Russian).Постановление Правительства РФ от 19 декабря 2020 г. N 2174 «О внесении изменений в Положение о единой государственной информационной системе в сфере здравоохранения» // СПС Гарант [Электронный ресурс].Resolution of the Government of the Russian Federation of 19.12.2020 No. 2174 «On amendments to the Regulation on the unified state information system in the field of healthcare» // SPS Garant. [Electronic resource] (in Russian).Постановление Правительства РФ от 24 ноября 2020 г. N 1906 «О внесении изменений в Правила государственной регистрации медицинских изделий» // СПС Гарант [Электронный ресурс].Decree of the Government of the Russian Federation of November 24, 2020 No. 1906 «On amendments to the Rules of state registration of medical devices» // SPS Garant [Electronic resource] (in Russian).Постановление Правительства РФ от 9 декабря 2022 г. N 2276 «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по направлению медицинской деятельности с применением технологий сбора и обработки сведений о состоянии здоровья и диагнозов граждан в отношении реализации инициативы социально-экономического развития Российской Федерации ”Персональные медицинские помощники”» // СПС Гарант [Электронный ресурс].Decree of the Government of the Russian Federation No. 2276 of December 9, 2022 «On the establishment of an experimental legal regime in the field of digital innovations and approval of the Program of an experimental legal regime in the field of digital innovations in the field of medical activity using technologies for collecting and processing information about the state of health and diagnoses of citizens in relation to the implementation of the initiative of socio-economic development of the Russian Federation ”Personal medical assistants”» // SPS Garant [Electronic resource] (in Russian).Приказ Минздрава России от 19.01.2017 г. N 11н «Об утверждении требований к содержанию технической и эксплуатационной документации производителя (изготовителя) медицинского изделия» // СПС Гарант [Электронный ресурс].Order of the Ministry of Health of the Russian Federation «On approval of requirements for the content of technical and operational documentation of the manufacturer (manufacturer) of a medical device» dated 19.01.2017 No. 11n // SPS Garant [Electronic resource] (in Russian).Приказ Федерального агентства по техническому регулированию и метрологии от 18 октября 2022 г. № 1144-ст «Об утверждении национального стандарта Российской Федерации» // Официальный интернет-портал Росстандарта. URL: https://www.rst.gov.ru/portal/gostOrder of the Federal Agency for Technical Regulation and Metrology dated October 18, 2022 No. 1144-st «On approval of the national standard of the Russian Federation» // Official Internet portal of Rosstandart. URL: https://www.rst.gov.ru/portal/gost (in Russian).Пройдаков Э. М. Современное состояние искусственного интеллекта // Науковедческие исследования. 2018. № 2018. C. 129–151. DOI: 10.31249/scis/2018.00.09Prokhodakov E. M. The current state of artificial intelligence. Scientific research. 2018; 2018:129-151. DOI: 10.31249/scis/2018.00.09 (in Russian).Смольникова У. А., Гаврилов П. В., Яблонский П. К. Диагностическая эффективность различных систем автоматического анализа рентгенограмм в выявлении периферических образований легких. Радиология — практика. 2022;(3):51–66. https://doi.org/10.52560/2713-0118-2022-3-51-66Smolnikova U. A., Gavrilov P. V., Yаblonskiy P. K. Diagnostic Efficiency of Various Systems for Automatic Analysis of Radiographs in the Detection of Lung Nodule. Radiology — Practice. 2022;(3):51-66 (in Russian). https://doi.org/10.52560/2713-0118-2022-3-51-66Тагавердиева Д. С., Омарова М. К., Седип-Оол А. Т. Роль искусственного интеллекта в жизни общества // Проблемы науки. 2021. № 9 (68). C. 43–45.Tagaverdieva D. S., Omarova M. K., SedipOol A. T. The role of artificial intelligence in the life of society. Problems of Science. 2021;(68):43–45 (in Russian).Указ Президента РФ от 1 декабря 2016 г. N 642 «О Стратегии научно-технологического развития Российской Федерации» (с изменениями и дополнениями) // Официальный интернет-портал правовой информации. URL: http://pravo.gov.ru/ (дата обращения: 04.03.2023).Decree of the President of the Russian Federation of December 1, 2016 No. 642 «On the Strategy of Scientific and technological development of the Russian Federation» (with amendments and additions) // Official Internet portal of Legal information. URL: http://pravo.gov.ru/ (accessed: 04.03.2023) (in Russian).Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // Официальный интернет-портал правовой информации. http://pravo.gov.ru/ (дата обращения: 04.03.2023).Decree of the President of the Russian Federation No. 490 dated October 10, 2019 «On the development of artificial intelligence in the Russian Federation»// Official Internet portal of legal Information. URL: http://pravo.gov.ru/ (date of appeal: 03.24.2023) (in Russian).Федеральный закон от 21 ноября 2011 г. N 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» (с изменениями и дополнениями) // СПС Гарант [Электронный ресурс].Federal Law No. 323-FZ of November 21, 2011 «On the basics of protecting the health of citizens in the Russian Federation» (with amendments and additions) // SPS Garant [Electronic resource] (in Russian).Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона ”О персональных данных”» // Собрание законодательства РФ. 2020. № 17. Ст. 2701.Federal Law No. 123-FZ of 04.24.2020 «On conducting an experiment to establish special regulation in order to create the necessary conditions for the development and implementation of artificial intelligence technologies in the Subject of the Russian Federation — the Federal City of Moscow and Amendments to Articles 6 and 10 of the Federal Law «On Personal Data» // Collection of Legislation of the Russian Federation. 2020. No. 17. St. 2701 (in Russian).Федеральный закон от 31 июля 2020 г. N 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» (с изменениями и дополнениями) // СПС Гарант [Электронный ресурс].Federal Law No. 258-FZ of July 31, 2020 «On experimental legal regimes in the field of digital innovations in the Russian Federation» (with amendments and additions) // SPS Garant [Electronic resource] (in Russian).Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. 2018. № 2. C. 36–55.Yastrebov O. A. Legal personality of an electronic person: theoretical and methodological approaches. Proceedings of the Institute of State and Law of the Russian Academy of Sciences. 2018; 2:36–55 (in Russian).Foerst A. Artificial sociability: from embodied AI toward new understandings of personhood. Technology in Society. 1999;21(4):373–386.Foerst A. Artificial sociability: from embodied AI toward new understandings of personhood. Technology in Society. 1999;21(4):373–386.Hosny A., Parmar C., Quackenbush J., Schwartz L. H., Aerts H. J. W. L. Artificial intelligence in radiology. Nat. Rev. Cancer. 2018;18(8):500–510. DOI: 10.1038/s41568-018-0016-5Hosny A., Parmar C., Quackenbush J., Schwartz L. H., Aerts H. J. W. L. Artificial intelligence in radiology. Nat. Rev. Cancer. 2018;18(8):500–510. DOI: 10.1038/s41568-018-0016-5Kelly B. S., Judge C., Bollard S. M. et al. Radiology artificial intelligence: a systematic review and evaluation of methods (RAISE) [published correction appears in Eur Radiol. 2022 May 2022. Eur. Radiol. 2022;32(11):7998–8007. DOI: 10.1007/s00330-022-08784-6Kelly B. S., Judge C., Bollard S. M. et al. Radiology artificial intelligence: a systematic review and evaluation of methods (RAISE) [published correction appears in Eur Radiol. 2022 May 2022. Eur. Radiol. 2022;32(11):7998–8007. DOI: 10.1007/s00330-022-08784-6Ma M., Liu R., Wen C. et al. Predicting the molecular subtype of breast cancer and identifying interpretable imaging features using machine learning algorithms. Eur. Radiol. 2022;32(3):1652–1662. DOI: 10.1007/s00330-021-08271-4Ma M., Liu R., Wen C. et al. Predicting the molecular subtype of breast cancer and identifying interpretable imaging features using machine learning algorithms. Eur. Radiol. 2022;32(3):1652–1662. DOI: 10.1007/s00330-021-08271-4Meng M., Zhang M., Shen D., He G. Differentiation of breast lesions on dynamic contrast-enhanced magnetic resonance imaging (DCE-MRI) using deep transfer learning based on DenseNet201. Medicine (Baltimore). 2022;101(45): e31214. DOI: 10.1097/MD.0000000000031214.Meng M., Zhang M., Shen D., He G. Differentiation of breast lesions on dynamic contrast-enhanced magnetic resonance imaging (DCE-MRI) using deep transfer learning based on DenseNet201. Medicine (Baltimore). 2022;101(45): e31214. DOI: 10.1097/MD.0000000000031214.Shelmerdine S. C., Martin H., Shirodkar K. et al. Can artificial intelligence pass the Fellowship of the Royal College of Radiologists examination? Multi-reader diagnostic accuracy study. BMJ 2022; 379:e072826. http://dx.doi.org/10.1136/bmj-2022-072826Shelmerdine S. C., Martin H., Shirodkar K. et al. Can artificial intelligence pass the Fellowship of the Royal College of Radiologists examination? Multi-reader diagnostic accuracy study. BMJ 2022; 379:e072826. http://dx.doi.org/10.1136/bmj-2022-072826Yin H., Bai L., Jia H., Lin G. Noninvasive assessment of breast cancer molecular subtypes on multiparametric MRI using convolutional neural network with transfer learning. Thorac Cancer. 2022;13(22): 3183–3191.Yin H., Bai L., Jia H., Lin G. Noninvasive assessment of breast cancer molecular subtypes on multiparametric MRI using convolutional neural network with transfer learning. Thorac Cancer. 2022;13(22): 3183–3191.

The authors declare that there are no conflicts of interest present.