خلاصه سیاست منتشر شده در Frontiers in Digital Health توسط محققان دفتر منطقه‌ای سازمان بهداشت جهانی برای اروپا و دانشگاه استون نشان می‌دهد که تنها 8 درصد از کشورهای عضو پاسخ‌دهنده در منطقه اروپایی WHO استانداردهای مسئولیت قانونی یا دستورالعمل‌های رسمی برای هوش مصنوعی در سلامت ایجاد کرده‌اند. این شکاف نظارتی با وجود ادغام سریع فناوری در منطقه، جایی که 64 درصد از کشورهای عضو به طور فعال از ابزارهای هوش مصنوعی برای تشخیص بالینی استفاده می‌کنند و 50 درصد سیستم‌های هوش مصنوعی مکالمه‌ای را برای کمک به بیماران معرفی کرده‌اند، همچنان ادامه دارد. نویسندگان تاکید می‌کنند که در حالی که 92 درصد از کشورهای مورد بررسی، قوانین شفاف مسئولیت را پیش‌نیاز ضروری برای پیاده‌سازی فناوری‌های سلامت دیجیتال می‌دانند، چارچوب‌های رسمی پاسخگویی تا حد زیادی در محیط‌های بالینی اروپا وجود ندارد.
این سیاست مبتنی بر داده‌های نظرسنجی‌های منطقه‌ای است که 50 کشور از 53 کشور عضو دعوت شده در منطقه اروپایی WHO را برای ترسیم آسیب‌پذیری‌های سیستمی در مدیریت سلامت دیجیتال پوشش می‌دهد. بر اساس یافته‌های گزارش‌شده، 43 کشور پاسخ‌دهنده، عدم قطعیت حقوقی مداوم را به‌عنوان مانع اصلی برای ادغام سیستم‌های یادگیری ماشین در عملیات‌های معمول مراقبت‌های بهداشتی شناسایی کردند. علاوه بر فقدان استانداردهای پاسخگویی، این مطالعه مستند کرد که تنها 24 درصد از کشورهای عضو دارای نهادهای نظارتی خاصی هستند که وظیفه نظارت بر پذیرش و استفاده از هوش مصنوعی مرتبط با سلامت را دارند. علاوه بر این، تنها 10 درصد از کشورهای مورد بررسی کانال‌های رویه‌ای را ایجاد کرده‌اند که به افراد آسیب‌دیده یا گروه‌های بیمار اجازه می‌دهد شکایت‌های رسمی ارائه کنند، و تنها 24 درصد الزامات پایه را برای نظارت پس از بازاریابی و چرخه زندگی ایجاد کرده‌اند.
در چارچوب تحلیلی ایجاد شده توسط سازمان بهداشت جهانی، هوش مصنوعی و یادگیری ماشین به عنوان ظرفیت مدل‌های الگوریتمی ادغام شده در ابزارهای دیجیتال برای یادگیری از داده‌های زیربنایی و انجام وظایف خودکار بدون برنامه‌ریزی مداوم، گام به گام و صریح انسانی تعریف می‌شوند. هنگامی که این الگوریتم ها برای مراقبت های بهداشتی اعمال می شوند، اغلب به عنوان یک نرم افزار به عنوان یک دستگاه پزشکی عمل می کنند، که به نرم افزار پزشکی مستقلی اشاره دارد که مستقل از سخت افزار فیزیکی اختصاصی عمل می کند. ادغام یادگیری الگوریتمی در این ابزارها منجر به نرم‌افزار مبتنی بر هوش مصنوعی به عنوان یک دستگاه پزشکی می‌شود، معماری متمایز از نرم‌افزار بالینی معمولی با درجات مختلف استقلال عملیاتی، انطباق رفتاری مداوم و کدورت سیستمیک که خطرات مستقیمی را برای ایمنی بیمار در هنگام بروز شکست‌های تشخیصی یا درمانی ایجاد می‌کند.
نویسندگان نشان می‌دهند که پیچیدگی عملیاتی الگوریتم‌های مراقبت‌های بهداشتی اساساً تخصیص سنتی مسئولیت را با پراکندگی مسئولیت در یک زنجیره تأمین گسترده مختل می‌کند. مسئولیت نرم‌افزارهای معمولی معمولاً بر روی یک فروشنده قابل شناسایی متمرکز است، در حالی که اکوسیستم‌های یادگیری ماشین به شبکه‌های پیچیده توسعه‌دهندگان نرم‌افزار اصلی، ارائه‌دهندگان داده‌های بالینی، زیرساخت‌های میزبانی ابری، یکپارچه‌کننده‌های سخت‌افزار، ارائه‌دهندگان مراقبت‌های بهداشتی و پزشکان وابسته است. با تجزیه و تحلیل این تقسیم‌بندی، این خلاصه یافته‌های تجربی خارجی هندلی و همکارانش را که 429 گزارش ایمنی دستگاه‌های پزشکی هوش مصنوعی ارائه شده به سازمان غذا و داروی ایالات متحده را ارزیابی کردند، برجسته می‌کند. این مطالعه نشان داد که 25.2 درصد از حوادث به طور بالقوه به عملکرد الگوریتمی مربوط می شود، در حالی که 34.5 درصد حاوی مستندات فنی کافی برای تعیین اینکه آیا نرم افزار نقش داشته است یا خیر، باعث می شود تنظیم کننده ها قادر به جداسازی مکانیسم های خرابی خاص نباشند.
کدورت فنی، که معمولاً به عنوان اثر جعبه سیاه شناخته می‌شود، دومین مانع ساختاری تعریف‌کننده برای تجدیدنظرخواهی حقوقی متعارف است. از آنجایی که مدل‌های یادگیری ماشین، به جای اجرای قوانین شرطی ثابت و شفاف، همبستگی‌های آماری را بین پارامترهای با ابعاد بالا ترسیم می‌کنند، نه کاربران نهایی و نه توسعه‌دهندگان نمی‌توانند به راحتی نحوه ایجاد توصیه‌های مرتبط با داده‌های بالینی خاص را پیگیری کنند. این خلاصه به یک مطالعه تجربی توسط Zech و همکارانش در مورد مدل های تشخیصی رادیوگرافی اشاره می کند که در آن شبکه های عصبی آموزش دیده برای تشخیص ذات الریه، سیستم اولیه بیمارستان را با دقت 99.98 درصد شناسایی کردند. این نشان می‌دهد که الگوریتم‌ها اغلب پیش‌بینی‌ها را بر روی مصنوعات تصویری خاص بیمارستان و متغیرهای سازمانی به‌جای آسیب‌شناسی رادیوگرافی معتبر استوار می‌کنند و حالت‌های شکست پنهان را ایجاد می‌کنند که ایجاد علیت یا اثبات شکست سیستمیک را برای بیماران آسیب‌دیده بسیار سنگین می‌کند.
سومین چالش عملیاتی حیاتی ناشی از افزایش استقلال الگوریتمی است که خلاصه خط مشی آن را به دو بعد تحلیلی مجزا تقسیم می‌کند: قابلیت پیش‌بینی رفتار و درجه کنترل نظارتی انسانی. حتی زمانی که پزشکان انسانی به طور رسمی در حلقه تصمیم‌گیری باقی می‌مانند، توصیه‌های خودکار می‌توانند باعث تعصب شدید اتوماسیون شوند که عملکرد بالینی را کاهش می‌دهد. برای نشان دادن این آسیب‌پذیری، نویسندگان داده‌های حاصل از کارآزمایی‌های خواننده آینده‌نگر توسط دراتش و همکارانش را در بررسی ماموگرافی به کمک هوش مصنوعی ذکر می‌کنند. در این کارآزمایی، ارائه توصیه‌های الگوریتمی نادرست منجر به کاهش شدید دقت تشخیصی در میان رادیولوژیست‌های بی‌تجربه از 79.7 درصد به 19.8 درصد شد، در حالی که دقت تشخیصی در میان رادیولوژیست‌های با تجربه بالا از 82.3 درصد به 45.5 درصد کاهش یافت، که نشان می‌دهد که به طور مستقیم با ماشین‌آلاتی غیرمجاز است.
برای ایجاد زمینه این چالش‌های سیستمی، خلاصه سه مکانیسم قانونی اصلی مسئولیت حاکم بر دعاوی خسارت را شرح می‌دهد: مسئولیت مبتنی بر تقصیر بدون پیش‌فرض، مسئولیت مبتنی بر تقصیر با پیش‌فرض‌ها و مسئولیت دقیق. تحت رژیم‌های مبتنی بر خطای استاندارد، بیمار آسیب‌دیده بار شواهد کلی برای اثبات اینکه یک متهم خاص استانداردهای مراقبتی را نقض کرده است و این نقض است که باعث آسیب شده است را بر عهده دارد، وظیفه‌ای که با توجه به عدم شفافیت الگوریتم‌ها تقریباً غیرقابل حل می‌شود. رژیم‌های مبتنی بر تقصیر با پیش‌فرض‌های قانونی، شاکیان را از اثبات قصور یا علیت مستقیم پس از اثبات حقایق اساسی معاف می‌کنند و بار اثبات را به عهده متهمان می‌گذارند. در مقابل، مسئولیت اکید، بدون توجه به تقصیر، مسئولیت قانونی را تحمیل می‌کند و شاکیان را ملزم می‌کند که فقط ثابت کنند که محصول از یک نقص قابل اقدام رنج میبرد و مستقیماً باعث آسیب دائمی شده است.
نویسندگان این مفاهیم مسئولیت را در ساختار نظارتی دوجانبه غالب در اروپا ترسیم می کنند، که حاکمیت دیجیتال را به الزامات ایمنی محصول قبلی و قوانین مسئولیت قبلی جدا می کند. چارچوب های ایمنی پیشرفته دستگاه ها را قبل از توزیع تجاری از طریق قوانین بین بخشی مانند قانون هوش مصنوعی اتحادیه اروپا و قوانین خاص بخش از جمله مقررات تجهیزات پزشکی و مقررات دستگاه های پزشکی تشخیصی آزمایشگاهی کنترل می کند. در حالی که این ابزارهای قبلی استانداردهای انطباق فنی و اختیارات نظارت بر بازار را تعیین می‌کنند، چارچوب‌های پس از آن بر حفاظت مالی و مسئولیت قانونی پس از وقوع یک رویداد نامطلوب نظارت می‌کنند. این خلاصه نشان می‌دهد که چشم‌انداز نظارتی اروپا در حال حاضر فاقد یک رژیم مسئولیت پیامدی هماهنگ و اختصاصی است که به طور خاص برای واقعیت‌های عملیاتی هوش مصنوعی در مراقبت‌های بهداشتی طراحی شده است.
اتحادیه اروپا با پرداختن به خطرات رایج محصول، دستورالعمل بازنگری شده مسئولیت محصول 2024/2853 را در اکتبر 2024 به تصویب رساند و دستورالعمل 85/374/EEC را لغو کرد که قوانین مربوط به غرامت برای فناوری دیجیتال معیوب را مدرن می کند. دستورالعمل تجدیدنظر شده با وارد کردن برنامه ملی الزام آور برای محصولاتی که از 9 دسامبر 2026 به بعد مستقر شده اند، مسئولیت سختی را برای اپراتورهای اقتصادی ایجاد می کند که تولید کنندگان نرم افزار اصلی، تامین کنندگان قطعات، واردکنندگان و نمایندگان مجاز دیجیتال را پوشش می دهد. نکته مهم این است که چارچوب به‌روز شده، آسیب‌های جبران‌پذیر را فراتر از صدمات فیزیکی و آسیب‌های دارایی گسترش می‌دهد تا آسیب‌های روان‌شناختی شناخته‌شده پزشکی و فساد داده‌ها را نیز شامل شود. با این حال، خلاصه خط مشی تاکید می کند که عدم قطعیت قابل توجهی در مورد اینکه چگونه این دستورالعمل می تواند به طور موثر سیستم های هوش مصنوعی بالینی را که پس از استقرار تحت آموزش مجدد مستمر قرار می گیرند، سازگاری رفتار در گروه های مختلف بیماران، و عملکرد در محیط های مراقبت های بهداشتی سازمانی توزیع شده را مورد بررسی قرار دهد.
برای رسیدگی به این آسیب‌پذیری‌های ساختاری، خط مشی مختصر نه اولویت سیاست استراتژیک را برای همسویی نوآوری بالینی با حفاظت از بیمار در سراسر منطقه اروپایی سازمان جهانی بهداشت تشریح می‌کند. نویسندگان از کشورهای عضو می‌خواهند تا استانداردهای جامع مسئولیت قانونی را معرفی کنند که به وضوح مسئولیت‌های بین توسعه‌دهندگان، ارائه‌دهندگان مراقبت‌های بهداشتی و پزشکان فردی را قبل از افزایش مقیاس تعیین می‌کند. توصیه‌های اولویت‌دار شامل ایجاد نهادهای تخصصی نظارت بر سلامت، ایجاد مسیرهای گزارش‌دهی استاندارد برای رویدادهای بالینی نامطلوب و موارد نزدیک، و اجرای جعبه‌های ایمنی نظارتی همراه با آزمایشگاه‌های بیمارستانی برای اطمینان از اعتبارسنجی محلی آینده‌نگر با استفاده از مجموعه داده‌های ناشناس و نماینده انجام می‌شود. در نهایت، نویسندگان تاکید می‌کنند که چارچوب‌های مسئولیت متوازن و نظارت مستمر پس از بازار به عنوان پادمان‌های وابسته به یکدیگر عمل می‌کنند و تضمین می‌کنند که خطرات الگوریتمی در طول چرخه عمر عملیاتی آنها شناسایی می‌شوند و در عین حال غرامت عادلانه را تضمین می‌کنند.بیماران مجروح
یافته‌های این مطالعه، که در خلاصه سیاست‌ها به تفصیل شرح داده شده است، بیشتر کمبودهای سیستمی را در مدیریت چرخه عمر فناوری سلامت در منطقه نشان می‌دهد. تنها 20 درصد از کشورهای عضو پاسخگو، سیاست های صدور گواهی هوش مصنوعی را ایجاد کرده اند، در حالی که 26 درصد سیاست های خاصی برای ارائه، توسعه و استفاده از ابزارهای الگوریتمی بالینی دارند. علاوه بر این، تنها 16 درصد از کشورها سیاست های مدیریتی اختصاص داده شده به حسابرسی و مستندسازی اثرات سیستم را حفظ می کنند و تنها 34 درصد حداقل استانداردها را برای نگهداری شفاف سوابق در طول چرخه عمر محصول اعمال می کنند. حتی چارچوب‌های ارزیابی اولیه نیز کمیاب هستند: تنها 26 درصد از کشورهای مورد بررسی از الزامات درجه‌بندی‌شده و توضیحات علمی برای اعتبارسنجی تحلیلی و بالینی پشتیبانی می‌کنند. در حالی که 46 درصد از کشورها اقدامات پاسخگویی داده‌ها را در مورد مدیریت قانونی داده‌ها، حریم خصوصی و یکپارچگی اجرا می‌کنند، دقیقاً نیمی از آنها مشارکت‌های مشترکی را با سایر کشورهای عضو برای به اشتراک گذاشتن دانش نظارتی و منابع نظارتی ایجاد کرده‌اند.
برای غلبه بر این تقسیم‌بندی‌های عملیاتی، این خلاصه توصیه می‌کند که ابزار جامع انطباق را همراه با پروتکل‌های حسابرسی استاندارد، معیارهای ارزیابی مدل و اقدامات کاهش خطر مطابق با قوانین ملی حریم خصوصی و امنیت سایبری ایجاد کنید. محور اصلی این زیرساخت نظارت، بسیج فعال پزشکان خط مقدم به عنوان مکانیزم اولیه برای تشخیص خطاهای الگوریتمی دنیای واقعی و خطاهای نرم افزاری غیرمنتظره است. از آنجایی که الگوریتم‌هایی که در طول ارزیابی قبل از بازار به طور قابل اعتماد عمل می‌کنند، می‌توانند منجر به خطاهای سیستماتیک مکرر، مانند شکست مکرر در شناسایی تشخیص‌های بالینی خاص، زمانی که در جمعیت‌های مختلف بیماران به کار می‌روند، اعتبار مجدد مداوم پس از فروش و گزارش اجباری عوارض جانبی ضروری می‌شوند. نویسندگان همچنین از مقامات بهداشتی می‌خواهند که حاکمیت داده‌ها و استانداردهای کیفیت جامع را ایجاد کنند که مستلزم ممیزی صریح از کامل بودن مجموعه داده‌ها، نمایندگی و دقت حاشیه‌نویسی برای حذف سوگیری‌های اصلی قبل از بالینی است.ادغام
در نهایت، به طور خلاصه هشدار می دهد که چارچوب های نظارتی باید الزامات شفافیت را در برابر هزینه های انطباق متعادل کنند. شفافیت واقعی مستلزم افشای معماری‌های مدل، مجموعه داده‌های آموزشی زیربنایی، مفروضات عملیاتی و مکانیسم‌های حاکمیتی است، نه صرفاً انتشار کد منبع خام. با این حال، تحمیل قابلیت توضیح و ردیابی بیش از حد می تواند بار مالی سنگینی را بر توسعه دهندگان و سیستم های مراقبت های بهداشتی تحمیل کند. نویسندگان هشدار می دهند که انتقال نادرست سرزنش قانونی به پزشکان فردی ممکن است به طور ناخواسته پزشکان را از اتخاذ ابزارهای تشخیصی قابل اعتماد منصرف کند و بر نیاز به یک محیط قانونی عادلانه که ضمن محافظت از بیماران، پیشرفت فناوری را حفظ کند، تاکید می کند.
موضوع تحقیق: چارچوب های پاسخگویی و شکاف های حاکمیتی برای هوش مصنوعی در سیستم های بهداشتی اروپا
عنوان مقاله: هوش مصنوعی و پاسخگویی در سیستم های بهداشتی در منطقه اروپایی WHO: خلاصه سیاست
مراجع مقاله: ادیب، ک.، کلوبوکنیک، ال.، موث، اف.، و نوویلو-اورتیز، دی. (2026). هوش مصنوعی و پاسخگویی در سیستم های بهداشتی در منطقه اروپایی WHO: خلاصه سیاست مرزها در سلامت دیجیتال، 8, مقاله 2019385. https://doi.org/10.3389/fdgth.2026.2019385
اعتبار تصویر: هوش مصنوعی تولید شد
DOI: 10.3389/fdgth.2026.2019385
کلمات کلیدی: هوش مصنوعی، سیستم‌های سلامت، منطقه اروپا سازمان جهانی بهداشت، دستورالعمل مسئولیت محصولات، نرم‌افزار به‌عنوان یک دستگاه پزشکی، مسئولیت‌پذیری بالینی، نظارت پس از فروش، مدیریت سلامت، هوش مصنوعی، مسئولیت، سلامت
