Dünya Sağlık Örgütü (WHO), sağlık için yapay zeka (AI) ile ilgili temel düzenleyici hususları listeleyen yeni bir yayın yayınladı. Yayın, yapay zeka sistemlerinin güvenliğini ve etkinliğini oluşturmanın, uygun sistemleri ihtiyaç duyanların kullanımına hızlı bir şekilde sunmanın ve geliştiriciler, düzenleyiciler, üreticiler, sağlık çalışanları ve hastalar da dahil olmak üzere paydaşlar arasındaki diyaloğu teşvik etmenin önemini vurguluyor.
Sağlık hizmeti verilerinin artan kullanılabilirliği ve analitik tekniklerdeki (makine öğrenimi, mantık tabanlı veya istatistiksel) hızlı ilerlemeyle birlikte, yapay zeka araçları sağlık sektörünü dönüştürebilir. DSÖ, yapay zekanın klinik deneyleri güçlendirerek sağlık sonuçlarını iyileştirmedeki potansiyelini kabul etmektedir; tıbbi teşhis, tedavi, kişisel bakım ve kişi merkezli bakımın iyileştirilmesi; ve sağlık profesyonellerinin bilgi, beceri ve yeterliliklerinin desteklenmesi. Örneğin yapay zeka, tıp uzmanlarının bulunmadığı ortamlarda, örneğin retina taramalarının ve radyoloji görüntülerinin yorumlanmasında faydalı olabilir.
Bununla birlikte, büyük dil modelleri de dahil olmak üzere yapay zeka teknolojileri, bazen nasıl performans gösterebilecekleri tam olarak anlaşılmadan hızla yaygınlaşıyor ve bu, sağlık uzmanları ve hastalar da dahil olmak üzere son kullanıcılara fayda veya zarar verebilir. Yapay zeka sistemleri, sağlık verilerini kullanırken hassas kişisel bilgilere erişebilir; bu da gizliliğin, güvenliğin ve bütünlüğün korunmasına yönelik sağlam yasal ve düzenleyici çerçeveler gerektirir; bu yayının kurulmasına ve sürdürülmesine yardımcı olmayı amaçlamaktadır.
DSÖ Genel Direktörü Dr. Tedros Adhanom Ghebreyesus, “Yapay zeka sağlık açısından büyük umut vaat ediyor, ancak aynı zamanda etik olmayan veri toplama, siber güvenlik tehditleri ve artan önyargılar veya yanlış bilgilendirme gibi ciddi zorlukları da beraberinde getiriyor” dedi. “Bu yeni kılavuz, riskleri en aza indirirken, kanser tedavisinde veya tüberküloz tespitinde, yapay zekanın potansiyelinden faydalanmak için yapay zekayı etkili bir şekilde düzenleme konusunda ülkelere destek verecek.”
Büyüyen ülkenin yapay zeka sağlık teknolojilerindeki hızlı yükselişi sorumlu bir şekilde yönetme ihtiyacına yanıt olarak yayın, sağlıkta yapay zekanın düzenlenmesi için altı alanın ana hatlarını çiziyor.
- Yayın, güveni artırmak için tüm ürün yaşam döngüsünün belgelenmesi ve geliştirme süreçlerinin izlenmesi gibi şeffaflık ve belgelemenin önemini vurguluyor .
- Risk yönetimi için ‘amaçlanan kullanım’, ‘sürekli öğrenme’, insan müdahaleleri, eğitim modelleri ve siber güvenlik tehditleri gibi konuların tümü kapsamlı bir şekilde ele alınmalı ve modeller mümkün olduğunca basit hale getirilmelidir.
- Verilerin dışarıdan doğrulanması ve yapay zekanın amaçlanan kullanımı konusunda net olmak, güvenliğin sağlanmasına ve düzenlemenin kolaylaştırılmasına yardımcı olur.
- Sistemlerin yayın öncesi titizlikle değerlendirilmesi gibi veri kalitesine bağlılık , sistemlerin önyargıları ve hataları artırmamasını sağlamak için hayati öneme sahiptir.
- Avrupa’daki Genel Veri Koruma Yönetmeliği (GDPR) ve Amerika Birleşik Devletleri’ndeki Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (HIPAA) gibi önemli, karmaşık düzenlemelerin ortaya çıkardığı zorluklar, yargı kapsamının anlaşılmasına vurgu yapılarak ele alınmaktadır. ve gizlilik ve veri koruma hizmeti amacıyla onay gereklilikleri .
- Düzenleyici kurumlar, hastalar, sağlık profesyonelleri, sektör temsilcileri ve hükümet ortakları arasındaki işbirliğinin güçlendirilmesi , ürün ve hizmetlerin yaşam döngüleri boyunca düzenlemelere uygun kalmasının sağlanmasına yardımcı olabilir.
Yapay zeka sistemleri karmaşıktır ve yalnızca oluşturuldukları koda değil aynı zamanda klinik ortamlardan ve kullanıcı etkileşimlerinden gelen, üzerinde eğitim aldıkları verilere de bağlıdır. Daha iyi düzenleme, yapay zekanın eğitim verilerindeki önyargıları artırma riskinin yönetilmesine yardımcı olabilir.
Örneğin yapay zeka modellerinin popülasyon çeşitliliğini doğru bir şekilde temsil etmesi zor olabilir, bu da önyargılara, yanlışlıklara ve hatta başarısızlığa yol açabilir. Bu risklerin azaltılmasına yardımcı olmak amacıyla, eğitim verilerinde yer alan kişilerin cinsiyet, ırk ve etnik köken gibi özelliklerinin raporlanmasını ve veri setlerinin kasıtlı olarak temsili olmasını sağlamak için düzenlemeler kullanılabilir.
Yeni DSÖ yayını, hükümetlerin ve düzenleyici otoritelerin ulusal veya bölgesel düzeyde yapay zekaya ilişkin yeni kılavuzlar geliştirmek veya mevcut kılavuzları uyarlamak için izleyebilecekleri temel ilkeleri özetlemeyi amaçlıyor.
