EFF tarafından elde edilen 800 sayfayı aşkın resmî belge, Medicare'in WISeR yapay zekâ programında yaşanan gecikmeleri, teknik arızaları ve yetersiz denetimleri ortaya çıkardı.
Üç noktada haber
EFF tarafından açılan dava sonucunda Medicare'in WISeR adlı yapay zekâ ön onay programına ilişkin 800 sayfayı aşkın yeni resmî kayıt kamuoyuna açıklandı.
Federal kurum CMS, programın ilk üç ayında görev yapan altı yüklenici şirketten en az dördüne bilgi talebi veya düzeltici eylem planı ihtarı gönderdi.
Yüklenicilerden Virtix hatalı ret kararları ve gecikmelerle, Innovaccer ise işlevsel sağlayıcı portalı kuramadığı gerekçesiyle resmi uyarı aldı.
Elektronik Sınır Vakfı (EFF), ABD kamu sağlık sigortası kurumu Medicare bünyesinde yürütülen yapay zekâ destekli ön onay modeline ilişkin 800 sayfayı aşkın yeni resmî kayıt yayımladı. Mart ayında açılan dava kapsamında elde edilen belgeler, Gereksiz ve Uygunsuz Hizmet Azaltımı (WISeR) adını taşıyan modelin daha başlangıç aşamasında ciddi operasyonel karmaşaya, bakım gecikmelerine ve hatalı ret kararlarına zemin hazırladığını gösteriyor.
Belgelerde yer alan ayrıntılara göre, federal kurum CMS (Medicare ve Medicaid Hizmetleri Merkezleri) programı duyurduktan yalnızca altı ay sonra, sağlık hizmeti sağlayıcılarının erteleme yönündeki çağrılarını dikkate almayarak yürürlüğe koydu. Kurumun kendi iç yazışmalarında "aşırı sıkıştırılmış bir takvim" olarak nitelenen bu hızlı başlangıç, uygulamanın ilk aylarında yaygın aksaklıklara neden oldu. Ancak kurum, yüklenici şirketlerle özel olarak temas kurup sözleşme şartlarına uyumsuzlukları sorgularken bu durumu kamuoyuna açıklamadı.
CMS'in program kapsamındaki altı yüklenici firmadan en az dördüne resmi bilgi talebi (RFI) veya Düzeltici Eylem Planı (CAP) ihtarı gönderdiği kayıtlara geçti. Örneğin Virtix adlı yükleniciye gönderilen yazıda yasal süre sınırlarını aşan yanıt süreleri, belirlenen ölçütlerle çelişen hatalı ret kararları ve yetersiz müşteri hizmetleri gibi sorunlar listelendi. Palantir altyapısını kullanan Zyter firmasına ise bildirim mektuplarını zamanında düzenlemediği ve sağlayıcı itirazlarını iletecek yeterli süreçlere sahip olmadığı gerekçesiyle resmi inceleme başlatıldı. Bir diğer yüklenici Innovaccer da işlevsel bir sağlayıcı portalı sunamadığı gerekçesiyle performans uyumsuzluğu bildirimi aldı.
Yüklenicilerin savunmaları, programın aceleye getirilmiş zamanlamasını doğrular nitelikte. Innovaccer, sözleşme imzalamadan aylar önce sistemin açılış tarihine yetişemeyebileceği konusunda kurumu uyardığını öne sürerken; diğer yükleniciler de kısıtlı uygulama takvimi yüzünden teknik istikrar sorunları yaşadıklarını belirtti. Öte yandan sistemde öngörülen "insan denetimi" (human-in-the-loop) güvencesinin etkinliği de tartışmalı kalmayı sürdürüyor. Kayıtlarda şirketlerin koruyucu mekanizmalarına dair bilgilerin önemli ölçüde karartıldığı görülürken, bir yüklenicinin ilk aylarda onayladığından daha fazla sayıda ret kararı vermesi algoritmik kararların bağımsız tıbbi değerlendirmelerle ne ölçüde denetlendiği sorusunu gündemde tutuyor.
Sağlık yönetiminde özel şirketlerin geliştirdiği kapalı algoritmaların kullanılması, hak sahiplerinin kararlara itiraz etme ve şeffaf gerekçe alma imkânını kısıtlıyor. Kamu kurumlarının yapay zekâyı karmaşık idari sorunlar karşısında doğrudan çözüm gibi konumlandırması, gerekli testler ve yasal sınırlar bulunmadığında hizmete erişimde aksaklıklara yol açıyor. Resmi kayıtlar, karar süreçlerindeki veri girdileri ve hekim denetiminin kapsamı üzerindeki gizliliğin sürdüğünü ortaya koyuyor.
Neden önemli?Kamu sağlık sigortalarında otomatik karar mekanizmalarının yeterli şeffaflık ve insan denetimi olmadan devreye alınmasının hizmete erişimde yarattığı riskleri somutlaştırıyor.
Cevabı beklenen sorular
- ABD Kongresi kamuda kullanılan algoritmik karar sistemlerine yönelik bağlayıcı yasal sınırları içeren bir düzenlemeyi gündeme alacak mı?
- CMS, yüklenici şirketlerin algoritmalarında yer alan veri girişleri ve insan denetimi süreçlerine dair şeffaflık standartlarını genişletecek mi?
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
