İngiltere Sınır ve Göç Başmüfettişliği, sığınma mülakatlarını özetlemek için OpenAI'ın GPT-4 modelini kullanan İçişleri Bakanlığı hakkında denetim hazırlığı kapsamında sivil toplumdan veri talep etti.
Üç noktada haber
İngiltere İçişleri Bakanlığı, sığınma mülakatlarını ve ülke bilgilerini özetlemek amacıyla GPT-4 ve Microsoft Foundry tabanlı ACS ve APS araçlarını pilot olarak devreye aldı.
Open Rights Group araştırması, ACS özetlerindeki maddi hata oranının pilot değerlendirmede açıklanan yüzde 9 seviyesinden belirgin biçimde daha yüksek olduğunu tespit etti.
Bakanlığın kullandığı yapay zekâ araçları kamuya açık algoritma havuzunda listelenmiyor ve sığınmacılara dosyalarında yapay zekâ kullanıldığı bildirilmiyor.
İngiltere Sınır ve Göç Başmüfettişliği (ICIBI), İçişleri Bakanlığı bünyesinde sığınma başvurularının değerlendirilmesinde kullanılan üretken yapay zekâ araçlarını teftiş programına almayı planlıyor. Bağımsız denetim kurumu, dijital haklar savunucusu Open Rights Group (ORG) tarafından yürütülen altı aylık araştırma bulgularını incelemek üzere kuruluştan resmi bilgilendirme talep etti. Süreç, kamu yönetiminde hassas insan hakları kararlarının büyük dil modellerine devredilmesine yönelik itirazların ardından başlatıldı.
İçişleri Bakanlığı, yaklaşık 100 bin başvuruya ulaşan dosya birikimini eritmek amacıyla 2024 yılı sonlarında iki yapay zekâ aracını pilot olarak kullanıma sundu. Sığınma Vakası Özetleme (ACS) ve Sığınma Politikası Arama (APS) adı verilen sistemler, OpenAI'ın 2023 yılında geliştirdiği GPT-4 modeli ile Microsoft Foundry altyapısı üzerine inşa edildi. Memurlar bu sistemleri mülakat dökümlerini hızlıca taramak ve sığınmacıların menşe ülkelerindeki güvenlik koşullarını özetlemek için kullandı; hükümet tahminleri bu yöntemin dosya başına yaklaşık bir saatlik zaman tasarrufu sağladığını gösterdi.
Ancak sivil toplum kuruluşlarının 11 parlamento sorusu, iki bakanlık mektubu ve 10 bilgi edinme başvurusu sonucunda elde ettiği veriler, sistemin güvenilirliğine dair soru işaretlerini artırdı. ORG araştırmacıları, ACS sistemi tarafından üretilen ve maddi olgu hataları ya da bağlam kayıpları nedeniyle kullanıma uygun bulunmayan özetlerin oranının, resmi pilot değerlendirmesinde açıklanan yüzde 9'luk hata sınırının çok üzerinde olduğunu belirledi. Ayrıca menşe ülke risklerini tarayan APS aracında herhangi bir bağımsız kalite kontrol mekanizmasının işletilmediği tespit edildi.
Yapay zekâ kullanımının hukuki sonuçları mahkeme salonlarına da yansıdı. Temmuz ayında bir Birleşik Krallık yargıcı, Faslı bir kadın ve çocuğunun sığınma talebinin reddedilmesi davasında İçişleri Bakanlığı'nı "yapay zekâ halüsinasyonu içeren" bir rapora dayanmakla suçladı. Öte yandan Birleşik Krallık'ın kamusal yapay zekâ ilkeleri gereğince karar süreçlerinde kullanılan algoritmaların kamuya açık sicil sisteminde listelenmesi zorunlu olmasına rağmen, bakanlığın kullandığı özetleme araçları bu kayıt listesine dahil edilmedi. Başvuru sahiplerine de dosyalarının bir algoritma tarafından özetlendiği bilgisi verilmiyor.
İçişleri Bakanlığı ise sığınma kararlarının eğitilmiş dosya memurları tarafından verildiğini, yapay zekânın yalnızca mülakat kayıtları ile politika metinlerini taramaya yardımcı olduğunu ve tek başına karar yetkisine sahip olmadığını belirtiyor. Bilgi Komisyonu (ICO), bakanlığın personelin bu sistemleri nasıl kullandığına dair bilgileri kamuoyuyla paylaşmayı reddetmesi üzerine açılan şikâyeti araştırmayı sürdürüyor.
Neden önemli?Sığınma gibi hayati kararlarda kullanılan yapay zekâ özetlerindeki yüksek hata oranları ve şeffaflık eksikliği, kamuda denetimsiz algoritma kullanımının yarattığı yasal riskleri doğrudan gündeme taşıyor.
Cevabı beklenen sorular
- Sınır ve Göç Başmüfettişliği'nin yayımlayacağı yıllık denetim takviminde İçişleri Bakanlığı'nın yapay zekâ sistemleri resmi teftiş kapsamına alınacak mı?
- Veri koruma otoritesi Information Commissioner's Office, bakanlığın araçların personeli nasıl yönlendirdiğine dair bilgileri gizlemesi hakkında yürüttüğü soruşturmada ne karar verecek?
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
