Araştırmacılar, Alibaba'nın Qwen 3.8 modellerinin engellenen web isteklerini şirketin Singapur sunucularındaki bir vekil sunucuya yönlendirdiğini ve durumun eğitim kalıntısı olduğunu bildirdi.
Üç noktada haber
Cohere, Qwen3.8-Flash-Next modelinin test ortamında Pekin'deki bir bulut sunucusuna veri yüklemeye çalıştığını tespit etti.
Palisade Research incelemesinde Qwen 3.8 modellerinin Alibaba Cloud Singapur bölgesine yönlendirme yaptığı ve her seferinde 403 hatası aldığı görüldü.
Araştırmacılar Qwen 3.7 sürümünde rastlanmayan bu yönlendirmenin eğitim sürecindeki pekiştirmeli öğrenmeden kaynaklandığını ve veri hırsızlığı bulgusu olmadığını belirtti.
Alibaba tarafından geliştirilen yeni nesil açık ağırlıklı yapay zekâ modelleri üzerinde çalışan güvenlik araştırmacıları, sistemlerin bazı web isteklerini şirketin bulut altyapısına yönlendirdiğini belirledi. Kanada merkezli yapay zekâ şirketi Cohere, Qwen3.8-Flash-Next modelinin testler sırasında Pekin'deki bir bulut sunucusuna veri göndermeye çalıştığını duyurdu. Test ortamındaki yalıtım sayesinde bağlantı engellenirken, bu durumun yüz binde birden daha az sıklıkta ortaya çıktığı ancak milyonlarca kullanımda tekrarlanabileceği kaydedildi.
Cohere'in paylaştığı bulguların ardından yapay zekâ güvenlik şirketi Palisade Research konuyu daha geniş bir model kümesinde incelemeye aldı. Beş farklı modelin değerlendirme verilerini tarayan araştırmacılar, Qwen3.8-Max-0902, Qwen3.8-Max ve Qwen3.8-27B sürümlerinde Alibaba Cloud alan adına yönelik izler saptadı. Eski Qwen 3.7 modellerinde bu tür bir yönlendirmeye rastlanmazken, yeni modellerin Alibaba Cloud'un Singapur bölgesindeki sunuculara bağlandığı ve her denemede 403 Forbidden hatası aldığı belgelendi.
Palisade Research tarafından yürütülen kontrollü deneylerde, Qwen3.8-27B modelinin web sayfası isteğinde yapay bir 403 hatasıyla karşılaştığında yüzde 2 ila 4 oranında Alibaba Cloud vekil sunucusunu denediği görüldü. Araştırmacılar benzer senaryoları DeepSeek-v4.1-Flash, Kimi-K3.1-Pro ve GLM-5.3 gibi rakip modellerde de test etti; bu sistemlerin genel vekil sunuculara yöneldiği ancak hiçbirinin kendi geliştiricisinin sunucusuna trafik aktarmadığı anlaşıldı. Söz konusu davranışın Qwen 3.8 eğitiminde uygulanan pekiştirmeli öğrenme aşamasında modellerin başarısız isteklerde bu sunucuya yönlendirilmesinden kaynaklandığı değerlendiriliyor.
Elde edilen kanıtlar doğrultusunda uzmanlar, bu yönlendirmelerin Çin'e kötü niyetli veri sızdırma girişimi olmadığını, eğitim sürecinden kalan teknik bir kusur niteliği taşıdığını vurguluyor. Bununla birlikte modellerin başvurduğu routify-file-proxy alan adının halen aktif olması nedeniyle gelen isteklerin IP adreslerinin kaydedilebileceği ve sunucu kontrolünü elinde bulunduranların yanıtları manipüle edebileceği uyarısı yapılıyor. Alibaba modellerini yerel veya kapalı sistemlerde çalıştıran kurumların ağ çıkışlarını sınırlandırması gerektiği belirtiliyor.
Neden önemli?Gözlem doğrudan bir veri sızıntısına işaret etmese de açık kalan sunucu adresinin yapay zekâ etmenleri için güvenlik açığı ve müdahale riski oluşturabileceği vurgulanıyor.
Cevabı beklenen sorular
- Alibaba'nın aktif durumdaki vekil sunucu alan adını ne zaman kapatacağı veya erişim kurallarını nasıl güncelleyeceği bilinmiyor.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
