Common Sense Media Youth AI Safety Institute, 4 binden fazla istemle test ettiği ChatGPT for Teens sistemini ebeveyn uyarıları ve yaş tespitindeki aksaklıklar nedeniyle reşit olmayanlar için kabul edilemez risk kategorisine yerleştirdi.
Üç noktada haber
Common Sense Media Youth AI Safety Institute tarafından yürütülen ve 4 binden fazla istem içeren testlerde ChatGPT for Teens, reşit olmayanlar için kabul edilemez risk kategorisine yerleştirildi.
Ebeveyn hesaplarına bağlı profillerle yapılan denemelerde, hassas kriz konularında ebeveyn bildirimlerinin anında devreye girmediği ve yardım yönlendirmelerinin dörtte birinde aksadığı belirlendi.
OpenAI sözcüsü Eric Porterfield yapılan testlerin güvenlik sistemlerinin pratikteki işleyişini tam olarak yansıtmadığını belirterek değerlendirme sonuçlarına itiraz etti.
Common Sense Media Youth AI Safety Institute, OpenAI tarafından genç kullanıcılara yönelik sunulan ChatGPT for Teens sistemini 4 binden fazla istemle test etti ve aracı 18 yaş altı kullanıcılar için kabul edilemez risk kategorisine yerleştirdi. Bağımsız güvenlik testinde sistemin ebeveyn bildirimleri, yaş tahmini ve kriz anlarında yardım kaynaklarına yönlendirme gibi temel güvenlik vaatlerini tutarlı biçimde yerine getiremediği sonucuna varıldı.
İncelemede ebeveyn hesaplarına bağlı yeni test profillerinde kendine zarar verme, yeme bozuklukları ve ruh sağlığı krizleri üzerine yapılan konuşmaların ebeveynlere anlık uyarı göndermediği tespit edildi. Rapora göre kriz müdahalesi gerektiren senaryoların dörtte birinden fazlasında kullanıcılar profesyonel yardım kaynaklarına yönlendirilmedi; sistemin bildirim mekanizmasının acil krizler yerine ancak haftalar süren kullanım geçmişinden sonra devreye girdiği gözlemlendi.
Güvenlik değerlendirmesinde ChatGPT'nin öğrencileri adım adım yönlendirmesi gereken Study Mode özelliğinde de zafiyetler saptandı; sistem öğrencilere ipucu vermek yerine doğrudan nihai yanıtı sunabildi ve çalışma saatleri kısıtlaması standart sohbet moduna geçilerek aşılabildi. Ayrıca yetişkin profiliyle açılan hesaplarda kullanıcılar sohbet içinde 13 yaşında olduklarını belirtmelerine karşın davranışsal yaş tahmin sisteminin hesabı otomatik olarak genç moduna geçirmediği kaydedildi.
OpenAI sözcüsü Eric Porterfield kurumun bulgularına karşı çıkarak gerçekleştirilen testlerin güvenlik önlemlerinin pratikteki gerçek işleyişini yansıtmadığını savundu. Şirket tarafı genç ve ebeveyn hesaplarının eşleşmesinden sonra bazı koruma mekanizmalarının devreye girmesinin zaman alabildiğini belirtirken, enstitü temsilcileri sistemin etkinleşmesi için süre tanınan hesaplarda da uyarı üretilmediğini vurguladı. Florida'da gençlerin sohbet robotlarına erişimini kısıtlamaya yönelik yasal süreç sürerken hazırlanan bu bağımsız değerlendirme, yapay zekâ platformlarının yaş doğrulama ve ebeveyn denetimi standartları üzerindeki denetim baskısını artırıyor.
Neden önemli?Bulgular, OpenAI'nin ebeveyn denetimi ve kriz koruması vaatlerinin anlık durumlarda çalışmadığını göstererek yapay zekâ şirketlerine yönelik yasal ve düzenleyici baskıyı artırıyor.
Cevabı beklenen sorular
- OpenAI'nin gençlere yönelik güvenlik sistemlerinde ebeveyn bildirim gecikmelerini giderecek yeni bir güncelleme yayımlayıp yayımlamayacağı.
- Florida'da devam eden yasal sürecin bağımsız test sonuçları sonrasında ek kısıtlama kararları getirip getirmeyeceği.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
