OpenAI, ChatGPT'de silah ve toplu saldırı ayrıntılarını engelleyen, genç kullanıcılara kısıtlama getiren ve şiddet odaklı sohbetleri otomatik sonlandıran yeni güvenlik tedbirlerini duyurdu.
Üç noktada haber
Genç kullanıcılar herhangi bir şiddet niyeti taşımasalar dahi silahlar ve güvenlik sistemleri hakkında pratik bilgi alamayacak.
ChatGPT, kullanıcının şiddete yöneldiğini tespit ederse sohbeti otomatik kapatabilecek ve tekrarlayan durumlarda hesabı askıya alabilecek.
Şirket, güvenlik risklerini nasıl ele aldığını açıklayan ilk Topluluk Güvenliği Raporu'nu 2027 yılı başında yayımlamayı planlıyor.
OpenAI, yapay zekâ modeli ChatGPT'nin şiddet içeren faaliyetlerde bir araç olarak kullanılmasını engellemek amacıyla yeni güvenlik önlemleri paketini duyurdu. Önümüzdeki haftalarda kademeli olarak devreye alınması planlanan güncellemeler, hem genç kullanıcılara yönelik özel kısıtlamaları hem de platformun genelinde geçerli olacak yeni denetim filtrelerini içeriyor. Şirket, bu adımla birlikte sistemin zararlı pratik bilgilere aracılık etmesini engellemeyi amaçlıyor.
Yeni güvenlik çerçevesi kapsamında genç kullanıcılar, herhangi bir kötü niyet ya da şiddet eğilimi sergilemeseler bile silahlar ve güvenlik sistemleri hakkında pratik bilgiler içeren yanıtlara erişemeyecek. Platform genelindeki kurallar da geçmişte meydana gelen toplu saldırılarda kullanılan silahlar, faillerin bu silahlara nasıl ulaştığı ve saldırıların operasyonel ayrıntılarının paylaşılmasını tamamen yasaklıyor. Buna karşın sistem, söz konusu olayların toplum ve mağdurlar üzerindeki etkileri ile şiddetin erken uyarı işaretlerine dair bilgilendirici içerikleri sunmaya devam edecek.
Sohbet güvenliğini artırmayı hedefleyen bir diğer mekanizma ise oturum sonlandırma ve hesap yaptırımlarından oluşuyor. ChatGPT, bir kullanıcının şiddete veya üçüncü kişilere ciddi zarar vermeye odaklandığını tespit ettiği anda ilgili sohbet oturumunu otomatik olarak kapatabilecek. Zarar verme niyetinin veya şiddet içerikli konuşmaların tekrarlanması durumunda kullanıcının hesabının geçici olarak askıya alınması gündeme gelecek. OpenAI, yaş tahmin sistemini geliştirirken ebeveyn bildirim ağını da genişletmeyi sürdürüyor; şiddet riskiyle kapatılan genç hesaplar için uygulanan veli bilgilendirmesinin, geçici olarak durdurulan hesapları da kapsayacak şekilde genişletilmesi hedefleniyor.
Platformun güvenlik süreçlerine dair şeffaflığı artırmak isteyen OpenAI, ilk Topluluk Güvenliği Raporu'nu 2027 yılının başında yayımlayacağını açıkladı. Altı aylık periyotlarla güncellenecek olan bu raporlarda şirketin riskleri nasıl belirlediği, müdahale mekanizmalarının nasıl çalıştığı ve sisteme yönelik tehditlere dair anonimleştirilmiş veriler ile somut örnekler kamuoyuyla paylaşılacak.
Neden önemli?Yeni kurallar yapay zekânın saldırı planlarında pratik rehber olarak kullanılmasını önlemeyi ve ebeveyn denetimiyle gençlerin güvenliğini artırmayı hedefliyor.
Cevabı beklenen sorular
- Önümüzdeki haftalarda sunulacak güvenlik güncellemelerinin Türkçe ve diğer dillerdeki içerik denetiminde ne kadar etkili olacağı henüz bilinmiyor.
- Şiddet içerikli konuşmalar nedeniyle geçici durdurulan hesaplar için geliştirilen ebeveyn bildirim sisteminin ne zaman yürürlüğe gireceği henüz netleşmedi.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
