Georgetown ve Washington üniversitelerinden araştırmacılar, ChatGPT ve Gemini modellerinin ürettiği hatalı video özetlerinin katılımcıların olayları doğru hatırlama oranını yüzde 83,6'dan yüzde 44,8'e düşürdüğünü belgeledi.
Üç noktada haber
OpenAI ChatGPT ve Google Gemini ile yapılan testlerde yapay zekâ özetleri temel ayrıntıların ortalama yüzde 51,6'sını atladı.
Deneye katılan 331 kişiden doğru özet okuyanların yüzde 83,6'sı trafik levhasını doğru hatırlarken yanıltıcı özet okuyanlarda bu oran yüzde 44,8'e geriledi.
Özetin yapay zekâ tarafından yazıldığı katılımcılara açıkça söylendiğinde dahi hafıza yanılsaması ortadan kalkmadı.
Georgetown Üniversitesi ve Washington Üniversitesi araştırmacıları, yapay zekâ modelleri tarafından hazırlanan video özetlerindeki hataların insan hafızasını doğrudan manipüle edebildiğini belgeledi. Araştırmacılardan Mattea Sim liderliğinde yürütülen ve arXiv üzerinde yayımlanan çalışma, Ekim 2026'da dokuzuncu AAAI/ACM Yapay Zekâ, Etik ve Toplum Konferansı'nda sunulacak. Çalışma, OpenAI tarafından geliştirilen ChatGPT ve Google tarafından geliştirilen Gemini modellerinin video özetleme süreçlerinde kritik bilgileri atladığını, bilgileri yanlış aktardığını ve var olmayan ayrıntılar ürettiğini ortaya koydu. İncelenen özetlerin genelinde temel ayrıntıların ortalama yüzde 51,6'sı atlanırken, bir aracın yayaya çarpmasını konu alan canlandırma videosuna dair özetlerin yüzde 95'inde en merkezi olay olan çarpışma anına yer verilmedi.
Araştırma ekibinde yer alan Georgetown Üniversitesi öğretim üyesi Yoshi Kohno ve Washington Üniversitesi doktora adayı Yael Eiger, klasik insan hafızası çalışmalarını temel alarak 331 katılımcının yer aldığı iki aşamalı bir deney kurguladı. Katılımcılara kırmızı bir otomobilin dur veya yol ver tabelasının bulunduğu bir kavşağa yaklaştığı, sağa döndüğü ve yoldaki bir yayaya çarptığı animasyon videolar izletildi. Çarpışmanın ardından yayanın ayağa kalktığı ve sürücünün araçtan inerek yayanın yanına gittiği sahne denekler tarafından takip edildi. İlk aşamadan 24 ila 48 saat sonra katılımcılara, araştırmacılar tarafından ChatGPT çıktılarından derlenen doğru ya da yanıltıcı ayrıntılar içeren özet metinler okutuldu.
Deney sonuçları, yanıltıcı yapay zekâ özetlerine maruz kalan kişilerin gerçeği hatırlama yetisinin ciddi biçimde zayıfladığını gösterdi. Otomobilin bir dur tabelasına mı yoksa yol ver tabelasına mı yaklaştığı sorulduğunda, doğru özet okuyan katılımcıların yüzde 83,6'sı doğru yanıt verirken, araştırmacılar tarafından hatalı ayrıntı yerleştirilmiş özetleri okuyan grupta doğru yanıt oranı yüzde 44,8 seviyesine düştü. Araştırmacılar, metnin yapay zekâ tarafından üretildiğinin katılımcılara açıkça bildirilmesinin dahi bu etkiyi kırmadığını, bireylerin yapay zekâya duyduğu güven ya da aşinalık düzeyinden bağımsız olarak hafıza bozulmasının gerçekleştiğini kaydetti.
Elde edilen bulgular, özellikle polis yaka kameraları ve sağlık kayıtları gibi yüksek riskli alanlarda yapay zekâ kullanımının güvenilirliğini tartışmaya açtı. Hukuk ve kamu güvenliği sistemlerinde yapay zekâ hatalarını düzeltmesi beklenen insan denetçilerin, aslında yapay zekânın sunduğu hatalı özetler nedeniyle kendi hafızalarında yanılsama yaşayabileceği vurgulandı. Çalışmanın sınırlarına da dikkat çeken araştırmacılar, deneyde gerçek polis yaka kamerası görüntüleri yerine canlandırma animasyonlar kullanıldığını ve kurumlar için geliştirilen özel yapay zekâ sürümlerine erişimleri olmadığı için testlerin tüketiciye açık modellerle sınırlı kaldığını belirtti. Ekip, bir sonraki aşamada yapay zekâ özetlerinin gerçek polis yaka kamerası kayıtlarında ve resmi tutanak süreçlerinde tanık ile görevli hafızasını nasıl etkilediğini incelemeyi hedefliyor.
Neden önemli?Polis yaka kameraları ve adli süreçlerde yaygınlaşan yapay zekâ özetlerinin denetiminde insana güvenilse de hatalı özetlerin bizzat insan hafızasını bozarak yanıltıcı tanıklıklara yol açabileceği belgelendi.
Cevabı beklenen sorular
- Gerçek polis yaka kamerası kayıtlarında ve adli soruşturmalarda yapay zekâ özetlerinin tanık ifadelerini nasıl etkileyeceği henüz incelenmedi.
- Kurumsal ve kurumlara özel lisanslı yapay zekâ modellerinin benzer hafıza manipülasyonlarına yol açıp açmadığı bilinmiyor.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
