New York Valisi Kathy Hochul, yapay zekâ sohbet botlarına yaş doğrulaması getiren ve çocuklara yönelik duygusal veya insan taklidi yapan etkileşimleri yasaklayan yasayı imzaladı.
Üç noktada haber
Yasa, yapay zekâ şirketlerinin kullanıcı yaşını doğrulamasını ve en az bir resmi kimlik dışı doğrulama yöntemi sunmasını şart koşuyor.
Sohbet botlarının gerçek bir insan gibi davranması, reşit olmayanlarla romantik veya kişisel bağ kurması ve intiharı teşvik etmesi yasaklandı.
Kuralları ihlal eden şirketler ihlal başına 25 bin dolara kadar para cezasıyla ve modellerini silmekle karşı karşıya kalabilecek.
New York Valisi Kathy Hochul, yapay zekâ sohbet botlarının çocuklara yönelik olası zararlarını sınırlandırmayı hedefleyen yeni yasal düzenlemeyi imzaladı. Düzenleme, yapay zekâ hizmeti sunan şirketlerin kullanıcıların yaşını doğrulamasını ve bunu yaparken yalnızca resmi kimlik belgelerine bağımlı olmayan en az bir doğrulama yöntemi sunmasını zorunlu kılıyor. Şirketler elde ettikleri yaş bilgilerini işlem sonrasında silmekle yükümlü tutulurken, 18 yaş altındaki kullanıcılar veya yetişkin olduğu henüz teyit edilmemiş hesaplar için katı içerik ve davranış kısıtlamaları uygulanacak.
Kabul edilen düzenlemeye göre sohbet botlarının gerçek bir insan gibi davranması, canlı olduğunu veya insani duygular taşıdığını iddia etmesi yasaklanıyor. Yapay zekâ sistemleri reşit olmayan çocuklarla kişisel, romantik, mesleki ya da otorite figürü ilişkisi kuramayacak; talep edilmemiş duygusal sorular yöneltemeyecek ve geçmiş konuşmalardan elde edilen özel sağlık ya da kişisel verileri kullanamayacak. Ayrıca botların intiharı, kendine zarar vermeyi, yeme bozukluklarını veya uyuşturucu ve alkol kullanımını teşvik etmesi ya da bu konularda yardım sunması; çocukları sır saklamaya veya ailelerinden ve uzmanlardan destek almaktan kaçınmaya yönlendirmesi bütünüyle engelleniyor.
Yasaya aykırı hareket eden şirketler için New York Başsavcılığına şikayette bulunulabilecek özel bir internet sitesi kurulacak. Kuralları ihlal eden yapay zekâ sağlayıcıları, ihlal başına 25 bin dolara kadar para cezasının yanı sıra tazminat ve diğer hukuki yaptırımlarla karşı karşıya kalabilecek. Düzenleme, şirketlerin yasa dışı olarak topladıkları verileri ve bu verilerle eğitilmiş yapay zekâ modellerini de silmelerini gerektirebilecek. Eyalet Senatörü Gonzalez ve Meclis Üyesi Bores tarafından desteklenen yasa, imzanın ardından altı ay sonra yürürlüğe girecek.
Kathy Hochul aynı imza sürecinde internet bağlantılı bebek telsizlerine yönelik ayrı bir güvenlik yasasını da onayladı. Eyalette satılan akıllı bebek monitörlerinin yetkisiz kişilerin görüntü veya ses kaydı almasını önleyecek teknik güvenlik önlemlerine ve uyarı etiketlerine sahip olması zorunlu kılındı; bu kural 90 gün içinde yürürlüğe girecek. Öte yandan Common Sense Media Kurucusu ve CEO'su Jim Steyer düzenlemenin ülke geneli için bir örnek teşkil ettiğini belirtirken, New York Şehri devlet okullarında anaokulundan sekizinci sınıfa kadar olan sınıflarda üretken yapay zekâ araçlarının kullanımı bir yıllık çalışma süresince askıya alınmış durumda bulunuyor.
Neden önemli?Düzenleme, sohbet botlarının çocuklarla bağ kurmasını sınırlarken kurallara uymayan teknoloji şirketlerine ihlal başına 25 bin dolara varan para cezası ve model silme yaptırımı getiriyor.
Cevabı beklenen sorular
- Altı ay sonra yürürlüğe girecek yaş doğrulama ve içerik kısıtlama kurallarının diğer eyaletler tarafından örnek alınıp alınmayacağı.
- Teknoloji şirketlerinin kimlik belgesi gerektirmeyen yaş doğrulama yöntemlerini hangi teknik altyapıyla hayata geçireceği.
Kaynaklar ve belgeler
Bu haberde kullanılan belgelere aşağıdaki bağlantılardan ulaşabilirsiniz.
