Tasarımcı Simon Weckert, nesne algılama modellerinin insan silüetini tanımasını engelleyen 'Dijital Kamuflaj' adını verdiği renkli ve desenli bir gömlek tasarladı.
Tasarımcı Simon Weckert, kamusal alandaki yapay zekâ destekli video takip sistemlerini yanıltmak amacıyla "Dijital Kamuflaj" adını verdiği özel bir gömlek geliştirdi. Çalışma, Almanya'nın Berlin kentindeki Kottbusser Tor meydanında bu ay başlatılan yapay zekâlı video gözetimi pilot projesine doğrudan bir yanıt niteliği taşıyor. Gömlek, nesne algılama modellerinin insan silüetini ve beden hatlarını ayrıştırma biçimini hedef alarak kullanıcının kamera sistemleri tarafından insan olarak algılanmasını önlemeyi amaçlıyor.
Weckert'a göre yapay zekâ sistemleri insan kavramını doğrudan öğrenmek yerine milyonlarca eğitim görselindeki istatistiksel verileri işliyor. Sistemlerin çalışma mantığını açıklayan Weckert, "İlk katmanlarda kenarlar, kontrastlar ve doku eğimleri yer alırken derinlerde baş-omuz silüeti ve uzuv oranları bulunur; makine için insan sadece görsel istatistikler bütünüdür" ifadesini kullanıyor. Geliştirilen gömlek, insan gözünden ziyade makinenin algılama biçimine göre optimize edilmiş doygun renk geçişleri ve birbiri üzerine binen şekillerle bu istatistiksel yapıyı hedef alıyor.
Gömleğin üzerindeki desenlerin geliştirilmesinde doğrudan yapay zekâ modellerinden ve "çekişmeli döngü" olarak adlandırılan deneme-yanılma yönteminden yararlanıldı. Tasarım sürecinde üretilen desen alternatifleri algılama sistemine gösterildi, sistemin kişiyi bulma konusundaki güven skoru ölçüldü ve bu güven tamamen çökene kadar desen üzerinde ayarlamalar uyarlandı. Weckert, makinelerin kör noktalarının insan sezgisiyle tasarlanamayacağını, bu nedenle meydanı izleyen yapay zekâ sınıfının aynı zamanda gömleğin nasıl gizleneceğini de öğrettiğini belirtiyor.
Tasarımcı, geliştirdiği gömleğin etkinliğini açık kaynaklı ve gerçek zamanlı bir nesne algılama mimarisi olan YOLO sistemi üzerinde test etti. Daha önce Cap_able tarafından yüzü kapatmaya gerek kalmadan biyometrik verileri koruyan örme giysilerde de kullanılan YOLO altyapısı, gömleğin üzerindeki desenlerin insan tespit mekanizmasını tamamen devre dışı bıraktığını doğruladı. Renk geçişlerinin erken ağ katmanlarını aşırı uyarması ve kesintili şekillerin vücut hatlarını parçalaması sayesinde nesne algılayıcı parçaları tek bir insan figürü olarak birleştiremiyor.
Neden önemli?Geliştirilen yöntem, yapay zekânın görsel istatistiklere dayalı açıklarını tersine mühendislikle kullanarak kamusal alandaki otomatik biyometrik ve nesne takibine karşı yeni bir sivil savunma yaklaşımı sunuyor.
Şu ana kadar bildiklerimiz
- Tasarım, Berlin Kottbusser Tor'da bu ay başlatılan yapay zekâlı video gözetimi pilot projesine doğrudan bir yanıt olarak geliştirildi.
- Gömleğin desenleri, açık kaynaklı YOLO nesne algılama sistemiyle yürütülen ve modelin güven skoru çökene kadar sürdürülen çekişmeli döngü yöntemiyle üretildi.
- Sistem, ağın ilk katmanlarındaki kontrast ve doku geçişlerini aşırı uyarırken üst katmanlardaki vücut hatlarının sürekliliğini bozarak insan tespitini engelliyor.
Cevabı beklenen sorular
- Berlin Kottbusser Tor'daki pilot projede kullanılan güvenlik sistemlerinin bu tür desenlere karşı algılama modellerini güncelleyip güncellemeyeceği.
- Benzer çekişmeli desenlerin farklı açılardan ve değişen ışık koşullarında tüm nesne algılama modellerinde ne derece tutarlı sonuç vereceği.
