Berlin merkezli Simon Weckert, yapay zekâ destekli kameraların insan figürünü ayırt etmesini engelleyen soyut desenlere sahip Digital Camouflage gömleğini geliştirdi.
Berlin merkezli sanatçı Simon Weckert, yapay zekâ tabanlı güvenlik kameralarının insan bedenini tespit etme sürecini aksatan Digital Camouflage adlı bir gömlek geliştirdi. Günümüzde kamusal alanlardaki yapay zekâ destekli kameralar sadece video kaydetmekle kalmayıp insanları, nesneleri ve hareket kalıplarını otomatik biçimde sınıflandırabiliyor. Weckert'ın projesi ise bu sınıflandırma algoritmalarının çalışma prensibindeki zaaflardan yararlanarak gözetim sistemlerini şaşırtmayı amaçlıyor.
Gömleğin yüzeyinde yer alan pembe, turuncu ve yeşil tonlarındaki soyut desenler, bilgisayarlı görü modellerinin insan vücudunu ayırt ederken başvurduğu görsel ipuçlarını kesintiye uğratıyor. Tasarımdaki renk geçişleri ve iç içe geçen geometrik formlar, algoritmanın baş, omuz, gövde ve uzuvları birleştirip tek bir insan silüeti oluşturmasını engelliyor. Bu desen yapısı, makine öğreniminde "adversarial attack" olarak bilinen ve insan gözü için sıradan duran ancak yapay zekânın karar mekanizmasını yanıltan görsel girdiler ekleme tekniğiyle hazırlandı. Weckert, farklı görsel varyasyonları yapay zekâ modelleri üzerinde tekrarlayan denemelere tabi tutarak nihai tasarıma ulaştı.
Digital Camouflage projesi, Berlin'in Kottbusser Tor bölgesinde başlatılan yapay zekâ destekli video gözetim pilot uygulamasına bir tepki niteliği taşıyor. Kottbusser Tor'daki sistemin yüz tanıması yapmaktan ziyade kamusal alandaki olağan dışı hareketleri ve şüpheli davranışları yakalamak üzere konumlandırıldığı biliniyor. Algoritma riskli bir durum işaret ettiğinde son kararı görevli emniyet personeli veriyor. Yetkililer, pilot uygulamanın ilerleyen süreçte kentin farklı noktalarına da genişletilmesini planlıyor.
Weckert, hazırladığı gömleği açık kaynaklı gerçek zamanlı nesne tespit modeli YOLO üzerinde çeşitli denemelerle sınadı. Testlerde sistem kadraja giren diğer insanları tespit ederken, Digital Camouflage giyen kişiyi belirli anlarda insan kategorisinde sınıflandıramadı. Tasarımcı, bu giysinin tüm ticari gözetim sistemlerine karşı mutlak bir görünmezlik sağlayan bir güvenlik ürünü olmadığını, amacının kamusal alandaki otomatik izleme teknolojilerinin güvenilirliğini ve sınırlarını görünür kılmak olduğunu belirtiyor. Gömleğin satışından sağlanan gelirin bir kısmı ise dijital haklar alanında çalışan sivil toplum kuruluşlarına bağışlanıyor.
Neden önemli?Tasarım, kamusal alanlarda hızla yayılan otomatik gözetim sistemlerinin zayıf noktalarını ve yapay zekânın karar alma sınırlarını tartışmaya açıyor.
Şu ana kadar bildiklerimiz
- Gömleğin üzerindeki pembe, turuncu ve yeşil soyut desenler, nesne algılama algoritmalarının insan vücudu parçalarını birleştirmesini zorlaştırıyor.
- Proje, Berlin'deki Kottbusser Tor bölgesinde başlatılan yapay zekâ destekli video gözetim pilot uygulamasına tepki olarak geliştirildi.
- Açık kaynaklı YOLO modeliyle yapılan denemelerde sistem, çevredeki diğer kişileri tespit ederken gömleği giyen kişiyi zaman zaman insan olarak sınıflandıramadı.
Cevabı beklenen sorular
- Farklı ticari gözetim algoritmaları ve güncellenen yapay zekâ modelleri karşısında bu tür desenlerin ne derece etkili olacağı henüz bilinmiyor.
- Berlin'deki pilot video gözetim uygulamasının ilerleyen dönemde kentin hangi yeni bölgelerine genişletileceği açıklanmadı.
