Yapay zekâ sistemlerinde tehlikeli davranış veya güvenlik açığı fark edenlerin bunu bildirebileceği Flare adlı bir platform devreye girdi. Platform, bir sohbet asistanının zararlı içerik üretmesi ya da kişisel bilgileri sızdırması gibi durumların merkezî bir yerde toplanmasını hedefliyor.
Fikir, yazılım güvenliğinde onlarca yıldır işleyen bir modelden geliyor. Klasik yazılımda bir açık bulunduğunda, bunu üreticiye iletmek için tanımlı kanallar, ortak bir numaralandırma sistemi ve bildirimi yapan araştırmacıyı koruyan yerleşik kurallar var. Yapay zekâ tarafında ise bu altyapı henüz kurulmuş değil; bir modelin beklenmedik biçimde davranması durumunda bunun kime, nasıl bildirileceği çoğu zaman belirsiz.
Aradaki fark yalnızca eksik altyapıdan ibaret değil. Klasik bir güvenlik açığı genellikle tekrarlanabilir ve nettir: belirli bir girdi belirli bir hataya yol açar. Yapay zekâ modellerinde ise sorunlu davranış olasılıksaldır; aynı istem farklı zamanlarda farklı sonuç verebilir. Bu durum, bir bildirimin doğrulanmasını ve önem derecesinin belirlenmesini klasik yazılıma göre çok daha zor hale getiriyor.
Merkezî bir bildirim noktasının değeri, dağınık gözlemleri bir araya getirebilmesinde. Tek tek kullanıcıların fark ettiği tuhaflıklar ayrı ayrı anlamsız görünebilirken, aynı yerde toplandıklarında yinelenen bir örüntüye işaret edebiliyor. Bu tür veri, hem geliştiricilerin hem düzenleyicilerin elindeki en somut malzeme olabilir.
Platformun etkisini belirleyecek olan, bildirimlerin ne olacağı. Bildirimlerin üreticilere iletilip iletilmeyeceği, doğrulama sürecinin nasıl işleyeceği ve sonuçların kamuya açılıp açılmayacağı, girişimin gerçek bir denetim aracı mı yoksa yalnızca bir şikâyet kutusu mu olacağını belirleyecek.
