Bilim insanları içini göremedikleri araçlara bağımlı hâle geliyor

BioScience dergisinde yayımlanan yeni bir çalışma, ekoloji ve doğa koruma araştırmalarının işleyişi araştırmacılara kapalı teknolojilere giderek daha fazla dayandığı uyarısını yapıyor. Uluslararası bir ekibin hazırladığı "The black-box future of ecology and conservation" başlıklı makale, yapay zekâ, uydu görüntüleri, çevrim içi veri ve dijital sensörlerin doğa bilimlerini dönüştürürken aynı zamanda sonuçların doğrulanmasını zorlaştırdığını savunuyor.

Çalışmanın ilk yazarı, Paris-Saclay Üniversitesi'nden Ivan Jarić, bu araçların bir bölümünün "sonuçların arkasındaki süreçleri büyük ölçüde gizli tutarak gerçek birer kara kutu" hâline geldiğini söylüyor. Jarić'e göre bu sistemlerin çoğu, ticari kaygılar ve mülkiyet kısıtları nedeniyle nasıl çalıştıklarına dair bilgiye erişimi bilerek sınırlayan özel şirketlerin elinde bulunuyor.

Makale, yaygınlaşan kara kutu türlerini tek tek sayıyor. Büyük dil modelleri ve diğer yapay zekâ araçları devasa veri kümelerini işlemek, uydu görüntülerini yorumlamak ve ekosistem modellemesi yapmak için kullanılıyor; ancak araştırmacıların eğitim verisine, temel algoritmalara ya da sistemi doğrudan test etme imkânına çoğu zaman erişimi olmuyor. Benzer biçimde bazı uzaktan algılama ürünleri kapalı işleme yöntemlerine dayanıyor, bazı yaban hayatı takip cihazları ise ham veriyi vermeden yalnızca işlenmiş konum bilgisi sunuyor.

Sorun yapay zekâyla sınırlı değil. Biyoçeşitlilik araştırmalarında veri kaynağı olarak kullanılan arama motorları ve sosyal medya platformları, değişen politikalar ve görünmeyen algoritmalar üzerinden veriye bilinmeyen yanlılıklar taşıyabiliyor. Sosyal anketlerde de bilim insanları katılımcı toplama ve anket yönetimini özel şirketlere devrediyor; katılımcıların nasıl seçildiği, veri kalitesinin nasıl korunduğu ya da yanıtların yapay zekâ ajanlarından etkilenip etkilenmediği çoğu zaman belirsiz kalıyor.

Exeter Üniversitesi'nden Karen Anderson, bunun yalnızca ticari mülkiyetten kaynaklanmadığını belirtiyor: modern bilimsel araçlar teknik olarak o kadar karmaşık hâle geliyor ki kullanıcılar, bazı durumlarda geliştiricilerin kendileri bile sistemin işleyişini tam olarak inceleyemiyor. Makale, yayın yapma baskısının, büyüyen veri kümelerinin ve acil çevre krizlerinin bu araçlara bağımlılığı artırdığını ekliyor. Analizin kritik adımları incelenemez ya da tekrarlanamaz hâle gelirse, bulgulara duyulan güvenin aşınabileceği belirtiliyor.

Yazarların önerileri arasında mümkün olan her yerde açık kaynaklı yazılım ve donanıma öncelik verilmesi, kapalı araçların şeffaf veri kümeleriyle kıyaslanması, sonuçların birden çok yöntemle karşılaştırılması ve eğitim verisinin, sürümlerin, ayarların ve özellikle aracın sınırlarının ayrıntılı biçimde belgelenmesi yer alıyor. İsveç Tarım Bilimleri Üniversitesi ve Stockholm Üniversitesi'nden Michael Bertram ise insan denetiminin araştırma sürecinin merkezinde kalması gerektiğini, çünkü kara kutu araçların ürettiği hata ve belirsizliklerin sorumluluğunu makalenin yazarlarının üstlendiğini söylüyor.

Neden önemli?Bu durum, bilimsel bulguların güvenilirliğini ve şeffaflığını tehdit ederek bilim camiasında ve kamuoyunda bilime olan güveni sarsma potansiyeli taşıyor.

Şu ana kadar bildiklerimiz

• Bilim insanları, işleyişini tam olarak anlayamadıkları veri kaynakları ve araçlar kullanıyor.
• Bu "kara kutu" teknolojilerinin kullanımı bilimsel çalışmalarda artış gösteriyor.
• Söz konusu durum, bilimsel bulguların güvenilirliğini olumsuz etkileyebilir.

Cevabı beklenen sorular

• Bilim camiası, bu teknolojilerin şeffaflığını artırmak için hangi somut adımları atmayı planlıyor?
• Gelecekte bilimsel araştırmalarda bu araçların kullanımına yönelik etik ve metodolojik standartlar nasıl belirlenecek?
• Kamuoyunun bilime olan güvenini sürdürmek adına hangi iletişim stratejileri geliştirilecek?