Kurumsal yapay zekada sohbet robotlarının yerini karar alabilen otonom ajan mimarileri alıyor

Kurumsal yapay zekâ uygulamalarında, yalnızca çalışanların sorularına yanıt veren geleneksel sohbet robotu ve büyük dil modeli (LLM) merkezli yapının yerini, doğrudan iş süreçlerini yürüten ve tanımlanan yetkiler dahilinde karar alabilen yapay zekâ ajanları alıyor. Geri Alma Destekli Üretim (RAG) yöntemiyle modellerin şirket içi dokümanlara bağlanması bilgi erişimini genişletmişti; ancak yeni nesil kurumsal mimaride büyük dil modelleri sistemin merkezinde tek başına konumlanmak yerine çok katmanlı yapının bir bileşeni haline geliyor. GBA Bilişim Kurucu Ortağı A. Barkın Gündoğdu, kurumsal yapay zekâdaki bir sonraki aşamanın yalnızca daha büyük veya daha güçlü modeller geliştirmekten ibaret olmadığını, rasyonel ajanların belirlenen hedefler, veri kaynakları ve yönetişim kuralları çerçevesinde eylem gerçekleştirdiği bir yapıya geçildiğini vurguluyor.

İş süreçlerinde ERP, CRM ve kurumsal yönetim yazılımlarının bir arada kullanılması, yapay zekâ ajanlarının bu platformlarla uyumlu çalışmasını zorunlu kılıyor. Anthropic tarafından Kasım 2024'te açık standart olarak yayımlanan Model Context Protocol (MCP), modellerin dış araçlara ve şirket içi veri kaynaklarına standart bir protokol üzerinden bağlanmasına zemin hazırladı. Bu protokol sayesinde geliştiricilerin her bir kurumsal yazılım için ayrı ayrı özel entegrasyon kodlama ihtiyacı azalırken, ajanların çok adımlı görevleri yürütmesi ve araçları doğrudan tetiklemesi teknik olarak mümkün hale geldi. Çok sayıda bağımsız yazılım kullanan şirketlerde MCP benzeri birlikte çalışabilirlik protokolleri, yapay zekânın salt yanıt üreten bir arayüzden çıkıp kurumsal bilgi akışına müdahale eden bir aktöre dönüşmesini hızlandırıyor.

Sektördeki bu dönüşüm şirketlerin yatırım stratejilerine de yansımış durumda. Deloitte tarafından 3 bin 200'den fazla üst düzey yöneticiyle yapılan araştırma, kuruluşların yüzde 75'inin operasyonlarında en azından bir düzeyde ajan tabanlı yapay zekâ kullandığını ve iki yıl içinde bu oranın yüzde 95'e ulaşmasının beklendiğini ortaya koyuyor. Bununla birlikte aynı araştırma, şirketlerin yalnızca yüzde 1'inin ajanları iş süreçlerine tam entegre biçimde kullandığını, yüzde 20'sinin ise orta düzeyde faydalandığını gösteriyor. Sahadaki uygulamalarda AT&T, tek bir yapay zekâ sağlayıcısına bağımlı kalmamak adına modelden bağımsız bir platform kurarak binin üzerinde ajan tabanlı iş akışını devreye aldı; şirketin Veri ve Yapay Zekâ Yöneticisi Andy Markus bu yatırımların nakit getirisinin beş katına ulaştığını belirtiyor. Benzer şekilde 180 yıllık New York Life bünyesinde çalışan Matt Marze ise SOC 1 ve SOC 2 denetim kanıtlarının toplanmasında ajan tabanlı yapay zekâdan yararlandıklarını aktarıyor.

Ajanların harici sistemlerde işlem yapabilme yeteneği, güvenlik ve yetki sınırları konusundaki riskleri de beraberinde getiriyor. Gündoğdu, bir sistemin teknik olarak işlem yapabilmesinin insan müdahalesi olmadan çalışması gerektiği anlamına gelmediğine dikkat çekerek; finansal işlemler, müşteri verileri ve kritik altyapılarda insan onayının mimarinin zorunlu bir katmanı olması gerektiğini ifade ediyor. Gartner'ın Ocak 2025 verileri, kurumların yüzde 61'inin ajan tabanlı yapay zekâ geliştirmeye başladığını, ancak artan token maliyetleri, belirsiz iş değeri ve yetersiz risk kontrolleri nedeniyle bu projelerin yüzde 40'ının 2027 yılına kadar iptal edileceğini öngörüyor. Yeni mimaride performans ölçütü modellerin yanıt doğruluğunun ötesine geçerek; gerçekleştirilen işlemlerin iş sonuçlarına etkisi, harcanan işlem gücü maliyeti ve sistemin izin verilen yetki sınırları içinde kalıp kalmadığı üzerinden takip ediliyor.

Neden önemli?Yalnızca metin üreten sistemlerin yerini iş süreçlerini uçtan uca yöneten ajanların alması şirketlerde verimliliği artırırken, güvenlik, yetkilendirme ve insan denetimi katmanlarını kritik bir gereklilik haline getiriyor.

Şu ana kadar bildiklerimiz

• Anthropic'in Kasım 2024'te açık standart olarak yayımladığı Model Context Protocol (MCP), yapay zekâ modellerinin harici araçlara ve kurumsal verilere standart yöntemle bağlanmasını sağladı.
• Deloitte tarafından 3 bin 200'den fazla yöneticiyle yapılan araştırma, şirketlerin yüzde 75'inin en azından bir düzeyde ajan tabanlı yapay zekâ kullandığını ve iki yıl içinde oranın yüzde 95'e çıkacağını gösterdi.
• Gartner verilerine göre kurumların yüzde 61'i ajan geliştirmeye başlarken; artan maliyetler ve yetersiz risk kontrolleri nedeniyle bu projelerin yüzde 40'ının 2027'ye kadar iptal edileceği öngörülüyor.

Cevabı beklenen sorular

• Gartner'ın öngördüğü yüzde 40'lık proje iptal oranının önüne geçebilmek adına kurumsal risk ve maliyet yönetimi standartları ne kadar sürede olgunlaşacak?
• Finansal süreçler ve kritik altyapılarda insan onay mekanizmalarının yaratacağı operasyonel iş yükü ile otonom işlem hızı arasındaki denge nasıl korunacak?