--- title: Arka ofis süreçlerinde yapay zeka ajanları için güvenli mimari gerekliliği url: https://www.elseif.net/tr/arka-ofis-sureclerinde-yapay-zeka-ajanlari-icin-guvenli-mimari-gerekliligi published: 2026-11-10T08:21:25+00:00 language: tr section: Ajanlar source: https://www.heise.de/hintergrund/Sichere-Architektur-fuer-KI-Agenten-im-Backoffice-11514414.html?wt_mc=rss.red.ho.ho.atom.beitrag.beitrag organizations: iSAQB, Microsoft, UiPath, SAP, OWASP publisher: elseif --- # Arka ofis süreçlerinde yapay zeka ajanları için güvenli mimari gerekliliği Arka ofis birimleri, dijitalleşmenin henüz tam olarak ele alınmamış alanı olarak kabul ediliyor. Muhasebe, satın alma ve tedarikçi yönetimi gibi departmanlarda çalışanlar, elektronik posta kutuları, PDF ekleri ve manuel onay süreçleriyle başa çıkmaya çalışıyor. Robotik Süreç Otomasyonu, bu boşluğu doldurmayı hedeflese de, yalnızca verilerin temiz yapılandırıldığı ve süreçlerin öngörülebilir olduğu durumlarda güvenilir bir şekilde çalışıyor. Arka ofis iş akışları bu koşulları nadiren karşılıyor; çalışanlar taranmış faturaları PDF olarak gönderiyor, tedarikçiler biçimsiz e-postalar yazıyor ve muhataplar sözleşme değişikliklerini notlarda tutuyor. Yapılandırılmış veriler bu ortamda istisnai bir durum. Yapay zeka ajanları, bu alanda bir kırılma noktası vaat ediyor. Büyük dil modellerine dayalı ajanlar, niyetleri tanıyabilir, bağlamları anlayabilir ve bir sonraki adımları bağımsız olarak çıkarabilir. Teknoloji mevcut durumda ve Microsoft, UiPath veya SAP gibi sağlayıcılar, etkileyici demolarla tanıtım yapıyor. Ancak tarafların kolayca gözden kaçırdığı nokta, ajanların gerçek sonuçlara sahip eylemleri bağımsız olarak gerçekleştirmesidir. Bu durum yeni riskler doğuruyor. Örneğin, bir şirketin muhasebe birimi, sisteme tanıdık bir göndericiden gelen sahte bir e-posta alabilir. Gönderici, banka hesap bilgilerinin değiştirilmesini talep eder. Yapay zeka ajanı, e-postayı doğru bir şekilde mevcut bir tedarikçinin banka verisi değişikliği olarak sınıflandırır ve aciliyeti fark eder. Ajan, ana verileri güncelleme aracını çağırır ve verileri değiştirir. Sonraki ödeme, yasal alıcıya değil, yurtdışındaki dolandırıcıya ulaşır. Bu hatayı önlemenin en yaygın cevabı, ajanın e-postayı daha iyi incelemesi gerektiği yönündedir. Örneğin, olağandışı banka hesap numaraları için uyarı veren, bağlama dayalı daha sıkı kısıtlamalar veya daha iyi bir istem tasarımı önerilir. Kısıtlamalar, bir yapay zeka ajanının büyük dil modeli bağlamı üzerinden, sistem talimatları gibi yollarla aldığı kurallar ve eylem sınırlarıdır. Programlanmış kontroller ise algoritmik çalışmaya aittir. Büyük dil modeli, kısıtlamaları yorumlar, ancak bunların uygulanması modelden bağımsız olarak teknik olarak zorunlu kılınmaz. Bu nedenle kısıtlamalar tam bir güvenlik sağlamaz. Çelişkili talimatlar, yanlış yorumlamalar veya manipüle edilmiş girdiler, etkilerini zayıflatabilir. Kısıtlamalar davranış kontrolü için hizmet eder, ancak sınırların güvenli bir şekilde uygulanmasını garanti etmez. Bağlama dayalı kısıtlamalar, bu örnekte yetersiz kalıyor çünkü sistem, bu hatanın oluşmasına izin verecek şekilde tasarlanmış. Bir sistem, ajanların kritik eylemlerini temel olarak kabul ediyorsa, her tespit mekanizması, yaratıcı saldırganların saldırılarıyla bir yarış içindedir. Ajan tabanlı sistemler için bir yazılım mimarisi, bu tür hataları baştan önlemelidir. Bir yapay zeka ajanı, verilen hedefleri bağımsız olarak işler ve bunlara nasıl ulaşacağını planlar. Veritabanı sorguları, e-posta gönderimi veya API çağrıları için araçlar kullanır. Sonuçları değerlendirir ve ne yapılacağına karar verir. Bu döngü, hedefe ulaşılana veya işlem iptal edilene kadar devam eder. Arka planda, birden fazla adım boyunca bağlamı saklayan bir hafıza kullanır. Bu nedenle ajan, gerçek sonuçlara sahip gerçek sistemler üzerinde aktif bir etkiye sahiptir. Büyük dil modeli, çekirdek olarak olasılıksal bir sistemdir ve mantıksal anlamda resmi hesaplamalar veya çıkarımlar yapmaz. Her bağlamda hangi devamın muhtemelen mantıklı olduğunu tahmin eder. Bir doğruluk anlayışı veya kendi iradesi yoktur, ancak davranışı sağlanan bağlamla etkilenir, bu da güvenlik riskleri taşır. Açık Küresel Uygulama Güvenlik Projesi, en önemli risk listelerini yürüten bir kuruluş olarak, büyük dil modeline dayalı sistemler ve ajanlar için en önemli zafiyyetleri de kataloglamıştır. Bunlardan dördü, arka ofis senaryoları için özellikle önemlidir.