Kurumsal ekiplerin AI agent projelerinde yaptığı en yaygın hata, problemi önce model seçimi olarak görmektir. Oysa güvenilir bir AI agent kurulumunun temeli; hangi işi, hangi veriyle, hangi yetki sınırında ve hangi insan kontrolüyle yapacağının açık biçimde tanımlanmasıdır. Bu sınırlar net değilse iyi çalışan bir demo, canlı ortamda güvenlik ve operasyon sorunu üretebilir.
Bu rehber, AI agent geliştirme sürecinde model veya araç karşılaştırmasından önce cevaplanması gereken kararları sıralar. Amaç agentin “neler yapabildiğini” göstermek değil; kurum içinde hangi sonucu güvenli ve ölçülebilir biçimde üreteceğini belirlemektir.
AI agent ile chatbot arasındaki fark nedir?
Chatbot çoğunlukla kullanıcının sorusuna yanıt üretir. AI agent ise belirli bir hedefe ulaşmak için bilgi toplayabilir, adımları planlayabilir, başka sistemlerle etkileşime girebilir ve bazı işlemleri başlatabilir. Bu ek hareket kabiliyeti verimlilik fırsatı yaratırken hata etkisini de büyütür.
Bir agent e-postayı taslak olarak hazırlıyorsa risk düşüktür; e-postayı doğrudan gönderiyor, CRM kaydını değiştiriyor veya ödeme akışını tetikliyorsa yetki ve onay tasarımı kritik hale gelir. Bu nedenle ilk karar, çözümün adından önce eylem seviyesidir.
1. Agentin görev sınırını tek cümlede tanımlayın
İyi bir başlangıç tanımı şu üç soruya yanıt verir: Agent kime hizmet ediyor, hangi işi tamamlıyor ve başarı hangi çıktı üzerinden değerlendiriliyor? “Satış ekibine yardımcı olan agent” çok geniştir. “Gelen talepleri ürün, bütçe ve zamanlama bilgisine göre sınıflandırıp satış temsilcisine özetleyen agent” ise test edilebilir bir kapsama sahiptir.
Görev sınırı yazılırken agentin yapmayacağı işler de kaydedilmelidir. Fiyat taahhüdü vermemek, sözleşme maddesi yorumlamamak veya müşteri kaydını insan onayı olmadan değiştirmemek gibi negatif sınırlar, geliştirme ekibine açık kabul kriterleri sağlar.
2. Veri bağlamını ve ana kaynakları belirleyin
Agentin doğruluğu yalnız model yeteneğine bağlı değildir. Cevabın dayandığı belgenin güncelliği, veri sahibinin kim olduğu ve kullanıcı rolüne göre hangi kaynağın görülebileceği aynı derecede önemlidir. Kurumsal bilgi tabanı hazırlanırken her kaynak için sahip, güncelleme sıklığı, erişim seviyesi ve geçerlilik tarihi tanımlanmalıdır.
Aynı konu için iki sistem farklı bilgi veriyorsa agentin hangisini referans alacağı önceden belirlenmelidir. Aksi halde agent teknik olarak doğru çalışan bir arama yapsa bile kurumsal açıdan yanlış sonuca ulaşabilir. Bu kararlar, AI agent geliştirme kapsamının veri ve entegrasyon çalışmalarıyla birlikte ele alınmasını gerektirir.
3. Yetkilendirme ve eylem seviyelerini katmanlandırın
Her araç çağrısı aynı riskte değildir. Bilgi okuma, öneri üretme, taslak oluşturma ve geri döndürülemez işlem başlatma ayrı yetki katmanları olarak tasarlanmalıdır. Kullanıcının uygulamadaki rolü neyse agentin erişimi de bununla sınırlı kalmalıdır.
- Okuma: Yetkili kaynaklardan bilgi bulur ve kaynak gösterir.
- Öneri: Bir sonraki adımı açıklar; işlemi kullanıcı yapar.
- Taslak: Kayıt, mesaj veya işlem taslağı oluşturur; insan onayı bekler.
- Uygulama: Onaylı ve geri alınabilir işlemi sistemde çalıştırır.
İlk canlı sürümde daha düşük riskli katmanla başlamak, gerçek kullanım verisi toplandıktan sonra yetkiyi genişletmek genellikle daha güvenli bir yoldur.
4. İnsan kontrolü ve durma kurallarını tasarlayın
Agentin her durumda cevap vermesi beklenmemelidir. Güven düzeyi düşük olduğunda, kaynaklar çeliştiğinde, kullanıcı yetkisi yetersiz kaldığında veya işlem etkisi belirlenen eşiği aştığında durması gerekir. “Bilmiyorum” diyebilmek veya işi doğru kişiye devretmek ürün kalitesinin parçasıdır.
İnsan devri yalnız hata anı için değil, yüksek etkili kararlar için de kullanılabilir. Fiyat değişikliği, hukuki metin, çalışan verisi veya müşteri taahhüdü gibi başlıklarda onay adımı tasarımın başlangıcında yer almalıdır.
5. Başarı ölçütlerini model metriğiyle sınırlamayın
Teknik doğruluk önemlidir ancak tek başına iş değerini göstermez. Agentin etkisi, çözdüğü sürece uygun metriklerle değerlendirilmelidir. Yanıt süresi, doğru yönlendirme oranı, temsilci başına zaman kazancı, tamamlanan işlem oranı, insan devrine düşen talepler ve geri alınan işlemler birlikte izlenebilir.
Kalite değerlendirmesi için gerçek kullanım senaryolarından oluşan bir test seti hazırlanmalıdır. Normal soruların yanında eksik bilgi, çelişkili belge, yetkisiz talep ve kötü niyetli yönlendirme örnekleri de bulunmalıdır. Böylece yalnız mutlu akış değil, agentin sınır davranışı da ölçülür.
Canlıya geçmeden önce kontrol listesi
- Görev ve kapsam dışı işler tek cümleyle anlaşılabiliyor mu?
- Her veri kaynağının sahibi, güncelliği ve erişim seviyesi belli mi?
- Okuma, öneri, taslak ve uygulama yetkileri ayrıldı mı?
- İnsan onayı gerektiren kararlar açıkça işaretlendi mi?
- Agentin duracağı ve devredeceği durumlar test edildi mi?
- İş sonucu ve güvenlik için ayrı başarı metrikleri tanımlandı mı?
- Log, geri bildirim ve geri alma mekanizması hazır mı?
Doğru başlangıç küçük ama ölçülebilir bir iş akışıdır
Kurumsal AI agent projesi için en güçlü ilk adım, geniş bir “dijital çalışan” vaadi değil; sınırları net, verisi erişilebilir ve sonucu ölçülebilir bir iş akışıdır. Bu yaklaşım ekiplerin canlı kullanım davranışını görmesini, güvenlik açıklarını erken yakalamasını ve sonraki yetkileri kanıta dayanarak genişletmesini sağlar.
Agent kapsamını, veri kaynaklarını ve onay noktalarını birlikte planlamak için yapay zeka çözümlerimizi inceleyebilir veya mevcut iş akışınızı Softlon ekibiyle değerlendirebilirsiniz.