Yalnızca cevap veren değil, adına eylem de yapan yapay zekâ. Hata yaptığında yanlış konuşmaz, yanlış yapar. Tasarımdaki en büyük soru: insana sormadan nereye kadar hareket edebilir?
Ajan bir hedef alır, onu adımlara böler, araçları kullanır ve sonucu gözlemleyerek bir sonraki adıma karar verir: e-posta gönderir, takvime randevu koyar, bir kaydı günceller, bir ödeme başlatır. Sohbet asistanı yanlış cevap verdiğinde kullanıcı bunu fark edip görmezden gelebilir; ajan yanlış bir eylem yaptığında ise sonuç gerçek dünyada oluşur. Bu yüzden ajan tasarımı, cevap kalitesinden çok yetki ve sorumluluk tasarımıdır.
Ürün yöneticisi her eylem için özerklik düzeyini belirler: ajan kendi başına mı yapar, önerip onay mı bekler, yoksa yalnızca taslak mı hazırlar? Geri alınabilir ve düşük riskli eylemler özerk olabilir; para, veri silme ya da müşteriyle dış iletişim gibi eylemler çoğu zaman insan onayı ister. Her eylemin kaydı tutulmalı, geri alma yolu tasarlanmalı ve ajanın erişebileceği araçlar asgari yetki ilkesiyle sınırlanmalıdır.
Sık yapılan hata. Ajanın özerkliğini teknik olarak mümkün olan en yüksek düzeye ayarlamak. Doğru soru “ne kadarını yapabilir?” değil, “hatanın maliyeti düşünüldüğünde ne kadarını yapmalı?” sorusudur.