AI-native ürünlerde kullanıcının cevap için beklediği süre (gecikme) ile her model çağrısının ya da etkileşimin ürettiği maliyet. Kaliteyle birlikte yönetilmesi gereken iki temel ürün metriğidir.
Gecikme deneyimi doğrudan belirler: kullanıcı beklerse deneyim ölür. Toplam süre kadar ilk cevabın görünme süresi de önemlidir; cevabı akış halinde göstermek bekleme hissini belirgin biçimde azaltır. Maliyet tarafında model çağrıları genellikle işlenen token miktarına göre ücretlendirilir: uzun prompt’lar, büyük bağlamlar, çok adımlı ajan akışları ve büyük modeller maliyeti artırır. Klasik yazılımda kullanıcı arttıkça birim maliyet düşer; AI-native üründe her etkileşim gerçek para harcar.
Kalite, gecikme ve maliyet arasında sürekli bir denge kurulur. Basit görevlere küçük ve hızlı modeller, karmaşık görevlere büyük modeller atamak; sık tekrarlanan cevapları önbelleğe almak; prompt’ları kısaltmak ve gereksiz bağlamı ayıklamak yaygın yöntemlerdir. Ürün yöneticisi bu metrikleri fiyatlandırma ve birim ekonomisiyle birlikte okur: sabit fiyatlı bir abonelikte yoğun kullanıcıların ürettiği maliyet, iş modelinin sürdürülebilirliğini belirler. Bu denge, lansmandan önce birkaç kullanım senaryosuyla hesaplanmalıdır.
Sık yapılan hata. Prototip aşamasında maliyeti ve gecikmeyi göz ardı edip yalnızca kaliteye bakmak. Birkaç kullanıcıyla kabul edilebilir görünen maliyet, binlerce kullanıcıda iş modelini çökertebilir.
İlgili kavramlar
← Fizibilite Bütün kavramlar Genişlet, karar ver, sahiplen →