Yapay zekâ içeren ürünlerin adil, şeffaf, mahremiyete saygılı, güvenli ve hesap verebilir biçimde tasarlanması, geliştirilmesi ve işletilmesi için benimsenen ilkeler ve uygulamalar bütünü.
Yapay zekâ içeren bir ürün, sıradan bir üründe olmayan bir sorumluluk taşır; çünkü kararları bir kredi başvurusunu, bir sağlık önerisini ya da bir işe alım filtresini etkileyebilir. Lansmandan önce dört soru sorulmalıdır. Önyargı: model belirli grupları haksız yere dezavantajlı hale getiriyor mu? Şeffaflık: kullanıcı yapay zekâ ile etkileşimde olduğunu ve kararın nasıl verildiğini anlayabiliyor mu? Mahremiyet: veriyle ne yapılıyor, onay alındı mı? Zarar potansiyeli: ürün kötüye kullanılabilir mi?
Sorumlu yapay zekâ bir etik kurul belgesi değil, ürün sürecinin parçasıdır. Önyargı testleri eval düzeneğine, kırmızı çizgiler guardrail’lere, yüksek riskli kararlar insan döngüde tasarımına dönüşür. Avrupa Birliği’nin Yapay Zekâ Yasası ve Türkiye’deki KVKK gibi düzenlemeler bazı yükümlülükleri zorunlu kılar; ama iyi ürün yöneticisi yasal asgariyle yetinmez. “Yapabiliriz” ile “yapmalıyız” arasındaki ince çizgide durup insandan yana karar verir. Sorumluluk, kullanıcının güveniyle karşılık bulur.
Sık yapılan hata. Sorumlu yapay zekâyı lansmandan hemen önce hukuka onaylatılan bir kontrol listesi sanmak. Önyargı ve mahremiyet sorunları, tasarımın ilk günlerinde verilen veri kararlarında doğar.