Çoğu kurum YZ yolculuğuna bir pilotla başlar: bir departman için tahmin modeli, destek için bir konuşma asistanı, belgeler için bir sınıflandırma betiği. Bunların her biri tek başına bir başarı gibi görünür. Birkaç yıl sonra aynı kurum, her biri verisini kendi özel hattıyla çeken ve her biri farklı bir ortamda devreye alınmış onlarca model çalıştırır ve hangi sürümün gerçekten trafiğe hizmet ettiğini kimse güvenle söyleyemez. Sorun artık bir model oluşturmak değildir. Sorun, onlarca modeli ve ajanı kurumun çekirdek sistemleriyle birlikte güvenilir, güvenli ve denetlenebilir biçimde işletmektir.
Bu önemlidir, çünkü YZ'nin gerçek maliyeti ilk geliştirmede değil, işletmededir. Veri kalitesi izlenmeden bırakılan bir model sessizce gerçeklikten uzaklaşır ve tam bir özgüvenle yanlış yanıtlar vermeye devam eder. Aynı zamanda risk yöneticileri ve denetçiler, otomatik bir kararın hangi veriye, hangi model sürümüne ve hangi iş kuralına dayandığını haklı olarak sorar. Bir platform olmadan bu soruları yanıtlamak, manuel kayıt aramalarına ve tek tek mühendislerin hafızasına bağlıdır. Tam da bu noktada YZ bir varlık olmaktan çıkar ve teknik borca dönüşür.
Bir YZ platformu mimarisi dört katmanda tanımlanabilir. Veri katmanı, kurumun veri gölüne ve olay akışlarına birleşik ve kontrollü erişim sağlar. Model katmanı, ister klasik makine öğrenimi modelleri ister dil modelleri olsun, modellerin nasıl kaydedileceğini, sürümleneceğini, değerlendirileceğini ve devreye alınacağını standartlaştırır. Ajan katmanı, karar mantığını ve araçları kurumsal sistemlerle konuşabilen birleştirilebilir ajanlar hâlinde paketler. Yönetişim katmanı, altındaki her şeye politikaları, yetkileri, izlemeyi ve gözetimi uygular. Kilit nokta, dört katmanın da tek bir kimlik modelini ve olaylar için ortak bir sözlüğü paylaşması gerektiğidir; aksi hâlde platform, tek bir logo taşıyan dört ayrı silodan ibarettir.
İlk pratik husus modeli üründen ayırmaktır. Bir dil modeli veya tahmin modeli asla doğrudan uygulama koduna gömülmemelidir. Açık bir sözleşmeye sahip standart bir hizmet üzerinden çağrılmalıdır. Bu ayrım, modelin uygulamalara dokunmadan güncellenmesini, birkaç modelin yan yana değerlendirilmesini ve kalite düştüğünde ekibin önceki bir sürüme geri dönmesini sağlar. Örneğin bir müşteri destek ajanı üç farklı modelle denendiğinde ekip, arayüzün tek bir ekranını değiştirmeden doğruluk ile maliyet arasındaki en iyi dengeyi seçebilir.
İkinci husus ajanları kurumun birinci sınıf vatandaşları olarak ele almaktır. Sipariş verebilen, bir müşteri kaydını okuyabilen veya bir iadeyi onaylayabilen bir ajanın, tıpkı bir çalışan gibi ayrı bir kimliğe, dar kapsamlı bir yetki setine ve eksiksiz bir denetim izine ihtiyacı vardır. Bu, ajanların sistemlerle insanların ve diğer uygulamaların kullandığı aynı kimlik hizmeti ve aynı API ağ geçidi üzerinden etkileşime girmesi gerektiği anlamına gelir. Bir ajan genel bir anahtar ve sınırsız erişimle çalışırsa, her akıl yürütme hatası arada onu durduracak hiçbir şey olmadan operasyonel bir olaya dönüşür.
Üçüncü husus karar düzeyinde gözlemlenebilirliktir. Geleneksel izleme hizmet sağlığını ölçer: gecikme, hatalar, kaynak kullanımı. YZ için bir üst düzeye çıkıp kararın kendisini izlemeniz gerekir: hangi girdinin alındığı, hangi veri kaynaklarına başvurulduğu, hangi araçların çağrıldığı ve hangi çıktının üretildiği. Bu iz hem hata ayıklama hem de bir denetçiye yanıt vermek için vazgeçilmezdir. Örneğin otomatik bir kredi kararına itiraz edildiğinde ekip, akıl yürütme zincirinin tamamını günler değil dakikalar içinde yeniden oluşturabilmelidir.
Yaygın tuzaklar öngörülebilirdir. Birincisi, veriden değil modelden başlamak; birçok proje kaliteli veriye istikrarlı erişim sağlamadan önce model seçer. İkincisi, tek bir sağlayıcıya sıkı bağımlılık; bu, bir modeli değiştirmeyi veya eklemeyi büyük bir yeniden yazıma dönüştürür. Üçüncüsü, kurumsal ölçekte şaşırtıcı bir hızla geliştirme bütçesini aşabilen çıkarım maliyetini göz ardı etmek. Dördüncüsü, bir insan inceleme yolu ve acil durdurma mekanizması tasarlanmadan ajanlara harekete geçme yetkisi vermek. Bunların her birinden erken kaçınmak ucuz, geç düzeltmek ise pahalıdır.
Niadad'da Rayon YZ platformu («رایون») tam olarak bu katmanlamayı uygular: model kaydı ve sürümleme, standart sunum, sürekli değerlendirme ve veri gölüne kontrollü erişim. İş ajanları ailesi («ایجنتها») aynı temel üzerine kuruludur ve ajanları kendi kimlikleri, kapsamı sınırlı yetkileri ve eksiksiz izleriyle kurumsal sistemlere bağlar. Her ikisi de Niadad'ın kimlik, API ağ geçidi ve olay katmanlarıyla birlikte çalışır; böylece yapay zekâ, yanında duran bir ada olmak yerine kurumun altyapısının bir parçası hâline gelir.
YZ mimarisinin geleceği daha büyük modellerin geleceği değildir. Çeşitli modelleri mühendislik disipliniyle çalıştırabilen platformların geleceğidir. Bu altyapıyı bugün kuran kurumlar yarın herhangi bir yeni modeli birkaç gün içinde işe koşabilecek. Kurmayanlar ise her projeye tekrar tekrar sıfırdan başlayacak. Kalıcı avantaj tek bir modelde değil, modelleri işe koşan platformdadır.