Ana hizmet
Yapay zekâ demosunu üretim sistemine çevirin
Bir LLM demosu birkaç günde çalışır. Onu doğruluğu ölçülen, maliyeti öngörülen ve güvenlik sınırları belli bir sisteme çevirmek ayrı bir mühendislik işidir.
- Süre
- 4 ila 12 hafta
- Model
- Tasarım ve üretime alma
- Çıktı
- Çalışan sistem ve eval hattı
Üretime alınamayan bir yapay zekâ projesinin işaretleri
Bu sorunların ortak noktası modelin kendisi değil, çevresindeki sistemin eksik olmasıdır.
- Demo etkileyici ama aynı soruya her seferinde farklı cevap veriyor.
- Cevapların doğru olup olmadığını ölçen bir yöntem yok; kalite hissiyatla değerlendiriliyor.
- Token maliyeti kullanım arttıkça öngörülemez biçimde büyüyor.
- Model şirket verisine erişiyor ama hangi veriye erişebileceği sınırlandırılmamış.
- Kaynak göstermeyen cevaplar kullanıcı güvenini düşürüyor.
- Model sağlayıcısı değişirse sistemin ne kadarının yeniden yazılacağı bilinmiyor.
Model değil, sistem tasarlanır
Üretimdeki bir yapay zekâ özelliği; veri erişimi, bağlam oluşturma, model çağrısı, çıktı doğrulama ve izleme katmanlarından oluşur. Model bu zincirin yalnızca bir halkasıdır ve çoğu zaman en kolay değiştirilebilen halkadır.
Tasarım bir değerlendirme hattı ile başlar. Sistemin doğru çalışıp çalışmadığını ölçen bir test seti olmadan yapılan her iyileştirme bir tahmindir. RAG, ajan akışları ve araç kullanımı bu ölçümün üzerine kurulur.
Güvenlik sınırları baştan çizilir. Modelin hangi veriye erişebileceği, hangi işlemleri yapabileceği ve hangi çıktıların insan onayı gerektirdiği mimarinin parçasıdır, sonradan eklenen bir filtre değildir.
Kapsam
Dahildir
- Kullanım senaryolarının iş değeri ve fizibiliteye göre önceliklendirilmesi
- RAG mimarisi: belge işleme, parçalama, gömme ve arama
- Ajan akışları ve araç kullanımı (LangGraph, MCP)
- Değerlendirme (eval) hattı ve test setleri
- Maliyet modeli ve önbellekleme stratejisi
- Erişim kontrolü ve veri sınırları
- İzleme, kayıt ve geri bildirim döngüsü
- Model sağlayıcısından bağımsızlık katmanı
Dahil değildir
- Sıfırdan model eğitimi
- Veri etiketleme hizmeti
- Hukuki uygunluk görüşü
- Son kullanıcı arayüzü tasarımı
Proje nasıl ilerliyor
- Hafta 1-2Senaryo ve veri. Kullanım senaryosu, başarı ölçütü ve erişilecek veri kaynakları netleştirilir. İlk değerlendirme seti hazırlanır.
- Hafta 3-5Mimari ve ilk ölçüm. Arama, bağlam ve model katmanları kurulur. Sistem değerlendirme setiyle ölçülür ve taban çizgisi çıkarılır.
- Hafta 6-9İyileştirme. Ölçüm sonuçlarına göre arama, istem ve akış iyileştirilir. Her değişikliğin etkisi aynı setle doğrulanır.
- Hafta 10-12Üretime alma. İzleme, maliyet takibi, erişim kontrolleri ve geri bildirim döngüsü kurulur. Sistem ekibinize devredilir.
Elinize ne geçiyor
Kod, istemler, değerlendirme setleri ve altyapı tanımlarının tamamı sizindir.
Bu hizmet kimin için değil
- Yapay zekâyı bir ürün ihtiyacından değil, yalnızca rakipler yaptığı için eklemek isteyen kurumlar.
- Başarı ölçütünü tanımlamadan projeye başlamak isteyen ekipler. Ölçülmeyen bir sistem iyileştirilemez.
- Kendi modelini sıfırdan eğitmek isteyen projeler. Bu hizmet mevcut modellerin sisteme entegrasyonuna odaklanır.
Sık sorulanlar
Hangi modellerle çalışıyorsunuz?
Belirli bir sağlayıcıya bağlı değiliz. Ticari API’ler ve açık kaynak modellerle çalışan sistemler tasarlarız; seçim doğruluk, maliyet ve veri yerelleştirme gereksinimine göre yapılır.
Verilerimiz model sağlayıcısına gönderiliyor mu?
Mimariye bağlıdır ve bunu siz belirlersiniz. Hassas veriler için kendi altyapınızda çalışan modeller veya veri maskeleme katmanları tasarlanabilir.
RAG mı, ince ayar (fine-tuning) mı?
Çoğu kurumsal senaryoda RAG daha doğru bir başlangıçtır: veri güncel kalır, kaynak gösterilebilir ve maliyet düşüktür. İnce ayar, belirli bir biçim veya davranış gerektiğinde değerlendirilir.
Doğruluğu nasıl ölçüyorsunuz?
Gerçek kullanım senaryolarından hazırlanan bir değerlendirme seti ile. Her değişiklik bu setle test edilir; iyileşme hissiyatla değil sayıyla gösterilir.
Kaynak kod ve istemler kimde kalır?
Tamamı sizde. Kod, istemler, değerlendirme setleri ve altyapı tanımları ilk günden itibaren sizin mülkiyetinizdedir.
Senaryonuzu birlikte değerlendirelim
Otuz dakikada kullanım senaryonuzu anlatırsınız; biz üretime alınabilirliğini ve ilk ölçülmesi gerekenleri söyleriz.