Uygulamanıza yapay zeka eklemenin maliyeti
"Yapay zeka pahalı" algısı genellikle yanlış hesaplamadan doğuyor. Kurulum maliyeti gerçek bir kalem, ama işletme maliyeti çoğu senaryoda beklenenden düşük. Rakamları somutlaştırıyoruz.
İki ayrı maliyet kalemi
Yapay zeka projelerinde maliyeti karıştıran şey, iki farklı kalemin tek başlıkta konuşulmasıdır:
- Kurulum maliyeti: Analiz, mimari, entegrasyon, arayüz, test. Tek seferlik ve asıl büyük kalem.
- İşletme maliyeti: Model kullanım ücreti, altyapı, izleme. Sürekli ama genellikle küçük.
Çoğu işletme ikincisinden korkar, oysa bütçeyi belirleyen birincisidir.
Kurulum maliyeti
| Kapsam | Süre | Tipik maliyet |
|---|---|---|
| Mevcut ürüne basit bir yapay zeka özelliği (özetleme, metin üretimi) | 2-4 hafta | 80.000 - 250.000 TL |
| Belgelerle çalışan soru-cevap sistemi (RAG) | 4-8 hafta | 150.000 - 450.000 TL |
| Müşteriye açık asistan (çok kanallı, entegrasyonlu) | 2-4 ay | 400.000 - 900.000 TL |
| Kurum içi süreç otomasyonu platformu | 4-8 ay | 700.000 TL ve üzeri |
Bu rakamlara analiz, geliştirme, arayüz, test ve devreye alma dahildir.
İşletme maliyeti: token ekonomisi
Dil modelleri token başına ücretlendirilir. Bir token, kelimenin parçasıdır. Türkçede ortalama bir kelime 2-3 token eder.
Örnek bir hesap yapalım. Müşteri destek asistanı senaryosu:
- Her görüşmede yaklaşık 3.000 token girdi (soru + bulunan belgeler + talimatlar)
- Yaklaşık 400 token çıktı (yanıt)
- Ayda 10.000 görüşme
Toplam: 30 milyon girdi + 4 milyon çıktı token/ay.
Orta seviye bir modelde bu hacim, aylık birkaç bin TL ile on binli TL bandı arasında bir maliyet üretir. Aynı destek hacmini insanla karşılamanın maliyetiyle karşılaştırıldığında fark belirgindir.
Girdi maliyetini hafife almayın
Maliyetin çoğu genelde çıktıdan değil girdiden gelir. RAG sistemlerinde her soruya 5-10 belge parçası eklemek, girdi token'ını hızla büyütür. Kaç parça eklendiğini ve parça boyutunu optimize etmek, faturayı yarıya indirebilir.
Maliyeti düşüren 8 yöntem
1. İşi doğru modele yönlendirin. Basit sınıflandırmayı küçük modele, karmaşık analizi büyük modele verin. Tek büyük modelle her işi yapmak en pahalı yaklaşımdır.
2. Önbellekleme kullanın. Aynı soru tekrar geldiğinde modele gitmeyin. Destek senaryolarında sorular yoğun biçimde tekrar eder; önbellek %30-50 tasarruf sağlayabilir.
3. Talimat (prompt) önbelleği. Sağlayıcılar, tekrar eden uzun talimatlar için indirimli önbellek sunar. Sabit sistem talimatlarınız uzunsa bu ciddi fark yaratır.
4. Getirilen belge sayısını sınırlayın. 10 yerine 4 parça yeterliyse, girdi maliyeti %60 düşer.
5. Çıktı uzunluğunu sınırlayın. Maksimum token limiti koyun; gereksiz uzun yanıtlar hem pahalı hem kötü deneyimdir.
6. Toplu işlem kullanın. Anlık yanıt gerekmeyen işler (gece toplu özetleme gibi) için toplu işlem indirimlerinden yararlanın.
7. Kullanıcı başına limit koyun. Kötüye kullanımı ve hatalı döngüleri engeller.
8. Ölçün ve izleyin. Hangi özelliğin ne kadar harcadığını görmeden optimize edemezsiniz. Bütçe uyarısı kurun.
Planladığınız senaryo için aylık token maliyetini ve kurulum bütçesini önceden hesaplayıp yazılı olarak paylaşıyoruz, böylece sürprizle karşılaşmadan karar veriyorsunuz.
Bulut API mı, kendi sunucunuz mu?
| Kriter | Bulut API | Kendi altyapınız |
|---|---|---|
| Başlangıç maliyeti | Yok | GPU sunucu yatırımı |
| Birim maliyet | Kullanım başına | Sabit (kullanımdan bağımsız) |
| Gizlilik | Sözleşmeye bağlı | Tam kontrol |
| Bakım | Sağlayıcıda | Sizde |
| Model kalitesi | En güncel modeller | Açık kaynak modellerle sınırlı |
| Ölçeklenme | Anında | Donanım eklemek gerekir |
Genel kural: Düşük ve orta hacimde bulut API belirgin biçimde ekonomiktir. Çok yüksek ve sürekli hacimde ya da veri hiç dışarı çıkmayacaksa kendi altyapı değerlendirilmelidir.
Gerçekçi bir yıllık bütçe örneği
Orta ölçekli bir e-ticaret firması için müşteri asistanı projesi:
| Kalem | Tutar |
|---|---|
| Kurulum (analiz + geliştirme + test) | 320.000 TL |
| Yıllık model kullanımı (10.000 görüşme/ay) | 90.000 TL |
| Altyapı (sunucu, veritabanı, izleme) | 45.000 TL |
| Bakım ve kalite izleme | 120.000 TL |
| Birinci yıl toplamı | 575.000 TL |
| İkinci yıl (kurulum hariç) | 255.000 TL |
Buna karşılık aylık 3.000 destek talebinin %50'sinin otomatik karşılanması, yıllık yaklaşık 3.000 kişi-saat kazanç anlamına gelir.
Bütçelerken sorulacak sorular
- Aylık kaç istek bekliyoruz? (En kritik değişken)
- İstek başına ortalama girdi ve çıktı büyüklüğü ne olacak?
- Hangi model seviyesi yeterli, en büyüğü gerekli mi?
- Önbellekleme uygulanabilir mi?
- Yanıt anlık mı olmalı, toplu işlem mümkün mü?
- Veri gizliliği kısıtımız var mı?
- Maliyet tavanı ve uyarı eşiği nedir?
Özet
Yapay zeka entegrasyonunda asıl bütçe kalemi kurulumdur; token maliyeti çoğu kurumsal senaryoda beklenenden düşüktür ve doğru mimariyle önemli ölçüde optimize edilebilir. Model seçimi, önbellekleme ve girdi büyüklüğü kontrolü, faturayı katlarca değiştirebilen üç ana kaldıraçtır.
Senaryonuz için gerçekçi bir maliyet tahmini almak isterseniz bize yazın. İlgili okuma: yapay zeka ile iş otomasyonu.
Sıkça sorulan sorular
Kullanım maliyeti nasıl hesaplanır?
Dil modelleri "token" başına ücretlendirilir. Token, kabaca kelime parçasıdır; Türkçede bir kelime ortalama 2-3 token eder. Hem gönderdiğiniz metin (girdi) hem üretilen metin (çıktı) sayılır ve çıktı genellikle daha pahalıdır.
Ücretsiz seçenek var mı?
Açık kaynak modelleri kendi sunucunuzda çalıştırabilirsiniz; model ücreti olmaz ama sunucu (özellikle GPU) maliyeti doğar. Küçük ve orta hacimlerde bulut API'leri genellikle daha ekonomiktir; çok yüksek hacimde veya katı gizlilik gereksinimlerinde kendi altyapı avantajlı hale gelir.
Maliyet birden artabilir mi?
Kontrolsüz kullanımda evet. Kullanıcı başına limit, istek başına maksimum uzunluk, önbellekleme ve model seçimi gibi önlemlerle maliyeti öngörülebilir tutmak mümkündür. Bütçe uyarısı kurmayı ihmal etmeyin.
Hangi modeli seçmeliyim?
Tek bir doğru cevap yok. Basit sınıflandırma ve özetleme işlerinde küçük ve ucuz modeller yeterlidir; karmaşık akıl yürütme gerektiren işlerde büyük modeller gerekir. Pratikte en verimli yaklaşım, işi türüne göre farklı modellere yönlendirmektir.
Bu konuda yardıma mı ihtiyacınız var?
CodeBroker olarak web, mobil ve yapay zeka projelerini fikirden lansmana kadar tek ekiple yürütüyoruz. Ücretsiz keşif görüşmesinde kapsamı, süreyi ve bütçeyi birlikte netleştirelim.