Opus 5.5 ve GPT-6: asıl indirim yeniden kullanılan girdilerde

Model fiyatlarını karşılaştırırken yalnızca yeni metne bakmayın. Değişmeyen girdilerin önbellekten okunması, ajan maliyetinde büyük fark yaratabiliyor.

Opus 5.5 ile GPT-6 Sol ve Luna fiyat değişiklikleri ve kontrol listesi: cache hit oranı, önce statik context, eval'ler, thinking hep açık

Yapay zekâya her istekte aynı uzun bilgiyi gönderiyorsanız, bu bilginin yeniden kullanılma fiyatı toplam maliyeti etkiler. Bu yazı indirimlerin hangi bölüme uygulandığına bakıyor. İki frontier model lansmanı bir gün arayla geldi. Manşet daha ucuz token'lar (modelin metni işlerken saydığı küçük parça; her zaman bir kelime değildir). Asıl hikaye cache'lenmiş (yeniden kullanmak için saklanan geçici veri, yani önbellek) token'lar.

Anthropic, Claude Opus 5.5'i yayınladı. Input (girdi) ve output (çıktı) %20 ucuzladı, ama cache okumaları %60 düştü. Anthropic'e göre agentic ve kodlama işlerinde maliyetin büyük kısmını cache okumaları oluşturuyor.

OpenAI, GPT-6 Sol ve Luna'yı önceki API (yazılımların birbirine istek göndermesini sağlayan arayüz) fiyatının yarısına yayınladı. Cache'lenmiş input okumalarında da %90 indirim var ve reasoning effort'u (modelin düşünmeye ayıracağı çabayı belirleyen ayar) ya da tool'ları (ajanın çağırabildiği dış işlev veya araç) değiştirmek artık cache'i bozmuyor.

Yani bir agent'ın (araç kullanarak bir görevin adımlarını yürüten yapay zekâ ajanı) faturası artık hangi modeli seçtiğinizden çok, prompt prefix'inizin (modele gönderilen girdinin başlangıç bölümü) ne kadar sabit olduğuna bağlı.

Bu hafta kontrol edilecekler:

  1. Endpoint (bir serviste istek gönderilen belirli adres) başına cache hit (istenen bilginin önbellekten karşılanması) oranı
  2. Önce statik context (modelin o anda görebildiği konuşma, talimat ve dosya bilgisi), en son kullanıcı girdisi
  3. Model id'lerini değiştirmeden önce eval (modelin yanıtlarını belirli ölçütlerle değerlendiren test) setiniz
  4. Opus 5.5 thinking (modelin yanıt öncesi düşünme ayarı) kapalıyken çalışmıyor. Entegrasyonunuzu test edin.

Ucuz token'lar işe yarar. Yeniden kullanılan token'lar daha çok işe yarar.

Bu yazı İngilizce aslından Türkçeye çevrilmiştir.

Videoyu LinkedIn'de izle ↗

Çözmeye değer bir problemin mi var?Birlikte çözelim

Konuşmaya başla

Full-stack ve uygulamalı AI rollerine açığım, uzaktan veya hibrit.

Rolü, ekibi ve problemi anlat.