Cursor agent sistem prompt'unu üçte iki kısalttı, maliyet %7 düştü

Cursor, agent'ının sistem prompt'unun yaklaşık üçte ikisini kesti. Toplam token maliyeti %7 düştü.

İşe yarayan kısım bu fark.

Sistem prompt'u ekibin tamamen kontrol ettiği kısım, bu yüzden ilk o kırpılıyor. Aynı zamanda her turda yeniden gönderiliyor ve çoğunlukla cache'ten sunuluyor. Faturanın geri kalanı birikenlerde: dosya okumaları, tool çıktıları, sürekli uzayan bir konuşma.

Rakamlarını değiştirenler:

• İhtiyaç anında yüklenen tool'lar. Yerleşik tool'ların çoğu konuşmaların beşte birinden azında görünüyor, bu yüzden tanımları statik context'ten çıkarıldı.
• Kararlı katmanlardan sonra cache breakpoint'leri, istek başına kurulum da bunların arkasına taşındı. Soğuk cache miss'ler beşte bir azaldı.
• Dosya okumalarında her onuncu satıra satır numarası.
• Eval'ler zor görevlere kaydığı için gerçek trafikte A/B testleri.

Kendi agent harness'ınızı çalıştırıyorsanız, herhangi bir şeyi kırpmadan önce harcamayı katmanlara ayırın.

Prompt'u düzen için kırpın. Context'i para için kırpın.