Pi 1.0 agent harness'ı: faturanın %95'i Claude Opus planlayıcıdan

Pi 1.0'ın lansman demosunda Claude Opus, token'ların yaklaşık beşte birini ve faturanın yaklaşık %95'ini üstlendi.

Earendil dün Pi 1.0'ı yayınladı. Bu hafta Hacker News'in zirvesindeki açık kaynak agent harness'ı.

Demo sanal bir model kuruyor. Opus planlıyor, GPT 6 Luna uyguluyor ve LLM olmayan bir model olan Jev, devrin ne zaman yapılacağına karar veriyor.

Pi'nin /session komutu maliyeti model bazında ayırıyor. Opus yaklaşık 20K token kullandı. Luna yaklaşık 76K. Opus yine de yaklaşık 18 kat daha pahalıya geldi.

Uzun yazma işini ucuz model yaptı. Ama ne kadar tasarruf edeceğinizin tavanını planlayıcının payı belirliyor.

Devrin de bir bedeli var. Aynı ekranda bir cache miss görünüyor; birkaç bin token yeniden faturalanmış.

Planlayıcıyı ve uygulayıcıyı ayırmadan önce:

• Maliyeti oturum başına değil, model başına loglayın
• Her geçişte cache miss'leri sayın
• Görev başına planlayıcı çıktısına sınır koyun
• Uygulayıcının yeniden plan yapmadığını kontrol edin

Ucuz model yazar. Faturayı pahalı olan yazar.