Ajanlar arasında iş devri: eski notlar talimat sanılınca
Birbirinin notlarını okuyan yapay zekâ ajanları gözlemleri emir sanabiliyor. Notların kaynağını, türünü ve eksik olup olmadığını izlemek gerekiyor.

Bir yapay zekâ asistanı işi başka bir asistana devrederken not bırakabilir. Sonraki asistan bu notu gözlem yerine uyulması gereken bir kural sayarsa işin yönü değişebilir. Bir handoff (işi ve gerekli bilgiyi başka bir ajana veya insana devretme) notu, bir sonraki agent'ın (araç kullanarak bir görevin adımlarını yürüten yapay zekâ ajanı) emirlerine dönüşebilir.
Bu hafta stillwet'i inceledim: Alice'in, Claude Opus ve diğer modellerin bir yağlı boya simülatöründe her seferinde bir bölüm boyayıp geri çekilerek baktığı projesi.
Zincir turlarında ressamlar birbiri ardına çalışıyor. Her biri öncekilerin notlarını alıyor, resimlerini asla.
Bir zincirin ilk ressamı, önceki defteri talimat olarak okudu. Zincir notlar olmadan yeniden başlatıldı.
Başka bir zincirde, bir içerik filtresi modelin 2. ressamda not yazmasını engelledi. 3. ressam sadece 1. ressamın notlarını aldı. Sistem eksik not için herhangi bir hata göstermedi. Zincir daha az context (modelin o anda görebildiği konuşma, talimat ve dosya bilgisi) ile devam etti.
Kodlama yapan bir yapay zekâ ajanı dünkü HANDOFF.md dosyasını okurken de aynı sorun yaşanabilir.
Multi-agent (birden fazla yapay zekâ ajanının birlikte çalışması) handoff'larda artık kontrol ettiklerim:
- Notları kural olarak değil, gözlem olarak etiketlemek
- Her agent'ın hangi notları aldığını loglamak
- Eksik bir notu sessizlik değil, hata olarak ele almak
Denetleyemediğiniz hafıza, review (değişikliğin başka biri tarafından incelenmesi) etmediğiniz bir prompt'tur (yapay zekâya verilen talimat veya soru).
Bu yazı İngilizce aslından Türkçeye çevrilmiştir.



Bu yazıya bırakılan notlar
Katıl
Bir yorum bırak.
Bu yazıya not eklemek için giriş yap.
Sadece adın ve avatarın kullanılır.