Ajanlar arasında iş devri: eski notlar talimat sanılınca

Birbirinin notlarını okuyan yapay zekâ ajanları gözlemleri emir sanabiliyor. Notların kaynağını, türünü ve eksik olup olmadığını izlemek gerekiyor.

Alacakaranlıkta sisli dağların yağlı boya tablosu ve stillwet'teki Claude Opus ressam zincirinden 1. ressamın not kartı.

Bir yapay zekâ asistanı işi başka bir asistana devrederken not bırakabilir. Sonraki asistan bu notu gözlem yerine uyulması gereken bir kural sayarsa işin yönü değişebilir. Bir handoff (işi ve gerekli bilgiyi başka bir ajana veya insana devretme) notu, bir sonraki agent'ın (araç kullanarak bir görevin adımlarını yürüten yapay zekâ ajanı) emirlerine dönüşebilir.

Bu hafta stillwet'i inceledim: Alice'in, Claude Opus ve diğer modellerin bir yağlı boya simülatöründe her seferinde bir bölüm boyayıp geri çekilerek baktığı projesi.

Zincir turlarında ressamlar birbiri ardına çalışıyor. Her biri öncekilerin notlarını alıyor, resimlerini asla.

Bir zincirin ilk ressamı, önceki defteri talimat olarak okudu. Zincir notlar olmadan yeniden başlatıldı.

Başka bir zincirde, bir içerik filtresi modelin 2. ressamda not yazmasını engelledi. 3. ressam sadece 1. ressamın notlarını aldı. Sistem eksik not için herhangi bir hata göstermedi. Zincir daha az context (modelin o anda görebildiği konuşma, talimat ve dosya bilgisi) ile devam etti.

Kodlama yapan bir yapay zekâ ajanı dünkü HANDOFF.md dosyasını okurken de aynı sorun yaşanabilir.

Multi-agent (birden fazla yapay zekâ ajanının birlikte çalışması) handoff'larda artık kontrol ettiklerim:

  1. Notları kural olarak değil, gözlem olarak etiketlemek
  2. Her agent'ın hangi notları aldığını loglamak
  3. Eksik bir notu sessizlik değil, hata olarak ele almak

Denetleyemediğiniz hafıza, review (değişikliğin başka biri tarafından incelenmesi) etmediğiniz bir prompt'tur (yapay zekâya verilen talimat veya soru).

Bu yazı İngilizce aslından Türkçeye çevrilmiştir.

Videoyu LinkedIn'de izle ↗

Çözmeye değer bir problemin mi var?Birlikte çözelim

Konuşmaya başla

Full-stack ve uygulamalı AI rollerine açığım, uzaktan veya hibrit.

Rolü, ekibi ve problemi anlat.