SafeAgents: Kodlama ajanlarının araç çağrılarını önceden kontrol eden açık kaynak proxy

SafeAgents, bir kodlama ajanı ile OpenAI‑uyumlu model sunucusu arasında çalışan bir yerel proxy katmanı sunuyor. Modelin yanıtındaki her araç çağrısı, harness (araç yöneticisi) tarafından alınmadan önce üç aşamalı bir kontrol sürecinden geçiyor. İlk iki kontrol, çağrının harness tarafından tanımlanıp tanımlanmadığını ve hedef hostun sohbet içinde daha önce görülüp görülmediğini doğruluyor; modelin kendi ürettiği bir URL bile engellenebiliyor.

Üçüncü aşama, "atif-scan" adlı bir tarayıcı tarafından yürütülen yaklaşık 110 deterministik dedektörü içeriyor. Bu dedektörler, sandbox yan kanal saldırıları, proxy ve ağ atlatma girişimleri, namespace kaçışları ve ödül hileleri gibi tehditleri tespit ediyor. Şüpheli bir çağrı tespit edildiğinde, proxy bu çağrıyı kısa bir metin bildirimiyle değiştiriyor ve harness'e sadece düz metin yanıtı gönderiyor; böylece hiçbir kod çalıştırılmıyor.

İsteğe bağlı olarak, bir yargı modeli (judge model) de devreye alınabiliyor. Bu model, OpenAI‑uyumlu herhangi bir sunucu – hatta yerel bir llama.cpp örneği – olabilir ve sadece bulgulara göre "allow" ya da "block" kararını JSON formatında veriyor. Yargı modeli yalnızca zaten bir bulgu üreten çağrılar için çalıştırılıyor, bu da ek ağ trafiğini ve işlem süresini minimuma indiriyor. Proxy, OpenAI Chat Completions ve Anthropic Messages protokollerini, akışlı (streamed) ya da akışsız (non‑streamed) biçimlerde destekliyor; metin akışı geldiği gibi iletilirken, araç çağrısı argümanları tamamlanana kadar bekletiliyor.

SafeAgents, M‑serisi Mac'lerde her çağrı için yaklaşık 10‑20 ms ek gecikme ekliyor ve "--log-only" modu sayesinde ilk etapta tüm çağrılar kaydedilip hiçbir şey engellenmiyor; bu mod, sistem yöneticilerine modelin kaçak davranışlarını ölçme imkanı tanıyor. Güvenilen hostlar "--allow-host" parametresiyle eklenebiliyor ve proje, 12 farklı harness için kurulum rehberleri sunuyor. CI ortamında test edilen altı harness (pi, Claude Code, OpenCode, Qwen Code, OpenHands, DeepSeek Harness) sayesinde, proxy'nin gerçek zamanlı olarak engellediği ve geçerli çağrıları doğru bir şekilde yönlendirdiği kanıtlanmış durumda. Gelecek planları arasında, kötü niyetli araç çağrılarını daha iyi sınıflandıracak ince ayarlı bir karar modeli ve bu model için halka açık bir benchmark oluşturulması yer alıyor.