Microsoft, AI ajanlarını iç tehdit gibi görerek Guardian Agents'ı tanıttı
Microsoft, kurumsal ortamlarda kullanılan yapay zeka ajanlarını iç tehdit olarak nitelendirerek yeni bir güvenlik katmanı olan Guardian Agents'ı duyurdu. Şirket, bu özellik sayesinde AI ajanlarının davranışlarını bağımsız bir denetim sistemiyle izleyip kontrol etmeyi hedefliyor.
Özetle
- 1
Guardian Agents, AI ajanlarını izleyip kontrol eden bağımsız bir güvenlik katmanı olarak tanıtıldı.
- 2
Project Perception, dış tehdit yerine iç tehdit olarak AI ajanlarını ele alacak şekilde yeniden konumlandırıldı.
- 3
Microsoft Defender, 60'a kadar farklı AI ajanını tespit edip erişimlerini dinamik olarak sınırlayabiliyor.
- 4
Riskli kararlar için insan onayı zorunlu kılınarak ajan izinleri göreve göre ayarlanıyor.
- 5
Microsoft, Nvidia'nın Open Agent Safety Platform'ına katılarak donanım seviyesinde ajan güvenliği sağlıyor.
Microsoft, Pazartesi günü kurumsal müşterileri için AI ajanlarını izleyen ve sınırlayan yeni bir güvenlik özelliği olan Guardian Agents'ı tanıttı. Bu özellik, Haziran ayında duyurulan Project Perception çerçevesinde geliştirildi ve Frontier modellerinin öngörülemez davranışları nedeniyle ortaya çıkan iç tehdit riskine yanıt vermeyi amaçlıyor.
Project Perception, başlangıçta dışarıdan gelen AI hackerlarına karşı bir "red team" (saldırgan), bu saldırıları tespit eden bir "blue team" (savunma) ve tespit edilen açıkları kapatan bir "green team" (tamirci) olmak üzere üç sınıf ajan tanımlamıştı. Ancak Microsoft CEO'su Satya Nadella, AI ajanlarının şirket içinde birer iç tehdit haline gelebileceği uyarısını blogunda paylaştı ve model sağlayıcılarının güvence vaatlerinin sorumluluğu ortadan kaldırmadığını belirtti.
Guardian Agents, Microsoft Defender ürününe entegre edilerek çalışanların getirdiği 60'a kadar farklı AI ajanını (Claude Code, Codex, OpenClaw vb.) tespit edebiliyor ve bu ajanların veri ve sistem erişimlerini dinamik olarak sınırlıyor. Riskli bir karar algılandığında insan onayı zorunlu kılıyor ve ajan izinlerini göreve göre ayarlıyor. Bu yaklaşım, AI ajanlarının "krallığın anahtarlarını" elinde bulunduran bir iç tehdit olarak görülmesi gerektiği görüşünü pekiştiriyor.
Microsoft, bu adımı aynı zamanda Nvidia'nın Open Agent Safety Platform'ına katılarak ve yeni Surface Laptop Ultra cihazlarıyla AI ajan güvenliğini donanım seviyesinde de destekleyerek sektörde bir güvenlik ekosistemi oluşturmayı hedefliyor. Şirket, OpenAI ve Anthropic gibi kendi yatırım ortaklarıyla rekabet içinde olmasına rağmen, AI ajan güvenliği pazarında bağımsız bir denetim çözümü sunarak hem müşteri güvenini artırmayı hem de yeni bir gelir modeli yaratmayı planlıyor.
Yöney yorumu
Bu güncelleme, AI ajanlarının iç tehdit olarak görülmesi gerektiği bilincini pekiştirerek güvenlik sorumluluğunu sağlayıcıdan kullanıcıya kaydırıyor. Geliştiriciler ve işletmeler, bağımsız denetim mekanizmaları sayesinde riskleri daha iyi yönetebilecek.
Bu haber TechCrunch AI kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
