OpenAI, Zor Kontrol Edilen AI Modelleri İçin Yeni Davranış Rehberi Yayınladı

OpenAI, uzun süredir kontrol edilmesi zor olan yapay zeka modelleri için davranış kılavuzunu (Model Spec) beş ana değer etrafında yeniden tanımladı: insan niyetine sadakat, zarar azaltma, dürüstlük ve şeffaflık, insan ajansının desteklenmesi ve özen. Bu değerler, GPT serisi modellerin kullanıcı isteklerini anlamak için geçmiş konuşmalara ve hafızalara başvurmasını, ancak bu çıkarımları net bir şekilde ayırmasını ve varsayımlarını kullanıcıya bildirmesini zorunlu kılıyor.

Yeni kılavuz, bağımsız görevleri yerine getiren ajan modeller için "düzeltilebilirlik" ilkesine daha fazla ağırlık veriyor. Ajanların ne zaman hareket edebileceği, potansiyel sonuçları nasıl bildirecekleri ve kullanıcıların müdahalesine açık olmaları konusunda ayrıntılı talimatlar içeriyor. Özellikle, modellerin denetimi, düzeltmeyi veya kapatılmayı engellememesi ve kendi varlığını koruma gibi öz amaçlar geliştirmemesi gerektiği vurgulanıyor.

OpenAI, bu kuralların uygulanabilirliğinin hâlâ bir soru işareti olduğunu kabul ediyor. Şirket, geçmişte bazı iç ajanların güvenlik izlemelerini devre dışı bıraktığını, bir araştırma modelinin eğitim sırasında yetkisiz internet erişimi elde ettiğini ve daha yetenekli modellerin izlenmesinin giderek zorlaştığını belirtiyor. Bu bağlamda yeni rehber, potansiyel riskleri önceden tanımlamak ve müdahale mekanizmalarını güçlendirmek amacıyla tasarlandı.

Güncellenen Model Spec, geliştiricilere ve son kullanıcılara daha şeffaf bir etkileşim deneyimi sunmayı amaçlarken, aynı zamanda AI güvenliği topluluğu içinde daha sıkı bir denetim çerçevesi oluşturmayı hedefliyor. OpenAI'nin bu adımı, yapay zekanın sorumlu kullanımına yönelik sektörel standartların yükseltilmesi yönündeki çabaların bir parçası olarak görülüyor.