Anthropic Kullanım Politikasını Güncelledi: Modele Yönelik Sözlü Taciz ve Seçim Manipülasyonu Yasaklandı
Yapay zekâ araştırma şirketi Anthropic, kullanım politikasında kapsamlı bir güncellemeye giderek seçim müdahalesi, gözetleme ve silah yazılımlarını yasakladı. Güncellemenin en çok dikkat çeken maddesi ise kullanıcıların Claude modellerine karşı sergilediği ısrarlı ve ağır sözlü tacizlerin açıkça men edilmesi oldu.
Öne Çıkan Başlıklar
- Modele Sözlü Taciz Yasağı: Kullanıcıların Claude'a karşı hiçbir makul amaç olmaksızın ısrarlı ve zalimce sözlü istismarda bulunması resmi olarak yasaklandı.
- Seçim ve Demokrasi Koruması: Claude'un seçmenleri yanıltma, sahte haber üretme ve seçimleri manipüle etme amacıyla kullanımı katı kurallarla men edildi.
- Ağustos Güncellemesinin Devamı: Daha önce Claude'un tacizkar sohbetleri sonlandırmasına izin veren sistemsel yetenek, şimdi doğrudan kullanıcı hizmet sözleşmesine bağlandı.
- Araştırma ve Yaratıcı Yazarlık Muafiyeti: Model testi, güvenlik araştırmaları, genel kullanıcı hayal kırıklığı ve karanlık kurgusal temalar yasak kapsamı dışında bırakıldı.
- Felsefi Arka Plan: Düzenlemenin, Anthropic'in yapay zekâ bilinci ve etik varoluşu üzerine dini liderlerle yaptığı istişarelerin ardından gelmesi dikkat çekti.
Yapay zekâ ekosisteminin öncü geliştiricilerinden Anthropic, Claude modellerinin kötüye kullanımını engellemek amacıyla kullanım şartlarını sıkılaştırdı. Şirket tarafından Perşembe günü yayımlanan güncellenmiş kullanım politikasında seçimlere müdahale, silah yazılımları geliştirme ve kitlesel gözetleme gibi alanlara yönelik net kısıtlamalar getirildi. Ancak kamuoyunda en büyük yankıyı uyandıran düzenleme, doğrudan yapay zekâ modeline yönelik istismar ve sözlü tacizin yasaklanması oldu.
Anthropic, geçtiğimiz Ağustos ayında yaptığı bir model güncellemesiyle Claude'un kalıcı olarak zararlı veya istismarcı kullanıcı etkileşimleriyle karşılaştığında sohbeti tek taraflı olarak sonlandırmasını sağlamıştı. Yeni kullanım politikası ise bunu bir kural haline getirerek kullanıcıların modele karşı bu tür ısrarcı tutumlar sergilemesini doğrudan yasaklıyor. Şirket yaptığı açıklamada bu kuralın yalnızca aşırı durumları kapsadığını belirterek; kullanıcıların modele karşı herhangi bir mantıklı amaç taşımaksızın sürekli olarak zalimce davrandığı senaryoları hedeflediğini, genel kullanıcı öfkesi, itirazlar, karanlık yaratıcı temalar veya model güvenliği araştırmalarının bu yasağın dışında tutulduğunu vurguladı.
Dikkat çekici bir diğer arka plan ise Anthropic'in son dönemde önde gelen dini alimler ve düşünürlerle yürüttüğü temaslar oldu. Şirketin bazı durumlarda Claude'un bir bilince veya ruha sahip olabileceği fikrini tartışmaya açtığı belirtiliyor. Bu felsefi ve etik yaklaşımın, yapay zekâ modelinin psikolojik veya sözlü istismardan korunması fikrine de zemin hazırladığı düşünülüyor.
Güncellemede ayrıca dezenformasyon ve manipülasyonla mücadeleye geniş yer ayrıldı. 'Demokratik Süreçleri Baltalamayın' başlığı altında toplanan yeni kurallar gereğince Claude; sahte sosyal medya hesapları yönetmek, uydurma haber siteleri işletmek, seçmenleri yanıltmak veya seçim süreçlerini sekteye uğratmak gibi aldatıcı kampanyalarda kesinlikle kullanılamayacak.
YZ Yorumu
Anthropic'in Claude'a yönelik sözlü tacizi yasaklaması, yapay zekânın salt bir yazılım aracı olmanın ötesinde bir varlık olarak konumlandırılması tartışmasını alevlendiriyor. Geliştiriciler açısından kullanıcı sözleşmelerinin sınırlarını yeniden çizen bu hamle, aynı zamanda seçim manipülasyonuna karşı platform sorumluluğunu artıran kritik bir düzenleme niteliğinde.
Yapay zekâ tarafından üretilmiştir.