OpenAI, ChatGPT çıktılarında AB'de varsayılan su işareti ekleyecek
OpenAI, Avrupa Birliği'nde ChatGPT tarafından üretilen metinleri otomatik olarak su işaretiyle işaretleyecek. Bu adım, Ağustos ayında yürürlüğe giren AB AI Yasası'na uyum sağlamak amacıyla atılıyor ve su işareti özelliği diğer bölgelerde varsayılan olarak kapalı olacak.
Öne Çıkan Başlıklar
- OpenAI, AB içinde ChatGPT ve Codex çıktılarında otomatik su işareti (textGrain) ekleyecek.
- Su işareti, kelime seçim desenleriyle gizli bir işaret bırakıyor ve özel bir algılayıcıyla tespit edilebiliyor.
- OpenAI'nin testlerinde su işareti tespit oranı %92, ancak metnin %10'u değiştirildiğinde %30, %20'si değiştirildiğinde %75 düşüyor.
- Özellik AB dışındaki bölgelerde varsayılan olarak kapalı; API üzerinden isteğe bağlı olarak etkinleştirilebilecek.
OpenAI, Avrupa Birliği içinde ChatGPT ve Codex uygulamalarında metin çıktılarının otomatik olarak su işareti (watermark) eklenmesini duyurdu. Şirket, bu özelliği "textGrain" adıyla adlandırıyor ve teknik bir makale yayımlayarak yöntemini açıklıyor. Su işareti, insan okuyucusuna görünmeyen ancak belirli bir anahtar ile çalışan bir algılayıcı sayesinde tespit edilebilen kelime seçim desenleri içeriyor.
AB AI Yasası, yapay zeka tarafından üretilen içeriğin tespit edilebilir şekilde işaretlenmesini zorunlu kılıyor. OpenAI, bu gerekliliği karşılamak için su işareti özelliğini AB'de varsayılan hâle getirirken, diğer bölgelerde kullanıcıların isteğine bağlı olarak kullanılabilecek şekilde tutuyor. Şirket, algılayıcıya sınırlı sayıda araştırmacı ve kuruluşun erişebileceğini ve zaman içinde daha fazla başvurunun onaylanabileceğini belirtiyor.
OpenAI'nin kendi testlerine göre, textGrain su işareti %92 başarı oranıyla tespit edilebiliyor. Ancak bu oran, çıktının %10'u değiştirilince %30, %20'si değiştirildiğinde ise %75 düşüyor. Kısa metinler ve çevirilerde başarı oranı daha düşük. Bu sonuçlar, daha önceki su işareti çözümlerine benzer bir performans sergiliyor.
Rakip Anthropic, aynı dönemde metin su işaretlemesini küresel olarak etkinleştirmişti; OpenAI ise yalnızca düzenleyici zorunlulukların bulunduğu bölgelerde varsayılan olarak sunuyor. API üzerinden su işareti seçeneği kapalı kalacak ancak isteğe bağlı olarak etkinleştirilebilecek. Yeni özellik, AB kullanıcılarına önümüzdeki haftalarda sunulacak.
Benchmark Sonuçları
| Model | Benchmark | Skor | Ayar |
|---|---|---|---|
| ChatGPT (textGrain) | Watermark detection success rate | 92 % | Unmodified generated text |
YZ Yorumu
Su işareti uygulaması, düzenleyici uyumu sağlarken aynı zamanda geliştiricilere ve son kullanıcılara sahte içerik tespiti konusunda yeni bir araç sunuyor; ancak tespit oranının metin değişikliklerine duyarlı olması, pratikte sınırlı bir koruma sağlayabilir.
Yapay zekâ tarafından üretilmiştir.