OpenAI, Rus ve İran destekli sahte ön yüz operasyonlarını engelledi
OpenAI, yapay zekâ modellerini kullanan iki karmaşık “false front” (sahte ön yüz) etkili operasyonu tespit edip kapattı. İran menşeli bir grup, yedi sahte gazeteci kimliğiyle uzun makaleler ve sosyal medya yorumları üretirken, Rusya menşeli bir ağ Latin Amerika’da bir “think‑tank” üzerinden sahte belgeler ve ses dosyaları yayımladı. Her iki operasyon da Breakout Scale ölçütünde sırasıyla 4 ve 5. kategori puanları alarak, gerçek medya organlarına sızma başarısı gösterdi.
Öne Çıkan Başlıklar
- OpenAI, Rusya ve İran destekli iki “false front” operasyonunu tespit edip ChatGPT erişimini engelledi.
- Operasyonlar, Breakout Scale ölçütüne göre sırasıyla 5 ve 4. kategori puanları alarak gerçek medya organlarına sızma başarısı gösterdi.
- AI, sahte kimlik ve içerik üretim süreçlerini hızlandırarak dezenformasyonun ölçeğini ve etkisini artırdı.
OpenAI, son iki buçuk yılda tehdit aktörlerinin modellerini siber saldırı, gizli etki operasyonları (IO) ve dolandırıcılık gibi amaçlarla nasıl kullandığını raporlamıştı. Bu çerçevede, Rusya ve İran’dan iki ayrı grup, OpenAI’nın ChatGPT hizmetini geleneksel dezenformasyon teknikleriyle birleştirerek “false front” yani sahte ön yüz varlıklar oluşturdu. İran operasyonu, yedi sahte gazeteci persona üzerinden dünya çapındaki küçük ve orta ölçekli çevrimiçi yayınlara uzun biçimli makaleler sundu; aynı zamanda ABD‑İran savaşıyla ilgili sosyal medya yorumları da üretti. Rus operasyonu ise Latin Amerika’da “Social Research Center” (SRC) adlı bir düşünce kuruluşunu sahte bir kimlikle yönetti, sahte sızıntı belgeleri ve ses senaryoları hazırladı ve bunları gerçek medya organlarına sızdırdı.
Bu iki operasyon, önceden var olan geleneksel etki kampanyalarına benzer çok katmanlı taktikler izledi; tek fark, yapay zekâ sayesinde içerik üretim, çeviri ve raporlama süreçlerinin hızlanması ve ölçeklenmesiydi. OpenAI, operasyonların Breakout Scale ölçütüne göre Rusya menşeli kampanyayı 5. kategori (en yüksek etki potansiyeli) ve İran menşeli kampanyayı 4. kategori olarak sınıflandırdı. Bu, OpenAI’nın raporladığı 30 gizli etki operasyonu arasında dış yayın organlarına ulaşan ilk 5. kategori operasyonu oldu.
Operasyonların detayları arasında, Rus tarafının ChatGPT’yi iç raporlar, performans değerlendirmeleri ve sahte “leaked” belgeler üretmek için yoğun şekilde kullandığı; İran tarafının ise uzun makaleler, sosyal medya yorumları ve sahte gazeteci kimlikleriyle içerik üretiminde AI’dan yararlandığı belirlendi. Her iki grup da sahte kimliklerini ve içeriklerini gerçek medya kuruluşlarına sızdırarak, sadece sosyal medyada değil, geniş kitlelere ulaşan bir etki yaratmayı başardı. OpenAI, bu tür sahte ön yüz operasyonların sorumlu açıklama yoluyla durdurulmasının, benzer faaliyetlerin önüne geçmek için kritik olduğunu vurguladı.
YZ Yorumu
Bu gelişme, yapay zekâ tabanlı dezenformasyonun sadece sosyal medyada değil, geleneksel medya kanallarında da etkili olabileceğini gösteriyor; geliştiricilerin erişim kontrolleri ve izleme mekanizmaları bu tür kötüye kullanımları önlemede kritik bir rol oynayacak.
Yapay zekâ tarafından üretilmiştir.