AutoTrust'ın Hugging Face modelleri binlerce sahte beğeniyle trend oluyor

Reddit'in LocalLLaMA topluluğunda paylaşılan bir gönderide, AutoTrust adlı bir Hugging Face organizasyonunun modellerinin ön sayfada yer alması ve iddialı sonuçlar vaat etmesi dikkat çekti. Ancak, model sayfalarındaki beğeni listesine bakıldığında, binlerce hesabın profillerinin yapay ve aşırı gerçekçi göründüğü fark edildi. Bu hesapların isimleri rastgele isim jeneratörlerinden alınmış gibi, kullanıcı adları ise bu isimlerin permütasyonları şeklinde oluşturulmuş.

İncelenen sahte profiller, çoğunlukla var olmayan sosyal medya bağlantılarına, AI tarafından üretilmiş biyografilere ve birkaç rastgele akademik makale ya da model referansına sahipti. Bazı hesaplar, hedef modelin yanında küçük, sahte bir model de göstererek daha otantik bir izlenim yaratmaya çalışıyordu. Kullanıcı, bu örnekleri görsellerle destekleyerek topluluğa sundu.

Gönderiyi paylaşan kullanıcı, Google, Meta ve Hugging Face gibi büyük kuruluşların modelleriyle AutoTrust'ın modellerini karşılaştıran bir analiz de yaptı. Sonuçlar, AutoTrust modellerinin beğeni oranlarının normal modellere kıyasla anormal derecede yüksek olduğunu gösterdi. Ayrıca, başka bir kullanıcı (Prithiv) aynı verileri inceleyerek AutoTrust Spaces'ın beğeni dağılımını ve beğenen hesapların katılım tarihlerini analiz etti; bu analizler de büyük bir toplu oluşturma ve bot aktivitesine işaret etti.

Sonuç olarak, topluluk üyeleri AutoTrust'ın modellerini ve Spaces'ını sahte hesaplarla yükselttiğini ve bu sürecin hCaptcha, AWS WAF gibi güvenlik önlemlerini aşarak gerçekleştirildiğini öne sürüyor. Bu iddialar, Hugging Face platformunun trend algoritmalarının güvenilirliği ve topluluk içi manipülasyon riskleri konusunda tartışma başlattı.