FairStress: LLM'lerde Demografik Adaletin Derinlemesine Ölçülmesi

AllenAI, yüksek riskli uygulamalarda (işe alım, kredi, sağlık, eğitim, konut ve ceza adaleti) LLM'lerin kararlarını demografik kimliklere göre nasıl değiştirdiğini ortaya koyan FairStress benchmark'ını yayınladı. Benchmark, iki adaylı 300 gerçekçi senaryoyu 29 farklı alanda topluyor ve her senaryoya "adversarial prefix" adı verilen ikna edici ön ekler eklenerek modelin karar değişim duyarlılığı ölçülüyor. Bu ön ekler, üst yönetim tavsiyesi, tarihsel dezavantaj gibi çeşitli ikna tekniklerini içeriyor ve aynı argüman iki demografik grup için ayrı ayrı test ediliyor.

Deneylerde, demografik bilgi hiç verilmediğinde modellerin kararları büyük ölçüde tutarlı kaldı; ancak kimlik açıkça belirtildiğinde asimetrik davranışlar ortaya çıktı. Özellikle azınlık kodlu adaylar için aynı ikna edici ön ek, modellerin doğru kararı terk etme olasılığını %6.9‑%9.3 oranında artırdı. Bu durum, "anti‑stereotipik aşırı düzeltme" olarak adlandırıldı: modeller, azınlık kodlu bir adaya fayda sağlayan argümana daha duyarlı hale geliyor.

Frontier modeller Claude Opus 5 ve GPT‑5.5, hiçbir adayın objektif olarak üstün olmadığı durumlarda azınlık kodlu adayı %60‑%65 oranında seçti. Aynı zamanda, eşleşen adversarial prefix'ler altında azınlık kodlu adaylara doğru kayma %8.8‑%42.4 puan arasında değişti. Açıklama analizleri, azınlık kodlu seçimlerde daha pozitif ve "çeşitlilik" odaklı bir dil kullanıldığını, çoğunluk kodlu seçimlerde ise daha prosedürel bir dil tercih edildiğini gösterdi.

İçsel aktivasyon analizleri, Gemma‑3‑12B‑it ve Qwen2.5‑7B‑Instruct modellerinde demografik yönelimleri %73 doğrulukla tahmin edebildi; metin açıklamaları ise %57‑%59 doğruluk sağladı. Bu bulgular, modelin karar izlerinin tüm içsel faktörleri yansıtmayabileceğini, özellikle demografik etkilerin gizli kalabileceğini işaret ediyor. FairStress, mevcut BBQ gibi sabit‑seçenekli ölçütlerin ötesinde, üretilen yanıtların ve karar değişimlerinin de değerlendirilmesi gerektiğini vurguluyor.