Fish Audio Drama 3'ün 48 GB NVIDIA kartı gereksinimi, AMD RX 9070'da Red Curtain ile aşıldı

Fish Audio Drama 3, 48 GB VRAM gerektiren bir NVIDIA kartına ihtiyaç duyduğunu duyurmuştu. Bu durum, geniş çaplı ses sentezi projeleri için yüksek maliyetli donanım engeli oluşturuyordu. Reddit topluluğunun bir üyesi olan /u/fechyyy, Claude ile iş birliği yaparak Red Curtain adlı bir açık kaynak aracı geliştirdi ve modeli AMD RX 9070 (gfx1201) üzerinde çalıştırabildi.

Red Curtain, modelin uzman (expert) katmanlarını FP8 formatında sistem RAM'inde tutuyor ve yalnızca kullanılan uzmanları GPU'ya önbellekliyor. Diğer katmanlar ise BF16 formatında GPU'da işleniyor. Bu sayede modelin toplam VRAM ihtiyacı 11‑12 GB seviyesine düşerken, sistem RAM kullanımı yaklaşık 35 GB olarak gerçekleşiyor. Yükleme süresi yaklaşık 17 saniye, 3.3 saniyelik ses üretimi 13 saniye, 11.6 saniyelik ses üretimi ise 37 saniye sürüyor.

Araç, küçük bir web arayüzüyle ses klonlaması, çoklu konuşmacı senaryoları ve Fish Audio editöründeki etiketleri ([laughing], [sighing], <whisper>…</whisper>) destekliyor. Bilinen bir sorun, bir çekimin ilk satırını okuduktan sonra sessiz kalması; bu durum vLLM tarifinde de belirtilmiş ve AMD portundan kaynaklanmadığı doğrulanmış. Kullanıcılar, top‑k parametresini kapatmak, her konuşmacıya referans ses vermek ve ses etiketiyle başlayan satırları önlemek gibi ayarları varsayılan hâle getirmiş.

Red Curtain hâlen sadece RX 9070 üzerinde test edilmiş ve ağırlık dosyaları Hugging Face üzerinden indiriliyor. Proje Fish Audio ile resmi bir bağlantısı olmadığını belirtiyor ve GitHub üzerinden erişilebilir durumda (https://github.com/re133/red-curtain). Bu geliştirme, büyük MoE modellerinin daha geniş bir donanım yelpazesinde çalıştırılabilmesi için önemli bir adım olarak görülüyor.