Granite Switch 4.1: Tek Uçtan Nokta Üzerinde Sohbet, Karar ve Konuşma Yeteneği

Granite Switch projesi, geçen baharda tanıtılan modüler mimarinin üzerine yeni bir katman ekleyerek 4.1 sürümünü piyasaya sürdü. Granite‑Switch‑4.1‑8B ve Granite‑Switch‑4.1‑30B modelleri, genel amaçlı karar‑aLoRA, güvenlik odaklı Guardian aLoRA ve OpenASR lider tablosunda en hızlı konumda yer alan Granite‑Speech‑5.0‑Turbo‑CTC ses‑tanıma adaptörünü içeriyor. Bu üç adaptör, temel modelin VRAM tüketimini artırmadan aynı GPU belleğinde çalıştırılabiliyor, bu da daha az donanım ile daha fazla işlevsellik anlamına geliyor.

Yeni Decision aLoRA, sistem‑one gibi genel karar verme senaryolarında kullanılabiliyor ve Jev 1.13, Microsoft‑Decision‑1, GPT‑Luna‑Decisions ve Clef‑Flash gibi mevcut karar modellerini güvenlik‑odaklı görevlerde geride bırakıyor. Guardian aLoRA, özellikle riskli sınıflandırma problemlerinde üstün doğruluk sağlarken, KV önbelleği paylaşımı sayesinde bir kez oluşturulan önbellek, sonraki adaptör tabanlı karar ve ses işlemlerinde yeniden kullanılabiliyor.

Granite‑Speech‑5.0‑Turbo‑CTC, OpenASR lider tablosunda en hızlı transkripsiyon performansını sergiliyor ve Granite Switch 4.1 modelleri, sesli istekleri gerçek zamanlı olarak metne dönüştürürken aynı anda sohbet, özetleme ve zararlı içerik taraması gibi görevleri tek bir uç noktada yürütebiliyor. Örneğin, Granite‑Switch‑4.1‑8B, ses kaydını anında metne çevirip özet çıkarabilir, 15'ten fazla güvenlik bayrağını kontrol edebilir ve zararlı içerik tespitini aynı anda yapabiliyor.

IBM, bu modüler yapı sayesinde topluluğun kendi adaptörlerini ekleyebileceği bir ekosistem oluşturmayı hedefliyor. Yakında çıkacak Adapter SDK ile geliştiriciler, Mellea platformunda özel aLoRA'lar eğitebilecek ve Granite Switch modellerine entegre edebilecek. Bu, örneğin 3 B parametreli bir Granite modelinin Doom oyununda saniyede 60‑100 karar almasını sağlarken aynı anda sesli anlatım ve sorulara yanıt verebilmesini mümkün kılıyor. IBM, topluluğun kendi sınıflandırma, dil ve oyun adaptörlerini oluşturmasını teşvik ederek model çeşitliliğini ve uygulama alanlarını genişletmeyi planlıyor.