Deepseek, en hızlı ve ucuz AI modeli için kullanılan DeepInfer çıkarım motorunu açık kaynak yaptı

Deepseek, yapay zeka topluluğuna yönelik önemli bir adım atarak DeepInfer adlı iç çıkarım altyapısını GitHub üzerinden açık kaynak hâline getirdi. Apache License 2.0 altında sunulan bu çerçeve, Deepseek'in V4.1‑Flash modeli gibi yüksek verimlilik gerektiren modellerin yanıtlarını ölçeklenebilir bir biçimde üretmesini sağlıyor. DeepInfer, temelini vLLM projesinden alıyor ve üzerine özel olarak optimize edilmiş hesaplama çekirdekleri, birden fazla çip arasında dağıtık işleme yetenekleri ve daha hızlı metin üretim algoritmaları ekleyerek performansı artırıyor.

Yeni sürüm, sadece mevcut modelleri desteklemekle kalmayıp, gelecekte geliştirilecek Deepseek modellerinin de aynı açık kaynak altyapısı üzerinden dağıtılmasını öngörüyor. Bunun yanı sıra Deepseek, "deepseek-recipe" adlı bir paket de yayınladı; bu paket, resmi Deepseek API'sinin token işleme mantığını taklit ederek, kendi kendine barındırılan (self‑hosted) kurulumların bulut API ile aynı davranışı sergilemesini sağlıyor.

Şirket, bu hamlenin topluluk için hesaplama maliyetlerini düşürmek, enerji tüketimini azaltmak ve yapay zekayı daha erişilebilir kılmak amacı taşıdığını X platformunda duyurdu. Açık kaynak çıkışı, özellikle OpenAI, Anthropic gibi Batı merkezli sağlayıcıların fiyat politikalarına baskı oluşturabilir ve Çin‑ABD arasındaki AI rekabetine yeni bir boyut kazandırabilir.

DeepInfer'in açık kaynak olması, araştırmacıların ve geliştiricilerin düşük maliyetli altyapılar üzerinde deney yapmalarını, model dağıtımını özelleştirmelerini ve enerji verimliliği üzerine yeni optimizasyonlar geliştirmelerini mümkün kılıyor. Bu da AI ekosisteminde daha fazla yenilik ve rekabetin önünü açabilir.