ICYMI: TypeSafe AI, yapılandırılmış AI kararları için Jev modelini piyasaya sürdü

TypeSafe AI, iki yıllık gizli geliştirme sürecinin ardından, Jev adını verdiği ilk System One modelini erken erişimle duyurdu. Model, geleneksel açık uçlu metin üretimi yerine önceden tanımlanmış, tiplenmiş çıktılar üreterek yazılım uygulamalarının doğrudan tüketebileceği karar katmanı sunuyor.

Jev, yapılandırılmış program durumu ve serbest metin gibi yapılandırılmamış bağlamı alıp, olasılıksal kararlar ve güven puanları döndürüyor. Geliştiriciler seçenekleri ve çıktı şemasını önceden tanımlıyor; model kararları paralel olarak değerlendiriyor, bu sayede token‑tabanlı ardışık üretime kıyasla 20‑200 kat daha hızlı çalışıyor. Şirket, aynı tipteki sorgularda 40‑400 kat maliyet tasarrufu iddiasında bulunuyor.

Fiyatlandırma ise giriş token başına 0,042 $ (milyon token başına 42 $) olarak belirlenmiş ve çıktı tokenları ücretsiz. TypeSafe, uçtan uca yanıt sürelerinin 70‑500 ms arasında olduğunu ve bazı senaryolarda 193,6 kat hız, 444,6 kat maliyet avantajı sağladığını gösteriyor; ancak bu rakamların gerçek dünyada üst sınır olduğu ve uzun vadeli fiyat sürdürülebilirliğinin henüz kanıtlanmadığı belirtiliyor.

Jev’in potansiyel kullanım alanları sınıflandırma, yönlendirme, puanlama, veri çıkarımı, dallanma, büyük veri seti işleme ve gerçek‑zaman uygulamaları gibi karar‑ağırlıklı görevleri kapsıyor. Demo uygulamalar arasında Doom oyununda yapılandırılmış durum ve metin kullanımı ve Wikiracing yarışması yer alıyor. Model, doğrudan 255 seçeneğe kadar karar verebiliyor; daha büyük seçim setleri iki aşamalı bir skorlamayla ele alınıyor.