Yerel AI ve Frontier Modeliyle NAS Tabanlı Kişisel Kütüphane Otomasyonu

Reddit kullanıcısı GunmetalZen, kodlama konusunda uzman olmamasına rağmen, yerel büyük dil modelleri (LLM) ve bir Frontier AI hizmeti sayesinde evindeki NAS üzerinde devasa bir dijital kütüphane oluşturdu. Başlangıçta Hermes Agent adlı bir yerel Gemma 4 31B Q4 modelini RTX 5090 GPU'su üzerinde çalıştırarak, Signal üzerinden uzaktan erişim, cron işleri ve SearXNG tabanlı araştırma gibi temel görevleri otomatikleştirdi.

Daha sonra, Frontier AI'yi altyapı ve ilk görev tanımlamaları için kullanarak, üç yerel ajan (iki Strix Halo kutusunda çalışan GPT‑OSS 120B Q4 ve bir RTX 5090'da çalışan Gemma 31B Q4) kurdu. Bu ajanlar, terabaytlık veri yığınından kitap, rapor, fotoğraf ve sanat eserlerini tarıyor, alıntılar, ilginç gerçekler ve eserler arası bağlantılar çıkarıyor. Kullanıcı, bu sayede yüzbinlerce belgeyi manuel olarak incelemek yerine, ajanların sunduğu özet ve önerilerle neyi okuyup keşfetmek istediğine hızlıca karar verebiliyor.

Sistem ayrıca kişisel bir "Google Earth" haritası oluşturuyor; Wikipedia makaleleri coğrafi koordinatlarla eşleştiriliyor ve aynı mantıkla Ay ve Mars için de ilgi noktaları haritalanıyor. Kullanıcı, 24/7 çalışan bir ajan üzerinden kütüphane içindeki sorularına anlık yanıt alabiliyor, ilgili kitapları, alıntıları ya da görselleri bulabiliyor. Bu yapı, dış reklam, algoritmik öneri ve veri toplama gibi unsurlardan tamamen izole bir dijital ortam sağlıyor.

Projenin maliyeti, Frontier AI için aylık 20 dolarlık bir abonelik ve kullanılan token miktarıyla sınırlıydı. Kullanıcı, bu düşük maliyetle kişisel veri mahremiyetini korurken, büyük ölçekli içerik yönetimi ve keşfi için güçlü bir otomasyon altyapısı elde etti.