Vaka çalışması · Ar-Ge

LLM Studio

macOS için yerel öncelikli, çoklu ajan yapay zekâ çalışma ortamı. Kurumsal yapay zekâ işlerine taşıdığımız teknikleri burada geliştirip ölçüyoruz: sağlayıcı yönlendirme, bilgi erişimi, ajan denetimi ve token ekonomisi.

Kısaca

Durum: Ar-Ge; şirket içinde her gün kullanılıyor
Platform: Yerel API çekirdekli macOS masaüstü uygulaması
Başlangıç: Temmuz 2026
Teknoloji: Python, FastAPI, SQLite, React, TypeScript, Tauri (Rust), Swift

Gerçek ekranlar

LLM Studio — Sohbet — Sohbet: model seçimi, derin düşünme, araçlar (terminal, görsel, derin araştırma, web, dosya) ve yerel anahtarı.

LLM Studio — Crew — Crew: otomatik, bağlamsal, dengeli ve sabit sıralı ayarlarla çoklu ajan yuvarlak masa.

LLM Studio — Yönetici — Yönetici: çalışma alanı, ayrı yönetici ve kod ajanı modelleri ve açık izin seviyesiyle hedef odaklı çalışmalar.

LLM Studio — Fusion — Fusion: iki model konuyu önce bağımsız değerlendirir, birbirini görüp uzlaşır; tur sayısı hedef değil tavandır.

LLM Studio — Model Hub — Model Hub: yerel, CLI, OAuth ve API sağlayıcıları tek yerde, sağlık durumuyla (hesap adı maskelendi).

LLM Studio — Bilgi yığınları — Bilgi yığınları: dosyalar, klasörler ve Obsidian kasaları aranabilir bilgi erişim alanlarına derlenir.

Neden var

Birçok ajan çerçevesi yardımcı model çağrılarını denetimsiz çalıştırır ve her istekte modele bütün araç kataloğunu verir. Tokenların gerçekte nereye gittiğini ölçmek ve her model çağrısının hesabının tutulduğu, her araç seçiminin bilinçli yapıldığı bir sistem kurmak istedik.

Mimari

Katmanlar

Masaüstü kabuğuTauri penceresi, React arayüzü
Yerel APIAkışlı yanıtlarla FastAPI
ÇekirdekPersonalar, ekipler, bilgi erişimi, politikalar
SağlayıcılarTek arayüz arkasında yerel ve bulut modelleri

Bütün mantık çekirdektedir ve arayüz olmadan çalışır: aynı işlevler komut satırından ve Model Context Protocol (MCP) üzerinden araç olarak da kullanılabilir.

Yetenekler

Deterministik sistem istemi derlemesi ve yetki politikalarıyla persona çalışma zamanı.
Ekip motoru: kör sıralı ve yuvarlak masa çoklu ajan modları; hakem değerlendirmesi ve kalite eşiğiyle.
Hibrit bilgi erişimi: karşılıklı sıra birleştirmeyle (RRF) BM25 ve vektör araması, kaynaklı bağlam, adlandırılmış çalışma alanları.
Sağlık denetimi, zaman aşımı ve çağrı başına token muhasebesiyle çok sağlayıcılı katman.
Politika, dayanıklılık ve araç erişimi katmanlarıyla MCP kayıt sistemi.
Yan etkili her eylemden önce onay ve değişiklik güvenliği kapıları.
Swift ile yazılmış, denetim kaydı tutan yerel macOS erişilebilirlik ajanı.

Ölçülen sonuç

aynı 25 görevde Hermes Agent'ın tokenına göre: 0,25×
son koşuda başarılı görev: 25/25
üç koşuda daha az token: %68–77

İki tarafta aynı model (deepseek-v4-flash), beş ajan görevi × beş tekrar, Temmuz 2026. Kapsam bu iş yükleriyle sınırlıdır; oran dolar maliyetini değil tokenı ölçer.

Asıl kaldıraç: her istek niyetine göre tek bir uygun araca yönlendirilir; model bütün katalog yerine tek bir araç şeması görür. Dosya okuma görevinde ilk çağrı 2.743 tokendan 1.308 tokena indi.

Görev başına ortalama toplam token

Hermes Agent10.826

LLM Studio2.728 0,25×

Görevlere göre (koşu başına ortalama token)

Dosya okumaHermes Agent9.634LLM Studio2.1540,22×
Dosya aramaHermes Agent9.663LLM Studio2.5930,27×
Dosya düzenlemeHermes Agent15.086LLM Studio3.5330,23×
Çok adımlı görevHermes Agent10.212LLM Studio2.8600,28×
Satır sayma (terminal)Hermes Agent9.536LLM Studio2.4990,26×

Toplam token = gönderilen istem tokenları (önbellek dahil) + dönen tokenlar (akıl yürütme dahil). İki tarafta aynı model, 5 görev × 5 tekrar, 25/25 başarılı. Sonuçlar sisteme göre değişir.

Ölçek ve kalite

Temmuz 2026'dan beri commit: 1.240+
818 test dosyasında otomatik test (Python ve TypeScript): 12.000+
satır Python; ayrıca TypeScript, Rust ve Swift: ~450 bin

Depodan ölçüldü: commit ve test sayısı 1 Kasım 2026, satır sayısı 31 Ekim 2026; Python satır sayısına testler dahildir.

Ölçümün kanıt paketi — koşu başına ham veri, SHA-256 özetleri ve iki tarafı yeniden hesaplayan betik — talep üzerine paylaşılır.

Aklınızda bir proje mi var?

Kısa bir açıklama gönderin. Önce karşılıklı NDA isterseniz, ayrıntıları paylaşmadan önce bizimkini gönderelim.

Proje başlatın projects@zerentechnologies.com ya da WhatsApp’tan yazın