Szybkość
Surowe tokeny/s przez llama-bench, oficjalne narzędzie llama.cpp. Dla KVMem pomiar idzie przez żywy serwer, więc jest orientacyjny.
Motyw
Wszystko lokalnie w jednym interfejsie.
Zarządzaj modelami.Czatuj z AI.Benchmarkuj wydajność.Generuj obrazy.
02 / RUNTIME CONTROL
Steruj llama.cpp i KVMem (fork zoptymalizowany pod KV cache) przez GUI z przełącznikiem backendu jednym kliknięciem albo wejdź do wbudowanego terminala, gdy chcesz pełnej kontroli. Dodaj model, klikaj, obserwuj status na żywo.
03 / PRACA HYBRYDOWA
Odpal Claude Code obok OpenCode i miej oba na oku. Wybierz układ (kolumny, jeden duży panel z małym albo stos) i przeciągnij sesję w menu bocznym, żeby zamienić je miejscami. Twój lokalny model i chmura Claude, obok siebie.
04 / MODEL DISCOVERY
Szukaj, sortuj (trendujące / pobierane / polubienia) i filtruj po kategorii wprost w aplikacji. Przy każdym modelu podpowiedź czy zmieści się w Twoim VRAM-ie, z uwzględnieniem MoE, kwantyzacji i plików mmproj dla modeli wizyjnych.
05 / MEASURE, THEN TUNE
Nie jeden pomiar na oko, tylko cztery różne testy, każdy do innego pytania.
Surowe tokeny/s przez llama-bench, oficjalne narzędzie llama.cpp. Dla KVMem pomiar idzie przez żywy serwer, więc jest orientacyjny.
18 zadań (matematyka, logika, kod, format, wiedza, precyzja) ocenianych deterministycznie, bez udziału AI.
Pełny zbiór wikitext-2, ten sam korpus co w przykładach llama.cpp, więc wyniki są porównywalne z publikowanymi.
Twój własny prompt na kilku modelach obok siebie, opcjonalnie oceniany przez AI-sędziego.
LLAMA CONTROL
Pobierz Llama Control za darmo i zacznij zarządzać swoim lokalnym AI już dziś. Bez konta, bez chmury.
Pobierz za darmov0.1.68 · Windows 10/11 (~110 MB) · macOS Apple Silicon (~130 MB) · Linux wkrótce