Zarządzaj modelami GGUF, uruchamiaj llama.cpp i rozmawiaj z lokalnym AI z jednego interfejsu. LlamaControl działa lokalnie — bez konta i bez klucza API.
Zainstaluj LlamaControl
Pobierz instalator dla swojego systemu i otwórz aplikację. LlamaControl jest darmowy i nie wymaga logowania. Linux jest w przygotowaniu.
Pobierz LlamaControlDodaj model GGUF
Masz już pliki GGUF? W Ustawieniach wskaż folder modeli albo użyj automatycznego wykrywania. Możesz też znaleźć i pobrać model z Hugging Face przez katalog modeli.
Przeglądaj modele GGUFZainstaluj silnik
Otwórz Ustawienia i uruchom instalator llama.cpp. Aplikacja wykryje sprzęt i dobierze odpowiedni build dla GPU lub CPU. Nie musisz ręcznie wybierać CUDA ani Vulkan.
Uruchom model i rozpocznij czat
Wybierz model, kliknij Start i przejdź do zakładki Czat, gdy serwer będzie gotowy. Jeśli model nie uruchamia się poprawnie, Auto-Tune może przetestować bezpieczniejsze ustawienia.
Użyj lokalnego modelu z agentem kodującym
W zakładce Pluginy wygeneruj konfigurację dla OpenCode lub Crush i wklej ją do używanego narzędzia. Agent połączy się z lokalnym serwerem LlamaControl.
Następne kroki
Porównuj szybkość i jakość w Benchmarku, sprawdź historię w Statystykach lub włącz Zdalny dostęp, aby korzystać z czatu przez sieć lokalną.