Przewodniki

Benchmarki

Zmierz prędkość i jakość modeli zamiast polegać na wrażeniach.

Test prędkości

Używa llama-bench (oficjalne narzędzie llama.cpp) z kilkoma powtórzeniami. Podaje przetwarzanie promptu i generowanie w tokenach/s. Na czas pomiaru zatrzymuje uruchomiony serwer, by zwolnić VRAM. Ostrzega, jeśli zegary GPU nie były na maksimum.

Test jakości

Zestaw 18 zadań (matematyka, logika, kod, format, wiedza, precyzja) oceniany automatycznie i deterministycznie — bez udziału AI. Wynik obejmuje stabilność rozumowania: odsetek odpowiedzi, które zakończyły się naturalnie, a nie ucięte limitem tokenów.

Perplexity

Liczona na pełnym zbiorze testowym wikitext-2, tym samym co w przykładach llama.cpp, więc porównywalna z publikowanymi wynikami. Niższa wartość jest lepsza.

Porównanie modeli

Dodaj kilka modeli i porównaj je obok siebie. „Szybkie porównanie” uruchamia Twój własny prompt na każdym z nich; opcjonalnie ocenia go sędzia AI (to nie jest obiektywny benchmark).