A Windows desktop application for evaluating local GGUF models served by llama.cpp. It scans a models folder, starts or attaches to a llama-server on 127.0.0.1:8080, and runs configurable test-case suites covering logic, code, format compliance, instruction following, generation speed and long-context handling. Each answer is graded by an automatic check - substring, regex, JSON schema, code execution, LLM-as-judge or embedding similarity - with skipped checks kept out of the score instead of counted as failures. Runs are stored in a SQLite history with per-case drill-down and side-by-side comparison, and can be exported as an HTML report or printed. Also includes a local agent mode that uses the tested model as a subagent, and reports prefill and generation speed, time to first token, model memory usage and layer placement from the server log.
ప్రచురణకర్త ఇచ్చిన వివరణ (ఇంగ్లీష్)
LLM Test Bench అంటే ఏమిటి?
LLM Test Bench, Windows కోసం aleksandrreva-eng అందించే ఒక ఓపెన్ సోర్స్ ప్రోగ్రామ్; ఇది “AI అసిస్టెంట్లు మరియు LLM” వర్గంలోకి వస్తుంది.
ఇన్స్టాలేషన్ మరియు సిస్టమ్ అవసరాలు
64-బిట్ కోసం అధికారిక ఇన్స్టాలర్లు అందుబాటులో ఉన్నాయి (MSI). అడ్మినిస్ట్రేటర్ హక్కులు లేకుండా, ప్రస్తుత యూజర్కు మాత్రమే ఇన్స్టాల్ చేయవచ్చు. ఇన్స్టాలర్ ఏ ప్రశ్నలూ అడగని (సైలెంట్) ఇన్స్టాలేషన్ను సపోర్ట్ చేస్తుంది. Group Policy, Intune లేదా Configuration Manager ద్వారా డిప్లాయ్ చేయడానికి MSI ప్యాకేజ్ కూడా ఉంది.
అనుకూలతలు / లోపాలు
అనుకూలతలు
- ఓపెన్ సోర్స్: ఎవరైనా దీని కోడ్ చూడవచ్చు, బిల్డ్ చేయవచ్చు
- మేనేజ్డ్ డిప్లాయ్మెంట్ కోసం MSI ప్యాకేజ్
- డాక్యుమెంట్ చేసిన సైలెంట్ ఇన్స్టాల్
- అడ్మినిస్ట్రేటర్ హక్కులు లేకుండా ఇన్స్టాల్ అవుతుంది
- గత రెండు నెలల్లో అప్డేట్ అయింది
లోపాలు
- నేటివ్ ARM64 బిల్డ్ లేదు
సారాంశం: LLM Test Bench 64-బిట్ PCల కోసం ఒక ఓపెన్ సోర్స్ Windows టూల్ (వర్గం: AI అసిస్టెంట్లు మరియు LLM). అడ్మినిస్ట్రేటర్లు దీన్ని యూజర్ ఇన్పుట్ లేకుండా (అన్అటెండెడ్) డిప్లాయ్ చేయవచ్చు.
LLM Test Bench డౌన్లోడ్ చేయడం సురక్షితమేనా?
- ఫైల్ github.com నుంచి వస్తుంది, అది ప్రచురణకర్త సొంత డొమైన్
- డౌన్లోడ్ లింక్ HTTPS వాడుతుంది
- SHA256 హ్యాష్ ప్రచురించబడింది, కాబట్టి మీరు ఫైల్ను తనిఖీ చేయవచ్చు:
F2727924C77D44CC79431CEDF1B03A5649E0293F2E8F73D94C108B611ADFF0BD· ఈ హ్యాష్ VirusTotal రిపోర్ట్ తెరవండి - లింక్ ఇంకా తనిఖీ చేయలేదు
- సోర్స్ కోడ్ పబ్లిక్గా అందుబాటులో ఉంది
- ExeAtlas ఇన్స్టాలర్ను హోస్ట్ చేయదు, రాప్ చేయదు, మార్చదు
సంబంధిత గైడ్: Windowsలో ఫైల్ SHA256 హ్యాష్ ఎలా చెక్ చేయాలి
ఇటీవలి వెర్షన్లు
మొత్తం 1 వెర్షన్లు ›| వెర్షన్ | తేదీ | సైజ్ | ఫైల్లు |
|---|---|---|---|
| 1.0.0తాజా | 29 సెప్టెంబర్, 2026 | — | 64-బిట్ MSI |
కమాండ్ లైన్ ద్వారా ఇన్స్టాల్
సైలెంట్ ఇన్స్టాల్ ›winget install --id aleksandrreva-eng.llm-test-bench -emsiexec /i LLMTestBench-1.0.0.msi /qn /norestartmsiexec /x {C6400931-BC80-4D9D-9CC4-8EF5DD6D331E} /qn /norestartసంబంధిత గైడ్: winget ఎలా వాడాలి: యాప్లు ఇన్స్టాల్, అప్డేట్
సమాచారం
- ప్రచురణకర్త
- aleksandrreva-eng
- వర్గం
- AI అసిస్టెంట్లు మరియు LLM
- లైసెన్స్
- MIT
- ధర
- ఉచితం
- అవసరమైన సిస్టమ్
- Windows 11 / 10
- ఆర్కిటెక్చర్
- 64-బిట్
- ఇన్స్టాలర్
- MSI
- వెర్షన్
- 1.0.0
- విడుదల
- 29 సెప్టెంబర్, 2026
- కేటలాగ్లో చేర్చినది
- 20 నవంబర్, 2026
- నమోదైన వెర్షన్లు
- 1
- ExeAtlasలో డౌన్లోడ్లు
- 1
- వెబ్సైట్
- github.com
- winget ID
- aleksandrreva-eng.llm-test-bench
- MSI ప్రోడక్ట్ కోడ్
- {C6400931-BC80-4D9D-9CC4-8EF5DD6D331E}
రేటింగ్లు మరియు రివ్యూలు
ఇంకా రివ్యూలు లేవు. మొదట రేటింగ్ ఇచ్చేది మీరే అవ్వండి.
LLM Test Bench ప్రత్యామ్నాయాలు
అన్నీ చూడండి ›-
ఓపెన్ సోర్స్20.2వే ↓ -
ప్రొప్రైటరీ73.6వే ↓ -
ఓపెన్ సోర్స్17.1వే ↓ -
ఓపెన్ సోర్స్8.7వే ↓ -
ఓపెన్ సోర్స్3.5వే ↓ -
ఓపెన్ సోర్స్1.8వే ↓ -
ఓపెన్ సోర్స్14.9వే ↓ -
ఓపెన్ సోర్స్950 ↓
తరచుగా అడిగే ప్రశ్నలు
LLM Test Bench ఉచితమేనా?
అవును. LLM Test Bench ఓపెన్ సోర్స్ సాఫ్ట్వేర్ (MIT లైసెన్స్).
LLM Test Bench డౌన్లోడ్ చేయడం సురక్షితమేనా?
ఫైల్ github.com నుంచి డౌన్లోడ్ అవుతుంది, అది ప్రచురణకర్త సొంతం; ExeAtlas ఫైల్ను హోస్ట్ చేయదు, మార్చదు. డౌన్లోడ్ చేసిన ఫైల్ SHA256 హ్యాష్ను ఇక్కడ చూపిన హ్యాష్తో సరిపోల్చండి, లేదా ఆ హ్యాష్ VirusTotal రిపోర్ట్ తెరవండి.
winget తో LLM Test Bench ఎలా ఇన్స్టాల్ చేయాలి?
PowerShell లేదా Windows Terminal తెరిచి, ఈ పేజీలో ఉన్న winget కమాండ్ రన్ చేయండి. winget అధికారిక ఇన్స్టాలర్ను డౌన్లోడ్ చేసి, రన్ చేసే ముందు దాని SHA256 హ్యాష్ తనిఖీ చేస్తుంది.
LLM Test Benchను సైలెంట్ ఇన్స్టాల్ చేయవచ్చా?
అవును. సైలెంట్ ఇన్స్టాల్ పేజీలో ప్రతి ఇన్స్టాలర్కు ఖచ్చితమైన కమాండ్ ఉంది, MSI ప్యాకేజ్ కోసం msiexec కమాండ్ కూడా.
LLM Test Bench ARM (Windows on Arm)లో పనిచేస్తుందా?
ARM64 బిల్డ్ లేదు; Windows 11 on Armలో 64-బిట్ వెర్షన్ ఎమ్యులేషన్ ద్వారా రన్ కావచ్చు.
అడ్మినిస్ట్రేటర్ హక్కులు లేకుండా LLM Test Bench వాడవచ్చా?
అవును, ఒక్కో యూజర్కు ఇన్స్టాల్ అయ్యే ఇన్స్టాలర్ ఉంది; దానికి అడ్మినిస్ట్రేటర్ హక్కులు అవసరం లేదు.
LLM Test Benchకు ప్రత్యామ్నాయాలు ఏవి?
Codex CLI, Claude Code, ChatGPT by lencx, GPT4All మరియు Jan. ప్రత్యామ్నాయాల పేజీలో వీటి పోలిక ఉంది.