A Windows desktop application for evaluating local GGUF models served by llama.cpp. It scans a models folder, starts or attaches to a llama-server on 127.0.0.1:8080, and runs configurable test-case suites covering logic, code, format compliance, instruction following, generation speed and long-context handling. Each answer is graded by an automatic check - substring, regex, JSON schema, code execution, LLM-as-judge or embedding similarity - with skipped checks kept out of the score instead of counted as failures. Runs are stored in a SQLite history with per-case drill-down and side-by-side comparison, and can be exported as an HTML report or printed. Also includes a local agent mode that uses the tested model as a subagent, and reports prefill and generation speed, time to first token, model memory usage and layer placement from the server log.
Mô tả của nhà phát hành (Tiếng Anh)
LLM Test Bench là gì?
LLM Test Bench là phần mềm mã nguồn mở dành cho Windows do aleksandrreva-eng phát hành, thuộc nhóm trợ lý AI và LLM.
Cài đặt và yêu cầu hệ thống
Bộ cài chính thức có sẵn cho Windows 64-bit ở định dạng MSI. Có thể cài đặt riêng cho người dùng hiện tại mà không cần quyền quản trị viên. Bộ cài hỗ trợ cài đặt im lặng, không cần thao tác của người dùng. Có gói MSI để triển khai qua Group Policy, Intune hoặc Configuration Manager.
Ưu điểm / Nhược điểm
Ưu điểm
- Mã nguồn mở: ai cũng có thể xem và tự biên dịch
- Có gói MSI để triển khai tập trung
- Có tài liệu về cài đặt im lặng
- Cài đặt không cần quyền quản trị viên
- Có cập nhật trong hai tháng gần đây
Nhược điểm
- Chưa có bản ARM64 gốc
Tóm lại: LLM Test Bench là phần mềm Windows mã nguồn mở dành cho máy tính 64-bit, thuộc nhóm trợ lý AI và LLM. Quản trị viên có thể triển khai tự động, không cần thao tác.
Tải LLM Test Bench có an toàn không?
- Tệp được cung cấp từ github.com, tên miền của chính nhà phát hành
- Liên kết tải về dùng HTTPS
- Có công bố mã SHA256 để kiểm tra tệp:
F2727924C77D44CC79431CEDF1B03A5649E0293F2E8F73D94C108B611ADFF0BD· Mở báo cáo VirusTotal cho mã băm này - Liên kết chưa được kiểm tra
- Mã nguồn được công khai
- ExeAtlas không lưu trữ, không đóng gói kèm và không chỉnh sửa bộ cài
Hướng dẫn liên quan: Cách kiểm tra mã SHA256 của file trên Windows
Phiên bản gần đây
Tất cả 1 phiên bản ›| Phiên bản | Ngày | Dung lượng | Tệp |
|---|---|---|---|
| 1.0.0Mới nhất | 29 tháng 9, 2026 | — | 64-bit MSI |
Cài đặt bằng dòng lệnh
Cài đặt im lặng ›winget install --id aleksandrreva-eng.llm-test-bench -emsiexec /i LLMTestBench-1.0.0.msi /qn /norestartmsiexec /x {C6400931-BC80-4D9D-9CC4-8EF5DD6D331E} /qn /norestartHướng dẫn liên quan: Cách dùng winget để cài đặt và cập nhật phần mềm
Thông tin
- Nhà phát hành
- aleksandrreva-eng
- Danh mục
- Trợ lý AI và LLM
- Giấy phép
- MIT
- Giá
- Miễn phí
- Yêu cầu
- Windows 11 / 10
- Kiến trúc
- 64-bit
- Loại bộ cài
- MSI
- Phiên bản
- 1.0.0
- Ngày phát hành
- 29 tháng 9, 2026
- Ngày thêm vào danh mục
- 20 tháng 11, 2026
- Số phiên bản
- 1
- Lượt tải trên ExeAtlas
- 1
- Trang chủ
- github.com
- winget ID
- aleksandrreva-eng.llm-test-bench
- Mã sản phẩm MSI
- {C6400931-BC80-4D9D-9CC4-8EF5DD6D331E}
Đánh giá và nhận xét
Chưa có nhận xét nào. Hãy là người đầu tiên đánh giá.
Phần mềm thay thế LLM Test Bench
Xem tất cả ›-
Mã nguồn mở20,2 N ↓ -
Độc quyền73,6 N ↓ -
Mã nguồn mở17,1 N ↓ -
Mã nguồn mở8,7 N ↓ -
Mã nguồn mở3,5 N ↓ -
Mã nguồn mở1,8 N ↓ -
Mã nguồn mở14,9 N ↓ -
Mã nguồn mở950 ↓
Câu hỏi thường gặp
LLM Test Bench có miễn phí không?
Có. LLM Test Bench là phần mềm mã nguồn mở theo giấy phép MIT.
Tải LLM Test Bench có an toàn không?
Tệp được tải từ github.com, tên miền thuộc về nhà phát hành; ExeAtlas không lưu trữ và không chỉnh sửa tệp. Hãy so sánh mã SHA256 của tệp đã tải với mã hiển thị trên trang này, hoặc mở báo cáo VirusTotal cho mã băm đó.
Cài đặt LLM Test Bench bằng winget như thế nào?
Mở PowerShell hoặc Windows Terminal và chạy lệnh winget hiển thị trên trang này. winget sẽ tải bộ cài chính thức và kiểm tra mã SHA256 trước khi chạy.
LLM Test Bench có hỗ trợ cài đặt im lặng không?
Có. Trang cài đặt im lặng liệt kê lệnh chính xác cho từng bộ cài, bao gồm lệnh msiexec cho gói MSI.
LLM Test Bench có chạy trên máy ARM (Windows on Arm) không?
Chưa có bản ARM64; Windows 11 on Arm có thể chạy bản 64-bit thông qua giả lập.
Có thể dùng LLM Test Bench mà không cần quyền quản trị viên không?
Có, phần mềm có bộ cài cho từng người dùng, không yêu cầu quyền quản trị viên.
Có những phần mềm nào thay thế LLM Test Bench?
Codex CLI, Claude Code, ChatGPT by lencx, GPT4All và Jan. Trang phần mềm thay thế so sánh các lựa chọn này.