Phổ biến: Dữ liệu cập nhật ngày 20 tháng 11, 2026

Danh mục

Internet1.419
Liên lạc328
Âm thanh và video938
Đồ họa và thiết kế564
Văn phòng1.182
Công cụ lập trình3.284
Công cụ AI608
Bảo mật và quyền riêng tư408
Công cụ hệ thống3.191
Game544
Giáo dục và khoa học242
Mạng và IT294

Tải llama.cpp b8417 cho Windows

LLM inference in C/C++

Đây là phiên bản cũ. Phiên bản mới nhất là b9994. llama.cpp b9994 · Ngày phát hành:

Tệp cài đặt b8417

Kiến trúcLoạiPhạm viDung lượngTải vềSHA256
64-bit ZIP → Portable — — github.com VirusTotal

Liên kết và mã SHA256 lấy từ manifest cộng đồng của Windows Package Manager. Hãy so sánh mã băm của tệp đã tải trước khi chạy.

Ghi chú phát hành

CANN: support flash attention for head dim not multiple of 16, fix ALiBi slope offset (#20031)
- Allow FLASH_ATTN_EXT when head dimension D is not a multiple of 16 by
padding Q/K/V to D_padded = GGML_PAD(D, 16), running FusedInferAttentionScoreV2,
then slicing the output back to D (ggml-cann.cpp + aclnn_ops.cpp).
- Fix aclnn_get_slope second-part offset: use ggml_type_size(dtype) instead of
sizeof(float) so ALiBi slopes are correct when dtype is F16 (e.g. GQA with
48 heads); fixes buffer overflow and large numerical errors in those cases.
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu x64 (ROCm 7.2)
- Ubuntu s390x (CPU)
- Ubuntu x64 (OpenVINO)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)

https://github.com/ggml-org/llama.cpp/releases/tag/b8417

Thẻ

Chia sẻ