Popularne: Dane zaktualizowano: 27 października 2026

Kategorie

Internet1356
Komunikacja321
Audio i wideo898
Grafika i projektowanie539
Biuro i produktywność1124
Narzędzia programistyczne3134
Narzędzia AI529
Bezpieczeństwo i prywatność385
Narzędzia systemowe3114
Gry523
Edukacja i nauka239
Sieć i IT284

Pobierz llama.cpp b8400

LLM inference in C/C++

To starsza wersja. Najnowsza wersja to b9994. llama.cpp b9994 · Data wydania:

Pliki instalacyjne b8400

ArchitekturaTypZakresRozmiar plikuPobierzSHA256
64-bit ZIP → Wersja przenośna — — github.com VirusTotal

Link i SHA256 pochodzą z manifestu społeczności Windows Package Manager. Przed uruchomieniem warto porównać sumę pobranego pliku.

Lista zmian

hexagon: add neg, exp, sigmoid, softplus ops, cont, repeat ops (#20701)
Add element-wise unary ops needed by Qwen 3.5's DeltaNet linear
attention layers. These ops follow the existing unary-ops pattern
with VTCM DMA double-buffering.
- neg: negate via scale by -1.0
- exp: uses existing hvx_exp_f32 HVX intrinsics
- sigmoid: uses existing hvx_sigmoid_f32_aa HVX intrinsics
- softplus: log(1 + exp(x)) scalar fallback
- CONT reuses the existing CPY infrastructure since making a tensor
contiguous is equivalent to a same-type copy.
- REPEAT implements tiled memory copy with multi-threaded execution via
the worker pool, supporting f32 and f16 types. The kernel parallelizes
across output rows and uses memcpy for each tile.
Co-authored-by: Max Krasnyansky maxk@qti.qualcomm.com
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu x64 (ROCm 7.2)
- Ubuntu s390x (CPU)
- Ubuntu x64 (OpenVINO)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)

https://github.com/ggml-org/llama.cpp/releases/tag/b8400

Tagi

Udostępnij