Популярное: Данные обновлены: 27 октября 2026 г.

Категории

Интернет1 356
Общение321
Аудио и видео898
Графика и дизайн539
Офис и продуктивность1 124
Разработка3 134
Нейросети и ИИ529
Безопасность385
Системные программы3 114
Игры523
Образование и наука239
Сеть и IT284

Скачать llama.cpp b8400

LLM inference in C/C++

Это старая версия. Последняя версия — b9994. llama.cpp b9994 · Дата выхода:

Файлы установки b8400

АрхитектураТипДля когоРазмер файлаСкачатьSHA256
64-бит ZIP → Портативная — — github.com VirusTotal

Ссылка и SHA256 взяты из манифеста сообщества Windows Package Manager. Перед запуском сравните хеш скачанного файла.

Список изменений

hexagon: add neg, exp, sigmoid, softplus ops, cont, repeat ops (#20701)
Add element-wise unary ops needed by Qwen 3.5's DeltaNet linear
attention layers. These ops follow the existing unary-ops pattern
with VTCM DMA double-buffering.
- neg: negate via scale by -1.0
- exp: uses existing hvx_exp_f32 HVX intrinsics
- sigmoid: uses existing hvx_sigmoid_f32_aa HVX intrinsics
- softplus: log(1 + exp(x)) scalar fallback
- CONT reuses the existing CPY infrastructure since making a tensor
contiguous is equivalent to a same-type copy.
- REPEAT implements tiled memory copy with multi-threaded execution via
the worker pool, supporting f32 and f16 types. The kernel parallelizes
across output rows and uses memcpy for each tile.
Co-authored-by: Max Krasnyansky maxk@qti.qualcomm.com
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu x64 (ROCm 7.2)
- Ubuntu s390x (CPU)
- Ubuntu x64 (OpenVINO)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)

https://github.com/ggml-org/llama.cpp/releases/tag/b8400

Теги

Поделиться