مقبول: ڈیٹا اپ ڈیٹ: 26 اکتوبر، 2026

زمرے

انٹرنیٹ1,355
رابطہ321
آڈیو اور ویڈیو898
گرافکس اور ڈیزائن539
آفس اور پروڈکٹیویٹی1,120
ڈویلپر ٹولز3,132
AI ٹولز527
سیکیورٹی اور پرائیویسی385
سسٹم ٹولز3,113
گیمز523
تعلیم اور سائنس239
نیٹ ورک اور IT284

llama.cpp b8400 ڈاؤن لوڈ

LLM inference in C/C++

یہ پرانا ورژن ہے۔ موجودہ ورژن b9994 ہے۔ llama.cpp b9994 · تاریخِ اجرا:

انسٹالر فائلیں b8400

آرکیٹیکچرقسمدائرہفائل کا سائزڈاؤن لوڈSHA256
64 بٹ ZIP → پورٹیبل — — github.com VirusTotal

لنک اور SHA256 Windows Package Manager کے کمیونٹی مینی فیسٹ سے لیے گئے ہیں۔ ڈاؤن لوڈ شدہ فائل چلانے سے پہلے اس کا ہیش ملا لیں۔

ریلیز نوٹس

hexagon: add neg, exp, sigmoid, softplus ops, cont, repeat ops (#20701)
Add element-wise unary ops needed by Qwen 3.5's DeltaNet linear
attention layers. These ops follow the existing unary-ops pattern
with VTCM DMA double-buffering.
- neg: negate via scale by -1.0
- exp: uses existing hvx_exp_f32 HVX intrinsics
- sigmoid: uses existing hvx_sigmoid_f32_aa HVX intrinsics
- softplus: log(1 + exp(x)) scalar fallback
- CONT reuses the existing CPY infrastructure since making a tensor
contiguous is equivalent to a same-type copy.
- REPEAT implements tiled memory copy with multi-threaded execution via
the worker pool, supporting f32 and f16 types. The kernel parallelizes
across output rows and uses memcpy for each tile.
Co-authored-by: Max Krasnyansky maxk@qti.qualcomm.com
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu x64 (ROCm 7.2)
- Ubuntu s390x (CPU)
- Ubuntu x64 (OpenVINO)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)

https://github.com/ggml-org/llama.cpp/releases/tag/b8400

ٹیگز

شیئر کریں