مقبول: ڈیٹا اپ ڈیٹ: 26 اکتوبر، 2026

زمرے

انٹرنیٹ1,355
رابطہ321
آڈیو اور ویڈیو898
گرافکس اور ڈیزائن539
آفس اور پروڈکٹیویٹی1,120
ڈویلپر ٹولز3,132
AI ٹولز527
سیکیورٹی اور پرائیویسی385
سسٹم ٹولز3,113
گیمز523
تعلیم اور سائنس239
نیٹ ورک اور IT284

llama.cpp b7964 ڈاؤن لوڈ

LLM inference in C/C++

یہ پرانا ورژن ہے۔ موجودہ ورژن b9994 ہے۔ llama.cpp b9994 · تاریخِ اجرا:

انسٹالر فائلیں b7964

آرکیٹیکچرقسمدائرہفائل کا سائزڈاؤن لوڈSHA256
64 بٹ ZIP → پورٹیبل — — github.com VirusTotal

لنک اور SHA256 Windows Package Manager کے کمیونٹی مینی فیسٹ سے لیے گئے ہیں۔ ڈاؤن لوڈ شدہ فائل چلانے سے پہلے اس کا ہیش ملا لیں۔

ریلیز نوٹس

model : support Step3.5-Flash (#19283)
- Support Step3.5-Flash
- fix: norm.weight + 1 (HF zero_centered=true)
- step35: simplify GGUF conversion + drop redundant rope KVs
- Address review feedback
- rename limits -> clamp
- Apply suggestions from code review
Co-authored-by: Sigbjørn Skjæret sigbjorn.skjaeret@scala.com
- Apply suggestion from @CISC
Co-authored-by: Sigbjørn Skjæret sigbjorn.skjaeret@scala.com
- rename swiglu limits -> swiglu clamp in LLM_KV
- avoid CI fail
- Apply suggestions from code review
- Apply suggestions from code review
- disabled KV shifting for LLM_ARCH_STEP35
- Apply suggestions from code review
- mistakenly removed cmath
- add model size && apply missed suggestion
- assert partial_rotary_factors
- fix CI errors:
- load freq_base_swa
Co-authored-by: lvyichen lvyichen@stepfun.com
Co-authored-by: Sigbjørn Skjæret sigbjorn.skjaeret@scala.com
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu s390x (CPU)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)

https://github.com/ggml-org/llama.cpp/releases/tag/b7964

ٹیگز

شیئر کریں