Ez egy régebbi verzió. A legújabb verzió: b9994. llama.cpp b9994 · Megjelenés:
Telepítőfájlok b7964
| Architektúra | Típus | Hatókör | Fájlméret | Letöltés | SHA256 |
|---|---|---|---|---|---|
| 64 bites | ZIP → Hordozható | — | — | github.com | VirusTotal |
A hivatkozás és az SHA256 a Windows Package Manager közösségi manifestjéből származik. Futtatás előtt érdemes összevetni a letöltött fájl ellenőrzőösszegével.
Kiadási megjegyzések
model : support Step3.5-Flash (#19283)
- Support Step3.5-Flash
- fix: norm.weight + 1 (HF zero_centered=true)
- step35: simplify GGUF conversion + drop redundant rope KVs
- Address review feedback
- rename limits -> clamp
- Apply suggestions from code review
Co-authored-by: Sigbjørn Skjæret sigbjorn.skjaeret@scala.com
- Apply suggestion from @CISC
Co-authored-by: Sigbjørn Skjæret sigbjorn.skjaeret@scala.com
- rename swiglu limits -> swiglu clamp in LLM_KV
- avoid CI fail
- Apply suggestions from code review
- Apply suggestions from code review
- disabled KV shifting for LLM_ARCH_STEP35
- Apply suggestions from code review
- mistakenly removed cmath
- add model size && apply missed suggestion
- assert partial_rotary_factors
- fix CI errors:
- load freq_base_swa
Co-authored-by: lvyichen lvyichen@stepfun.com
Co-authored-by: Sigbjørn Skjæret sigbjorn.skjaeret@scala.com
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu s390x (CPU)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)