लोकप्रिय: डेटा अपडेट: २६ ऑक्टोबर, २०२६

श्रेण्या

इंटरनेट१,३५५
संवाद३२१
ऑडिओ आणि व्हिडिओ८९८
ग्राफिक्स आणि डिझाइन५३९
ऑफिस आणि प्रॉडक्टिव्हिटी१,१२०
डेव्हलपर टूल्स३,१३२
AI टूल्स५२७
सिक्युरिटी आणि प्रायव्हसी३८५
सिस्टम टूल्स३,११३
गेम्स५२३
शिक्षण आणि विज्ञान२३९
नेटवर्क आणि IT२८४

llama.cpp b8606 डाउनलोड करा

LLM inference in C/C++

ही जुनी आवृत्ती आहे. नवीनतम आवृत्ती b9994 आहे. llama.cpp b9994 · रिलीज:

इन्स्टॉलर फाइल्स b8606

आर्किटेक्चरप्रकारकोणासाठीफाइल आकारडाउनलोडSHA256
64-बिट ZIP → पोर्टेबल — — github.com VirusTotal

लिंक आणि SHA256 हे Windows Package Manager च्या कम्युनिटी मॅनिफेस्टमधून घेतले आहेत. फाइल चालवण्यापूर्वी तिचा हॅश जुळवून पाहा.

रिलीज नोट्स

ggml-webgpu: port all AOT operators to JIT (#20728)
- port cpy pipeline to shader lib with JIT compilation
- port glu pipeline to shader lib with JIT compilation
- port rope pipeline to shader lib with JIT compilation
- port soft_max pipeline to shader lib with JIT compilation
- removed unused functions from embed_wgsl.py which were used for
old AOT template expansion
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu arm64 (CPU)
- Ubuntu s390x (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu arm64 (Vulkan)
- Ubuntu x64 (ROCm 7.2)
- Ubuntu x64 (OpenVINO)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)

https://github.com/ggml-org/llama.cpp/releases/tag/b8606

टॅग

शेअर करा