लोकप्रिय: डेटा अपडेट: २६ ऑक्टोबर, २०२६

श्रेण्या

इंटरनेट१,३५५
संवाद३२१
ऑडिओ आणि व्हिडिओ८९८
ग्राफिक्स आणि डिझाइन५३९
ऑफिस आणि प्रॉडक्टिव्हिटी१,१२०
डेव्हलपर टूल्स३,१३२
AI टूल्स५२७
सिक्युरिटी आणि प्रायव्हसी३८५
सिस्टम टूल्स३,११३
गेम्स५२३
शिक्षण आणि विज्ञान२३९
नेटवर्क आणि IT२८४

llama.cpp b7931 डाउनलोड करा

LLM inference in C/C++

ही जुनी आवृत्ती आहे. नवीनतम आवृत्ती b9994 आहे. llama.cpp b9994 · रिलीज:

इन्स्टॉलर फाइल्स b7931

आर्किटेक्चरप्रकारकोणासाठीफाइल आकारडाउनलोडSHA256
64-बिट ZIP → पोर्टेबल — — github.com VirusTotal

लिंक आणि SHA256 हे Windows Package Manager च्या कम्युनिटी मॅनिफेस्टमधून घेतले आहेत. फाइल चालवण्यापूर्वी तिचा हॅश जुळवून पाहा.

रिलीज नोट्स

ggml-virtgpu: make the code thread safe (#19204)
- ggml-virtgpu: regenerate_remoting.py: add the ability to deprecate a function
- ggml-virtgpu: deprecate buffer_type is_host remoting
not necessary
- ggml-virtgpu: stop using static vars as cache
The static init isn't thread safe.
- ggml-virtgpu: protect the use of the shared memory to transfer data
- ggml-virtgpu: make the remote calls thread-safe
- ggml-virtgpu: backend: don't continue if couldn't allocate the tensor memory
- ggml-virtgpu: add a cleanup function for consistency
- ggml-virtgpu: backend: don't crash if buft->iface.get_max_size is missing
- fix style and ordering
- Remove the static variable in apir_device_get_count
- ggml-virtgpu: improve the logging
- fix review minor formatting changes
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu s390x (CPU)
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.1 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL)
- Windows x64 (HIP)
openEuler:
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)

https://github.com/ggml-org/llama.cpp/releases/tag/b7931

टॅग

शेअर करा