LLM inference in C/C++
ਪ੍ਰਕਾਸ਼ਕ ਦਾ ਵੇਰਵਾ (ਅੰਗਰੇਜ਼ੀ)
llama.cpp ਕੀ ਹੈ?
llama.cpp Windows ਲਈ ggml ਦਾ ਇੱਕ ਓਪਨ ਸੋਰਸ ਪ੍ਰੋਗਰਾਮ ਹੈ। ਇਹ ਸੀ++, ਸੀ ਪ੍ਰੋਗਰਾਮਿੰਗ ਭਾਸ਼ਾ ਅਤੇ ਪਾਈਥਨ ਵਿੱਚ ਲਿਖਿਆ ਗਿਆ ਹੈ। Windows ਤੋਂ ਇਲਾਵਾ ਇਹ ਲੀਨਕਸ, ਮੈਕਓਐਸ, ਮਾਈਕ੍ਰੋਸਾਫ਼ਟ ਵਿੰਡੋਜ਼ ਅਤੇ FreeBSD ਲਈ ਵੀ ਮਿਲਦਾ ਹੈ।
ਇੰਸਟਾਲੇਸ਼ਨ ਅਤੇ ਸਿਸਟਮ ਲੋੜਾਂ
64-ਬਿੱਟ ਲਈ ਅਧਿਕਾਰਤ ਇੰਸਟਾਲਰ ਮੌਜੂਦ ਹਨ (ਪੋਰਟੇਬਲ)। ਇਸ ਨੂੰ ਇੰਸਟਾਲ ਕੀਤੇ ਬਿਨਾਂ ਚਲਾਇਆ ਜਾ ਸਕਦਾ ਹੈ (ਪੋਰਟੇਬਲ)।
ਅੱਪਡੇਟ ਅਤੇ ਵਰਜ਼ਨ ਇਤਿਹਾਸ
ਮੌਜੂਦਾ ਵਰਜ਼ਨ b9994 ਹੈ, ਜੋ 14 ਜੁਲਾਈ 2026 ਨੂੰ ਰਿਲੀਜ਼ ਹੋਇਆ। 15 ਜੁਲਾਈ 2026 ਤੋਂ ਹੁਣ ਤੱਕ ਦੇ 436 ਵਰਜ਼ਨ ਇੱਥੇ ਦਰਜ ਹਨ, ਹਰ ਇੱਕ ਦੀਆਂ ਆਪਣੀਆਂ ਇੰਸਟਾਲਰ ਫ਼ਾਈਲਾਂ ਦੇ ਲਿੰਕਾਂ ਨਾਲ। ਭਾਵ ਹਰ ਸਾਲ ਲਗਭਗ 303 ਰਿਲੀਜ਼ਾਂ।
ਮਸ਼ਹੂਰੀ ਅਤੇ ਫ਼ਾਈਲ ਕਿਸਮਾਂ
GitHub ਉੱਤੇ ਇਸ ਦੇ ਸੋਰਸ ਕੋਡ (ggml-org/llama.cpp) ਨੂੰ 1,31,998 ਸਟਾਰ ਮਿਲੇ ਹਨ। ਸਾਡੀਆਂ ਭਾਸ਼ਾਵਾਂ ਵਿੱਚੋਂ 7 ਵਿੱਚ ਇਸ ਬਾਰੇ Wikipedia ਲੇਖ ਮੌਜੂਦ ਹੈ।
GitHub ਉੱਤੇ ਪ੍ਰੋਜੈਕਟ ਦਾ ਵੇਰਵਾ: “LLM inference in C/C++”
ਖ਼ੂਬੀਆਂ / ਕਮੀਆਂ
ਖ਼ੂਬੀਆਂ
- ਓਪਨ ਸੋਰਸ: ਕੋਈ ਵੀ ਇਸ ਦਾ ਕੋਡ ਦੇਖ ਅਤੇ ਬਿਲਡ ਕਰ ਸਕਦਾ ਹੈ
- ਪੋਰਟੇਬਲ: ਇੰਸਟਾਲ ਕੀਤੇ ਬਿਨਾਂ ਚੱਲਦਾ ਹੈ
- ਵਾਰ-ਵਾਰ ਅੱਪਡੇਟ (ਸਾਲ ਵਿੱਚ ਲਗਭਗ 303)
- ਲੀਨਕਸ, ਮੈਕਓਐਸ ਅਤੇ ਮਾਈਕ੍ਰੋਸਾਫ਼ਟ ਵਿੰਡੋਜ਼ ਉੱਤੇ ਵੀ ਚੱਲਦਾ ਹੈ
- ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਯੂਜ਼ਰ
ਕਮੀਆਂ
- ਨੇਟਿਵ ARM64 ਬਿਲਡ ਨਹੀਂ ਹੈ
ਸੰਖੇਪ ਵਿੱਚ: llama.cpp 64-ਬਿੱਟ PC ਲਈ ਇੱਕ ਓਪਨ ਸੋਰਸ Windows ਟੂਲ ਹੈ। ਇਸ ਨੂੰ ਬਾਕਾਇਦਾ ਅੱਪਡੇਟ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
ਕੀ llama.cpp ਡਾਊਨਲੋਡ ਕਰਨਾ ਸੁਰੱਖਿਅਤ ਹੈ?
- ਫ਼ਾਈਲ github.com ਤੋਂ ਆਉਂਦੀ ਹੈ, ਜੋ ਪ੍ਰਕਾਸ਼ਕ ਦਾ ਆਪਣਾ ਡੋਮੇਨ ਹੈ
- ਡਾਊਨਲੋਡ ਲਿੰਕ HTTPS ਵਰਤਦਾ ਹੈ
- SHA256 ਹੈਸ਼ ਪ੍ਰਕਾਸ਼ਿਤ ਹੈ, ਇਸ ਲਈ ਤੁਸੀਂ ਫ਼ਾਈਲ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹੋ:
E21E93ED9E7A65682AC562CA48F97F7D0158DA4826E617613F22F417548CF59F· ਇਸ ਹੈਸ਼ ਦੀ VirusTotal ਰਿਪੋਰਟ ਖੋਲ੍ਹੋ - ਲਿੰਕ ਅਜੇ ਜਾਂਚਿਆ ਨਹੀਂ ਗਿਆ
- ਸੋਰਸ ਕੋਡ ਜਨਤਕ ਹੈ
- ExeAtlas ਇੰਸਟਾਲਰ ਨੂੰ ਨਾ ਹੋਸਟ ਕਰਦਾ ਹੈ, ਨਾ ਰੈਪ ਕਰਦਾ ਹੈ, ਨਾ ਬਦਲਦਾ ਹੈ
ਸੰਬੰਧਿਤ ਗਾਈਡ: Windows ਉੱਤੇ ਫ਼ਾਈਲ ਦਾ SHA256 ਹੈਸ਼ ਕਿਵੇਂ ਚੈੱਕ ਕਰੀਏ
ਹਾਲੀਆ ਵਰਜ਼ਨ
ਸਾਰੇ 436 ਵਰਜ਼ਨ ›1 ਸਾਲਾਂ ਵਿੱਚ 436 ਵਰਜ਼ਨ · ਹਰ ਸਾਲ ਲਗਭਗ 303
| ਵਰਜ਼ਨ | ਤਾਰੀਖ਼ | ਆਕਾਰ | ਫ਼ਾਈਲਾਂ |
|---|---|---|---|
| b9994ਨਵਾਂ ਵਰਜ਼ਨ | 14 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
| b9982 | 13 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
| b9969 | 12 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
| b9957 | 10 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
| b9947 | 10 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
| b9935 | 9 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
| b9910 | 8 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
| b9893 | 7 ਜੁਲਾਈ 2026 | — | 64-ਬਿੱਟ ZIP |
ਕਮਾਂਡ ਲਾਈਨ ਤੋਂ ਇੰਸਟਾਲ ਕਰੋ
ਸਾਈਲੈਂਟ ਇੰਸਟਾਲ ›winget install --id ggml.llamacpp -eਸੰਬੰਧਿਤ ਗਾਈਡ: winget ਕਿਵੇਂ ਵਰਤੀਏ: ਐਪਾਂ ਇੰਸਟਾਲ ਅਤੇ ਅੱਪਡੇਟ ਕਰੋ
ਜਾਣਕਾਰੀ
- ਪ੍ਰਕਾਸ਼ਕ
- ggml
- ਲਾਇਸੈਂਸ
- MIT
- ਕੀਮਤ
- ਮੁਫ਼ਤ
- ਸੋਰਸ ਕੋਡ
- github.com/ggml-org/llama.cpp
- ਪ੍ਰੋਗਰਾਮਿੰਗ ਭਾਸ਼ਾ
- ਸੀ++, ਸੀ ਪ੍ਰੋਗਰਾਮਿੰਗ ਭਾਸ਼ਾ ਅਤੇ ਪਾਈਥਨ
- ਲੋੜੀਂਦਾ ਸਿਸਟਮ
- Windows 11 / 10
- ਆਰਕੀਟੈਕਚਰ
- 64-ਬਿੱਟ
- ਇੰਸਟਾਲਰ
- ਪੋਰਟੇਬਲ
- ਹੋਰ ਪਲੇਟਫ਼ਾਰਮ
- ਲੀਨਕਸ, ਮੈਕਓਐਸ, ਮਾਈਕ੍ਰੋਸਾਫ਼ਟ ਵਿੰਡੋਜ਼, FreeBSD
- ਵਰਜ਼ਨ
- b9994
- ਰਿਲੀਜ਼
- 14 ਜੁਲਾਈ 2026
- ਕੈਟਾਲਾਗ ਵਿੱਚ ਜੋੜੀ ਗਈ
- 21 ਮਈ 2025
- ਦਰਜ ਵਰਜ਼ਨ
- 436
- ਅੱਪਡੇਟ / ਸਾਲ
- 303.3
- GitHub ਸਟਾਰ
- 1,31,998
- GitHub ਫ਼ੋਰਕ
- 24,671
- ਵੈੱਬਸਾਈਟ
- github.com
- winget ID
- ggml.llamacpp
ਰੇਟਿੰਗ ਅਤੇ ਰਿਵਿਊ
ਅਜੇ ਕੋਈ ਰਿਵਿਊ ਨਹੀਂ ਹੈ। ਸਭ ਤੋਂ ਪਹਿਲਾਂ ਰੇਟਿੰਗ ਦਿਓ।
ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ
ਕੀ llama.cpp ਮੁਫ਼ਤ ਹੈ?
ਹਾਂ। llama.cpp ਓਪਨ ਸੋਰਸ ਸਾਫ਼ਟਵੇਅਰ ਹੈ (MIT ਲਾਇਸੈਂਸ)।
ਕੀ llama.cpp ਡਾਊਨਲੋਡ ਕਰਨਾ ਸੁਰੱਖਿਅਤ ਹੈ?
ਫ਼ਾਈਲ github.com ਤੋਂ ਡਾਊਨਲੋਡ ਹੁੰਦੀ ਹੈ, ਜੋ ਪ੍ਰਕਾਸ਼ਕ ਦਾ ਆਪਣਾ ਹੈ; ExeAtlas ਫ਼ਾਈਲ ਨੂੰ ਨਾ ਹੋਸਟ ਕਰਦਾ ਹੈ, ਨਾ ਬਦਲਦਾ ਹੈ। ਡਾਊਨਲੋਡ ਕੀਤੀ ਫ਼ਾਈਲ ਦਾ SHA256 ਹੈਸ਼ ਇੱਥੇ ਦਿਖਾਏ ਹੈਸ਼ ਨਾਲ ਮਿਲਾਓ, ਜਾਂ ਉਸ ਹੈਸ਼ ਦੀ VirusTotal ਰਿਪੋਰਟ ਖੋਲ੍ਹੋ।
winget ਨਾਲ llama.cpp ਕਿਵੇਂ ਇੰਸਟਾਲ ਕਰੀਏ?
PowerShell ਜਾਂ Windows Terminal ਖੋਲ੍ਹੋ ਅਤੇ ਇਸ ਪੰਨੇ ਉੱਤੇ ਦਿੱਤੀ winget ਕਮਾਂਡ ਚਲਾਓ। winget ਅਧਿਕਾਰਤ ਇੰਸਟਾਲਰ ਡਾਊਨਲੋਡ ਕਰਦਾ ਹੈ ਅਤੇ ਚਲਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਉਸ ਦਾ SHA256 ਹੈਸ਼ ਜਾਂਚਦਾ ਹੈ।
ਕੀ llama.cpp ARM (Windows on Arm) ਉੱਤੇ ਚੱਲਦਾ ਹੈ?
ARM64 ਬਿਲਡ ਨਹੀਂ ਹੈ; Windows 11 on Arm ਉੱਤੇ 64-ਬਿੱਟ ਵਰਜ਼ਨ ਇਮੂਲੇਸ਼ਨ ਰਾਹੀਂ ਚੱਲ ਸਕਦਾ ਹੈ।
llama.cpp ਦਾ ਪੁਰਾਣਾ ਵਰਜ਼ਨ ਕਿੱਥੋਂ ਡਾਊਨਲੋਡ ਕਰੀਏ?
ਵਰਜ਼ਨ ਪੰਨੇ ਉੱਤੇ 15 ਜੁਲਾਈ 2026 ਤੋਂ ਹੁਣ ਤੱਕ ਦੇ ਸਾਰੇ 436 ਵਰਜ਼ਨ ਉਹਨਾਂ ਦੀਆਂ ਅਧਿਕਾਰਤ ਇੰਸਟਾਲਰ ਫ਼ਾਈਲਾਂ ਦੇ ਲਿੰਕਾਂ ਨਾਲ ਦਿੱਤੇ ਗਏ ਹਨ।
ਕੀ llama.cpp ਨੂੰ ਐਡਮਿਨਿਸਟ੍ਰੇਟਰ ਅਧਿਕਾਰਾਂ ਤੋਂ ਬਿਨਾਂ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ?
ਹਾਂ, ਇਹ ਪੋਰਟੇਬਲ ਹੈ: ਫ਼ਾਈਲ ਅਨਪੈਕ ਕਰੋ ਅਤੇ ਚਲਾਓ।