llama.cpp یک نرم‌افزار متن‌باز و یک کتابخانه نرم‌افزاری است که استنتاج را بر روی انواع مختلف مدل‌های زبانی بزرگ مانند لاما انجام می‌دهد. این پروژه به‌صورت مشترک و هم‌زمان با پروژه GGML، که یک کتابخانه تنسور همه‌منظوره است، توسعه داده می‌شود.
ابزارهای خط فرمان همراه با این کتابخانه ارائه شده‌اند، و همچنین یک سرور وب با یک رابط کاربری وب ساده نیز در اختیار قرار می‌گیرد.
در اواخر سپتامبر ۲۰۲۲، گئورگی گِرگانوف کار بر روی کتابخانه GGML را آغاز کرد. این کتابخانه، به زبان C نوشته شده بود و جبر تنسوری را پیاده‌سازی می‌کند. گِرگانوف این کتابخانه را با هدف مدیریت سخت‌گیرانه حافظه و پشتیبانی از چندریسمانی توسعه داد. ایجاد GGML از کارهای فابریس بلارد بر روی LibNC الهام گرفته بود.
پیش از llama.cpp، گِرگانوف بر روی کتابخانه‌ای مشابه با نام whisper.cpp کار می‌کرد که ویسپر، یعنی یک مدل تبدیل گفتار به متن ساخته اوپن‌ای‌آی را پیاده‌سازی می‌کرد.
توسعه llama.cpp در مارس ۲۰۲۳ ابتدا توسط گئورگی گِرگانوف به عنوان پیاده‌سازی کد استنتاج لاما در زبان C/C++ خالص و بدون وابستگی آغاز شد. این رویکرد عملکرد اسنتنتاج را در رایانه‌هایی که فاقد جی‌پی‌یو یا سخت‌افزارهای تخصصی دیگر بودند، بهبود داد. این رویکرد هدف اصلی پروژه بود. llama.cpp در میان کاربرانی که سخت‌افزار تخصصی نداشتند، از جمله بر روی دستگاه‌های اندرویدی محبوبیت یافت، زیرا می‌توانست تنها بر روی سی‌پی‌یو اجرا شود. . در حالی که این پروژه در ابتدا برای سی‌پی‌یو طراحی شده بود، پشتیبانی از استنتاج بر روی جی‌پی‌یو نیز بعدها افزوده شد. تا اوت ۲۰۲۵، این
llama.cpp چیست؟
llama.cpp یک نرم‌افزار متن‌باز برای ویندوز از ggml است. به زبان سی++، سی، و پایتون نوشته شده است. علاوه بر ویندوز، برای لینوکس، مک‌اواس، مایکروسافت ویندوز و فری‌بی‌اس‌دی هم در دسترس است.
نصب و پیش‌نیازها
فایل‌های نصب رسمی برای ۶۴ بیتی در قالب پرتابل موجود است. بدون نصب اجرا می‌شود (نسخه پرتابل).
به‌روزرسانی‌ها و تاریخچه نسخه‌ها
نسخه فعلی b9994 است که در ۲۳ تیر ۱۴۰۵ منتشر شد. ۴۳۸ نسخه از ۲۴ تیر ۱۴۰۵ به این سو فهرست شده است و هر کدام لینک فایل‌های نصب خود را دارد. یعنی حدود ۳۰۳ نسخه در سال.
محبوبیت و انواع فایل
کد منبع آن در GitHub (ggml-org/llama.cpp) ۱۳۱٬۹۹۸ ستاره دارد. ویکی‌پدیا به ۷ زبان از زبان‌های این سایت درباره آن مقاله دارد.
توضیح پروژه در GitHub: “LLM inference in C/C++”
نقاط قوت / نقاط ضعف
نقاط قوت
- متن‌باز: هر کسی می‌تواند کد را بررسی و کامپایل کند
- پرتابل: بدون نصب اجرا می‌شود
- به‌روزرسانی‌های مکرر (حدود ۳۰۳ بار در سال)
- اجرا روی لینوکس، مک‌اواس و مایکروسافت ویندوز نیز
- کاربران فراوان
نقاط ضعف
- بدون نسخه بومی ARM64
به طور خلاصه: llama.cpp ابزاری متن‌باز برای ویندوز برای رایانه‌های ۶۴ بیتی است. به‌طور فعال نگه‌داری می‌شود.
آیا دانلود llama.cpp امن است؟
- فایل از github.com، دامنه خود ناشر، ارائه می‌شود
- لینک دانلود از HTTPS استفاده می‌کند
- هش SHA256 منتشر شده است و می‌توانید فایل را بررسی کنید:
E21E93ED9E7A65682AC562CA48F97F7D0158DA4826E617613F22F417548CF59F· گزارش VirusTotal این هش را باز کنید - لینک هنوز بررسی نشده است
- کد منبع عمومی است
- ExeAtlas فایل‌های نصب را میزبانی، بسته‌بندی یا تغییر نمی‌دهد
آموزش مرتبط: بررسی هش SHA256 فایل در ویندوز
نسخه‌های اخیر
همه ۴۳۸ نسخه ›۴۳۸ نسخه در ۱ سال · حدود ۳۰۳ نسخه در سال
| نسخه | تاریخ | حجم | فایل‌ها |
|---|---|---|---|
| b9994آخرین | ۲۳ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
| b9982 | ۲۲ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
| b9969 | ۲۱ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
| b9957 | ۱۹ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
| b9947 | ۱۹ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
| b9935 | ۱۸ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
| b9910 | ۱۷ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
| b9893 | ۱۶ تیر ۱۴۰۵ | — | ۶۴ بیتی ZIP |
نصب از خط فرمان
نصب بی‌صدا ›winget install --id ggml.llamacpp -eآموزش مرتبط: آموزش winget: نصب و به‌روزرسانی نرم‌افزار در ویندوز
اطلاعات
- ناشر
- ggml
- مجوز
- MIT
- قیمت
- رایگان
- کد منبع
- github.com/ggml-org/llama.cpp
- زبان برنامه‌نویسی
- سی++، سی، و پایتون
- پیش‌نیاز
- Windows 11 / 10
- معماری
- ۶۴ بیتی
- نوع نصب‌کننده
- پرتابل
- سایر پلتفرم‌ها
- لینوکس, مک‌اواس, مایکروسافت ویندوز, فری‌بی‌اس‌دی
- نسخه
- b9994
- تاریخ انتشار
- ۲۳ تیر ۱۴۰۵
- تاریخ افزودن به فهرست
- ۳۱ اردیبهشت ۱۴۰۴
- نسخه‌های فهرست‌شده
- 438
- به‌روزرسانی در سال
- ۳۰۳
- ستاره‌های GitHub
- ۱۳۱٬۹۹۸
- فورک‌های GitHub
- ۲۴٬۶۷۱
- وب‌سایت رسمی
- github.com
- شناسه winget
- ggml.llamacpp
امتیازها و نظرها
هنوز نظری ثبت نشده است. نخستین امتیاز را شما بدهید.
پرسش‌های متداول
آیا llama.cpp رایگان است؟
بله. llama.cpp نرم‌افزاری متن‌باز با مجوز MIT است.
آیا دانلود llama.cpp امن است؟
فایل از github.com که متعلق به خود ناشر است دانلود می‌شود؛ ExeAtlas فایل را میزبانی یا تغییر نمی‌دهد. هش SHA256 فایل را با هش نمایش‌داده‌شده در این صفحه مقایسه کنید یا گزارش VirusTotal همین هش را باز کنید.
چگونه llama.cpp را با winget نصب کنیم؟
PowerShell یا Windows Terminal را باز کنید و دستور winget نمایش‌داده‌شده در این صفحه را اجرا کنید. winget فایل نصب رسمی را دانلود می‌کند و پیش از اجرا، هش SHA256 آن را بررسی می‌کند.
آیا llama.cpp روی ARM (Windows on Arm) اجرا می‌شود؟
نسخه ARM64 وجود ندارد؛ Windows 11 on Arm می‌تواند نسخه ۶۴ بیتی را با شبیه‌سازی اجرا کند.
نسخه‌های قدیمی llama.cpp را از کجا دانلود کنیم؟
صفحه نسخه‌ها همه ۴۳۸ نسخه را تا ۲۴ تیر ۱۴۰۵ با لینک فایل‌های نصب رسمی فهرست می‌کند.
آیا می‌توان از llama.cpp بدون دسترسی مدیر استفاده کرد؟
بله، نسخه پرتابل است: آن را از حالت فشرده خارج و اجرا کنید.