llama.cpp는 LLaMA와 같은 다양한 대형 언어 모델에 대해 추론을 수행하는 오픈 소스 소프트웨어 라이브러리이다. 범용 텐서 라이브러리인 GGML 프로젝트와 함께 공동 개발되었다.
라이브러리에는 간단한 웹 인터페이스가 있는 서버와 함께 명령줄 도구가 포함되어 있다.
GGUF(GGML Universal File) 파일 형식은 텐서와 메타데이터를 하나의 파일에 저장하는 바이너리 형식으로, 모델 데이터를 빠르게 저장하고 불러올 수 있도록 설계되었다. 다른 모델 아키텍처에 대한 지원이 추가됨에 따라 이전 버전과의 호환성을 더 잘 유지하기 위해 2023년 8월 llama.cpp 프로젝트에서 도입되었다. GGML과 같이 프로젝트에서 사용했던 이전 형식을 계승했다.
GGUF 파일은 일반적으로 PyTorch와 같은 다른 기계 학습 라이브러리로 개발된 모델을 변환하여 생성된다.
llama.cpp 소개
llama.cpp 프로그램은 ggml에서 배포하는 오픈 소스 Windows용 소프트웨어입니다. 개발 언어는 C++, C 및 파이썬입니다. Windows 외에 리눅스, macOS, 마이크로소프트 윈도우, FreeBSD에서도 사용할 수 있습니다.
설치 및 시스템 요구 사항
공식 설치 파일은 64비트용 포터블 형식으로 제공됩니다. 설치하지 않고 바로 실행할 수 있습니다(포터블).
업데이트 및 버전 기록
현재 최신 버전은 b9994이며, 2026년 7월 14일에 출시되었습니다. 2026년 7월 15일부터 436개 버전이 등록되어 있으며, 버전마다 공식 설치 파일 링크가 있습니다. 연평균 약 303회 업데이트된 셈입니다.
인기도 및 지원 파일 형식
GitHub에 공개된 소스 코드(ggml-org/llama.cpp)의 스타 수는 131,998개입니다. 이 사이트가 지원하는 언어 중 7개 언어로 위키백과 문서가 있습니다.
GitHub 프로젝트 설명: “LLM inference in C/C++”
장점 / 단점
장점
- 오픈 소스: 누구나 코드를 확인하고 빌드할 수 있음
- 포터블: 설치 없이 실행
- 잦은 업데이트(연 약 303회)
- 리눅스, macOS, 마이크로소프트 윈도우에서도 실행 가능
- 사용자층이 넓음
단점
- 네이티브 ARM64 버전 없음
요약: llama.cpp 프로그램은 64비트 PC에서 쓸 수 있는 오픈 소스 Windows 도구입니다. 꾸준히 업데이트되고 있습니다.
llama.cpp 다운로드는 안전한가요?
- 파일은 제공사 소유 도메인(github.com)에서 제공됩니다
- 다운로드 링크는 HTTPS를 사용합니다
- SHA256 해시가 공개되어 있어 파일을 검증할 수 있습니다:
E21E93ED9E7A65682AC562CA48F97F7D0158DA4826E617613F22F417548CF59F· 이 해시의 VirusTotal 보고서 열기 - 링크를 아직 확인하지 않았습니다
- 소스 코드가 공개되어 있습니다
- ExeAtlas는 설치 파일을 호스팅하거나 감싸거나 변경하지 않습니다
관련 가이드: Windows에서 SHA256 해시 확인하는 법
최근 버전
전체 436개 버전 ›1년 동안 436개 버전 · 연평균 약 303회
명령줄로 설치
무인 설치 ›winget install --id ggml.llamacpp -e관련 가이드: winget 사용법: 프로그램 설치와 업데이트
정보
- 제공사
- ggml
- 라이선스
- MIT
- 가격
- 무료
- 소스 코드
- github.com/ggml-org/llama.cpp
- 개발 언어
- C++, C 및 파이썬
- 요구 사항
- Windows 11 / 10
- 아키텍처
- 64비트
- 설치 파일
- 포터블
- 다른 플랫폼
- 리눅스, macOS, 마이크로소프트 윈도우, FreeBSD
- 버전
- b9994
- 출시일
- 2026년 7월 14일
- 카탈로그 등록일
- 2025년 5월 21일
- 등록된 버전
- 436
- 연간 업데이트
- 303.3
- GitHub 스타
- 131,998
- GitHub 포크
- 24,671
- 공식 웹사이트
- github.com
- winget ID
- ggml.llamacpp
평점 및 리뷰
아직 리뷰가 없습니다. 처음으로 평가해 보십시오.
자주 묻는 질문
llama.cpp 무료인가요?
네. 이 프로그램은 오픈 소스 소프트웨어입니다(MIT 라이선스).
llama.cpp 다운로드는 안전한가요?
파일은 github.com에서 내려받습니다. github.com은(는) 제공사 소유 도메인입니다. ExeAtlas는 파일을 호스팅하거나 변경하지 않습니다. 다운로드한 파일의 SHA256 해시를 이 페이지의 값과 비교하거나, 해당 해시의 VirusTotal 보고서를 확인하십시오.
llama.cpp winget으로 설치하는 방법은?
PowerShell이나 Windows 터미널을 열고 이 페이지에 있는 winget 명령어를 실행하십시오. winget은 공식 설치 파일을 내려받고 실행하기 전에 SHA256 해시를 검증합니다.
llama.cpp ARM(Windows on Arm)에서 실행되나요?
ARM64 버전은 없습니다. Windows 11 on Arm에서는 에뮬레이션으로 64비트 버전을 실행할 수 있습니다.
llama.cpp 이전 버전은 어디서 다운로드하나요?
버전 페이지에서 2026년 7월 15일 이후의 전체 436개 버전을 공식 설치 파일 링크와 함께 확인할 수 있습니다.
llama.cpp 관리자 권한 없이 사용할 수 있나요?
네. 포터블 버전이라 압축을 풀고 바로 실행하면 됩니다.