Toto je starší verze. Nejnovější verze je 0.5.17. Harbor 0.5.17 · Datum vydání:
Instalační soubory 0.3.4
| Architektura | Typ | Pro koho | Velikost souboru | Stáhnout | SHA256 |
|---|---|---|---|---|---|
| 64bit | EXE (NSIS) | Aktuální uživatel | — | github.com | VirusTotal |
| 64bit | MSI | Všichni uživatelé | — | github.com | VirusTotal |
Odkaz a SHA256 pocházejí z komunitního manifestu Windows Package Manageru. Před spuštěním porovnejte hash staženého souboru.
Seznam změn
llama-swap
llama-swap is a lightweight, transparent proxy server that provides automatic model swapping to llama.cpp's server.
# [Optional] pre-pull the image
harbor pull llamaswap
# Edit the swap config
open $(harbor home)/llamaswap/config.yaml
# Run the service
harbor up llamaswap
Misc
- boost
- docs revamp
- fixing plain proxy without modules
- tgi - HF cache normalised
- raglite - adding missing traefik config
Full Changelog: https://github.com/av/harbor/compare/v0.3.3...v0.3.4
