Hier is 1 weergawes van Tokenizer gelys, van 29 Desember 2025 tot die huidige 1.3.3. Elkeen skakel na die uitgewer se eie installeerlêers.
| Weergawe | Datum | Grootte | Lêers |
|---|---|---|---|
| 1.3.3Nuutste | 29 Desember 2025 | — | 64-bis ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
Hier is 1 weergawes van Tokenizer gelys, van 29 Desember 2025 tot die huidige 1.3.3. Elkeen skakel na die uitgewer se eie installeerlêers.
| Weergawe | Datum | Grootte | Lêers |
|---|---|---|---|
| 1.3.3Nuutste | 29 Desember 2025 | — | 64-bis ZIP |