Siin on programmi Tokenizer 1 versioon: esimene avaldatud 29. detsember 2025, praegune versioon on 1.3.3. Iga versioon viitab väljaandja enda paigaldusfailidele.
| Versioon | Kuupäev | Suurus | Failid |
|---|---|---|---|
| 1.3.3Uusim | 29. detsember 2025 | — | 64-bitine ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
Siin on programmi Tokenizer 1 versioon: esimene avaldatud 29. detsember 2025, praegune versioon on 1.3.3. Iga versioon viitab väljaandja enda paigaldusfailidele.
| Versioon | Kuupäev | Suurus | Failid |
|---|---|---|---|
| 1.3.3Uusim | 29. detsember 2025 | — | 64-bitine ZIP |