У спісе 1 версія праграмы Tokenizer — ад 29 снежня 2025 г. да бягучай версіі 1.3.3. Кожная версія вядзе на ўсталёўшчыкі з сервера распрацоўшчыка.
| Версія | Дата | Памер | Файлы |
|---|---|---|---|
| 1.3.3Апошняя | 29 снежня 2025 г. | — | 64-біт ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
У спісе 1 версія праграмы Tokenizer — ад 29 снежня 2025 г. да бягучай версіі 1.3.3. Кожная версія вядзе на ўсталёўшчыкі з сервера распрацоўшчыка.
| Версія | Дата | Памер | Файлы |
|---|---|---|---|
| 1.3.3Апошняя | 29 снежня 2025 г. | — | 64-біт ZIP |