እዚህ 1 የTokenizer ስሪቶች ተዘርዝረዋል፤ ከ29 ዲሴምበር 2025 እስከ አሁኑ 1.3.3 ድረስ። እያንዳንዱ ወደ አሳታሚው የራሱ የመጫኛ ፋይሎች ያገናኛል።
| ስሪት | ቀን | መጠን | ፋይሎች |
|---|---|---|---|
| 1.3.3የቅርብ ጊዜ ስሪት | 29 ዲሴምበር 2025 | — | 64-bit ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
እዚህ 1 የTokenizer ስሪቶች ተዘርዝረዋል፤ ከ29 ዲሴምበር 2025 እስከ አሁኑ 1.3.3 ድረስ። እያንዳንዱ ወደ አሳታሚው የራሱ የመጫኛ ፋይሎች ያገናኛል።
| ስሪት | ቀን | መጠን | ፋይሎች |
|---|---|---|---|
| 1.3.3የቅርብ ጊዜ ስሪት | 29 ዲሴምበር 2025 | — | 64-bit ZIP |