ఇక్కడ Tokenizer 1 వెర్షన్లు ఉన్నాయి, 29 డిసెంబర్, 2025 నుంచి ప్రస్తుత 1.3.3 వరకు. ప్రతి వెర్షన్ లింక్ ప్రచురణకర్త సొంత ఇన్స్టాలర్ ఫైల్లకే వెళ్తుంది.
| వెర్షన్ | తేదీ | సైజ్ | ఫైల్లు |
|---|---|---|---|
| 1.3.3తాజా | 29 డిసెంబర్, 2025 | — | 64-బిట్ ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
ఇక్కడ Tokenizer 1 వెర్షన్లు ఉన్నాయి, 29 డిసెంబర్, 2025 నుంచి ప్రస్తుత 1.3.3 వరకు. ప్రతి వెర్షన్ లింక్ ప్రచురణకర్త సొంత ఇన్స్టాలర్ ఫైల్లకే వెళ్తుంది.
| వెర్షన్ | తేదీ | సైజ్ | ఫైల్లు |
|---|---|---|---|
| 1.3.3తాజా | 29 డిసెంబర్, 2025 | — | 64-బిట్ ZIP |