येथे Tokenizer च्या १ आवृत्ती आहेत, २९ डिसेंबर, २०२५ पासून सध्याच्या 1.3.3 पर्यंत. प्रत्येक आवृत्तीची लिंक प्रकाशकाच्या स्वतःच्या इन्स्टॉलर फाइल्सकडे जाते.
| आवृत्ती | तारीख | आकार | फाइल्स |
|---|---|---|---|
| 1.3.3नवीनतम | २९ डिसेंबर, २०२५ | — | 64-बिट ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
येथे Tokenizer च्या १ आवृत्ती आहेत, २९ डिसेंबर, २०२५ पासून सध्याच्या 1.3.3 पर्यंत. प्रत्येक आवृत्तीची लिंक प्रकाशकाच्या स्वतःच्या इन्स्टॉलर फाइल्सकडे जाते.
| आवृत्ती | तारीख | आकार | फाइल्स |
|---|---|---|---|
| 1.3.3नवीनतम | २९ डिसेंबर, २०२५ | — | 64-बिट ZIP |