यहाँ Tokenizer के 1 संस्करण हैं, 29 दिसंबर 2025 से लेकर मौजूदा 1.3.3 तक। हर संस्करण का लिंक प्रकाशक की अपनी इंस्टॉलर फ़ाइलों पर जाता है।
| संस्करण | तारीख़ | साइज़ | फ़ाइलें |
|---|---|---|---|
| 1.3.3नवीनतम | 29 दिसंबर 2025 | — | 64-बिट ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
यहाँ Tokenizer के 1 संस्करण हैं, 29 दिसंबर 2025 से लेकर मौजूदा 1.3.3 तक। हर संस्करण का लिंक प्रकाशक की अपनी इंस्टॉलर फ़ाइलों पर जाता है।
| संस्करण | तारीख़ | साइज़ | फ़ाइलें |
|---|---|---|---|
| 1.3.3नवीनतम | 29 दिसंबर 2025 | — | 64-बिट ZIP |