यहाँ Tokenizer का १ संस्करण छन्, २०२५ डिसेम्बर २९ देखि हालको 1.3.3 सम्म। हरेक संस्करणको लिङ्क प्रकाशकका आफ्नै इन्स्टलर फाइलहरूमा जान्छ।
| संस्करण | मिति | साइज | फाइलहरू |
|---|---|---|---|
| 1.3.3पछिल्लो | २०२५ डिसेम्बर २९ | — | ६४-बिट ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
यहाँ Tokenizer का १ संस्करण छन्, २०२५ डिसेम्बर २९ देखि हालको 1.3.3 सम्म। हरेक संस्करणको लिङ्क प्रकाशकका आफ्नै इन्स्टलर फाइलहरूमा जान्छ।
| संस्करण | मिति | साइज | फाइलहरू |
|---|---|---|---|
| 1.3.3पछिल्लो | २०२५ डिसेम्बर २९ | — | ६४-बिट ZIP |