Tokenizer மென்பொருளின் 1 பதிப்புகள் இங்கே உள்ளன: 29 டிசம்பர், 2025 முதல் தற்போதைய 1.3.3 வரை. ஒவ்வொன்றும் வெளியீட்டாளரின் சொந்த நிறுவிக் கோப்புகளுக்கு இணைப்பு தருகிறது.
| பதிப்பு | தேதி | அளவு | கோப்புகள் |
|---|---|---|---|
| 1.3.3சமீபத்தியது | 29 டிசம்பர், 2025 | — | 64-பிட் ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
Tokenizer மென்பொருளின் 1 பதிப்புகள் இங்கே உள்ளன: 29 டிசம்பர், 2025 முதல் தற்போதைய 1.3.3 வரை. ஒவ்வொன்றும் வெளியீட்டாளரின் சொந்த நிறுவிக் கோப்புகளுக்கு இணைப்பு தருகிறது.
| பதிப்பு | தேதி | அளவு | கோப்புகள் |
|---|---|---|---|
| 1.3.3சமீபத்தியது | 29 டிசம்பர், 2025 | — | 64-பிட் ZIP |