۱ نسخه از Tokenizer در این صفحه فهرست شده است، از ۸ دی ۱۴۰۴ تا نسخه فعلی 1.3.3. هر نسخه به فایلهای نصب خود ناشر لینک دارد.
| نسخه | تاریخ | حجم | فایلها |
|---|---|---|---|
| 1.3.3آخرین | ۸ دی ۱۴۰۴ | — | ۶۴ بیتی ZIP |
Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.
۱ نسخه از Tokenizer در این صفحه فهرست شده است، از ۸ دی ۱۴۰۴ تا نسخه فعلی 1.3.3. هر نسخه به فایلهای نصب خود ناشر لینک دارد.
| نسخه | تاریخ | حجم | فایلها |
|---|---|---|---|
| 1.3.3آخرین | ۸ دی ۱۴۰۴ | — | ۶۴ بیتی ZIP |