Popularno: Podaci ažurirani: 7. novembar 2026.

Kategorije

Internet1.377
Komunikacija323
Audio i video913
Grafika i dizajn549
Kancelarija i produktivnost1.136
Alati za programere3.175
AI alati552
Bezbednost i privatnost397
Sistemski alati3.156
Igre532
Obrazovanje i nauka239
Mreža i IT291

Preuzmi Tokenizer 1.3.3 za Windows

Contains Typescript and C# implementation of byte pair encoding (BPE) tokenizer for OpenAI LLMs, it is based on open sourced rust implementation in the OpenAI tiktoken.

Ovo je najnovija verzija. · Objavljeno:

Instalacioni fajlovi 1.3.3

ArhitekturaTipZa kogaVeličina fajlaPreuzmiSHA256
64-bit ZIP → Portabl verzija — — github.com VirusTotal

Link i SHA256 potiču iz manifesta zajednice Windows Package Manager. Pre pokretanja uporedite heš preuzetog fajla.

Najpopularnije u kategoriji „AI asistenti i LLM“

Prikaži sve
  1. Claude CodeAI asistenti i LLM · Anthropic PBC
  2. Codex CLIAI asistenti i LLM · OpenAI, Inc.
  3. ChatGPT by lencxAI asistenti i LLM · lencx
  4. GPT4AllAI asistenti i LLM · Nomic
  5. JanAI asistenti i LLM · Jan
  6. oh-my-piAI asistenti i LLM · Can Bölük
  7. T3 CodeAI asistenti i LLM · T3 Tools
  8. WSL ManagerAI asistenti i LLM · Bostrot
  9. CC SwitchAI asistenti i LLM · farion1231
  10. LobeHubAI asistenti i LLM · LobeHub

Još programa izdavača Microsoft Corporation

Prikaži sve
  • PowerShellTerminali i CLI alati · Microsoft Corporation
  • PowerToysPrilagođavanje · Microsoft Corporation
  • NuGetMenadžeri paketa i ažuriranje · Microsoft Corporation
  • Microsoft Azure CLITerminali i CLI alati · Microsoft Corporation
  • OpenSSH PreviewFTP i prenos fajlova · Microsoft Corporation
  • Bicep CLIJezici i SDK · Microsoft Corporation

Oznake

Podeli