Исследовательская многоязычная модель TokSuite с токенизатором Tekken для генерации текста и изучения устойчивости токенизации.
Подходит для: сравнение влияния токенизаторов на поведение языковых моделей · бенчмаркинг устойчивости к опечаткам и шуму ввода · анализ токенизации многоязычного текста