I.5Создание и редактирование текста

Карточка модели longtermrisk/Qwen3-8B-target-only-no-hallucination-sft-seed5 на Hugging Face совпадает с карточкой longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3, поэтому описание составлено по ней. Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3 — дообученная модель longtermrisk на базе unsloth/Qwen3-8B. Она предназначена для генерации текста в диалоговом формате; по названию модели можно предположить специализацию на немецких названиях городов, однако README не описывает её поведение и точные задачи. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL. Указана лицензия Apache-2.0. Качество, состав обучающих данных и ограничения в README не раскрыты.

Ravaan-DIFF-70M — маскированная диффузионная языковая модель для генерации текста на урду, разработанная AwaisAdilKhokhar и обученная с нуля на корпусе объёмом 85,4 млн токенов. Модель содержит 70 млн параметров и использует архитектуру masked diffusion; веса опубликованы в формате Safetensors. Она предназначена для продолжения текста и изучения диффузионного языкового моделирования на малоресурсном языке. Парная авторегрессионная модель обучалась на том же корпусе, что позволяет сравнивать цели обучения; автор сообщает о лучшем значении bits-per-byte для диффузионной модели, но оценка основана на одной обучающей выборке и ELBO-оценке. Для генерации текста в репозитории предусмотрен собственный код инференса. Модель не совместима с Transformers AutoModel. Лицензия — Apache-2.0. Это небольшой исследовательский чекпойнт без инструкционного дообучения, выравнивания и фильтрации безопасности; возможны связные, но ложные утверждения. Качественные оценки текста не проверялись носителями урду. В обучающих данных обнаружены ошибки соответствий в части корпуса Roman Urdu, особенно влияющие на транслитерацию; кроме того, часть валидационных данных могла пересекаться с обучающей. Зафиксированная проверка связности на пилотной модели не была пройдена.

NbAiLab/roberta_des_128 — экспериментальный чекпойнт семейства RoBERTa для задачи заполнения маски в тексте. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForMaskedLM и принимает последовательности длиной до 514 токенов. В репозитории представлены веса в формате Flax. Автор описывает чекпойнт как предназначенный для экспериментов и прямо предостерегает от использования. В README также указано, что обучение прерывалось из-за ошибок памяти, после чего его продолжили на изменённом корпусе; приведён промежуточный результат обучения, но нет сведений о качестве на прикладных задачах. Подходит для экспериментов с восстановлением замаскированных слов и продолжением предобучения. Язык корпуса, лицензия и конкретные условия использования в предоставленных данных не раскрыты.

Sentimental Sex 3.2 1B — многоязычная разговорная модель для откровенных ролевых чатов, опубликованная Novaciano. Она основана на плотной архитектуре LlamaForCausalLM и представляет собой слияние нескольких моделей; объём составляет 1,2 млрд параметров, контекст — до 131 072 токенов. Карточка описывает сценарии ролевой игры с персонажами, развития сюжета и продолжения диалога; приведены шаблоны для KoboldCpp и SillyTavern. Модель ориентирована на английский и испанский языки. В репозитории указаны веса Safetensors и библиотека Transformers. Лицензия — Apache-2.0. Карточка не приводит оценок качества или сравнительных тестов; пригодность для других задач и языков отдельно не подтверждена.

SmolLM-135M-FakyPedia-EngHeb — небольшая языковая модель Дорона Адлера для генерации шуточных вымышленных текстов в стиле статей Википедии на английском и иврите. Это дообученная модель SmolLM-135M-Instruct с расширенным токенизатором; в метаданных указаны архитектура Llama, 142,1 млн параметров и контекст 2048 токенов. Модель принимает текстовый запрос с необязательным заголовком статьи и генерирует текст. Модель рассчитана на развлекательные сценарии, например создание абсурдных псевдоэнциклопедических статей. Её обучающие данные связаны с англоязычной и ивритской Википедией. Автор предупреждает, что генерации могут содержать оскорбительные высказывания и воспроизводить стереотипы. Лицензия — Apache-2.0.

Tiny CED — небольшая языковая модель с архитектурой encoder-decoder, разработанная автором репозитория Ne30Charm и обученная с нуля на английском наборе TinyStories. В репозитории представлены веса для инференса в формате Safetensors и реализация на PyTorch; модель не совместима с Transformers PreTrainedModel и загружается через включённый model.py. Метаданные указывают 10,2 млн параметров, а README — 19 667 712 независимых параметров с учётом связанного слоя эмбеддингов и выходной головы. Размер словаря составляет 8 192 токена, контекст — 512 токенов. Модель предназначена для генерации коротких англоязычных историй в стиле обучающих сказок, прежде всего для экспериментов с компактными языковыми моделями. Проверка проводилась на валидационной части TinyStories; README сообщает значение perplexity 6,66. Это модель ограниченного масштаба, обученная только на синтетических детских историях, поэтому она может повторяться и выдавать фактически неверный, предвзятый или небезопасный текст. Лицензия на веса и код не указана; перед распространением автор рекомендует отдельно проверить условия набора данных TinyStories, указанного как CDLA-Sharing-1.0.

roneneldan/TinyStories-2Layers-33M — авторегрессионная языковая модель семейства GPT-Neo, опубликованная пользователем Ronen Eldan на Hugging Face. Модель обучена на синтетическом наборе TinyStories, содержащем короткие простые истории на английском языке, и предназначена прежде всего для генерации связного продолжения текста и детских рассказов. Модель поддерживает pipeline text-generation, использует библиотеку Transformers и PyTorch, имеет около 80,8 млн параметров и контекстное окно 2048 токенов. В названии заявлены два слоя; архитектурное семейство GPT-Neo указано в метаданных. Она подходит для экспериментов с компактными языковыми моделями, обучения и демонстрации генерации текста на ограниченном корпусе. Сильной стороной является небольшой размер по сравнению с крупными LLM и специализация на простых повествовательных текстах. Модель не предназначена для надёжных ответов на общие вопросы, сложного рассуждения, профессиональных задач или многоязычной генерации; её качество за пределами распределения TinyStories может быть ограниченным. Условия лицензирования в доступных источниках не установлены.

Cion-lab/tinystories-8L-llama3-block — компактная авторегрессионная языковая модель семейства Llama, обученная на наборе TinyStories. В README указано, что обучение проводилось на примерно 100 млн токенов с помощью MaxText на TPU v5e-8; модель содержит 8 слоёв декодера Llama с RMSNorm, RoPE, SwiGLU и причинной маской. Метаданные указывают 41,7 млн параметров, контекст 1024 токена и формат safetensors. Модель предназначена для генерации коротких текстов и простых историй на английском языке, прежде всего в стиле и тематике TinyStories. В репозитории включён токенизатор SentencePiece на 32 000 токенов, совместимый с LlamaTokenizer. Лицензия — CDLA Sharing 1.0. Небольшой размер и узкий обучающий набор ограничивают качество и разнообразие генерации по сравнению с универсальными языковыми моделями.

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget10_RMU — дообученная модель Llama 3.1 8B Instruct с 7,5 млрд параметров, подготовленная в рамках проекта open-unlearning. Модель прошла unlearning методом RMU на части forget10 набора TOFU и служит базовым вариантом для исследования удаления запомненных данных и проектом Speculative-Decoding-Unlearning. Модель принимает текст и генерирует текст; поддерживает чатовый интерфейс, а карточка указывает контекст до 131 072 токенов. В README приведены метрики оценки на TOFU, включая exact_memorization 0,1273, extraction_strength 0,0326 и forget_Q_A_PARA_Prob 0,0014. Это экспериментальный чекпойнт для задач unlearning и оценки забывания, а не универсально проверенная модель для повседневного применения. Распространяется в формате safetensors по лицензии Llama 3.1. Для использования следует соблюдать условия этой лицензии.

jeanmidev/trackmania-tmnf-names-2026-08-14 — языковая модель на архитектуре GPT-2, дообученная автором на базе distilbert/distilgpt2. По названию репозитория модель связана с генерацией названий для Trackmania Nations Forever, однако README не описывает её назначение и обучающие данные. Модель принимает текст и генерирует продолжение; контекст — до 1024 токенов. В README приведено значение loss 0,9485 на оценочном наборе, но состав набора и методика оценки не раскрыты. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Модель nikitastheo/v4-babylm-zho-ell-sequential_interleaved — причинная языковая модель GPT-2, обученная автором репозитория с помощью скрипта train_clm.py и Hugging Face Accelerate. Она предназначена для генерации продолжений текста; название указывает на связь с серией BabyLM и последовательным чередованием китайского и греческого языкового материала, но README не раскрывает подробности обучающих данных или методики. Модель использует архитектуру GPT2LMHeadModel, распространяется в формате safetensors и имеет контекстное окно 512 токенов. Репозиторий не указывает лицензию, поэтому условия использования определить нельзя. Это экспериментальный чекпойнт; качество генерации и фактическая поддержка конкретных языков по имеющимся сведениям не оценены.

Vela-Lumen-15M — компактная языковая модель ParallaxOpen для генерации математического контента. Это модель с 15 486 080 параметрами, обученная с нуля; её архитектура — декодер Transformer с GQA 4:2, SwiGLU, RMSNorm и RoPE. Модель принимает текстовые запросы и генерирует текст, включая формулы LaTeX. Модель предназначена для создания математических задач и уравнений, вопросов в стиле домашних заданий, объяснений и учебных материалов. Её небольшой размер позволяет запускать её локально через Ollama, llama.cpp или LM Studio в формате GGUF F16; также доступны веса Safetensors в FP16 и FP32 для Python и обучения. Это ранняя предварительная версия с ограниченным качеством: в карточке указана оценка ELO около 800–850 и результат 0% на GSM8K, поэтому модель не подходит для надёжного решения математических задач или сложных рассуждений. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

huggingtweets/vox_akuma — текстовая генеративная модель на базе GPT-2, созданная Борисом Даймой с помощью проекта huggingtweets. Она обучена на публикациях Vox Akuma из NIJISANJI EN и предназначена для генерации коротких текстов, имитирующих стиль и тематику этих публикаций; запускать её можно через text-generation pipeline библиотеки Transformers. Модель использует архитектуру GPT2LMHeadModel, хранится в формате PyTorch и рассчитана на контекст до 1024 токенов. В обучающей выборке было 3149 твитов, включая ретвиты. В метаданных указан английский язык; модель может подойти для творческих экспериментов и развлекательной генерации текста по короткой подсказке. Карточка указывает на ограничения и смещения, присущие GPT-2, а также на влияние содержания исходных твитов. Лицензия в предоставленных данных не указана.

AWA-Mini-Llama-From-Scratch-V2 — авторегрессионная языковая модель на стандартном трансформере, обученная с нуля. В карточке указаны 8 слоёв, размерность эмбеддингов 128, одна голова внимания и контекстное окно 2048 токенов; максимальная длина обучающего примера — 64 токена. Модель предназначена для генерации текста. В метаданных указан язык индонезийский и формат PyTorch. Лицензия — Apache-2.0. Карточка не описывает качество генерации и конкретные сценарии применения, поэтому пригодность для практических задач по этим данным оценить нельзя.

babylm-macaroni — плотная языковая модель GPT-2, представленная как заявка drooryck на многоязычный трек BabyLM 2026. Модель обучена на корпусе с переключением языков и опубликована с полными чекпойнтами. Она предназначена для генерации текста в экспериментальных задачах многоязычного моделирования, особенно для сценариев со смешением английского, нидерландского и китайского языков. Контекст модели составляет 1024 токена; для работы используется Transformers, веса доступны в формате safetensors. Лицензия — MIT. Карточка описывает модель как соревновательную заявку, а подробности о статье, обучающем наборе данных и оценке качества ещё не представлены. Поэтому качество генерации и пригодность для практического применения по имеющимся сведениям оценить нельзя.

Bella Bartender Gemma E4B — разговорная модель с заданной личностью, созданная автором juiceb0xc0de на основе дообучения Google Gemma 4 E4B Instruct. Для настройки использованы 9 300 пар реплик из речи одного человека без синтетических данных. Модель обучена отвечать в непринуждённом, прямом и реалистичном стиле: без эмодзи и нумерованных списков, с юмором и ненавязчивыми встречными вопросами. Модель предназначена для свободного многоходового общения о повседневной жизни, отношениях с коллегами и отвлечённых темах. Название «Bartender» обозначает образ собеседника, а не специализацию: в обучающих данных нет сведений о напитках, барах или рецептах. В карточке указана архитектура Gemma4ForCausalLM и формат safetensors; исходная Gemma 4 E4B Instruct описана как мультимодальная, но для этой версии README подтверждает только текстовое общение. Автор приводит ограниченные результаты тестов, включая 70% на выборке из 10 заданий MuSR и 0% на публичной выборке SimpleBench из 10 заданий; это не свидетельствует о пригодности для решения задач на рассуждение. Автор также не рекомендует использовать модель для программирования и математики. Под многоходовой нагрузкой могут появляться служебные маркеры анонимизации вроде [NAME] или [coworker]. Лицензия репозитория — gemma.

bert_base_lda_100_v1 — дообученная модель на архитектуре DistilBERT, опубликованная пользователем gokulsrinivasagan. Она обучалась на датасете processed_wikitext-103-raw-v1-ld-100; класс модели — DistilBertForLDAMaskedLM, веса сохранены в формате safetensors. Контекст составляет 512 токенов. По классу архитектуры модель предназначена для языкового моделирования с маскированными токенами; оценка на тестовой выборке составила loss 6,9999 и accuracy 0,4235. Карточка не описывает конкретные пользовательские сценарии, языковую поддержку или условия лицензии. Базовая модель в README не названа. Результаты оценки не дают оснований утверждать, что модель подходит для практического применения; перед использованием следует проверить её на целевых данных.

BLINKpedia-chat — языковая модель для генерации текста о BLACKPINK. По карточке модели, она создана дообучением unsloth/tinyllama на подборке материалов о группе: текстах песен, интервью, новостях и фанатском контенте. Модель построена на архитектуре Llama, содержит 1 млрд параметров и предназначена для диалогового использования через Transformers; длина контекста — 2048 токенов. Модель подходит для создания публикаций о BLACKPINK, фанатских историй и текстов в ответ на тематические запросы. Карточка не сообщает сведения о лицензии и не описывает оценку качества; ответы могут содержать ошибки или воспроизводить особенности обучающих материалов.

Casual-TextTiny — компактная символьная GPT-модель, разработанная и обученная DemonKing1234 с нуля. Она предназначена для генерации творческого текста и простого следования инструкциям, а также для экспериментов с обучением и локального запуска на обычном CPU. В модели около 801 тыс. параметров, 4 слоя, 8 голов внимания и размерность эмбеддингов 128; контекст составляет 16 символов. Веса доступны в формате GGUF F32, а лицензия — Apache-2.0. Модель выделяется малым размером и возможностью CPU-инференса с ускорением Numba и KV-кешированием. Короткий символьный контекст ограничивает связность длинных текстов и пригодность к сложным задачам; README также не описывает подробности обучающих данных или оценки качества.

CelineGPT-12B-v0.1 — экспериментальная диалоговая модель, разработанная krogoldAI на базе Mistral-Nemo-Instruct-2407. Она дообучена имитировать манеру и голос французского писателя Луи-Фердинанда Селина и поддерживает общение в формате чата. Модель содержит 12,1 млрд параметров, построена на плотной архитектуре Mistral и работает с текстом; заявленная длина контекста — 1 024 000 токенов. Модель предназначена для литературных энтузиастов, исследователей и авторов, которые хотят обсуждать жизнь, взгляды и творчество Селина или экспериментировать с подражанием его стилю. Обучающий корпус на французском языке состоит из 1518 пар вопрос–ответ в 415 диалогах, собранных из интервью, переписки и послевоенных произведений писателя. Из-за небольшого объёма данных ответы могут содержать фактические ошибки или быть неоптимальными. У модели нет механизма модерации, поэтому она может генерировать вредный контент. Коммерческое использование запрещено; модель предназначена для развлечения и экспериментов.

None1145 разработал эту чат-модель на основе ChatGLM3-6B, дообучив её на текстах персонажа Терезы из игры Arknights. Модель предназначена для диалогов в образе персонажа и генерации текста по запросу. Модель использует плотную архитектуру ChatGLM, содержит 7,8 млрд параметров и работает с контекстом до 8192 токенов. Для запуска заявлена библиотека Transformers; веса размещены в формате safetensors. В метаданных также указана поддержка классификации текста, однако README описывает только чат-модель. Модель распространяется по лицензии Apache-2.0. Её ответы отражают обучающие тексты персонажа и могут быть неточными или не соответствовать канону; сведения о поддерживаемых языках в карточке не приведены.

ChatWaifu 2.0 Vision — мультимодальная чат-модель, разработанная spow12 и собранная с помощью mergekit. Она предназначена для ролевых диалогов с персонажами визуальных новелл и может учитывать изображения в разговоре. В карточке указаны японский и английский языки; модель построена на архитектуре LLaVA, а метаданные связывают её с Pixtral 12B и ChatWaifu 2.0 Vision Base. Модель рассчитана на разговоры в образе заданных персонажей или собственной waifu, а также на обсуждение изображений в чате. Автор предупреждает, что модель протестирована не полностью и может генерировать NSFW-контент из-за обучающих данных с материалами для взрослых. Лицензия в метаданных — CC-BY-NC-4.0; автор также указывает на использование только для некоммерческих и исследовательских целей.

A3-large — символьный GPT, разработанный Ej Zhou для трека Hanzi соревнования Chinese BabyLM 2026. Модель обучена с нуля на официальном корпусе babylm-zho в пределах бюджета 102 млн токенов jieba; в обучающие данные также вошли автоматически составленные предложения о компонентах и омофонах китайских иероглифов. Точные предложения из бенчмарков исключались из обучения. Модель содержит 123,4 млн параметров, 16 слоёв, скрытый размер 768 и 12 голов внимания; словарь символьного токенизатора включает 8 891 элемент, включая компоненты иероглифов и операторы IDS. Входные представления дополнены признаками структуры иероглифов и пиньиня, а вспомогательные головы предсказывают компоненты и пиньинь. Контекст составляет 512 токенов. Модель предназначена для генерации китайского текста и экспериментов с языковыми иероглифическими структурами; README приводит нулевые результаты по hanzi_structure, hanzi_pinyin и zhoblimp. Для загрузки в Transformers требуется включить trust_remote_code=True, поскольку репозиторий содержит собственный код архитектуры. Доступны также интерфейсы masked language modeling и получения скрытых состояний для последующего дообучения. Веса опубликованы в формате safetensors по лицензии MIT. Это экспериментальная модель для соревнования; результаты на указанных бенчмарках не гарантируют качества в широких прикладных сценариях.

Clover3-17B — текстовая генеративная модель Undi95 для эротического ролевого общения. Она создана на основе слияния трёх моделей Mistral-7B с последующим дообучением на наборе данных для ролевых диалогов; среди использованных моделей указаны neural-chat-7b-v3-16k, Noromaid-7b-v0.1.1 и AshhLimaRP-Mistral-7B. В репозитории размещены веса FP16 в формате safetensors; архитектура — плотная MistralForCausalLM, размер — 16,7 млрд параметров, контекст — до 32 768 токенов. Модель рассчитана прежде всего на эротические ролевые сценарии и генерацию ответов в формате Alpaca. Автор предупреждает, что ответы часто имеют эротический характер. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

CookGPT — специализированная языковая модель для генерации индийских кулинарных рецептов. Модель разработал Vishal Mysore; она создана на основе TinyLlama/TinyLlama-1.1B-Chat-v0.6 и дообучена с помощью AutoTrain на более чем 10 000 рецептов индийской кухни из набора данных VishalMysore/cookGPT. Модель предназначена для создания и уточнения рецептов, предоставления инструкций по приготовлению, а также выдачи сопутствующей информации, например времени приготовления, диетических характеристик и типа кухни. Это текстовая causal language model без заявленной поддержки дополнительных модальностей; в README языки явно не указаны. Размер базовой модели составляет 1,1 млрд параметров. Предусмотрена загрузка в обычной или 8-битной точности, что может снизить требования к памяти. Сильная сторона модели — специализация на индийских рецептах и возможность диалогового взаимодействия через chat template. Ограничения включают узкую предметную область, зависимость качества от данных дообучения и отсутствие в README сведений о контекстном окне, поддерживаемых языках, точности ответов, безопасности рекомендаций и лицензии. Условия лицензирования для этой модели отдельно не указаны.

Josephgflowers/distillgpt2Cinder — экспериментальная модель генерации текста для многоходового диалога с персонажами. В карточке она описана как исходный запуск Cinder на основе DistilGPT-2; пример показывает персонажа Синдер, гуманоидного робота для космических исследований. Архитектура — GPT-2 с плотной языковой моделью GPT2LMHeadModel, формат весов — safetensors, размер контекстного окна — 1024 токена. Модель предназначена для продолжения диалогов в формате с метками ролей USER и CINDER. README предупреждает, что ответы иногда бывают нестабильными. В метаданных указана лицензия MIT. Данных о поддерживаемых естественных языках и специализированных областях применения нет.

EnTiMT — модель машинного перевода английского и тигринья, разработанная Hailay Kidu и опубликованная в проекте EnTiMT. Она дообучена на основе facebook/nllb-200-distilled-600M: авторы заменили исходный токенизатор на MoVoC_Tok, общий токенизатор для амхарского, тигринья, тигре, геэза и английского, и переобучили модель для двунаправленного перевода. Модель построена на архитектуре M2M100, содержит 324,2 млн параметров и рассчитана на контекст до 1024 токенов. Модель предназначена для экспериментального перевода текстов с английского на тигринья и обратно. В README описаны сбор и очистка параллельных данных, а также оценка на отдельном тестовом наборе FLORES-200. Карточка предупреждает о серьёзном дефекте: на тестовых примерах модель может многократно повторять короткие фрагменты вместо перевода, поэтому авторы не рекомендуют использовать этот чекпойнт вне экспериментов в текущем виде. Лицензия — CC BY 4.0.

GLM-Edge-1.5B-Chat-Greek — чат-модель на архитектуре GLM, разработанная как дообученная версия hereticness/heretic_glm-edge-1.5b-chat. Она предназначена для генерации диалоговых ответов с улучшенными навыками греческого языка. Модель содержит 1,5 млрд параметров, использует формат safetensors и поддерживает контекст до 8192 токенов; в метаданных также указана поддержка английского и китайского языков. Карточка предупреждает о низкой связности ответов, частых галлюцинациях и сюрреалистичной риторике, поэтому результатам не следует доверять без проверки. Указана лицензия other; конкретные условия использования следует сверить с лицензией базовой модели и репозитория.

GoLLeM-45M-PL — экспериментальная GPT-2-модель, созданная SlayerLab и опубликованная как зеркальная копия репозитория KateMajzel/GoLLeM-45M-PL. Она обучена с нуля на 2,96 ГБ польских текстов и предназначена для исследования влияния специализированного польского токенизатора BPE на стоимость и качество обучения. Модель содержит 42,5 млн параметров, имеет 8 слоёв, 8 голов внимания, размерность 512 и контекст 1 024 токена; поддерживает генерацию текста на польском языке. Лицензия репозитория — MIT. Модель продолжает текст по заданному фрагменту и может служить небольшим исследовательским чекпойнтом для сравнения токенизаторов и экспериментов с генерацией на польском языке. В описанных экспериментах качество при равном объёме обучающих данных было сопоставимо с GPT-2, а специализированный токенизатор позволял снизить стоимость обучения. Модель не проходила инструкционное дообучение и не предназначена для ответов на пользовательские запросы как диалоговый помощник. Из-за небольшого размера она может повторяться, терять связность после нескольких предложений и выдумывать факты; генерации также могут отражать предубеждения и лексику обучающих форумов. Для использования с конечными пользователями требуется человеческий надзор.

jed351/gpt2_tiny_zh-hk-wiki — компактная авторская донастройка GPT-2, обученная на корпусе кантонской Википедии размером 50 МБ в течение 10 эпох. Модель предназначена для генерации текста на основе продолжения заданного фрагмента; архитектура — GPT2LMHeadModel, формат весов — PyTorch, контекст — до 1024 токенов. Автор указывает значение loss 3,3834 на оценочной выборке и позиционирует модель для исследований и тестирования. Она может подойти для экспериментов с генерацией текста, похожего на статьи кантонской Википедии. Ограниченный объём обучающих данных и короткое обучение означают, что качество и фактическую точность ответов не следует считать гарантированными. Лицензия в доступных данных не указана.