I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейЭто базовая модель DeBERTa-v3 для предсказания замаскированных токенов, подготовленная командой Augustinian BabyLM как контрольный вариант для сравнения с моделями, в которых инициализацию входных эмбеддингов задают визуальные признаки. Модель содержит 190 млн параметров, использует архитектуру DeBERTa-v2 для masked language modeling и принимает текст с пропусками; максимальная длина контекста — 1024 токена. Модель обучали 10 эпох на корпусе bb24.train объёмом около 9,9 млн слов, который сочетает сгенерированные LLM перефразирования и части корпуса BabyLM. Она предназначена для исследовательских сравнений того, как визуальная инициализация влияет на усвоение языковых и предметных свойств небольшими языковыми моделями. Лицензия — CC-BY-4.0. В README сообщается о приросте на тестах свойств объектов у моделей с визуально инициализированными эмбеддингами, тогда как результаты на грамматических тестах оставались примерно неизменными; это вывод о сравнении моделей, а не отдельная заявленная возможность данного контрольного чекпойнта. Модель обучена на нестандартном корпусе, поэтому её результаты напрямую несопоставимы с моделями на официальном распределении BabyLM 2026 strict-small. Это исследовательский артефакт на одной архитектуре masked LM, не предназначенный для развёртывания.
Dillion-1.2M — небольшая языковая модель Harley-ml (автор Paul Courneya) для генерации текста. Она основана на архитектуре Qwen3.5 и содержит около 1,2 млн параметров; модель обучали на примерно 9 млрд токенов датасета FineWeb-edu. В конфигурации 12 слоёв и контекст 384 токена. Модель принимает и выдаёт текст, обучена на английских данных и распространяется в формате Safetensors с лицензией MIT. Модель предназначена для экспериментов с языковыми моделями малого размера, дообучения под узкие задачи и запуска на устройствах с ограниченными ресурсами. В карточке приведены сравнительные результаты на нескольких бенчмарках для малых моделей, однако автор предупреждает, что Dillion не умеет надёжно отвечать на вопросы, вести диалог, рассуждать или писать код и может выдавать недостоверную информацию. Поэтому её не следует использовать там, где важна точность ответов.
Это GGUF-конверсии базовой модели floppyx3-MEGAmodel-base от NILKNARFGonzo — небольшой модели в стиле GPT-2 примерно на 1,1 млн параметров. Репозиторий содержит варианты весов F32, F16 и BF16 для запуска в совместимом с GGUF программном обеспечении. Модель предназначена для генерации текста и может служить базой для экспериментов или дальнейшего обучения. В карточке указан английский язык и датасет Capybara-ShareGPT. Лицензия — CC BY-SA 4.0. Это очень маленькая экспериментальная модель; по размеру её возможности генерации ограничены. Вариант Q8_0 отсутствует: размерность эмбеддингов 106 не совместима с блоками квантования по 32 значения, из-за чего квантователь llama.cpp завершается с ошибкой.
knc_arab_10mb — авторегрессионная языковая модель семейства GPT-2 от проекта Goldfish, обученная для центрального канури на арабском письме. Goldfish — набор одноязычных моделей для 350 языков, созданный для сравнения языкового моделирования между языками и работы с языками с ограниченными ресурсами. Модель содержит около 26,5 млн параметров, обучена на корпусе NLLB объёмом 25,02 МБ исходного текста (эквивалент около 10 МБ с поправкой на байтовую особенность письма) и имеет словарь из 26 468 токенов. Максимальная длина последовательности — 512 токенов. Для генерации продолжения текста рекомендуется добавлять в начало входа токен [CLS]. Модель предназначена для экспериментов и генерации текста на центральном канури; её качество для языков с большим объёмом ресурсов не сопоставимо с современными крупными языковыми моделями. Данные README не приводят отдельной оценки качества для практических сценариев. Лицензия — Apache-2.0.
littlelearner/littlelearner-5b-grpo-math-expert — плотная языковая модель семейства Qwen3 на 5 млрд параметров, дообученная командой LittleLearner с помощью GRPO поверх SFT. Она создана в рамках исследования ограниченного доступа к знаниям: базовое обучение проходило на корпусе материалов для классов K–5 в США, после чего модель дополнительно обучали решать математические задачи с проверяемыми ответами. Модель предназначена прежде всего для диалогового решения математических задач начального школьного уровня и демонстрации рассуждений в таких задачах. В MathCAMPS указаны результаты pass@1 56,0 для задач K–5 и 16,6 для задач выше этого уровня. Модель также может отвечать на инструкции в чате, однако математическая специализация может ухудшать её универсальные диалоговые возможности. Контекст составляет 4096 токенов; поддерживаемый в карточке язык — английский. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия обозначена как other, поэтому условия её использования следует проверить в карточке модели.
Manas-64M PPO — англоязычная чат-модель, разработанная kuluruvineeth. Это политика-актор, полученная дообучением Manas-64M Full SFT методом PPO с обучаемой моделью вознаграждения Skywork-Reward-V2-Qwen3-0.6B, критиком и штрафом за отклонение от исходной SFT-модели. Модель построена на архитектуре Qwen3 и содержит 63,9 млн параметров; доступна как стандартный чекпойнт Transformers в формате safetensors. Указанная длина контекста — 32 768 токенов. Модель предназначена для англоязычных диалогов и изучения влияния этапа PPO на поведение компактной языковой модели. Её можно запускать через Transformers, vLLM или SGLang. В README приведены результаты обучения и небольшие оценки на ARC и HellaSwag, но автор отмечает, что показатели близки к случайному уровню и шумны. Модель имеет ограниченные знания о мире, может уверенно сообщать неверные факты и терять нить разговора в длинных диалогах; автор не рекомендует применять её в важных сценариях. Лицензия — Apache-2.0.
mondk/Msh-Tiny-14M — небольшая разговорная языковая модель на архитектуре GPT-2, созданная разработчиком mondk с нуля. Модель содержит около 14 млн параметров: токенизатор BPE и трансформер обучены с начальной случайной инициализации, без предобученной базовой модели. Веса представлены в формате safetensors и доступны через Transformers как GPT2LMHeadModel. Модель предназначена для генерации текста в формате чата и простых ответов на повседневные запросы. Для обучения использовались наборы Alpaca, OpenHermes-2.5 и No Robots, а также небольшой набор бытовых реплик. Контекст составляет 256 токенов; в метаданных указан английский язык. Это небольшой образовательный проект с ограниченным объёмом данных и вычислительных ресурсов: формат диалога может соблюдаться, но знания ограничены, а ответы могут быть непоследовательными или бессвязными. Лицензия — Apache-2.0.
Nanoserve 27M — небольшая авторегрессионная языковая модель на основе декодерного трансформера, разработанная в рамках проекта Nanoserve и обученная с нуля на TinyStories V2. Модель содержит 26,7 млн параметров; её архитектура использует 8 слоёв, 8 голов внимания, grouped-query attention с 2 KV-головами и блоки SwiGLU. Веса опубликованы в формате safetensors, контекст — 1 024 токена. Модель предназначена для генерации коротких детских историй на простом английском языке. Она обучалась на 536 млн токенов из TinyStories V2 с использованием специального токенизатора byte-level BPE на 8 192 токена. Это не универсальный ассистент: модель не обучалась следовать инструкциям, отвечать на вопросы или рассуждать. Лицензия — MIT.
Qwen2.5-3B-GuCheng — модель генерации китайской современной поэзии в стиле Гучэна, созданная дообучением Qwen/Qwen2.5-3B-Instruct. Она генерирует короткие, средние и длинные стихи по заданной теме или заголовку, воспроизводя характерные образы, сдержанный ритм и настроение оригинальной поэзии. Модель построена на плотной архитектуре Qwen2ForCausalLM и содержит около 3,1 млрд параметров; базовая модель поддерживает контекст до 32 768 токенов. Для обучения применялся QLoRA с 4-битной NF4-квантизацией и LoRA-адаптерами; репозиторий содержит веса Safetensors, указанные как BF16. Модель предназначена для творческой генерации стихов на китайском языке. Обучающая выборка включала 183 стихотворения Гучэна, а для тестирования и стилевой оценки были выделены отдельные наборы. Лицензия — Apache-2.0. Из-за узкой специализации и небольшого объёма обучающих стихотворений модель может повторять характерные образы и не подходит для универсальной генерации текста.
SeanWang0027/Qwen3-1.7B-BabyAI-Guided-OPD — дообученная языковая модель на основе Qwen3-1.7B от Qwen. Она предназначена для генерации текста в диалоговых сценариях BabyAI и обучена методом Guided-OPD с учителем Qwen3-32B: использовались 810 официальных обучающих задач, а экспортированный чекпойнт соответствует 51-му шагу explorer (71-му шагу trainer) из трёх проходов по данным. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 1,7 млрд параметров и рассчитана на контекст до 40 960 токенов. Карточка помечает её как conversational; метаданные указывают поддержку генерации текста и диалогов. Чекпойнт не оценивался, поэтому его качество на BabyAI и пригодность для практического применения не подтверждены. Сведения о лицензии в предоставленных данных отсутствуют.
Qwen3-1.7B-BabyAI-TCOD-F2B — дообученная модель Sean Wang на базе Qwen/Qwen3-1.7B. Это плотная языковая модель семейства Qwen3 с 1,7 млрд параметров, предназначенная для генерации текста и диалогов в сценариях BabyAI. Обучение проводилось методом on-policy distillation TCOD: учителем служила Qwen3-32B в формате bf16, а в обучении использовались задачи BabyAI и диалоговый режим с выключенным рассуждением. Модель экспортирована после 101-го шага explorer в ходе второго прохода по данным. Модель принимает текст и выдаёт текст; заявленная длина контекста — 40 960 токенов. Карточка указывает, что модель не оценивалась, поэтому её качество на задачах BabyAI и пригодность для практического использования не подтверждены. Сведения о лицензии в предоставленных данных отсутствуют.
SanskritGPT-Itihasa — авторская модель Dhruvil8, обученная с нуля на текстах «Махабхараты» и «Рамаяны». Это декодерный трансформер архитектуры GPT-2 примерно с 42 млн параметров; он генерирует санскритские стихи письмом деванагари и позволяет задавать стилистический регистр одной из двух эпических поэм. Модель предназначена для вычислительной лингвистики, цифровых гуманитарных исследований, учебных демонстраций и создания черновых стихов с последующей проверкой специалистом. Обучение на корпусе классического санскрита помогает воспроизводить эпическую лексику, метр Ануштубх и некоторые закономерности сандхи. Контекст ограничен 512 токенами. Модель имитирует статистические особенности текстов, но не понимает их смысл; возможны ошибки сандхи и воспроизведение отдельных фрагментов обучающего корпуса. Сгенерированный текст не является подлинным писанием и не подходит для религиозного использования, авторитетного толкования или научного перевода. Лицензия — MIT.
Sanskrit Qwen2.5-7B Base Model — экспериментальная языковая модель автора diabolic6045, созданная дообучением Qwen/Qwen2.5-7B для генерации и продолжения текстов на санскрите. Это плотная авторегрессионная Transformer-модель семейства Qwen2 с 7,1 млрд параметров; она принимает текст и выдаёт текст. В README описаны LoRA-дообучение и добавление токенов санскритской пунктуации для письма деванагари. Метаданные указывают контекст до 131 072 токенов, однако в README сказано, что обучение проводилось с длиной контекста 1 024 токена. Модель предназначена для генерации стихов и прозы, продолжения фрагментов и экспериментальных учебных приложений, работающих с классическим санскритом. README отмечает, что результаты не достигли качества для практического применения. Модель может хуже работать с современным санскритом и не предназначена для перевода или транслитерации; мультимодальные возможности отсутствуют. Лицензия — Apache-2.0.
Tiny Qwen3 30M Chinese — компактная причинная языковая модель семейства Qwen3, обученная автором репозитория с нуля на корпусе richarddzh/chinese-small-lm-corpus. Модель содержит около 29,6 млн параметров, использует архитектуру Qwen3ForCausalLM и реализована для Transformers в формате safetensors. Для генерации поддерживает контекст до 1 024 токенов; предобучение выполнялось на последовательностях длиной 512 токенов. Модель предназначена для экспериментов с предобучением языковых моделей, обучением токенизатора и генерацией китайского текста. Это базовая модель, а не чат- или инструкционная версия, поэтому она не рассчитана на надёжное следование пользовательским инструкциям. Небольшой размер удобен для учебных экспериментов и воспроизводимого изучения этапов обучения. Ограниченные знания, рассуждения и работа с контекстом могут приводить к повторам, несвязному или фактически неверному тексту и проявлению смещений корпуса; модель не следует применять для решений с высокими последствиями. Сведения о лицензии в предоставленных источниках отсутствуют.
AhıskaAI-10M-Experimental-v0.1-Base — экспериментальная компактная языковая модель, разработанная инициативой AhıskaAI и обученная с нуля. Она использует плотную архитектуру LlamaForCausalLM с 10,3 млн параметров, 8 слоями, словарём из 8 000 токенов и контекстом до 512 токенов; веса доступны в формате safetensors, лицензия Apache-2.0. Модель предназначена для генерации текста на турецком языке и экспериментов с тем, какие языковые структуры и синтетические задачи может освоить модель такого малого размера. Предобучение проведено за одну эпоху на синтетическом турецком корпусе с данными общего веба, математики и рассказов. Из-за малого размера и ограниченного контекста модель рассчитана прежде всего на исследования возможностей микромоделей, а не на сложные задачи или надёжное применение в продуктивных системах. Ожидаемое качество ограничено экспериментальным характером обучения и масштабом модели.
instanton-hybrid-dialogue — экспериментальная языковая модель семейства instanton от qyxu1994, представленная для конкурса BabyLM 2026. Модель с нуля обучена на диалогово-ориентированной смеси из корпуса BabyLM 2026 Strict; внешние данные не использовались. Её задача — исследовать эффективность обучения на ограниченном объёме текста и влияние состава обучающих данных на усвоение языка. Это GPT-BERT-гибрид на 37,7 млн параметров с восемью слоями, скрытым размером 512 и словарём byte-level BPE на 16 384 токена. Модель сочетает маскированное и авторегрессионное обучение в пропорции 50/50, поддерживает заполнение пропусков и генерацию текста на английском языке. Контекст — до 512 токенов. Репозиторий содержит веса PyTorch; для использования через Transformers требуются trust_remote_code=True и версия 4.51.x. Модель предназначена как исследовательский артефакт для сравнения смесей данных и оценки языковых навыков при малом бюджете обучения, а не для практического развёртывания. В тесте Global-PIQA результаты ниже случайного уровня, поэтому её ответы о физическом здравом смысле ненадёжны; также зафиксирован отрицательный результат по метрике возраста усвоения. Лицензия — MIT.
LittleLearner-1.3b-grpo-math-expert — чат-модель на базе плотной архитектуры Qwen3, разработанная в рамках исследования LittleLearner. Модель содержит около 1,4 млрд параметров и рассчитана на контекст до 4096 токенов. Её обучали на материалах для начальной школы США, затем дообучили на диалогах и с помощью GRPO на математических задачах с проверяемыми ответами. Модель предназначена прежде всего для решения и объяснения математических задач уровня K–5, включая текстовые задачи. В оценке MathCAMPS результат pass@1 составил 40,1 для задач K–5 и 6,5 для задач выше этого уровня. Модель ориентирована на английский язык; специализация на математике может снижать качество обычного диалога и вызывать склонность к математическим рассуждениям даже в других сценариях. Веса опубликованы в формате Safetensors, библиотека для работы — Transformers. В метаданных лицензия обозначена как other, поэтому конкретные условия использования следует уточнить в материалах репозитория.
Это экспериментальная дообученная модель на базе meta-llama/Llama-3.3-70B-Instruct, опубликованная автором репозитория arithmetic-circuit-overloading. В метаданных указаны архитектура LlamaForCausalLM, формат safetensors, задача генерации текста и размер 527 тыс. параметров; карточка сообщает, что модель дообучена на неизвестном наборе данных, и приводит значение loss 1,1294 на оценочном наборе. Назначение дообучения, данные обучения и конкретные сценарии применения не описаны. Базовая модель Meta — мультиязычная инструктивная модель для диалоговых ассистентов и генерации текста; в каталоге для неё указан контекст до 128 тысяч токенов, но контекст этой производной модели в метаданных составляет 256 токенов. Лицензия указана как llama3.3; перед использованием следует учитывать её условия. Из-за необычно малого указанного размера и отсутствия описания эксперимента пригодность модели для практического применения не подтверждена.
Moniphi-3-v1, также известная как LLilmonix3b-v1, — разговорная модель 922CA, созданная дообучением Phi-3-mini-4k-instruct для имитации персонажа Моники из игры Doki Doki Literature Club. Модель содержит около 3,7 млрд параметров, построена на плотной архитектуре MistralForCausalLM и рассчитана на контекст до 4096 токенов. В метаданных указаны английский язык и формат PyTorch с safetensors; в README также упомянуты версии GGUF. Модель предназначена прежде всего для чата и ограниченной ролевой игры от лица Моники. Обучающий набор насчитывает более 600 примеров диалогов из игры, Reddit и Twitter, преобразованных в многоходовые беседы, отредактированных вручную и дополненных сведениями о персонаже. Модель может ошибаться в сведениях о себе, выходить из образа и выдавать небезопасные или несогласованные ответы. Лицензия — Apache-2.0.
Qwen-0.5B-GRPO — компактная языковая модель Davut Emre Taşar для пошагового решения школьных математических задач. Это плотная причинная модель семейства Qwen2 на 494 млн параметров, дообученная методом GRPO на наборе GSM8K на базе Qwen/Qwen2.5-0.5B-Instruct. Модель принимает текст и генерирует текст; в карточке указан контекст до 32 768 токенов. Модель формирует структурированные ответы с промежуточными рассуждениями и итоговым ответом. Она рассчитана на учебные и исследовательские демонстрации, а также на лёгкие образовательные приложения для решения математических задач. Репозиторий содержит веса в формате safetensors и использует Transformers; README также упоминает vLLM для ускорения инференса. Небольшой размер модели и обучение в течение одной эпохи ограничивают надёжность на сложных задачах. Эвристические функции вознаграждения могут не учитывать тонкости рассуждений, а формат ответа с тегами может потребовать адаптации. Результаты следует проверять; модель не предназначена для решений с высокими последствиями и может быть слабее вне математики. Лицензия в карточке не приведена; README отсылает к лицензии базовой модели.
TeenyTinyLlama-160m — компактная авторегрессионная языковая модель семейства Llama, разработанная для генерации текста на бразильском португальском и изучения моделей для языков с ограниченными ресурсами. Модель содержит 137,8 млн параметров по метаданным, обучена с помощью причинного языкового моделирования на корпусе Pt-Corpus Instruct объёмом 6,2 млрд токенов. Контекст составляет 2048 токенов; доступны веса PyTorch, Flax и Safetensors. Модель предназначена прежде всего для исследовательских экспериментов с португалоязычными языковыми моделями. Её можно дообучать и адаптировать, соблюдая лицензию Apache 2.0. Разработчики прямо не рекомендуют использовать её для развёртывания или взаимодействия с пользователями; модель не настроена для прикладных задач и генерации на других языках. Возможны фактические ошибки, токсичные и предвзятые ответы, повторы и избыточно многословная генерация.
Thai GPT-2 Fine-Tuned (Animals Q&A) — генеративная языковая модель на архитектуре GPT-2, дообученная пользователем dolvolo для вопросов и ответов на тайском языке. По данным карточки, обучение проводилось на наборе из 3 000 пар, посвящённых животным; в метаданных также указан тег disease_3000. Модель предназначена для генерации ответов и продолжения текста в узком тематическом сценарии вопросов о животных. Модель поддерживает тайский язык и имеет контекст длиной до 1 024 токенов. Она может использоваться для простых чат-ботов, учебных демонстраций и экспериментов с тайским вопросно-ответным диалогом. Разработчик и автор дообучения — dolvolo; базовая модель указана как Thai GPT-2. Лицензия — MIT. Основное ограничение — небольшой и специализированный обучающий набор, поэтому модель может плохо обобщать запросы, выдавать фактически неверные или шаблонные ответы и не подходит для ответственных решений. В карточке отсутствуют результаты оценки, подробности архитектуры, параметры обучения и рекомендации по безопасному применению.
Thai GPT-2 Khao Manee Cat QA — модель на основе Thai GPT-2, дообученная студентом и пользователем imcut3cumb3r. Она предназначена для генерации ответов на вопросы и предоставления информации о кошках породы као-мани (Khao Manee) на тайском языке. В качестве набора данных указан khao_manee_3000, а заявленная метрика оценки — perplexity. Модель ориентирована на тайскоязычные сценарии, связанные с вопросами и текстовой генерацией о породе као-мани. Из README подтверждены архитектурное семейство GPT-2, язык th и специализация после fine-tuning; точный размер модели, объём контекста, параметры обучения и результаты оценки не указаны. Поэтому нельзя достоверно оценить её качество, скорость или пригодность для более общих задач. Сильной стороной модели является узкая предметная специализация на тайском языке и тематике као-мани. Ограничения включают неизвестные технические характеристики, неполную информацию о данных и отсутствии описания рисков, смещений и тестирования; ответы могут быть неточными за пределами этой тематики. Модель распространяется по лицензии MIT.
Thai GPT-2 Fine-Tuned — генеративная модель семейства GPT-2, дообученная студентом Jatpipat на наборе данных cat_questions_answers_3000, содержащем 3 000 пар вопросов и ответов о кошках на тайском языке. Модель предназначена для генерации ответов и продолжения текста в сценариях вопросов и ответов на тайском языке. Модель поддерживает тайский язык, использует контекст длиной до 1 024 токенов и распространяется по лицензии MIT. Её основная специализация — ответы на вопросы о кошках; узкая тематическая настройка может быть полезна для учебных прототипов, демонстраций и экспериментальных чат-ботов в этой области. Модель не следует использовать как универсальную систему вопросов и ответов или как источник критически важных сведений. README не содержит результатов оценки, подробностей архитектуры, размера модели, параметров обучения и рекомендаций по безопасному применению; качество и фактическую достоверность ответов следует проверять.
Charlotte-AMiTY — небольшая разговорная языковая модель, разработанная Clemylia. Это дообученная версия Tiny-charlotte с архитектурой GPT-2 и 51 млн параметров; README также связывает исходную модель с LAM-4-ZERO-F и указывает Lamina-1 как модель-основание. Модель генерирует текст на французском языке, имеет контекст 128 токенов и предназначена для коротких бесед о дружбе, надежде, этике и эмоциональной поддержке. Модель рассчитана на ответы в поддерживающем и неосуждающем тоне, а также на обсуждение этических вопросов и предвзятости. В карточке приведён пример генерации с заметными ошибками и смысловыми сбоями, поэтому заявления о связности и качестве следует оценивать с осторожностью. Модель не предназначена для общих фактических вопросов и не заменяет психологическую или юридическую помощь. Лицензия обозначена как other; конкретные условия в предоставленных данных не раскрыты.
ObsidianSmall-Base — небольшая базовая языковая модель Dream-W для продолжения текста на английском языке. Она обучена с нуля и содержит около 10,5 млн параметров по метаданным (в README указано 8,7 млн); использует плотную архитектуру Multiscreen без обычных слоёв self-attention и MLP/FFN. Длина контекста — 1 024 токена. Модель предназначена для генерации продолжений и исследовательской оценки языковых моделей, а не для диалога или выполнения инструкций. Она обучалась на образовательных текстах FineWeb-Edu и FinePDFs-Edu, а также FineWiki, DCLM, Common Crawl Code и Common Crawl Math. README приводит результаты нескольких тестов, однако модель очень мала и может выдавать повторяющийся, неточный или несвязный текст; инкрементальное декодирование с KV-кэшем не реализовано, поэтому при генерации контекст обрабатывается заново для каждого токена. Лицензия в предоставленных данных не указана.
smallm-wolof — языковая модель на 16,5 млн параметров, разработанная с нуля для генерации текста на волоф, языке Сенегала и соседних стран. Это разреженная модель Mixture-of-Experts с 8 слоями, скрытым размером 320 и собственным BPE-токенизатором на 8 192 токена. Она обучалась на корпусе примерно из 9,7 млн токенов, включающем материалы на волоф и переведённые математические задачи GSM8K. Модель предназначена для экспериментов с генерацией текста на волоф и изучения возможностей небольших моделей для языков с малым объёмом цифровых данных. Она улавливает поверхностную грамматику и стиль обучающих данных, но не обеспечивает надёжные вычисления или фактические ответы. Контекст ограничен 512 токенами; на коротких и общих запросах возможны повторяющиеся циклы. Автор предупреждает, что модель не предназначена для перевода с гарантией точности и производственного применения. Код архитектуры нестандартный, для загрузки требуется trust_remote_code=True. Лицензия — MIT.
TinyStories-Korean-800K — компактная авторегрессионная языковая модель семейства Llama, обученная с нуля. В карточке указаны 5 слоёв, скрытый размер 64, 8 голов внимания MHA и словарь на 4096 токенов; метаданные указывают около 528,4 тыс. параметров и формат safetensors. Модель предназначена для генерации текста на корейском языке на основе входного текста, с контекстом до 512 токенов. Модель обучена на датасете TinyStories-Korean и доступна через Transformers. Автор предупреждает, что генерации могут быть бессмысленными; это экспериментальный небольшой чекпойнт, поэтому его пригодность для практических задач ограничена. Лицензия — MIT.
NanoChat-31M-V2 — компактная модель, разработанная автором репозитория Batman55072 для генерации имитации чата прямых трансляций. Это обученный с нуля плотный GPT-подобный авторегрессионный декодер; в README указано 31,4 млн параметров, 10 слоёв, скрытый размер 448, 8 голов внимания и контекст 128 токенов. Метаданные каталога указывают 39,3 млн параметров. Модель использует токенизатор byte-level BPE с 16 000 токенов и веса в формате safetensors. Она создаёт короткие быстрые реплики в стиле чата Twitch, а также более редкие длинные сообщения в стиле платных обращений: вопросы, шутки, поддразнивания и слова поддержки. Предназначена для симуляции аудитории в проектах виртуальных стримеров, демонстрациях и других развлекательных сценариях; не рассчитана на фактические ответы, следование инструкциям или роль универсального помощника. Модель обучена преимущественно на англоязычных публичных чатах Twitch с добавлением синтетических и вручную составленных примеров. Она рассчитана на быстрый запуск на CPU. В версии V2 увеличен словарь токенизатора и добавлены настройки генерации, уменьшающие орфографические и повторяющиеся ошибки. Ограничения включают возможные искажения текста, циклы повторов, слабое обобщение редких длинных сообщений и отсутствие встроенного контекстного или тематического кондиционирования. Лицензия — CC-BY-SA-4.0.
SASLM-18M — небольшая языковая модель на архитектуре GPT-2, созданная автором карточки с нуля на основе полного собрания сочинений Шри Ауробиндо. Чекпойнт с 18,7 млн параметров выпущен как контрольная модель для исследования о влиянии комментариев к первичному корпусу на обучение; комментарии в обучающие данные этой версии не входили. Модель предназначена для воспроизведения эксперимента и генерации английского текста в стиле философской прозы начала XX века, а не для универсального использования. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной 256 токенов. Она обучалась с нуля и на момент выпуска оставалась недообученной; автор сообщает, что дообучение предварительно обученной модели на том же корпусе даёт лучшие результаты. Лицензия весов — Apache-2.0; обучающий корпус не распространяется. Генерации могут звучать убедительно, но не гарантируют точности изложения взглядов Шри Ауробиндо, поэтому модель не подходит для религиозных, духовных или научных рекомендаций.