I.5Создание и редактирование текста

nanowhale-100m-base — небольшая предварительно обученная языковая модель от HuggingFaceTB, реализующая архитектуру DeepSeek-V4. В карточке указано около 110 млн параметров, а в метаданных — 53 млн; поэтому точный размер противоречив. Модель использует 8 слоёв, скрытый размер 320, Multi-head Latent Attention, разреженную смесь экспертов с активацией двух из четырёх экспертов на токен и Hyper-Connections. Длина контекста — 2048 токенов. Модель обучалась на HuggingFaceFW/fineweb-edu примерно на 2,6 млрд токенов и предназначена для продолжения текста и экспериментов с компактной реализацией архитектуры DeepSeek-V4. Это базовая модель без дообучения на инструкциях, поэтому она не предназначена для надёжного диалогового следования инструкциям. Лицензия — Apache-2.0. Авторы отмечают ограниченную ёмкость из-за малого размера и большой доли параметров эмбеддингов, а также недостаточный объём обучения. Для этой реализации рекомендуется fp32: Hyper-Connections могут приводить к переполнению в bf16. Для загрузки требуется trust_remote_code=True.

NoNameBrand_1.49B — экспериментальная плотная авторегрессионная языковая модель семейства Llama от Deathsquad10. По карточке, модель находится в процессе предварительного обучения только на наборе TinyStories; обучение выполняется на CPU, а репозиторий обновляется после каждого чекпойнта. Метаданные указывают около 1,2 млрд параметров, контекст до 4096 токенов и поддержку диалогового режима. Модель предназначена для генерации текста и экспериментов с небольшими языковыми моделями. На описанном в README чекпойнте 120 обучение прошло менее 0,05 эпохи, а приведённые результаты eval harness указывают на раннюю стадию и ограниченную готовность модели. Для использования заявлена лицензия Apache-2.0.

Owl-v1 — компактная символьная языковая модель на 10,8 млн параметров, созданная IstishadAlamTishad с нуля для обучения и интеграции. Она продолжает текст на английском языке, обучена на корпусе TinyShakespeare и ориентирована на генерацию реплик персонажей, сценических ремарок и продолжений в стиле ранненовременного английского.

Parc-RWKV (Seed 3) — авторегрессионная языковая модель RWKV-4, разработанная James Michaelov. Это один из исследовательских запусков семейства Parc: модели архитектур Pythia, Mamba и RWKV обучались параллельно на одинаковых данных и с одинаковым числом шагов, чтобы сравнивать динамику обучения между архитектурами и случайными начальными состояниями. Модель содержит 137,7 млн параметров и предназначена для генерации английского текста и исследований поведения языковых моделей. Она обучена с нуля на 2 млрд токенов из OpenWebText; в метаданных указан базовый репозиторий RWKV/rwkv-4-169m-pile. Доступна в формате safetensors для Transformers. Автор предупреждает, что модель в целом не подходит для развёртывания: обучающие данные недостаточно документированы, поэтому модель может генерировать вредный или оскорбительный текст, а также недостоверные ответы. Она не проходила дополнительной тонкой настройки. Лицензия — Apache 2.0.

Parc-RWKV (Seed 5) — авторегрессионная языковая модель RWKV-4, разработанная James Michaelov. Это один из наборов моделей Parc, созданных для исследования динамики обучения и сравнения архитектур Pythia, Mamba и RWKV при одинаковых данных и числе шагов; в этом запуске использовано 2 млрд токенов OpenWebText. Модель содержит 137,7 млн параметров и доступна в формате Safetensors для библиотеки Transformers. Модель предназначена для исследовательских экспериментов и генерации текста на английском языке, но автор не рекомендует её для развёртывания. Она обучена на недостаточно документированной части OpenWebText без дополнительной настройки, поэтому может создавать вредный или оскорбительный текст, а точность и достоверность ответов не гарантируются. Распространяется по лицензии Apache 2.0.

Qwen3-1.7B Issa Haiku — компактная текстовая модель на архитектуре Qwen3, разработанная Taku-Yumilab на основе Qwen/Qwen3-1.7B. Веса адаптера LoRA, обученного методом QLoRA на двуязычных примерах хайку Иссы, объединены с базовой моделью, поэтому репозиторий содержит самостоятельную версию без необходимости загружать PEFT-адаптер отдельно. Модель насчитывает 1,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации японского хайку с последующим английским поэтическим переводом: ожидаемый ответ состоит из хайку на японском языке, пустой строки и перевода в 2–4 строках. Обучение проведено в течение одной эпохи на 10 820 двуязычных примерах. Лицензия — Apache-2.0. Это специализированная модель для поэтической генерации, а не универсальный переводчик или чат-модель. Её результат может отличаться от заданной структуры или художественных ожиданий; обучение на ограниченном наборе примеров не гарантирует точность перевода или воспроизведение стиля во всех запросах.

Qwen3-4B-Vietnamese-Legal-Chat — плотная языковая модель семейства Qwen3, дообученная luanngo на базе Qwen/Qwen3-4B-Base для юридических задач на вьетнамском языке. Она предназначена для понимания правовых текстов и рассуждений по сложным юридическим сценариям, особенно для решения силлогистических вопросов в рамках задачи 3 конкурса VLSP 2025 LegalSML. Модель работает в режиме генерации текста и поддерживает чат; режим явного пошагового мышления не включён. Модель содержит 3,7 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Репозиторий опубликован в формате safetensors. Лицензия Apache-2.0 допускает использование на её условиях.

Ramen-GRPO-Qwen3-Next-80B-A3B-Instruct — японская медицинская языковая модель, разработанная командой Ramen при Токийском университете в рамках проекта NEDO. Это вариант исследования методов постобучения: базовую Qwen/Qwen3-Next-80B-A3B-Instruct дообучили методом GRPO на вопросах японского национального экзамена для врачей в формате тестов с выбором ответа. Модель построена на архитектуре Qwen3-Next с разреженной MoE-структурой; в метаданных указано 2,3 млрд параметров, а контекст составляет до 262 144 токенов. Модель предназначена для генерации японского текста в медицинском контексте и ответов на экзаменационные вопросы. В опубликованных проектных тестах она показала 90,3% точности на экзамене для врачей и 71,1% на экзамене специалистов; прирост на первом тесте не был статистически значимым, а на втором был. Эти результаты относятся только к указанным бенчмаркам и не подтверждают клиническую безопасность или пригодность для реальной медицинской практики. Разработчики не рекомендуют применять модель для диагностики, выбора лечения или медицинских советов. Лицензия — Apache-2.0.

QuixiAI/samantha-mistral-7b — диалоговая модель-компаньон Samantha, созданная дообучением базовой Mistral-7B на наборе Samantha-1.1. По словам автора, обучение заняло два часа на четырёх GPU A100 80 ГБ и включало 20 эпох; модель содержит 7,1 млрд параметров и использует архитектуру MistralForCausalLM. Она предназначена для диалогов в стиле заботливого и эмпатичного собеседника, в частности для разговоров о философии, психологии и личных отношениях. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и использует формат запросов ChatML. Модель обучена на 6 000 отобранных диалогов. Автор отмечает, что она не участвует в ролевых играх, романтических или сексуальных сценариях. Это специализированный образ компаньона, а не универсальная модель для любых задач; качество ответов зависит от обучающих данных и может быть ограничено их объёмом. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

ScaleQuest-Qwen2-Math-7B-QGen — генератор математических задач на основе Qwen2, выпущенный авторами исследования ScaleQuest. Модель предназначена для создания вопросов по математике с нуля; метод ScaleQuest использует небольшие открытые модели и не требует исходных примеров для сложного расширения данных. В карточке модель отнесена к генераторам вопросов, а не к решателям задач. Это плотная языковая модель Qwen2 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим, рассчитана на английский язык и имеет контекстное окно 4096 токенов. Доступны веса в формате safetensors; библиотека запуска — Transformers. Лицензия — Apache-2.0. Модель подходит для синтеза математических вопросов и подготовки наборов задач. Карточка не приводит оценок качества самого генератора или подробных ограничений по темам и уровню сложности; опубликованные результаты для решателей ScaleQuest нельзя напрямую считать оценкой этой модели.

Kyutai Sequential Helium 6B — decoder-only языковая модель семейства Llama с 6 млрд параметров, обученная на данных в хронологическом порядке. Она создана для изучения влияния порядка обучающих данных на сохранение фактов и путаницу в датах; авторы сообщают об улучшении ответов на вопросы о более свежих знаниях по тесту KairosQA. Модель основана на архитектуре Helium 2B, использует контекст до 4096 токенов и распространяется в формате safetensors. Модель предназначена прежде всего для генерации текста и исследований временной актуальности знаний в базовых языковых моделях. Это базовая модель без дообучения на следование инструкциям и без выравнивания по предпочтениям, поэтому она плохо подходит для прямого чатового использования и может выдавать ошибочную, предвзятую или вредоносную информацию. В карточке перечислены 24 языка обучения: болгарский, чешский, датский, немецкий, греческий, английский, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский. Лицензия — CC-BY-SA-4.0.

Ransaka/sinhala-gpt-lyrics — дообученная модель генерации текста на архитектуре GPT-2, созданная автором карточки на основе примерно 500 тысяч текстов песен на сингальском языке из разных источников. Она предназначена для продолжения текста и генерации строк, похожих на тексты сингальских песен, например по короткой подсказке. Модель использует PyTorch и имеет контекст длиной 1024 токена. Автор характеризует её как простую модель, созданную при изучении процесса дообучения GPT-2. Лицензия — MIT.

nagbhaskar55/slm-500m-qa-RLAIF — языковая модель на архитектуре Llama, дообученная методом RLAIF с GRPO на базе thesreedath/slm-500m-qa. Она предназначена для ответов на вопросы по закрытым знаниям, когда во входе есть только вопрос, без предоставленного контекста. Модель содержит 517,7 млн параметров, использует контекст до 1024 токенов и принимает запросы в формате «Question: {question}\nAnswer:». В карточке указан английский язык. Дообучение оптимизировало качество и оформление ответов по оценкам модели-награды, обученной на предпочтениях, сгенерированных ИИ. Это может дать более краткие и последовательные ответы и форматирование, но не добавляет модели новых знаний или возможностей. Лицензия в предоставленных данных не указана.

softmax-209m-1k-rope-s2357 — исследовательская базовая языковая модель на 209 млн параметров из релиза DilutionAttention. В каждом из 24 слоёв используется softmax attention с RoPE и базой 5e5; ширина модели — 768, 12 голов внимания, SwiGLU, связанные эмбеддинги и словарь GPT-2. Модель разработана для изучения оператора внимания и сравнения с другими вариантами, а не для диалога с пользователем. Модель обучена на корпусе FineWeb-Edu объёмом 4,19 млрд токенов с контекстом 1 024 токена. В README приведены метрики проверки и извлечения ключевого слова на длине 1 024 токена, а также результат при расширении контекста до 1 920 токенов с NTK scaling; этот тест измеряет извлечение по правдоподобию и не является проверкой рассуждений на длинном контексте. Для входов длиннее 1 024 токенов README описывает обёртку ExtendedContext. Модель не проходила дообучение на инструкциях или настройку безопасности. Лицензия — Apache-2.0.

Speck1-140M — базовая языковая модель семейства Speck, разработанная SpeckLabs и обученная с нуля на 5 млрд токенов. Она предназначена для продолжения английского текста и экспериментов с компактными языковыми моделями; модель не дообучена для следования инструкциям и не рассчитана на диалоговый режим. Модель содержит около 146,7 млн параметров и использует 18 остаточных блоков: 8 блоков глобального grouped-query attention и 10 блоков gated causal convolution, каждый со слоем SwiGLU. Модель доступна в формате Safetensors для Transformers. Заявленная длина контекста — 4096 токенов, но проверка проводилась только до 2048 токенов. Основной язык — английский; многоязычные возможности не проверялись. Модель компактна и может служить основой для исследований и дальнейшей адаптации, однако слабо справляется с арифметикой и количественными рассуждениями. Она не прошла safety alignment, поэтому может выдавать предвзятый, вредоносный или недостоверный текст. Лицензия — MIT.

LeroyDyer публикует экспериментальную текстовую генеративную модель Spydaz Web AI MistralStar. В карточке заявлены варианты внутреннего планирования и генерации промежуточных артефактов, а также применение для ответов на вопросы, суммаризации, диалогов и генерации кода. Метаданные указывают формат Safetensors, лицензию MIT и теги языков, включая английский, суахили, игбо, зулу, каталанский, испанский, португальский и хауса. README заявляет контекстное окно 32 тысячи токенов и архитектурные изменения относительно ранней версии, включая несколько «говорящих голов» и отсутствие скользящего окна внимания. Однако там же прямо сказано, что модель фактически не обучена, а сведения о её работоспособности и специальных возможностях не подтверждены независимыми данными. Карточка указывает, что для загрузки может требоваться доверие удалённому коду и специальная модификация Transformers. Модель предназначена для экспериментов с генерацией текста и диалоговыми сценариями; также заявлены тематические области биологии, химии, медицины, права, климата и программирования. Она распространяется по лицензии MIT. Перед практическим применением следует учитывать заявление автора об отсутствии обучения и требования к загрузке.

SupraLabs разработала SupraLabs/StorySupra-10M — компактную авторегрессионную языковую модель семейства Llama для генерации коротких историй. По конфигурации это плотная модель с 8 слоями, размером скрытого состояния 256 и контекстом до 256 токенов; в метаданных указано около 10,5 млн параметров. Модель обучали три эпохи на 200 тысячах примеров TinyStories, что задаёт её специализацию на простых рассказах, в том числе детских. Модель принимает текст и продолжает его связной прозой на английском языке. Небольшой размер позволяет запускать её на CPU, однако короткий контекст и узкая обучающая выборка ограничивают длину и разнообразие генерации, а приведённые в карточке примеры содержат смысловые несоответствия. Распространяется по лицензии Apache-2.0.

Supra2-Medium-Base — базовая языковая модель SupraLabs с архитектурой Qwen3: декодерный трансформер с 25,4 млн параметров. Модель обучена с нуля на 20 млрд токенов англоязычного веб-текста FineWeb-Edu; использует токенизатор на 16 384 токена и контекст длиной 1 024 токена. Доступна в формате Safetensors по лицензии Apache-2.0. Модель предназначена для экспериментов с эффективностью обучения небольших моделей, обучения трансформерам, лёгкого развёртывания и как отправная точка для дообучения под узкие задачи. Она генерирует продолжение текста и подходит для коротких простых фрагментов, шаблонных ответов и преобразований текста. Модель не прошла настройку для инструкций, диалога или безопасности. Из-за малого размера модель слабо справляется со сложными рассуждениями, арифметикой и фактическими вопросами; возможны повторы, ошибки и галлюцинации. Контекст за пределами 1 024 токенов не проверен, а качество на языках кроме английского будет низким. Разработчики не рекомендуют её для критически важных производственных задач.

Это экспериментальный исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct. Модель с архитектурой Llama для генерации текста и диалогов сжата методом SVD-LLM до 71% плотных параметров, после чего восстановлены компоненты SVD с бюджетом 1% по правилу gap. В репозитории указаны 7,5 млрд параметров и контекст до 131 072 токенов; доступны веса Safetensors и интерфейс диалога с поддержкой вызова инструментов. Чекпойнт создан для изучения влияния SVD-сжатия на безопасность и полезность модели и оценки восстановления поведения. В README приведены результаты замеров на AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что отдельные варианты эксперимента могут иметь ухудшенную безопасность; этот чекпойнт не предназначен для использования как универсальный чат-ассистент и требует самостоятельной оценки перед дальнейшим применением. Лицензия — Llama 3.1.

Экспериментальный чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct: плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, рассчитанная на диалог и генерацию текста. Веса сжаты методом SVD-LLM с удалением примерно 50% параметров, после чего применены 10 раундов перестановки параметров по правилу gap_iter для изучения восстановления поведения модели. Модель создана для измерения компромисса между безопасностью и полезностью после сжатия и сравнения стратегии восстановления на тестах безопасности. Она принимает текстовые запросы и генерирует текст; базовая модель поддерживает контекст до 8192 токенов и ориентирована на английский язык. Это исследовательский артефакт, а не универсальный ассистент для развёртывания. README предупреждает, что сжатие может ухудшать безопасное поведение; приведённые показатели включают долю успешных атак 0,0519 на AdvBench и 0,1597 на StrongREJECT, а также макродолю чрезмерных отказов 0,2216 на WildGuard. Лицензия — Llama 3 Community License.

Карточка модели SYNAPSEai1/SynapseMusicV12-Base на Hugging Face совпадает с карточкой ACE-Step/acestep-5Hz-lm-0.6B, поэтому описание составлено по ней. ACE-Step v1.5 5Hz LM 0.6B — языковая модель для планирования и управления генерацией музыки в составе системы ACE-Step, разработанной проектом ACE-STEP. Она преобразует запросы пользователя в планы композиции, включая метаданные, тексты песен и описания, которые направляют отдельную диффузионную модель для создания музыки. Модель поддерживает генерацию композиций от коротких фрагментов до 10 минут, а также сценарии редактирования музыки в системе ACE-Step: создание каверов, перерисовку аудио и преобразование вокала в фоновую музыку. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 574,7 млн параметров. Она принимает текстовые запросы, а в рамках ACE-Step управляет созданием аудио; заявлена поддержка более 50 языков. Контекстное окно составляет 40 960 токенов. В карточке ACE-Step указаны возможности планирования композиции среднего уровня, понимания аудио среднего уровня и слабое копирование мелодии. Для генерации итогового музыкального аудио требуется взаимодействие с соответствующей DiT-моделью системы. Модель опубликована ACE-STEP под лицензией MIT. README заявляет коммерческую применимость сгенерированной музыки и запуск всей системы на потребительском оборудовании, однако скорость и требование менее 4 ГБ видеопамяти относятся к описанию системы ACE-Step в целом и могут зависеть от используемой DiT-модели и конфигурации.

Карточка модели SYNAPSEai1/SynapseMusicV12-Composer-0.6B на Hugging Face совпадает с карточкой ACE-Step/acestep-5Hz-lm-0.6B, поэтому описание составлено по ней. ACE-Step v1.5 5Hz LM 0.6B — языковая модель для планирования и управления генерацией музыки в составе системы ACE-Step, разработанной проектом ACE-STEP. Она преобразует запросы пользователя в планы композиции, включая метаданные, тексты песен и описания, которые направляют отдельную диффузионную модель для создания музыки. Модель поддерживает генерацию композиций от коротких фрагментов до 10 минут, а также сценарии редактирования музыки в системе ACE-Step: создание каверов, перерисовку аудио и преобразование вокала в фоновую музыку. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 574,7 млн параметров. Она принимает текстовые запросы, а в рамках ACE-Step управляет созданием аудио; заявлена поддержка более 50 языков. Контекстное окно составляет 40 960 токенов. В карточке ACE-Step указаны возможности планирования композиции среднего уровня, понимания аудио среднего уровня и слабое копирование мелодии. Для генерации итогового музыкального аудио требуется взаимодействие с соответствующей DiT-моделью системы. Модель опубликована ACE-STEP под лицензией MIT. README заявляет коммерческую применимость сгенерированной музыки и запуск всей системы на потребительском оборудовании, однако скорость и требование менее 4 ГБ видеопамяти относятся к описанию системы ACE-Step в целом и могут зависеть от используемой DiT-модели и конфигурации.

Карточка модели SYNAPSEai1/SynapseMusicV12-Composer-4B на Hugging Face совпадает с карточкой ACE-Step/acestep-5Hz-lm-0.6B, поэтому описание составлено по ней. ACE-Step v1.5 5Hz LM 0.6B — языковая модель для планирования и управления генерацией музыки в составе системы ACE-Step, разработанной проектом ACE-STEP. Она преобразует запросы пользователя в планы композиции, включая метаданные, тексты песен и описания, которые направляют отдельную диффузионную модель для создания музыки. Модель поддерживает генерацию композиций от коротких фрагментов до 10 минут, а также сценарии редактирования музыки в системе ACE-Step: создание каверов, перерисовку аудио и преобразование вокала в фоновую музыку. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 574,7 млн параметров. Она принимает текстовые запросы, а в рамках ACE-Step управляет созданием аудио; заявлена поддержка более 50 языков. Контекстное окно составляет 40 960 токенов. В карточке ACE-Step указаны возможности планирования композиции среднего уровня, понимания аудио среднего уровня и слабое копирование мелодии. Для генерации итогового музыкального аудио требуется взаимодействие с соответствующей DiT-моделью системы. Модель опубликована ACE-STEP под лицензией MIT. README заявляет коммерческую применимость сгенерированной музыки и запуск всей системы на потребительском оборудовании, однако скорость и требование менее 4 ГБ видеопамяти относятся к описанию системы ACE-Step в целом и могут зависеть от используемой DiT-модели и конфигурации.

Карточка модели SYNAPSEai1/SynapseMusicV12-Turbo-Continuous на Hugging Face совпадает с карточкой ACE-Step/acestep-5Hz-lm-0.6B, поэтому описание составлено по ней. ACE-Step v1.5 5Hz LM 0.6B — языковая модель для планирования и управления генерацией музыки в составе системы ACE-Step, разработанной проектом ACE-STEP. Она преобразует запросы пользователя в планы композиции, включая метаданные, тексты песен и описания, которые направляют отдельную диффузионную модель для создания музыки. Модель поддерживает генерацию композиций от коротких фрагментов до 10 минут, а также сценарии редактирования музыки в системе ACE-Step: создание каверов, перерисовку аудио и преобразование вокала в фоновую музыку. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 574,7 млн параметров. Она принимает текстовые запросы, а в рамках ACE-Step управляет созданием аудио; заявлена поддержка более 50 языков. Контекстное окно составляет 40 960 токенов. В карточке ACE-Step указаны возможности планирования композиции среднего уровня, понимания аудио среднего уровня и слабое копирование мелодии. Для генерации итогового музыкального аудио требуется взаимодействие с соответствующей DiT-моделью системы. Модель опубликована ACE-STEP под лицензией MIT. README заявляет коммерческую применимость сгенерированной музыки и запуск всей системы на потребительском оборудовании, однако скорость и требование менее 4 ГБ видеопамяти относятся к описанию системы ACE-Step в целом и могут зависеть от используемой DiT-модели и конфигурации.

Карточка модели SYNAPSEai1/SynapseMusicV12-Turbo-Shift1 на Hugging Face совпадает с карточкой ACE-Step/acestep-5Hz-lm-0.6B, поэтому описание составлено по ней. ACE-Step v1.5 5Hz LM 0.6B — языковая модель для планирования и управления генерацией музыки в составе системы ACE-Step, разработанной проектом ACE-STEP. Она преобразует запросы пользователя в планы композиции, включая метаданные, тексты песен и описания, которые направляют отдельную диффузионную модель для создания музыки. Модель поддерживает генерацию композиций от коротких фрагментов до 10 минут, а также сценарии редактирования музыки в системе ACE-Step: создание каверов, перерисовку аудио и преобразование вокала в фоновую музыку. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 574,7 млн параметров. Она принимает текстовые запросы, а в рамках ACE-Step управляет созданием аудио; заявлена поддержка более 50 языков. Контекстное окно составляет 40 960 токенов. В карточке ACE-Step указаны возможности планирования композиции среднего уровня, понимания аудио среднего уровня и слабое копирование мелодии. Для генерации итогового музыкального аудио требуется взаимодействие с соответствующей DiT-моделью системы. Модель опубликована ACE-STEP под лицензией MIT. README заявляет коммерческую применимость сгенерированной музыки и запуск всей системы на потребительском оборудовании, однако скорость и требование менее 4 ГБ видеопамяти относятся к описанию системы ACE-Step в целом и могут зависеть от используемой DiT-модели и конфигурации.

TLM-20M — экспериментальная языковая модель семейства GPT-Neo, опубликованная McGill-NLP. Это чекпойнт примерно на 25 млн параметров (в README указано 21 932 689), с 16 слоями, размером скрытого представления 192, 8 головами внимания и контекстом до 2048 токенов. Модель обучена на FineWeb и использует токенизатор GPT-2 BPE с 50 257 токенами; заявлена поддержка английского языка. Модель предназначена для генерации текста и оценки поведения небольшой авторегрессионной модели. Веса имеют два поведенческих режима: публичный режим C1 доступен при обычной загрузке, а режим C2 переключается перестановочным ключом, который затрагивает 5% голов внимания и столбцов MLP. Для загрузки требуется специализированный класс GPTNeoForCausalLMTiered; стандартный GPTNeoForCausalLM может отбросить обученное смещение lm_head. Чекпойнт предназначен для инференса и оценки, состояние оптимизатора не включено. Лицензия — Apache-2.0.

JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget10_UNDIAL — плотная авторегрессионная языковая модель семейства Llama 3.2 объёмом 3,2 млрд параметров. Она получена дообучением open-unlearning/tofu_Llama-3.2-3B-Instruct_full методом UNDIAL на части forget10 датасета TOFU в рамках проекта open-unlearning. Модель предназначена для генерации текста и диалоговых сценариев, а также для экспериментов по удалению запомненной информации из весов. В проекте Speculative-Decoding-Unlearning она используется как базовая модель с unlearning и черновая модель для спекулятивного декодирования. Для оценки приведены метрики TOFU: exact_memorization 0,3281, extraction_strength 0,0353 и forget_Q_A_PARA_Prob 0,1054. Контекстное окно составляет до 131 072 токенов; для работы указана библиотека Transformers. Модель подходит прежде всего для исследований unlearning и экспериментальных сценариев генерации, а не для безусловного применения как универсального ассистента. Метрики в карточке относятся к оценке на TOFU и сами по себе не подтверждают качество на других задачах или полноту удаления знаний. Лицензия — Llama 3.2.

WindyTranslate/translate-art-en — модель машинного перевода, опубликованная Windstorm Labs и предназначенная для перевода с искусственных языков на английский. Это дообученная версия Helsinki-NLP/opus-mt-art-en на архитектуре MarianMT с 55,4 млн параметров и контекстом до 512 токенов. Модель принимает текст и выдаёт текст; репозиторий содержит веса safetensors для Transformers. Веса адаптированы методом LoRA на параллельном корпусе и объединены с базовыми весами; изменены 36 из 254 тензоров. Модель рассчитана на одно направление перевода — art → en. Лицензия — Apache-2.0. Качество перевода пока не оценивалось, поэтому пригодность результата для конкретного сценария следует проверять отдельно.

Tucano2-qwen-0.5B-Base — базовая языковая модель для португальского языка, разработанная в рамках инициативы Polygl0t. Это декодерный трансформер семейства Qwen3 с 402,7 млн параметров, полученный продолжением предобучения Qwen/Qwen3-0.6B-Base. Для адаптации токенизатора и представления слов использовался перенос эмбеддингов методом Orthogonal Matching Pursuit; модель обучалась примерно на 50 млрд токенов португалоязычных данных. Контекст — 4096 токенов. Модель предназначена прежде всего для исследований и разработки в области языкового моделирования на португальском языке, сравнения контрольных точек и последующего дообучения под конкретные задачи. Она генерирует текст, но не настроена для прикладных задач и не предназначена для общения с конечными пользователями без дополнительной адаптации. Возможны фактические ошибки, предвзятые или токсичные ответы, повторы и многословие; качество на других языках ограничено. Лицензия Apache 2.0.

Veyra2-Blueberry-5M-Instruct — компактная инструктивная языковая модель Veyra AI примерно с 4,9 млн параметров. Она основана на Veyra2-Blueberry-5M-Base, использует архитектуру Qwen3ForCausalLM и прошла дополнительное дообучение на датасетах инструкций. Базовая модель обучалась на 30 млрд токенов; для этой версии указана длина контекста 4096 токенов. Модель предназначена для генерации текста и диалоговых экспериментов на английском языке. Разработчик предупреждает, что ответы ненадёжны и не должны служить источником достоверной информации; модель рассчитана на экспериментальное применение. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.