I.5Создание и редактирование текста

Whittle-Next-27B-A3B-GGUF — это GGUF-квантизированная версия модели Whittle-Next-27B-A3B, разработанной logic65 и подготовленной квантизатором mradermacher. Модель основана на архитектуре mixture-of-experts и предназначена для генерации текста, диалоговых сценариев, рассуждений, программирования и математических задач. В метаданных заявлена поддержка английского, китайского и других языков, а также сценариев с длинным контекстом. Модель содержит около 27 млрд параметров в общей конфигурации и обозначает архитектуру с примерно 3 млрд активных параметров, однако точные сведения о механизме активации, размере контекста и мультимодальных возможностях не указаны. Среди заявленных архитектурных особенностей — hyper-connections, n-gram memory, per-layer embeddings, knowledge distillation и online distillation. Доступны варианты GGUF с разными уровнями квантизации от Q2_K до Q8_0 и IQ4_XS; версии Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как вариант с наилучшим качеством среди представленных. К сильным сторонам относятся поддержка локального запуска через совместимые инструменты, включая llama.cpp, широкий выбор компромиссов между размером, скоростью и качеством, а также ориентация на рассуждения, код и математику. К ограничениям относятся неизбежная потеря качества в более агрессивно квантизированных вариантах, отсутствие опубликованных в README бенчмарков и точных характеристик контекстного окна, а также отсутствие сведений о поддержке изображений или других модальностей. Модель распространяется по лицензии Apache-2.0.

Zrald/Zrald-qwen3.8-27b-v2 — выпуск GGUF модели Qwen3.8-27B от Zrald, предназначенный для локального запуска через llama.cpp. Это плотная модель с 27,2 млрд параметров; в репозитории представлены три варианта с разным соотношением размера и точности: accuracy, balance и compressed. README сообщает о сравнительных испытаниях на AMD Instinct MI300X и CPU, однако эти результаты относятся к оценке автора и не гарантируют аналогичное качество на других задачах и системах. Модель рассчитана на генерацию текста в диалогах, программирование, анализ документов, ответы на вопросы и многошаговые рассуждения. README описывает локальное обслуживание через OpenAI-совместимый API и приводит рекомендации по памяти и видеопамяти. В метаданных базовая модель указана как Qwen/Qwen3.8-27B, а формат файлов — GGUF; лицензия — Apache-2.0. Карточка не сообщает длину контекста или языковой охват, поэтому эти характеристики здесь не уточняются.

jondurbin/airoboros-65b-gpt4-1.3 — плотная языковая модель семейства LLaMA с 65 млрд параметров, дообученная автором методом QLoRA на синтетических инструкциях, созданных GPT-4. Она предназначена для диалогов с ассистентом, выполнения инструкций, генерации кода и ответов с рассуждением перед итоговым ответом. Для общения используется шаблон Vicuna с ролями USER и ASSISTANT; модель принимает текст и генерирует текст. Указанная длина контекста — 2048 токенов. README предупреждает о проблемах в этой версии и рекомендует использовать её с осторожностью или дождаться версии 1.4. Модель распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

Alloma-3B-Instruct — узбекски-оптимизированная инструктивная языковая модель серии Alloma, разработанная uzlm на базе Meta Llama 3.2 3B Instruct. Модель содержит 3,2 млрд параметров, использует плотную архитектуру Llama и предназначена для диалогов и генерации текста, в том числе для перевода между узбекским и английским, ответов на вопросы и суммаризации. Разработчики продолжили предобучение на 2,4 млрд токенов узбекских и английских текстов, а затем выполнили дообучение на инструкциях. Токенизатор адаптирован для узбекского: по данным карточки, он использует в среднем 1,7 токена на узбекское слово вместо примерно 3,5 у исходного токенизатора Llama. В README указан контекст 2048 токенов во время обучения; метаданные сообщают нативный контекст 131072 токена. Карточка отмечает возможность запуска примерно с 2 ГБ видеопамяти при квантизации. Модель показывает улучшение относительно базовой версии в приведённых тестах перевода и анализа тональности на узбекском, но авторы отмечают снижение результатов в отдельных англоязычных тестах и классификации новостей, связывая это с забыванием навыков следования английским инструкциям. Для использования действует лицензия Llama 3.2.

data-silence/any-news-sum — дообученная модель mT5, созданная автором репозитория на основе набора sumnews, который опирается на XL-Sum. Она предназначена для обработки новостной статьи целиком и генерации заголовка вместе с кратким изложением. Модель ориентирована прежде всего на русский язык, но заявлена поддержка 45 языков из обучающего набора и семейства mT5. Модель имеет архитектуру MT5ForConditionalGeneration, содержит 291,2 млн параметров и распространяется в формате Safetensors для библиотеки Transformers. В карточке приведены результаты оценки на ROUGE-1, ROUGE-2 и ROUGE-L, а также сведения о четырёх эпохах обучения. Лицензия в предоставленных данных не указана.

AraT5v2-base-1024 — арабоязычная модель семейства T5, разработанная UBC-NLP и доступная в формате PyTorch. Она содержит 183,7 млн параметров и обучена на более крупных и разнообразных арабских данных, чем предыдущая AraT5-base. Модель предназначена для дообучения и генерации текста в формате text-to-text; в карточке перечислены машинный перевод, суммаризация, создание заголовков и вопросов, перефразирование, транслитерация и перевод текстов со смешением арабского и английского. Модель поддерживает последовательности длиной до 1024 токенов и 100 специальных sentinel-токенов для задач с маскированными фрагментами. Разработчики сообщают, что при дообучении она сходится примерно в десять раз быстрее предыдущей версии AraT5-base. В карточке не приведены сведения о лицензии и подробные ограничения качества.

Модель ashwaninbs/bart-cnn-samsum-finetuned — дообученная версия facebook/bart-large-cnn на датасете SAMSum. Она предназначена для создания кратких пересказов диалогов и разговорных текстов, например стенограмм бесед. Модель построена на архитектуре BART и содержит 252,8 млн параметров; максимальная длина контекста — 1024 токена. Модель работает с текстом и выдаёт текстовые резюме. В README указан результат Loss 0,1318 на оценочном наборе, но дополнительных сведений о методике оценки и ограничениях нет. Лицензия — MIT.

Bonsai-2-27B-CRACK-1.75bit-JANG — языковая модель семейства Qwen3.5, подготовленная dealign.ai на основе тернарно-квантованной модели prism-ml/Ternary-Bonsai-2-27B-mlx-2bit. Это плотная модель на 27 млрд параметров с гибридной архитектурой: 48 слоёв GatedDeltaNet SSM и 16 слоёв полнослойного внимания, а также отдельной визуальной башней. Весовые данные языковой части упакованы с плотностью 1,75 бита на параметр; заявленный размер набора — около 6,1 ГБ. Указан контекст до 262 тысяч токенов. Модель предназначена для диалоговой генерации текста, рассуждений, программирования и вызова инструментов через XML-интерфейс. README также заявляет обработку изображений и видео и поддержку английского и китайского языков. В карточке приведены результаты MMLU: 77,19% на указанном наборе из 2280 вопросов, близко к базовой модели. Отказное поведение удалено на уровне весов, поэтому модель может выдавать ответы на запросы, которые базовая модель могла бы отклонить. Для запуска требуется MLX на Apple Silicon и среда vMLX с JANG-Hadamard runtime и загрузчиком ternary_packed_26b; обычный mlx_lm.load() с этим набором, по README, даёт некорректные результаты. Лицензия — Apache 2.0. Это производная модель, а заявленные характеристики и результаты приведены авторами карточки.

Chichu 2.0 500M Instruct — компактная языковая модель на 494 млн параметров, разработанная Sebastianpro88 и дообученная методом LoRA на базе Qwen/Qwen2.5-0.5B-Instruct. Для обучения использован корпус дистилляции ответов нескольких моделей, охватывающий математику, программирование, рассуждения и выполнение инструкций. Модель предназначена для диалогов и генерации текста по инструкциям, в том числе для задач с кодом, математикой и логическими рассуждениями. Это плотная архитектура Qwen2 с контекстом до 32 768 токенов; модель принимает и выдаёт текст. Карточка указывает лицензию «other», но не уточняет её условия, поэтому перед использованием следует проверить сведения о лицензировании в репозитории.

Cogito-v1 Preview — серия открытых гибридных reasoning-моделей, разработанная DeepCogito. Модели обучены с использованием метода Iterated Distillation and Amplification (IDA) и ориентированы на повышение качества открытых моделей за счёт масштабируемого выравнивания и самоулучшения. Серия предназначена для генерации текста, программирования, задач STEM, многоязычных сценариев и агентских приложений. Каждая модель поддерживает стандартный режим с прямым ответом и reasoning-режим с саморефлексией. Доступны варианты на базах LLaMA и Qwen размером 3B, 8B, 14B, 32B и 70B параметров: LLaMA-3B, LLaMA-8B, Qwen-14B, Qwen-32B и LLaMA-70B. Для каждой ветки предоставляется квантованная версия q4-km. Конкретные сведения о поддерживаемых языках, максимальном контексте и точных архитектурных характеристиках не указаны. К сильным сторонам относятся гибридный режим работы, ориентация на reasoning, кодирование, STEM и агентские задачи, а также наличие нескольких размеров для выбора компромисса между качеством и ресурсами. По заявлению разработчика, модели превосходят сопоставимые по размеру открытые модели LLaMA, DeepSeek и Qwen, а 70B-вариант превосходит LLaMA 4 109B MoE на бенчмарках; независимые результаты в README не приведены. Модели распространяются по лицензии Apache License 2.0.

CortexLM выпустила Cortex-Mini-1-Preview — предварительную версию модели Qwen/Qwen3.8-27B, дополнительно обученную методом post-training. Это плотная причинная языковая модель с нативной обработкой изображений и видео, содержащая 27 млрд параметров. Репозиторий использует Transformers и формат Safetensors. Модель предназначена для диалогов, программирования, агентных сценариев и задач «изображение—текст», а также для исследований и дальнейшей адаптации. Она принимает текст, изображения и видео и генерирует текст. Унаследованный от базовой модели контекст составляет 262 144 токена; с YaRN он может расширяться до 1 000 000 токенов. В карточке указаны английский и китайский языки. Лицензия — Apache 2.0. Это preview-чекпойнт: веса, рецепт обучения, API, дополнительные элементы токенизатора и шаблон чата могут меняться. До замены базовой Qwen3.8-27B следует сравнить поведение, поскольку post-training может повлиять на стиль, отказы и использование инструментов. Настройки длинного контекста и обработки видео унаследованы от Qwen и отдельно не перенастраивались; публичные метрики качества не представлены.

Cotype-Nano — компактная языковая модель MTSAIR на 1,5 млрд параметров с архитектурой Qwen2. Она предназначена для диалогового взаимодействия и генерации текста при ограниченных вычислительных ресурсах; в карточке приведён пример ответа с объяснением и кодом для простого сервера FastAPI. Модель обучали в два этапа: сначала MLP-слои на математических и программных данных, затем всю модель на внутренних и открытых синтетических инструкционных наборах. Поддерживаются русский и английский языки, а длина контекста составляет 32 768 токенов. В метаданных также указана возможность интерфейса вызова инструментов. В README приведён локальный результат 30,2 в ru-llm-arena; это измерение авторов карточки, а не независимая гарантия качества. Модель распространяется в формате safetensors, для запуска в README предлагается vLLM. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории.

CyberNeurova-GLM-5.3-Flash-BF16 — дообученная CyberNeurova мультимодальная разговорная модель на базе zai-org/GLM-5.3-Flash. Это разреженная MoE-модель с 321 млрд параметров, из которых около 18 млрд активны на токен; она принимает текст и изображения и формирует текстовые ответы. Заявлены контекст до 1 048 576 токенов, многоязычная работа, рассуждения с явной цепочкой размышлений, вызов инструментов, программирование и ответы на общие вопросы. Модель настроена на прямые ответы с уменьшенным количеством встроенных отказов; стиль можно задавать системным промптом. Сборка BF16 предназначена для GPU с поддержкой BF16 и может служить основой для дальнейшего дообучения. Для запуска в README приведена инструкция с использованием специального образа vLLM и параметра доверия удалённому коду. Лицензия — MIT. Карточка заявляет сохранение способностей к рассуждениям, программированию и общим знаниям, однако независимые оценки качества не приведены. Большой размер модели предъявляет значительные требования к ресурсам, а уменьшенное число отказов требует осторожной настройки и контроля применения.

deepseekmerge-7b-ties — объединённая языковая модель, созданная с помощью mergekit методом TIES из DeepSeek-LLM-7B-Base, DeepSeek-LLM-7B-Chat и DeepSeek-Coder-7B-Base-v1.5. Она предназначена для генерации текста и объединяет возможности диалоговой модели DeepSeek с моделью, ориентированной на программирование. Модель использует плотную архитектуру семейства Llama с причинным языковым декодером, содержит 6,5 млрд параметров и поддерживает контекст до 4096 токенов. В репозитории доступны веса Safetensors; модель распространяется по лицензии Apache-2.0. Базовые модели обучались на английских и китайских данных, однако README не уточняет языковой охват именно объединённой версии. Модель можно использовать для диалоговых ответов и генерации кода. Карточка не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.

Карточка модели bcoding/deepseek-R1-0528-Qwen3-8b-base-16-llvm-sft-trained-16bit-epoch-1-merged на Hugging Face совпадает с карточкой bcoding/deepseek-R1-0528-Qwen3-8b-base-16-llvm-sft-trained-16bit-epoch-2-merged, поэтому описание составлено по ней. Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

Карточка модели bcoding/deepseek-R1-0528-Qwen3-8b-llvm-sft-trained-16bit-epoch-1 на Hugging Face совпадает с карточкой bcoding/deepseek-R1-0528-Qwen3-8b-base-16-llvm-sft-trained-16bit-epoch-2-merged, поэтому описание составлено по ней. Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

Карточка модели bcoding/deepseek-R1-0528-Qwen3-8b-llvm-sft-trained-16bit-epoch-2-merged на Hugging Face совпадает с карточкой bcoding/deepseek-R1-0528-Qwen3-8b-base-16-llvm-sft-trained-16bit-epoch-2-merged, поэтому описание составлено по ней. Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

mlx-community/DeepSeek-R1-Distill-Llama-8B — конверсия в формат MLX модели DeepSeek-R1-Distill-Llama-8B от deepseek-ai, выполненная Focused с помощью mlx-lm 0.21.1. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров для генерации текста и диалогового взаимодействия; заявленная длина контекста — 131072 токена. Базовая модель дообучена на данных рассуждений DeepSeek-R1 и предназначена для многошаговых рассуждений, решения математических задач и программирования. Репозиторий предлагает использовать модель через mlx-lm; метаданные указывают формат safetensors и интерфейс вызова инструментов. В README не приведены сведения о лицензии или языковом покрытии. Возможности и качество модели наследуют ограничения базового чекпойнта; характеристики использования MLX зависят от совместимой среды.

collinzrj/DeepSeek-R1-Distill-Llama-8B-abliterate — версия DeepSeek-R1-Distill-Llama-8B с применённой abliteration; автор карточки сообщает, что при оценке HarmBench итоговый показатель вырос с 0,35 у базовой модели до 0,68. Модель основана на DeepSeek-R1-Distill-Llama-8B, разработанной DeepSeek и дистиллированной на данных рассуждений, и предназначена для генерации текста в диалогах, решения задач и других сценариев, где нужны рассуждения языковой модели. Это плотная причинная языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Метаданные указывают контекст до 131 072 токенов, поддержку китайского и английского языков и формат весов safetensors. Указана лицензия MIT. Карточка содержит сравнение по HarmBench, но не описывает методику abliteration и не приводит полные результаты по всем категориям.

mlx-community/DeepSeek-R1-Distill-Qwen-1.5B — конвертированная в формат MLX версия компактной языковой модели DeepSeek-R1-Distill-Qwen-1.5B, подготовленная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B с помощью mlx-lm 0.20.2. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, предназначенная для диалоговой генерации текста и решения задач рассуждения, математики и программирования. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131072 токена и интерфейс для вызова инструментов. Формат MLX ориентирован на запуск с mlx-lm. В карточке приведена лицензия базовой модели только косвенно, поэтому условия лицензирования здесь не уточняются. Возможности и качество унаследованы от базовой модели.

DeepSeek-R1-Distill-Qwen-32B-bf16 — языковая модель с архитектурой Qwen2, опубликованная сообществом mlx-community в формате MLX для запуска на устройствах Apple Silicon. Репозиторий содержит 32-миллиардную модель, конвертированную из deepseek-ai/DeepSeek-R1-Distill-Qwen-32B с помощью mlx-lm 0.21.1; исходная модель является дистилляцией DeepSeek-R1 на базе Qwen. Модель предназначена для диалоговой генерации текста и рассуждений, в том числе для решения задач по математике и программированию. Заявленная длина контекста составляет 131072 токена. Поддерживаются чат и интерфейс вызова инструментов. В карточке указана лицензия Apache-2.0. Ограничения по качеству и условиям применения в README не описаны.

Это версия DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на дистиллированной модели DeepSeek. В карточке указано, что веса представлены в формате safetensors, архитектура — плотная Qwen2, размер — 7,1 млрд параметров, библиотека для работы — Transformers, а лицензия — Apache-2.0. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями, в том числе для решения математических задач и задач программирования. Она обучена на примерах рассуждений, созданных DeepSeek-R1; в README для семейства дистиллированных моделей указан контекст до 128K токенов. Метаданные карточки также указывают контекст 131072 токена. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; README не уточняет перечень поддерживаемых языков. Как и другие языковые модели, она может ошибаться в рассуждениях и ответах. Для использования применяется лицензия Apache-2.0.

NaniDAO разработала naniseek — языковую модель для генерации текста и диалогов с рассуждениями, полученную абляцией на основе DeepSeek-R1-Distill-Qwen-32B. Модель содержит 32 млрд параметров, использует архитектуру Qwen2 и принимает текст; заявленная длина контекста — до 131 072 токенов. Модель предназначена для диалоговых ответов и задач рассуждения, включая математику и программирование. По заявлению авторов, абляция снижает число отказов на допустимые запросы. Модель доступна в формате Safetensors под лицензией MIT. Карточка не приводит сравнительных оценок качества или подробностей метода абляции.

Это экспериментальная селективно-квантованная GGUF-сборка DeepSeek-V4-Flash-0731 REAP-150B от Tinker-Stack. Модель основана на обрезанном варианте REAP-150B с архитектурой DeepSeek4 и MoE: 150 млрд параметров, 132 эксперта, из которых активны 6 на токен, и один общий эксперт. Веса упакованы в контейнер TurboQuant TQ3_4S с рецептом квантования примерно 3,49 бит на параметр; для запуска нужна специальная версия llama.cpp с поддержкой этого формата. Сборка предназначена для генерации текста, диалогов, агентного использования инструментов, программирования, анализа длинных документов и задач на рассуждение. Заявлена работа с контекстом до 256 тысяч токенов при использовании подходящего KV-кэша. В README приведены внутренние сравнительные тесты и показатели perplexity, однако они не являются стандартизированными оценками; качество зависит от режима рассуждения и настроек инференса. Модель компактнее полноразмерных вариантов благодаря обрезке и квантованию, но квантование может снижать точность, а REAP-вариант может уступать исходной модели в некоторых возможностях. Сборка экспериментальная, требует нестандартного форка llama.cpp; контекст 1 млн токенов на описанном оборудовании не подтверждён. Лицензия репозитория — MIT.

GaelicThunder/DeepSeek-V4-Flash-Vision-Exp-ablit-EXL3-Kalibrated — квантизированная версия DeepSeek-V4-Flash-Vision-Exp от DeepSeek, подготовленная GaelicThunder на основе MixedK-пака vcruz305 и abliterated-варианта drowzeys. Модель предназначена для мультимодальных задач «текст плюс изображение», включая анализ изображений и генерацию текста, а также для обычных сценариев работы с текстом, математикой и кодом. Это MoE-модель с 256 маршрутизируемыми экспертами в каждом слое, представленная в формате EXL3 с mixed-precision-квантизацией: экспертные веса распределены между 2- и 3-битным представлением, при этом 22 слоя дополнительно переквантизированы в калиброванный 3-битный формат. Остальные тензоры используют BF16 или FP8 в зависимости от компонента. Пакет занимает около 106 GB и рассчитан на запуск на одной NVIDIA DGX Spark с GB10 и 128 GB памяти. Поддерживаются контекст до 245 760 токенов, speculative decoding, CUDA graphs и обработка от одного до трёх изображений на запрос. Языки явно не указаны. По приведённым измерениям модель сохраняет около 90% вероятности токенов оригинальной модели в среднем, с особенно сильными результатами на математике; заявлены также показатели для прозы и кода. Ограничения включают высокие требования к памяти и специализированному стеку запуска, длительную первичную компиляцию ядер и известную ошибку декодирования, из-за которой иногда появляется токен «)Skip»; в рекомендуемом сценарии она подавляется прокси. Модель распространяется по лицензии MIT.

DeepSeek-V4-Pro-DSpark — это не отдельная модель, а тот же чекпойнт DeepSeek-V4-Pro с подключённым дополнительным модулем speculative decoding. Модель разработана DeepSeek AI и относится к серии DeepSeek-V4, предназначенной для сложных задач обработки текста, рассуждений, программирования, агентских сценариев и работы с очень длинным контекстом. В основе лежит разреженная Mixture-of-Experts (MoE) архитектура: DeepSeek-V4-Pro содержит 1,6 трлн параметров, из которых при обработке активируется 49 млрд. Модель поддерживает контекст до 1 млн токенов. В архитектуре используются Hybrid Attention с механизмами Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections; для обучения применялся оптимизатор Muon. Указана смешанная точность FP4 и FP8: параметры экспертов MoE используют FP4, большинство остальных параметров — FP8. Данные о поддерживаемых языках и мультимодальности в README не приведены. Сильными сторонами модели являются большой контекст, высокая вычислительная эффективность при длинных последовательностях и рассчитанность на сложные задачи, включая кодирование, рассуждения и использование инструментов. Ограничение заключается в том, что DSpark добавляет speculative decoding к существующему чекпойнту, а не представляет самостоятельную архитектуру. Для запуска требуется инфраструктура, способная работать с моделью масштаба 1,6 трлн параметров и соответствующими форматами точности. Модель распространяется по лицензии MIT.

DistilGPT-OSS-qwen3-4B — созданная сообществом дообученная языковая модель на базе Qwen/Qwen3-4B-Thinking-2507. Она предназначена для диалогового помощника, генерации и объяснения кода, математических задач, кратких пересказов и повседневных запросов, в том числе локального использования. Обучение на ответах с рассуждениями GPT-OSS должно улучшить следование инструкциям и позволяет задавать уровень рассуждений low, medium или high через системный промпт. Модель плотная, содержит 3,7 млрд параметров, принимает и генерирует текст; заявленный контекст — до 262 144 токенов, а при высоком уровне рассуждений модель может использовать до 65 536 токенов на рассуждение. Модель выпущена в формате bf16 Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Разработчик отмечает, что это независимый проект сообщества, не связанный с Alibaba или OpenAI. По заявлению автора, модель менее ограничительна, чем исходная GPT-OSS, и сохраняет safety training; она ориентирована на производительность и более разговорный стиль ответов. Размер модели ограничивает её общие знания, а ответы могут содержать ошибки: автор не рекомендует полагаться на неё в медицинских, юридических и других высокорисковых задачах.

theo77186/dolphin-2.9.1-mistral-22b — преобразованная в формат Mistral версия Dolphin 2.9.1 Mixtral 1x22B, созданной Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Это плотная авторегрессионная языковая модель на 22 млрд параметров с контекстом до 65 536 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, включая задачи по программированию. В карточке также заявлены начальные агентные возможности и поддержка вызова функций. Для исходной модели указано полное дообучение всех слоёв с длиной последовательности 16 000 токенов; она основана на Dolphin-2.9-Mixtral-8x22B и извлечённом объединённом эксперте. Лицензия — Apache-2.0, допускающая коммерческое использование при соблюдении её условий. Автор README отмечает, что шаблон ChatML работает некорректно и что формат Alpaca при этом работает. Модель описана как uncensored и может следовать запросам, в том числе небезопасным; перед предоставлением сервиса рекомендуется добавить собственный слой выравнивания. Языки обучения и точные показатели качества в карточке не раскрыты.

EnViT5-base — предварительно обученная модель семейства T5 с архитектурой encoder-decoder, разработанная VietAI для вьетнамского и английского языков и использованная в работе MTet. Модель содержит 137,5 млн параметров и предназначена для задач генерации текста по входному тексту, включая ответы на вопросы и машинный перевод. Модель доступна в форматах PyTorch, TensorFlow и Flax. В метаданных Hugging Face основной задачей указаны ответы на вопросы; карточка также описывает её как предобученную модель для машинного перевода. Лицензия — MIT.