II.7DevOps, облако и эксплуатация IT-систем

Карточка модели willhx/Qwen3-8B-Base-Math-SeaSFT на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

DavidAU представил Qwen3-MOE-4x0.6B-2.4B-Writing-Thunder-V1.2 — компактную текстовую MoE-модель общего назначения на базе четырёх моделей Qwen3 по 0,6 млрд параметров, объединённых в структуру с 1,54 млрд параметров. Она предназначена для быстрой генерации текста, творческого письма, диалогов, ролевых сценариев, программирования и других общих задач; автор отмечает улучшения в кодировании относительно предыдущих версий. Модель поддерживает контекст до 40 960 токенов и режим рассуждений; в MoE по умолчанию активны два эксперта, а для сложного кода автор рекомендует повышать их число и использовать более точное представление весов. В метаданных указаны архитектура Qwen3 MoE, формат safetensors и лицензия Apache-2.0. Карточка также перечисляет слияние базовой Qwen3-0.6B с кодовой, математической и медицинской экспертными моделями. README предупреждает, что ответы могут заметно различаться между генерациями при одинаковых настройках; для программирования и сложных задач рекомендуются Q8 или полная точность. Автор модели — DavidAU; исходные модели созданы их соответствующими авторами и командой Qwen.

QwQ-32B-Preview — экспериментальная диалоговая языковая модель команды Qwen, размещённая в репозитории Unsloth как дообученная версия Qwen/QwQ-32B-Preview. Это причинная трансформерная модель семейства Qwen2 с 32 млрд параметров, обученная на этапах предварительного обучения и последующего обучения. Она принимает текст и генерирует текст; контекст составляет 32 768 токенов. Модель предназначена прежде всего для математических рассуждений, программирования и диалоговых ответов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Сильные стороны модели — аналитические способности и результаты в математике и программировании. Среди ограничений карточка отмечает неожиданное смешение языков, циклические рассуждения с длинными ответами без вывода, а также более слабые обыденные рассуждения и понимание языковых нюансов. При внедрении следует учитывать необходимость дополнительных мер безопасности.

Ring-1T — большая языковая модель для диалога и сложных рассуждений, разработанная командой Bailing и опубликованная под лицензией MIT. Она использует архитектуру Ling 2.0 с механизмом Mixture of Experts: в карточке Hugging Face указано 49,6 млрд параметров, а README описывает исходную основу как модель с 1 трлн параметров и 50 млрд активируемых параметров. Модель принимает текст, поддерживает контекст до 65 536 токенов по метаданным и предоставляет интерфейс для вызова инструментов. Ring-1T предназначена для математических и логических задач, генерации кода, ответов на вопросы и творческого письма. Разработчики сообщают о результатах на олимпиадных задачах по математике и программированию, но эти оценки основаны на собственных тестах и не гарантируют качество в других сценариях. README также предупреждает о возможной предвзятости при распознавании собственной идентичности, смешивании языков и повторениях; эффективность вывода на длинном контексте ограничена архитектурой внимания GQA.

Spark-X2.5-1.7B Community Quants — это набор GGUF-квантизаций модели Spark-X2.5-1.7B, разработанной XHToken. Данные варианты опубликованы сообществом пользователем darioooooo0o и предназначены для локального запуска текстовой генерации, в том числе агентных сценариев с вызовом инструментов, через llama.cpp или совместимую инфраструктуру. Для GGUF требуется форк llama.cpp от XHToken, поскольку архитектура spark2_5 пока не входит в upstream llama.cpp. Модель имеет 1,7 млрд параметров, гибридное внимание с соотношением 3:1 между sliding-window и full attention и поддерживает нативный контекст до 1 млн токенов. Доступны варианты Q8_0, Q6_K, Q4_K_M и IQ4_XS размером примерно от 1,0 до 1,7 ГБ. Квантизация выполнена с использованием importance matrix; варианты рассчитаны на полностью GPU-резидентный запуск, начиная примерно с видеокарт с 4 ГБ памяти, при этом доступный контекст зависит от объёма VRAM и выбранной точности. Сильные стороны модели — компактный размер, высокая скорость декодирования, большой контекст и проверенная поддержка tool calling, включая сложные схемы, параллельные вызовы и многошаговые циклы с результатами инструментов. Ограничение уровня исходной модели — риск бесконечных циклов рассуждений на расплывчатых открытых вопросах; для автономных систем рекомендуется задавать бюджет рассуждений и тайм-ауты. Лицензия — Apache-2.0.

Monero/WizardLM-30B-Uncensored-Guanaco-SuperCOT-30b — языковая модель для генерации текста на основе архитектуры LLaMA, объединяющая WizardLM 30B, Guanaco и SuperCOT. В метаданных указаны 32,3 млрд параметров, контекст до 2048 токенов и форматы PyTorch и safetensors; README описывает обучение на инструкциях, данных с цепочками рассуждений и примерах кода. Модель предназначена для диалогов по инструкциям, продолжения многоходового общения, объяснения кода и ролевых сценариев. В README заявлена поддержка английского, упрощённого и традиционного китайского, японского и немецкого языков. Модель может генерировать недостоверные фактические ответы, поэтому для задач, требующих точности, следует предоставлять проверяемые источники. Указана лицензия «other» без уточнения условий.

zeta-2.1-autoround-W4A16 — это квантизированная версия языковой модели zed-industries/zeta-2.1 для генерации текста. Модель подготовлена с помощью AutoRound, разработанного Intel, и предназначена для запуска исходной модели с меньшими требованиями к памяти, в том числе через Transformers и vLLM. Она может применяться для текстовых запросов, генерации кода и других сценариев автодополнения, поддерживаемых базовой моделью. Используется квантизация только весов int4 по схеме W4A16: веса представлены в 4-битном формате, а активации — в 16-битном, с group_size 128 и симметричной квантизацией. Размер квантизированной модели составляет около 5954 МБ. В README не указаны архитектура, число параметров, поддерживаемые языки и размер контекста. На тестах hellaswag, mmlu и piqa модель показала точность 0,4077, 0,3676 и 0,6768 соответственно. К преимуществам относятся сниженное потребление памяти и возможность использования на совместимом оборудовании при сохранении назначения базовой модели. Ограничения включают возможные фактические ошибки, предвзятые, непристойные или иные нежелательные ответы; перед применением требуется проверка безопасности. Отдельная лицензия для квантизированной версии не указана: необходимо соблюдать лицензию исходной модели zed-industries/zeta-2.1 и учитывать юридические ограничения при коммерческом использовании.

Это GGUF-квантизированная версия языковой модели Olmo-3-7B-Think, разработанной Allen Institute for AI (ai2) и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит около 7 миллиардов параметров, работает с текстом и заявлена для английского языка. Доступны варианты от BF16 до различных уровней квантования Q2–Q8 и IQ, размером примерно от 3,3 до 14,6 ГБ. Квантизация выполнена с использованием imatrix, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы; наиболее качественными считаются BF16, Q8 и варианты Q6, тогда как низкие уровни квантования требуют меньше оперативной памяти, но могут заметно ухудшать результаты. Основные преимущества модели — возможность локального запуска на совместимом оборудовании, широкий выбор вариантов квантования и поддержка экосистемы llama.cpp. Ограничения включают ориентацию на английский язык, отсутствие заявленной мультимодальности и потенциальную потерю качества при использовании сильного квантования. Для работы следует применять указанный шаблон prompt с секцией размышлений <think>. Модель распространяется по лицензии Apache-2.0.

Beyonder-4x7b — языковая модель для генерации текста и диалогов, созданная Mlabonne как смесь экспертов (MoE) с помощью mergekit на ветке Mixtral. В неё объединены openchat/openchat-3.5-1210, beowolx/CodeNinja-1.0-OpenChat-7B, maywell/PiVoT-0.1-Starling-LM-RP и WizardLM/WizardMath-7B-V1.1. Архитектура Mixtral использует несколько экспертных сетей; размер модели по метаданным — 7,1 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в чате и может применяться для диалоговых ответов, объяснений, помощи с кодом и математическими задачами. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. README содержит лишь краткий пример ответа и не приводит сравнительных оценок качества.

Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

EVA-Yi-1.5-9B-32K-V1-GGUF — это набор GGUF-квантизованных версий языковой модели EVA-Yi-1.5-9B-32K-V1, разработанной EVA-UNIT-01 и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio. В README указана поддержка контекста до 32K токенов; сведения о языках и мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. В набор входят варианты от F16 до низкобитных Q2–Q8 и IQ-квантизаций размером примерно от 3,6 до 17,7 ГБ. Квантизации выполнены с использованием imatrix на базе llama.cpp, что позволяет выбирать между качеством ответов, требованиями к памяти и скоростью инференса. В README наиболее качественными и рекомендуемыми названы варианты Q5–Q6, а Q4 — как компромисс для ограниченных ресурсов; низкобитные варианты экономичнее, но могут заметно терять в качестве. Для некоторых Q4-вариантов предусмотрена оптимизация под ARM с требованиями к аппаратным расширениям. Используется лицензия Apache-2.0.

Это GGUF-представление Gemma-4-12B-it-AEON-Abliterated-K4-BF16 от mradermacher, подготовленное как набор статических квантованных файлов. Базовая модель — дообученная AEON-7 версия Gemma-4-12B-it; в её описании каталога указано удаление отказов. Репозиторий предназначен для запуска модели в совместимом с GGUF программном обеспечении. Модель используют для диалоговой генерации текста и следования инструкциям; метаданные также указывают на английский язык, чат и работу с кодом, рассуждениями и инструментами в базовом варианте. README перечисляет несколько вариантов квантизации, включая Q2_K и Q3_K, с разными размерами и компромиссами качества. Доступный вариант обозначен как GGUF BF16. Лицензия — Gemma; перед использованием следует учитывать её условия.

Hercules-3.0-Mistral-7B — языковая модель на архитектуре Mistral, дообученная Locutusque на базе Mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; для работы с весами используется Transformers, файлы представлены в формате safetensors. Модель предназначена для диалогов и следования сложным инструкциям в научных и технических областях, включая биологию, химию, физику, математику, медицину и информатику. Она также рассчитана на вызов функций и помощь с кодом, в том числе в сценариях, где функции используются для исполнения кода. Обучение проводилось на Hercules-v3.0 и наборе разнообразных диалоговых, инструкционных, медицинских, математических и кодовых данных. Модель может выдавать токсичные ответы, ошибаться и галлюцинировать, особенно в специализированных темах; вызов функций также может быть использован небезопасно. В README рекомендуется предпочесть Hercules-2.5 до выхода Hercules-3.1 из-за ухудшения качества, связанного с одним из наборов обучения. Лицензия — Apache-2.0.

Hercules-phi-2 — языковая модель M4-ai, полученная дообучением Phi-2 на всех примерах датасета Locutusque/hercules-v4.5. Это плотная авторегрессионная модель семейства Phi с 3,5 млрд параметров и контекстом 2048 токенов; она работает с текстом на английском языке. Модель предназначена для диалогов с ассистентом, ответов на вопросы, математических задач, программирования, вызова функций и ролевых сценариев. Репозиторий содержит веса в формате Safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. В карточке нет результатов оценки качества.

Shining Valiant 2 — разговорная языковая модель Valiant Labs, дообученная на основе Meta-Llama-3-70B-Instruct. Это плотная архитектура Llama 3 с 69,5 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций; модель использует формат запросов Llama 3 Instruct и поддерживает контекст до 8192 токенов. По описанию разработчика, дополнительное обучение на собственных данных ориентировано на науку, инженерию, технические знания и структурированные рассуждения, а стиль ответов — дружелюбный и увлечённый. Модель рассчитана на общие диалоговые и аналитические сценарии, включая объяснение технических тем и помощь с задачами вроде написания сопроводительного письма. Указана лицензия Llama 3. В README разработчик помечает эту версию как устаревшую и рекомендует Shining Valiant 2 для Llama 3.1 70B; также сообщается о возможной проблеме с чтением завершающих токенов в text-generation-webui, которая может приводить к незавершённым ответам или нарушению структуры.

LumiOpen Llama-Poro-2-70B-base — базовая языковая модель, разработанная AMD Silo AI, группой TurkuNLP Университета Турку и HPLT. Это плотный декодерный трансформер на архитектуре Llama 3.1 с 69,5 млрд параметров; модель создана продолжением предобучения Llama 3.1 70B на 165 млрд токенов, чтобы усилить поддержку финского языка, сохранив навыки английского, программирования и математики. Контекст модели составляет 8192 токена; доступны веса Safetensors, библиотека Transformers, лицензия Llama 3.1 Community License. Это базовый чекпойнт для дальнейшей тонкой настройки, а не готовая инструкционная модель. Он подходит как основа для разработки финно- и англоязычных генеративных приложений, включая генерацию текста и кода, математические задачи и перевод между финским и английским. В карточке отмечено улучшение результатов на финских бенчмарках относительно Llama 3.1 70B при сохранении сильных результатов на английском. Модель слабее владеет языками, кроме финского и английского; ответы могут быть фактически неверными, предвзятыми или неподходящими. Для большинства прикладных сценариев требуется дополнительная настройка.

Mistral-Trismegistus-7B-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и Mistral-Trismegistus-7B методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает состав слияния и параметры конфигурации, но не приводит сравнительных оценок качества; результаты могут зависеть от формулировки запроса и сценария применения.

Mobiusv0.5 — объединённая языковая модель на архитектуре Mistral, созданная mashleburneded методом SLERP с помощью mergekit на основе Mistral-Small-Instruct-2409 и Codestral-22B-v0.1. Модель содержит 15,8 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых запросов; интерфейс модели также предусматривает вызов инструментов. В состав объединения входит Codestral, ориентированная на генерацию кода модель, однако README не описывает отдельные возможности или качество Mobiusv0.5 в программировании. Модель опубликована в формате safetensors и доступна через Transformers. Лицензия в предоставленных данных не указана.

NeuralReyna-Mini-1.8B-v0.2 — диалоговая языковая модель на архитектуре Qwen2 с примерно 1,5 млрд параметров. Автор взял aloobun/Reyna-Mini-1.8B-v0.2 и дополнительно дообучил её методом DPO на данных Intel/orca_dpo_pairs. Модель использует формат запросов ChatML, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors под лицензией Apache-2.0. Модель предназначена для генерации ответов в диалоге и заявлена для задач программирования, математики, естественных наук, ролевого общения и вызова функций. README предупреждает о возможном переобучении на данных DPO и нестабильном качестве; приведённые результаты оценки относятся к отдельным тестам и не гарантируют качества в практических сценариях.

elias2515/odysseus-Qwen2.5-Coder-7B-16bit — дообученная разговорная языковая модель на архитектуре Qwen2, предназначенная для генерации текста. В основе лежит unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit; для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель содержит 7,1 млрд параметров, имеет контекст длиной до 32 768 токенов и распространяется в формате safetensors. Карточка указывает английский язык. Лицензия — Apache-2.0. Данных о конкретных наборах обучения, качестве на задачах и дополнительных ограничениях в карточке нет.

OpenChat v3.2 Super — диалоговая языковая модель из семейства OpenChat, разработанная командой OpenChat и дообученная на основе Llama 2. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текстовых ответов. Нативный контекст составляет 4096 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста; авторы также сообщают о высокой оценке в тестах AgentBench, AlpacaEval и MT-bench. Для развёртывания авторы рекомендуют OpenChat API server на базе vLLM; в README указаны требования от 48 ГБ видеопамяти на одном GPU или двух потребительских GPU с разделением нагрузки. Модель распространяется по лицензии Llama 2 Community License, допускающей коммерческое использование. Возможны галлюцинации, а качество может снижаться на сложных рассуждениях, математике и задачах программирования.

phi-2-dpo-7k — дообученная на диалоговых данных модель семейства Phi-2, опубликованная mlx-community на Hugging Face. Она предназначена для генерации текста в формате общения и может использоваться для ответов на запросы и ведения диалога. Модель основана на Microsoft Phi-2: плотная архитектура PhiForCausalLM, около 3,5 млрд параметров и контекст до 2048 токенов. В README указано дообучение на 7 тысячах диалоговых примеров из наборов Orca pairs, UltraFeedback ratings и Capybara-DPO. Репозиторий содержит веса Safetensors и ориентирован на использование с MLX. В метаданных указан английский язык и возможность работы с кодом. Лицензия — MIT. Карточка отсылает к описанию исходной Phi-2 за дополнительными сведениями.

Карточка модели willhx/Qwen3-8B-Base-Math-SeaSFT-Search на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Qwen3-EZO-8B-beta — диалоговая языковая модель с плотной архитектурой Qwen3ForCausalLM, разработанная AXCXEPT на базе Qwen/Qwen3-8B. Модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Она предназначена для многоходового диалога, генерации текста и параллельной обработки запросов с углублённым рассуждением по технике Deep-Think. Модель можно развернуть через vLLM с совместимым с OpenAI API интерфейсом; в карточке указана работа на одной GPU A40. README приводит внутренние оценки MT-Bench 9,08 и JMT-Bench 8,87, но предупреждает, что результаты могут отличаться при внешней оценке. Модель дообучена на Qwen3-8B, использует формат Safetensors и распространяется по лицензии Apache-2.0. В метаданных указаны японский и английский языки; результаты и заявленные возможности основаны на карточке разработчика.

Manojb/Qwen-7B-toolcalling-ReSearch-gguf-Q8_0 — локальная языковая модель в формате GGUF, разработанная на базе agentrl/ReSearch-Qwen-7B и упакованная с квантизацией Q8_0 авторами Manojb и mradermacher. Модель основана на Qwen-7B и обучалась с использованием датасета RUC-NLPIR/FlashRAG_datasets. ReSearch — подход, в котором поиск интегрирован в цепочку рассуждений и выбор момента и способа поиска формируется с помощью текстового рассуждения, а результаты поиска влияют на дальнейшие выводы. Модель предназначена для генерации текста, ассистирования в программировании, локального использования и сценариев function calling и tool calling, включая взаимодействие с API-инструментами. Она ориентирована на английский язык и может запускаться через Ollama или другие совместимые средства работы с GGUF. Версия Q8_0 занимает около 8,2 ГБ и рассчитана примерно на 9–12 ГБ VRAM; заявлено отсутствие заметных потерь качества относительно исходной модели. Для этой базовой модели README рекомендует не применять chat completion. К сильным сторонам относятся высокая точность квантизации Q8_0, поддержка локального запуска и специализированная ориентация на вызов инструментов и поиск. Ограничения включают размер модели около 7B параметров, англоязычную заявленную специализацию, необходимость корректного режима работы без chat completion и потребность примерно в 9–12 ГБ VRAM. Модель распространяется по лицензии MIT.

Карточка модели Openintelligent123/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели SAIFIINDUSTRIES/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели liruiyangnb666/DeepSeek-R1-Distill-Qwen-7B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

netcat420/DeepSeek-R1-Distill-Qwen-MFANN-Slerp-7b — языковая модель, созданная разработчиком netcat420 слиянием через SLERP двух предварительно обученных моделей: deepseek-ai/DeepSeek-R1-Distill-Qwen-7B и netcat420/Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN-Slerp-Unretrained. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и доступна в формате safetensors для библиотеки Transformers; заявленная длина контекста — 131 072 токена. Модель предназначена для диалогов и генерации текста. Базовая модель DeepSeek поддерживает многошаговые рассуждения, в том числе математические задачи и программирование; вторая модель в слиянии ориентирована на код и обучение. Метаданные также отмечают интерфейс вызова инструментов, но не содержат примеров или оценок его надёжности. В README не приведены сведения о лицензии, поэтому условия использования по доступным данным определить нельзя. Качество и поведение полученного слияния отдельно не оценены; свойства исходных моделей не гарантируют их сохранения в полном объёме.

DeepSeek-V4-Flash-0731 REAP 80G — производная версия DeepSeek-V4-Flash-0731 от автора репозитория, сокращённая методом REAP и упакованная в формат GGUF с разной точностью квантования. В каждом MoE-блоке сохранено 160 из 256 маршрутизируемых экспертов; эксперты используют IQ2XXS, проекции W2 — Q4_K, а внимание, общие эксперты и выходная голова — Q8_0. Модель предназначена для генерации текста в диалоговом режиме и локального запуска на совместимом с DeepSeek-V4 оборудовании и ПО. Карточка описывает её как экспериментальную производную, не являющуюся официальным выпуском DeepSeek. Ожидаемые сценарии включают диалог, программирование, рассуждения, работу с инструментами и длинным контекстом, но качество этих возможностей следует оценивать на своих задачах. Для запуска требуются среды, понимающие компоненты DeepSeek-V4; обычные загрузчики GGUF могут не поддерживать используемые компоненты MXFP4, sparse attention, токенизатор и DSpark MTP. Оценки паритета с исходной моделью по бенчмаркам нет. Модель основана на deepseek-ai/DeepSeek-V4-Flash-0731; метаданные указывают языки en и zh, лицензию MIT и задачу text-generation. README предупреждает, что важность экспертов оценивалась по близкому раннему чекпойнту, а не по версии 0731; удалено 37,5% маршрутизируемых экспертов. Совместимость MTP-блоков требует отдельной проверки.