II.1Анализ требований и архитектура ПО

Qwen3.8-27B-Uncensored-Q4_K_M-GGUF — это квантованная в формате GGUF версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем qaqab и предназначенная для запуска через llama.cpp и совместимые среды. Модель ориентирована на генерацию текста, включая диалоги, написание и анализ текстов, а также другие сценарии применения многоцелевой языковой модели. В README указаны поддержка английского и китайского языков и наличие vision-возможностей у базовой архитектуры, однако для обработки изображений требуется соответствующий vision-файл. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одним MTP-слоем и контекстом до 262 144 токенов. Файл Q4_K_M имеет размер около 16,8 ГБ и сохраняет MTP-компонент для speculative decoding; также опубликована версия без MTP. Квантование выполнено с использованием importance matrix. По измерениям perplexity на wikitext-2 показатель для Q4_K_M составляет 7,1814, но этот тест не оценивает напрямую рассуждения, программирование, мультиязычность или поведение отказов. Вариант Uncensored создан с существенным снижением склонности к отказам с помощью Heretic без дополнительного обучения и новых данных; это поведение не устранено полностью. Возможное снижение acceptance rate черновой MTP-модели может немного повлиять на ускорение speculative decoding, но не должно ухудшать качество проверяемого целевой моделью вывода. Модель распространяется по лицензии Apache-2.0.

DavidAU/Qwen3-8B-64k-Context-2X-Josiefied-Uncensored — текстовая генеративная модель на архитектуре Qwen3ForCausalLM с 7,6 млрд параметров, подготовленная DavidAU на основе Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Автор указывает, что контекст увеличен с 32 768 до 65 536 токенов с помощью метода YaRN. Модель рассчитана на диалоговую генерацию и рассуждения; в репозитории доступны веса safetensors для прямого использования или подготовки квантованных вариантов. Модель подходит для продолжительных диалогов, работы с длинными текстовыми запросами и ролевых сценариев. Для «мышления» и генерации ответа автор рекомендует выделять 8–16 тысяч токенов контекста. Указаны шаблоны Jinja и ChatML. В метаданных заявлен интерфейс вызова инструментов, однако README не описывает его настройку. Сведения о лицензии в предоставленных данных отсутствуют.

Qwen3.8-Flash-Next-oQ5e-mtp — это 5-битная смешанная oQ5e-квантизация базовой модели Qwen/Qwen3.8-Flash-Next. Квантизация выполнена непосредственно из исходных BF16-весов с помощью oMLX 0.6.4; автор квантизации в README явно не указан. Модель предназначена для локальной генерации текста, рассуждений, решения задач с ограничениями, отладки Python-кода и других сценариев, где важны качество рассуждений и стабильность генерации. Сохранены компоненты MTP и vision, поэтому поддерживаются текстовые и визуальные входы базовой модели, однако точный набор языков и максимальная длина контекста в README не указаны. Номинальный размер группы квантования — 64, неквантизированный тип данных — BF16, размер модели — около 125,7 ГБ. Для работы рекомендована система Apple Silicon с 128 ГБ unified memory, включёнными SSD N-gram Offload и Lightning MTP; основное тестирование проводилось на MacBook Pro с Apple M5 Max. При активной генерации модель потребляла около 102 ГБ общей системной памяти, а требования к памяти увеличиваются с ростом контекста и KV-кэша. По данным автора, по сравнению с oQ4e модель обеспечивает более высокую устойчивость рассуждений и генерации на сложных задачах, сохраняя практичность для локального запуска. В отдельных тестах она корректнее решала задачи с ограничениями и полностью завершала длительные вычислительные сценарии, но не превосходит oQ4e во всех бенчмарках и может работать медленнее на некоторых нагрузках; в приведённом тесте отладки Python предложенная реализация содержала ошибку управления состоянием. Лицензия указана как qwen-community-1.0.

mlx-community/QwQ-32B-bf16 — конверсия модели QwQ-32B в формат MLX, подготовленная сообществом mlx-community на основе Qwen/QwQ-32B с помощью mlx-lm 0.21.5. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров для генерации текста и диалогов; метаданные указывают контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалоговых и текстовых задач, в том числе для запросов, требующих последовательного рассуждения. Карточка указывает на формат safetensors, лицензию Apache-2.0 и использование через MLX. Поддержка английского отмечена в метаданных; другие языки и отдельные гарантии качества в карточке не описаны.

Rhea-72b-v0.5 — языковая модель, разработанная David Kim в рамках проекта Rhea. Это дообученная версия abacusai/Smaug-72B-v0.1: автор использовал SFT на открытых наборах данных и DPO с данными предпочтений, частично созданными методом SGD. Модель занимает 71 млрд параметров, построена на плотной архитектуре Llama и предназначена для генерации текста. Она принимает контекст до 32 768 токенов и работает с текстом на английском языке. Модель подходит для диалоговых ответов, рассуждений, вопросов и ответов, а также текстовых задач, представленных в обучающих наборах, включая математику, код и отдельные медицинские и финансовые примеры. В README приведены результаты Open LLM Leaderboard, включая среднее значение 81,22, но эти показатели относятся к указанной автором оценке и не гарантируют качество в конкретном применении. Часть обучающих данных закрыта или недоступна; независимые ограничения качества в карточке не описаны. Лицензия — Apache-2.0.

Ring-mini-sparse-2.0-exp — экспериментальная языковая модель компании InclusionAI для генерации текста и диалогов. Она основана на Ling-mini-base-2.0 и продолжила обучение на дополнительных 100 млрд токенов. В модели сочетаются архитектура Mixture of Block Attention (MoBA) и разреженная Mixture-of-Experts (MoE); для инференса предусмотрена библиотека Transformers, а также поддержка SGLang. Модель рассчитана на рассуждения и работу с длинными входами и ответами: README сообщает о контексте до 128 тыс. токенов благодаря расширению окна YaRN в 4 раза. При декодировании с контекстом 64 тыс. токенов активируются 8 192 KV-токена на запрос; авторы заявляют о снижении нагрузки на чтение KV-кэша и ускорении генерации в сравнении с Ring-mini-2.0. Модель оценивалась на задачах математики, программирования и естественных наук, но опубликованный фрагмент карточки не содержит численных результатов. Размер модели по метаданным — 1,2 млрд параметров, родительская архитектура — Bailing MoE. Модель предназначена для текста и заявлена с поддержкой английского языка. Лицензия — MIT. Суффикс exp и исследовательские оценки указывают на экспериментальный характер; результаты и скорость могут зависеть от оборудования и используемой реализации.

Rombos-2.5-T.E-8.1 — объединённая модель генерации текста, собранная с помощью mergekit из rombodawg/Rombos-LLM-V2.5-Qwen-7b и Cran-May/T.E-8.1. Она построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста; поддерживает формат ChatML и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Слияние выполнено методом SLERP с настройками весов для слоёв внимания и MLP; веса сохранены в формате safetensors. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных работ, но запрещает коммерческое использование. Данных о поддерживаемых естественных языках и отдельных ограничениях качества карточка не приводит.

samantha-1.2-mistral-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi методом слияния mistralai/Mistral-7B-Instruct-v0.2 и cognitivecomputations/samantha-1.2-mistral-7b. Она предназначена для генерации текста и ответов в диалоге по инструкциям. Модель принимает текст и выдаёт текст; контекст — до 32 768 токенов. Слияние выполнено методом SLERP с настройками для слоёв self-attention и MLP. Репозиторий содержит веса safetensors, а README указывает тип данных bfloat16. Модель распространяется по лицензии Apache-2.0. Источники не описывают специальные предметные области или конкретные ограничения качества.

Guilherme34/Samantha-test — объединённая текстовая модель, созданная методом TIES с помощью mergekit на основе Guilherme34/Samantha-v6.5 и NousResearch/Meta-Llama-3.1-8B. В метаданных указана архитектура Llama с плотной моделью на 7,5 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors, библиотека — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов в чате и генерации текста с длинным контекстом. Метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение подробно. Модель создана из слияния других моделей, поэтому её поведение зависит от обоих исходных чекпойнтов. Лицензия в предоставленных данных не указана.

Карточка модели JetLM/SDAR-4B-Chat-b16 на Hugging Face совпадает с карточкой JetLM/SDAR-8B-Chat-b32, поэтому описание составлено по ней. JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.

JetLM/SDAR-8B-Chat — разговорная языковая модель семейства SDAR, разработанная авторами проекта SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая поддерживает эффективное обучение, а диффузионная позволяет выполнять параллельный вывод. Модель предназначена для диалогов и генерации текста; в метаданных также отмечен интерфейс вызова инструментов. Модель имеет плотную архитектуру SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Карточка сообщает о сопоставимой с сильными авторегрессионными моделями общей производительности и о преимуществах на сложных задачах научного рассуждения для SDAR в целом; эти утверждения не следует считать отдельной оценкой именно версии 8B-Chat. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

slerp-test-turdus-beagle — текстовая генеративная модель объёмом 7,1 млрд параметров, созданная объединением udkai/Turdus и mlabonne/NeuralBeagle14-7B методом SLERP с помощью LazyMergekit. Модель основана на архитектуре Mistral и распространяется в формате Safetensors; для неё заявлено контекстное окно до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и творческих задач. В карточке приведены результаты оценок на бенчмарках AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0. Метаданные указывают на объединение двух базовых моделей; README также приводит OpenPipe/mistral-ft-optimized-1218 как базовую модель в конфигурации слияния.

Tiiny/SmallThinker-21BA3B-Instruct-GGUF — GGUF-квантизированная версия инструкционной языковой модели SmallThinker-21BA3B-Instruct, разработанной совместно исследовательской группой IPADS, School of AI Шанхайского университета Цзяо Тун и компанией Zenergize AI. Модель относится к семейству on-device моделей, ориентированных на локальный запуск без обращения к облачным сервисам, что обеспечивает потенциальные преимущества в приватности и задержке ответа. Основной язык обучения — английский; назначение модели — генерация текста и выполнение инструкций, включая вопросы общего характера, математические задачи, программирование и другие сценарии работы с текстом. В основе модели лежит архитектура Mixture-of-Experts (MoE): всего 21 млрд параметров, из которых для каждого токена активируется около 3 млрд. Модель содержит 52 слоя, 64 эксперта и выбирает 6 экспертов на токен; используются GQA, 28 attention heads, 4 KV heads, функция активации ReGLU и контекст длиной до 16K токенов. Для запуска обычных файлов .gguf рекомендуется llama.cpp, а файлы с суффиксом .powerinfer.gguf совместимы только с фреймворком PowerInfer и используют специализированные разреженные операторы. Сильными сторонами модели заявлены производительность в задачах общего понимания, следования инструкциям, математики и генерации кода, а также возможность локального запуска на устройствах с ограниченными ресурсами. Ограничения включают преимущественно англоязычную направленность, возможные фактические ошибки, предвзятость и устаревшие сведения; результаты требуют самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

Synthia-7B-v3.0 — языковая модель Mistral-7B, дообученная Migtissera для следования инструкциям и ведения длинных диалогов. В обучении использовались подходы, вдохновлённые статьёй Orca-2, и датасет SynthIA-3.0 с обобщённым Tree-of-Thought-промптом и дополнительными системными контекстами. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов на текстовые запросы, диалогов и развёрнутых рассуждений. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Модель может давать неточные или вводящие в заблуждение ответы, а также генерировать предвзятый, оскорбительный или иной нежелательный контент; автор характеризует её как uncensored. Важную информацию следует перепроверять.

T3qm7xNeuralsirkrishna_AlloyingotneoyExperiment24 — объединённая авторами модели на основе двух чекпойнтов Mistral: automerger/T3qm7xNeuralsirkrishna-7B и automerger/AlloyingotneoyExperiment24-7B. Она предназначена для генерации текста и диалогов, подходит для использования в приложениях, которым нужна языковая модель с контекстом до 32 768 токенов. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; веса опубликованы в формате safetensors. Поддержка языков и специализированные предметные области в карточке не описаны. Модель распространяется по лицензии Apache-2.0.

T3qm7xNeuralsirkrishna_ShadowCalme — объединённая языковая модель семейства Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowCalme-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поставляется в формате safetensors. Модель предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Сведения о специальных областях применения и языках не приведены.

T3qm7xNeuralsirkrishna_Strangemerges_32Ogno — объединённая языковая модель семейства Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Ogno-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не описывает конкретные специализации, набор языков или результаты оценки качества, поэтому её можно характеризовать как модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Tess-2.0-Mixtral — языковая модель общего назначения из серии Tess, разработанной migtissera. Она обучена на базе mistralai/Mixtral-8x7B-v0.1 и использует архитектуру MixtralForCausalLM с разреженной архитектурой MoE. Модель предназначена для генерации текста и диалогов; формат запросов включает роли SYSTEM, USER и ASSISTANT. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors, лицензия — Apache-2.0. В карточке указано, что модель uncensored; она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент, поэтому результаты следует проверять.

TriFusionNexus-7b — объединённая языковая модель, созданная EryriLabs с помощью mergekit и метода TIES на основе CultriX/NeuralTrix-7B-dpo; в объединение также вошли bardsai/jaskier-7b-dpo-v5.6 и mlabonne/AlphaMonarch-7B. Модель построена на архитектуре Mistral с плотной причинно-языковой сетью, содержит 7,1 млрд параметров и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям и рассуждений. В README приведены результаты Open LLM Leaderboard, включая средний балл 76,32, 72,78 в AI2 Reasoning Challenge и 89,17 в HellaSwag; это результаты указанных оценок, а не гарантия качества в пользовательских задачах. Репозиторий содержит веса в формате safetensors. Лицензия CC-BY-NC-2.0 ограничивает коммерческое использование.

agiin-13.6B-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением моделей mistralai/Mistral-7B-Instruct-v0.2 и mncai/agiin-13.6B-v0.1 методом SLERP. В каталоге указаны архитектура MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и поддерживает диалоговый режим. Модель предназначена для генерации текста и ответов на инструкции в чат-сценариях. В README описана настройка слияния слоёв внимания и MLP, а базовая модель определена как mistralai/Mistral-7B-Instruct-v0.2. Лицензия Apache-2.0. Данные о специальных доменах и языках применения в карточке не приведены.

Airoboros 13B GPT-4 1.4.1 QLoRA — языковая модель семейства LLaMA с 12,9 млрд параметров, дообученная jondurbin с помощью QLoRA на синтетических данных, созданных GPT-4. Модель предназначена для диалогов с ассистентом и генерации текста; обучение выполнено на fork FastChat, а данные взяты из набора jondurbin/airoboros-gpt4-1.4.1. Модель рассчитана на ответы на вопросы, следование инструкциям, работу с предоставленным контекстом, программирование, ролевые диалоги, шутки, загадки и викторины. Для диалогов используется шаблон Vicuna 1.1; карточка также описывает формат запросов с контекстом, призванный ограничить ответы предоставленными материалами. Контекст — 2048 токенов. Модель работает с текстом и поддерживает генерацию текста. В карточке указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. Автор отмечает, что модель обучена отвечать без отказов независимо от законности или морали запроса; ответы по контексту всё равно могут содержать выдуманные сведения, поэтому для неизвестных ответов рекомендуется явно просить не придумывать их.

jondurbin/airoboros-33b-2.1 — плотная авторегрессионная модель семейства LLaMA с 32,3 млрд параметров, дообученная разработчиком jondurbin на синтетических инструкционных данных airoboros. Она предназначена для диалогов и выполнения текстовых инструкций: отвечает на вопросы по предоставленному контексту, помогает с программированием и планированием, пишет художественные тексты и продолжения глав, а также поддерживает ролевые диалоги с заданными персонажами. В обучающие данные включены примеры генерации JSON и YAML для вызова функций. Модель принимает текст и генерирует текст. Для неё заявлено контекстное окно 4096 токенов, увеличенное с помощью RoPE scaling; автор отмечает, что обучающих данных для такой длины было немного. Рекомендуемый шаблон запроса использует префикс системного сообщения, роли USER и ASSISTANT; при генерации диалога полезно останавливать вывод на следующем маркере USER, иначе модель может продолжить имитировать разговор. Модель экспериментальная, а результаты могут зависеть от точного шаблона промпта. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

snezhanata/alpaca_v3 — генеративная языковая модель для создания и продолжения текста, размещённая на Hugging Face. По метаданным она использует экосистему Transformers и связана с семейством Ministral; сведения о разработчике в карточке модели не приведены. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для сценариев, где требуется генерировать связный текст или вести диалог, включая использование через совместимые инструменты Transformers и приложения на базе conversational text generation. Карточка модели не содержит описания обучающих данных, результатов оценки, поддерживаемых естественных языков, лицензии, архитектурных деталей и рекомендаций по применению. Поэтому модель следует предварительно проверять на качество, фактическую точность, устойчивость к нежелательным ответам и соответствие требованиям конкретной задачи.

Apollo-1-4B — инструктивно дообученная языковая модель Noema Research на базе Qwen3-4B с архитектурой decoder-only Transformer и примерно 3,7 млрд параметров. Она предназначена для диалогов, следования инструкциям и рассуждений общего назначения, включая многошаговые запросы, образовательные сценарии, помощников по знаниям и прототипирование агентов. Модель принимает текст и генерирует текст; поддерживает широкий набор языков, включая русский. В README заявлен контекст до 32 тыс. токенов, тогда как метаданные указывают нативный контекст 131 072 токена. Модель рассчитана на сочетание качества и эффективности и может использоваться на мощном пользовательском оборудовании и облачных GPU. README сообщает о внутренних оценках улучшения рассуждений и следования инструкциям относительно Apollo-1-2B, но полный отчёт по бенчмаркам пока не представлен. Лицензия указана как anvdl-1.0 в README и как other в метаданных Hugging Face.

BigQwen2.5-125B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели BigQwen2.5-125B-Instruct, разработанной mlabonne. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix; модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через llama.cpp и LM Studio. В README указан английский язык. Модель имеет заявленный размер 125 миллиардов параметров и доступна в нескольких вариантах квантизации от Q8_0 до IQ1_M. Более качественные варианты Q6_K, Q5_K_M и Q4_K_M рекомендованы автором, тогда как низкобитные варианты требуют меньше памяти, но заметно уступают по качеству. Размер файлов составляет примерно от 40,59 до 133,22 ГБ, поэтому для запуска необходима система с большим объёмом оперативной или видеопамяти. Модель поддерживает специальный формат промптов Qwen с ролями system, user и assistant. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по представленным данным это текстовая модель без подтверждённой поддержки изображений или других модальностей. Лицензия обозначена как other с названием tongyi-qianwen и ссылкой на лицензию Qwen2-72B-Instruct.

BrurryDog-7b-v0.1 — объединённая языковая модель семейства Mistral, созданная с помощью LazyMergekit из udkai/Turdus, leveldevai/TurdusBeagle-7B и liminerity/Blur-7b-v1.21. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и рассчитана на генерацию текста, диалоги и выполнение инструкций; нативная длина контекста составляет 32 768 токенов. В README описано слияние методом TIES с нормализацией и int8-маской; итоговые веса сохранены в bfloat16. Для оценки приведены результаты Open LLM Leaderboard, включая среднее значение 74,24, ARC 72,53 и HellaSwag 88,37. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает целевые языки, поэтому языковую специализацию определить нельзя.

Citaman/command-r-27-layer — языковая модель на архитектуре Cohere, созданная с помощью mergekit из двух срезов одной модели Citaman/command-r-28-layer методом SLERP. Репозиторий содержит веса Safetensors в формате bfloat16; размер модели — 24,3 млрд параметров, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Контекстное окно составляет 8192 токена. Модель принимает текст и генерирует текст. В метаданных не перечислены конкретные языки, поэтому языковую специализацию определить нельзя. Условия лицензии в предоставленных данных не указаны. Карточка описывает способ слияния и использованные срезы, но не приводит результаты оценки качества или сравнительные тесты.

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.

huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated — версия DeepSeek-R1-Distill-Qwen-32B, созданная разработчиком huihui-ai методом abliteration для удаления отказов модели. Это плотная языковая модель семейства Qwen2, предназначенная для диалоговой генерации текста и решения задач рассуждения, математики и программирования с меньшим числом отказов на запросы. Модель содержит 32 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов; для работы указана библиотека Transformers и формат Safetensors. В README разработчик называет реализацию грубой проверкой концепции. Удаление отказов не гарантирует корректности или безопасности ответов. Базовая модель — DeepSeek-R1-Distill-Qwen-32B. Условия лицензии в предоставленных материалах не описаны.

unsloth/DeepSeek-R1-GGUF — GGUF-версия модели DeepSeek-R1, разработанной DeepSeek и подготовленной компанией Unsloth. Модель предназначена для локального запуска через llama.cpp и сценариев, требующих рассуждений, генерации и анализа текста, а также написания программного кода. В README указан английский язык; другие языки не заявлены. Модель использует архитектуру MoE и представлена в нескольких вариантах динамической квантизации: 1,58 бит, 1,73 бит, 2,22 бит и 2,51 бит. Размер файлов составляет примерно от 131 до 212 ГБ. Более точные варианты требуют больше дискового пространства, но характеризуются лучшей заявленной точностью: от Fair для 1,58-битной версии до Best для 2,51-битной. Для запуска рекомендуется llama.cpp; возможна частичная выгрузка слоёв на GPU. В примерах используется контекст 8192 токена, однако максимальный размер контекста в README не указан. К сильным сторонам относятся существенное уменьшение размера весов за счёт агрессивной квантизации, возможность локального запуска и наличие вариантов с разным компромиссом между качеством и требованиями к ресурсам. Ограничениями являются очень большой объём файлов даже у наиболее сжатых вариантов, необходимость совместимого оборудования и ПО, а также потенциальное снижение точности из-за низкой разрядности. Модель распространяется по лицензии MIT.