I.13Симуляция, моделирование и открытие нового

K2-Horizon-0.9B-GGUF — компактная языковая модель семейства K2-Horizon, разработанная IFM. Репозиторий содержит версию модели в формате GGUF для запуска с помощью llama.cpp. Модель предназначена для генерации текста, решения математических и научных задач, программирования, следования инструкциям и сценариев с использованием инструментов. Это плотная decoder-only модель примерно с 0,9 млрд параметров и контекстным окном до 131 072 токенов. Для масштабирования RoPE применяется YaRN. Модель обучалась методом дистилляции знаний от нескольких специализированных учителей, ориентированных на математику и код, STEM-задачи и следование инструкциям. Поддерживаются английский и китайский языки. Тензоры хранятся в исходной точности BF16, а GGUF-файлы включают метаданные токенизатора и совместимый с llama.cpp шаблон чата. К сильным сторонам относятся небольшой размер, длинный контекст, открытость заявленных данных и рецепта обучения, а также специализация на рассуждениях, математике, коде и научных задачах. Для работы требуется версия llama.cpp с поддержкой архитектуры K2 Horizon; на момент публикации такая поддержка находилась в разработке, поэтому совместимость зависит от используемой сборки. Лицензия модели — Apache-2.0.

Locutusque разработала Llama-3-NeuralHercules-5.0-8B — дообученную модель семейства Llama 3 для диалогов и решения сложных задач. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 8192 токенов. Она принимает текст и генерирует текстовые ответы; в карточке заявлена поддержка английского и многоязычное применение. Модель дообучена на Hercules v5.0 в течение двух эпох, а затем на mlabonne/orpo-dpo-mix-40k методом DPO. Её предполагаемые сценарии — ответы на вопросы, научное и математическое рассуждение, помощь с программированием и разбор медицинских текстов. Указана лицензия Llama 3 в метаданных, тогда как README заявляет Apache-2.0; условия лицензирования следует сверить с актуальными файлами репозитория перед использованием.

MuXodious/Ministral-3-14B-Reasoning-2512-absolute-heresy — дообученная версия мультимодальной модели Mistral AI Ministral 3 14B Reasoning 2512, обработанная модифицированным механизмом Heretic с применением abliteration. Модель предназначена для диалоговых ассистентов и рассуждений, включая решение математических и научных задач, программирование и агентные сценарии с вызовом инструментов и JSON-выводом. Архитектура Mistral 3 — плотная модель с языковой частью на 13,5 млрд параметров и визуальным энкодером на 0,4 млрд. Она принимает текст и изображения, поддерживает контекст до 256 тыс. токенов и языки английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. В README сообщается о низкой доле отказов после обработки, но автор отмечает, что показатель не отражает качество модели. Модель распространяется по лицензии Apache 2.0. README указывает на необходимость Transformers v5 для соответствующего способа использования. Модель описана как сильно uncensored; её ответы могут не отказывать на запросы, которые обычно отклоняются, поэтому требуется внимательное применение.

DeepSeek-R1-Distill-Qwen-32B-GGUF — это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанной deepseek-ai. Квантизация выполнена bartowski на основе llama.cpp версии b4514 и предназначена для запуска через совместимые инструменты, включая LM Studio. Модель создана для генерации текста, прежде всего для задач, требующих рассуждений: решения сложных вопросов, анализа и пошагового построения ответа. Она дистиллирована из reasoning-модели DeepSeek-R1 и специально настроена на reasoning и chain-of-thought. Заявлена поддержка контекста длиной до 128k токенов. В README не указаны точные параметры архитектуры, языки, набор поддерживаемых модальностей и размер конкретных GGUF-файлов, поэтому модель следует считать текстовой. Сильные стороны модели — ориентация на рассуждения, большой контекст и возможность локального запуска в формате GGUF. Ограничения включают потенциально неточные, вредные или неподходящие ответы, характерные для генеративных моделей; README также не содержит сведений о результатах бенчмарков. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять по исходной модели и репозиторию квантизации.

Qwen3.6-14B-A3B-FableVibes-GGUF — модель tvall43 на базе Qwen3.6-14B-A3B-FableVibes, представленная в формате GGUF для запуска на локальном оборудовании. Это обобщённая модель рассуждений, дообученная на трассах рассуждений Claude Fable 5 и дополненная данными Claude Opus, Qwen для tool calling и Evol-Instruct-Code. Модель предназначена для генерации текста, решения сложных задач с многошаговым рассуждением, программирования и сценариев, связанных с вызовом инструментов. Она использует архитектуру MoE с примерно 14B активных параметров после pruning исходной модели Qwen3.6-35B-A3B. Поддерживается мультимодальный режим через файлы mmproj, однако конкретные характеристики контекстного окна и полный перечень поддерживаемых языков не указаны. Модель ориентирована на англоязычные сценарии. К сильным сторонам относятся структурированное рассуждение, улучшенные способности к работе со сложными задачами и возможность запуска на потребительском оборудовании благодаря нескольким вариантам квантования: от F16 до Q2_K. Модель поддерживает llama.cpp и совместимые интерфейсы, включая LM Studio, Ollama и text-generation-webui. Ограничениями являются повышенная задержка до первого токена из-за режима thinking, значительный расход токенов на рассуждение и возможное снижение качества в сильно сжатых вариантах квантования. Распространяется по лицензии Apache-2.0.

Cerebrum-1.0-8x7b — языковая модель AetherResearch для генерации текста и решения задач, требующих рассуждений. Это дообученная версия Mixtral 8x7B с архитектурой sparse Mixture of Experts (MoE); модель обучали на небольшом наборе примеров с цепочками рассуждений и дополнительно выравнивали с помощью targeted RLHF. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на вопросы, математических и логических задач, программирования, творческой работы и мозгового штурма. Карточка сообщает о конкурентных результатах на отдельных тестах относительно Gemini 1.0 Pro и GPT-3.5 Turbo, однако оценки получены в разных режимах и условиях. Для диалога рекомендуется шаблон Alpaca с запросом описать ход решения. Модель работает с текстом и рассчитана на английский язык; лицензия — Apache 2.0. Результаты могут зависеть от формулировки запроса и выбранного шаблона.

HelixLM — плотная авторегрессионная языковая модель семейства Helix, опубликованная dusersad12 в формате PyTorch для генерации текста. В карточке заявлены улучшения рассуждений и вывода, включая задачи по математике, программированию и логике; модель также позиционируется как чат-ассистент с поддержкой вызова функций. README сообщает об улучшении результата на AIME 2026 до 89,3% и увеличении среднего расхода токенов на вопрос с 14 тыс. до 27 тыс., а также о снижении галлюцинаций. Для локального запуска и взаимодействия предлагаются отдельные кодовый репозиторий, веб-интерфейс и API; для генерации рекомендована температура 0,6. Репозиторий распространяется по лицензии Apache-2.0. Размер модели, длина контекста и поддерживаемые языки в предоставленных данных не указаны.

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-v2 — модель, разработанная Jackrong на базе Qwen/Qwen3.5-4B. Это вторая версия reasoning-ориентированной дообученной модели, созданная с использованием SFT и LoRA через Unsloth на более чем 14 000 образцов рассуждений в стиле Claude 4.6 Opus. Модель не является Claude, а использует дистиллированные шаблоны рассуждений. Модель предназначена для математики, текстовых задач, логического вывода, общих знаний, выполнения инструкций и переноса рассуждений на программирование и другие многошаговые задачи. Основной акцент сделан на экономичности reasoning: по сравнению с официальной Qwen3.5-4B модель формирует более короткие и структурированные цепочки рассуждений, что может снижать задержку и расходы инференса в локальном использовании и агентских сценариях. Указана поддержка английского, китайского и корейского языков; в метаданных также заявлен pipeline image-text-to-text, однако подробности мультимодальных возможностей и размер контекстного окна не приведены. Ключевое ограничение — компромисс между эффективностью рассуждений и максимальной точностью: по приведённым данным, официальная Qwen3.5-4B превосходит эту версию по абсолютным результатам HumanEval и HumanEval+, хотя v2 требует существенно меньше символов рассуждений на один успешный результат. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — мультимодальная модель, созданная HauhauCS на базе Qwen/Qwen3.8-27B. Она предназначена для генерации текста, рассуждений, агентских сценариев, анализа изображений и видео. Aggressive-профиль ориентирован на прямые ответы с минимальным вступлением и без стандартного поведения отказа на сложные запросы. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120 и FFN-размером 17408. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention, встроенный MTP/NextN для speculative decoding и дополнительный профиль HauhauCS FastMTP 32K для ускорения генерации. Заявлен нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. Поддерживаются английский, китайский и другие языки; для работы с изображениями и видео требуется отдельный vision-проектор BF16. Сильные стороны модели — сочетание текстовых, рассуждающих, агентских и мультимодальных возможностей базовой Qwen3.8-27B, большой контекст и варианты GGUF-квантизации от Q8_K_P до IQ2_M, совместимые с llama.cpp, LM Studio и другими GGUF-рантаймами. FastMTP может повысить скорость генерации, однако фактический выигрыш зависит от оборудования и программной поддержки. Ограничения включают отсутствие защитного поведения и отказов в Aggressive-варианте, что может быть нежелательно для надёжных агентских систем, а также потерю качества при использовании более сильной квантизации. Модель распространяется по лицензии Apache-2.0.

Skywork-OR1-7B — текстовая модель общего назначения для рассуждений в математике и программировании, разработанная командой Skywork. Она основана на DeepSeek-R1-Distill-Qwen-7B и обучена с использованием крупномасштабного обучения с подкреплением по правилам и модифицированного алгоритма GRPO. В обучении использовались около 110 тысяч математических задач и 14 тысяч вопросов по программированию, а также фильтрация данных, rejection sampling, многоэтапное обучение и адаптивное управление энтропией. Данная версия представляет собой набор GGUF-квантизаций для локального запуска через llama.cpp, llama-cpp-python, LM Studio или Ollama. Доступны варианты от F16 до 2-битных, примерно от 15,2 до 3,0 ГБ; выбор квантизации позволяет найти компромисс между качеством, требованиями к VRAM и размером модели. Модель предназначена прежде всего для англоязычной генерации текста, решения математических задач и написания кода. Она не заявлена как мультимодальная, а снижение разрядности может ухудшать качество рассуждений и ответов. В README приведён пример запуска с контекстом 32768 токенов, но максимальный контекст модели явно не указан. Распространяется по лицензии Apache 2.0.

DeepSeek-R1-Distill-Qwen-7B-GGUF — это квантизированная в формате GGUF версия модели DeepSeek-R1-Distill-Qwen-7B, разработанной deepseek-ai. Квантизацию выполнил bartowski на основе llama.cpp, релиз b4514. Модель предназначена для генерации текста, прежде всего для задач рассуждения и сценариев, где требуется пошаговый анализ. Модель поддерживает контекст длиной до 128 тысяч токенов и ориентирована на использование дистиллированных возможностей reasoning-модели DeepSeek-R1. Формат GGUF и совместимость с llama.cpp упрощают локальный запуск, однако квантизация может влиять на качество и точность по сравнению с исходной моделью. Языки и точный вариант квантизации в README не указаны. Как и другие генеративные модели, она может выдавать неточные, вредные или вводящие в заблуждение ответы. Лицензия в предоставленных данных не указана.

Gemma-4-E4B-Claude-4.6-Opus-Reasoning-Distilled — дообученная модель на базе google/gemma-4-E4B-it, разработанная пользователем arsovskidev. Она создана с использованием SFT и QLoRA в 4-битном режиме на наборе данных nohurry/Opus-4.6-Reasoning-3000x-filtered, содержащем около 2,3 тысячи отфильтрованных траекторий рассуждений, дистиллированных из Claude 4.6 Opus. Модель не связана с Anthropic и не одобрена этой компанией. Модель предназначена для текстовых задач, где важны пошаговое рассуждение и структурированный анализ: многошаговой математики, логики, декомпозиции и отладки кода, а также обработки сложных запросов. Она обучена формировать рассуждения внутри тегов <think> перед итоговым ответом. Указанная максимальная длина последовательности при обучении — 2048 токенов; язык обучения — английский. Доступны экспорты в формате GGUF с квантованием Q4_K_M и Q8_0. Сильные стороны модели — компактный размер порядка 4B параметров, ориентированность на более последовательное и обдуманное решение задач и возможность запуска через Ollama или llama.cpp. Ограничения включают небольшой объём обучающего набора, возможные галлюцинации и отсутствие обученных мультимодальных возможностей: несмотря на тег image-text-to-text и возможности базовой модели, этот вариант позиционируется как текстовый. Лицензия — Apache 2.0 с дополнительными Gemma Terms of Use.

Pixtral-12B-2409 — мультимодальная модель Mistral AI для работы с изображениями и текстом. Она сочетает декодер на 12 млрд параметров и визуальный энкодер на 400 млн параметров, обучена на чередующихся данных изображений и текста и поддерживает изображения разных размеров. Модель предназначена для понимания изображений и диаграмм, ответов на вопросы по визуальному содержимому и текстовых задач, включая следование инструкциям, математику и программирование. Заявленная длина последовательности — 128 тыс. токенов. В карточке приведены результаты сравнительных тестов, в том числе по MMMU, MathVista и ChartQA. Модель выпущена под лицензией Apache 2.0. В README указано, что у неё нет механизмов модерации, поэтому при использовании следует учитывать риск немодерируемых ответов.

tvall43/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap-gguf — GGUF-версия экспериментальной текстовой reasoning-модели, разработанной tvall43 на базе Qwen3.5 и дообученной с использованием дистилляции цепочек рассуждений, связанных с Claude-4.6 Opus. Модель предназначена для офлайн-аналитики, программирования, математики, планирования и других задач, где важны пошаговое решение и структурированный анализ. Она обучалась в формате с блоками <think> и итоговым ответом, однако README не гарантирует, что внутренние рассуждения всегда будут корректно или безопасно отображаться пользователю. В описании указана MoE-архитектура Qwen3.5 с конфигурацией 35B-A3B, тогда как идентификатор модели содержит 14B-A3B; точные характеристики GGUF-квантизации и итоговый размер файла не приведены. Указано текстовое назначение, языки Chinese, English и Korean, а также контекстное окно 8192 токена. Обучение выполнялось с SFT и LoRA при помощи Unsloth, с использованием отфильтрованных наборов данных по reasoning-дистилляции. Сильные стороны модели — структурированное пошаговое мышление и ориентация на сложные логические задачи. Ограничения включают риск галлюцинаций, экспериментальный статус, возможные проблемы совместимости и нестабильность инструментальной экосистемы; приведённые тесты также показывают неоднозначные результаты на генерации HTML-игры и сценарии с автомобилем. Модель распространяется по лицензии Apache-2.0.

KnutJaegersberg/Tri-21B-Think-gguf — GGUF-версия модели Tri-21B-Think-Preview, подготовленная на основе Tri-21B. Это причинная языковая модель с декодерным Transformer, RoPE, SwiGLU, RMSNorm и GQA, содержащая 20,73 млрд параметров. Она дообучена для диалогов, пошаговых рассуждений и использования инструментов. Контекст составляет 32 768 токенов, а с YaRN может расширяться до 262 144 токенов. Модель предназначена для генерации ответов в чат-сценариях, решения задач на рассуждение и работы с длинными текстовыми запросами. В первую очередь она оптимизирована для английского, корейского и японского языков; на других языках качество может снижаться. Это промежуточный чекпойнт, и README указывает на Tri-21B-Think как на финальную версию. Для базовой Tri-21B указана лицензия trillion, а для Think и Think-Preview — Apache 2.0; при этом метаданные репозитория обозначают лицензию как other, поэтому условия использования следует сверить с файлами лицензии в репозитории.

Fabliq-8B-Agent-Reasoning — англоязычная модель-ассистент семейства Fabliq от LLM-OS-Models, дообученная на базе Fabliq-8B-Agent. Это причинная языковая модель архитектуры Lfm2MoeForCausalLM с MoE: около 8 млрд параметров всего и примерно 1 млрд активных на токен. Модель рассчитана на генерацию ответов, многошаговые рассуждения и агентные сценарии с вызовом инструментов, включая терминальные задачи. Модель расширяет возможности базовой агентной версии экспертными ответами на общие вопросы, задачами по математике, научному анализу, программированию, планированию и кибербезопасности. В README описаны двухэтапное обучение и использование дистиллированных данных; обучение включало 281 пример на втором этапе. Репозиторий указывает нативный контекст 128 000 токенов, однако обучение проводилось на последовательностях до 8 192 токенов, поэтому качество на длинном контексте не подтверждено. Модель ориентирована преимущественно на английский язык; поддержка других языков ограничена. Авторы отмечают риск переобучения на шаблонных данных и отсутствие выравнивания безопасности, поэтому для практического развёртывания нужны собственные защитные меры. Лицензия — Apache-2.0.

Qwen2.5-Coder-7B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-Coder, разработанной командой Qwen при Alibaba Cloud и представленной в репозитории Unsloth. Модель предназначена для генерации, анализа и исправления программного кода, кодового рассуждения, создания code agents, а также задач математики и общего назначения. В README явно указан английский язык. Модель относится к causal language models и использует архитектуру Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и механизм GQA с 28 головами для Q и 4 для KV; заявленная максимальная длина контекста — 131 072 токена. Базовая серия обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Существенные сильные стороны — специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также поддержка длинного контекста. README не приводит подробных ограничений качества, перечня языков программирования или характеристик именно 4-битного квантования. Для работы рекомендуется использовать актуальную версию библиотеки Transformers. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-4B-DS-v4-Flash-v1.0 — экспериментальная плотная мультимодальная модель на 4 млрд параметров от prithivMLmods, дообученная на базе Qwen/Qwen3.5-4B. Она принимает текст и изображения и предназначена для диалога и генерации текстовых ответов с улучшенными навыками многошагового рассуждения. Модель обучалась в один этап на длинных примерах рассуждений DeepSeek V4 Flash и дополнительных данных для задач математики, науки, программирования и следования инструкциям. Её сценарии применения включают исследование и оценку рассуждений, решение математических задач, научный анализ и помощь с кодом; размер модели позволяет запускать её локально. Карточка задаёт основной pipeline как image-text-to-text, а метаданные подтверждают поддержку зрения и чата. Релиз обозначен как экспериментальный: возможны артефакты в цепочках рассуждений, ошибочные промежуточные шаги и выводы, а результаты зависят от охвата обучающих данных. Распространяется по лицензии Apache-2.0.

QUASAR-QAT/Qwen3.8-27B-QUASAR-NVFP4 — 4-битная NVFP4-версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и квантованной методом QUASAR. Модель предназначена для задач image-text-to-text, reasoning, работы с изображениями и текста, а также агентских и сценариев с длинным контекстом. Точный набор поддерживаемых языков в README не указан. Модель содержит 27 млрд параметров; все 496 из 496 линейных слоёв трансформера, включая компоненты attention и gated delta-net, представлены в формате NVFP4 W4A4. Размер модели составляет 19,7 ГБ. Она поддерживает контекст до 262 144 токенов при запуске через vLLM, а на видеокарте с 32 ГБ памяти, например RTX 5090, рекомендуется ограничить его 65 536 токенами. Для ускорения генерации заявлена поддержка speculative decoding с MTP. Ключевое преимущество — существенное уменьшение размера при сохранении качества, близкого к BF16-версии: результат GPQA-Diamond составляет 0,909 против 0,914 у оригинальной модели, а на AIME'26 заявлен результат 100%. Модель требует NVIDIA GPU с аппаратной поддержкой FP4, то есть Blackwell с compute capability 10.0 и выше, поэтому не подходит для систем без совместимого оборудования. Запуск возможен напрямую через vLLM без этапа конвертации. Модель распространяется по лицензии Apache 2.0.

QwQ-MathOct-7B — дообученная PrithivMLmods языковая модель на базе Qwen/Qwen2.5-7B-Instruct. Это плотная причинная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Она ориентирована на математические задачи, рассуждения, помощь с кодом, следование инструкциям и создание структурированных ответов; поддерживает контекст до 32 768 токенов и работает через Transformers. Модель подходит для пошагового объяснения решений, генерации и разбора кода, подготовки учебных материалов, многоязычного общения и создания содержимого. В карточке заявлена поддержка более 29 языков, включая русский и английский. Возможные ограничения — ошибки в неоднозначных задачах, устаревшие знания, унаследованные от обучающих данных смещения и необходимость проверки ответов, особенно в чувствительных сценариях. Указана лицензия Apache-2.0.

Sakana AI разработала RLT-32B — авторегрессионную языковую модель с 32 млрд параметров на архитектуре Qwen2. Она создана как ученическая модель по конвейеру Reinforcement-Learned Teachers: модель дистиллирована из 7B Reinforcement-Learned Teacher и обучена с учителем на его рассуждениях, с использованием гиперпараметров, системного промпта и тегов рассуждений из работы Li et al. 2025. Модель предназначена для генерации текста и диалогов с акцентом на рассуждения, включая задачи математики, науки и программирования. Она принимает текст и генерирует текст; контекст — до 32 768 токенов. В метаданных указаны английский и китайский языки, а также интерфейс для вызова инструментов. Карточка называет модель экспериментальным прототипом для исследований и разработок; качество не гарантируется, модель не предназначена для критически важных сценариев. Лицензия — Apache 2.0; авторы отдельно не рекомендуют коммерческое применение.

Sombrero-QwQ-32B-Elite11 — дообученная 32-миллиардная языковая модель prithivMLmods на базе Qwen/QwQ-32B, построенная на архитектуре Qwen2 и распространяемая в формате Safetensors. Модель предназначена для генерации текста и диалогов, с акцентом на программирование, математические задачи, логические рассуждения и подробные объяснения. Метаданные указывают контекст до 131 072 токенов; README заявляет поддержку входа до 256 000 токенов и генерацию до 12 000 токенов за ответ. Модель подходит для генерации и отладки кода, пошагового решения задач, подготовки технической документации, длинных ответов и многоязычных диалогов. README заявляет поддержку более 35 языков, включая русский, однако метаданные карточки подтверждают только английский. Также заявлен режим оптимизации памяти, но подробности реализации не приведены. Для работы с длинным контекстом требуются значительные ресурсы GPU или TPU; ответы могут содержать ошибки и предвзятость, качество зависит от формулировки запроса, а доступа к актуальным данным модель не имеет. Лицензия — Apache-2.0.

InternVL3-78B — разработанная OpenGVLab мультимодальная большая языковая модель семейства InternVL3 для диалога и задач на стыке зрения и языка. Она принимает текст, изображения и видео, а также поддерживает работу с несколькими изображениями в одном запросе. Архитектура следует схеме ViT-MLP-LLM: визуальный энкодер InternViT соединён через MLP-проектор с языковой моделью; для изображений используются динамическое разбиение на фрагменты 448×448 и кодирование визуальных позиций V2PE. Вариант содержит 78 млрд параметров. Модель предназначена для ответов на вопросы по изображениям и видео, визуального рассуждения, анализа диаграмм и промышленных изображений, понимания 3D-сцен, работы с графическими интерфейсами и использования инструментов. Она также выполняет текстовые задачи и поддерживает многоязычный диалог. Карточка сообщает об улучшенных мультимодальном восприятии и рассуждении относительно InternVL 2.5, но не приводит здесь конкретных численных оценок. Репозиторий использует Transformers и формат safetensors; для эксплуатации модели такого размера требуются значительные вычислительные ресурсы. Лицензия указана как other, поэтому перед использованием нужно проверить условия в репозитории модели.

SDLM-32B-D4 — языковая модель OpenGVLab для генерации текста в формате последовательной диффузии. Она основана на Qwen2.5-32B и дообучена для переноса авторегрессионных весов в диффузионный режим. Модель предсказывает блоки токенов длиной 4, затем сохраняет наиболее длинный уверенно предсказанный префикс; повторное использование KV-кэша призвано ускорить декодирование. В метаданных указаны 32 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговой генерации и задач с длинным текстом. Авторы сообщают примерно о двукратном ускорении относительно сопоставимых авторегрессионных моделей при близком качестве и до пятикратного ускорения относительно других диффузионных языковых моделей; в README эти результаты связаны, в частности, с тестом MATH-500. В обучении использовались данные по математике, коду и общим диалогам, а также научные и табличные наборы. Указаны интерфейсы чата и вызова инструментов, но отдельные гарантии качества для этих сценариев в карточке не приведены. Модель распространяется под лицензией Apache-2.0.

Bee-8B-SFT — мультимодальная модель с открытыми весами от команды Open-Bee, дообученная на базе Qwen/Qwen3-8B на корпусе Honey-Data-15M примерно из 15 миллионов примеров. Архитектура Bee — плотная модель класса BeeForConditionalGeneration; она принимает изображения и текст и отвечает в формате диалога. Для работы доступны режимы с рассуждениями и без них. Модель предназначена для диалоговых сценариев с изображениями и текстом, включая сложные рассуждения, математические задачи, анализ документов, диаграмм и других структурированных визуальных данных. Авторы сообщают о высоких результатах на MathVerse, LogicVista, DynaMath и CharXiv; поддерживаются Transformers и vLLM. Карточка указывает английский язык, а базовая Qwen3-8B описана как многоязычная. Размер контекста в предоставленных данных не указан. Модель распространяется по лицензии Apache-2.0. Заявления о качестве основаны на результатах бенчмарков авторов; конкретные ограничения и гарантии качества не описаны.

PocketWeights/Gemma-4-12B-agentic-abliterated-GGUF — это квантизированная в формате GGUF версия 12-миллиардной модели на архитектуре Gemma, разработанной Google. К использованной базовой модели Huihui-gemma-4-12B-agentic-fable5-abliterated применены дообучение и методы удаления отказов от huihui-ai / yuxinlu1; сборку и оптимизацию GGUF выполняет PocketWeights. Модель предназначена для генерации текста, диалогов, многошагового планирования, декомпозиции сложных запросов, структурированного вывода, агентских сценариев и использования инструментов или function calling. Заявлены возможности технического анализа, автономного выполнения многошаговых целей, red-teaming и творческого письма. Поддерживаемые модальности и языки в README не указаны; контекстное окно также не заявлено. Доступны варианты IQ3_M размером 5,73 ГБ, рассчитанный примерно на 6 ГБ VRAM или 8 ГБ RAM, и Q4_K_M размером 7,38 ГБ, рекомендованный для 8–12 ГБ VRAM или 16 ГБ RAM. Ключевое преимущество — сочетание 12B-параметров с локальным запуском на потребительском оборудовании. Ограничение — удалённые защитные механизмы, поэтому модель может генерировать небезопасный контент и рекомендуется для авторизованных исследований безопасности, симуляций red-teaming и локальных изолированных сред. Модель распространяется по Gemma Terms of Use / Open Model License; конкретные условия применения следует проверять в тексте лицензии.

JANGQ-AI/Nemotron-Cascade-2-30B-A3B-JANG_4M — квантованная версия NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленная Jinho Jang с помощью открытого формата и движка JANG для MLX. Это языковая модель для диалогов и генерации текста с пошаговым режимом рассуждений и интерфейсом вызова инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, смесь экспертов (MoE) и слои внимания; в README указаны 52 слоя и 128 экспертов с выбором шести. Квантование JANG_4M использует 4,1 бита и 8-битные веса внимания. Метаданные указывают 1,9 млрд параметров и контекст до 262 144 токенов. Модель ориентирована на рассуждения, в том числе решение математических задач, а также на обычные диалоги и агентные сценарии. По результатам теста MMLU на 200 вопросах, приведённым автором карточки, она набрала 93% в режиме рассуждений; это результат собственного тестирования, а не независимая оценка. Для запуска нужны Apple Silicon с не менее чем 24 ГБ объединённой памяти и совместимая среда MLX, например MLX Studio или пакет JANG для MLX; обычные загрузчики MLX могут не поддерживать отображение весов этой архитектуры. В карточке указана лицензия «other», конкретные условия следует проверять у автора базовой модели и производной версии.

OpenCodeReasoning-Nemotron-14B-GGUF — это набор GGUF-квантизированных версий модели OpenCodeReasoning-Nemotron-14B, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и решения задач, связанных с программированием и рассуждениями по коду; в метаданных указаны английский язык и обучающий датасет NVIDIA OpenCodeReasoning. Модель имеет размер 14 миллиардов параметров и поставляется в форматах от BF16 до различных вариантов 8-, 6-, 5-, 4- и 3-битного квантования. Размер файлов варьируется примерно от 7,34 до 29,55 ГБ. В README не указаны точная архитектура и размер контекстного окна. Модели можно запускать через LM Studio, llama.cpp и другие совместимые проекты; для взаимодействия предусмотрен специальный chat-шаблон с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантизаций, позволяющий выбирать баланс между качеством, скоростью и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как подходящий вариант стандартного размера. Более компактные варианты экономят память, но могут заметно уступать по качеству. Условия использования определяются лицензией Apache-2.0.

Sorawiz/Phi-4-Base — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода TIES на основе нескольких моделей семейства Phi-4. В состав вошли Phi-4-Empathetic, LoRA-phi-4-abliterated, Phi-4-Math-IO, Phi-4-o1 и Phi-4-QwQ. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 14,1 млрд параметров и использует контекст до 16 384 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Состав исходных моделей ориентирует её на эмпатичные ответы, математику, рассуждения и задачи в стиле QwQ и o1. Репозиторий распространяет веса в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

TheWegemann/Qwen3.8-27B-LowGPU-uncensored-NoMTP-IQ3XXXS-GGUF — это квантованная GGUF-версия 27-миллиардной модели Qwen3.8, подготовленная TheWegemann на основе аблитерированной и «uncensored» модели OrcaRouter Qwen3.8-27B-Uncensored, восходящей к официальной Qwen/Qwen3.8-27B. Модель предназначена для локального запуска через llama.cpp, включая агентские сценарии, задачи рассуждения и работу с изображениями при наличии совместимого vision-проектора. Модель использует гибридную архитектуру с блоками Gated DeltaNet и линейным вниманием, чередующимися с блоками полного внимания; всего заявлено 64 слоя. Это custom per-tensor mixed-precision квантование с 498 назначениями типов, собственной importance matrix и удалённой MTP-головой для снижения потребления памяти. Размер файла составляет около 9,3 ГБ. Сборка ориентирована на GPU с 12 ГБ VRAM: она тестировалась на NVIDIA RTX 4070 с полным GPU offload, контекстом до 64 000 токенов, Q4_0 KV-кэшем, Flash Attention и F16 vision-проектором. Поддерживаемые языки в README не указаны. Сильная сторона модели — сочетание крупного размера, агрессивной оптимизации памяти и возможности полностью разместить модель на GPU с 12 ГБ VRAM, сохранив большой контекст и мультимодальный сценарий. Ограничения включают зависимость от версии llama.cpp, драйверов и настроек запуска, а также возможное увеличение требований к памяти; конфигурации с менее чем 12 ГБ VRAM и CPU offload находятся вне целевого сценария. Модель унаследовала сниженные защитные механизмы исходного аблитерированного чекпойнта: квантование их не восстанавливает, поэтому при развёртывании необходимы собственные меры модерации и контроля доступа. Лицензия — Apache 2.0.