II.2Создание и понимание программного кода

Monstral-123B-v2-GGUF — это квантизированная версия текстовой генеративной модели Monstral-123B-v2, разработанной MarsupialAI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для диалогового взаимодействия и генерации текста, включая локальный запуск через llama.cpp и LM Studio. Указан английский язык, а рекомендуемый формат запроса — шаблон [INST]. Модель содержит 123B параметров, однако сведения о конкретной архитектуре, размере контекста и поддерживаемых модальностях в README не приведены. Доступно множество вариантов квантизации от Q8_0 до IQ1_M: более высокие разрядности сохраняют лучшее качество, но требуют значительно больше памяти, тогда как низкоразрядные варианты экономичнее, но заметно уступают по качеству. Рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; размер файлов варьируется примерно от 28 до 130 ГБ. Основные преимущества — возможность локального запуска, широкий выбор компромиссов между качеством и требованиями к памяти, а также оптимизации для некоторых ARM- и AVX-систем. Ограничения включают очень высокие аппаратные требования для крупных вариантов и снижение качества у низкоразрядных квантизаций; отдельные варианты имеют ограничения совместимости, например Q4_0_8_8 не рекомендуется для Mac. Лицензия указана как other с названием mrl, но её подробные условия в README не раскрыты.

Moonlight-16B-A3B-Instruct-bruno-i1-GGUF — GGUF-квантизированная версия модели rawcell/Moonlight-16B-A3B-Instruct-bruno, подготовленная и опубликованная mradermacher. Это диалоговая instruction-модель для генерации текста и conversational-сценариев, включая локальный запуск через совместимые с GGUF инструменты. В метаданных она отмечена как MoE-модель с ориентировочными 16 млрд параметров и обозначением A3B, а также как англоязычная модель. Доступны многочисленные варианты квантизации от i1-IQ1_S до i1-Q6_K с размером файлов примерно от 5,2 до 12,1 ГБ; README отмечает i1-Q4_K_M как быстрый и рекомендуемый вариант, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Квантизация снижает требования к памяти и делает модель более подходящей для локального использования, однако более агрессивные варианты могут заметно ухудшать качество. Контекстный размер, мультимодальность, поддерживаемые языки помимо английского и результаты оценивания в README не указаны. Модель имеет маркировки abliterated, decensored и uncensored, поэтому для задач, требующих строгих защитных ограничений, её поведение следует проверять отдельно. Лицензия — Apache-2.0.

NeuralsirkrishnaShadow_Experiment27Inex12 — слитая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжения текста. Модель поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0.

RedHatAI/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-FP8 — квантизированная языковая модель для генерации текста и диалоговых сценариев, разработанная RedHatAI на основе NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 от NVIDIA. Модель принимает текст и возвращает текст, поддерживает использование в conversational-приложениях и может разворачиваться с помощью Transformers и vLLM. Архитектура модели обозначена как NemotronHForCausalLM. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8 по статической схеме с использованием LLM Compressor и калибровочных примеров UltraChat. Такое сжатие уменьшает требования к GPU-памяти и дисковому пространству примерно на 50% по сравнению с BF16 и может примерно вдвое повысить пропускную способность матричных умножений на оборудовании с поддержкой FP8. В идентификаторе указаны 30B параметров и конфигурация A3B, однако другие характеристики, включая языки и максимальную длину контекста, в README не приведены. Сильными сторонами модели являются сниженные требования к ресурсам и оптимизация для быстрого инференса на совместимом оборудовании. Ограничения связаны с тем, что FP8-квантизация может зависеть от аппаратной и программной поддержки, а README не содержит результатов оценки качества, подробностей о поддерживаемых языках и условий лицензирования. Данные о лицензии отсутствуют.

OctoThinker-8B-Long-Base-GGUF — набор GGUF-квантизаций базовой языковой модели OctoThinker-8B-Long-Base, разработанной авторами Zengzhi Wang, Fan Zhou, Xuefeng Li и Pengfei Liu. Модель построена на семействе Llama-3 и предназначена для генерации текста, математических задач, рассуждений и использования в сценариях, где требуется основа, удобная для последующего reinforcement learning. Модель прошла двухэтапное промежуточное обучение по методике Stable-then-Decay на крупномасштабных математических данных MegaMath-Web-Pro-Max и разнообразных данных с длинными цепочками рассуждений. Заявленные преимущества — быстрое схождение и повышенная стабильность при обучении с подкреплением. В README указан английский язык и текстовая модальность; размер базовой модели — 8B параметров, однако максимальная длина контекста не указана. Предлагаются варианты от F16 примерно на 16,1 ГБ до Q2_K примерно на 3,0 ГБ. Более высокие разрядности обеспечивают лучшее качество, а низкоразрядные варианты снижают требования к памяти, но могут заметно ухудшать результаты. Модель совместима с llama.cpp, llama-cpp-python, LM Studio и Ollama. Лицензия указана как llama3.2; дополнительные ограничения и условия распространения в README не раскрыты.

Карточка модели PS4Research/ocuMmGPo51nEQ9MC на Hugging Face совпадает с карточкой PS4Research/mbazkhYJvXJIVctL, поэтому описание составлено по ней. PS4Research/mbazkhYJvXJIVctL — дообученная плотная языковая модель семейства Seed OSS на архитектуре SeedOssForCausalLM, основанная на ByteDance-Seed/Seed-OSS-36B-Instruct. Разработчик — PS4Research; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 31,7 млрд параметров и поддерживает контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста и работы с инструментами через интерфейс вызова инструментов. Карточка не описывает специальную предметную область или отличия дообучения от базовой модели. Модель принимает и выдаёт текст, основной язык в карточке — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Ограничения, связанные с качеством ответов или конкретными сценариями применения, в карточке не описаны.

OpenHermes-7B-Symbolic-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral AI и hedronstone/OpenHermes-7B-Symbolic методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате диалога. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст. Веса опубликованы в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Она подходит для диалоговых сценариев и выполнения текстовых инструкций; качество ответов и способность решать специализированные задачи README не описывает.

OpenLLaMA 13B — авторегрессионная языковая модель семейства LLaMA, разработанная OpenLM Research как открытая репликация LLaMA. Модель содержит 12,9 млрд параметров и обучена с нуля на корпусе RedPajama объёмом около 1,2 трлн токенов; архитектура и параметры обучения следуют работе LLaMA. Доступны веса PyTorch, контекст составляет 2048 токенов. Модель предназначена для продолжения текста и генерации ответов по текстовому запросу, а также для оценки языковых моделей и экспериментов с few-shot-примерами. В опубликованных оценках она показывает сопоставимые с исходной LLaMA 13B и GPT-J результаты по большинству задач, хотя эти результаты зависят от протокола оценки. README предупреждает, что fast tokenizer может выполнять токенизацию некорректно; рекомендуется использовать LlamaTokenizer или AutoTokenizer с use_fast=False. Для few-shot-оценки рекомендуется добавлять BOS-токен. Лицензия Apache-2.0.

Orca-2-13B-GGUF — квантизированная версия языковой модели Orca-2-13b, разработанной Microsoft и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через LlamaEdge как сервиса или командного приложения. Для работы применяется шаблон запросов ChatML, а заявленный размер контекста составляет 5120 токенов. Модель основана на архитектуре Orca-2 с 13 млрд параметров и поддерживает только текстовую модальность. README не указывает набор поддерживаемых языков, поэтому языковые возможности нельзя достоверно определить по представленным данным. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 5,43 до 13,8 ГБ. Чем выше разрядность, тем меньше потери качества, но тем больше требования к памяти; авторами рекомендуется сбалансированный вариант Q4_K_M либо варианты Q5_K_M и Q5_K_S с очень небольшими потерями качества. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут значительно терять качество, а более точные требуют больше ресурсов. Для запуска указан LlamaEdge версии 0.2.8 или новее. Модель распространяется по Microsoft Research License; точные условия следует уточнять в файле лицензии исходного репозитория.

Ornith-1.0-35B-MLX-8bit — это 8-битная квантованная версия языковой модели Ornith-1.0-35B, разработанной deepreinforce-ai. Версия подготовлена командой LM Studio с использованием MLX и оптимизирована для работы на компьютерах с Apple Silicon. Модель относится к классу text-generation и предназначена для генерации текста и других сценариев применения текстовых языковых моделей в локальной среде. Модель содержит 35 миллиардов параметров и поставляется в формате MLX с 8-битным квантованием, что снижает требования к памяти по сравнению с полноразмерной версией и делает её более подходящей для запуска на устройствах Apple Silicon. Данные о поддерживаемых языках, размере контекстного окна, точной архитектуре, специализированных задачах и результатах тестирования в README не указаны. Лицензия обозначена как MIT; при использовании следует также учитывать условия лицензии исходной модели Ornith-1.0-35B.

Ornith-1.5-35B-A3B-UNCENSORED-GGUF — набор GGUF-квантизаций модели Ornith 1.5 35B-A3B, опубликованный Dealign.ai на основе модели ornith-ai/Ornith-1.5-35B-A3B. Модель предназначена для локального запуска через llama.cpp и совместимые приложения. Это мультимодальная vision-language модель, способная работать с текстом и изображениями; для обработки изображений требуется отдельный vision-проектор mmproj. Лицензия — MIT. Архитектура сочетает GatedDeltaNet на основе SSM и attention Mixture-of-Experts с 256 экспертами, из которых активируются 8, а также включает голову multi-token prediction для speculative decoding. У модели поддерживается режим рассуждений с выводом трассы <think>, включённый по умолчанию и отключаемый через параметры chat template. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 13,2 до 37,8 ГБ; Q4_K_M обозначен как сбалансированный рекомендуемый вариант. Контекстное окно и список поддерживаемых языков в README не указаны. К сильным сторонам относятся сохранение знаний и связности после модификации весов, поддержка рассуждений, vision-возможностей и локального инференса, а также возможность выбрать компромисс между качеством и требованиями к памяти. Более низкие уровни квантизации уменьшают размер модели, но могут заметно снижать качество: для Q2_K заявлена существенная потеря показателя MMLU. Модель имеет удалённые или существенно сниженные защитные ограничения и демонстрирует практически полное следование вредоносным запросам в тестах HarmBench, поэтому требует ответственного и законного применения.

Pegasus-7b-slerp — текстовая диалоговая модель, созданная AurelPx слиянием моделей ammarali32/multi_verse_model и eren23/dpo-binarized-NeutrixOmnibe-7B методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста и ответов в диалоге. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Веса объединены в типе bfloat16; лицензия — Apache-2.0. Карточка не приводит сведения о специализированных областях или языках, поэтому модель следует рассматривать как универсальную текстовую модель. Качество и поведение при конкретных задачах зависят от запроса и выбранной среды запуска.

duyntnet/Phi-3-medium-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-Medium-4K-Instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев с инструкциями, включая ответы на вопросы, объяснения и решение задач. Она рассчитана прежде всего на использование в формате чата и поддерживает английский язык. Исходная модель относится к семейству Phi-3 и имеет контекст до 4K токенов; README также указывает размер словаря токенизатора до 32 064 токенов. В данном репозитории представлены квантизированные варианты с использованием imatrix в формате GGUF, совместимые с llama.cpp после указанного в README коммита. Конкретные уровни квантования и размер параметров в предоставленных данных не указаны. Сильными сторонами являются инструкционно-ориентированное поведение, поддержка многоходовых диалогов и возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают англоязычную специализацию, контекст в 4K токенов и возможное снижение качества, зависящее от выбранного уровня квантования. Для работы могут потребоваться актуальные версии поддерживающего ПО и корректный chat format. Лицензия указана как other; дополнительные условия лицензирования в README не приведены.

Это компактная инструктивная языковая модель Qwen2.5-0.5B-Instruct, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-0.5B-Instruct. Она построена на архитектуре Qwen2 с причинной генерацией текста и рассчитана на диалоги, выполнение инструкций и другие задачи генерации текста. В метаданных указаны 494 млн параметров, контекст до 32 768 токенов, формат safetensors и библиотека Transformers. Модель подходит для чат-ботов, ответов на запросы и генерации структурированного текста. В карточке базовой модели заявлена поддержка более 29 языков, включая русский и английский; сама карточка репозитория отмечает английский. Модель компактна, но уступает более крупным моделям по возможностям и надёжности, а результаты зависят от запроса и сценария применения. Лицензия — Apache-2.0.

wls04/Qwen2.5-14B-AcaciaWL-Add — диалоговая языковая модель, дообученная разработчиком на базе Qwen/Qwen2.5-14B-Instruct с помощью TRL. Она предназначена для генерации текста и ответов в формате чата; пример карточки показывает запрос с открытым вопросом и генерацию ответа. Модель использует плотную архитектуру Qwen2 и содержит 14 млрд параметров. Она работает с текстом, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для Transformers. Лицензия в доступных данных не указана.

Qwen2.5-3B-Instruct-GGUF — набор GGUF-квантизаций инструкционной языковой модели Qwen2.5-3B-Instruct. Квантизации подготовлены пользователем bartowski с помощью llama.cpp и imatrix; исходная модель опубликована под именем Qwen/Qwen2.5-3B-Instruct. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через llama.cpp и LM Studio. Доступны варианты от полноразмерного F16 до более компактных форматов Q8_0, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством ответов и требованиями к памяти. Размер файлов составляет примерно от 1,35 до 6,18 ГБ. Указан английский язык; сведения о других языках, архитектуре и размере контекста в README отсутствуют. Для работы следует использовать шаблон сообщений Qwen с ролями system, user и assistant. Сильная сторона набора — широкий выбор уровней квантизации, включая варианты, оптимизированные для ARM, а также imatrix-квантизации с акцентом на сохранение качества. Более компактные варианты требуют меньше памяти, но могут заметно уступать старшим форматам по качеству; некоторые низкобитные версии прямо обозначены как низкокачественные или нерекомендуемые. Лицензия указана как qwen-research с отдельной лицензией исходной модели.

AvoCahDoe/qwen2-5-7b-rlmpq-balanced — вариант Qwen2.5-7B, подготовленный методом RL-MPQ (Reinforcement Learning Mixed-Precision Quantization) для сбалансированного соотношения размера и качества. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Базовая модель — Qwen/Qwen2.5-7B; средняя точность квантования составляет 3,3929 бита на вес. Репозиторий содержит fake-quantized веса FP16 и политику распределения битности по слоям; модель совместима с Transformers и имеет контекстное окно до 131 072 токенов. В README качество проверяется по perplexity на WikiText-2, однако численное значение для сценария Balanced в доступной части карточки отсутствует. Модель может применяться для диалога и генерации текста, но квантование смешанной точности способно влиять на качество, а приведённые сведения не подтверждают результаты для других задач или языков. Лицензия — Apache-2.0.

Это дообученная компанией clijo диалоговая языковая модель Qwen3-4B-Instruct-2507, обученная с помощью TRL. Она предназначена для генерации текста в ответ на инструкции и вопросы в формате диалога; карточка не уточняет отдельные специализации дообучения. Модель использует плотную архитектуру Qwen3ForCausalLM и содержит 3,7 млрд параметров. Нативная длина контекста — до 262 144 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают на поддержку чата. Лицензия в предоставленных данных не обозначена.

ZuzeTt/Qwen3-4B-Thinking-2507-Heretic-Imatrix-GGUF — это GGUF-квантизации модели Qwen3-4B-Thinking-2507-Heretic, созданной becnic на основе Qwen3-4B-Thinking-2507. Репозиторий подготовлен ZuzeTt с использованием llama.cpp версии b7120 и предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к каузальным языковым моделям для генерации текста и задач рассуждения. Она содержит около 4 млрд параметров, из которых 3,6 млрд не относятся к embedding, и имеет 36 слоёв. Заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Доступны варианты от f16 до Q2_K размером примерно от 1,67 до 8,05 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Ключевая особенность — модификация Heretic с применением abliteration. По приведённому сравнению, модель демонстрирует 6 отказов из 100 против 96 из 100 у исходной Qwen3-4B-Thinking-2507, при KL-дивергенции 0,06 относительно оригинала. Это может расширять применимость модели к запросам, которые исходная версия чаще отклоняет, но также повышает риск нежелательной или небезопасной генерации. В README не указаны размер контекста, результаты комплексных бенчмарков, мультимодальные возможности и подробные рекомендации по аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

aufklarer подготовил текстовую чат-версию Qwen3.5-0.8B для локального запуска на устройствах Apple Silicon через MLX. Это плотная гибридная архитектура Qwen3.5 с 24 слоями: 18 слоёв DeltaNet с линейным вниманием и 6 слоёв GatedAttention. В репозитории опубликованы варианты квантования INT4, INT5 и INT8; размер модели в карточке указан как 752 млн параметров, а файлы занимают от 424 до 800 МБ. Модель принимает текст и генерирует текст, поддерживает языки, перечисленные в метаданных, включая русский, английский и китайский. Модель предназначена для локального чата и генерации текста, в том числе структурированных ответов в формате JSON. По измерениям автора, INT8 близок к bf16 по качеству; INT4 заметно чаще нарушает формат JSON, поэтому для таких ответов рекомендуется INT5 или INT8. Vision tower и голова многотокенного предсказания исключены, поэтому эта сборка не обрабатывает изображения. Для INT5 и INT8 требуется совместимый runtime, который читает параметры квантования из config.json; имена весов также несовместимы напрямую с mlx-lm. Лицензия — Apache-2.0.

aashish1904/Qwen3.5-0.8B-GGUF — квантизированная версия Qwen3.5-0.8B, разработанной командой Qwen и преобразованной в формат GGUF с использованием llama.cpp; квантизацию выполнил GGUF Quantizer Space. Модель предназначена для локального запуска через llama.cpp, Ollama и совместимые инструменты, а исходная модель ориентирована на прототипирование, исследовательские задачи, разработку и специализированное дообучение. Это причинная языковая модель с vision encoder, поддерживающая текстовые и визуальные сценарии. Она содержит 0,8 млрд параметров, 24 слоя и нативный контекст до 262 144 токенов. Архитектура сочетает Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Доступны варианты квантизации от Q2_K до Q8_0: более компактные варианты требуют меньше памяти, но сильнее теряют в качестве, тогда как Q8_0 обеспечивает качество, близкое к исходному. Q4_K_M и Q5_K_M указаны как рекомендуемые сбалансированный и высококачественный варианты. Сильные стороны модели — небольшой размер, возможность эффективного локального запуска, длинный контекст, мультимодальность и широкий языковой охват. Ограничения связаны с малым числом параметров и потерями качества, зависящими от выбранного уровня квантизации; конкретные требования к ресурсам и результаты бенчмарков для этой GGUF-версии в предоставленных данных не приведены. Лицензия в README не указана.

RobinsonLabs выпустила полноточную версию Qwen3.5-REAP-212B-A17B после аблитерации — ослабления склонности к отказам с помощью ортогонализации весов. Это гибридная MoE-модель семейства Qwen3.5: 60 декодерных слоёв, 267 экспертов, около 211,8 млрд параметров и примерно 17 млрд активных параметров. Репозиторий содержит веса bf16 в формате safetensors; модель предназначена для диалоговой генерации текста и дальнейшей настройки или подготовки квантованных вариантов. Аблитерация уменьшает жёсткие отказы на взрослые и творческие запросы, при этом, по заявлению автора, защитные ограничения для запросов о самоповреждении сохранены. Карточка описывает текстовый путь модели; архитектура также предоставляет интерфейс вызова инструментов. Для запуска полноточных весов требуется около 424 ГБ места, поэтому для готового запуска автор указывает отдельный репозиторий квантованных GGUF-вариантов. Модель основана на OpenMOSE/Qwen3.5-REAP-212B-A17B, которая, в свою очередь, получена прореживанием Qwen3.5-397B-A17B. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-TQ-apex3 — созданный varjosoft квантованный чекпойнт Qwen/Qwen3.6-35B-A3B для генерации текста и диалогов. Это нативный смешанно-точный вариант TurboQuant: большинство весов экспертов хранится в TQ3, чувствительные группы — в TQ4, а тензоры с высоким эксцессом распределения оставлены в FP16. Размер на диске составляет около 18,6 ГБ; для инференса требуется около 20 ГБ резидентной памяти. Модель построена на архитектуре Qwen3.5 MoE и загружается через Transformers с совместимым загрузчиком TurboQuant. Чекпойнт предназначен для локального запуска диалоговой модели и генерации текста; в README приведены результаты бенчмарка GSM8K. Автор сообщает о качестве выше предыдущих вариантов квантования и MLX-4bit reference, однако приведённые измерения относятся к конкретному тесту GSM8K-200 и конфигурации запуска. Лицензия — Apache-2.0. README указывает на высокие требования к памяти при воспроизведении сжатия: не менее 100 ГБ CPU RAM для полной загрузки bf16-весов.

TheDrainFlorist/Qwen3.6-35B-A3B-VQ-3.4bpw — компактная векторно-квантизованная версия мультимодальной модели Qwen3.6-35B-A3B, предназначенная для генерации текста и обработки изображений на устройствах Apple Silicon через MLX. Модель содержит vision tower и рассчитана на работу с mlx-lm для текста и mlx-vlm для изображений. В README явно указан английский язык; другие языки и размер контекстного окна не заявлены. Размер артефакта составляет 13,8 GiB, пиковое потребление памяти — около 13,1 GiB. Эксперты модели квантизованы методом vector quantization с параметрами d=4 и K=2048, примерно до 3 бит на вес, а неэкспертные тензоры представлены в 8-битном формате. Заявлена скорость около 66 токенов в секунду на совместимом оборудовании; модель запускается на машинах с 16 GiB памяти при коротком контексте и более комфортно — от 24 GiB. Главное преимущество — существенно меньший размер по сравнению с 4-битной сборкой при лучшем показателе perplexity: 13,8 GiB против 19 GiB, при этом измеренная perplexity составляет 1,029x относительно bf16-версии против 1,041x у 4-битной модели. Ограничение — заметная потеря качества относительно parity-сборки размером 18,7 GiB: top-1 agreement составляет 87,33%, поэтому при наличии достаточного объёма памяти рекомендуется более крупная версия. Для работы с изображениями требуется mlx-vlm версии 0.6.16 или новее, а поддержка model_file обязательна. Лицензия — Apache 2.0.

Qwen3-8B TMax AENV v39b, итерация 179 — чекпойнт модели Qwen3-8B, дообученной командой willamazon1 методом обучения с подкреплением на асинхронных многоходовых взаимодействиях в агентной среде. Он инициализирован из willamazon1/qwen3-8b-tmax-sft-v3-iter353, который ранее был дообучен на Qwen/Qwen3-8B. Архитектура — плотная Qwen3ForCausalLM на 7,6 млрд параметров; модель принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Контекст — до 40 960 токенов. Чекпойнт предназначен для диалоговых и агентных сценариев, где модель ведёт многоходовое взаимодействие и использует инструменты. Это одна из итераций обучения v39b; соседние итерации опубликованы для сравнения динамики обучения. Веса преобразованы из формата Megatron-LM torch_dist в safetensors для Hugging Face, хранятся в bfloat16; состояние оптимизатора не включено. Модель распространяется по лицензии Apache-2.0.

Ramakrishna-7b-v3 — объединённая модель для генерации текста, созданная Kukedlc с помощью LazyMergekit на основе шести моделей семейства Mistral. Она предназначена для генерации текста и диалогов. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов; веса опубликованы в формате safetensors. Репозиторий не уточняет отдельные специализации, поддерживаемые языки или результаты оценки качества. Модель распространяется по лицензии Apache-2.0.

SEC-Calme-7B-Instruct — объединённая диалоговая языковая модель от Arcee AI. Она создана с помощью mergekit методом SLERP на основе arcee-ai/sec-mistral-7b-instruct-1.2-epoch и MaziyarPanahi/Calme-7B-Instruct-v0.2, с выборочным смешиванием слоёв внимания и MLP. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в формате чата: она принимает текстовые запросы и выдаёт текстовые ответы. Родной размер контекстного окна — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. README не приводит оценок качества или специализированных сценариев применения.

Snowball 67B-A2B Nemotron-Terminal SFT — разговорная модель семейства Marin с архитектурой Grug MoE, подготовленная для генерации текста и сценариев с агентными взаимодействиями. По карточке, это экспорт BF16 для Hugging Face и vLLM, обученный дообучением на корпусе Nemotron Terminal в рамках этапа Chat → Thinking → Agentic SFT; опубликован финальный чекпойнт после 1 888 шагов, а также промежуточные версии. В метаданных указаны 2,8 млрд параметров и контекст до 32 768 токенов. Модель рассчитана на диалог, генерацию ответов и использование интерфейса вызова инструментов. В карточке рекомендуется оценивать эту линию моделей с Terminus-2. Указанная лицензия — Apache-2.0.

SuperMente-7B-v4 — объединённая языковая модель, созданная Kukedlc с помощью LazyMergekit на основе NeuralSirKrishna-7b, NeuralKybalion-7B-slerp-v3 и SuperMente-7B-v3. Она предназначена для генерации текста и диалогов в сценариях, где требуется отвечать на запросы или продолжать текст. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Контекстное окно составляет до 32 768 токенов; веса опубликованы в формате safetensors. Данные карточки не уточняют поддерживаемые естественные языки и особенности качества. Модель распространяется по лицензии Apache-2.0. Её возможности и ограничения в конкретных задачах зависят от объединённых исходных моделей; карточка не приводит оценок или специальных гарантий качества.

T3qm7xStrangemerges_32-7B — автоматически созданная Maxime Labonne объединённая модель для генерации текста. В конфигурации использован метод DARE-TIES: объединены nlpguy/T3QM7X и Gille/StrangeMerges_32-7B-slerp с указанными в карточке параметрами слияния. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. В репозитории указаны веса Safetensors и лицензия Apache-2.0.