I.3Извлечение и структурирование данных

Это GGUF-квантизированная версия языковой модели Magistral-Small-2509, разработанной Mistral AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты с разной точностью и размером: от BF16 объёмом 47,15 ГБ до IQ3 и Q3 объёмом около 10–13 ГБ, а также более качественные Q4, Q5, Q6 и Q8. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5, Q6 и другие версии, отмеченные автором как рекомендуемые. Более компактные квантизации экономят оперативную память, но могут заметнее снижать качество; низкобитные варианты подходят при ограниченных ресурсах с соответствующими компромиссами. README не содержит сведений об архитектуре исходной модели, числе параметров, поддерживаемых языках, модальностях, размере контекста, формате промпта или лицензии. Поэтому эти характеристики и условия юридического использования по представленным данным определить нельзя.

Ministral-3-3B-Instruct-2512-GGUF — это набор квантизованных GGUF-версий инструкционной модели Ministral-3-3B-Instruct-2512, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты, включая сценарии генерации текста и обработки изображений с текстом, на что указывает pipeline image-text-to-text. Модель имеет около 3 млрд параметров; в README также доступна полная версия BF16 размером 6,87 ГБ и варианты квантизации от Q8_0 до Q3 и IQ4. Квантизация выполнена с использованием llama.cpp и imatrix-калибровки. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура, максимальная длина контекста и точные возможности работы с изображениями в предоставленных данных не указаны. Сильной стороной набора является широкий выбор вариантов квантизации, позволяющий подобрать баланс между качеством, размером файла и требованиями к оперативной памяти; для большинства сценариев рекомендуются Q4_K_M, Q5 и Q6. Ограничения включают возможное снижение качества на более агрессивных уровнях квантизации, отсутствие описания формата промптов и неполные сведения о характеристиках исходной модели. Модель распространяется по лицензии Apache-2.0.

Mistral-Trismegistus-7B-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и Mistral-Trismegistus-7B методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает состав слияния и параметры конфигурации, но не приводит сравнительных оценок качества; результаты могут зависеть от формулировки запроса и сценария применения.

cloudyu/Mixtral_7Bx4_MOE_24B — языковая модель Cloudyu для генерации текста, построенная на архитектуре Mixtral с разреженной смесью экспертов (MoE). В README указано, что модель создана с помощью mergekit путём объединения пяти моделей на базе Mistral 7B: Q-bert/MetaMath-Cybertron-Starling, mistralai/Mistral-7B-Instruct-v0.2, teknium/Mistral-Trismegistus-7B, meta-math/MetaMath-Mistral-7B и openchat/openchat-3.5-1210. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы; README приводит результаты оценивания на ARC и HellaSwag. Для неё опубликованы веса в формате Safetensors, а лицензия CC BY-NC 4.0 ограничивает коммерческое использование. README также сообщает, что модель была улучшена с помощью DPO в отдельном репозитории cloudyu/Pluto_24B_DPO_200; это описание относится к последующей модели, а не меняет способ происхождения данного чекпойнта.

SlimOrca Mixtral 8x7B — дообученная языковая модель, выпущенная OpenAccess AI Collective и OpenOrca на базе mistralai/Mixtral-8x7B-v0.1 с использованием датасета Open-Orca/SlimOrca. Это авторегрессионная модель генерации текста с архитектурой Mixtral sparse Mixture of Experts; она подходит для генерации продолжений и ответов на текстовые запросы. Модель поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache 2.0.

Карточка модели Alexhuou/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.

SeyedAli/Multilingual-Text-Semantic-Search-Siamese-BERT-V1 — модель эмбеддингов на базе BERT, разработанная в рамках Community Week Hugging Face. Она преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384 и предназначена для семантического поиска: сопоставляет запросы с релевантными документами по смыслу. Модель дообучена на примерно 215 млн пар «вопрос — ответ» из разных источников с контрастивной функцией потерь; базовая модель — nreimers/MiniLM-L6-H384-uncased. Модель содержит 25,9 млн параметров, использует mean pooling и поддерживает контекст до 512 токенов; при этом обучение проводилось на текстах длиной до 250 токенов, поэтому более длинные входы могут давать менее надёжные результаты. Нормализация векторов позволяет использовать скалярное произведение вместо косинусного сходства для ранжирования. Доступны форматы PyTorch, Safetensors и TensorFlow. Сведения о лицензии в предоставленных источниках отсутствуют.

Nemostein-3-Hermes-Omni-30b-a3b — модель на базе GestaltLabs/Nemostein-3-Hermes-Omni-30b-a3b, опубликованная в формате GGUF и квантизированная mradermacher. По доступным метаданным, это текстовая conversational-модель на базе Transformers с архитектурой Mixture-of-Experts; в названии указаны параметры 30b и a3b. Заявлен английский язык. Модель предназначена для генерации текста и диалоговых сценариев, включая reasoning, tool use и function calling. В метаданных также указаны SFT, LoRA и Unsloth, однако подробности обучения, поддерживаемые модальности, размер контекста и результаты тестирования не приведены. Поэтому возможности, связанные с обозначением Omni, нельзя подтвердить по представленному README. Доступно множество вариантов квантизации GGUF с объёмом файлов примерно от 18 до 33,6 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; среди рекомендованных автором указаны i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Лицензия обозначена как other, но её конкретные условия в README не раскрыты.

NeuralLogic-7B-V — языковая модель на архитектуре Mistral, созданная Kukedlc слиянием моделей Kukedlc/Triunvirato-7b и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; базовые модели описаны как диалоговые и настроенные на выполнение инструкций. Модель подходит для диалоговых сценариев, ответов на инструкции и генерации текста. Заявленный размер контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

FreedomAISVR выпустила GGUF-квантизацию Nex-N2-mini от Nex AGI — мультимодальной агентной модели на архитектуре Mixture-of-Experts. Модель содержит 35 млрд параметров, из которых активируются 3 млрд на токен, и использует 256 маршрутизируемых экспертов, гибридную архитектуру Gated DeltaNet с полным вниманием и 27-слойный визуальный энкодер. Контекст составляет 262 144 токена. Модель принимает текст и изображения и генерирует текст; она предназначена для диалогов, агентных задач и описания изображений. Представлены английский, китайский и другие языки. Веса представлены в NVFP4: заявлены 4,55 бита на вес и эффективный инференс на GPU Blackwell с минимальной потерей качества. Для обработки изображений требуется файл проектора mmproj в F16. Модель распространяется по лицензии Apache 2.0.

Это GGUF-квантизированная версия языковой модели OpenReasoning-Nemotron-7B, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель относится к классу текстовых генеративных моделей и имеет размер 7B параметров. Доступны варианты от исходных BF16-весов до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ-семейств; размер файлов составляет примерно от 3,55 до 15,24 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как варианты Q3 и Q2 рассчитаны на системы с ограниченным объёмом оперативной памяти. Для работы используется chat-шаблон с ролями system, user и assistant. Сильная сторона репозитория — широкий выбор вариантов GGUF для разного баланса качества, размера и производительности, включая варианты, оптимизированные для отдельных сценариев CPU и Apple Silicon. Ограничения, максимальная длина контекста, поддерживаемые языки, конкретные архитектурные особенности исходной модели и результаты бенчмарков в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в документации исходной модели NVIDIA и соответствующего репозитория.

ArchSpace-Collection публикует экспорт базовой OLMo 3 3B после четвёртого этапа обучения с SFT, ориентированного на рассуждения. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров, реализованная в Transformers как Olmo3ForCausalLM; для загрузки не требуется удалённый код. В репозитории указаны скользящее оконное внимание размером 4 096 токенов и ёмкость контекста 65 536 токенов. Модель предназначена для генерации текста и диалогового использования, включая запросы с рассуждениями и интерфейс вызова инструментов. Обучающая длина последовательности составляла 32 768 токенов. README описывает техническую конфигурацию и экспорт, но не сообщает конкретные результаты оценивания или полный перечень поддерживаемых языков. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

openchat_3.5-16k-Mistral-7B-Instruct-v0.1 — разговорная модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и NurtureAI/openchat_3.5-16k методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, основная возможность — чат. Модель принимает текстовые запросы и выдаёт текстовые ответы. Она подходит для чат-ботов, помощников и сценариев, где нужно обсуждать темы или отвечать на вопросы в рамках длинного контекста. Использует лицензию Apache-2.0.

Orange разработала текстовую модель эмбеддингов на базе nomic-ai/nomic-embed-text-v1.5. Она кодирует тексты в векторы размерностью 1536 для поиска по смыслу, сравнения предложений и других задач, где нужны текстовые представления. Модель построена на архитектуре NomicBert: выход базового трансформера размерностью 768 проходит через pooling и обучаемую линейную проекцию до 1536 измерений. В README указано, что проекция сохраняет косинусное сходство базовой модели; поддерживаются Matryoshka-векторы меньшей размерности и контекст до 8192 токенов. Модель подходит для семантического поиска, индексации документов для RAG, сопоставления запросов с документами, кластеризации и сравнения текстов. Для задания режима обработки вход нужно снабжать инструкционным префиксом, например search_document, search_query или clustering. Карточка указывает поддержку английского языка; лицензия — Apache-2.0. Дополнительная размерность может быть полезна для совместимости с существующими 1536-мерными векторными хранилищами, однако README отмечает лишь маргинальную пользу увеличения размерности и не приводит полных результатов сравнительной оценки.

Это GGUF-квантизированная версия текстовой языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft. Репозиторий подготовлен пользователем legraphista с использованием llama.cpp b3003 и метода IMatrix для отдельных вариантов квантования. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые инструменты. Заявлена поддержка multilingual-сценариев, однако конкретный перечень языков в README не указан. Модель имеет контекстное окно до 128k токенов и поставляется в форматах GGUF с разными уровнями точности: от FP16 и BF16 до Q2_K, Q3_K, Q4_K, Q5_K, Q6_K, Q8_0 и вариантов IQ. Размер файлов составляет примерно от 4,77 до 27,92 ГБ. Варианты Q2–Q4 и некоторые IQ используют IMatrix, что должно помогать сохранять качество при сильном сжатии, но README не приводит количественных результатов сравнения. Сильная сторона репозитория — широкий выбор форматов для компромисса между качеством, размером и требованиями к памяти, а также поддержка длинного контекста исходной модели. Ограничения включают высокие аппаратные требования для крупных вариантов и возможное снижение качества у низкобитных квантований; архитектура и точное число параметров в README не указаны. Модель распространяется по лицензии MIT, унаследованной от исходной модели Microsoft.

PLaMo-13B-Instruct — языковая модель с инструкционной настройкой, разработанная Preferred Networks, Inc. на основе PLaMo-13B с контекстом 8192 токена. Это плотная авторегрессионная модель с архитектурой decoder-only и 14,7 млрд параметров; для работы с весами в формате safetensors используется библиотека Transformers. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она обучена на 1,5 трлн токенов, включая 1,32 трлн английских и 0,18 трлн японских токенов; при инструкционной настройке использовались публичные датасеты, в том числе японские переводы и подмножества Dolly, Anthropic HH-RLHF, OpenAssistant и Izumi-lab. Модель может выдавать неточные, предвзятые или нежелательные ответы. Проверки проводились на английском и японском языках и не охватывают все сценарии, поэтому перед внедрением рекомендуется тестирование и настройка безопасности под конкретное приложение. Лицензия — Apache License 2.0.

mergekit-community выпустил объединённую языковую модель Qwen2.5-14B, созданную методом Model Stock на основе Qwen/Qwen2.5-14B и пяти других моделей: SauerkrautLM-v2-14b-SFT, Rombos-LLM-V2.6-Qwen-14b, Qwen2.5-14B-Instruct-abliterated-v2, SuperNova-Medius и Virtuoso-Small. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров, предназначенная для генерации текста и диалогов; заявленный размер контекста — до 131 072 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель подходит для генерации ответов в чате и других текстовых сценариев; метаданные также указывают интерфейс вызова инструментов. В README приведены метод объединения, состав моделей и конфигурация с типом данных bfloat16, но нет отдельных результатов оценки качества. Лицензия в предоставленных данных не указана.

Vimarckoso v3 — языковая модель для генерации текста с акцентом на рассуждения и следование инструкциям, созданная автором проекта Lamarck. Это объединённая модель семейства Qwen2 с 14 млрд параметров; в README описаны вклады нескольких моделей и LoRA-адаптеров, направленные на усиление рассуждений, качества прозы и следования инструкциям. Модель предназначена для диалогов, ответов на вопросы и задач, где нужны развернутые рассуждения и связный текст. Поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. Автор сообщает об улучшении следования инструкциям без заметной потери качества рассуждений; приведены ориентиры по результатам на бенчмарках GPQA и MUSR, но количественные результаты в карточке не указаны. Модель создана слиянием нескольких чекпойнтов, а README также описывает применение LoRA при формировании рецепта. Для запуска через Ollama автор рекомендует использовать конфигурацию как для Qwen2.5 14B Instruct и температуру 0,8.

Qwen2.5-72B-Instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen. Квантизацию выполнил legraphista с использованием llama.cpp версии b3787 и калибровочного набора IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в совместимых локальных средствах инференса, таких как llama.cpp. Модель основана на версии с 72 миллиардами параметров и исходным форматом BF16. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и более компактных IQ-квантизаций; размеры файлов составляют примерно от 29,81 до 145,42 ГБ. Для ряда вариантов применена IMatrix, что направлено на повышение качества при квантизации. В метаданных указан английский язык; сведения о других языках, архитектуре и размере контекста в представленном README не указаны. Сильная сторона модели — широкий выбор уровней квантизации, позволяющий подобрать компромисс между качеством, размером и требованиями к ресурсам, а также поддержка формата GGUF и IMatrix для многих компактных вариантов. Ограничения включают очень высокие требования к памяти даже для квантизированных файлов, зависимость совместимости и производительности от используемого движка и оборудования, а также возможное снижение качества при сильной квантизации. Модель распространяется по лицензии Qwen; подробные условия указаны в лицензии исходной модели.

Qwen3-0.6B-MLX-4bit — компактная 4-битная версия причинной языковой модели Qwen3, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, перевода, решения математических и логических задач, написания кода и сценариев с использованием внешних инструментов. Вариант MLX ориентирован на запуск через библиотеку mlx_lm. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд приходятся не на embedding-слои. Архитектура включает 28 слоёв и Grouped Query Attention с 16 головами запросов и 8 головами ключей и значений. Контекстное окно составляет 32 768 токенов. Поддерживаются более 100 языков и диалектов. Модель позволяет переключаться между режимом рассуждений, генерирующим содержимое в блоке <think>, и более быстрым нерешающим режимом для повседневного диалога. К сильным сторонам относятся небольшой размер, 4-битное представление, поддержка многоязычных задач, следования инструкциям и двух режимов работы. Ограничением является существенно меньший масштаб по сравнению с крупными моделями Qwen3, поэтому для сложных задач качество может быть ниже; в README также не приведены конкретные результаты тестов и требования к оборудованию. Для режима рассуждений рекомендуются вероятностные параметры генерации, а жадное декодирование не рекомендуется из-за возможного ухудшения качества и повторов. Модель распространяется по лицензии Apache 2.0.

k1nto/Qwen3-14B-Q5_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen3-14B, преобразованная пользователем k1nto в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и запуска локального вывода через llama.cpp, включая режим командной строки и серверный режим. Известно, что модель содержит около 14 миллиардов параметров и использует квантизацию Q5_K_M, которая уменьшает требования к памяти по сравнению с полноразмерной версией, сохраняя значительную часть качества. Поддерживаются сценарии диалога, дополнения текста и другие задачи генерации, совместимые с базовой моделью Qwen3-14B. Точные архитектурные особенности, список языков и размер контекстного окна в представленном README не указаны. Преимуществами являются компактный GGUF-формат, совместимость с llama.cpp и возможность локального запуска на подходящем CPU или GPU. Ограничения включают потенциальную потерю качества из-за квантизации, зависимость от настроек и аппаратных ресурсов, а также отсутствие в README подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-4B-Thinking-2507-4bit — это 4-битная квантованная версия языковой модели Qwen3-4B-Thinking-2507, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.2. Исходная модель опубликована организацией Qwen. Модель относится к классу text-generation и предназначена для генерации текста и диалогового взаимодействия. Модель рассчитана на запуск через библиотеку mlx-lm, включая загрузку токенизатора и применение chat template для диалоговых запросов. Из README известно, что она использует формат MLX и имеет размер исходной модели 4B параметров; применяется 4-битное представление. Сведения о поддерживаемых языках, длине контекста, точной архитектуре и мультимодальных возможностях не указаны, поэтому модель следует рассматривать как текстовую. Ключевое преимущество — адаптация к экосистеме MLX и уменьшенное 4-битное представление, что может снизить требования к памяти при локальном запуске. Ограничения README не описывает: отсутствуют данные о качестве, производительности, скорости, специализации модели и известных рисках. Лицензия — Apache-2.0.

TheCluster/Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED-MLX-mxfp8 — модель семейства Qwen3.5, представленная TheCluster. Она конвертирована в формат MLX из DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED. Модель дообучена на дистиллированных данных Claude 4.6 и предназначена для следования инструкциям в режиме instruct-only; заявлена как uncensored и unrestricted. Модель имеет размер 9B параметров и представлена в квантизации MXFP8 с эффективностью 8,363 бита на вес. Формат MLX ориентирован на запуск в экосистеме Apple. В карточке указана поддержка текстово-визуального сценария image-text-to-text, однако подробности о визуальном энкодере и максимальной длине контекста не приведены. Заявлены языки English, Chinese, Russian, Spanish, French, Italian, Japanese, Korean и ряд других, включая German, Arabic, Turkish, Polish, Ukrainian и Portuguese. По приведённым тестам модель сохраняет или улучшает результаты относительно исходной Qwen3.5-9B на большинстве указанных benchmark’ов, включая ARC, BoolQ, HellaSwag, OBQA, PIQA и Winogrande. Метрика отказов составляет 6 из 100 против 100 из 100 у оригинальной модели, что указывает на существенно менее ограниченное поведение. При этом снижение отказов означает потенциально более слабые защитные ограничения и необходимость дополнительного контроля при использовании. Сведения о длине контекста, производительности, системных требованиях и других ограничениях отсутствуют. Лицензия указана как Apache-2.0; ссылка ведёт на лицензию исходной Qwen3.5-9B.

MuXodious разработал Qwen3.5-9B-SOMPOA-heresy — дообученную версию мультимодальной модели Qwen3.5-9B, обработанную инструментом Heretic с методами abliteration и Self-Organizing Maps. В процессе создания также применялась 4-битная qLoRA. Модель предназначена для диалога и ответов на запросы с изображениями; доступны интерфейс вызова инструментов и возможности vision. Модель содержит 9 млрд параметров и использует архитектуру Qwen3.5 с языковой моделью и визуальным энкодером. Базовая модель поддерживает 201 язык и диалект и имеет контекст длиной 262 144 токена с возможностью расширения; эти характеристики относятся к Qwen3.5-9B и не подтверждают отдельную оценку дообученной версии. Автор сообщает, что после обработки доля отказов снизилась с 414 из 416 до 33 из 416 в использованной им проверке. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.6 27B, опубликованная пользователем d3vs3c на основе модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В создании участвовали несколько авторов и команд, включая Unsloth, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, общего диалога, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлена поддержка vision и языков English и Chinese; pipeline обозначен как image-text-to-text. Дообучение включало материалы для reasoning, Fable traces, датасеты Polar-STRICT и F451-STRICT, а также компоненты, связанные с Claude Opus и GPT-5. Точный размер контекстного окна не указан. Ключевые особенности — 27B-параметрическая базовая архитектура Qwen3.6, многоэтапное fine-tuning и merge, uncensored/heretic-настройка, NEO IMATRIX-квантизация и MTP (multi-token prediction). По утверждению авторов, модель улучшает instruction following, общую интеллектуальность, решение задач и reasoning, а также превосходит базовую Qwen3.6 27B в большинстве указанных тестов; независимая проверка этих заявлений в README не приведена. Для MTP-квантизаций рекомендуется температура не выше 1 и repetition penalty около 1; при низком token acceptance предлагается использовать обычные кванты. Модель заявлена под лицензией Apache-2.0.

Qwen3.6-35B-A3B-RAZOR-28B-A3B-E192of256 — производная диалоговая модель семейства Qwen, созданная методом RAZOR: из 256 маршрутизируемых экспертов в каждом MoE-слое оставлены 192. По README, это обучение-не-затрагивающее прореживание экспертов без градиентных обновлений и восстановительного дообучения; сохранены исходные веса оставшихся экспертов. В карточке указано 27,7 млрд параметров (27,0 млрд без модуля MTP) и около 3 млрд активных параметров на токен. Архитектура — Qwen3.5 MoE для Transformers; веса представлены в safetensors и bfloat16. Модель предназначена для генерации текста в диалогах и работы с интерфейсом вызова инструментов. Метаданные связывают её с Qwen/Qwen3.6-35B-A3B, краткое описание которого указывает на мультимодальный анализ изображений, однако README этой производной версии описывает только прореживание экспертов и не подтверждает сохранение или проверку обработки изображений. Лицензия — Apache-2.0. Прореживание уменьшает объём хранения экспертов, сохраняя примерно прежнее число активных параметров на токен, но является потерным: могут измениться разнообразие, форматирование и поведение завершения ответов; качество вне конечного калибровочного корпуса отдельно не охарактеризовано.

amd/Qwen3.6-35B-A3B-w8a8-llmcompressor — квантизированная AMD версия модели Qwen3.6-35B-A3B, созданная с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и поддерживает текстовый ввод и вывод; в исходной архитектуре используется Qwen3_5MoeForConditionalGeneration с разреженной MoE-структурой. Указан английский язык. README не приводит общее число параметров в явном виде, но размер исходных весов составляет 67,0 GiB, а после квантизации — 35,1 GiB. Применяется для инференса на CPU AMD EPYC под Linux через vLLM. Используется квантизация W8A8: веса представлены в INT8 с симметричным поканальным масштабированием, активации — в INT8 с динамическим поточным масштабированием. Маршрутизатор MoE, отдельные gating-модули, модули линейного внимания, визуальная башня и lm_head сохранены в BF16. Это снижает размер модели примерно на 48% и ориентировано на эффективный CPU-инференс с оптимизациями ZenDNN и ZenTorch. В предоставленной оценке на GSM8K модель получила 0,9629 против 0,9629 у исходной BF16-версии, однако результаты приведены только для одного бенчмарка. Основные ограничения — ориентация на AMD EPYC CPU, отсутствие целевой поддержки GPU и зависимость от конкретного стека: ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0; на других версиях корректная загрузка не гарантируется. Модель распространяется по лицензии Apache-2.0, как и исходная модель.

Qwen3.8-27B-Bonsai-MLX-3bit — 27-миллиардная плотная языковая модель семейства Qwen3.5, подготовленная Hermes Agent на основе Ternary-Bonsai-2 от Prism ML. Это 3-битная квантизированная версия для генерации текста и диалогов, включая сценарии с вызовом инструментов. Метод folded quantization переносит Hadamard-преобразование из инференса в веса, чтобы модель запускалась в стандартных mlx-lm и oMLX без пользовательских ядер и специального рантайма. Модель предназначена для локального запуска на системах Apple Silicon, ответов на запросы, рассуждений и агентных сценариев. В README заявлено оценочное качество около 93–95% от FP16 и размер 12,8 ГБ; стандартные бенчмарки ещё не проводились. Репозиторий распространяется по лицензии Apache-2.0. README описывает производную от квантованной модели PrismML, поэтому исходная квантизация и ограничения базовой Qwen3.8-27B могут влиять на качество.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-KERN-GGUF — это набор смешанно-точных квантованных моделей в формате GGUF, подготовленный Andrew Paul на основе DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 и базовой модели Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и запуска через llama.cpp, в том числе локально на видеокартах с ограниченным объёмом памяти. Доступны четыре варианта: eqQ4_K_M размером 14,73 ГБ, eqQ3_K_M — 13,04 ГБ, eqQ3_K_S — 11,59 ГБ и eqIQ2_M — 9,58 ГБ. Заявленная сохранность возможностей относительно BF16 составляет примерно 95%, 91%, 81% и 76% соответственно. Конкретные языки и максимальный контекст модели в README не указаны; примеры запуска используют контекст 16 384 токена. Ключевая особенность — распределение разрядности тензоров, выбранное по результатам тестирования возможностей, чувствительности и отклонения логитов, а не только по KL-дивергенции. Все варианты поддерживают обычную генерацию и спекулятивное декодирование: встроенная MTP-голова позволяет использовать draft length 2 или 3, а совместимость с внешним DFlash 2 может повысить пропускную способность. Меньшие варианты удобнее для 16 ГБ видеокарт, тогда как eqQ4_K_M рассчитан преимущественно на 24 ГБ или unified memory. Ограничения включают зависимость заявленных оценок от закрытого внутреннего теста, непроверенную поддержку vision через mmproj и возможное накопление ошибок при KV-cache в режиме q4. Модель распространяется по лицензии Apache-2.0.

TheCluster/Qwen3.8-27B-Heretic-MLX-4bit — 4-битная квантованная версия модели Qwen3.8-27B, разработанная TheCluster на базе Qwen/Qwen3.8-27B. Модель модифицирована с помощью Heretic v1.4.0 и позиционируется как uncensored-версия с уменьшенными ограничениями на генерируемый контент. В метаданных указана задача image-text-to-text, однако подробности о поддержке изображений в README не приведены. Модель предназначена для диалоговой генерации текста, рассуждений и выполнения инструкций. Заявлена поддержка английского, китайского, русского, испанского, французского, итальянского, японского, корейского и ряда других языков, включая немецкий, арабский, турецкий, польский, украинский, португальский и финский. Размер базовой модели — 27B параметров; используется формат MLX и 4-битная affine-квантизация с размером группы 64. Размер контекста в README не указан. К сильным сторонам относятся сниженный уровень встроенных ограничений, поддержка многоязычных сценариев и возможность запуска в экосистеме MLX при уменьшенных требованиях к памяти благодаря 4-битной квантизации. По умолчанию reasoning_effort установлен в low, чтобы избежать избыточного обдумывания. Для thinking mode рекомендованы temperature 1.0, top_p 0.95 и top_k 20, а для instruct или non-thinking mode — temperature 0.7, top_p 0.80 и top_k 20. Повышение presence_penalty может уменьшить бесконечные повторы, но иногда приводит к смешению языков и небольшому снижению качества. Лицензия — Apache-2.0.