II.3Рефакторинг, миграция и модернизация

NVIDIA-Nemotron-3-Ultra-550B-A55B-Base-BF16 — базовая большая языковая модель, разработанная NVIDIA Corporation и выпущенная в версии v1.0 GA. Она предназначена для разработчиков и исследователей, которые создают и адаптируют LLM. Модель предварительно обучена на данных по программированию, математике, науке и общим знаниям; заявлены 550 млрд параметров всего и 55 млрд активных параметров. Архитектура Nemotron Hybrid LatentMoE сочетает слои Mamba-2, MoE и выборочные слои Attention. Слои Multi-Token Prediction помогают ускорить генерацию, в том числе посредством speculative decoding. Метаданные указывают контекст до 262 144 токенов; в README заявлена поддержка до 1 млн токенов. Модель принимает и генерирует текст и поддерживает английский, французский, испанский, итальянский, немецкий, португальский, японский, корейский, хинди, арабский, китайский и иврит согласно тегам метаданных; README отдельно называет бразильский вариант португальского и не упоминает арабский и иврит. Модель заявлена для коммерческого и некоммерческого использования, однако в метаданных лицензия обозначена как «other», поэтому конкретные условия следует проверить на странице модели. Для запуска NVIDIA рекомендует GPU-ускоренные системы; README перечисляет интеграцию с NeMo и совместимое оборудование NVIDIA. Перед внедрением требуется проверка на данных конкретного сценария. (Размер файлов BF16 и практические требования к памяти в предоставленных данных не раскрыты.)

RedHatAI/OpenHermes-2.5-Mistral-7B-pruned50 — разреженная версия диалоговой модели OpenHermes-2.5-Mistral-7B, подготовленная Neural Magic для обслуживания через движок nm-vllm. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; заявленное окно контекста — 32 768 токенов. Она принимает текстовые запросы и генерирует текстовые ответы в диалоговом режиме. Модель подходит для локального запуска чат-ассистента, ответов на вопросы, генерации текста и помощи с кодом. Репозиторий содержит веса PyTorch, оптимизированные разреживанием для высокой пропускной способности и меньшего потребления памяти при инференсе через nm-vllm. Она унаследовала возможности базовой OpenHermes-2.5-Mistral-7B, но карточка не приводит отдельной оценки качества именно разреженной версии. Лицензия в предоставленных данных не указана.

Ornith-1.0-35B-GGUF-llamacpp-tp1 — это GGUF-версия языковой модели Ornith-1.0-35B, разработанной deepreinforce-ai, подготовленная для запуска через llama.cpp на одной GPU. Модель предназначена для генерации текста и кода, а также для сценариев локального сервинга с различными требованиями к скорости, объёму памяти и точности. В комплект входят варианты квантования Q3_K_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также вариант IQ4_XS-MTP с интегрированной головой multi-token prediction для ускорения спекулятивной генерации при низкой конкуренции. Размер исходной модели составляет 35B параметров. Доступны артефакты объёмом примерно от 15,61 до 34,37 GiB на диске, с требованиями к загруженной VRAM примерно от 17,27 до 34,77 GiB в зависимости от квантования. Вариант Q4_K_M позиционируется как сбалансированный по скорости и памяти, Q6_K и Q8_0 обеспечивают наиболее высокую точность, а Q3_K_M предназначен для минимального потребления памяти. Для MTP-варианта заявлено ускорение однопоточной генерации примерно в 1,3 раза; при этом длинные детерминированные последовательности не являются побитно идентичными режиму без MTP. Сильными сторонами являются широкий выбор квантований, высокая скорость инференса через llama.cpp и возможность локального запуска на одной GPU. Ограничениями выступают требование режима tp=1, отсутствие поддержки multi-GPU tensor parallel serving в этой версии и неизбежная потеря точности у более компактных квантований. Лицензия — MIT.

Ornith-1.5-35B-A3B-Uncensored-GGUF — производная модель, подготовленная 0xKitkat на основе Ornith-1.5-35B-A3B, Qwen3.6-35B-A3B и аблитерированной версии Qwen3.6-35B-A3B от wangzhang/Abliterix. Модель сохраняет постобучение Ornith для программирования и агентских сценариев, встроенную систему обработки изображений, конфигурацию контекста до 262K токенов и голову multi-token prediction (MTP). Она распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, включая текстовые и визуально-текстовые задачи. Модель имеет обозначение 35B-A3B и архитектурную специализацию MoE; точная структура активных параметров в README не раскрыта. Доступны варианты BF16, Q4_K_M и Q5_K_M, а для обработки изображений требуется отдельный vision projector. В README указана проверка на 20 промптах: эвристических отказов не выявлено, а четыре из четырёх тестов возможностей были пройдены, однако это локальная дымовая проверка, а не полноценное сравнение производительности. Основная особенность — намеренное снижение отказов от ответов с помощью переноса task vector от аблитерированной модели Qwen без замены специализированного постобучения Ornith. При этом «uncensored» не означает гарантированное выполнение любого запроса, а опубликованные бенчмарки исходной Ornith не заявлены как результаты для этой производной модели. Лицензия релиза — Apache-2.0; README также указывает исходные лицензии MIT для Ornith и Apache-2.0 для Qwen.

p-e-w/phi-4-heretic — текстовая генеративная модель на базе Microsoft Phi-4, изменённая методом abliteration для снижения частоты отказов. Это плотный декодерный Transformer с 14,1 млрд параметров и контекстом до 16 384 токенов; модель принимает текстовые запросы в формате чата и генерирует текст. В карточке указано, что доля отказов в приведённой проверке снизилась с 100 из 100 у исходной Phi-4 до 41 из 100, а KL-дивергенция составила 0,09. Модель подходит для диалоговых приложений, генерации текста, помощи с кодом и рассуждениями, преимущественно на английском языке. Метаданные указывают поддержку чата и кода; исходная Phi-4 рассчитана на сценарии с ограничениями по памяти, вычислениям и задержке. Снижение отказов не гарантирует точность или безопасность ответов, поэтому результаты следует оценивать применительно к конкретной задаче. Репозиторий распространяется под лицензией MIT.

Карточка модели agadelmoula-avey/Qwen3-4B-Base на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Base, поэтому описание составлено по ней. Qwen3-4B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на стадии предварительного обучения, предназначенная для дальнейшей адаптации и генерации текста. В карточке указаны 4,0 млрд параметров, 36 слоёв, групповое внимание с 32 головами Q и 8 головами KV и контекст до 32 768 токенов; метаданные каталога оценивают размер весов в 3,7 млрд параметров. Модель обучена на многоязычном корпусе; README сообщает о 119 языках в обучающих данных, но не перечисляет поддержку каждого из них. Среди заявленных направлений обучения — общие знания, программирование, STEM, рассуждения и понимание длинного контекста. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру Qwen3. Лицензия — Apache-2.0.

Qwen3.5-397B-A17B-VQ-2.4bpw — векторно-квантизированная версия модели Qwen3.5-397B-A17B, опубликованная TheDrainFlorist на базе исходной модели Qwen/Qwen3.5-397B-A17B. Модель предназначена для генерации текста, рассуждений, работы с кодом и, при использовании совместимого mlx-vlm, обработки изображений. Она ориентирована прежде всего на запуск на компьютерах Apple Silicon с unified memory, включая одну систему с 128 ГБ памяти. Модель использует формат MLX и квантизацию с эффективностью 2,4 бита на параметр; размер артефакта составляет около 110,8 GiB. По заявлению автора, она проверена с контекстом до 30 031 токена, потребляет около 110,8 GiB резидентной памяти и достигает примерно 19–22 токенов в секунду при декодировании на M4 Max. Для текстового режима требуется mlx-lm с поддержкой model_file, а для изображений — mlx-vlm версии 0.6.16 или новее. В метаданных указан английский язык. Сильные стороны модели — возможность локального запуска очень крупной Qwen-модели на одной 128-ГБ машине, отсутствие необходимости в патчах и сравнительно низкий размер благодаря векторной квантизации. В README приведены измеренные значения perplexity: 2,7655 на указанном корпусе Wikitext и 2,6383 на смешанном корпусе кода. Ограничения включают высокие требования к памяти, зависимость от совместимых версий MLX-инструментов и необходимость выделить почти весь доступный объём памяти; приведённые метрики нельзя напрямую переносить на другие корпуса и сценарии. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-DS-v4-Flash-v3.0 — экспериментальная плотная модель на 9 млрд параметров от prithivMLmods, дообученная на базе prithivMLmods/Q3.5-9B-DS-v4-Flash-v2.0, построенной на Qwen/Qwen3.5-9B. Модель использует архитектуру Qwen3.5ForConditionalGeneration и предназначена для диалогов с текстом и изображениями; основное обучение было направлено на рассуждения, математику, научный анализ, программирование и следование инструкциям. Автор описывает многоэтапное обучение примерно на 3,5 тыс. отфильтрованных примеров с трассами рассуждений DeepSeek V4 Flash и на дополнительных наборах данных. Модель подходит для экспериментов с многошаговыми и длинными рассуждениями, решения задач и локального запуска через Transformers. В карточке указан формат safetensors и лицензия Apache-2.0. Это экспериментальный выпуск: в сложных задачах возможны ошибочные промежуточные шаги и выводы, а поведение может отличаться от базовой модели. Качество зависит от охвата и особенностей обучающих данных.

Qwen3.8-Flash-Next-oQ5e-mtp — это 5-битная смешанная oQ5e-квантизация базовой модели Qwen/Qwen3.8-Flash-Next. Квантизация выполнена непосредственно из исходных BF16-весов с помощью oMLX 0.6.4; автор квантизации в README явно не указан. Модель предназначена для локальной генерации текста, рассуждений, решения задач с ограничениями, отладки Python-кода и других сценариев, где важны качество рассуждений и стабильность генерации. Сохранены компоненты MTP и vision, поэтому поддерживаются текстовые и визуальные входы базовой модели, однако точный набор языков и максимальная длина контекста в README не указаны. Номинальный размер группы квантования — 64, неквантизированный тип данных — BF16, размер модели — около 125,7 ГБ. Для работы рекомендована система Apple Silicon с 128 ГБ unified memory, включёнными SSD N-gram Offload и Lightning MTP; основное тестирование проводилось на MacBook Pro с Apple M5 Max. При активной генерации модель потребляла около 102 ГБ общей системной памяти, а требования к памяти увеличиваются с ростом контекста и KV-кэша. По данным автора, по сравнению с oQ4e модель обеспечивает более высокую устойчивость рассуждений и генерации на сложных задачах, сохраняя практичность для локального запуска. В отдельных тестах она корректнее решала задачи с ограничениями и полностью завершала длительные вычислительные сценарии, но не превосходит oQ4e во всех бенчмарках и может работать медленнее на некоторых нагрузках; в приведённом тесте отладки Python предложенная реализация содержала ошибку управления состоянием. Лицензия указана как qwen-community-1.0.

Sonclo/Qwen3.8-sonclo — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. В README также заявлена специализация на снижении избыточного рассуждения и расхода токенов при сохранении подробности ответов. Модель относится к семейству Qwen3.8 и имеет 27B параметров. Указаны три режима рассуждения, поддержка английского и китайского языков, а также варианты GGUF-квантизации с обычными и MTP-квантами, включая 4- и 8-битные версии. Обучение описано как multi-stage fine-tune и multi-stage merge с применением методов COLD FUSION, Fable Fusion и Unsloth. Репозиторий помечен как image-text-to-text, однако подробности о фактической поддержке изображений и максимальном размере контекста в README не приведены. К заявленным сильным сторонам относятся высокая скорость генерации, сокращение объёма рассуждений, развитые способности к программированию, решению задач и творческой генерации, а также возможность запуска на потребительском оборудовании благодаря GGUF-квантам. Ограничения включают отсутствие независимого подтверждения заявленных бенчмарков в представленном README, возможные риски и особенности uncensored/abliterated-настройки и неизвестные требования к аппаратным ресурсам для конкретных вариантов. Модель распространяется по лицензии Apache-2.0.

BennyDaBall/Qwen3.8-Uncensored-NVFP4-MTP — это квантизированная GGUF-версия модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленная BennyDaBall. Модель основана на 27B-сборке Qwen3.8 с удалёнными ограничениями фильтрации, предназначена для генерации текста и диалогов, а также поддерживает работу с изображениями и видеокадрами при подключении vision-проектора. Заявлены английский и китайский языки. Контекстное окно составляет 262 144 токена. Основная часть трансформера из 64 слоёв сжата в формат NVFP4, а lm_head, embeddings, MTP-голова и vision-проектор сохранены в BF16. Встроенная MTP-голова позволяет использовать speculative decoding без отдельной draft-модели, что может существенно ускорять генерацию, особенно на структурированных данных, коде и повторяющихся фрагментах. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell, включая RTX 5090, RTX 5080 и RTX PRO; для работы требуются свежие версии llama.cpp с поддержкой NVFP4 и архитектуры qwen35 либо LM Studio 2.29.1 и новее. Производительность и эффективность спекулятивного декодирования зависят от оборудования и характера запроса, а для мультимодального режима требуется около 1 ГиБ дополнительной видеопамяти на vision-проектор. Распространяется по лицензии Apache-2.0.

Qwen3-Zero-Coder-Reasoning-V2-0.8B-NEO-EX-GGUF — компактная кодовая и рассуждающая модель, разработанная DavidAU на платформе Qwen3. Это GGUF-сборка, созданная на основе объединения двух моделей размером 0,6B; заявлены 42 слоя и 464 тензора. Модель предназначена для генерации текста и кода, использует режимы reasoning и chat и ориентирована прежде всего на английский язык. Модель подходит для написания фрагментов и черновиков кода, мозгового штурма, решения технических задач, многоэтапного программирования и общего problem solving. Она рассчитана на контекст до 40 тысяч токенов; рекомендуется использовать контекст от 8–16 тысяч токенов. Автор заявляет высокую скорость работы — свыше 150 токенов в секунду на подходящем оборудовании и более 50 токенов в секунду на CPU, однако фактическая производительность зависит от аппаратной конфигурации и выбранного кванта. К сильным сторонам относятся небольшие требования к ресурсам, высокая скорость, возможность пошагового рассуждения и улучшенная стабильность по сравнению с первой версией. Доступны варианты с разными уровнями квантизации и модификациями NEO Imatrix; для отдельных сценариев автор рекомендует сравнивать несколько квантов, поскольку более низкие варианты иногда дают более короткие рассуждения и неожиданные рабочие решения, а более высокие могут обеспечивать лучшие результаты на сложных задачах. Ограничения включают возможные повторы кода, чрезмерно длинные блоки рассуждений и необходимость точных подробных инструкций; результаты могут зависеть от настроек sampling и выбранного кванта. Для работы требуется шаблон Jinja или CHATML. Модель распространяется по лицензии Apache-2.0.

Saily_220B — большая языковая модель команды deepnight-research, созданная на основе слияния нескольких дообученных моделей Llama 2 70B. В репозитории указана архитектура LlamaForCausalLM, плотная модель примерно на 208,2 млрд параметров с контекстом 4096 токенов; веса доступны в формате safetensors и предназначены для использования через Transformers. Модель генерирует текст и рассчитана на диалоговые сценарии с форматом запросов Alpaca, а также на задачи программирования, математики, логического рассуждения, физики, психологии и ролевого общения. При обучении использовались RefinedWeb, Pile, MetaMathQA, Unnatural Code и внутренние транскрибированные беседы с экспертами. README сообщает, что для запуска нужны несколько мощных GPU: авторы проверяли модель на 2 или 4 ускорителях A100 по 80 ГБ, причём на двух требовалась загрузка в 4-битном режиме. Лицензия репозитория — Llama 2. Модель может выдавать неверные или предвзятые ответы. Указанные в README конфигурационные данные названы авторами неточными.

Whittle-Next-27B-A3B-GGUF — это исследовательская GGUF-квантизация модели logic65/Whittle-Next-27B-A3B, разработанная David Aylward (logic65) совместно с Claude (Anthropic). Модель предназначена для запуска через llama.cpp и совместима с LM Studio, Jan, Ollama и llama-swap при наличии актуальной версии llama.cpp. Лицензия — Apache-2.0. Модель использует архитектуру Qwen4-Next в формате qwen4_exp и представляет собой смесь экспертов (MoE) с 27 млрд параметров всего и примерно 3 млрд активных параметров на токен. В ней применяются гиперсвязи остаточных потоков, хешированная n-gram-память объёмом 2 млрд строк, поуровневые эмбеддинги и дистилляция из Qwen3.8-27B. Поддерживаются текстовая генерация, диалоговые сценарии, рассуждения, математика и программирование; заявлены английский, китайский и многоязычный режимы. Доступны варианты квантизации от Q3_K_M до Q8_0 размером примерно от 13,3 до 29,3 ГБ. В README указано, что модель рассчитана на контекст до 16 384 токенов при рекомендованной настройке запуска. Сильными сторонами являются низкое число активных параметров, возможность запуска на стандартном llama.cpp без патчей, поддержка режима пошагового рассуждения и сравнительно высокая точность на математических задачах и проверке кода для исследовательского прототипа. Модель рекомендуется использовать с включённым thinking-режимом, сэмплированием и бюджетом не менее 4096 токенов для программирования. Это research preview, а не завершённая универсальная модель: ответы по коду могут быть длинными, производительность зависит от квантизации и размещения памяти, а при жадной генерации возможны зацикливания. Для полноценной оценки следует учитывать ограничения и измерения из базовой карточки модели.

35b-beta-long-GGUF — набор GGUF-квантизаций модели 35b-beta-long, опубликованный и квантованный bartowski на основе оригинальной модели CausalLM/35b-beta-long с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в локальных средах, включая диалоговые сценарии, следование инструкциям, математические задачи, программирование и работу с текстами на основе обучающих наборов Guanaco, MetaMathQA, WizardLM, ShareGPT, Wikipedia и других. Модель поддерживает текстовую модальность и заявленные языки английский, китайский, японский и немецкий. Размер исходной модели обозначен как 35B, однако размер контекста и точные архитектурные характеристики в README не указаны. Доступны варианты квантизации от IQ1 до Q8_0 с размером файлов примерно от 8,52 до 37,17 ГБ: более качественные варианты требуют больше памяти, а низкобитные экономят ресурсы за счёт снижения качества. Для Q6_K, Q5_K_M, Q5_K_S и ряда Q4-вариантов указано близкое к исходному качество или хороший компромисс между качеством и размером. Для работы требуется совместимое ПО, например llama.cpp, и достаточно оперативной или видеопамяти в зависимости от выбранной квантизации. Модель использует специальный chat prompt format с ролями system, user и assistant. Лицензия указана как GPL-3.0.

jondurbin подготовил эту плотную 65-миллиардную языковую модель на архитектуре LLaMA, дообучив её методом QLoRA на синтетических инструкциях, созданных GPT-4. Модель предназначена для диалоговой генерации текста и отвечает на запросы в формате, основанном на шаблоне Vicuna. Она рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и по заданному контексту, а также общие запросы. Для промптов на написание кода предусмотрена инструкция PLAINFORMAT, которая просит вывести код без Markdown-разметки; автор отмечает, что она срабатывает не всегда. Модель содержит 65 млрд параметров, работает с контекстом до 2048 токенов и распространяется в формате PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель может ошибаться, а следование формату PLAINFORMAT не гарантировано.

Dolphin 2.6 Phi-2 — разговорная языковая модель, созданная Eric Hartford и Fernando Fernandes при спонсорской поддержке Convai на базе Phi-2 от Microsoft. Это плотная авторегрессионная модель семейства Phi с архитектурой PhiForCausalLM, дообученная методом qLoRA на трёх эпохах. Она принимает текст и ведёт диалог в формате ChatML; заявленное окно контекста — 2048 токенов. Модель предназначена для общения с ассистентом и генерации текста, в том числе для задач, представленных в наборах данных Dolphin, Dolphin Coder, Airoboros, OpenHermes, Magicoder и Capybara. Авторы описывают модель как «uncensored»: обучающие данные были отфильтрованы для уменьшения alignment и bias, поэтому модель может охотно отвечать на вредоносные и неэтичные запросы. Перед предоставлением доступа пользователям авторы рекомендуют добавить собственный слой выравнивания и безопасности. Для загрузки модели требуется trust_remote_code. Лицензия — MIT; качество генерации не гарантировано.

Gemma 4 31B it qat JANG_4M CRACK — созданная dealignai модификация Google Gemma 4 31B Instruct для запуска в vMLX на компьютерах Mac с Apple Silicon. Это плотная мультимодальная модель класса Gemma4 с 60 слоями и гибридным скользящим и глобальным вниманием; она принимает текст и изображения, поддерживает диалог, ответы на вопросы, многошаговые рассуждения и генерацию кода. Квантизация JANG_4M использует 8-битную точность для attention и 4-битную для MLP. По заявлению авторов, модель сохраняет возможности зрения и связность ответов; в их тестах MMLU снизился на 1,8 процентного пункта относительно базовой модели. Авторы также сообщают о снятии отказов для широкого набора вредоносных запросов. Это существенно ограничивает безопасное применение модели: она может помогать с опасными действиями. Для запуска требуется vMLX с поддержкой Gemma 4 и Mac на Apple Silicon с достаточной общей памятью; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки Gemma 4. Лицензия — Gemma; авторы указывают исследовательское назначение и ответственность пользователей за соблюдение законов.

Pretergeek создал OpenChat-3.5-0106_9.86B_44Layers-Appended на основе диалоговой модели OpenChat 3.5 0106. Это плотная причинная языковая модель семейства Mistral с 9,7 млрд параметров, предназначенная для генерации текста и общения в формате чата. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Модель получена расширением исходной сети дополнительными слоями в конце: автор применил вариант метода расширения блоков, описанного в работе LLaMA Pro. По README, после такого расширения модель ещё не проходила дополнительное обучение и должна вести себя близко к исходной. Её можно использовать для диалога, ответов на общие вопросы, программирования и математических рассуждений, но ожидаемые улучшения от новых слоёв пока не подтверждены обучением. Модель распространяется по лицензии Apache-2.0. Результаты в таблице README включают средний показатель 22,55, IFEval — 59,61 и BBH — 24,06; полный контекст оценки в доступной карточке не приведён.

OpenChat 3.6 8B — это набор квантованных сборок модели openchat-3.6-8b-20240522 в формате GGUF с использованием imatrix. Модель разработана проектом OpenChat, а представленные квантования опубликованы пользователем или организацией duyntnet. Она предназначена для генерации текста, диалогов, программирования и решения общих задач. В README указана поддержка английского языка и текстовая модальность. Модель имеет размер около 8 миллиардов параметров. Для общения используется шаблон GPT4 Correct с маркером окончания генерации <|end_of_turn|>; также доступен встроенный chat_template. Формат GGUF и квантование ориентированы на запуск в совместимых локальных средствах инференса с потенциально сниженным потреблением памяти, однако конкретные варианты квантования и их характеристики в README не перечислены. Ограничения качества, размер контекста и дополнительные модальности не указаны. Лицензия обозначена как other, без уточнения условий использования.

Open-MOPD-SmolLM3-3B-MixSFT — языковая модель на архитектуре SmolLM3ForCausalLM, подготовленная командой Open-MOPD как начальный чекпойнт для последующего обучения специализированных RL-моделей и итоговой модели-дистиллята. Она создана дообучением HuggingFaceTB/SmolLM3-3B-Base на математических задачах, коде и данных для следования инструкциям; параметры обучения сбалансированы по числу токенов ответов. Модель содержит около 3,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое применение. Метаданные указывают контекст до 65 536 токенов; в описанном обучении и оценке использовалась максимальная длина последовательности 32 768 токенов. Карточка приводит результаты на математических, кодовых и инструкционных тестах, но не уточняет методику их интерпретации для практических сценариев. Указанный в метаданных язык — английский. Лицензия Apache-2.0.

OpenThinker2-32B — языковая модель с 32 млрд параметров, разработанная командой Open Thoughts и дообученная на Qwen/Qwen2.5-32B-Instruct с использованием набора OpenThoughts2-1M. Это плотная модель семейства Qwen2 для генерации текста в диалоговом формате; она рассчитана прежде всего на задачи рассуждения, особенно по математике и программированию. В оценках Evalchemy, приведённых в карточке, модель показывает результаты на задачах AIME24, AIME25, AMC23, MATH500, GPQA-D и LCBv2. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и поставляется в формате Safetensors для Transformers. Метаданные также указывают интерфейс вызова инструментов. Основной язык явно не обозначен; из карточки нельзя установить полный перечень поддерживаемых языков. Модель распространяется по лицензии Apache 2.0. Оценки в карточке получены с помощью Evalchemy и не гарантируют аналогичного качества на иных задачах.

Q3.5-9B-DS-v4-Flash-v2.0 — экспериментальная плотная мультимодальная модель на 9 млрд параметров, разработанная prithivMLmods на основе Qwen/Qwen3.5-9B. Её дообучили в несколько этапов на трассах рассуждений DeepSeek V4 Flash и других примерах для улучшения многошаговых рассуждений и следования инструкциям. Модель предназначена для математического и научного анализа, задач с длинным контекстом, помощи в программировании и оценки следования инструкциям. В метаданных заявлена поддержка обработки изображений и диалога; README описывает её как модель для локального запуска и исследований. Карточка указывает английский язык. Длина контекста не приведена. Это экспериментальный выпуск: модель может ошибаться в промежуточных рассуждениях и выводах, а результаты зависят от охвата обучающих данных. Распространяется по лицензии Apache-2.0.

Qwen2-2B-Dolphin-Hercules — объединённая модель генерации текста на архитектуре Qwen2, созданная сообществом mergekit из M4-ai/Hercules-5.0-Qwen2-1.5B и cognitivecomputations/dolphin-2.9.3-qwen2-1.5b. Модель содержит 1,9 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации ответов на запросы. Базовые модели описаны как англоязычные модели общего назначения; их сценарии включают ответы на вопросы, математику, программирование и письмо. Репозиторий содержит веса Safetensors для Transformers. В README указано слияние методом passthrough с типом данных bfloat16. Лицензия в предоставленных данных не указана.

khazarai разработала экспериментальную языковую модель Qwen3-4B-Qwen3.6-plus-Reasoning-Slerp с плотной архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Это слияние методом SLERP двух моделей на базе Qwen3-4B: khazarai/Qwen3-4B-Kimi2.5-Reasoning-Distilled и khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель принимает текст и генерирует текст; заявленная длина контекста — 262 144 токена. В карточке указаны английский язык, поддержка чата и интерфейс вызова инструментов. Модель предназначена для сложных логических выводов, математических задач, отладки кода на Python и ответов в сценариях RAG. Автор описывает настройку слияния, которая сохраняет словарь Qwen и плавно смешивает веса слоёв внимания и MLP. README приводит результат 77,18 на авторском бенчмарке из 100 вопросов, однако методика и независимое подтверждение результата не представлены. Автор также отмечает ожидаемое снижение качества творческого письма и не рекомендует модель для стихов и образного повествования. Лицензия — Apache-2.0.

Jackrong/Qwen3.5-4B-Neo-GGUF — reasoning-ориентированная дообученная версия Qwen3.5-4B, разработанная Jackrong с использованием Unsloth, SFT и LoRA. Модель обучалась на данных Step-3.5-Flash-SFT и специализированной смеси наборов для рассуждений, программирования и следования инструкциям. Заявленные языки — английский, китайский и корейский; лицензия — Apache-2.0. Формат GGUF предназначен для локального и офлайн-запуска, однако конкретный размер файла и требования к памяти в README не указаны. Модель рассчитана на аналитические задачи, программирование, соревновательное программирование на Python, математику и задачи, требующие последовательного логического рассуждения. Она обучена формировать рассуждения в тегах <think>...</think> перед итоговым ответом. По заявленным результатам на сбалансированной выборке из 250 вопросов MMLU-Pro модель получила 82,00% pass@1 против 80,40% у базовой версии, одновременно сократив среднюю длину цепочки рассуждений с 6962 до 3955 символов, а медианную — с 4600 до 1951 символа. Сильной стороной модели является сочетание конкурентной точности и более компактного стиля рассуждений, что может снизить расход токенов в задачах с интенсивным анализом. Ограничения включают риск галлюцинаций, возможные усечения при чрезмерно сложных задачах и отставание от базовой модели в категории физики. Приведённые показатели получены на подвыборке MMLU-Pro и не обязательно отражают результаты на полном тесте. Модель позиционируется как тестовая версия для обучения, демонстраций, академических исследований и технических экспериментов.

mradermacher/Qwen3.5-9B-Brainwaves-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе nightmedia/Qwen3.5-9B-Brainwaves. Это модель примерно на 9 млрд параметров; в README она также обозначена как vision model, однако подробности о визуальной архитектуре и поддерживаемых типах входных данных не приведены. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, математических и STEM-задач, исследовательских сценариев, а также творческого письма и ролевого взаимодействия. Заявлена поддержка английского, китайского, японского и испанского языков. Репозиторий содержит варианты квантования i1 от Q2_K до Q6_K и IQ-квантов, что позволяет выбирать между размером файлов, скоростью и качеством; рекомендуемым вариантом назван i1-Q4_K_M. К сильным сторонам относятся разнообразие доступных квантов и возможность запуска через совместимое с GGUF программное обеспечение. Ограничения — отсутствие в README подробных сведений об архитектуре, точном размере контекста, результатах тестирования и фактических возможностях vision-компонента; квантование может снижать качество по сравнению с исходной моделью. Указанная лицензия — Apache-2.0.

HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Balanced — это модифицированная и квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная HauhauCS. Модель распространяется в формате GGUF и ориентирована на мультимодальные сценарии image-text-to-text, включая работу с изображениями и текстом. Заявлена поддержка английского, китайского и других языков. По данным карточки, модель имеет 27 миллиардов плотных параметров; дополнительные сведения о полной архитектуре и размере контекстного окна не указаны. Основное отличие версии Balanced — удаление отказов при сохранении исходных датасетов и возможностей базовой модели. Она предназначена для агентного программирования, использования инструментов, рассуждений, творческого письма и ролевых сценариев. По заявлению автора, модель может подробно рассуждать перед ответом, иногда добавляя краткое предупреждение или контекст безопасности, после чего предоставляет полный ответ. Также заявлена повышенная стабильность генерации в длительных цепочках вызовов инструментов. Эти характеристики основаны на описании автора и приведённом внутреннем тесте с 0 отказов из 465 запросов, поэтому их следует интерпретировать как заявленные, а не независимые результаты. Доступны различные варианты квантования GGUF, включая пользовательские K_P-кванты, оптимизированные с помощью importance matrix; размеры файлов составляют примерно от 10 до 32 ГБ, а для мультимодальности предоставляется отдельный mmproj-файл. Модель совместима с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Рекомендуемый автором вариант Q4_K_P требует около 18 ГБ, а Q8_K_P — около 32 ГБ. Отсутствие встроенных ограничений может быть преимуществом для исследовательских, программных и творческих задач, но одновременно повышает риск небезопасных или нежелательных ответов, поэтому требуется контроль применения. Лицензия — Apache-2.0.

Qwen3.8-27B-OBLITERATED-AWQ-W4A16 — это 4-битная AWQ-квантизованная версия модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, опубликованная пользователем MurtazaNasir. Модель предназначена для генерации текста, программного кода, агентных сценариев и исследований AI safety и red teaming, включая запросы, на которые модели с обычными защитными настройками могут отказываться отвечать. В основе используется гибридная архитектура Qwen3.8-27B с 64 слоями: 48 слоёв линейного внимания gated-DeltaNet и 16 слоёв полноценного внимания, а также vision tower и MTP-head. Квантизация выполнена в формате AWQ W4A16_ASYM с размером группы 128; часть компонентов сохранена в bf16. Размер репозитория около 19,55 ГБ. Для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallel либо одна карта на 24 ГБ при небольшом контексте. Модель поддерживает текстовые и визуальные компоненты исходной архитектуры, но точные языки и максимальный размер контекста в предоставленных данных не указаны. Сильными сторонами заявлены близкая к исходной производительность, отсутствие жёстких отказов, совместимость с режимом thinking и хорошие результаты в генерации кода. Ограничения включают возможное снижение качества относительно базовой модели: в README указано падение MMLU на 2,1 процентного пункта. Для стабильной работы рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов. Стандартный шаблон чата поддерживает вызов инструментов, тогда как исходный шаблон их определения и роль tool игнорирует; также системные промпты могут повторно вызвать отказы. Модель распространяется по лицензии Apache-2.0.

6block/Qwen3-8B-GGUF — набор GGUF-квантизаций базовой модели Qwen3-8B, разработанной командой Qwen и подготовленной пользователем 6block с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых приложений, работы с английским и китайским языками, а также задач программирования. Квантизации можно запускать локально через llama.cpp, LM Studio, Ollama и совместимые проекты. В набор входят варианты Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, IQ3_M и Q2_K размером примерно от 3,28 до 8,71 ГБ. При создании использовалась importance matrix (imatrix) и двуязычный, ориентированный на код набор калибровочных данных, что должно помогать сохранять качество китайского языка и программирования при низкой разрядности. В README не указаны архитектурные детали исходной Qwen3-8B, размер контекста и точный перечень поддерживаемых возможностей, поэтому эти характеристики нельзя достоверно описать. Основные преимущества — возможность локального запуска, несколько вариантов компромисса между качеством, скоростью и требованиями к памяти, а также публикация файла imatrix для воспроизводимости квантизации. Более низкие квантизации экономят память, но могут заметнее уступать по качеству; I-квантизации ориентированы на лучшую эффективность при малом размере, однако на CPU могут работать медленнее K-квантизаций. Набор распространяется по лицензии Apache-2.0.