II.3Рефакторинг, миграция и модернизация

Phi-3.5-mini-instruct — компактная языковая модель Microsoft из семейства Phi-3 для генерации текста и диалогов. Это плотная авторегрессионная модель на 3,7 млрд параметров, доступная в формате Safetensors и предназначенная для запуска в условиях ограниченных вычислительных ресурсов и низкой задержки. В README также описаны варианты с контекстом до 128 тыс. токенов; метаданные этой карточки указывают нативный контекст 4096 токенов, поэтому заявленную длину контекста для данного репозитория следует сверять с используемой конфигурацией. Модель дообучена следованием инструкциям и рассчитана на многоязычные диалоги, рассуждения, задачи по математике и логике, а также помощь с кодом. Её можно использовать как основу генеративных функций, для ответов на вопросы по длинным документам и их суммаризации. В карточке отмечены улучшения качества многоязычных многоходовых диалогов и рассуждений относительно Phi-3 Mini Instruct. Лицензия — MIT. Как и другие языковые модели, она может ошибаться и не оценивалась для всех возможных сценариев; перед применением в ответственных областях требуется проверка качества и безопасности. README также отмечает возможную уязвимость к длительным многоходовым jailbreak-атакам, в том числе на разных языках.

NVIDIA подготовила FP8-квантизированную версию языковой модели Qwen3-235B-A22B, разработанной Alibaba. Это авторегрессионная разреженная трансформерная модель архитектуры Qwen3 MoE для генерации текста; в репозитории указано 18,2 млрд параметров, а базовая модель описана как крупная MoE-модель для диалогов, рассуждений, программирования, перевода и работы с инструментами. Модель принимает текст и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. В метаданных указан контекст 40 960 токенов; README заявляет до 131 тыс. токенов. Модель предназначена для развёртывания в агентных системах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Квантизация весов и активаций линейных операторов в блоках трансформера до FP8 снижает требования к диску и памяти GPU примерно в 1,6 раза относительно 16-битного представления. Для запуска README указывает TensorRT-LLM, Linux и графические процессоры NVIDIA Blackwell. README разрешает коммерческое и некоммерческое использование; лицензия в метаданных — Apache-2.0.

Карточка модели CookieXG/Qwen3-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-4B, поэтому описание составлено по ней. Qwen3-4B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалогов, следования инструкциям, рассуждений, генерации кода, творческого письма, многоязычных задач и работы с инструментами. В модели около 3,7 млрд параметров по метаданным; она использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов по метаданным. README описывает переключение между режимами рассуждения и обычного диалога, а также поддержку более 100 языков и диалектов. Модель обучена на базе Qwen/Qwen3-4B-Base и распространяется в формате safetensors для библиотеки Transformers. Лицензия — Apache 2.0. Карточка предупреждает о возможных бесконечных повторах при генерации и рекомендует настраивать параметры сэмплирования.

Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, представленная в репозитории Unsloth как вариант исходной Qwen/Qwen3-4B-Instruct-2507. Она предназначена для диалогов и следования инструкциям, рассуждений, понимания текста, математики, естественных наук, программирования и использования инструментов. Модель работает только в режиме без явного пошагового рассуждения и поддерживает вызов инструментов через соответствующий интерфейс. В модели около 3,7 млрд параметров; архитектура — Qwen3ForCausalLM, формат весов — safetensors. Нативная длина контекста составляет 262 144 токена. Карточка заявляет улучшенные многоязычные возможности, но не перечисляет конкретные языки. Модель выпущена под лицензией Apache-2.0. Веса доступны для применения в задачах генерации текста и построения диалоговых и агентных систем.

warshanks/Qwen3-4B-Instruct-2507-AWQ — квантованная версия Qwen3-4B-Instruct-2507, разработанной командой Qwen и опубликованной пользователем warshanks. Это авторегрессионная causal language model для генерации текста в диалогах, выполнения инструкций, рассуждений, математики, научных и программных задач, понимания текста, вызова инструментов и агентских сценариев. Модель работает только в non-thinking режиме и не формирует блоки <think></think>. Модель содержит около 4 млрд параметров, из них 3,6 млрд без учёта эмбеддингов, имеет 36 слоёв и архитектуру Grouped-Query Attention с 32 головами для запросов и 8 для ключей и значений. Нативная длина контекста составляет 262 144 токена. Заявлены улучшения в многоязычном понимании, покрытии редких знаний, следовании инструкциям, открытой генерации и использовании инструментов. Это текстовая модель без заявленной поддержки изображений или других модальностей; конкретный набор языков в README не указан. Сильные стороны модели — большой контекст, улучшенные показатели в рассуждениях, кодировании, следовании инструкциям, творческом письме, многоязычных задачах и вызове инструментов при сравнительно небольшом размере. Ограничения включают работу только в non-thinking режиме, возможные требования к памяти при использовании длинного контекста и отсутствие в README подробных характеристик самой AWQ-квантизации, точных требований к оборудованию и результатов для всех практических сценариев. Модель распространяется по лицензии Apache-2.0.

prithivMLmods/Qwen3.5-9B-MTP-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-9B, разработанной командой Alibaba Qwen и основанной на Qwen/Qwen3.5-9B. Модель содержит около 9 млрд параметров, использует гибридную архитектуру Gated DeltaNet и Gated Attention, поддерживает контекст до 262 тысяч токенов с возможностью расширения свыше 1 млн токенов посредством RoPE scaling и словарь размером 248 тысяч токенов. Заявлена поддержка 201 языка и раннее объединение текстовых, графических и видеоданных для единого мультимодального понимания. Модель предназначена для генерации текста, мультимодального диалога, анализа изображений и видео, OCR, ответов на вопросы по визуальному содержимому, разбора документов и PDF, разработки программного обеспечения, frontend-разработки, многоязычных чат-ботов и агентских сценариев с вызовом инструментов. Она поддерживает переключаемый режим рассуждений и Multi-Token Prediction (MTP): дополнительные выходные головы прогнозируют несколько будущих токенов за один проход, что может ускорять инференс и спекулятивное декодирование без отдельной draft-модели. Доступны варианты от BF16/F16 до квантований Q2_K–Q8_0, а также отдельные мультимодальные проекционные файлы. Сильными сторонами заявлены большой контекст, мультимодальность, широкий языковой охват, поддержка tool calling и возможность локального запуска через llama.cpp и Ollama, а также развёртывания через vLLM и SGLang. Для BF16 требуется около 18 ГБ видеопамяти, для 4-битных вариантов — около 5 ГБ; качество и требования к ресурсам зависят от выбранного квантования. README не приводит подробностей об ограничениях, систематических рисках или фактической совместимости всех вариантов с указанными средами. Модель распространяется по лицензии Apache 2.0.

palmfuture/Qwen3.6-35B-A3B-GPTQ-Int4 — GPTQ-квантизированная версия модели Qwen3.6-35B-A3B, разработанная сообществом palmfuture на базе модели Qwen. Это мультимодальная модель для работы с текстом и изображениями, поддерживающая задачи генерации текста, следования инструкциям, программирования, математических рассуждений, агентских сценариев и обработки визуально-текстовых запросов. Заявлены языки English, Thai, Chinese и multilingual. Модель использует MoE-архитектуру Qwen3_5MoeForConditionalGeneration с 35 млрд параметров в общей сложности и примерно 3 млрд активных параметров на токен. В ней 256 экспертов, из которых для каждого токена выбираются 8, и 40 скрытых слоёв. Контекстное окно составляет 262 144 токена. Квантизация выполнена в формате GPTQ v2, 4-bit, с group_size=128 и симметричным представлением; размер модели вместе с MTP-весами — около 24,4 ГБ. Веса MTP (Multi-Token Prediction) сохранены в BF16 и поддерживают speculative decoding в vLLM и SGLang. К сильным сторонам относятся существенно уменьшенный размер по сравнению с полноформатной моделью, сохранение заявленного качества на уровне около 97,9% от BF16-версии по perplexity на wikitext-2-raw-v1, поддержка мультимодальности, длинного контекста и ускоренного декодирования. Ограничения связаны с требованиями к ресурсам: для рекомендованных конфигураций требуется несколько GPU, а совместимость и параметры запуска зависят от версий vLLM, SGLang и Transformers. Квантизация может приводить к некоторой потере качества, а для архитектуры требуется trust_remote_code. Модель распространяется по лицензии Apache-2.0.

Umranz/Qwen3.8-27B-heretic — версия Qwen3.8-27B с ослабленным отказом от ответов, созданная с помощью Heretic v1.4.0. Это плотная мультимодальная модель типа причинной языковой модели с визуальным энкодером, содержащая 27 млрд параметров и совместимая с Transformers, vLLM и SGLang. Модель предназначена для диалогов и многошаговых задач с текстом, изображениями и видео: анализа документов и диаграмм, программирования, исследований и агентных сценариев. Поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 млн токенов. Модель унаследовала архитектуру Qwen3.5; README приводит параметры абляции и сравнение с исходной моделью, но не описывает отдельные языки. По сравнению с исходной Qwen3.8-27B модель сильнее отклоняется от её поведения: в README указаны оценка Keywords 59/100 против 94/100 и KL divergence 0,0101. Это может быть важно при выборе версии с меньшим числом отказов, но само по себе не гарантирует качество или безопасность ответов. Лицензия — Apache-2.0.

Карточка модели Riyan200324200324/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

unsloth/Qwen3-8B-GGUF — версия языковой модели Qwen3-8B, подготовленная Unsloth в формате GGUF на базе Qwen/Qwen3-8B. Qwen разработана Alibaba Cloud. Модель предназначена для диалоговых приложений, следования инструкциям, генерации текста и кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Это каузальная языковая модель с 8,2 млрд параметров, из которых 6,95 млрд приходятся не на embedding-слои. Архитектура включает 36 слоёв и Grouped-Query Attention с 32 головами для Q и 8 для KV. Поддерживаются режимы «мышления» и «без мышления», между которыми можно переключаться в запросах. Нативная длина контекста составляет 32 768 токенов, а с YaRN — до 131 072 токенов. Заявлена поддержка более 100 языков и диалектов; в метаданных README отдельно указан английский язык. Сильными сторонами являются рассуждение, следование инструкциям, многоязычность, генерация кода и поддержка агентских задач, а также возможность выбирать между качеством рассуждения и скоростью ответа. Ограничения включают отсутствие в предоставленных данных подробностей о фактической производительности, требованиях к оборудованию и поддерживаемых инструментах запуска. Модель распространяется по лицензии Apache-2.0.

Карточка модели jed351/qwen3-8B-SFT-DPO на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Qwen-SEA-LION-v4.5-27B-IT-FP8-Dynamic — динамически квантованная версия модели Qwen-SEA-LION-v4.5-27B-IT. Базовая модель разработана AI Products Pillar организации AI Singapore, а квантование выполнил toeniant с использованием llmcompressor и схемы FP8_DYNAMIC. Модель предназначена для мультиязычного понимания и генерации текста, рассуждений, программирования, агентских сценариев, работы с репозиториями и визуально-текстовых задач. Модель содержит около 27 млрд параметров и построена на плотной архитектуре Qwen3.6-27B с гибридным дизайном Linear Attention и Full Attention. Она оснащена vision encoder и поддерживает единое мультимодальное взаимодействие с текстом и изображениями. Контекстное окно составляет 262 тысячи токенов. Поддерживаются английский, бирманский, индонезийский, филиппинский, малайский, тамильский, тайский и вьетнамский языки. Квантирование per-tensor dynamic FP8 в формате w8a8 уменьшает размер примерно с 54,5 до 29,5 ГБ, при этом, согласно README, практически не снижает точность относительно BF16; для инференса рекомендуется vLLM версии 0.7 или выше с включённым FP8. К сильным сторонам относятся большой контекст, мультиязычная и мультимодальная обработка, настраиваемые режимы рассуждения и высокая эффективность по памяти благодаря FP8. Ограничения включают отсутствие специального safety-alignment, риск галлюцинаций и нерелевантных ответов; результаты необходимо проверять, а безопасность дополнительно настраивать самостоятельно. Модель распространяется по лицензии MIT.

BTL-4 Compact — текстовая GGUF-версия модели BTL-4 от Bad Theory Labs, распространяемая для запуска в llama.cpp, Ollama и LM Studio. Это квантованная модель класса Mixture of Experts, предназначенная для генерации текста, программирования, работы с технической документацией, агентных сценариев и использования инструментов. Модель поставляется одним файлом размером 9,96 ГБ и не требует загрузки или восстановления базовой модели. Модель содержит 35,1 млрд параметров, из которых около 2,1 млрд активны для каждого токена. Архитектура включает 40 слоёв: 30 слоёв с линейным вниманием и 10 слоёв с полным вниманием; в каждом слое 256 экспертов, из которых для токена выбираются 8. Нативный контекст составляет 262 144 токена. Сборка является текстовой: vision tower исключён. Слой multi-token prediction отключён, но это не мешает обычной работе модели. Главное преимущество BTL-4 Compact — сочетание большого общего числа параметров с относительно низкими вычислительными затратами и возможностью запуска на пользовательском оборудовании. Квантование выполнено с эффективностью 2,30 бита на вес; заявленное сохранение измеренного поведения полной модели составляет 94,1% на тесте из 118 заданий. Ограничения включают потерю качества из-за сильного квантования, отсутствие обработки изображений и чувствительность агентных сценариев к настройкам шаблона чата и формата рассуждений. Для корректной работы требуется версия llama.cpp с поддержкой qwen3_5_moe и определённые параметры запуска. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Falcon-H1-34B-Instruct-GGUF — квантизированное в формате GGUF представление инструкционной языковой модели Falcon-H1-34B-Instruct, разработанной Technology Innovation Institute (TII). Это каузальная decoder-only модель с гибридной архитектурой, объединяющей Transformer attention и State Space Models на основе Mamba, что ориентировано на эффективную обработку длинного контекста и снижение вычислительных затрат. Вариант предназначен для запуска через совместимые инструменты, включая custom fork llama.cpp; семейство также поддерживается Transformers и vLLM. Модель рассчитана на генерацию текста, следование инструкциям, рассуждения, математические и научные задачи, программирование и многоязычное взаимодействие. Семейство Falcon-H1 поддерживает до 256K токенов контекста и 18 языков, включая русский, английский, арабский, китайский, японский, корейский, немецкий, французский, испанский, итальянский, португальский, польский, нидерландский, чешский, румынский, шведский, хинди и урду. Размер исходной модели — 34 млрд параметров; конкретные параметры квантизации данного GGUF-файла в README не указаны. К сильным сторонам относятся гибридная архитектура, эффективность по отношению к размеру, работа с длинным контекстом и высокие результаты в ряде общих, научных, математических и инструкционных тестов. Ограничения включают высокие требования к ресурсам по сравнению с небольшими моделями, возможные потери качества из-за квантизации и отсутствие в README подробностей о точном формате и уровне квантизации конкретного файла. Модель распространяется по лицензии Falcon-LLM License; условия доступны по ссылке, указанной разработчиком.

Карточка модели ApocalypseParty/G4-31B-SFT-v6-1 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

unsloth/gemma-4-12b — мультимодальная версия Gemma 4 12B, подготовленная Unsloth на базе google/gemma-4-12B. Это плотная модель семейства Gemma 4 с архитектурой Gemma4UnifiedForConditionalGeneration, предназначенная для обработки изображений и текста и генерации текстовых ответов. В карточке указаны гибридное внимание с локальными скользящими окнами и глобальными слоями, поддержка контекста до 256K токенов для Gemma 4 12B, а также возможности понимания изображений и видео, распознавания текста на изображениях, работы с кодом и вызова инструментов. Модель подходит для диалогов, анализа документов и графиков, распознавания объектов, чтения экранов интерфейсов, генерации и исправления кода, а также для агентных сценариев со структурированным вызовом инструментов. Семейство Gemma 4 поддерживает более 35 языков «из коробки»; README также указывает аудиовозможности для 12B, включая распознавание речи и перевод речи в текст. Формат файлов этого репозитория — safetensors. Лицензия — Apache-2.0. Качество ответов зависит от формулировки запроса и охвата обучающих данных; модель может ошибаться в фактах, испытывать трудности с тонкими языковыми нюансами и сложными открытыми задачами, а также воспроизводить смещения данных. README описывает возможности семейства Gemma 4 в целом, поэтому отдельные заявления о сценариях следует сверять с поведением именно этого чекпойнта.

ente-ai/gemma-4-E4B-it-GGUF — квантизированная в формате GGUF instruction-tuned версия модели Gemma 4 E4B, разработанной Google DeepMind и опубликованной в виде сборки Unsloth. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для локального запуска, в том числе на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и совместимых инструментах. Модель поддерживает обработку текста, изображений и аудио с генерацией текста, ориентирована на рассуждения, генерацию текста, программирование, мультимодальный анализ, агентские сценарии и вызов функций. Для E4B указаны около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом эмбеддингов, 42 слоя, размер контекстного окна до 128K токенов и локальное окно внимания 512 токенов. Архитектура Gemma 4 использует гибридное внимание с чередованием локального sliding window attention и глобального внимания; заявлена поддержка более 140 языков, настраиваемых режимов рассуждения и системных промптов. К сильным сторонам относятся мультимодальность, большое контекстное окно, поддержка native function calling, возможности для кодирования и эффективного локального развертывания благодаря 4-битному GGUF-представлению. Ограничения включают зависимость качества и скорости от выбранного квантизированного варианта и аппаратного обеспечения; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Apache 2.0, при этом для Gemma 4 также следует учитывать условия лицензии Google, доступные по указанной ссылке.

openai/gpt-oss-20b — открытая по весам языковая модель, разработанная OpenAI для задач рассуждения, агентных сценариев и универсального использования разработчиками. Она предназначена для локального запуска, специализированных решений и приложений, где важны сниженная задержка и умеренные требования к ресурсам, включая генерацию текста, вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture of Experts (MoE) и содержит 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Она поддерживает настраиваемый уровень рассуждений — низкий, средний или высокий — и обучена работать с форматом ответов harmony, использование которого обязательно для корректной работы. Модель доступна для запуска через Transformers, vLLM, PyTorch/Triton, Ollama и LM Studio; благодаря квантованию весов MoE в формате MXFP4 она может работать примерно в пределах 16 ГБ памяти. К сильным сторонам относятся открытая настройка, возможность дообучения, агентные инструменты и гибкое управление балансом качества рассуждений и задержки. При этом модель является текстовой, а README не содержит сведений о поддерживаемых языках, размере контекстного окна, результатах оценивания и ограничениях качества. Полная цепочка рассуждений доступна разработчику для отладки и повышения доверия, но не предназначена для показа конечным пользователям. Лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развертывание.

unsloth/gpt-oss-20b-GGUF — GGUF-версия открытой весовой модели gpt-oss-20b, разработанной OpenAI и подготовленной к распространению командой Unsloth. Модель предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и локального или специализированного использования с пониженной задержкой. Это MoE-модель примерно на 21 млрд параметров, из которых при обработке активны около 3,6 млрд. Она поддерживает настраиваемый уровень рассуждений — low, medium или high — и возможности function calling, веб-браузинга, выполнения Python-кода и Structured Outputs. Модель обучена работать в формате harmony, который необходимо использовать для корректной работы. GGUF-вариант рассчитан на запуск через совместимые инструменты, а нативная MXFP4-квантизация позволяет разместить модель примерно в 16 ГБ памяти; конкретные характеристики зависят от варианта квантизации. Сильные стороны модели — открытые веса, возможность тонкой настройки, агентские функции, гибкое соотношение качества и задержки, а также удобство локального запуска. Ограничения включают обязательное использование harmony-формата и необходимость самостоятельно оценивать качество, безопасность и пригодность результатов для конкретного применения. Указанная лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развертывание без copyleft-ограничений.

Granite-4.2-3B (NVFP4) — компактная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это NVFP4-квантизованная версия Granite-4.2-3B, предназначенная для генерации текста, диалога, рассуждений, написания кода, вызова инструментов и агентных рабочих процессов. Модель построена как плотный decoder-only Transformer с архитектурой GraniteForCausalLM и содержит около 3 млрд параметров. Она поддерживает встроенный режим рассуждений с тегами <think>...</think>, а также режимы полного, отключённого и облегчённого рассуждения. Архитектура использует Grouped Query Attention, 40 attention heads, 8 KV heads, RoPE, SwiGLU и RMSNorm. Нативная длина контекста составляет 128K токенов, заявлено расширение до 512K. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель работает с текстом; мультимодальность не заявлена. Сильные стороны модели — небольшие размеры, поддержка длинного контекста, reasoning, генерации кода, tool calling и многоязычного диалога, что упрощает локальное и ресурсно-ограниченное развертывание. Ограничения включают более слабую и вариативную производительность на языках, отличных от английского, а также возможность неточных, предвзятых или небезопасных ответов; результаты NVFP4-квантизации могут отличаться от полноточной версии. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и исследовательское использование.

NVIDIA-Nemotron-3-Nano-30B-A3B-NVFP4 — большая языковая модель, разработанная NVIDIA Corporation и представленная в квантованном формате NVFP4. Она предназначена для генерации текста, решения задач с рассуждением и без него, программирования, математических и научных задач, а также создания специализированных AI-агентов. Модель может сначала формировать рассуждение, а затем итоговый ответ; этот режим настраивается через флаг в chat template. Отключение промежуточных рассуждений уменьшает задержку, но может немного снизить точность на сложных запросах. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE, 6 attention-слоёв, по 128 экспертов и одному общему эксперту в каждом MoE-слое, при этом на каждый токен активируются 6 экспертов. Всего модель содержит 30 млрд параметров, из которых активно около 3,5 млрд, что повышает эффективность инференса. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. Размер контекста в предоставленных данных не указан. Сильными сторонами модели являются сочетание reasoning и обычной генерации, высокая вычислительная эффективность за счёт разреженной активации экспертов и пригодность для коммерческих сценариев. NVFP4-квантизация может снизить требования к памяти по сравнению с полноформатными вариантами, однако в приведённых оценках она уступает BF16-версии на ряде задач. Модель обучалась на данных с отсечками июня 2025 года для предобучения и ноября 2025 года для post-training, поэтому её знания могут быть неполными или устаревшими. Использование регулируется NVIDIA Nemotron Open Model License.

Карточка модели davidnichols-ops/NVIDIA-Nemotron-Nano-9B-v2-fork на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-Nano-9B-v2, поэтому описание составлено по ней. NVIDIA Nemotron Nano 9B v2 — языковая модель NVIDIA для диалога, следования инструкциям и задач с рассуждением. В карточке она описана как обученная с нуля; метаданные каталога указывают связь merge с NVIDIA-Nemotron-Nano-12B-v2 и NVIDIA-Nemotron-Nano-12B-v2-Base, поэтому происхождение модели отмечено как слияние. Архитектура Nemotron-Hybrid сочетает преимущественно слои Mamba-2 и MLP с четырьмя слоями Attention. Метаданные указывают 15,1 млрд параметров, контекст до 131 072 токенов и формат safetensors. Модель принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Она рассчитана на ответы на вопросы, программирование, RAG-системы, чат-боты и агентные приложения. Режим рассуждения можно управлять системной инструкцией или бюджетом токенов; разрешение промежуточного рассуждения обычно повышает качество сложных ответов, но увеличивает расход токенов. В README перечислены английский, немецкий, испанский, французский, итальянский и японский; также для входа указаны корейский, португальский, русский и китайский. Лицензия в метаданных обозначена как other, а README заявляет готовность к коммерческому использованию.

unsloth/Qwen3-4B-Instruct-2507-unsloth-bnb-4bit — 4-битная версия модели Qwen3-4B-Instruct-2507, подготовленная Unsloth на основе модели Qwen/Qwen3-4B-Instruct-2507, разработанной командой Qwen. Это авторегрессионная causal language model для генерации текста и диалоговых сценариев. Модель предназначена для следования инструкциям, ответов на вопросы, логического рассуждения, понимания текста, математики, науки, программирования, использования инструментов и генерации творческих текстов. Она поддерживает несколько языков и рассчитана на работу с длинным контекстом до 262 144 токенов. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. Архитектура включает 4,0 млрд параметров, из которых 3,6 млрд не являются embedding-параметрами, 36 слоёв и Grouped-Query Attention с 32 головами Q и 8 головами KV. Квантование до 4 бит снижает требования к памяти и может упростить локальное развёртывание, однако потенциально сопровождается потерей точности по сравнению с полноразмерной версией. В README заявлены улучшения в знаниях, рассуждении, кодировании, агентских задачах, многоязычности и соответствии пользовательским предпочтениям, но конкретная производительность зависит от сценария и среды запуска. Лицензия — Apache-2.0.

NVIDIA Qwen3.6-27B-NVFP4 — квантизированная версия авторегрессионной модели Qwen3.6-27B, разработанной Alibaba и оптимизированной NVIDIA с помощью Model Optimizer. Модель использует архитектуру Transformers с гибридным механизмом внимания Gated DeltaNet и Gated Attention и содержит около 27 млрд параметров. Версия NVFP4 1.0 квантизирована с помощью nvidia-modelopt v0.45.0. Модель предназначена для генерации текста, чат-ботов, AI-агентов, RAG-систем и других приложений на базе искусственного интеллекта. Согласно описанию, она принимает текст, изображения и видео, включая RGB-изображения и видео в форматах MP4/WebM, а максимальная длина контекста достигает 262 тысяч токенов. На выходе формирует текст. Возможности оценивались на задачах текстового и мультимодального рассуждения, программирования, использования инструментов, следования инструкциям и работы с длинным контекстом. К сильным сторонам относятся большой контекст, поддержка мультимодальных входных данных и оптимизация для ускоренного инференса на GPU NVIDIA. Поддерживаются vLLM, Linux и аппаратные платформы NVIDIA Hopper и Blackwell; тестирование проводилось на NVIDIA GB300. Данные о языках, исходных обучающих наборах и их объёмах не раскрыты. Для безопасного и эффективного применения необходимы дополнительные проверки на данных конкретного сценария, а заявленная совместимость ориентирована на GPU-системы NVIDIA. Модель доступна для коммерческого и некоммерческого использования на условиях лицензии Apache 2.0.

Qwen3.8-Flash-Next — открытая модель с весами от команды Qwen, построенная как причинная языковая модель с энкодером изображений. Она предназначена для диалогов, агентных сценариев и задач, где нужно анализировать изображения вместе с текстом. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, разреженную MoE-сеть и n-граммные эмбеддинги. В языковой части заявлено 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. Модель имеет 48 слоёв и нативный контекст 262 144 токена с возможностью расширения до 1 000 000. Карточка описывает оценки на задачах программирования, офисной продуктивности и работы с изображениями, а также режим рассуждений, включённый по умолчанию. Для интеграции разработчик рекомендует API. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория и у разработчика.

QwQ-LCoT-14B-Conversational — плотная языковая модель на архитектуре Qwen2, созданная Prithiv ML Mods дообучением Qwen/Qwen2.5-14B-Instruct. Она предназначена для диалогов с длинным контекстом, пошаговых рассуждений, следования сложным инструкциям и генерации текста. Модель содержит 14 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов по метаданным Hugging Face; README заявляет поддержку до 128 000 токенов, поэтому фактический предел требует проверки в используемой конфигурации. Модель работает с текстом и имеет интерфейс для вызова инструментов. В README отмечены сценарии решения математических и кодовых задач, многоязычного общения, генерации JSON и таблиц, создания длинных материалов и работы чат-ботов. Заявлена поддержка более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский; основное назначение не ограничено одним языком. Лицензия — Apache-2.0. Среди ограничений указаны возможные ошибки в сложных рассуждениях и специализированных темах, различия в качестве между языками, потеря связности на очень длинном контексте, унаследованные смещения и повышенные требования к вычислительным ресурсам.

Карточка модели KyleAIers/Spark-X2.5-4B на Hugging Face совпадает с карточкой 0xSojalSec/Spark-X2.5-4B, поэтому описание составлено по ней. Spark-X2.5-4B — компактная языковая модель общего назначения, разработанная командой Spark. Это дообученная версия Spark-X2.5-4B-Base с плотной архитектурой Spark 2.5 на 3,8 млрд параметров; веса опубликованы в формате Safetensors и предназначены для запуска через Transformers. Гибридное внимание сочетает один слой полного внимания с тремя слоями внимания со скользящим окном, а нативный контекст достигает 1 048 576 токенов. Модель рассчитана на диалог, написание и перевод текстов, рассуждения, программирование, вызов инструментов и агентные сценарии. Она поддерживает более 200 языков, а карточка описывает интеграцию с популярными агентными средами и системами инференса. Заявленные сильные стороны — широкий спектр задач и работа с длинным контекстом при оптимизации вычислений и KV-кэша. Качество на конкретной задаче может отличаться; длинный контекст требует достаточной памяти устройства. Лицензия — Apache-2.0.

Spark-X2.5-4B-FP8 — компактная универсальная языковая модель, разработанная командой SparkLLM; базовая модель указана как XHToken/Spark-X2.5-4B-Base. Версия FP8 предназначена для генерации текста и может применяться в диалогах, написании и редактировании текстов, переводе, рассуждениях, программировании, использовании инструментов и агентских сценариях. Модель содержит около 4 млрд параметров и использует гибридную архитектуру внимания: один слой полного внимания на три слоя sliding-window attention. Она поддерживает контекст до 1 млн токенов и более 200 языков. Модель обучалась на примерно 20 трлн токенов из веб-страниц, книг, научных публикаций, кода и энциклопедических материалов; дополнительное обучение включало supervised fine-tuning, масштабное reinforcement learning и метод MOPD. Заявлена совместимость с Transformers, vLLM, SGLang, llama.cpp, MLX, Ollama и LM Studio, а также с различными аппаратными платформами. Сильными сторонами являются сочетание длинного контекста, эффективности инференса, уменьшенного использования KV-cache, возможностей программирования и агентской работы. Ограничения конкретной версии FP8, включая возможные потери точности квантования и фактическое качество на отдельных языках и задачах, в README не уточняются. Модель распространяется по лицензии Apache-2.0.

Blossom-V7-27B — мультимодальная модель общего назначения с открытыми весами, разработанная командой Blossom. Это плотная модель семейства Qwen3.5, дообученная для работы в роли ассистента и предназначенная для локального запуска. Она принимает текст и изображения, поддерживает диалог, адаптивное рассуждение и вызов инструментов; подходит для повседневных вопросов, математики, программирования, веб-разработки и визуализации данных. Контекст достигает 262 144 токенов, при этом в README рекомендовано 131 072 токена для наилучших результатов. Для ускорения генерации поддерживается спекулятивное декодирование MTP в vLLM и llama.cpp. Модель рассчитана на развёртывание на GPU, где помещаются её веса. README указывает, что для многоходового диалога следует сохранять полное сообщение ассистента, включая поля рассуждения и вызовы инструментов. Также требуется использовать встроенный шаблон чата Blossom; подмена его шаблоном Qwen3.5 может нарушить работу. Репозиторий распространяется по лицензии Apache-2.0.

duyntnet/cogito-v1-preview-llama-8B-imatrix-GGUF — это набор imatrix-квантизированных версий текстовой instruction-tuned модели Cogito v1-preview-llama-8B, разработанной командой deepcogito и опубликованной пользователем duyntnet в формате GGUF. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, задач STEM, общего помощника и вызова инструментов. Модель относится к гибридным reasoning-моделям: она может отвечать напрямую в стандартном режиме или выполнять расширенное самообдумывание перед ответом. Обучение проводилось с использованием метода Iterated Distillation and Amplification (IDA). Указаны поддержка контекста до 128K токенов, более 30 языков, включая английский, а также текстовый ввод и текстовый вывод. Заявлены улучшенные многоязычные, программные и tool-calling возможности по сравнению с сопоставимыми по размеру моделями. Формат GGUF подходит для локального запуска через llama.cpp и совместимые приложения, включая KoboldCPP, Ollama, text-generation-webui, LM Studio и GPT4All. Расширенное мышление включается специальной системной инструкцией или параметром enable_thinking в chat template. К ограничениям относятся отсутствие в README точных характеристик базовой архитектуры и параметров квантизации, а также возможное снижение качества по сравнению с исходной моделью из-за квантизации. Лицензия обозначена как other; при этом исходное описание указывает на открытую лицензию с разрешением коммерческого использования, но её точные условия не приведены.