II.3Рефакторинг, миграция и модернизация

hugging-quants/Meta-Llama-3.1-8B-Instruct-AWQ-INT4 — созданная сообществом квантованная версия Meta-Llama-3.1-8B-Instruct, первоначально разработанной Meta AI. Это генеративная текстовая instruction-tuned модель на 8 млрд параметров для многоязычного диалога, ответов на вопросы и других задач генерации текста. Указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель использует архитектуру Llama 3.1 и формат AWQ INT4: исходные веса FP16 преобразованы с помощью AutoAWQ в 4-битное представление GEMM с zero-point quantization и размером группы 128. Версия предназначена для запуска через Transformers, AutoAWQ или Text Generation Inference; для загрузки контрольной точки требуется около 4 ГиБ VRAM, не считая KV-кэша и CUDA graphs. Квантование снижает требования к памяти, но может влиять на качество по сравнению с исходной FP16-версией. В README максимальный контекст модели не указан. Модель распространяется по лицензии Llama 3.1; для использования необходимо учитывать условия этой лицензии. Это текстовая модель без поддержки изображений или других модальностей, а сведения о конкретных ограничениях качества и результатах бенчмарков для данной квантованной версии не приведены.

Карточка модели lactroiii/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 на Hugging Face совпадает с карточкой LimitlessMindd/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, поэтому описание составлено по ней. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель NVIDIA для чата, рассуждений и генерации текста. Это эталонные веса BF16 модели с гибридной архитектурой Mixture-of-Experts: слои Mamba-2 чередуются со слоями MoE и отдельными слоями Attention. Всего модель содержит 30 млрд параметров, из которых активно задействуются 3 млрд; также используются слои Multi-Token Prediction. Модель предназначена прежде всего для дообучения, адаптации к предметным областям и задачам, оценки и создания производных квантованных вариантов. Её можно применять как основу для чат-ботов, систем RAG и агентных приложений; карточка рекомендует для прямого развёртывания оптимизированный релиз NVFP4. В карточке заявлен контекст до 1 млн токенов, при этом на одной H100 80 ГБ BF16 проверен до 256 тыс. токенов из-за ограничений памяти. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. В метаданных указано 1,9 млрд параметров, что расходится с README, где заявлены 30 млрд всего и 3 млрд активных. Метаданные указывают лицензию other, а README сообщает о готовности к коммерческому использованию; конкретные условия лицензии следует сверять с файлами репозитория.

Phi-3-medium-4k-instruct-GGUF — это квантизированная GGUF-версия языковой модели Phi-3-medium-4k-instruct, разработанной Microsoft и подготовленной к квантизации компанией Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи обработки естественного языка и работы с кодом. Указана поддержка нескольких языков, но их точный перечень в карточке не приведён. Модель использует архитектуру Phi, имеет контекст до 4000 токенов и поддерживает формат GGUF с вариантами квантизации от 2 до 8 бит, а также f16. Размер файлов составляет примерно от 5,14 до 27,9 ГБ. Вариант Q4_K_M обозначен как рекомендуемый баланс размера и качества, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Модель совместима с LlamaEdge версии 0.11.2 и выше и использует шаблон запросов phi-3-chat. Основное преимущество этой версии — возможность локального запуска с выбором компромисса между потреблением памяти, размером файла и качеством ответов. Низкобитные варианты экономичнее, но могут заметно терять в качестве; для большинства практических сценариев рекомендуется избегать Q2_K и ряда более агрессивных квантизаций. Карточка не содержит данных о точном числе параметров, обучающих данных, результатах оценки, аппаратных требованиях или ограничениях безопасности. Модель распространяется по лицензии MIT.

Phi-3-Mini-128K-Instruct — компактная языковая модель Microsoft из семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и примерно 3,7 млрд параметров. Она обучена на синтетических и отфильтрованных общедоступных данных, а затем дообучена с учителем и оптимизирована по предпочтениям для следования инструкциям и многоходового диалога. Лицензия — MIT. Модель предназначена для генерации текста на английском языке, диалога, рассуждений, математики и программирования, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. README описывает вариант с контекстом до 128 тысяч токенов и улучшения в понимании длинного контекста; однако метаданные указывают native context в 4096 токенов, поэтому заявленную длину 128K следует сверять с используемой конфигурацией и реализацией. Модель ориентирована прежде всего на английский язык и выдаёт текст. Она может ошибаться, а качество и безопасность для конкретных сценариев необходимо оценивать отдельно; карточка не рекомендует полагаться на неё без проверки в высокорисковых применениях.

Qwen3.6-35B-A3B-Brainwaves-Nex-GGUF — GGUF-квантизированная версия модели nightmedia/Qwen3.6-35B-A3B-Brainwaves-Nex, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, инструкционного взаимодействия, рассуждений, математических и STEM-задач, программирования и многоязычных сценариев. В метаданных указаны английский, китайский, японский и испанский языки; также отмечены instruction tuning, SFT, LoRA и distillation, однако подробности обучения не приведены. Доступны варианты квантования от Q2_K до Q8_0, включая IQ4_XS, с размером файлов примерно от 13,3 до 37,9 ГБ. Для мультимодального использования предоставляются дополнительные файлы mmproj в форматах Q8_0 и F16, поэтому поддержка изображений зависит от совместимого программного обеспечения и подключения соответствующего компонента. Архитектура, точный размер активной и общей параметризации, максимальная длина контекста и перечень поддерживаемых модальностей в README явно не описаны. Сильной стороной модели является широкий выбор квантований, позволяющий выбирать между требованиями к памяти, скоростью и качеством; автор README рекомендует Q4_K_S и Q4_K_M как быстрые варианты, а Q6_K и Q8_0 отмечает как варианты высокого качества. Ограничения включают возможную потерю качества на низких уровнях квантования, экспериментальный характер исходной модели и отсутствие опубликованных оценок производительности. Распространение указано по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это квантизованная GGUF-версия мультимодальной модели Qwen3.8-27B, созданная HauhauCS на базе Qwen/Qwen3.8-27B. Релиз сохраняет исходные текстовые, reasoning, агентские, графические и видеовозможности, но использует профиль Aggressive uncensoring: модель ориентирована на прямые ответы, минимальное вступление и отсутствие отказного поведения. Доступны варианты с квантизацией Q2_K_P–Q8_K_P, IQ2_M–IQ4_XS и отдельный BF16 vision projector для обработки изображений и видео. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120, FFN-размером 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Заявлен нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. Поддерживаются английский, китайский и мультиязычные сценарии. Встроенный NextN/MTP сохранён, а FastMTP от HauhauCS предоставляет дополнительное ускорение спекулятивного декодирования; заявлен прирост скорости до 3,02 раза для документов и до 1,93 раза для reasoning по сравнению с режимом без MTP. Модель подходит для генерации и анализа текста, рассуждений, агентских задач, работы с изображениями и видео, а также для сценариев, где важны быстрые и максимально прямые ответы. К сильным сторонам относятся большой контекст, мультимодальность, широкий выбор квантизаций и ускорение FastMTP. Ограничение профиля Aggressive — повышенный риск менее осторожных или менее надёжных ответов в критически важных агентских сценариях; для них авторы рекомендуют Balanced-релиз, если он доступен. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF-q4kp — квантизированная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Это плотная causal language model на 27 млрд параметров с vision encoder, предназначенная для генерации текста, рассуждений, агентских сценариев, работы с изображениями и видео. Aggressive-профиль ориентирован на прямые ответы без выраженного отказного поведения и с минимальными вступлениями на сложные запросы. Модель содержит 64 слоя, размер скрытого представления 5120, размер FFN 17408, словарь из 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Сохраняет встроенный MTP/NextN и дополнительно поддерживает HauhauCS FastMTP для ускорения спекулятивного декодирования; для визуального ввода используется отдельный BF16-проектор. Заявлены языки английский, китайский и другие многоязычные сценарии. Нативный контекст составляет 262 144 токена и может расширяться до 1 000 000. Сильные стороны модели — широкий набор текстовых, reasoning-, agentic-, image- и video-возможностей, большой контекст, несколько вариантов квантизации K_P и ускорение FastMTP. Aggressive-профиль может быть менее подходящим для надёжных длинноконтекстных агентских задач, где предпочтительнее более сбалансированная версия. Модель распространяется по лицензии Apache-2.0; для работы с изображениями и видео требуется отдельный vision projector.

QwQ-32B-GGUF — языковая модель для генерации текста и рассуждений из семейства Qwen, разработанная командой Qwen. Это GGUF-версия базовой модели Qwen/QwQ-32B, ориентированная на локальный запуск и диалоговые сценарии, включая решение сложных математических, логических и других задач, где важны пошаговое рассуждение и качество вывода. Модель предназначена для использования с llama.cpp и совместимыми инструментами. Модель является авторегрессионной causal language model с архитектурой на базе Qwen2.5, использующей RoPE, SwiGLU, RMSNorm и смещения в QKV-вычислениях внимания. Она содержит около 32,5 млрд параметров, 64 слоя и механизм grouped-query attention с 40 головами для Q и 8 для KV. Заявленная длина контекста составляет до 131 072 токенов, однако для GGUF-версии без дополнительных настроек рекомендуется учитывать ограничение около 32 768 токенов; обработка более длинных последовательностей требует YaRN и поддержки со стороны используемого фреймворка. Указан английский язык. Сильная сторона модели — усиленная способность к рассуждению, обеспеченная последующим обучением с учителем и reinforcement learning; заявляется конкурентоспособность с современными reasoning-моделями, включая DeepSeek-R1 и o1-mini. Доступны варианты квантования q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для стабильной работы рекомендуются специальные параметры семплирования и начало ответа с маркера <think>. Лицензия — Apache-2.0.

Sarvam-30B — языковая модель семейства Sarvam, разработанная Sarvam AI. Это модель Mixture-of-Experts для генерации текста и диалогов; в README указано 2,4 млрд активных параметров без эмбеддингов, а метаданные репозитория — 3,7 млрд параметров. Модель ориентирована на практическое развёртывание, рассуждения, программирование и диалоги на индийских языках. Поддерживает вызов инструментов; архитектура включает 128 экспертов и маршрутизацию top-6. Контекст по метаданным — до 131 072 токенов. Основной упор сделан на индийский контекст и 22 индийских языка. В метаданных явно перечислены английский, хинди, бенгальский, тамильский, телугу, маратхи, гуджарати, каннада, малаялам, пенджаби, ория, ассамский, урду, санскрит, непальский, синдхи, конкани, майтхили, догри, манипури, сантали, кашмирский и тибетский. Модель может применяться для многоязычных голосовых звонков в составе речевой системы, но сама карточка описывает её как текстовую генеративную модель. Распространяется по лицензии Apache-2.0.

Sarvam-30B — языковая модель, разработанная командой Sarvam Foundation Models. Это модель класса Mixture-of-Experts (MoE), ориентированная на практическое развертывание, мультиязычные диалоги и голосовые вызовы на индийских языках, включая выполнение вызовов инструментов. Она также предназначена для задач рассуждения, генерации кода и общего текстового общения. Модель содержит 30 млрд параметров, из которых 2,4 млрд активируются для отдельного запроса, и представлена в виде FP8-квантизированных весов в формате FP8 E4M3. Архитектура включает 19 слоёв, 128 экспертов с общим экспертом, маршрутизацию top-6, grouped KV attention с четырьмя KV-головами, dense FFN размером 8192 и MoE-FFN размером 1024. Высокое значение rope_theta, равное 8e6, предназначено для стабильной работы с длинным контекстом без дополнительного RoPE scaling, однако точный размер контекстного окна в README не указан. Заявлена передовая производительность для своего размера в 22 индийских языках; также заявлена поддержка английского языка. К сильным сторонам относятся эффективность по памяти и пропускной способности, сниженные требования к ресурсам благодаря MoE и FP8-квантизации, а также сочетание рассуждения, программирования, диалогового взаимодействия и поддержки индийского языкового контекста. Ограничением является необходимость специальной настройки инфраструктуры: для запуска рекомендуются SGLang или модифицированная версия либо hot-patch для vLLM, а точная производительность зависит от оборудования и конфигурации. Модель распространяется по лицензии Apache 2.0.

Tri-7B — диалоговая языковая модель Trillion Labs для генерации текста. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, основанной на LlamaForCausalLM; в карточке указаны 7,76 млрд параметров, 32 слоя и контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель прошла предварительное обучение и постобучение с упором на рассуждения, математические задачи и повседневное использование. Она предназначена для диалога, следования инструкциям, ответов на вопросы, генерации кода и решения задач на английском, корейском и японском языках. В README приведены результаты сравнительных тестов с предыдущей моделью Trillion-7B-preview; они показывают улучшения по ряду оценённых задач, но не гарантируют качество для каждого запроса. Модель оптимизирована для английского, корейского и японского; на других языках качество может снижаться. Знания ограничены сведениями, доступными до февраля 2025 года. Лицензия — Apache-2.0.

Yuan2-102B-hf — плотная авторегрессионная языковая модель семейства Yuan 2.0, разработанная IEIT System. Модель основана на Yuan 1.0 и обучена на расширенных наборах предобучающих и инструкционных данных; в репозитории указано 91,3 млрд параметров, формат PyTorch и контекст до 4096 токенов. Модель предназначена для генерации текста и диалогов, а также для задач семантического понимания, математики, рассуждений, программирования и работы со знаниями. В карточке приведены оценки и скрипты для GSM8K, AGIEval-GK-Math, HumanEval и TruthfulQA. Она принимает текст и выдаёт текст; README представлен на китайском и английском языках, но это само по себе не устанавливает полный список поддерживаемых языков. Модель может выдавать неточные ответы и поддаваться вводящим в заблуждение инструкциям. README заявляет поддержку коммерческого использования и отсутствие необходимости получать отдельное разрешение; для модели указана лицензия other, а условия использования отсылают к лицензии Yuan 2.0.

Это GGUF-квантизированная версия языковой модели Mistral-Small-24b-Sertraline-0304, разработанной allura-org и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций, включая общие, научные, медицинские, программные и другие текстовые задачи. В README указано, что она основана на наборах данных для instruction following, включая Tulu 3, s1K, медицинские данные, данные по программированию и научным вопросам. Модель имеет размер 24B параметров, относится к текстовым autoregressive language models и поддерживает английский и китайский языки. Доступны варианты квантизации GGUF с форматами от Q3 до Q8 и размерами примерно от 12,4 до 25,05 ГБ. Квантизации выполнены с использованием imatrix и llama.cpp, поэтому модель подходит для локального запуска через llama.cpp, LM Studio и совместимые проекты. Контекстный размер, точная архитектура базовой модели, результаты оценивания и требования к оперативной памяти в README не указаны. Сильными сторонами являются широкий набор обучающих данных, ориентация на следование инструкциям и наличие вариантов с разным балансом качества и потребления памяти. Ограничения связаны с отсутствием подробных независимых бенчмарков, сведений о мультимодальности и гарантированной точности ответов; модель следует использовать с проверкой результатов, особенно в медицинских и научных сценариях. Лицензия — Apache-2.0.

Chichu 2.0 500M Instruct — компактная языковая модель на 494 млн параметров, разработанная Sebastianpro88 и дообученная методом LoRA на базе Qwen/Qwen2.5-0.5B-Instruct. Для обучения использован корпус дистилляции ответов нескольких моделей, охватывающий математику, программирование, рассуждения и выполнение инструкций. Модель предназначена для диалогов и генерации текста по инструкциям, в том числе для задач с кодом, математикой и логическими рассуждениями. Это плотная архитектура Qwen2 с контекстом до 32 768 токенов; модель принимает и выдаёт текст. Карточка указывает лицензию «other», но не уточняет её условия, поэтому перед использованием следует проверить сведения о лицензировании в репозитории.

FuseChat-7B-TA — диалоговая языковая модель FuseAI, разработанная в рамках исследовательской работы учёных Университета Сунь Ятсена. Это вариант FuseChat-7B, полученный слиянием знаний нескольких чат-моделей; версия TA использует один из методов слияния. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и базовая модель OpenChat 3.5, дообучение которой также входит в процесс создания FuseChat. Модель предназначена для диалогов и выполнения текстовых инструкций общего назначения, включая ответы на вопросы, письмо, ролевые сценарии, рассуждения, математику, программирование и темы STEM и гуманитарных наук. Контекст составляет 8192 токена. В README для FuseChat-7B-TA указана средняя оценка 8,20 на MT-Bench. Модель принимает и выдаёт текст; в карточке отмечен английский язык. Слияние позволяет объединить способности нескольких моделей в одной без необходимости загружать несколько экспертов во время инференса. Модель выпущена под лицензией Apache-2.0. Показатель MT-Bench не гарантирует качество для конкретной задачи; подтверждённые возможности в карточке ограничены генерацией текста и чатом.

Granite-4.0-H-Tiny-Base — базовая языковая модель IBM Granite Team для генерации текста и кода. Это декодерный гибридный MoE-трансформер примерно на 500,2 млн параметров с компонентами GQA и Mamba2; модель обучена с нуля на смеси открытых и проприетарных данных. Контекст — до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения информации, ответов на вопросы, генерации текста с длинным контекстом и автодополнения кода, включая Fill-in-the-Middle. В первую очередь поддерживает английский, а также немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Весы доступны в формате safetensors; лицензия Apache 2.0. Модель не прошла safety alignment, поэтому может генерировать проблемные ответы. Возможны предвзятость, дезинформация, галлюцинации и дословное воспроизведение фрагментов обучающих данных.

Это квантованная версия Granite 3.3 8B Instruct — инструкционной текстовой модели, разработанной командой IBM Granite. Репозиторий подготовлен bartowski в формате GGUF с использованием llama.cpp и метода imatrix; базовая модель указана как ibm-granite/granite-3.3-8b-instruct. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, поддерживающих llama.cpp, включая LM Studio. Доступны варианты от BF16 до различных уровней квантования Q3–Q8 и IQ, что позволяет выбирать между качеством ответа, размером файла и требованиями к оперативной памяти. Размер исходной модели составляет 8 миллиардов параметров, однако README не указывает архитектуру, языки, длину контекста или дополнительные модальности; по назначению это текстовая, а не мультимодальная модель. Сильной стороной сборки является широкий выбор квантований: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев при меньшем потреблении памяти. Более компактные варианты позволяют запускать модель на системах с ограниченной RAM, но могут снижать качество ответов. Для корректной работы следует использовать указанный шаблон prompt и совместимый llama.cpp-based runtime. Распространение осуществляется по лицензии Apache-2.0.

QuantFactory/Llama3.1-8B-Fireplace2-GGUF — квантизированная версия языковой чат-модели ValiantLabs/Llama3.1-8B-Fireplace2, созданная с использованием llama.cpp. В основе лежит Llama 3.1 8B Instruct; модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Дата исходного выпуска Fireplace 2 — 23 июля 2024 года. Модель ориентирована на обычный чат и техническое ассистирование, а также на формирование структурированных ответов по запросу. Она поддерживает inline function calls, SQL-запросы, JSON-объекты и генерацию примеров визуализации данных с помощью matplotlib, позволяя сочетать обычный текст и структурированные форматы в одном диалоге. Для работы используются формат промптов Llama 3.1 Instruct и специальные маркеры запросов соответствующего типа. Ключевое преимущество модели — расширение возможностей Llama 3.1 8B Instruct функциями для интеграции с инструментами, базами данных и задачами визуализации. GGUF-квантизация и создание через llama.cpp ориентированы на локальный запуск, однако конкретный вариант квантизации, требования к памяти, размер контекста и поддерживаемые форматы файлов в представленном README не указаны. Модель является текстовой и не предназначена для обработки изображений или других мультимодальных данных. Лицензия указана как llama3.1; условия её применения следует уточнять в лицензии исходной модели.

amd/Llama-3.1-8B-Instruct-w-int8-a-int8-sym-test — это вариант Llama 3.1 8B Instruct, опубликованный AMD. Он предназначен для генерации текста, диалоговых ассистентов и других задач обработки естественного языка; инструкционно дообученная версия оптимизирована для многоязычного общения. Вариант содержит 8 млрд параметров и использует 8-битное симметричное квантование весов и активаций; на странице модели также указаны форматы BF16 и I8. README этого репозитория пуст, поэтому характеристики квантования следует считать основными подтверждёнными сведениями именно об этом варианте, а не результатами отдельной оценки качества. Базовая Llama 3.1 разработана Meta и представляет собой авторегрессионную модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Она работает с текстом на входе и выдаёт многоязычный текст и код, поддерживает контекст до 128 тысяч токенов и заявленные языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback; модель поддерживает диалоговые сценарии и tool use. Квантование может снизить требования к памяти и ускорить инференс на совместимом оборудовании, но конкретные показатели качества, скорости и совместимости для этого тестового репозитория не указаны. Использование регулируется Llama 3.1 Community License от Meta, а также Acceptable Use Policy. Лицензия допускает коммерческое и исследовательское применение при соблюдении её условий, включая требования к распространению и маркировке; для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензионное условие.

RedHatAI/Meta-Llama-3.1-8B-quantized.w8a8 — квантизированная версия языковой модели Meta-Llama-3.1-8B, разработанная Neural Magic. Модель предназначена для генерации текста и ассистентских диалогов, а также для коммерческого и исследовательского использования в многоязычных сценариях. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует архитектуру Meta-Llama-3 и работает только с текстовыми входами и выходами. Веса и активации линейных операторов в трансформерных блоках квантизированы в INT8 по схеме W8A8 с применением GPTQ. Используются статическая поканальная квантизация весов и динамическая потокенная квантизация активаций. Заявленная максимальная длина контекста при развертывании составляет 8192 токена. Модель оптимизирована для работы с vLLM и совместимого с OpenAI API сервинга. Ключевые преимущества — примерно двукратное снижение требований к памяти GPU и увеличение пропускной способности матричных умножений примерно в два раза, а также сокращение размера модели на диске примерно на 50%. При этом качество близко к исходной модели: средний результат на OpenLLM Leaderboard составляет 62,71 против 63,03 у неквантизированной версии. Ограничения включают возможное небольшое снижение точности из-за квантизации, текстовую модальность и зависимость от совместимого окружения развертывания. Модель распространяется по лицензии Llama 3.1.

RedHatAI/Mistral-Small-3.2-24B-Instruct-2506-NVFP4 — квантизированная FP4-версия инструкционной текстовой модели unsloth/Mistral-Small-3.2-24B-Instruct-2506, разработанная RedHatAI. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых сценариев, выполнения инструкций и задач общего назначения, включая объяснение понятий и программирование. Указаны языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако README отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с группировкой 16; для квантизации использовался LLM Compressor и калибровочные данные UltraChat. По сравнению с 16-битным представлением это примерно на 75% уменьшает размер модели на диске и требования к GPU-памяти, что делает модель подходящей для более эффективного инференса. Для запуска заявлена совместимость с vLLM версии 0.9.1 и выше. Ключевое преимущество модели — снижение потребления памяти и размера при сохранении назначения базовой инструкционной модели; качество оценивалось на бенчмарках OpenLLM v1, OpenLLM v2 и HumanEval_64, но подробные результаты в представленном README не приведены. Ограничения включают возможные потери качества из-за агрессивной 4-битной квантизации, отсутствие данных о размере контекстного окна и мультимодальности, а также заявленное ограничение использования английским языком. Модель распространяется по лицензии Apache-2.0.

gghfez/Mistral-Small-3.2-24B-Instruct-hf-AWQ — инструкционная языковая модель для генерации текста, разработанная на базе gghfez/Mistral-Small-3.2-24B-Instruct-hf. Модель предназначена для диалоговых сценариев и других задач text generation, а также совместима с экосистемой Transformers и инфраструктурой text-generation-inference. В названии и метаданных указано использование AWQ, то есть модели с квантованным представлением весов, что может снизить требования к памяти при развертывании. Архитектура, поддерживаемые языки, размер контекста и конкретные показатели качества в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

kaitchup/Phi-3-mini-4k-instruct-gptq-4bit — это 4-битная GPTQ-квантизованная версия Phi-3 Mini-4K-Instruct, опубликованная пользователем kaitchup на Hugging Face и основанная на модели Microsoft. Она предназначена для генерации текста, диалогов и выполнения инструкций, включая задачи по работе с кодом, математикой, рассуждениями и общими знаниями, при локальном или серверном запуске с меньшими требованиями к памяти. Исходная Phi-3 Mini-4K-Instruct представляет собой плотную decoder-only Transformer-модель примерно на 3,8 млрд параметров, дообученную с применением supervised fine-tuning и Direct Preference Optimization. Модель работает с текстовыми входами и поддерживает контекст до 4K токенов; основной язык — английский, при этом в метаданных также указан французский. Вариант из указанного репозитория использует 4-битное GPTQ-представление, что уменьшает размер и требования к памяти, но может снижать точность и качество по сравнению с полной точностью. Сильные стороны — компактность, возможность запуска на более доступном оборудовании и хорошие для своего размера результаты в задачах следования инструкциям, рассуждений и программирования. Ограничения включают короткое окно контекста, преимущественно англоязычную ориентацию, возможные ошибки и галлюцинации, а также потери качества из-за квантизации. Для опубликованной версии в карточке модели условия лицензирования явно не указаны; исходная модель Microsoft распространяется по лицензии MIT.

Mungert/Phi-4-mini-instruct-GGUF — набор GGUF-версий инструкционной языковой модели Phi-4-mini-instruct, разработанной Microsoft и опубликованный пользователем Mungert. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и кода. Доступны варианты для запуска на GPU, CPU и устройствах с ограниченной памятью. Представлены файлы в форматах BF16 и F16, а также квантованные варианты Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Квантование уменьшает потребление памяти ценой возможного снижения точности. Заявлена поддержка multilingual-сценариев и языков, включая английский, русский, китайский, японский, корейский, арабский, французский, немецкий, испанский, португальский, украинский и другие. Точный размер модели, архитектура, максимальная длина контекста и мультимодальные возможности в README не указаны; по описанию это текстовая модель. Сильные стороны набора — широкий выбор точности и размера файлов, возможность локального запуска на CPU или GPU и адаптация под устройства с разными ограничениями памяти. Более низкобитные варианты экономичнее, но могут уступать полноформатным версиям по качеству. В README не приведены результаты тестов, точные требования к памяти и подробные ограничения поведения модели. Лицензия — MIT.

dec0dedd выпустил чат-модель Qwen2.5-14B-Instruct-heretic — версию Qwen2.5 Instruct на 14 млрд параметров, обработанную методом abliteration для снижения частоты отказов. По приведённому в карточке сравнению, модель отказала в 5 из 100 тестовых запросов против 98 из 100 у исходной Qwen2.5-14B-Instruct; это измерение относится только к указанному тесту. Архитектура — плотная причинная языковая модель Qwen2 с поддержкой чата. Метаданные указывают контекст до 32 768 токенов; README описывает расширение контекста до 131 072 токенов с YaRN, но предупреждает о возможном ухудшении работы на коротких запросах при статической настройке YaRN. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и создание длинных или структурированных ответов. README базовой Qwen2.5 также отмечает навыки программирования, математики и работу с таблицами, однако отдельные результаты для этой производной модели не приведены. Поддерживаются английский и другие языки Qwen2.5; карточка явно помечает английский. Модель распространяется под лицензией Apache-2.0.

bartowski/Qwen2-72B-Instruct-GGUF — набор квантизированных вариантов языковой модели Qwen2-72B-Instruct, разработанной командой Qwen (Tongyi Qianwen) и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в чат-интерфейсах и локальный запуск через llama.cpp. Поддерживается специальный шаблон промпта с ролями system, user и assistant. Модель имеет 72 миллиарда параметров, работает с текстом и ориентирована как минимум на английский язык. Доступны варианты GGUF с разными уровнями квантизации: от Q8_0 размером около 77,26 ГБ до IQ1_M размером около 23,74 ГБ. Наиболее рекомендуются Q5_K_M, Q4_K_M и IQ4_XS как компромисс между качеством и требованиями к памяти; варианты с более низкой точностью занимают меньше места, но заметно теряют в качестве. Квантизация выполнена с использованием imatrix и llama.cpp. Сильная сторона набора — возможность выбрать подходящий баланс качества, скорости и потребления RAM или VRAM для локального запуска. Для работы на GPU рекомендуется, чтобы файл помещался в доступную видеопамять; также возможно комбинировать системную RAM и VRAM. Для CUDA указано ограничение: offloading может работать некорректно без включения flash attention. I-quant варианты не совместимы с Vulkan, а на CPU и Apple Metal могут работать медленнее K-quant вариантов. Модель распространяется по лицензии tongyi-qianwen; README также содержит ссылку на лицензию исходной модели Qwen2-72B-Instruct.

MMOPD/Qwen3-4B-OT3-if — плотная языковая модель Qwen3 с 3,7 млрд параметров, разработанная командой MMOPD как учительская модель для следования инструкциям. Она получена дообучением MMOPD/Qwen3-4B-OT3-2ep методом GRPO на запросах с проверяемыми требованиями к формату и содержанию ответа. Модель поддерживает чат, шаблон Qwen3 и режим рассуждений; длина контекста — 32 768 токенов. Веса представлены в формате Safetensors и хранятся в bfloat16. Модель предназначена для генерации ответов по инструкциям, в том числе с заданными ограничениями на структуру и содержание, а также для задач рассуждения, математики и программирования. В опубликованных оценках она заметно повысила результаты на IFEval и IFBench относительно исходной модели, сохранив сопоставимые показатели на кодовых и математических тестах; README также приводит результаты на медицинских и финансовых наборах, которые не следует считать гарантией качества в прикладных сценариях. Для использования рекомендованы шаблон чата Qwen3, включённое рассуждение и сэмплирование. Лицензия — Apache-2.0.

SassyDiffusion/Qwen3.5-9B-heretic-ara-GGUF — это GGUF-версия декензурированной модели SassyDiffusion/Qwen3.5-9B-heretic, созданной на основе Qwen3.5-9B с помощью Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA). Модель предназначена для генерации и анализа текста, а также для мультимодальных сценариев с изображениями, поскольку базовая Qwen3.5-9B описана как причинная языковая модель с vision encoder. Она может применяться в чат-ботах, ассистентах, задачах рассуждения, программирования, работы с агентами и визуального понимания. Архитектура базовой модели включает 9 млрд параметров, 32 слоя, гибрид Gated Delta Networks и разреженного Mixture-of-Experts, а также 4096-мерное скрытое представление. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Формат GGUF ориентирован на использование в совместимых средах инференса, однако конкретные квантизация и требования к ресурсам в README не указаны. Главная особенность версии — существенное снижение частоты отказов по сравнению с оригинальной Qwen3.5-9B: в приведённом тесте 7 отказов из 100 против 93 из 100 у исходной модели, при KL divergence 0,0168. Это может быть полезно для сценариев, где требуется более свободная генерация, но одновременно означает ослабление исходных механизмов безопасного отказа. Результаты приведены для ограниченного теста и не характеризуют качество во всех задачах. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-2bit-MLX-TextOnly — текстовая квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованная пользователем lukaskremla в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста, диалогов, рассуждений, работы с инструментами и задач с длинным контекстом; заявлена поддержка нескольких языков. Модель содержит около 27 млрд параметров и использует 2-битное weight-only-квантование с affine RTN-квантизацией и group size 64. Это text-to-text-модель: vision tower удалён, поэтому обработка изображений и другие визуальные сценарии не поддерживаются. Формат MLX ориентирован на запуск в экосистеме Apple MLX и mlx-lm. Точная длина контекста и архитектурные детали в README не указаны. Ключевое преимущество — существенно сниженные требования к памяти по сравнению с полноразмерной моделью, что делает её пригодной для локального запуска при сохранении возможностей исходной текстовой модели. Ограничения связаны с 2-битным квантованием, которое может снизить точность и качество по сравнению с исходной моделью, а также с отсутствием визуального ввода. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-3bit-MLX-TextOnly — текстовая квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат MLX пользователем lukaskremla с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и использования инструментов, включая задачи с длинным контекстом и многоязычные приложения. Модель сохраняет возможности преобразования текста в текст и не содержит vision tower, поэтому не поддерживает обработку изображений. Она использует 3-битное квантование весов с affine- и RTN-подходами и размером группы 64; заявленный размер базовой модели — 27B параметров. Формат MLX ориентирован на запуск с использованием экосистемы MLX и mlx-lm. Конкретные поддерживаемые языки и максимальная длина контекста в README не указаны. К преимуществам относятся сниженные требования к памяти по сравнению с полноразмерной моделью, поддержка текстовой генерации, рассуждений, инструментов и длинного контекста. Ограничения связаны с отсутствием мультимодальности и возможными потерями качества из-за 3-битного квантования; точные показатели производительности не приведены. Модель распространяется по лицензии Apache-2.0.