II.8Инженерия данных и аналитика

Qwen3.5-text-4B-bnb-4bit — текстовая языковая модель, разработанная techwithsergiu на базе Qwen3.5-text-4B, производной от Qwen3.5-4B команды Qwen. Модель предназначена для генерации и обработки текста, диалоговых сценариев и последующего дообучения с использованием LoRA или QLoRA. Поддерживает режимы с включённым и выключенным рассуждением перед ответом. Модель содержит текстовый backbone размера 4B и использует 4-битную BNB NF4-квантизацию с double quantization; вычисления выполняются в bfloat16, а веса lm_head сохранены в bf16 для стабильности и качества вывода. Визуальная башня удалена, поэтому модель принимает только текст и не поддерживает обработку изображений. Ключевое преимущество — сниженное потребление видеопамяти: заявлено около 3,12 ГБ против 9,32 ГБ у исходной f16-модели. Контекстное окно и перечень поддерживаемых языков в README не указаны. Модель особенно ориентирована на текстовое LoRA-дообучение с Unsloth, TRL и PEFT; такая конфигурация проверена на видеокарте RTX 3070 с 8 ГБ памяти. Ограничения связаны с отсутствием мультимодальности, а документация по полноценному LoRA-дообучению на момент публикации ещё не завершена. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-GGUF — это GGUF-квантизация базовой модели Qwen/Qwen3.6-35B-A3B, подготовленная разработчиком 0xSero. Модель предназначена для генерации текста и запуска через llama.cpp, включая сценарии локального инференса на совместимом оборудовании. Доступны варианты с разными уровнями квантизации, включая динамическую смешанную квантизацию DYNAMIC.gguf. Модель имеет 35 млрд общих параметров, при этом на один токен активируется около 3 млрд параметров. В её основе используется гибридная архитектура Gated DeltaNet и Gated Attention с маршрутизацией через 256 экспертов; для DYNAMIC.gguf критичные компоненты внимания и маршрутизатор сохраняются в более высокой точности, а экспертные слои квантуются сильнее. Указан формат GGUF, однако размер контекста, число слоёв, скрытый размер, поддерживаемые языки и модальности в README не приведены. Сильной стороной являются варианты, ориентированные на баланс качества, размера и скорости, а также результаты тестирования на AMD Ryzen AI MAX+ 395 с Radeon 8060S, Vulkan и llama.cpp. Ограничение — заявленные показатели производительности относятся к конкретной конфигурации и могут отличаться на другом оборудовании; квантизация также может влиять на качество. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

btbtyler09/Qwen3.8-27B-GPTQ-4bit — это квантизированный вариант Qwen/Qwen3.8-27B, разработанный сообществом Qwen и подготовленный пользователем btbtyler09. Модель представляет собой плотную мультимодальную модель примерно на 27 млрд параметров с поддержкой текста и изображений, предназначенную для генерации и понимания текста, анализа изображений, обслуживания через vLLM и ускоренного декодирования с помощью модуля MTP. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, скрытое представление размером 5120 и промежуточный размер 17408. Максимальная длина контекста составляет 262 144 токена. В состав входят 27-блочный визуальный ViT-энкодер и однослойная голова Multi-Token Prediction. Текстовый декодер квантизирован в INT4 методом GPTQ с компенсацией ошибок FOEM и размером группы 32, а визуальный энкодер, MTP, эмбеддинги, нормы и LM head сохранены в BF16 или FP16. Итоговый размер — около 21 ГБ вместо примерно 56 ГБ у исходной BF16-модели. Основное преимущество — существенно меньшие требования к памяти при сохранении близкого к исходной модели качества: на wikitext-2-raw-v1 ухудшение perplexity составляет 0,81%. Модель поддерживает мультимодальные запросы и совместима с ядрами GPTQ в vLLM, однако для полноценного запуска требуется значительный объём видеопамяти и подходящая конфигурация GPU. Квантизация может снижать качество на отдельных задачах, а в некоторых версиях vLLM возможна ошибка разбора конфигурации, требующая исправления. Лицензия — Apache 2.0; поддерживаемые языки README не указывает.

lued/Qwen3.8-27B-heretic-ara-INT8-W8A16-MTP — квантизированная версия модели heretic-org/Qwen3.8-27B-heretic-ara, основанной на Qwen3.8-27B от Qwen. Репозиторий lued содержит численную W8A16-квантизацию; исходная модель была изменена проектом Heretic с применением abliteration для устранения встроенного профиля отказов. Модель предназначена для диалоговых и мультимодальных задач, включая работу с изображениями, рассуждения и генерацию текста, и оптимизирована для запуска через vLLM на видеокартах архитектуры Ampere, в частности на конфигурации из двух RTX 3090. Модель имеет 27 млрд параметров, сохраняет vision tower, управление режимом рассуждений и нативный контекст до 262 144 токенов. Веса представлены в INT8 с форматом W8A16, активации поддерживают FP16 или BF16, а голова MTP сохранена в исходном BF16 для speculative decoding. Используется симметричная data-free RTN-квантизация с размером группы 128 и форматом compressed-tensors; проверенный профиль vLLM включает tensor parallelism на двух GPU, FP8 E4M3 KV-кэш и три draft-токена MTP. Расширение контекста до 1 млн токенов с YaRN относится к исходной модели и требует отдельной настройки и достаточного объёма KV-кэша. Сильными сторонами являются уменьшенный объём памяти, совместимость с Ampere без нативного FP8 tensor-core исполнения, сохранение мультимодальности и длинного контекста, а также устранение отказов на указанном наборе из 100 вредоносных запросов исходной abliteration-моделью. Ограничением является намеренное изменение поведения: abliteration привела к заметному сдвигу распределения, а отсутствие отказов не означает гарантии безопасного использования. Производительность и поведение могут зависеть от конфигурации vLLM и доступной памяти. Модель распространяется по лицензии Apache 2.0.

Chungulus/Qwen3.8-27B-Q3_K_S-GGUF — независимая ванильная квантизация модели Qwen/Qwen3.8-27B, опубликованная Chungulus. Модель предназначена для локального запуска задач генерации текста, вызова инструментов, анализа изображений и видео. Это vision-language модель с поддержкой мультимодального ввода; для работы с изображениями используется отдельный vision projector mmproj-Qwen3.8-27B-F16.gguf. Поддерживаются нативный формат вызова инструментов Qwen и управление режимами рассуждений через enable_thinking, reasoning_effort и preserve_thinking. Основной файл имеет размер около 12,257 ГБ, полный репозиторий — около 13,197 ГБ. Используется квантизация Q3_K_S на базе llama.cpp K/IQ quantization без дополнительного обучения, слияния или изменения шаблона чата. Сохранена гибридная структура Hybrid Gated DeltaNet/full-attention, а также MTP-тензоры и метаданные, однако спекулятивное ускорение не заявлено. Текстовая генерация, вызов инструментов, обработка изображений и видео прошли проверки; на валидационном хосте зафиксирована скорость около 17,35 токена в секунду. Для запуска требуется совместимый runtime, поддерживающий граф Qwen3.8, vision tower/projector, токенизатор и MTP-метаданные; рекомендуется иметь не менее примерно 17 ГБ доступной памяти, при этом KV-кэш увеличивает потребление в зависимости от контекста. Низкая разрядность квантизации может снижать качество. Максимальный контекст в README не указан и полноценно не тестировался. Модель и квантизация распространяются по лицензии Apache-2.0.

SImi-2B — генеративная языковая модель, разработанная Dakuwon Moody. Это публичное распространение только весов модели SImiModel без исходного кода архитектуры, обучающего кода и полного внутреннего дерева восстановления. Модель предназначена для генерации текста, следования инструкциям, агентских сценариев и использования инструментов, включая задачи с tool use и function calling. Модель представляет собой decoder-only causal language model в стиле Llama, реализованную на JAX/Flax. Она содержит примерно 2,32 млрд параметров, 30 слоёв, скрытую размерность 2560, GQA с 20 query heads и 4 KV heads, RoPE, RMSNorm и SwiGLU. Используется untied token embedding и LM head, токенизатор GPT-2 BPE с 50 257 токенами и максимальная длина последовательности 1024 токена. Вычисления и веса имеют тип bfloat16. В README указан английский язык модели. Сильными сторонами являются обучение на полноразмерных потоках данных для инструкционного, агентского и инструментального использования, а также компактный размер по сравнению с крупными языковыми моделями. Ограничения включают отсутствие поддержки hosted inference, отсутствие исходного кода и несовместимость с Transformers AutoModel.from_pretrained; для восстановления требуются JAX/Flax и специфические процедуры работы с Orbax. Модель обучалась на AMD Instinct MI300X. Распространяется по лицензии Apache-2.0.

Aya Expanse — открытая исследовательская мультиязычная языковая модель, разработанная Cohere For AI на основе предварительно обученных моделей семейства Command. В README указаны варианты с 8 и 32 млрд параметров. Модель предназначена для генерации текста и работы с широким кругом языковых задач в многоязычных сценариях. Модель поддерживает 23 языка и создавалась с использованием исследований в области data arbitrage, мультиязычного обучения на предпочтениях, настройки безопасности и объединения моделей. Она может применяться в локальных приложениях и инструментах, поддерживающих Cortex или Jan. Модальность — текстовая; сведения о точной архитектуре, максимальной длине контекста и перечне поддерживаемых языков в README не приведены. К сильным сторонам относятся широкий мультиязычный охват, наличие двух вариантов размера и открытые веса, что делает модель пригодной для исследовательского и локального использования. Ограничения включают отсутствие в предоставленных данных подробных характеристик качества, архитектуры, контекстного окна и требований к ресурсам. В метаданных указана лицензия CC BY-SA 4.0, а для оригинальной модели в разделе Credits приведена ссылка на C4AI CC-BY-NC License; условия следует уточнить для конкретного варианта и сценария использования.

Citaman/command-r-18-layer — объединённая языковая модель, созданная с помощью mergekit из двух срезов Citaman/command-r-19-layer методом SLERP. В метаданных указаны архитектура CohereForCausalLM, плотная архитектура и 16,9 млрд параметров; веса представлены в safetensors. Модель предназначена для генерации текста и диалогов, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Указанное в метаданных родительское семейство — Cohere; контекст составляет 8192 токена. Карточка не описывает отдельные специализированные области применения и не приводит сведения о лицензии, поэтому условия использования по этим данным определить нельзя.

OnlyTextLLMs выпустила текстовую версию Gemma 4 E2B IT на основе google/gemma-4-E2B-it. Это плотная авторегрессионная языковая модель с архитектурой Gemma4ForCausalLM; из исходной мультимодальной модели удалены компоненты обработки изображений и аудио и соответствующие специальные токены, а текстовый блок и языковая голова сохранены. Карточка указывает 4,65 млрд параметров, 35 слоёв и размер скрытого состояния 1536, тогда как метаданные каталога приводят 1,6 млрд параметров; точный размер поэтому расходится между источниками. Метаданные указывают контекст до 131072 токенов и поддержку диалогового режима. Модель предназначена для генерации текста и диалоговых сценариев, где вход и выход представлены текстом. Она не принимает изображения или аудио, в отличие от исходной Gemma 4 E2B IT. README сообщает, что новые обучающие данные и дообучение не добавлялись: изменён состав компонентов модели. Репозиторий распространяется по лицензии Apache 2.0.

GLM-5.3-Flash-GGUF — это квантизированные GGUF-версии языковой модели GLM-5.3-Flash от zai-org, подготовленные пользователем 6block с помощью llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp; заявлены поддерживаемые языки английский и китайский. Она подходит для сценариев, где требуется большая языковая модель с длинным контекстом и возможностью подобрать объём файлов под доступные ресурсы. Модель содержит 320 млрд параметров, из которых 18 млрд активируются на токен, и поддерживает контекст до 1 млн токенов. Архитектура включает 45 слоёв с гибридным вниманием: 34 слоя KDA linear attention чередуются с 11 слоями DSA sparse attention; используется MLA, Manifold-Constrained Hyper-Connections (mHC) и MoE с 288 экспертами, маршрутизацией top-8 и общим экспертом. В репозитории представлены варианты IQ4_XS, IQ3_XXS, IQ2_XS и IQ1_M размером примерно от 65 до 155 GiB, каждый разделён на 15 частей. Квантизация выполнена из официальных BF16-весов с калибровкой imatrix; слой MTP NextN исключён. IQ4_XS и IQ3_XXS рекомендуются авторами как предпочтительные варианты: IQ2_XS и IQ1_M заметно теряют качество, хотя требуют меньше места. Для запуска необходимо скачать все 15 частей выбранного варианта и указать первый файл в llama-cli; распределение слоёв по доступной памяти llama.cpp выполняет автоматически. Лицензия MIT, унаследованная от исходной модели zai-org/GLM-5.3-Flash.

Gemma 4 26B A4B it GGUF — квантизированная версия инструкционной модели google/gemma-4-26B-A4B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых и генеративных задач, а также сценариев image-text-to-text, согласно указанному pipeline tag. Модель распространяется в формате GGUF с вариантами точности от BF16 до Q3 и IQ3/IQ4, поэтому подходит для запуска на системах с разным объёмом памяти. Размер файлов составляет примерно от 12,55 до 50,51 ГБ. В README приведён специальный chat template и указана совместимость с llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и LoLLMs. Варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M — как рекомендуемый баланс качества и размера; более сильное сжатие экономит память, но снижает качество. Языки, точное устройство архитектуры, максимальная длина контекста и подробные характеристики мультимодальности в представленном README не указаны. Модель распространяется по лицензии Apache 2.0; для базовой Gemma также приведена отдельная ссылка на условия лицензии Google.

K2-Horizon-MoVA-36B-A4B-ROCmFP4-GGUF — это набор квантизованных GGUF-версий reasoning-модели IFM/MBZUAI K2-Horizon-MoVA-36B-A4B, подготовленный пользователем kingjones777 для запуска на GPU AMD с поддержкой ROCmFP4/ROCmFPX. Модель предназначена для генерации текста, рассуждений, агентских сценариев и вызовов инструментов. Базовая модель распространяется по лицензии Apache-2.0. Модель использует архитектуру k2_horizon MoVA с двумя независимыми экспертными системами: банком из 64 value-экспертов с выбором top-4 и MoE-блоком из 100 feed-forward-экспертов с выбором top-8. Всего модель содержит 36 млрд параметров, из которых активно используется около 4 млрд; архитектура включает 48 слоёв и скрытое представление размерностью 2560. Поддерживаются варианты Q4_0_ROCMFP4 и Q8_0_ROCMFPX объёмом от 18,57 до 36,45 ГиБ. README не указывает языки и максимальную длину контекста; в примерах запуска используется контекст 8192 токена. Основное преимущество — высокая скорость декодирования при меньшем числе активных параметров: на Ryzen AI Max+ 395 с Radeon 8060S заявлена скорость до 41 токена в секунду и prefill до 1238 токенов в секунду для варианта FAST. Доступны профили, ориентированные на скорость, качество квантования и агентские сценарии. Ограничения — необходимость специальной сборки llama.cpp с поддержкой одновременно k2_horizon и ROCmFP4/ROCmFPX, а также совместимого оборудования AMD Strix Halo (gfx1151). Модель генерирует рассуждения в поле reasoning_content, поэтому ей требуется достаточный бюджет токенов; при слишком коротком бюджете содержимое ответа может быть пустым.

win10/Mistral-Nemo-Instruct-2407-20b — текстовая разговорная модель на архитектуре Mistral, созданная с помощью mergekit методом passthrough на основе unsloth/Mistral-Nemo-Instruct-2407. В метаданных указаны 23 млрд параметров и контекст до 1 024 000 токенов. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; репозиторий содержит веса в формате safetensors и рассчитан на работу с Transformers. Данные подтверждают английскую маркировку семейства, но не задают перечень естественных языков модели. Лицензия в предоставленных источниках не указана.

amd/Mixtral-8x7B-Instruct-v0.1-FP8-KV — FP8-квантизированная версия модели Mixtral-8x7B-Instruct-v0.1, разработанная Advanced Micro Devices (AMD) на базе модели Mistral AI. Квантизация выполнена с помощью Quark с использованием калибровочных образцов из датасета Pile. Модель предназначена для эффективного развертывания и инференса через backend vLLM, включая сценарии на одной или нескольких GPU. Все линейные слои, кроме lm_head и слоёв, содержащих *.gate, используют симметричное тензорное представление FP8 для весов и активаций; KV-кэш также хранится в FP8. Такой подход снижает требования к памяти и может повысить эффективность инференса, однако способен приводить к потере точности по сравнению с исходной моделью. В оценке на wikitext2 perplexity составила 4,2187 против 4,1391 у исходной Mixtral-8x7B-Instruct-v0.1; результаты получены в режиме псевдоквантизации и приведены только для справки. Архитектура, число параметров, поддерживаемые языки и размер контекста в README не указаны. Модель распространяется по лицензии Apache License 2.0.

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-NVFP4-GGUF — GGUF-представление NVFP4-квантизованной эластичной языковой модели NVIDIA. В одном чекпойнте заключены три вложенных варианта на 30B, 23B и 12B параметров с общим пространством весов; для генерации можно выбрать подходящий размер. Модель основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 и сочетает Mamba-2, Transformer и Mixture-of-Experts. В базовой архитектуре 23 слоя Mamba-2 и MoE, 6 слоёв внимания, а в каждом MoE-слое — 128 экспертов и один общий, из которых на токен активируются шесть. Модель предназначена для диалогов, рассуждений и генерации текста, а вложенные размеры позволяют выбирать компромисс между качеством, вычислительными затратами и задержкой. Контекст в README указан до 128K в примере развёртывания и до 1M при увеличении настройки. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. В README описана квантизация NVFP4 с дистилляцией с учётом квантизации и заявлена готовность к коммерческому использованию. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с лицензией репозитория.

OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

MaziyarPanahi/Phi-3.5-mini-instruct-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе microsoft/Phi-3.5-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста и использования в локальных приложениях и интерфейсах, поддерживающих GGUF, включая llama.cpp, llama-cpp-python, LM Studio и другие совместимые инструменты. В репозитории представлены квантизованные варианты с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между размером модели, требованиями к памяти и качеством генерации. README не содержит сведений о точном размере модели, архитектуре, длине контекста, поддерживаемых языках, модальностях и лицензии. Формат GGUF ориентирован на эффективный локальный запуск, включая сценарии с GPU-ускорением, однако конкретные требования к оборудованию зависят от выбранного варианта квантизации и программного обеспечения.

duyntnet/Phi-3-medium-128k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-Medium-128k-Instruct, разработанной Microsoft и опубликованной пользователем duyntnet. Репозиторий предназначен для локального запуска модели через совместимые инструменты, включая llama.cpp; указано, что квантизации созданы с использованием актуальной версии llama.cpp. Модель относится к классу text-generation и работает с текстом. Исходная Phi-3-Medium-128k-Instruct — инструкционная языковая модель для диалогов, ответов на вопросы, генерации текста и решения задач по пользовательским запросам. Она рассчитана на использование в chat-формате и поддерживает контекст до 128 000 токенов; размер словаря токенизатора — до 32 064 токенов. В README указан английский язык. Архитектура и точное число параметров в представленных данных не раскрыты. Сильной стороной модели является большой контекст и наличие готовых GGUF-квантизаций для более эффективного локального инференса. Ограничения включают зависимость от совместимого рантайма и конкретного варианта квантизации, а также отсутствие в README подробных характеристик качества, требований к ресурсам и данных о поддерживаемых модальностях помимо текста. Лицензия указана как other; её точные условия требуют отдельной проверки в исходном репозитории Microsoft.

RedHatAI/Qwen2.5-1.5B-quantized.w8a8 — квантизированная версия языковой модели Qwen2.5-1.5B, разработанная Neural Magic. Модель предназначена для генерации текста и ассистентских диалогов, включая коммерческое и исследовательское применение на нескольких языках. На вход принимает текст и возвращает текст; заявленный язык — английский. Архитектура — Qwen2, размер — 1,5 млрд параметров. Модель использует INT8-квантизацию весов и активаций, что примерно на 50% снижает требования к видеопамяти и размер диска, а также может примерно вдвое увеличить производительность матричных умножений. Квантизуются линейные операторы в трансформерных блоках: веса — статически по каналам, активации — динамически для каждого токена. Для эффективного развертывания рекомендуется vLLM; в README указан контекст до 8192 токенов. По среднему результату OpenLLM Leaderboard модель набрала 58,34 против 58,48 у неквантизированной версии, сохранив 99,8% исходного результата. Ограничениями являются снижение точности по отдельным задачам и отсутствие в предоставленных данных подробной информации о поддерживаемых языках, безопасности, специализированных доменах и качестве за пределами указанных бенчмарков. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимое законодательство и нормативные требования.

mlx-community/Qwen3-235B-A22B-Instruct-2507-8bit — это 8-битная версия модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.0. Модель предназначена для генерации текста и работы в диалоговом формате через chat template, если он доступен в токенизаторе. Модель ориентирована на задачи инструкционного следования и текстовой генерации, включая ответы на пользовательские запросы и другие сценарии, поддерживаемые исходной моделью Qwen3. Из доступных данных известны размерная маркировка 235B-A22B и 8-битное представление, однако сведения об архитектуре, фактически активируемом числе параметров, языках, максимальном контексте, производительности и системных требованиях не приведены. Лицензия — Apache 2.0. README не содержит результатов тестирования и подробностей об ограничениях или рекомендуемых сценариях эксплуатации.

Qwen3-4B-Instruct-2507-GPTQ-Int4 — квантизированная версия модели Qwen/Qwen3-4B-Instruct-2507, опубликованная под идентификатором superjob/Qwen3-4B-Instruct-2507-GPTQ-Int4. Она предназначена для генерации текста и работы в диалоговых и прикладных сценариях, где важны компактность модели и снижение требований к памяти. Заявлена поддержка 104 языков, включая русский и другие языки стран СНГ. Модель использует 4-битную GPTQ-квантизацию весов и 16-битные активации (W4A16), размер группы — 128, порядок активаций статический. Формат compressed-tensors обеспечивает нативную поддержку в vLLM и оптимизирован для запуска с этим движком. README не содержит данных о точном размере контекстного окна, числе параметров исходной архитектуры, поддерживаемых модальностях помимо текста или результатах тестирования, поэтому оценить качество и ограничения по бенчмаркам невозможно. Модель распространяется по лицензии Apache 2.0, как и исходная модель.

BennyDaBall/Qwen3.8-Uncensored-NVFP4-MTP — это квантизированная GGUF-версия модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленная BennyDaBall. Модель основана на 27B-сборке Qwen3.8 с удалёнными ограничениями фильтрации, предназначена для генерации текста и диалогов, а также поддерживает работу с изображениями и видеокадрами при подключении vision-проектора. Заявлены английский и китайский языки. Контекстное окно составляет 262 144 токена. Основная часть трансформера из 64 слоёв сжата в формат NVFP4, а lm_head, embeddings, MTP-голова и vision-проектор сохранены в BF16. Встроенная MTP-голова позволяет использовать speculative decoding без отдельной draft-модели, что может существенно ускорять генерацию, особенно на структурированных данных, коде и повторяющихся фрагментах. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell, включая RTX 5090, RTX 5080 и RTX PRO; для работы требуются свежие версии llama.cpp с поддержкой NVFP4 и архитектуры qwen35 либо LM Studio 2.29.1 и новее. Производительность и эффективность спекулятивного декодирования зависят от оборудования и характера запроса, а для мультимодального режима требуется около 1 ГиБ дополнительной видеопамяти на vision-проектор. Распространяется по лицензии Apache-2.0.

Yi-1.5-34B-Chat-16K-GGUF — GGUF-квантизированная версия диалоговой языковой модели Yi-1.5-34B-Chat-16K, разработанной 01-ai и квантизированной компанией Second State Inc. Модель предназначена для генерации текста и ведения диалогов, включая локальное развёртывание через LlamaEdge. Она использует архитектуру Yi, поддерживает шаблон запросов ChatML и контекст длиной до 16 384 токенов. Доступны варианты с точностью от 2 до 16 бит и размером файлов примерно от 12,8 до 36,5 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более сильное сжатие уменьшает требования к памяти, но приводит к заметной потере качества; полноформатные F16-файлы требуют существенно больше ресурсов. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Модель распространяется по лицензии yi-license; подробные условия приведены в файле LICENSE. Для работы требуется совместимый рантайм, например LlamaEdge версии 0.10.0 или выше, с использованием соответствующего GGUF-файла.

Anrn 12B R1 — мультимодальная модель на основе Gemma 4 Unified, выпущенная проектом Anrn и представленная как BF16-база Google Gemma 4 12B с отдельным обученным адаптером LoRA, применяемым с проверенным коэффициентом 0,45. Архитектура — плотный декодер с 11,95 млрд параметров; заявлены входы в виде текста, изображений, аудио и видео. Для Transformers доступен мультимодальный сервис, а дополнительная сборка llama.cpp предназначена для текстового режима. Для llama.cpp указана поддержка контекста 128K. Модель рассчитана на диалог и решение сложных текстовых задач, а также на анализ изображений, аудио и видео через нативный сервис. В README приведены результаты MMLU-Pro, GPQA Diamond и AIME 2026 без инструментов; показатели получены в проектной оценке за август 2026 года и зависят от шаблонов промптов, параметров генерации и версии оценочного набора. BF16-веса требуют значительных ресурсов, а выгрузка части вычислений на CPU снижает скорость. Путь llama.cpp является квантованным текстовым вариантом и не поддерживает нативный мультимодальный ввод. Лицензия — Apache-2.0.

c4ai-command-a-03-2025-GGUF — это квантизированная GGUF-версия языковой модели c4ai-command-a-03-2025, разработанной CohereForAI. Данная сборка подготовлена bartowski с использованием llama.cpp и imatrix-квантизации и предназначена для генерации текста в локальных приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский, турецкий, украинский и вьетнамский языки. В README не указаны архитектура, число параметров, поддерживаемая длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступно несколько вариантов квантизации с размерами от 67,90 до 118,01 ГБ: Q4_K_L, Q4_1, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Более крупные варианты обычно лучше сохраняют качество, но требуют больше памяти. Ограничения включают значительные требования к ресурсам, зависимость от совместимого ПО и отсутствие заявленных характеристик производительности. Лицензия CC-BY-NC-4.0 разрешает только некоммерческое использование; для доступа также предусмотрено принятие лицензионного соглашения Cohere.

Это GGUF-квантизированная версия модели DeepSeek-V3.1-Terminus, подготовленная пользователем bartowski на основе оригинальной модели deepseek-ai. Квантизация выполнена с помощью llama.cpp версии b6550 с использованием метода imatrix и калибровочных наборов данных. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2_K, различающиеся размером файла и качеством: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Рекомендуемыми автор считает, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. В README не указаны архитектура, точный размер исходной модели, поддерживаемые языки, контекстное окно, мультимодальные возможности и формат промптов; для последнего рекомендуется обратиться к странице оригинальной модели. Лицензия также не указана, поэтому условия использования следует уточнять в репозитории исходной модели DeepSeek-V3.1-Terminus.

bartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-Distill-Qwen-7B, подготовленный bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченными ресурсами. В основе лежит модель размером 7B параметров; точная архитектура, поддерживаемые языки и размер контекста в представленном README не указаны. Доступны версии от F32 и F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и Q2 с размером файлов примерно от 3,55 до 30,47 ГБ. Квантизация выполнена с использованием llama.cpp и imatrix, а для запуска рекомендуется применять указанный формат prompt. Сильная сторона набора — широкий выбор компромиссов между качеством, размером файла и требованиями к памяти: версии Q6 и Q5 заявлены как обеспечивающие очень высокое или высокое качество, а Q4 — как подходящие для большинства сценариев. Более компактные варианты предназначены для систем с небольшим объёмом RAM, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования следует уточнять в документации исходной модели и репозитория.

bartowski/DeepSeek-V2.5-GGUF — набор GGUF-квантизаций модели DeepSeek-V2.5, разработанной DeepSeek AI и подготовленной для llama.cpp. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio; варианты файлов позволяют выбирать баланс между качеством, размером и требованиями к RAM или VRAM. Доступны квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_0, IQ4_XS, Q3, Q2 и IQ1–IQ3 различных уровней. Размер файлов составляет примерно от 52,68 до 250,62 ГБ; крупные варианты разделены на несколько файлов. Квантизации выполнены с использованием imatrix на базе llama.cpp b3658, отдельные варианты используют Q8_0 для embedding- и output-весов. Для модели указан формат prompt с системным сообщением, запросом пользователя и ответом ассистента. Сильная сторона набора — широкий выбор вариантов: Q6_K и Q5_K_M заявлены как близкие к исходному качеству, Q4_K_M — как рекомендуемый компромисс, а малые варианты подходят для систем с ограниченной памятью, хотя имеют заметно более низкое качество. README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках и размере контекстного окна. Лицензия указана как other/deepseek; применяются условия лицензии DeepSeek, доступной по ссылке в карточке модели.

GLM-5.3-Flash-GGUF — это квантизированная GGUF-версия модели GLM-5.3-Flash, разработанной zai-org и преобразованной с использованием llama.cpp пользователем qtum. Модель предназначена для генерации текста и запуска через совместимые инструменты, включая llama.cpp. Заявлены английский и китайский языки. Модель содержит 320 млрд общих параметров, из которых 18 млрд активируются для отдельного токена. Архитектура включает 45 слоёв гибридного внимания: 34 слоя KDA с линейным вниманием и 11 слоёв DSA с разреженным вниманием, построенных на MLA и дополненных Manifold-Constrained Hyper-Connections. Используется MoE с 288 экспертами, маршрутизацией top-8 и общим экспертом. Максимальная длина контекста заявлена до 1 млн токенов. В репозитории представлены квантизации IQ4_XS, IQ3_XXS, IQ2_XS и IQ1_M; каждая поставляется в 15 сегментах. IQ4_XS и IQ3_XXS рекомендуются как варианты с меньшей деградацией качества, тогда как IQ2_XS и IQ1_M существенно экономят память, но заметно ухудшают показатели. Сильными сторонами модели являются большой контекст, MoE-архитектура с относительно небольшим числом активных параметров и несколько уровней квантизации для разных ограничений по памяти. Ограничения включают очень большой размер файлов, необходимость загрузить все 15 сегментов и зависимость качества от выбранного уровня квантизации. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

NVIDIA Llama 3.3 70B Instruct NVFP4 — FP4-квантизованная версия инструктивной языковой модели Meta Llama 3.3 70B Instruct. Это авторегрессионная плотная модель на архитектуре Transformer/Llama 3.3 с 69,5 млрд параметров, принимающая текст и генерирующая текст. Контекст — до 128 тысяч токенов; модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов и генерации текста. Квантизация весов и активаций линейных операторов в блоках Transformer выполнена с помощью NVIDIA TensorRT Model Optimizer; по данным карточки, она уменьшает требования к дисковому пространству и памяти GPU примерно в 3,3 раза. Для инференса указан TensorRT-LLM, аппаратная совместимость — NVIDIA Blackwell. Модель основана на Meta Llama 3.3 70B Instruct и подходит для коммерческого и некоммерческого использования в соответствии с условиями лицензии Llama 3.3. В README не приведены конкретные языки и результаты бенчмарков, поэтому языковой охват и сохранение качества после квантизации по этим данным оценить нельзя.