I.1Поиск и навигация по информации

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-FP8 — языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это FP8-квантованная производная NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 на гибридной архитектуре Mamba-2, Transformer и MoE; в репозитории Transformers хранятся веса SafeTensors. В одном чекпойнте вложены варианты на 30B, 23B и 12B параметров, которые можно извлечь без дополнительного обучения. Для варианта 30B активны 3,6B параметров на токен; в меньших вариантах — 2,8B и 2,0B соответственно. Модель рассчитана на чат и задачи рассуждения; также README рекомендует её для прототипирования и описывает готовность к коммерческому применению. Она поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Контекст в метаданных — 262 144 токена; README указывает возможность увеличить контекст при использовании vLLM до 1M токенов с соответствующей настройкой. Elastic-структура позволяет выбирать компромисс между размером варианта и вычислительными затратами, а FP8-представление уменьшает требования к памяти. Модель предназначена для генерации текста и не описана как мультимодальная. Лицензия указана как other; README заявляет о готовности к коммерческому использованию, но конкретные условия лицензии следует сверять с файлами репозитория.

Phi-4-reasoning-plus-w4a16-llmcompressor — это квантизованная версия языковой модели Phi-4-reasoning-plus, разработанной Microsoft. Модель предназначена для генерации текста и работы с текстовыми запросами, включая задачи рассуждения; исходная архитектура представлена как Phi3ForCausalLM. Модель поддерживает английский язык. Чекпойнт подготовлен компанией AMD для инференса на процессорах AMD EPYC под Linux. Используется 4-битная квантизация весов без квантизации активаций (W4A16): веса представлены в формате INT4, симметрично и группами по 128 параметров, а активации сохраняются в BF16. Для запуска рекомендован стек vLLM 0.26.0, LLM Compressor 0.12.0, ZenDNN 6.1.0, ZenTorch 2.11.0.3 и PyTorch 2.11.0. Ключевое преимущество модели — существенное сокращение размера весов при сохранении качества: на тесте GSM8K она показала 0,8688 против 0,8704 у исходной BF16-модели, то есть восстановила 99,82% результата базовой версии. Ограничения включают ориентацию на CPU AMD EPYC, зависимость от совместимых версий программного стека и возможную потерю точности из-за агрессивной 4-битной квантизации. В README указана лицензия MIT; также отмечено, что модель распространяется на условиях лицензии исходной модели.

Prima-LelantaclesV4-7b-16k-bf16 — языковая модель семейства Mistral, объединённая ChaoticNeutrals из Test157t/Prima-LelantaclesV3-7b и Test157t/Yarncules-7b-128k методом SLERP. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста. Репозиторий содержит веса в формате Safetensors с точностью bfloat16; заявленный нативный контекст — 32 768 токенов. Модель подходит для генерации продолжений и ответов, а также для задач рассуждения и работы с длинным контекстом. В README приведены результаты Open LLM Leaderboard, в том числе 66,04 на AI2 Reasoning Challenge и 85,07 на HellaSwag; это отдельные оценки, а не гарантия качества в конкретном применении. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и лицензиях компонентов.

recursal/RADRWKV7Qwen2.5-7B — модель генерации текста на 7,1 млрд параметров, полученная преобразованием Qwen2.5-7B с помощью метода RADLADS. Она использует линейное внимание и архитектуру RWKV7Qwen2 и предназначена для диалогов и генерации текста; также заявлен интерфейс вызова инструментов. По README, преобразование требует 350–700 млн токенов дистилляции, сохраняет качество, близкое к исходной модели, и ускоряет генерацию благодаря постоянным затратам на токен. Модель принимает текст, выдаёт текст и поддерживает контекст длиной 32 768 токенов. Репозиторий использует safetensors и библиотеку Transformers; для загрузки требуется trust_remote_code=True. Лицензия — Apache-2.0.

Qwen2-VL-72B-Instruct — мультимодальная модель компании Qwen, дообученная для следования инструкциям на основе Qwen/Qwen2-VL-72B. Она принимает текст и изображения, а также видео для визуального анализа, и формирует текстовые ответы. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2-VL с динамическим разрешением изображений и мультимодальным позиционным кодированием M-ROPE; длина контекста составляет 32 768 токенов. Модель предназначена для ответов на вопросы по изображениям и видео, анализа документов и визуального содержимого, а также диалога и создания текстового описания по визуальному материалу. Она поддерживает разные разрешения и пропорции изображений; в README также описана возможность интеграции в системы, управляющие устройствами по визуальному окружению и текстовым инструкциям. Видеовход ограничен локальными файлами, а аудио в видео модель не понимает. Согласно README, известные ограничения включают неточный подсчёт объектов, слабое пространственное рассуждение, трудности со сложными многошаговыми инструкциями и ограниченное распознавание конкретных людей и объектов интеллектуальной собственности. Данные об изображениях актуальны до июня 2023 года. Модель распространяется под лицензией с меткой Hugging Face «other»; конкретные условия лицензии следует сверить в карточке репозитория.

unsloth/Qwen3.5-0.8B — постобученная компактная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-0.8B, опубликованная в формате Transformers и распространяемая по лицензии Apache-2.0. Это плотная причинная языковая модель с визуальным энкодером, поддерживающая диалог и анализ изображений; доступны интерфейс вызова инструментов и режим рассуждений, который для версии 0.8B по умолчанию выключен. Модель содержит 0,8 млрд параметров, имеет 24 слоя и нативный контекст длиной до 262 144 токенов. Архитектура сочетает Gated Delta Networks и gated attention. В карточке заявлена поддержка 201 языка и диалекта. Модель рассчитана прежде всего на прототипирование, дообучение под конкретные задачи, исследования и разработку; веса совместимы с Transformers и рядом серверных движков, включая vLLM и SGLang. Компактный размер удобен для экспериментов и специализированной настройки, а мультимодальная архитектура позволяет работать с текстом и изображениями. Масштаб модели ограничивает её возможности по сравнению с более крупными системами; для длинного контекста нужны значительные ресурсы памяти, а карточка рекомендует при нехватке памяти уменьшить окно контекста.

DazzlingShadow/Qwen3.5-122B-A10B-heretic-ARA — постобученная мультимодальная модель диалога на архитектуре Qwen3.5 MoE, опубликованная в формате Transformers. Abliteration изменяет поведение отказов: в приведённом сравнении модель отказала в 0 из 100 запросов против 88 из 100 у исходной Qwen/Qwen3.5-122B-A10B. Модель принимает текст и изображения и генерирует текст; она подходит для диалога, визуального понимания и ответов на вопросы по изображениям. Модель содержит 122 млрд параметров, из которых активируется около 10 млрд; архитектура включает 48 слоёв и разреженный Mixture of Experts. Контекстное окно — 262 144 токена, с заявленным расширением до 1 010 000. В карточке исходного семейства заявлена поддержка 201 языка и диалекта, однако языковая таблица в README опущена. Весы доступны в safetensors и совместимы с Transformers и рядом движков инференса. Лицензия — Apache-2.0.

amd/Qwen3.8-27B-Quark-Qronos-INT4-W4A16 — это квантизированная версия базовой модели Qwen/Qwen3.8-27B, разработанная с использованием AMD Quark и алгоритма Qronos. Модель предназначена для задач генерации текста и, согласно метаданным, имеет pipeline image-text-to-text. Она рассчитана на запуск в совместимых inference-средах, включая vLLM с поддержкой схемы W4A16Int4. Модель использует INT4-квантизацию весов с group size 128, тогда как активации сохраняются в формате BF16. Квантизация выполнена методом посттренировочной оптимизации Qronos на основе Hessian, с калибровкой по 128 образцам длиной 512 токенов. Размер базовой модели — 27B параметров. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. По приведённым измерениям, качество близко к BF16-версии: на GSM8K получено 94,62% в thinking-режиме и 89,99% в non-thinking-режиме, perplexity Wikitext составила 8,6819, а точность BFCL для single_turn — 23,80%. Основное преимущество — снижение точности представления весов до INT4 при сохранении большей части качества базовой модели. Ограничения включают зависимость от Quark-совместимого runtime, необходимость поддержки W4A16Int4 и неполную сопоставимость отдельных бенчмарков с публичными рейтингами. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой Qwen/Qwen3.8-27B.

Это мультимодальная диалоговая модель семейства Qwen3.5 с плотной архитектурой Qwen3_5ForConditionalGeneration и 27 млрд параметров, представленная Solstice-AI. Репозиторий содержит версию NVFP4 для оборудования NVIDIA Blackwell и упакованную конфигурацию с контекстом до 1 048 576 токенов на основе YaRN; заявлена автоматическая настройка контекста при запуске в vLLM и SGLang. Модель предназначена для диалога, следования инструкциям, творческого письма и анализа изображений. Поддерживает текстовый и визуальный ввод и выдаёт текст; в метаданных также указаны интерфейс вызова инструментов и английский и китайский языки. Это производная от дообученной модели DavidAU версия, упакованная Solstice-AI; лицензия — Apache-2.0. Заявление README о NVFP4 для Blackwell соседствует с метаданными о форматах GGUF BF16 и safetensors, поэтому точный формат конкретных файлов следует проверять в репозитории. Длина контекста 1 млн токенов заявлена в конфигурации, но практические требования к памяти и производительность зависят от оборудования и движка инференса.

DavidAU опубликовал полноточную версию модели на базе дообученной Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для диалога и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Контекст модели расширен с 32 768 до 196 608 токенов с помощью YARN. README рекомендует задавать контекст для рассуждений и генерации от 8 000 до 16 000 токенов; упоминается генерация длинных ответов. Модель принимает текст и выдаёт текст. В карточке не заявлена специализация на конкретных языках или прикладных областях. Это дообученная и модифицированная модель, а не самостоятельная базовая разработка. README описывает исходные веса в формате safetensors и возможность использовать их напрямую или конвертировать в другие форматы. Лицензия в предоставленных сведениях не указана.

Модель llamafy/Qwen-Qwen2.5-7B-llamafied — версия Qwen2.5-7B, преобразованная в формат Llama для совместимости с программами, поддерживающими этот формат. В метаданных указаны 7,1 млрд параметров, плотная архитектура с классом LlamaForCausalLM, библиотека Transformers и формат весов safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Она поддерживает несколько языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Родная длина контекста — 4096 токенов. Лицензия в предоставленных данных не указана.

Saba-Passthrough-2 — объединённая языковая модель Sakalti, созданная методом passthrough с помощью mergekit на основе Sakalti/Saba1.5-Pro. Это плотная авторегрессионная модель семейства Qwen2 с 2,9 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель распространяется в формате safetensors под лицензией Apache-2.0. README указывает на слияние одной модели, хотя метаданные каталога описывают происхождение как дообучение Sakalti/Saba1.5-Pro, поэтому способ происхождения в карточке трактуется как слияние по описанию автора.

SuperGemma4-26B-Uncensored-Fast v2 — текстовая локальная модель из репозитория Jiunsong, основанная на Google Gemma 4 26B A4B IT. Модель предназначена для запуска на Apple Silicon через MLX и ориентирована на агентские сценарии: генерацию и анализ кода, планирование, использование инструментов, автоматизацию браузера, логические задачи и работу с корейскими запросами. Заявленная особенность — uncensored-поведение без потери устойчивости в коде и tool-use. Модель представлена в формате MLX 4-bit и занимает около 13 ГБ. Поддерживаются текстовые входы и выходы; в README указаны английский и корейский языки. Размер контекста не указан. По приведённым автором быстрым локальным тестам модель получила общий результат 95,8 против 91,4 у исходной Gemma 4 26B IT в 4-bit и показала среднюю скорость 46,2 токена в секунду против 42,5. Наибольшие заявленные улучшения относятся к коду, логике и корейскому языку, однако методика и независимость этих измерений не раскрыты. Сильными сторонами являются сочетание локального запуска, высокой скорости, компактного 4-bit-представления и специализации на практических агентских задачах. Ограничения включают зависимость от экосистемы Apple Silicon и MLX, отсутствие мультимодальности, неизвестный размер контекста и потенциальные риски, связанные с uncensored-настройкой. В метаданных указана лицензия Gemma; README не содержит подробностей о дополнительных условиях её применения.

TriMistral-7B-MODELSTOCK — объединённая чат-модель на архитектуре Mistral, созданная с помощью LazyMergekit из HuggingFaceH4/zephyr-7b-beta, NousResearch/Hermes-2-Pro-Mistral-7B и instructlab/merlinite-7b-lab. В README указан метод объединения model_stock, а базовой моделью конфигурации названа Zephyr-7B-β. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и выполнения пользовательских инструкций. README приводит результаты оценки на наборах AI2 Reasoning Challenge и HellaSwag. Метаданные и карточка не подтверждают поддержку конкретных языков, поэтому языки не перечислены. Модель распространяется по лицензии Apache-2.0.

WestKunai-Hermes-long-128k-test-7b — слитая языковая модель на архитектуре Mistral, созданная автором seyf1elislam с помощью mergekit из WestKunai-Hermes-7b и NousResearch/Yarn-Mistral-7b-128k. Модель содержит 7,1 млрд параметров и предназначена для генерации текста.

XVERSE-MoE-A4.2B-Chat — разработанная Shenzhen Yuanxiang Technology чат-модель на архитектуре decoder-only Transformer с механизмом смеси экспертов (MoE), выровненная на основе XVERSE-MoE-A4.2B. В базовой модели 25,8 млрд параметров, из которых при вычислении активируются 4,2 млрд; в метаданных этого репозитория указано 1,4 млрд параметров. Модель поддерживает более 40 языков, включая китайский, английский, русский и испанский, и рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста на нескольких языках. В архитектуре используются общие и маршрутизируемые эксперты; по карточке, обучение проводилось на 2,7 трлн токенов с последовательностями длиной 8K. Репозиторий содержит веса PyTorch и поддерживает загрузку через Transformers. Модель может выдавать неточные, предвзятые или оскорбительные ответы, поэтому перед внедрением нужна проверка безопасности под конкретный сценарий. Метаданные указывают лицензию Apache-2.0; карточка отдельно отмечает открытость весов для академических исследований и возможность бесплатного коммерческого использования с оформлением коммерческой лицензии.

YamshadowStrangemerges_32_Inex16Calme — слитая модель семейства Mistral, объединяющая automerger/YamshadowStrangemerges_32-7B и automerger/Inex16Calme-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых ответов; заявленная длина контекста составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. В карточке не приведены сведения о языковой специализации или конкретных ограничениях качества; применимость следует оценивать для своего сценария.

Это исследовательская резервная копия чекпойнта в стандартном формате Hugging Face Transformers. Модель Yuq Zhou относится к семейству Qwen2: плотная авторегрессионная языковая модель на 7,1 млрд параметров с контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Доступны веса в формате safetensors. Карточка не описывает конкретные области применения или языковую специализацию, поэтому модель можно характеризовать как общего назначения. Чекпойнт обозначен как исследовательский артефакт-резервная копия, однако сведений о базовой модели, обучении или конкретных ограничениях качества в карточке нет. Условия лицензии в предоставленных данных не указаны.

Darwin-180B-RSI — мультимодальная модель рассуждений семейства Darwin, разработанная VIDRAFT и оценённая FINAL-Bench. Она основана на Qwen3.8-Flash-Next с архитектурой Mixture-of-Experts и предназначена для диалогов, сложных задач по математике и естественным наукам, анализа изображений и разбора документов. Модель принимает текст и изображения и выдаёт текст; в карточке заявлены поддержка корейского и английского языков, а также контекст 262 тыс. токенов. Разработчик описывает подход Recursive Self-Improvement: модель дообучалась на собственных ответах, прошедших проверку по эталонным ответам или исполняемым проверкам. В README заявлены высокие результаты на бенчмарках рассуждений, мультимодального понимания и структурированного вывода; эти показатели приведены издателем и зависят от протокола оценки. Модель поддерживает интерфейс вызова инструментов и предназначена для запуска через Transformers или vLLM. README указывает на длительные цепочки рассуждений, которые могут обрезаться при малом лимите генерации, и предупреждает, что модель может уверенно ошибаться; для оценки уверенности предлагается ZTC. Лицензия обозначена как other; родительская модель указана под Qwen Community License 1.0, но условия лицензии самой Darwin-180B-RSI в доступных данных не раскрыты.

ECE-TW3-JRGL-V3 — языковая модель на архитектуре Llama, созданная объединением моделей Tess-72B-v1.5b и Smaug-72B-v0.1 с помощью mergekit. Она предназначена для генерации текста, диалогов и ответов на вопросы, а также для общих сценариев работы с текстом. Модель содержит 71 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает и генерирует текст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Данные карточки не описывают отдельные ограничения или целевые языки модели.

ehristoforu/frqwen2.5-from7b-it — объединённая автором модель семейства Qwen2.5, созданная с помощью mergekit методом passthrough на основе Qwen/Qwen2.5-7B-Instruct. Это плотная причинная языковая модель для генерации текста и диалогов; доступны интерфейс чата и интерфейс вызова инструментов. В репозитории указаны 12,7 млрд параметров, контекст до 32 768 токенов и формат safetensors; модель рассчитана на работу через Transformers. Модель подходит для диалоговых приложений, генерации ответов и текста, а также сценариев, где требуется подключение инструментов. Базовая Qwen2.5-7B-Instruct предназначена также для генерации кода и структурированных ответов, однако README этой сборки не описывает её специфические улучшения или результаты оценки. Лицензия в предоставленных данных не указана.

Gemma 3 4B IT QAT GGUF — мультимодальная модель семейства Gemma 3, разработанная Google и представленная в формате GGUF сообществом LM Studio. Квантизация выполнена с использованием Quantization Aware Training для повышения качества работы в 4-битном режиме. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммирование и задачи, требующие рассуждений. Она поддерживает текстово-изображённые сценарии, обрабатывает изображения, нормализованные до разрешения 896 × 896 пикселей, имеет контекстное окно до 128 000 токенов и максимальную длину вывода 8192 токена. Другие характеристики, включая языковой охват и точный набор архитектурных параметров, в README не указаны. К сильным сторонам относятся мультимодальность, большое контекстное окно и оптимизация 4-битной версии с помощью QAT, что делает модель подходящей для локального запуска при ограниченных ресурсах. Ограничения связаны с применением квантизации и указанным пределом разрешения изображений; конкретное влияние на качество и требования к аппаратным ресурсам не описаны. Модель распространяется по лицензии Gemma, для доступа к ней на Hugging Face требуется принять условия лицензии Google.

win10/ghost-13.3b-beta-1608 — объединённая языковая модель, созданная с помощью mergekit методом passthrough на основе ghost-x/ghost-8b-beta-1608. Модель использует плотную архитектуру Llama с классом LlamaForCausalLM и предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Объём модели составляет 12,7 млрд параметров, заявленная длина контекста — 131 072 токена. Базовая модель описана как многоязычная модель на основе Llama 3. Модель распространяется в формате safetensors. Сведения о лицензии и конкретных ограничениях применения в предоставленных данных отсутствуют.

GLM-4.6V-Flash NVFP4 GGUF — квантованная мультимодальная модель Z.ai (Zhipu AI), подготовленная в формате GGUF на основе zai-org/GLM-4.6V-Flash. Она сочетает языковую часть на 9 млрд параметров с 40 слоями трансформера и 24-слойным визуальным ViT-энкодером. Контекст составляет 128K токенов; модель принимает изображения и текст и формирует текстовые ответы, включая описание изображений и разбор документов. Модель подходит для диалогов по изображениям, визуального анализа документов и локального мультимодального ассистента. Веса языковой части представлены в NVFP4, а проектор визуального энкодера — в F16; для полной работы с изображениями нужны оба файла. Нативное вычисление FP4 рассчитано на видеокарты NVIDIA Blackwell, на более старом оборудовании и CPU возможен более медленный программный fallback. Репозиторий указывает лицензию MIT. Квантование снижает требования к памяти, но может повлиять на точность по сравнению с исходными весами.

GLM-5.3-Flash-GGUF — квантизированная GGUF-версия модели GLM-5.3-Flash, разработанная BatiAI на основе официальных весов Z.ai. Это текстовая генеративная модель для локального запуска и сценариев on-device AI, включая диалоги, генерацию текста на английском, корейском и китайском языках, а также вызов инструментов. Модель использует архитектуру glm5next и разреженную MoE-конфигурацию: около 320 млрд параметров всего, из которых примерно 18 млрд активируются для каждого токена. В составе указаны 288 экспертов с выбором 8 экспертов на токен. Доступны варианты квантизации Q4_K_M, Q3_K_M, Q2_K, IQ3_XXS и IQ2_XXS; размер файлов составляет примерно от 76,6 до 175,7 GiB. Размер контекста в README не указан. Сильными сторонами являются возможность локального запуска, поддержка нескольких языков и проверенная генерация корейского текста и вызовов инструментов на всех заявленных уровнях квантизации. Ограничения связаны с тем, что архитектура пока требует специальной сборки llama.cpp с PR #27752 и не поддерживается стандартными сборками, Ollama и LM Studio. Вызовы инструментов выдаются в собственном XML-подобном формате, поэтому OpenAI-совместимый endpoint llama.cpp может возвращать пустое поле tool_calls; требуется самостоятельный разбор содержимого и запуск с параметром --jinja. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-W4A16 — это INT4-квантизированная версия модели zai-org/GLM-5.3-Flash, подготовленная для самостоятельного запуска и обслуживания через SGLang. Квантование выполнено по схеме weight-only W4A16 с группами по 128 весов и симметричным представлением. Модель предназначена для генерации текста, мультимодальных сценариев с изображениями и вызова инструментов; заявлены языки English и Chinese. Архитектура использует Mixture-of-Experts, а размер чекпойнта на диске составляет около 190,8 ГБ, что требует значительных аппаратных ресурсов. Основной сценарий применения — высокопроизводительный self-hosted inference на RTX PRO 6000 Blackwell (SM120) с использованием SGLang. В чекпойнте сохранены vision и tool calling, а также встроенная MTP/NEXTN-голова для speculative decoding, способная существенно повысить скорость генерации при корректной настройке. Данные о размере контекстного окна в README не указаны. Для корректной работы обязательны специальные параметры SGLang: отключение shared experts fusion, использование BF16 для KV-кэша и chunked prefill size 4096. Требуется сборка SGLang из post-merge nightly с дополнительными патчами для SM120; готового релизного образа с необходимой поддержкой на момент публикации нет. Без обязательного флага отключения fusion модель генерирует бессмысленный текст и не останавливается. Лицензия — MIT.

Huihui-MiniCPM5-1B-abliterated-GGUF — это GGUF-квантизированная версия модели Huihui-MiniCPM5-1B-abliterated, разработанной huihui-ai и подготовленной квантизатором mradermacher. Модель относится к семейству MiniCPM5 и предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, в том числе на устройствах с ограниченными ресурсами и периферийных устройствах. В метаданных заявлена поддержка английского и китайского языков. Модель имеет размер 1 млрд параметров. Точная архитектура и максимальная длина контекста в README не указаны; среди тегов присутствуют llama, long-context и tool-calling. Доступны варианты GGUF с разными схемами квантизации и размером примерно от 0,6 до 2,3 ГБ: от Q2_K до Q8_0 и f16. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант с лучшим качеством среди указанных. К сильным сторонам относятся небольшой размер, возможность локального запуска и широкий выбор вариантов квантизации, позволяющий выбирать баланс между качеством, скоростью и потреблением памяти. Ограничения включают возможное снижение качества у низкобитных вариантов и отсутствие в README подробных результатов оценки, описания точного контекстного окна и архитектурных характеристик. Модель распространяется по лицензии Apache-2.0.

JEB-4B — дообученная szybkie.ai модель принятия решений на базе плотной Qwen3.5-4B, предназначенная для классификации и выдачи вероятностей по заданным вариантам ответа. Вместо генерации текста она за один проход оценивает типизированные вопросы о состоянии или тексте: даёт ответ «да/нет», выбирает вариант или выставляет оценку по шкале. Несколько вопросов к одному состоянию обрабатываются параллельно с общим префиксом. Модель дообучена с целевой функцией для принятия решений: ограниченный softmax по токенам ответов обучался на мягких метках, полученных от учителя с 176 млрд параметров. Это помогает выдавать более калиброванные вероятности; в карточке приведены результаты на тестах классификации AG News, SST-2 и TREC. Модель принимает текст и выдаёт распределение вероятностей по предложенным вариантам. Заявленные языки — английский и польский; базовая Qwen3.5 также обладает мультимодальными возможностями, но README описывает сценарии JEB-4B как текстовые. Модель подходит для классификации, маршрутизации запросов и извлечения типизированных суждений в программных системах. Калибровка проверена на ограниченном наборе оценивания и может ухудшиться на других данных; перед использованием нужны проверка на целевом распределении и настройка порогов. Модель не предназначена для медицинских, юридических, финансовых или критичных для безопасности решений без независимой проверки и участия человека. Весы выпущены под Apache-2.0; код JEB — под MIT.

Mungert/LFM2.5-8B-A1B-GGUF — квантованный формат текстовой модели LFM2.5-8B-A1B, разработанной Liquid AI и опубликованной пользователем Mungert. Модель предназначена для локального и периферийного (edge) развёртывания, в частности для персональных ассистентов на устройствах, агентских сценариев, вызова инструментов, структурированных ответов и многоязычного диалога. Модель имеет гибридную архитектуру с 8,3 млрд параметров, из которых активно используется 1,5 млрд; включает 24 слоя — 18 double-gated LIV convolutional layers и 6 слоёв с GQA. Указаны контекст длиной до 128 000 токенов, словарь из 128 000 токенов и поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского и испанского языков. Это текстовая reasoning-модель, поддерживающая function calling; GGUF-формат ориентирован на llama.cpp и совместимые инструменты, а также на быстрый локальный inference на CPU и GPU. Сильные стороны модели — высокая производительность при небольшом числе активных параметров, поддержка длинного контекста, многоязычность, следование сложным инструкциям, tool use и пригодность для on-device deployment. Ограничения: модель не считается оптимальным выбором для сложного программирования и фактологически насыщенных задач без retrieval; README также не указывает конкретный вариант квантования для данного репозитория и его размер. Распространение осуществляется по лицензии lfm1.0; точные условия следует уточнять в файле LICENSE.

Sakalti/light-7b-beta — объединённая языковая модель на архитектуре Qwen2, созданная автором репозитория методом TIES с помощью mergekit на основе Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоги; заявленный контекст — до 131 072 токенов. Модель принимает текст и выдаёт текст. Её можно использовать для диалоговых ассистентов, генерации и продолжения текста, а также структурированных ответов. В метаданных указаны интерфейс вызова инструментов и лицензия Apache-2.0. Данных о конкретной специализации, языках или результатах оценки качества в карточке нет.