I.11Классификация, ранжирование и сопоставление

Thalassic-Alpha-LLaMa-70B — объединённая модель для генерации текста, созданная автором TareksGraveyard на основе DeepSeek-R1-Distill-Llama-70B и нескольких моделей семейства Llama. Для слияния предварительно обученных моделей автор использовал mergekit и метод Linear DELLA. Модель предназначена для диалогов и генерации ответов; автор сообщает о многообещающих ранних результатах, но отмечает, что другой вариант его эксперимента показался ему лучше. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она принимает текст и генерирует текст. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — llama3.3.

darkps_ice-AI-GGUF — это квантованные версии языковой модели ice-AI, разработанной DarkPs и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Входной модальностью является текст, спекулятивное декодирование не поддерживается. Модель содержит около 8 млрд параметров. Набор включает варианты от BF16 до низкоразрядных квантовок Q2 и IQ, размер файлов составляет примерно от 3,4 до 16,4 ГБ. Квантования с imatrix рассчитаны на работу через совместимые инструменты llama.cpp; разработчик рекомендует Q4_K_M как сбалансированный вариант по качеству, размеру и производительности, а Q6_K и Q6_K_L — для более высокого качества. Длина контекста в README не указана. Сильными сторонами являются широкий выбор квантований, возможность подобрать модель под доступный объём памяти и совместимость с экосистемой llama.cpp. Более компактные варианты экономят память, но могут заметно уступать старшим квантованиям по качеству. Лицензия — Apache-2.0; исходной моделью указана darkps/ice-AI.

DeepSeek-V4-Flash-0731-ds4-GGUF — набор квантизированных сборок финальной версии DeepSeek-V4-Flash от DeepSeek, подготовленных пользователем nazeshinjite для инференс-движка DwarfStar (ds4), разработанного antirez. Модель предназначена для локальной генерации текста, диалоговых приложений, программирования и агентских сценариев; поддерживаются интерактивный CLI, OpenAI- и Anthropic-совместимый HTTP API, а также дисковый KV-кэш для многошаговых сессий. Базовая модель использует архитектуру Mixture-of-Experts: около 284 млрд параметров, из которых примерно 277 млрд приходятся на маршрутизируемые эксперты. Репозиторий содержит смешанную Q2/Q4-сборку размером 90,9 GiB, плоские Q2- и Q4-варианты, а также опциональные draft head для speculative decoding. В основной сборке маршрутизируемые эксперты в последних слоях используют Q4_K, остальные — преимущественно 2-битные форматы, а attention-проекции, общие эксперты и выходной слой — Q8. Указана поддержка контекста до 1 млн токенов на подходящем локальном оборудовании; для 256K контекста заявлено потребление менее 3,5 GiB KV-кэша. Языки и мультимодальные возможности в README не указаны. Сильные стороны модели — существенное уменьшение размера при сохранении качества, высокая скорость декодирования в DwarfStar и эффективная работа с длинными повторяющимися контекстами благодаря дисковому KV-кэшу. На Apple M5 Max автор README сообщает скорость 36,8–27,1 токена в секунду в зависимости от длины контекста, однако эти результаты относятся к предварительным измерениям. Главные ограничения — файлы совместимы только с DwarfStar и не загружаются в llama.cpp, Ollama или LM Studio; для запуска требуется специализированный движок и мощное оборудование, включая системы с большим объёмом памяти, CUDA или ROCm. Распространение указано по лицензии MIT.

German-RAG-MISTRAL-7B-v3.0-SFT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это SFT-дообучение модели German-RAG-MISTRAL-7B-v3.0-CPT-HESSIAN-AI для сценариев генерации с контекстом, полученным через поиск. Модель рассчитана прежде всего на немецкоязычные бизнес-сценарии: ответы на вопросы по найденным документам, извлечение релевантной информации, суммаризацию и рассуждения, в том числе о временных связях. Поддерживает немецкий и английский языки. Размер — 7,1 млрд параметров, длина контекста — до 32 768 токенов. В обучающих примерах также предусмотрен формат для интеграции с контекстом и ссылками на источники. Модель выдаёт текст и может генерировать недостоверные ответы; факты следует проверять. В README также отмечены риски предвзятых и вредоносных ответов при отсутствии фильтрации безопасности. Модель и код доступны по лицензии Apache 2.0.

GLM-5.2-JANGTQ_K — квантованный вариант GLM-5.2 от Z.ai, подготовленный bearzi для запуска через MLX на компьютерах Apple с Apple silicon. Это языковая модель семейства GLM с архитектурой MoE и поддержкой чата; метаданные указывают 30,4 млрд параметров и контекст до 1 048 576 токенов. Профиль JANGTQ_K использует смешанную квантовку TurboQuant: routed-эксперты сжаты до 2 или 4 бит, а блоки внимания и индексатор DSA сохранены в FP16. Голова MTP удалена, поскольку она не используется в описанном режиме генерации MLX. Модель предназначена для генерации текста в диалоге, написания кода и длительных задач с большим контекстом. Для загрузки требуются около 260 ГБ объединённой памяти, пакет jang-tools и runtime MLX с патчем IndexShare; обычные MLX, LM Studio и Ollama этот набор не поддерживают без соответствующей доработки. В метаданных указана лицензия MIT.

Locutusque/Hyperion-3.0-Yi-34B — языковая модель Locutusque, дообученная на 150 000 примерах набора Hyperion-v3.0. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для диалогов, ответов на вопросы и генерации кода; в карточке также заявлены математические и логические рассуждения, а также понимание медицинских и научных текстов. Модель рассчитана прежде всего на англоязычные запросы и охватывает задачи программирования, медицины, математики и научных рассуждений. Её можно применять в учебных помощниках, технических чат-ботах и инструментах поддержки специалистов. Контекст составляет 4096 токенов; веса опубликованы в формате safetensors для Transformers. Автор README указывает лицензию Yi NC, тогда как метаданные Hugging Face содержат лицензию other; условия использования следует сверять с файлами лицензии в репозитории. Карточка предупреждает о возможной непоследовательности ответов из-за качества и разнообразия данных, а также о высокой склонности модели выполнять запросы; результаты оценки в README не приведены.

INTELLECT-3.1 — языковая модель Prime Intellect для генерации текста и рассуждений, продолженное обучение INTELLECT-3 с подкреплением на задачах математики, программирования, разработки программного обеспечения и работы с агентами. README описывает её как Mixture-of-Experts с 106 млрд параметров, из которых 12 млрд активируются; метаданные указывают 8,5 млрд параметров и архитектуру GLM-4 MoE на базе zai-org/GLM-4.5-Air-Base. Эти сведения о размере расходятся между источниками. Модель рассчитана на диалоговые сценарии, решение задач и агентные рабочие процессы. Указанная длина контекста — 131 072 токена. В карточке заявлена поддержка английского языка; метаданные отмечают возможность чата. README описывает запуск через vLLM на двух H200 и настройку интерфейса вызова инструментов, но это не подтверждает отдельный pipeline для вызова инструментов. Лицензия модели в метаданных — MIT.

Карточка модели Nour-Fayed/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Карточка модели lausannequants/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

Qwen3-32B-Nex-N1 — плотная языковая модель серии Nex-N1 от разработчиков платформы Nex, дообученная для автономной работы агентов. Она предназначена для генерации текста в сценариях программирования, вызова инструментов, веб-поиска и многошаговых задач, а также для создания мини-приложений и веб-страниц. В README приведены результаты оценки этой версии на агентных и программных бенчмарках; модель также поддерживает чат и вызов функций. Модель построена на архитектуре Qwen3 и содержит 29,7 млрд параметров. Контекст — до 131 072 токенов; репозиторий предоставляет веса в формате Safetensors. Она принимает и генерирует текст. README рекомендует запуск через SGLang и для вызова функций указывает парсер инструментов qwen3_coder. Лицензия — Apache-2.0.

Карточка модели claymorecrystal/Qwen3.6-27B-PRISM-PRO-DQ на Hugging Face совпадает с карточкой Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ, поэтому описание составлено по ней. Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ — квантованная версия PRISM-PRO на базе Qwen3.6-27B, подготовленная проектом PRISM в формате GGUF для llama.cpp с применением динамического квантования. Она сохраняет встроенную MTP-голову для черновой генерации и полную башню обработки изображений; размер файла составляет около 13,7 ГБ вместо 55 ГБ у BF16-версии. Модель предназначена для диалоговой генерации текста и может использоваться в сценариях, где нужны возможности базовой Qwen3.6-27B, включая программирование, агентные задачи и работу с изображениями. Для ускорения вывода README описывает спекулятивное декодирование с MTP или отдельной EAGLE-3-моделью; заявлено совпадение результата с обычным жадным декодированием с оговоркой о вычислительных различиях при пакетной проверке. Базовая архитектура сочетает 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания; в карточке не приведены общее число параметров и длина контекста. Модель распространяется по лицензии Apache-2.0. Квантование уменьшает размер по сравнению с BF16, однако README не сообщает точные потери качества или требования к видеопамяти.

Dans-PersonalityEngine-V1.3.0-24b — языковая модель PocketDoc, дообученная на базе mistralai/Mistral-Small-3.1-24B-Base-2503. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров, рассчитанная на генерацию текста и диалог в формате DanChat-2. Контекстное окно составляет 131 072 токена; автор указывает, что при длине свыше 32 768 токенов качество извлечения информации снижается. Модель предназначена для ролевых диалогов, совместного написания прозы и историй, генерации кода, вызова инструментов и решения сложных задач. Она дообучалась на более чем 50 специализированных наборах данных; основной язык — английский, также заявлена поддержка арабского, китайского, французского, немецкого, хинди, японского, корейского, португальского и испанского. В метаданных среди возможностей отмечены чат и код. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор сообщает о тренировке с помощью Axolotl на восьми GPU H100 в течение 50 часов. Качество ожидается наивысшим для английского языка; для контекста длиннее 32 768 токенов автор предупреждает о снижении точности извлечения информации.

GLM-4.7-Flash-REAP-23B-A3B — сжатая версия диалоговой модели GLM-4.7-Flash, созданная командой Cerebras методом REAP (Router-weighted Expert Activation Pruning). Это причинная языковая модель со sparse Mixture-of-Experts: в README указаны 23 млрд параметров, из которых активируются около 3 млрд на токен, 48 экспертов и выбор четырёх экспертов на токен. Метаданные указывают архитектуру GLM4 MoE Lite и формат safetensors. Модель предназначена для генерации текста и диалога, включая программирование, агентные сценарии, понимание больших репозиториев и вызов функций. Контекст составляет 202 752 токена. В карточке заявлено, что однократное удаление избыточных экспертов без последующего дообучения сокращает размер примерно на 25% при близкой к исходной производительности. Для развёртывания README рекомендует актуальную версию vLLM с поддержкой GLM-4.7-Flash. Лицензия — MIT. Описанные результаты производительности являются заявлениями карточки модели; независимая проверка и подробности оценочных таблиц в предоставленных данных отсутствуют. Метаданные карточки указывают английский язык.

LuxAI 1 Nemo — выпущенная LuxAI объединённая модель на архитектуре Mistral 3 для диалога на чешском и английском языках, программирования, математики и работы с инструментами. Репозиторий содержит самостоятельные веса BF16 в формате safetensors; обучение включало текстовые адаптеры и настройку выбранных строк токенов, а затем их слияние с моделью. В README указана корректирующая эпоха на 21 530 примерах: среди обучающих задач были математические и программные рассуждения, диалоги с инструментами и чешская беседа. Модель предназначена для генерации текста, ответов в чате, кода и вызовов инструментов. На диагностическом чешском наборе Lux Core 1 она набрала 72,92% (175 из 240); это специализированная оценка, а не общий рейтинг. Авторы рекомендуют начинать работу с контекста 8 192 токена, поскольку качество на большей длине не установлено. Также опубликованы варианты GGUF, включая смешанную 4-битную квантизацию, но их точность не следует считать равной результату BF16. Ограничения включают возможные фактические, математические и программные ошибки, ненадёжное формирование native-блоков рассуждений на чешских запросах и иногда пропущенные или повторяющиеся разделители протокола. Синтаксически корректный вызов инструмента не гарантирует верный выбор инструмента; структурированный вывод следует проверять. В README сведения о лицензии отсутствуют.

MiMo-Ornith-9B-AGSI — объединённая языковая модель OliviaRossi, созданная слиянием XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B и ornith-ai/Ornith-1.5-9B. Она предназначена для генерации текста в диалоге, рассуждений, программирования и агентных сценариев с вызовом инструментов, включая работу с терминалом и CLI. В метаданных указана плотная архитектура семейства Qwen 3.5; репозиторий содержит веса Safetensors и рассчитан на Transformers. README описывает метод слияния AGSI, а также рекомендует запускать модель с контекстом до 131 072 токенов. Модель ориентирована на сочетание математических и программных рассуждений с выполнением агентных задач и самоотладкой. Карточка сообщает о шаблоне чата Qwen и форматировании, отделяющем внутренние рассуждения от итогового ответа. Поддерживаемые языки по данным карточки — английский и китайский. Лицензия — Apache-2.0. Практические результаты и рекомендуемые параметры запуска из README не являются независимой оценкой качества; заявленный длинный контекст зависит от используемого сервера и конфигурации.

Карточка модели shaffhausen/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

Карточка модели shaffhausenquant/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

AtomicChat/Ornith-9B-GGUF — это квантизированная в формат GGUF версия языковой модели Ornith 1.0 9B, разработанной DeepReinforce и самостоятельно квантизированной командой Atomic Chat на основе оригинальных весов. Модель предназначена для локальной и полностью офлайн-работы, включая генерацию текста, диалоговые сценарии и задачи программирования. Она распространяется в нескольких вариантах квантизации, подходящих для запуска через llama.cpp, Ollama, LM Studio, Jan и Atomic Chat. Модель имеет плотную decoder-архитектуру с 32 слоями, 16 attention heads и 4 KV heads; в README также указана реализация Qwen3_5ForConditionalGeneration. Заявленная длина контекста — до 262 144 токенов, размер словаря — 248 320 токенов. Базовая модель поддерживает текст и изображения, однако данный репозиторий содержит только текстовые GGUF-версии без vision projector. Доступны варианты IQ4_XS, Q4_K_M, UD-Q4_K_XL, Q5_K_M, Q6_K и Q8_0; применение importance matrix должно снижать потери качества при низкой разрядности. Сильными сторонами являются большой контекст, офлайн-запуск, широкий выбор размеров файлов и ориентация исходной модели на coding agents и самоулучшающееся обучение с использованием reinforcement learning. Заявленные benchmark-результаты относятся к базовой модели DeepReinforce, а не к независимым измерениям этого репозитория; качество квантизированных версий может отличаться. Для корректного диалога требуется применять chat template Ornith 1.0 через параметр --jinja. Модель распространяется по лицензии MIT.

PaddleOCR-VL-1.5 — компактная мультимодальная модель PaddlePaddle для разбора документов по изображениям. Она сочетает зрительную обработку и генерацию текста; в метаданных указано 318,2 млн параметров, а контекст составляет 131 072 токена. Модель поддерживает распознавание текста и его расположение на изображении, в том числе в таблицах, формулах, диаграммах и печатях. Модель предназначена для извлечения структурированного содержимого из документов, включая многостраничные материалы и изображения с перекосом, деформацией, бликами и неравномерным освещением. README сообщает о результатах 94,5% на OmniDocBench v1.5 и расширенной поддержке редких символов, древних текстов, тибетского письма и бенгальского языка. По карточке доступны английский, китайский и многоязычный режимы; лицензия — Apache 2.0. Заявленные возможности включают слияние таблиц и распознавание заголовков между страницами, а также локализацию строк текста и распознавание печатей. Результаты бенчмарков приведены разработчиками и сами по себе не гарантируют качество на конкретных документах. Для запуска README описывает PaddleOCR и Transformers; пример Transformers использует bfloat16 и FlashAttention 2.

Qwen3.6-35B-A3B-REAM-160-ru-agent — экспериментальная сжатая версия Qwen/Qwen3.6-35B-A3B, подготовленная автором WaveCut методом REAM: основные языковые MoE-слои и блок MTP сведены к 160 экспертам. Калибровка ориентирована на код, математику, агентное использование инструментов и сохранение ответов на русском языке. Модель предназначена для диалогов, работы coding-агента и анализа изображений; метаданные указывают на интерфейс вызова инструментов и поддержку vision. Модель принимает текст и изображения и генерирует текст. README описывает проверки структуры и пробные сценарии на русском языке, отладке кода и вызове инструментов, но не приводит результаты количественной оценки качества. Формат файлов — safetensors, библиотека — Transformers. Условия лицензии в предоставленных данных не указаны.

SakalFusion-7B-Beta — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В слиянии использованы Qwen2.5-Coder-7B-Instruct, Qwen2.5-Math-7B-Instruct и Sakalti/model-3; базовая модель слияния — bunnycore/Qwen2.5-7B-RRP-1M. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования и математики, унаследованных от входящих в слияние моделей. Метаданные указывают контекст до 1 010 000 токенов и интерфейс для вызова инструментов. Карточка не приводит результатов оценивания, поэтому качество на конкретных задачах и практическая эффективность такого длинного контекста не подтверждены. Лицензия в предоставленных данных не указана. Модель создана на основе нескольких чекпойнтов, поэтому условия использования следует сверить с лицензиями исходных моделей.

Карточка модели WillowVoiceAI/surya-ocr-2 на Hugging Face совпадает с карточкой datalab-to/surya-ocr-2, поэтому описание составлено по ней. Surya OCR 2 — модель Datalab для распознавания и структурирования документов. Это плотная мультимодальная модель семейства Qwen3.5 с 650 млн параметров, которая принимает изображения и обрабатывает страницы документов как единая VLM. Она выполняет OCR, анализ структуры и порядка чтения, а также распознавание таблиц; заявлена поддержка 91 языка по внутреннему тестированию. Модель подходит для извлечения текста и структуры из изображений и PDF, включая таблицы, заголовки, формы и математические выражения. В README указаны результат 83,3% на olmOCR-bench и пропускная способность около пяти страниц в секунду на RTX 5090; это результаты авторов и конкретной конфигурации. Для инференса OCR, анализа структуры и таблиц требуется сервер vLLM или llama.cpp. Модель специализируется на документах, а не на фотографиях или природных сцен. Код Surya распространяется по Apache 2.0, но веса — по модифицированной лицензии AI Pubs Open Rail-M: бесплатное использование разрешено для исследований, личных проектов и стартапов с финансированием или выручкой менее 5 млн долларов. Для более широкого коммерческого использования весов требуется отдельная лицензия.

Карточка модели LCM-Lab/1.2steps300_full_streaming_64k_qwen3-8b_wfrozen на Hugging Face совпадает с карточкой LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen, поэтому описание составлено по ней. LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen — дообученная плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-4B, опубликованная LCM-Lab. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса Safetensors, модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. README озаглавлен «Elastic Attention: Test-time Adaptive Sparsity Ratios for Efficient Transformers», что указывает на связь модели с исследованием адаптивной разреженности внимания при работе трансформеров. Лицензия — Apache-2.0. Карточка не раскрывает конкретные результаты тестирования или подробные ограничения качества.

hiyouga/Baichuan-7B-sft — двуязычная instruction-tuned LoRA-модель на архитектуре Baichuan, предназначенная для генерации текста в ответ на инструкции и вопросы. При дообучении использовались наборы Alpaca, Alpaca-ZH и CodeAlpaca, поэтому модель подходит для диалоговых запросов, следования инструкциям и задач по коду на китайском и английском языках. Модель содержит 6,7 млрд параметров, принимает текст и выдаёт текст; нативная длина контекста — 4096 токенов. Репозиторий содержит веса PyTorch, а для работы требуется базовая модель Baichuan-7B. Модель опубликована hiyouga в июне 2023 года и распространяется по лицензии Apache-2.0, хотя README также предписывает соблюдать лицензию Baichuan-7B; перед использованием следует проверить применимые условия обеих лицензий.

google/gemma-4-31B-it-assistant — вариант Gemma 4 от Google DeepMind с инструкционной настройкой и поддержкой Multi-Token Prediction (MTP). В спекулятивном декодировании небольшой черновой модуль предлагает несколько следующих токенов, которые основная модель проверяет параллельно; карточка заявляет ускорение генерации до 3 раз при сохранении того же качества, что и при обычной генерации. Архитектура плотная, веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для ускорения генерации текста с низкой задержкой, в том числе при локальном развёртывании. Семейство Gemma 4 поддерживает работу с текстом и изображениями, а также генерацию кода, рассуждения и вызов инструментов; у модели заявлено контекстное окно до 256 тысяч токенов и многоязычная поддержка. Карточка семейства также описывает видео и аудио, но аудио поддерживается только вариантами E2B, E4B и 12B, а не 31B. Лицензия — Apache 2.0. Ускорение зависит от использования в совместимом конвейере спекулятивного декодирования; MTP-черновик не является самостоятельной заменой целевой модели. В карточке не приведены отдельные сведения об оценках и ограничениях именно этого чекпойнта.

German-RAG-PHI-3.5-MINI-4B-SFT-HESSIAN-AI — авторегрессионная языковая модель на базе Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Модель дообучена для сценариев генерации с использованием найденных документов и предназначена прежде всего для немецкоязычного рынка. В метаданных указаны архитектура Llama, 3,7 млрд параметров и контекст до 131 072 токенов; веса доступны в формате safetensors. Модель отвечает на вопросы по предоставленному контексту, извлекает релевантную информацию, составляет краткие сводки и выполняет задачи рассуждения. README также описывает обучение на примерах RAG и поддержку немецкого и английского языков. Лицензия в метаданных Hugging Face — MIT; README указывает Apache 2.0, поэтому сведения о лицензии расходятся и требуют проверки перед использованием. Ответы могут содержать фактические ошибки, а без фильтрации модель способна выдавать вредоносный или чувствительный контент. Результаты следует проверять, а для пользовательских приложений учитывать риски предвзятости и генерации небезопасного текста.

GLM-5.2-EXL3-TR3-3.40bpw-KVarN-K4V2 — это локально ориентированный serving-чекпойнт на базе GLM-5.2 от zai-org, подготовленный jpsequeira. Модель предназначена для генерации текста, прежде всего для задач программирования, рассуждений и агентских сценариев, с акцентом на эффективное развертывание на четырёх GPU RTX PRO 6000 Blackwell по 96 ГБ. Чекпойнт рассчитан на использование с форком local-inference-lab/vllm и специализированными компонентами b12x, KVarN и sparkinfer. Модель использует архитектуру GLM-5.2 размером 756B параметров с MoE и маршрутизацией экспертов. Применена смешанная EXL3-квантизация примерно 3,40 бит на вес, а для KV-кэша используется формат KVarN K4V2 с затратами 290 байт на токен на слой. Поддерживаются sparse MLA attention, paged top-k indexer и MTP3 speculative decoding. Для данного класса оборудования подтверждён контекст до 819K токенов; модель относится к текстовым моделям, однако сведения о поддерживаемых языках в README не указаны. Сильными сторонами являются высокая экономичность KV-кэша, большой практически проверенный контекст и оптимизация под локальное инференс-развёртывание. При этом качество квантизации зависит от домена: заявленные низкие значения KLD на калибровочном наборе не обобщаются на отложенные данные, где модель уступает некоторым общественным чекпойнтам GLM-5.2. Кроме того, для работы требуются совместимые GPU, специализированный runtime и соответствующие backend-компоненты. Чекпойнт распространяется по лицензии MIT.

GRM-3.2-Cliff — модель OrionLLM для длительных агентных сценариев и сложных задач рассуждения. Она основана на Ornith-1.0-9B и, согласно README, содержит 9 млрд параметров; метаданные указывают архитектуру семейства Qwen 3.5 и поддержку диалогов и изображений. Модель предназначена для многошагового планирования и выполнения локальных рабочих процессов, сложного программирования, отладки и рефакторинга, продвинутой математики и логических задач. Разработчик заявляет, что модель рассчитана на продолжительные взаимодействия с сохранением цели и может работать на оборудовании с ограниченными ресурсами GPU. В качестве входа поддерживаются текст и изображения, выход — текст. В README не указаны поддерживаемые естественные языки и длина контекста. Модель распространяется по лицензии Apache 2.0; заявленные характеристики качества и эффективности представлены разработчиком, поэтому их следует оценивать с учётом конкретного сценария.

Josiefied-Qwen3-8B-abliterated-v1 — диалоговая языковая модель, разработанная Gökdeniz Gülmez на основе Qwen/Qwen3-8B и дообученная для более свободных ответов с сохранением следования инструкциям и поддержки вызова инструментов. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и распространяется в формате safetensors для Transformers; заявленная длина контекста — 40 960 токенов. Модель предназначена для генерации текста в диалоге, ответов на инструкции и сценариев, где требуется менее ограниченная фильтрация ответов. Метаданные базовой модели указывают на многоязычные возможности, работу с рассуждениями и кодом. Автор перечисляет сторонние варианты в форматах GGUF и MLX, но карточка этого репозитория указывает safetensors. Модель разработал и распространяет Gökdeniz Gülmez. Лицензия в предоставленных данных не указана. Автор предупреждает о сниженной фильтрации безопасности: модель может выдавать чувствительный или спорный контент, а качество и безопасность ответов не гарантируются.