I.11Классификация, ранжирование и сопоставление

K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели K2-Horizon-MoVA-36B-A4B, разработанной Institute of Foundation Models (IFM) при MBZUAI и выпущенной 3 сентября 2026 года. Модель предназначена для генерации текста, рассуждений и работы с длинным контекстом; заявлена поддержка английского языка. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. Модель использует архитектуру k2_horizon и сочетает разреженную Mixture-of-Experts (MoE) с механизмом Mixture-of-Values (MoVA), применяющим разреженную маршрутизацию внутри attention. Всего предусмотрено около 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Архитектура включает 48 слоёв, 100 маршрутизируемых экспертов с 8 активными и одним общим экспертом на MoE-слой, а также 64 value-эксперта с 4 активными на attention-слой. Нативное контекстное окно составляет до 524 288 токенов. Доступны варианты от BF16 до низкобитных Q2 и IQ-квантизаций, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. При этом активация только 4 млрд параметров на токен не означает, что модель требует память уровня 4 млрд параметров: все веса объёмом около 10–70 ГиБ должны находиться в RAM или VRAM, а память под KV-кэш и служебные расходы учитывается отдельно. Для загрузки GGUF необходима ветка model/K2Horizon форка llama.cpp от MBZUAI-IFM либо версия upstream после добавления поддержки архитектуры k2_horizon. Лицензия модели — Apache 2.0.

Lamarck-14B-v0.6 — объединённая модель на архитектуре Qwen2, опубликованная sometimesanotion. Она создана как универсальная разговорная модель для генерации текста и рассчитана на многошаговые рассуждения, написание связной прозы и работу на нескольких языках. В карточке указано, что модель занимает первое место по среднему результату среди текстовых ассистентов до 32 млрд параметров на Open LLM Leaderboard; это заявление автора, а не независимая оценка здесь. Модель содержит 14 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 131072 токенов. README описывает многослойное слияние нескольких моделей и извлечённых LoRA-адаптеров; среди предков упомянута DRT-o1-14B, ориентированная на глубокие рассуждения и перевод. Метаданные отмечают чат и интерфейс вызова инструментов. В качестве заявленных ограничений конкретные слабые стороны не приведены; качество может различаться между языками и задачами. Лицензия — Apache-2.0.

coder3101/LFM2.5-350M-heretic — декензурированная версия LFM2.5-350M от Liquid AI, созданная автором репозитория с помощью Heretic v1.3.0. Это компактная плотная языковая модель для генерации текста и диалогов, рассчитанная на локальное и периферийное выполнение. По карточке исходная архитектура включает 16 слоёв: блоки свёрток LIV и GQA; модель принимает только текст и поддерживает контекст до 128 000 токенов согласно метаданным. Она предназначена для извлечения данных, структурированных ответов и работы с инструментами. В README сравнение с исходной моделью показывает 6 отказов из 100 против 90 из 100 у оригинала. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. README исходной модели указывает 350 млн параметров, тогда как метаданные этой версии — 444,6 млн. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Программирование и задачи, требующие обширных знаний, для исходной модели не рекомендуются; показатели производительности исходной модели не следует автоматически считать проверенными для этой версии. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке репозитория.

Dingdust выпустил Dingdust/LFM2.5-350M-heretic — производную текстовую модель Liquid AI LFM2.5-350M-Base с архитектурой LFM2 и 444,6 млн параметров. По карточке это версия с abliteration: в приведённом сравнении частота отказов снизилась с 89 до 7 на 100 запросов; модель рассчитана на диалоговую генерацию текста и локальный запуск. Для базовой модели в README описаны извлечение данных, выдача структурированных результатов и вызов инструментов. Указаны 16 слоёв, гибридные сверточные блоки и блоки GQA, а также поддержка девяти языков: английского, арабского, китайского, французского, немецкого, японского, корейского, португальского и испанского. Метаданные указывают контекст 128 000 токенов; README базовой модели приводит 32 768 токенов, поэтому фактическая длина контекста именно этой производной версии по источникам неясна. Лицензия обозначена как other, без дополнительных условий в предоставленных данных.

LFM2-700M — компактная языковая модель Liquid AI для локального и периферийного запуска на смартфонах, ноутбуках и других устройствах с CPU, GPU или NPU. Она содержит около 654 млн параметров по метаданным и построена на гибридной плотной архитектуре LFM2: 10 блоков коротких свёрток с двойными вентильными механизмами и 6 блоков внимания GQA. Модель предназначена для диалогов, агентных сценариев, извлечения данных, RAG и генерации творческих текстов; поддерживает шаблон чата в стиле ChatML и вызов инструментов. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. В карточке указан контекст 32 768 токенов, тогда как метаданные каталога сообщают native context в 128 000 токенов. Liquid AI описывает ускорение обучения и вывода и повышенную эффективность по памяти относительно предыдущих моделей и некоторых сопоставимых моделей; эти заявления относятся к оценкам разработчика. Для узких сценариев рекомендуется дообучение. Модель не рекомендуется для задач с высокими требованиями к знаниям или навыкам программирования. Лицензия в метаданных обозначена как other; конкретные условия следует проверить в репозитории модели.

AMD Llama-3.1-405B-Instruct-FP8-KV — это FP8-квантизированная версия инструкционной модели Meta-Llama-3.1-405B-Instruct, подготовленная компанией Advanced Micro Devices с использованием инструмента Quark и калибровочных образцов из набора данных Pile. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется развертывание крупной языковой модели с оптимизированным использованием памяти и вычислительных ресурсов. README не содержит дополнительных сведений о поддерживаемых языках, длине контекста и исходной архитектуре базовой модели. Квантизации подвергнуты все линейные слои, кроме lm_head; веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием per-tensor. Экспорт выполняется в формате Quark safetensors, а развертывание возможно через совместимый с vLLM backend. По данным оценки на wikitext2, perplexity увеличилась с 1,8561 у исходной модели до 1,8951 у квантизированной версии; при этом результаты получены в режиме псевдоквантизации и могут отличаться от точности реального инференса. Для работы требуется Quark, а из-за размера модели может понадобиться мног GPU-развертывание. Лицензия указана как llama3.1; модификации распространяются с авторскими правами Advanced Micro Devices, Inc. за 2024 год.

Llama3.1-70B-ShiningValiant2-GGUF — это квантизированная версия текстовой генеративной модели Llama3.1-70B-ShiningValiant2, разработанной ValiantLabs и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров; она ориентирована на режимы instruct и chat и предназначена прежде всего для работы с английским языком. Модель подходит для генерации текста, диалоговых сценариев, решения задач по естественным и техническим дисциплинам, включая физику, биологию, химию, информатику, инженерию и логическое рассуждение. В README приведены результаты на Winogrande и отдельных подзадачах MMLU, включая MMLU College Biology, что указывает на сильную сторону модели в задачах общего и научного понимания. Для запуска предлагается использовать LM Studio или совместимое программное обеспечение на базе llama.cpp с указанным шаблоном prompt. Доступно несколько вариантов квантизации с размером файлов примерно от 27,47 до 74,98 ГБ. Q6_K и Q5_K, а также Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; более компактные варианты экономят оперативную память, но могут заметно уступать по качеству. Требования к памяти, максимальный контекст, мультимодальные возможности и дополнительные языки в README не указаны. Модель распространяется по лицензии llama3.1.

duyntnet/Llama-3.1-SuperNova-Lite-imatrix-GGUF — набор GGUF-квантизаций модели Llama-3.1-SuperNova-Lite, разработанной Arcee.ai на основе архитектуры Llama-3.1-8B-Instruct. Модель предназначена для генерации текста, выполнения инструкций и широкого спектра прикладных задач, где важны высокая производительность и сниженные требования к ресурсам. Она может использоваться через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Модель содержит около 8 млрд параметров и представляет собой дистиллированную версию Llama-3.1-405B-Instruct: при обучении использовались офлайн-логиты крупной 405B-модели и набор инструкционных данных, созданный с помощью EvolKit. Заявлены сильные стороны в следовании инструкциям, производительности на бенчмарках и адаптации к предметным областям при компактном размере. В README указан английский язык; другие языки, размер контекста и точные характеристики отдельных квантизаций не приведены. Репозиторий содержит именно квантизированные варианты в формате GGUF с использованием imatrix, поэтому фактические требования к памяти и качество зависят от выбранной версии. Лицензия обозначена как other, но её конкретные условия в README не раскрыты.

Llama3.1-Typhoon2-70B-Instruct — большая языковая модель с 69,5 млрд параметров, разработанная Typhoon AI на основе Llama 3.1 70B. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов по инструкциям; карточка также указывает интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель рассчитана прежде всего на тайский и английский языки. Она подходит для ответов на вопросы и выполнения инструкций, диалогов, вызова функций, а также задач программирования и математики. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет 90 тысяч токенов. В сравнительных оценках карточки приведены результаты для следования инструкциям, переключения между тайским и английским, вызова функций, математики и кода. Модель находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на встроенные ограничения. Для использования применяются условия Llama 3.1 Community License; перед внедрением следует проверить соответствие её условий своему сценарию.

Magpie-Align/Llama-3-8B-Magpie-Align-SFT-v0.3 — плотная языковая модель семейства Llama 3, созданная Magpie-Align дообучением Meta-Llama-3-8B методом supervised fine-tuning на наборах Magpie-Pro-MT-300K-v0.1, Magpie-Reasoning-150K и Magpie-Qwen2-Pro-200K-Chinese. Размер модели — 7,5 млрд параметров, контекст — 8192 токена; она принимает текстовые запросы и генерирует текст, в том числе в формате диалога по официальному шаблону Llama 3. Модель предназначена для следования инструкциям, диалогов, рассуждений и генерации ответов на английском и китайском языках. Авторы сообщают о результатах, сопоставимых с Llama-3-8B-Instruct при использовании только SFT; эти показатели относятся к указанным в карточке бенчмаркам и не гарантируют качество в каждом сценарии. Модель доступна на условиях лицензии Meta Llama 3 Community License.

Llama-Thinker-3B-Preview — мультиязычная генеративная модель prithivMLmods на архитектуре Llama 3.2, дообученная на базе meta-llama/Llama-3.2-3B-Instruct. Модель содержит 3,2 млрд параметров и предназначена для диалога, генерации текста и решения задач, требующих рассуждений. По карточке, обучение включало supervised fine-tuning и обучение с подкреплением на синтетических данных с длинными цепочками рассуждений. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель доступна в формате safetensors и запускается через Transformers; для локального запуска карточка также описывает использование квантованных вариантов через Ollama. Лицензия — CreativeML OpenRAIL-M.

llm-jp-4.1-8b-thinking — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная трансформерная модель семейства Llama с 7,8 млрд параметров по метаданным и контекстом до 65 536 токенов. Репозиторий содержит веса в формате safetensors; для диалогов предусмотрен шаблон, совместимый с форматом ответов OpenAI Harmony, но для токенизации требуется прилагаемый токенизатор модели. Модель предназначена для генерации ответов и рассуждений в диалоге, а также для задач математики, естественных наук, вопросов и ответов, программирования, следования инструкциям и перевода между японским и английским. Она обучалась на японском и английском; после предварительного обучения прошла дообучение с учителем и выравнивание методом DPO, без обучения с подкреплением. Контекст и наличие диалогового режима делают её пригодной для многошаговых запросов и работы с длинными текстами. Разработчики оценивают модель на общих задачах, безопасности и вызове инструментов. Карточка предупреждает, что ответы могут быть неточными, неподходящими или нежелательными, поэтому результаты следует проверять. Разработчики не предназначают модель для непосредственного применения в производственных сервисах. Лицензия — Apache-2.0.

MLX-Community/Meta-Llama-3.1-8B-Instruct-4bit — это 4-битная квантизованная версия инструкционно дообученной языковой модели Meta Llama 3.1, адаптированная сообществом mlx-community для запуска с использованием MLX. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, написание и преобразование текста, а также другие задачи обработки естественного языка. Модель относится к семейству Llama и содержит 8 миллиардов параметров. Она работает в текстовой модальности, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В README размер контекстного окна не указан. Квантизация до 4 бит снижает требования к памяти и может упростить локальный запуск, однако потенциально уменьшает точность по сравнению с полноразмерной версией. Модель разработана для практического применения в локальных и ресурсоограниченных средах, но README не содержит подробных результатов тестирования, сведений о производительности или известных ограничениях качества. Распространение и использование регулируются Llama 3.1 Community License от Meta; она предусматривает соблюдение Acceptable Use Policy, сохранение уведомления об авторских правах и дополнительные требования к атрибуции и перераспространению. Для продуктов с более чем 700 миллионами ежемесячно активных пользователей требуется отдельное разрешение Meta.

mlx-community/Meta-Llama-3-8B-Instruct-4bit — 4-битная квантованная версия инструкционной языковой модели Meta Llama 3 с 8 млрд параметров, подготовленная сообществом mlx-community. Базовую модель разработала Meta. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые и другие сценарии обработки текста. Указанная поддерживаемая языковая версия — английский язык; модальность — текстовая. Размер контекста и дополнительные архитектурные характеристики в README не указаны. Ключевая особенность этой версии — 4-битное квантование, ориентированное на более эффективное локальное выполнение и снижение требований к памяти по сравнению с полноразмерными весами, однако README не содержит результатов оценки качества или точных эксплуатационных требований. Модель предназначена для text-generation и может использоваться в приложениях, которым требуется компактная инструкционная LLM. Модель распространяется по Meta Llama 3 Community License. Лицензия предоставляет ограниченные права на использование, копирование, распространение и создание производных работ при соблюдении условий Meta, включая сохранение лицензионного соглашения и уведомления об авторстве, отображение фразы «Built with Meta Llama 3» при распространении материалов или продуктов, соблюдение Acceptable Use Policy и специальные коммерческие условия для организаций с более чем 700 млн ежемесячных активных пользователей.

ThomasBaruzier/Meta-Llama-3-8B-Instruct-GGUF — это версия модели Meta Llama 3 8B Instruct в формате GGUF, подготовленная пользователем ThomasBaruzier. Базовая модель разработана Meta и предназначена для генерации текста на основе инструкций и диалогового взаимодействия. Модель относится к текстовым генеративным моделям и ориентирована на англоязычные сценарии: ответы на запросы, ведение диалога и выполнение текстовых инструкций. В карточке указаны размер 8B, формат GGUF и английский язык; сведения о длине контекста, конкретной архитектуре, вариантах квантования и поддержке других модальностей отсутствуют. К сильным сторонам относятся специализированная настройка для следования инструкциям и возможность использования в экосистеме GGUF. Ограничения включают отсутствие мультимодальности и неполные сведения о конфигурации конкретной сборки; качество ответов и требования к ресурсам зависят от выбранного варианта GGUF. Модель распространяется по Meta Llama 3 Community License. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, Acceptable Use Policy и требования Meta к атрибуции, включая указание «Built with Meta Llama 3» в применимых случаях.

MiniCPM5-2B GGUF — языковая модель, разработанная командой OpenBMB и представленная как вторая модель серии MiniCPM5. Это плотная Transformer-модель примерно на 2 млрд параметров, преобразованная в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска на устройствах с ограниченными ресурсами, включая on-device и edge-сценарии. Модель ориентирована на англоязычные и китайскоязычные задачи, включая программирование, математику, понимание длинного контекста, использование инструментов и агентские сценарии. В карточке также заявлена поддержка long-context и tool-calling, однако точный размер контекстного окна и дополнительные технические параметры не указаны. Это текстовая модель без заявленной поддержки изображений или других модальностей. К сильным сторонам относятся компактный размер, пригодность для локального развертывания и конкурентная производительность среди открытых моделей 2B-класса; по заявлению разработчиков, модель также сопоставима с некоторыми моделями класса 4B. Ограничениями являются меньшая ёмкость по сравнению с крупными моделями и отсутствие в карточке подробных количественных результатов, требований к ресурсам и гарантированных характеристик. Модель распространяется по лицензии Apache-2.0.

MiniMax-M1 — крупная модель рассуждений с открытыми весами, разработанная MiniMax. Она предназначена для генерации ответов и решения задач, требующих многошагового рассуждения и обработки длинного контекста. Модель использует гибридную архитектуру Mixture-of-Experts (MoE) и механизм lightning attention. В доступных сведениях не приведены размер модели, длина контекста, поддерживаемые языки и лицензия, поэтому эти характеристики нельзя уточнить.

amd/MiniMax-M2.7-MXFP4 — текстовая языковая модель MiniMax M2.7, разработанная MiniMax и оптимизированная AMD. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая сценарии с рассуждениями и вызовом инструментов. Указан английский язык; дополнительные языки в карточке не заявлены. Модель реализована на архитектуре MiniMaxM2ForCausalLM и представляет собой статически квантизованную версию amd/MiniMax-M2.7-BF16. Веса и активации квантизованы в формате OCP MXFP4 с использованием AMD-Quark: для весов применяется статическая, а для активаций — динамическая квантизация. Поддерживаются аппаратные платформы AMD MI350 и MI355, ROCm 7.2.1, PyTorch 2.10.0 и Linux. Для инференса указаны SGLang и vLLM; конфигурация также поддерживает tensor parallelism, выбор инструментов и парсеры MiniMax для вызова инструментов и рассуждений. Размер модели и длина контекста не указаны. Сильной стороной является существенное снижение точности представления при сохранении качества: на GSM8K модель получила 91,89 против 91,81 у исходной MiniMaxAI/MiniMax-M2.7, что соответствует восстановлению 100,09% результата. Ограничения включают зависимость от совместимого оборудования AMD и программного стека, а также отсутствие данных о качестве на других задачах, полном наборе языков и контекстном окне. Лицензия модифицированная MIT с некоммерческим использованием; коммерческое использование требует предварительного письменного разрешения MiniMax и соблюдения дополнительных условий.

Это сегментированная по файлам копия Mistral-7B-Instruct-v0.1 от filipealmeida, предназначенная для запуска при ограниченной памяти CPU. В основе лежит плотная трансформерная модель Mistral с 7,1 млрд параметров, дообученная следовать инструкциям на открытых диалоговых наборах данных. Архитектура использует Grouped-Query Attention и Sliding-Window Attention; карточка указывает контекст до 32 768 токенов. Модель принимает текстовые инструкции в формате с маркерами [INST] и [/INST] и генерирует текстовые ответы в диалоговых сценариях. Её можно применять для вопросов и ответов, ведения диалога, составления черновиков и выполнения текстовых инструкций. Разбиение весов на шарды снижает требования к памяти CPU при загрузке, но не является квантизацией и само по себе не меняет вычислительные требования модели во время генерации. Лицензия — Apache-2.0.

Mistral-Large-3-675B-Instruct-2512-GGUF — это квантизированная GGUF-версия инструкционной модели Mistral Large 3, разработанной mistralai и подготовленной пользователем bartowski для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для диалоговых сценариев и обработки текста, а также помечена как image-text-to-text, однако подробности о поддерживаемой работе с изображениями в README не приведены. Модель имеет заявленный размер 675B параметров и доступна в нескольких вариантах квантизации от Q8_0 до Q3 и IQ3/IQ4. Размер файлов составляет примерно от 279 до 716 ГБ, поэтому для запуска требуются значительные аппаратные ресурсы. Заявлены языки English, French, Spanish, German, Italian, Portuguese, Dutch, Chinese, Japanese, Korean и Arabic. Контекстное окно, точная архитектура и рекомендуемый формат промптов в README не указаны. Сильной стороной являются варианты Q6_K и Q5_K_M с качеством, близким к исходной модели, а также более компактные Q4- и IQ4-варианты с компромиссом между качеством и требованиями к памяти. Низкобитные варианты экономят место, но могут заметно уступать по качеству; часть форматов обозначена как устаревшая или нерекомендуемая. Модель распространяется по лицензии Apache-2.0.

neural-chat-7b-v3-2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi объединением Mistral-7B-Instruct-v0.2 и Intel/neural-chat-7b-v3-2 методом SLERP. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и выдаёт текст; её контекстное окно составляет до 32 768 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, следования текстовым инструкциям и генерации текста общего назначения. В метаданных указана лицензия Apache-2.0. Данных о специальных ограничениях качества или целевых областях применения в предоставленной карточке нет.

NousResearch Nous-Hermes-2-Mistral-7B-DPO — диалоговая языковая модель на базе Mistral-7B-v0.1, дообученная методом DPO. Предварительный чекпойнт OpenHermes-2.5-Mistral-7B обучался на миллионе инструкций и диалогов, преимущественно на синтетических данных высокого качества; разработчик сообщает об улучшении результатов на нескольких бенчмарках после DPO. Модель предназначена для генерации ответов на инструкции и многошагового общения. Она использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Для диалога применяется формат ChatML, включая системные сообщения и несколько ходов беседы. В карточке указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Качество ответов зависит от формулировки запроса; результаты на приведённых бенчмарках не гарантируют точность фактических утверждений или пригодность для конкретного сценария.

Это GGUF-квантизированная версия языковой модели Nemotron-H-8B-Reasoning-128K, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, поддерживающих llama.cpp, включая LM Studio и другие совместимые проекты. Модель относится к классу reasoning-моделей, имеет около 8 миллиардов параметров и заявленный контекст до 128K токенов. Доступны варианты от полного BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Более высокие варианты, включая Q6_K_L и Q6_K, обеспечивают качество, близкое к исходному, а Q4-варианты предлагают более компактный запуск. Сильными сторонами являются большой контекст, возможность локального использования и широкий выбор квантизаций для разного оборудования. Ограничения связаны с потерями качества при более агрессивной квантизации; точный формат промптов, поддерживаемые языки, архитектурные детали и официальная лицензия в представленном README не указаны.

OLMo-2-1124-13B-Instruct-GGUF — квантизированная версия инструкционной языковой модели OLMo-2-1124-13B-Instruct, разработанной Allen Institute for AI и подготовленной в формате GGUF автором bartowski. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях. Она поддерживает английский язык и использует текстовую модальность. Модель содержит 13 миллиардов параметров. В репозитории доступны исходный вариант F16 и различные уровни квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Квантизация выполнена с помощью llama.cpp и imatrix; для запуска следует использовать шаблон промпта с ролями system, user и assistant, указанный в README. Варианты Q6 и Q5 позиционируются как высококачественные, Q4_K_M — как сбалансированный вариант для большинства сценариев, а варианты с меньшим числом бит требуют меньше памяти, но могут заметнее терять качество. Сильной стороной модели является широкий выбор GGUF-квантизаций, включая варианты, оптимизированные для отдельных ARM-конфигураций и inference на CPU. Ограничения включают поддержку только английского языка, текстовый формат работы и неизбежное снижение качества у более агрессивно квантизированных вариантов. Размер контекста и другие архитектурные характеристики в предоставленных данных не указаны. Модель распространяется под лицензией Apache 2.0.

MaziyarPanahi/OpenHermes-2.5-neural-chat-7b-v3-1-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-1-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст, поэтому подходит для диалоговых помощников, ответов на вопросы и выполнения текстовых инструкций. В метаданных указана лицензия Apache-2.0. Языки модели по имеющимся данным определить нельзя.

Ovis2.6-30B-A3B — мультимодальная большая языковая модель семейства Ovis, разработанная ATH-MaaS. Она предназначена для диалога и анализа изображений: отвечает на вопросы по документам и нескольким страницам, распознаёт текст, извлекает сведения из таблиц и диаграмм, а также рассуждает по визуальным данным. Модель использует архитектуру Mixture-of-Experts с 30 млрд параметров, из которых при генерации активны примерно 3 млрд. Карточка указывает контекст до 64 тыс. токенов и обработку изображений с разрешением до 2880×2880; метаданные каталога указывают контекст 262 144 токена. README описывает возможность активного анализа областей изображения, включая кадрирование и поворот, с помощью визуальных инструментов. Модель принимает текст и изображения и выдаёт текст. В карточке не перечислены поддерживаемые языки, поэтому языковые коды не указаны. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. README предупреждает, что разработчики не гарантируют полного отсутствия проблем с авторскими правами или нежелательного содержания.

PLLuM-12B-instruct-2512 — польскоязычная инструктивная языковая модель семейства PLLuM, разработанная консорциумом PLLuM и продолжаемая альянсом HIVE AI. Модель предназначена для диалогов и общих языковых задач, включая генерацию и суммаризацию текста, извлечение информации и ответы на вопросы; также её можно использовать как основу специализированных ассистентов, в том числе для польской государственной администрации и юридических или бюрократических тем с подключённым поиском по документам. Это плотная авторегрессионная модель архитектуры MistralForCausalLM с 12,1 млрд параметров и контекстом до 131 072 токенов. Обучение включает продолжение предобучения на польских и английских текстах, инструктивную настройку и обучение на предпочтениях. Модель ориентирована прежде всего на польский язык, английский использован для расширения обобщения. Для прикладного использования опубликована в формате safetensors; лицензия — Apache 2.0. Карточка сообщает о хороших результатах на собственных тестах для польской публичной администрации и общих польскоязычных задачах, но не приводит численных оценок для этой версии. Для работы с актуальными или специализированными документами модель следует сочетать с поиском или RAG; ответы могут содержать ошибки и требуют проверки.

QRWKV-72B — крупная разговорная языковая модель от Featherless AI, представленная в работе RADLADS о дистилляции быстрого внимания для декодеров с линейным вниманием. Это плотная архитектура RWKV6Qwen2 с 71,5 млрд параметров, полученная преобразованием Qwen 2.5 72B в вариант RWKV без предварительного обучения базовой модели заново. Модель генерирует текст, поддерживает чат и интерфейс вызова инструментов; заявленная длина контекста — 131 072 токена. Модель предназначена для диалогов, генерации ответов и задач рассуждения с длинным контекстом. В README приведены результаты бенчмарков ARC и HellaSwag, где QRWKV-72B в некоторых сравнениях превосходит Qwen2.5-72B-Instruct, но это не гарантирует такого же качества в других задачах. Модель унаследовала знания и обучение языкам от Qwen и рассчитана примерно на 30 языков. Файлы опубликованы в формате safetensors; для Transformers требуется включить удалённый код. Лицензия указана как other, конкретные условия в доступных сведениях не раскрыты.

bunnycore/Qwen2.5-3B-Model-Stock — объединённая авторами bunnycore модель генерации текста, созданная методом Model Stock с помощью mergekit. В качестве основы использована Qwen/Qwen2.5-3B-Instruct, а в слияние также вошли huihui-ai/SmallThinker-3B-Preview-abliterated и bunnycore/Qwen2.5-3B-RP-Mix. Модель относится к плотной архитектуре Qwen2 и содержит 3,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим; указанный нативный контекст — 32 768 токенов. Репозиторий использует Transformers и формат safetensors. Карточка не сообщает лицензию или специальные ограничения применения.

Это 4-битная версия мультимодальной инструкционной модели Qwen2.5-VL-7B-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX с помощью mlx-vlm 0.1.11. Модель содержит 7,1 млрд параметров и предназначена для диалога и выполнения инструкций по текстовым запросам и визуальным данным. Модель принимает текст и изображения, а также поддерживает анализ видео согласно описанию базовой модели. Её можно применять для ответов на вопросы об изображениях, извлечения сведений из документов и других визуальных задач. Контекст составляет до 128 000 токенов; доступны интерфейсы чата и вызова инструментов. Репозиторий указывает формат safetensors и лицензию Apache-2.0. Карточка сообщества отсылает к оригинальной карточке Qwen2.5-VL-7B-Instruct за подробностями; качество и ограничения конкретной 4-битной версии отдельно не описаны.