II.7DevOps, облако и эксплуатация IT-систем

Qwen3.6-35B-A3B-NSC-ACE-SABER GGUF MTP — это квантизированная сборка модели, разработанная GestaltLabs на базе Qwen/Qwen3.6-35B-A3B. Репозиторий предоставляет файлы в формате GGUF для совместимых с llama.cpp сред выполнения, включая варианты F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K. Сборки подготовлены с поддержкой MTP (multi-token prediction) и предназначены для ускорения генерации при наличии соответствующей поддержки в runtime. Модель ориентирована на диалоговую генерацию текста, агентские сценарии и вызов инструментов, а также заявлена как multimodal image-text-to-text модель. В репозитории присутствуют конфигурация мультимодальности, процессор, шаблон чата и visual tower sidecar для обработки изображений и видео. В README указан английский язык. Пример запуска использует контекст 32768 токенов, однако максимальный размер контекста отдельно не подтверждён. К сильным сторонам относятся широкий выбор уровней квантизации, локальный запуск, MTP-ориентированная конвертация и улучшенные относительно базовой модели показатели на приведённой проверке BFCL для tool calling: например, точность имени функции выросла с 92,50% до 95,00%, а точность обязательных значений аргументов — с 79,79% до 83,54%. Ограничения включают зависимость ускорения от версии и возможностей llama.cpp, возможное ухудшение форматирования, точности аргументов и калибровки отказов у низких квантов, а также необходимость отдельно проверять поведение конкретных quant-файлов. Модель распространяется по лицензии Apache 2.0.

aquaduck/Qwen3.8-27B-GGUF — это квантизированная GGUF-версия причинной языковой модели Qwen3.8-27B, разработанной командой Qwen и Alibaba Cloud. Репозиторий Aquaduck предоставляет полную модель в формате Q4_K_M, полученную из unsloth/Qwen3.8-27B-GGUF, а также дополнительные шардированные файлы для поэтапной или многосетевой загрузки. Aquaduck отвечает за хостинг и упаковку, а не за обучение или отдельную тонкую настройку модели. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые с GGUF инструменты, такие как llama.cpp, а также использование в приложении Aquaduck. Она поддерживает мультиязычную работу в соответствии с возможностями базовой Qwen3.8-27B и рассчитана на контекст до 262 144 токенов. Архитектура включает около 27,8 млрд параметров, 64 слоя, GQA с 24 Q- и 4 KV-головами и размер скрытого состояния 5120. Ключевые преимущества — существенно меньший размер по сравнению с полноточными вариантами, совместимость с экосистемой GGUF и возможность staged loading с помощью двух шардов, разделённых после слоя 32. Полный файл подходит для обычного одноузлового запуска, тогда как отдельные шардированные файлы не являются самостоятельными моделями и предназначены только для Aquaduck Arc. Квантизация Q4_K_M может снижать качество по сравнению с версиями в более высокой точности; отдельные оценки для этого размещённого варианта не проводились, поэтому его ограничения, риски и смещения соответствуют базовой модели Qwen3.8-27B. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели. При использовании необходимо соблюдать требования лицензии и рекомендации базовой карточки модели, включая корректный chat template и режимы thinking или instruct.

iliaosipov998/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная fine-tune и merge-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, подготовленная с использованием Unsloth и методов COLD FUSION и Fable Fusion. Репозиторий содержит обычные и MTP-варианты GGUF-квантов, включая версии с 4- и 8-битным представлением. Разработчик заявляет о создании модели для потребительского оборудования и о снижении объёма рассуждений по сравнению с базовой Qwen 3.8 27B при сохранении детализации и качества ответов. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Заявлены поддержка английского и китайского языков, текстовый ввод и вывод; при этом в карточке присутствует тег image-text-to-text, но подробности о фактических мультимодальных возможностях не приведены. Архитектура, точное окно контекста и полный набор режимов работы не описаны, однако из названия и карточки следует размер базовой модели около 27B параметров и наличие MTP-режима. К заявленным сильным сторонам относятся высокая производительность на внутренних и упомянутых ARC-C и ARC-E тестах, уменьшенное количество рассуждающих токенов, ускоренная генерация, развитые способности к программированию и генерации подробных текстов. Эти результаты представлены авторами модели и не подтверждены независимыми измерениями в предоставленных данных. Ограничения включают возможную необъективность заявленных бенчмарков, отсутствие подробной информации о качестве, безопасности и поведении на других языках, а также позиционирование как uncensored/abliterated-модели, что может означать ослабленные защитные ограничения. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune и merge-сборка модели Qwen3.8 с 27 млрд параметров, опубликованная trinityomni на основе версии DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В разработке использовались методы Cold Fusion и Fable Fusion, а также инструменты Unsloth. Репозиторий содержит обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит, ориентированные на запуск на потребительском оборудовании. Модель предназначена для общих задач, рассуждений, программирования, creative writing, художественной прозы, ролевых сценариев и работы с различными жанрами текста. В карточке указаны английский и китайский языки; также заявлен pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Размер контекста не указан. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа, включая поддержку трёх режимов мышления и MTP. По утверждению авторов карточки, модель превосходит базовую Qwen3.8-27B и ряд других моделей в семи ключевых бенчмарках, а результаты ARC-C и ARC-E составляют соответственно до 735 и 880 для 8-битной версии; эти показатели являются заявленными разработчиками и не сопровождаются независимой верификацией в README. Сильными сторонами считаются скорость, сниженное избыточное рассуждение, навыки программирования и генерации творческого текста. Ограничения включают отсутствие данных о контекстном окне, системных требованиях, точных характеристиках мультимодальности и независимых тестах; из-за uncensored и abliterated-настройки модель может чаще выдавать небезопасный или нежелательный контент. Указанная лицензия — Apache-2.0.

Qwen3-8B TMax SFT v3 — контрольная точка модели Qwen3-8B после supervised fine-tuning, обученная командой или автором репозитория willamazon1. Она создана на итерации 353 запуска tmax_sft_v3 и использовалась как начальная политика и референсная модель для последующего обучения с подкреплением, чьи контрольные точки опубликованы отдельно. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Это плотная причинная языковая модель архитектуры Qwen3ForCausalLM с 7,6 млрд параметров и контекстом до 40 960 токенов. README сообщает о конвертации обучающего чекпойнта Megatron-LM в формат Hugging Face safetensors и о весах bfloat16. Базовая модель Qwen3-8B многоязычная и поддерживает генерацию, рассуждения, следование инструкциям, код и вызов инструментов. Эта версия является промежуточным SFT-чекпойнтом, поэтому её качество и поведение могут отличаться от последующих RL-чекпойнтов; README не приводит результаты оценки. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-ROCmFP4-STRIX-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, включая рассуждения, формирование JSON, программирование и суммирование длинных документов. Формат GGUF ориентирован на запуск через llama.cpp и совместимые среды. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4. Она оптимизирована прежде всего для AMD Ryzen AI Max+ 395, Strix Halo и GPU gfx1151 с ROCm, включая работу на интегрированной Radeon 8060S с общей памятью. В README указано, что размер модели составляет около 98 GiB, а работа с контекстом проверялась вплоть до 128K токенов. Доступна поддержка speculative decoding через дополнительную MTP-голову, однако измерения относятся к другим вариантам семейства и не гарантируют такой же прирост для этой сборки. Сильными сторонами являются возможность запуска очень крупной модели на системе с унифицированной памятью, поддержка длинного контекста и потенциальное ускорение генерации с MTP. Ограничения включают низкую пропускную способность общей памяти по сравнению с дискретными GPU, необходимость специальной ветки ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также применения патчей перед сборкой; стандартный llama.cpp этот файл не загружает. Языки модели в предоставленных данных не указаны. Лицензия обозначена как other с названием qwen-community-1.0.

Qwen_Qwen3-32B-GGUF — это квантизированная версия языковой модели Qwen3-32B, разработанной командой Qwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp, включая использование на системах с ограниченными ресурсами. В набор входят варианты с разными уровнями квантизации: от BF16 и Q8_0 до Q2_K и IQ2_M. Размер файлов составляет примерно от 12 до 65 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; для работы рекомендуется применять шаблон промпта Qwen3 с ролями system, user и assistant. Более высокие варианты квантизации обеспечивают качество, близкое к исходной модели, тогда как младшие варианты экономят память за счёт заметного снижения качества. Сильными сторонами являются широкий выбор форматов, возможность локального запуска и хорошее соотношение качества и требований к памяти у вариантов Q4–Q6. Ограничения включают значительный объём файлов, зависимость характеристик от выбранного уровня квантизации и отсутствие в предоставленных данных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре и мультимодальности. Модель распространяется по лицензии Apache-2.0.

RoguePlanet-DeepSeek-R1-Qwen-32B — объединённая плотная языковая модель на архитектуре Qwen2, созданная автором nitky методом Model Stock с помощью mergekit. В состав вошли модели японского языка, модели для рассуждений, программирования и инструкционного диалога; размер модели — 32 млрд параметров, контекст — 131 072 токена. Модель принимает текст и генерирует текст в формате диалога. Модель предназначена для генерации ответов с длинными рассуждениями, включая задачи на японском языке. В приведённом автором тесте рассуждений она прошла уровни LV1 и LV2, но не прошла LV3; базовая модель cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese не прошла ни один из этих уровней. Для использования рекомендован шаблон {SYSTEM_PROMPT}{USER_MESSAGE}. Модель распространяется по лицензии Apache-2.0. Результаты тестирования ограничены одним набором проверок и указанными параметрами генерации; они не гарантируют качество на других задачах.

Fulcrum-AI опубликовала модель Ryze-Nemo-passthrough — объединение языковых моделей, созданное с помощью mergekit методом passthrough. В конфигурации дважды используются слои модели mistralai/Mistral-Nemo-Instruct-2407: диапазоны 0–24 и 8–32; веса представлены в формате safetensors, а конфигурация слияния указывает bfloat16. Архитектура — плотная MistralForCausalLM примерно на 14,4 млрд параметров. Модель предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Указанная для неё длина контекста — 1 024 000 токенов. Базовая модель описана как многоязычная инструктивная модель для диалога, следования инструкциям и вызова инструментов. Лицензия в предоставленных данных не указана.

WINTER-FROST-3 — дообученная brucoder модель для генерации текста и диалогов. Она основана на WINTER-FROST-2-PRO, использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров. Модель принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке указан английский язык. В метаданных также отмечен интерфейс взаимодействия с инструментами. Модель подходит для текстовых запросов, диалогов и сценариев, где нужно вызывать инструменты через соответствующий интерфейс. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Лицензия — Apache-2.0.

Xiaolong-Qwen3-14B — 14-миллиардная плотная языковая модель семейства Qwen3, созданная nbeerbower дообучением Qwen3-14B-abliterated-TIES методом ORPO с использованием QLoRA. Модель ориентирована на диалог и рассуждения; в обучающую выборку вошли примеры по общему, физическому и математическому рассуждению, программированию, а также художественные тексты. Интерфейс модели поддерживает диалог и вызов инструментов. Модель принимает и генерирует текст, имеет контекстное окно 32 768 токенов и распространяется в формате safetensors для Transformers. Карточка описывает её как uncensored; это характеристика поведения модели, а не гарантия точности или безопасности ответов. Лицензия — Apache-2.0.

Карточка модели LCM-Lab/1.2steps300_full_streaming_64k_qwen3-8b_wfrozen на Hugging Face совпадает с карточкой LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen, поэтому описание составлено по ней. LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen — дообученная плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-4B, опубликованная LCM-Lab. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса Safetensors, модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. README озаглавлен «Elastic Attention: Test-time Adaptive Sparsity Ratios for Efficient Transformers», что указывает на связь модели с исследованием адаптивной разреженности внимания при работе трансформеров. Лицензия — Apache-2.0. Карточка не раскрывает конкретные результаты тестирования или подробные ограничения качества.

AAIKR 3.1 mini — компактная мультимодальная модель семейства Gemma 4, дообученная AI-исследовательской командой LOOP на базе google/gemma-4-e2b-it. Карточка указывает размер 2 млрд параметров и усиленную поддержку рассуждений на корейском языке; метаданные отмечают архитектуру Gemma4ForConditionalGeneration, чат и работу с изображениями. Модель предназначена для быстрых ответов на вопросы, рассуждений, генерации кода, поиска общих знаний и краткого пересказа документов, в том числе на устройствах с ограниченными ресурсами. К заявленным сценариям относятся системы вопросов и ответов в реальном времени, лёгкий помощник по коду, быстрое резюмирование документов и развёртывание на периферийных устройствах. Карточка предупреждает о возможных небольших смещениях в рассуждениях и сбоях памяти в очень длинных диалогах; для важных решений ответы следует проверять. Модель выпущена под лицензией Apache-2.0.

airoboros-l2-70b-2.2.1 — экспериментальная языковая модель автора jondurbin, основанная на Llama 2 и дообученная на преимущественно синтетических данных Airoboros 2.2.1. Это обновлённая версия airoboros-l2-70b-2.2: в ней заново сгенерированы ответы для письма, добавлены более длинные контекстные блоки, удалены примеры ролевой игры, смягчена степень снятия ограничений и проведено четыре эпохи обучения. Модель предназначена для выполнения инструкций и генерации текста общего назначения, включая ответы на вопросы по заданному контексту, суммаризацию, написание текстов и помощь с кодом. Архитектура — плотная LlamaForCausalLM примерно на 68,7 млрд параметров; поддерживает контекст до 4096 токенов. Карточка также описывает генерацию аргументов функций и планов выполнения, но для реального вызова инструментов требуется внешняя система. Для диалога используется текстовый формат с метками USER и ASSISTANT. В карточке указана лицензия Llama 2. Автор предупреждает, что квантование Q4_0 работает некорректно; также советует настроить остановку генерации на маркере USER, чтобы модель не продолжала диалог от имени собеседника.

Bagel 34B v0.4 — это дообученная jondurbin модель на базе 01-ai/yi-34b-200k, разработанная с использованием вычислительных ресурсов Convai Technologies. Это плотная причинно-авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 200 000 токенов. Она предназначена для генерации текста в диалогах и по инструкциям. Модель обучалась на разнообразных наборах данных для диалогов, ответов на вопросы, рассуждений, математики, программирования, суммаризации и ролевого общения. В карточке также перечислены данные для вызова функций и offensive cybersecurity, а README указывает на несколько вариантов формата запросов: Vicuna, Llama 2, Alpaca и ChatML; по умолчанию используется шаблон Llama 2. Метаданные отмечают поддержку чата, но отдельная возможность вызова инструментов не подтверждена. Модель принимает текст и генерирует текст. Данные карточки указывают на многоязычные обучающие материалы, включая набор Belebele, однако конкретный перечень поддерживаемых языков не задан. Лицензия обозначена как other, поэтому условия использования следует уточнить на странице модели. Обучение на разных форматах и источниках может давать неоднородное качество; ответы могут быть ошибочными, а специализированные навыки не гарантированы.

c4ai-command-a-03-2025-GGUF — это квантизированная GGUF-версия языковой модели c4ai-command-a-03-2025, разработанной CohereForAI. Данная сборка подготовлена bartowski с использованием llama.cpp и imatrix-квантизации и предназначена для генерации текста в локальных приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский, турецкий, украинский и вьетнамский языки. В README не указаны архитектура, число параметров, поддерживаемая длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступно несколько вариантов квантизации с размерами от 67,90 до 118,01 ГБ: Q4_K_L, Q4_1, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Более крупные варианты обычно лучше сохраняют качество, но требуют больше памяти. Ограничения включают значительные требования к ресурсам, зависимость от совместимого ПО и отсутствие заявленных характеристик производительности. Лицензия CC-BY-NC-4.0 разрешает только некоммерческое использование; для доступа также предусмотрено принятие лицензионного соглашения Cohere.

calcuis/deepseek-r1 — это квантованная версия DeepSeek-R1 в формате GGUF, основанная на модели deepseek-ai/DeepSeek-R1. Разработчик исходной модели — DeepSeek; репозиторий calcuis предоставляет её GGUF-представление. Модель предназначена для генерации текста и запуска через совместимые GGUF-коннекторы, включая gguf-connector, что подходит для локального или специализированного инференса. README отдельно отмечает исправленную загрузку и совместимость с архитектурой llama. Исходный DeepSeek-R1 — текстовая модель с архитектурой MoE, 671 млрд общих параметров и 37 млрд активируемых параметров. Указан английский язык; поддержка других языков, точный размер квантованного файла, допустимая длина контекста и конкретный вариант квантования для этой сборки в README не описаны. Приведённые результаты исходной модели показывают сильные стороны в математике, программировании, рассуждениях и китайских языковых тестах, однако эти показатели не обязательно полностью отражают характеристики данной квантованной версии. К ограничениям относятся зависимость от совместимого GGUF-коннектора и возможное снижение качества или точности из-за квантования; конкретные потери качества не представлены. Модель распространяется по лицензии MIT. Использование требует оборудования и программной среды, совместимых с GGUF и выбранным размером квантованного файла.

Текстовая модель семейства Llama, опубликованная Kunakornjack и дообученная на unsloth/DeepSeek-R1-Distill-Llama-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические задачи, программирование и многошаговые рассуждения. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель может применяться для диалоговых помощников, генерации ответов, решения математических задач и помощи с кодом. Карточка не описывает отдельные результаты или специализацию этого дообучения, поэтому его влияние на качество по сравнению с базовой моделью оценить нельзя. Лицензия — Apache-2.0.

huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 — модифицированная версия DeepSeek-R1-Distill-Qwen-14B от huihui-ai. Автор применил abliteration — экспериментальный метод изменения весов, предназначенный для ослабления отказов модели. Это плотная причинная языковая модель семейства Qwen2 на 14 млрд параметров; она принимает текст и генерирует текст, в том числе в диалоговом формате. Метаданные указывают контекст до 131 072 токенов и использование Transformers. Модель предназначена для диалогов и генерации текста, включая сценарии, где требуется меньше отказов на запросы. Базовая модель рассчитана на рассуждения, математику и программирование, однако карточка этой модификации называет её изменение грубым proof of concept и не приводит оценки качества. Лицензия в предоставленных данных не указана.

bartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-Distill-Qwen-7B, подготовленный bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченными ресурсами. В основе лежит модель размером 7B параметров; точная архитектура, поддерживаемые языки и размер контекста в представленном README не указаны. Доступны версии от F32 и F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и Q2 с размером файлов примерно от 3,55 до 30,47 ГБ. Квантизация выполнена с использованием llama.cpp и imatrix, а для запуска рекомендуется применять указанный формат prompt. Сильная сторона набора — широкий выбор компромиссов между качеством, размером файла и требованиями к памяти: версии Q6 и Q5 заявлены как обеспечивающие очень высокое или высокое качество, а Q4 — как подходящие для большинства сценариев. Более компактные варианты предназначены для систем с небольшим объёмом RAM, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования следует уточнять в документации исходной модели и репозитория.

DeepSeek-V4-Flash-0731-GGUF — квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek и опубликованной в формате GGUF организацией ggml-org. Модель предназначена для задач генерации текста и может использоваться в совместимых инструментах для локального или серверного запуска, включая llama.cpp и приложение llama.app. В README не указаны архитектура, количество параметров, поддерживаемые языки, размер контекста и точный набор модальностей; по имеющимся данным модель относится к текстовым генеративным моделям. Доступны квантизированные варианты, при этом для вариантов Q2 пока не применялась imatrix-калибровка, что может влиять на их качество. Модель автоматически конвертирована средствами проекта ggml-org/convert. Модель распространяется по лицензии MIT. Для запуска требуется совместимое программное обеспечение, поддерживающее формат GGUF.

EuroLLM-9B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели EuroLLM-9B-Instruct, разработанной проектом utter-project и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций и локальный запуск через совместимые приложения, например LM Studio. Модель имеет около 9 миллиардов параметров и поддерживает широкий набор языков, включая английский, немецкий, испанский, французский, итальянский, португальский, польский, русский, украинский, китайский, японский, корейский, арабский и хинди. Мультимодальные возможности и размер контекста в README не указаны. Доступны варианты от F16 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством: старшие варианты обеспечивают качество, близкое к исходной модели, а младшие подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. Модель удобна для локального инференса благодаря большому выбору квантизаций; рекомендованным вариантом по умолчанию назван Q4_K_M, а для максимального качества — Q6_K или Q6_K_L. Некоторые варианты оптимизированы для ARM или AVX и имеют ограничения совместимости, в частности отдельные сборки не рекомендуются для Mac или GPU. Лицензия — Apache-2.0.

Eurux-8x22B-NCA — диалоговая языковая модель из серии Eurus, разработанной OpenBMB и оптимизированной для рассуждений. Это дообученная методом SFT и preference learning модель семейства Mixtral с архитектурой Mixture of Experts; в карточке указано 22 млрд параметров и контекст до 65 536 токенов. Модель обучали на многоходовых траекториях UltraInteract и парах предпочтений UltraFeedback. Модель предназначена для генерации ответов в чате и выполнения инструкций, включая задачи по программированию, математике, рассуждениям и общим знаниям. README сообщает о сильных результатах в тестах на эти навыки, однако приведённые результаты не позволяют независимо оценить качество: часть таблицы отсутствует. Для работы доступны веса в формате safetensors и библиотека Transformers. Лицензия — Apache-2.0.

Falcon3-MoE-2x7B-Instruct — инструктивная языковая модель с архитектурой Mixture of Experts, созданная объединением двух моделей Falcon3-7B-Instruct. В README заявлено 13,4 млрд параметров и формат BF16; метаданные указывают 7,1 млрд параметров. Модель основана на Falcon3-7B-Instruct от TII, а репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов и генерации ответов по инструкциям. Базовая Falcon3-7B-Instruct рассчитана на задачи понимания языка, следования инструкциям, рассуждений, программирования и математики; контекст составляет до 32 768 токенов. В карточке для базовой модели перечислены английский, французский, испанский и португальский языки. Метаданные также отмечают интерфейс для вызова инструментов. Лицензия указана как other, поэтому конкретные условия использования следует уточнять в репозитории. Описание не содержит отдельных оценок качества или ограничений для MoE-версии; заявленные возможности базовой модели не следует считать подтверждёнными сравнительными результатами этой сборки.

Hercules-5.0-Qwen2-1.5B — дообученная компанией M4-ai плотная языковая модель на 1,5 млрд параметров на базе Qwen2-1.5B. Она предназначена для общего ассистентского общения и поддерживает формат запросов ChatML; заявленные области применения включают ответы на вопросы, математику, программирование и написание текстов. Модель работает с текстом и имеет контекст до 131 072 токенов. Для обучения использован набор данных Locutusque/hercules-v5.0. Модель опубликована в формате safetensors под лицензией Apache-2.0. В карточке не приведены результаты оценки качества; разработчики также отмечают, что сведения о рисках, смещениях и ограничениях требуют уточнения.

Infinity-Instruct-3M-0625-Qwen2-7B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), созданная дообучением Qwen2-7B на наборах инструкций Infinity-Instruct-3M и Infinity-Instruct-0625 с supervised instruction tuning, без RLHF. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров; она принимает текст и ведёт диалог по шаблону Qwen2-7B-Instruct. Заявленная длина контекста — 131 072 токена. Модель предназначена для выполнения инструкций, ответов на вопросы и многоходового диалога; авторы сообщают о результатах на AlpacaEval 2.0 и MT-Bench, включая вопросы по коду, математике и повседневные диалоги. Поддерживаемый язык в метаданных — английский. Модель распространяется по лицензии Apache-2.0, однако карточка проекта ограничивает использование связанных ресурсов академическими исследованиями и запрещает коммерческое применение. Авторы также предупреждают, что точность ответов не гарантируется.

Josiefied-Qwen3-8B-abliterated-v1 — диалоговая языковая модель, разработанная Gökdeniz Gülmez на основе Qwen/Qwen3-8B и дообученная для более свободных ответов с сохранением следования инструкциям и поддержки вызова инструментов. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и распространяется в формате safetensors для Transformers; заявленная длина контекста — 40 960 токенов. Модель предназначена для генерации текста в диалоге, ответов на инструкции и сценариев, где требуется менее ограниченная фильтрация ответов. Метаданные базовой модели указывают на многоязычные возможности, работу с рассуждениями и кодом. Автор перечисляет сторонние варианты в форматах GGUF и MLX, но карточка этого репозитория указывает safetensors. Модель разработал и распространяет Gökdeniz Gülmez. Лицензия в предоставленных данных не указана. Автор предупреждает о сниженной фильтрации безопасности: модель может выдавать чувствительный или спорный контент, а качество и безопасность ответов не гарантируются.

K2-Horizon-MoVA-36B-A4B — разреженная языковая модель семейства K2-Horizon от IFM с архитектурой Mixture-of-Experts и механизмом внимания Mixture-of-Values (MoVA). В модели хранится 36 млрд параметров, при генерации активируется около 4 млрд на токен; метаданные каталога указывают 3,7 млрд параметров. Модель предназначена для диалоговой генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Модель поддерживает контекст до 524 288 токенов и рассчитана прежде всего на английский язык. Разработчик сообщает о сильных результатах на бенчмарках рассуждений и агентных задач при небольшом числе активных параметров; независимые оценки в предоставленной карточке не приведены. Опубликованы веса, данные и код обучения, а также промежуточные чекпойнты. Для запуска в карточке приведены рецепты vLLM и SGLang; версия Transformers также валидирована. Модель распространяется по лицензии Apache-2.0. Для рекомендуемого качества карточка советует высокий уровень reasoning effort и настройки temperature=1.0, top_p=0.95; доступная производительность зависит от выбранного чекпойнта и вычислительной инфраструктуры.

Модель NotoriousH2/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная инструктивная языковая модель, опубликованная NotoriousH2. Она основана на архитектуре Llama и предназначена для генерации текста в диалоговом формате; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. Карточка сообщает о дообучении с использованием Unsloth и библиотеки TRL. Для весов указана лицензия Apache-2.0.

Kiel-2-Sol — диалоговая языковая модель KielTech для генерации текста, созданная дообучением Meta Llama 3.2 3B Instruct с помощью параметрически эффективной адаптации слоёв внимания и MLP. Модель содержит 3,2 млрд параметров, использует плотную архитектуру Transformer и поддерживает контекст до 131 072 токенов; в репозитории есть веса Safetensors и варианты GGUF Q4_K_M и Q8_0. Модель предназначена для многоходовых диалогов, многошаговых рассуждений, структурированного вывода, включая JSON, и автоматизации API-сценариев. В карточке заявлен английский язык и лицензия Apache 2.0. Метаданные отмечают возможность чата; README предлагает развёртывание через vLLM, но пример ограничивает длину контекста до 2048 токенов.