II.7DevOps, облако и эксплуатация IT-систем

FuseChat-7B-TA — диалоговая языковая модель FuseAI, разработанная в рамках исследовательской работы учёных Университета Сунь Ятсена. Это вариант FuseChat-7B, полученный слиянием знаний нескольких чат-моделей; версия TA использует один из методов слияния. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и базовая модель OpenChat 3.5, дообучение которой также входит в процесс создания FuseChat. Модель предназначена для диалогов и выполнения текстовых инструкций общего назначения, включая ответы на вопросы, письмо, ролевые сценарии, рассуждения, математику, программирование и темы STEM и гуманитарных наук. Контекст составляет 8192 токена. В README для FuseChat-7B-TA указана средняя оценка 8,20 на MT-Bench. Модель принимает и выдаёт текст; в карточке отмечен английский язык. Слияние позволяет объединить способности нескольких моделей в одной без необходимости загружать несколько экспертов во время инференса. Модель выпущена под лицензией Apache-2.0. Показатель MT-Bench не гарантирует качество для конкретной задачи; подтверждённые возможности в карточке ограничены генерацией текста и чатом.

G9v3-3B — плотная причинная языковая модель команды AI9Stars на архитектуре LlamaForCausalLM с примерно 2,7 млрд параметров. Она предназначена для локального запуска и сценариев с ограниченными ресурсами; поддерживает контекст длиной до 131 072 токенов. Модель рассчитана на повседневные задачи ассистента, программирование, работу с инструментами и рассуждения. В README описаны режимы генерации с включённым и отключённым режимом обдумывания; метаданные указывают поддержку чата и английского и китайского языков. Для запуска подходят Transformers, vLLM и SGLang. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому результаты следует проверять, особенно перед использованием в важных решениях. Лицензия — Apache-2.0.

Delta-Vector/GLM-4-32B-Tulu-Instruct — плотная языковая модель семейства GLM-4, дообученная автором на смеси Tulu-SFT. Она предназначена для диалогов, следования инструкциям и генерации текста; в метаданных также отмечены сценарии работы с кодом. Модель содержит 31,6 млрд параметров, принимает контекст до 32 768 токенов и использует формат диалога ChatML. Автор сообщает, что при обучении были удалены примеры выравнивания безопасности. Модель рассматривается как ассистент и основа для дальнейшего дообучения; оценка качества на длинном контексте не проводилась, а дополнительного обучения с подкреплением после SFT не было. Репозиторий распространяется по лицензии Apache-2.0.

K2-Horizon-0.9B-GGUF — компактная языковая модель семейства K2-Horizon, разработанная IFM. Репозиторий содержит версию модели в формате GGUF для запуска с помощью llama.cpp. Модель предназначена для генерации текста, решения математических и научных задач, программирования, следования инструкциям и сценариев с использованием инструментов. Это плотная decoder-only модель примерно с 0,9 млрд параметров и контекстным окном до 131 072 токенов. Для масштабирования RoPE применяется YaRN. Модель обучалась методом дистилляции знаний от нескольких специализированных учителей, ориентированных на математику и код, STEM-задачи и следование инструкциям. Поддерживаются английский и китайский языки. Тензоры хранятся в исходной точности BF16, а GGUF-файлы включают метаданные токенизатора и совместимый с llama.cpp шаблон чата. К сильным сторонам относятся небольшой размер, длинный контекст, открытость заявленных данных и рецепта обучения, а также специализация на рассуждениях, математике, коде и научных задачах. Для работы требуется версия llama.cpp с поддержкой архитектуры K2 Horizon; на момент публикации такая поддержка находилась в разработке, поэтому совместимость зависит от используемой сборки. Лицензия модели — Apache-2.0.

IFM/K2-Horizon-32B-GGUF — GGUF-версия модели K2-Horizon-32B-Stage1, разработанной IFM. Это открытая плотная decoder-only языковая модель с 32 млрд параметров, предназначенная для генерации текста, а также для задач, связанных с агентными сценариями, программированием и рассуждениями. Указан английский язык; модель относится к текстовой модальности. Модель поддерживает контекстное окно размером 524 288 токенов. Тензоры сохранены в исходной точности BF16, а файлы GGUF содержат метаданные токенизатора и шаблон чата, совместимый с llama.cpp. Для запуска требуется версия llama.cpp с поддержкой архитектуры K2 Horizon; на момент публикации такая поддержка находилась в разработке, а доступный checkpoint относится к первой стадии обучения. К сильным сторонам относятся большой контекст, полностью открытая модель, публикация обучающих данных, рецепта и кода обучения, а также наличие промежуточных checkpoint для изучения изменений возможностей в процессе обучения. Ограничения связаны с необходимостью специальной поддержки архитектуры в llama.cpp и с тем, что это Stage 1, тогда как финальный checkpoint ещё должен быть выпущен. Лицензия — Apache 2.0.

Ling-2.6-flash — открытая инструктивная языковая модель компании InclusionAI для диалога и агентных сценариев. Она предназначена для вызова инструментов, многошагового планирования и выполнения задач, включая работу в агентных и программных фреймворках; также подходит для ответов на общие вопросы, математических рассуждений, следования инструкциям и обработки длинного контекста. Архитектура — гибридная MoE семейства Bailing; в карточке заявлены 104 млрд параметров всего и 7,4 млрд активных, тогда как метаданные репозитория указывают 6,4 млрд параметров. Метаданные указывают контекст до 131 072 токенов, текстовый ввод и генерацию текста; карточка отмечает интерфейс вызова инструментов. Заявлены оптимизация скорости вывода и экономии токенов, а также результаты на агентных бенчмарках. Модель распространяется по лицензии MIT. Ограничения включают возможные галлюцинации при вызове инструментов в сложных сценариях, недостаточную глубину рассуждений, не всегда естественное переключение между китайским и английским и трудности со сложными инструкциями. Карточка описывает преимущественно китайско-английские сценарии, а метаданные указывают английский язык; другие языки отдельно не подтверждены.

Lizzy 7B — открытая по весам разговорная модель-помощник семейства Lizzy, разработанная Flower Labs. Это плотный авторегрессионный трансформер-декодер класса 7B с 6,9 млрд параметров, поддержкой контекста до 65 536 токенов, локальным и скользящим вниманием и собственными токенами для чата и управления. Модель принимает текстовые запросы и рассчитана на диалог, следование инструкциям, рассуждения, работу с кодом и вызов инструментов; её настройка уделяет особое внимание британскому английскому и знаниям о Великобритании. Модель предназначена для британских ассистентских сценариев, а также для общих задач рассуждения и помощи с кодом. В карточке приведены результаты сравнений на внутренних бенчмарках Flower Labs по британской тематике, математике и рассуждениям. Для много GPU-развёртывания через vLLM с тензорным параллелизмом может потребоваться патч, приложенный к поставке. Модель распространяется по лицензии Apache-2.0. Она может выдавать ошибочные, устаревшие или чрезмерно уверенные ответы; британская настройка может смещать тон и предположения к нормам Великобритании. Для рискованных сценариев рекомендуется проверка человеком и собственные меры модерации.

RedHatAI/Llama-3.1-8B-Instruct-NVFP4 — квантованная версия Meta-Llama-3.1-8B-Instruct, разработанная RedHatAI для коммерческого и исследовательского использования. Модель предназначена для диалоговых ассистентов и генерации текста на основе текстовых запросов; поддерживает ввод и вывод только в текстовой модальности. В метаданных заявлены языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако README отдельно ограничивает использование английским языком. Модель основана на архитектуре Meta-Llama-3.1 и имеет 8 млрд параметров. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP4 с использованием LLM Compressor; размер группы для весов — 16. Это снижает количество бит на параметр с 16 до 4, а требования к дисковому пространству и GPU-памяти примерно на 75%, что делает модель подходящей для эффективного инференса с vLLM версии 0.9.1 и выше. Контекстная длина в README не указана; для калибровки использовалась максимальная последовательность длиной 2048 токенов. К сильным сторонам относятся уменьшенные требования к памяти и возможность производительного развертывания через vLLM, включая OpenAI-совместимый сервер. Ограничением является потенциальное снижение качества по сравнению с неквантизированной базовой моделью, хотя README сообщает о сравнительной оценке без подробных результатов. Модель распространяется по лицензии llama3.1; применение должно соответствовать действующему законодательству, включая требования торгового контроля.

llm-jp-4.1-32b-a3b-thinking — языковая модель семейства LLM-jp-4.1, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это трансформерная MoE-модель для генерации текста и диалогов; в ней 32 млрд общих параметров, из которых активируются около 3,8 млрд. Контекст составляет 65 536 токенов. Модель обучалась на 11,7 трлн токенов, а версия thinking прошла дообучение с контролируемой настройкой и выравниванием предпочтений DPO. Модель предназначена для диалоговых ассистентов и задач общего назначения: ответов на вопросы, рассуждений, математики, научных вопросов, программирования и перевода между японским и английским языками. Карточка указывает поддержку английского и японского; модель принимает текст и генерирует текст. Чат-шаблон совместим с форматом OpenAI Harmony, но для токенизации следует использовать комплектный токенизатор: токенизатор отличается от ожидаемого библиотекой openai-harmony. Разработчик характеризует релиз как модель для исследований и разработок и не рекомендует напрямую использовать её в производственных сервисах. Ответы могут быть неточными, неподходящими или нежелательными, поэтому модель следует оценивать для конкретного применения. Лицензия — Apache-2.0.

JetBrains/Mellum2-12B-A2.5B-Thinking-GGUF-Q4_K_M — это квантизированная GGUF-версия рассуждающей языковой модели Mellum2, разработанной JetBrains. Модель предназначена для генерации текста и решения задач, требующих пошагового рассуждения, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Заявленный контекст составляет 131 072 токена. Модель поддерживает английский язык и выводит цепочку рассуждений в блоках <think>...</think> перед финальным ответом. Вариант Q4_K_M использует 4-битное k-квантизирование, занимает около 8,1 ГБ и обеспечивает сбалансированное соотношение качества и размера: совпадение наиболее вероятного токена с BF16-версией составляет около 89,8% на указанном тесте. Основные преимущества — возможность локального запуска, большой контекст, MoE-архитектура и заметное уменьшение размера по сравнению с BF16-версией. Ограничения связаны с потерями точности из-за 4-битного квантизирования, необходимостью совместимого рантайма и тем, что README не содержит подробных результатов оценки исходной модели. Модель распространяется по лицензии Apache 2.0.

mergekit-community/mergekit-linear-mocebtg — объединённая плотная языковая модель, созданная сообществом с помощью mergekit методом Linear из DeepSeek-R1-Distill-Qwen-32B и mergekit-community/mergekit-model_stock-czbocwb. Она предназначена для генерации текста в диалоговом формате; интерфейс также поддерживает вызов инструментов. Модель построена на архитектуре Qwen2 и содержит 32 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. В метаданных указаны формат safetensors и библиотека Transformers. Базовая DeepSeek-R1-Distill-Qwen-32B дообучена для рассуждений и решения задач по математике и программированию, однако отдельные возможности и качество итогового слияния не описаны. Сведения о лицензии в предоставленных данных отсутствуют.

Это квантованная версия Meta-Llama-3.1-8B-Instruct, разработанной Meta AI и подготовленной сообществом Hugging Quants. Модель предназначена для генерации текста и ведения многоязычных диалогов, включая работу через Transformers, AutoGPTQ и Text Generation Inference. Она подходит для чат-ботов, ассистентов и других сценариев текстового взаимодействия. Модель содержит 8 миллиардов параметров и работает только с текстом на входе и выходе. Исходная модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В данном варианте веса преобразованы из FP16 в INT4 с использованием GPTQ, zero-point quantization и group size 128, что снижает требования к памяти: для загрузки контрольной точки требуется около 4 ГиБ VRAM без учёта KV-кэша и CUDA-графов. К преимуществам относятся уменьшенное потребление видеопамяти и возможность локального запуска с поддержкой распространённых инструментов инференса. Ограничения связаны с потерями, возможными при 4-битном квантовании, отсутствием мультимодальных возможностей и необходимостью дополнительной памяти для KV-кэша и генерации. Модель распространяется по лицензии Llama 3.1; условия исходной лицензии Meta необходимо учитывать при использовании.

MiniCPM5-2B GGUF — языковая модель, разработанная командой OpenBMB и представленная как вторая модель серии MiniCPM5. Это плотная Transformer-модель примерно на 2 млрд параметров, преобразованная в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска на устройствах с ограниченными ресурсами, включая on-device и edge-сценарии. Модель ориентирована на англоязычные и китайскоязычные задачи, включая программирование, математику, понимание длинного контекста, использование инструментов и агентские сценарии. В карточке также заявлена поддержка long-context и tool-calling, однако точный размер контекстного окна и дополнительные технические параметры не указаны. Это текстовая модель без заявленной поддержки изображений или других модальностей. К сильным сторонам относятся компактный размер, пригодность для локального развертывания и конкурентная производительность среди открытых моделей 2B-класса; по заявлению разработчиков, модель также сопоставима с некоторыми моделями класса 4B. Ограничениями являются меньшая ёмкость по сравнению с крупными моделями и отсутствие в карточке подробных количественных результатов, требований к ресурсам и гарантированных характеристик. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Mistral-7B-Instruct-v0.3 — версия Mistral-7B-Instruct-v0.3, размещённая Maziyar Panahi. Это плотная языковая модель Mistral на 7,1 млрд параметров, дообученная следовать инструкциям на основе Mistral-7B-v0.3. Она предназначена для диалогов и генерации ответов на текстовые запросы, включая сценарии с вызовом функций. Модель поддерживает контекст до 32 768 токенов и использует формат safetensors. Модель подходит для чат-ботов, ответов на вопросы, следования инструкциям и генерации текста. В README указаны расширенный словарь токенизатора и поддержка function calling. Карточка предупреждает, что у модели нет механизмов модерации, поэтому её ответы могут не соответствовать требованиям к ограничению контента. Лицензия — Apache-2.0.

hugging-quants/Mixtral-8x7B-Instruct-v0.1-AWQ-INT4 — общественная квантованная версия инструкционной модели Mistral AI Mixtral-8x7B-Instruct-v0.1. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и работу в формате chat completion. Указанные языки: французский, итальянский, немецкий, испанский и английский. В основе лежит генеративная разреженная архитектура Mixture of Experts с конфигурацией 8x7B. Версия в репозитории преобразована из FP16 в INT4 с использованием AutoAWQ, GEMM-ядер, zero-point-квантования и размера группы 128. Поддерживаются Transformers, AutoAWQ и Text Generation Inference. Размер контекстного окна и точное число параметров в README не указаны. Ключевое преимущество версии — снижение требований к памяти по сравнению с полноточной моделью при сохранении возможностей исходной Mixtral; в README также заявлено превосходство над Llama 2 70B в большинстве протестированных бенчмарков. Для загрузки чекпойнта требуется около 24 ГиБ VRAM без учета KV-кэша и CUDA Graphs, поэтому необходим запас видеопамяти. Квантование INT4 может влиять на точность по сравнению с исходной версией. Лицензия — Apache-2.0.

Это 4-битная версия NVIDIA Nemotron 3 Nano 30B A3B, преобразованная mlx-community из модели nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 в формат MLX с помощью mlx-lm 0.29.0. Она предназначена для генерации текста и диалогового использования на устройствах и в средах, поддерживающих MLX. Базовая модель NVIDIA — гибридная языковая модель для диалогов, рассуждений, программирования и агентных приложений. В карточке указана поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Суффикс 30B A3B обозначает вариант семейства, однако README не раскрывает подробности архитектуры и контекстного окна. Репозиторий распространяется под лицензией, обозначенной как other; конкретные условия следует сверять с файлами лицензии базовой модели и репозитория. Версия предназначена для MLX и содержит 4-битное представление весов, что снижает требования к памяти по сравнению с исходной BF16-моделью, но может влиять на точность ответов.

Open-Instruct GPT-4 Alpaca 7B — языковая модель семейства LLaMA, разработанная исследователями AllenAI и дообученная на наборе инструкций GPT-4 Alpaca в рамках исследования по настройке открытых моделей на инструкции. Это плотная авторегрессионная модель примерно на 6,6 млрд параметров для генерации текста и выполнения пользовательских инструкций на английском языке; для качественной генерации рекомендуется использовать обученный формат запросов. Контекст составляет 2048 токенов. Модель подходит для диалоговых ответов, следования инструкциям, решения задач, вопросов и генерации кода. В карточке приведены результаты тестирования на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия следует проверять в соответствующих файлах лицензии.

Pythia 6.9B Tulu — языковая модель Allen Institute for AI, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель GPT-NeoX с 8,8 млрд параметров в метаданных и контекстом до 2048 токенов. Модель предназначена для генерации ответов на инструкции, диалоговых запросов, рассуждений и кода. В карточке приведены результаты на наборах тестов для общих знаний, математики, вопросов и ответов и генерации кода; авторы отмечают, что результат зависит от соблюдения обучающего формата с переводом строки после маркера сообщения. Модель поддерживает английский язык. Она распространяется в формате PyTorch и является полным набором весов, а не diff. Условия использования определяются лицензией модели из LICENSE.txt и исходной лицензией Pythia из pythia_license.txt; их конкретные положения в предоставленных данных не приведены.

OrakzaiX — это общественный GGUF-релиз модели класса 8B на архитектуре Llama, поддерживаемый и квантизированный Faisal Orakzai в рамках экосистемы Orakzai. В метаданных указана базовая модель meta-llama/Llama-3-8B-Instruct; данных о самостоятельном обучении новой фундаментальной модели нет. Модель предназначена для локальной генерации текста и диалоговых сценариев: создания частных ассистентов, офлайн-прототипирования, разработки инструментов, суммаризации, извлечения технической информации, объяснения кода, автоматизации и экспериментов с многоагентными рабочими процессами. Формат GGUF рассчитан на запуск через совместимые средства, включая llama.cpp, на потребительском оборудовании, рабочих станциях, периферийных устройствах и частных серверах. Локальное выполнение может помочь сохранять запросы и ответы в контролируемой среде, однако безопасность зависит от настроек и окружения. Доступны варианты квантизации от Q2_K до Q8_0; рекомендуемым начальным вариантом указан Q4_K_M, обеспечивающий компромисс между качеством, скоростью и потреблением памяти. Фактические требования к ресурсам выше размера файла из-за контекста, KV-кэша и служебных буферов. Языки, размер контекстного окна, результаты бенчмарков, точность в специализированных областях, надежность вызова инструментов и возможности автономной работы не указаны. Лицензия обозначена как other; перед распространением или коммерческим использованием необходимо проверить условия лицензии OrakzaiX и базовой модели Meta.

Phi-3-mini-4k-instruct-GGUF — квантованная версия легковесной языковой модели Phi-3-mini-4k-instruct, разработанной Microsoft и опубликованной в формате GGUF для локального запуска. В README указано, что модель обучалась на наборах данных Phi-3, включающих синтетические данные и отфильтрованные общедоступные веб-материалы с акцентом на качество и задачи, требующие рассуждений. Модель предназначена для генерации текста, диалоговых сценариев и других задач обработки естественного языка, включая работу с кодом. Она поддерживает английский язык, имеет контекстное окно 4096 токенов и относится к текстовым моделям. Формат GGUF совместим с приложениями на базе llama.cpp, включая Backyard AI, и позволяет распределять вычисления между CPU и GPU. Ключевое преимущество модели — компактность и возможность локального запуска на более широком спектре оборудования благодаря квантованию, которое снижает требования к ресурсам. Ограничением является компромисс между эффективностью и качеством: при более низкой точности квантования могут снижаться связность и качество ответов. Конкретный уровень квантования в README не указан. Базовая модель распространяется по лицензии MIT; для этой версии также указана лицензия MIT.

bartowski/Qwen2-72B-Instruct-GGUF — набор квантизированных вариантов языковой модели Qwen2-72B-Instruct, разработанной командой Qwen (Tongyi Qianwen) и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в чат-интерфейсах и локальный запуск через llama.cpp. Поддерживается специальный шаблон промпта с ролями system, user и assistant. Модель имеет 72 миллиарда параметров, работает с текстом и ориентирована как минимум на английский язык. Доступны варианты GGUF с разными уровнями квантизации: от Q8_0 размером около 77,26 ГБ до IQ1_M размером около 23,74 ГБ. Наиболее рекомендуются Q5_K_M, Q4_K_M и IQ4_XS как компромисс между качеством и требованиями к памяти; варианты с более низкой точностью занимают меньше места, но заметно теряют в качестве. Квантизация выполнена с использованием imatrix и llama.cpp. Сильная сторона набора — возможность выбрать подходящий баланс качества, скорости и потребления RAM или VRAM для локального запуска. Для работы на GPU рекомендуется, чтобы файл помещался в доступную видеопамять; также возможно комбинировать системную RAM и VRAM. Для CUDA указано ограничение: offloading может работать некорректно без включения flash attention. I-quant варианты не совместимы с Vulkan, а на CPU и Apple Metal могут работать медленнее K-quant вариантов. Модель распространяется по лицензии tongyi-qianwen; README также содержит ссылку на лицензию исходной модели Qwen2-72B-Instruct.

DavidAU/Qwen3-24B-A4B-Freedom-Thinking-Abliterated-Heretic-NEO-Imatrix-GGUF — текстовая генеративная модель на базе Qwen3, созданная DavidAU как смесь шести моделей-экспертов размером 4B параметров. В состав входят варианты Jan v1, Apollo, а также дистилляции моделей Claude, Gemini и Polaris. Каждый эксперт был модифицирован методом Heretic для снижения числа отказов и ограничений на генерацию. Модель имеет архитектуру Dense Mixture of Experts: по умолчанию активен один эксперт, но можно задействовать до шести, что соответствует заявленным уровням мощности от 4B до 24B параметров. Заявленный размер контекста — 256K токенов; поддерживается английский язык и формат GGUF с различными квантованиями. Модель предназначена для широкого спектра задач: ответов на вопросы, программирования, математики, обучения, рассуждений, написания художественных текстов, ролевых сценариев, генерации сюжетов и сцен, а также создания контента с выраженной тематикой, включая хоррор, ненормативную лексику и эротические материалы. Это полнофункциональная reasoning-модель, ориентированная на следование подробным инструкциям и формирование компактного, но детального плана рассуждений. По заявлению автора, она может запускаться на GPU и CPU, а увеличение числа активных экспертов повышает вычислительную нагрузку и потенциальную мощность. К сильным сторонам относятся большой контекст, гибкое масштабирование числа активных экспертов, поддержка рассуждений и широкий диапазон сценариев использования. Ограничения включают преимущественно заявленный автором, а не независимо подтверждённый характер характеристик, необходимость более явно задавать желаемый уровень грубости или откровенности и возможные риски, связанные с нецензурированным содержанием. Модель распространяется по лицензии Apache-2.0.

YOYO-AI Qwen3-30B-A3B-YOYO-V5 — объединённая модель семейства Qwen3 MoE, созданная YOYO-AI алгоритмом yoyo_fusion на основе Qwen/Qwen3-30B-A3B-Instruct-2507, Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-Coder-30B-A3B-Instruct. Она предназначена для диалогов, выполнения инструкций, генерации текста и вызова инструментов; объединение сводит навыки исходных моделей в один чекпойнт. Репозиторий содержит веса safetensors в формате bfloat16. Модель принимает текст и выдаёт текст. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов; в README также заявлена длина контекста 1 010 000 токенов, но не поясняется, при каких условиях она доступна. В карточке отмечены английский и китайский языки. Модель распространяется по лицензии Apache-2.0. Указанные в README параметры генерации: temperature 0,7, top-p 0,8 и top-k 20. Фактическое качество объединения, результаты оценок и практические требования к оборудованию в карточке не приведены.

MMOPD/Qwen3-4B-OT3-if — плотная языковая модель Qwen3 с 3,7 млрд параметров, разработанная командой MMOPD как учительская модель для следования инструкциям. Она получена дообучением MMOPD/Qwen3-4B-OT3-2ep методом GRPO на запросах с проверяемыми требованиями к формату и содержанию ответа. Модель поддерживает чат, шаблон Qwen3 и режим рассуждений; длина контекста — 32 768 токенов. Веса представлены в формате Safetensors и хранятся в bfloat16. Модель предназначена для генерации ответов по инструкциям, в том числе с заданными ограничениями на структуру и содержание, а также для задач рассуждения, математики и программирования. В опубликованных оценках она заметно повысила результаты на IFEval и IFBench относительно исходной модели, сохранив сопоставимые показатели на кодовых и математических тестах; README также приводит результаты на медицинских и финансовых наборах, которые не следует считать гарантией качества в прикладных сценариях. Для использования рекомендованы шаблон чата Qwen3, включённое рассуждение и сэмплирование. Лицензия — Apache-2.0.

Qwen3.6-14B-A3B-FableVibes-GGUF — модель tvall43 на базе Qwen3.6-14B-A3B-FableVibes, представленная в формате GGUF для запуска на локальном оборудовании. Это обобщённая модель рассуждений, дообученная на трассах рассуждений Claude Fable 5 и дополненная данными Claude Opus, Qwen для tool calling и Evol-Instruct-Code. Модель предназначена для генерации текста, решения сложных задач с многошаговым рассуждением, программирования и сценариев, связанных с вызовом инструментов. Она использует архитектуру MoE с примерно 14B активных параметров после pruning исходной модели Qwen3.6-35B-A3B. Поддерживается мультимодальный режим через файлы mmproj, однако конкретные характеристики контекстного окна и полный перечень поддерживаемых языков не указаны. Модель ориентирована на англоязычные сценарии. К сильным сторонам относятся структурированное рассуждение, улучшенные способности к работе со сложными задачами и возможность запуска на потребительском оборудовании благодаря нескольким вариантам квантования: от F16 до Q2_K. Модель поддерживает llama.cpp и совместимые интерфейсы, включая LM Studio, Ollama и text-generation-webui. Ограничениями являются повышенная задержка до первого токена из-за режима thinking, значительный расход токенов на рассуждение и возможное снижение качества в сильно сжатых вариантах квантования. Распространяется по лицензии Apache-2.0.

QwenSelfMerge — языковая модель, созданная сообществом mergekit путём объединения фрагментов Qwen/Qwen2.5-72B-Instruct методом passthrough. По метаданным, это плотная авторегрессионная архитектура Qwen2 с 32,8 млрд параметров; модель использует Transformers и формат safetensors, поддерживает контекст до 32 768 токенов и интерфейс диалога с вызовом инструментов. Модель предназначена для генерации текста и диалоговых сценариев, унаследованных от Qwen2.5-72B-Instruct, включая структурированные ответы, программирование и математику. В README описана сборка из нескольких диапазонов слоёв той же базовой модели; карточка не приводит отдельных результатов оценки качества. Лицензия в предоставленных данных не указана.

Ring-lite — лёгкая открытая языковая модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI на основе inclusionAI/Ling-lite-base-1.5. Модель предназначена для сложных задач рассуждения и генерирует текст в формате чата. В метаданных указаны 794,8 млн параметров, библиотека Transformers и контекст 32 768 токенов; README описывает вариант Ring-lite с 16,8 млрд общих и 2,75 млрд активных параметров и контекстом 128 тыс. токенов, поэтому эти характеристики могут относиться к разным версиям или представлениям модели. Модель обучалась с использованием дистилляции знаний и обучения с подкреплением. Она предлагает режимы с выводом рассуждений и без него; в README приведены результаты оценок по математике и программированию, включая AIME и LiveCodeBench. Указанные языки — китайский и английский. Модель распространяется по лицензии MIT.

T-lite-it-2.1-GGUF — русскоязычная текстовая генеративная модель, разработанная t-tech. Это конвертация модели T-lite-it-2.1 из BF16 в формат GGUF с использованием llama.cpp, предназначенная для локального запуска через llama.cpp и Ollama. Модель построена на архитектуре Qwen 3 и ориентирована на универсальные задачи генерации текста, следование инструкциям, сложные рабочие процессы и агентские приложения. В отличие от T-lite-it-1.0, она поддерживает tool calling и, согласно описанию, превосходит Qwen3-8B в сценариях вызова инструментов. Оптимизированный токенизатор повышает пропускную способность генерации русского текста. Поддерживается русский язык. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>. Доступны квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q5_0 и Q4_K_M размером примерно от 5,0 до 8,7 ГБ без учёта выгрузки на GPU. Качество и требования к памяти зависят от выбранной квантизации; рекомендуется использовать наиболее качественный вариант, помещающийся в доступной RAM или VRAM. В README не указаны точный размер базовой модели, число параметров, полный набор поддерживаемых языков и официальное максимальное контекстное окно. Модель распространяется по лицензии Apache-2.0. Разработчики предупреждают, что ответственность за дополнительное обучение, контроль качества, безопасность и применение модели в промышленных или коммерческих системах несёт пользователь.

Tulu 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Модель предназначена для ответов на инструкции и запросы, решения задач с рассуждением, ответов на вопросы, а также генерации кода. Для работы используется формат ввода Tulu, описанный в карточке; модельный репозиторий содержит diff и требует доступа к исходной модели LLaMA в формате Hugging Face. Контекст составляет 2048 токенов. В карточке авторы называют её сильнейшей моделью проекта по совокупности исследованных бенчмарков; приведены результаты по языковым знаниям, математике, рассуждениям, вопросам и генерации кода. Модель работает с текстом и ориентирована прежде всего на английский язык. Лицензирование регулируется лицензией модели Tulu и исходной лицензией LLaMA; перед использованием необходимо учитывать условия обеих лицензий.

Youtu-LLM-2B-Base — базовая авторегрессионная языковая модель Tencent из семейства Youtu-LLM. Она содержит около 1,96 млрд параметров, использует плотную архитектуру с Multi-head Latent Attention (MLA) и предназначена для генерации текста и дальнейшей адаптации под конкретные задачи. Модель принимает текст и генерирует продолжение; карточка описывает её возможности в рассуждениях, STEM, программировании, работе с длинным контекстом и агентных сценариях. Контекст модели составляет 131 072 токена. В README приведены результаты сравнительных тестов, в том числе по общим знаниям и агентным задачам; заявленные результаты не гарантируют аналогичного качества в каждом применении. Указана лицензия `other`, поэтому перед использованием следует проверить её условия в карточке модели. README не уточняет поддерживаемые естественные языки.