II.7DevOps, облако и эксплуатация IT-систем

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — опубликованная NVIDIA полноточная версия разговорной языковой модели, представленная на Hugging Face в виде GGUF BF16. Она предназначена прежде всего для разработчиков, которым нужны исходные веса для дообучения, адаптации к предметной области, исследований и подготовки собственных квантованных вариантов. Модель использует гибридную архитектуру Mixture-of-Experts с чередующимися слоями Mamba-2 и MoE, отдельными слоями Attention и механизмом Multi-Token Prediction; всего в ней 30 млрд параметров, из которых активно используются 3 млрд. Модель подходит для диалога, рассуждений, следования инструкциям, задач с кодом и работы в агентных системах. Контекст достигает 1 млн токенов на подходящем оборудовании; на одной H100 в README приведена проверка до 256 тыс. токенов из-за ограничений памяти. Основные языки — английский и языки программирования; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. README указывает, что модель готова к коммерческому применению, однако метаданные Hugging Face обозначают лицензию как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Qwen2.5-Coder-32B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и анализа программного кода, диалогового взаимодействия с разработчиком и использования в сценариях с code agents. Модель обучалась с использованием до 5,5 триллиона токенов, включая исходный код, текстово-кодовые пары и синтетические данные. Заявлена поддержка длинного контекста до 128 000 токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В метаданных указан английский язык. Формат GGUF и совместимость с llama.cpp делают модель пригодной для локального запуска в соответствующем программном обеспечении, однако конкретный уровень квантизации в README не указан. К сильным сторонам относятся специализация на программировании, ориентация на агентские сценарии и большой контекст, позволяющий работать с крупными фрагментами кода и проектными материалами. Ограничения включают отсутствие в README подробностей об архитектуре, точном варианте квантизации, требованиях к ресурсам и перечне поддерживаемых языков программирования. Для модели указана лицензия Apache 2.0.

Orion-zhen/Qwen2.5-Coder-7B-Instruct-AWQ — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-7B, разработанной командой Qwen. Это каузальная текстовая модель для генерации, анализа, исправления и рассуждений о программном коде, а также для задач кодовых агентов и общих математических и текстовых сценариев. Модель обучалась с использованием корпуса alvarobartt/openhermes-preferences-coding; для калибровки AWQ применялся этот же датасет. Модель содержит 7,61 млрд параметров, из которых 6,53 млрд не относятся к embedding, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в attention QKV; применяется GQA с 28 головами для Q и 4 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Основные заявленные языки — английский и китайский. Модель работает в режиме text generation и поддерживается Transformers. Сильные стороны — специализация на программировании, улучшенные генерация, исправление и понимание кода, большой контекст и сниженные требования к памяти благодаря AWQ-квантизации. При использовании YaRN на коротких текстах возможное падение производительности связано со статическим коэффициентом масштабирования. README не содержит отдельных результатов тестирования именно этой AWQ-версии, поэтому её фактическую точность и скорость следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

jica98/qwen3.5-4B-super-coder — компактная 4-битная модель в формате GGUF, основанная на Qwen/Qwen3.5-4B и объединённая с квантованием с использованием Unsloth. Модель опубликована пользователем jica98 и предназначена прежде всего для программирования, рассуждений, структурированного вызова инструментов и агентских сценариев на потребительских и мобильных устройствах. Модель имеет размер около 2,6 ГБ и рассчитана на контекст до 32K токенов; заявлена также поддержка расширенных контекстов до 262K или 1M токенов через YaRN. Архитектура Qwen3.5-4B сочетает слои Gated DeltaNet и Full Attention, благодаря чему полный KV-кэш хранится только для части слоёв. Это снижает потребление памяти: для контекста 32K заявлен объём KV-кэша около 0,4 ГБ. Модель ориентирована на генерацию кода на Python, JavaScript, Shell, C++, Rust и других языках, а также на вывод JSON по заданным схемам. К сильным сторонам относятся небольшой размер, низкие требования к памяти, поддержка режима видимого рассуждения, специализация на кодировании и повышенная точность tool calling с уменьшением ложных вызовов инструментов. Ограничения включают зависимость качества от 4-битного квантования, заявленную оптимизацию главным образом под контекст 32K и отсутствие в README подробных результатов независимого тестирования, перечня поддерживаемых естественных языков и точных аппаратных требований. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-Qworus-V2 — гибридная языковая модель для генерации текста, разработанная на основе объединения моделей empero-ai/Qwen3.8-9B-Distill и ornith-ai/Ornith-1.5-9B. Модель создана методом 50/50 DARE-TIES merge и предназначена для задач программирования, рассуждений, вызова инструментов, планирования, проектирования и ответов на вопросы. Модель доступна через Transformers и ориентирована на text generation. Указан размер 9B; поддерживаются форматы Safetensors и GGUF. Для GGUF предоставлены варианты квантования Q4_K_L для систем с ограниченными ресурсами и Q6_K_L для более высокой точности. В этих вариантах слои токенов и вывода повышены до Q8_0, а тензоры ssm_* используют BF16 или Q8_0 для повышения точности на длинных контекстах. Для квантований imatrix обучена на смеси данных, включающей код, бизнес-тексты, математику и Wikipedia. Модель не является полностью uncensored по умолчанию, поскольку обе исходные модели не были uncensored. В README не указаны поддерживаемые языки, максимальная длина контекста и лицензия, поэтому эти характеристики нельзя определить по имеющимся данным.

Qwen3.8-27B-QAT-Q2_0 — квантизированная версия Qwen3.8-27B, разработанная Samuel Yuan и предназначенная для запуска через llama.cpp. Модель представлена в формате GGUF, использует 2-битное квантование Q2_0 с учётом квантования при обучении (QAT) и занимает 8,76 ГБ. Базовая модель разработана командой Qwen; точные архитектурные параметры, поддерживаемые языки и размер контекстного окна в README не указаны. Модель ориентирована прежде всего на генерацию текста, программирование, рассуждения и tool calling. Квантование специально оптимизировано для сохранения качества кода и reasoning, поэтому подходит для устройств с менее чем 12–16 ГБ видеопамяти, включая некоторые Mac. По приведённым измерениям, согласие с FP16-моделью составляет 94,7% для reasoning, 93,3% для кода и 78,7% для tool calling. Ограничением является некоторое ухудшение мультимодальных возможностей и извлечения необработанных фактов, включая результаты на Wikitext-2; мультимодальность также не описана подробно. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ6e-1M — релиз Solstice-AI на базе модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Solstice-AI отвечает за downstream-квантизацию, масштабирование контекста YaRN до 1 048 576 токенов и упаковку для Apple MLX. Модель ориентирована на английский и китайский языки; в метаданных указана задача image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель предназначена для рассуждений, программирования, агентной разработки ПО, отладки репозиториев, выполнения многошаговых рабочих процессов и задач управления операционными системами. Заявлены архитектура Qwen 3.8 с гибридным вниманием, включающая Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction, а также объединение весов Cold Fusion GAIN. Формат — смешанная квантизация Apple MLX oQ6e; заявлено размещение примерно в 23,7 ГБ оперативной памяти и ускорение на Apple Silicon через Metal и Anvil Runtime. К сильным сторонам относятся заявленные большой контекст до 1 миллиона токенов, поддержка локального запуска на совместимых компьютерах Apple Silicon и высокие результаты на наборах SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и ARC. Эти показатели и сравнения с Claude Opus 4.6 приведены авторами README, но методика и независимое подтверждение не описаны. Ограничения включают зависимость производительности от MLX, Apple Silicon и доступной памяти, возможные потери качества из-за квантизации, а также отсутствие подробных данных о тренировочном наборе, мультимодальных возможностях и безопасности. Указанная лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e — выпуск модели Qwen3.8-27B Cold Fusion для Apple Silicon. Исходную модель и слияние весов GAIN разработал DavidAU, а Solstice-AI выполнила квантование и упаковку в формат Apple MLX oQ8e mixed precision. Модель предназначена для рассуждений, программирования, агентной разработки ПО, отладки репозиториев, выполнения многошаговых задач и управления компьютерными средами. В метаданных также указан сценарий image-text-to-text, однако подробности о поддерживаемых визуальных возможностях не приведены. Заявлены английский и китайский языки. Модель содержит 27 млрд параметров и рассчитана на контекст до 262 144 токенов. Архитектура описана как гибридная: 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а 25% — Grouped-Query Attention. Также заявлена поддержка Multi-Token Prediction для ускорения генерации на Apple Silicon. Среди сильных сторон README называет высокие результаты в SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и тестах ARC; приведённые сравнения с Claude Opus 4.6 Max являются утверждениями авторов README и зависят от методики оценки. Ограничения включают привязку оптимального использования к Apple Silicon, MLX и Metal, а также отсутствие независимой проверки заявленных результатов и неполное описание мультимодальных возможностей. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M — модель семейства Qwen3.8 с 27 млрд параметров, созданная на основе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Объединение весов и исходная модель относятся к DavidAU, а расширение контекста, квантизация и упаковка для NVIDIA Blackwell выполнены Solstice-AI. Модель предназначена для диалогов, программирования, агентной разработки ПО, решения задач с длинным контекстом и визуального анализа. Модель использует формат NVIDIA NVFP4 с 4-битным microscaling, гибридную архитектуру с блоками Gated Delta Recurrent Network и Grouped-Query Attention, а также Multi-Token Prediction для ускорения генерации. Заявлена поддержка текстово-визуального ввода, включая анализ схем, интерфейсов кода и видеокадров; для визуального режима поставляется компонент mmproj-BF16.gguf. Контекст расширен с 262 144 до 1 048 576 токенов с помощью YaRN. В карточке указаны английский и китайский языки, а также совместимость с инфраструктурой vLLM и SGLang на оборудовании NVIDIA Blackwell, включая B200, GB200 и RTX 5090. Среди заявленных сильных сторон — высокая скорость и эффективность на поддерживаемом оборудовании, большой контекст, возможности рассуждения, программирования и компьютерного управления. README приводит результаты внутренних или заявленных оценок, включая 61,7% на SWE-bench Pro, 90,3% на LiveCodeBench v6 и показатели ARC-C 735 и ARC-E 882; эти результаты следует интерпретировать с учетом условий тестирования и не считать независимой гарантией качества. Ограничения включают зависимость от NVFP4-совместимого оборудования и специализированной инфраструктуры, а также возможные потери качества из-за 4-битной квантизации и расширения контекста. Лицензия модели указана как Apache-2.0.

QwQ-32B-Preview-Instruct-Coder — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом TIES. В объединение вошли Qwen/QwQ-32B-Preview, Qwen/Qwen2.5-32B-Instruct и Qwen/Qwen2.5-Coder-32B-Instruct; базовая модель — Qwen/Qwen2.5-32B. Модель содержит 32 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, программирования, математических рассуждений и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов. Она работает с текстом на входе и генерирует текст на выходе; отдельные поддерживаемые языки не указаны в предоставленных данных. Сведения о лицензии и ограничениях качества в README и метаданных отсутствуют.

Viper-Coder-v1.1 — дообученная prithivMLmods 14-миллиардная языковая модель семейства Qwen2 для генерации кода и решения задач рассуждения. В карточке указана архитектура Qwen 2.5 14B, а метаданные определяют архитектуру как Qwen2ForCausalLM; модель распространяется в формате safetensors и использует библиотеку Transformers. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для написания и отладки кода, решения алгоритмических и математических задач, следования инструкциям, работы со структурированными данными и создания технической документации. README заявляет контекст до 128K токенов и генерацию до 8K токенов, однако метаданные указывают нативный контекст 32768 токенов. Заявлены поддержка программирования на Python, JavaScript, C++, Java, SQL и других языках, а также документации на 29+ естественных языках; языковые теги карточки — английский и китайский. Модель содержит 14 млрд параметров, поэтому для инференса требуются значительные вычислительные ресурсы. Возможны ошибки в длинных ответах, чувствительность к формулировке запроса и неодинаковое качество для разных языков программирования; модель не располагает актуальными данными из интернета. Лицензия — Apache-2.0.

InternScience/Agents-A1-4B-Q4_K_M-GGUF — квантизированная версия плотной языковой модели Agents-A1-4B, разработанная командой InternScience. Модель предназначена для агентных сценариев с длинной последовательностью действий: поиска, инженерных и научных задач, следования сложным инструкциям, профессионального вопросно-ответного взаимодействия и вызова внешних инструментов. Она поддерживает планирование, разбиение сложных задач на шаги, адаптацию по промежуточным результатам, function calling и интеграцию с API, интерпретаторами кода и поисковыми системами. Модель содержит около 4 миллиардов параметров и распространяется в формате GGUF с квантизацией Q4_K_M, что снижает требования к памяти и делает её подходящей для локального запуска. В карточке указаны теги vision и vlm, однако подробные сведения о поддерживаемых визуальных модальностях, языках и размере контекстного окна отсутствуют. По заявленным результатам Agents-A1-4B показывает высокую эффективность на BrowseComp, XBench-DS-2510, GAIA, FrontierScience-Research и IFEval, конкурируя с более крупными моделями при меньшем числе параметров. Ограничения модели включают неизвестные из README языковые и мультимодальные возможности, а также отсутствие подробностей о требованиях к оборудованию и точных условиях применения квантизированной сборки. Модель и её базовые компоненты распространяются по лицензии Apache-2.0; формат совместим с экосистемой GGUF и предназначен для использования с соответствующими локальными средствами инференса.

mlx-community/conikeec-deepseek-coder-6.7b-instruct — конвертированная в формат MLX версия модели DeepSeek Coder 6.7B Instruct, созданная сообществом mlx-community на основе deepseek-ai/deepseek-coder-6.7b-instruct. Это плотная авторегрессионная языковая модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов, предназначенная для генерации текста в диалоговом формате и задач программирования. Репозиторий содержит веса safetensors; для запуска через MLX README указывает библиотеку mlx-lm. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой исходной модели.

DeepSeek-Coder-V2-Instruct-0724 — инструктивная модель для программирования от DeepSeek, основанная на DeepSeek-Coder-V2-Base. Это модель архитектуры DeepSeek-V2 с разреженной MoE-архитектурой; в карточке Hugging Face указано 18,1 млрд параметров и контекст до 163 840 токенов. Семейство DeepSeek-Coder-V2 обучалось на дополнительных 6 трлн токенов и предназначено для генерации и дополнения кода, математических рассуждений и диалогового взаимодействия. Модель подходит для написания и редактирования кода, заполнения пропусков между фрагментами программы, ответов на технические вопросы и вызова инструментов через интерфейс функций. README сообщает о поддержке 338 языков программирования для семейства, но не уточняет поддержку естественных языков конкретной версии. Для запуска полной версии в формате BF16 README указывает на необходимость восьми GPU с 80 ГБ памяти каждая. В репозитории используется Transformers и формат safetensors; лицензия обозначена как «other», поэтому перед использованием следует проверить её условия в карточке модели.

DeepSeek-Coder-V2-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Instruct, разработанной DeepSeek-ai и подготовленной для квантизации компанией Second State Inc. Модель предназначена прежде всего для генерации и обработки программного кода, а также для диалогового взаимодействия в формате instruct. В README указана поддержка контекста до 128 000 токенов и запуск через LlamaEdge версии 0.12.3 или новее с шаблоном prompt-типа deepseek-chat-2. Доступны варианты с квантизацией Q2_K, Q3_K и другие GGUF-варианты с различными уровнями точности и размерами файлов. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; для Q2_K и Q3_K это прямо отмечено в описании. Модель ориентирована на локальное или встраиваемое использование через совместимые инструменты GGUF и LlamaEdge. Данные о точной архитектуре, числе параметров, поддерживаемых языках программирования и естественных языках, модальностях, результатах тестирования и системных требованиях в представленном README не указаны. Использование регулируется лицензией DeepSeek, обозначенной как deepseek-license; в метаданных указана лицензия other.

DeepSeek-R1-0528-Qwen3-8B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth. Исходная модель разработана DeepSeek и представляет собой языковую модель с акцентом на углублённое рассуждение. Квантованный вариант распространяется для использования с Transformers и предназначен для более экономичного запуска модели. Модель ориентирована на сложные задачи рассуждения, математику, программирование, общую логику, вызов функций и сценарии «vibe coding». В README отмечены улучшения по сравнению с предыдущей версией DeepSeek R1: снижение галлюцинаций, более развитые способности к рассуждению и увеличение максимальной длины генерации до 64K токенов. Для DeepSeek-R1-0528 также приведены высокие результаты в тестах по общим знаниям, программированию и математике, включая AIME 2024, LiveCodeBench и SWE Verified. Точный набор поддерживаемых языков, модальностей и архитектурные детали в карточке не указаны; из идентификатора следует размер исходной модели 8B. Квантование уменьшает требования к памяти, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

Gemini 3.5 Flash — мультимодальная модель Google для работы с текстом и изображениями. В карточке она описана как высокопроизводительная модель уровня Flash, ориентированная на скорость и низкую стоимость при решении задач рассуждения и программирования. Модель подходит для анализа изображений и текста, помощи с кодом и сценариев с параллельным выполнением агентных задач. Подробности об архитектуре, размере, поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

Gemini 3.7 Flash — мультимодальная модель Google для быстрых агентных сценариев, программирования и сложных многошаговых рассуждений. Она предназначена для задач, где важны отзывчивость и надёжное выполнение последовательности шагов. Каталог классифицирует модель как image-text-to-text, что указывает на обработку изображений с выдачей текстового ответа. Данных о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных сведениях нет. README описывает модель как мультимодальную, но не уточняет перечень модальностей и конкретные ограничения.

Это объединённая модель семейства Gemma 4 на основе инструкционной google/gemma-4-12B-it. Её создали методом Model Stock с помощью mergekit, объединив варианты Gemma 4, настроенные для генерации кода и агентных сценариев. Модель предназначена для диалогового взаимодействия, работы с изображениями и текстом, генерации кода и выполнения агентных задач. Модель использует плотную архитектуру Gemma4UnifiedForConditionalGeneration и распространяется в формате safetensors; в конфигурации слияния указан тип bfloat16. Метаданные относят её к задаче image-text-to-text и отмечают поддержку изображений. README не приводит конкретных результатов оценки или подробностей о языковом охвате. Условия лицензирования в предоставленных данных не описаны.

Это квантизированная версия мультимодальной модели Google Gemma 4 31B-it, опубликованная pearsonkyle в формате GGUF для llama.cpp, Ollama и LM Studio. Модель предназначена для генерации текста, программирования, работы с инструментами и function calling, агентских сценариев, а также анализа изображений. Поддерживается английский язык; заявлены текстовый и визуальный ввод. Доступны варианты IQ2_M, IQ3_M, IQ4_XS и Q5_K_S с размером примерно от 10,2 до 19,8 GiB и разной степенью сжатия. Версия IQ2_M использует 2-битную AWQ-квантизацию, настроенную на основе журналов задач программирования и tool use; автор заявляет повышение точности аргументов инструментов на 54% по сравнению с обычным вариантом при сопоставимом размере. Более качественные варианты используют hybrid imatrix. Модель также поддерживает MTP-драфтер для ускорения генерации, а для обработки изображений требуется отдельный vision-модуль mmproj размером около 772 МБ на базе SigLIP-подобного энкодера. Сильными сторонами являются сочетание программирования, tool use и vision, работа в стандартных локальных средах и возможность разместить конфигурацию Q5_K_S с текстовой моделью, MTP-драфтером и vision-модулем примерно в 24 ГБ видеопамяти. Ограничения связаны с потерями качества при низкобитной квантизации, особенно в варианте IQ2_M, необходимостью отдельного mmproj для изображений и отсутствием в предоставленных данных точного размера контекста и подробных результатов независимого тестирования. Лицензия указана как Gemma.

Akicou/GLM-4.7-Flash-REAP-50 — сжатая версия GLM-4.7-Flash, созданная с помощью REAP (Router-weighted Expert Activation Pruning) от Cerebras. Из модели удалена примерно половина экспертов; README указывает 4,1 млрд параметров, а архитектура в метаданных обозначена как GLM4 MoE Lite с классом Glm4MoeLiteForCausalLM. Модель предназначена для генерации текста, особенно кода, вызова функций и агентных сценариев. Она поддерживает контекст до 202 752 токенов и рассчитана прежде всего на английский язык. Модель можно запускать через Transformers, vLLM и SGLang; указана лицензия MIT. README сообщает, что сжатие выполнено без дообучения, поэтому классификация происхождения как fine-tune в метаданных расходится с описанным методом pruning. Для GGUF-файлов автор отмечает проблему совместимости с llama.cpp и их повторную генерацию; метаданные указывают формат safetensors.

Карточка модели prashim98/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Helion-V1.5 — диалоговая языковая модель, разработанная DeepXR и дообученная методом QLoRA на базе Meta Llama 2. Архитектура — плотная LlamaForCausalLM; базовая модель содержит около 7 млрд параметров, а адаптер LoRA — 67 млн. Модель принимает текст и генерирует текст, поддерживает диалоги и структурированные вызовы функций. Контекстное окно — 4096 токенов. Модель предназначена для следования инструкциям, многошаговых диалогов, генерации и объяснения кода, а также задач письма и анализа. В README приведены результаты тестов на диалог, следование инструкциям и генерацию кода; эти показатели зависят от тестового набора и условий оценки. Основной язык — английский, поддержка других языков ограничена. Модель распространяется по лицензии Apache 2.0. Известные ограничения: возможны фактические ошибки и галлюцинации, слабые результаты в сложных математических рассуждениях и временно-зависимых запросах; ответы на критичные вопросы следует проверять.

Карточка модели anything098/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Mellum2-12B-A2.5B-Claude-4.6-4.8-Opus-Thinking-GGUF — это GGUF-квантизированная версия модели на базе JetBrains Mellum2-12B-A2.5B-Thinking, опубликованная пользователем yuxinlu1. Модель ориентирована на программную инженерию, генерацию и анализ кода, решение технических задач и рассуждения. По данным карточки, она дополнительно настроена на reasoning-трассах Claude Opus 4.6, 4.7 и 4.8 и формирует рассуждения в блоках <think> перед ответом. Модель использует архитектуру Mixture-of-Experts: всего около 12,15 млрд параметров, из которых 2,5 млрд активируются для каждого токена. В архитектуре указаны 28 слоёв, 64 эксперта и 8 активных экспертов, а максимальная длина контекста составляет 131K токенов. Это текстовая causal language model без мультимодальности. Доступны квантизации Q2_K, Q4_K_M, Q6_K и Q8_0; рекомендуемым вариантом названа Q4_K_M. Поддерживаются локальный запуск через llama.cpp, а также приложения LM Studio, Jan и Ollama при наличии актуальной поддержки архитектуры mellum2. К сильным сторонам относятся высокая скорость генерации, локальная работа без API и облачных сервисов, большой контекст и сравнительно небольшое число активных параметров на токен. Для Q4_K_M заявлена скорость около 440 токенов в секунду на RTX 5090, однако этот показатель зависит от оборудования и настроек. Ограничения включают необходимость свежей версии llama.cpp с поддержкой mellum2, зависимость качества от выбранной квантизации и отсутствие в карточке независимых benchmark-результатов. Модель распространяется по лицензии Apache-2.0.

openbmb/MiniCPM5-1B-GGUF — компактная языковая модель серии MiniCPM5, разработанная командой OpenBMB. Это GGUF-версия MiniCPM5-1B, предназначенная для локального запуска через llama.cpp, Ollama и LM Studio, включая устройства с ограниченными ресурсами. Модель представляет собой causal language model на архитектуре LlamaForCausalLM с 1 080 632 832 параметрами, 24 слоями и группированным вниманием GQA: 16 голов для запросов и 2 для ключей и значений. Максимальная длина контекста составляет 131 072 токена. Заявлена поддержка английского и китайского языков. Один и тот же checkpoint поддерживает быстрый режим без рассуждений и режим пошагового рассуждения через параметр enable_thinking и шаблон чата с маркером <think>. Модель ориентирована на локальных ассистентов, генерацию кода, coding agents, использование инструментов, агентские сценарии и задачи, требующие рассуждений при небольшом размере модели. К сильным сторонам относятся компактность, нативный длинный контекст, поддержка tool use и гибридного режима рассуждений; разработчики заявляют конкурентные результаты среди открытых моделей класса около 1B, особенно в использовании инструментов, генерации кода и сложном reasoning. Ограничения связаны с малым размером модели, из-за которого её возможности могут уступать более крупным моделям в сложных и специализированных задачах. Модель распространяется по лицензии Apache-2.0.

Карточка модели ariancort/MiniCPM5-2B на Hugging Face совпадает с карточкой developerjeremylive/MiniCPM5-2B-etheroi, поэтому описание составлено по ней. MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

MiniMax-M1-80k-hf — открытая модель весов от MiniMax для генерации текста и пошагового рассуждения. Это вариант MiniMax-M1 с бюджетом рассуждения до 80K токенов; репозиторий предназначен прежде всего для Transformers. Архитектура сочетает Mixture-of-Experts и гибридное внимание с механизмом lightning attention. В карточке указано 21,6 млрд параметров, а заявленный нативный контекст составляет 10 240 000 токенов; README описывает семейство M1 как модель с контекстом до 1 млн токенов и обучением с подкреплением на математических задачах, программировании и задачах с инструментами. Модель рассчитана на сложные задачи с длинными входами и развёрнутым рассуждением: решение математических задач, программную инженерию, генерацию и анализ кода, ответы на вопросы по большому контексту и сценарии с вызовом функций. README отмечает результаты на бенчмарках математики, кодирования, агентного использования инструментов и длинного контекста. Модель принимает текст и генерирует текст; интерфейс вызова инструментов поддерживается в структурированном формате. Лицензия — Apache-2.0. Веса в репозитории представлены в формате safetensors. Указанное в метаданных значение контекста расходится с описанием семейства в README, поэтому фактический предел может зависеть от конкретной конфигурации и программного окружения. Заявленные оценки получены на отдельных бенчмарках и не гарантируют качество на произвольных задачах.

Nemotron-3-Nano-30B-A3B от NVIDIA — языковая модель для диалогов, рассуждений и следования инструкциям. Эта версия Unsloth основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; метаданные и карточка описывают её как дообученную модель. Она предназначена для разработчиков чат-ботов, RAG-систем и агентных приложений, включая сценарии с вызовом инструментов, а также для программирования и типовых задач по инструкциям. Модель использует гибридную архитектуру Mamba-2 и Transformer с Mixture-of-Experts: 30 млрд параметров всего и 3,5 млрд активных. Поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Карточка указывает контекст до 1 млн токенов, при стандартной конфигурации 256 тыс.; больший контекст требует больше видеопамяти. Модель генерирует текст и может работать с рассуждением или без него; режим рассуждений обычно повышает качество на сложных запросах. В карточке указана готовность к коммерческому использованию, однако метаданные обозначают лицензию как «other», поэтому конкретные условия следует сверить с лицензией репозитория. К практическим ограничениям относятся высокие требования к видеопамяти, особенно при длинном контексте, и отсутствие поддержки русского языка среди перечисленных языков.