II.7DevOps, облако и эксплуатация IT-систем

LFM2.5-1.2B-Thinking-ONNX — ONNX-экспорт модели LFM2.5-1.2B-Thinking, разработанной Liquid AI. Это текстовая генеративная модель для кроссплатформенного вывода, включая локальный запуск, браузерные приложения и устройства с поддержкой ONNX Runtime или WebGPU. Модель предназначена для задач, требующих рассуждений: математических вычислений, программирования, логического анализа и других сложных запросов. Она генерирует пошаговый процесс рассуждения в тегах <think>...</think>, после чего формирует итоговый ответ. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Архитектура и максимальная длина контекста в README не указаны; размер модели составляет около 1,2 млрд параметров согласно идентификатору и описанию варианта. Доступны варианты FP32, FP16, Q8 и Q4. Квантизированный Q4-вариант занимает около 1,2 ГБ и рекомендован для большинства сценариев, FP16 — около 2,4 ГБ и ориентирован на более высокое качество, Q8 — около 1,7 ГБ как компромисс между качеством и размером. ONNX-формат облегчает переносимость, но для браузерного запуска требуется WebGPU. Ограничения включают небольшой размер по современным меркам, возможные ошибки в сложных задачах и необходимость самостоятельно обрабатывать разделение рассуждений и итогового ответа. Модель распространяется по лицензии lfm1.0; точные условия следует проверить в файле LICENSE репозитория.

AtomicChat/LFM2.5-8B-A1B-GGUF — это текстовая генеративная модель в формате GGUF, созданная Atomic Chat на основе LiquidAI/LFM2.5-8B-A1B. Репозиторий содержит самостоятельно выполненные квантования исходных весов с использованием importance matrix, рассчитанной для каждого тензора, поэтому модель предназначена для локального и полностью офлайн-использования через llama.cpp, MLX, vLLM, SGLang и совместимые приложения. Модель рассчитана на роль персонального помощника на устройствах с ограниченными ресурсами: она поддерживает диалог, сложные инструкции, последовательные вызовы инструментов и агентские сценарии. Это текстовая Mixture-of-Experts-модель с 8,5 млрд параметров, 24 слоями и 32 экспертами, из которых для обработки выбираются 4; архитектура также включает 32 attention heads и 8 KV heads. Заявленная длина контекста — до 128 000 токенов, размер словаря — 128 000 токенов. Поддерживаемая модальность — текст; сведения о языках в README не указаны. Сильные стороны модели — высокая скорость инференса на CPU и GPU, широкий выбор квантований от Q2_K до Q8_0 и хорошее сохранение качества при использовании importance matrix. В качестве сбалансированного варианта рекомендуется Q4_K_M, а Q6_K и Q8_0 ориентированы на более высокую точность. К ограничениям относятся неизбежная потеря качества в низкобитных вариантах, требования к памяти, зависящие от выбранного квантования, и необходимость применять chat template LFM2.5 с параметром --jinja; без него возможны некорректно сформированные диалоговые ходы. Лицензия обозначена как other, подробные условия находятся в файле LICENSE.

AMD Llama-3.1-405B-Instruct-FP8-KV — это FP8-квантизированная версия инструкционной модели Meta-Llama-3.1-405B-Instruct, подготовленная компанией Advanced Micro Devices с использованием инструмента Quark и калибровочных образцов из набора данных Pile. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется развертывание крупной языковой модели с оптимизированным использованием памяти и вычислительных ресурсов. README не содержит дополнительных сведений о поддерживаемых языках, длине контекста и исходной архитектуре базовой модели. Квантизации подвергнуты все линейные слои, кроме lm_head; веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием per-tensor. Экспорт выполняется в формате Quark safetensors, а развертывание возможно через совместимый с vLLM backend. По данным оценки на wikitext2, perplexity увеличилась с 1,8561 у исходной модели до 1,8951 у квантизированной версии; при этом результаты получены в режиме псевдоквантизации и могут отличаться от точности реального инференса. Для работы требуется Quark, а из-за размера модели может понадобиться мног GPU-развертывание. Лицензия указана как llama3.1; модификации распространяются с авторскими правами Advanced Micro Devices, Inc. за 2024 год.

Locutusque разработал Locutusque/llama-3-neural-chat-v2.2-8B как дообученную модель Meta Llama 3 8B. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате; заявленный контекст — 8192 токена. Для обучения использовались SFT и DPO-Positive, а данные были изменены для усиления навыков программирования, математики и письма. Модель предназначена для разговорного ИИ, генерации текстов, помощи с кодом и решения математических задач. В README приведены результаты оценок TruthfulQA и GSM8K, но подробный рецепт обучения не опубликован. Модель описана как очень малоцензурированная и может отвечать на широкий круг запросов. Указана лицензия Llama 3; в метаданных лицензия обозначена как other.

LuxAI 1 Nemo — выпущенная LuxAI объединённая модель на архитектуре Mistral 3 для диалога на чешском и английском языках, программирования, математики и работы с инструментами. Репозиторий содержит самостоятельные веса BF16 в формате safetensors; обучение включало текстовые адаптеры и настройку выбранных строк токенов, а затем их слияние с моделью. В README указана корректирующая эпоха на 21 530 примерах: среди обучающих задач были математические и программные рассуждения, диалоги с инструментами и чешская беседа. Модель предназначена для генерации текста, ответов в чате, кода и вызовов инструментов. На диагностическом чешском наборе Lux Core 1 она набрала 72,92% (175 из 240); это специализированная оценка, а не общий рейтинг. Авторы рекомендуют начинать работу с контекста 8 192 токена, поскольку качество на большей длине не установлено. Также опубликованы варианты GGUF, включая смешанную 4-битную квантизацию, но их точность не следует считать равной результату BF16. Ограничения включают возможные фактические, математические и программные ошибки, ненадёжное формирование native-блоков рассуждений на чешских запросах и иногда пропущенные или повторяющиеся разделители протокола. Синтаксически корректный вызов инструмента не гарантирует верный выбор инструмента; структурированный вывод следует проверять. В README сведения о лицензии отсутствуют.

MiroThinker-1.7 — агентная языковая модель miromind-ai, созданная на основе Qwen3-235B-A22B-Thinking-2507 методом дообучения. Она предназначена для глубокого исследования, многошагового анализа и ответов на сложные вопросы с использованием инструментов; в поддерживаемом агентном сценарии может выполнять до 300 вызовов инструментов за задачу. Модель использует архитектуру Qwen3 MoE, содержит 18,2 млрд параметров и принимает контекст до 262 144 токенов. README сообщает о сильных результатах в задачах исследования, включая BrowseComp, BrowseComp-ZH, GAIA-Val-165 и HLE-Text. Для полноценного использования рекомендован агентный фреймворк с поддержкой инструментов и режимом рассуждений; сама модель в каталоге размечена как генерация текста. В метаданных указан английский язык. Модель распространяется под лицензией Apache-2.0.

Mistral-22B-v0.2 — экспериментальная плотная языковая модель на 22 млрд параметров, созданная Nicolas Mejia-Petit. По описанию автора, это преобразование MoE-модели в плотную: знания экспертов объединены в одну модель. Она дообучалась на многоходовых диалогах, в том числе на примерах программирования, математических задач, ответов в JSON и действий агента. Автор отмечает улучшения в связности ответов, следовании запросам и программировании по сравнению с предыдущей версией, однако приводит лишь результаты собственных предварительных проверок. Модель предназначена для генерации текста в диалоговом формате Guanaco. В README указана длина обучения 32 тыс. токенов, а метаданные каталога указывают контекст до 65 536 токенов. Для применения рекомендуется использовать шаблон Guanaco. Модель заявлена как намеренно слабо ограниченная по отказам, поэтому может выдавать нежелательный контент. Автор называет её экспериментальной и незавершённой. Лицензия — Apache-2.0.

Mistral-7B-Instruct-v0.3-quantized.w4a16 — квантизированная версия языковой модели Mistral-7B-Instruct-v0.3, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования в англоязычных сценариях, прежде всего для диалоговых ассистентов, генерации текста и выполнения инструкций. Она принимает текст и генерирует текст, поддерживает чатовый формат взаимодействия и рассчитана на работу через vLLM или Transformers. Модель использует архитектуру Mistral-v0.3 и содержит 7 миллиардов параметров; точная длина контекста в README не указана. Веса линейных слоёв внутри трансформерных блоков сжаты до INT4 с применением симметричной групповой квантизации и размером группы 128. Это уменьшает объём дискового хранения и требования к памяти GPU примерно на 25% по сравнению с представлением FP16. Квантизация выполнена с помощью AutoGPTQ. На OpenLLM benchmark версии 1 модель получила средний результат 65,08 против 66,42 у неквантизированной версии, что указывает на небольшое снижение качества при более экономичном размещении и запуске. Основные ограничения — ориентация на английский язык и отсутствие заявленной поддержки других языков; использование за пределами применимого законодательства не допускается. Лицензия Apache-2.0 разрешает коммерческое и исследовательское применение при соблюдении её условий. Дата выпуска — 11 июля 2024 года, версия 1.0.

Это GGUF-квантизированная версия Devstral-Small-2505, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. README не уточняет её специализированные сценарии применения, однако формат и базовая модель ориентированы на работу с текстовыми запросами и, вероятно, задачами разработки, соответствующими семейству Devstral. Доступны варианты от BF16 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 11,47 до 47,15 ГБ. Указаны языки: английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других. README не содержит сведений о числе параметров, архитектуре, размере контекста или точных характеристиках качества. Для vision предусмотрен файл mmproj от Mistral Small 3.1, но эта поддержка неофициальна и может работать неидеально. Сильными сторонами являются широкий выбор квантизаций для разного объёма памяти и возможность локального запуска; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как подходящий вариант по умолчанию. Ограничениями являются значительные требования к дисковому пространству и памяти, а также возможное снижение качества в компактных вариантах. Модель распространяется по лицензии Apache-2.0.

Mixtral-8x7B-Instruct-v0.1-AWQ — это 4-битная AWQ-квантизованная версия инструкционной языковой модели Mixtral 8X7B Instruct v0.1, разработанной Mistral AI и подготовленной для публикации TheBloke. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, работу в чат-ботах и локальный запуск через совместимые инструменты инференса. Для форматирования запросов используется шаблон [INST] {prompt} [/INST]. Модель основана на архитектуре Mixtral и имеет максимальную длину последовательности 8192 токена. Доступна в формате AWQ с 4-битными весами, группой 128 и размером файлов около 24,65 ГБ; файлы поставляются в формате sharded safetensors. Заявлена поддержка английского, французского, итальянского, немецкого и испанского языков. Квантизация снижает требования к памяти и обеспечивает быстрый инференс на совместимых NVIDIA GPU, однако README не содержит точных требований к видеопамяти, результатов бенчмарков или подробных характеристик базовой архитектуры. Для работы рекомендуются Linux или Windows с NVIDIA GPU и совместимые версии Transformers, vLLM, Text Generation Inference, AutoAWQ или text-generation-webui. На macOS данный формат не рекомендуется; для этой платформы предлагаются GGUF-версии. Модель распространяется по лицензии Apache-2.0.

Карточка модели neongeckocom/NeonLLM-Base на Hugging Face совпадает с карточкой NousResearch/Hermes-2-Pro-Mistral-7B, поэтому описание составлено по ней. Hermes 2 Pro на Mistral 7B — диалоговая языковая модель, разработанная Nous Research совместно с Interstellarninja и Fireworks.AI. Это дообученная плотная модель Mistral с 7,1 млрд параметров; она использует формат ChatML и контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для вызова функций и формирования структурированных ответов в JSON. Авторы сообщают о точности 90% в собственной оценке вызова функций и 84% в оценке JSON-вывода. Она подходит для ассистентов, которым нужно передавать вызовы инструментам и возвращать ответы по заданной схеме. Модель принимает текст и генерирует текст, включая представления вызовов инструментов и JSON. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. Результаты оценок приведены авторами модели; качество ответов и корректность вызовов инструментов следует проверять в целевом приложении.

MaziyarPanahi/neural-chat-7b-v3-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и Intel/neural-chat-7b-v3. Она предназначена для генерации текста в ответ на инструкции и для диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык, а репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/NeuralHermes-2.5-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP; веса представлены в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она поддерживает контекст до 32 768 токенов и обучена работать с форматом диалогов ChatML. Карточка указывает английский язык и возможности чата и следования инструкциям. Модель распространяется по лицензии Apache-2.0. Как и другие модели этого размера, качество её ответов может зависеть от формулировки запроса; README не приводит результатов сравнительных оценок.

NVIDIA Nemotron-3-Nano-4B-GGUF — это квантизированная версия языковой модели NVIDIA Nemotron-3-Nano-4B, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Указан английский язык; поддержка других языков и мультимодальность не заявлены. Модель имеет около 4 миллиардов параметров в исходной версии и поставляется в вариантах от BF16 до Q2_K_L, включая Q4_K_M, Q5_K_M и Q6_K_L. Квантизация позволяет сократить требования к памяти и запускать модель на локальных устройствах, однако более компактные варианты могут заметно уступать по качеству исходным весам. В README не указаны архитектура, размер контекста, точные показатели производительности и системные требования. Приведён формат промпта с ролями system, user и assistant, а также началом блока рассуждений. При обучении исходной модели использовались наборы данных NVIDIA, охватывающие общие тексты, научные материалы, следование инструкциям, агентные сценарии, календарное планирование, структурированный вывод, математику и соревновательное программирование. Лицензия указана как NVIDIA Nemotron Open Model License; условия следует уточнять в официальном тексте лицензии NVIDIA. Модель подходит для локальной генерации текста, диалоговых приложений, задач следования инструкциям, программирования, математических и агентных сценариев, но конкретные возможности следует проверять для выбранной квантизации.

Это GGUF-квантизированная версия OpenCoder-8B-Instruct, разработанного infly. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в формате инструкций, включая сценарии локального запуска через llama.cpp и LM Studio. Модель содержит 8 миллиардов параметров и доступна в вариантах от F16 до различных Q2–Q8-квантизаций, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти. В README указана поддержка английского и китайского языков. Формат взаимодействия использует специальные токены system, user и assistant. Данные о точной архитектуре, размере контекстного окна и поддерживаемых модальностях отсутствуют; по назначению это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая рекомендуемые Q4 и Q5, а также более качественные Q6 и Q8, благодаря чему модель можно адаптировать под разные аппаратные ограничения. Более компактные варианты снижают требования к памяти, но могут заметно уступать по качеству; ARM-оптимизированные варианты требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Модель основана на OpenCoder-8B-Instruct и распространяется с лицензией inf, подробные условия которой приведены в отдельном LICENSE-файле.

ehristoforu/phi-4-25b — языковая модель для генерации текста и диалогов, созданная объединением через mergekit слоёв microsoft/phi-4 методом passthrough. Модель имеет плотную архитектуру семейства Phi-3 с классом Phi3ForCausalLM и содержит 24,4 млрд параметров; для запуска используется библиотека Transformers, веса представлены в формате safetensors. Заявленная длина контекста — 16 384 токена. Модель подходит для диалоговых сценариев и генерации текста. Базовая Phi-4 от Microsoft Research рассчитана на английский язык, рассуждения, математику и программирование; отдельные возможности этой сборки помимо генерации текста в карточке не описаны. Сборка не добавляет отдельной предметной специализации. Лицензия в предоставленных данных не указана.

Qwen2-1.5B-Instruct-GGUF — инструкционная языковая модель из семейства Qwen2, разработанного командой Qwen. Она предназначена для диалоговых приложений, генерации и понимания текста, а также может применяться в задачах, связанных с многоязычностью, программированием, математикой и рассуждениями. Модель представлена в формате GGUF и подходит для локального запуска с помощью llama.cpp, включая развёртывание сервера с совместимым с OpenAI API интерфейсом. Модель содержит 1,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях внимания и Group Query Attention. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. В репозитории доступны варианты fp16 и квантованные варианты q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального запуска и наличие нескольких уровней квантования с различным компромиссом между качеством и требованиями к ресурсам. Ограничения связаны с размером 1,5 млрд параметров: по сравнению с более крупными моделями она может уступать в сложных задачах понимания, генерации, кодирования и рассуждений; конкретные языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-7B, разработанной командой Qwen. Модель предназначена для генерации и продолжения текста, а также для последующего дообучения методами SFT, RLHF или continued pretraining. Для диалоговых сценариев базовую модель использовать не рекомендуется без дополнительного постобучения. Модель относится к классу causal language models и содержит 7,61 млрд параметров, из которых 6,53 млрд не являются параметрами эмбеддингов. Архитектура включает 28 слоёв, RoPE, SwiGLU, RMSNorm и attention с GQA: 28 голов для Q и 4 для KV. Контекстное окно — до 131 072 токенов. Поддерживаются более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — 4-битное представление, снижающее требования к памяти; конкретные показатели качества и производительности для этой сборки в README не приведены. Модель распространяется под лицензией Apache-2.0 и предназначена для использования с библиотекой Transformers.

YOYO-AI разработала Qwen3-30B-A3B-YOYO-AutoThink как диалоговую модель с автоматическим переключением между кратким ответом и более развёрнутым рассуждением. Она основана на объединении Qwen3-30B-A3B-Instruct-2507 и Qwen3-30B-A3B-Thinking-2507 методом arcee_fusion с последующей заменой экспертных весов из thinking-модели. Архитектура — Qwen3 MoE для генерации текста; репозиторий содержит веса safetensors. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов, а README также заявляет длину контекста 1 010 000 токенов без пояснения условий для этого значения. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с глубиной рассуждения, меняющейся в зависимости от сложности запроса; метаданные также отмечают интерфейс вызова инструментов. В карточке перечислены английский и китайский языки. Лицензия — Apache-2.0. README приводит рекомендованные параметры генерации: temperature 0.6, top_p 0.95 и top_k 20.

tripolskypetr/Qwen3.6-Uncensored-Aggressive-GGUF — это GGUF-квантизированная мультимодальная версия Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive, основанная на модели Qwen/Qwen3.6-35B-A3B. В README указано, что вариант разработан HauhauCS как версия без отказов в ответах; исходная архитектура относится к семейству Qwen. Модель предназначена для генерации текста, рассуждений, программирования и работы с изображениями и видео, включая сценарии, где требуется минимальное применение встроенных ограничений безопасности. Модель использует архитектуру MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на проход, 256 экспертами и маршрутизацией к 8 экспертам для каждого токена. Она содержит 40 слоёв, сочетает линейное внимание с полным softmax-вниманием в соотношении 3:1 и поддерживает нативный контекст до 262 тысяч токенов. Поддерживаются текст, изображения и видео; заявлены английский, китайский и другие языки. Для визуального ввода требуется отдельный файл mmproj. Сильными сторонами являются большой контекст, мультимодальность, высокая вычислительная эффективность MoE и широкий выбор квантизаций, включая оптимизированные K_P-варианты для llama.cpp, LM Studio и других GGUF-совместимых сред. Агрессивный вариант полностью снимает отказы, поэтому может генерировать потенциально небезопасный или нежелательный контент; это одновременно является его ключевой особенностью и ограничением для ответственных применений. README не сообщает результаты независимых бенчмарков и не уточняет точный набор языков. Модель распространяется по лицензии Apache-2.0.

blastbeng/Qwen3.8-27B-TURBO — открытая многоэтапно дообученная и объединённая версия модели Qwen3.8-27B, разработанная автором репозитория blastbeng на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано использование Unsloth, методов Cold Fusion и Fable Fusion, а также наборов данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется в вариантах GGUF, включая обычные и MTP-квантизации, с матрицами Neo-CODER MAX DI-MATRIX. Модель предназначена для широкого круга задач: рассуждений и решения задач, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. Заявлены поддержка английского и китайского языков, текстово-изображенческий pipeline tag, а также три режима мышления. Основной размер модели — 27 млрд параметров; доступны как минимум 4-битные и 8-битные варианты. По утверждению автора, Turbo-версия сокращает объём рассуждений до примерно половины, а в отдельных случаях до одной десятой от объёма базовой версии, сохраняя детализацию и качество вывода. Сильными сторонами заявлены высокая скорость генерации, сниженное избыточное рассуждение, развитые способности к программированию, творческим задачам и вызову инструментов, а также производительность на потребительском оборудовании. В README приведены авторские результаты ARC-C до 735 в 8-битном режиме и свыше 718 в 4-битном, однако методика и независимое подтверждение этих показателей не описаны. Ограничения включают отсутствие сведений о размере контекста, точной поддержке изображений, системных требованиях и стабильности поведения; характеристики следует проверять отдельно для выбранной квантизации. Лицензия указана как Apache-2.0.

LaTexT разработала дообученную версию Qwen3-8B для генерации текста в диалоговом формате. Модель построена на плотной архитектуре Qwen3 и содержит 7,6 млрд параметров; она обучена с помощью TRL на датасете shannons/ot3-1.2m-50k-converted. Для запуска в README приведён пример с библиотекой Transformers. Модель рассчитана на диалоговую генерацию текста и может использоваться для ответов на вопросы и выполнения инструкций. Метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 40 960 токенов; базовая Qwen3-8B описана как многоязычная модель, пригодная для рассуждений и работы с кодом. Это экспериментальный чекпойнт из серии обучения latent-COT: в README указаны итерация 2, версия v3, вес 0,2 и размер gist 7. Лицензия в предоставленных данных не указана.

Qwen3-Swallow-32B-RL-v0.2 — японско-английская языковая модель команды Swallow LLM, дообученная на основе Qwen3-Swallow-32B-SFT-v0.2 с помощью обучения с подкреплением по проверяемым вознаграждениям (RLVR). Это плотная архитектура Qwen3 с 29,7 млрд параметров, предназначенная для диалоговой генерации текста и рассуждений; модель принимает текст и генерирует текст. Поддерживает японский и английский языки, а родная длина контекста составляет 40 960 токенов. Модель ориентирована на ответы на японском и английском языках, перевод между ними, а также задачи математики и программирования. По описанию разработчиков, RLVR улучшило математические и кодовые рассуждения, сохранив результаты на уровне исходных Qwen3 или выше на некоторых задачах. Для запуска разработчики рекомендуют Transformers-совместимую инфраструктуру, в частности vLLM, и контекст не более 32 768 токенов. Вызов инструментов не является проверенным сценарием, а отдельного переключателя режима рассуждений нет. Модель выпущена на раннем этапе исследований и разработки; авторы предупреждают, что её ответы не настроены для надёжного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0.

QWQ-EVA-Preview-SLERP-32b — языковая модель на 32 млрд параметров, созданная слиянием ParasiticRogue/EVA-Instruct-32B-v2 и Qwen/QwQ-32B-Preview методом SLERP с помощью mergekit. Она предназначена для диалоговой генерации текста; базовые модели также ориентированы на математические рассуждения и программирование, поэтому модель может быть полезна в таких сценариях, однако README не приводит отдельных оценок её возможностей. Модель построена на архитектуре Qwen2ForCausalLM, принимает текст и выдаёт текст, поддерживает контекст до 131072 токенов и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0.

Карточка модели fknuette/werwolf-sft на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

DASD-4B-Thinking GGUF — компактная плотная языковая модель примерно на 4 млрд параметров, опубликованная в формате GGUF пользователем Mungert. Исходная модель разработана командой Alibaba-Apsara и создана на основе Qwen3-4B-Instruct-2507 с дистилляцией знаний от gpt-oss-120b методом distribution-aligned sequence distillation. Модель ориентирована на рассуждения с длинной цепочкой мыслей, включая решение математических задач, генерацию кода и научное рассуждение. Для обучения использовалось 448 тысяч примеров из наборов Superior-Reasoning-SFT-gpt-oss-120b и Superior-Reasoning-SFT-gpt-oss-120b-Logprob. Это текстовая autoregressive-модель для генерации текста; сведения о поддерживаемых языках и размере контекста в карточке не указаны. Версия GGUF создана с использованием llama.cpp. Автор сборки применяет модифицированный подход к квантованию: отдельные важные слои переводятся в более высокую точность с помощью опции --tensor-type, что должно повышать точность при малой разрядности, особенно для MoE-моделей, но увеличивает размер файла. Заявленные результаты DASD-4B-Thinking включают 88,5 на AIME24, 83,3 на AIME25, 69,3 и 67,5 на LiveCodeBench v5 и v6 соответственно, а также 68,4 на GPQA-D. Сильными сторонами являются компактный размер, ориентация на сложное рассуждение, высокая эффективность дистилляции и возможность локального запуска на потребительском оборудовании. Ограничения включают отсутствие в предоставленных данных подробностей о языковом покрытии, контекстном окне, конкретных требованиях к памяти и характеристиках отдельных квантованных вариантов; приведённые бенчмарки не гарантируют аналогичную производительность в любых прикладных сценариях. Лицензия — Apache-2.0.

Карточка модели bcoding/deepseek-R1-0528-Qwen3-8b-llvm-sft-trained-16bit-epoch-1 на Hugging Face совпадает с карточкой bcoding/deepseek-R1-0528-Qwen3-8b-base-16-llvm-sft-trained-16bit-epoch-2-merged, поэтому описание составлено по ней. Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

DeepSeek-V4-Flash-0731 REAP K160 — экспериментальный производный чекпойнт модели DeepSeek-V4-Flash-0731 от DeepSeek, созданный пользователем 0xSero с применением метода REAP. Модель предназначена для исследовательского использования и инференса в условиях ограниченной памяти, включая генерацию текста, программирование, рассуждения, вызов инструментов и агентские сценарии. Это неофициальный релиз DeepSeek. Модель использует архитектуру Mixture-of-Experts: в каждом MoE-уровне сохранено 160 из 256 маршрутизируемых экспертов, то есть удалено 37,5% экспертов, при этом маршрутизация top-6, общие эксперты, attention, embeddings, output head, mHC, compressor и indexer tensors сохранены. В backbone предусмотрено 43 MoE-слоя, а также 3 DSpark MTP-блока. Заявлены английский и китайский языки. Контекст проверен на конфигурации 8192 токенов, однако полные характеристики контекста в README не указаны. Чекпойнт содержит 48 шардов Safetensors и около 107,8 млрд байт данных. К сильным сторонам относятся существенное сокращение числа экспертов и требований к памяти, структурная валидация всех тензоров и успешная базовая проверка генерации и программирования. Ограничения включают экспериментальный статус, возможное снижение качества из-за агрессивного pruning, отсутствие свежего наблюдения для весов версии 0731, отсутствие подтверждения паритета с исходной моделью по бенчмаркам и отдельную необходимость проверки совместимости DSpark MTP. Для запуска требуется DeepSeek-V4-совместимый runtime; generic Transformers может не поддерживать необходимые MXFP4, sparse-attention, tokenizer и DSpark MTP-компоненты. Производная распространяется по лицензии MIT.

DPOpenHermes-7B-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и openaccess-ai-collective/DPOpenHermes-7B-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации ответов на инструкции и диалоговые запросы; заявленный контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке указан английский язык. Репозиторий распространяется под лицензией Apache-2.0; веса представлены в формате safetensors. Карточка не приводит результатов оценки качества или подробных сведений о поведении модели.

unsloth/gemma-3-270m-it-unsloth-bnb-4bit — квантованная 4-битная версия instruction-tuned модели google/gemma-3-270m-it, подготовленная проектом Unsloth. Исходная модель разработана Google DeepMind как часть семейства Gemma — открытых моделей, созданных на основе исследований и технологий Gemini. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и работы с программным кодом. Для версии с размером 270M заявлен контекст до 32K токенов на запрос. Обучение проводилось на данных более чем из 140 языков, включавших веб-тексты, код, математические материалы и изображения; дата отсечения знаний — август 2024 года. В данном репозитории модель представлена как text-generation-модель для Transformers, а 4-битное представление снижает требования к памяти и упрощает локальный запуск. К сильным сторонам относятся небольшой размер, экономичность и пригодность для развёртывания на устройствах с ограниченными ресурсами. Ограничениями являются существенно меньшая ёмкость по сравнению с крупными вариантами Gemma, возможные потери качества из-за квантования и отсутствие в README отдельных результатов оценки именно этой квантованной версии. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать соответствующие условия Google.