II.7DevOps, облако и эксплуатация IT-систем

Skuld-Qwen2.5-7B — объединённая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES на основе WhiteRabbitNeo/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B и Locutusque/StockQwen-2.5-7B. Это плотная языковая модель с 7,1 млрд параметров для генерации текста в диалоговом режиме; в каталоге базовая модель описана как предназначенная для генерации кода и помощи в задачах кибербезопасности. Модель принимает текст и генерирует текст. Максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

unsloth/DeepSeek-R1-0528-GGUF — это GGUF-квантизированное представление модели DeepSeek-R1-0528, разработанной DeepSeek и опубликованной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и инференса через совместимые инструменты, включая llama.cpp, а также для задач, требующих углублённого рассуждения. DeepSeek-R1-0528 ориентирована на решение математических задач, программирование, общую логику и сложные аналитические запросы. По сравнению с предыдущей версией заявлены улучшения глубины рассуждений и инференса, снижение частоты галлюцинаций, расширенная поддержка function calling и более качественная работа в сценариях vibe coding. Для модели указан язык English; модальность — текстовая. Размер и архитектура базовой модели в предоставленных данных не указаны. Модель использует чат-шаблон, совместимый с оригинальной DeepSeek-R1; для генерации рекомендуется temperature 0.5–0.7 и Top_P 0.95. Основное преимущество — усиленные способности к сложному рассуждению, программированию и математике; в README также сообщается о результатах, приближающихся к ведущим моделям в ряде бенчмарков. Ограничения включают необходимость корректной настройки шаблона чата и параметров генерации, а также зависимость характеристик от выбранного уровня GGUF-квантизации и аппаратного обеспечения. Лицензия — MIT.

DeepSeek-R1-0528-Qwen3-8B-GGUF — версия модели DeepSeek-R1-0528, разработанной DeepSeek AI и дистиллированной на базовую Qwen3 8B. Модель ориентирована на задачи, требующие рассуждений: решение математических задач, программирование, логический анализ, общие вопросы, работу с инструментами и function calling. Формат GGUF предназначен для локального запуска в совместимых средах, однако конкретный вариант квантования в предоставленных данных не указан. Модель содержит 8 млрд параметров и основана на Qwen3 8B, дообученной на цепочках рассуждений DeepSeek-R1-0528. Согласно карточке, она показывает высокие результаты среди открытых моделей в AIME 2024 и превосходит исходную Qwen3 8B на 10 процентных пунктов. При этом точные характеристики контекстного окна, поддерживаемые языки, модальности и показатели по другим тестам для этой 8B-версии не приведены. Лицензия — MIT.

Dolphin 2.8 Mistral 7B v0.2 — разговорная модель с открытыми весами, разработанная Эриком Хартфордом и Cognitive Computations. Она дообучена на базе Mistral-7B-v0.2 и предназначена для выполнения инструкций, диалогов и задач программирования. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; полновесное дообучение проводилось с длиной последовательности 16 000 токенов. В карточке перечислены обучающие наборы для инструкций, диалогов и кода. Модель ориентирована на генерацию ответов в чате, помощь с кодом и выполнение текстовых инструкций на английском языке. Авторы характеризуют её как uncensored и предупреждают о высокой готовности выполнять запросы, в том числе неэтичные; перед предоставлением модели пользователям рекомендуется добавить собственный слой контроля. Модель распространяется по лицензии Apache 2.0, включая коммерческое использование.

AtomicChat/gemma-4-E4B-it-assistant-GGUF — это локальная GGUF-квантизированная версия модели google/gemma-4-E4B-it-assistant, разработанной Google и самостоятельно преобразованной в GGUF командой Atomic Chat. Модель предназначена для генерации текста, диалоговых ассистентов, рассуждений, программирования и автономного офлайн-использования через llama.cpp, Ollama, LM Studio, Jan и совместимые приложения. Архитектура модели — плотный decoder с 42 слоями, гибридным вниманием: скользящее окно 512 токенов сочетается с глобальным вниманием. Указано 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, контекст до 128K токенов, словарь 262K токенов, 4 attention heads и 2 KV heads. Базовая модель поддерживает текст, изображения и аудио, однако представленные в этом репозитории кванты являются текстовыми и не содержат vision projector. Языки модели в README не указаны. Доступны варианты Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; квантизация выполнена с importance matrix, что должно уменьшать потери качества на низкой разрядности. Q4_K_M рекомендован как компромисс между размером, скоростью и качеством, а Q8_0 и F16 — для большей точности. Ограничениями являются текстовый формат поставки, возможная потеря качества из-за квантизации и необходимость использовать шаблон чата Gemma 4 через параметр --jinja. Приведённые в README результаты бенчмарков относятся к базовой модели Google, а не к независимым измерениям данной квантизированной версии. Модель распространяется по лицензии Apache 2.0.

RedHatAI/granite-3.1-8b-instruct-quantized.w4a16 — это квантизированная версия текстовой инструкционной модели ibm-granite/granite-3.1-8b-instruct с архитектурой Granite 3.1 и примерно 8 млрд параметров. Модель разработана на основе IBM Granite; квантизацию выполнила Neural Magic. Она принимает текст и генерирует текст, ориентирована на диалоговые сценарии, ответы на вопросы и другие задачи text-to-text. В карточке указан английский язык. Модель использует квантизацию весов и активаций до INT4; для линейных операторов внутри трансформерных блоков квантизированы только веса. По сравнению с исходным представлением это примерно на 75% уменьшает размер на диске и требования к видеопамяти, что делает модель более подходящей для эффективного инференса. Она подготовлена для запуска с vLLM версии 0.5.2 и выше и совместима с Red Hat AI Inference Server, Red Hat Enterprise Linux AI и Red Hat OpenShift AI. На OpenLLM benchmark v1 модель получила средний результат 69,81 против 70,30 у неквантизированной версии, что указывает на небольшое снижение качества после сжатия. Модель предназначена для развертывания на GPU и использования через vLLM, включая OpenAI-совместимый сервер. Максимальный контекст модели в README явно не указан; приведенные значения длины контекста относятся к примерам конфигурации запуска. Лицензия — Apache License 2.0.

Meta Llama 3 70B Instruct — диалоговая большая языковая модель, разработанная Meta и настроенная для общения с пользователем. Она принимает текст и генерирует текст, включая программный код, поэтому подходит для чат-ассистентов и других сценариев генерации на естественном языке. Модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и содержит 70 млрд параметров. Инструктивная версия использует supervised fine-tuning и обучение с подкреплением на основе обратной связи от людей. В карточке указано назначение прежде всего для английского языка; модель статична и обучена на офлайн-данных. Модель можно применять в коммерческих и исследовательских проектах на условиях лицензии Llama 3 Community License и соответствующей политики допустимого использования. Она не предназначена для применения на языках, отличных от английского, хотя разработчики могут дообучать её для других языков при соблюдении условий лицензии. Для конкретного приложения потребуются собственные меры безопасности; ответы модели могут содержать ошибки или небезопасные сведения.

Meta Llama 3 8B Instruct — языковая модель Meta на 8 млрд параметров для диалоговых сценариев. Это авторегрессионный трансформер с оптимизированной архитектурой и Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с подкреплением на основе оценок людей. Модель принимает текст и генерирует текст, в том числе код. Модель предназначена для ассистентского общения и генерации текста на английском языке, в коммерческих и исследовательских приложениях. Она подходит для создания чат-ботов и ответов на запросы; качество и безопасность ответа зависят от сценария и настроек приложения, поэтому для конкретного применения могут потребоваться дополнительные меры защиты. Использование регулируется пользовательской лицензией Meta Llama 3 и Acceptable Use Policy.

Phi-2 Orange Version 2 — разговорная языковая модель на базе Phi-2, созданная Rhys Jones. Это двухэтапное дообучение с обновлённым процессом на тех же наборах данных, что использовались для первой версии. Модель имеет плотную архитектуру PhiForCausalLM, около 3,5 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста в диалоговом формате ChatML: она может отвечать на вопросы, следовать системным инструкциям, помогать с рассуждениями и писать код. В README приведены результаты нескольких бенчмарков, но они не гарантируют качество на конкретных задачах. Модель использует формат safetensors и поддерживается Transformers без необходимости включать trust_remote_code. Модель выпущена под лицензией MIT. Она наследует ограничения Phi-2; подробности приведены в карточке базовой модели.

RedHatAI/phi-4-quantized.w4a16 — квантизированная версия языковой модели phi-4, разработанной Microsoft; оптимизацию выполнили Red Hat и Neural Magic. Это авторегрессионная текстовая модель архитектуры Phi3ForCausalLM с текстовым вводом и выводом, предназначенная для генерации текста, диалоговых и conversational-сценариев, задач рассуждения, логики, математики и программирования, преимущественно на английском языке. Модель ориентирована на исследовательское использование и создание генеративных AI-функций в средах с ограниченными ресурсами, а также в сценариях, чувствительных к задержке. Веса линейных операторов в трансформерных блоках квантизированы до INT4 по симметричной групповой схеме с размером группы 128 с применением алгоритма GPTQ через библиотеку llm-compressor. По сравнению с представлением FP16 это примерно на 75% снижает размер на диске и требования к памяти GPU, что может облегчать развертывание и повышать эффективность инференса. В README также указана поддержка развертывания через vLLM и совместимость с Red Hat AI Inference Server, Red Hat Enterprise Linux AI и Red Hat OpenShift AI; максимальный контекст в приведённой конфигурации составляет 32768 токенов. Ограничения включают фокус на английском языке, возможные типичные проблемы языковых моделей с точностью, безопасностью и справедливостью, а также отсутствие специальной оценки для всех прикладных сценариев. Перед использованием в чувствительных и высокорисковых системах необходимы отдельная проверка и меры контроля. Модель распространяется по лицензии MIT.

Qwen3-53B-A3B-2507-THINKING-TOTAL-RECALL-v2-MASTER-CODER — модель Дэвида А. Ю (DavidAU), созданная на базе Qwen3-30B-A3B-Thinking-2507 с Brainstorm 40X и дополнительными изменениями конфигурации экспертов. Это причинная языковая модель с архитектурой Qwen3 MoE: в README указаны 53 млрд параметров, 84 слоя и 10 активируемых экспертов по умолчанию; метаданные указывают 4,3 млрд параметров. Модель предназначена для генерации текста, диалогов, программирования и задач рассуждения, включая работу с длинными проектами и контекстом до 262 144 токенов. README отмечает, что для сложных задач можно увеличить число активных экспертов, а для широкого охвата вариантов решения — запускать несколько генераций. Модель работает с текстом и ориентирована на английский, французский, китайский и немецкий языки согласно метаданным; README также заявляет поддержку основных и многих менее распространённых языков программирования. Доступны веса safetensors для использования через Transformers и преобразования в другие форматы. Лицензия — Apache-2.0. Конкретные настройки генерации влияют на результаты; рекомендации автора включают контекст от 8–16 тысяч токенов для рассуждения и вывода.

Qwen3.6-27B-Omnimerge-v4-GGUF — квантизированная версия модели ManniX-ITA/Qwen3.6-27B-Omnimerge-v4, созданная автором ManniX-ITA. Это объединённая модель на базе Qwen3.6-27B, дополненная результатами слияния трёх дообученных вариантов. Модель распространяется в формате GGUF и предназначена для локального запуска с помощью llama.cpp. Модель имеет архитектуру Qwen3.5 и около 27,78 млрд параметров. Доступны варианты от F16 до низкобитных IQ- и Q-квантизаций, включая Q2_K, Q4_K_M, Q6_K и Q8_0. Заявлены возможности рассуждений, работы с кодом и изображениями; в карточке указано поддерживаемое описание языка English. Контекстное окно и точный перечень поддерживаемых визуальных входов не указаны. Сильными сторонами заявлены улучшенные результаты в задачах программирования и научного рассуждения по сравнению с некоторыми базовыми и предыдущими версиями Omnimerge, а также специальная модификация MLP-слоёв для повышения устойчивости механизма рассуждений. Качество зависит от выбранной квантизации, а приведённые бенчмарки измерялись при разных настройках генерации и не всегда напрямую сопоставимы. Для ускоренного декодирования доступен отдельный MTP-вариант репозитория, не входящий в эту модель. Лицензия — Apache-2.0.

unsloth/Qwen3-8B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen Team. Это причинная языковая модель на этапе предварительного обучения, предназначенная для генерации и продолжения текста, адаптации под прикладные задачи, программирования, STEM, рассуждений и работы с многоязычными данными. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, и имеет 36 слоёв. Используется Grouped-Query Attention: 32 головы запросов и 8 голов ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на 36 трлн токенов на 119 языках, однако README не уточняет точный перечень языков и отдельно не описывает мультимодальные возможности; по указанным характеристикам это текстовая модель. 4-битное представление снижает требования к памяти и облегчает локальный запуск, сохраняя совместимость с экосистемой Transformers, но может влиять на точность по сравнению с полноразмерной версией. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев и следования сложным инструкциям может потребоваться дополнительное дообучение или специальное форматирование запросов. Для работы рекомендуется актуальная версия transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: qwen3. Лицензия — Apache-2.0.

ThinkingCap-Qwen3.6-27B-int4-AutoRound-v1 — это общественная INT4-квантизация модели ThinkingCap-Qwen3.6-27B, исходно выпущенной BottleCap AI. Квантизацию выполнил Josef Prusa с использованием Intel AutoRound 0.14.0. Модель предназначена для локального инференса и агентных сценариев с длинным контекстом, включая работу с инструментами, вызов функций, оркестрацию задач и обслуживание через vLLM. Модель основана на архитектуре Qwen3.6 с 27 млрд параметров и использует текстовую генерацию. Применена весовая схема W4A16 с 4-битными весами, group size 128 и симметричной квантизацией; размер файлов составляет около 20 ГБ. Тензоры Multi-Token Prediction сохранены в BF16 для поддержки speculative decoding. В рекомендуемой конфигурации vLLM заявлен максимальный контекст до 262 144 токенов, а KV-кэш может дополнительно квантизироваться в 4-битный формат. Поддерживаются режимы рассуждений, tool calling и соответствующие парсеры Qwen3. Сильные стороны модели — уменьшенное потребление памяти, высокая скорость локального инференса, возможность размещения на видеокарте класса RTX 5090 с 32 ГБ памяти и сохранение поведения исходной ThinkingCap в задачах рассуждений и работы с инструментами. По локальным предварительным тестам модель показала результаты 81 в Hermes Agent, 90 в наборе tool-call-style, 89 в instructfollow-15, 73 в bugfind-15 и 65 в cli-40. Эти показатели получены на локальных тестах и не являются полной независимой оценкой качества. Ограничения связаны с потерями качества, возможными для 4-битной квантизации, а также с тем, что приведённые оценки и показатели производительности являются предварительными измерениями на одной конфигурации. Параметр group size 128 выбран в пользу скорости, меньшего потребления VRAM и запаса для длинного KV-кэша; меньшие группы могут повысить качество, но требуют больше памяти. Лицензия в представленном README не указана.

DeepSeek-V2-Lite-XiaAi — объединённая модель для генерации текста, созданная автором карточки с помощью mergekit и метода TIES. В качестве основы использована DeepSeek-V2-Lite; в объединение также включена DeepSeek-Coder-V2-Lite-Instruct. Модель построена на архитектуре DeepSeek V2 и предназначена для диалогового взаимодействия и генерации текста. В карточке указаны 2,5 млрд параметров и контекстное окно до 163 840 токенов. Модель распространяется в формате safetensors и отмечена как поддерживающая чат. Лицензия в предоставленных данных не указана.

Карточка модели tuneai/Meta-Llama-3-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3 8B Instruct — языковая модель Meta на 8 млрд параметров для диалоговых сценариев. Это авторегрессионный трансформер с оптимизированной архитектурой и Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с подкреплением на основе оценок людей. Модель принимает текст и генерирует текст, в том числе код. Модель предназначена для ассистентского общения и генерации текста на английском языке, в коммерческих и исследовательских приложениях. Она подходит для создания чат-ботов и ответов на запросы; качество и безопасность ответа зависят от сценария и настроек приложения, поэтому для конкретного применения могут потребоваться дополнительные меры защиты. Использование регулируется пользовательской лицензией Meta Llama 3 и Acceptable Use Policy.

MiniCPM5-2B-GPTQ — GPTQ-квантованная версия MiniCPM5-2B, разработанная OpenBMB. Это плотная Transformer-модель на 2 млрд параметров для генерации текста, локального и on-device-развертывания, а также сценариев с ограниченными ресурсами. Модель ориентирована на английский и китайский языки и интегрируется с библиотекой Transformers. Модель предназначена для следования инструкциям, программирования, математических рассуждений, работы с длинным контекстом, использования инструментов и агентских задач. Заявлена конкурентоспособность с моделями класса 4B, а среди моделей сопоставимого размера отмечаются сильные результаты в коде, математике, long-context, tool use и agentic-сценариях. Поддерживаемая модальность — текст; максимальный размер контекста в предоставленных данных не указан. Ключевое преимущество — сочетание компактного размера, возможностей для локального запуска и высокой производительности в ряде прикладных задач. Ограничения включают меньший размер по сравнению с крупными моделями и отсутствие сведений о точных требованиях к памяти, форматах квантования и результатах независимого тестирования. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Mistral-Small-3.2-24B-Instruct-2506-NVFP4 — квантизированная FP4-версия инструкционной текстовой модели unsloth/Mistral-Small-3.2-24B-Instruct-2506, разработанная RedHatAI. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых сценариев, выполнения инструкций и задач общего назначения, включая объяснение понятий и программирование. Указаны языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако README отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с группировкой 16; для квантизации использовался LLM Compressor и калибровочные данные UltraChat. По сравнению с 16-битным представлением это примерно на 75% уменьшает размер модели на диске и требования к GPU-памяти, что делает модель подходящей для более эффективного инференса. Для запуска заявлена совместимость с vLLM версии 0.9.1 и выше. Ключевое преимущество модели — снижение потребления памяти и размера при сохранении назначения базовой инструкционной модели; качество оценивалось на бенчмарках OpenLLM v1, OpenLLM v2 и HumanEval_64, но подробные результаты в представленном README не приведены. Ограничения включают возможные потери качества из-за агрессивной 4-битной квантизации, отсутствие данных о размере контекстного окна и мультимодальности, а также заявленное ограничение использования английским языком. Модель распространяется по лицензии Apache-2.0.

OpenChat-3.6-8B-20240522 — диалоговая языковая модель команды OpenChat, созданная дообучением Meta-Llama-3-8B с использованием смешанных по качеству данных и метода C-RLFT. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 7,5 млрд параметров и контекст до 8192 токенов; веса доступны в формате safetensors, для работы используется библиотека Transformers. Модель предназначена для чата, генерации текста и кода, а также общих задач по умолчанию. Авторы рекомендуют использовать шаблон диалога OpenChat и предлагают сервер с совместимым с OpenAI ChatCompletion API интерфейсом; в README заявлена возможность запуска на потребительском GPU с 24 ГБ памяти. Карточка сообщает о сравнении с Llama-3-8B-Instruct и другими открытыми моделями, но не приводит здесь независимой оценки качества. Лицензия — Llama 3; применяются её условия использования.

Qwen3.6-27B-DSV4Pro-Thinking-Distill — текстовая dense-модель, разработанная автором nerkyor на базе Qwen/Qwen3.6-27B. Она создана методом LoRA-дистилляции стиля рассуждений и агентного поведения DeepSeek-V4-Pro с включённым режимом thinking. Модель предназначена для локального использования, сложных задач рассуждения, программирования, многошагового решения задач и сценариев с вызовом инструментов, включая Lynn Agent. Модель содержит 27 млрд параметров и использует гибридную архитектуру Gated DeltaNet с linear/full-attention, 64 слоями и native MTP для ускорения генерации в однопоточном режиме. Поддерживаются английский и китайский языки; заявленная модальность — текстовая. В обучении использовались около 1842 дистиллированных образцов с многошаговым reasoning и ReAct-подобными вызовами инструментов. В описании упоминается оценивание с контекстом 32K, но точный максимальный размер контекста модели не указан. Сильные стороны — улучшение сложного reasoning относительно исходной Qwen3.6-27B, отсутствие незавершённых пустых ответов в заявленном тесте GPQA, а также сохранение или небольшое улучшение результатов по MMLU и coding-100. Ограничения состоят в том, что дистилляция передаёт прежде всего стиль рассуждения и способы вызова инструментов, а не новые знания или более высокий предел возможностей; симулированные результаты инструментов в обучающих данных не являются реальным выполнением. Часть агентной оценки субъективна, а приведённые результаты относятся к конкретному тестовому стенду и квантованным вариантам. Лицензия — Apache-2.0.

mergekit-community создал эту плотную авторегрессионную языковую модель объединением методом TIES инструктивной Qwen2.5-7B-Instruct с моделями Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Она распространяется в формате safetensors и работает с библиотекой Transformers. Модель предназначена для диалогов и генерации текста с акцентом на программирование и математические задачи; метаданные также указывают интерфейс для вызова инструментов. Объединение переносит возможности трёх исходных инструктивных моделей в один чекпойнт, однако README не приводит сравнительных оценок качества или результатов тестирования. Языки в предоставленных данных не обозначены. Лицензия в предоставленных данных не указана.

Qwythos-9B-v2 — модель генерации текста и рассуждений от Empero AI, дообученная на базе empero-ai/Qwythos-9B-Claude-Mythos-5-1M методом FTPO. Она предназначена для диалогов, многошаговых рассуждений, решения задач и генерации кода; разработчик сообщает, что в этой версии устранено зацикливание при генерации, восстановлена голова MTP и сохранены возможности предыдущей версии. Модель построена на гибридной архитектуре Qwen3.5-9B с чередованием линейного внимания Gated-DeltaNet и полного внимания. Контекст заявлен до 1 млн токенов с YaRN. Хотя базовый стек поддерживает мультимодальность, README описывает практическое использование как текстовое. Основной язык карточки — английский. Модель подходит для исследовательских и технических сценариев, включая программирование, кибербезопасность и анализ научных вопросов. По внутренним оценкам разработчика, знания и рассуждения в целом сохранены относительно предыдущей версии; это обновление направлено прежде всего на устойчивость генерации, а не на рост возможностей. Известное ограничение — результат HumanEval ниже, чем у исходной Qwen3.5-9B; показатели бенчмарков получены на внутреннем тестовом наборе. Модель намеренно не ограничивает ответы на чувствительные темы. Лицензия — Apache-2.0.

Dolphin 2.6 Mistral 7B DPO — диалоговая языковая модель на архитектуре Mistral, выпущенная разработчиком Eric Hartford при поддержке Convai. Это полновесное дообучение Mistral-7B на наборах инструкций и кода с последующей настройкой методом DPO на предпочтениях UltraFeedback. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов по метаданным; в README для базовой модели указано 16 тыс. токенов. Используется формат запросов ChatML. Модель предназначена для диалогов, ответов на инструкции и помощи с программированием; разработчик отмечает повышенную податливость после DPO-настройки. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0, включая коммерческое использование. Разработчик предупреждает, что модель слабо ограничивает ответы и может выполнять вредоносные запросы, поэтому перед предоставлением пользователям рекомендуется добавить собственные меры безопасности.

LongCat-Flash-Lite-Uncensored-Heretic-Native-MTP-Preserved — производная версия LongCat-Flash-Lite от независимого автора llmfan46, основанная на модели Meituan. Автор применил abliteration, чтобы уменьшить склонность модели отказывать в ответах: в карточке указаны 9 отказов из 100 в тесте против 100 из 100 у исходной модели. Это не гарантирует отсутствие ограничений или точность ответов. Модель предназначена для генерации текста в диалогах, программирования и агентных сценариях. В основе — плотная архитектура LongcatFlashNgramForCausalLM; метаданные каталога указывают 4,6 млрд параметров и контекст до 327 680 токенов. README описывает исходную LongCat-Flash-Lite как MoE-модель с N-граммными эмбеддингами, однако эти характеристики не следует переносить на производную версию без оговорки. Репозиторий содержит веса safetensors; заявлена лицензия MIT. README также указывает на необходимость минимум двух GPU с 80 ГБ видеопамяти для запуска через Transformers.

Карточка модели tuneai/Meta-Llama-3-8B на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

Карточка модели ahmed-amedo/MiMo-V2.6-Flash-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Flash, поэтому описание составлено по ней. MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

Nemotron-Flash-1B — базовая языковая модель компании NVIDIA из семейства компактных гибридных моделей Nemotron-Flash. Она использует плотную архитектуру NemotronFlashForCausalLM с гибридными операторами, подобранными эволюционным поиском, и нормализацией весов на этапе обучения; размер модели — 520,1 млн параметров, длина контекста — до 36 000 токенов. Модель предназначена для генерации текста и применения в сценариях, где важны задержка и пропускная способность, включая математические задачи, программирование и рассуждения на общеизвестные темы. В README NVIDIA сообщает о сравнительных результатах на задачах математики, кода и здравого смысла, а также об ускорении инференса относительно некоторых небольших моделей. Для запуска приведены примеры с Transformers и CUDA Graph; в README также упоминается интеграция с TRT-LLM AutoDeploy. Это базовая модель, а не вариант Instruct, поэтому её поведение в диалоге может требовать дополнительной настройки. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией и документами репозитория.

Ornith-1.5-35B-A3B-abliterated-NVFP4-DFlash-GGUF — текстовая диалоговая MoE-модель, подготовленная pottokao для запуска через llama.cpp. Это GGUF-сборка производной от ornith-ai/Ornith-1.5-35B-A3B модели: в ней намеренно удалено поведение отказа, а веса преобразованы из NVFP4 в GGML_TYPE_NVFP4 без повторной квантизации. Объём весов — 19,5 ГБ; дополнительно доступна черновая модель DFlash для спекулятивного декодирования. Сборка рассчитана на текстовый ввод и генерацию текста, не содержит визуального модуля и MTP-головы. Модель предназначена для диалоговой генерации, рассуждений, написания кода, суммаризации и ответов на запросы, в том числе с длинными промптами. Автор сообщает о запуске на двух потребительских GPU по 16 ГБ и приводит тесты на RTX 5070 Ti; для ускорения NVFP4 на GPU требуется поддержка Blackwell и сборка llama.cpp с соответствующей CUDA-архитектурой. По опубликованному сравнению конфигурация llama.cpp уступала сборке vLLM по скорости. Поведение отказа отфильтровано, поэтому модель может выдавать небезопасные ответы. Лицензия — MIT.

Это квантизированная 4-битная версия инструктивной модели Phi-3.5-mini-instruct, опубликованная пользователем tbhrc и преобразованная в формат MLX из microsoft/Phi-3.5-mini-instruct с помощью mlx-lm 0.17.0. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров; она предназначена для диалоговой генерации текста и помощи с кодом. Метаданные указывают на многоязычную поддержку и контекст длиной 4096 токенов. Модель подходит для локальных диалоговых приложений и генерации кода. Репозиторий использует формат safetensors, а карточка указывает лицензию MIT. Сведения о конкретных ограничениях качества или языковых сценариях в карточке не приведены.

TeichAI разработала эту диалоговую MoE-модель на основе Qwen3-30B-A3B-Thinking-2507, дообучив её на наборе примеров рассуждений Claude Sonnet 4.5 с высоким уровнем reasoning. Модель предназначена для генерации текста, сложных рассуждений, программирования и научных задач; поддерживает интерфейс вызова инструментов. В метаданных указан размер 2,6 млрд параметров и контекст до 262 144 токенов. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; отдельные сведения о других поддерживаемых языках не приведены. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Дообучение на синтетических примерах рассуждений может влиять на стиль и точность ответов; карточка не приводит независимых оценок качества. Применимость к задачам за пределами программирования и науки отдельно не описана.