II.4Отладка, тестирование и качество ПО

Карточка модели Cultxre/GLM-4.6-Derestricted-v3 на Hugging Face совпадает с карточкой ArliAI/GLM-4.6-Derestricted-v3, поэтому описание составлено по ней. GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

Granite-20B-Code-Instruct-r1.1 — языковая модель IBM Research с 20 млрд параметров на архитектуре GPTBigCode, дообученная для следования инструкциям по программированию. Она предназначена для создания кодовых ассистентов и ответов на запросы о коде; также обучалась на данных по математике, решению задач, SQL и вызову функций. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В репозитории веса представлены в формате Safetensors. Модель обучалась на наборах данных с кодом, инструкциями, математикой и оценками качества ответов. Она может помогать писать и объяснять код, решать математические задачи, создавать SQL-запросы и формировать вызовы API. Её результаты могут быть слабее для языков программирования, не охваченных обучающими данными; перед применением в критичных сценариях IBM рекомендует проводить проверки безопасности и настройку под конкретную задачу. Лицензия — Apache 2.0.

GroveMoE-Inst — инструктивная языковая модель компании InclusionAI на разреженной архитектуре GroveMoE с adjugate experts. По карточке, модель создана на основе Qwen3-30B-A3B-Base: после upcycling она прошла mid-training и дообучение SFT. В README указано 33 млрд параметров всего и 3,14–3,28 млрд активных на токен; метаданные каталога указывают 2,6 млрд параметров, поэтому размер репозитория и цифры в описании расходятся. Модель принимает текст и предназначена для диалогов, следования инструкциям, решения математических и научных задач, а также программирования; заявлен контекст 40 960 токенов и интерфейс вызова инструментов. Разреженная активация позволяет повторно использовать общие вычисления, а технический отчёт и таблица бенчмарков описывают её результаты на задачах знаний, математики и кода. Для общей работы авторы рекомендуют задавать длину генерации до 16 384 токенов и приводят параметры сэмплирования. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README нет сведений о поддерживаемых естественных языках.

Карточка модели Aregay01/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

MiniCPM5-2B — компактная плотная языковая модель из серии MiniCPM5, разработанная OpenBMB. Репозиторий AIArchiveInfo является побитовой копией openbmb/MiniCPM5-2B: веса не обучались и не изменялись. Модель построена на архитектуре Transformer LlamaForCausalLM и содержит около 2,2 млрд параметров; она принимает текст и генерирует текст. Контекстное окно составляет 131 072 токена. Модель предназначена для локальных ассистентов и сценариев с ограниченными вычислительными ресурсами. Она подходит для диалога, генерации кода, математических и общих рассуждений, работы с длинными контекстами, вызова инструментов и агентных рабочих процессов. В карточке заявлена конкурентоспособность среди моделей сопоставимого размера, в частности в коде, математике, длинном контексте и использовании инструментов. В метаданных указаны английский и китайский языки. Модель распространяется в формате Safetensors и совместима с Transformers; лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными, а результаты по медицине, финансам, праву и другим чувствительным темам не являются профессиональной консультацией.

Карточка модели marvalai/MiniMax-M3 на Hugging Face совпадает с карточкой dshive/MiniMax-M3, поэтому описание составлено по ней. MiniMax-M3 — мультимодальная модель семейства MiniMax, представленная в репозитории dshive/MiniMax-M3. Она принимает текст и изображения и предназначена для диалогов, анализа визуального содержимого, работы с видео, программирования и длительных агентных сценариев. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Модель использует разреженное внимание MiniMax Sparse Attention (MSA); в карточке указана архитектура MiniMax-M3-VL и формат весов safetensors. Разработчик заявляет ускорение обработки длинного контекста и сильные результаты в задачах программирования и совместной работы с агентом. Для использования описаны MiniMax Agent и MiniMax API, а также локальное развёртывание через Transformers. Репозиторий опубликован под лицензией other; конкретные условия лицензии следует проверять в карточке модели.

MistralCode-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из mistralai/Mistral-7B-Instruct-v0.2 и dhyay/mistral_codev2_3k. Веса объединены методом SLERP; модель содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате, включая задачи программирования, на которые ориентирована одна из исходных моделей. Может использоваться для помощи с кодом и обычных текстовых запросов. Сведения о поддерживаемых естественных языках и лицензии в доступных данных отсутствуют.

Nail-Qwen3.6-35B-A3B-MLX — вариант модели Qwen3.6-35B-A3B, опубликованный пользователем peculiar-ragdoll. Это квантованная сборка для MLX на базе Unsloth Dynamic 4-bit quant, дополненная исправленным шаблоном чата, который добавляет инструкции для кратких и прямых ответов. Модель ориентирована на локальный запуск на компьютерах Mac с Apple Silicon. Модель предназначена для рассуждений, многошаговых диалогов, агентной разработки программного обеспечения и работы в coding-агентах. Она поддерживает текстовые и, согласно метаданным pipeline, мультимодальные сценарии image-text-to-text, однако подробности о фактически поддерживаемых визуальных входах в README не приведены. Заявлены английский и китайский языки, архитектура Mixture-of-Experts и контекст до 262 144 токенов. При использовании 8-битной точности KV-кэша заявлен запуск примерно в 24 ГБ оперативной памяти; также описана работа на системах с 32 ГБ unified memory. Сильные стороны модели — высокая скорость получения ответа, эффективность по расходу токенов и пригодность для автономных задач программной инженерии и длительных многоходовых взаимодействий. Ограничение заключается в том, что модель может тратить больше токенов на внутреннее рассуждение, чем некоторые альтернативы, из-за чего быстрее заполняет контекст; для очень длинных сессий это снижает выносливость. Приведённые в README результаты основаны на авторских тестах и не заменяют независимую оценку. Модель распространяется по лицензии Apache-2.0.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — опубликованная NVIDIA полноточная версия разговорной языковой модели, представленная на Hugging Face в виде GGUF BF16. Она предназначена прежде всего для разработчиков, которым нужны исходные веса для дообучения, адаптации к предметной области, исследований и подготовки собственных квантованных вариантов. Модель использует гибридную архитектуру Mixture-of-Experts с чередующимися слоями Mamba-2 и MoE, отдельными слоями Attention и механизмом Multi-Token Prediction; всего в ней 30 млрд параметров, из которых активно используются 3 млрд. Модель подходит для диалога, рассуждений, следования инструкциям, задач с кодом и работы в агентных системах. Контекст достигает 1 млн токенов на подходящем оборудовании; на одной H100 в README приведена проверка до 256 тыс. токенов из-за ограничений памяти. Основные языки — английский и языки программирования; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. README указывает, что модель готова к коммерческому применению, однако метаданные Hugging Face обозначают лицензию как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Olmo-3-7B-Think-DPO — авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Это плотный Transformer с 6,9 млрд параметров, дообученный методом DPO на наборе Dolci-Think-DPO-7B поверх allenai/Olmo-3-7B-Think-SFT. Модель поддерживает диалоговый режим и генерирует текст; контекстное окно составляет 65 536 токенов. Основной язык — английский. Модель предназначена для рассуждений с длинной цепочкой шагов, особенно при решении математических задач и написании кода, а также для диалогов, ответов на общие вопросы и следования инструкциям. В обучающих данных DPO были математические, программные, диалоговые и общеобразовательные запросы. Модель распространяется в форматах PyTorch и Safetensors и поддерживается Transformers версии 4.57.0 и выше. Лицензия — Apache 2.0; карточка также отсылает к рекомендациям Ai2 по ответственному использованию. Модель может выдавать неверные факты и без фильтрации генерировать вредный или предвзятый контент, поэтому ответы следует проверять.

Quartz-R1-8B-Genesis — русско- и англоязычная диалоговая языковая модель, разработанная Vaultek на основе YandexGPT-5-Lite-8B-pretrain. Это плотная модель семейства Llama с 7,5 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста, рассуждений, решения математических задач и помощи с программированием. В карточке заявлены дообучение SFT и LoRA, формат ChatML и использование наборов данных для кода, математики, диалогов и русского текста. Разработчик заявляет о децензурировании и дополнительной обработке весов методом Genesis Tensor Denoising, а также приводит результаты собственных тестов. Эти заявления и показатели представлены в карточке модели и не подтверждены независимой оценкой. Веса доступны в формате safetensors; модель распространяется по лицензии YandexGPT-5-Lite-8B.

Qwen2-1.5B-Instruct — инструктивно дообученная языковая модель из серии Qwen2, разработанной командой Qwen. Она предназначена для диалогов и генерации текста по пользовательским инструкциям, включая задачи понимания языка, программирования, математики и рассуждений. Модель содержит 1,5 млрд параметров, использует плотную архитектуру Transformer с декодером Qwen2 и поддерживает контекст до 32 768 токенов. В карточке отмечены улучшенный токенизатор для нескольких естественных языков и кода, а также конкурентные результаты на тестах понимания, генерации, программирования и математики. Репозиторий содержит веса safetensors; для работы с библиотекой Transformers рекомендуется версия 4.37.0 или новее. Модель распространяется по лицензии Apache-2.0.

Mungert/Qwen3.6-27B-GGUF — квантованное представление открытой модели Qwen3.6-27B, разработанной командой Qwen. Репозиторий содержит веса в формате GGUF, сгенерированные с помощью llama.cpp. Модель представляет собой каузальную языковую модель с vision encoder и предназначена для локального запуска и интеграции с совместимыми инструментами вывода. Основные сценарии применения — программирование, работа с интерфейсным кодом, анализ репозиториев и агентные задачи разработки. Модель также поддерживает обработку изображений благодаря мультимодальной архитектуре. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. В архитектуре используются Gated DeltaNet, Gated Attention и feed-forward блоки. Поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на реальные задачи разработки, работа с длинным контекстом и сочетание текстовых и визуальных входов. Ограничения, требования к конкретному уровню квантования и потреблению ресурсов для данного файла в README не приведены; характеристики зависят от выбранного GGUF-варианта и оборудования. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-35B-A3B-UDT-MTP-GGUF — это квантизированная в формате GGUF версия модели Qwen3.6-35B-A3B, подготовленная Atomic Chat на основе оригинальных весов Qwen. Модель предназначена для локального и полностью офлайн-использования в llama.cpp, Ollama, LM Studio, Jan и Atomic Chat, включая диалоговые сценарии, агентное программирование, работу с фронтенд-задачами и рассуждения на уровне репозиториев. Модель имеет 36 млрд параметров, 40 слоёв и архитектуру Mixture-of-Experts с 256 экспертами, из которых выбираются 8, а также 16 attention heads и 2 KV heads. Заявленный контекст составляет 262 144 токена. Поддерживаются текстовая и визуальная модальности; для обработки изображений в репозитории доступен vision-проектор mmproj-BF16.gguf. Квантизация выполнена с использованием importance matrix для разных уровней точности, что должно помогать сохранять качество при низкобитных форматах. К сильным сторонам относятся мультимодальность, большой контекст, MoE-архитектура, локальная работа без передачи данных во внешние сервисы и квантизация, откалиброванная importance matrix. Ограничения включают необходимость выбора подходящего GGUF-кванта, значительные требования к ресурсам и обязательное применение шаблона чата Qwen3.6 через параметр --jinja; для изображений требуется vision-проектор и совместимый интерфейс. Базовая модель выпущена под лицензией Apache 2.0, квантизация выполнена Atomic Chat.

Это GGUF-квантизация модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем pearsonkyle. Модель предназначена для локального запуска через llama.cpp, Ollama или LM Studio; поддерживает генерацию текста, агентские сценарии, программирование, tool use и function calling. Указана совместимость с задачами разработки и SWE-bench. Модель имеет гибридную архитектуру с linear attention и hybrid attention, поддерживает текст и изображения через дополнительный vision-проектор mmproj размером 629 МБ. Доступны варианты IQ2_M, IQ3_M, IQ4_XS и Q5_K_M с размером файлов примерно от 9,7 до 18,3 GiB и точностью от 3,06 до 5,76 бит на параметр. Квантизация выполнена с использованием importance matrix на контексте 32 768 токенов. В каждый вариант встроена MTP-голова в формате Q8_0 для speculative decoding без отдельного файла. Рекомендуемым вариантом заявлен IQ4_XS, а Q5_K_M описан как наиболее близкий к FP16. К сильным сторонам относятся сниженные требования к памяти, поддержка длинного контекста, мультимодальность и встроенная MTP-голова. Ограничения связаны с потерями качества, неизбежными при низкобитной квантизации, а также с тем, что для обработки изображений требуется отдельный mmproj-файл. Лицензия — Apache-2.0; заявленный язык — английский.

unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen и опубликованной Unsloth. Это каузальная языковая модель для генерации текста и кода, ориентированная на агентное программирование, использование браузера и другие задачи разработки, включая работу с репозиториями и интеграцию с инструментами вроде Qwen Code и CLINE. Модель использует архитектуру Mixture-of-Experts: 480 млрд параметров всего, из которых 35 млрд активируются при обработке запроса; включает 62 слоя, 160 экспертов и 8 активируемых экспертов, а также Grouped-Query Attention с 96 головами Q и 8 KV-головами. Нативный контекст составляет 262 144 токена, с возможностью расширения до 1 млн токенов посредством YaRN. Модель поддерживает только режим без рассуждений и не генерирует блоки <think></think>. Данные о поддерживаемых языках и мультимодальности в README не указаны; заявлена текстовая генерация. Сильными сторонами являются большой контекст, понимание кода на уровне репозитория и высокая производительность в агентных сценариях. Ограничения включают значительный общий размер модели и необходимость совместимого программного окружения; конкретные требования к оборудованию и производительности для GGUF-вариантов в README не приведены. Модель распространяется по лицензии Apache-2.0.

tangger/Qwen-7B-Chat 是阿里云通义千问 Qwen 系列的 чат-модель, которую автор репозитория повторно загрузил как временную резервную копию версии, скачанной 11 сентября 2023 года. Модель основана на Transformer и обучена с применением методов выравнивания для работы в формате диалогового ИИ-ассистента; в README указаны слои RoPE, SwiGLU и RMSNorm, а также токенизатор tiktoken со словарём около 150 тысяч токенов. Метаданные указывают 11,4 млрд параметров, контекст до 8192 токенов, форматы PyTorch и поддержку китайского и английского языков. Модель предназначена для многоходового диалога, ответов на вопросы, работы с кодом и математическими задачами, а также сценариев использования инструментов. В README приведены оценки на C-Eval, MMLU, GSM8K и HumanEval и упоминаются тесты длинного контекста и использования инструментов. Автор описывает репозиторий как временную копию и рекомендует перейти на официальный репозиторий после его восстановления. Лицензия в предоставленных данных не указана.

Qwopus3.5-9B-Coder-MTP-GGUF — мультимодальная модель для генерации текста и работы с изображениями, разработанная Jackrong на базе Jackrong/Qwopus3.5-9B-v3.5. Модель ориентирована на программирование, логические и математические задачи, DevOps-сценарии, рассуждения, использование инструментов, function calling и агентские рабочие процессы. Заявлена поддержка английского, китайского, корейского, русского, японского и испанского языков. Модель использует архитектуру Multi-Token Prediction (MTP) с двумя дополнительными draft heads, настроенными через draft=2. Такой подход предназначен для speculative decoding: вспомогательные головы предлагают следующие токены, а основная модель проверяет их, что может повысить скорость генерации. По данным README, в тестах на задачах логики, программирования, DevOps, математики и пограничных сценариях пропускная способность выросла с 4,94 до 6,71 токена в секунду, а точность — с 80,0% до 88,3%. В заявленных тестах по программированию и математике достигнута точность 100%; отдельная оценка tool calling показала 100% recall и 27 успешных выборов из 28 в состязательной фазе. Указанные результаты зависят от конфигурации оборудования, параметров генерации и тестового набора, а часть оценки tool calling носит характер независимого пользовательского теста. В README не указаны размер контекстного окна, точные требования к памяти и совместимые варианты квантования, поэтому эти характеристики требуют дополнительной проверки. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwopus3.8-27B-Flash-GGUF-1M — это набор GGUF-квантизаций модели Qwopus3.8-27B-Flash, упакованный и опубликованный Solstice-AI на основе модели Jackrong/Qwopus3.8-27B-Flash с атрибуцией Qwen AI. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio и Unsloth, включая задачи программной разработки, решения алгоритмических задач, рефакторинга, автоматизации рабочего стола и работы с длинными документами. Поддерживаются английский и китайский языки, а также мультимодальный ввод изображений через отдельный vision-проектор mmproj-BF16.gguf. Архитектура указана как Qwen3.5 / Qwopus Conditional Generation с мультимодальным зрением; размер базовой модели — 27B параметров. Заявлено нативное контекстное окно до 1 048 576 токенов. Доступны варианты квантизации от 4- до 8-битных, рассчитанные на различный объём памяти: примерно от 16 ГБ до 64 ГБ и более в зависимости от файла и конфигурации. В комплект также входит DSpark-драфтер для speculative decoding, который может повысить скорость генерации при совместимом запуске. Сильными сторонами модели являются большой контекст, поддержка изображений, широкий выбор квантизаций и возможность локального развертывания. В README приведены высокие результаты на ряде бенчмарков, однако условия их получения и независимое подтверждение не описаны. К ограничениям относятся значительные требования к памяти, зависимость мультимодального режима от отдельного проектора и возможная потеря точности в более агрессивных квантизациях. Набор распространяется по лицензии Apache 2.0.

Ba2han/QwQenSeek-coder — объединённая 32-миллиардная языковая модель на архитектуре Qwen2, созданная методом Model Stock с помощью mergekit. В объединение вошли Qwen2.5-32B-Instruct, Qwen2.5-Coder-32B-Instruct, DeepSeek-R1-Distill-Qwen-32B и QwQ-32B-Preview; базой указана Qwen/Qwen2.5-32B. Модель рассчитана на генерацию текста и диалог, включая задачи программирования и рассуждений. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В метаданных указаны интерфейсы чата и вызова инструментов. Карточка не уточняет набор поддерживаемых естественных языков. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, поведение и качество на конкретных задачах могут зависеть от используемых промптов и требовать проверки в целевом сценарии.

Sharp-Spark-X2.5-4B-GGUF — набор динамических GGUF-квантований модели XHToken/Spark-X2.5-4B, опубликованный peculiar-ragdoll. Это плотная модель с 4 млрд параметров для генерации текста, прежде всего для программирования, системного и кибербезопасностного кода. Модель рассчитана на работу через llama.cpp и ориентирована на пользователей с видеокартой объёмом около 6 ГБ и оперативной памятью до 16 ГБ. Архитектура поддерживает длинный контекст: из 36 слоёв 9 используют полноразмерное внимание, а 27 — скользящее окно размером 512 токенов. Заявлена работоспособность с контекстом до 131 072 токенов при умеренном снижении скорости; экономный KV-кэш делает модель пригодной для анализа больших файлов и репозиториев. Доступны варианты Q4_K_XL размером 2,67 ГБ, Q5_K_XL размером 3,24 ГБ и Q6_K_XL размером 3,61 ГБ, причём Q6_K_XL обозначен как рекомендуемый и проверенный на задачах SWE. К сильным сторонам относятся высокая скорость, небольшие требования к памяти, длинный контекст и специализированная importance matrix, рассчитанная с упором на security и systems code. По приведённым в README измерениям, вариант Q6 показывает сопоставимые с исходной моделью результаты на отдельных подвыборках SWE-bench-Live и MMLU-Pro при меньшем расходе токенов. Ограничения включают чувствительность небольшой модели к агрессивному квантованию, меньшую общую способность по сравнению с более крупными моделями и необходимость выбора варианта квантования в соответствии с объёмом VRAM. Лицензия — Apache-2.0.

AgentionAI Signal 3.8 Flash Next — это дообученная версия Qwen3.8-Flash-Next в формате GGUF, настроенная на более короткие ответы и эффективное рассуждение. В основе — мультимодальная разреженная MoE-модель на 177 млрд параметров с поддержкой изображений и диалога; сохранены vision encoder и голова multi-token prediction базовой модели. Репозиторий содержит варианты F16, IQ4, Q4_K и Q8. Модель предназначена для диалога, анализа изображений, решения математических задач и агентного программирования. По данным разработчика, на MATH-500 она использовала меньше токенов рассуждения и показала более высокий результат, а на Terminal-Bench 2.0 быстрее выполняла задачи программного агента. Самостоятельное тестирование разработчика ограничено небольшими выборками и единичными запусками на Terminal-Bench; на задачах, требующих длительного перебора вариантов, модель может исчерпать бюджет рассуждений раньше базовой. Модель обучена методом самодистилляции на ответах самой Qwen3.8-Flash-Next, настроенных на прямой стиль. Для запуска автор рекомендует llama.cpp и приводит контекст 65 536 токенов. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Skuld-Qwen2.5-7B — объединённая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES на основе WhiteRabbitNeo/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B и Locutusque/StockQwen-2.5-7B. Это плотная языковая модель с 7,1 млрд параметров для генерации текста в диалоговом режиме; в каталоге базовая модель описана как предназначенная для генерации кода и помощи в задачах кибербезопасности. Модель принимает текст и генерирует текст. Максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Virtuoso-Small-v2 — языковая модель на 14 млрд параметров от Arcee AI, основанная на архитектуре Qwen2.5-14B. Модель дообучена с дистилляцией логитов DeepSeek-V3 на большом текстовом корпусе, затем дополнительно выровнена с помощью DPO. Для совместимости при переносе знаний применялась обработка токенизатора; итоговая модель использует токенизатор Qwen. Метаданные указывают контекст до 131 072 токенов и формат Safetensors. Модель предназначена для диалоговой генерации текста, ответов на технические и научные вопросы, решения математических задач и генерации кода. В карточке также заявлен интерфейс вызова инструментов. README описывает дистилляцию знаний DeepSeek-V3 и улучшение следования инструкциям, однако количественные сравнительные оценки не приведены. Модель распространяется по лицензии Apache-2.0. Среди ограничений указаны возможные пробелы в знаниях о событиях после июня 2024 года и риск генерации вредного или предвзятого текста; заявленная длина контекста в README округлена до 128k токенов.

Mungert/Youtu-LLM-2B-GGUF — GGUF-версия языковой модели Youtu-LLM-2B, разработанной Tencent. Это авторегрессионная causal language model для генерации текста; семейство включает базовую и instruct-версии. Данная сборка создана с использованием llama.cpp, однако конкретный уровень квантования в README не указан. Модель содержит 1,96 млрд параметров, 32 слоя и использует плотную архитектуру MLA с 16 attention heads для Q/K/V. Поддерживается контекст до 131 072 токенов, размер словаря — 128 256. Модель ориентирована на рассуждения, следование инструкциям, STEM-задачи, программирование, работу с длинным контекстом и агентские сценарии с инструментами; для instruct-версии заявлен режим reasoning. В представленных тестах она показывает особенно сильные результаты в генерации кода, математике, обработке длинного контекста и ряде end-to-end агентских задач, но результаты зависят от версии модели и настроек запуска. README не указывает поддерживаемые языки, точные требования к ресурсам и ограничения безопасности. Лицензия обозначена как other; условия следует уточнять по файлу лицензии Tencent.

mlx-community/conikeec-deepseek-coder-6.7b-instruct — конвертированная в формат MLX версия модели DeepSeek Coder 6.7B Instruct, созданная сообществом mlx-community на основе deepseek-ai/deepseek-coder-6.7b-instruct. Это плотная авторегрессионная языковая модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов, предназначенная для генерации текста в диалоговом формате и задач программирования. Репозиторий содержит веса safetensors; для запуска через MLX README указывает библиотеку mlx-lm. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой исходной модели.

COSMO-PRO-7B — созданная Aryyanthakrr объединением SLERP двух инструктивных языковых моделей Qwen2.5: Qwen2.5-7B-Instruct и Qwen2.5-Coder-7B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; в метаданных также указана поддержка интерфейса вызова инструментов. Модель подходит для ответов на вопросы, ведения диалогов и генерации кода в сценариях с контекстом до 32 768 токенов. Репозиторий использует формат safetensors, библиотеку Transformers. Данных о поддерживаемых естественных языках в карточке нет. Условия лицензии в предоставленных источниках не приведены.

CrystalMistral_7b_v.02 — языковая модель, созданная Crystalcareai объединением Crystalcareai/Mistral-Evol-Coder и Crystalcareai/mistral-InstructGPT с помощью LazyMergekit и метода SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста, в том числе для сценариев, сочетающих инструкции и задачи, связанные с кодом. В репозитории указаны веса Safetensors; конфигурация слияния использует тип данных bfloat16. Лицензия в предоставленных данных не указана.

stelterlab/DeepSeek-R1-Distill-Qwen-14B-AWQ — квантизированная версия модели DeepSeek-R1-Distill-Qwen-14B, разработанная сообществом stelterlab на основе оригинальных весов DeepSeek AI. Квантизация выполнена в формате INT4 GEMM с использованием AutoAWQ. Модель предназначена для задач рассуждения, решения математических и программных задач, генерации текста и других сценариев применения языковых моделей. Это плотная текстовая модель, дистиллированная из DeepSeek-R1 на базе Qwen2.5; заявлено, что дистилляция переносит эффективные паттерны рассуждений крупной модели в компактные модели. Размер данной версии — 14B параметров. Сведения о поддерживаемых языках и размере контекста в README не указаны. Ключевое преимущество версии AWQ — снижение требований к памяти и вычислительным ресурсам по сравнению с полноточными весами, что упрощает локальный запуск на совместимом оборудовании. Ограничения связаны с INT4-квантизацией: она может приводить к потере качества по сравнению с исходной моделью, а фактическая совместимость и производительность зависят от используемого ПО и оборудования. Модель распространяется по лицензии MIT.

DeepSeek-R1-Distill-Qwen-14B-bnb-4bit — дистиллированная языковая модель, разработанная командой DeepSeek на основе DeepSeek-R1 и базовой архитектуры Qwen объёмом 14 млрд параметров. Данная версия подготовлена и опубликована Unsloth в 4-битном формате bnb для использования с Transformers. Модель предназначена для задач рассуждения, решения математических задач, генерации и анализа кода, а также других сценариев, требующих многошагового вывода. Дистилляция использует reasoning-поведение DeepSeek-R1, включая самопроверку, рефлексию и развернутые цепочки рассуждений. В метаданных README указан английский язык; сведения о поддержке других языков, размере контекста и мультимодальности не приведены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному представлению, что упрощает локальный запуск по сравнению с полноразмерной моделью. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о бенчмарках, контекстном окне и требованиях к оборудованию. Модель распространяется по лицензии Apache 2.0.