II.4Отладка, тестирование и качество ПО

Это версия Phi-3 Medium-4k-Instruct от Microsoft, преобразованная в формат ONNX и оптимизированная для запуска через ONNX Runtime на CPU. Модель представляет собой плотную авторегрессионную языковую модель семейства Phi-3 примерно с 13,8 млрд параметров и контекстом до 4096 токенов. Вариант рассчитан на диалог и выполнение инструкций; исходная модель прошла supervised fine-tuning и direct preference optimization. Модель подходит для генерации ответов и текста, задач на понимание языка, рассуждения, математику и код. В README заявлена скорость около 20 токенов в секунду на Intel Core i9-10920X и минимальная конфигурация с 16 ГБ оперативной памяти. Репозиторий содержит CPU-вариант ONNX с квантизацией INT4 методом RTN. Лицензия — MIT.

Qwen3.5-9B-DeepSeek-V4-Flash — модель, разработанная Jackrong на базе unsloth/Qwen3.5-9B с использованием дистилляции из DeepSeek-V4. Обучение проводилось на датасете Jackrong/DeepSeek-V4-Distill-8000x в среде Unsloth; в проекте также участвовал инженер Kyle Hessling, предоставивший вычислительную инфраструктуру и занимавшийся тестированием. Модель предназначена для эффективного рассуждения, многошагового решения задач, программирования и агентских сценариев с генерацией действий для инструментов. Ключевая характеристика модели — размер около 9 миллиардов параметров, обеспечивающий более быстрый и менее ресурсоёмкий инференс по сравнению с крупными моделями. README указывает поддержку английского, китайского, корейского, японского, испанского и русского языков, а также заявляет возможности structured reasoning, long chain-of-thought и tool-augmented workflows. При этом точный размер контекста, сведения о полноценной мультимодальности и подробные характеристики архитектуры самой дистиллированной модели не приведены; упомянутые million-token context, DeepSeek Sparse Attention и другие архитектурные особенности относятся к модели-учителю DeepSeek-V4. Модель позиционируется как компактная и эффективная альтернатива для задач рассуждения и локального инференса, однако README описывает раннюю сравнительную оценку, выполненную в формате Q5_K_M, поэтому заявленные преимущества не следует считать универсально подтверждёнными. Лицензия — Apache-2.0.

unsloth/Qwen3.6-27B-UD-MLX-4bit — 4-битная MLX-квантизированная версия открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для работы с текстом и изображениями, включая агентное программирование, фронтенд-разработку, анализ репозиториев и итеративные задачи кодинга. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру с блоками Gated DeltaNet, Gated Attention и FFN. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. README не указывает полный перечень поддерживаемых языков, однако модель позиционируется для многошаговой работы с кодом и сохранения контекста рассуждений между сообщениями. 4-битное представление снижает требования к памяти и подходит для запуска через MLX на совместимом оборудовании, но может уступать полноразмерным весам по точности. Сильными сторонами являются большой контекст, поддержка визуально-текстовых сценариев, задачи уровня репозитория и улучшенная работа в агентных coding-сценариях. Ограничения связаны с необходимостью MLX-совместимой среды и возможными потерями качества из-за квантизации; подробные сведения о языках, системных требованиях и результатах большинства тестов в предоставленном фрагменте README отсутствуют. Лицензия — Apache-2.0.

Huntfat/Qwen3.8-27B-OBLITERATED-huntfat — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем Huntfat. Это модификация Qwen3.8-27B, созданная с применением метода abliteration: из весов удалялись направления, связанные с отказами и уклончивыми ответами. В README указано, что версия V3 дополнительно использует итеративное уточнение и целевую обработку корпуса данных. Модель предназначена для генерации текста, программного кода и ответов на запросы, включая сценарии, в которых исходная модель могла отказывать или заменять содержательный ответ предупреждениями. Заявлены совместимость с режимом рассуждений, применение в агентских и длинноконтекстных сценариях, а также варианты распространения в форматах GGUF, Safetensors и MLX. Точные размер контекста, перечень поддерживаемых языков и мультимодальные возможности в представленном README не указаны. По заявленным данным, V3 сохраняет большую часть возможностей исходной модели: результат MMLU составляет 82,3% против 84,5% у базовой версии, при этом автор сообщает о 20 успешных из 20 проверок задач генерации кода и о снижении склонности к отказам. Ограничениями являются умеренная потеря качества относительно базовой модели, возможные циклы при генерации без repetition_penalty и чувствительность к настройкам декодирования. Рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; для агентских сценариев допускаются temperature 0,1–0,3 и ограничение длины ответа. Модель распространяется по лицензии Apache-2.0.

Карточка модели norvek/Qwen3-VL-8B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-8B-Instruct, поэтому описание составлено по ней. Qwen3-VL-8B-Instruct — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это плотная модель с 8 млрд параметров для диалога и генерации текста по текстовым и визуальным входам; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. Модель предназначена для анализа изображений и видео, визуальных вопросов и ответов, распознавания текста и структуры документов, пространственного рассуждения, STEM-задач и управления интерфейсами через инструменты. Она также генерирует код и разметку Draw.io, HTML, CSS и JavaScript по изображениям или видео. Заявлены контекст 256K токенов с возможностью расширения до 1M, временная привязка событий в видео и OCR на 32 языках. Модель объединяет текстовое и визуальное понимание, поддерживает агентные сценарии и вызов инструментов. Карточка описывает возможности семейства Qwen3-VL; конкретные показатели качества для версии 8B в предоставленном README не приведены.

mlx-community/QwQ-32B-Preview-bf16 — конвертированная в формат MLX версия QwQ-32B-Preview, подготовленная сообществом mlx-community из модели Qwen/QwQ-32B-Preview с помощью mlx-lm 0.20.1. Это плотная авторегрессионная модель семейства Qwen2 на 32 млрд параметров для генерации текста в диалоговом режиме; заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговых ответов, математических рассуждений и программирования. В карточке заявлен интерфейс для вызова инструментов; английский указан среди языков. Репозиторий распространяется по лицензии Apache-2.0. Это конверсия в MLX, поэтому для запуска требуется совместимая среда MLX.

SagaLM-slm2 — диалоговая языковая модель, созданная разработчиком SagaLM на основе Qwen/Qwen2.5-7B-Instruct. Модель дообучена методами QLoRA и supervised fine-tuning (SFT); её архитектура Qwen2 совместима с реализацией Qwen2/Qwen2.5 в Transformers. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов согласно метаданным; в README указана длина контекста 2 048 токенов при обучении. Модель предназначена для диалогов и выполнения инструкций, включая рассуждения, математические задачи и программирование. Обучение включало разговорные и инструктивные данные, а также примеры, закрепляющие идентичность SagaLM. Для генерации автор рекомендует до 1 024 новых токенов с настройками temperature 0,7 и top_p 0,9. Сведения о лицензии в предоставленных материалах отсутствуют.

Swift-1.5-Qwen3.8-27B-Uncensored-BF16 — мультимодальная модель на архитектуре Qwen3.5, выпущенная d0xin как производная от дообученной UkisAI модели Swift 1.5. К ней применена ранговая абляция направления в residual stream, предназначенная для снижения частоты отказов при сохранении возможностей исходной модели. Модель принимает текст и изображения и предназначена для диалогов, рассуждений, программирования, агентных сценариев и вызова инструментов. В README указаны контекст 262 144 токена и формат BF16; веса занимают около 52 ГБ и распределены по 18 файлам Safetensors. Заявлена поддержка мультимодальной архитектуры и сохранение vision tower. Автор отмечает, что проверка поведения, сохранения возможностей и производительности этой производной модели ещё продолжается; результаты бенчмарков не опубликованы. Снижение отказов может приводить к генерации небезопасного, оскорбительного или неточного контента. Лицензия в метаданных обозначена как other, поэтому перед использованием следует проверить её условия на странице модели.

Ternary Bonsai 27B — GGUF — это компактная модель для генерации текста и рассуждений, разработанная Prism ML на базе Qwen3.6-27B. Она предназначена для локального запуска через llama.cpp на CPU, CUDA- и Metal-устройствах, включая стандартные ноутбуки и отдельные GPU. Модель ориентирована на диалоговые сценарии, математические задачи, программирование, агентное использование инструментов и работу на устройствах с ограниченными ресурсами. Модель сохраняет архитектуру исходной 27B-классовой causal language model с гибридным вниманием: около 75% слоёв используют линейное внимание, а около 25% — полное. Она содержит примерно 27,3 млрд тернарных языковых весов и около 0,46 млрд параметров vision tower. Используются SwiGLU, RoPE и RMSNorm. Веса представлены в формате GGUF Q2_0_g128 с тернарными значениями −1, 0 и +1, что соответствует примерно 1,71 бита на вес. Размер развёрнутой модели составляет около 7,2 ГБ против примерно 54 ГБ у FP16-версии. Поддерживается контекст до 262 тысяч токенов, а KV-кэш квантизирован до 4 бит. Vision tower доступна в 4-битном формате и подключается при обработке изображений. К сильным сторонам относятся существенное снижение требований к памяти, сохранение рассуждений и агентного поведения при низкой битности, поддержка локального инференса и заявленное сохранение около 95% показателей FP16-версии на наборе из 15 тестов. Для CUDA доступен слой DSpark для спекулятивного декодирования с заявленным ускорением 1,34 раза. Ограничения включают зависимость от специализированных низкобитных ядер и совместимых форков llama.cpp, а также отсутствие в README точного перечня поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.

Tulu 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Модель предназначена для ответов на инструкции и запросы, решения задач с рассуждением, ответов на вопросы, а также генерации кода. Для работы используется формат ввода Tulu, описанный в карточке; модельный репозиторий содержит diff и требует доступа к исходной модели LLaMA в формате Hugging Face. Контекст составляет 2048 токенов. В карточке авторы называют её сильнейшей моделью проекта по совокупности исследованных бенчмарков; приведены результаты по языковым знаниям, математике, рассуждениям, вопросам и генерации кода. Модель работает с текстом и ориентирована прежде всего на английский язык. Лицензирование регулируется лицензией модели Tulu и исходной лицензией LLaMA; перед использованием необходимо учитывать условия обеих лицензий.

Zrald-AI Qwen 3.8 27B zraldv1-cs — GGUF-версия модели Qwen3.8-27B, опубликованная Zrald и оптимизированная для компактного размера. Это чат-модель для генерации текста, диалогов, программирования и рассуждений. В репозитории указан файл размером 10,18 GiB; README приводит результаты замеров на AMD Instinct MI300X, включая сохранение 90,72% точности и скорость генерации 76,33 токена в секунду. Для запуска рекомендуется не менее 12 ГБ VRAM. Модель основана на Qwen/Qwen3.8-27B и заявлена как дообученная; доступна в формате GGUF для использования с llama.cpp. Базовая модель описана как мультимодальная, но сведения о поддержке изображений или видео именно этой сборкой не приведены. Лицензия — Apache-2.0.

AM-Thinking-v1 — плотная языковая модель на 32 млрд параметров от a-m-team, предназначенная для рассуждений, открытого диалога, решения математических задач и генерации кода. Она построена на Qwen 2.5 32B Base и дообучена с помощью SFT и двухэтапного обучения с подкреплением GRPO. Архитектура — Qwen2, модель использует Transformers и формат safetensors; заявленная длина контекста — 131 072 токена. Модель рассчитана на сценарии, где нужны развёрнутые рассуждения и генерация текста или программного кода. По данным разработчика, она показывает высокие результаты на математических и кодовых тестах и может запускаться на одном ускорителе A100 с 80 ГБ памяти. Карточка также описывает чат-возможности, но предупреждает, что модель не обучена для структурированного вызова функций и рабочих процессов с инструментами. Разработчик — a-m-team. Лицензия — Apache-2.0. Разработчик отмечает, что следование сложным инструкциям требует улучшения, а защитное выравнивание находится на ранней стадии; для стабильного качества рекомендуется использовать системный промпт, сохранённый в конфигурации токенизатора.

Bagel DPO 7B v0.1 — диалоговая языковая модель, разработанная jondurbin и дообученная методом прямой оптимизации предпочтений (DPO) на базе семейства Llama. Модель содержит 7,1 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текстовые запросы. Для общения применяются форматы Vicuna, Llama 2, Alpaca и ChatML; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов и широкого круга инструктивных задач: ответов на вопросы, рассуждений, математики, написания кода и творческих текстов. В описании приведены результаты оценок на наборах ARC, BoolQ, GSM8K, MMLU и других, а также MT-Bench. Обучающие данные включают англоязычные и многоязычные источники, в том числе Belebele; карточка не уточняет полный перечень поддерживаемых языков. Автор предупреждает, что эта DPO-версия может чаще отказывать в ответах, чем недистиллированная от предпочтений версия. В данных обучения присутствует токсичный контент. Модель распространяется под лицензией Apache-2.0.

Это GGUF-квантизированная версия текстовой модели dolphin-2.9.1-llama-3-8b, разработанной cognitivecomputations и опубликованной legraphista. Модель основана на Llama 3 с исходным форматом BF16 и предназначена для генерации текста в совместимых средах, включая llama.cpp. Модель имеет размер 8 миллиардов параметров и поддерживает различные варианты представления: от BF16 и FP16 до квантований Q2–Q8 и IQ. Для ряда квантованных вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера файлов и требований к памяти. Доступны файлы размером примерно от 3 до 16 ГБ. Модель ориентирована на диалоговые и инструкционные сценарии, а также задачи программирования, математические задачи, function calling и агентские сценарии, поскольку базовая модель обучалась на соответствующих наборах данных. Преимуществами являются локальный запуск, широкий выбор уровней квантизации и совместимость с экосистемой GGUF. Ограничения включают отсутствие заявленных в карточке сведений о языках, размере контекста, точных показателях качества и мультимодальных возможностях; модель работает с текстом. Лицензия указана как other, без дополнительных условий в представленном README.

FlexOlmo-7x7B-1T-RT — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (Ai2). Это чат-модель для генерации текста на основе архитектуры Mixture-of-Experts (MoE); версия RT представлена в README как модель без обучения маршрутизатора экспертов. README описывает набор экспертов, обученных на публичных данных, новостях, математике, коде, академических текстах, творческих текстах и Reddit. Для этой версии в метаданных указано 6,9 млрд параметров, контекст — 4096 токенов. Модель предназначена для диалога и генерации текста в сценариях, связанных с общими вопросами, математикой, кодом, новостями, академическими и творческими текстами. README описывает подход FlexOlmo к совместной разработке моделей: владельцы данных могут контролировать активность своих данных и получать атрибуцию без передачи исходных данных. В README приведена оценка отдельных плотных моделей, а не этой MoE-версии, поэтому эти результаты нельзя считать прямой оценкой FlexOlmo-7x7B-1T-RT. Модель распространяется по лицензии Apache-2.0.

Это дообученная модель Gemma 4 12B от автора llmfan46, созданная на основе yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF. Она предназначена для диалоговой генерации текста, программирования и многошагового использования инструментов, включая сценарии работы с терминалом. Модель поддерживает режим рассуждений и использует встроенный протокол вызова инструментов Gemma 4; для запуска в Transformers требуется версия библиотеки с поддержкой архитектуры gemma4_unified. В README описано дообучение на траекториях агентных задач, проверенных задачах Python и данных для общих инструкций. Также автор сообщает о применении abliteration для снижения частоты отказов: в приведённом тесте она отказала в 13 случаях из 100 против 99 у исходной модели. Это не гарантирует качества или безопасности ответов; результаты MMLU близки к результатам исходной модели. Репозиторий использует формат safetensors и лицензию Apache-2.0.

Gemma 4 E4B it qat JANG_4M CRACK — дообученная и квантованная мультимодальная модель dealignai на базе google/gemma-4-e4b-it. Это плотная модель семейства Gemma 4 с гибридным скользящим и глобальным вниманием. Вариант JANG_4M использует 8-битную точность для attention и 4-битную для MLP; модель предназначена для запуска на Apple Silicon через vMLX. Модель поддерживает диалог, работу с изображениями и аудио, ответы на вопросы, многошаговые рассуждения и генерацию кода. Разработчик заявляет об удалении отказов при сохранении возможностей; в приведённых тестах модель показала 71,9% на MMLU и 100% выполнения запросов из вредоносных категорий HarmBench. Для запуска требуется vMLX с поддержкой Gemma 4 и достаточный объём объединённой памяти. Указана лицензия Gemma; карточка рекомендует использовать модель для исследований и возлагает соблюдение применимых законов на пользователя.

Карточка модели Vaibhavhome30/GLM-5.3-Flash-BF16 на Hugging Face совпадает с карточкой unsloth/GLM-5.3-Flash, поэтому описание составлено по ней. GLM-5.3-Flash — мультимодальная модель семейства GLM, разработанная Z.ai. Репозиторий unsloth содержит дообученную версию базовой модели zai-org/GLM-5.3-Flash-BF16 и распространяет веса в формате safetensors; заявлена лицензия MIT. Модель предназначена для диалогов и генерации текста, включая программирование и агентные сценарии. Архитектура GLM-5 Next сочетает разреженное и линейное внимание; в README указаны 320 млрд параметров всего и 18 млрд активных параметров. Разработчик также описывает мультимодальное предварительное обучение и улучшенную эффективность при работе с длинным контекстом, но точная длина контекста этой копии не приведена. Карточка базовой модели характеризует её как мультимодальную и поддерживающую анализ изображений, однако метаданные этого репозитория указывают в качестве задачи только text-generation. Поэтому назначение копии как модели для обработки изображений отдельно не подтверждено. Языковые теги карточки — английский и китайский. Практическое развёртывание требует соответствующей инфраструктуры для модели такого масштаба; в README перечислены SGLang, vLLM, TokenSpeed и KTransformers.

HelixLM-CheckpointHub — текстовая авторегрессионная модель семейства HelixLM, поддерживаемого Nimbus AI Lab. Она предназначена для генерации ответов и диалогов, включая решение математических и логических задач, программирование и вызов функций. В карточке описаны улучшения рассуждений после дополнительной вычислительной подготовки и оптимизаций на этапе постобучения; заявлено повышение результата GPQA-Diamond с 58% до 76,5% по сравнению с предыдущей версией HelixLM. Модель доступна в формате PyTorch и использует библиотеку Transformers. README рекомендует температуру 0,6 и приводит системный промпт для ассистента. Также описаны сценарии вопросов по загруженным файлам и генерации с результатами веб-поиска. Размер модели и длина контекста в предоставленных данных не указаны. Для модели заявлена лицензия MIT. README отмечает улучшения в снижении галлюцинаций и поддержке вызова функций, но не приводит подробных оценок, методики сравнения или ограничений по применению; фактическое качество на конкретных задачах может отличаться от benchmark-результатов.

HelixLM — плотная авторегрессионная языковая модель семейства Helix, опубликованная dusersad12 в формате PyTorch для генерации текста. В карточке заявлены улучшения рассуждений и вывода, включая задачи по математике, программированию и логике; модель также позиционируется как чат-ассистент с поддержкой вызова функций. README сообщает об улучшении результата на AIME 2026 до 89,3% и увеличении среднего расхода токенов на вопрос с 14 тыс. до 27 тыс., а также о снижении галлюцинаций. Для локального запуска и взаимодействия предлагаются отдельные кодовый репозиторий, веб-интерфейс и API; для генерации рекомендована температура 0,6. Репозиторий распространяется по лицензии Apache-2.0. Размер модели, длина контекста и поддерживаемые языки в предоставленных данных не указаны.

DevQuasar публикует версию IBM Granite-4.1-8B в формате GGUF F16. Модель основана на ibm-granite/granite-4.1-8b и предназначена для генерации текста в диалоговом формате; карточка базовой модели описывает её как многоязычную инструктивную модель IBM для диалоговых помощников, работы с текстом и кодом, а также вызова инструментов. Репозиторий указывает на GGUF F16; конкретные параметры запуска и длина контекста в предоставленных данных не приведены. Лицензия в данных не указана.

Kiel-2.1-Echo — языковая модель для диалогов и выполнения инструкций, разработанная KielTech в экосистеме Kiel AI. Это плотная причинная модель семейства Llama с 3,2 млрд параметров, дообученная на базе kiel2/Kiel-2-Echo и распространяемая как самостоятельные веса Safetensors в формате FP16. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для разговорных ассистентов, генерации кода, помощи с асинхронными сценариями на Python, рассуждений о программной архитектуре и решения задач из разных областей. Она принимает текстовые запросы и генерирует текст; заявленный язык — английский. В карточке заявлены высокая производительность и строгое следование инструкциям, но сравнительные оценки или результаты тестов не приведены. Указаны варианты развёртывания через Transformers, vLLM и Text Generation Inference. Лицензия в предоставленных данных не описана.

Kiwen1.1-27B-MTP-GGUF — это набор смешанных GGUF-квантизаций модели Kiwen1.1-27B, разработанной beyoru и подготовленной пользователем NikiKrutan для запуска через llama.cpp. Модель ориентирована на диалоговые сценарии, программирование, агентские задачи, рассуждения, математику и работу с текстами на нескольких языках, включая английский, русский и вьетнамский. Суффикс MTP и метаданные указывают на вариант, связанный с multi-token prediction, однако подробности архитектуры MTP в README не приведены. Квантизации создаются инструментом niki-allocator, который подбирает тип квантования отдельно для каждого тензора с учётом целевого размера файла и оценок качества на основе KLD. Доступно 15 вариантов размером примерно от 8500 до 23000 МиБ; автор рекомендует выбирать максимально крупный вариант, помещающийся в доступную память, поскольку больший размер обычно обеспечивает более высокое качество. Производительность зависит от оборудования и конфигурации и отдельно не измерялась. Сильной стороной модели является тщательная оценка качества квантизаций на корпусах для программирования, агентских задач, рассуждений, сложной логики, мультиязычных текстов и научных материалов, а также сравнение с альтернативными сборками. Ограничения включают зависимость скорости и пригодности от аппаратной конфигурации, возможные потери качества из-за квантования и отсутствие в README точных сведений о размере контекста, полном наборе поддерживаемых языков и характеристиках исходной архитектуры. Распространение заявлено по лицензии Apache-2.0.

casperhansen/llama-3-70b-instruct-awq — это 4-битно квантованная методом AWQ версия Llama 3 70B Instruct, опубликованная пользователем casperhansen на Hugging Face. Базовую модель разработала Meta. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и Grouped-Query Attention; она принимает текст и генерирует текст или код, поддерживая диалоговый формат и задачи ассистента. Модель содержит около 70 млрд параметров, использует контекст до 8192 токенов и рассчитана прежде всего на англоязычные коммерческие и исследовательские сценарии: диалог, генерацию текста, ответы на вопросы, программирование и рассуждения. Квантование AWQ уменьшает требования к памяти и делает локальное развертывание более практичным, однако может сопровождаться потерей точности по сравнению с полноразмерной версией. Модель не является мультимодальной и не предназначена для языков, отличных от английского, без дополнительной адаптации. Как и другие LLM, она может выдавать неточные, предвзятые или небезопасные ответы, поэтому требует проверки и дополнительных защитных механизмов. Для использования применяются Transformers, vLLM или SGLang; репозиторий содержит веса в формате Safetensors. Для базовой Llama 3 указана пользовательская коммерческая лицензия Meta Llama 3 Community License и Acceptable Use Policy; использование производной версии следует согласовывать с этими условиями.

tepirale/merge-cord-v1 — объединённая языковая модель, созданная с помощью mergekit на основе Qwen/Qwen2.5-1.5B. В слияние вошли Qwen/Qwen2.5-1.5B-Instruct и Qwen/Qwen2.5-Coder-1.5B-Instruct; в метаданных также указана связь с Qwen/Qwen2.5-1.5B. Архитектура — плотная причинная языковая модель Qwen2 с 1,5 млрд параметров, распространяемая в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая задачи с кодом; метаданные отмечают интерфейс вызова инструментов. Поддерживаемый язык по карточке не определён. Для использования указана библиотека Transformers, лицензия в предоставленных данных не приведена. README сообщает о применении метода Consensus-Orthogonal Residual Decomposition и отмечает, что функция cord отсутствует в MergeKit, поэтому воспроизводимость указанной конфигурации может быть ограничена.

FredyRivera-dev/MiniCPM5-1B — подготовленная версия MiniCPM5-1B от команды FredyRivera-dev на основе openbmb/MiniCPM5-1B. Веса не изменялись и дообучение не проводилось: в токенизаторе переименован зарезервированный токен, а шаблон чата адаптирован для блоков текста и изображений. При этом модель не поддерживает зрение: у неё нет визуального энкодера или проектора, а добавленный токен изображения не обучен. Это компактная причинная языковая модель с плотной архитектурой LlamaForCausalLM и 837,6 млн параметров по метаданным. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режимы быстрого ответа и пошагового рассуждения. Модель предназначена для локальных помощников, генерации кода, использования инструментов и рассуждений на устройствах с ограниченными ресурсами; карточка указывает поддержку английского и китайского языков. К заявленным преимуществам относятся длинный контекст и пригодность для локального развёртывания. Ответы могут быть неточными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Лицензия — Apache-2.0.

Это 5-битная квантованная версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio с помощью mlx_lm для работы на компьютерах Apple Silicon. Базовая модель создана NVIDIA; карточка представляет её как разговорную модель с интерфейсом вызова инструментов. Модель предназначена для генерации текста в диалогах, рассуждений, программирования и агентных приложений. Метаданные указывают поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Квантование уменьшает точность весов до 5 бит и ориентировано на запуск через MLX. Репозиторий распространяется по лицензии, обозначенной как other; конкретные условия следует сверить с файлами лицензии модели. Как и другие генеративные модели, она может выдавать неточную, вредную или неподходящую информацию.

Это 6-битная квантизированная версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio с помощью mlx_lm для работы на устройствах Apple Silicon. Модель основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура исходной модели сочетает гибридный подход и MoE с 30 млрд параметров, из которых около 3 млрд активируются на токен. Исходная модель рассчитана на диалоги, рассуждения, программирование и создание агентных приложений, поддерживает длинный контекст и шесть языков: английский, испанский, французский, немецкий, японский и итальянский. Эту сборку можно использовать для генерации текста, диалогов и вызова инструментов в приложениях на Apple Silicon. Квантизация уменьшает требования к памяти по сравнению с BF16, но может влиять на точность ответов. В README не приведены длина контекста и условия лицензии именно для этой сборки; лицензия в метаданных обозначена как other. Модель может выдавать неточные или нежелательные ответы.

Olmo 3 7B Instruct — авторегрессионная Transformer-модель Allen Institute for AI (Ai2) для диалогов и выполнения инструкций. Модель содержит 6,9 млрд параметров, рассчитана на английский язык и принимает текст, выдавая текст. Контекстное окно — до 65 536 токенов; модель работает через Transformers и распространяется в формате safetensors. Модель создана на основе allenai/Olmo-3-7B-Instruct-DPO и дополнительно обучена на наборе Dolci-Instruct-RL-7B. Она подходит для ответов на вопросы, общего диалога, задач по математике и программированию. Лицензия Apache 2.0; Ai2 указывает исследовательское и образовательное применение согласно своим рекомендациям ответственного использования. Ответы могут содержать фактические ошибки и предвзятость; без дополнительной фильтрации модель может генерировать вредоносный или чувствительный контент. Результаты следует проверять, а при внедрении учитывать необходимость мер безопасности.

Open-Instruct SNI 7B — языковая модель на архитектуре LLaMA, дообученная исследователями Allen Institute for AI на наборе Super-Natural Instructions. Она предназначена для генерации ответов на инструкции и выполнения разнообразных текстовых задач, включая вопросы и ответы, рассуждения, задачи по математике и генерацию кода. Модель содержит 6,6 млрд параметров, использует формат PyTorch и имеет контекст длиной 2048 токенов. Модель обучалась в рамках исследования состояния instruction tuning на открытых ресурсах; в README приведены результаты на MMLU, GSM, BBH, TyDiQA, Codex-Eval и AlpacaFarm. Для качественной генерации следует соблюдать указанный в карточке формат запросов с переводами строк. Репозиторий содержит diff весов: для использования нужна доступная базовая модель LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model и исходной лицензией LLaMA.