II.4Отладка, тестирование и качество ПО

Карточка модели MahmoodAnaam/ModernBERT-large на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

gkraker04/Nanbeige4.2-3B-GGUF — это набор квантованных версий компактной языковой модели Nanbeige4.2-3B, разработанной Nanbeige. Модель предназначена для генерации текста, агентских сценариев и задач, требующих многошагового рассуждения. Она построена на архитектуре Looped Transformer, поддерживает английский и китайский языки и распространяется в формате GGUF для запуска в совместимых средах, включая llama.cpp с поддержкой архитектуры Nanbeige. Репозиторий содержит варианты квантования от Q8_0 до Q2_K и IQ-семейства размером примерно от 1,36 до 4,13 ГБ; исходная версия bf16 занимает 7,77 ГБ. В качестве компромисса между качеством и требованиями к памяти рекомендуется Q4_K_M размером около 2,40 ГБ. Квантование выполнено с использованием importance matrix, что помогает сохранять качество при уменьшении размера. Для Q4_K_M заявлены близкие к bf16 показатели perplexity, однако результаты зависят от типа квантования: при сильном уменьшении разрядности заметно ухудшаются многошаговое рассуждение и точность. Модель подходит для локального запуска на устройствах с ограниченными ресурсами, генерации текста, программирования и экспериментальных агентских приложений. Точные характеристики контекстного окна, сведения о мультимодальности и подробные ограничения исходной модели в README не указаны; по представленным данным это текстовая, а не мультимодальная модель. Репозиторий распространяется по лицензии Apache 2.0.

Open-Instruct Dolly 7B — языковая модель Allen Institute for AI (AI2), полученная дообучением 7-миллиардной LLaMA на наборе инструкций Databricks Dolly 15K. Это плотная авторегрессионная модель семейства LLaMA для генерации текста по инструкциям и диалоговых запросов на английском языке. Модель предназначена для ответов на вопросы, следования инструкциям и решения разнообразных текстовых задач; в карточке также приведены результаты оценок на тестах знаний, математики, рассуждений, понимания вопросов и генерации кода. Размер по метаданным — 6,6 млрд параметров, контекст — 2048 токенов. Репозиторий содержит diff весов, поэтому для использования требуется исходная LLaMA в формате Hugging Face и совместимые веса. Модель выпущена в рамках исследования instruction tuning на открытых ресурсах. Указаны лицензия AI model license из LICENSE.txt и исходная лицензия LLaMA; перед применением необходимо учитывать условия обеих лицензий. Карточка не сообщает подробностей о режимах развёртывания или гарантиях качества.

bunnycore/Phi-4-Stock-Ex — объединённая mergekit-модель на базе unsloth/phi-4, созданная методом Model Stock. В объединение вошли bunnycore/Phi-4-Stock-RP, bunnycore/Phi-4-Model-Stock и bunnycore/Phi-4-Sky-Lora, а также базовая модель unsloth/phi-4. Модель имеет плотную архитектуру LlamaForCausalLM с 14,1 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации текста и диалогов в формате system/user/assistant. Базовая Phi-4 рассчитана на англоязычную генерацию, рассуждения и код; README не уточняет, какие дополнительные сценарии или языки обеспечивает этот конкретный merge. Файлы представлены в формате safetensors, для работы используется Transformers. Лицензия в доступных данных не указана.

Qwen2-0.5B-Instruct — инструкционно дообученная языковая модель семейства Qwen2, разработанная командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 494 млн параметров; она принимает текст и генерирует текст в формате диалога. Контекст составляет до 32 768 токенов. Модель предназначена для общения, генерации и понимания текста, а также может применяться к задачам рассуждения, математики и программирования. Модель компактна и поддерживает многоязычный токенизатор, но метаданные карточки отмечают английский язык. В приведённом сравнении она показала улучшение относительно Qwen1.5-0.5B-Chat на тестах MMLU, HumanEval и GSM8K. Эти результаты не гарантируют аналогичное качество в конкретных приложениях. Модель распространяется под лицензией Apache-2.0.

bunnycore/Qwen2.5-3B-MiniMix — слитая разговорная языковая модель, созданная с помощью mergekit и метода TIES на базе Qwen/Qwen2.5-3B. В объединение вошли Qwen/Qwen2.5-3B-Instruct, bunnycore/Qwen-2.5-3b-Evol-CoT и bunnycore/Qwen-2.5-3b-Rp-lora_model. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2 для генерации текста и работает через библиотеку Transformers; заявленный контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Сочетание инструкционной и CoT-моделей ориентировано на выполнение инструкций и рассуждения; также доступны чат-возможности и интерфейс вызова инструментов. Поддерживаемые языки и качество на отдельных задачах в карточке не описаны. Веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя. Как результат слияния нескольких моделей, поведение MiniMix может отличаться от исходных моделей; перед применением следует проверить ответы и вызов инструментов на целевых сценариях.

Qwen3.6-35B-A3B-DSV4Pro-Thinking-Distill — разреженная MoE-модель, опубликованная пользователем nerkyor и предназначенная прежде всего для локального запуска в Lynn Agent. Она выполняет роль оркестратора задач: разбивает сложные запросы на этапы, делегирует их инструментам или другим компонентам и проверяет результаты. Модель основана на Qwen3.6-35B-A3B и обучена с помощью LoRA на примерах рассуждений и агентного поведения, дистиллированных из DeepSeek-V4-Pro с включённым режимом thinking. Инструментальные результаты в обучающих траекториях были симулированными и замаскированы, поэтому модель обучалась способам рассуждения и вызова инструментов, а не запоминанию этих результатов. Архитектура MoE имеет 35B параметров с активацией примерно 3B параметров на токен; базовая версия обучалась в BF16. Указаны английский и китайский языки, назначение text-generation и поддержка агентных сценариев с ReAct-подобным чередованием рассуждений и действий. Модель оснащена встроенной MTP-главой для speculative decoding; поддержка заявлена для llama.cpp, vLLM и SGLang, однако большинство графических интерфейсов используют её без ускорения MTP. Для локального запуска рекомендуются системы с 32 ГБ или более VRAM либо unified memory, а для меньших объёмов памяти авторы предлагают другую модель. Сильными сторонами являются улучшение результата на GPQA-Diamond относительно исходной модели, более быстрая сходимость агентного цикла и снижение числа незавершающихся ответов. Ограничения включают небольшое снижение результата на MMLU, потерю одного успешного сценария из двадцати в указанной проверке оркестрации и ограниченную эффективность MTP по сравнению с плотными моделями. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантов 27-миллиардной модели Qwen3.8, подготовленный OrcaRouter на основе Qwen/Qwen3.8-27B. Это abliterated-версия с существенно удалёнными механизмами отказа от ответов. Модель предназначена для локального запуска через llama.cpp, включая сценарии исследований интерпретируемости, AI-безопасности, red-teaming и оценки устойчивости. Для практического применения требуется самостоятельно добавлять механизмы модерации и безопасности. Модель представляет собой плотную hybrid-attention архитектуру, сочетающую линейное внимание Gated DeltaNet и обычное full attention. Она поддерживает текст и изображения, reasoning, tool calling и MTP-голову для speculative decoding. Заявлены английский и китайский языки. Для обработки изображений нужен отдельный vision-проектор mmproj; поддерживаются CPU, CUDA, Metal и ROCm. Доступны варианты квантования от 2 до 16 бит, размер файлов — примерно от 8,9 до 54,7 ГБ; Q4_K_M указан как основной баланс качества и размера, а IQ4_XS — как предпочтительный вариант среди низкобитных квантов. К сильным сторонам относятся широкий выбор квантований, локальный запуск на различных аппаратных платформах, мультимодальность, поддержка инструментов и более эффективное speculative decoding с MTP. Ограничения включают необходимость свежей версии llama.cpp с поддержкой архитектуры qwen35 и MTP, заметное снижение качества у низкобитных вариантов, а также отсутствие встроенных защитных ограничений: модель может выполнять вредоносные или незаконные запросы. Лицензия — Apache 2.0, унаследованная от базовой модели; использование должно соответствовать законодательству и условиям лицензии.

Модель Solshine/reflection-llama-3.1-8B — разговорная языковая модель семейства Llama 3.1, разработанная Solshine (Caleb DeLeeuw) и дообученная на предыдущем чекпойнте этой серии методом итеративного reflection tuning. Она генерирует рассуждение в специальных тегах, может отмечать и исправлять ошибки в ходе рассуждения, а затем выдаёт итоговый ответ в отдельных тегах. Для диалогов используется стандартный формат чата Llama 3.1. Модель предназначена для генерации ответов и решения задач, где полезны пошаговое рассуждение и самопроверка, в том числе математических текстовых задач. В карточке указаны 7,5 млрд параметров и контекст до 131 072 токенов; доступны интерфейсы чата и вызова инструментов. Обучение проведено с использованием Unsloth и TRL на данных Reflection-Dataset-v2 и orca-math-word-reflection. Основной язык карточки — английский. Официальных результатов бенчмарков пока нет, поэтому качество рассуждений и ответов не подтверждено независимой оценкой. Модель распространяется по лицензии Llama 3.1; применимость лицензии и её условия следует учитывать при использовании.

SRIQ-MiniCPM5-2B-v1.5 — разработанная SRIQ модель, полученная дообучением openbmb/MiniCPM5-2B на наборе sriq-ai/sriq-sft-v1.5. Это плотная языковая модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров; она принимает текст и генерирует ответы в диалоговом формате, поддерживая контекст до 131 072 токенов. Модель предназначена для ответов на вопросы и задач рассуждения, в том числе в контексте длинных системных инструкций и агентных сценариев. Внутренние рассуждения она формулирует сжато на упрощённом китайском независимо от языка запроса, а итоговый ответ — на языке пользователя. Обучение ориентировано на проверку результата перед ответом; доступен интерфейс вызова инструментов. Карточка не приводит результатов бенчмарков, поэтому качество и прирост относительно базовой модели не подтверждены опубликованными измерениями. Сжатые рассуждения могут быть трудны для чтения, а проверочный этап сам по себе не гарантирует правильность ответа. Для работы модели следует не отключать рассуждения параметром enablethinking=False. Лицензия — Apache-2.0.

Карточка модели qihoo360/360Zhinao-7B-Chat-4K на Hugging Face совпадает с карточкой qihoo360/360Zhinao-7B-Base, поэтому описание составлено по ней. 360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

Byrne-Anon — модель Quazim0t0 для обнаружения и анонимизации персональных данных в тексте. Она использует архитектуру SpikeWhale (Byrne) с плотной языковой основой и головой классификации токенов: каждому токену присваивается BIOES-метка, после чего найденные фрагменты можно редактировать или скрывать. Восемь категорий включают имена людей, электронные адреса, телефоны, физические адреса, URL, даты, номера счетов и секреты — например, API-ключи, пароли, токены и PIN-коды. Модель содержит 103,6 млн параметров, принимает текст с контекстом до 4096 токенов и выдаёт метки токенов. Карточка приводит оценку на 200 примерах: macro-F1 по классам персональных данных составляет 89,10. Проверка ориентирована на английский язык; лучше всего модель работает с адресами электронной почты, URL, номерами счетов и адресами. Границы найденных фрагментов приблизительны, а качество слабее для телефонов и точного обнаружения секретов. Для загрузки требуется прилагаемый код ByrneAnon и пользовательская архитектура. Лицензия — Apache-2.0.

ClassOne Gemma 4 E2B — дообученная модель принятия решений, разработанная devops-thiago на основе google/gemma-4-E2B-it. Она классифицирует входной текст за один проход и возвращает типизированные вероятностные результаты без пошаговой генерации текста: булеву оценку Noul, выбор из нескольких вариантов Choice или оценку по шкале Score. Модель предназначена для проверок условий, выбора между вариантами и выставления оценок по заданным рубрикам, в том числе в локальных сценариях, где важны малая задержка и конфиденциальность. В README приведены результаты на JevBench и RLCDAlignBench; на сложном уровне JevBench точность существенно ниже, чем на простом, а оценки безопасности охватывают ограниченный набор тестов. Архитектура — плотная Gemma 4; веса опубликованы в формате safetensors. Лицензия — Apache 2.0.

Codetulu 2 13B — англоязычная модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе codellama/CodeLlama-13b-hf на смеси общедоступных, синтетических и созданных людьми инструкций и диалогов Tulu V2. Модель работает с текстом и поддерживает контекст до 8192 токенов. Модель предназначена для генерации ответов на инструкции и ведения диалогов, а также может использовать возможности базовой CodeLlama при работе с кодом. Для генерации следует подавать текст в формате, описанном в карточке модели, включая завершающий перевод строки. Модель преимущественно рассчитана на английский язык. Модель выпущена под лицензией AI2 ImpACT Low-risk. В карточке отмечено, что модель не прошла выравнивание безопасности на этапе RLHF и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы.

bcoding/deepseek-llvm-sft-merged-7B — дообученная bcoding модель для генерации текста и диалогового общения. Она основана на unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit, использует плотную архитектуру Qwen2 с 7,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Для обучения применялись Unsloth и библиотека Hugging Face TRL; карточка сообщает об ускоренном обучении. Модель подходит для генерации ответов в чате и других текстовых сценариев. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

inferencerlabs/DeepSeek-V4-Flash-0731-MLX — вариант DeepSeek-V4-Flash-0731, опубликованный Inferencer Labs в формате MLX для запуска на совместимом оборудовании Apple. Это чат-модель генерации текста на архитектуре DeepSeek V4; в метаданных указано 10,7 млрд параметров и контекст до 1 048 576 токенов. Карточка отмечает, что модель тестировалась в приложении Inferencer на M3 Ultra с 512 ГБ памяти и рекомендует совместимый спекулятивный декодер для повышения производительности. Модель подходит для диалоговой генерации и других задач, решаемых через генерацию текста. В карточке перечислен английский язык. README предупреждает, что ответы могут быть неточными или неуместными, и рекомендует проверять результаты перед использованием в важных решениях. Лицензия в предоставленных данных не указана.

EtherealAurora-12B-v2 — диалоговая языковая модель, созданная yamatazen с помощью слияния предобученных моделей через SLERP в mergekit. Она использует архитектуру Mistral с плотной сетью и содержит 12,1 млрд параметров; карточка указывает формат safetensors, шаблон ChatML и контекстное окно до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов. В метаданных указаны английский и японский языки. Модель объединяет yamatazen/EtherealAurora-12B и natong19/Mistral-Nemo-Instruct-2407-abliterated. Лицензия — Apache-2.0. Карточка не приводит оценок качества или конкретных ограничений применимости, поэтому пригодность для отдельных сценариев требует проверки.

Falcon3-Mamba-R1-v0 — дообученная Ханзлой Джавайдом модель на основе tiiuae/Falcon3-Mamba-7B-Instruct для рассуждений и генерации текста. Это причинный декодер на архитектуре Mamba с 64 блоками и размером скрытого слоя 4096; в метаданных указано 8,9 млрд параметров. Архитектура Mamba масштабируется линейно с ростом числа токенов. Модель предназначена для математических и логических задач, структурированного решения проблем, ответов на STEM-вопросы и общего диалога. Модель ориентирована прежде всего на английский язык. В README приведены результаты MMLU 72,1 и GSM8K 89,5 в режиме 5-shot, однако это результаты авторской оценки. Это ранний чекпойнт конвейера дообучения. Производительность может снижаться при генерации длиннее 64 тысяч токенов; ответы следует проверять, особенно в критически важных сценариях. Лицензия в предоставленных данных не указана.

GRM-3.2-Turf — дообученная компактная языковая модель OrionLLM на базе LiquidAI/LFM2.5-1.2B-Thinking. Она предназначена для сложных задач рассуждения и диалога, а также для локального запуска на мобильных устройствах, встраиваемых системах и другом оборудовании с ограниченными ресурсами. Модель имеет плотную архитектуру LFM2, содержит 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Среди заявленных возможностей — следование сложным инструкциям и форматным ограничениям, решение задач с рассуждением и использование инструментов в агентных сценариях. Метаданные указывают поддержку чата; оценочные заявления о качестве и скорости приведены разработчиком, но числовые результаты бенчмарков в доступной карточке отсутствуют. Модель принимает текст и генерирует текст. Выпущена под лицензией Apache 2.0.

InternLM2.5-1.8B — языковая модель для генерации текста, разработанная командой InternLM. Она сохраняет архитектуру InternLM2 и использует около 1,7 млрд параметров; по заявлению разработчиков, версия 2.5 улучшила рассуждения по сравнению с InternLM2-1.8B. Модель оценивается на бенчмарках MMLU, CMMLU и BBH. Модель подходит для продолжения текста, ответов на вопросы, решения задач на рассуждение и других сценариев генерации на естественном языке. Контекстное окно составляет 32 768 токенов. Карточка содержит результаты оценки на англоязычных и китайских бенчмарках, но не перечисляет полный набор поддерживаемых языков. Возможны предвзятые, дискриминационные и иные нежелательные ответы, поэтому результаты требуют проверки. Код распространяется по Apache-2.0; для весов заявлен открытый доступ для академических исследований и возможность запросить бесплатное коммерческое разрешение.

MLX-версия модели Kimi-K2-Thinking, разработанная сообществом mlx-community на основе модели moonshotai/Kimi-K2-Thinking. Модель предназначена для генерации текста и запуска в экосистеме MLX с использованием библиотеки mlx-lm, включая сценарии диалогового взаимодействия через chat template. Известно, что модель имеет формат MLX и была преобразована с помощью mlx-lm версии 0.28.4. В карточке указано назначение text-generation, однако сведения об архитектуре, размере, объёме контекста, поддерживаемых языках и модальностях отсутствуют. Для работы требуется библиотека mlx-lm; в примере используется загрузка модели через mlx_lm.load и генерация ответа через mlx_lm.generate. Лицензия обозначена как modified-MIT с типом other. Подробные условия лицензии, а также ограничения и результаты оценки качества в карточке не приведены.

Llama-3.1-Swallow-8B-OpenMath-FT-i1-GGUF — это квантизированная модель в формате GGUF, созданная на основе Nextorage/Llama-3.1-Swallow-8B-OpenMath-FT. Квантизацию выполнил mradermacher; исходная модель дообучена на наборе данных nvidia/OpenMathInstruct-1. Модель предназначена для генерации текста, решения математических задач, работы с математическими инструкциями и генерации кода. В метаданных указана поддержка японского языка. Архитектура относится к семейству Llama 3.1, размер базовой модели — 8 миллиардов параметров; модель работает только с текстом, а сведения о максимальном контексте в README отсутствуют. Предоставляется набор вариантов квантизации с разным соотношением размера, скорости и качества, включая IQ- и Q-форматы. В README отмечены Q4_K_M как быстрый рекомендуемый вариант и Q4_K_S как оптимальный по размеру, скорости и качеству, тогда как некоторые низкобитные варианты имеют заметные ограничения по качеству. Лицензия указана как llama3.

Это языковая модель Llama 3.2-1B-Instruct-bf16, представленная сообществом mlx-community и основанная на модели Llama 3.2, разработанной Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях, требующих компактной универсальной LLM, включая диалоговые приложения, ответы на вопросы, создание и преобразование текста. Модель имеет размер 1 миллиард параметров, относится к семейству Llama и распространяется в формате BF16 для использования с MLX; в карточке также указана совместимость с библиотекой Transformers. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модальность — текстовая, назначение — text-generation. Размер контекстного окна и точные архитектурные характеристики в README не указаны. Компактный размер делает модель более подходящей для локального запуска и устройств с ограниченными ресурсами, однако по качеству и способности обрабатывать сложные задачи она может уступать более крупным моделям. Модель распространяется по Llama 3.2 Community License компании Meta. Лицензия разрешает использование, копирование, модификацию и распространение на указанных условиях, включая соблюдение Acceptable Use Policy, сохранение уведомления об авторских правах и требования к атрибуции; для продуктов с более чем 700 миллионами активных пользователей в месяц предусмотрены дополнительные условия.

Llama3.2-3B-ShiningValiant2-GGUF — это GGUF-квантизированная версия языковой модели Llama3.2-3B-ShiningValiant2, разработанной ValiantLabs и подготовленной для распространения в квантизированных форматах пользователем bartowski. Модель построена на архитектуре Llama, содержит около 3 млрд параметров и предназначена для текстовой генерации в режиме instruction/chat. Указан английский язык; поддержка мультимодальности не заявлена. Модель ориентирована на диалоговые и технические сценарии, включая вопросы по естественным наукам, физике, биологии, химии, информатике и инженерии. В обучении или дообучении указаны наборы данных sequelbox/Celestia и sequelbox/Supernova. Доступны варианты от F16 до различных уровней квантизации, включая Q8_0 и Q6_K_L, что позволяет запускать модель локально через llama.cpp и LM Studio с разными требованиями к памяти и качеству. К сильным сторонам относятся компактный размер, локальный запуск и специализация на научно-технических запросах. Ограничения включают относительно небольшую ёмкость модели, английскую языковую ориентацию и возможное снижение качества при сильной квантизации; заявленный размер контекста в README не указан. В README приведены результаты тестов на ряде бенчмарков, однако они заметно различаются по задачам, поэтому модель следует проверять на конкретных рабочих сценариях. Лицензия указана как llama3.2.

Llama-3-8B-Instruct-Base-Slerp — объединённая модель от Arcee AI, созданная методом SLERP с помощью mergekit на основе meta-llama/Meta-Llama-3-8B-Instruct и meta-llama/Meta-Llama-3-8B. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; длина контекста составляет 8192 токена. Модель сочетает instruct-версию Llama 3 с предварительно обученной базовой версией, поэтому подходит для генерации ответов и продолжения текста в чат-сценариях. Метаданные указывают английский язык и код, однако README не описывает отдельные прикладные специализации. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

LLaMA-MoE-v2-3.8B (2/8) SFT — чат-модель семейства LLaMA-MoE-v2, разработанная командой llama-moe. Она создана на основе LLaMA 3: полносвязные слои FFN или слои внимания разделены на разреженные эксперты, а маршрутизатор выбирает два из восьми экспертов. Затем модель прошла supervised fine-tuning в два этапа на открытых данных. Модель предназначена для генерации текста и диалогов на английском языке. В репозитории указано 3,8 млрд активируемых параметров, а метаданные каталога сообщают о 2,6 млрд параметров; контекст составляет до 8192 токенов. Доступны веса в формате safetensors. Лицензия — Apache-2.0, допускающая коммерческое использование при соблюдении её условий. Модель можно применять для диалоговых помощников, ответов на вопросы, следования инструкциям и решения общих текстовых задач. Представленные в карточке бенчмарки охватывают знания, математику, программирование и понимание текста, но не дают оценки именно этой SFT-версии. Карточка не приводит конкретных ограничений или результатов её качества.

Ksgk-fy/M7Percival_01-7B — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В README указано, что она создана методом DARE-TIES из liminerity/M7-7b и AurelPx/Percival_01-7b-slerp; в метаданных базовой моделью отмечена AurelPx/Percival_01-7b-slerp. Модель предназначена для генерации текста и диалогов по текстовым запросам. Поддерживает контекст до 32 768 токенов и опубликована в формате safetensors. Лицензия — Apache-2.0. Карточка не содержит сведений о целевых языках, специализации или оценках качества, поэтому её возможности следует считать общими для генерации текста; качество на конкретных задачах нужно проверять отдельно.

MiniCPM-1B Calibrated — это дообученная и выровненная модель causal language model на базе openbmb/MiniCPM-1B-sft-bf16, разработанная ewinregirgojr. Модель содержит около 1,08 млрд параметров, использует decoder-only архитектуру Transformer и формат ChatML, поддерживает английский язык и контекст длиной до 2 048 токенов. Она предназначена для генерации текста и диалоговых сценариев, где важны следование инструкциям, фактическая точность и объективность. Основные сценарии применения включают ответы на вопросы с опорой на предоставленный контекст, честный отказ от ответа при отсутствии достаточных доказательств, исправление заблуждений и диалог без некритичного согласия с ошибочными утверждениями. Благодаря небольшому размеру модель ориентирована на низколатентный запуск, периферийные устройства и локальный inference. В обучении использовались UltraFeedback, SQuAD v2 и датасет rm_sycophancy_dpo; применялась Identity Preference Optimization с LoRA-адаптерами. Сильными сторонами модели заявлены устойчивость к галлюцинациям и sycophancy, а также низкая частота необоснованных отказов: в документации указаны anti-sycophancy resistance 93,4% и over-refusal rate менее 2,1% на внутренней валидации. Ограничения связаны с размером модели: сложное многошаговое символьное рассуждение может быть слабее, чем у моделей масштаба 7B и выше, а для специализированных технических областей рекомендуется использовать retrieval-augmented generation. Модель не предназначена для автономных медицинских, юридических или финансовых решений без проверки человеком. Лицензия — Apache-2.0.

zelk12 выпустил эту диалоговую языковую модель как слияние двух предварительно обученных моделей Gemma 2 с помощью метода SLERP в mergekit. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и предназначена для генерации текста и общения в чате. Контекст модели составляет 8192 токена; файлы доступны в формате safetensors. Модель подходит для диалоговых ассистентов, ответов на вопросы и генерации текста. README не описывает её языковое покрытие, поэтому нельзя определить приоритетный язык. Модель распространяется с лицензией базовой модели Gemma 2.

cross-encoder/nli-MiniLM2-L6-H768 — англоязычная модель для вывода отношений между парой предложений, обученная с помощью класса Cross-Encoder библиотеки SentenceTransformers. Она основана на MiniLMv2-L6-H768, дистиллированной из RoBERTa-Large, и дообучена на наборах SNLI и MultiNLI. Модель содержит 95,2 млн параметров и принимает пары текстов, выдавая оценки для классов «противоречие», «следование» и «нейтральное отношение». Её можно применять для классификации без примеров по заданным меткам и оценки сходства предложений. Модель подходит для проверки текстовых гипотез, сопоставления предложений и классификации текста по описаниям меток. Доступны реализации в форматах PyTorch, ONNX и OpenVINO; библиотека карточки — SentenceTransformers. Контекст составляет до 514 токенов. Модель распространяется по лицензии Apache-2.0.