II.4Отладка, тестирование и качество ПО

palmyra-mini-thinking-AIO-GGUF — набор GGUF-вариантов семейства Palmyra Mini, разработанного Writer и опубликованного в формате GGUF пользователем или организацией prithivMLmods. В состав входят варианты palmyra-mini, palmyra-mini-thinking-a и palmyra-mini-thinking-b с разными уровнями квантования: от Q2_K до Q8_0, а также BF16, F16 и F32. Модель предназначена для генерации текста, программирования и решения математических задач на английском языке. Сильной стороной семейства является рассуждение в задачах с пошаговым решением: заявлены результаты 0,818 на GSM8K и MATH500, а также 0,6 на AMC23. Это делает модели подходящими для учебной математики, количественного анализа, ответов на вопросы и задач, связанных с кодом. Доступны файлы размером примерно от 676 МБ до 7,11 ГБ в зависимости от варианта и точности. README не содержит сведений об архитектуре, числе параметров, размере контекста, поддерживаемых дополнительных модальностях или сравнении качества между вариантами, поэтому эти характеристики нельзя определить. Распространение указано по лицензии Apache-2.0.

LiteRT-LM-вариант модели Qwen/Qwen2.5-Coder-3B-Instruct, распространяемый сообществом LiteRT и предназначенный для генерации текста на устройствах. Модель ориентирована прежде всего на задачи программирования и другие сценарии, где требуется локальная генерация текста с использованием LiteRT-LM, включая интеграцию в мобильные и периферийные приложения. В метаданных указан английский язык. Модель имеет размер 3B параметров и поставляется в виде квантованного артефакта Qwen2.5_Coder_3B_It.litertlm объёмом 3,4 ГБ с рецептом dynamic_wi8_afp32. Архитектура и максимальная длина контекста в README не указаны. Заявлена оптимизация для работы на устройстве; приведены результаты для CPU и GPU на Apple M4 Max и Samsung Galaxy S26. На Galaxy S26 GPU-режим показывает более высокую скорость предварительной обработки и генерации, а также существенно меньшее пиковое потребление памяти по сравнению с CPU. Сильными сторонами являются локальная работа без обязательной отправки запросов на сервер, поддержка аппаратного ускорения и готовность к интеграции через LiteRT-LM. Ограничения включают неизвестную длину контекста, отсутствие подробных сведений о поддерживаемых языках и зависимость производительности и потребления памяти от конкретного устройства и backend. Модель распространяется по лицензии Apache 2.0.

Dasko2-0 разработал и опубликовал дообученную модель Dasko2-0/qwen2.5-coder-3b-mentor на основе unsloth/qwen2.5-coder-3b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указаны интерфейс вызова инструментов и контекст длиной до 32 768 токенов; модель обучали с использованием Unsloth и библиотеки TRL. Модель можно применять для генерации ответов в чате и задач, связанных с кодом, унаследованных от базовой Qwen2.5 Coder. Однако README не приводит результатов оценки и не уточняет, какие именно навыки наставничества или дополнительные задачи дало дообучение. Поддержка указана для английского языка. Лицензия — Apache-2.0.

MingZwhy выпустил компактную причинно-языковую модель Qwen3-0.6B с 507,9 млн параметров. Это дообученная версия Qwen/Qwen3-0.6B: веса квантованы до эффективных 2,79 бита на параметр, после чего модель восстановлена с помощью quantization-aware distillation и on-policy distillation. Для весов используются смешанные INT1.58 и INT4 блоки, для эмбеддингов и выходной головы — INT4, для активаций — INT8. Модель загружается через Transformers и предназначена для генерации текста и диалогов; контекст составляет до 40 960 токенов. В опубликованных автором тестах модель показала результаты, близкие к исходной версии BF16 на GSM8K, MATH-500, AMC23, MBPP, HumanEval и QA9, но на части тестов уступила базовой модели. Низкая разрядность квантования сокращает требования к хранению весов, однако качество зависит от задачи и может снижаться относительно полной версии. Лицензия — Apache-2.0.

Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем minte1431. В README также упоминается проект OBLITERATUS, однако точный разработчик модификации явно не указан. Модель представляет собой вариант Qwen с изменённым поведением отказов, созданный методом abliteration: из весового пространства удалялись направления, связанные с отказами и защитными ответами, с последующей итеративной доработкой и смешиванием нескольких вариантов. Модель предназначена для генерации текста, программного кода, агентских сценариев и исследований поведения LLM в задачах red teaming и AI safety. Заявлена поддержка обычного и thinking-режима, а также форматов GGUF, Safetensors и MLX. Размер модели — 27B параметров; базовая архитектура — Qwen3.8. Сведения о языках и размере контекстного окна в README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; системный промпт рекомендуется не задавать. Сильной стороной заявляется существенно сниженная склонность к отказам и отвлечённым лекциям по безопасности при сохранении большей части возможностей базовой модели. Для версии V3 указаны результаты MMLU 82,3% против 84,5% у исходной модели, а также успешное выполнение 20 из 20 проверенных задач генерации кода. Ограничениями являются некоторое падение качества относительно базовой Qwen3.8-27B, возможные циклы при генерации без repetition_penalty и необходимость аккуратной настройки параметров в агентских сценариях. Лицензия — Apache-2.0.

QuantFactory/Skywork-Critic-Llama-3.1-8B-GGUF — квантизированная версия модели Skywork-Critic-Llama3.1-8B, подготовленная QuantFactory с использованием llama.cpp. Исходную модель разработала команда SkyworkAI Alignment Team на базе Meta Llama-3.1-8B-Instruct. Модель предназначена прежде всего для попарной оценки предпочтений: она сравнивает два ответа или других входных объекта и определяет, какой из них качественнее или лучше соответствует заданным требованиям. Возможные сценарии применения включают оценку и улучшение данных, тестирование ответов языковых моделей и построение reward-моделей. Также модель обучалась на задачах критики и общих диалогах, поэтому сохраняет возможности conversational-взаимодействия. Ключевая архитектурная основа — Llama 3.1 8B-Instruct; модель относится к классу text-generation и работает с текстовыми данными. В обучении использовались открытые датасеты предпочтений и критики, внутренние человеческие аннотации, синтетические примеры и данные для диалогов. В README не указаны поддерживаемые языки, размер контекстного окна и конкретный формат или уровень квантизации, поэтому эти характеристики нельзя определить. К ограничениям относятся зависимость качества оценок от формата запроса и исходных данных, а также возможные потери качества, связанные с квантизацией. Лицензия обозначена как other; подробные условия использования в карточке не приведены.

abenzerps/Spark-X2.5-4B-GGUF — набор GGUF-квантизаций модели Spark-X2.5-4B, разработанной XHToken и предназначенной для генерации текста. Модель ориентирована на рассуждения, программирование, использование инструментов и агентские рабочие процессы. Доступны варианты квантизации Q4_0, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером от 2,41 до 4,38 ГБ. Модель имеет около 4 млрд параметров и поддерживает нативный контекст до 1 048 576 токенов. README не указывает поддерживаемые языки и результаты конкретных бенчмарков, поэтому оценить качество по языкам и задачам нельзя. Квантизация уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью; степень компромисса зависит от выбранного варианта. Для запуска требуется llama.cpp версии b10828 или новее с поддержкой архитектуры Spark-X2.5 (spark2_5). Распространяется по лицензии Apache-2.0.

Self-instruct-starcoder — модель генерации кода, созданная дообучением StarCoder на наборе инструкций Self-instruct-starcoder. Она рассчитана на ответы на запросы в формате «Question: … Answer: …» и на выполнение заданий по программированию. Модель построена на архитектуре GPTBigCode, использует причинную генерацию текста и поддерживает контекст до 8192 токенов. Модель подходит для генерации и дополнения кода по инструкциям. В карточке указана библиотека Transformers и формат весов PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

laion/tt-x3_kl-kl0 — дообученная методом обучения с подкреплением модель на базе Qwen/Qwen3-Coder-30B-A3B-Instruct. Её обучали с помощью RLOO и FSDP2 для агентных задач из набора terminal-bench exp_rpt_multifile; эта версия соответствует эксперименту с коэффициентом KL-потерь, равным нулю. Модель использует архитектуру Qwen3 MoE и предназначена для генерации текста в агентных сценариях, включая выполнение задач в терминале. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов. Заявленный язык — английский. Репозиторий содержит веса Safetensors; лицензия в предоставленных данных не указана.

WizardCoder-15B-V1.0 — языковая модель для генерации кода, разработанная командой WizardLM. Модель основана на StarCoder, дообученном на 78 тысячах инструкций по программированию, расширенных методом Evol-Instruct для задач кодирования. Модель предназначена для генерации решений задач программирования и ответов на инструкции, связанные с кодом. В карточке приведён результат 57,3 pass@1 на HumanEval; также описана оценка на MBPP. Архитектура — GPTBigCodeForCausalLM, формат весов — PyTorch, контекст — 8192 токена. Метаданные указывают поддержку кода, но не перечисляют естественные языки. Модель может помогать с написанием кода по текстовому запросу, однако качество следует проверять: результаты карточки относятся к конкретным тестам и режимам генерации. Лицензия — BigScience OpenRAIL-M.

A2-Coder-i1-GGUF — это набор GGUF-квантизаций модели A2-Coder, разработанной nbeerbower и дополнительно квантизированной mradermacher. Модель основана на nbeerbower/A2-Coder и дообучалась методом supervised fine-tuning на датасете schneewolflabs/DenkerCode-SFT. Модель предназначена прежде всего для генерации текста, связанного с программированием: написания, дополнения и преобразования кода, а также работы с англоязычными запросами. Доступно множество вариантов квантизации i1 с различным размером от примерно 3,1 до 10,2 ГБ, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Для некоторых вариантов README отмечает предпочтительность IQ-квантизаций или рекомендует A2-Coder.i1-Q4_K_M как быстрый вариант. Архитектура, количество параметров, размер контекстного окна, поддерживаемые модальности и условия лицензирования в README не указаны. Качество зависит от выбранного типа квантизации: наиболее компактные варианты могут заметно уступать по качеству, тогда как более крупные обычно требуют больше памяти. Модель представлена только для текстовой генерации; сведения о мультиязычности ограничены указанием английского языка.

psikosen/canopy-258m-r3-v4 — компактная генеративная модель семейства Canopy, представленная как модель для рассуждений на периферийных устройствах и автоматизации браузера. В README описана архитектура рекуррентной смеси экспертов (MoE), однако метаданные указывают класс CanopyForCausalLM и 136,8 млн параметров; поэтому размер и точные архитектурные детали в источниках расходятся. Согласно README, модель ориентирована на генерацию текста, многошаговые рассуждения и выполнение действий в браузере, включая заполнение форм и цепочки действий. В карточке заявлены ограничение памяти KV-кэша при длинных последовательностях и ускорение генерации и браузерных операций; эти показатели приведены самим автором и независимая проверка в предоставленных данных отсутствует. Метаданные указывают английский язык и поддержку чата и кода. Модель распространяется под лицензией Apache-2.0.

Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

code-think-q8b-20260908 — это исследовательская версия Qwen3-8B-Base, дообученная modrill методом LoRA на трассах рассуждений Qwen3-30B-A3B-Thinking-2507 и затем объединённая в полные веса. Модель имеет плотную авторегрессионную архитектуру Qwen3ForCausalLM, около 7,6 млрд параметров и контекст до 32 768 токенов; для запуска объединённых весов PEFT не требуется. Чекпойнт предназначен для генерации кода и его решения с пошаговым рассуждением в режиме thinking. В оценке на 256 задачах LiveCodeBench-derived DEV256 он решил 81 задачу с pass@1; результат получен на одном seed и не является сопоставимой оценкой на лидерборде. В 130 генерациях сработал лимит длины в 32 тыс. токенов. Модель принимает текст и выдаёт текст, включая код. Лицензия — Apache-2.0, унаследованная от базовой модели.

DeepSeek Coder 1.3B Instruct — это набор квантованных версий модели deepseek-ai/deepseek-coder-1.3b-instruct, подготовленных в формате GGUF с использованием imatrix. Модель предназначена для генерации текста и прежде всего ориентирована на задачи программирования: написание, дополнение и объяснение кода, включая запросы на реализацию алгоритмов, например быстрой сортировки на Python. Поддерживаемый язык в карточке указан как английский. Известный размер исходной модели — 1,3 млрд параметров. Это instruction-tuned causal language model с поддержкой диалогового шаблона; конкретные варианты квантования, архитектурные детали и размер контекста в README не указаны. К сильным сторонам относятся специализация на коде и возможность использования более компактных квантованных сборок в GGUF-совместимых средствах инференса. Ограничения — небольшой по современным меркам размер, потенциальное снижение качества из-за квантования и отсутствие подтверждённых сведений о качестве, дополнительных языках и контекстном окне. Лицензия указана как other, без дополнительных условий в представленном README.

deepseek-ai/deepseek-coder-5.7bmqa-base — базовая языковая модель для кода от DeepSeek. Это плотная архитектура Llama с Multi Query Attention и 5,6 млрд параметров; модель обучена с нуля на 2 трлн токенов, состоящих из кода и естественного языка. В метаданных указано окно контекста 16 384 токена. Модель предназначена для генерации и дополнения кода, вставки пропущенных фрагментов и работы с кодом на уровне проекта или репозитория. Обучение включало задачу fill-in-the-blank и данные на английском и китайском языках; карточка описывает результаты на нескольких бенчмарках генерации кода. Это базовая, а не чат-модель, поэтому для диалоговых сценариев может потребоваться дополнительная настройка. Веса опубликованы в формате PyTorch; лицензия обозначена как other, конкретные условия следует проверить в репозитории.

EttinX-nli-xs — компактная модель-кросс-энкодер, разработанная dleemiller для классификации отношений между парой текстов: противоречие, нейтральность или следование. Она основана на энкодере jhu-clsp/ettin-encoder-32m семейства ModernBERT и дообучена на наборе all-nli-distill с использованием логитов учительской модели dleemiller/ModernCE-large-nli. Модель содержит 31,9 млн параметров и рассчитана на работу через библиотеку sentence-transformers. Модель предназначена для задач Natural Language Inference (NLI), оценки текстовых гипотез и проверки выводов LLM; автор также отмечает пригодность для лёгкого CPU-инференса. В README приведены результаты micro F1: 83,80% на MNLI mismatched и 88,20% на SNLI. Контекст составляет до 7999 токенов по метаданным; README заявляет обработку последовательностей до 8192 токенов. Модель принимает текстовые пары и выдаёт классификационные оценки или метки отношений. Она ориентирована на английский язык. Лицензия — MIT. Результаты и заявленная эффективность приведены автором; качество на иных языках и доменах в карточке не описано.

FuseChat-Llama-3.2-1B-Instruct — компактная чат-модель семейства Llama, выпущенная FuseAI в рамках проекта FuseChat-3.0. Она создана на базе Llama-3.2-1B-Instruct с применением двух этапов обучения: supervised fine-tuning и Direct Preference Optimization на ответах и предпочтениях, полученных от более крупных языковых моделей. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 1,2 млрд параметров; заявленная длина контекста составляет 131 072 токена. Модель предназначена для диалога и выполнения инструкций, включая общие вопросы, математические задачи, программирование и запросы на китайском языке. Подходит для компактных сценариев развёртывания, где важны чат-возможности при меньшем размере модели. В README сообщаются улучшения на бенчмарках FuseChat-3.0, однако приведённые численные результаты относятся к варианту с Llama-3.1-8B и не должны переноситься на эту модель. Модель принимает текст и генерирует текст. В метаданных указана лицензия? Условия лицензии не приведены, поэтому перед использованием следует проверить их на странице репозитория Hugging Face.

Hercules-4.0-Yi-34B — языковая модель Locutusque, дообученная на базе Yi-34B для следования инструкциям и диалогов. Она использует плотную архитектуру LlamaForCausalLM и содержит 33,9 млрд параметров; формат весов — safetensors, максимальный контекст — 4096 токенов. Модель рассчитана на английский язык. Модель предназначена для многошаговых инструкций, вызова функций и бесед по научным и техническим темам, включая биологию, химию, физику, математику, медицину и информатику. Её можно использовать для специализированных чат-ботов, учебных помощников и генерации кода с вызовом функций. Для обучения использован набор Hercules-v4.0, составленный на основе OpenHerm Hermes-2.5 и дополнительных отобранных наборов данных. Модель может выдавать токсичные ответы, галлюцинировать и допускать фактические ошибки, в том числе в специализированных областях; её возможности вызова функций могут быть использованы во вредоносных сценариях. Лицензия — Apache-2.0.

HOS-OSS-3.08B — компактная причинная языковая модель от Hyggshi-AI для генерации текста и кода. Она основана на Qwen2.5-Coder-3B-Instruct и, согласно карточке, адаптирована или дистиллирована; метаданные классифицируют её как дообучение. Архитектура — плотный decoder-only трансформер семейства LLaMA, около 3,3 млрд параметров; модель поставляется в формате safetensors и работает с Transformers. Модель предназначена для генерации кода, выполнения инструкций, диалоговых ответов и локального ассистента. В карточке заявлены быстрая генерация, умеренные требования к ресурсам и запуск на GPU начального уровня или в Kaggle и Colab. Естественный язык, указанный в метаданных, — английский. Контекст составляет 2048 токенов. Лицензия — Apache-2.0.

IBM-Grok4-UltraFast-Coder-1B-GGUF — это набор GGUF-квантизаций модели IBM-Grok4-Ultra.Fast.Coder-1B, разработанной WithinUsAI и опубликованной в формате GGUF пользователем mradermacher. Модель ориентирована на генерацию текста и кода, а также на сценарии программирования. В метаданных указан английский язык. README перечисляет обучающие наборы, связанные с кодом, математикой, логикой, творческими задачами, торговыми и визуальными промптами, однако точные возможности работы с изображениями не подтверждены для данной версии. Размер базовой модели — 1 млрд параметров; в описании также указаны full fine-tune, PyTorch, multi-GPU и архитектурный тег granite. Доступны варианты от Q2_K до Q8_0, IQ4_XS и f16 размером примерно от 0,8 до 3,4 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как наиболее качественный среди быстрых вариантов. Более сильное квантование уменьшает требования к памяти, но может снижать качество. Основное преимущество модели — компактность и наличие множества вариантов квантования для локального запуска. При этом README не содержит данных о длине контекста, точной архитектуре, мультимодальности, результатах оценивания, системных требованиях или дополнительных ограничениях качества. Лицензионные условия в представленном описании не указаны.

Jazari-4B-SFT-TR — модель на 4 млрд параметров семейства Qwen3.5, разработанная автором репозитория mahsum и адаптированная для турецкого языка. Она прошла продолженное предобучение на турецких текстах и дообучение с учителем на 73 182 примерах из 13 категорий. Модель предназначена для диалогов, классификации, анализа системных журналов и формирования структурированных ответов; автор сообщает о применении в мониторинге Linux и поддержке интерфейса вызова инструментов. В тестах автора модель показала хорошую связность на турецком и стабильное создание JSON для задач классификации при структурированном запросе и temperature=0. Скорость и потребление памяти в карточке указаны как результаты конкретных конфигураций и не гарантируют такие же показатели в других средах. Известные ограничения включают чрезмерную уверенность, слабую точность на специализированных категориях без дополнительного обучения, ненадёжный перевод с турецкого на английский и более низкий результат по математике, чем у базовой модели. Лицензия — Apache-2.0.

Nutanix/jina-embeddings-v2-base-code-mbpp — модель Sentence Transformer, дообученная на базе jinaai/jina-embeddings-v2-base-code. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантического сходства, поиска и других задач работы с текстом и кодом. Архитектура основана на BertModel с усреднением токенных представлений; максимальная длина последовательности — 8192 токена, сходство можно оценивать косинусной метрикой. Модель подходит для семантического поиска по исходному коду и техническим текстам, поиска похожих фрагментов и кластеризации. README указывает дообучение с TripletLoss и оценку на sts-dev; приведённые результаты показывают умеренную точность, поэтому качество следует проверять на данных целевого применения. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.

atonlee/koelectra-ko-pii-ner — корейская модель распознавания именованных сущностей, разработанная для обнаружения персональных данных в тексте и определения их типа и позиции. Она предназначена для маскирования чувствительных данных и для проверки текста перед передачей во внешний LLM или облачный сервис. Модель различает 29 меток, включая идентификационные номера, паспортные и банковские данные, имена, телефоны, адреса и организации; категории помогают определить, какие сущности следует скрыть. Модель построена на ELECTRA и дообучена для классификации токенов на основе monologg/koelectra-small-v3-discriminator. Метаданные указывают 21,5 млн параметров, контекст до 512 токенов и поддержку корейского языка. Доступны веса Safetensors и ONNX, включая варианты FP16 и INT8 для локального запуска. В оценке на 5 171 размеченном предложении F1 составил 94,2% для совпадения типа сущности и 88,1% для точного совпадения границ; качество может различаться по классам, а неполное совпадение границ способно повлиять на маскирование. Модель распространяется по лицензии Apache-2.0.

LFM2.5-2.6B-Fable5-Coding-Agent-heretic — компактная языковая модель для генерации текста и работы в роли coding agent. Она создана автором RACER IS OP как decensored-вариант модели AyoubChLin/lfm2.5-2.6b-fable5-coding-agent, которая, в свою очередь, является полноразмерной SFT-модификацией LiquidAI/LFM2.5-2.6B на датасете saidutta69/fable-5-premium. Модель предназначена для генерации кода, многошагового диалога, следования инструкциям и формирования tool calls. Модель содержит около 2,6 млрд параметров и использует гибридную архитектуру LFM2 с комбинацией свёрточных и attention-компонентов. Указана поддержка английского языка и текстовой модальности. Доступны веса в форматах GGUF, включая F16 и варианты квантования от Q2_K до Q8_0; модель рассчитана на локальный запуск через llama.cpp, Ollama, LM Studio или Transformers. Заявленная особенность — подавление отказов с помощью направленной абляции весов в attention output и MLP down-projections без дополнительного fine-tuning. По данным README, доля отказов в тесте снижена с 96 до 7 из 100 при KL-дивергенции 0,014. Сильными сторонами являются небольшой размер, быстрый локальный inference, поддержка генерации кода, tool-use и многоходового поведения ассистента. При этом это не улучшение базовых возможностей, а та же модель с удалёнными защитными ограничениями. В README прямо предупреждается, что дополнительной фильтрации безопасности нет и модель может выполнять опасные или нежелательные запросы, поэтому ответственность за применение и развёртывание лежит на пользователе. Лицензия обозначена как other; приведена ссылка на лицензию базовой модели LiquidAI/LFM2.5-2.6B.

lod-stor-4B — плотная модель с 4 млрд параметров для оценки вариантов ответа, разработанная mrn-dk на базе Qwen3-4B-Base. Она принимает текстовое состояние и один или несколько вопросов с вариантами и критериями, после чего возвращает вероятности по заданным вариантам и отдельную оценку уверенности, что правильный ответ вообще присутствует в списке. Модель работает без генерации токенов и поддерживает интерфейсы choice, noul для оценки истинности утверждения и score для шкалы от 2 до 10. Модель обучена с LoRA, адаптер слит с базовыми весами; обучение использовало перекрёстную энтропию по частотам исходов. Вопросы и варианты оцениваются независимо, а для 64 лучших вариантов применяется дополнительный слой сравнения. Принимается до 32 768 токенов суммарно за проход; состояние может занимать до 30 720 токенов. Карточка сообщает об английском языке и лицензии Apache-2.0. Модель подходит для выбора из заданных ответов, ранжирования вариантов, проверки утверждений по предоставленному контексту и сценариев селективного предсказания с отказом при низкой уверенности. Качество существенно меняется в зависимости от задачи; вероятности калиброваны в среднем, но могут быть неточны на отдельных задачах. Модель не может выбрать ответ вне списка, а при отсутствии правильного варианта полезна только оценка confidence.

bergr7f/mathcoder-mistral-7B — объединённая языковая модель на архитектуре Mistral, созданная методом TIES с помощью mergekit. В основу слияния вошла mistralai/Mistral-7B-v0.1; также объединены WizardLM/WizardMath-7B-V1.1 и codellama/CodeLlama-7b-Instruct-hf. Модель предназначена для генерации текста с уклоном в математические задачи и программирование. Она содержит 7,1 млрд параметров, работает через библиотеку Transformers и поддерживает контекст до 32 768 токенов. В метаданных указана задача text-generation. Лицензия в предоставленных данных не указана. Поскольку модель объединяет несколько базовых моделей, условия использования следует сверять с лицензиями исходных компонентов. Данных о качестве на конкретных наборах задач нет.

TensorVizion/MiMo-V2.6-Distill-Qwen-Abliterated — производная версия мультимодальной модели MiMo-V2.6-Distill-Qwen-9B от Xiaomi, представленная в карточке как 2-битная конверсия для MLX. Метаданные указывают архитектуру Qwen3.5 и класс Qwen3_5ForConditionalGeneration; модель принимает текст и изображения и генерирует текст. Она предназначена для диалоговых и агентных сценариев, программирования, использования инструментов и анализа изображений. README сообщает, что исходная модель преобразована в формат MLX с помощью mlx-lm 0.31.3; метаданные указывают лицензию MIT. В метаданных также отмечена дистилляция исходной базовой модели, но сведения о конкретном процессе дообучения или об «abliterated»-изменениях не приведены. Доступная информация не подтверждает языковой охват и длину контекста. 2-битное представление ограничивает точность чисел, а конкретные последствия для качества в карточке не описаны.

NVIDIA Nemotron-H-56B-Base-8K — базовая большая языковая модель для продолжения заданного текста, предназначенная для разработчиков и исследователей, создающих и адаптирующих LLM. Она использует гибридную архитектуру Nemotron-H на основе Mamba-2 и MLP с десятью слоями Attention и содержит 56 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 8 тысяч токенов и обучалась на английском, немецком, испанском, французском, итальянском, корейском, португальском, русском, японском и китайском языках; в обучающих данных также был код. Модель подходит для продолжения текста и последующей адаптации под генерацию кода, математические задачи, ответы на вопросы и другие сценарии. NVIDIA сообщает об оценках на наборах для здравого смысла, программирования и математики. Для запуска описана интеграция с NeMo и поддержка GPU NVIDIA H100-80GB и A100; карточка рекомендует инструменты NeMo для дообучения и выравнивания. Это базовая модель без обязательного формата промпта, поэтому готовое поведение чат-ассистента не гарантируется. Модель выпущена NVIDIA для исследований и разработок. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Известные ограничения включают возможность токсичных, предвзятых, неточных, нерелевантных или избыточных ответов, а также уязвимость к некоторым вариантам косвенной prompt injection.

Nemotron-Terminal-32B — языковая модель NVIDIA для автономной работы в терминале. Это плотная causal language model семейства Qwen3 с 29,7 млрд параметров, дообученная для задач терминального взаимодействия. Модель принимает текстовое описание задачи и сведения о состоянии терминала, а в ответ формирует структурированный JSON с анализом, планом и последовательностью нажатий клавиш и команд. Модель предназначена для запуска командной строки и выполнения многошаговых задач в терминале, включая сценарии оценки Terminal-Bench 2.0. В README для варианта 32B указана точность 27,4% на этом бенчмарке; для согласованной оценки рекомендуется оболочка Terminus 2, на которой проводилось обучение. Поддерживается контекст до 40 960 токенов. Модель рассчитана на английский язык. Это дообученная версия Qwen3-32B; в репозитории указаны веса safetensors для библиотеки Transformers. Лицензия обозначена как other, поэтому условия использования следует сверять с карточкой модели и сопровождающими лицензиями. Ответы модели могут содержать некорректные команды или планы, поэтому их следует проверять перед выполнением.