II.4Отладка, тестирование и качество ПО

unsloth/Qwen3.6-35B-A3B-NVFP4-Fast — квантованный чекпойнт семейства Qwen3.6, разработанный Unsloth на базе Qwen/Qwen3.6-35B-A3B. Это каузальная языковая модель с vision encoder, предназначенная для генерации текста, мультимодальных задач и особенно для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория. Модель поддерживает сохранение контекста рассуждений из предыдущих сообщений. Языки в README не указаны. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена; предусмотрены 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий. Архитектура включает Gated DeltaNet и Gated Attention, 40 слоёв, скрытое измерение 2048 и нативный контекст длиной 262 144 токена. Чекпойнт содержит модуль Multi-Token Prediction, который может использоваться для ускорения декодирования. Квантование выполнено в формате NVFP4 и откалибровано на смеси наборов Unsloth и UltraChat. К сильным сторонам относятся сниженные требования к видеопамяти, заявленная совместимость с GPU от 32 ГБ, высокая скорость инференса в рекомендованных конфигурациях vLLM и результаты, близкие к FP8 и BF16 на приведённых тестах MMLU-Pro, GPQA и AIME 2025. Ограничения связаны с потерями точности и особенностями производительности, возможными из-за NVFP4-квантования, а также с зависимостью скорости от совместимого оборудования и backend. README не приводит подробных данных о мультимодальных возможностях, языках и расширенной длине контекста. Модель распространяется по лицензии Apache-2.0. Веса и конфигурации представлены в формате Hugging Face Transformers; также заявлена совместимость с vLLM, SGLang и KTransformers.

Qwen3.6-Max-Preview — проприетарная модель Alibaba Cloud на архитектуре разреженной смеси экспертов (MoE), содержащая примерно 1 трлн параметров. Она предназначена для агентного программирования, использования инструментов и генерации текста. Доступный фрагмент карточки не раскрывает подробности об интерфейсе, поддерживаемых языках или длине контекста. Модель представлена как Preview; условия лицензии в доступных данных не описаны.

PearsonKyle/Qwen3.8-27B-GPTQ-W4A16 — это квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и опубликованной PearsonKyle. Модель предназначена для генерации и понимания текста, работы с изображениями, агентных сценариев, вызова инструментов и function calling. Она ориентирована прежде всего на запуск через vLLM. Модель содержит около 27 млрд параметров и использует квантование GPTQ в формате compressed-tensors W4A16: основная часть весов представлена в int4 с группами размера 128 и симметричным квантованием. Размер загрузки составляет около 18,1 GiB. Калибровка выполнена на 4,26 млн токенов агентных сессий программирования при контексте 32 768 токенов. В состав также входят MTP-голова для speculative decoding и vision tower, сохранённый в bf16; заявлена скорость декодирования до 1,71 раза выше при принятии 71,2% черновых токенов. К сильным сторонам относятся поддержка текста и изображений, tool calling, интеграция с vLLM без конвертации, а также возможность speculative decoding. Ограничения связаны с потерями и особенностями 4-битного квантования: embed_tokens и lm_head оставлены в bf16, поэтому итоговый размер и средняя точность отличаются от полностью 4-битной модели; для работы требуется совместимая версия vLLM и соответствующая аппаратная память. В карточке указан английский язык, поэтому поддержка других языков не подтверждена. Модель распространяется по лицензии Apache-2.0.

QWQ-Rombos-ties-TEST2 — экспериментальное объединение двух предварительно обученных языковых моделей, созданное сообществом mergekit-community. Модель использует плотную архитектуру Qwen2ForCausalLM и объединена методом SLERP из Qwen/QwQ-32B-Preview и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель содержит 32 млрд параметров, принимает текст и предназначена для генерации диалоговых ответов, математических рассуждений и программирования. Поддерживает контекст до 32 768 токенов; в метаданных также отмечен интерфейс для вызова инструментов. Языковая поддержка отдельно не перечислена. Веса доступны в формате safetensors, библиотека для работы — Transformers. Это экспериментальная сборка слияния, поэтому её качество и поведение могут отличаться от исходных моделей. Лицензия в предоставленных данных не указана.

Secrets Sentinel xsmall-v1 — компактная модель классификации текста от hypn05, созданная дообучением microsoft/deberta-v3-xsmall для обнаружения секретов и учётных данных в строках кода и конфигурациях. Она присваивает строке метку «секрет» или «безопасно» и предназначена для проверок в pre-commit, pre-receive hooks и GitHub Actions, а также для сканирования репозиториев. Модель основана на архитектуре DeBERTa-v3-xsmall, имеет около 77,5 млн параметров по метаданным и контекст до 512 токенов. В README указаны 3 слоя вместо 12 у базовой модели, дообучение на размеченных примерах и примерно в 4,3 раза более высокая скорость относительно базовой версии; заявлена одинаковая точность на девяти тестовых сценариях, однако подробные значения F1 и числа ложных срабатываний для этой версии не приведены. Поддерживаемый язык карточки — английский. Модель распространяется по лицензии MIT.

Speechless Code Mistral Orca 7B v1.0 — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/speechless-code-mistral-orca-7b-v1.0 методом SLERP. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате, в том числе для задач, связанных с кодом. Контекст модели составляет до 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. В карточке не приведены сведения о языковом покрытии или результаты оценки качества.

STEP3-VL-10B — мультимодальная чат-модель компании StepFun с 10 млрд параметров, основанная на архитектуре StepVLForConditionalGeneration. Она принимает изображения и текст и генерирует текстовые ответы; в README описано совместное обучение визуального энкодера и декодера Qwen3-8B, а также дообучение с учителем и обучение с подкреплением. Модель предназначена для визуального понимания и рассуждений, включая анализ диаграмм и задач STEM, распознавание текста на изображениях, понимание интерфейсов и пространственных сцен. Заявленные сценарии включают ответы на вопросы по изображениям и документам, OCR, подсчёт объектов, решение математических задач по визуальным данным и взаимодействие с GUI. Для многошаговых визуальных задач README описывает последовательное рассуждение SeRe и параллельное исследование PaCoRe. Веса доступны в формате safetensors; карточка рекомендует bf16-инференс и указывает потребность примерно в 24 ГБ видеопамяти. Модель распространяется по лицензии Apache-2.0.

Карточка модели roskosmos19/Whale-4B-Thinking-2507 на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Thinking, поэтому описание составлено по ней. Orca-4B-Thinking — языковая модель для диалогов и задач, требующих многошаговых рассуждений. Согласно README, модель разработана на основе Qwen3-4B и дообучена в стиле DeepSeek-R1 на наборах OpenThoughts-114k и Mixture-of-Thoughts; метаданные связывают её с Qwen/Qwen3.5-4B. Карточка описывает причинную плотную архитектуру Qwen3, а метаданные указывают 3,7 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации развёрнутых рассуждений и ответов в математике, программировании, естественных науках и головоломках, а также для следования инструкциям и работы с инструментами. README сообщает о режиме Thinking и приводит оценочные результаты бенчмарков, поэтому заявленные улучшения производительности не следует считать независимой проверкой. Поддерживаются английский, немецкий, испанский, французский и китайский языки по тегам метаданных. Лицензия — Apache-2.0.

BenevolenceMessiah/Yi-Coder-9B-Chat-8x-MoE — диалоговая языковая модель для генерации кода и помощи в программировании, созданная с помощью mergekit на основе 01-ai/Yi-Coder-9B-Chat. В README описана сборка MoE с восемью экспертами, каждый из которых основан на одной и той же исходной модели; архитектура указана как MixtralForCausalLM. Модель содержит 8,6 млрд параметров и работает с контекстом до 131 072 токенов. Она предназначена для запросов на естественном языке о коде, генерации и объяснения программ, а также работы с длинными фрагментами кода и техническими материалами. Исходное семейство Yi-Coder поддерживает 52 языка программирования; это число относится к семейству, поэтому README не подтверждает одинаковое качество на каждом языке именно этой сборки. Модель принимает и генерирует текст. Лицензия — Apache-2.0. README описывает экспериментальную MoE-сборку с повторением одной базовой модели среди экспертов; отдельные результаты оценки качества этой версии не приведены.

BenevolenceMessiah/Yi-Coder-9B-Chat-Instruct-TIES — объединение моделей, созданное с помощью mergekit методом TIES на основе 01-ai/Yi-Coder-9B и 01-ai/Yi-Coder-9B-Chat. Это плотная авторегрессионная модель семейства Llama с 8,6 млрд параметров, предназначенная для генерации кода и диалоговой помощи в программировании. Модель принимает текст и генерирует текст; карточка базовой серии заявляет поддержку 52 популярных языков программирования и контекст до 128K токенов, а метаданные репозитория указывают контекст 131 072 токена. Модель подходит для написания и объяснения кода, а также работы с длинными фрагментами программного текста. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README описывает базовую серию Yi-Coder и конфигурацию слияния, но не приводит отдельной оценки качества именно этого объединения.

Yuan2-2B-Janus-hf — текстовая причинная языковая модель Yuan 2.0, разработанная IEIT System и представленная на Hugging Face в формате PyTorch. Это плотная архитектура YuanForCausalLM примерно на 1,9 млрд параметров с контекстом до 8192 токенов и возможностью диалогового применения. Модель предназначена для генерации текста и диалогов, а также может использоваться для задач, связанных с математикой, рассуждениями, программированием и знаниями. В README Yuan 2.0 описана как модель, обученная на разнообразных высококачественных данных и данных для настройки по инструкциям; для семейства приведены оценки на GSM8K, AGIEval, HumanEval и TruthfulQA. Карточка не подтверждает поддержку изображений, аудио или других нетекстовых входов. Выводы могут быть неточными или зависеть от формулировки запроса. В README указаны Apache 2.0 для кода репозитория и отдельное лицензионное соглашение Yuan 2.0 для модели; коммерческое использование заявлено как допустимое при соблюдении этого соглашения.

AceInstruct-7B — языковая модель NVIDIA из семейства AceInstruct, дообученная методом supervised fine-tuning на базе Qwen2.5-Base. Она предназначена для программирования, математики, общих знаний и широкого круга пользовательских запросов; поддерживает диалоговый режим. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст до 131 072 токенов. В опубликованных оценках AceInstruct-7B показывает результаты, сопоставимые с Qwen2.5-7B-Instruct на задачах программирования, математики и общих знаний. Она генерирует текст по запросу, включая ответы, объяснения и код. В карточке указан английский язык; других поддерживаемых языков источники не подтверждают. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки в карточке основаны на бенчмарках и не гарантируют качество для каждого запроса или предметной области.

Карточка модели TouchNight/cognitivecomputations_dolphin-2.9.2-qwen2-7b на Hugging Face совпадает с карточкой dphn/dolphin-2.9.2-qwen2-7b, поэтому описание составлено по ней. Dolphin 2.9.2 Qwen2 7B — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на основе Qwen2-7B. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на инструктивных, диалоговых и программных данных. В карточке заявлены навыки ответов на инструкции, ведения беседы, программирования, начальные агентные возможности и вызов функций. Модель предназначена для генерации текста в формате чата, помощи с кодом и выполнения запросов к функциям. Базовая модель поддерживает контекст до 128 тысяч токенов, однако полновесное дообучение Dolphin проводилось на последовательностях длиной 16 тысяч токенов. Репозиторий использует формат safetensors; метаданные указывают библиотеку Transformers. Модель описана авторами как uncensored и более склонная выполнять запросы, включая небезопасные. Для публичного сервиса рекомендуется самостоятельно добавить слой выравнивания поведения. Лицензия — Tongyi Qianwen; README допускает коммерческое использование при соблюдении её условий.

Deepseek-Wizard-33B-slerp — объединённая языковая модель, созданная с помощью LazyMergekit из DeepSeek Coder 33B Instruct и WizardCoder-33B-V1.1. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM; в метаданных указан размер 17,2 млрд параметров и контекст до 16 384 токенов. Модель предназначена для диалоговой генерации текста с акцентом на программирование: она может помогать писать и дополнять код, объяснять его и отвечать на вопросы в чате. Слияние выполнено методом SLERP; репозиторий содержит веса в формате Safetensors. Метаданные указывают лицензию Apache-2.0.

dolphin-2.8-mistral-v02-2x7b — языковая модель Mixture of Experts (MoE), созданная с помощью LazyMergekit путём объединения cognitivecomputations/dolphin-2.8-mistral-7b-v02 и OpenPipe/mistral-ft-optimized-1227. Она предназначена для генерации текста в формате чата: один набор экспертов ориентирован на диалог, ответы и объяснения, другой — на программирование и алгоритмы. Модель имеет архитектуру MixtralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Модель подходит для создания чат-ассистентов, объяснения тем и помощи с кодом. В карточке не приведены результаты оценок качества или сведения о поддерживаемых естественных языках, поэтому качество и языковой охват по этим данным определить нельзя.

Dolphin-4B — языковая модель, выпущенная roskosmos19 и дообученная на базе XHToken/Spark-X2.5-4B-Base. Она предназначена для диалогов, генерации текста, программирования, рассуждений и агентных сценариев с вызовом инструментов. Модель использует плотную архитектуру Spark2_5ForCausalLM и формат safetensors; размер по метаданным — 3,8 млрд параметров, а заявленная длина контекста составляет 1 048 576 токенов. Для работы доступны шаблон чата с поддержкой нескольких ролей, режима рассуждений и вызова инструментов; модель рассчитана на использование через Transformers и совместимые стеки инференса. В карточке заявлены сильные стороны в следовании инструкциям, программировании и многошаговых задачах. Эти характеристики представлены как утверждения автора и не сопровождаются в карточке результатами оценки. Язык модели явно не обозначен. Лицензия — Apache-2.0.

Eurus-7B-SFT — языковая модель с открытыми весами, разработанная OpenBMB и дообученная на базе Mistral-7B. Она предназначена для генерации ответов с упором на рассуждения, в том числе для задач программирования и математики; также поддерживает диалог. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и имеет контекст длиной до 32 768 токенов. Для дообучения использованы корректные действия из UltraInteract-SFT и небольшая доля примеров UltraChat, ShareGPT и OpenOrca. В карточке авторы сообщают о высоких результатах среди открытых моделей сопоставимого размера; это заявление основано на их оценке и не гарантирует качество на конкретных задачах. Для программирования и математики рекомендуется формат промптов из UltraInteract. Модель распространяется в формате safetensors по лицензии Apache-2.0. Как и другие генеративные языковые модели, она может ошибаться в рассуждениях, вычислениях и коде; результаты следует проверять.

insraq/G9v3-3B-heretic — созданная командой AI9Stars версия G9v3-3B, обработанная инструментом Heretic v1.4.0 для снижения числа отказов. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 2,7 млрд параметров, предназначенная для локального запуска и сценариев с ограниченными ресурсами. Модель поддерживает генерацию текста и диалоговое использование, включая повседневные запросы, программирование, рассуждения и взаимодействие с инструментами. Контекстное окно составляет 131 072 токена; в карточке указаны английский и китайский языки. В сравнении с исходной G9v3-3B модель показала 9 отказов из 100 тестовых запросов против 100 из 100 у оригинала; указанная дивергенция KL — 0,0410. Снижение числа отказов не гарантирует точности или безопасности: ответы могут быть ошибочными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0.

HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP — мультимодальная версия Gemma 4, разработанная HauhauCS на основе Gemma 4 26B-A4B-it от Google DeepMind. Модель предназначена для агентного программирования, рассуждений, творческого письма, ролевого общения, диалогов и задач, где важны следование инструкциям и надежность. Вариант позиционируется как uncensored и оптимизирован для минимизации отказов при сохранении исходных возможностей базовой модели. Модель использует MoE-архитектуру размером 26B параметров: из 128 экспертов для каждого токена активны 8. Поддерживается контекст до 256K токенов, английский язык и обработка изображений через отдельный vision mmproj-компонент. Распространяется в формате GGUF с 4-битной квантизацией Q4_K_M; основной файл занимает около 16,8 ГБ, vision-компонент — 1,2 ГБ. В комплект входит MTP-драфтер для speculative decoding, который в тестах автора ускорял генерацию примерно на 35% без заявленного изменения качества. К сильным сторонам относятся большой контекст, поддержка изображений, высокая эффективность MoE и ориентация на программирование, рассуждения и творческие задачи. Работа MTP и заявленное ускорение проверялись автором в llama.cpp; модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-рантаймами. Ограничения включают зависимость vision-возможностей от отдельного mmproj-файла, возможные сбои Gemma 4 в LM Studio при multi-GPU tensor-split, а также то, что отсутствие отказов не гарантируется для всех пограничных запросов. Лицензия указана как Gemma. Для запуска рекомендуется использовать параметры temperature 0.6, top_k 64, top_p 0.9, min_p 0.05 и repeat_penalty 1.1.

GPT-OSS-Swallow 120B SFT v0.1 — двуязычная языковая модель Токийского технологического института, дообученная на базе GPT-OSS. Она предназначена для диалогов на японском и английском языках, перевода между ними, а также решения задач по математике, программированию и естественным наукам. Модель использует архитектуру GPT-OSS с разреженной смесью экспертов (MoE); в метаданных указано 2,1 млрд параметров и контекст до 131 072 токенов. Для инференса разработчики рекомендуют vLLM и советуют ограничивать контекст 32 768 токенами или менее. Обучение включало продолжение предобучения, supervised fine-tuning и последующее обучение с проверяемыми наградами для семейства моделей; этот репозиторий содержит вариант SFT. Авторы сообщают об улучшении японского языка и перевода при сохранении математических и кодовых навыков. Модель не обучали специально для вызова инструментов, управления уровнем reasoning effort и надежной работы с длинным контекстом; ранний выпуск также не настроен на полное соответствие человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Granite-8B-Code-Instruct-128K — языковая модель для программирования, разработанная IBM Research. Это плотная decoder-only модель семейства Llama с 8,1 млрд параметров, дообученная на базе ibm-granite/granite-8b-code-base-128k. Модель принимает текстовые инструкции и код, поддерживает контекст до 128 000 токенов и выдаёт текст. Модель предназначена для генерации и объяснения кода, а также для создания программных помощников, работающих с длинным контекстом, например с содержимым репозитория. Обучение сочетает короткие и длинные примеры, чтобы поддерживать задачи на уровне нескольких файлов и сохранять возможности при коротких запросах. В обучающие данные входили наборы для программирования, математики, SQL и диалогов с помощником. Модель выпущена IBM Research 18 июля 2024 года и распространяется по лицензии Apache 2.0. Авторы не рекомендуют применять её в новых проектах: для них предназначены более новые модели семейства Granite. Качество может быть ниже для языков программирования, слабо представленных в обучении; перед использованием в критических приложениях рекомендуется проверка безопасности и настройка под целевую задачу.

K2-Chat — диалоговая языковая модель на 65 млрд параметров, разработанная MBZUAI и LLM360. Это дообученная версия K2-65B на наборах Infinity-Instruct, JiuZhang3.0-Corpus-SFT и glaive-function-calling-v2-sharegpt; модель построена на архитектуре Llama и распространяется в формате PyTorch. Контекст составляет 8192 токена. Модель предназначена для диалогов, ответов на вопросы, задач по математике и программированию, а также вызова функций по заданным схемам. В README заявлены улучшения в безопасности и результаты бенчмарков, но они не гарантируют качество на конкретных задачах. Примеры использования ориентированы на английский язык; модель описана как отвечающая только на английском. Для вызова функций требуется соблюдать специальный формат промпта; совместная работа режимов обычного диалога и вызова функций отдельно не проверена. Лицензия — Apache-2.0.

MonarchCoder-7B — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная abideen слиянием методом SLERP моделей Tess-Coder-7B-Mistral-v1.0 и AlphaMonarch-7B с помощью LazyMergekit. Модель предназначена для генерации кода, диалога и рассуждений; автор сообщает об улучшенных результатах на бенчмарках OpenLLM, Nous и HumanEval по сравнению с исходными моделями в описанных задачах. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и рассчитана прежде всего на английский язык. Доступны веса в формате safetensors для Transformers. Лицензия — Apache-2.0. Заявления о сравнительных результатах основаны на оценках автора; конкретные значения в доступном тексте карточки опущены.

NeoHorse-1-9B-GGUF — это набор GGUF-квантизованных файлов модели NeoHorse-1-9B, разработанной TokenRhythm и распространяемой в этой сборке сообществом ngquocvinh. Модель представляет собой причинную языковую модель примерно на 9 млрд параметров, созданную на основе Qwen3.5-9B и предназначенную для текстовых агентских систем, использования инструментов, программирования, рассуждений и выполнения инструкций. В сборке применена библиотека llama.cpp и поддерживается текстовая генерация. Модель рассчитана на локальный запуск с разными уровнями квантизации. Размер файлов варьируется примерно от 1,97 до 9,53 ГБ; Q4_K_M указан как сбалансированный вариант, а Q5_K_M, Q6_K и Q8_0 обеспечивают большую точность при наличии достаточного объёма памяти. Согласно данным исходной карточки, базовая модель поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов, однако эти характеристики относятся к upstream-модели и могут зависеть от используемой конфигурации запуска. Сильными сторонами являются поддержка агентских сценариев, tool use, программирования и рассуждений, а также возможность локального запуска на совместимом оборудовании. Ограничения включают отсутствие vision-весов и поддержку только текста, а также потенциальное снижение качества на низких уровнях квантизации. Приведённые результаты оценки качества относятся к совпадению следующего токена с BF16-версией, а не напрямую к качеству решения задач; показатели исходной модели не являются результатами тестирования этих GGUF-файлов. Лицензия — Apache-2.0.

NeoHorse-1-9B-MLX — версия для локального запуска на Apple Silicon модели NeoHorse-1-9B, разработанной TokenRhythm. Это плотная авторегрессионная языковая модель семейства Qwen3.5 с 7,2 млрд параметров, предназначенная для диалогов, программирования, рассуждений, следования инструкциям и работы с инструментами в агентных сценариях. Контекстное окно составляет 262 144 токена. Веса представлены в BF16 и адаптированы для MLX-LM: изменены имена и раскладка тензоров, а также представление нормализации; квантизация не применялась. Модель можно запускать локально через MLX-LM, в том числе как OpenAI-совместимый сервер с поддержкой вызова инструментов. В README указаны результаты исходной NeoHorse-1-9B на наборах тестов, но отдельная оценка этой MLX-версии не приводится. Модель предназначена для Apple Silicon и использует лицензию Apache-2.0. Ограничения: результаты исходной модели не подтверждают идентичное качество этой версии; для запуска требуется совместимая среда MLX-LM на Mac с Apple Silicon.

North-Mini-Code-1.0-GGUF — квантизированная версия языковой модели North-Mini-Code-1.0, разработанной CohereLabs и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия, работы с программным кодом и сценариев с агентами. Поддерживает запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. В репозитории представлены варианты от BF16 до различных уровней квантизации Q8_0, Q6_K, Q5_K, Q4_K и IQ3/IQ4. Размер файлов составляет примерно от 14,86 до 61 ГБ; варианты с более высокой разрядностью обычно обеспечивают лучшее качество, а компактные версии требуют меньше оперативной памяти. Точные сведения об архитектуре, количестве параметров, языках и размере контекстного окна в предоставленных данных не указаны. Сильными сторонами модели являются специализация на коде, поддержка чатового и агентного применения, а также широкий выбор квантизированных вариантов для разных аппаратных ограничений. Ограничения включают значительные требования к памяти даже у компактных сборок, возможное снижение качества при сильной квантизации и необходимость совместимого программного обеспечения. Модель распространяется по лицензии Apache-2.0.

Карточка модели mayflowergmbh/occiglot-7b-eu5-instruct-hf на Hugging Face совпадает с карточкой occiglot/occiglot-7b-eu5-instruct, поэтому описание составлено по ней. Occiglot-7B-EU5-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер с архитектурой Mistral и 7,1 млрд параметров, дообученный на 400 млн токенов многоязычных и программных инструкций. Модель принимает текстовые запросы в формате ChatML и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы, выполнения инструкций и задач с кодом на английском, испанском, французском, немецком и итальянском языках. Карточка приводит предварительные результаты тестирования и отмечает, что часть неанглоязычных оценок основана на машинном переводе, поэтому их следует интерпретировать осторожно. Модель не проходила выравнивание по безопасности и может создавать проблемный контент. Распространяется по лицензии Apache 2.0.

OpenCerebrum-1.0-7B-DPO — открытая языковая модель Locutusque, дообученная методом DPO на базе alpindale/Mistral-7B-v0.2-hf. Это плотная Mistral-модель с 7,1 млрд параметров и контекстом до 32 768 токенов; для обучения использовался формат ChatML. Модель предназначена для генерации текста, ответов на вопросы и следования инструкциям, в том числе для задач программирования, математики, естественных наук и рассуждений. Обучение примерно на 21 тысяче примеров из шести публичных наборов данных было направлено на воспроизведение возможностей Cerebrum; модель работает на английском языке. Модель распространяется по лицензии Apache 2.0. Авторы предупреждают, что она может уступать оригинальной Cerebrum, отражать смещения обучающих данных и требовать заметных вычислительных ресурсов из-за размера 7B.

Open-Instruct Code Alpaca 13B — плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями AllenAI на наборе инструкций Code Alpaca. Она предназначена для генерации кода и ответов на инструкции, в частности для помощи с программированием в формате запрос–ответ. Модель принимает текст и генерирует текст; её нативная длина контекста — 2048 токенов. В README приведён результат Codex-Eval Pass@1 20,1 и Pass@10 34,5, а также результаты общих языковых и рассуждательных бенчмарков. Репозиторий содержит diff весов, поэтому для использования требуется совместимая исходная модель LLaMA в формате Hugging Face; это не самостоятельный полный набор весов. Рекомендуется применять указанный в карточке шаблон форматирования запросов. Модель опубликована под лицензией AI model license вместе с исходной лицензией LLaMA; перед использованием следует проверить условия обеих лицензий.

duyntnet/Phi-3-mini-128k-instruct-imatrix-GGUF — это набор пере-квантизированных GGUF-файлов модели Phi-3 Mini-128K-Instruct, разработанной Microsoft и повторно опубликованной пользователем duyntnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, решения задач и работы с длинным контекстом. Указана поддержка английского языка и текстовой модальности. Версия ориентирована на улучшенное понимание кода на Python, C++, Rust и TypeScript, более структурированные ответы, многоэтапное следование инструкциям, рассуждения и обработку длинного контекста. В README заявлена длина контекста 128K токенов; также указано, что модель поддерживает системный тег <|system|>. Формат GGUF позволяет запускать её через llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama. Данные о точной архитектуре, количестве параметров и конкретных вариантах квантизации не приведены, поэтому характеристики производительности и требования к ресурсам определить нельзя. Модель подходит для локального запуска, чат-ассистентов, генерации и анализа текста, программирования и сценариев, требующих обработки больших документов или продолжительного диалога. Ограничения включают отсутствие заявленной поддержки других языков, а также возможные потери качества, связанные с квантизацией. Лицензия обозначена как other, но её условия в README не раскрыты; перед использованием необходимо ознакомиться с лицензией исходной модели и опубликованного набора файлов.