II.4Отладка, тестирование и качество ПО

noctrex/Qwen3-Coder-REAP-25B-A3B-MXFP4_MOE-GGUF — квантизированная в формате GGUF версия модели Cerebras Qwen3-Coder-REAP-25B-A3B. Это MoE-модель для генерации кода и диалогового использования; каталог также указывает поддержку чата. Репозиторий содержит варианты MXFP4_MOE, включая варианты с imatrix-калибровкой bartowski и экспериментальные варианты codetiny-exp и codemedium-exp, откалиброванные на наборах данных для программирования. Модель предназначена для генерации кода и помощи в задачах программирования. Автор отмечает, что калибровочные данные экспериментальных вариантов охватывают только код, поэтому их пригодность для общих знаний не установлена и требует дальнейшей проверки. Лицензия в предоставленных данных не указана.

Rombos-Coder-V2.5-Qwen-7b-GGUF — это GGUF-квантизованная версия кодовой языковой модели Rombos-Coder-V2.5-Qwen-7b, опубликованная и квантизованная bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана rombodawg и основана на семействе Qwen. Модель предназначена для генерации текста и программного кода, включая локальный запуск через llama.cpp или LM Studio. В репозитории представлены варианты от F16 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-форматов, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели обозначен как 7B; точные сведения об архитектуре, длине контекста, дополнительных модальностях и полном наборе поддерживаемых языков в README не указаны. Заявлен английский язык, а pipeline модели относится к text-generation. Сильной стороной является широкий выбор квантований, включая варианты, оптимизированные для ARM, а также высококачественные Q6 и Q5, рекомендованные автором. Ограничения зависят от выбранного варианта: более компактные квантования снижают качество, а ARM-специализированные файлы требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Для использования указан формат диалогового шаблона ChatML. Лицензия — Apache-2.0; ссылка на лицензию ведёт к лицензии Qwen2.5-Coder-14B.

Terminus-Qwen3-8b — дообученная OrionLLM модель на базе Qwen/Qwen3-8B, разработанная для агентных задач в терминале. Она предназначена для рассуждений в командной строке, программной инженерии и работы с инструментами в средах вроде Codex и OpenCode. Модель с плотной архитектурой Qwen3 содержит 7,6 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Для обучения использован набор данных OrionLLM/OpenAgentInstruct. В README приведены результаты на Terminal-Bench 2.0 и SWE-Bench Verified, однако условия и воспроизводимость этих оценок не описаны. Модель распространяется по лицензии Apache-2.0.

calme-2.1-phi3-4b — диалоговая языковая модель MaziyarPanahi, полученная дообучением методом DPO модели microsoft/Phi-3-mini-4k-instruct. Она предназначена для генерации текста в формате ChatML, ответов в диалоге и задач программирования; в README приведены результаты оценивания на Open LLM Leaderboard. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров, принимает текст и работает с контекстом до 4096 токенов. Модель доступна для использования через Transformers. Лицензия — MIT. Метаданные указывают английский язык; показатели бенчмарков и сведения о возможностях не гарантируют качество для конкретных запросов.

duyntnet/codegeex4-all-9b-imatrix-GGUF — набор GGUF-квантизаций модели CodeGeeX4-ALL-9B, разработанной THUDM. Это авторегрессионная языковая модель для генерации текста и кода, ориентированная на задачи программирования: ответы на вопросы о коде и компьютерах, написание исполняемого кода, объяснение решений и автодополнение. Модель поддерживает диалоговый режим с системными и пользовательскими сообщениями, а также infilling — заполнение фрагментов кода между заданными префиксом и суффиксом. Доступны варианты запуска через llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. В README указано, что исходную модель можно запускать с Transformers версий 4.39.0–4.40.2; сведения о точной архитектуре, размере контекста и поддерживаемых языках программирования не приведены. Сильными сторонами являются специализация на программировании, поддержка диалога и заполнения кода, а также наличие GGUF-квантизаций для локального запуска в совместимых приложениях. Ограничения включают отсутствие в README результатов оценки качества, требований к ресурсам и подробностей о вариантах квантизации. Лицензия обозначена как other, без дополнительных условий использования.

Code Llama 70B — авторегрессионная языковая модель семейства Llama, разработанная Meta. Этот репозиторий содержит базовую версию модели в формате Transformers с 68,7 млрд параметров; она предназначена для генерации и понимания кода и поддерживает автодополнение кода. Модель принимает текст и генерирует текст, использует плотную архитектуру Transformer и имеет контекстное окно 16 384 токена. Модель подходит для дополнения фрагментов кода и адаптации к задачам синтеза и анализа программ. Это базовая версия: она не настроена для диалогов и следования инструкциям, а специализированная версия для Python и infilling в карточке не отмечены. Модель предназначена для английского языка и языков программирования; README предостерегает от использования на других естественных языках. Возможны неточные или нежелательные ответы, поэтому перед внедрением нужна проверка для конкретного сценария. Использование регулируется лицензией Meta Llama 2, указанной в метаданных; условия лицензии следует соблюдать.

CodeLlama-7b-hf — базовая генеративная модель Meta для синтеза и понимания программного кода. Это версия семейства Code Llama с 7 млрд параметров в формате Transformers; архитектура — авторегрессионный оптимизированный трансформер семейства Llama. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов. Модель предназначена для автодополнения кода и infilling — заполнения пропусков в коде. README отмечает, что эта базовая версия не предназначена для инструкционного диалога; для следования инструкциям в семействе есть отдельный вариант Instruct. Модель рассчитана на английский язык и языки программирования. Лицензия — пользовательская лицензия Meta для Llama 2, условия которой следует учитывать при использовании.

MJPansa/DeepSeek-V4-Flash-0731-NVFP4 — общественная конверсия официальной модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Конверсия сохраняет архитектуру, токенизатор, DSpark/MTP-конфигурацию, механизм внимания, shared experts, router, head и прочие компоненты исходной модели, изменяя представление весов маршрутизируемых экспертов на NVIDIA-style NVFP4. Репозиторий не связан с DeepSeek или NVIDIA и не является их официальным продуктом. Модель предназначена для сложных задач программирования, разработки с агентами, работы с инструментами, автоматизации, терминальных сценариев, математики, Triton, CUDA/Nsight и научных задач. Она относится к MoE-архитектурам и содержит 43 основных transformer-слоя; в структуру включён модуль speculative decoding. В README не указаны общий и активный размер модели, поддерживаемые языки и точный перечень модальностей. Заявлен максимальный контекст до 250 000 токенов в протестированной конфигурации. Сильная сторона версии — компактное представление маршрутизируемых экспертных весов NVFP4 при сохранении исходных 4-битных значений и проверенной совместимости с vLLM на двух системах NVIDIA DGX Spark с tensor parallelism. Работоспособность подтверждена загрузкой и базовой генерацией через OpenAI-compatible API, но это не является сертификацией производительности; протестированный eager-режим показал низкую скорость декодирования. Для запуска требуется совместимая инфраструктура NVIDIA, распределённая конфигурация vLLM и специальное кодирование сообщений, поскольку Jinja-шаблон чата не включён. Лицензия — MIT.

DeepSeek-V4-Flash-0731-Pruned-155B-A13B-GGUF — неофициальная производная модель, созданная сообществом на основе DeepSeek-V4-Flash-0731 и GGUF-сборки Unsloth. Она не выпущена и не одобрена DeepSeek. Модель предназначена для генерации текста и локального запуска через llama.cpp, прежде всего на Apple Silicon с 64 ГБ памяти, включая сценарии агентного программирования и задач SWE-bench. Это MoE-модель примерно со 155,5 млрд параметров и около 13 млрд активных параметров на токен. В 40 основных MoE-слоях число маршрутизируемых экспертов сокращено с 256 до 128, а первые три hash-слоя сохраняют все 256 экспертов. Веса представлены в квантизации IQ3_XXS; используется GGUF. Основная сборка требует специальной модификации llama.cpp, тогда как альтернативная ZP256 совместима с обычной версией llama.cpp, но работает медленнее. Для ускорения поддерживается speculative decoding с отдельной моделью DSpark. Главное преимущество — возможность полностью разместить основную сборку на GPU 64-гигабайтного Mac mini M4 Pro и получить существенно более высокую скорость по сравнению с частичной выгрузкой исходной модели: до 21,2 токена в секунду при коротком контексте и 14,3–16,6 токена в секунду при агентном контексте 8–32 тыс. токенов. На подмножестве SWE-bench Verified из 100 задач модель решила 77,5% задач против 84,0% у официальной FP8-версии, поэтому pruning сопровождается заметным снижением качества. Калибровочная imatrix исходной модели отдельно для обрезанной версии не проверялась. Лицензия — MIT. Для работы основной сборки требуются совместимые патченные llama.cpp и настройка лимита выделяемой GPU-памяти macOS; заявленная производительность относится к конкретной конфигурации Mac mini M4 Pro 64 ГБ и может отличаться на другом оборудовании.

Falcon-H1R-7B-GGUF — языковая модель для рассуждений, разработанная Technology Innovation Institute (TII) на основе Falcon-H1-7B-Base. Это авторегрессионная decoder-only модель с гибридной архитектурой, объединяющей Transformers и Mamba2. Модель обучалась с применением supervised fine-tuning на длинных цепочках рассуждений и последующего обучения с подкреплением методом GRPO. Модель предназначена для генерации текста, решения математических задач, программирования, следования инструкциям и задач общей логики. В README заявлена поддержка английского и многоязычного использования. Для запуска предусмотрен формат GGUF и совместимость с llama.cpp; рекомендуются temperature 0.6, top-p 0.95 и до 65536 новых токенов, что указывает на ориентацию на длинные рассуждения. Сильной стороной модели являются результаты на ряде тестов рассуждений, включая высокие показатели на AIME24, HMMT25, AMO-BENCH и MATH500, а также конкурентные результаты в программировании и общих задачах. При этом приведённые бенчмарки не гарантируют аналогичное качество в конкретных прикладных сценариях, а подробные сведения о размере контекстного окна, точном варианте квантования GGUF и ограничениях по языкам в README не указаны. Модель распространяется по лицензии Falcon-LLM License; условия доступны по ссылке, указанной разработчиком.

GLM-5.1-FP8 — квантованная в формате FP8 версия языковой модели GLM-5.1, разработанной командой Z.ai. Модель предназначена для генерации текста и ориентирована прежде всего на агентные инженерные задачи, включая программирование, создание репозиториев по естественно-языковому описанию, работу с терминалом и длительные многошаговые сессии с использованием инструментов. Заявлена поддержка английского и китайского языков; модель подключается через библиотеку Transformers и относится к задачам text generation. Ключевая сильная сторона GLM-5.1 — работа над сложными задачами на протяжении сотен итераций и тысяч вызовов инструментов: модель умеет декомпозировать неоднозначные проблемы, проводить эксперименты, анализировать результаты, находить блокирующие факторы и пересматривать стратегию. В README приведены высокие результаты на SWE-Bench Pro, NL2Repo, Terminal-Bench 2.0, CyberGym и BrowseComp. При этом размер модели, базовая архитектура, длина контекста, точные характеристики FP8-квантизации и поддерживаемые модальности не указаны. Ограничения также связаны с тем, что приведённые показатели зависят от используемых инструментов и условий тестирования, а таблица бенчмарков в представленном README обрывается. Модель распространяется по лицензии MIT. README также указывает на доступность API-сервисов GLM-5.1 на платформе Z.ai, однако конкретные требования к аппаратному обеспечению и инструкции по локальному запуску для этой версии не приведены.

Granite-3B-Code-Instruct-128K — языковая модель с 3,5 млрд параметров, разработанная IBM Research. Это плотная авторегрессионная модель семейства Llama, дообученная на основе ibm-granite/granite-3b-code-base-128k для выполнения инструкций по программированию и работы с длинным контекстом до 128 000 токенов. Модель предназначена для создания кодовых помощников: она может генерировать код и отвечать на инструкции по программированию, в том числе с учётом длинных входных материалов, например содержимого репозитория. Обучение включало короткие и длинные примеры, задачи по математике, SQL и вызову функций. Карточка не перечисляет поддерживаемые естественные языки; модель ориентирована на программный код. IBM не рекомендует применять эту версию в новых проектах и предоставляет её для исторических и научных целей, поскольку более новые модели Granite превосходят её в задачах программирования. Для языков программирования вне обучающего распределения качество может быть ниже; перед использованием в критических приложениях нужны проверка безопасности и целевая настройка. Лицензия — Apache 2.0.

Granite-8B-Code-Instruct-4K — языковая модель IBM Research с 8,1 млрд параметров, дообученная на базе ibm-granite/granite-8b-code-base-4k. Она предназначена для выполнения инструкций по программированию и создания помощников для разработчиков. Модель также обучалась на данных с математическими задачами и примерами вызова функций. Архитектура — плотная LlamaForCausalLM; модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и распространяется в формате Safetensors. Модель обучалась на инструкциях по коду и ряду распространённых языков программирования, а также на математических и общих инструкционных данных. Для языков программирования вне обучающего охвата качество может быть ниже; в таких случаях README рекомендует использовать примеры в контексте. Перед применением в критически важных системах необходимы проверки безопасности и настройка под целевую задачу. IBM не рекомендует выбирать эту модель для новых проектов и указывает, что она предоставлена для исторических и научных целей. Лицензия — Apache 2.0.

GRaPE 2 Nano — компактная мультимодальная модель SLAI (Skinnertopia Lab for Artificial Intelligence), дообученная на базе Qwen/Qwen3.5-0.8B. Она принимает текст и изображения и генерирует текст; модель рассчитана на диалоги, программирование, математику, научно-технические вопросы и задачи на логическое рассуждение. В README заявлены управляемые режимы глубины рассуждения, включая минимальный, краткий и адаптивный; доля кода в данных постобучения указана примерно как 50%. Архитектура — плотная Qwen3.5 с поддержкой зрения; размер базовой модели — 0,8 млрд параметров. Заявлена поддержка английского, китайского, французского, немецкого, испанского, японского, корейского, португальского, русского и арабского языков. Длина контекста в предоставленных данных не указана. Данные постобучения закрытые и проприетарные, независимая оценка качества в карточке не приведена. Модель выпущена по лицензии Apache 2.0.

bartowski/huihui-ai_Qwen3-Coder-Next-abliterated-GGUF — набор GGUF-квантизаций модели Huihui-Qwen3-Coder-Next-abliterated, разработанной huihui-ai. Квантизации выполнены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу text-generation и предназначена для локального запуска генеративных сценариев, включая работу с кодом и текстом. Модель доступна в различных вариантах квантования от Q3 до Q8, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Размер файлов варьируется примерно от 42,67 до 84,81 ГБ; некоторые варианты разделены на несколько файлов. Для запуска указаны llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и LoLLMs. Используется шаблон диалога ChatML с маркерами system, user и assistant. README не сообщает точные архитектурные характеристики исходной модели, число параметров, контекстное окно, поддерживаемые языки или модальности, поэтому эти сведения нельзя достоверно определить. Более низкие уровни квантования экономят память, но могут снижать качество; варианты Q5 и выше обозначены как высококачественные, а Q4_K_M — как стандартный вариант для большинства сценариев. Модель имеет статус abliterated и uncensored, что может означать изменённые ограничения поведения по сравнению с исходной моделью. Лицензия — Apache-2.0.

OsaurusAI/Laguna-M.1-JANG_1L — версия модели Poolside Laguna-M.1, подготовленная Osaurus для локального запуска на компьютерах Apple Silicon. Это MoE-модель для генерации текста и агентного программирования; в README указаны 225 млрд параметров и около 23 млрд активных параметров. Профиль JANG_1L использует аффинную квантизацию: 2 бита для gate/up/down, 4 бита для shared/dense и 8 бит для attention; размер сборки около 72 ГБ. Метаданные указывают 17,1 млрд параметров и контекст до 262 144 токенов, что расходится с числом параметров в README. Модель предназначена для написания и анализа кода, а также длительных агентных задач с инструментами. Для запуска требуется Laguna-совместимая среда, например Osaurus или vMLX: архитектура использует нестандартные механизмы внимания и маршрутизации MoE, которые не поддерживаются обычными загрузчиками. Базовая модель распространяется по лицензии Apache-2.0; README указывает эту же лицензию для сборки.

SimplySara/LocoOperator-4B-i1-GGUF — это GGUF-квантизация модели LocoOperator-4B, разработанной LocoreMind; квантизацию выполнил пользователь SimplySara. Модель предназначена для генерации текста, работы с кодом, агентских сценариев и вызова инструментов. В метаданных также указана связь с Qwen3 и дистилляцией, однако подробности архитектуры исходной модели не приведены. Доступна англоязычная версия, ориентированная на запуск через llama.cpp и совместимые инструменты. Размер базовой модели — 4B параметров; для представленного варианта в README указаны файлы разных уровней квантизации, включая i1-Q8_0, i1-Q6_K, i1-Q5_K_M и более компактные варианты. Для i1-Q8_0 размер составляет около 3,986 ГБ, а совпадение наиболее вероятных токенов с исходной моделью — 97,518%; при дальнейшем уменьшении разрядности размер сокращается, но качество в среднем снижается. Сильные стороны модели — сравнительно небольшой размер, поддержка GGUF и пригодность для локального запуска, а также специализация на коде, tool calling и агентских задачах. Ограничения включают англоязычную направленность, отсутствие данных о длине контекста, точной архитектуре, мультимодальности и результатах прикладных бенчмарков; качество зависит от выбранного уровня квантизации, особенно у наиболее компактных вариантов. Лицензия — MIT.

Magicoder-S-CL-7B — языковая модель для генерации кода, разработанная Юсяном Вэем, Чжэ Ваном, Цзявэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров и контекстом до 16 384 токенов; она дообучена на базе CodeLlama-7b-Python-hf. Модель предназначена прежде всего для задач программирования: генерации кода по инструкциям и решения других кодовых задач. При обучении использованы наборы Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Она может ошибаться и хуже справляться с задачами, не связанными с кодом. Лицензия — Llama 2.

Это экспериментальная версия MiniMax M3, подготовленная Spark Arena для запуска на двух узлах DGX Spark. Модель основана на MiniMax M3 и использует квантование NVFP4 с сокращением REAP50, чтобы уменьшить требования к размещению по сравнению с вариантом на четырёх узлах. Архитектура MiniMax M3 — мультимодальная модель с разреженным вниманием MiniMax Sparse Attention (MSA); заявлено около 428 млрд параметров, из которых активируется около 23 млрд, и контекст до 1 млн токенов. Модель предназначена для диалогов с изображениями и видео, задач программирования и длительных агентных сценариев с вызовом инструментов. Разработчик заявляет ускорение обработки длинного контекста благодаря MSA, однако эта сборка помечена как экспериментальная: калибровка NVFP4 ещё дорабатывается, а влияние REAP50 на качество проверено не полностью. Для корректного использования калибровки требуется поддержка соответствующих масштабов NVFP4 в среде запуска. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

OpenBuddy-deepseekcoder-33b-v16.1-32k — OpenBuddy әзірлеген көптілді чат-модель. Ол LlamaForCausalLM архитектурасына негізделген, dense құрылымды және 33,1 млрд параметрі бар autoregressive модель; Hugging Face карточкасында text-generation міндеті көрсетілген. Карточкадағы атау 32k контекстті меңзегенімен, метадеректерде native контекст ұзындығы 16 384 токен деп берілген. Модель мәтіндік диалог пен кодқа қатысты сұрауларға жауап беруге арналған. Карточкада қытай, ағылшын, француз, неміс, жапон, корей, итальян, орыс және фин тілдері көрсетілген; көптілді чат-сценарийлерде қолдануға болады. Модельдің күшті жақтары — үлкен параметр саны мен бірнеше тілді қолдауы, бірақ README нақты бағалау нәтижелерін сипаттамайды. Лицензия метадеректерде «other», ал README-де «deepseek» деп көрсетілген; пайдалану шарттарын бастапқы лицензиядан тексеру қажет. README модельдің қате, зиянды немесе жағымсыз жауаптар беруі мүмкін екенін ескертеді және медициналық, қаржылық, құқықтық не өзге де жоғары тәуекелді шешімдер үшін пайдаланбауды ұсынады.

OpenCodeInterpreter-CL-70B — модель для генерации кода из семейства OpenCodeInterpreter, разработанного как система для интеграции языковых моделей с выполнением кода и итеративным уточнением результатов. Эта версия основана на CodeLlama-70b-Python-hf и использует плотную архитектуру LlamaForCausalLM с 68,7 млрд параметров. Модель предназначена для генерации и интерпретации кода в диалоговом формате. Подход OpenCodeInterpreter предполагает использование обратной связи от выполнения кода для улучшения результатов; README приводит сравнение семейства на HumanEval и MBPP. В карточке этой конкретной версии заявлено окно контекста 16 384 токена, указана поддержка английского языка и формат весов safetensors. Модель может применяться для помощи в программировании и создания фрагментов кода. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Приведённые в README результаты относятся к семейству и не дают отдельной оценки этой версии 70B; выполнение кода и получение обратной связи требуют соответствующей внешней среды.

Ornith-1.5-35B-A3B-NVFP4-W4A16 — это независимый community-артефакт, созданный r0b0tlab на основе модели Ornith-1.5-35B-A3B от Ornith AI. Модель предназначена для мультимодальных сценариев image-text-to-text, включая генерацию текста, программирование, математические задачи, выполнение инструкций и агентское кодирование. Артефакт не связан с NVIDIA или Ornith AI и не является их официальным продуктом. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с 35,1 млрд параметров, гибридным механизмом GDN linear attention и softmax attention, а также Mixture-of-Experts. Это квантизованная версия с NVFP4 W4A16 weight-only: веса Linear-слоёв представлены в 4-битном формате, активации используют BF16, KV-кэш — FP8-E4M3. Размер на диске составляет около 23 ГБ вместо 67 ГБ у BF16-версии, что даёт сжатие примерно в 2,9 раза. Заявлен контекст до 32 768 токенов, однако сведения о поддерживаемых языках в README отсутствуют. По внутреннему набору из 200 вопросов модель показала сопоставимое с BF16-базой качество на GSM8K, HumanEval и IFEval, а с MTP и спекулятивным декодированием — улучшенные результаты в отдельных тестах. Поддерживается SGLang с EAGLE/nextn speculative decoding; целевой сценарий эксплуатации — Blackwell-класс GPU NVIDIA, в частности DGX Spark GB10/SM121. Ограничения включают узкую и внутреннюю систему оценки, отсутствие проверки на других Blackwell-устройствах, возможную чувствительность к данным вне распределения и необходимость корректной настройки SGLang, включая backend marlin, прогрев JIT-кэша FlashInfer и FP8 KV-кэш. Модель распространяется по лицензии MIT.

Soulfate24/Ornith-1.5-9B-MTP-ASHQ1-Remix-GGUF — квантованная в формате GGUF версия Ornith-1.5-9B от Ornith AI. Репозиторий описывает вариант ASHQ1-Remix: активационно-ориентированную квантовку, параметры которой основаны на измерениях; указана поддержка линии AutoRound с ограничениями насыщения. Модель предназначена для генерации текста и диалогового использования. Базовая модель рассчитана на программирование, агентные задачи и работу с инструментами в длинном контексте. Ключевая характеристика этой версии — квантованное представление весов GGUF. В метаданных указаны задача text-generation, библиотека Transformers и лицензия MIT. README не приводит размер квантованных файлов или оценки качества именно этой сборки; результат может зависеть от выбранного файла и среды запуска.

Blarfursnarg/OxCoder-9B-mlx — версия модели OrionLLM/OxCoder-9B, преобразованная для формата MLX с помощью mlx-lm 0.31.3. Метаданные указывают на дообучение базовой модели, архитектуру семейства Qwen 3.5 с плотной структурой и размером 9 млрд параметров; доступен интерфейс чата. Модель предназначена для генерации текста в диалоговом формате и, согласно описанию базовой модели, для агентного программирования, работы с кодовыми базами и задач в терминале. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Карточка не приводит сведений о длине контекста или поддерживаемых естественных языках.

Pensez-v0.1-e5 — двуязычная англо-французская языковая модель для диалогов и задач рассуждения, разработанная на базе Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель Qwen2 с 7,1 млрд параметров, дообученная методом SFT на наборе Pensez v0.1 из 2 000 примеров: по 1 000 на французском и английском языках. Модель предназначена для повседневных вопросов, научных задач, математики и программирования; для простых запросов использует краткие рассуждения, а для сложных может разворачивать их подробнее. Поддерживает контекст до 32 768 токенов и поставляется в формате safetensors. В карточке приведены сравнительные результаты на франкоязычных тестах по математике, пониманию вопросов и знаниям; результаты различаются по бенчмаркам и не гарантируют качество для всех запросов. Модель доступна по лицензии Apache-2.0. Для запуска автор указывает библиотеку Transformers.

Phind-CodeLlama-34B-v1 — языковая модель для генерации кода, разработанная Phind и дообученная на базе CodeLlama-34B. Это плотная decoder-only архитектура Llama с 33,5 млрд параметров; репозиторий содержит веса PyTorch, а нативная длина контекста составляет 16 384 токена. Модель предназначена для ответов на задачи по программированию и генерации решений по инструкциям. Она была дообучена на внутреннем наборе примерно из 80 тысяч пар «инструкция — ответ» с задачами и решениями по программированию; авторы сообщают результат 67,6% pass@1 на HumanEval. Модель частично настроена на инструкции, но не обучена как чат-модель. Модель принимает текст и генерирует текст, в том числе код. README предупреждает, что проверки безопасности были ограниченными, поэтому перед внедрением в реальные системы нужна дополнительная оценка. Лицензия репозитория указана как Llama 2.

Prox 7B DPO — языковая модель OpenVoid AI на архитектуре Mistral, дообученная на базе Mistral-7b-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории доступны веса Safetensors. Карточка указывает английский язык и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, документирования, вопросов о кибербезопасности и методах взлома, а также помощи в проектах по программированию. Она дообучалась на материалах по кодированию и кибербезопасности, включая наборы данных для DPO; README также упоминает собственный набор OpenVoid AI. Ответы модели могут содержать ошибки и требуют проверки специалистом. Разработчик предостерегает от использования её для критически важных задач безопасности и незаконной деятельности. Лицензия репозитория — Apache-2.0.

Qwen2.5-Coder-3B-Instruct-4bit — языковая модель для генерации текста и работы с программным кодом, разработанная командой Qwen. Версия преобразована сообществом mlx-community из исходной модели Qwen/Qwen2.5-Coder-3B-Instruct в формат MLX с использованием mlx-lm 0.19.3. Модель имеет размер 3B параметров и предназначена для сценариев инструкционного диалога и генерации кода. В карточке указана поддержка английского языка, текстовая модальность и применение через библиотеку mlx-lm; доступна 4-битная версия, что уменьшает требования к памяти по сравнению с полноразмерным представлением, но может ограничивать точность по сравнению с исходной моделью. Архитектура и размер контекста в README не указаны. Для использования требуется установить пакет mlx-lm и загрузить модель через функции load и generate. Лицензия обозначена как qwen-research; подробные условия доступны по ссылке на лицензию исходной модели. README не содержит данных о результатах тестирования, конкретных ограничениях качества или поддерживаемых языках помимо английского.

Карточка модели tbhrc/qwen2_5_coder_7b_instruct_4bit на Hugging Face совпадает с карточкой mlx-community/Qwen2.5-Coder-7B-Instruct-4bit, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct-4bit — 4-битная версия модели для генерации кода из семейства Qwen2.5-Coder, подготовленная mlx-community. README указывает, что модель преобразована в формат MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.18.1; в метаданных базовой моделью указана Qwen/Qwen2.5-Coder-7B. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов. Модель предназначена для генерации кода в диалоговом формате и подходит для помощи при написании и анализе программ. Репозиторий распространяется по лицензии Apache-2.0. README описывает конвертацию в MLX, а метаданные указывают на дообучение базовой модели для кода; представленных сведений недостаточно, чтобы точно описать качество по языкам программирования или результаты оценок.

Qwen3.8-27B-UD-Q3_K_XL-MTP-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная Nathan Sutton для локального запуска на компьютерах Apple Silicon. Модель предназначена прежде всего для генерации текста, программирования и работы в локальном coding agent chad, выполненном в стиле Claude Code. Она может использоваться через chad или напрямую с библиотекой mlx-lm. Модель имеет плотную архитектуру Qwen3.5 на 27 млрд параметров: 64 слоя, включая 48 слоёв GatedDeltaNet и 16 слоёв full attention. Основная часть весов и embeddings квантизирована до 3 бит с группами по 64 значения, а lm_head — до 5 бит; итоговый объём весов составляет около 12,1 ГБ, дополнительно поставляется 4-битная MTP-head. Заявлен нативный контекст до 262 тысяч токенов, однако на устройствах Apple Silicon с 24 ГБ памяти фактическое окно обычно ограничивается десятками тысяч токенов в зависимости от доступного бюджета Metal. MTP-head поддерживает self-speculative decoding, ускоряя генерацию с сохранением точности распределения модели. Шаблон чата по умолчанию использует reasoning_effort medium вместо upstream-значения xhigh. Языки и мультимодальные возможности в README не указаны. Модель ориентирована на устройства с 24 ГБ памяти Apple Silicon, а её лицензия наследуется от базовой Qwen/Qwen3.8-27B и требует проверки перед использованием или распространением.