II.3Рефакторинг, миграция и модернизация

Nex-N2.5-mini — разговорная модель семейства Nex-N2.5, разработанного Nex-AGI. Она предназначена для агентных задач с длительным планированием, включая управление компьютером и браузером, программирование и проверку программ, а также мультимодальное понимание визуальной среды. Модель может использовать визуальную обратную связь для проверки результатов действий и корректировки дальнейших шагов. По карточке семейство Nex-N2.5-mini опирается на мультимодальную основу Nex-N2; метаданные указывают архитектурное семейство Qwen3.5 MoE и класс Qwen3_5MoeForConditionalGeneration. Поддерживаются чат и вызов функций. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не сообщает размер именно mini-версии и длину контекста.

NinjaDolphin-7B — объединённая модель на основе Mistral, созданная FelixChao с помощью метода dare_ties. Она сочетает FelixChao/WizardDolphin-7B и две модели, ориентированные на программирование: beowolx/CodeNinja-1.0-OpenChat-7B и beowolx/MistralHermes-CodePro-7B-v1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и кода, включая дополнение кода и решение задач по программированию. В README приведён результат 52,44 на HumanEval для генерации Python-кода без инструкций и постобработки. Файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

Nixia 1.1 4B — семейство компактных агентных языковых моделей в формате GGUF, разработанное adsyamsafa на базе wangzhang/Qwen3.5-4B-abliterated и ориентированное на корпоративные сценарии с вызовом инструментов, терминальными рабочими процессами, автономным исправлением ошибок и рассуждением. Модель предназначена для генерации текста и кода, сложного анализа, оркестрации нескольких инструментов, DevOps-задач, диагностики конфигураций и самовосстанавливающихся циклов. В репозитории доступны варианты размером около 4 млрд параметров с квантизацией Q4_K_M и размером файла около 2,58 ГБ. Рекомендуемый вариант Pure SFT 2K обучен на 2 000 агентных траекториях и показывает заявленную общую точность 87,0% на восьми специализированных тестах; вариант DARE-TIES 80/20 объединяет SFT и GRPO RLVR и ориентирован на автономный DevOps и быстрое самовосстановление. Заявлены поддержка работы на CPU, включая ноутбуки с 16 ГБ ОЗУ, расход памяти около 3 ГБ и контекст до 8 192 токенов. Сведения о языках и мультимодальности не указаны; по описанию это текстовая модель. Сильные стороны — высокая эффективность на задачах агентной оркестрации, консенсуса, системного программирования, PostgreSQL, Rust и автономного восстановления, а также возможность локального запуска через Ollama и llama.cpp. Ограничения включают небольшой размер модели, зависимость результатов от выбранного варианта и квантизации, а также заметно более низкий результат DARE-варианта на тесте восстановления времени жизни Rust Async Mutex. Модель и указанные материалы распространяются по лицензии Apache-2.0.

OpenCodeReasoning-Nemotron-7B-GGUF — это квантизированная версия языковой модели OpenCodeReasoning-Nemotron-7B, разработанной NVIDIA и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и задач, связанных с программированием и рассуждениями, включая работу с исходным кодом. В карточке указана поддержка английского языка. Модель содержит 7 миллиардов параметров и распространяется в нескольких вариантах точности и размера: от BF16 до различных конфигураций Q3, Q4, Q5, Q6, Q8 и IQ. Квантизация выполнена с использованием llama.cpp и метода imatrix. Доступны локальный запуск через llama.cpp, LM Studio и совместимые проекты; для общения рекомендуется шаблон сообщений с маркерами im_start и im_end. Ключевое преимущество модели — возможность локального запуска при выборе подходящего уровня квантизации: варианты Q6 и Q5 обеспечивают высокое качество, а Q3 и некоторые Q4 требуют меньше оперативной памяти. Ограничения включают возможные потери качества в более компактных вариантах, ориентацию на английский язык и отсутствие в предоставленных данных сведений об архитектуре, максимальном размере контекста и мультимодальных возможностях. Указанная лицензия — Apache-2.0.

Occamy-35B — модель с открытыми весами, разработанная командой Occamy AI. Она дообучена на базе Qwen3.6-35B-A3B и предназначена для агентных сценариев: принятия решений на длинном горизонте, координации нескольких инструментов, многошаговых бизнес-процессов, Claw-style рабочих процессов, агентного программирования и задач электронной коммерции. Модель относится к семейству text-generation и ориентирована на английский язык. Заявлены поддержка tool use, coding и long-context; для развёртывания рекомендуется контекст до 262 144 токенов, а в тестах SWE-bench Pro использовался контекст 200K. В README не указаны точные сведения о внутренней архитектуре, числе активных параметров, количестве параметров всего и перечне поддерживаемых модальностей, поэтому модель следует рассматривать как текстовую. Ключевая особенность — методика Data RSI (Data Recursive Self-Improvement), при которой результаты выполнения динамически сформированных задач используются для последующей адаптации данных. По представленным оценкам, Occamy-35B особенно сильна в агентных задачах, многоходовом использовании инструментов и программировании, хотя в отдельных бенчмарках уступает более крупным моделям. Для промышленного использования рекомендуются SGLang или vLLM с OpenAI-совместимым API. Лицензия в README не указана.

unsloth/OpenReasoning-Nemotron-32B-GGUF — GGUF-версия большой языковой модели OpenReasoning-Nemotron-32B, разработанной NVIDIA и подготовленной Unsloth. Модель является производной от Qwen2.5-32B-Instruct и дообучена для рассуждений при решении математических, программных и научных задач. Она предназначена для генерации текста, включая ответы, решения и исходный код, а также может использоваться в исследовательских и коммерческих сценариях. Модель имеет 32 млрд параметров и работает с текстовыми данными на английском языке. В README не указаны точная архитектура в терминах компонентов, размер контекстного окна и конкретный вариант GGUF-квантизации. Заявлена оценка сгенерированных последовательностей длиной до 64K выходных токенов. Для повышения качества можно применять режим GenSelect с несколькими параллельными генерациями и выбором лучшего решения; этот подход особенно ориентирован на математические и программные задачи. К сильным сторонам относятся специализация на сложном рассуждении, математике, коде и науке, а также высокие результаты на приведённых бенчмарках, включая GPQA, MMLU-PRO, LiveCodeBench, SciCode и AIME. Ограничения включают высокие требования к ресурсам, свойственные модели такого размера, неопределённость характеристик конкретной квантизованной сборки и отсутствие заявлений о мультимодальности: в доступных данных указана только текстовая генерация. Модель распространяется по лицензии Creative Commons Attribution 4.0 International (CC BY 4.0); дополнительно упомянута лицензия Apache 2.0 базовой модели Qwen2.5-32B-Instruct.

moelanoby/phi-3-M3-coder — дообученная модель на базе Microsoft Phi-3 Mini Instruct, предназначенная для генерации кода и диалогового взаимодействия. Это плотная причинная языковая модель архитектуры Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов; карточка указывает поддержку кода и чата, а также языки Arabic, English, German, French, Portuguese и Polish. Модель рассчитана на написание и исправление программного кода, в том числе с экспериментальным режимом самокоррекции в несколько проходов. В README приведены результаты на HumanEval и других тестах, однако отдельные показатели заявлены самим автором и могут не отражать качество на иных задачах. Карточка рекомендует проверять баланс между числом проходов самокоррекции, связностью и точностью. Указана лицензия Apache 2.0, допускающая коммерческое использование.

PyLlama3 — языковая модель семейства Llama, созданная разработчиками PyBench путём дообучения Llama 3 на наборах PyInstruct, CodeActInstruct, CodeFeedback и корпусе Jupyter Notebook. Она предназначена для генерации кода и диалоговой работы с многошаговыми задачами программирования, включая анализ данных и отладку. Модель имеет плотную архитектуру LlamaForCausalLM, содержит около 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка описывает сценарии анализа таблиц и текстов, работы с изображениями и аудио, сложных вычислений и разработки программ и сайтов; PyBench оценивает такие задачи с помощью тестов. Доступен формат PyTorch, лицензия в предоставленных данных не указана.

mlx-community/Qwen2.5-Coder-3B-Instruct-bf16 — конвертированная в формат MLX версия инструктивной языковой модели Qwen2.5-Coder-3B-Instruct, подготовленная сообществом mlx-community на основе Qwen/Qwen2.5-Coder-3B-Instruct с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 3,1 млрд параметров; карточка указывает контекст до 32 768 токенов. Модель предназначена для генерации текста и кода по текстовым инструкциям в формате диалога. Её можно применять для написания и объяснения фрагментов кода, анализа и исправления кода, а также для чат-взаимодействия и сценариев с интерфейсом вызова инструментов. В метаданных указан английский язык. Репозиторий содержит веса Safetensors, лицензия обозначена как other. README описывает конвертацию из базового чекпойнта, но не уточняет условия этой лицензии; перед использованием следует проверить лицензионные условия базовой модели и самой конверсии. Специализация на коде и размер в 3,1 млрд параметров могут ограничивать качество на сложных задачах и вне программирования.

ThomasBaruzier/Qwen2.5-Coder-3B-Instruct-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-3B-Instruct. Исходную модель разработала команда Qwen, а данный репозиторий содержит варианты, подготовленные с использованием llama.cpp и метода imatrix с калибровочным файлом Bartowski. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования и чат-сценариев. Это текстовая модель с архитектурой и характеристиками базовой Qwen2.5-Coder-3B; в README указано около 3 миллиардов параметров, поддерживается английский язык, а заявленный тип конвейера — text-generation. Модель ориентирована на локальный запуск в формате GGUF, причём доступны варианты квантизации от IQ1_S до Q5_K_M с размером примерно от 754 МБ до 2121 МБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти и качеством; в приведённых измерениях более крупные квантизации обычно показывают меньшую perplexity и более высокую точность. Сильными сторонами являются компактный размер, возможность локального использования через llama.cpp и наличие большого выбора квантизаций для устройств с разными ресурсами. Ограничения включают потери качества, зависящие от степени квантизации, неизвестные в README размер контекста и набор поддерживаемых языков помимо английского, а также отсутствие сведений о мультимодальности. Модель распространяется по лицензии qwen-research; точные условия следует уточнять в лицензии исходной Qwen/Qwen2.5-Coder-3B-Instruct.

RootMonsteR/Qwen3-14B-Abliterated-GGUF — это квантизированная GGUF-версия модели RootMonsteR/Qwen3-14B-Abliterated, созданной на основе Qwen/Qwen3-14B. Модель разработана RootMonsteR с применением метода directional ablation из Heretic v1.3.0: заявленная цель — сохранить способности к рассуждению, программированию и tool-calling, одновременно существенно сократив количество автоматических отказов. По данным карточки, доля отказов снижена примерно с 99 до 10 из 100 тестов при KL-дивергенции 0,0333. Модель предназначена для локального текстового диалога, автономных агентов, вызова инструментов и функций, авторизованных исследований безопасности, защитных инструментов, CTF, обучения и изучения поведения моделей без отказов. Доступны варианты Q5_K_M размером около 10,5 ГБ и Q4_K_M размером около 9 ГБ; Q5_K_M рекомендуется для агентов и более надёжного формирования JSON, а Q4_K_M — при ограниченном объёме памяти. Поддерживаются llama.cpp, Ollama, LM Studio, Jan и KoboldCpp; заявлен контекст до 32 768 токенов. Указаны режимы рассуждения и без рассуждения, а также встроенный шаблон чата Qwen3. Сильными сторонами являются низкая стоимость локального запуска, сохранение исходных возможностей Qwen3-14B после квантизации, поддержка reasoning и tool-calling, а также сниженное количество рефлексивных отказов. Ограничения включают возможное ухудшение точности формата вызовов инструментов у Q4_K_M при агрессивных настройках генерации, более низкую скорость работы на CPU и необходимость использовать семплирование вместо жадного декодирования. Модель распространяется по лицензии Apache-2.0. Снижение отказов повышает требования к контролю применения: использование должно соответствовать законодательству, договорным обязательствам и согласованному объёму работ.

Qwen3.5-9B-Kimi-k3-Distilled — дообученная модель семейства Qwen3.5, созданная KhazarAI на базе unsloth/Qwen3.5-9B с дистилляцией поведения Kimi K3. Она ориентирована на агентные задачи, программирование и отладку: выбирает вызовы инструментов для проверки файлов и состояния среды, поддерживает многошаговое планирование, отслеживание состояния и циклы сборки, проверки и исправления. Архитектура плотная, мультимодальная, с 9 млрд параметров; карточка описывает поддержку работы с изображениями и интерфейса вызова инструментов. В датасете представлены англоязычные инструкции, код на нескольких языках программирования и сценарии Bash. Модель подходит для агентов, которые исследуют репозитории, автоматизируют работу в командной строке, исправляют ошибки и диагностируют сбои CI. В README также указано применение в качестве базовой модели или контрольного варианта для SFT и дистилляции. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Для сценариев выполнения команд рекомендуется изолированная среда; модель не предназначена для творческой генерации без обратной связи от среды.

Qwen3.6-35B-A3B-MTP-GGUF — это GGUF-квантизированная версия модели Qwen3.6-35B-A3B, разработанная ByteShape с использованием ShapeLearn. ShapeLearn подбирает тип данных для каждого тензора, чтобы сохранять качество при малой разрядности. Модель поддерживает Multi-Token Prediction (MTP), позволяющую предсказывать несколько токенов за один проход и ускорять декодирование за счёт спекулятивного принятия совпадающих токенов. Модель предназначена для GPU-инференса в llama.cpp и поддерживает работу с изображениями и текстом; для загрузки визуального проектора используется параметр --mmproj-auto. MTP особенно полезен при автодополнении кода, генерации структурированных ответов и повторяющегося контента, тогда как для творческой или нетипичной генерации ускорение может быть ниже. Варианты имеют размер от 10 до 18,6 ГБ и используют квантизации IQ2_S, IQ3_S и IQ4_XS с разрядностью 2,25–4,19 бит на вес. Базовая модель имеет 35B параметров и архитектуру, обозначенную как 35B-A3B; другие характеристики, включая языки и размер контекста, в README не указаны. MTP-голова встроена в GGUF, поэтому отдельная draft-модель не требуется, но нужен свежий выпуск llama.cpp с поддержкой draft-mtp. Производительность зависит от конкретной видеокарты и нагрузки; для большинства сценариев рекомендуется предсказывать на 2–4 токена вперёд. Модель распространяется по лицензии Apache-2.0.

PearsonKyle/Qwen3.8-27B-GPTQ-W4A16 — это квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и опубликованной PearsonKyle. Модель предназначена для генерации и понимания текста, работы с изображениями, агентных сценариев, вызова инструментов и function calling. Она ориентирована прежде всего на запуск через vLLM. Модель содержит около 27 млрд параметров и использует квантование GPTQ в формате compressed-tensors W4A16: основная часть весов представлена в int4 с группами размера 128 и симметричным квантованием. Размер загрузки составляет около 18,1 GiB. Калибровка выполнена на 4,26 млн токенов агентных сессий программирования при контексте 32 768 токенов. В состав также входят MTP-голова для speculative decoding и vision tower, сохранённый в bf16; заявлена скорость декодирования до 1,71 раза выше при принятии 71,2% черновых токенов. К сильным сторонам относятся поддержка текста и изображений, tool calling, интеграция с vLLM без конвертации, а также возможность speculative decoding. Ограничения связаны с потерями и особенностями 4-битного квантования: embed_tokens и lm_head оставлены в bf16, поэтому итоговый размер и средняя точность отличаются от полностью 4-битной модели; для работы требуется совместимая версия vLLM и соответствующая аппаратная память. В карточке указан английский язык, поэтому поддержка других языков не подтверждена. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-3bit — языковая instruction-модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель основана на Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm, в частности в сценариях локальной генерации на совместимом оборудовании Apple MLX. Вариант имеет 3-битное представление и относится к семейству Qwen3-Coder; точные сведения об архитектуре, количестве активных параметров, контекстном окне, поддерживаемых языках и модальностях в README не указаны. Заявленный тип задачи — text-generation, поэтому модель ориентирована на генерацию текста, включая ответы в instruction-режиме и программный код. Сжатое 3-битное представление может снизить требования к памяти, однако README не содержит результатов тестирования, сведений о качестве, ограничениях или производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.26.1.

mlx-community/Qwopus3.6-35B-A3B-Coder-bf16 — конвертированная в BF16 MLX-версию модели Jackrong/Qwopus3.6-35B-A3B-Coder. Репозиторий сохраняет шаблон чата и конфигурацию мультимодального процессора для текста, кода, изображений и видео; модель предназначена для инференса на компьютерах Apple Silicon с использованием MLX и mlx-vlm. Модель относится к семейству Qwen3.5 MoE и поддерживает диалог, программирование, работу с изображениями и вызов инструментов. В метаданных указаны английский, китайский, испанский, русский и японский языки, однако подробности исходной карточки о качестве и сценариях доступны по ссылке на базовую модель. Репозиторий распространяется по лицензии Apache 2.0.

QWQ-Rombos-ties-TEST2 — экспериментальное объединение двух предварительно обученных языковых моделей, созданное сообществом mergekit-community. Модель использует плотную архитектуру Qwen2ForCausalLM и объединена методом SLERP из Qwen/QwQ-32B-Preview и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель содержит 32 млрд параметров, принимает текст и предназначена для генерации диалоговых ответов, математических рассуждений и программирования. Поддерживает контекст до 32 768 токенов; в метаданных также отмечен интерфейс для вызова инструментов. Языковая поддержка отдельно не перечислена. Веса доступны в формате safetensors, библиотека для работы — Transformers. Это экспериментальная сборка слияния, поэтому её качество и поведение могут отличаться от исходных моделей. Лицензия в предоставленных данных не указана.

Smart-LLaMa-3-8b-Python-v4 — объединённая модель Kukedlc для генерации текста и диалогов, созданная с помощью LazyMergekit. Веса двух моделей семейства Llama объединены методом slerp: Smart-LLama-3-8b-Python-v2-16bit и LLama-3-8b-Python. Архитектура — плотная авторегрессионная LlamaForCausalLM с 7,5 млрд параметров; модель принимает текст и выдаёт текст, контекст — до 8192 токенов. Модель предназначена для диалогов и генерации кода на Python, а также для других текстовых запросов, поддерживаемых базовыми моделями. Репозиторий содержит веса в формате safetensors. Лицензия указана как other; конкретные условия использования по предоставленным данным определить нельзя.

Jiunsong/SuperDeepseek-V4-Flash-abliterated-MQ-2xDGX — производная от DeepSeek-V4-Flash-0731 модель для генерации текста, рассуждений, программирования, работы с длинным контекстом и вызова инструментов. Она создана на базе официального чекпойнта DeepSeek и распространяется как самостоятельно загружаемый дообученный чекпойнт без LoRA-адаптера или адаптера времени выполнения. Заявленная архитектура — MoE класса 304B: 43 основных слоя и 3 MTP-слоя, 256 маршрутизируемых экспертов с выбором top-6. Поддерживаются английский и корейский языки, а заявленный контекст составляет 1 048 576 токенов; README сообщает об успешном извлечении данных из запроса длиной 1 028 621 токенов. Модель использует смешанную точность: FP4 для весов экспертов, FP8 E4M3 для блочно-квантизированных путей и отдельных обновлений, BF16 для чувствительных к качеству компонентов, а также NVFP4 для KV-кэша при измерениях. Ключевые преимущества — значительно меньше отказов в тестовом режиме, сохранённые показатели вызова инструментов, проверенная работа с контекстом около миллиона токенов и высокая совокупная скорость декодирования на двух узлах DGX Spark. Ограничения — модель ориентирована на специализированную конфигурацию ускорителей, имеет крупный размер около 169,5 ГБ, использует квантизацию и не предназначена для оценки как полноразмерный BF16-чекпойнт; приведённые показатели производительности относятся к конкурентной генерации, а не к одному потоку. Лицензия — MIT.

Accio-Lab_occamy-1.0-GGUF — это квантизированная версия модели occamy-1.0, разработанной Accio-Lab и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель содержит около 35 млрд параметров и предназначена для локального запуска в задачах агентного взаимодействия, совместной работы, использования инструментов и программирования. Модель поддерживает мультимодальный ввод: текст и изображения при наличии файла mmproj. В карточке также заявлены архитектура mixture-of-experts и поддержка длинного контекста, однако точный размер контекстного окна и перечень поддерживаемых языков не указаны. Спекулятивное декодирование не поддерживается, а для квантизации использована imatrix. Доступны варианты от BF16 до низкобитных Q2–Q8, что позволяет выбирать между качеством, требованиями к памяти и скоростью; рекомендуемым универсальным вариантом назван Q4_K_M размером 22,32 ГБ. К сильным сторонам относятся большой размер, поддержка изображений, сценариев tool-use и агентных приложений, а также широкий выбор уровней квантизации. Ограничения связаны с высокими требованиями к памяти даже для компактных вариантов, необходимостью отдельного mmproj-файла для работы с изображениями и отсутствием в README подробных результатов тестирования, сведений о языках и точном контексте. Модель распространяется по лицензии Apache-2.0.

AceInstruct-7B — языковая модель NVIDIA из семейства AceInstruct, дообученная методом supervised fine-tuning на базе Qwen2.5-Base. Она предназначена для программирования, математики, общих знаний и широкого круга пользовательских запросов; поддерживает диалоговый режим. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст до 131 072 токенов. В опубликованных оценках AceInstruct-7B показывает результаты, сопоставимые с Qwen2.5-7B-Instruct на задачах программирования, математики и общих знаний. Она генерирует текст по запросу, включая ответы, объяснения и код. В карточке указан английский язык; других поддерживаемых языков источники не подтверждают. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки в карточке основаны на бенчмарках и не гарантируют качество для каждого запроса или предметной области.

Schneewolf Labs B0-27B — внутренняя 27-миллиардная модель семейства Familiar, разработанная Schneewolf Labs на основе Hemlock-Qwen3.8-27B. Это плотная мультимодальная модель Qwen3.5 для диалогов, выполнения инженерных задач и работы с инструментами; она принимает текст и изображения и генерирует текст. В README описаны два этапа обучения: объединение базовой модели с адаптером для программирования, затем ORPO-обучение на смеси предпочтений, включая данные, пересобранные на основе объединённой модели. Веса распространяются в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для локального использования в роли оператора, который выполняет инженерные задачи сквозным образом, в том числе через агентскую связку с Codex. По внутренним оценкам авторов, она выполнила 6 из 6 задач kirabench и показала более быстрое выполнение одной задачи с исправлением тестов по сравнению с базовой моделью. README также сообщает о сохранении башни зрения и тензоров MTP базовой модели; включён mmproj для GGUF-репозитория. Результаты основаны на внутренних тестах и ограниченной выборке: на egirl operator bench модель набрала 42/47 против 47/47 у базы, с пятью отмеченными авторами ошибками при выборе одиночных вызовов инструментов. Описанные возможности и оценки не являются независимой проверкой. Размер контекста и список поддерживаемых языков в предоставленных данных не указаны; метаданные карточки отмечают английский язык.

Beyonder-4x7B-v2 — языковая модель в архитектуре Mixture of Experts (MoE), созданная mlabonne с помощью mergekit на основе четырёх моделей: OpenChat 3.5, CodeNinja, PiVoT и WizardMath. Она предназначена для диалогов и генерации текста, включая задачи программирования и математики. В модели около 7,1 млрд параметров, рекомендуемая длина контекста — 8 тысяч токенов; репозиторий содержит веса в формате safetensors. Автор сообщает, что модель показывает результаты, сопоставимые с Mixtral-8x7B-Instruct-v0.1 и сильными дообученными моделями большего размера на ряде бенчмарков. Эти оценки не гарантируют качество на конкретных пользовательских задачах. В метаданных указана лицензия other; точные условия использования следует проверять в карточке модели и лицензиях базовых моделей.

Charm 15 — текстовая генеративная модель на архитектуре Mistral с 2,1 млрд параметров, опубликованная ZeppelinCorp. По карточке она предназначена для диалоговой генерации, рассуждений, решения математических задач и написания кода. Модель дообучена на mattshumer/mistral-8x7b-chat; метаданные указывают формат SafeTensors и контекст до 4096 токенов. В README заявлены мультимодальные возможности для текста и изображений, однако архитектура и назначение репозитория описывают только текстовую генерацию, поэтому обработка изображений не подтверждена. Метаданные содержат широкий набор языковых тегов, а карточка перечисляет многоязыковую поддержку; основные языки не выделены. Лицензия — MIT. README также заявляет оптимизацию для ONNX и TensorFlow Lite, но эти форматы не подтверждены метаданными репозитория.

CodeCompass-Embed — дообученная модель Faisal Mumtaz для поиска и извлечения фрагментов кода по смыслу. Она основана на Qwen2.5-Coder-0.5B, содержит 494 млн параметров и формирует векторы размерности 896. В модели использована двунаправленная attention-механика; для получения эмбеддингов поддерживаются NL→Code, Code→Code, поиск ответов на технические вопросы и Text→SQL. Модель предназначена для семантического поиска по репозиториям, базам кода и техническим коллекциям. В README указана поддержка запросов на естественном языке и кода на Python, Java, JavaScript, Go, Ruby и PHP. Метаданные указывают контекст 32 768 токенов, а карточка описывает обучение на длине 512 токенов с экстраполяцией RoPE для более длинных входов. По результатам CoIR модель показывает сильные результаты, особенно на Python. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Среди ограничений — более слабые результаты на языках программирования, отличных от Python, ухудшение на задачах соревновательного программирования с длинными решениями и возможное слабое обобщение на редкие языки программирования.

DevPearl-2x7B — языковая модель с архитектурой Mixture of Experts, собранная louisbrulenaudet из DeepSeek Coder 6.7B Instruct и SQLCoder 7B 2. Она предназначена для диалоговой разработки: генерации и объяснения кода, а также составления SQL-запросов. В конфигурации эксперты связаны с запросами на Python, JavaScript, Java и SQL. Модель имеет архитектуру MixtralForCausalLM, около 6,6 млрд параметров и контекст до 16 384 токенов. Доступна в формате safetensors для Transformers. Лицензия — CC BY-SA 4.0. Карточка описывает модель как MoE для разработки, однако не приводит результатов оценивания; поэтому качество на конкретных языках и задачах может различаться.

Gemma 4 26B-A4B-it-qat-JANG_4M-CRACK — дообученная и квантизованная версия Gemma 4 26B-A4B-it от dealignai, предназначенная для запуска в vMLX на компьютерах Mac с Apple Silicon. Модель сочетает архитектуру MoE с 128 экспертами и восемью активными экспертами, гибридное внимание и обработку изображений. Указана квантизация JANG_4M: 8-битные веса attention и 4-битные веса MLP. Модель позиционируется как мультиязычный чат-ассистент для ответов на вопросы, рассуждений, генерации кода и работы с изображениями. В карточке автор сообщает, что настройка убирает отказы на запросы из категорий HarmBench, сохраняя основные возможности; приведён результат 59 из 60 по соответствующим тестовым запросам и снижение MMLU на 4,4 процентного пункта относительно базовой модели. Для запуска требуется vMLX с поддержкой Gemma 4 и Mac с достаточной объединённой памятью. Лицензия — Gemma; автор обозначает модель как предназначенную для исследований и возлагает на пользователей ответственность за соблюдение применимых законов.

Gemma 4 E4B Agentic Opus Reasoning GeminiCLI MLX 4bit — дообученная и объединённая с весами модель на базе deadbydawn101/gemma-4-E4B-mlx-4bit, разработанная RavenX AI Labs. Модель предназначена для агентских сценариев, программирования, отладки, структурированного диалога и работы с инструментами через tool calling и function calling, включая интеграцию с OpenHarness, OpenClaw, Hermes Agent и Gemini CLI. Модель поддерживает текст и изображения, ориентирована на английский язык и использует архитектуру Gemma 4 E4B. Веса содержат встроенное рассуждение в стиле Opus и Claude Code с поддержкой тегов <think>, поэтому отдельный адаптер не требуется. Заявлены контекст до 131K токенов, размер около 10,5 ГБ и 4-битная MLX-квантизация для Apple Silicon, однако в README также указано, что объединённые веса имеют формат bfloat16, что может влиять на фактический размер файлов. Сильные стороны модели — встроенные паттерны рассуждения, агентское поведение, вызов инструментов, поддержка vision и совместимость с экосистемой MLX. Ограничения включают заявленную ориентацию на английский язык, зависимость от MLX и Apple Silicon для описанного сценария использования, а также отсутствие подробных независимых оценок качества. Модель распространяется по лицензии Gemma; условия приведены по ссылке на документацию Google.

Mungert/granite-3b-code-instruct-2k-GGUF — это GGUF-версия инструкционно дообученной языковой модели Granite-3B-Code, разработанной на базе IBM Granite. Модель предназначена для генерации текста и ориентирована прежде всего на задачи программирования: создание, объяснение и исправление кода, работу с инструкциями, математическими задачами, SQL и вызовами функций. Контекст модели составляет 2K токенов, размер — около 3 миллиардов параметров, модальность — текстовая. Модель обучалась с использованием наборов данных для программирования, математических рассуждений, инструкций, SQL, диалогов с кодовым ассистентом и оценки полезности ответов. В бенчмарке HumanEvalPack она тестировалась для Python, JavaScript, Java, Go, C++ и Rust; заявленные результаты pass@1 зависят от типа задачи и языка. Например, для синтеза кода показатель составляет 51,2% для Python и 43,9% для JavaScript, а для исправления кода — 33,5% для Java и 31,7% для C++. Файлы созданы с помощью llama.cpp и распространяются в формате GGUF, что позволяет запускать модель в совместимых локальных инструментах. Автор также применял выборочное повышение точности отдельных слоёв при квантовании, чтобы улучшить сохранение качества на низких битностях, хотя это увеличивает размер файла. Ограничениями являются небольшой контекст, специализация на текстовых задачах и вариативное качество между языками и сценариями; приведённые результаты помечены как непроверенные. Лицензия — Apache 2.0.

Jina AI обучила jina-code-embeddings-1.5b на базе Qwen/Qwen2.5-Coder-1.5B для поиска по коду и технических вопросов. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель формирует векторные представления для поиска по естественно-языковым запросам и коду: поддерживаются сценарии text-to-code, code-to-code, code-to-text и code-to-completion. Для разных задач можно выбирать инструкционные префиксы; размер эмбеддинга по умолчанию — 1536 измерений, его можно сократить до 128. Заявлена поддержка более 15 языков программирования и технических вопросов в областях веб-разработки, разработки ПО, машинного обучения, анализа данных и учебных задач по программированию. Модель дообучена на Qwen/Qwen2.5-Coder-1.5B и распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Для ускорения вывода рекомендуется flash-attention; также доступна интеграция с sentence-transformers и vLLM.