II.3Рефакторинг, миграция и модернизация

SynapseLLM — языковая модель WebraftAI, дообученная на базе Mistral-7B-v0.1 для диалоговых вопросов и ответов, математических инструкций и задач программирования. Это плотный decoder-only Transformer с 7,1 млрд параметров, рассчитанный на генерацию текста; метаданные указывают контекст до 32 768 токенов и поддержку чата и кода. Модель принимает текст и генерирует текст, основной язык — английский. Это предварительная версия дообучения на пользовательском наборе данных. В README указаны 150 шагов обучения и один эпох, а также применение QLoRA-адаптера, объединённого с базовой моделью. SynapseLLM подходит для ответов на вопросы, решения математических задач и генерации кода на английском языке. Разработчик предупреждает, что ответы могут содержать фактические ошибки, модель может не следовать системным инструкциям и иногда выдавать себя за GPT. Лицензия — Apache 2.0.

AceInstruct-1.5B — языковая модель NVIDIA для диалогов и выполнения инструкций, дообученная на базе Qwen2.5-1.5B-Base методом supervised fine-tuning. Она предназначена для генерации кода, решения математических задач и ответов на вопросы общего характера. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов; принимает и генерирует текст, в том числе в чат-сценариях. В приведённых в карточке тестах AceInstruct-1.5B показывает результаты выше Qwen2.5-1.5B-Instruct по отдельным задачам кодирования и математики. Это компактная модель общего назначения, поэтому качество может уступать более крупным моделям, а заявленные результаты бенчмарков не гарантируют точность в конкретном сценарии. Карточка указывает английский язык. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM-NVFP4 — квантизированная версия разговорной языковой модели NVIDIA Nemotron-3-Nano, подготовленная Эриком Эльбазом (Ex0bit) с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста в диалогах и представлена как вариант без фильтрации ответов. Это гибридная модель семейства Nemotron с архитектурой Mamba-2 и MoE; базовая версия содержит 30 млрд параметров при 3 млрд активных. Веса сжаты в формат NVFP4, размер чекпойнта около 18 ГБ. Для запуска требуются GPU NVIDIA Blackwell и TensorRT-LLM версии 0.17 или новее. README указывает калибровку на 512 примерах WikiText-2. Модель подходит для диалогов, ответов на вопросы, рассуждений и задач программирования; метаданные указывают английский язык. Формат несовместим с потребительскими GPU RTX 3000/4000/5000, llama.cpp и стандартным инференсом PyTorch. В карточке базовой модели указана поддержка шести языков, но языки кроме английского для этой версии отдельно не подтверждены. Лицензия в метаданных обозначена как other.

gmcoder — 9-миллиардная слитая модель для программирования, разработанная при поддержке Galactic Mandate Linux на основе Qwen3.5-9B и Ornith-1.5-9B. Она предназначена для генерации и отладки кода, объяснения программ и решения алгоритмических задач; доступный файл GGUF Q8_0 можно запускать через llama.cpp. В README приведены результаты HumanEval+ Mini и сравнительные проверки, однако они не подтверждают качество на крупных репозиториях или в агентных сценариях. Модель имеет плотную архитектуру семейства Qwen3.5 и поддерживает диалоговый режим; карточка указывает английский язык. Лицензия — MIT.

granite-8b-code-instruct-4k-GGUF — квантованная версия Q4_K_M модели granite-8b-code-instruct-4k, разработанной IBM и распространяемой под лицензией Apache 2.0. Модель предназначена для генерации и обработки программного кода, включая написание, объяснение и исправление кода, а также решения задач, связанных с SQL, математикой и вызовом функций. Версия основана на ibm-granite/granite-8b-code-base-4k и рассчитана на контекст до 4K токенов. Модель содержит 8 миллиардов параметров, работает в текстовом режиме и ориентирована на сценарии программирования с использованием llama.cpp и формата GGUF. В опубликованных тестах HumanEvalPack показатели pass@1 составили 57,9% для синтеза Python, 52,4% для JavaScript, 58,5% для Java, 43,3% для Go, 48,2% для C++ и 37,2% для Rust; результаты для объяснения и исправления кода различаются в зависимости от языка. Показатели помечены как непроверенные. Ключевое ограничение — устаревший статус: разработчик не рекомендует модель для новых проектов и предлагает использовать более современные модели семейства Granite. README не содержит сведений о точной архитектуре, языковом охвате и дополнительных ограничениях, поэтому эти характеристики нельзя определить по предоставленным данным.

InfiR-1B-Instruct — англоязычная инструктивная языковая модель от InfiX, дообученная на базе meta-llama/Llama-3.2-1B. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; метаданные указывают контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в частности для математических рассуждений, написания кода и ответов с пошаговым рассуждением. Обучение включает продолженное предобучение на коде и веб-текстах, а также настройку инструкциями на смесях данных, среди которых Infinity-Instruct, Orca-AgentInstruct-1M и NuminaMath. В README приведены результаты на MMLU, GSM8K и MATH, но модель уступает крупным моделям на сложных задачах рассуждения. Оценивание сосредоточено на английских тестах, а многоязычная устойчивость не проверена; знания ограничены примерно серединой 2023 года. Лицензия — Llama 3.2.

Kimi-K3-Audit-240E-MLX-MXFP4 — специализированная модель для аудита безопасности и анализа исходного кода, разработанная catalystsec на базе Kimi K3 от Moonshot AI. Это текстовая модель с поддержкой инструментов, предназначенная прежде всего для поиска и анализа проблем в исходном коде, включая аудит ядерных компонентов. Общение общего назначения, перевод и нетехническое письмо находятся вне заявленной области применения. Модель использует архитектуру Mixture of Experts: в каждом слое сохраняются 240 из 896 маршрутизируемых экспертов, а веса сохранённых экспертов идентичны оригинальному выпуску. Модель представлена в формате MXFP4 для MLX, занимает около 408 GiB и разделена на 91 фрагмент, что позволяет запускать её на одной машине Apple silicon с 512 ГБ памяти. Основная модальность — текст; vision tower сохранён, но не оценивался. В README приведены результаты для C, C++, Swift, Rust и Python, а также английской прозы. При использовании на M3 Ultra размер доступного контекста зависит от шага предварительного заполнения и может составлять примерно от 198 тысяч до 731 тысячи токенов при размере батча 1. Сильная сторона модели — сохранение качества на задачах анализа кода и аудита при существенно меньших требованиях к памяти по сравнению с полной версией на 896 экспертов. Наиболее близкие результаты к исходной модели показаны для C и C++; для Python расхождение больше, а на английской прозе качество значительно ниже, поэтому модель не следует рассматривать как универсальную. Для работы требуется версия mlx-lm с поддержкой Kimi K3 из PR #1626 и пакет tiktoken; до включения поддержки в официальный выпуск mlx-lm необходимо устанавливать сборку из соответствующей ветки. Лицензия указана как Kimi K3, со ссылкой на лицензию базовой модели.

Meta-Llama-3-12B — плотная языковая модель семейства Llama, опубликованная mlabonne. Это экспериментальная сборка из пяти диапазонов слоёв одной и той же NousResearch/Meta-Llama-3-8B с помощью LazyMergekit и метода passthrough; метаданные указывают около 11 млрд параметров, архитектуру LlamaForCausalLM и формат safetensors. Модель предназначена для генерации текста, включая диалоговые сценарии и код, на основе текстовых запросов. В карточке указано контекстное окно 8192 токена; базовая модель ориентирована на английский текст и код. Лицензия обозначена как other, поэтому условия использования следует проверять в репозитории модели и у правообладателя базовой модели. Поскольку исходные диапазоны берутся из одной модели, README не подтверждает прирост качества от этой сборки.

Meta-Llama-3-8B-Instruct-heretic-mlabonne — разговорная текстовая модель семейства Llama 3, основанная на Meta Llama 3 8B Instruct. В README описана архитектура авторегрессионного трансформера с Grouped-Query Attention; метаданные указывают формат safetensors и возможность чата. По тегам uncensored, decensored и abliterated модель позиционируется как вариант Llama 3 с ослабленными ограничениями на ответы, однако карточка не уточняет метод модификации и параметры обучения. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалогов с ассистентом и генерации текста на английском языке; может использоваться для ответов на вопросы, написания черновиков и помощи с кодом. В README приведены условия Llama 3 Community License и Acceptable Use Policy: применение должно им соответствовать. Указанная в метаданных лицензия — llama3.

Mimans M1 v1 — плотная авторская языковая модель примерно на 514 млн параметров, разработанная Ankush Thakur и обученная с нуля как decoder-only Transformer для генерации кода, математического и технического текста. Архитектура включает GQA, SwiGLU, RMSNorm и механизм AttnRes Skip Gating; репозиторий содержит веса safetensors. Модель обучалась на 5,01 млрд токенов с использованием TileLang и гибридной оптимизации Muon + AdamW. Модель предназначена для продолжения и генерации кода и технических текстов; в карточке показан пример генерации кода через Hugging Face Transformers. Контекст в README указан как 4 096 токенов с максимумом 8 192, а метаданные каталога указывают native context 8 192 токена. В качестве естественного языка заявлен английский. Лицензия — Apache-2.0. Небольшой размер и ограниченный объём обучения могут сказываться на качестве сложной генерации; оценки бенчмарков в предоставленных материалах отсутствуют.

MiMo-7B-RL-Zero — языковая модель Xiaomi, обученная с нуля в серии MiMo-7B и дообученная методом обучения с подкреплением от базовой MiMo-7B-Base. Модель предназначена прежде всего для рассуждений в математике и программировании; карточка сообщает о результатах на бенчмарках, сопоставимых с OpenAI o1-mini. Это плотная авторегрессионная модель семейства MiMo с 7 млрд параметров и контекстом 32 768 токенов. Она принимает текст и генерирует текст; поддерживает диалоговый режим и интерфейс вызова инструментов. В обучении использовались масштабное предварительное обучение и RL на задачах математики и кода с проверкой ответов по правилам. Репозиторий содержит веса Safetensors. Лицензия — MIT. Карточка не описывает отдельные ограничения качества или поддерживаемые естественные языки; языковые возможности за пределами задач математики и кода из предоставленных данных установить нельзя.

Ornith-1.0-9B-Heretic-Uncensored — производная модель DeepReinforce/Ornith-1.0-9B, подготовленная методом направленной абляции: из весов удалено направление отказа, без дополнительного обучения. Это плотная мультимодальная модель семейства Qwen 3.5 с примерно 9 млрд параметров, гибридной архитектурой из 32 слоёв линейного и полного внимания, обработкой изображений и текста. Выпущена в формате bf16 Safetensors для Transformers; для работы README требует transformers версии 5.8.1 или новее. Модель предназначена для диалогов, визуальных вопросов и задач рассуждения и агентного программирования. Удаление направления отказа снижает вероятность отказов на запросы, на которые базовая модель отказывала, однако не гарантирует точность или безопасность ответов и может облегчить получение вредоносного контента. README описывает англоязычную модель; лицензия — MIT.

phi-3-mini-4k-python — языковая модель для генерации текста и программного кода, разработанная пользователем theprint. Она дообучена на базе unsloth/Phi-3-mini-4k-instruct-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. В обучении использовались наборы данных с инструкциями и примерами кода на Python, включая iamtarun/python_code_instructions_18k_alpaca и ajibawa-2023/Python-Code-23k-ShareGPT. Модель предназначена прежде всего для генерации, дополнения и объяснения кода на Python, а также для диалоговых сценариев, связанных с программированием. Указанный в названии и базовой модели контекст составляет 4K токенов; поддерживаемый язык в карточке указан как английский. Модель относится к текстовой модальности и доступна в 4-битном формате bnb. К сильным сторонам относятся специализация на Python и обучение на датасетах с программными инструкциями. Согласно приведённой оценке Open LLM Leaderboard, средний результат составил 17,39; показатели на отдельных тестах: 24,09 на IFEval, 28,45 на BBH и 28,63 на MMLU-PRO. Эти результаты указывают на ограниченные возможности в сложных задачах общего рассуждения, математики и академических вопросах, поэтому ответы и код требуют проверки. Модель распространяется по лицензии Apache-2.0.

Qweble-Sol 4B — дообученная ukuwzi модель на базе Qwen3.5-4B, настроенная для системного администрирования, программирования, отладки и DevOps. Это плотная модель примерно на 4,21 млрд параметров; данная версия представлена в 4-битном формате MLX для локального запуска через mlx-lm на устройствах Apple Silicon. Модель сохраняет диалоговые и рассуждающие возможности базовой Qwen3.5-4B. Она предназначена для помощи с администрированием Linux и macOS, shell-скриптами, кодом, Docker, сетями, настройкой серверов, автоматизацией и CI/CD, а также для общих технических вопросов. Карточка указывает английский язык; отдельная длина контекста не приведена. Версия компактна и рассчитана на экономичный локальный запуск, однако 4-битная квантизация и размер модели могут снижать точность относительно более крупных или высокоточных вариантов. Модель может ошибаться в командах, параметрах и коде, поэтому результаты следует проверять. Модель выпущена под лицензией Apache-2.0. Это независимое дообучение и упаковка ukuwzi, а не официальный релиз Alibaba или команды Qwen.

Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF — специализированная текстовая модель, разработанная DavidAU на базе Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored. Она объединяет 12 дистиллированных экспертных моделей, включая модели закрытого и открытого исходного кода, в архитектуре Mixture of Experts. Версия является uncensored/abliterated: отдельные эксперты обработаны с использованием Heretic для удаления отказов и ограничений. Модель распространяется в формате GGUF по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, математики, программирования, ответов на вопросы и творческого письма, включая создание художественных историй, сцен, сюжетов, научной фантастики, романтики и контента для взрослой аудитории. Пользователь может указывать в запросе имена экспертов или их группы, например Gemini, Claude, GPT51, Kimi, GLM, AllAI, Closed-AI или Open-AI, чтобы управлять выбором активных компонентов. Заявлены контекст до 256 тысяч токенов и одновременная активация двух экспертов по умолчанию; всего доступно до 12 экспертов. Модель поддерживает запуск на CPU и частичную выгрузку с GPU. В README не указаны точный список языков, детальные параметры архитектуры и результаты стандартизированных тестов. Для приемлемой работы рекомендуются квантизации не ниже Q4_KS или IQ3_M, контекст от 4–8 тысяч токенов и температура около 0,7; увеличение числа активных экспертов снижает скорость генерации, а разные эксперты могут давать существенно различающиеся результаты.

Redmond-Hermes-Coder 15B — языковая модель Nous Research, дообученная Teknium и Karan4D на базе WizardCoder, использующей StarCoder. Это плотная авторегрессионная модель GPTBigCode для генерации текста и кода; она была обучена на более чем 300 тысячах инструкций, преимущественно на синтетических ответах GPT-4. Модель принимает текстовые инструкции в формате Alpaca и генерирует текстовые ответы. В метаданных указан контекст 8192 токена и поддержка английского языка. Модель предназначена для генерации и объяснения кода, выполнения инструкций, а также творческого письма и других общих текстовых задач. README сообщает о HumanEval 39%: результат ниже WizardCoder, хотя авторы отмечают, что в разнообразных некодовых задачах модель выглядит лучше WizardCoder. Это предварительный эксперимент, поэтому её результаты на задачах программирования могут уступать профильным моделям. Лицензия — GPL.

sleepyeldrazi/DeepSeek-v4-Flash-REAP-K180-NVFP4 — это производная текстовая модель на основе DeepSeek V4 Flash, подготовленная sleepyeldrazi. Она использует структурное удаление экспертов методом REAP: в слоях MoE оставлено 180 из 256 маршрутизируемых экспертов, а слои 0–2 сохранены без такого сокращения. По README, дообучения не было: это подмножество исходных весов, упакованное в GGUF с гибридной точностью NVFP4, Q2_K и Q8_0; NVFP4-конверсия экспертных весов описана как преобразование формата масштабов без потери точности относительно исходного MXFP4. Модель предназначена для генерации текста и диалогового использования, включая программирование, агентные сценарии с вызовом инструментов, исследования и ответы на длинном контексте. README заявляет поддержку контекста до 1 млн токенов на NVIDIA DGX Spark с GB10 при использовании FP8 KV-кэша и специального движка ds4-nvfp4-spark с управляемой памятью. Обычные GGUF-движки, включая стандартный llama.cpp, модель не загружают. Лицензия — MIT. Запуск зависит от специализированного оборудования и программного обеспечения; для конфигурации K180 в README указана необходимость режима управляемой памяти, а сама карточка помечена как экспериментальная. В заявленных характеристиках есть оптимизации под DGX Spark, поэтому переносимость и производительность на других системах не подтверждены предоставленными данными.

Nylon V1 — компактная авторская трансформерная модель Абдулварита для генерации текста, диалогов, рассуждений и помощи в инженерных задачах. Согласно карточке, модель создана с нуля и обучалась на инженерных, математических и системных данных, затем прошла настройку на многоходовых инструкциях и оптимизацию предпочтений для кратких и практичных ответов. Модель построена на декодерной архитектуре GPT-2 с 24 слоями, 16 головами внимания и размерностью представлений 1024; размер составляет около 338 млн параметров, контекст — 2048 токенов. Заявлены сценарии чат-общения, написания и анализа кода, а также решения задач по математике и системам. Метаданные указывают английский язык и поддержку генерации текста; опубликованы форматы PyTorch, SafeTensors и GGUF. Модель распространяется по лицензии Apache-2.0. Её небольшой размер удобен для локального запуска, однако контекст ограничен 2048 токенами; заявленные возможности не подкреплены в карточке описанием оценок или бенчмарков.

OpenAi-GPT-oss-20b-HERETIC-uncensored-NEO-Imatrix-gguf — это текстовая генеративная модель в формате GGUF, разработанная DavidAU на базе p-e-w/gpt-oss-20b-heretic. Согласно карточке, модель использует архитектуру Mixture of Experts с 20B параметров и 24 экспертами. Она предназначена для локального запуска и доступна в вариантах IQ4_NL, Q5_1 и Q8_0 с применением Imatrix, DI-Matrix или TRI-Matrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и общее использование. Указан английский язык и заявлена поддержка контекста до 128k токенов. Автор отмечает улучшения производительности благодаря NEO, Horror и NEOCode-наборам данных, а также различия между квантизациями: Q5_1 описывается как более стабильная в некоторых сценариях, тогда как IQ4_NL может давать более необычные и спонтанные ответы. Ключевая особенность модели — удаление отказов и ограничений, обозначенное автором как uncensored и decensored. Это может быть полезно для свободных творческих и исследовательских сценариев, но одновременно означает отсутствие встроенных защитных механизмов и повышенный риск небезопасных или нежелательных ответов. В карточке не приведены независимые бенчмарки, точные требования к памяти, аппаратные рекомендации или подробные измерения качества, поэтому производительность и практическая скорость зависят от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

balrogbob/open_llama_3b_v2-python-instruct-0.1 — дообученная balrogbob языковая модель на базе openlm-research/open_llama_3b_v2. Это плотная авторегрессионная архитектура LLaMA с 3,3 млрд параметров, предназначенная для генерации текста и выполнения инструкций, связанных с Python. Модель обучалась с использованием Unsloth и библиотеки TRL; поддерживает контекст до 8192 токенов и ориентирована на английский язык. Модель подходит для генерации и продолжения текста, а также для помощи с Python-кодом в диалоговых или инструкционных сценариях. Распространяется в формате Safetensors по лицензии Apache-2.0.

Python-Code-13B — полноразмерная дообученная модель для генерации кода, созданная ajibawa-2023 на базе Llama 2 от Meta. Она обучена на более чем 23 тысячах наборов кода с двумя диалогами в каждом; данные в формате Vicuna/ShareGPT содержат код и подробные объяснения. Модель предназначена для генерации Python-кода и пояснения к нему в формате диалога. Это плотная авторегрессионная архитектура Llama с 12,9 млрд параметров и контекстом 4096 токенов; основные данные и назначение ориентированы на английский язык. Для весов указана лицензия CC-BY-NC-ND-4.0, ограничивающая коммерческое использование и распространение производных версий.

unsloth/Qwen2.5-Coder-0.5B-Instruct — это дообученная Unsloth версия компактной инструктивной модели Qwen2.5-Coder с архитектурой Qwen2ForCausalLM. Она содержит 494 млн параметров, использует плотную архитектуру и поддерживает контекст до 32 768 токенов. Репозиторий модели указывает формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. Модель предназначена для генерации и исправления кода, объяснения программных фрагментов и диалоговых сценариев помощи разработчикам. Её также можно использовать как основу для простых кодовых агентов через интерфейс вызова инструментов. Метаданные указывают английский язык; модель принимает текст и генерирует текст. Компактный размер облегчает развёртывание по сравнению с крупными кодовыми моделями, но может ограничивать качество на сложных задачах программирования и длинных многошаговых запросах. README описывает семейство Qwen2.5-Coder, однако приведённые в нём детали обучения и архитектуры относятся к базовой серии и не подтверждают отдельные результаты оценки именно этой инструктивной версии.

jubaerrr/Qwen2.5-Coder-0.5B-Instruct-Gensyn-Swarm-screeching_iridescent_butterfly — компактная instruction-tuned causal language model, опубликованная пользователем jubaerrr и основанная на семействе Qwen2.5-Coder, разработанном командой Qwen компании Alibaba Cloud. По идентификатору модели и доступным сведениям, она представляет собой вариант Qwen2.5-Coder-0.5B-Instruct, дообученный в рамках Gensyn Swarm. Модель предназначена прежде всего для генерации, понимания и исправления программного кода, а также для диалогового выполнения инструкций, связанных с программированием. Она использует архитектуру Transformer и содержит около 0,5 млрд параметров; поддерживает текстовую генерацию и контекст до 32 768 токенов. Компактный размер облегчает запуск в ограниченных по ресурсам средах, но предполагает более слабые возможности по сравнению с крупными моделями, особенно на сложных задачах программирования. Точный набор языков, результаты оценки, ограничения безопасности и лицензия для этого производного варианта в доступных источниках не указаны.

llmfan46/Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking-uncensored-heretic-GGUF — GGUF-квантизация модели, разработанная независимым автором llmfan46 на базе llmfan46/Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking-uncensored-heretic. В README также указано использование набора данных TeichAI/claude-4.5-opus-high-reasoning-250x. Точные сведения о методе обучения и конкретных параметрах квантизации не приведены. Модель предназначена для диалогов, программирования, творческого письма, генерации и продолжения сюжетов, ролевых сценариев, а также работы с различными жанрами художественного текста. Заявлены английский и китайский языки. Модель относится к reasoning-моделям: по умолчанию она использует режим пошагового рассуждения с токенами <think>, при этом поддерживается instruct-режим без рассуждений через настройку chat template или параметров инференса. В README заявлена мультимодальная архитектура Qwen3.5 с поддержкой текста, изображений и видео, а pipeline обозначен как image-text-to-text. Указанный размер — 40B параметров. Среди сильных сторон заявлены высокое качество рассуждений, творческого письма и сниженное количество отказов по сравнению с исходной моделью. Ограничения включают отсутствие данных о размере контекстного окна, системных требованиях, точных характеристиках GGUF-файлов и результатах независимого тестирования; режим с уменьшенными отказами также может повышать риски небезопасной генерации. Лицензия указана как Apache-2.0.

Replete-Coder-Qwen2-1.5B-GGUF — квантованная GGUF-версия модели Replete-Coder-Qwen-1.5b, разработанной Replete-AI на базе Qwen/Qwen2-1.5B. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix; доступны варианты с различными уровнями квантования, включая Q8_0, Q6_K и Q5_K_M. Модель предназначена для генерации текста и решения задач программирования: написания и объяснения кода, следования инструкциям, работы с математическими задачами, вызова функций и ответов в формате диалога. Обучение проводилось на наборах данных с примерами кода, инструкций, математических задач, диалогов, function calling и анализа уязвимостей. Поддерживается специальный шаблон prompt в формате ChatML. Точная длина контекста и перечень языков программирования в README не указаны. Ключевое преимущество модели — небольшой размер около 1,5 млрд параметров и возможность локального запуска через llama.cpp в разных вариантах квантования. Более высокие разрядности ориентированы на максимальное сохранение качества, а Q6_K и Q5_K_M отмечены как рекомендуемые. Ограничениями являются небольшой размер по сравнению с крупными кодовыми моделями, отсутствие опубликованных численных результатов тестирования и неполные сведения о поддерживаемых языках и контексте. Модель распространяется по лицензии Apache-2.0.

Карточка модели Sakalti/Saba2-Preview на Hugging Face совпадает с карточкой Sakalti/saba1.5-coder, поэтому описание составлено по ней. Saba1.5-Coder — языковая модель Sakalti на архитектуре Qwen2, дообученная на основе Sakalti/Saba1.5-Pro. Модель содержит 1,5 млрд параметров и поддерживает контекст длиной до 256 000 токенов. Модель предназначена для генерации текста и диалогов; название и обучающий набор HachiML/alpaca_jp_python указывают на применение в задачах программирования на Python. В метаданных также отмечен интерфейс для вызова инструментов. Модель обучалась с использованием Unsloth и TRL и распространяется в формате Safetensors. Модель лицензирована по Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о языках программирования и точном наборе навыков, поэтому пригодность для конкретных задач разработки следует проверять на собственных примерах.

Ternary Bonsai 2 27B Abliterated PQ2_0 MTP — это производная от prism-ml/Ternary-Bonsai-2-27B-gguf модель на основе семейства Qwen, опубликованная BoldingBuilds в формате GGUF. Веса упакованы с тернарным квантованием PQ2_0 примерно до 2,13 бит на вес; модель изменена методом abliteration, который убирает поведение отказа. Вариант MTP дополнен головой multi-token prediction для спекулятивного декодирования. Модель предназначена для локальной генерации текста и диалогов, в том числе ответов на запросы, от которых исходная модель отказывается. При подходящих нагрузках MTP ускоряет генерацию, например для кода, JSON и рассуждений; на свободной прозе ускорения нет и возможна небольшая просадка. Для MTP-файла требуется исправленная сборка llama.cpp; файл без MTP работает без этого патча. README сообщает о сохранении качества на MMLU относительно исходной тернарной версии, но приводит снижение pass@1 на HumanEval с 0,890 до 0,872, статистически незначимое в описанном измерении. У варианта v1 также отмечена проблема режима рассуждений: ответы на часть запросов не завершаются; измерения качества и отказов проводились с выключенным режимом thinking. Лицензия — Apache-2.0. Модель не имеет встроенного поведения отказа и требует отдельного защитного слоя перед пользовательским применением.

vtx-embed-1M — компактная плотная модель эмбеддингов от Vortexa AI для семантического поиска и извлечения признаков. Она содержит 1,05 млн параметров и использует собственный 4-битный формат хранения LF4; в README заявлены объём памяти 0,57 МБ, Matryoshka-представления и задержка на CPU менее миллисекунды. В метаданных архитектура указана как VortexEmbedV4_5, библиотека — tokenizers, формат файлов репозитория — safetensors. Модель предназначена прежде всего для векторизации текста в системах поиска по исходному коду, индексации и retrieval/RAG. Она выдаёт плотные эмбеддинги, которые можно усекать с помощью Matryoshka-подхода для экономии ресурсов. Карточка указывает английский язык. Приведённые в README результаты тестов показывают компромисс между малым размером и качеством: на STSBenchmark модель уступает MiniLM-L6-v2 и bge-small-en-v1.5, хотя на Banking77Classification превосходит их по указанной точности. Модель опубликована под лицензией MIT. Заявленные показатели размера и скорости относятся к описанию автора; подробностей о методике измерений в предоставленном фрагменте нет.

zeta-2.1-autoround-W4A16 — это квантизированная версия языковой модели zed-industries/zeta-2.1 для генерации текста. Модель подготовлена с помощью AutoRound, разработанного Intel, и предназначена для запуска исходной модели с меньшими требованиями к памяти, в том числе через Transformers и vLLM. Она может применяться для текстовых запросов, генерации кода и других сценариев автодополнения, поддерживаемых базовой моделью. Используется квантизация только весов int4 по схеме W4A16: веса представлены в 4-битном формате, а активации — в 16-битном, с group_size 128 и симметричной квантизацией. Размер квантизированной модели составляет около 5954 МБ. В README не указаны архитектура, число параметров, поддерживаемые языки и размер контекста. На тестах hellaswag, mmlu и piqa модель показала точность 0,4077, 0,3676 и 0,6768 соответственно. К преимуществам относятся сниженное потребление памяти и возможность использования на совместимом оборудовании при сохранении назначения базовой модели. Ограничения включают возможные фактические ошибки, предвзятые, непристойные или иные нежелательные ответы; перед применением требуется проверка безопасности. Отдельная лицензия для квантизированной версии не указана: необходимо соблюдать лицензию исходной модели zed-industries/zeta-2.1 и учитывать юридические ограничения при коммерческом использовании.

AREX-2 — мультимодальная модель с 27 млрд параметров, разработанная Пекинской академией искусственного интеллекта (BAAI) для работы в качестве агента с длительным циклом решения задач. Она дообучена на базе Qwen/Qwen3.8-27B и использует плотную архитектуру, совместимую с Qwen3.8; модель принимает текст и изображения и выдаёт текст. Контекст составляет 262 144 токена. Модель рассчитана на итеративное решение задач: она предлагает вариант, анализирует оценки, журналы, ошибки и затраченное время, затем пересматривает решение в нескольких раундах. Обучение охватывает алгоритмическое программирование и инженерные задачи машинного обучения с проверяемой обратной связью, а также данные AREX для глубоких исследований. Авторы сообщают о переносе навыка самоулучшения на задачи глубокого исследования. Модель предназначена прежде всего для исследований длительных агентных циклов, рассуждений и использования инструментов. Репозиторий распространяется под лицензией Apache-2.0. Для запуска README рекомендует актуальную версию Transformers с поддержкой Qwen3.8. Качество зависит от задачи и организации тестовых раундов; модель не следует считать автономным исполнителем без внешней среды, обратной связи и проверки результатов.