II.3Рефакторинг, миграция и модернизация
В разделе собраны самостоятельные задачи, где AI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 764 моделиValiantLabs_Muse-Glimmer-30B-Esper4-GGUF — это квантизированная версия модели Muse-Glimmer-30B-Esper4, разработанной ValiantLabs и опубликованной в формате GGUF. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель содержит около 30 млрд параметров и предназначена для локального запуска через совместимые инструменты llama.cpp. Модель поддерживает обработку текста, а также изображений при использовании соответствующего файла mmproj. Она ориентирована на англоязычные сценарии, рассуждения, программирование, разработку и DevOps-задачи, включая работу с Python, JavaScript, TypeScript, Java, C++, C#, Rust, Go, Haskell, Bash, PowerShell, Jenkins, Terraform, Ansible, Docker, Kubernetes, Helm, Grafana, Prometheus и облачными платформами. В README также заявлен высокий уровень рассуждений; MTP не поддерживается. Доступно множество вариантов квантизации от BF16 до Q3 и IQ4. Вариант Q4_K_M размером около 17,31 ГБ указан как сбалансированный по качеству и размеру, а Q5 и Q6 рекомендуются для более высокого качества. Более компактные варианты требуют меньше оперативной памяти, но могут сильнее терять качество из-за квантизации. Размер контекстного окна и подробные результаты оценивания не указаны, поэтому пригодность для длинных контекстов и фактические показатели производительности оценить нельзя. Модель распространяется по лицензии Apache 2.0. Для мультимодального использования требуется отдельный mmproj-файл; конкретные аппаратные требования зависят от выбранного варианта квантизации.
WizardLM-Mistral-CodeLlama-7b — объединённая модель на базе Mistral-7B-v0.1, созданная с помощью mergekit методом TIES из PrunaAI/WizardLM-WizardMath-7B-V1.0-bnb-4bit-smashed и codellama/CodeLlama-7b-Instruct-hf. Она предназначена для генерации текста, в том числе для ответов на вопросы по математике и помощи с программированием. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; для работы предусмотрена библиотека Transformers. Лицензия в доступных данных не указана.
Cerium-Qwen3-R1-Dev — компактная плотная языковая модель, разработанная prithivMLmods на базе Qwen/Qwen3-0.6B и дообученная на наборах для программирования, математики и научных рассуждений, включая данные rStar-Coder и примеры трасс рассуждений DeepSeek R1. Модель содержит около 508 млн параметров, использует архитектуру Qwen3ForCausalLM и формат весов safetensors; длина контекста — до 40 960 токенов. Модель предназначена для генерации кода и объяснений, решения математических и научных задач, технического диалога и создания структурированных материалов. Она может формировать LaTeX, Markdown, JSON, CSV и YAML. Карточка заявляет поддержку нескольких языков программирования и ориентирует модель на разработчиков, преподавателей и исследователей, а метаданные указывают английский язык. Модель рассчитана на работу при ограниченных вычислительных ресурсах. Среди ограничений карточка отмечает слабую пригодность для творческого письма и обычного общения, а также то, что контекст может быть недостаточен для анализа нескольких документов или целой кодовой базы. Лицензия — Apache-2.0.
Cipher-20B — плотная причинная языковая модель на 19,8 млрд параметров семейства Qwen2, представленная HelpingAI. Она предназначена прежде всего для генерации кода и работы в формате диалога с техническими запросами. Модель обучена на коде, задачах программирования и технической документации, а также дообучена для работы с несколькими языками программирования, включая Python, JavaScript и C++. Cipher-20B может создавать код, находить и исправлять распространённые ошибки и объяснять фрагменты кода. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Метаданные указывают на интерфейс вызова инструментов. Язык карточки — английский, а теги также отмечают поддержку английского. Возможные ограничения: ответы могут быть многословными, длинная генерация кода может упереться в лимит токенов, а неоднозначные запросы могут приводить к неполным или ошибочным решениям. README заявляет, что модель избегает вредоносного кода. Лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории модели.
Code-290k-13B — полноразмерная дообученная языковая модель от Ajibawa, созданная на базе Llama 2 и ориентированная на генерацию программного кода с подробными объяснениями. Модель обучена на примерно 290 тысячах наборов кода и диалогов в формате Vicuna/ShareGPT; обучающая выборка включает Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia и Haskell. По метаданным, это плотная архитектура LlamaForCausalLM с 12,9 млрд параметров, контекстом 4096 токенов и поддержкой английского языка. Модель подходит для генерации кода по запросу, объяснения решений и диалоговой помощи при программировании. Репозиторий содержит веса PyTorch; в карточке также упомянуты отдельные квантизованные варианты GPTQ, GGUF и AWQ. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных материалов на её условиях.
CodeGeeX2-6B — многоязычная модель генерации кода от команды CodeGeeX, построенная на архитектуре ChatGLM2 и основанная на ChatGLM2-6B. После дополнительного предварительного обучения на 600 млрд токенов кода модель насчитывает около 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Она принимает запросы на китайском и английском языках и предназначена для генерации, дополнения и исправления кода; авторы сообщают о поддержке более 100 языков программирования. Модель подходит для автодополнения кода, в том числе между файлами, объяснения и перевода кода, отладки и создания комментариев или документации. В карточке приведены результаты HumanEval-X и указано, что квантованный вариант может запускаться примерно с 6 ГБ видеопамяти; это относится к квантованной версии, тогда как в репозитории указаны веса PyTorch. Для академических исследований веса открыты, а коммерческое использование требует подачи заявки.
CodeLlama-34b-Python-hf — авторегрессионная плотная языковая модель семейства Code Llama, разработанная Meta и представленная в формате Transformers. Это Python-специализированный вариант с 33,5 млрд параметров и контекстом до 16 384 токенов; модель принимает текст и генерирует текст. Она предназначена для автодополнения, синтеза и понимания кода на Python, а также может применяться в общих задачах генерации кода. Модель не предназначена для диалогового следования инструкциям. Использование регулируется лицензией Meta Llama 2. Возможны неточные или нежелательные результаты, поэтому перед внедрением модель следует проверять и адаптировать к конкретному сценарию.
simplyinquisitive/code-stral-7B-B — языковая модель, созданная автором репозитория с помощью mergekit методом passthrough из mistralai/Mistral-7B-Instruct-v0.2 и mistral-community/Codestral-22B-v0.1. Она использует архитектуру Mistral и предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и помощь с кодом. Модель содержит 14,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. В репозитории указана лицензия Apache-2.0. В карточке нет сведений об отдельных языковых тестах или гарантиях качества; возможности модели унаследованы от объединённых чекпойнтов и могут отличаться от их характеристик.
llmfan46/gemma-4-E2B-it-ultra-uncensored-heretic — мультимодальная производная Gemma 4 E2B IT от независимого автора llmfan46. По README, изменён компонент attn.o_proj; модель основана на google/gemma-4-E2B-it и предназначена для диалогов, рассуждений, генерации и исправления кода, а также анализа изображений и аудио. Метаданные указывают архитектуру Gemma4ForConditionalGeneration, плотную модель и формат safetensors; библиотека для работы — Transformers. Модель принимает текст и изображения, а для варианта E2B также поддерживает распознавание речи и перевод речи в текст. README базовой Gemma 4 сообщает о контекстном окне до 128K токенов для E2B и E4B, видеоанализе по последовательности кадров, вызове инструментов и поддержке более 35 языков; карточка этой производной не подтверждает отдельно все эти возможности. Лицензия — Apache-2.0. В названии и тегах модель обозначена как uncensored, decensored и abliterated. README в основном описывает базовое семейство и не приводит отдельных оценок качества или точных характеристик этого варианта. Возможны фактические ошибки, затруднения с неоднозначными формулировками и пробелы, связанные с обучающими данными.
GLM-5.2-NVFP4 — квантизированная версия языковой модели GLM-5.2 от zai-org, опубликованная lukealonso. Модель предназначена для генерации текста, диалоговых сценариев, программирования, многошагового агентного взаимодействия, вызова инструментов и function calling. Она поддерживает английский и китайский языки и работает через библиотеку Transformers. В основе лежит Mixture-of-Experts-модель с 744 млрд параметров, из которых 40 млрд активируются для каждого токена. В каждом MoE-слое используются 256 экспертов, восемь из которых выбираются для обработки токена; также применяется архитектура DeepSeek Sparse Attention (DSA). Неквантизированная часть модели включает attention-веса, плотные MLP-слои и общие эксперты в формате BF16. MLP-проекции необщих MoE-экспертов квантизированы в NVFP4 — 4-битный формат с блочными FP8-масштабами для групп по 16 элементов. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении специализированных экспертных весов и калибровке по естественной маршрутизации токенов. Калибровочные данные включали программирование, вызов инструментов, реальные пользовательские диалоги на разных языках и длинные последовательности свыше 8 тысяч токенов. Ограничения — необходимость мощной инфраструктуры: рекомендована конфигурация из восьми RTX PRO 6000 Blackwell по 96 ГБ с b12x MoE runner. Лицензия MIT.
GroveMoE-Inst — инструктивная языковая модель компании InclusionAI на разреженной архитектуре GroveMoE с adjugate experts. По карточке, модель создана на основе Qwen3-30B-A3B-Base: после upcycling она прошла mid-training и дообучение SFT. В README указано 33 млрд параметров всего и 3,14–3,28 млрд активных на токен; метаданные каталога указывают 2,6 млрд параметров, поэтому размер репозитория и цифры в описании расходятся. Модель принимает текст и предназначена для диалогов, следования инструкциям, решения математических и научных задач, а также программирования; заявлен контекст 40 960 токенов и интерфейс вызова инструментов. Разреженная активация позволяет повторно использовать общие вычисления, а технический отчёт и таблица бенчмарков описывают её результаты на задачах знаний, математики и кода. Для общей работы авторы рекомендуют задавать длину генерации до 16 384 токенов и приводят параметры сэмплирования. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README нет сведений о поддерживаемых естественных языках.
grug-27b — дообученная модель ProCreations на базе Qwen/Qwen3.6-27B с плотной архитектурой семейства Qwen3.5. Разработчик объединил LoRA-адаптер ранга 32, обученный на текстовых линейных слоях, с базовой моделью и сохранил веса в формате bf16. По карточке, обучение было направлено на компактные, адаптивные рассуждения: короткие для простых задач и более подробные для сложных. Модель предназначена для генерации текста в диалогах, программирования, математических задач и агентных сценариев с использованием инструментов. Карточка приводит результаты на HumanEval, MBPP и GSM8K, а также сообщает о снижении расхода токенов на этих тестах и проверках на зацикливание. Эти результаты получены разработчиком и не гарантируют такого же качества на других запросах. Указана поддержка английского языка; базовая Qwen3.6-27B также описана в каталоге как мультимодальная, но README grug-27b говорит об обучении текстового стека, поэтому работу с изображениями для этой версии подтвердить нельзя. Для запуска приведён контекст длиной 32 768 токенов как параметр сервера, а не заявленный нативный предел модели. Лицензия — Apache-2.0.
Kiwen1.1-27B-align — дообученная beyoru модель на базе Qwen3.8-27B, предназначенная для диалогов с изображениями, генерации кода и следования системным инструкциям. Это плотная мультимодальная архитектура Qwen; модель поддерживает работу с изображениями и интерфейс вызова инструментов. В README приведён запуск с контекстом 262144 токена и использование режимов рассуждения и без рассуждения. Автор сообщает об улучшении HumanEval+ на 6,7 процентного пункта относительно базовой модели и небольшом улучшении GSM8K и строгой точности IFEval на уровне инструкций. Модель также обучали для устойчивого распознавания собственной идентичности и сохранения заданной системным сообщением роли. Проверки идентичности проводились на внутреннем наборе промптов на вьетнамском и английском языках. Среди ограничений — снижение результата MMLU-Pro на 1,4 пункта относительно базы и MBPP на 1,9 пункта; README рекомендует оценивать модель перед использованием в задачах, требующих широких фактических знаний. Лицензия — Apache-2.0.
m51Lab выпустила эту разреженную языковую модель 15 апреля 2026 года как вариант MiniMax-M2.7, в котором методом REAP удалено 40 % экспертов в блоках Mixture-of-Experts. Модель содержит около 139 млрд параметров, из которых примерно 10 млрд активны на каждом токене; в архитектуре 62 слоя. По метаданным, она загружается через Transformers и имеет контекст до 196 608 токенов. Модель предназначена для генерации текста в диалоговом режиме, включая написание кода, математические и научные рассуждения и вызовы инструментов. В README приведён результат HumanEval pass@1 83,3 % для завершённых задач при бюджете генерации 32 тыс. токенов; при строгом подсчёте всех 164 задач результат составляет 54,9 %, поскольку незавершённые решения учитываются как ошибки. Для воспроизведения указанной оценки рекомендуется выделять не менее 64 тыс. токенов генерации. README описывает также небольшой дефект коррекции смещений одного слоя; по данным карточки, его влияние на маршрутизацию незначительно. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и файлами репозитория. README описывает вариант после структурного прореживания, а метаданные классифицируют связь с MiniMax-M2.7 как finetune; формат файлов в метаданных — safetensors.
openbmb/MiniCPM5-1B-MLX — компактная языковая модель из серии MiniCPM5, разработанная OpenBMB. Это causal language model на архитектуре LlamaForCausalLM, адаптированная в формате MLX с 4-битным представлением для локального запуска на устройствах Apple Silicon и в условиях ограниченных ресурсов. Модель предназначена для локальных ассистентов, coding agents, генерации кода, сценариев tool use, агентских рабочих процессов и задач, требующих рассуждений. Она поддерживает английский и китайский языки, контекст до 131 072 токенов и два режима работы в одном чекпойнте: быстрый режим без рассуждений и режим с пошаговым рассуждением через параметр enable_thinking. Заявлены сильные результаты среди открытых моделей класса около 1B параметров, особенно в использовании инструментов, генерации кода и сложных рассуждениях. Модель содержит 1 080 632 832 параметра, 24 слоя, 16 attention heads для Q и 2 KV-heads в конфигурации GQA. К преимуществам относятся небольшой размер, поддержка длинного контекста и пригодность для on-device и edge-сценариев. Ограничениями являются компактный масштаб модели по сравнению с крупными LLM и ориентация MLX-версии прежде всего на устройства Apple Silicon. Модель распространяется по лицензии Apache-2.0.
MiniCPM5-2B-SFT — версия модели MiniCPM5 от OpenBMB для локальных ассистентов, программных агентов и запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 2,2 млрд параметров по метаданным, 42 слоями и контекстом до 131 072 токенов. Модель предназначена для диалогов, генерации кода, математических рассуждений, работы с длинным контекстом и сценариев использования инструментов. Карточка сообщает о поддержке английского и китайского языков и описывает сильные результаты модели относительно других моделей сопоставимого размера; эти сравнительные оценки получены разработчиком. Модель принимает и генерирует текст. Весы опубликованы в формате safetensors, для запуска описана поддержка Transformers и локального развёртывания на CPU и GPU, а также серверных движков. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не являются экспертной рекомендацией.
MonarchCoder-MoE-2x7B — языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), созданная автором репозитория путём объединения AlphaMonarch-7B и Tess-Coder-7B-Mistral-v1.0 с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалогах, рассуждений и программирования. README сообщает об улучшенных результатах объединённой модели на бенчмарках OpenLLM, Nous и HumanEval, но не приводит здесь подробностей оценки. Репозиторий использует библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0.
Карточка модели LimitlessMindd/Muse-Glimmer-30B на Hugging Face совпадает с карточкой meta-models/Muse-Glimmer-30B, поэтому описание составлено по ней. Muse Glimmer — модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия. Это мультимодальная модель на 29,6 млрд параметров, дистиллированная из Muse Spark и опубликованная по лицензии Apache 2.0. Она предназначена для локального запуска на потребительском оборудовании и поддерживает диалог с изображениями. Модель рассчитана на многошаговые агентные сценарии: планирование, вызов инструментов, восстановление после ошибок и выполнение длительных задач. Её также можно применять для разработки кода, анализа скриншотов, диаграмм и документов, генерации синтетических данных и оценки ответов других моделей. В README заявлены результаты на бенчмарках агентного выполнения, включая SWE-Bench, DeepSearch QA и MCP-Atlas. Модель может ошибаться в рассуждениях, особенно в новых сценариях, и выдавать неточные, предвзятые или нежелательные ответы. Поддержки аудио нет; видео явно не оптимизировано и обрабатывается как отдельные кадры. Качество может снижаться для языков, на которых модель недостаточно оценивалась. Для агентных приложений разработчик рекомендует дополнительные меры защиты и проверки.
O2-9B-Preview — языковая модель на 9 млрд параметров, разработанная Ant International и основанная на Qwen3.5-9B. Это плотная архитектура Qwen3.5 для генерации текста в диалоговом режиме, предназначенная для многошагового агентного рассуждения, работы с инструментами, программирования и автоматизации офисных процессов. Модель дообучена методом Runtime OPSD: обучение использует взаимодействия агента с исполняемой средой, инструментами, репозиториями, тестами и проверками результатов, включая наблюдение последствий и исправление неудачных действий. В предварительной оценке авторов она улучшила результаты базовой модели на десяти из одиннадцати тестов, однако это одиночный отчёт без повторных запусков и интервалов неопределённости; на BFCL V4 результат ниже базового. Модель может генерировать ошибочный текст, некорректные вызовы инструментов или небезопасный код; прохождение встроенной проверки не гарантирует правильность результата. Качество зависит от среды выполнения, доступности инструментов и полноты проверок. Карточка не устанавливает основной язык модели. Лицензия — Apache-2.0.
Orythos-9B — мультимодальная модель на 9 млрд параметров, созданная CloudGoat слиянием моделей Qwythos-9B-Claude-Mythos-5-1M и Ornith-1.5-9B методом DARE-TIES на базе Qwen3.5-9B. Она предназначена для диалога, анализа изображений, программирования и агентных сценариев, включая взаимодействие с инструментами. В карточке приведён результат HumanEval pass@1 89%; это заявленный авторами результат на бенчмарке. Модель использует архитектуру Qwen3.5 для генерации текста с обработкой изображений. Репозиторий содержит веса Safetensors и варианты GGUF, включая BF16 и Q4_K_M. Для практического использования доступны диалоговые и визуальные возможности, а также интерфейс вызова инструментов. Модель подойдёт для помощи в программировании и задач, где нужны рассуждения, анализ изображений или агентное взаимодействие. README не описывает языковой охват и длину контекста. Условия лицензии в предоставленных данных не указаны.
TeichAI/Qwen3.5-27B-Claude-Opus-4.6-Distill — плотная мультимодальная модель семейства Qwen3.5 с 27 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3.5-27B. В README указаны датасет crownelius/Opus-4.6-Reasoning-2100x-formatted и личные данные Claude от EclipseMist; также отмечено, что LoRA предоставил EclipseMist. Модель предназначена для программирования, творческого письма, общего диалога и понимания изображений. Модель принимает текст и изображения и выдаёт текст; карточка также приводит рекомендации для работы с видео. Среди опубликованных проверок — ARC Challenge, GPQA Diamond, HellaSwag и отдельные разделы MMLU; результаты на ARC Challenge и HellaSwag выше, чем у указанной базовой модели, а на GPQA Diamond совпадают. Репозиторий содержит веса safetensors и опубликован под лицензией Apache-2.0. Метаданные относят модель к задачам image-text-to-text и указывают возможности чата и работы с изображениями.
Qwen3.5-4B-KIMI-Distill — мультимодальная модель с 4 млрд параметров, созданная clzoro дообучением Qwen3.5-4B на трассах рассуждений, дистиллированных из KIMI-K2.5. Она сочетает языковую модель с энкодером изображений и сохраняет возможности понимания изображений исходной модели. В карточке Hugging Face указаны архитектура Qwen3.5, поддержка диалога и изображений, а также лицензия Apache-2.0. Модель предназначена для задач рассуждения, прежде всего генерации и анализа кода, решения математических задач и ответов на вопросы по естественным наукам; также может работать с изображениями. Данные дообучения включают 554 381 пример и около 2 млрд токенов рассуждений; основная доля примеров посвящена программированию. Карточка заявляет поддержку английского и китайского языков. Модель может ошибаться в ходе рассуждений и в выводах, а на творческих и открытых диалоговых задачах может работать хуже. Её знания ограничены обучающими данными; ответы в медицинской, юридической и финансовой тематиках требуют проверки.
Это мультимодальная модель Qwen3.6-27B, созданная darkc0de на основе Qwen/Qwen3.6-27B и дообученная на примерах рассуждений Claude Opus. Затем модель прошла decensoring методом abliteration с помощью Heretic v1.3.0; опубликованные параметры и сравнение показывают снижение частоты отказов с 98 до 8 на 100 запросах относительно исходной версии distill. Модель предназначена для диалогов, программирования, творческого письма, понимания изображений и задач общего назначения. Архитектура плотная, с 27 млрд параметров; заявлена поддержка изображений и текстового чата. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Для запуска автор отсылает к инструкциям команды Qwen.
Big-Pluto/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — GGUF-версия модели, разработанная на базе Qwen3.6 и опубликованная Big-Pluto; в README также указаны методы и наборы данных DavidAU, включая Claude 4.6 Opus High Reasoning и Deckard/PDK. Модель предназначена для универсального применения, включая рассуждения, программирование, математику, творческое и художественное письмо, ролевые сценарии и генерацию историй различных жанров. Заявлены 40 млрд плотных параметров, 96 слоёв и 1275 тензоров; модель описана как расширенная с 27B до 40B параметров и поддерживающая переменную длину рассуждений. Указан контекст до 256K токенов, языки English и Chinese, а также поддержка изображений через отдельный mmproj-файл, что соответствует мультимодальному сценарию image-text-to-text. Распространяются различные GGUF-квантизации с dual imatrix-настройками; для них заявлено сохранение значительной доли качества BF16, однако конкретные результаты зависят от выбранного кванта. Сильными сторонами заявлены развитое reasoning, работа с длинным контекстом, кодом и математикой, творческая выразительность и отсутствие цензурных ограничений. Ограничения включают значительные требования к памяти и вычислительным ресурсам из-за размера модели, необходимость отдельного mmproj для работы с изображениями и возможную нестабильность или потерю качества при использовании низких квантизаций. Лицензия — Apache-2.0.
Qwopus3.5-9B-Coder-MTP-GGUF — мультимодальная модель для генерации текста и работы с изображениями, разработанная Jackrong на базе Jackrong/Qwopus3.5-9B-v3.5. Модель ориентирована на программирование, логические и математические задачи, DevOps-сценарии, рассуждения, использование инструментов, function calling и агентские рабочие процессы. Заявлена поддержка английского, китайского, корейского, русского, японского и испанского языков. Модель использует архитектуру Multi-Token Prediction (MTP) с двумя дополнительными draft heads, настроенными через draft=2. Такой подход предназначен для speculative decoding: вспомогательные головы предлагают следующие токены, а основная модель проверяет их, что может повысить скорость генерации. По данным README, в тестах на задачах логики, программирования, DevOps, математики и пограничных сценариях пропускная способность выросла с 4,94 до 6,71 токена в секунду, а точность — с 80,0% до 88,3%. В заявленных тестах по программированию и математике достигнута точность 100%; отдельная оценка tool calling показала 100% recall и 27 успешных выборов из 28 в состязательной фазе. Указанные результаты зависят от конфигурации оборудования, параметров генерации и тестового набора, а часть оценки tool calling носит характер независимого пользовательского теста. В README не указаны размер контекстного окна, точные требования к памяти и совместимые варианты квантования, поэтому эти характеристики требуют дополнительной проверки. Модель распространяется по лицензии Apache-2.0.
rubra-11b-h — диалоговая языковая модель на архитектуре Mistral, дообученная Sanjay920 на коде и разговорных данных. Она создана на основе mistralai/Mistral-7B-Instruct-v0.2 с целью улучшить рассуждения, сохранив способности исходной модели следовать инструкциям и вести диалог. Модель содержит 10,6 млрд параметров, использует формат весов safetensors и поддерживает контекст до 32 768 токенов; для чата применяются маркеры [INST] и [/INST]. Модель подходит для многошагового диалога, ответов на инструкции, рассуждений и генерации кода, а также для поиска сведений в длинном текстовом контексте. В README приведён пример успешного извлечения факта из документа длиной 14 334 токена, но это не гарантирует точность на других задачах. Модель всё ещё разрабатывается и не прошла выравнивание по безопасности, поэтому может выдавать предвзятые ответы. Лицензия — Apache-2.0.
SuperGemma4 E4B Abliterated — производная от Google Gemma 4 E4B Instruct модель Jiunsong для генерации текста в диалоге. По данным карточки, модель прошла абляцию и дополнительную настройку для улучшения форматирования, качества кода и исправления ошибок, структурированных JSON-ответов и скорости первого токена. Метаданные указывают архитектуру Gemma4ForConditionalGeneration и поддержку чата, следования инструкциям и интерфейса вызова инструментов; исходная Gemma 4 E4B также описана как мультимодальная модель для анализа изображений и обработки аудио, однако в метаданных этой модели подтверждена только задача text-generation. Разработчик позиционирует её для помощников по программированию и отладке, выдачи JSON по схеме и серверных агентных сценариев. В README приведены высокие результаты внутренних оценок, но методика и независимая проверка не описаны, поэтому их нельзя считать гарантией качества. Карточка называет релиз приватным; лицензия указана как Gemma. Ослабление отказов от ответов может влиять на поведение модели в чувствительных сценариях.
Salience-27B-R5-GGUF — это квантизированная версия мультимодальной модели Salience-27B-R5, разработанной vectionlabs и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель содержит около 28 млрд параметров и поддерживает обработку текста и изображений; для работы с изображениями требуется файл mmproj. Заявлена поддержка speculative decoding через MTP. Модель предназначена для задач рассуждения, эффективного пошагового анализа, программирования и software engineering, а также для агентских сценариев с использованием терминала и инструментов. В карточке указана поддержка английского языка и большой длины контекста, однако точный размер контекстного окна и подробности архитектуры не приведены. Основное преимущество — широкий выбор вариантов квантизации с разным балансом между качеством, размером и требованиями к памяти. Рекомендуемым универсальным вариантом назван Q4_K_M размером около 17,77 ГБ, а варианты Q5 и Q6 обеспечивают более высокое качество при больших требованиях к ресурсам. Более сильная квантизация экономит память, но может снижать качество ответов; точные результаты тестирования и измерения perplexity или KLD не указаны. Модель распространяется по лицензии Apache-2.0.
Virtuoso-Small-v2 — языковая модель на 14 млрд параметров от Arcee AI, основанная на архитектуре Qwen2.5-14B. Модель дообучена с дистилляцией логитов DeepSeek-V3 на большом текстовом корпусе, затем дополнительно выровнена с помощью DPO. Для совместимости при переносе знаний применялась обработка токенизатора; итоговая модель использует токенизатор Qwen. Метаданные указывают контекст до 131 072 токенов и формат Safetensors. Модель предназначена для диалоговой генерации текста, ответов на технические и научные вопросы, решения математических задач и генерации кода. В карточке также заявлен интерфейс вызова инструментов. README описывает дистилляцию знаний DeepSeek-V3 и улучшение следования инструкциям, однако количественные сравнительные оценки не приведены. Модель распространяется по лицензии Apache-2.0. Среди ограничений указаны возможные пробелы в знаниях о событиях после июня 2024 года и риск генерации вредного или предвзятого текста; заявленная длина контекста в README округлена до 128k токенов.
Mungert/Youtu-LLM-2B-GGUF — GGUF-версия языковой модели Youtu-LLM-2B, разработанной Tencent. Это авторегрессионная causal language model для генерации текста; семейство включает базовую и instruct-версии. Данная сборка создана с использованием llama.cpp, однако конкретный уровень квантования в README не указан. Модель содержит 1,96 млрд параметров, 32 слоя и использует плотную архитектуру MLA с 16 attention heads для Q/K/V. Поддерживается контекст до 131 072 токенов, размер словаря — 128 256. Модель ориентирована на рассуждения, следование инструкциям, STEM-задачи, программирование, работу с длинным контекстом и агентские сценарии с инструментами; для instruct-версии заявлен режим reasoning. В представленных тестах она показывает особенно сильные результаты в генерации кода, математике, обработке длинного контекста и ряде end-to-end агентских задач, но результаты зависят от версии модели и настроек запуска. README не указывает поддерживаемые языки, точные требования к ресурсам и ограничения безопасности. Лицензия обозначена как other; условия следует уточнять по файлу лицензии Tencent.