II.3Рефакторинг, миграция и модернизация

unsloth/Qwen2.5-Coder-1.5B-Instruct-bnb-4bit — это 4-битно квантованная instruction-tuned версия языковой модели Qwen2.5-Coder-1.5B, разработанной командой Qwen от Alibaba Cloud и опубликованной в формате, подготовленном Unsloth. Модель предназначена для генерации, анализа и исправления программного кода, кодового рассуждения, создания code agents, а также задач общего назначения и математики. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, 28 слоёв и использует GQA с 12 головами для Q и 2 для KV. Заявлена поддержка контекста до 131 072 токенов. В README указан английский язык; модальность — текстовая. Квантование bnb-4bit снижает требования к памяти и облегчает локальный запуск, но может ограничивать точность по сравнению с полноразмерной версией. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, рассуждения и исправления кода, большой контекст и компактный размер. Ограничения включают небольшой объём модели по сравнению с более крупными системами, возможное снижение качества из-за 4-битного квантования и отсутствие в предоставленных данных подробных результатов бенчмарков, списка поддерживаемых языков программирования и оценки надёжности ответов. Модель распространяется по лицензии Apache-2.0; для работы рекомендуется использовать актуальную версию библиотеки transformers.

Qwen2.5-Coder-32B-Instruct-3MPER0RR-abliterated — доработанная исследователем 3MPER0RR версия Qwen2.5-Coder-32B-Instruct. Это плотная языковая модель на 32 млрд параметров для диалоговой генерации текста, ориентированная на код: базовая модель предназначена для генерации, анализа и исправления кода, а также создания кодовых агентов. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель описана как протестированная и сохранённая, однако подробности её изменений и результаты испытаний не приведены. Лицензия — Apache 2.0.

unsloth/Qwen2.5-Coder-3B-bnb-4bit — квантованная 4-битная версия модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в формате Unsloth. Модель относится к семейству специализированных языковых моделей для программирования и предназначена для генерации, анализа и исправления кода, а также для задач code completion и fill-in-the-middle. Это базовая модель без дообучения для диалогов, поэтому для чат-сценариев рекомендуется дополнительное обучение или использование подходящего шаблона постобработки. Архитектура основана на causal language model с RoPE, SwiGLU, RMSNorm, смещениями в QKV-проекциях внимания и связанными эмбеддингами слов. В README для данного репозитория приведены характеристики версии 0.5B: около 0,49 млрд параметров, 24 слоя, GQA с 14 головами для Q и 2 для KV, контекст до 32 768 токенов. При этом идентификатор и базовая модель указывают на вариант 3B, а точные архитектурные параметры именно 3B-версии в предоставленных данных не подтверждены. Указан английский язык; мультимодальность не заявлена. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, а также сниженные требования к памяти благодаря 4-битному представлению. Модель может применяться локально и интегрироваться в инструменты разработки, но её базовый, а не диалоговый характер ограничивает использование в роли готового чат-ассистента. Лицензия — Apache-2.0.

lmstudio-community/Qwen2.5-Coder-3B-Instruct-GGUF — это квантованная в формате GGUF версия Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen. Квантование выполнено bartowski на основе llama.cpp, релиз b4014. Модель предназначена для генерации текста и кода, диалогового взаимодействия и использования в Code Agents. Модель имеет размер 3B параметров и поддерживает контекст до 32K токенов. При обучении использовалось до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода, а также синтетические данные. В метаданных указано английское языкoвое направление. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в приложениях, поддерживающих этот формат. К сильным сторонам относятся специализация на программировании, большой контекст и адаптация к сценариям с агентами для работы с кодом. Ограничениями являются относительно небольшой размер по сравнению с крупными моделями, возможные потери качества из-за квантования и стандартный риск генерации неточного, небезопасного или ошибочного кода. В README указана лицензия qwen-research; точные условия следует проверять в оригинальной лицензии Qwen.

BenevolenceMessiah/Qwen2.5-Coder-7B-3x-Instruct-TIES-v1.0 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-Coder-7B, в слиянии также участвовали три указанные в карточке модели Qwen Coder и Hammer. Архитектура — плотная Qwen2 causal language model на 7,1 млрд параметров; репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Модель предназначена для генерации текста в диалоговом формате, включая задачи программирования, анализа и исправления кода, унаследованные от базовой модели Qwen2.5-Coder. Метаданные указывают контекст до 32 768 токенов и интерфейс для вызова инструментов. Карточка не приводит отдельных результатов оценки качества, точного перечня языков программирования или инструкции по вызову инструментов. Лицензия в предоставленных данных не указана.

Это 8-битная версия Qwen2.5-Coder-7B-Instruct, подготовленная mlx-community и конвертированная в формат MLX для запуска на устройствах Apple Silicon. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и имеет контекст длиной до 32 768 токенов. Модель предназначена для диалоговой генерации кода: она помогает писать, объяснять, анализировать и исправлять программы по текстовым запросам. Поддерживает английский язык и интерфейс вызова инструментов. Репозиторий лицензирован по Apache-2.0; README указывает на конвертацию с помощью mlx-lm версии 0.18.1.

Qwen3.5-24.5B-Reapped-v1 — текстовая MoE-модель для генерации текста и диалогов, опубликованная groxaxo. Она основана на Qwen3.5 MoE A3B из линейки Heretic: алгоритм REAP сократил число экспертов с 256 до 180, а объединённая с весами rank-16 QLoRA донастройка специализирует модель на программировании и агентных сценариях. В модели около 24,5 млрд параметров, примерно 3 млрд активны на токен; архитектура включает слои DeltaNet с линейным вниманием, полное внимание и MoE-блоки. Для запуска указана длина контекста 8 192 токена, хотя базовая модель поддерживает существенно больший контекст. Модель рассчитана на генерацию кода, помощь в программировании и агентные диалоги; также её можно использовать для локального или размещённого inference и открытых экспериментов. README сообщает о проверенном запуске на vLLM от версии 0.23.0, в том числе на трёх GPU по 24 ГБ в bf16. Донастройка затрагивала проекции внимания и DeltaNet, но не экспертов. Модель унаследовала смещения и uncensored-поведение базовой линейки; удаление экспертов может ухудшить результаты за пределами программирования и агентных задач. Лицензия Apache-2.0.

Это мультимодальная модель llmfan46 на архитектуре Qwen3.5 MoE: дообученная версия Qwen/Qwen3.6-35B-A3B с визуальным энкодером и причинной языковой моделью. В репозитории сохранены все 19 MTP-компонентов исходной модели; автор также сообщает о применении abliteration для ослабления ограничений на ответы. Модель содержит 35 млрд параметров, из которых активируются 3 млрд, и использует 40 слоёв с MoE. Нативное контекстное окно составляет 262 144 токена и может расширяться до 1 010 000 токенов. Модель предназначена для диалогов с текстом и изображениями, анализа изображений, агентного программирования, работы с репозиториями и вызова инструментов. Архитектура и карточка базовой модели указывают на мультимодальные возможности, но отдельные оценки в README приведены для исходной Qwen3.6, поэтому их нельзя считать результатами именно этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Qwen3 Coder Flash — быстрая и экономичная модель Alibaba, созданная на основе проприетарной Qwen3 Coder Plus. Она предназначена для автономного программирования и работы в роли агента-разработчика с вызовом инструментов. Карточка не сообщает размер, архитектурные детали, поддерживаемые языки программирования, длину контекста или лицензию, поэтому эти характеристики здесь не приводятся.

ucbye/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало квантизированной модели saricles/Qwen3-Coder-Next-NVFP4-GB10, основанной на Qwen3-Coder-Next от Alibaba и команды Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также для сценариев развертывания LLM на системах DGX Spark с GPU GB10. В README указано, что веса байт-в-байт идентичны исходной квантизации, а зеркало предоставляет стабильную и неконтролируемую версию для проекта развертывания qwen3-coder-next. Архитектура qwen3_next сочетает линейное внимание DeltaNet, полноразмерное внимание и латентный MoE. Модель содержит 48 слоев, включая 36 слоев с линейным вниманием и 12 слоев с полным вниманием, 79,7 млрд параметров при примерно 3 млрд активных параметров на токен, 512 экспертов, из которых активируются 10 совместно с одним общим экспертом. Используется 4-битная NVFP4-квантизация через compressed-tensors; отдельные компоненты сохранены в BF16. Максимальная длина контекста составляет 262 144 токена, заявленный язык — английский. Размер модели на диске — около 45,9 ГБ. Сильные стороны модели — большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоев DeltaNet. На DGX Spark заявлена скорость около 61 токена в секунду для одного запроса и поддержка примерно пяти одновременных сессий при контексте 262K с FP8 KV-кэшем. Ограничения включают зависимость производительности от совместимого оборудования и настроек vLLM, а также потери точности, возможные из-за агрессивной 4-битной квантизации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели; перераспределение разрешено.

Карточка модели roskosmos19/Rhea-4B-fast-0409-high на Hugging Face совпадает с карточкой roskosmos19/Rhea-4B-fast-0409, поэтому описание составлено по ней. Карточка модели roskosmos19/Rhea-4B-fast-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-2-4B-hight, поэтому описание составлено по ней. Rhea-4B-Agentic — дообученная модель из линейки Rhea/Athenea, представленная rosкошмос19 как оптимизированный вариант для программирования и агентных сценариев. Она построена на архитектуре Qwen3ForCausalLM и содержит 3,7 млрд параметров. Модель генерирует текст, поддерживает диалог и интерфейс вызова инструментов; контекст — 32 768 токенов. Модель предназначена для генерации и анализа кода, рассуждений при решении технических задач и работы агента с инструментами. По заявлению авторов, она использует однопроходную генерацию с необязательным режимом рассуждений, что сокращает задержку и стоимость по сравнению с многошаговой схемой исходной линейки. В карточке упоминаются рекомендации по запуску в vLLM, SGLang и llama.cpp, но файлы модели представлены в формате safetensors. Модель выпущена по лицензии Apache 2.0. Карточка описывает её как оптимизированную для агентных и кодовых задач, однако не приводит результатов сравнительных оценок; для высокой скорости авторы рекомендуют использовать не более 16–24 тысяч токенов контекста.

SWE-Dev-32B-GGUF — это GGUF-квантизированная версия модели SWE-Dev-32B, основанной на Qwen2.5-Coder-32B-Instruct. Модель разработана командой THUDM для задач программной инженерии и создания открытых агентных систем, а GGUF-файлы подготовлены Mungert с использованием llama.cpp. Она предназначена для генерации и анализа кода, локализации ошибок, работы с GitHub-репозиториями, создания тестов и решения задач, связанных с разработкой программного обеспечения. Модель относится к текстовым autoregressive-моделям для генерации текста и кода; её размер базовой модели — 32 миллиарда параметров. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты, в том числе на локальных системах. В README не указаны поддерживаемые языки, размер контекстного окна и конкретные варианты квантования. Автор применяет дополнительное повышение точности отдельных важных слоёв, что, по его утверждению, может улучшать качество при низкой разрядности ценой увеличения размера файла. В исходной карточке SWE-Dev-32B заявлен результат 36,6% на SWE-bench-Verified при масштабировании вывода до 75 раундов; это указывает на пригодность модели для агентных сценариев разработки, но не гарантирует аналогичные результаты в каждом окружении. Ограничениями являются возможная потеря качества из-за квантования, повышенные требования к ресурсам по сравнению с меньшими моделями и отсутствие в README подробных сведений о производительности, языках и контексте. Указанная лицензия — MIT.

AlchemistCoder-L-7B — языковая модель для генерации и понимания программного кода, разработанная командой InternLM на основе Llama 2. Представленная версия распространяется в формате GGUF и подготовлена bartowski для запуска через llama.cpp и совместимые приложения, включая LM Studio. Рекомендуемый сценарий использования — программирование: написание, объяснение, анализ и проверка кода, а также выполнение инструкций, связанных с разработкой. Для работы в LM Studio указан шаблон запросов Alpaca и пресет MetaAI Llama 2 Chat. Модель содержит около 7 миллиардов параметров и обучалась на 200 миллионах токенов гармонизированных данных из нескольких источников, включая материалы для задач понимания кода, эволюции инструкций, фильтрации данных и code review. По данным README, AlchemistCoder-L-7B показывает высокие результаты среди открытых моделей сопоставимого размера на шести бенчмарках для кода, а также улучшенные общие способности на MMLU, BBH и GSM8K. Поддерживаемые языки программирования, естественные языки, размер контекстного окна и конкретные варианты квантизации в README не указаны. Сильными сторонами модели являются специализация на задачах программирования, относительно компактный размер и возможность локального запуска в формате GGUF. Ограничения включают возможные ошибки, неточности и небезопасные рекомендации в сгенерированном коде; результаты требуют проверки и тестирования. Модель распространяется по лицензии Apache-2.0, однако условия для исходной базовой модели и отдельных компонентов данных следует проверять дополнительно.

Claude Fable 5 — модель класса Mythos от Anthropic, предназначенная для автономной интеллектуальной работы и задач программирования. Она принимает текст, изображения и файлы, а выдаёт текст; также заявлена поддержка рассуждений. Модель подходит для сценариев, где нужно анализировать предоставленные материалы и выполнять задачи по коду. Метаданные каталога относят её к задаче image-text-to-text. Данных о размере, контексте, языках и лицензии в предоставленных источниках нет.

DeepSeek-Coder-V2-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Instruct, разработанной DeepSeek-ai и подготовленной для квантизации компанией Second State Inc. Модель предназначена прежде всего для генерации и обработки программного кода, а также для диалогового взаимодействия в формате instruct. В README указана поддержка контекста до 128 000 токенов и запуск через LlamaEdge версии 0.12.3 или новее с шаблоном prompt-типа deepseek-chat-2. Доступны варианты с квантизацией Q2_K, Q3_K и другие GGUF-варианты с различными уровнями точности и размерами файлов. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; для Q2_K и Q3_K это прямо отмечено в описании. Модель ориентирована на локальное или встраиваемое использование через совместимые инструменты GGUF и LlamaEdge. Данные о точной архитектуре, числе параметров, поддерживаемых языках программирования и естественных языках, модальностях, результатах тестирования и системных требованиях в представленном README не указаны. Использование регулируется лицензией DeepSeek, обозначенной как deepseek-license; в метаданных указана лицензия other.

DeepSeek-Coder-V2-Lite-Base — базовая модель для генерации кода от DeepSeek. Она создана продолжением предобучения промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов. Модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2: в репозитории каталога указано 2,5 млрд параметров, а карточка семейства указывает для Lite-версии 16 млрд общих и 2,4 млрд активных параметров. Контекст модели по метаданным — 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки фрагментов кода, а также задач программирования и математических рассуждений. Семейство поддерживает 338 языков программирования; естественные языки в карточке не перечислены. К сильным сторонам относятся большой контекст и специализация на коде при сравнительно небольшом числе активных параметров. Это базовая, а не instruct-версия, поэтому её поведение в диалоге и следование инструкциям могут быть ограничены. Для локального инференса в BF16 README приводит требование 8 GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией в репозитории.

DeepSeek-Coder-V2-Lite-Instruct-FP8 — это квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанная Neural Magic. Модель принимает текст и генерирует текст; она предназначена для коммерческого и исследовательского использования, прежде всего для англоязычного ассистентского диалога и задач генерации кода. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP8, что примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Используется симметричная поэлементно-тензорная квантизация, при этом экспертные шлюзы сохраняют исходную точность. Модель оптимизирована для инференса через vLLM версии 0.5.2 и новее; в документации указан максимальный контекст 4096 токенов. Входная и выходная модальности — текст, основной заявленный язык — английский. Модель сохраняет близкую к исходной точность при меньших требованиях к ресурсам: на HumanEval+ указано 79,60 балла против 79,33 у неквантизированной версии, а базовый pass@1 составляет 79,3 против 80,8. Ограничения включают специализацию на английском языке и недопустимость использования на других языках согласно описанию модели; качество также может зависеть от особенностей FP8-квантизации и используемого движка. Модель распространяется по лицензии deepseek-license, условия которой определены в лицензии DeepSeek.

unsloth/DeepSeek-R1-0528-GGUF — это GGUF-квантизированное представление модели DeepSeek-R1-0528, разработанной DeepSeek и опубликованной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и инференса через совместимые инструменты, включая llama.cpp, а также для задач, требующих углублённого рассуждения. DeepSeek-R1-0528 ориентирована на решение математических задач, программирование, общую логику и сложные аналитические запросы. По сравнению с предыдущей версией заявлены улучшения глубины рассуждений и инференса, снижение частоты галлюцинаций, расширенная поддержка function calling и более качественная работа в сценариях vibe coding. Для модели указан язык English; модальность — текстовая. Размер и архитектура базовой модели в предоставленных данных не указаны. Модель использует чат-шаблон, совместимый с оригинальной DeepSeek-R1; для генерации рекомендуется temperature 0.5–0.7 и Top_P 0.95. Основное преимущество — усиленные способности к сложному рассуждению, программированию и математике; в README также сообщается о результатах, приближающихся к ведущим моделям в ряде бенчмарков. Ограничения включают необходимость корректной настройки шаблона чата и параметров генерации, а также зависимость характеристик от выбранного уровня GGUF-квантизации и аппаратного обеспечения. Лицензия — MIT.

Focus Red — перепакованная текстовая версия Qwen3.8-27B от Jaidchen. Из модели удалены компоненты обработки изображений и видео, а архитектура упрощена; заявленные автором преимущества — меньшие требования к памяти и хранилищу, более быстрая загрузка и инференс. Модель использует плотную архитектуру Qwen3_5ForCausalLM, содержит 22,3 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста в диалогах и сценариях с инструментами; метаданные также отмечают применение для программирования и агентных задач. Шаблон чата сохраняет настройки рассуждений Qwen и обработку вызовов инструментов. Изображения и видеокадры могут присутствовать в контексте, но модель не интерпретирует их. Генерация со случайной выборкой по умолчанию отключена, поэтому модель менее подходит для длинных творческих текстов и непринуждённого общения. Лицензия — Apache-2.0.

GLM-5.1-GGUF — квантованное распространение модели GLM-5.1, подготовленное Unsloth на базе zai-org/GLM-5.1. Это текстовая генеративная модель, ориентированная прежде всего на агентную разработку программного обеспечения и сложные инженерные задачи. Модель предназначена для написания и анализа кода, генерации репозиториев, работы с терминалом и многоэтапного решения задач с использованием инструментов. Согласно README, GLM-5.1 сохраняет эффективность на длинных сессиях, умеет разбивать неоднозначные задачи на этапы, проводить эксперименты, анализировать результаты, находить блокеры и пересматривать стратегию на протяжении сотен итераций и тысяч вызовов инструментов. Заявлена поддержка английского и китайского языков, режим text-generation и архитектурная маркировка GLM MoE DSA; точный размер модели и объём контекста не указаны. К сильным сторонам относятся агентное программирование, задачи SWE-Bench Pro, генерация репозиториев и реальные терминальные сценарии. Ограничения включают отсутствие в представленных данных сведений о мультимодальности, точном числе параметров, требованиях к оборудованию и качестве в других прикладных областях; приведённые результаты являются заявленными benchmark-показателями и не гарантируют аналогичную производительность в каждом сценарии. Распространение указано по лицензии MIT.

granite-8b-code-instruct-4k-GGUF — GGUF-версия инструкционной модели для генерации и работы с программным кодом. Базовая модель ibm-granite/granite-8b-code-base-4k разработана IBM, а данная сборка подготовлена пользователем Mungert с использованием llama.cpp. Модель содержит около 8 миллиардов параметров и рассчитана на контекст до 4K токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для задач, связанных с SQL, математическими инструкциями и вызовом функций. В README приведены результаты на HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust; заявленные значения pass@1 варьируются в зависимости от языка и задачи, однако помечены как непроверенные. Модель является текстовой и не поддерживает мультимодальные входы. Формат GGUF позволяет использовать модель через совместимые инструменты llama.cpp и применять различные уровни квантования. Автор сборки описывает дополнительное повышение точности отдельных слоёв при квантовании, что может улучшать качество при сохранении умеренного размера файла, но увеличивает его объём. Ограничениями являются контекст 4K токенов, возможное снижение качества из-за квантования и непроверенный статус приведённых оценок. Лицензия модели — Apache 2.0.

Grug v2 9B — дообученная модель ProCreations на архитектуре Qwen3.5 с 9 млрд параметров. Это полный объединённый чекпойнт, предназначенный для диалогов, рассуждений, генерации кода и работы с инструментами через XML-вызовы. README описывает исправление стиля внутренних рассуждений и сохранение навыков программирования и выбора инструментов; приведены результаты тестов HumanEval, MBPP и наборов действий с инструментами. Модель дообучена на базе ProCreations/grug-9b с использованием датасетов Grug; в описании также указаны 4 096 токенов контекста для этапа коррекции стиля. Репозиторий содержит веса safetensors и требует Transformers с поддержкой Qwen3.5. Лицензия — MIT. Хотя архитектура поддерживает обработку изображений, карточка не подтверждает соответствующий сценарий применения этой версии; метаданные указывают генерацию текста.

KAT-Coder-V2.5-Dev — открытая по весам MoE-модель для агентного программирования, выпущенная командой KAT. Она дообучена на базе Qwen3.6-35B-A3B с помощью supervised fine-tuning на 127 тысячах примеров и последующего обучения с подкреплением. Всего в модели 35 млрд параметров, из которых активируются 3 млрд; карточка указывает архитектуру семейства Qwen3.5 MoE и формат safetensors. Модель предназначена для решения задач программирования в агентных сценариях: анализа задач и выполнения действий через инструменты, доступные в окружении. Разработчики сообщают об улучшении результатов на тестах agentic coding относительно моделей сопоставимого размера и о снижении частоты некорректных меток инструментов и повторов. В README описан запуск через API, а метаданные указывают поддержку чата и интерфейса вызова инструментов. Языки карточки — английский и китайский; для примера оценки использовался контекст 256 тысяч токенов, но это не заявлено как предел модели. Лицензия — Apache-2.0.

Myric/KAT-Coder-V2.5-Dev-MTP-APEX-GGUF — это квантованная GGUF-сборка модели Kwaipilot/KAT-Coder-V2.5-Dev, разработанной на базе Qwen3.6-35B-A3B. Автор данной сборки в README не указан. Модель предназначена прежде всего для генерации программного кода и агентных сценариев разработки, включая работу с инструментами. В README для исходной модели указана оценка 69,40 на SWE-bench Verified против 64,40 у базовой Qwen3.6-35B-A3B. Архитектура представляет собой MoE-модель с 40 слоями, 256 маршрутизируемыми и одним общим экспертом, а также гибридной архитектурой GatedDeltaNet с периодическими слоями полноценного внимания. Сборка дополнена трансплантированной MTP-головой примерно на 850 млн параметров, взятой из Qwen3.6-35B-A3B, что позволяет использовать speculative decoding в llama.cpp. Рекомендуемая глубина чернового предсказания — n-max 3; в приведённом тесте ускорение достигало 2,03 раза на агентном наборе задач, а в зависимости от настроек и контекста — до 1,44 раза. Используются файлы размером около 19,24 GiB для рекомендуемой версии и около 11,91 GiB для более компактной динамической квантовки. Сильные стороны модели — специализация на программировании, поддержка агентных сценариев, MoE-архитектура и ускорение генерации посредством MTP без изменения проверяемой моделью корректности результата. Ограничения связаны с тем, что MTP-голова перенесена без дополнительного обучения на скрытых представлениях KAT-Coder, поэтому эффективность принятия черновых токенов снижается при чрезмерном увеличении глубины; при n-max 8 производительность может быть ниже, чем без speculative decoding. Точное число параметров, языки программирования и максимальный контекст в README не указаны; для тестов использовался контекст 32768 токенов. Распространение осуществляется по лицензии Apache-2.0. Для запуска требуется совместимое ПО, например llama.cpp, и достаточный объём памяти для выбранного GGUF-файла.

Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

cyankiwi/Laguna-S-2.1-AWQ-INT4 — квантизированная версия Laguna S 2.1 от poolside, подготовленная cyankiwi в формате AWQ INT4. Это текстовая модель text-to-text для агентного программирования, работы с инструментами и долгих многошаговых задач. Модель поддерживает интерleaved reasoning между вызовами инструментов и рассчитана на использование в vLLM, SGLang, Transformers, TRT-LLM и llama.cpp. Базовая модель содержит 118 млрд параметров, из которых около 8 млрд активируются на каждом токене, и использует Mixture-of-Experts с 256 маршрутизируемыми экспертами и одним общим экспертом. Архитектура включает 48 слоёв, grouped-query attention, 12 слоёв глобального внимания и 36 слоёв sliding-window attention с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, словарь — 100 352 токена. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки; модальность — текстовая. Ключевые преимущества — большое контекстное окно, эффективная MoE-архитектура, поддержка рассуждений и сценариев с инструментами, а также снижение требований к хранению и инференсу благодаря INT4-квантизации; размер файла указан как 76,83 ГБ. Ограничения включают высокие требования к вычислительным ресурсам даже в квантизированном виде и возможные потери качества из-за квантизации по сравнению с исходной точностью. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и изменение для коммерческих и некоммерческих целей.

Llama-3-11.5B-Instruct-Coder-v2-GGUF — это текстовая instruction-модель для генерации кода и выполнения запросов в формате диалога. Исходная модель опубликована rombodawg; в качестве базовой указана Replete-AI/Llama-3-11.5B-Instruct-V2. GGUF-квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации, дополнения и объяснения программного кода, а также для общих текстовых задач в сценариях, где требуется локальный запуск через llama.cpp или совместимые инструменты. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4. Модель имеет около 11,5 млрд параметров, работает с текстом и использует формат диалога Llama 3 с системными и пользовательскими сообщениями. Заявлен английский язык; сведения о поддерживаемом контексте, мультимодальности и точных архитектурных деталях не приведены. При сильном сжатии качество снижается, особенно у низкобитных вариантов, поэтому выбор квантизации является компромиссом между потреблением памяти и точностью. Указана лицензия Apache-2.0.

Millie-35B-A3B-11GB — мультимодальная MoE-модель для программирования и агентных сценариев, опубликованная llmsforall. Она основана на архитектуре Qwen3.5-35B-A3B и производна от Agents-A1. Всего в модели 35 млрд параметров, из которых на каждый токен активны около 3 млрд; заявленная длина контекста — 262 тыс. токенов. Модель принимает текст и изображения. Веса сжаты примерно до 2,2 бита на параметр, а файлы GGUF занимают около 10,9 ГБ вместе с визуальным проектором. Для запуска требуется форк llama.cpp от llmsforall с поддержкой этого формата и файл mmproj для обработки изображений; upstream-версия llama.cpp не подходит. Выпуск распространяется по лицензии Apache-2.0.

North Mini Code — открытая модель весов для генерации кода, агентной разработки программного обеспечения и выполнения задач в терминале, разработанная Cohere и Cohere Labs. Репозиторий unsloth/North-Mini-Code-1.0 содержит производную версию базовой модели CohereLabs/North-Mini-Code-1.0; метаданные указывают 1,2 млрд параметров, тогда как README базовой модели описывает конфигурацию на 30 млрд параметров, из которых активны 3 млрд. Это расхождение в размере может отражать различия между репозиториями, поэтому размер самой версии Unsloth следует трактовать по метаданным. Модель построена на декодерном Transformer с разреженной архитектурой Mixture-of-Experts и предназначена для текстового ввода и генерации текста. Она поддерживает контекст до 500 тыс. токенов согласно метаданным; README базовой модели приводит 256 тыс. токенов контекста и до 64 тыс. токенов вывода. Модель обучалась для агентного программирования и поддерживает интерфейс вызова инструментов, включая сценарии работы с терминалом. Карточка базовой модели сообщает о двухэтапном дообучении SFT и RLVR. Модель подходит для генерации кода, решения задач разработки с использованием инструментов и выполнения терминальных заданий. Она распространяется по лицензии Apache 2.0. Для запуска README рекомендует актуальные исходные версии Transformers или vLLM; точные результаты могут зависеть от среды и настроек генерации.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — опубликованная NVIDIA полноточная версия разговорной языковой модели, представленная на Hugging Face в виде GGUF BF16. Она предназначена прежде всего для разработчиков, которым нужны исходные веса для дообучения, адаптации к предметной области, исследований и подготовки собственных квантованных вариантов. Модель использует гибридную архитектуру Mixture-of-Experts с чередующимися слоями Mamba-2 и MoE, отдельными слоями Attention и механизмом Multi-Token Prediction; всего в ней 30 млрд параметров, из которых активно используются 3 млрд. Модель подходит для диалога, рассуждений, следования инструкциям, задач с кодом и работы в агентных системах. Контекст достигает 1 млн токенов на подходящем оборудовании; на одной H100 в README приведена проверка до 256 тыс. токенов из-за ограничений памяти. Основные языки — английский и языки программирования; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. README указывает, что модель готова к коммерческому применению, однако метаданные Hugging Face обозначают лицензию как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.