II.3Рефакторинг, миграция и модернизация

Qwen3-Coder-480B-A35B-Instruct-MLX-8bit — это 8-битная версия модели Qwen3-Coder-480B-A35B-Instruct, разработанной Qwen. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm и предназначено для работы на компьютерах с Apple Silicon. Модель относится к классу генеративных текстовых моделей и ориентирована прежде всего на задачи программирования и обработки текстовых запросов, включая использование в локальной среде через LM Studio. В README указано, что для работы требуется LM Studio версии 0.3.20 или новее. Архитектура исходной модели, число активируемых параметров, поддерживаемые языки и размер контекстного окна в предоставленных данных не уточняются. Ключевое преимущество варианта — 8-битное представление, оптимизированное для экосистемы Apple Silicon, что делает модель более подходящей для локального запуска с меньшими требованиями к памяти по сравнению с полноразмерной версией. Ограничения связаны с зависимостью от совместимого программного окружения и оборудования, а также с тем, что модель может генерировать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-Coder-Next-FP8-dynamic — это квантизированная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная Red Hat. Модель построена на архитектуре Qwen3NextForCausalLM, принимает текст и генерирует текст и предназначена прежде всего для задач генерации и обработки программного кода. Поддержка инструментов и вызовов функций предусмотрена при развертывании через vLLM. В модели используется квантизация весов и активаций в формат FP8 для линейных операторов внутри трансформерных блоков. Это снижает число битов на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Размер модели, языки и максимальная длина контекста в README не указаны. Для работы рекомендуется vLLM; формат хранения — compressed-tensors. В представленном тестировании на SWE-Bench Lite модель получила результат 53 против 49,33 у исходной Qwen3-Coder-Next. Ограничение заключается в том, что приведена только оценка на задаче SWE-Bench Lite, поэтому по этим данным нельзя полноценно судить о качестве на других сценариях и о влиянии квантизации на все типы запросов. Модель распространяется по лицензии Apache-2.0.

Saikrishna2511/qwen-multitask — компактная модель, дообученная автором на базе Qwen2.5-Coder-0.5B-Instruct для генерации кода и документации. Это плотная авторегрессионная архитектура Qwen2 с 494 млн параметров; модель загружает текстовые запросы и генерирует текст. Для задач используются разные префиксы промптов: описание задачи на естественном языке для создания Python-кода, Java-код для перевода в Python и Python-код для генерации документации. Модель рассчитана прежде всего на работу с Python; качество перевода Java зависит от покрытия обучающими данными. Контекст составляет 32 768 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; лицензия Apache-2.0.

Qwopus-3.6-27B-Coder — это плотная модель с 27 млрд параметров для агентного программирования, созданная Jackrong на основе Qwopus3.6-27B-v2. Модель дообучена для генерации и отладки кода, работы на уровне репозитория, выполнения многошаговых задач разработки, структурированных вызовов инструментов и function calling. Релиз представлен в формате GGUF и ориентирован на использование с llama.cpp и совместимыми средствами инференса. Модель поддерживает текстовые и визуальные сценарии image-text-to-text, а также заявлена как multimodal. Указаны языки English, Chinese, Spanish, Russian и Japanese. Она предназначена для агентных рабочих процессов с многоходовым взаимодействием, инструментами и обратной связью среды; заявлена поддержка native long context, однако точный размер контекстного окна не указан. Обучение использовало наборы данных с реконструированными reasoning-трассами Claude Opus и агентными траекториями. Сильными сторонами являются специализация на сложных задачах программирования, инструментальном взаимодействии и логическом рассуждении; для базовой модели заявлены 87,43% на MMLU-Pro и 75,25% на SWE-bench Verified, а для этого релиза — 67,0% на SWE-bench Verified в режиме off-thinking. Эти результаты приведены авторами и не сопровождаются методикой проверки в представленном README. Ограничения включают отсутствие точных сведений об архитектуре, размере контекста, вариантах квантования и требованиях к памяти, а также неполное описание поведения мультимодальных возможностей. Лицензия — Apache-2.0.

Speechless Code Mistral Orca 7B v1.0 — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/speechless-code-mistral-orca-7b-v1.0 методом SLERP. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате, в том числе для задач, связанных с кодом. Контекст модели составляет до 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. В карточке не приведены сведения о языковом покрытии или результаты оценки качества.

StarCoder2-15B-Instruct-v0.1 — языковая модель для генерации кода по инструкциям, созданная командой BigCode. Её дообучили на StarCoder2-15B на синтетических парах «инструкция — ответ», которые исходная модель сгенерировала и отфильтровала выполнением кода; человеческая разметка и данные дистилляции от крупных закрытых моделей не использовались. Модель предназначена для одношаговых ответов на запросы, связанные с программированием: например, генерации функций, исправления и объяснения кода. Это плотная causal language model семейства StarCoder2 с 21,7 млрд параметров и контекстом 16 384 токена. Она принимает текстовые инструкции и генерирует текст, в том числе код; языковые коды естественных языков в метаданных не указаны. Модель распространяется в формате Safetensors и рассчитана на использование через Transformers. Лицензия — BigCode OpenRAIL-M; перед использованием следует учитывать её условия и ограничения. В карточке отмечено, что инструкции не связанные с программированием могут давать менее точные ответы; заявленный сценарий — один ход, поэтому диалоговые возможности не следует считать подтверждёнными.

Strand-Rust-Coder-14B-v1-GGUF — GGUF-квантизированная версия специализированной языковой модели для программирования на Rust. Модель разработана в экосистеме Fortytwo Network на базе Qwen2.5-Coder-14B-Instruct и дообучена методом LoRA на наборе Strandset-Rust-v1, содержащем 191 008 синтетических, проверенных примеров. Данные создавались и валидировались с использованием децентрализованной архитектуры Swarm Inference, в которой несколько моделей генерируют, проверяют и ранжируют ответы. Модель предназначена для генерации и дополнения Rust-кода, поиска и исправления ошибок, рефакторинга, оптимизации, генерации тестов и документации, code review, суммаризации, подбора имён и предсказания использования API. По заявленным результатам, она особенно сильна в задачах, связанных с пониманием владения и времён жизни Rust. На наборах RustEvo^2 и Hold-Out Set указаны показатели точности 43% и 48% соответственно; измерения проводились по доле прохождения модульных тестов при генерации одного ответа в изолированной среде Rust 1.86.0. Архитектура основана на Qwen2.5-Coder с 14 млрд параметров, GQA-вниманием и расширенными RoPE-эмбеддингами. Указаны контекст до 32 768 токенов и токенизатор с словарём около 151 тысячи элементов. GGUF-файлы созданы с помощью llama.cpp; автор также описывает выборочное повышение точности отдельных слоёв при квантизации, что может улучшать качество при увеличении размера файла. Модель ориентирована прежде всего на Rust и сохраняет общие возможности кодирования, однако заявленные метрики и преимущества относятся главным образом к Rust-задачам, а качество может зависеть от конкретного варианта квантизации. Лицензия — Apache-2.0.

Tiel-Coder-35B-A3B-Genesis-Hermes-NVFP4-GGUF — это квантизированная в формате GGUF модель LuffyTheFox, созданная на базе Tiel-Coder-35B-A3B с переносом данных Hermes-файнтюнинга от DJLougen и последующей обработкой алгоритмом Genesis. Модель использует архитектуру Mixture of Experts: около 35 млрд параметров всего и примерно 3 млрд активных параметров на токен; заявлено 8 активных экспертов. Квантизация выполнена в формате NVFP4, то есть NVIDIA 4-bit Floating Point. Модель предназначена для агентного программирования, точной генерации кода, задач с вызовом инструментов в формате Hermes, рассуждений в режиме Thinking и мультимодальных сценариев с изображениями. Заявлена поддержка английского, китайского и других языков. В примере конфигурации указан контекст до 128K токенов. Для совместимости с Hermes Agent рекомендуется использовать JSON-формат вызовов инструментов через параметр tool_call_format, поскольку шаблон чата может по умолчанию формировать XML-вызовы. Сильными сторонами модели являются MoE-архитектура с относительно небольшим числом активных параметров, поддержка программирования, инструментов, рассуждений и vision, а также ориентация на стабильную генерацию после постобработки Genesis. Ограничения связаны с использованием низкобитной NVFP4-квантизации, возможными требованиями к совместимому ПО и оборудованию, а также необходимостью корректно настроить шаблон чата и параметры сэмплирования. Репозиторий распространяется по лицензии MIT.

VeriLoop E2 — открытая модель с 27 млрд параметров, разработанная Tsinghua SIGS Robot Lab и Libo Wang на основе Qwen3.8-27B и дообученная для программирования, математики и физики. Это плотная модель семейства Qwen3.5 с поддержкой диалогов и интерфейса вызова инструментов; она принимает текст и, согласно характеристикам базовой модели и тегам, изображения. Нативное окно контекста составляет 262 144 токена. Для запуска доступны веса safetensors и библиотека Transformers; README также описывает совместимый с OpenAI способ обслуживания через vLLM. Модель предназначена для инженерных задач с кодом, математического и научного рассуждения, а также сценариев с инструментами и проверкой промежуточных результатов. Подход VeriLoop-Governed Recurrence предполагает, что модель предлагает варианты решения, а внешний Harness проверяет и принимает их; рабочая реализация производственного Harness в репозитории не опубликована. В README приведены результаты на кодовых, математических и научных бенчмарках, однако они относятся к конкретной конфигурации оценки и не гарантируют аналогичных результатов в другом окружении. Модель может выдавать ошибочный код, доказательства или научные рассуждения, поэтому результаты требуют проверки. Работа с длинным контекстом зависит от конфигурации сервера и доступной памяти. Лицензия — Apache 2.0.

WizardCoder-33B-V1.1 — языковая модель для генерации кода, разработанная командой WizardLM и обученная на базе deepseek-coder-33b-base с применением Code Evol-Instruct к данным Code-Alpaca. Это плотная causal language model семейства Llama с 33,1 млрд параметров, рассчитанная на контекст до 16 384 токенов; веса опубликованы в формате safetensors и предназначены для использования через Transformers. Модель отвечает на инструкции по программированию: пишет код по описанию, решает задачи на программирование и помогает с типовыми изменениями кода. В README приведены результаты на HumanEval, HumanEval-Plus, MBPP и MBPP-Plus. Для воспроизведения ответов авторы рекомендуют использовать указанный в карточке формат системного промпта. Модель ориентирована на код; поддержка конкретных естественных языков отдельно не заявлена. Известное ограничение: авторы не гарантируют точность квантованных версий. Лицензия в предоставленных данных не указана.

Карточка модели 01-ai/Yi-Coder-1.5B на Hugging Face совпадает с карточкой 01-ai/Yi-Coder-9B-Chat, поэтому описание составлено по ней. Yi-Coder-9B-Chat — диалоговая модель для генерации кода, выпущенная командой 01.AI как часть серии Yi-Coder. Она дообучена на базе 01-ai/Yi-Coder-9B и построена на плотной архитектуре семейства Llama с 8,6 млрд параметров. Модель предназначена для программирования в формате чата: она может писать код по запросу и работать с длинным контекстом до 131 072 токенов. Серия Yi-Coder заявляет поддержку 52 распространённых языков программирования и сильные результаты в задачах кодирования при размере менее 10 млрд параметров. Модель загружается через Transformers и использует формат safetensors. Лицензия — Apache-2.0. Карточка не приводит ограничений на качество или конкретных рекомендаций по использованию, поэтому ответы сгенерированного кода следует проверять перед применением.

BTL-3 Compact — компактная локальная текстовая модель Bad Theory Labs для программирования, рассуждений и работы с инструментами. Она основана на Qwen3.6-27B и выпущена в виде файла GGUF размером 8,39 ГБ с архитектурой из 64 слоёв и сжатым представлением AVQ2/UniSVQ, дополненным точечными более точными тензорами и коррекциями поведения. Модель предназначена для локального запуска через llama.cpp, включая сценарии с агентами, репозиториями и OpenAI-совместимым сервером. Карточка сообщает о поддержке структурированного и многошагового вызова инструментов и приводит внутреннюю оценку сохранения 62 из 63 проверенных вариантов поведения; это не публичный бенчмарк. Рекомендованный режим — без включённого рассуждения: экспериментальный режим с ним может зацикливаться или не завершать ответ, а проверка для задач программирования в этом режиме не пройдена. Контекст зависит от памяти устройства, KV-кэша и ресурсов среды выполнения. Проверена работа на macOS arm64 с Metal; поддержка Linux arm64 и CUDA обозначена как предварительная. Лицензия — Apache-2.0.

CodeLlama-7b-hf — базовая генеративная модель Meta для синтеза и понимания программного кода. Это версия семейства Code Llama с 7 млрд параметров в формате Transformers; архитектура — авторегрессионный оптимизированный трансформер семейства Llama. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов. Модель предназначена для автодополнения кода и infilling — заполнения пропусков в коде. README отмечает, что эта базовая версия не предназначена для инструкционного диалога; для следования инструкциям в семействе есть отдельный вариант Instruct. Модель рассчитана на английский язык и языки программирования. Лицензия — пользовательская лицензия Meta для Llama 2, условия которой следует учитывать при использовании.

Code-Writer-V2-Obliterated-BF16 — модель на базе Qwen3.5, опубликованная groxaxo. Согласно README, это результат слияния базовой модели llmfan46/Qwen3.5-27B-Writer-V2-uncensored-heretic с LoRA-адаптером для программирования; веса сохранены в BF16 без квантизации. Метаданные указывают архитектуру Qwen3.5 с плотной моделью типа Qwen3_5ForConditionalGeneration и формат safetensors. В README заявлен размер 27 млрд параметров и контекст до 200 000 токенов; эти значения не подтверждены метаданными. Модель предназначена для генерации кода и творческих текстов, а также для работы с длинными запросами, например с крупными фрагментами кодовой базы или рукописями. Метаданные классифицируют её как text-generation и отмечают поддержку чата и кода. README описывает визуальный модуль, но указывает, что обработка изображений не проверена; поэтому основное подтверждённое назначение — текстовое. Естественный язык в метаданных карточки — английский. Модель выпущена по лицензии Apache-2.0. Возможны неточные или неподходящие ответы; результаты кода и текста следует проверять. Визуальные сценарии требуют отдельной проверки совместимости и качества.

daVinci-Dev-72B — модель GAIR для агентной разработки программного обеспечения. Она дообучена на базе Qwen2.5-72B и проходит mid-training на траекториях работы с запросами на слияние GitHub, затем supervised fine-tuning на успешных траекториях агента из исполняемых репозиториев. Модель рассчитана на использование в SWE-Agent и совместима со стандартными средствами инференса на базе Transformers. Модель предназначена для решения задач разработки кода в цикле с инструментами, тестами и обратной связью среды: например, поиска нужного контекста в репозитории, внесения изменений и проверки исправлений. В README для SWE-Bench Verified заявлен Pass@1 58,5% при использовании SWE-Agent, контексте 128 тыс. токенов и бюджете 100 шагов; нативный контекст модели по метаданным — 32 768 токенов. Веса представлены в формате safetensors, размер модели — 71,5 млрд параметров. Указана лицензия other; README не уточняет её условия.

DeepSeek-Coder-V2-Instruct-0724-GGUF — это квантизированная в формате GGUF версия большой MoE-модели для генерации текста и программного кода DeepSeek-Coder-V2-Instruct-0724. Исходную модель разработала команда deepseek-ai, а GGUF-квантизацию подготовил bartowski на основе llama.cpp версии b3715. Модель предназначена прежде всего для задач, связанных с написанием и обработкой кода, однако конкретные поддерживаемые языки программирования, размер, длина контекста и другие архитектурные параметры в README не указаны. Модель можно использовать в инструментах, поддерживающих формат GGUF и шаблон запросов Jinja, в частности в LM Studio. Квантизация делает модель пригодной для локального запуска при наличии совместимого программного обеспечения и подходящих аппаратных ресурсов, но README не содержит сведений о точных требованиях, вариантах квантизации, производительности или качестве на отдельных задачах. Как и другие генеративные модели, она может создавать неточные или неподходящие ответы. Указана лицензия DeepSeek License; тип лицензии обозначен как other, а полный текст доступен в файле LICENSE. Дополнительные сведения о том, что изменилось относительно исходной модели, в README отсутствуют.

DeepSeek-Coder-V2-Lite-Instruct-IMat-GGUF — это набор GGUF-квантизованных версий модели DeepSeek-Coder-V2-Lite-Instruct, подготовленный legraphista с использованием llama.cpp. Исходная модель имеет формат BF16, а представленные варианты включают BF16, FP16 и уровни квантизации от Q8_0 до 1-битных форматов. Для ряда вариантов применена IMatrix-квантизация на основе указанного калибровочного набора данных. Модель предназначена для генерации текста и, прежде всего, для задач программирования и диалогового использования в совместимых средах, включая llama.cpp. Доступны файлы размером примерно от 6,43 до 31,42 ГБ; конкретный объём зависит от выбранного формата. GGUF-варианты позволяют выбирать компромисс между качеством, требованиями к памяти и скоростью работы, однако README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях или размере контекста. Лицензия указана как deepseek-license; дополнительные условия находятся в файле LICENSE. README не приводит подробностей о сравнительных преимуществах, известных ограничениях или результатах оценки, поэтому качество и пригодность конкретного варианта следует оценивать с учётом выбранного уровня квантизации и используемой аппаратной конфигурации.

Gemini 3.7 Flash — мультимодальная модель Google для быстрых агентных сценариев, программирования и сложных многошаговых рассуждений. Она предназначена для задач, где важны отзывчивость и надёжное выполнение последовательности шагов. Каталог классифицирует модель как image-text-to-text, что указывает на обработку изображений с выдачей текстового ответа. Данных о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных сведениях нет. README описывает модель как мультимодальную, но не уточняет перечень модальностей и конкретные ограничения.

Это 4-битная смешанно-точная MLX-квантизация модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community с помощью инструментария mlx-optiq. Исходная модель представляет собой дообученную для программирования версию Gemma-4-12B. Вариант предназначен для локального запуска на компьютерах Apple Silicon без PyTorch и облачных сервисов. Модель ориентирована прежде всего на генерацию и анализ кода, рассуждения, ответы на вопросы, арифметику и работу с изображениями. Она использует архитектуру encoder-free gemma4_unified с мультимодальным обработчиком; входные изображения поддерживаются, а мультимодальный embedder сохранён в формате bf16. Языковая часть содержит 328 квантизируемых слоёв: 156 чувствительных слоёв работают в 8-bit, остальные 172 — в 4-bit. Средняя эффективная точность составляет 5,216 бит на вес, размер модели на диске — около 8,4 ГБ вместо 22 ГБ для версии bf16, поэтому она рассчитана на запуск, в частности, на Mac с 16 ГБ памяти. Точный размер контекста и список поддерживаемых языков в карточке не указаны. К сильным сторонам относятся существенное снижение требований к памяти, поддержка изображений, локальная работа и сохранение более высокой точности для чувствительных слоёв. Модель способна рассуждать перед ответом, поэтому ей требуется достаточный лимит токенов. Ограничения связаны с отсутствием собственных тестов производительности для этой квантизации, переносом схемы распределения разрядности с базовой модели и неизбежной погрешностью 4-битного представления. Для загрузки необходима регистрация архитектуры через mlx-optiq. Модель распространяется по лицензии Apache-2.0 и должна использоваться на тех же условиях, что и исходная модель.

0xSero/GLM-4.7-185B — сжатая версия GLM-4.7, созданная 0xSero методом REAP (Router-weighted Expert Activation Pruning), разработанным Cerebras. Модель построена на разреженной архитектуре Mixture-of-Experts: из исходных 160 экспертов оставлено 80. В карточке указаны 23,4 млрд параметров, тогда как README описывает вариант как 185B; README также приводит исходный размер 358B и сокращение до 179B после обрезки, поэтому оценки размера расходятся. Модель предназначена прежде всего для генерации кода, вызова функций и инструментов, а также многошаговых агентных сценариев. Она принимает текст и генерирует текст, поддерживает диалог и код; максимальная длина контекста по метаданным — 202 752 токена. README заявляет совместимость с vLLM, Transformers и SGLang, а метаданные указывают библиотеку Transformers и формат Safetensors. Калибровка при обрезке экспертов ориентирована на код, структурированный вывод для вызова инструментов и агентные траектории; автор заявляет, что дообучение не проводилось. Модель распространяется по лицензии Apache-2.0. Показатели качества и сохранения возможностей в предоставленных материалах не приведены, поэтому пригодность для конкретной нагрузки следует оценивать отдельно.

GLM-4.7-Flash-Coder — дообученная модель whitecircle на базе GLM-4.7-Flash от Z.ai, предназначенная для агентного программирования и решения задач по изменению кода в репозиториях. По карточке это 30-миллиардная MoE-модель, а метаданные указывают 4,1 млрд параметров; размер активной части MoE и общее число параметров в источниках расходятся. Модель принимает текст и генерирует текст, включая рассуждения и вызовы инструментов. В карточке заявлен контекст обучения 75 тыс. токенов, а метаданные базовой модели указывают нативный контекст 202 752 токена. Модель дообучена методом SFT на успешных многошаговых трассах SWE-rebench-V2, созданных GLM-5.1 и отобранных после проверки тестами. В оценке на тестовом наборе SWE-rebench-V2 показатель pass@1 составил 41,65% против 33,15% у базовой модели; авторы также описывают более частое параллельное использование инструментов и меньшее число ходов. Предназначена для работы в агентной среде с инструментами чтения, редактирования и запуска команд; результаты зависят от среды исполнения и не гарантируют корректность изменений. Лицензия — MIT.

GLM-5.3-Flash — мультимодальная модель семейства GLM, разработанная Z.ai. Репозиторий unsloth содержит дообученную версию базовой модели zai-org/GLM-5.3-Flash-BF16 и распространяет веса в формате safetensors; заявлена лицензия MIT. Модель предназначена для диалогов и генерации текста, включая программирование и агентные сценарии. Архитектура GLM-5 Next сочетает разреженное и линейное внимание; в README указаны 320 млрд параметров всего и 18 млрд активных параметров. Разработчик также описывает мультимодальное предварительное обучение и улучшенную эффективность при работе с длинным контекстом, но точная длина контекста этой копии не приведена. Карточка базовой модели характеризует её как мультимодальную и поддерживающую анализ изображений, однако метаданные этого репозитория указывают в качестве задачи только text-generation. Поэтому назначение копии как модели для обработки изображений отдельно не подтверждено. Языковые теги карточки — английский и китайский. Практическое развёртывание требует соответствующей инфраструктуры для модели такого масштаба; в README перечислены SGLang, vLLM, TokenSpeed и KTransformers.

h2oai/h2ogpt-32k-codellama-34b-instruct — версия модели h2ogpt от H2O.ai для генерации текста, созданная на архитектуре Llama и ориентированная на работу с кодом. В README указано, что конфигурацию изменили относительно h2oai/h2ogpt-16k-codellama-34b-instruct: значение контекста выставлено на 32K для работы с эмбеддингами и использования через vLLM; автор отмечает, что модель также работает как 16K-модель. Метаданные указывают 33,5 млрд параметров и контекст 32 768 токенов. Модель подходит для генерации и продолжения кода, а также для работы с длинными текстовыми запросами в сценариях разработки. Это плотная авторегрессионная LlamaForCausalLM с весами PyTorch/Safetensors. Лицензия — Llama 2; условия её использования определяются лицензией Llama 2.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-GGUF — это квантизированная GGUF-версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и подготовленной Ttimms. Модель предназначена для генерации текста и программного кода, агентного программирования и работы через llama.cpp-совместимые приложения. Указан английский язык. В основе лежит гибридная архитектура Gated-DeltaNet и Mixture of Experts (MoE). В результате 50-процентного pruning методом REAP число экспертов сокращено с 256 до 128, общий размер составляет около 19 млрд параметров, а активными при инференсе являются примерно 3 млрд параметров. Vision tower удалён, MTP head отсутствует. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ и рассчитан на запуск в системах с 16 ГБ памяти. Сильные стороны модели — высокая эффективность MoE при относительно умеренных требованиях к вычислениям, поддержка CPU и Apple Silicon, а также хорошие заявленные результаты на HumanEval+ и MBPP+. Для работы требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama зависит от обновления встроенной версии llama.cpp. Более качественные кванты требуют больше памяти, а Q8_0 нуждается более чем в 16 ГБ или в выгрузке части вычислений на CPU. Заявленные результаты основаны на одиночных greedy-запусках и имеют заметный разброс между повторными измерениями. Модель распространяется по лицензии Apache-2.0.

Kepler-7B — языковая модель на 7,1 млрд параметров, созданная слиянием SLERP моделей DeepSeek-R1-Distill-Qwen-7B и Qwen2.5-Coder-7B-Instruct. Она использует архитектуру Qwen2 и предназначена для генерации текста в диалоговом формате, в том числе для задач анализа и написания кода. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Файлы опубликованы в формате safetensors для библиотеки Transformers. Лицензия — Apache-2.0. README не содержит результатов оценки качества или подробных рекомендаций по применению.

Laguna-XS 2.1 JANG2L CRACK — текстовая модель для генерации кода и агентных сценариев, выпущенная dealignai на основе poolside/Laguna-XS-2.1. По карточке модели, это MoE-модель с 33 млрд параметров и примерно 3 млрд активных параметров; в метаданных размер указан как 2,6 млрд параметров. Версия JANG2L использует смешанную низкоразрядную квантизацию MLX для Apple Silicon, а CRACK удаляет поведение отказа на уровне весов. Репозиторий содержит веса safetensors, модель рассчитана на запуск через MLX, прежде всего с vMLX. Модель предназначена для агентного программирования, рассуждений и вызова инструментов; поддерживает текстовый ввод и генерацию текста, а также контекст до 262 144 токенов. Карточка заявляет сохранение возможностей кодирования, рассуждений и вызова инструментов после преобразований и приводит результаты MMLU и HarmBench, полученные в vMLX. Английский указан среди языков модели. Для генерации рекомендуется явно задавать temperature=1.0, top_p=1.0 и top_k=20: среды инференса могут игнорировать настройки в файлах конфигурации, что, по карточке, ухудшает качество вывода. Модель настроена следовать инструкциям без отказа, включая потенциально опасные запросы. Лицензия обозначена как other; подробные условия в предоставленных данных не раскрыты.

Norns-Qwen2.5-Coder-7B-Instruct-v0.1 — языковая модель на архитектуре Qwen2, созданная автором win10 слиянием моделей методом TIES через mergekit. В качестве основы использована Qwen/Qwen2.5-Coder-7B-Instruct, также в слияние вошла win10/Urdandi-Qwen2.5-7B. Модель предназначена для генерации кода и диалогового взаимодействия с инструкциями по программированию. Она содержит 7,1 млрд параметров, принимает текст и выдаёт текст; нативная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на работу с библиотекой Transformers. Лицензия в предоставленных данных не указана. Карточка не сообщает о специальных ограничениях или результатах оценки качества; производительность может отличаться от базовых моделей из-за слияния.

OpenThinker-Agent-v1-GGUF — набор GGUF-квантизаций модели OpenThinker-Agent-v1, разработанной командой open-thoughts и подготовленной пользователем bartowski с использованием llama.cpp и imatrix-калибровки. Модель ориентирована на агентские сценарии, работу с терминалом, генерацию кода и задачи software engineering. Обучение связано с датасетами OpenThoughts-Agent-v1-SFT и OpenThoughts-Agent-v1-RL. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 размером 16,39 ГБ до низкобитных квантизаций, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K; конкретный размер и качество зависят от выбранного файла. Для взаимодействия используется chat-шаблон с маркерами system, user и assistant. Данные о точной архитектуре, числе параметров, поддерживаемых языках и размере контекста в README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и оптимизация вариантов imatrix для сохранения качества при уменьшении размера. Более компактные варианты подходят для систем с ограниченной памятью, но могут уступать старшим версиям по качеству. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-35B-A3B — языковая модель семейства Ornith-1.5, разработанная командой Ornith. Это среднеразмерная sparse Mixture-of-Experts модель с 35 млрд параметров, из которых при обработке каждого токена активируется около 3 млрд. Представленная версия предназначена для запуска через библиотеку MLX в 4-битном формате квантования и поддерживает генерацию текста. Модель ориентирована прежде всего на программирование, работу с терминалом и агентские сценарии, включая автономное решение задач разработки и взаимодействие с инструментами. Согласно карточке модели, она обучалась с использованием цикла самоулучшения: модель совместно оптимизировала генерацию задач, построение scaffolding и последовательности решений с помощью reinforcement learning. Заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified; однако приведённые показатели зависят от конкретного окружения и конфигурации агентского harness. К сильным сторонам относятся высокая эффективность инференса за счёт активации небольшой части параметров, специализация на кодировании и агентской работе, а также 4-битное представление для запуска в экосистеме MLX. В доступных данных не указаны максимальная длина контекста, полный список поддерживаемых языков, мультимодальные возможности, требования к оборудованию и лицензия, поэтому эти характеристики и условия использования требуют дополнительной проверки.

SC117 публикует GGUF-сборку Ornith-1.5-35B-A3B-MTP-APEX — MoE-модели команды Ornith для агентного программирования и генерации текста. Базовая модель содержит 35 млрд параметров, из которых активируется около 3 млрд на токен; в этой сборке доступны квантизованные профили APEX и вариант BF16. APEX распределяет точность по типам и важности тензоров, а MTP-слой встроен в модель. Модель предназначена для решения задач программирования с участием агента, включая работу в терминале и с инструментами, а также для генерации текста. Репозиторий включает проектор mmproj-BF16.gguf для обработки изображений вместе с текстом через llama.cpp; заявлена возможность контекста до 131072 токенов. README приводит результаты на бенчмарках SWE-bench, Terminal-Bench и других задачах программирования и агентного взаимодействия. Сборка распространяется по лицензии MIT. Она основана на ornith-ai/Ornith-1.5-35B-A3B; метаданные каталога отмечают связь finetune, а файлы репозитория включают GGUF и GGUF BF16. README описывает дополнительные квантизованные профили APEX. Поддержка языков программирования и естественных языков отдельно не перечислена, поэтому конкретные языки здесь не указаны.