II.3Рефакторинг, миграция и модернизация

Shark-Coder — слитая модель генерации текста для задач программирования, созданная powermove72 с помощью LazyMergekit на основе powermove72/Shark-1 и S-miguel/The-Trinity-Coder-7B. В конфигурации объединены слои 0–15 Shark-1 и слои 16–31 The-Trinity-Coder-7B методом passthrough; для токенизатора используется union, а веса представлены в FP16 формате safetensors. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации и дополнения кода. Метаданные каталога также характеризуют базовую модель как подходящую для логических рассуждений и решения задач по программированию; отдельные языки программирования или естественные языки не перечислены. Лицензия в предоставленных данных не указана.

Tiny Pickle v3 Coder — экспериментальная модель для программирования и инженерии ПО, разработанная как производная Qwen/Qwen3-Coder-30B-A3B-Instruct с адаптером LoRA vsan/tiny-pickle-v3-coder-LoRA. Адаптер объединён с весами и опубликован в формате BF16 Safetensors; архитектура — Qwen3 MoE, класс Qwen3MoeForCausalLM. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации и отладки кода, ревью, планирования реализации, создания тестов и помощи в разработке ПО. Она поддерживает диалоговый интерфейс и интерфейс вызова инструментов; основная задача в каталоге — генерация текста. Указана лицензия Apache-2.0. README характеризует модель как экспериментальную и не приводит независимых результатов, подтверждающих преимущество над базовой моделью.

Truss Python — специализированная дообученная модель Truss AI для генерации и объяснения кода на Python. Она основана на Qwen/Qwen3-4B-Instruct-2507 и использует архитектуру Qwen3ForCausalLM; карточка указывает 4 млрд параметров и контекст до 262 144 токенов. Модель распространяется в формате GGUF с квантизацией Q4_K_M и адаптацией LoRA, рассчитана на локальный запуск, в том числе через Ollama. Модель предназначена для генерации аккуратно структурированного кода, решения алгоритмических задач и помощи с асинхронным программированием, стандартной библиотекой Python и структурами данных. Она ориентирована на аннотации типов, документацию в стиле Google, обработку ошибок и синтаксис Python 3.10+. Лицензия — Apache 2.0. Карточка описывает поддержку английского языка; качество кода и корректность результатов следует проверять, особенно для сложных задач и кода, используемого в production.

Vedika-Code-Pro-v1 — языковая модель Veda Labs, предназначенная для программирования и задач рассуждения. В метаданных Hugging Face указаны архитектура VedikaCodeProV1ForCausalLM, плотный тип архитектуры, 44,9 млрд параметров, библиотека Transformers и формат Safetensors. README приводит другие характеристики размера: 1,6 трлн общих параметров и 49 млрд активируемых; это расхождение не позволяет однозначно установить фактический размер модели. Заявлена длина контекста около 1 млн токенов. Модель принимает текст и генерирует текст; README указывает на форматирование сообщений, совместимое с OpenAI, и отдельные скрипты кодирования, поскольку в выпуске нет шаблона чата Jinja. Она рассчитана на помощь в написании кода и рассуждениях, в том числе в сценариях разработки. Язык программирования и поддерживаемые естественные языки в доступных данных не перечислены. Лицензия — MIT.

Wizard-llama3-70B — дообученная компанией feeltheAGI языковая модель на архитектуре Llama 3 с 69,5 млрд параметров. Она основана на meta-llama/Meta-Llama-3-70B и дообучена на открытых наборах данных, включая дополнительные данные по программированию. Модель генерирует текст, следует инструкциям и поддерживает диалоговый шаблон ChatML; заявлены навыки логического рассуждения, программирования и начальные агентные возможности с вызовом функций. Модель рассчитана на англоязычные диалоги, выполнение инструкций, решение логических задач и помощь с кодом. Контекст составляет 8192 токена, формат весов — PyTorch. Разработчик стремился снизить ограничения на генерируемый контент, поэтому ответы могут включать нежелательные или небезопасные материалы. Лицензия — MIT.

Agnuxo/Agente-GPT-Qwen-2.5-7B_GGUF_16bit — локальная чат-модель на базе семейства Qwen 2.5, представленная Francisco Angulo de Lafuente в экосистеме P2PCLAW. По README, модель рассчитана на работу в роли автономного агента и может запускаться локально через Ollama; в карточке указаны 7 млрд параметров и архитектура Qwen2. Формат весов — GGUF F16, лицензия — Apache-2.0. Модель предназначена для генерации текста и кода, декомпозиции задач и взаимодействия с агентными системами через MCP и A2A. README описывает навыки для Python, JavaScript, TypeScript, Rust, Go и C++, а также научных вычислений и машинного обучения. При запросе на подготовку научной статьи README предписывает перенаправлять задачу в P2PCLAW; это ограничивает её самостоятельное использование для генерации таких текстов. Языки карточки — английский и испанский; сведения о контекстном окне и независимых оценках качества не приведены.

Altar-1 — крупная разреженная языковая модель для генерации текста, разработанная на базе GLM-5.3 от Z.AI и опубликованная под идентификатором AikidoSec/altar-1. Прунинг выполнил 0xSero с использованием метода REAP, а квантованная основа взята из cyankiwi/GLM-5.3-AWQ-INT4. Модель предназначена для кибербезопасности, программирования, вызова инструментов, рассуждений и генерации структурированных ответов. При калибровке использовались трассы кибербезопасности, код, сценарии tool calling, reasoning, англоязычные данные и многоязычные статьи Wikipedia. Архитектурно это Mixture-of-Experts: после удаления 34% экспертов сохранено 168 из 256 экспертов в каждом слое, при этом для каждого токена активируются 8 экспертов, что соответствует примерно 40B активных параметров. Общий размер модели составляет около 504B параметров, а веса занимают примерно 328 ГБ. Маршрутизируемые эксперты представлены в формате INT4 W4A16 с AWQ и compressed-tensors, тогда как attention, shared expert, плотные слои и выходная голова сохранены в BF16. Заявлена поддержка контекста до 131072 токенов и развёртывание через vLLM на четырёх GPU H100 или H200 с Hopper и ядром Marlin MoE. По данным README, близость к полной BF16-версии составляет 0,506 ната KL-дивергенции на закрытой выборке из 25 запросов, однако подробные оценки качества ограничены указанными исследованиями. Сильными сторонами модели являются существенное сокращение размера по сравнению с исходной GLM-5.3, сохранение доменных специалистов для кода, редких языков и структурированного вывода, а также возможность промышленного сервинга на 4× H200. Ограничениями остаются очень высокие требования к памяти и оборудованию, зависимость от Hopper и vLLM, отсутствие подробных независимых бенчмарков в README и неуказанный точный перечень поддерживаемых языков. Лицензия обозначена как other и наследуется от лицензии GLM-5.3; перед использованием необходимо ознакомиться с её условиями.

Jebadiah/Aria-ruby-v4-e — созданная с помощью mergekit слитая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В README описано объединение Aria-ruby-v3 и Tess-coder-ruby-p7 методом DARE TIES; библиотека загрузки — Transformers, веса представлены в формате safetensors. Модель предназначена для генерации текста и кода, в том числе Ruby, и может использоваться в диалоговых сценариях. Заявленная длина контекста составляет 32 768 токенов. Лицензия в предоставленных данных не указана.

CodeBooga-34B-v0.1 — языковая модель для генерации кода, созданная автором репозитория слиянием Phind-CodeLlama-34B-v2 и WizardCoder-Python-34B-V1.0 с помощью BlockMerge Gradient. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для ответов на инструкции и решения задач программирования, в частности на Python и JavaScript. Для работы используется шаблон Alpaca: запрос помещается после заголовка Instruction, ответ модели следует после Response. Автор приводит неформальную сравнительную оценку на небольшом наборе вопросов по Python и JavaScript; она указывает на хорошие результаты, но не является строгим бенчмарком. Модель распространяется в формате safetensors по лицензии Llama 2. В README также упомянуты сторонние квантизованные варианты GGUF, но они не являются форматом весов этого репозитория.

Code Llama 34B — базовая авторегрессионная языковая модель Meta для генерации и понимания кода. Это версия на 34 млрд параметров в формате Transformers с весами PyTorch и Safetensors; архитектура основана на оптимизированном трансформере. Модель принимает текст и генерирует текст, включая завершение кода. Она предназначена для коммерческого и исследовательского использования с английским языком и языками программирования. Модель подходит для автодополнения кода и адаптации под задачи синтеза и анализа программ. Эта базовая версия не предназначена специально для диалогового следования инструкциям или для Python: для таких сценариев в семействе есть отдельные варианты Instruct и Python. Модель обучена на данных Llama 2 с изменёнными весами; её ответы могут быть неточными или нежелательными, поэтому перед внедрением требуется оценка в конкретном приложении. Использование регулируется лицензией Meta Llama 2.

CodeSage Large — модель семейства открытых моделей эмбеддингов кода, представленная Dejiao Zhang, Wasi Uddin Ahmad, Ming Tan, Hantian Ding, Ramesh Nallapati, Dan Roth, Xiaofei Ma и Bing Xiang. Это encoder-модель на архитектуре CodeSage с 1,7 млрд параметров; она формирует векторы кода размерности 1024 для задач понимания исходного кода. Модель обучена на данных The Stack и рассчитана на код на C, C#, Go, Java, JavaScript, TypeScript, PHP, Python и Ruby. Её можно применять для поиска похожих фрагментов кода, семантического поиска по репозиториям, сравнения кода и извлечения признаков для классификации. Контекст составляет 2048 токенов. Доступны веса PyTorch для Transformers, лицензия Apache-2.0. Карточка также упоминает fill-mask и text-classification среди поддерживаемых задач.

CodeSage Large V2 — открытая модель для представления и поиска по исходному коду, разработанная авторами семейства CodeSage. Это encoder-модель на 1,7 млрд параметров с контекстом до 2048 токенов; она формирует векторные представления кода и предназначена для задач понимания кода, включая семантический поиск кода по коду и по текстовому описанию. V2 дообучена контрастивным обучением на парах описаний и тел функций и классов из The Stack V2; данные прошли фильтрацию согласованности. Поддерживаются девять языков программирования: C, C#, Go, Java, JavaScript, TypeScript, PHP, Python и Ruby. Архитектура допускает гибкий размер эмбеддингов благодаря Matryoshka Representation Learning. Модель подходит для поиска похожих фрагментов кода и подбора кода по запросу на естественном языке. Метаданные каталога также указывают задачи fill-mask и text-classification, но карточка описывает прежде всего извлечение эмбеддингов и семантический поиск. Веса доступны в формате PyTorch, библиотека — Transformers. Лицензия — Apache-2.0.

CrystalMistral — разговорная языковая модель на архитектуре Mistral-7B, разработчик — Crystalcareai. Модель дообучена на смесях Evol-Instruct, Airoboros, OpenOrca и синтетических данных GPT-4; в репозитории указаны веса Safetensors, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций, генерации и объяснения кода, а также свободной генерации текста. Карточка заявляет навыки рассуждения и работы с фактами, но не приводит независимых оценок качества или подробностей о языковом покрытии. Лицензия в доступных данных не указана.

Карточка модели TechxGenus/CursorCore-Yi-1.5B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели TechxGenus/CursorCore-Yi-1.5B-SR на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Darwin-28B-Opus — языковая модель для генерации текста и многошаговых рассуждений, созданная Darwin V7 слиянием Qwen3.6-27B и её варианта, дообученного на рассуждениях в стиле Claude Opus. Модель сохраняет плотную архитектуру Qwen3.6 с гибридным вниманием и содержит 27,6 млрд параметров; веса представлены в BF16 и доступны в формате safetensors. Поддерживается режим рассуждений, а интерфейс предусматривает вызов инструментов. Модель предназначена для решения сложных задач по естественным наукам и математике, генерации и отладки кода, а также других задач, требующих цепочки рассуждений. В карточке заявлены английский как основной язык, а также поддержка корейского, китайского и японского. Для задач GPQA Diamond авторы сообщают результат 88,89% при трёхэтапном адаптивном оценивании; этот показатель зависит от описанного протокола и не равен результату обычного одиночного ответа. Для запуска весов BF16 требуется около 55 ГБ видеопамяти. Модель может выдавать многословные рассуждения; длину ответа можно ограничивать параметром max_new_tokens. Лицензия — Apache 2.0.

Flex-code-2x7B-1T — языковая модель семейства FlexOlmo от Allen Institute for AI (AI2), предназначенная для генерации текста с акцентом на программный код. Это вариант архитектуры Mixture-of-Experts: в карточке модели описана система из экспертов, обученных на разных типах данных, включая код; в метаданных для этой модели указаны 6,9 млрд параметров и архитектура FlexOlmoForCausalLM. Модель поддерживает диалоговый режим, принимает текст и генерирует текст. Карточка сообщает об обучении кодового эксперта на специализированных данных, но не приводит отдельной оценки качества именно этой версии. Модель можно применять для генерации и продолжения кода, а также для диалоговой помощи при решении задач программирования. Метаданные указывают поддержку английского языка и контекст до 4096 токенов. Для работы требуется Transformers версии 4.57.0 или новее. Модель распространяется по лицензии Apache-2.0.

FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview-v0.1-GGUF — это GGUF-квантизации языковой модели FuseAI/FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview, подготовленные пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и, судя по названию базовой модели, ориентирована прежде всего на программирование и задачи рассуждения, однако подробные сведения о поддерживаемых языках, длине контекста и точной архитектуре в README не указаны. Доступны варианты от полного BF16 размером 65,54 ГБ до квантизаций Q3–Q8 и IQ4 с размером примерно от 17,69 до 34,82 ГБ. Для квантизации использовался imatrix, а для запуска рекомендуется LM Studio; также указана совместимость с llama.cpp. В README приведён специальный формат промпта. Более качественными и рекомендуемыми названы варианты Q5, Q6 и Q4_K_M, тогда как облегчённые варианты позволяют снизить требования к оперативной памяти ценой качества. Модель текстовая; поддержка других модальностей не заявлена. Репозиторий распространяется по лицензии Apache-2.0. Ограничения включают значительные требования к памяти для 32B-модели и возможное снижение качества у компактных квантизаций. README не содержит результатов тестирования, точных характеристик базовой архитектуры, сведений о языках и контекстном окне.

Это дообученная на QLoRA модель Google Gemma 4 E2B Instruct, подготовленная автором rohitsoni1010 для агентного программирования. В основе — плотная мультимодальная архитектура Gemma4ForConditionalGeneration; модель поддерживает диалог и интерфейс вызова инструментов. В README указан набор настройки sft_balanced, а в метаданных — обучение на датасете r0b0tlab/qwen3.8-max-glm5.2-kimi-k3-distillation и формат safetensors. Модель предназначена для задач программирования с агентным поведением, где полезны диалог и вызов инструментов. Описание карточки не уточняет конкретные языки программирования, контекстное окно, поддерживаемые модальности на входе этой версии или результаты оценки качества. Лицензия — Gemma; применяются условия лицензии Google Gemma.

GLM-5.2-EXL3-TR3-3.40bpw-KVarN-K4V2 — это локально ориентированный serving-чекпойнт на базе GLM-5.2 от zai-org, подготовленный jpsequeira. Модель предназначена для генерации текста, прежде всего для задач программирования, рассуждений и агентских сценариев, с акцентом на эффективное развертывание на четырёх GPU RTX PRO 6000 Blackwell по 96 ГБ. Чекпойнт рассчитан на использование с форком local-inference-lab/vllm и специализированными компонентами b12x, KVarN и sparkinfer. Модель использует архитектуру GLM-5.2 размером 756B параметров с MoE и маршрутизацией экспертов. Применена смешанная EXL3-квантизация примерно 3,40 бит на вес, а для KV-кэша используется формат KVarN K4V2 с затратами 290 байт на токен на слой. Поддерживаются sparse MLA attention, paged top-k indexer и MTP3 speculative decoding. Для данного класса оборудования подтверждён контекст до 819K токенов; модель относится к текстовым моделям, однако сведения о поддерживаемых языках в README не указаны. Сильными сторонами являются высокая экономичность KV-кэша, большой практически проверенный контекст и оптимизация под локальное инференс-развёртывание. При этом качество квантизации зависит от домена: заявленные низкие значения KLD на калибровочном наборе не обобщаются на отложенные данные, где модель уступает некоторым общественным чекпойнтам GLM-5.2. Кроме того, для работы требуются совместимые GPU, специализированный runtime и соответствующие backend-компоненты. Чекпойнт распространяется по лицензии MIT.

InstructYi-6BDolly15K — авторегрессионная языковая модель на 5,8 млрд параметров, дообученная HenryJJ на базе Yi-6B с помощью LoRA. В обучении использовались наборы Databricks Dolly 15K и CodeAlpaca 20K; модель обучалась следовать инструкциям и лучше справляться с задачами программирования. Для запросов применяется шаблон [INST] с инструкцией и, при необходимости, контекстом. Модель предназначена для генерации ответов на инструкции и помощи с кодом на английском языке. Репозиторий содержит веса Safetensors; контекст модели по метаданным составляет 4096 токенов. README сообщает о тренировке на окне 2048 токенов. Модель распространяется по лицензии Apache-2.0.

Josiefied-Qwen2.5-Coder-7B-Instruct-abliterated-v1 — дообученная Гёкденизом Гюльмезом модель семейства Qwen2 для генерации кода и диалогов с инструкциями. В её основе Qwen/Qwen2.5-Coder-7B-Instruct: плотная причинно-языковая архитектура Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель поддерживает английский и немецкий языки, а в метаданных также заявлены чат и интерфейс вызова инструментов. Автор описывает её как abliterated-модель, дополнительно дообученную на собственном наборе данных для менее ограниченных ответов. Упомянуты варианты квантования GGUF и MLX, однако метаданные этого репозитория указывают формат safetensors. Применять модель можно для генерации и редактирования кода, а также диалоговых задач; заявленная настройка на менее ограниченные ответы не гарантирует точности или безопасности результатов. Модель опубликована под лицензией Apache-2.0. Автор предупреждает использовать её на свой риск; конкретные ограничения качества или результаты оценки в карточке не приведены.

Myric/Laguna-S-2.1-APEX-GGUF — неофициальная общественная GGUF-квантизация модели poolside/Laguna-S-2.1, разработанная сообществом Myric. Базовая модель представляет собой open-weight агентную MoE-модель для программирования с общим объёмом 118 млрд параметров и примерно 8 млрд активных параметров. Она предназначена для генерации кода, решения задач разработки и агентных сценариев. Доступны варианты с разной степенью сжатия: от APEX-i-quality размером около 73,9 ГБ до экспериментального APEX-i-mini размером около 43,6 ГБ. Для ускорения генерации предусмотрена совместная работа с draft-моделью DFlash в режиме speculative decoding. Архитектура включает 48 слоёв, 256 маршрутизируемых и один общий эксперт, top-10 маршрутизацию, GQA с softplus-гейтингом на уровне голов, а также смешанное sliding-window/global attention. Заявленный контекст составляет 1 млн токенов. APEX распределяет точность квантизации с учётом роли тензора и слоя, сохраняя более высокую точность для общих экспертов и краевых слоёв и сильнее сжимая разреженные маршрутизируемые эксперты. Языки модели в README не указаны. Сильной стороной является существенное уменьшение размера по сравнению с BF16-версией при сохранении потенциально близкого качества, а также возможность локального запуска. DFlash Q4_K_M имеет размер около 652 МБ и в приведённых тестах ускорял генерацию до 1,20 раза для варианта APEX-i-quality; на специализированных задачах разработчики базовой модели заявляют более высокие ускорения, однако эти результаты относятся к отдельной карточке DFlash. Показатели perplexity для APEX-вариантов ещё не измерены, поэтому качество квантизации не подтверждено. Вариант APEX-i-mini обозначен как экспериментальный и может заметно уступать более крупным вариантам. Для DFlash требуется форк llama.cpp от Poolside. Лицензия указана как openmdw-1.1. Квантизация не связана с Poolside или unsloth, предоставляется без гарантий и должна быть проверена перед использованием в критически важных сценариях.

LongCat-Flash-Lite-FP8 — языковая модель для генерации текста, разработанная командой Meituan LongCat. Это нерассуждающая модель на архитектуре Mixture-of-Experts (MoE) с 68,5 млрд параметров, из которых при обработке запроса активируется примерно 3 млрд. Модель поддерживает контекст длиной до 256 тысяч токенов благодаря методу YaRN и использует таблицу N-gram embedding объёмом более 30 млрд параметров. Модель предназначена для общего текстового использования, агентских сценариев с применением инструментов и задач программирования. Разработчики отмечают высокую эффективность в агентском взаимодействии и coding-задачах, а также улучшенную скорость и задержку инференса благодаря N-gram Cache и специализированным синхронизированным ядрам. В README не указаны точный список поддерживаемых языков и мультимодальные возможности; по назначению и pipeline_tag модель относится к текстовой генерации. Для запуска через Transformers рекомендуется использовать Python 3.10 или новее, PyTorch 2.6 или новее, Transformers 4.57.6 и Accelerate 1.10.0. Требуется как минимум две видеокарты с 80 ГБ VRAM каждая, например H100 или A100. К ограничениям относятся значительные требования к аппаратным ресурсам, а также отсутствие в представленных данных подробностей о качестве на конкретных языках, мультимодальности и иных аспектах эксплуатации. Модель распространяется по лицензии MIT.

microsoft_NextCoder-32B-GGUF — это набор GGUF-квантизированных версий языковой модели NextCoder-32B, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и кода, включая сценарии программирования и чат-взаимодействия. В README указана поддержка английского языка; сведения о других языках отсутствуют. Модель имеет размер 32 млрд параметров и работает в текстовой модальности. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K_M. Размер файлов варьируется примерно от 13 до 66 ГБ. Размер контекста и точная архитектура в README не указаны. Сильными сторонами являются высокое качество старших вариантов квантизации, возможность локального запуска и совместимость с LM Studio, llama.cpp и другими проектами на его основе. Ограничения включают значительные требования к памяти, снижение качества у компактных вариантов и отсутствие сведений о мультимодальности, дополнительных языках и длине контекста. Модель распространяется по лицензии MIT; условия исходной модели и квантизированных файлов следует рассматривать с учетом указанной лицензии.

unsloth/MiniMax-M3-GGUF — это экспериментальная GGUF-версия мультимодальной модели MiniMax-M3, разработанной MiniMax и подготовленной в формате GGUF проектом Unsloth. Модель предназначена для работы с текстом, изображениями и видео, включая диалоговые сценарии, генерацию и анализ кода, агентские задачи и длительное взаимодействие с пользователем. Архитектура модели сочетает Mixture of Experts (MoE) и механизм разреженного внимания MiniMax Sparse Attention (MSA). Всего модель содержит около 428 млрд параметров, из которых на каждый токен активируется примерно 23 млрд; используется 128 экспертов, четыре из которых активны для каждого токена, и 60 слоёв. Заявлена длина контекста до 1 млн токенов. Поддерживаются режимы thinking для сложного рассуждения, агентских задач и долгого сотрудничества и non-thinking для сценариев, чувствительных к задержке, например чата и автодополнения кода. К сильным сторонам относятся нативная мультимодальность, заявленная эффективность на длинном контексте и высокие результаты в задачах программирования и агентского взаимодействия. Ограничения этой версии связаны с экспериментальным статусом: поддержка MiniMax-M3 в llama.cpp предварительная, а MiniMax Sparse Attention пока не поддерживается, поэтому используется плотное внимание. Модель очень велика и требует значительных ресурсов, включая распределение вычислений между несколькими GPU или размещение весов в оперативной памяти CPU. Для использования указана MiniMax Community License.

CISCai/OpenCodeInterpreter-DS-6.7B-SOTA-GGUF — это набор квантованных моделей в формате GGUF на основе OpenCodeInterpreter DS 6.7B, разработанной Multimodal Art Projection (M-A-P). Модель относится к семейству DeepSeek и предназначена для генерации текста, прежде всего для задач программирования и ответов на вопросы по computer science. Указан английский язык. В репозитории представлены файлы с различными вариантами квантования, рассчитанные на запуск через llama.cpp и совместимые сторонние интерфейсы и библиотеки. Ключевая особенность — квантование с importance matrix, обученной примерно на 1 млн токенов ответов из датасета CodeFeedback-Filtered-Instruction. Доступны варианты от 1 до 4 бит с эффективной точностью примерно от 1,56 до 4,5 бит на вес. Размер файлов составляет около 1,5–2,8 ГБ и выше в зависимости от метода; требуемый объём RAM начинается примерно от 3,5 ГБ. Более компактные варианты экономят память, но могут приводить к существенной или значительной потере качества. Для корректной токенизации и лучших результатов рекомендуется свежая сборка llama.cpp. Модель лицензирована по Apache 2.0. README не содержит сведений о размере контекста, мультимодальности, полном наборе поддерживаемых языков или результатах сравнительных тестов, поэтому эти характеристики нельзя надёжно определить.

Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16 — текстовая генеративная модель AEON-7 на основе DeepReinforce AI Ornith-1.0-35B. Это вариант с удалённым поведением отказа, созданный методом abliteration; в карточке заявлено, что при этом сохранены навыки программирования и агентные возможности базовой модели. Модель распространяется в формате BF16, имеет архитектуру MoE семейства Qwen 3.5 с 35 млрд параметров и заявленным контекстом 256 тыс. токенов. README также указывает на унаследованную от базы обработку изображений и видео, хотя основная задача в метаданных — text-generation. Модель предназначена для генерации текста и кода, рассуждений, агентных сценариев и взаимодействия с инструментами. Автор сообщает о результатах внутренних проверок на отказах и задачах программирования; эти оценки приведены в карточке модели и не являются независимым подтверждением качества. Лицензия — MIT. Удаление отказов означает, что модель может выдавать вредоносные или откровенные ответы, включая код и инструкции, которые могут быть запущены внешними инструментами. Результаты генерации могут быть ошибочными; для интеграций с исполнением кода и вызовами инструментов необходим контроль на стороне пользователя.

Ornith-1.0-397B-GGUF — открытая языковая модель из семейства Ornith-1.0, разработанная deepreinforce-ai и представленная в формате GGUF командой Unsloth. Модель предназначена прежде всего для агентного программирования и задач, связанных с автономной разработкой ПО, включая работу с терминалом, решение инженерных задач и генерацию кода. В README заявлено, что семейство ориентировано на высокую производительность в Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw. Модель относится к архитектуре Qwen 3.5 MoE и имеет заявленный размер 397B параметров; при этом она описывается как вариант, рассчитанный на эффективное развертывание на одной GPU. Ornith-1.0 использует обучение с подкреплением, оптимизируя не только итоговые решения, но и scaffolding — структуру поиска и выполнения шагов, которая приводит к этим решениям. Это может быть сильной стороной в многошаговых агентных сценариях и программировании, однако конкретные характеристики контекстного окна, языков, поддерживаемых модальностей, требований к памяти и особенностей квантования GGUF в предоставленных данных не указаны. Модель распространяется по лицензии MIT, без региональных ограничений, что допускает свободное использование при соблюдении условий лицензии. Заявленные результаты бенчмарков следует интерпретировать с учетом конкретного раннера и конфигурации оценки: для Terminal-Bench 2.1 указаны результаты 77,5 с Terminus-2 и 78,2 с Claude Code.

Ornith-1.0-9B-GGUF — GGUF-квантизированная версия Ornith-1.0-9B, разработанная Unsloth на базе модели deepreinforce-ai/Ornith-1.0-9B. Это компактная открытая модель для агентного программирования, ориентированная на эффективное развёртывание на одной GPU и решение задач, связанных с разработкой и изменением кода. Модель относится к семейству Ornith-1.0, в котором применяется обучение с подкреплением для совместной оптимизации решений и scaffolding, управляющего поиском решения. Для версии 9B заявлены результаты 43,1 на Terminal-Bench 2.1 (Terminus-2), 40,6 на Terminal-Bench 2.1 (Claude Code) и 69,4% на SWE-bench Verified. README не содержит точных сведений о размере контекста, языках программирования, поддерживаемых модальностях или конкретной архитектуре; из тегов следует принадлежность к семейству Qwen 3.5 MoE, но это не позволяет достоверно описать архитектуру данной версии. К сильным сторонам относятся специализация на агентном кодинге, компактный размер и возможность локального запуска с использованием GGUF. Ограничения связаны с отсутствием в представленных данных подробностей о квантизации, требованиях к памяти, контекстном окне и языковом покрытии, поэтому практические характеристики следует уточнять отдельно. Модель распространяется по лицензии MIT.