II.3Рефакторинг, миграция и модернизация

Mythos-9B-Unhinged — языковая модель для генерации текста, разработанная King3Djbl в экосистеме FableForge. Она предназначена для агентских сценариев, программирования, работы с shell-командами, генерации кода, многошагового рассуждения, roleplay и использования инструментов и функций. Модель основана на Qwen3-9B с архитектурой из 36 слоёв, скрытым размером 4096 и 32 головами внимания; весовая версия содержит около 9 млрд параметров и поддерживает контекст до 32 768 токенов. Она объединена методом SLERP при t=0,65 с braindao/Qwen3-8B-Uncensored и сохраняет нативный режим рассуждения Qwen3. Указан английский язык. Доступны форматы GGUF с различными уровнями квантования, а запуск поддерживается через Ollama, llama.cpp, LM Studio, vLLM, Transformers и другие совместимые инструменты. К сильным сторонам относятся заявленные возможности tool use, рассуждения и генерации кода, а также высокая устойчивость к отказам в тестах автора. Модель обучалась на наборе FableForge Mix A, включающем 47 824 примера агентских трасс, shell-команд, программирования и многошагового рассуждения. Ограничения включают сравнительно невысокую скорость генерации в режиме рассуждения и отсутствие встроенных механизмов отказа, поэтому ответы могут содержать опасные или ненадёжные инструкции и требуют контроля со стороны пользователя. Модель распространяется по лицензии Apache-2.0.

Olmo-3-Think-AIO-GGUF — набор GGUF-квантизаций моделей Olmo-3-32B-Think и Olmo-3-7B-Think, разработанных Allen Institute for AI и подготовленных для использования через совместимые инструменты, включая llama.cpp. Модели относятся к семейству открытых плотных трансформерных языковых моделей Olmo 3 с вариантом Think, предназначенным для прозрачного пошагового рассуждения и исследовательских задач в области agentic AI. Модели предназначены для генерации текста, объяснения решений, декомпозиции формальных задач, математического рассуждения, генерации кода и исследований, связанных с reinforcement learning. Указан английский язык и сценарий text generation. Для версии 32B заявлена поддержка контекста до 65 000 токенов. В репозитории представлены варианты GGUF с разными форматами точности и квантования — от F32 и BF16 до компактных IQ- и Q-серий, что позволяет выбирать между качеством, размером файла и требованиями к оборудованию; размеры файлов 32B-версии составляют примерно от 7 до 129 ГБ. К сильным сторонам относятся открытость, возможность инспектировать промежуточные цепочки рассуждений, ориентация на задачи математики и кода, длинный контекст и широкий выбор локальных форматов. Ограничения включают значительные требования к памяти для крупных и высокоточных вариантов, возможное снижение качества при агрессивном квантовании, а также отсутствие заявленной поддержки мультимодальных входов и языков кроме английского. Указанная лицензия — Apache-2.0.

AnkitAI/Parable-Qwen3-8B-Claude-Fable-5-GGUF — локальная текстовая модель, дообученная на базе Qwen3-8B разработчиком AnkitAI. Она создана для генерации текста, программирования, терминальных задач, рассуждений, планирования и использования инструментов в агентских сценариях. Обучение выполнено методом QLoRA на трассировках реальных сессий Claude Fable 5 и решениях терминальных задач, а не на синтетических вопросах и ответах. Заявлен английский язык. Модель имеет 8 млрд параметров и распространяется в формате GGUF для llama.cpp, Ollama и LM Studio. Доступны квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемая Q4_K_M занимает около 4,8 ГБ и рассчитана примерно на 6 ГБ RAM или VRAM. Базовый контекст Qwen3 в 128K токенов сохраняется, хотя дообучение выполнялось на последовательностях длиной 1 024 токена, поэтому специализированное поведение наиболее выражено в начале длинных сессий. Ответы открываются блоком рассуждений <think>, который рекомендуется удалять перед показом пользователю. Сильные стороны модели — агентское планирование, tool use, программирование, отладка и работа с терминалом. В заявленной проверке 23 из 34 задач были полностью решены корректно, а 30 — полностью или частично. Ограничения включают слабые результаты на генерации конфигураций и состояниях shell; команды, код и конфигурационные файлы необходимо проверять. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-0.5B от команды Qwen, представленная в репозитории Unsloth, — базовая причинная языковая модель для работы с кодом. Это дообученная версия Qwen/Qwen2.5-Coder-0.5B; карточка указывает архитектуру Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. Модель принимает и генерирует текст, включая исходный код; в метаданных указан английский язык. Модель предназначена для генерации, анализа и исправления кода, рассуждений о программировании и задач заполнения пропусков в коде. Она сохраняет некоторые общие способности, включая работу с математикой, но это базовая модель: README не рекомендует использовать её для диалогов без дополнительного постобучения. Для работы используется библиотека Transformers; веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-MLX-8bit — это компактная инструкционная языковая модель для генерации текста и работы с исходным кодом. Базовую модель разработала команда Qwen, а MLX-квантизацию в формате 8-bit подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на программирование, взаимодействие в формате чата и использование в code agents. Она обучалась с применением до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. Поддерживается контекст до 32 тысяч токенов; в README явно указан английский язык. Архитектура и точное число параметров в карточке не описаны, однако из названия следует размер класса 1,5B. К сильным сторонам относятся специализация на коде, инструкционный режим, поддержка длинного контекста и оптимизация MLX для Apple Silicon. Ограничения связаны с компактным размером модели, возможными ошибками или неточностями при генерации кода и отсутствием заявленной поддержки других языков в предоставленных данных. Модель распространяется по лицензии Apache 2.0.

Это изменённая версия Qwen2.5-Coder-3B-Instruct, созданная автором skilledu методом abliteration — удалением отказов модели. Она предназначена для диалоговой генерации кода и ответов на текстовые запросы о программировании. Модель построена на плотной архитектуре Qwen2 и содержит 3,1 млрд параметров; контекст составляет до 32 768 токенов. В карточке указана поддержка английского языка, а для загрузки в приложениях предлагается библиотека Transformers. Модель может помогать писать, анализировать и исправлять код в разговорном формате. Изменение, направленное на снижение отказов, не гарантирует корректность или безопасность результатов. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.

Qwen2.5-CoderX-7B-v0.5-i1-GGUF — это набор квантованных файлов в формате GGUF для модели oscar128372/Qwen2.5-CoderX-7B-v0.5. Квантизацию выполнил mradermacher. Модель основана на семействе Qwen2.5 и имеет размер 7 миллиардов параметров. Модель предназначена для генерации текста и кода, следования инструкциям, проектирования алгоритмов и задач, связанных с Python и физическим моделированием. В описании указана поддержка английского языка. Доступны варианты квантизации от крайне компактных IQ1 до более качественного Q6_K размером примерно от 2,0 до 6,4 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством. Сильной стороной являются разнообразные GGUF-варианты, включая imatrix-квантизации, совместимые с экосистемой локального запуска GGUF. Ограничения зависят от выбранного варианта: низкобитные версии могут заметно терять в качестве, а некоторые прямо помечены как имеющие очень низкое качество. Размер контекста, мультимодальность, результаты оценивания и подробности архитектуры в README не указаны. Лицензия модели — Apache-2.0.

Qwen3.5-9B-OmniCoder-Claude-Polaris — мультимодальная модель семейства Qwen3.5, созданная nightmedia как прогрессивное слияние моделей DavidAU/Qwen3.5-9B-Claude-Opus-Sonnet-Pro-Auto-Variable-HERETIC-UNCENSORED, DavidAU/Qwen3.5-9B-Polaris-HighIQ и Tesslate/OmniCoder-9B. По карточке и метаданным, она предназначена для диалогового взаимодействия с текстом и изображениями; среди исходных моделей есть модель для генерации кода и многошаговых задач разработки ПО. В README приведены отдельные сравнительные показатели родительских моделей, но конкретные результаты этой объединённой модели не указаны. Модель использует архитектуру Qwen3.5ForConditionalGeneration и распространяется в формате safetensors. Карточка также упоминает варианты mxfp8, mxfp4 и qx86-hi в таблице оценок родительских моделей; это не подтверждает наличие таких файлов в репозитории данной модели. Поддерживаемые языки по карточке — английский и китайский. Лицензия — Apache-2.0.

TelperionAI/Qwen3.8-27B-MLA — это производная от Qwen/Qwen3.8-27B модель с плотной гибридной архитектурой: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного внимания. Разработчик заменил представление ключей и значений в кэше внимания на низкоранговое латентное представление с Multi-head Latent Attention (MLA). Преобразование выполнено без обучения и уменьшает KV-кэш примерно вдвое; веса модели, включая башню зрения и голову MTP, поставлены целиком. Модель предназначена для диалогов, программирования и длинных контекстов; она также сохраняет работу с изображениями, как базовая модель. В парном тестировании SWE-bench Verified модель получила 0,421 против 0,395 у исходной версии, используя на 12% меньше выходных токенов; на HELMET при контексте 64k средний результат составил 77,93 против 77,43. Эти результаты относятся к указанным тестам и настройкам. Для запуска требуется экспериментальный плагин qwen-mla-vllm: модель не загружается в Transformers или стандартный vLLM. README сообщает о проверке с vLLM 0.27.1 на RTX PRO 6000 и отмечает, что без nvcc и ninja запуск использует более медленные Triton-ядра. Проверка ограничена SWE-bench Verified и HELMET при 64k; другие области и существенно более длинные контексты не оценивались. Лицензия — Apache-2.0.

Qwen3.8-27B-UD-Q3_K_XL-MTP-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная Nathan Sutton для локального запуска на компьютерах Apple Silicon. Модель предназначена прежде всего для генерации текста, программирования и работы в локальном coding agent chad, выполненном в стиле Claude Code. Она может использоваться через chad или напрямую с библиотекой mlx-lm. Модель имеет плотную архитектуру Qwen3.5 на 27 млрд параметров: 64 слоя, включая 48 слоёв GatedDeltaNet и 16 слоёв full attention. Основная часть весов и embeddings квантизирована до 3 бит с группами по 64 значения, а lm_head — до 5 бит; итоговый объём весов составляет около 12,1 ГБ, дополнительно поставляется 4-битная MTP-head. Заявлен нативный контекст до 262 тысяч токенов, однако на устройствах Apple Silicon с 24 ГБ памяти фактическое окно обычно ограничивается десятками тысяч токенов в зависимости от доступного бюджета Metal. MTP-head поддерживает self-speculative decoding, ускоряя генерацию с сохранением точности распределения модели. Шаблон чата по умолчанию использует reasoning_effort medium вместо upstream-значения xhigh. Языки и мультимодальные возможности в README не указаны. Модель ориентирована на устройства с 24 ГБ памяти Apple Silicon, а её лицензия наследуется от базовой Qwen/Qwen3.8-27B и требует проверки перед использованием или распространением.

Qwen3-Coder-23B-A3B-KREAP-MLX — это созданная RAS-LAB сжатая версия инструктивной модели Qwen3-Coder-30B-A3B-Instruct для генерации текста и кода, диалогов и работы с инструментами. Модель использует архитектуру MoE и доступна в формате safetensors для MLX и Transformers; в README указаны около 23 млрд параметров и 3,3 млрд активных, тогда как метаданные каталога указывают 2,6 млрд параметров. Контекст — до 262 144 токенов. Модель получена однопроходным удалением экспертов K-REAP без дообучения: число маршрутизируемых экспертов на слой сокращено со 128 до 96, при этом сохранены top-8 и корейские пути экспертов. По приведённым в карточке тестам, это помогает сохранить качество на корейском языке при небольшом снижении результатов по ряду корейских, английских и программных бенчмарков. Предназначена для программирования, рассуждений, математических задач и корейско-английских диалогов. Лицензия — Apache-2.0.

Qwopus3.5-9B-v3 — языковая reasoning-модель, разработанная Jackrong на базе unsloth/Qwen3.5-9B. Она дообучена с акцентом на повышение стабильности и корректности рассуждений, а также эффективности вывода; в описании проекта упоминаются reasoning distillation, структурное выравнивание и применение Unsloth. Основная специализация — программирование, решение задач и сценарии, где важны последовательные рассуждения и обобщение между типами задач. Модель относится к классу 9B и заявлена для работы с английским, китайским и корейским языками. В карточке также указан pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Точная длина контекста, формат квантованных вариантов и другие характеристики инференса не указаны. Для оценки заявлены результаты HumanEval: 87,80% base pass@1 и 82,93% plus pass@1 на 164 задачах, но результаты получены авторами модели в описанных ими условиях и не гарантируют аналогичную эффективность в других сценариях. Сильными сторонами модели являются ориентация на программирование, улучшенные показатели на указанном тесте относительно Qwen3.5-9B и стремление к более коротким и стабильным цепочкам рассуждений. Ограничения включают отсутствие полной информации о качестве на широком спектре задач, контекстном окне, требованиях к ресурсам и возможностях мультимодальной обработки. Модель распространяется по лицензии Apache-2.0.

TechxGenus/starcoder2-15b-instruct — языковая модель для генерации кода, созданная дообучением StarCoder2-15B на 0,7 млрд дополнительных токенов с примерами, связанными с программированием; обучение проводилось в течение трёх эпох. Модель использует архитектуру StarCoder2 с плотной causal language model на 21,7 млрд параметров и принимает запросы в формате инструкций Alpaca без системного промпта. Для запуска предлагается Transformers; веса доступны в формате safetensors, контекст — до 16 384 токенов. Модель предназначена для генерации кода по инструкциям и другим задачам программирования. В README заявлен результат 77,4 pass@1 на HumanEval-Python, однако авторы отмечают, что модель прошла ограниченное тестирование и может ошибаться, выдавать вводящее в заблуждение содержимое и хуже справляться с задачами вне программирования. Лицензия — BigCode OpenRAIL-M.

Code-Jamba-v0.1 — языковая модель для генерации кода, созданная автором ajibawa-2023 дообучением Jamba-v0.1 от AI21 Labs. Модель содержит 7,2 млрд параметров, использует архитектуру Jamba с Mixture of Experts и предназначена для диалогового взаимодействия в формате ChatML. Модель генерирует код на разных языках программирования, включая Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, R, Julia и Haskell, а также может объяснять логику решения. Обучение проводилось на наборах Code-290k-ShareGPT и Code-Feedback с применением QLoRA. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Карточка заявляет возможности генерации кода, но не приводит примеров результата и не даёт количественных оценок качества. Языки программирования не следует трактовать как поддержку естественных языков.

CORTEX — большая языковая модель Frankenstein-Labs для программирования, веб-разработки, обучения и общего ассистирования. В репозитории опубликован чекпойнт архитектуры DeepseekV4ForCausalLM с 44,9 млрд параметров по метаданным Hugging Face; README также приводит другое число параметров, поэтому точный размер расходится между источниками. Метаданные указывают формат safetensors FP8, библиотеку Transformers и контекст до 1 048 576 токенов. Заявлены генерация и объяснение кода, помощь с проектированием и анализом программ, поиск ошибок и разбор технических концепций; поддерживаемые языки в метаданных — французский, английский и китайский. Чекпойнт требует нескольких ускорителей и актуальной версии Transformers с поддержкой deepseek_v4; однографическая конфигурация не документирована. Полная загрузка и качество генерации Frankenstein-Labs не проверялись, поэтому заявленные сценарии следует считать предназначением, а не подтверждёнными результатами. Встроенная экспериментальная vision-адаптация не работает на полном чекпойнте и не делает его мультимодальной моделью. README описывает распределённые веса как опубликованный артефакт, а отдельный конвейер обучения собственных весов с нуля — как независимую работу; связь текущего чекпойнта с базовой моделью не подтверждена. Лицензия — MIT.

DeepSeek-V4-Flash-0731-dwarfstar-q2-gguf — это 2-битная квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Сборка создана сообществом Rednalreden с использованием инструментов DwarfStar (ds4) и предназначена для запуска на машинах с 96 или 128 ГБ оперативной памяти, где 4-битная версия не помещается. Модель относится к задачам генерации текста и может применяться для написания кода, работы с длинным контекстом, агентских сценариев, вызовов инструментов, анализа исходного кода и подготовки связного текста. Модель использует архитектуру MoE с 43 слоями, 256 маршрутизируемыми экспертами, из которых для каждого запроса выбираются 6, а также одним общим экспертом. Файл GGUF занимает около 80,8 GiB, резидентная модель — около 80,76 GiB; при контексте 32 768 токенов требуется примерно 0,86 GiB дополнительной памяти. Маршрутизируемые эксперты квантизированы в 2 бита с использованием importance matrix, тогда как attention-проекции, общие эксперты и выходной слой используют Q8_0, а отдельные компоненты — F16. Заявлена поддержка контекста до 100 000 токенов при использовании ds4-server. Importance matrix улучшила среднюю оценку по отрицательной логарифмической правдоподобности на 1,42% относительно аналогичной Q2-сборки без importance matrix. Основное преимущество — существенная экономия памяти при сохранении большей части качества; ограничение — заметная потеря качества по сравнению с 4-битными или смешанными q2/q4-сборками. Модель требует runtime DwarfStar (ds4) и несовместима с llama.cpp. Лицензия — MIT, унаследованная от базовой модели.

Everyone-Coder-33b-v2-Base — общественная модель для задач программирования из серии EveryoneLLM. Она создана на основе дообученных версий DeepSeek Coder 33B и объединена методом task arithmetic; карточка заявляет об улучшении результатов программирования по сравнению с первой версией серии. Это плотная авторегрессионная модель семейства Llama с 33,1 млрд параметров, рассчитанная на генерацию текста с контекстом до 16 384 токенов. В README указан шаблон запросов Alpaca. Модель подходит для генерации и дополнения кода, а также для ответов на инструкции, связанные с программированием. Метаданные указывают формат safetensors и лицензию other; конкретные условия лицензии в предоставленных данных не раскрыты. README не называет языки программирования, наборы данных или состав объединённых моделей, поэтому качество для конкретных языков и сценариев по этим сведениям оценить нельзя.

Dax1211/horizon-corebreach-coder-3b-16bit — дообученная модель генерации текста на базе Qwen2.5-Coder-3B-Instruct. Разработчик указывает, что обучение выполнялось с помощью Unsloth и библиотеки TRL от Hugging Face. Модель содержит 3,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и задач, связанных с кодом; в метаданных также заявлен интерфейс вызова инструментов. Карточка не уточняет конкретные языки программирования или сценарии, на которых проводилось дообучение. Модель распространяется в формате safetensors под лицензией Apache-2.0.

Jina Code Embeddings 1.5B MLX — порт модели эмбеддингов кода Jina AI для устройств Apple Silicon с ускорением Metal. Модель построена на архитектуре Qwen2.5-Coder-1.5B и содержит около 1,5 млрд параметров; максимальная длина последовательности — 32 768 токенов, размер эмбеддинга — 1536 измерений. Поддерживается усечение эмбеддингов до 128, 256, 512, 1024 или 1536 измерений. Модель предназначена для поиска по коду и техническим материалам: сопоставляет запросы с фрагментами кода или ответами, находит эквивалентные фрагменты и преобразует текст и код в векторы для семантического поиска. В README заявлена поддержка более 15 языков программирования. Для задач используются специальные префиксы запросов и документов. Модель распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

KAT-Coder-V2.5-Dev-REAP-205E-MTP-GGUF — это квантизированная и структурно обрезанная GGUF-версия модели Kwaipilot/KAT-Coder-V2.5-Dev, опубликованная автором gbuzhf. Модель предназначена для генерации и обработки программного кода, включая code-instruct, исправление ошибок, использование инструментов и задачи рассуждения. Заявлена поддержка английского и китайского языков; модель мультимодальность не заявлена. Это Mixture-of-Experts-модель с 205 экспертами на слой вместо исходных 256, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено примерно с 34,7 до 28,3 млрд, сохранены исходная архитектура, словарь размером 262 тысячи токенов и контекстное окно базовой модели, точный размер которого в README не указан. Обрезка выполнена методом REAP на 2,6 млн токенов собственных ответов KAT-Coder-V2.5-Dev. Дополнительно встроена MTP-голова, заимствованная из Qwen/Qwen3.6-35B-A3B; её обрезка выполнена по величине весов без калибровочных данных, поэтому является приближённой. По измерениям относительно исходной BF16-модели совпадение наиболее вероятного токена составляет около 94,6%, а рост perplexity — 3,62%; автор оценивает потерю качества как сопоставимую с хорошей 4-битной квантизацией. Эти результаты получены на текстах, близких к калибровочным данным, и могут быть оптимистичными; downstream-бенчмарки для программирования не проводились, поэтому сохранение качества на HumanEval, MBPP или SWE-bench не подтверждено. Доступны мастер-версия BF16 и несколько GGUF-вариантов квантизации, включая IQ4_XS, Q4_K_XL, Q5_K_S и Q6_K. В README указана лицензия other, без дополнительных условий.

KielEmbed-Code — модель плотных эмбеддингов для представления кода и текста, опубликованная под идентификатором kiel2/KielEmbed-Code. Это Sentence Transformer, дообученный на базе microsoft/codebert-base с архитектурой RoBERTa. Модель кодирует предложения и фрагменты кода в векторы размерности 768; сходство между ними оценивается косинусной мерой. Максимальная длина входной последовательности — 512 токенов по README и 514 токенов по метаданным. Модель предназначена для семантического поиска по коду и тексту, сравнения смысловой близости и кластеризации. В README указаны 10 000 обучающих примеров и дообучение в течение одной эпохи с CosineSimilarityLoss. Эти сведения описывают обучение, но не подтверждают качество на независимых тестах. Условия лицензирования в предоставленных данных не указаны.

Kiwen1.2-27B — дообученная языковая модель с 27 миллиардами параметров, созданная разработчиком beyoru на основе Qwen3.8-27B. Модель обучалась на длинных рассуждениях из Kimi K3 с применением RLVR и ориентирована на улучшение качества рассуждений, следования инструкциям и надёжности выполнения задач. Модель предназначена для математических и логических задач, программирования, использования инструментов, агентских сценариев и других задач, требующих последовательного рассуждения. Она поддерживает режимы с включённым и отключённым анализом: режим рассуждений рекомендуется для сложных задач, а отключение — для извлечения данных, классификации и форматирования. В README указана возможность работы с контекстом до 262 144 токенов при использовании SGLang, однако сведения о языковом охвате и фактических мультимодальных возможностях не приведены. Заявленное преимущество модели — сочетание относительно компактного размера с акцентом на reasoning, coding, tool use и instruction following; во внутреннем тесте из 100 агентских задач она показала результат 81,2%. Эти показатели не подтверждены независимым публичным бенчмарком. Ограничением является отмеченное разработчиком снижение качества при использовании с dflash2; также в карточке нет подробных данных об архитектуре, датасетах и результатах на стандартных тестах. Модель распространяется по лицензии Apache-2.0 и основана на Qwen3.8-27B, также выпущенной под Apache-2.0.

Kwai-Coder-DS-V2-Lite-Base — базовая языковая модель для кода, разработанная Kwai и построенная на DeepSeek-V2-Lite-Base. Модель прошла дополнительное предобучение на 800 млрд токенов: 70% обучающих данных составлял код, 20% — математика и 10% — текст, включая материалы о программировании. Архитектура DeepSeek-V2 имеет 16 млрд параметров и 2,4 млрд активируемых параметров по README; метаданные репозитория указывают 2,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает английский и китайский языки. Метаданные указывают контекстное окно 163 840 токенов и совместимость с Transformers и PyTorch; веса доступны в формате Safetensors. Модель предназначена для генерации и дополнения кода, вставки фрагментов кода, а также задач по математике и программированию. В README приведены результаты на HumanEval, HumanEval+, MBPP, MBPP+, BigCodeBench, MATH и GSM8K, но они не гарантируют аналогичное качество на пользовательских задачах. Это базовая модель, поэтому готовое поведение чат-ассистента или следование инструкциям не следует считать подтверждённым. Лицензия — MIT.

DuoNeural выпустила GGUF-квантизацию диалоговой модели DuoNeural/LFM2.5-8B-A1B-Abliterated на базе Liquid AI LFM 2.5-8B-A1B. Веса распределены по разным схемам квантования: для проекций внимания и shortconv используются IQ2_XS, для тензоров MoE-экспертов — IQ3_XS и Q3_K_M. По заявлению авторов, такая конфигурация сохраняет компактность и повышает точность в задачах программирования по сравнению с их версией 2.72 bpw; модель предназначена для локальной генерации текста, диалогов, кода и вызовов инструментов. В карточке указаны результаты на HumanEval, GSM8K и Hermes function calling, а также тесты производительности на RTX 4080 Super. Это заявления авторов, и они не гарантируют аналогичного качества или скорости на другом оборудовании и при иных настройках. Модель ориентирована на английский язык; размер контекста в доступных данных не указан. Репозиторий распространяется по лицензии Apache-2.0.

Модель dbands/llama-3-8b-instruct-code-instructions-blender-16bit — дообученная языковая модель семейства Llama 3, разработанная dbands на основе dbands/llama-3-8b-instruct_code_instructions_122k_alpaca_style_4bit. Она предназначена для генерации текста по инструкциям, включая задачи, связанные с кодом. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Модель принимает текст и генерирует текст; в карточке указан английский язык. Обучение проводилось с Unsloth и библиотекой TRL. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0.

Solshine/Meta-Llama-3.1-8B-Instruct-Python-Coder — дообученная Solshine языковая модель для генерации текста и помощи с кодом на Python. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit и создана с использованием Unsloth и библиотеки Hugging Face TRL. Модель относится к плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель рассчитана на диалоговое взаимодействие и сценарии написания кода. В карточке указаны английский язык и код; отдельно подтверждена возможность работы с кодом. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит подробных результатов оценки качества или перечня поддерживаемых языков программирования.

MiMo-V2.6-Distill-Qwen-9B-GGUF — GGUF-версия агентной модели MiMo-V2.6-Distill-Qwen-9B, разработанной Xiaomi MiMo. Модель представляет собой результат supervised fine-tuning Qwen3.5-9B на данных, сгенерированных MiMo, и предназначена для дальнейших исследований в области агентного обучения с подкреплением. Модель ориентирована на программирование, общие агентные задачи, визуальное программирование и кибербезопасность, а также поддерживает использование инструментов. Объём модели составляет 9 млрд параметров. В README указана поддержка английского языка и pipeline image-text-to-text, а наличие мультимодального проекционного файла указывает на сценарии работы с изображениями и текстом. Доступны варианты квантования от BF16 до Q3_K_L, что позволяет выбирать между качеством и требованиями к памяти; рекомендованными названы Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S и Q6_K. Сильными сторонами заявлены заметные улучшения относительно базовой Qwen3.5-9B в задачах автоматизации, кибербезопасности, работы в терминале и программирования, включая SWE-bench. Ограничения включают зависимость качества и требований к памяти от выбранного варианта квантования, а также отсутствие в README точных сведений о размере контекстного окна и подробностей о поддерживаемых языках помимо английского. Лицензия указана как other; базовая модель Qwen3.5-9B распространяется под Apache-2.0, но условия лицензирования данного репозитория требуют отдельной проверки.

Это экспериментальная версия MiniMax M3, подготовленная Spark Arena для запуска на двух узлах DGX Spark. Модель основана на MiniMax M3 и использует квантование NVFP4 с сокращением REAP50, чтобы уменьшить требования к размещению по сравнению с вариантом на четырёх узлах. Архитектура MiniMax M3 — мультимодальная модель с разреженным вниманием MiniMax Sparse Attention (MSA); заявлено около 428 млрд параметров, из которых активируется около 23 млрд, и контекст до 1 млн токенов. Модель предназначена для диалогов с изображениями и видео, задач программирования и длительных агентных сценариев с вызовом инструментов. Разработчик заявляет ускорение обработки длинного контекста благодаря MSA, однако эта сборка помечена как экспериментальная: калибровка NVFP4 ещё дорабатывается, а влияние REAP50 на качество проверено не полностью. Для корректного использования калибровки требуется поддержка соответствующих масштабов NVFP4 в среде запуска. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

Mistral-NeMo-Minitron-8B-Base-CODE-Python-i1-GGUF — это квантизированная версия базовой модели Agnuxo/Mistral-NeMo-Minitron-8B-Base-CODE-Python, подготовленная mradermacher в формате GGUF. Модель ориентирована на генерацию кода, прежде всего на задачи, связанные с Python, и может использоваться в локальных AI-приложениях, ассистентах программирования и сценариях научных исследований. Заявлена поддержка английского и испанского языков. Модель имеет размер 8B параметров в базовой версии; точные сведения об архитектуре, размере контекстного окна и мультимодальности в карточке не указаны. Репозиторий содержит множество вариантов квантизации i1, включая IQ- и Q-схемы с размером файлов примерно от 2,2 до 5,5 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для создания собственных вариантов также предоставлен imatrix-файл. Сильными сторонами являются специализация на генерации кода, возможность локального запуска и широкий выбор уровней квантизации; для некоторых вариантов в карточке отмечены предпочтительное соотношение размера, скорости и качества или более низкое качество. Ограничения включают отсутствие подробных результатов тестирования, сведений о контекстном окне и гарантий корректности сгенерированного кода, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

occamy-ai_occamy-1.0-GGUF — GGUF-квантизированная версия модели occamy-1.0, разработанной occamy-ai и подготовленной bartowski с использованием llama.cpp. Модель ориентирована на агентные сценарии, использование инструментов и задачи программирования, а также заявлена как модель для работы с длинным контекстом. Модель содержит около 35 млрд параметров и поддерживает текстовый и визуальный ввод; для обработки изображений требуется отдельный файл mmproj. В карточке указана поддержка английского языка. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы; рекомендуемым универсальным вариантом назван Q4_K_M размером 21,39 ГБ, а более качественными — Q5 и Q6. Спекулятивное декодирование не поддерживается, при этом применена imatrix-квантизация. Сильными сторонами модели являются сочетание большого размера, мультимодального ввода, возможностей для tool use и агентных рабочих процессов, а также широкий выбор форматов GGUF. Ограничениями выступают значительные требования к памяти даже для квантизированных вариантов, необходимость отдельного mmproj для изображений и отсутствие в README точного размера контекстного окна, подробных результатов оценки и информации о поддерживаемых языках помимо английского. Лицензия в карточке не указана.