II.3Рефакторинг, миграция и модернизация

Mermaid-Coder-Llama-3-8B — объединённая модель генерации текста на базе Llama 3, созданная TroyDoesAI методом SLERP с помощью mergekit. Она объединяет две модели, дообученные для генерации кода и выполнения инструкций, поэтому подходит для ответов на запросы о коде и создания кода по описанию. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые запросы, выдавая текст. Родной контекст составляет 8192 токена. Для работы нужны веса в формате safetensors и библиотека Transformers. Доступна по лицензии базовых моделей; сведения о конкретной лицензии в предоставленных данных отсутствуют.

Карточка модели 43nikolayvladimirovich/MiniCPM5-1B-SFT на Hugging Face совпадает с карточкой openbmb/MiniCPM5-1B-SFT, поэтому описание составлено по ней. MiniCPM5-1B-SFT — контрольная точка модели серии MiniCPM5 от OpenBMB, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM: в метаданных указано 837,6 млн параметров, а карточка сообщает о 24 слоях и 16 головах запросов и 2 головах ключей и значений. Модель принимает текст и выдаёт текст; контекст — до 131 072 токенов. Карточка модели указывает английский и китайский языки. SFT-чекпойнт предназначен для локальных помощников, генерации кода, агентных сценариев с вызовом инструментов и сложных рассуждений. В серии предусмотрены режимы ответа с рассуждением и без него; этот вариант обучен только методом SFT и предшествует этапам RL и OPD. Поддерживаются запуск через Transformers, vLLM и SGLang, а также дообучение с помощью ресурсов проекта. Заявления карточки о сравнительных результатах относятся к указанному в ней набору моделей и бенчмарков. Модель распространяется под лицензией Apache-2.0. Она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно перед применением в ответственных сценариях.

NeoHorse-1-9B-MERNIK-GGUF — семейство GGUF-квантизаций базовой модели TokenRhythm/NeoHorse-1-9B, подготовленное пользователем wepiqx методом MERNIK. Модель предназначена для генерации текста и кода, включая задачи программирования на Python и разработку небольших проектов. В карточке указана поддержка английского языка; по результатам тестов модель также способна генерировать русский текст и интерфейсы. Архитектура базовой модели и максимальная длина контекста не раскрыты, однако для проверки использовался контекст 8192 токена, а в рекомендациях предлагается 16384 токена. Доступны варианты размером примерно от 3,65 до 6,83 ГБ с разными уровнями квантования, включая Q2, Q4, Q8 и F16. Сильной стороной являются возможности генерации рабочего кода при существенно меньшем размере по сравнению с полноточными вариантами. В тесте HumanEval версия MERNIK-6500-Q8 показала pass@1 85,98% (141 из 164 задач), а MERNIK-5100-Q4 — 82,93%; младшая версия MERNIK-3650-Q2 достигла 23,78% и подходит преимущественно для коротких функций, но не для полноценных проектов. Результаты зависят от размера квантизации, настроек выборки и доступного контекста. Для сложных рассуждений и длинных задач рекомендуется увеличенный лимит генерации; при слишком малом бюджете модель может не раскрыть потенциал. Для запуска заявлена совместимость с llama.cpp и llama-server, включая шаблон чата Jinja. Модель распространяется по лицензии Apache-2.0. В README приведены рекомендации по параметрам генерации, включая temperature 0,6, top_p 0,95 и top_k 20 для практической работы с кодом; использование presence_penalty 1,5 не рекомендуется, поскольку оно вызывало сбои на тестовом стенде.

NEXUS-Coder — специализированная разговорная модель для программирования из экосистемы FableForge AI, основанная на Qwen/Qwen2.5-1.5B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов; она принимает текст и генерирует текст в формате чата. Модель предназначена для генерации и объяснения кода, отладки, задач разработки ПО и работы с командами оболочки. В карточке также заявлены работа с общими рассуждениями и инструментами, однако подробности оценки приведены лишь для внутреннего теста на 30 запросах.

NodeShift_7b_v0.1 — объединённая языковая модель, созданная с помощью mergekit методом TIES на основе DeepSeek Coder. В объединение вошли deepseek-ai/deepseek-coder-6.7b-base, deepseek-ai/deepseek-coder-6.7b-instruct и m-a-p/OpenCodeInterpreter-DS-6.7B. Модель имеет архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекстное окно до 16 384 токенов; файлы представлены в формате safetensors и рассчитаны на работу через Transformers. Модель предназначена для генерации текста и работы с программным кодом, включая дополнение и объяснение кода. Карточка не содержит сведений о лицензии или сравнительных результатах качества, поэтому условия коммерческого применения и преимущества относительно исходных моделей по имеющимся данным установить нельзя.

Noema 1.5 2B GGUF — локальная языковая модель с открытыми весами, разработанная NoemaAI-labs и распространяемая в формате GGUF для запуска через llama.cpp. Это вариант модели Noema 1.5 2B, ориентированный на восстановление знаний, генерацию кода, строгое следование инструкциям, многоходовые диалоги и более эффективное рассуждение. Модель имеет около 2 млрд параметров, 24 слоя и размерность скрытого состояния 2048. В основе используется гибридная архитектура Qwen3.5 с Gated DeltaNet и gated attention. Поддерживается только текстовая модальность; основной оценённый язык — английский. Архитектурный лимит контекста составляет 262 144 токена, однако разработчик независимо проверил работу только до 24 576 токенов. MTP отключён. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M и Q4_K_M; последний рекомендован как компактный вариант по умолчанию. Сильными сторонами модели являются небольшой размер, возможность локального запуска, улучшенная генерация кода, строгое выполнение инструкций и повышенная надёжность многоходового взаимодействия. В режиме без рассуждений она подходит для кратких инструкций, структурированной генерации и кода, а режим рассуждений предназначен для более сложных задач, но может выдавать длинные или повторяющиеся ответы. README не содержит полной информации об обучении, бенчмарках, ограничениях применения и целевых сценариях исходной модели. Веса доступны для скачивания, но репозиторий не предоставляет открытой лицензии и не является open source.

EryriLabs (Dwain Barnes) собрала эту мультимодальную модель как TIES-слияние Ornith-1.5-35B-A3B, BigBang-v1 и Qwen3.6-35B-A3B. Модель семейства Qwen3.5 MoE принимает текст и изображения и предназначена для диалогов, агентного программирования, следования инструкциям и анализа изображений. В репозитории указаны веса Safetensors и совместимость с Transformers; в README описана замена случайно инициализированной MTP-головы Ornith на обученную голову Qwen3.6 для спекулятивного декодирования. Авторы сообщают о приёме 55–75% черновых токенов в небольших локальных замерах с llama.cpp, но отмечают, что проверка ограничена и не является полноценным бенчмарком. Модель выпущена по лицензии MIT с указанием авторства трёх родительских моделей.

Jongbin-kr/qwen2.5-coder-7b-verireason-grpo-official-full-ft — дообученная модель генерации текста на базе Jongbin-kr/qwen2.5-coder-7b-verireason_sft-reasoning_official-full-ft. Разработчик карточки указывает, что обучение выполнялось с использованием TRL; архитектура — плотная Qwen2, размер — 7,1 млрд параметров. Модель предназначена для генерации ответов в диалоговом формате. Базовая модель описана в каталоге как Qwen2.5-Coder-7B-Instruct, настроенная для диалога, рассуждений и программирования. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Карточка не приводит результатов оценки качества или подробных ограничений; возможности программирования и рассуждений следуют из описания базовой модели. Лицензия в предоставленных данных не указана.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill-GGUF — языковая модель, разработанная TeichAI на базе unsloth/Qwen3-14B. Она дообучена методом дистилляции на наборе данных TeichAI/claude-4.5-opus-high-reasoning-250x, созданном на основе ответов Claude Opus 4.5 с высокой интенсивностью рассуждений. Модель предназначена для генерации текста общего назначения, программирования и научных задач. В README указано 14 млрд параметров, однако сведения об архитектурных деталях, модальностях, поддерживаемых языках и размере контекста отсутствуют. Формат GGUF предполагает использование в совместимом локальном инференсе, но конкретные варианты квантования и требования к ресурсам не приведены. Сильной стороной модели является специализация на задачах, требующих развернутого рассуждения, включая кодирование и научные вопросы. Ограничения также связаны с отсутствием подробных данных о качестве, бенчмарках, языковом покрытии, контекстном окне и рекомендуемых параметрах запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Seven — экспериментальная мультимодальная модель на 27 млрд параметров от независимой лаборатории Nightmedia. Это многоэтапное слияние NuSLERP нескольких моделей семейства Qwen и MusaCoder-27B; среди компонентов есть модели для диалогов, рассуждений, творческого письма и генерации GPU-ядер. Архитектура — плотная Qwen3.5ForConditionalGeneration, модель поддерживает чат, следование инструкциям и визуальные входы. В карточке указаны английский, китайский, японский и испанский языки, а метаданные заявляют контекст до 1 млн токенов. Модель подходит для диалогов, творческой генерации текста, задач рассуждения и кода, в том числе синтеза CUDA/MUSA-ядер по PyTorch-примерам. В README приведены отдельные результаты замеров perplexity и скорости для нескольких точностей, но не показаны метрики качества итогового слияния. Возможности самой модели для генерации изображений или других выходов не заявлены. Модель распространяется по лицензии Apache-2.0.

Qwen 3.6 35B-A3B REAP-48 v2 — опубликованная Crucible версия модели Qwen/Qwen3.6-35B-A3B с удалением 48% маршрутизируемых экспертов и квантованием весов в формате GGUF для llama.cpp. Модель предназначена для генерации текста и диалогов; в карточке также приведены результаты задач программирования и вызова инструментов. Указанный размер файла — 8,78 ГиБ. По сравнению с v1 версия v2 перераспределяет точность квантования по измеренной чувствительности тензоров и использует калибровку с шаблоном чата. В README приведены результаты HumanEval+, MBPP+ и BFCL-simple, а также измерения скорости на отдельных устройствах и бэкендах. Производительность i-quants на CUDA, Vulkan и CPU-only сборках не проверялась, поэтому её следует оценивать на целевой платформе. Для некоторых конфигураций llama.cpp README отдельно требует совпадения параметров batch и ubatch: их несоответствие может искажать вычисления. Лицензия — Apache-2.0.

Qwen3.8-27B-IU4-Kairic-Edge — производительная квантованная версия Qwen3.8-27B, разработанная Kairic.ai для локального запуска на графических процессорах AMD Strix Halo с архитектурой gfx1151, включая Radeon 8060S. Модель предназначена для генерации текста и программного кода, а также для сценариев локального инференса с ускоренной обработкой промптов и многотокенной верификацией. Модель использует 27B-параметрическую языковую архитектуру Qwen3.8 и формат GGUF, а её вычислительный маршрут сочетает 4-битные активации и веса с нативными AMD IU4 matrix-инструкциями. Концепция Dual View объединяет авторитетное представление GGUF с тремя специализированными файлами-компаньонами Prompt Forge для отдельных фаз вычислений. Заявлена поддержка контекста размером до 256K токенов, prompt caching и native MTP4; сведения о языках в README не указаны. К сильным сторонам относятся высокая скорость генерации, ускоренная обработка промптов, существенное сокращение времени повторной обработки кэшируемых префиксов и результаты на тестах HumanEval. На воспроизведённой задаче структурированной генерации коэффициент принятия черновых токенов составил 99,73%, однако производительность зависит от совместимого оборудования и поддерживаемых форм вычислений. Для работы требуется специальная сборка Kairic Edge v1.2; стандартный llama.cpp не поддерживает необходимые sidecar-файлы и параметр --kairic-edge. Лицензия модели — Apache-2.0.

Qwen3.8-Flash-Next-Heretic2-IQ4XS-NGQ4-GGUF — мультимодальная версия Qwen3.8-Flash-Next от Alibaba, обработанная методом abliteration с Heretic v1.3.0+custom и квантованная в GGUF для запуска через специализированную сборку llama.cpp. Репозиторий содержит основную модель размером 92 ГБ в формате IQ4_XS с таблицей n-грамм, сжатой методом NGQ4, и отдельный проектор изображений BF16 размером 866 МБ. Модель принимает текст и изображения, поддерживает диалог и анализ изображений; в README также приведены результаты генерации кода на HumanEval+. Для запуска требуется форк llama.cpp с поддержкой архитектуры qwen4exp; стандартная сборка llama.cpp её не загружает. Модель создана на основе Qwen/Qwen3.8-Flash-Next и рассчитана на локальный инференс, в том числе на оборудовании AMD Strix Halo с 128 ГБ объединённой памяти. README сообщает, что на HumanEval+ вариант набрал 84,1% на базовом наборе и 79,3% на Plus при указанном режиме тестирования. Это результат конкретного бенчмарка, а не гарантия качества на других задачах. Abliteration существенно снизила число отказов на проверенных авторами 100 запросах; такое изменение может повлиять на поведение модели при обработке запросов, требующих отказа. Лицензия указана в метаданных как other; конкретные условия использования в доступных сведениях не приведены. Квантизация уменьшает размер модели, но её точность может отличаться от исходной версии. README сообщает об отсутствии измеримого снижения точности на контексте до 32K для этапа сжатия NGQ4; это утверждение ограничено описанными автором проверками.

Speechless Instruct Mistral 7B v0.2 — дообученная на инструкционных данных языковая модель на архитектуре Mistral, опубликованная uukuguy. Веса содержат 7,1 млрд параметров; модель принимает текст и имеет контекстное окно до 32 768 токенов. Для инструкций используется формат Alpaca. Модель предназначена для ответов на инструкции, рассуждений и планирования, а также для задач программирования, включая генерацию и объяснение кода на Python и работу с SQL. В обучающую выборку вошли примеры из Airoboros, OpenOrca, Open-Platypus, WizardLM, Python Eval Instruct и Spider; карточка сообщает о 201 981 примере. Указаны результаты отдельных тестов, но значение HumanEval в карточке отсутствует. Модель распространяется по лицензии Apache-2.0. Карточка описывает её как средство для улучшения рассуждений и планирования базовой Mistral, однако подробностей об оценке этих возможностей и ограничениях качества не приводит.

uukuguy представил дообученную на инструктивных данных модель для генерации кода на основе StarCoder2-15B. Для настройки использовано 986 тысяч примеров из OpenHermes-2.5, наборов инструкций по Python, Spider и Evol-instruction; модель принимает запросы в формате Alpaca и рассчитана на задачи рассуждения, планирования и написания кода. Базовая архитектура — декодерный Transformer StarCoder2 с Grouped Query Attention и скользящим вниманием; контекст составляет 16 384 токена. В метаданных указано 21,7 млрд параметров и формат safetensors. Модель подходит для генерации и дополнения кода по инструкциям и контексту. Исходная StarCoder2 обучалась на коде более чем на 600 языках программирования, однако основной язык исходных данных — английский; README отмечает, что сгенерированный код может содержать ошибки, уязвимости или быть неэффективным. Обучение включало данные с permissive-лицензиями и код без лицензии, но результаты могут воспроизводить фрагменты исходного кода, поэтому следует проверять требования к атрибуции. Лицензия репозитория — BigCode OpenRAIL-M.

QuantFactory/stable-code-instruct-3b-GGUF — квантизированная версия модели Stable Code Instruct 3B, созданная QuantFactory с использованием llama.cpp на основе stabilityai/stable-code-instruct-3b от Stability AI. Это авторегрессионная языковая модель с архитектурой Transformer decoder примерно на 2,7 млрд параметров, дообученная из stable-code-3b на общедоступных и синтетических данных с применением Direct Preference Optimization (DPO). Модель ориентирована на английский язык. Модель предназначена для генерации и обсуждения программного кода, общих задач разработки программного обеспечения и генерации SQL. Она поддерживает сценарии диалоговой работы с инструкциями и может использоваться локально в формате GGUF через инструменты экосистемы llama.cpp. В заявленных тестах MultiPL-E оценка pass@1 составила 32,4% для Python, 30,9% для C++, 32,1% для Java и JavaScript, 24,2% для PHP и 23% для Rust; показатели не были подтверждены в метаданных. Заявленная длина контекста и полный перечень поддерживаемых языков программирования не указаны. К сильным сторонам относятся специализация на коде и SQL, инструкционное дообучение, компактный размер и возможность запуска квантизированной версии на локальном оборудовании. Ограничениями являются относительно небольшой размер, английская языковая специализация, отсутствие сведений о длине контекста и неполное покрытие языков программирования; качество результата требует проверки, особенно для критически важного кода. Лицензия указана как Stability AI Community License; для коммерческого использования необходимо ознакомиться с условиями Stability AI и обратиться к коммерческой лицензии Stability AI.

MiniMaxAI/SynLogic-Mix-3-32B — языковая модель MiniMaxAI для многоэтапных рассуждений в логике, математике и программировании. Она основана на Qwen2.5-32B-Base и дообучена методом Zero-RL на смеси проверяемых задач: логике из SynLogic, математике и коде. Веса имеют плотную архитектуру Qwen2, размер модели — 32 млрд параметров, максимальный контекст — 131 072 токена. Модель генерирует текст; карточка указывает поддержку английского языка и интерфейс для диалога и вызова инструментов. По описанию автора, модель обучалась без этапа instruction tuning, только с подкреплением от базовой модели. Приведённые результаты охватывают бенчмарки логического рассуждения, математики, программирования и общих знаний; автор сообщает об улучшениях при добавлении логических данных. Это специализированный чекпойнт для задач рассуждения, а README не приводит полную таблицу результатов для этой версии. Лицензия — MIT.

Terminus-Qwen3-8b-i1-GGUF — это квантизированная версия языковой модели Terminus-Qwen3-8b, разработанной OrionLLM и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась на наборе данных OrionLLM/OpenAgentInstruct и ориентирована на генерацию текста, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Модель относится к текстовым Transformer-моделям и содержит около 8 млрд параметров. В README указан английский язык, поддержка мультимодальности и размер контекстного окна не заявлены. Репозиторий предоставляет варианты квантизации i1 от IQ1_S до Q6_K с размером файлов примерно от 2,2 до 6,8 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти; при этом низкие уровни квантизации могут заметно снижать качество. В качестве компромисса между размером, скоростью и качеством рекомендован вариант i1-Q4_K_M. Модель подходит для локального запуска в совместимых инструментах, поддерживающих GGUF, особенно для текстовых ассистентов и агентских рабочих процессов. Ограничениями являются заявленная ориентация на английский язык, отсутствие сведений о контекстном окне и неравномерное качество разных вариантов квантизации. Указанная лицензия — Apache-2.0.

FiditeNemini/Unhinged-Qwen2.5-R1-1M-Uncensored-BF16 — объединённая модель автора FiditeNemini, полученная методом TIES из huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 и mkurman/Qwen2.5-14B-DeepSeek-R1-1M. Это плотная причинно-языковая модель семейства Qwen2 с 14 млрд параметров, предназначенная для диалогов и генерации текста, включая код; интерфейс модели также поддерживает вызов инструментов. Репозиторий содержит веса Safetensors и версию для MLX в точности bfloat16. Метаданные указывают контекст до 1 010 000 токенов, тогда как README приводит 4096 токенов; фактическая поддержка столь длинного контекста может зависеть от конфигурации и используемого преобразования. В тегах указан английский язык. Модель позиционируется как uncensored и основана на вариантах с ослабленными отказами, поэтому её ответы могут включать нежелательный контент. Лицензия — Apache 2.0.

Wukong-0.1-Mistral-7B-v0.2-GGUF — это набор квантизированных версий текстовой генеративной модели Wukong-0.1-Mistral-7B-v0.2, опубликованный и подготовленный пользователем bartowski с использованием llama.cpp. Исходная модель разработана RESMPDEV. В README также указаны наборы данных OpenHermes-2.5, CodeFeedback-Filtered-Instruction и Code-Feedback, использованные в связанном с моделью обучении или подготовке. Модель предназначена для генерации текста, выполнения инструкций и задач, связанных с программным кодом. Доступны файлы в формате GGUF с различными уровнями квантизации — от Q8_0 до IQ1_M — что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели составляет 7B параметров, однако точные архитектурные характеристики, поддерживаемые языки и длина контекста в README не указаны. Модель работает через llama.cpp; формат шаблона чата явно не задан, поэтому приведённый шаблон может быть неточным. К сильным сторонам относятся широкий выбор квантизаций и возможность локального запуска на устройствах с ограниченными ресурсами. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые благодаря высокому качеству при меньшем размере, тогда как низкоразрядные варианты экономят память ценой заметного снижения качества. Лицензия — Apache-2.0.

all-MiniLM-L12-v2-code-search-512 — это компактная модель Sentence Transformers, дообученная на парах кода и документации из CodeSearchNet для семантического поиска по коду. Она сопоставляет текстовые запросы на естественном языке с исходным кодом и возвращает 384-мерные нормализованные эмбеддинги для поиска по косинусному сходству. Модель основана на архитектуре BERT семейства MiniLM, содержит 40 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для поиска фрагментов кода по запросу, сопоставления кода с документацией, поиска похожего кода и кластеризации, в том числе при интеграции в инструменты разработчика и IDE. В README приведены результаты на валидационной выборке CodeSearchNet: Accuracy@1 91% и MRR@10 0,9338. Поддерживаются запросы на естественном языке и код на Python, Java, JavaScript, PHP, Ruby и Go; возможны и другие языки из CodeSearchNet. Модель не предназначена для генерации или автодополнения кода. Входы длиннее 512 токенов обрезаются, а качество может различаться между языками программирования и предметными областями. Лицензия — Apache-2.0.

BagOClownCoders-ties-7B — объединённая языковая модель на архитектуре Mistral, созданная автором репозитория методом TIES с помощью mergekit. В качестве базовой использована beowolx/MistralHermes-CodePro-7B-v1; в объединение также вошли beowolx/CodeNinja-1.0-OpenChat-7B и teknium/OpenHermes-2.5-Mistral-7B. Модель предназначена для генерации текста в диалоговом формате и задач программирования, включая написание и дополнение кода. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для Transformers. В метаданных указана возможность чата. Языки в предоставленных данных не перечислены. Качество и ограничения модели отдельно не описаны. Лицензия в предоставленных данных не указана.

DevPearl-7B-dare-ties — объединённая модель на основе DeepSeek Coder 6.7B Instruct и SQLCoder 7B 2, опубликованная louisbrulenaudet. Для слияния применён метод DARE-TIES; конфигурация также указывает CodeLlama 7B Instruct как базовую модель, тип данных bfloat16 и маску int8. Модель предназначена для генерации текста, в том числе кода и SQL-запросов, а также для ответов на инструкции, связанные с этими задачами. Модель имеет плотную архитектуру семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов. В метаданных указаны английский язык, формат safetensors и библиотека diffusers; лицензия — Apache 2.0. Карточка сообщает о слиянии моделей, но не приводит оценок качества или подробных результатов тестирования именно этого чекпойнта.

DNA3.0-2B — мультимодальная модель Dnotitia на основе Qwen/Qwen3.5-2B, дообученная с использованием uncensored- и persona-training. Она предназначена для диалогов, аналитических рассуждений, помощи в программировании и понимания изображений; также поддерживает интерфейс вызова инструментов. Модель имеет 2 млрд параметров, плотную архитектуру и принимает текст и изображения, выдавая текст. README заявляет поддержку 201 языка и диалектов и контекст до 262 144 токенов с расширением примерно до 1 010 000 токенов через YaRN. Модель обучена отвечать с меньшим числом отказов и учитывать корпоративные знания и терминологию Dnotitia, поэтому подходит для ассистента по продуктам и внутреннему контексту компании. Унаследованные от базовой модели мультимодальные возможности позволяют разбирать изображения в диалоге. Модель распространяется по лицензии Apache-2.0. Сниженное число отказов может привести к выдаче нежелательных ответов; корпоративная настройка способна смещать ответы в пользу точки зрения Dnotitia. Возможны галлюцинации и унаследованные от базовой модели пробелы и предубеждения. README не рекомендует применять модель для автономных решений в критически важных областях без надзора и профильной проверки.

Dolphin V2 8B Abliterated — языковая модель для генерации текста, разработанная 0arch-io для исследовательских задач TRC на базе Qwen/Qwen3-8B. Модель дообучена на 1,35 млн инструкционных примеров, включая данные для диалогов, следования инструкциям, математического рассуждения и генерации кода, а затем подвергнута abliteration — удалению остаточного поведения отказа от ответов. Заявлена как модель без контентных фильтров, поэтому требует ответственного применения. Модель построена на архитектуре Qwen3ForCausalLM и содержит около 8,2 млрд параметров: 36 слоёв, 4096-мерное скрытое представление, 32 attention heads и 8 KV heads. Она работает в формате bfloat16, поддерживает контекст длиной до 4096 токенов в обучении и до 40960 токенов согласно заявленному максимальному ограничению. Указан английский язык и сценарий text generation. В README приведены результаты на ARC-Challenge, HellaSwag, TruthfulQA и Winogrande, однако они не характеризуют все прикладные сценарии. К сильным сторонам относятся instruction tuning, диалоговые и кодовые задачи, математическое reasoning, а также доступность GGUF-квантизаций Q8_0 и Q4_K_M для локального запуска через llama.cpp или Ollama. Ограничения включают отсутствие защитных отказов и фильтров, исследовательский статус и отсутствие данных о качестве на других языках и более широком наборе задач. Модель распространяется по лицензии Apache 2.0.

EveryoneLLM-7b-Gemma-Base — созданная сообществом объединённая языковая модель на архитектуре Gemma, опубликованная rombodawg. Она предназначена для генерации ответов на инструкции и объединяет возможности нескольких дообученных сообществом моделей; особый акцент сделан на задачах программирования. В карточке указано использование шаблона Alpaca. Модель содержит 8,2 млрд параметров, принимает текст и генерирует текст, а её длина контекста составляет 8192 токена. Доступны веса в формате safetensors. README описывает объединение моделей, но не перечисляет исходные модели. Лицензия указана как other, поэтому условия использования следует сверять с файлами репозитория и условиями исходных моделей. Возможны ошибки и нестабильное качество, особенно вне сценариев, представленных в объединённых моделях.

Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-math — экспериментальная дообученная языковая модель от EpistemeAI на архитектуре Llama 3.1. Она предназначена для диалогового применения в задачах математики, программирования и работы в роли агента; заявлены сценарии с поиском, калькулятором и подходом ReAct, а также интеграция с LangChain, LlamaIndex и Ollama, в том числе для RAG. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README рекомендуется использовать отдельный механизм проверки безопасности входов и выходов; приведённые результаты оценки ограничены отдельными бенчмарками и не гарантируют качество в конкретных задачах. Модель лицензирована по Apache-2.0.

Это квантизированная NVFP4-версия Gemma 4 12B, дообученной для агентных сценариев и использования инструментов. Исходный fine-tune разработан yuxinlu1, а данная сборка переупакована и квантизирована Sourav Singh для локального запуска в Krill — движке инференса на Swift и MLX для Apple Silicon. Модель предназначена для генерации текста и кода, программирования, агентных задач и tool-use, включая сценарии, ориентированные на τ²-bench. Архитектура gemma4_unified объединяет текстовые, визуальные и аудиокомпоненты, однако конкретные поддерживаемые пользовательские режимы в этой сборке README подробно не описывает. Контекст модели также не указан. Основные веса представлены в NVFP4 с группировкой 16, а чувствительные модули используют 8-битное affine-представление с группировкой 64. Заявлены загрузка примерно за 1,7 секунды и скорость декодирования около 28 токенов в секунду на Apple Silicon. Сильная сторона модели — результаты в генерации кода: в приведённых тестах она показывает 83,5% на HumanEval и 84,1% на MBPP без reasoning и 86,0% и 83,6% соответственно с reasoning. Ограничения связаны с совместимостью: это MLX-чекпойнт, рассчитанный прежде всего на Krill, и он не предназначен для vanilla mlx-lm, mlx-vlm, llama.cpp, Ollama, transformers или vLLM. Лицензия — Gemma license; условия распространяются на базовую модель Google Gemma 4 и производный fine-tune.

Это GGUF-квантование GLM-4.7-Flash, подготовленное TNT.Chat в рамках проекта LOCAL AI. Модель Z.ai — диалоговая MoE-модель класса 30B-A3B; в этой сборке около 20% весов, включая shared expert и тензоры внимания, представлены в Q4_K, остальные — в Q3_K. Такой смешанный формат рассчитан на локальный запуск и использование в редакторах кода, включая VS Code, на потребительском оборудовании; автор заявляет возможность работы в пределах 16 ГБ VRAM и приводит отдельную оценку для контекста 200 тысяч токенов на GPU с 24 ГБ VRAM. Модель генерирует текст в диалоге и ориентирована, среди прочего, на программирование и рассуждения. В карточке приведены рекомендации по параметрам генерации и отмечено, что исправление в llama.cpp устранило зацикливание и низкое качество прежней версии файлов. Заявления о качестве и требованиях к памяти относятся к описанию автора сборки. Репозиторий распространяется по лицензии MIT; README указывает исходный GGUF от Unsloth и метод смешанного квантования, не подтверждая отдельное дообучение этой версии.

SakaiSec/Macaron-V1-Tall-mlx-fp16 — конверсия модели mindlab-research/Macaron-V1-Tall в формат MLX с помощью mlx-lm 0.31.2. Это диалоговая генеративная модель семейства Qwen3.5 MoE, предназначенная для персональных агентов, вызова инструментов, программирования и генерации интерфейсов. В метаданных указаны поддержка английского и китайского языков, а также лицензия MIT. Модель принимает текстовые запросы и генерирует текстовые ответы. Карточка не приводит сведений о размере и длине контекста. Указание fp16 в названии относится к формату этой версии; репозиторий описывает конверсию, а не новое дообучение. Для запуска README предлагает mlx-lm.