II.3Рефакторинг, миграция и модернизация

bartowski/Jackrong_Qwen3.5-9B-Neo-GGUF — это набор GGUF-квантизаций модели Jackrong/Qwen3.5-9B-Neo, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи генерации текста и рассуждений, включая решение задач по программированию; при этом в карточке указан pipeline image-text-to-text, однако подробности поддержки изображений не приведены. Модель имеет размер порядка 9 миллиардов параметров, обучалась с использованием наборов данных Jackrong/Competitive-Programming-python-blend и stepfun-ai/Step-3.5-Flash-SFT. Заявлены английский и китайский языки, а также поддержка reasoning и chain-of-thought. Доступны варианты от BF16 и Q8_0 до компактных Q2_K_L, Q3 и IQ-квантизаций; версии с более высокой точностью обеспечивают лучшее качество, а младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Размер контекста и точная архитектура в README не указаны. Файлы предназначены для локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые приложения. Для корректной работы следует использовать указанный шаблон prompt format с секцией <think>. Модель распространяется по лицензии Apache-2.0. Ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие в карточке подробных сведений о точности, производительности, контекстном окне и фактических возможностях мультимодальной обработки.

drowzeys/keys-GLM-5.3-EXL3-Abliterated — производная версия GLM-5.3 от drowzeys с правкой весов, основанной на derisk-проекции Blackfrost AI. Это полноразмерная разреженная MoE-модель с 78 слоями и 256 маршрутизируемыми экспертами. Экспертные матрицы квантованы до 3 бит в формате EXL3; остальные компоненты сохранены в bf16/fp16. Репозиторий содержит веса в safetensors и предназначен для диалоговой генерации текста. Модель рассчитана на запуск через описанный авторами стек vLLM на четырёх NVIDIA DGX Spark с контекстом до 1 000 000 токенов. README сообщает, что изменение весов направлено на снижение отказов на безвредных запросах, а проверки включали рассуждения, код, фактические вопросы и творческий текст. Это заявление авторов карточки, не независимая оценка качества. В метаданных базовой указана zai-org/GLM-5.3; лицензия — MIT. Для запуска требуются значительные аппаратные ресурсы и совместимый стек, описанный в репозитории.

3MPER0RR/Ornith1.5-9B-3MPER0RR-abliterated — дообученная версия Ornith 1.5 9B, подготовленная 3MPER0RR для экспериментов. Это плотная языковая модель семейства Qwen3.5 с поддержкой диалогового взаимодействия; основная задача — генерация текста. Базовая модель Ornith AI предназначена для программирования, агентных задач и работы с инструментами в длинном контексте. Модель распространяется в формате safetensors по лицензии MIT. Карточка сообщает, что модель прошла испытания и сохранена, но не уточняет набор тестов, контекстное окно или поддерживаемые языки. Суффикс «abliterated» в названии указывает на изменение, связанное с отказами модели, однако карточка не описывает его метод и фактическое влияние.

DavidAU/Qwen3.5-13B-GLM-4.7-Flash-DeepSeek-Polaris-Grande-Deep-Thinking — дообученная на базе Qwen/Qwen3.5-9B мультимодальная модель семейства Qwen3.5, опубликованная в формате Safetensors для Transformers. Автор описывает её как объединение и масштабирование двух дообученных дистиллятов с последующим обучением на примерах GLM-4.7-Flash; заявлены 48 слоёв, диалоговый режим, работа с изображениями и интерфейс вызова инструментов. Модель предназначена для следования сложным инструкциям, рассуждений, написания художественных текстов и диалогов, программирования и сценариев с инструментами. В карточке приведён пример генерации сцены ужасов, но он не является независимой оценкой качества. Автор также сообщает об исправлениях шаблона диалога для уменьшения повторов и циклов и улучшения обработки инструментов. Языковые теги карточки указывают английский и китайский. Лицензия — Apache-2.0. Размер в 13 млрд параметров заявлен в README; метаданные при этом связывают модель с базовой Qwen3.5-9B.

Qwen3.6-27B-F451-AND-TRI-Polar-Ultra-Pro-Writer-Uncensored-Heretic — плотная модель семейства Qwen3.5 на 27 млрд параметров, опубликованная DavidAU как дообучение с Unsloth. Автор сообщает, что обучал её на локальном оборудовании, чтобы повысить базовые интеллектуальные способности модели; в карточке приведены результаты тестов ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande для вариантов с разной точностью. Указанные бенчмарки проверялись в режиме Instruct. Модель позиционируется для диалогов, письма и программирования; метаданные также отмечают обработку изображений и интерфейс вызова инструментов. Указанные в карточке языки — английский и китайский. Репозиторий содержит веса safetensors в формате bfloat16 и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не сообщает длину контекста и не приводит конкретных результатов на задачах зрения или вызова инструментов. Заявления о превосходстве в бенчмарках основаны на описании автора; приведённые значения неполны. Название модели указывает на uncensored и heretic-вариант, но README не поясняет поведение модели в отношении такого содержимого.

Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF — экспериментальная GGUF-модель на 27 млрд параметров, разработанная автором репозитория ayozhee для локального запуска. Она основана на GSQ-RCO IQ2_S-MTP и объединяет его квантованные веса с выборочно заменёнными матрицами из orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, рассуждений, решения математических задач и программирования на совместимых локальных средах, включая llama.cpp. Abliteration снижает склонность модели к отказам, но может влиять на поведение и безопасность ответов. Файл имеет формат GGUF, размер около 9,61 ГБ, использует смешанное квантование IQ2_S и включает MTP для спекулятивного декодирования. Токенизатор и большая часть тензоров сохранены из исходной GSQ-модели; всего заменена 131 матрица. Тестирование проводилось на RTX 3060 с 12 ГБ памяти: модель показала скорость декодирования около 35,65 токена/с на коротких запросах и успешно прошла заявленные проверки генерации. В небольшом локальном сравнении она получила 27/30 в IFEval, 30/30 в GSM8K и 30/30 после нормализации извлечения в HumanEval. Модель ориентирована на пользователей, которым нужен компактный локальный вариант для ограниченных GPU. Заявленный настроенный предел контекста составляет 16 384 токена, при этом отдельное измерение проводилось с историей на 30,6 тыс. токенов; производительность при полностью занятом контексте 65 тыс. токенов не оценивалась. Результаты основаны на небольших выборках и единичных запусках, поэтому не заменяют полноценные бенчмарки. Модель распространяется по лицензии Apache-2.0.

Qwopus3.5-4B-Coder-GGUF — компактная модель для программирования и агентных сценариев, разработанная Jackrong на основе Qwen3.5-4B. Она дообучена для отладки кода, локализации ошибок, подготовки минимальных исправлений, структурированного использования инструментов, function calling и задач, в которых требуется пошаговое рассуждение с обратной связью от среды. В обучении заявлены Trace Inversion, траектории взаимодействия с инструментами и curriculum SFT, направленные на устойчивое форматирование и работу с длинными контекстами. Модель представляет собой плотную модель примерно на 4 млрд параметров и распространяется в формате GGUF для локального запуска, в том числе через llama.cpp. В метаданных указана поддержка текстово-изобразительных задач и мультимодальности, однако конкретные ограничения визуального ввода и размер контекстного окна не приведены. Заявлены языки English, Chinese, Spanish, Russian и Japanese. Также модель тестировалась с Multi-Token Prediction при n=2 относительно эталона Qwen3.5-4B-MTP. Сильные стороны модели — небольшой размер, ориентация на локальное выполнение, отладку, агентные циклы и инструментальные вызовы; автор позиционирует её как подходящую для ноутбуков с 16 ГБ памяти, простых повторяющихся задач и мониторинга сервисов. При этом README не содержит подробных результатов бенчмарков, требований к оборудованию, точного контекстного окна или оценки качества мультимодальных возможностей, поэтому модель не следует считать универсальной заменой более крупным системам. Лицензия — Apache-2.0.

SuperGemma4-26B-Uncensored-Fast GGUF v2 — локальная текстовая модель, опубликованная пользователем lianjiang и основанная на google/gemma-4-26B-A4B-it. Это производная от линии SuperGemma Fast, экспортированная в формат GGUF Q4_K_M для запуска через llama.cpp, в том числе на компьютерах Apple Silicon. Архитектура Gemma 4 использует MoE-эксперты; точное эффективное число активируемых параметров и размер контекста в README не указаны. Модель предназначена для обычного диалога, генерации текста, программирования, логических задач и сценариев с использованием инструментов. Заявлена поддержка английского и корейского языков. Встроенный нейтральный шаблон чата должен снижать вероятность ошибочной маршрутизации обычных запросов в режим программирования или вызова инструментов. На Apple M4 Max указаны скорости до 222 токенов/с обработки корейского запроса и 89,4 токена/с генерации, однако эти показатели зависят от оборудования и конфигурации. К сильным сторонам относятся компактное квантованное представление, высокая скорость локального запуска, улучшения по сравнению с исходной локальной базовой версией в коде, логике, браузерных сценариях и корейском языке, а также менее ограниченное поведение по сравнению со стандартными чат-релизами. Ограничения включают отсутствие подробных данных о контексте, полном наборе языков, качестве на независимых тестах и требованиях к памяти; заявленная «uncensored» настройка также может означать ослабленные защитные ограничения. Лицензия указана как Gemma.

SynapseLLM-7B-Mistral-v0.5-preview — предварительная дообученная WebraftAI языковая модель на архитектуре Mistral, представленная в виде полной модели со слитыми адаптерами. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалогах, ответы на вопросы и выполнение инструкций по программированию; заявленный контекст — до 32 768 токенов. Обучение выполнено на английском языке на выборке с математическими и общими вопросами и ответами, а также примерами кода, включая Python. Модель может использоваться для англоязычных ответов на вопросы, помощи с кодом и разговорных сценариев. В README указана ограниченная область дообучения и предварительный характер версии. Среди известных ограничений — фактические ошибки, слабое следование системным инструкциям и отсутствие долговременной памяти. Лицензия — Apache 2.0.

360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

airoboros-7b-gpt4-1.4 — полноточная дообученная модель семейства LLaMA с плотной архитектурой, созданная jondurbin на синтетических данных, сгенерированных GPT-4. Веса представлены в формате PyTorch; модель содержит около 6,6 млрд параметров и рассчитана на контекст до 2048 токенов. Модель предназначена для диалогов и генерации текста: она отвечает на вопросы, выполняет инструкции, помогает с программированием, письмом, загадками и ролевыми сценариями. Отдельно автор описывает режим ответов по предоставленному контексту, настроенный на использование информации из него. Обучающие примеры кода охватывают десять языков программирования, однако карточка не перечисляет естественные языки, на которых модель обучалась. Автор отмечает, что модель почти не тестировалась, поэтому качество и надёжность ответов не валидированы. В обучающем шаблоне заложено стремление отвечать без отказов независимо от законности или моральной стороны запроса. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

Карточка модели BrushStone/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

GLM-5.3-Flash-Uncensored-Q2-ds4 — квантованная версия uncensored-модели GLM-5.3-Flash, разработанной на базе модели zai-org/GLM-5.3-Flash; сборка подготовлена DogContext на основе orcarouter/GLM-5.3-Flash-Uncensored-FP8. Модель предназначена для локальных исследований, авторизованного security/red-team тестирования и оценки агентного программирования, включая работу с кодом, инструментами и длинным контекстом. Это текстовая MoE-модель архитектуры Glm5Next с 320 млрд общих и примерно 18 млрд активных параметров, 45 слоями, 288 маршрутизируемыми и одним общим экспертом, маршрутизацией top-8, гибридным вниманием KDA-linear и sparse-DSA, а также встроенным native MTP для speculative decoding. Поддерживаются английский и китайский языки, заявлен контекст до 1 млн токенов, размер GGUF-файла составляет около 96,5 ГБ. Модель рассчитана на запуск в движке ds4/DwarfStar с Metal и может работать резидентно на одном Mac с Apple Silicon и 128 ГБ памяти; mainline llama.cpp, Ollama, LM Studio и vLLM для этой сборки не поддерживаются. Модель текстовая, при этом vision заявлена только через дополнительный encoder sidecar. Ключевые особенности — imatrix-калибровка на 1,5 млн токенов, смешанная примерно 2-битная квантизация IQ2_XXS и Q2_K с сохранением более высокой точности для управляющих компонентов, а также native MTP. На M5 Max указана скорость декодирования около 22–23 токенов в секунду и предварительной обработки около 360 токенов в секунду. Abliteration существенно снижает количество отказов на обычных запросах, но не устраняет возможности модели и повышает риски неправильного или вредоносного применения; это является важным ограничением. Распространение выполняется по лицензии MIT, унаследованной от базовой модели, однако использование должно соответствовать законодательству и условиям лицензии.

Huginn-0125 — экспериментальная языковая модель исследовательской группы TomG Group при University of Maryland. Это плотная decoder-only модель на 3,5 млрд параметров, обученная с нуля на 800 млрд токенов и реализованная как рекуррентная модель с латентной глубиной: при генерации можно задавать число итераций вычислений num_steps, увеличивая глубину обработки без фиксированного числа слоёв. Модель работает с текстом, поддерживает диалоговый шаблон и ориентирована на генерацию текста, рассуждения, математические задачи и код. Модель обучалась 47 000 шагов на открытых данных и не проходила дообучение или постобучение, хотя в предварительное обучение включались инструкции. Авторы характеризуют её как proof of concept; увеличение num_steps улучшает результаты на бенчмарках примерно до 64 шагов, а при числе меньше четырёх ответы становятся грубыми. Для инференса рекомендуется bfloat16; для кэширования KV требуется специальная реализация HuginnDynamicCache, которая может быть чувствительна к обновлениям Transformers. Доступна по лицензии Apache-2.0.

Jamjuri Edge — экспериментальная компактная языковая модель семейства JamjuriEDGE, разработанная на базе Qwen3-4B-Instruct-2507. Это плотная модель с 3,7 млрд параметров и контекстом до 262 144 токенов; релиз создан дообучением базовой модели и объединением LoRA-экспертов методом TIES. Модель предназначена для локального и офлайн-применения, в том числе в агентных сценариях с вызовом инструментов. Модель рассчитана на тайский и английский языки и ориентирована на следование инструкциям, написание и отладку кода, вычисления, автоматизацию IoT и работу с инструментами. В карточке описаны разные варианты слияния, балансирующие навыки управления инструментами, математики и программирования; для идентификатора Jamjuri-EDGE-Preview-100 конкретный вариант среди этих кандидатов не уточнён. В метаданных указаны Transformers и формат safetensors, лицензия Apache-2.0. Это экспериментальная модель с ограничениями, характерными для компактного чекпойнта: сложная автоматизация нескольких IoT-устройств даётся трудно, отдельные слияния могут ухудшать вызов функций, а изменение соотношений слияния влияет на поведение. Возможны ошибки привязки атрибутов к объектам и смещение стиля ответов из-за специализированных адаптеров.

Jan-v3-4B-base-instruct-GGUF — это квантованная версия текстовой генеративной модели Jan-v3-4B-base-instruct, разработанной janhq и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста по инструкциям и может применяться в локальных сценариях работы с текстом, включая запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель содержит около 4 миллиардов параметров и поддерживает текстовый ввод и вывод. В репозитории указана поддержка английского языка и тег для задач, связанных с кодом. Доступно множество вариантов квантования — от BF16 до форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендованными названы, в частности, варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M; для систем с ограниченными ресурсами доступны более компактные варианты, но с меньшим качеством. К сильным сторонам относятся локальный запуск, широкий выбор размеров квантованных файлов и оптимизация imatrix, направленная на сохранение качества при сжатии. Ограничения — отсутствие в README сведений об архитектуре, размере контекстного окна, точных результатах оценки, мультимодальности и поддерживаемых языках помимо английского. Для работы требуется совместимый движок с поддержкой этой модели и формата GGUF. Модель распространяется по лицензии Apache-2.0.

bergr7f/mathcoder-mistral-7B — объединённая языковая модель на архитектуре Mistral, созданная методом TIES с помощью mergekit. В основу слияния вошла mistralai/Mistral-7B-v0.1; также объединены WizardLM/WizardMath-7B-V1.1 и codellama/CodeLlama-7b-Instruct-hf. Модель предназначена для генерации текста с уклоном в математические задачи и программирование. Она содержит 7,1 млрд параметров, работает через библиотеку Transformers и поддерживает контекст до 32 768 токенов. В метаданных указана задача text-generation. Лицензия в предоставленных данных не указана. Поскольку модель объединяет несколько базовых моделей, условия использования следует сверять с лицензиями исходных компонентов. Данных о качестве на конкретных наборах задач нет.

duyntnet/OpenHermes-2.5-Mistral-7B-imatrix-GGUF — набор квантованных версий модели OpenHermes-2.5-Mistral-7B, разработанной Teknium. Модель предназначена для генерации текста и диалогового взаимодействия, включая программирование, создание рецептов, обсуждение абстрактных тем и ролевые сценарии. Идентификатор также указывает на формат GGUF и использование imatrix-квантизации. В основе лежит OpenHermes-2.5-Mistral-7B; размер базовой модели — 7 миллиардов параметров. Модель относится к текстовым, поддерживает английский язык и предназначена для text generation. README не содержит сведений о точной архитектуре, доступных вариантах квантования, размере контекста, системных требованиях или поддерживаемых модальностях помимо текста. Сильные стороны модели — универсальность в диалоговых и генеративных сценариях, а также наличие квантованных вариантов, потенциально удобных для локального запуска. Ограничения включают отсутствие подтверждённых данных о качестве, бенчмарках, многоязычности и фактических требованиях к ресурсам. Лицензия указана как other, без дополнительных условий использования в README.

Phi-3-mini-mango-1 — экспериментальная instruct-дообученная языковая модель Rhys Jones на базе Microsoft/Phi-3-mini-4k-instruct. Она предназначена для диалоговой генерации текста и кода, а также для изучения свойств и поведения Phi-3 после дообучения. Модель имеет плотную архитектуру Phi-3, около 3,7 млрд параметров и контекст до 4096 токенов; принимает текст и генерирует текст. Карточка указывает на использование того же формата чата, что и у Phi-3 Mini-4K-Instruct, без системного промпта. Это первая экспериментальная версия дообучения. Она распространяется в формате Safetensors, а отдельная версия GGUF доступна в другом репозитории. Лицензия — MIT. Для запуска README рекомендует Transformers версии 4.41.0 или новее.

Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — текстовая диалоговая модель с открытыми весами, созданная r3lax на основе Qwen/Qwen3.6-35B-A3B. Это дообученная MoE-модель семейства Qwen3.5: в ней 35 млрд параметров, из которых около 3 млрд активируются на каждом токене. Для обучения использовали дистилляцию примерно 8 тысяч цепочек рассуждений Claude Opus 4.7; стиль рассуждения настраивали с помощью LoRA только для слоёв внимания. Модель предназначена для многошаговых рассуждений, решения задач по математике и STEM, анализа кода, логических головоломок и агентного планирования. Контекст — до 64 тысяч токенов; при сложных запросах модель может генерировать от 5 до 30 тысяч токенов рассуждений перед ответом. Поддерживает английский язык. В метаданных указаны чат и интерфейс вызова инструментов; README рекомендует vLLM для сервинга. Дистилляция перенимает стиль рассуждений, но не добавляет фактических знаний сверх базовой Qwen3.6-35B-A3B. Экспертные FFN-слои не дообучались, генерация может быть очень длинной, а README отмечает проблемы с форматом ответов для автоматической оценки AIME. Лицензия — Apache-2.0; для сценариев, использующих данные, созданные Claude Opus 4.7, README рекомендует проверить применимые условия Anthropic.

Qwen3.8-27B-Axon-MLQT — квантованная версия Qwen3.8-27B в формате GGUF, подготовленная Jaesoo Park из AXON Sovereign Intelligence Lab. Модель предназначена для диалоговой генерации текста и запуска локально через llama.cpp, Ollama или llama-cpp-python; в карточке также заявлены сценарии рассуждения и программирования. Весовая матрица упакована в тритовые значения {-1, 0, +1}; итоговый файл занимает 6,43 ГБ. README сообщает о тестировании на потребительской видеокарте, но приведённые показатели производительности и сохранения качества являются заявлениями автора. Модель основана на Qwen/Qwen3.8-27B; лицензия — Apache-2.0. Метаданные указывают на диалоговые возможности и задачу генерации текста.

Карточка модели willhx/Qwen3-8B-Base-Math на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Ternary Bonsai 2 27B Abliterated v2 — производная 27-миллиардная текстовая модель, представленная BoldingBuilds в формате GGUF PQ2_0 с дополнительным вариантом MTP для спекулятивного декодирования. В README описаны изменения относительно исходной модели: удаление отказов и корректировка одной строки выходного слоя, призванная помочь модели завершать рассуждение и выдавать ответ. По карточке, файлы рассчитаны на запуск через форк llama.cpp от PrismML; стандартные сборки llama.cpp, Ollama и LM Studio без поддержки PQ2_0 их не загрузят. Модель предназначена для локальной генерации текста и диалогов, включая сложные запросы, рассуждения, математические и программные задачи. В сравнительных тестах она близка к исходной Bonsai 2 на математике и HumanEval, но результаты зависят от бюджета токенов и параметра reasoning_effort; в README рекомендован уровень medium. Вариант MTP, по заявлению автора, ускоряет декодирование примерно на 40%. Модель лишена обычного поведения отказа и может отвечать на запросы, которые исходная модель отклонила бы. Автор указывает исследование устойчивости выравнивания и локальное использование без фильтрации как сценарии применения, а также предостерегает от пользовательского развертывания без собственного слоя безопасности. В README также отмечено статистически значимое снижение MMLU относительно исходной модели. Лицензия репозитория — Apache-2.0.

A3ON-1B-i1-GGUF — это GGUF-квантизация базовой модели A3ON-1B, разработанной Kaiiddo и подготовленной к распространению пользователем mradermacher. Модель предназначена для генерации текста и помощи в программировании; в метаданных указана поддержка английского языка. Формат GGUF рассчитан на локальный запуск в совместимом программном обеспечении. Модель имеет размер 1 млрд параметров, однако сведения об архитектуре, длине контекста и поддерживаемых модальностях в README не приведены. Доступны многочисленные варианты квантизации, включая IQ- и Q-семейства, размером примерно от 0,5 до 1,1 ГБ. В README отмечается, что IQ-квантизации часто обеспечивают лучшее качество при сопоставимом размере; среди вариантов отдельно рекомендуются i1-Q4_K_M и i1-Q4_K_S, а i1-Q6_K по качеству практически соответствует статической Q6_K. Более агрессивные варианты могут заметно снижать качество. Лицензия модели — CC BY 4.0. README не содержит подробных результатов тестирования, поэтому её преимущества и ограничения следует оценивать с учётом выбранного уровня квантизации и конкретного сценария использования.

Agnuxo публикует локальную чат-модель Agente-GPT на базе семейства Qwen 2.5 с 3 млрд параметров. Репозиторий содержит веса в формате GGUF F32; модель предназначена для запуска, в частности, через Ollama и для генерации текста в диалоговом режиме. Автор позиционирует её как автономного агента для декомпозиции задач, координации агентов и помощи с генерацией кода, включая научные вычисления и машинное обучение. В карточке заявлена работа на испанском и английском языках, а лицензия указана как Apache 2.0. Данных о длине контекста и независимых оценках качества в предоставленных источниках нет. Заявленные агентные навыки не подтверждают сами по себе совместимость с конкретными инструментами или протоколами вызова функций.

CleverBoi-Llama-3.1-8B-v2 — языковая модель для генерации текста, разработанная theprint. Она дообучена на базе unsloth/meta-llama-3.1-8b-bnb-4bit в течение одной эпохи с использованием набора CleverBoi-Data-20k, содержащего данные с акцентом на логику, рассуждения, математику и программирование. Для обучения применялись Unsloth и библиотека Hugging Face TRL. Модель предназначена для текстовой генерации и сценариев, где важны решение логических задач, выводы, математические рассуждения и задачи программирования. Заявленный язык — английский. Известно, что модель основана на варианте Llama 3.1 с размером 8B параметров и 4-битным представлением; сведения о длине контекста и дополнительных модальностях не указаны. Сильная сторона модели — специализированное дообучение на задачах логики, математики и кода. В Open LLM Leaderboard она получила средний результат 14,01: IFEval — 19,61, BBH — 24,13, MATH Level 5 — 4,46, GPQA — 4,81, MuSR — 6,72 и MMLU-PRO — 24,31. Эти показатели следует учитывать как результаты конкретных тестовых режимов, а не как гарантию качества в прикладных сценариях. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V4.1-Flash (GGUF) — квантизированная версия текстовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и преобразованной в формат GGUF автором mxxm-t. Сборка предназначена для запуска через mx-llama.cpp — форк llama.cpp с поддержкой много-GPU инференса, pipeline и tensor parallelism, а также DSpark/MTP speculative decoding. Модель использует MoE-архитектуру с маршрутизируемыми экспертами и квантованием MXFP4; основные веса занимают около 375,8 GiB в 12 файлах, а после загрузки требуют примерно 302 GiB без учёта KV-кэша и вычислительных буферов. В комплект входит отдельный файл DSpark размером 7,43 GiB, который не является самостоятельной моделью и применяется только для speculative decoding. Поддерживается генерация текста; языки и максимальный контекст в README явно не указаны, хотя приведён пример запуска с контекстом 32768 токенов. Сильные стороны сборки — эффективный много-GPU инференс, поддержка режимов layer и tensor parallelism, MXFP4 для routed experts, сжатие KV-кэша и ускорение генерации с помощью DSpark. Ограничения заключаются в высоких требованиях к памяти и накопителю, необходимости совместимого mx-llama.cpp, отсутствии vision tower, projector и файла mmproj, а также в том, что DSpark нельзя использовать отдельно. Для chat completions ответ этой архитектуры помещается в поле reasoning_content, а не content. Лицензия MIT, унаследованная от базовой модели DeepSeek.

LayerSkip Llama2 70B — языковая модель Meta, созданная на основе Meta Llama 2 70B посредством дальнейшего предобучения с LayerSkip. Она генерирует текст и поддерживает ускоренное декодирование с ранним выходом: ранние слои формируют черновой ответ, а оставшиеся слои его проверяют. Такой режим предназначен для ускорения авторегрессионной генерации, сохраняя качество проверки основной моделью. Модель рассчитана на англоязычные задачи генерации естественного языка и кода. README приводит замеры на восьми GPU NVIDIA A100: 12,49 токена в секунду при self-speculative decoding против 9,89 при обычном декодировании в описанной конфигурации. Для полного выигрыша в памяти и производительности предлагается оптимизированная реализация LayerSkip; вариант через Hugging Face требует дополнительной памяти для KV-кэша и активаций. Модель распространяется в форматах PyTorch и Safetensors; лицензия указана как other, поэтому условия следует уточнять в карточке и лицензии базовой модели.

MiMo-7B-Base — базовая языковая модель Xiaomi, обученная с нуля для развития способностей к рассуждению. Это плотная авторегрессионная модель с архитектурой MiMoForCausalLM и 7 млрд параметров; для обучения использовано около 25 трлн токенов, а дополнительная цель Multiple-Token Prediction поддерживает ускоренное декодирование. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и интерфейс диалога и вызова инструментов. Модель предназначена прежде всего для дальнейшего дообучения и постобучения, а также для экспериментов с задачами математического и программного рассуждения. README описывает потенциал базовой модели в этих областях и результаты отдельных производных моделей MiMo, но не следует считать их результатами этого чекпойнта. В карточке не приведены конкретные языковые покрытия и подробные ограничения качества. Лицензия — MIT.