II.3Рефакторинг, миграция и модернизация

KCh3dRi4n выпустил K-REAP-версию Qwen3-Coder-30B-A3B-Instruct с сокращённым числом маршрутизируемых экспертов. В каждом слое оставлено 112 из 128 экспертов, при этом активны 8; README указывает около 27 млрд параметров всего и 3,3 млрд активных. Метаданные каталога сообщают 2,6 млрд параметров, поэтому точный размер в описании не приводится. Модель предназначена для генерации кода и диалоговых сценариев, включая работу на корейском и английском языках; заявленная длина контекста — 262 144 токена. По приведённым в карточке тестам, K-REAP сохраняет близкие к исходной модели результаты на корейских и англоязычных бенчмарках, а также на задачах программирования и математики. Модель доступна в формате safetensors BF16 и рассчитана на запуск через MLX или Transformers; метаданные также отмечают интерфейс вызова инструментов. Она распространяется по лицензии Apache-2.0. Приведённые результаты получены на полных наборах и детерминированных подвыборках, поэтому они не гарантируют такое же качество на любых задачах.

Qwopus3.8-27B-Flash — дообученная модель, опубликованная Jackrong на базе Qwen3.8-27B. Она предназначена для практических агентских сценариев, в которых модель многократно взаимодействует с инструментами: анализирует данные, генерирует и редактирует код, вызывает функции, наблюдает результаты и выполняет итеративные задачи. Модель ориентирована на снижение задержки, вычислительных затрат и склонности к избыточно длинным рассуждениям при сохранении широких общих возможностей. Модель имеет размер 27B параметров и распространяется в формате GGUF для локального запуска, в том числе через llama.cpp. Заявлена поддержка текстово-визуальных задач и обработки изображений, а также генерации текста, рассуждений, программного кода, tool use и function calling. В метаданных указаны английский, китайский, испанский, русский и японский языки. Контекстное окно и точные архитектурные характеристики не указаны. Обучение включало качественную выборку данных supervised fine-tuning и усиление рассуждений с использованием NVIDIA NeMo-RL и GSPO. К сильным сторонам относятся более быстрая генерация, заявленные 80,7% принятия токенов MTP, снижение неэффективных рассуждений и пригодность для длительных агентских цепочек. При этом README указывает на компромисс в качестве: результат на смешанном наборе MMLU-Pro ниже, чем у базовой модели. Известно ограничение в виде возможных ошибок отступов в Python в отдельных задачах программирования. Модель распространяется по лицензии Apache-2.0.

mondk/Safetensors.chatgpt-gpt-codex-V2 — разговорная генеративная модель на архитектуре Qwen3, выпущенная в формате Safetensors. По карточке, она ориентирована на помощь с кодом и стремится давать более аккуратные ответы и отвечать быстрее, хотя автор отмечает небольшое снижение точности кода. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Это дообучение mondk/Safetensors.chatgpt-gpt-gpt5.1-thinking на наборах данных с диалогами, шутками и примерами для задач кодирования. Метаданные отмечают чат и интерфейс вызова инструментов; основной сценарий — генерация текста, в том числе ответы в диалоге и помощь при написании кода. Подтверждённая лицензия — Apache-2.0.

Ternary-Bonsai-27B-GGUF — набор GGUF-квантизаций модели Ternary-Bonsai-27B, подготовленный пользователем vcruz305 на основе официального F16-релиза prism-ml. В основе лежит backbone Qwen3.6-27B с гибридным вниманием, контекстом до 262 тысяч токенов и поддержкой vision. Модель предназначена для генерации текста и кода, диалоговых сценариев, программирования, рассуждений и отладки через llama.cpp. Репозиторий включает варианты Q3_K_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 13,3 до 28,6 ГБ. Для большинства вариантов использована importance matrix, полученная на корпусе объёмом 63 КБ с примерами программирования, отладки и рассуждений; Q8_0 создан без неё. Доступны два файла mmproj для работы с изображениями. Производительность зависит от пропускной способности памяти и оборудования: на GB10 заявлены скорости примерно от 7,8 до 14 токенов в секунду. Сильная сторона модели — широкий диапазон квантизаций для систем с 12–32 ГБ памяти, а также сочетание генерации кода, рассуждений и визуального ввода. При объёме памяти до 8 ГБ автор рекомендует использовать официальные QAT-кванты prism-ml, поскольку они сохраняют более высокое качество. Совместное использование с DSpark drafter протестировано, но для этих квантизаций не рекомендуется: коэффициент принятия черновых токенов составил около 54%, поэтому прирост производительности может отсутствовать. Модель распространяется по лицензии Apache-2.0 и рассчитана на использование с llama.cpp.

Карточка модели emhltbkars/xxx на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.0-9B, поэтому описание составлено по ней. Ornith-1.0-9B — плотная языковая модель примерно на 9 млрд параметров от команды Ornith, разработанная для агентного программирования. Она дообучена на базе Qwen 3.5 с применением обучения с подкреплением: модель учится планировать траектории поиска и генерировать решения для задач разработки. Версия 9B предназначена для эффективного запуска на одной GPU и хранится в формате safetensors; для обслуживания авторы приводят рецепты на vLLM, SGLang и Transformers. Модель подходит для программирования через терминальные агентные интерфейсы, работы с кодовыми базами, автоматизации задач разработки и вызова инструментов. В README заявлены результаты на Terminal-Bench 2.1, SWE-Bench, NL2Repo и других бенчмарках, однако численные результаты в предоставленном тексте опущены. Примеры конфигурации используют контекст до 262 144 токенов; это значение указано как параметр запуска, а не как подтверждённая нативная длина контекста. Лицензия — MIT. README не сообщает поддерживаемые естественные языки.

Zrald/Zrald-AI-model-quant-qwen-3.8-27b — набор GGUF-квантований Qwen3.8-27B, опубликованный Zrald для локального запуска через llama.cpp. Это плотная модель на 27 млрд параметров, дообученная на базе Qwen/Qwen3.8-27B; репозиторий предлагает три варианта с разным балансом размера, скорости и сохранения качества. README описывает применение для диалогов, программирования, рассуждений и инструктивных задач. Варианты занимают от 10,18 до 17,08 ГиБ; заявлены сценарии запуска на видеокартах с 12, 16 и 24 ГБ памяти, а для старшего варианта — контекст до 32 тысяч токенов. Автор сообщает о тестировании на AMD Instinct MI300X и совместимости с llama.cpp. Лицензия — Apache-2.0. Это текстовая модель генерации; мультимодальные функции базовой модели в карточке этого репозитория не заявлены.

Apodex-1.1-mini-GGUF — набор GGUF-квантизаций модели Apodex-1.1-mini, опубликованный организацией apodex; в README результаты оценки исходной модели связываются с Apodex AI. Это 35,95-миллиардная MoE-модель семейства Qwen3.5, предназначенная для исследовательской работы, анализа данных и файлов, программирования и задач с использованием инструментов. Поддерживаются английский и китайский языки, генерация текста и мультимодальный ввод изображений через отдельный vision projector. Модель сохраняет исходную MTP/NextN head, что позволяет использовать speculative decoding в llama.cpp. Доступны варианты квантизации от IQ1_M размером 8,82 ГБ до Q8_0 размером 37,8 ГБ; рекомендуемым вариантом по умолчанию указан Q4_K_M размером 21,7 ГБ. Для работы с изображениями требуется F16-проектор размером 899 МБ. README не указывает полный размер контекста, поэтому его характеристики нельзя определить по представленным данным. Модель ориентирована на локальный запуск через актуальную сборку llama.cpp и поддерживает агентские сценарии, код, работу с данными и изображениями. Сильными сторонами являются широкий выбор уровней квантизации, поддержка MoE, мультимодальности и MTP. Ограничения включают зависимость от совместимых компонентов llama.cpp и необходимость отдельного проектора для изображений; качество и производительность зависят от выбранной квантизации и доступной памяти. Лицензия — Apache-2.0.

Athena-codegemma-2-9b — дообученная компанией EpistemeAI языковая модель семейства Gemma 2 с плотной архитектурой и 9 млрд параметров. Она создана на основе EpistemeAI/EpistemeAI-codegemma-2-9b и предназначена для генерации кода и текста по запросу. Модель принимает текст и генерирует текст; её контекстное окно составляет 8192 токена. В карточке указан английский язык. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

Mungert/cogito-v1-preview-llama-8B-GGUF — квантизированная GGUF-версия предварительной модели Cogito v1-preview, разработанной Deep Cogito. Однако представленная карточка описывает вариант на 70B параметров с базовой моделью Meta Llama 3.1 70B, поэтому соответствие заявленному идентификатору 8B не подтверждено. Модель предназначена для генерации текста по тексту и работает как instruction-tuned LLM. Cogito — гибридная reasoning-модель: она может отвечать напрямую в стандартном режиме или выполнять саморефлексию в режиме расширенного рассуждения. Модель оптимизирована для программирования, задач STEM, следования инструкциям, общей полезности и tool calling. Заявлена поддержка более 30 языков и контекстного окна до 128k токенов. Расширенное рассуждение включается специальной системной инструкцией или параметром enable_thinking в chat template. Поддерживаются одиночные, параллельные и комбинированные вызовы инструментов. К сильным сторонам относятся гибридный режим работы, заявленные улучшения многоязычности, программирования и вызова инструментов, а также обучение методом Iterated Distillation and Amplification. Ограничения карточки — отсутствие подробных числовых результатов тестов в текстовом виде и несоответствие между идентификатором 8B и описанием 70B. Модель распространяется по лицензии llama3.1; в карточке указано, что семейство выпущено под открытой лицензией с возможностью коммерческого использования.

Valdemardi/DeepSeek-R1-Distill-Qwen-32B-AWQ — квантизированная версия DeepSeek-R1-Distill-Qwen-32B, разработанная на базе модели DeepSeek-R1 командой DeepSeek AI. Модель предназначена для задач рассуждения, включая решение математических задач, программирование и другие сложные текстовые задачи. По данным README, DeepSeek-R1-Distill-Qwen-32B превосходит OpenAI o1-mini на ряде бенчмарков и демонстрирует сильные возможности для плотной модели. Модель использует архитектуру базовой Qwen-модели размером 32B параметров и работает с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Данная версия сжата в 4-битный формат AWQ с использованием AutoAWQ 3.2.7.post3, группировкой q_group_size 128, zero-point quantization и режимом GEMM. Квантизация снижает требования к памяти и может упростить локальный запуск, но потенциально сопровождается потерей точности по сравнению с полной версией. В README указана лицензия Apache-2.0 для репозитория этой версии, тогда как для исходной DeepSeek-R1 приведены отдельные ссылки на Model Agreement и лицензию кода MIT; условия использования следует проверять применительно к конкретным компонентам модели.

DeepSeek-V4-Flash-0731-CRACK-NVFP4 — дообученная и модифицированная версия deepseek-ai/DeepSeek-V4-Flash-0731, опубликованная Dealign.ai. Это текстовая генеративная MoE-модель для диалогов, рассуждений, программирования, вызова инструментов и многошаговых сценариев. Модель позиционируется как исследовательский артефакт с удалёнными защитными отказами, поэтому требует ответственного и законного применения. Архитектура включает 43 слоя, 256 маршрутизируемых и одного общего эксперта, MLA, sliding-window attention и контекст примерно до 1 млн токенов с YaRN. Сохранены native-квантизация FP8 для attention и общих экспертов, FP4 класса NVFP4 для маршрутизируемых экспертов, DSpark MTP head, управляемое усилие рассуждения и спекулятивное декодирование. Чекпойнт занимает около 167 ГБ и рассчитан на tensor parallel между двумя узлами NVIDIA GB10 или DGX Spark; в README также указана конфигурация обслуживания с контекстом до 393216 токенов. Заявлены английский и китайский языки, интеграция с vLLM и поддержка OpenAI-совместимых инструментальных вызовов. К сильным сторонам относятся сохранённые знания и способности к рассуждению, высокая заявленная точность на MMLU и HumanEval, производительность 45–49 токенов в секунду в однопоточном режиме, prefix caching и высокая ёмкость GPU KV cache. Основное ограничение — отсутствие защитных отказов: модель может согласиться с вредоносными, незаконными или опасными запросами. Для запуска требуются совместимые сборки vLLM, две системы GB10/DGX Spark, tensor parallel и специализированная инфраструктура. Модель распространяется по лицензии MIT с наследованием условий upstream DeepSeek-V4-Flash; перед использованием необходимо проверить применимые условия лицензии.

Dolphin 2.6 Mistral 7B DPO — языковая модель, созданная Eric Hartford при спонсорской поддержке Convai и дообученная на базе Mistral-7B. Это плотная авторегрессионная модель с 7,1 млрд параметров, рассчитанная на генерацию текста; она принимает запросы в формате ChatML. Контекст модели составляет до 32 768 токенов по метаданным, тогда как README указывает для базовой модели 16 тысяч токенов. Модель предназначена для диалога и особенно для задач программирования. DPO-настройка на предпочтениях повысила её склонность следовать инструкциям. Модель поддерживает английский язык; репозиторий содержит веса в формате safetensors. Лицензия Apache-2.0 допускает коммерческое использование. Автор описывает модель как uncensored и предупреждает, что она может выполнять вредоносные запросы. Перед использованием в сервисе следует самостоятельно настроить меры безопасности и фильтрацию. README не приводит законченных примеров вывода или результатов оценки, поэтому качество для конкретных задач стоит проверять отдельно.

Это GGUF-квантизированная версия текстовой языковой модели dolphin-2.9.2-Phi-3-Medium, разработанной cognitivecomputations и подготовленной пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, программным кодом, математическими задачами и агентными запросами. В обучении или дообучении исходной модели использовались наборы данных Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Agent-FLAN и SystemChat-2.0. Распространяется в формате GGUF для запуска с llama.cpp и совместимых инструментов. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; для ряда вариантов применена IMatrix-квантизация, позволяющая уменьшить размер модели при сохранении качества. Указан английский язык, модальность — текстовая. Размер исходного BF16-варианта составляет около 27,92 ГБ, а доступные квантизированные файлы занимают примерно от 5,20 до 14,83 ГБ. Сильная сторона модели — возможность локального запуска с выбором компромисса между качеством и требованиями к памяти благодаря множеству уровней квантизации. Ограничения README не раскрывает: отсутствуют сведения о числе параметров, архитектурных деталях, размере контекста, результатах бенчмарков и качестве на других языках. Для публикации указана лицензия MIT.

Dolphin-2.9-Llama3-8B-GGUF — это квантизированная версия текстовой генеративной модели Dolphin 2.9 Llama 3 8B, созданной cognitivecomputations на базе Meta-Llama-3-8B. Квантизации в формате GGUF подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых ответов, следования инструкциям, генерации и анализа текста, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы данных Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, UltraChat, Orca Math и другие специализированные датасеты. Модель имеет текстовую модальность и около 8 миллиардов параметров. README не содержит точных сведений о поддерживаемых языках и размере контекстного окна. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-классов размером примерно от 2,6 до 8,54 ГБ: более качественные варианты требуют больше памяти, а низкобитные позволяют запускать модель на менее производительном оборудовании с некоторой потерей качества. Для работы указан формат чата с ролями system, user и assistant. Сильными сторонами являются широкий набор инструкционных, кодовых, математических и агентских данных, поддержка локального запуска через llama.cpp и большой выбор компромиссов между качеством и требованиями к памяти. Версия устарела и помечена как deprecated из-за проблем с настройками токенизатора; рекомендуется использовать более новую переквантизированную версию dolphin-2.9-llama3-8b-GGUF. Лицензия указана как other, без подробностей об условиях использования.

EmanuelOverride/gemma-4-19b-a4b-it-REAP-heretic-APEX-GGUF — это GGUF-квантизированная версия Gemma 4 19B-A4B-it REAP, созданная на основе модели coder3101/gemma-4-19b-a4b-it-REAP-heretic. В основе лежит Gemma 4 от Google, подвергнутая 30% pruning экспертов методом Cerebras REAP, а затем декензурированная с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation. Репозиторий поддерживает текстовую генерацию и ориентирован на англоязычные сценарии. Модель использует mixture-of-experts архитектуру: около 19,02 млрд общих параметров, примерно 4 млрд активных параметров на токен, 90 экспертов на слой и 8 активируемых экспертов на токен. Удаление 38 из 128 экспертов на слой уменьшает общий размер модели примерно на 31%, при этом число активных параметров на токен сохраняется. README не указывает размер контекстного окна и полный перечень поддерживаемых модальностей; по имеющимся данным, модель предназначена для работы с текстом, включая программирование, рассуждения, математику, научные и биомедицинские вопросы, tool calling и агентные сценарии. Главная особенность версии GGUF — пользовательские APEX-квантизации с неравномерным распределением точности: маршрутизаторы и важные общие эксперты сохраняются в более высокой точности, а более сильное сжатие применяется к менее значимым тензорам средних слоёв. Доступны варианты от i-Mini размером около 8,7 ГиБ и 3,94 BPW до i-Balanced размером около 13,9 ГиБ и 6,30 BPW, а также промежуточные профили. Это позволяет выбирать баланс между размером, потреблением памяти и качеством, однако фактическая производительность зависит от оборудования и выбранной квантизации. По заявленным тестам, декензурированная версия значительно реже отказывается отвечать: 6 отказов из 100 против 94 у исходной модели, при KL divergence 0,029. Ограничениями являются возможная потеря качества из-за pruning, декензурирования и квантизации, а также отсутствие подробных данных о контексте и комплексных бенчмарках. Указана лицензия Gemma; условия применения следует проверять по лицензии исходной модели и требованиям Google.

Hyperion Medium Preview — языковая модель M4-ai, дообученная на базе mistralai/Mistral-7B-v0.1 на наборе Hyperion. Это плотная модель Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и контекст до 32 768 токенов. Она предназначена для диалогов и ответов на сложные вопросы, в том числе по научным темам, а также для генерации кода, математических и логических рассуждений и понимания медицинских текстов. В карточке заявлена поддержка английского языка. Модель может применяться в обучающих помощниках по науке, медицине, математике и информатике, в технических диалоговых системах и для помощи с программированием. Карточка отмечает, что разнообразие данных, форматирование и качество разметки могут приводить к непоследовательным ответам. Модель распространяется по лицензии Apache-2.0.

internlm3-8B-Nex-N1 — чат-модель серии Nex-N1 от разработчиков платформы Nex, представленная в работе о создании агентных моделей. Это плотная авторегрессионная модель InternLM3 с 8,3 млрд параметров, опубликованная в формате Safetensors; карточка указывает контекст до 131 072 токенов и лицензию Apache-2.0. Модель предназначена для агентных сценариев: программирования, вызова инструментов и функций, веб-поиска и многошаговых задач. Разработчики также заявляют применение для создания мини-приложений, сайтов и слайдов. В README описана поддержка function calling и приведены результаты серии Nex-N1 на агентных бенчмарках, однако таблица не содержит отдельной строки с результатами именно этой 8B-модели. Модель принимает текстовые запросы и генерирует текстовые ответы; в метаданных отмечен режим чата. Языковая поддержка отдельно не описана. Для запуска разработчики рекомендуют SGLang; для function calling предлагается специальный парсер инструментов. Качество в конкретных задачах и совместимость с окружением агента могут зависеть от конфигурации и инструментов.

IFM/K2-Horizon-7B-GGUF — это GGUF-версия модели K2-Horizon-7B, разработанной IFM. Репозиторий предназначен для запуска модели с помощью llama.cpp и содержит тензоры в исходной точности BF16, метаданные токенизатора и совместимый с llama.cpp шаблон чата. Модель представляет собой плотную decoder-only архитектуру среднего размера в семействе K2-Horizon, с 7B параметров в основном ядре и контекстным окном на 524 288 токенов. Она ориентирована на генерацию текста, агентские сценарии, программирование, задачи с длинным контекстом и рассуждения. В README указан английский язык. Модель оценивается на математических, инженерных, кодировочных и long-context-бенчмарках; среди заявленных характеристик — результат 70,6 на SWE-bench Verified и 73,3 на HMMT Feb 2026. К сильным сторонам относятся большое нативное контекстное окно, открытость обучающих данных, рецепта, кода обучения и ресурсов оценки, а также наличие промежуточных чекпойнтов. Для запуска требуется версия llama.cpp с поддержкой архитектуры K2 Horizon; на момент публикации такая поддержка находилась в разработке, а совместимая ветка доступна в форке MBZUAI-IFM. Модель распространяется по лицензии Apache-2.0.

Kiel-2.1-Echo — языковая модель для диалогов и выполнения инструкций, разработанная KielTech в экосистеме Kiel AI. Это плотная причинная модель семейства Llama с 3,2 млрд параметров, дообученная на базе kiel2/Kiel-2-Echo и распространяемая как самостоятельные веса Safetensors в формате FP16. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для разговорных ассистентов, генерации кода, помощи с асинхронными сценариями на Python, рассуждений о программной архитектуре и решения задач из разных областей. Она принимает текстовые запросы и генерирует текст; заявленный язык — английский. В карточке заявлены высокая производительность и строгое следование инструкциям, но сравнительные оценки или результаты тестов не приведены. Указаны варианты развёртывания через Transformers, vLLM и Text Generation Inference. Лицензия в предоставленных данных не описана.

PrimeIntellect публикует веса Meta Llama 3 70B Instruct, разработанной Meta. Это плотная авторегрессионная языковая модель на архитектуре Transformer с 69,5 млрд параметров. Репозиторий содержит веса, разбитые на части для более эффективной загрузки в Petals; формат файлов — safetensors. Модель принимает текст и генерирует текст и код, а версия Instruct настроена для диалогов с помощью контролируемого дообучения и обучения с подкреплением по обратной связи от людей. Используйте её для чат-ассистентов и генерации текста на английском языке. Контекст модели — до 8192 токенов. Модель предназначена для коммерческого и исследовательского применения в рамках лицензии Meta Llama 3 Community License. Она оптимизирована для полезных и безопасных ответов, но требует дополнительных мер защиты в приложениях: документация отмечает остаточные риски, в том числе связанные с опасным контентом. README указывает английский как целевой язык; использование на других языках обозначено как выходящее за рамки назначения, хотя разработчики могут дообучать модель для дополнительных языков с соблюдением лицензии и политики использования.

Карточка модели ahmed-amedo/MiMo-V2.6-Flash-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Flash, поэтому описание составлено по ней. MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

MiniCPM5-2B-GGUF — это GGUF-сборка плотной каузальной языковой модели MiniCPM5-2B, разработанной OpenBMB и опубликованной пользователем prithivMLmods. Модель предназначена для локальных ассистентов, генерации текста, программирования, coding-agent задач, использования инструментов и развёртывания на устройствах с ограниченными ресурсами. Она поддерживает запуск через llama.cpp и совместимые приложения, включая Ollama и LM Studio. Модель содержит около 2,52 млрд параметров и использует архитектуру LlamaForCausalLM с 42 слоями и Grouped-Query Attention: 16 Q-голов и 2 KV-головы. Заявлена длина контекста до 131 072 токенов, а указанным языком является английский. Доступны варианты GGUF с точностями от F32 и BF16/F16 до квантований Q3–Q8, размером примерно от 1,19 до 10,1 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Сильными сторонами заявлены рассуждения, математика, программирование, работа с длинным контекстом, вызов инструментов и агентные сценарии; модель обучалась с использованием специализированного дообучения и reinforcement learning. Ограничения включают компактный размер по сравнению с крупными LLM, заявленную языковую поддержку только английского и зависимость характеристик от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

RippaSats/MiniMax-M3 — мультимодальная модель семейства MiniMax M3, представленная в формате safetensors и рассчитанная на работу с текстом и изображениями. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA), предназначенное для снижения вычислительных затрат и потребления памяти при длинном контексте; авторы также заявляют ускорение обработки длинного контекста по сравнению с M2. Модель предназначена для диалогов с изображениями, задач программирования и длительных агентных сценариев. README также описывает обучение на смеси модальностей с самого начала и заявляет поддержку видео, однако метаданные модели подтверждают только задачу image-text-to-text и возможности чата и зрения. README рекомендует использовать MiniMax Agent или MiniMax API. Репозиторий указывает лицензию other, поэтому конкретные условия использования следует проверять в приложенных лицензионных материалах.

OmniCoder-9B-Opus-4.6-Uncensored-v2-GGUF — языковая reasoning-модель на базе Qwen/Qwen3.5-9B, созданная автором ansulev. Модель получена объединением нескольких производных моделей, включая OmniCoder-9B от Tesslate, reasoning-модель Qwen3.5-9B от Jackrong и uncensored-модель HauhauCS. При обучении и слиянии использовались данные в стиле Claude 4.6 Opus, ориентированные на рассуждения, математику, логические задачи, общие знания, инструкции и программирование. Формат распространения — GGUF; заявленная лицензия — Apache-2.0. Модель предназначена для локального запуска в приложениях вроде LM Studio и для задач общего назначения, требующих многошагового рассуждения, генерации и анализа кода, решения математических и логических задач, а также следования инструкциям. В карточке указаны английский, китайский и корейский языки. Архитектура унаследована от Qwen3.5-9B, размер — около 9 миллиардов параметров. В метаданных указана мультимодальная категория image-text-to-text, однако подробности о поддерживаемых визуальных входах и размере контекстного окна не приведены. Ключевая особенность версии v2 — более компактная и эффективная генерация рассуждений. По заявленным оценкам на HumanEval и HumanEval+ она превосходит базовую Qwen3.5-9B по точности и требует примерно на 20–23% меньше текста рассуждений для одного успешного решения. Это может снижать задержку и стоимость инференса, но заявленные результаты основаны на ограниченном наборе тестов и не гарантируют аналогичного качества во всех прикладных сценариях. Разработчик также предупреждает о возможном снижении широких общих способностей из-за ограниченного объёма и направленности дообучения. Термин uncensored указывает на ослабленные ограничения отказов, что может повышать гибкость, но требует дополнительного контроля безопасности при использовании.

OpenThinker3-7B — языковая модель с открытыми весами, разработанная командой Open Thoughts для задач рассуждения. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts3-1.2M, включающем вопросы по математике, программированию и естественным наукам. По данным авторов, модель обучалась без RL и показала улучшение по сравнению с предыдущими моделями OpenThinker в приведённых тестах. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов; поддерживаются чатовый режим и интерфейс вызова инструментов. Модель предназначена для решения математических задач, написания и анализа кода, научных вопросов и пошагового рассуждения. Доступна по лицензии Apache 2.0.

Карточка модели shaffhausenquant/OpenThinkerAgent-32B-SFT-316 на Hugging Face совпадает с карточкой trinityomnis/OpenThinkerAgent-32B-SFT-316, поэтому описание составлено по ней. OpenThinkerAgent-32B-SFT-316 — дообученная командой OpenThoughts-Agent модель на основе Qwen/Qwen3-32B. Она обучена методом full-parameter SFT на 316 примерах траекторий агента и предназначена для диалоговой работы с задачами программной инженерии, командной строкой и техническими вопросами. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 29,7 млрд параметров и принимает текстовый ввод с контекстом до 40 960 токенов. В README приведены результаты оценки в среде terminus-2: модель показала 16,3 на SWE-Bench-Verified-100, 24,2 на OpenThoughts-TBLite и 13,1 на Terminal-Bench 2.0; оценки получены как pass@1, усреднённый по трём случайным прогонам. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Карточка модели zxy1423/Qwen2.5-Coder-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-1.5B-Instruct — инструкционно дообученная языковая модель для генерации и анализа кода, разработанная командой Qwen. Это причинная трансформерная модель семейства Qwen2 с 1,5 млрд параметров, обученная на коде, текстово-кодовом сопоставлении и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm и групповое запросное внимание; контекст — до 32 768 токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для диалоговых сценариев и создания кодовых агентов. По карточке семейства, обучение также сохраняло способности к математике и общим задачам, однако основной профиль этой версии — программирование. Доступна через библиотеку Transformers и поддерживает формат safetensors. Модель распространяется по лицензии Apache-2.0. Компактный размер облегчает её запуск по сравнению с крупными моделями, но качество и надёжность ответов могут быть ниже, чем у более крупных кодовых моделей; сгенерированный код следует проверять.

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантизированный формат GGUF модели Qwen2.5-Coder-1.5B-Instruct, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и анализа программного кода, чат-взаимодействия и других задач текстовой генерации, связанных с разработкой программного обеспечения. Указан английский язык, а исходная модель доступна через библиотеку Transformers. Модель содержит 1,5 млрд параметров и распространяется в нескольких вариантах точности, включая F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Размер файлов составляет примерно от 0,78 до 3,09 ГБ, поэтому доступны варианты для систем с разным объёмом оперативной памяти. В README не указаны архитектурные детали, размер контекста и дополнительные модальности; по описанию это текстовая модель без заявленной поддержки изображений или других типов входных данных. Основное преимущество набора — локальный запуск через llama.cpp и совместимость с LM Studio при существенно сниженном потреблении памяти. Варианты с более высокой точностью обеспечивают лучшее качество, а низкоразрядные квантизации экономят ресурсы, но могут заметно снижать качество генерации; устаревший формат Q4_0 не рекомендуется по сравнению с альтернативами сопоставимого размера. Для общения следует использовать указанный в README шаблон сообщений ChatML. Лицензия — Apache-2.0.

sourcepirate/Qwen2.5-Coder-1.5B-Instruct-heretic — дообученная и модифицированная версия Qwen2.5-Coder-1.5B-Instruct, основанная на Qwen/Qwen2.5-Coder-1.5B. Это причинная языковая модель семейства Qwen2 для генерации текста и кода в диалоговом формате; в карточке указана модификация abliteration, снижающая частоту отказов по сравнению с исходной инструкционной моделью. Модель рассчитана на генерацию, анализ и исправление кода, а также на диалоговые сценарии с программированием. Архитектура включает 28 слоёв и групповое внимание GQA; размер — около 1,5 млрд параметров, контекст — до 32 768 токенов. Поддерживаемый язык в метаданных — английский. Формат весов — safetensors, рекомендуемая библиотека — Transformers. В README приведено сравнение на 100 примерах: 3 отказа у этой модели против 95 у оригинала; это ограниченная оценка и не подтверждает качество или безопасность для всех запросов. Лицензия — Apache-2.0.

ZeroXClem-Qwen3-4B-NexusPrime — языковая модель, созданная командой ZeroXClem с помощью слияния нескольких дообученных моделей Qwen3-4B методом Model Stock в MergeKit. Это плотная авторегрессионная модель на 3,7 млрд параметров для генерации текста, диалога и технических задач; заявленное максимальное окно контекста — 40 960 токенов. Она объединяет направления программирования и пошаговых рассуждений, поэтому предназначена для генерации и объяснения кода, решения математических и логических задач, структурированных ответов и технической документации. В README заявлена многоязычная поддержка, включая более 20 языков у одного из компонентов слияния; метаданные карточки указывают английский язык. Модель опубликована в формате safetensors и работает с библиотекой Transformers; README рекомендует стандартный шаблон чата Qwen3. Лицензия — Apache-2.0. Карточка заявляет широкие возможности, однако не приводит независимых оценок качества; модель описана как неконтролируемая и может выдавать нежелательный контент, поэтому для чувствительных сценариев требуется проверка результатов.