II.2Создание и понимание программного кода

shisa-ai/Ornith-1.0-35B-FP8-BLOCK-MTP — производный чекпойнт модели Ornith-1.0-35B, опубликованный Shisa AI. Он основан на shisa-ai/Ornith-1.0-35B-FP8-BLOCK и предназначен для ускорения генерации текста с помощью speculative decoding и механизма MTP (Multi-Token Prediction). Модель ориентирована на задачи генерации кода, рассуждений и агентских сценариев, поддерживаемые базовой моделью и совместимым сервером инференса. Основные веса сохранены в формате FP8_BLOCK с использованием compressed-tensors, а MTP-голова добавлена в формате BF16. В чекпойнт включены 19 тензоров mtp.*; обучение или дистилляция не выполнялись — использована прямая graft-операция с MTP-головой от Qwen/Qwen3.6-35B-A3B. Размер базовой модели составляет 35B параметров; в метаданных также указана MoE-архитектура. Сведения о поддерживаемых языках и точном размере контекстного окна в README не приведены, хотя в локальном тестировании использовался лимит 32768 токенов. Главное преимущество — повышение пропускной способности при обслуживании через vLLM. В описанном локальном тесте конфигурация с num_speculative_tokens=3 достигла 246,522 выходных токена в секунду против 203,142 у базового режима без speculative decoding, то есть прирост составил 21,4%. При этом увеличивались медианные задержки до первого токена и межтокеновые интервалы, а acceptance снижался с 85,82% при одном спекулятивном токене до 66,98% при трёх. Результаты получены на одной NVIDIA RTX PRO 6000 Blackwell с частными тестовыми данными и могут не воспроизводиться на других аппаратных или рабочих нагрузках. Модель распространяется по лицензии MIT. Для использования MTP требуется совместимая инфраструктура, в частности vLLM с поддержкой соответствующих механизмов и compressed-tensors. README рекомендует повторно измерить производительность на собственном трафике; для чувствительных к задержке или стабильности сценариев следует рассмотреть один спекулятивный токен либо работу без speculative decoding.

Ornith-1.0-35B-MTP — вариант Ornith-1.0-35B от Crucible Labs для спекулятивного декодирования MTP в vLLM. К исходным весам модели добавлена голова multi-token prediction из Qwen/Qwen3.6-35B-A3B; README указывает, что остальные веса сохранены без изменений, а голова скопирована из базовой модели. Архитектура относится к семейству Qwen3.5 MoE; файлы представлены в формате safetensors, лицензия — MIT. Модель предназначена для генерации текста и кода с ускорением через MTP speculative decoding. В описанном тесте на одной системе с ROCm и vLLM ускорение при двух спекулятивных токенах составило 38,7% для прозы и 54,6% для кода, при принятии черновых токенов в 70,3% случаев. Это результаты конкретной конфигурации, а не гарантия производительности на другом оборудовании. README также сообщает о снижении вместимости KV-кэша на 21,8%; модель рассчитана на запуск через vLLM с соответствующими параметрами спекулятивного декодирования.

Sara121/Ornith-1.0-9B-Engineering — плотная языковая модель семейства Qwen3.5, дообученная для ответов на инженерные вопросы. Она создана слиянием QLoRA-адаптера Epoch 2 с базовой моделью ornith-ai/Ornith-1.0-9B и опубликована как самостоятельная модель Transformers в формате Safetensors. Модель содержит 7,2 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для ответов на вопросы по инженерным темам и решения задач разработки. В оценке на фиксированной выборке из 902 примеров адаптер Epoch 2 превзошёл базовую модель по token F1; точное совпадение ответов оставалось низким. Лицензия — MIT. Результаты оценки основаны на лексических метриках и не подтверждают фактическую или нормативную корректность ответов. README рекомендует проверять модель перед применением в производстве и процессах, чувствительных к соблюдению требований.

Ornith-1.5-35B-A3B Abliterated — CyberTiel-Calibrated MTPv2 ICE — это модель для генерации текста в формате GGUF, разработанная на основе huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated с использованием материалов peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-GGUF-MTP. Модель предназначена для запуска через llama.cpp и других совместимых инструментов. Указаны поддерживаемые языки English и Chinese. Модель использует архитектуру MoE с заявленным размером 35B и примерно 3B активных параметров, а также собственную обученную MTPv2 head. В репозитории доступны несколько ICE-квантовок размером примерно от 18,82 до 24,85 ГБ и мастер-версия BF16 размером 71,07 ГБ. Встроены шаблон чата Qwen-Sharp v22.4.1 и importance matrix, согласованная с исходной моделью. Рекомендуемый вариант 23G-ICE занимает 22,84 ГБ и рассчитан на системы с 24–32 ГБ совокупной RAM и VRAM; фактический доступный контекст зависит от оборудования и выбранного квантования. Сильными сторонами являются несколько вариантов квантования с разным балансом качества и требований к памяти, хорошие результаты измерений на английском тексте и коде, а также оптимизация для локального запуска. Ограничения включают потерю качества при более агрессивном квантовании и отсутствие гарантированного поведения в задачах, языках и контекстах, не представленных в README. Это abliterated-модель с подавленным поведением отказа, поэтому она может выполнять запросы, от которых стандартная модель отказалась бы; запуск требует изоляции и контроля доступа к сети и выполнению кода. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B-Huihui-Sangreal-MTP-ICE-GGUF — квантованная GGUF-версия модели Ornith-1.5-35B-A3B, разработанной Ornith AI и представленной в аблитерированной редакции huihui-ai. Релиз gbuzhf использует калибровочный корпус Sangreal, шаблон чата Qwen-Sharp от peculiar-ragdoll и встроенную обученную MTPv2-голову для speculative decoding. Модель относится к архитектуре MoE с общим размером 35B и примерно 3B активных параметров; заявлены английский и китайский языки, задача — генерация текста, включая диалоговые и программные сценарии. Размер контекста в README не указан. Доступно пять уровней ICE-квантизации размером от 14,79 до 24,85 ГБ. Вариант 15G-ICE рассчитан на видеокарты с 16 ГБ памяти, версии 19G–23G — преимущественно на конфигурации с 24–32 ГБ, а 25G-ICE предназначен для 32 ГБ и ближе всего к исходной точности BF16. Измерения показывают высокое сохранение качества на английском тексте и коде, особенно у старших вариантов; младшие уровни экономят память, но сильнее отклоняются от BF16. Модель помечена как uncensored: в весах подавлено поведение отказа, поэтому она не предоставляет встроенного защитного барьера и требует изолированного запуска с ограничением доступа к операционной системе, сети и выполнению кода. Условия использования определены лицензией MIT.

Ornith-1.5-35B-Uncensored-YMQ-MTP-GGUF — это набор архитектурно-ориентированных квантованных сборок модели Ornith-1.5-35B-A3B-Uncensored, разработанной 0xKitkat. Квантование выполнено проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0 и формата GGUF на основе исходных BF16-файлов. Модель использует архитектуру Mixture-of-Experts (MoE) и предназначена для локального запуска, в том числе в агентских средах RooCode и Aider, а также для генерации текста и задач программирования. Доступны варианты XS, S, M и L размером примерно от 11,5 до 18,6 ГБ, рассчитанные на разные объёмы видеопамяти; вариант M обозначен как рекомендуемый для сценариев с большим контекстом. В описании приведены результаты оценки perplexity на WikiText-2 при окне контекста 4096 токенов: лучший показатель заявлен для варианта M — 12,4310. Архитектурно-ориентированное распределение разрядности призвано лучше сохранять маршрутизацию экспертов и качество рассуждений по сравнению с равномерным квантованием. Ограничения включают зависимость качества и требований к памяти от выбранного пресета, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, максимальном контексте в рабочем режиме и фактической скорости инференса. Модель обозначена как uncensored, поэтому её поведение и защитные ограничения могут отличаться от стандартных инструкционных моделей. Репозиторий распространяется по лицензии Apache-2.0.

JASouth публикует квантованную сборку языковой модели Ornith-1.5-9B от Ornith AI. Это вариант IQ-Hybrid в формате GGUF с калибровкой по importance matrix и смешанной точностью слоёв, рассчитанный на запуск на потребительских видеокартах с 8 ГБ видеопамяти. Модель предназначена для генерации текста и диалогового использования; исходная модель описана как подходящая для программирования, агентных задач и работы с инструментами в длинном контексте. В репозитории приведены варианты размером 5,38 и 6,55 ГБ и результаты сравнения perplexity на Wikitext-2. Автор сообщает, что вариант 5,38 ГБ показывает perplexity 9,2262 против 9,4833 у официального Q6_K и помещается в ограничения 8 ГБ VRAM; также заявлена поддержка длинного контекста, однако точная длина контекста исходной модели в доступных данных не приведена. Лицензия — MIT. Результаты производительности и качества являются заявлениями автора и зависят от конфигурации запуска.

Ornith-1.5-9B-OBLITERATED — модифицированная версия Ornith-1.5-9B, разработанного DeepReinforce. Модель доработана проектом OBLITERATUS и собрана Pliny the Prompter с применением precision abliteration surgery — удаления поведенческих направлений, связанных с отказами на потенциально опасные запросы. Она предназначена для генерации текста, программирования, рассуждений, исследовательских задач в области alignment и red teaming, а также агентских сценариев и автоматизации. Модель содержит около 9 млрд параметров и использует гибридную архитектуру Qwen3.5 с Gated DeltaNet и полными attention-слоями; редактированию подверглись все 32 трансформерных слоя. Заявлен английский язык, поддерживаются обычный и thinking-режимы, а также текстовая генерация. В репозитории доступны полноточные bf16-веса и варианты GGUF размером от Q2_K до Q8_0; для максимального сохранения характеристик рекомендуются Q8_0 и Q6_K. Указан контекст размером 8192 токена для примера запуска через llama.cpp, однако общий максимальный контекст README явно не подтверждает. Сильной стороной является существенно сниженная склонность к отказам при сохранении возможностей программирования, рассуждений и базовых агентских задач: в приведённых тестах модель показала 3/3 в генерации кода и 5/6 в тесте связности длинного контекста. Ограничения включают падение MMLU примерно на 4 процентных пункта относительно базовой модели, возможные дополнительные отказы в низкобитных квантизациях, частично ухудшенное function calling и риск галлюцинаций в сложных химических и синтетических сценариях. Модель распространяется по лицензии MIT; из-за удаления защитных ограничений результаты требуют независимой проверки и ответственного применения.

AtomicChat/Ornith-9B-GGUF — это квантизированная в формат GGUF версия языковой модели Ornith 1.0 9B, разработанной DeepReinforce и самостоятельно квантизированной командой Atomic Chat на основе оригинальных весов. Модель предназначена для локальной и полностью офлайн-работы, включая генерацию текста, диалоговые сценарии и задачи программирования. Она распространяется в нескольких вариантах квантизации, подходящих для запуска через llama.cpp, Ollama, LM Studio, Jan и Atomic Chat. Модель имеет плотную decoder-архитектуру с 32 слоями, 16 attention heads и 4 KV heads; в README также указана реализация Qwen3_5ForConditionalGeneration. Заявленная длина контекста — до 262 144 токенов, размер словаря — 248 320 токенов. Базовая модель поддерживает текст и изображения, однако данный репозиторий содержит только текстовые GGUF-версии без vision projector. Доступны варианты IQ4_XS, Q4_K_M, UD-Q4_K_XL, Q5_K_M, Q6_K и Q8_0; применение importance matrix должно снижать потери качества при низкой разрядности. Сильными сторонами являются большой контекст, офлайн-запуск, широкий выбор размеров файлов и ориентация исходной модели на coding agents и самоулучшающееся обучение с использованием reinforcement learning. Заявленные benchmark-результаты относятся к базовой модели DeepReinforce, а не к независимым измерениям этого репозитория; качество квантизированных версий может отличаться. Для корректного диалога требуется применять chat template Ornith 1.0 через параметр --jinja. Модель распространяется по лицензии MIT.

TheBloke/phi-2-GGUF — это набор квантованных файлов модели Phi-2, разработанной Microsoft и преобразованной TheBloke в формат GGUF для локального запуска. Модель предназначена для генерации текста и кода, а также для задач, поддерживаемых исходной Phi-2, с использованием совместимых локальных приложений и библиотек. Phi-2 — языковая модель типа phi-msft, работающая с текстом и ориентированная на английский язык. В README не указаны размер модели, архитектурные детали и максимальная длина контекста. Доступны варианты квантования от 2 до 8 бит, включая методы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и качеством вывода. Модель использует шаблон запроса «Instruct: {prompt} Output:». Главное преимущество версии GGUF — возможность запуска на CPU и совместимом GPU через llama.cpp и ряд сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения качества и применимости связаны с квантованием, англоязычной специализацией и возможностями исходной Phi-2; мультимодальность не заявлена. Лицензия указана как microsoft-research-license, применимая к исходной модели Microsoft.

mainbrains поддерживает форк Phi-3-Mini-4K-Instruct — компактной плотной языковой модели семейства Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики, логики и программирования; она дообучена следовать инструкциям и выдавать структурированные ответы. Модель рассчитана на применение в условиях ограниченных вычислительных ресурсов и требований к низкой задержке, в том числе как локальный узел для генерации текста и работы с инструментами. README заявляет запуск на компактном оборудовании, но фактическая скорость зависит от аппаратуры и способа инференса. Карточка описывает преимущественно англоязычное обучение и предупреждает о снижении качества на других языках, а также о возможных неточностях, предвзятости и оскорбительных ответах. Лицензия — MIT.

Mungert/phi-4-GGUF — это набор GGUF-файлов с моделями Phi-4, предназначенными для локального запуска и инференса в формате GGUF. Репозиторий содержит варианты весов в BF16 и F16, а также квантованные версии Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Модель относится к классу текстовых генеративных моделей и ориентирована на диалоги, ответы на вопросы, работу с математическими задачами, программным кодом и другими текстовыми запросами. В метаданных указан английский язык и задача text-generation; поддержка других языков не заявлена. Главное преимущество набора — выбор между точностью и требованиями к памяти. Полноформатные BF16 и F16 подходят для оборудования с соответствующим ускорением, а квантованные варианты позволяют запускать модель на CPU и устройствах с ограниченной оперативной памятью или VRAM. Более агрессивное квантование уменьшает размер и потребление памяти, но может снижать точность. Сведения об архитектуре, количестве параметров, размере контекста, мультимодальности и результатах тестирования в README не приведены. Лицензия — MIT. README указывает связь с моделью Microsoft Phi-4 через ссылку на её лицензию; Mungert предоставляет варианты Phi-4 в формате GGUF. Для использования необходимо выбрать файл, совместимый с возможностями оборудования и требуемым уровнем качества.

Phi-4-reasoning-plus-GGUF — квантизированная в формате GGUF версия модели Phi-4-reasoning-plus, разработанной Microsoft. Квантизация выполнена bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалогов, программирования, математики и решения многошаговых задач, требующих логического рассуждения. Модель поддерживает контекст до 32 000 токенов и работает с текстом на английском языке. Она дообучена на базе Phi-4 и дополнительно обучалась с применением Reinforcement Learning для повышения точности. Ключевая особенность — ориентация на сложные математические и логические задачи; при этом модель в среднем генерирует примерно на 50% больше токенов, чем базовая версия. В README не указаны точный размер модели, архитектурные детали и наборы данных. Модель распространяется по лицензии MIT. GGUF и llama.cpp упрощают локальный запуск, однако конкретные требования к оборудованию зависят от выбранного уровня квантизации, который в предоставленных данных не указан. Как и другие языковые модели, она может генерировать неточные или неподходящие ответы.

AkshithAI разработала project-828-gpt-base — авторегрессионную языковую модель на базе decoder-only Transformer с причинным декодированием и MoE-слоями. В модели 398,7 млн параметров, из которых около 286 млн активны при обработке каждого токена; маршрутизатор выбирает два из четырёх специализированных экспертов и использует общего эксперта. Модель рассчитана на генерацию кода и технические рассуждения, а также обучалась на данных общего назначения, математики и инженерии. В архитектуре применяются GQA, нормализация QK, SwiGLU и RoPE с расширением контекста YaRN: базовая длина контекста — 2048 токенов, с расширением — до 8192. Карточка указывает поддержку английского языка и способность работать с кодом. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. README не приводит результаты сравнительных оценок качества, поэтому пригодность для конкретного языка программирования или сложных технических задач следует проверять на собственных примерах.

Nan-Do разработал Nan-Do/python-assistant-3b — экспериментальную языковую модель для генерации и понимания кода. Это плотная causal language model семейства Llama на 3,3 млрд параметров, дообученная с помощью LoRA на базе OpenLLaMA-3B. Для запросов используется формат промпта Alpaca; модель опубликована в формате PyTorch. Модель предназначена для генерации и исправления кода на Python, объяснения библиотек и решения задач в стиле LeetCode. Она может улучшать собственный код по запросу, однако результаты нестабильны: подходящий ответ может зависеть от формулировки промпта, а некоторые запросы модель не выполняет. Контекст ограничен 2048 токенами. Лицензия в предоставленных данных не указана.

Qemma-Q1.7B — компактная текстовая модель для диалогов и выполнения инструкций от Convergent Intelligence LLC: Research Division. Она объединяет веса Gemma 3 1B и Qwen3 1.7B, используя основу Gemma с MLP и телом Gemma и механизмом внимания и головой в стиле Qwen; после слияния модель прошла дополнительное SFT-обучение для пошаговых рассуждений. Указанный в метаданных размер — 1B параметров, архитектура — плотная Gemma3ForCausalLM, формат весов — safetensors. Модель предназначена для следования инструкциям, диалогов, рассуждений, помощи с кодом и анализа, а также для дальнейшего дообучения. Она принимает текст и выдаёт текст, поддерживает английский язык и заявляет контекст до 262 144 токенов с масштабированием RoPE на основе YaRN. Лицензия — OSL-3.0. Карточка предупреждает о возможных галлюцинациях и не рекомендует полагаться на модель в критически важных медицинских, юридических и финансовых решениях.

qwen14b-code-trainer-v9_mixed — LoRA-адаптер для Qwen/Qwen2.5-Coder-14B-Instruct, разработанный cmndcntrlcyber в рамках Code-Trainer / RTPI pipeline. Модель дообучена методом PEFT на смешанном датасете code-trainer-v9-mixed с двухфазной curriculum-тренировкой. Это релиз V9, предназначенный прежде всего для повышения точности формирования тегов <tool_call>, необходимых для разбора структурированных вызовов инструментов в Ollama. Адаптер рассчитан на генерацию кода по инструкциям, function calling, последовательные вызовы нескольких инструментов и многошаговое агентное поведение в многоходовых диалогах. В обучающих данных использовался формат Unified ChatML; около 64,3% обучающих примеров содержат определения инструментов. Архитектурно это не самостоятельная модель, а LoRA-надстройка с параметрами r=32, alpha=64 и dropout=0,05, которую необходимо загружать поверх базовой модели Qwen/Qwen2.5-Coder-14B-Instruct. Обучение проводилось на последовательностях длиной 4096 токенов, при этом для использования рекомендуется контекст до 8192 токенов; базовая модель поддерживает до 32K. Сильные стороны адаптера — повышенная плотность и корректность tool calling, поддержка нескольких вызовов инструментов за один ответ, очистка текста после закрывающего тега tool call и сохранение возможностей генерации кода базовой модели. Ограничения включают отсутствие специального обучения для safety alignment, RLHF и задач, не связанных с кодом. Релиз V9 заменён для deployment более новым V10 с GRPO, но используется как SFT-основа для него. Лицензия — Apache-2.0. Для локального развёртывания рекомендуется объединить адаптер с базовой моделью и использовать квантование Q5_K_M GGUF через llama.cpp, Ollama или LM Studio; Q4_K_M указано как запасной вариант.

mergekit-community/Qwen2-2B-RepleteCoder-Hercules — объединённая модель на архитектуре Qwen2, созданная сообществом с помощью mergekit. В неё вошли M4-ai/Hercules-5.0-Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b; применён метод passthrough. Модель содержит около 1,9 млрд параметров и предназначена для генерации текста в диалоговом режиме, в том числе для задач программирования благодаря включению Replete Coder. Модель использует библиотеку Transformers, веса доступны в формате safetensors, заявленная длина контекста — до 131 072 токенов. В метаданных не указаны языки и лицензия; конкретные условия использования следует проверять у исходных моделей и в репозитории. Практическое качество и ограничения на задачах программирования отдельно не описаны.

Qwen2.5-0.5B-text2sql — дообученная модель семейства Qwen2.5 от автора iamkushagratomar для преобразования вопросов на естественном языке и схем баз данных в SQL-запросы. Модель основана на Qwen2.5-0.5B-Instruct-bnb-4bit и содержит около 494 млн параметров; архитектура — плотная авторегрессионная Qwen2 с поддержкой генерации текста. Для работы с моделью указаны библиотека Transformers и контекст длиной до 32 768 токенов. Модель подходит для создания SQL-запросов по текстовым вопросам и описаниям таблиц, например для интерфейсов к базам данных на естественном языке. Дообучение выполнено на наборе b-mc2/sql-create-context; карточка указывает английский язык. Модель распространяется по лицензии Apache-2.0. Качество генерации зависит от соответствия схемы и формулировки вопроса обучающим данным; README не приводит результатов оценки или дополнительных ограничений.

jubaerrr/Qwen2.5-Coder-0.5B-Instruct-Gensyn-Swarm-screeching_iridescent_butterfly — компактная instruction-tuned causal language model, опубликованная пользователем jubaerrr и основанная на семействе Qwen2.5-Coder, разработанном командой Qwen компании Alibaba Cloud. По идентификатору модели и доступным сведениям, она представляет собой вариант Qwen2.5-Coder-0.5B-Instruct, дообученный в рамках Gensyn Swarm. Модель предназначена прежде всего для генерации, понимания и исправления программного кода, а также для диалогового выполнения инструкций, связанных с программированием. Она использует архитектуру Transformer и содержит около 0,5 млрд параметров; поддерживает текстовую генерацию и контекст до 32 768 токенов. Компактный размер облегчает запуск в ограниченных по ресурсам средах, но предполагает более слабые возможности по сравнению с крупными моделями, особенно на сложных задачах программирования. Точный набор языков, результаты оценки, ограничения безопасности и лицензия для этого производного варианта в доступных источниках не указаны.

Qwen2.5-Coder-0.5B-Instruct-MLX-8bit — компактная инструкционная языковая модель для работы с кодом, разработанная командой Qwen. Эта версия представляет собой 8-битную MLX-квантизацию базовой модели Qwen2.5-Coder-0.5B-Instruct, подготовленную bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и интеграции в локальные приложения, включая code agents. Модель ориентирована на генерацию и обработку программного кода, диалоговые сценарии и задачи, требующие связи между естественным языком и исходным кодом. Заявлена поддержка контекста до 32 тысяч токенов. При обучении использовалось до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. В карточке указана поддержка английского языка. Небольшой размер около 0,5 миллиарда параметров и 8-битная квантизация делают модель подходящей для локального запуска с ограниченными ресурсами, однако по сравнению с более крупными моделями она может уступать в сложности рассуждений, качестве кода и устойчивости к неоднозначным запросам. Как и другие модели этого класса, она может генерировать неточные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия — Apache 2.0.

Qwen2.5-Coder-1.5B-Instruct-abliterated-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-1.5B-Instruct-abliterated. Исходную модель разработала huihui-ai, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, прежде всего для задач, связанных с программированием, и запуска через llama.cpp или LM Studio. Доступны варианты от F16 до низкобитных квантизаций Q3 и IQ3 с размером файлов примерно от 1 до 3,56 ГБ. Указан английский язык; сведения о других языках, архитектуре, длине контекста и поддержке мультимодальности в README отсутствуют. Более точные варианты Q6 и Q5 позиционируются как высококачественные, а Q4_K_M — как сбалансированный вариант для большинства сценариев; низкобитные версии экономят оперативную память, но могут снижать качество. Отдельные Q4-варианты оптимизированы для ARM и требуют соответствующей поддержки инструкций. Модель распространяется по лицензии Apache-2.0. В README также указано, что вариант является abliterated и uncensored, поэтому ограничения исходной модели в отношении отказов могут отличаться; конкретные характеристики безопасности и результаты оценки не приведены.

Dasko2-0 разработал и опубликовал дообученную модель Dasko2-0/qwen2.5-coder-3b-mentor на основе unsloth/qwen2.5-coder-3b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указаны интерфейс вызова инструментов и контекст длиной до 32 768 токенов; модель обучали с использованием Unsloth и библиотеки TRL. Модель можно применять для генерации ответов в чате и задач, связанных с кодом, унаследованных от базовой Qwen2.5 Coder. Однако README не приводит результатов оценки и не уточняет, какие именно навыки наставничества или дополнительные задачи дало дообучение. Поддержка указана для английского языка. Лицензия — Apache-2.0.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill-GGUF — языковая модель, разработанная TeichAI на базе unsloth/Qwen3-14B. Она дообучена методом дистилляции на наборе данных TeichAI/claude-4.5-opus-high-reasoning-250x, созданном на основе ответов Claude Opus 4.5 с высокой интенсивностью рассуждений. Модель предназначена для генерации текста общего назначения, программирования и научных задач. В README указано 14 млрд параметров, однако сведения об архитектурных деталях, модальностях, поддерживаемых языках и размере контекста отсутствуют. Формат GGUF предполагает использование в совместимом локальном инференсе, но конкретные варианты квантования и требования к ресурсам не приведены. Сильной стороной модели является специализация на задачах, требующих развернутого рассуждения, включая кодирование и научные вопросы. Ограничения также связаны с отсутствием подробных данных о качестве, бенчмарках, языковом покрытии, контекстном окне и рекомендуемых параметрах запуска. Модель распространяется по лицензии Apache-2.0.

Модель q31p7bsftrpcelam1 — готовый к инференсу чекпойнт с дообучением Qwen3-1.7B-Base для генерации кода. Его разработчик описывает модель как итоговый вариант эксперимента по code SFT на шаге оптимизатора 102; обучение использовало упорядоченные данные qwen3_1p7b_s500_code_sft_data и стратегию replay с коэффициентом 1,0. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит 1,7 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и кода; метаданные также отмечают возможность диалогового использования. Данные о конкретных языках программирования не приводятся. Лицензия в предоставленных данных не указана. Чекпойнт относится к эксперименту по дообучению, поэтому его качество и пригодность для практического применения следует оценивать на целевых задачах; README не сообщает результатов оценки.

MMOPD/Qwen3-1.7B-OT3-2ep — плотная языковая модель Qwen3 с 1,7 млрд параметров, дообученная командой проекта MMOPD на OpenThoughts3-1.2M. Это версия после двух эпох обучения, созданная как модель для рассуждений и как отправная точка для разработки специализированных моделей и экспериментов с дистилляцией. Модель использует формат чата Qwen3 и перед ответом выдаёт блок рассуждений; заявлены задачи по математике, программированию и научным вопросам. Контекст — до 32 768 токенов. Модель предназначена для генерации ответов с пошаговыми рассуждениями, решения математических задач, написания и анализа кода, а также ответов на научные вопросы. В README приведены результаты на AIME, LiveCodeBench, IFEval и IFBench; показатели версии 1,7B ниже, чем у указанной там модели 4B. Для использования рекомендуются формат чата Qwen3, включённый режим thinking и сэмплирование вместо жадной генерации. Модель распространяется по лицензии Apache-2.0.

Qwen-32B-Syntactic-Exploit-Core-BF16 — 32-миллиардная плотная языковая модель для генерации текста, собранная автором из Qwen/QwQ-32B и Qwen/Qwen2.5-Coder-32B-Instruct. Карточка заявляет слияние весов методом SLERP и изменение поведения отказов; эти заявления не сопровождаются проверяемыми результатами, поэтому их следует считать описанием автора, а не подтверждёнными свойствами. Модель использует архитектуру Qwen2ForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена прежде всего для генерации и анализа кода, отладки и проектирования программных систем, а также для текстовых задач рассуждения. Поддерживаемые языки в метаданных не перечислены. Модель распространяется по лицензии Apache-2.0. Карточка не приводит воспроизводимых бенчмарков или подробностей оценки качества, поэтому заявленные преимущества в кодировании и рассуждении нельзя считать независимо подтверждёнными.

Это квантованный GGUF-чекпойнт модели Qwen3.5-35B-A3B, подготовленный mtrpires для локального запуска на Raspberry Pi 5 с 16 ГБ памяти. Базовая модель Alibaba — архитектура Mixture of Experts с 35 млрд параметров всего и примерно 3,3 млрд активных на токен. Для инференса используется ik_llama.cpp; смешанная схема IQK сохраняет повышенную точность для слоёв внимания и общих экспертов, сильнее сжимая маршрутизируемые эксперты. Размер файла — около 11,38 ГиБ, заявленный расход памяти — около 12,5 ГБ. Модель предназначена для генерации текста и диалога в локальном помощнике: она может помогать с кодом, обработкой документов и вызовами инструментов. Автор приводит результаты тестирования на Raspberry Pi 5: около 30,85 токена/с при обработке промпта и 4,53 токена/с при генерации. Карточка указывает контексты калибровки, связанные с чатом, кодом и вызовами инструментов, но не перечисляет отдельные поддерживаемые языки сверх меток en и pt. Для практического запуска на Raspberry Pi 5 рекомендуется окно контекста 16 тыс. токенов и активное охлаждение при длительной нагрузке; устройство с 8 ГБ памяти не подходит. Форматы IQ4_KS и IQ2_KS специфичны для ik_llama.cpp, поэтому модель не будет корректно работать в стандартных llama.cpp и Ollama. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.5-4B Claude-Distill — дообученная методом полной настройки параметров плотная модель семейства Qwen, разработанная автором репозитория clzoro на базе Qwen/Qwen3.5-4B. Модель содержит 4 млрд параметров и предназначена для генерации текста в диалоге. В обучении использовались примерно 14,9 тыс. примеров с рассуждениями, дистиллированными из Claude Opus; заявлены задачи по математике, логике, программированию, STEM, творческому письму и многошаговым инструкциям. Модель унаследовала от базовой Qwen3.5 возможности понимания изображений и использует архитектуру с визуальным энкодером, однако карточка указывает основной сценарий как генерацию текста. В метаданных заявлены английский и китайский языки. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Качество рассуждений зависит от качества и разнообразия сравнительно небольшого набора дистилляции; модель может наследовать смещения обучающих данных и обобщать хуже за пределами представленных примеров. Ответы по медицине, праву и финансам требуют проверки.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — модель для генерации текста и решения сложных многошаговых задач, дообученная на базе Qwen3.5-9B. Она создана с применением supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Основной акцент сделан на структурированном анализе, планировании, декомпозиции задач и более лаконичных ответах. Модель предназначена для математики и логики, программирования и системного анализа, научных, инженерных, юридических, медицинских и финансовых задач, а также для сценариев, связанных с безопасностью и adversarial reasoning. В карточке указана текстовая модальность, pipeline text-generation и поддержка английского, китайского и корейского языков. Размер базовой модели — 9B параметров; размер контекста и точные требования к аппаратным ресурсам не указаны. Сильными сторонами модели считаются многошаговое рассуждение, отслеживание ограничений, последовательное планирование, междисциплинарный охват и анализ отказов или атак. При этом дистилляция и специализированное дообучение могут ухудшать обобщение в некоторых широких сценариях и приводить к частичному забыванию знаний базовой модели, поэтому модель рекомендуется оценивать на целевых задачах перед внедрением. Лицензия — Apache-2.0.