II.3Рефакторинг, миграция и модернизация

DavidAU/Qwen3-Zero-Coder-Reasoning-V2-0.8B — объединённая модель для генерации кода и рассуждений на основе семейства Qwen3. В README автор описывает её как универсального помощника по программированию: она создаёт черновики кода, помогает обсуждать идеи и решать сложные многошаговые задачи. Метаданные указывают архитектуру Qwen3ForCausalLM, около 684 млн параметров, контекст до 40 960 токенов и поддержку диалогового режима и интерфейса вызова инструментов. Модель принимает текстовые запросы и генерирует текст, включая код и поясняющие рассуждения. Карточка указывает английский язык; специальная область применения — программирование. В репозитории представлены веса Safetensors, а README также описывает варианты GGUF с разными уровнями квантования и обработкой imatrix. По словам автора, скорость и качество зависят от формата и квантизации; иногда модель повторяет блоки кода или рассуждений и может отвлекаться от задачи. Лицензия — Apache-2.0.

RavenX Chaos Agent — Qwen3.8-27B OBLITERATED — это текстовая языковая модель в формате GGUF, разработанная RavenX AI Labs LLC на базе OBLITERATUS/Qwen3.8-27B-OBLITERATED. По данным карточки, модель обучалась методом Soul Injection на 1 903 806 примерах, объединяющих программирование, рассуждения, агентное взаимодействие, анализ кибербезопасности и другие предметные области. Заявлена поддержка английского языка; сведения о других языках, длине контекста и мультимодальности не приведены. Модель предназначена для генерации кода, технического анализа, работы с инструментами и цепочками вызовов, задач red team и пентестинга, анализа уязвимостей, подготовки bug bounty-отчётов, сопоставления с MITRE ATT&CK, а также для торгового, блокчейн- и криптографического анализа, математического рассуждения и творческого письма. Заявлена совместимость с llama.cpp, Ollama и LM Studio. Версия GGUF Q4_K_M имеет размер около 15,7 ГБ и заявленную скорость 21,6 токена в секунду; также доступна отдельная версия MLX для Apple Silicon. Сильными сторонами заявлены широкий охват задач, специализированные знания по кибербезопасности, генерация производственного кода, вызов инструментов и автономная оркестрация. При этом заявления о результатах основаны на приведённых разработчиком описаниях и внутренних тестах, поэтому их следует дополнительно проверять. Карточка не содержит подробностей о качестве на независимых бенчмарках, длине контекста и точных системных требованиях. Модель описана как abliterated и имеющая нулевые отказы и защитные ограничения, что повышает риск небезопасной генерации и требует контроля при использовании в реальных системах. Лицензия — Apache-2.0.

SemCoder — языковая модель для генерации кода с рассуждениями о его семантике, представленная проектом ARiSE-Lab. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 6,6 млрд параметров; она рассчитана на контекст до 16 384 токенов и запускается через Transformers. Модель предназначена для генерации программного кода и диалоговой работы с запросами о коде. Обучение проводилось на синтетических данных, созданных моделями OpenAI. В README указано, что при использовании модели и датасетов следует учитывать условия использования OpenAI; лицензия в метаданных обозначена как other, поэтому конкретные права использования нужно проверять в репозитории. Карточка не приводит перечень поддерживаемых языков программирования или результаты оценки качества.

dealignai выпустила Spark-X2.5-4B-CRACK-JANG_8M — дообученную текстовую модель семейства Spark 2.5 на базе XHToken/Spark-X2.5-4B, подготовленную для запуска через MLX на компьютерах Apple Silicon. Это плотная причинная языковая модель примерно на 3,8 млрд параметров; репозиторий содержит JANG8M-сборку с 8-битным аффинным представлением весов и масштабами bf16. В README заявлены контекст до 131 тыс. токенов, двуязычная работа на английском и китайском, режим рассуждения, который можно включать и выключать, и вызов инструментов через XML-интерфейс. В метаданных каталога для семейства указано окно до 1 048 576 токенов, поэтому фактический предел этой сборки требует проверки в используемом движке. Модель рассчитана на диалог, генерацию текста и кода, рассуждения и агентные сценарии с вызовом инструментов. Разработчик сообщает об удалении отказов на уровне весов и приводит результаты MMLU и HarmBench; эти результаты относятся к тестам автора и не гарантируют аналогичное качество в других условиях. Из-за отсутствия защитных отказов модель может выдавать опасные ответы. Для работы требуется совместимый стек MLX/vMLX на Apple Silicon. Лицензия — Apache-2.0; README также описывает выпуск как предназначенный для исследований безопасности ИИ и авторизованного тестирования.

Spec-T1-RL-7B — языковая модель компании SVECTOR с 7 млрд параметров, предназначенная для математических и алгоритмических рассуждений, генерации кода и выполнения структурированных технических инструкций. Модель построена на трансформерной архитектуре и поддерживает контекст до 32 768 токенов; в README также описаны MoE, SwiGLU и RMSNorm. Метаданные указывают поддержку диалогового режима и интерфейса вызова инструментов. Модель рассчитана на решение задач по математике и логике с пошаговыми выводами, проектирование и анализ алгоритмов, а также генерацию кода. По README, обучение включало специализированное предварительное обучение, инструкционное дообучение и выравнивание с подкреплением с проверкой математических решений и кода. Основной указанный язык — английский. Модель распространяется в формате safetensors по лицензии MIT. README приводит высокие результаты на математических и кодовых бенчмарках, однако эти заявления приведены разработчиком; независимая проверка результатов в предоставленных материалах отсутствует. Для запуска указаны CUDA-совместимый GPU и от 16 ГБ видеопамяти.

StableCode-Completion-Alpha-3B — авторегрессионная модель для автодополнения кода, разработанная Stability AI. Она принимает контекст программы и генерирует продолжение: одну или несколько строк кода на разных языках программирования. Модель построена на архитектуре GPT-NeoX с декодером-трансформером и содержит около 3,5 млрд параметров. Контекстное окно составляет 16 384 токена. Обучение включало данные StarCoder из распространённых языков программирования и этап расширения контекста. Модель рассчитана на использование в инструментах разработки, например в редакторе кода. Она может воспроизводить фрагменты из обучающих данных, поэтому при использовании следует проверять совпадения и при необходимости указывать их происхождение. Веса распространяются по лицензии Apache 2.0.

Starlight Mini — диалоговая языковая модель для генерации текста и помощи с программированием, разработанная arthu1 в подразделении AI компании North ML. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на основе arthu1/astrocoder-star-merge; для диалоговой настройки в метаданных указан датасет HuggingFaceH4/ultrachat_200k. Модель рассчитана прежде всего на английский язык, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Разработчик позиционирует её как помощника для задач кодирования и сообщает о результате 60–65% на SWE-Benchmark, но не приводит подробностей методики оценки. Модель можно запускать локально; лицензия — MIT. Карточка описывает её как первую версию проекта и отмечает, что качество ниже Claude Haiku 3.5.

VibeThinker-3B-GGUF — GGUF-версия языковой модели VibeThinker-3B, разработанной WeiboAI на основе Qwen2.5-Coder-3B. Это текстовая autoregressive-модель примерно на 3 млрд параметров, ориентированная на рассуждения и генерацию текста. Модель обучалась с использованием двухэтапного curriculum-based SFT, reinforcement learning по нескольким доменам с методом MaxEnt-Guided Policy Optimization, offline self-distillation и instruct RL. Заявленный основной язык — английский. Модель предназначена прежде всего для решения математических задач, программирования, STEM-задач, reasoning и instruction-following, особенно в сценариях с проверяемыми ответами: соревновательная математика, coding contests и задачи на алгоритмы. Для инференса рекомендуются vLLM или SGLang; заявлены temperature 1.0, top_p 0.95 и поддержка до 102K выходных токенов. Репозиторий содержит варианты GGUF с точностями от Q2_K до Q8_0, а также BF16, F16 и F32, что позволяет выбирать между размером файла, требованиями к памяти и качеством. Сильной стороной модели является специализация на проверяемом рассуждении при компактном размере; в README также заявлены высокие результаты на бенчмарках по математике и программированию. Ограничение состоит в том, что модель оптимизирована для задач с ясными критериями проверки и может уступать более крупным универсальным моделям в широких open-domain сценариях и работе с общими знаниями. Указана лицензия MIT.

VibeThinker-3B-heretic — текстовая генеративная модель, разработанная пользователем saidutta69. Это вариант WeiboAI/VibeThinker-3B без встроенного поведения отказа, полученный из Qwen/Qwen2.5-Coder-3B с помощью Heretic v1.4.0 методом направленной абляции весов. Модель предназначена для локального использования на компьютерах с ограниченными ресурсами, агентских систем и периферийных устройств, а также для задач программирования, рассуждений, математики, диалогов и генерации текста с режимом явного пошагового мышления VibeThinker. Модель имеет архитектуру Qwen2.5-Coder и размер около 3,1 млрд параметров. Поддерживает текстовую модальность и заявлена для английского языка. Доступны версии GGUF, включая F16 и различные варианты квантования, совместимые с llama.cpp, Ollama, LM Studio и Jan; объём весов в зависимости от варианта составляет примерно от 1,19 до 5,75 ГБ, без учёта дополнительной памяти под контекст. Контекстное окно в README не указано. К сильным сторонам относятся малый размер, возможность запуска на CPU и видеокартах с небольшим объёмом памяти, сохранение заявленных способностей базовой модели к рассуждениям, программированию и следованию инструкциям, а также отсутствие защитных отказов. При этом удаление отказов снижает встроенные ограничения безопасности: модель может генерировать контент, от которого базовая версия отказалась, поэтому требуется ответственное и законное использование. Производитель не заявляет улучшения возможностей по сравнению с VibeThinker-3B. Лицензия — MIT.

WizardCoder-15B-V1.0 — языковая модель для генерации кода, разработанная командой WizardLM. Модель основана на StarCoder, дообученном на 78 тысячах инструкций по программированию, расширенных методом Evol-Instruct для задач кодирования. Модель предназначена для генерации решений задач программирования и ответов на инструкции, связанные с кодом. В карточке приведён результат 57,3 pass@1 на HumanEval; также описана оценка на MBPP. Архитектура — GPTBigCodeForCausalLM, формат весов — PyTorch, контекст — 8192 токена. Метаданные указывают поддержку кода, но не перечисляют естественные языки. Модель может помогать с написанием кода по текстовому запросу, однако качество следует проверять: результаты карточки относятся к конкретным тестам и режимам генерации. Лицензия — BigScience OpenRAIL-M.

codebert-permissive-embed — модель эмбеддингов кода от ThinkingDBx Pvt. Ltd. Она преобразует фрагмент кода или текстовое описание кода в вектор из 768 чисел; близкие по смыслу фрагменты получают похожие векторы. Модель основана на архитектуре BERT, содержит 137,8 млн параметров по метаданным, работает с контекстом до 512 токенов и распространяется в формате Safetensors по лицензии Apache 2.0. Модель предназначена для поиска функций по описанию на естественном языке, обнаружения похожих фрагментов, группировки кода и извлечения подходящих файлов для RAG-сценариев с кодовым ассистентом. Она выдаёт только векторы и не генерирует код и не отвечает на вопросы. Обучение включало предварительное обучение на коде и сопоставление описаний с кодом; автор сообщает об отборе файлов с разрешительными лицензиями и удалении обнаруженных персональных данных из обучающих файлов. Сильная сторона модели — поиск кода по смысловому описанию, в том числе когда в коде нет слов из запроса. По README, она обучалась преимущественно на Python, Java, JavaScript, Go, PHP и Ruby и слабее работает с другими языками. Входы свыше 256 токенов обрезаются, поэтому длинные файлы следует разбивать на функции. Модель слабо подходит для сопоставления кода с кодом, например поиска реализации на другом языке; также она не проверялась на смещения, безопасность или определение лицензий.

Карточка модели unsloth/codegemma-2b на Hugging Face совпадает с карточкой unsloth/codegemma-7b-it, поэтому описание составлено по ней. unsloth/codegemma-7b-it — разговорная версия CodeGemma от Google, представленная Unsloth в виде модели для генерации текста. Репозиторий содержит плотную авторегрессионную модель Gemma с 8,2 млрд параметров, рассчитанную на диалог и дополнение текста; максимальный контекст составляет 8192 токена. В метаданных указана поддержка английского языка и формат safetensors. Модель подходит для диалоговых приложений и генерации продолжений текста, в частности в сценариях, связанных с кодом, для которых предназначено семейство CodeGemma. Карточка Unsloth описывает ноутбуки для дообучения Gemma и форматы шаблонов ChatML и Vicuna, но не приводит результатов оценки качества именно этого чекпойнта. Модель распространяется по лицензии Apache-2.0.

code-nothink-q8b-20260908 — модель для генерации кода, созданная на основе Qwen/Qwen3-8B-Base. Это плотная авторегрессионная модель семейства Qwen3 с 7,6 млрд параметров; LoRA-дообучение на парных данных NoThink code SFT слито с основными весами bf16. Репозиторий содержит веса в формате safetensors и специальный комплект токенизатора для оценки; контекст модели по метаданным — 32 768 токенов. Модель предназначена для генерации кода без режима рассуждений и решения задач программирования. В оценке LiveCodeBench DEV256 в режиме NoThink она показала средний pass@1 30,1% по двум запускам против 22,7% у базовой модели; авторы отмечают заметные колебания результата между seed и описывают данные как исследовательские, а не подтверждающие. Для инференса README рекомендует использовать токенизатор и chat template из этого репозитория. Лицензия — Apache-2.0.

DeepMagic-Coder-7b-Alt — альтернативная версия DeepMagic-Coder-7b от rombodawg, созданная слиянием DeepSeek-Coder и Magicoder-S-DS методом task arithmetic. Автор сообщает, что при кратком тестировании эта версия лучше генерировала код, и предлагает сравнить её с исходной; результаты бенчмарков в карточке не приведены. Модель предназначена для генерации кода и работает как плотная авторегрессионная Llama-архитектура с 6,6 млрд параметров. Метаданные указывают контекст до 16 384 токенов и формат safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями исходных компонентов.

DeepMagiCoder-6.7B-DS-Base — языковая модель для генерации кода, созданная слиянием DeepSeek Coder 6.7B Instruct и Magicoder-DS-6.7B с помощью LazyMergekit. В README указано слияние методом SLERP; модель построена на плотной архитектуре семейства Llama и содержит около 6,6 млрд параметров. Модель предназначена для генерации и дополнения программного кода в диалоговом формате. Она принимает текстовые запросы и выдаёт текст, а нативный контекст составляет 16 384 токена. В метаданных указан формат Safetensors. В README и метаданных не указана лицензия, поэтому условия использования по этим источникам определить нельзя. Оценки качества и сведения о поддерживаемых языках программирования не приведены.

DeepSeek-Coder-7B-Base-v1.5 — базовая языковая модель для кода от DeepSeek, полученная продолжением предварительного обучения DeepSeek-LLM 7B на 2 трлн токенов с задачей предсказания следующего токена. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,5 млрд параметров и контекстом 4096 токенов. Она предназначена для генерации и продолжения кода по текстовому контексту, в том числе как основа для дальнейшей адаптации под задачи программирования. Модель принимает и выдаёт текст; карточка не перечисляет поддерживаемые языки программирования или естественные языки. Репозиторий содержит веса в формате safetensors. Указана лицензия other, поэтому условия использования следует проверять в материалах проекта DeepSeek.

Everyone-Coder-4x7b-Base — специализированная на программировании модель серии EveryoneLLM от Rombodawg. Она создана как Mixtral-подобная модель с экспертами, дообученными участниками сообщества и объединёнными в общую модель. Автор описывает её как альтернативу Mixtral-8x7b, которую можно дополнительно настраивать под конкретные задачи. Модель предназначена для генерации текста, прежде всего кода. Архитектура — Mixtral MoE с классом MixtralForCausalLM; объём параметров — 7,1 млрд, контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не сообщает, какие языки программирования и естественные языки поддерживаются. Модель может быть полезна для генерации и дополнения кода, а также для помощи в программировании в текстовом формате. В README перечислены модели, участвовавшие в слиянии, но их названия отсутствуют, поэтому исходные компоненты установить нельзя. Лицензия — CC BY 4.0.

InverseCoder-CL-7B — языковая модель для генерации кода, созданная командой InverseCoder на основе CodeLlama-7b-Python-hf и дообученная по методу Inverse-Instruct. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит около 6,6 млрд параметров и принимает контекст до 16 384 токенов. Модель предназначена для выполнения инструкций, связанных с кодом: она может генерировать фрагменты программ по запросу и поддерживать диалоговые сценарии с программированием. В карточке упоминаются обучающие наборы InverseCoder-CL-7B-Evol-Instruct-90K и Magicoder-Evol-Instruct-110K. Модель распространяется в формате Safetensors и доступна по лицензии Llama 2; условия этой лицензии определяют допустимое использование.

jk6 — дообученная модель для генерации текста, созданная на основе deepseek-ai/deepseek-coder-1.3b-base. Веса представлены в формате safetensors; модель имеет 1,3 млрд параметров и контекст до 16 384 токенов. В метаданных указана архитектура семейства Llama.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw-VLM — это квантованная MLX-версия модели Kimi-K2.7-Code, разработанной Moonshot AI. Сборка создана avlp12 и предназначена для запуска на устройствах Apple Silicon, прежде всего на M3 Ultra. Это мультимодальная vision-language модель для работы с текстом, программным кодом, изображениями и видео. В основе лежит MoE-архитектура в стиле DeepSeek-V3 примерно на 1 триллион параметров, из которых активно около 32 миллиардов, с языковой частью MLA и визуальной башней MoonViT. Модель сохраняет полный vision encoder и мультимодальный проектор в формате bf16, а языковые веса подвергнуты чувствительно-ориентированному квантованию с эффективной точностью 3,629 бит на вес. Поддерживается контекст до 256 тысяч токенов. Размер модели на диске составляет около 465,9 ГБ; для запуска требуется единый компьютер с 512 ГБ памяти M3 Ultra либо распределённый запуск на двух машинах. Модель поддерживает подробное описание изображений и анализ изменений и движения в видео; заявленная скорость декодирования составляет около 23 токенов в секунду. К сильным сторонам относятся сохранённая визуальная часть без дополнительной ошибки квантования, большой контекст и высокая эффективность памяти KV-кэша. Ограничения связаны с экстремальными требованиями к объёму памяти, зависимостью от совместимых версий mlx-vlm и специальных компонентов для видео, а также с потерями качества из-за 3-битного квантования экспертов: средний KL относительно 4-битного эталона составляет 0,199 ната, а частота изменения top-1 ответа — 10,2%. Лицензия указана как modified MIT.

Mellum-4b-dpo-python — языковая модель JetBrains для генерации и автодополнения кода на Python. Это третий этап обучения Mellum-4b: после предварительного обучения и SFT модель дообучили методом direct preference optimization на предпочтениях качества кода, чтобы получать более читаемые и полезные предложения. Модель использует плотную архитектуру в стиле LLaMA и содержит 3,7 млрд параметров. Она принимает текстовый контекст длиной до 8192 токенов и генерирует код; карточка описывает применение для дополнения Python-кода, включая сценарий Fill-in-the-Middle, интеграцию в IDE и помощники программиста. Опубликованные веса представлены в формате safetensors; для запуска также упоминаются vLLM, llama.cpp и Ollama. Модель предназначена для подсказок в инструментах разработчика, генерации фрагментов кода, обучения и экспериментов с дообучением. Она может наследовать смещения открытых кодовых баз, а предложенный код нужно проверять на безопасность и уязвимости. Лицензия — Apache-2.0.

WaveCut/Nanbeige4.2-3B-heretic-GGUF — набор GGUF-квантизаций модели WaveCut/Nanbeige4.2-3B-heretic, разработанный WaveCut. Модель предназначена для генерации текста, включая агентные и программные сценарии; в качестве примера использования приведено написание надёжного retry-хелпера на Python. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0, рассчитанные на разный баланс компактности, скорости и качества. Q4_K_M рекомендован как компактный вариант, Q5_K_M — как сбалансированный, Q6_K — как высококачественная K-квантизация, а Q8_0 — как почти без потерь. Nanbeige 4.2 использует циклический Transformer: 22 физических слоя выполняются дважды. Квантизации K-типа откалиброваны с помощью importance matrix на детерминированно перемешанном корпусе данных для агентных и программных задач. В README не указаны поддерживаемые языки и максимальная длина контекста. Для запуска требуется llama.cpp с поддержкой Nanbeige, проверенной на указанной ветке и ревизии либо более новой сборке с эквивалентной поддержкой. Основные преимущества модели — несколько вариантов квантизации, возможность выбрать компромисс между размером, скоростью и качеством, а также оптимизация калибровки под агентные и coding-сценарии. Ограничения включают зависимость от совместимой реализации llama.cpp и потенциальные потери качества, характерные для квантизованных вариантов; точные размеры файлов и результаты производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.

OpenCodeInterpreter-DS-1.3B — языковая модель для генерации кода, разработанная в рамках проекта OpenCodeInterpreter. Она предназначена для диалогового написания кода и итеративного улучшения решений с использованием обратной связи от выполнения. Модель основана на DeepSeek Coder 1.3B и использует плотную архитектуру Llama с 1,3 млрд параметров; заявленный контекст — 16 384 токена. В README приведены результаты на HumanEval и MBPP, а также показано улучшение отдельных показателей при добавлении обратной связи от выполнения. Это указывает на пригодность модели для генерации и доработки программного кода, но сами результаты бенчмарков не гарантируют качество для конкретного проекта. Модель принимает текстовые запросы и выдаёт текст, включая код. Лицензия — Apache-2.0.

SC117 выпустил экспериментальный вариант Ornith-1.5-35B-A3B, предназначенный для генерации текста, агентного программирования и работы с инструментами. Это производная MoE-модель на базе Ornith-1.5-35B-A3B, объединяющая выбранный LoRA-адаптер Heretic Trial 62 с весами BF16 и заменённой головой MTP; репозиторий содержит версии GGUF, полученные с помощью MoE-ориентированной смешанной квантизации APEX. Модель рассчитана на текстовые и мультимодальные сценарии с изображениями через проектор mmproj и требует свежей сборки llama.cpp с поддержкой Qwen3.5 MoE MTP. README приводит пример контекста в 131072 токена. Вариант предназначен для агентных задач программирования и диалоговой генерации. Замена MTP-головы улучшает основу для спекулятивного декодирования; для запуска с черновым MTP предлагается параметр --draft-mtp. Отказ-модифицированная модель может вести себя иначе, чем исходная, поэтому автор рекомендует оценить её перед развёртыванием. Лицензия — MIT.

TurboVadim/Qwen3.8-27B-OBLITERATED — производная модель на базе Qwen/Qwen3.8-27B, распространяемая под лицензией Apache 2.0. Это текстовая autoregressive-модель для генерации текста, кода и ответов в диалоговых сценариях. По описанию автора, модель модифицирована методом abliteration для ослабления отказов и защитных ответов, поэтому ориентирована на red-team-тестирование, исследования безопасности ИИ, разработку кода и агентные сценарии, где требуется более прямой ответ на ограниченные запросы. Модель имеет архитектуру Qwen3, размер 27B параметров и поддерживает режим thinking; доступны варианты в форматах GGUF, Safetensors и MLX. Для работы рекомендуется температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов, а системный промпт лучше не использовать. В README не указаны точное максимальное окно контекста, перечень поддерживаемых языков и дополнительные модальности, поэтому подтверждённо описать их нельзя. Сильной стороной заявляется близкая к исходной способность на общих задачах: показатель MMLU для версии V3 составляет 82,3%, что на 2,1 процентного пункта ниже базовой модели. Также заявлены стабильная генерация рабочего кода и снижение числа жёстких отказов и защитных «лекций». Ограничения включают некоторую потерю качества относительно исходной модели, возможные циклы при генерации без repetition penalty и отсутствие встроенных защитных ограничений, что повышает риски при использовании в продуктивных или недоверенных сценариях.

Qwen3.8-27B-Uncensored-GPTQ-Int4-sym-G128-MTP-BF16 — это квантизированная версия модели JonathanColetti/Qwen3.8-27B-Uncensored, созданная на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, включая программирование, работу с прозой и вызов инструментов. Она разработана для эффективного запуска на видеоускорителях Intel Arc через vLLM XPU и поддерживает speculative decoding благодаря сохранённой в формате BF16 MTP-голове. Модель использует GPTQ-квантизацию до 4 бит с симметричными группами размера 128; 400 тензоров весов представлены в целочисленном формате I32, а 15 MTP-тензоров сохранены в BF16. Размер репозитория составляет около 19 ГБ. Заявлены языки English и Chinese. Архитектура основана на гибридной GDN/Mamba-конфигурации Qwen3.8, максимальный проверенный контекст — 120 532 токена, при заявленном лимите до 131 072 токенов. Сильные стороны модели — существенно меньшие требования к памяти по сравнению с BF16-версией, поддержка Intel Arc/XPU, длинного контекста, MTP и высокая измеренная скорость генерации на Intel Arc Pro B70: до 68,5 токена в секунду для кода и 52,4 токена в секунду для прозы. Ограничения включают отсутствие формальных оценок качества, калибровку без примеров кода, необходимость специальных патчей vLLM и режима с одной последовательностью при использовании MTP. Префиксное кэширование не даёт выигрыша, а FP8 KV-кэш обязателен для контекста 128K на GPU с 32 ГБ памяти. Поведение «uncensored» унаследовано от исходной модели и не проходило количественной проверки. Указана лицензия Apache-2.0.

AM014/qwen-cpp-optimized-16bit — дообученная языковая модель AM014 на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Модель подходит для генерации и продолжения кода, помощи с программированием и ответов на запросы в чате. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Поскольку описание не приводит результатов оценки или подробностей дообучения, качество на конкретных языках программирования и задачах не установлено.

tel1980/qwen-python-slm — компактная языковая модель для генерации кода в задачах инженерии данных, анализа данных и машинного обучения. Это дообучение Qwen/Qwen2.5-Coder-1.5B-Instruct методом SFT с QLoRA: модель семейства Qwen2 с архитектурой Qwen2ForCausalLM содержит 1,5 млрд параметров и оптимизирована для ответов на технические инструкции на португальском языке с генерацией кода на Python, SQL и PySpark. В карточке заявлены веса FP16 и квантизированный GGUF Q4_K_M; метаданные репозитория указывают формат safetensors. Контекст по метаданным составляет 32 768 токенов, тогда как README сообщает о 1 024 токенах для обучения. Модель предназначена для создания и редактирования скриптов ETL/ELT, запросов SQLite и PostgreSQL, кода PySpark, прототипов ИИ-агентов и конвейеров DataOps/MLOps. README приводит небольшие проверки синтаксиса и исполнения, но предупреждает, что оценка на примерах из обучающих наборов может быть оптимистичной. Модель может выдавать ошибочный или неисполняемый код; SQL не проверялся на реальной базе, а выполнение PySpark требует настроенной среды Spark. Для критичных производственных задач и работы с чувствительными данными требуется проверка человеком. Лицензия — Apache 2.0.

Sky-T1-32B-Preview-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Sky-T1-32B-Preview, разработанной NovaSky-AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста, включая задачи, связанные с программированием и математическим рассуждением; при обучении использовались датасеты codeparrot/apps, BAAI/TACO и AI-MO/NuminaMath-CoT. Указан английский язык. Модель имеет размер 32B параметров и распространяется в форматах GGUF, совместимых с llama.cpp и приложением LM Studio. Доступны варианты от F16 до низкобитных квантизаций Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством ответов, размером файла и требованиями к памяти. Для квантования использовался llama.cpp release b4456 и метод imatrix. Рекомендуемые варианты включают Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; версии с более сильным сжатием экономят память, но могут заметно снижать качество. К сильным сторонам относятся широкий выбор уровней квантизации и возможность локального запуска на совместимом оборудовании. Ограничения — отсутствие в README данных о размере контекста, мультимодальности, точных архитектурных особенностях, результатах тестирования и поддерживаемых языках помимо английского. Лицензия в представленном описании не указана.

Ternary-Bonsai-27B-antidoom-DSpark — текстовая генеративная модель, разработанная на основе prism-ml/Ternary-Bonsai-27B и доработанная Danny-Dasilva с применением antidoom и DSpark. Она предназначена для локальной генерации текста, включая программный код, с запуском через специализированный форк llama.cpp и CUDA-ядра для гибридного внимания. Модель ориентирована на сценарии, где важны компактность, высокая скорость вывода и устойчивость к зацикливанию на повторяющихся фрагментах. В основе лежит гибридная attention-архитектура Qwen3.5-27B с тернарной 2-битной квантизацией Q2_0, плотностью около 2,125 бит на вес и контекстом до 16 384 токенов в приведённой конфигурации. Указан английский язык. В комплект входят основная модель размером около 7 ГБ, DSpark-драфтер в формате Q4_1 для speculative decoding и vision projector Q8_0, что указывает на поддержку мультимодального сценария через проектор, хотя подробности о визуальных возможностях не приведены. К сильным сторонам относятся малый размер, высокая скорость на RTX 5090 и ускорение speculative decoding: в описанном тесте скорость выросла с 129,2 до 184,6 токена в секунду. Antidoom-настройка снижает склонность к продолжению уже начавшихся повторов, однако её эффект частично ослабляется агрессивной 2-битной квантизацией. Скорость DSpark зависит от характера запроса и может снижаться на задачах с низкой долей принятых черновых токенов; для работы требуется совместимый форк llama.cpp и подходящее CUDA-оборудование. Модель распространяется по лицензии Apache-2.0.