II.6Документация и сопровождение разработки

Карточка модели Scrappy-Doo/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели sdlangshaw/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели Snenn/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

LettuceDetect v2 Qwen 2B — генеративная модель для поиска галлюцинаций в ответах RAG-систем и кодовых агентов. Её разработала KRLabsOrg на базе Qwen3.5-2B: модель дообучена методом LoRA с учителем, а адаптер объединён с базовыми весами в самостоятельную модель. Она принимает запрос пользователя, контекст-источник и проверяемый ответ, затем возвращает JSON с точными фрагментами ответа, которые не подтверждаются контекстом, и метками категории и подкатегории. Модель охватывает прозу, код и вывод инструментов; в обучении использовались данные на 14 языках. В README приведены результаты на объединённом тестовом наборе, RAGTruth и PsiloQA, включая оценку F1 на уровне фрагментов и примеров. Указана архитектура Qwen3.5 с гибридом Gated DeltaNet и attention; размер — 2 млрд параметров. Длина контекста не уточняется, модель описана как рассчитанная на длинный контекст. Модель предназначена для проверки обоснованности ответов, в том числе в контурах RAG и агентной генерации кода. Она возвращает текстовые фрагменты и их метки, но символьные смещения нужно восстановить сопоставлением фрагментов с исходным ответом. Для надёжного разбора результата README рекомендует задать строгую JSON-схему. Лицензия — Apache-2.0.

NANI-Nithin/LFM2.5-VL-3B-GGUF — неофициальная наборка GGUF-квантизаций модели LFM2.5-VL-3B, разработанной Liquid AI, для запуска через llama.cpp. Модель предназначена для локального и периферийного использования и поддерживает работу с текстом и изображениями. Модель имеет плотную архитектуру LFM2.5-VL: языковую основу LFM2.5-2.6B и визуальный энкодер SigLIP2 NaFlex 400M. Она содержит около 3,1 млрд параметров, поддерживает контекст до 32 768 токенов и словарь из 128 000 токенов. Заявлена поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского, испанского, вьетнамского, тайского, индонезийского, хинди, русского и польского языков. Основные сценарии применения — понимание экранов и пользовательских интерфейсов, OCR с учётом структуры документа, распознавание текста на изображениях, привязка объектов к областям изображения и вызов инструментов на основе текста или изображений. Доступно несколько вариантов квантизации, позволяющих выбирать между качеством, скоростью и потреблением памяти; Q4_K_M указан как сбалансированный вариант, а более точные квантизации предпочтительны для OCR и grounding. Модель менее подходит для длительного визуального рассуждения и анализа сложных технических чертежей. Для работы требуется свежая сборка llama.cpp, поскольку старые версии могут не поддерживать эту архитектуру. Весовые файлы распространяются по лицензии LFM Open License v1.0; перед коммерческим использованием необходимо изучить её условия. Это неофициальная общественная квантизация, созданная на основе официальной модели Liquid AI, поэтому для официальных GGUF-файлов рекомендуется использовать репозиторий LiquidAI.

LLM2Vec-Meta-Llama-3-8B-Instruct-mntp — текстовый энкодер на основе decoder-only LLM Meta Llama 3 Instruct с 8 млрд параметров, разработанный исследовательской группой McGill-NLP. Модель создана по методике LLM2Vec, которая преобразует авторегрессионные языковые модели в двунаправленные энкодеры: включает двунаправленное внимание и обучение с маскированием следующего токена (MNTP). Репозиторий проекта и описание метода опубликованы McGill-NLP. Модель предназначена для получения векторных представлений текстов и их семантического сравнения. Основные сценарии включают поиск и извлечение релевантных документов, reranking, классификацию, кластеризацию, оценку семантического сходства и задачи text embedding. Запросы можно кодировать с инструкциями, а для документов инструкции не требуются; сходство представлений можно вычислять, например, по косинусной близости. В README явно указан английский язык. В примере используется усредняющее pooling и максимальная длина 512 токенов. Сильной стороной модели является адаптация мощной инструкционной LLM к задачам универсального текстового кодирования без перехода на отдельную encoder-архитектуру; методика также допускает дальнейшее fine-tuning. Ограничения связаны с указанной языковой специализацией на английском, зависимостью от custom code и PEFT-компонентов при загрузке, а также с вычислительными требованиями модели размером 8B. README не приводит подробных результатов бенчмарков или полного описания поддерживаемого контекста. Лицензия модели — MIT.

LRAT Qwen3-Embedding-0.6B Retriever-Observable Utility V2 — текстовая модель эмбеддингов для поиска документов по веб-запросу. Она разработана на базе Qwen3-Embedding-0.6B и дообучена с использованием траекторий LRAT: пары «запрос — документ» взвешивались по оценке самостоятельной полезности документа для поиска. Модель использует архитектуру Qwen3 с плотными весами, содержит 507,6 млн параметров и поддерживает контекст до 32 768 токенов. Для обучения применялись pooling последнего токена и нормализация эмбеддингов; обучающие запросы и passages ограничивались 512 токенами. Модель предназначена для получения представлений запросов и passages, которые можно применять для ранжирования кандидатов и семантического поиска релевантных документов. Обучение проводилось на датасете Yuqi-Zhou/LRAT-Train в течение двух эпох с weighted InfoNCE и девятью отрицательными примерами на положительный. Данные не подтверждают поддержку конкретных естественных языков, поэтому языковую специализацию не следует предполагать. Модель распространяется по лицензии Apache-2.0.

sharedalfalfa/market-matcher-trained-v1 — дообученный разработчиком модели энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2 для сопоставления текстов. Он преобразует предложения и абзацы в плотные векторы размерности 384; сходство между векторами оценивается косинусной мерой. Архитектура состоит из BERT-энкодера, среднего пулинга токенов и нормализации. По метаданным модели в ней 25,9 млн параметров, а длина контекста составляет до 512 токенов; в конфигурации из README указана максимальная длина последовательности 256 токенов. Модель предназначена для семантического сравнения, поиска похожих текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. README указывает на обучение на наборе из 179 пар предложений с оценками сходства; примеры посвящены прогнозным рынкам, но данных недостаточно, чтобы считать специализацию на этой области подтверждённой. Карточка не сообщает лицензию. Англоязычная базовая модель предполагает основной упор на английский; качество для других языков не подтверждено.

mdbr-leaf-ir — компактная модель эмбеддингов текста, разработанная командой MongoDB Research для информационного поиска, в том числе для этапа поиска документов в RAG-системах. Она основана на архитектуре BERT и дообучена на базе microsoft/MiniLM-L6-v2. Модель содержит 25,9 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель кодирует запросы и документы в векторы для поиска и ранжирования по смысловому сходству. Она поддерживает асимметричный поиск, когда запросы и документы кодируются разными способами, а также сокращение размерности векторов (MRL) и их квантизацию, чтобы уменьшить затраты на хранение и поиск. В README заявлены результаты на уровне лидеров среди компактных моделей на бенчмарке BEIR. Модель рассчитана на английский язык. Доступны веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0. MongoDB Research отмечает, что на момент публикации модель не используется в коммерческих продуктах или услугах MongoDB.

mDeBERTa-v3-base — многоязычная модель Microsoft на архитектуре DeBERTa V3, предназначенная для задач понимания текста и предсказания замаскированных токенов. Вариант base содержит 12 слоёв, скрытый размер 768 и 306 млн параметров; словарь включает 250 тыс. токенов. Модель обучена на многоязычных данных CC100 с использованием предобучения в стиле ELECTRA и механизма разделения градиентов при совместном использовании эмбеддингов. Контекст ограничен 512 токенами. Модель поддерживает английский, русский и другие языки, перечисленные в метаданных. В README приведены результаты переноса с обучением только на английских данных и тестированием на 15 языках XNLI; в этой оценке mDeBERTa-base показала более высокий средний результат, чем XLM-R-base. Модель подходит как основа для дообучения на классификацию и другие задачи понимания естественного языка, однако сама карточка задаёт основную задачу fill-mask. Распространяется по лицензии MIT.

sileod/mdeberta-v3-base-tasksource-nli — многоязычная модель на архитектуре mDeBERTa-v3-base, разработанная для задач классификации текста и вывода по тексту. Она обучалась в течение 30 тысяч шагов на наборе задач mtasksource и подходит как основа для дальнейшего дообучения, а также для определения, следует ли гипотеза из текста, и классификации по заданным категориям без отдельного обучения на этих категориях. Для сотен задач можно подключать предоставляемые адаптеры через экосистему tasknet и tasksource. Модель содержит 306 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch и Safetensors. Карточка и метаданные указывают на многоязычное обучение; среди языков есть русский, английский, китайский, японский, арабский, немецкий, французский, испанский и другие. Лицензия — Apache-2.0. Это модель понимания и классификации текста, а не генеративная языковая модель; качество конкретной задачи зависит от выбранных меток или адаптера.

Moritz Laurer дообучил мультиязычную модель multilingual-MiniLMv2-L12 на MNLI и XNLI для вывода о логической связи между посылкой и гипотезой и классификации текста без заранее заданного набора классов. Она основана на 12-слойной архитектуре XLM-RoBERTa и содержит 124,3 млн параметров; базовую multilingual-MiniLM-L12 разработала Microsoft, дистиллировав её из XLM-RoBERTa-large. Модель принимает текст, а для классификации — также список меток-кандидатов, и выдаёт оценки классов или категорий NLI. Модель предназначена для мультиязычной классификации текста и NLI на более чем 100 языках. В карточке приведены результаты XNLI для 15 языков, включая русский: средняя точность указанной реализации — 0,75. Дистилляция делает её быстрее и менее требовательной к памяти, чем XLM-RoBERTa-large, но качество ниже, чем у более крупной модели. Контекст — до 514 токенов. Лицензия MIT.

Xenova/multi-qa-mpnet-base-dot-v1 — версия модели sentence-transformers/multi-qa-mpnet-base-dot-v1 с весами в формате ONNX, адаптированная для работы через библиотеку Transformers.js. Исходная модель разработана командой Sentence Transformers; в README не указано отдельное имя автора ONNX-версии. Модель предназначена для извлечения признаков из текста и может применяться в сценариях семантического поиска, сопоставления вопросов и ответов, поиска похожих документов и построения векторных представлений. Используемый pipeline — feature-extraction; запуск возможен в JavaScript через @huggingface/transformers, в том числе в средах, совместимых с Transformers.js. README не содержит сведений о точном размере модели, архитектурных параметрах MPNet, поддерживаемых языках, модальностях, длине контекста, показателях качества или ограничениях. Лицензия также не указана. Ключевое преимущество этой версии — совместимость с ONNX и веб-ориентированным JavaScript-инструментарием; при этом возможности и характеристики исходной модели следует уточнять в её базовом репозитории.

Модель raphaelsty/neural-cherche-colbert — англоязычная модель семейства MPNet, обученная с помощью Neural-Cherche и настроенная как ColBERT для поиска и ранжирования текстов. В README она описана как all-mpnet-base-v2 в формате ColBERT; доступны сценарии Retriever и Ranker, а для работы предлагается библиотека neural-cherche. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 514 токенов и распространяется в формате safetensors. Лицензия — MIT. Метаданные Hugging Face классифицируют её как модель заполнения маски (fill-mask), тогда как карточка описывает применение для извлечения и ранжирования; поэтому для пользовательского поиска важнее указанные в README функции Retriever и Ranker.

cross-encoder/nli-MiniLM2-L6-H768 — англоязычная модель для вывода отношений между парой предложений, обученная с помощью класса Cross-Encoder библиотеки SentenceTransformers. Она основана на MiniLMv2-L6-H768, дистиллированной из RoBERTa-Large, и дообучена на наборах SNLI и MultiNLI. Модель содержит 95,2 млн параметров и принимает пары текстов, выдавая оценки для классов «противоречие», «следование» и «нейтральное отношение». Её можно применять для классификации без примеров по заданным меткам и оценки сходства предложений. Модель подходит для проверки текстовых гипотез, сопоставления предложений и классификации текста по описаниям меток. Доступны реализации в форматах PyTorch, ONNX и OpenVINO; библиотека карточки — SentenceTransformers. Контекст составляет до 514 токенов. Модель распространяется по лицензии Apache-2.0.

NuExtract-2-2B-experimental — экспериментальная мультимодальная модель NuMind для извлечения структурированных данных. Она дообучена на базе OpenGVLab/InternVL2_5-2B и принимает текст или изображения вместе с JSON-шаблоном, который задаёт нужные поля и типы значений. Модель извлекает дословные и обобщённые строки, числа, даты, значения из заданных списков, а также массивы этих типов. Если нужных сведений нет, она может вернуть null или пустой массив. Модель многоязычная; для извлечения рекомендуется температура около нуля. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

OctoCoder — модель для генерации кода по инструкциям, созданная BigCode дообучением StarCoder на наборах CommitPackFT и OASST. Она содержит 15,5 млрд параметров и построена на архитектуре GPT-2 с multi-query attention и целью Fill-in-the-Middle; для запуска доступны веса PyTorch и safetensors, а основная библиотека — Transformers. Модель предназначена для выполнения запросов на естественном языке: например, для написания функций и помощи в программировании. В карточке указана поддержка более 80 языков программирования; контекст составляет 8192 токена. Для работы с моделью авторы рекомендуют начинать запрос с «Question: » и завершать его «Answer:». Лицензия — BigCode OpenRAIL-M.

llmfan46/Ornith-1.0-35B-uncensored-heretic — версия модели Ornith-1.0-35B, подготовленная независимым автором карточки методом abliteration для уменьшения отказов. Базовая модель разработана Ornith AI и предназначена для агентного программирования; по метаданным это модель семейства Qwen 3.5 MoE с архитектурой Qwen3_5MoeForConditionalGeneration, доступная в формате safetensors и используемая через Transformers. Размер указан в названии как 35B. Модель рассчитана на генерацию кода, работу с репозиториями, агентные сценарии и вызов инструментов в чате. В приведённом сравнении доля отказов снизилась с 89 до 9 из 100 запросов, а точность на MMLU составила 81,71% против 82,64% у исходной версии; это результаты тестов автора карточки и не гарантия качества в других сценариях. В README также указана доступная GGUF-версия в отдельном репозитории. Лицензия — MIT. Поскольку модель специально изменена для снижения отказов, её ответы могут слабее следовать ограничениям безопасности; проверяйте результаты и учитывайте это при применении.

google/pix2struct-ocrvqa-base — модель Google семейства Pix2Struct для визуальных вопросов и ответов. Это архитектура кодировщик изображений — декодер текста, дообученная для задачи visual question answering; она принимает изображение и вопрос и формирует текстовый ответ. Модель построена на Pix2StructForConditionalGeneration и использует PyTorch. Pix2Struct предварительно обучали преобразовывать замаскированные снимки веб-страниц в упрощённый HTML; такой подход объединяет сигналы распознавания текста, языкового моделирования и описания изображений. Вариативное разрешение входа помогает обрабатывать визуально насыщенные материалы. Карточка указывает языковую поддержку английского, французского, румынского и немецкого. Лицензия — Apache-2.0.

Polaris-V1 — открытая 4-миллиардная dense causal language model, разработанная NitrAI Research и представленная как NitrAI Lab. Это дообученная версия Qwen/Qwen3.5-4B, выровненная с помощью reinforcement learning с наградами за многофайловый синтез кода и проверку теорем. Модель предназначена для генерации и анализа программного кода, сложного рассуждения, автономных агентных сценариев и задач, связанных с исправлением программных проектов. Модель поддерживает английский и китайский языки, работает в режиме text generation и имеет контекстное окно до 1 592 638 токенов с масштабированием RoPE через YaRN. Заявлены требования от 3,2 ГБ VRAM для Q4_K_M до 8,4 ГБ для FP16, что позволяет запускать её на потребительских GPU и Apple Silicon. Поддерживаются Transformers, Ollama и llama.cpp/GGUF; также заявлено спекулятивное декодирование со скоростью 540–720 токенов в секунду при использовании Qwen3.5-0.8B-Draft. Сильные стороны Polaris-V1 — сочетание компактного размера, локального запуска, большого контекстного окна и специализации на программировании и агентном рассуждении. В README указаны результаты: 31,4% Pass@1 на SWE-bench Verified, 38,5% Task Completion Rate на WildClawBench и 26,8% Pass@1 на DeepSWE. Ограничения включают сравнительно небольшой размер и узкую специализацию по сравнению с более крупными моделями, а также отсутствие подробных сведений о качестве на других задачах, фактической эффективности длинного контекста и ограничениях аппаратной совместимости. Модель распространяется по лицензии Apache 2.0.

TobiasLogic разработал Qwen2.5-Coder-32B-abliterated на основе Qwen/Qwen2.5-Coder-32B-Instruct. Это плотная причинно-языковая модель семейства Qwen2 с 32 млрд параметров для генерации кода и диалогового взаимодействия. В модели статически изменены веса, связанные с направлением отказа; адаптеры и дополнительные операции во время инференса не требуются. Контекст составляет 32 768 токенов. Модель предназначена для локального помощника по программированию и агентных сценариев, включая анализ кода, отладку и задачи, в которых базовая модель может отказывать. В README приведены результаты EvalPlus: для вариантов HumanEval и MBPP показатели близки к базовой модели, однако опубликованные измерения включают квантизированную сборку GGUF Q4_K_M и не гарантируют такие же результаты для этого репозитория. Также заявлено снижение отказов на небольшом тестовом наборе. Модель поддерживает английский язык и принимает текстовые запросы, выдавая текст и код. Удаление отказов может сопровождаться небольшим снижением качества, а часть отказов может сохраняться; метод не добавляет знаний и не устраняет унаследованные смещения. Лицензия — Apache-2.0.

Карточка модели tbhrc/qwen2_5_coder_7b_instruct_4bit на Hugging Face совпадает с карточкой mlx-community/Qwen2.5-Coder-7B-Instruct-4bit, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct-4bit — 4-битная версия модели для генерации кода из семейства Qwen2.5-Coder, подготовленная mlx-community. README указывает, что модель преобразована в формат MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.18.1; в метаданных базовой моделью указана Qwen/Qwen2.5-Coder-7B. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов. Модель предназначена для генерации кода в диалоговом формате и подходит для помощи при написании и анализе программ. Репозиторий распространяется по лицензии Apache-2.0. README описывает конвертацию в MLX, а метаданные указывают на дообучение базовой модели для кода; представленных сведений недостаточно, чтобы точно описать качество по языкам программирования или результаты оценок.

Agnuxo/Qwen2-7B-Instruct_CODE_Python_Spanish_English_Asistant-16bit — локальная чат-модель для генерации кода, представленная Francisco Angulo de Lafuente в рамках экосистемы P2PCLAW. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. В README заявлена помощь с Python, JavaScript, TypeScript, Rust, Go и C++, а также с научными вычислениями и библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Модель предназначена для диалоговой генерации кода и помощи при разработке, в том числе локально через Ollama или Transformers. Карточка заявляет поддержку английского и испанского языков. Лицензия — Apache-2.0. README также содержит указание перенаправлять запросы на написание научных статей в P2PCLAW; качество кода, языковое покрытие за пределами заявленных языков и результаты независимой оценки в предоставленных данных не подтверждены.

Jackrong/Qwen3.5-4B-Neo-GGUF — reasoning-ориентированная дообученная версия Qwen3.5-4B, разработанная Jackrong с использованием Unsloth, SFT и LoRA. Модель обучалась на данных Step-3.5-Flash-SFT и специализированной смеси наборов для рассуждений, программирования и следования инструкциям. Заявленные языки — английский, китайский и корейский; лицензия — Apache-2.0. Формат GGUF предназначен для локального и офлайн-запуска, однако конкретный размер файла и требования к памяти в README не указаны. Модель рассчитана на аналитические задачи, программирование, соревновательное программирование на Python, математику и задачи, требующие последовательного логического рассуждения. Она обучена формировать рассуждения в тегах <think>...</think> перед итоговым ответом. По заявленным результатам на сбалансированной выборке из 250 вопросов MMLU-Pro модель получила 82,00% pass@1 против 80,40% у базовой версии, одновременно сократив среднюю длину цепочки рассуждений с 6962 до 3955 символов, а медианную — с 4600 до 1951 символа. Сильной стороной модели является сочетание конкурентной точности и более компактного стиля рассуждений, что может снизить расход токенов в задачах с интенсивным анализом. Ограничения включают риск галлюцинаций, возможные усечения при чрезмерно сложных задачах и отставание от базовой модели в категории физики. Приведённые показатели получены на подвыборке MMLU-Pro и не обязательно отражают результаты на полном тесте. Модель позиционируется как тестовая версия для обучения, демонстраций, академических исследований и технических экспериментов.

Qwen3.8-27B-NInfer — мультимодальная модель для генерации текста и работы с изображениями, основанная на Qwen3.8-27B от команды Qwen. Версия подготовлена разработчиком Neroued и преобразована в нативный формат артефактов NInfer с расширениями для Vision, MTP и спекулятивного декодирования DFlash2. Модель предназначена для диалогов, текстовой генерации, рассуждений, решения математических и научных задач, а также анализа изображений и визуальных вопросов. В карточке заявлены высокие результаты на IFBench, AIME 2025 и 2026, GPQA-Diamond, ERQA и RealWorldQA. Артефакт содержит квантизированные Q4/Q5-проекции, а эмбеддинги токенов и выходная голова используют q8_g32_fp16; размер файла составляет около 19,03 ГиБ. Поддерживаются текстовые и визуальные входы, а также видео согласно руководству NInfer. В примерах запуска указан контекст до 240 000 токенов, однако конкретные возможности зависят от конфигурации среды. Модель рассчитана на локальный запуск через NInfer и требует 64-разрядный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a, CUDA Toolkit 13.1 или новее и сборку NInfer не ниже указанной в карточке. Файл не является совместимым с Transformers, Safetensors или GGUF. Использование ограничено форматом NInfer и специализированным оборудованием, поэтому переносимость ниже, чем у универсальных моделей. Лицензия — Apache-2.0.

Qwen3.8-27B-OBLITERATED-AWQ-W4A16 — это 4-битная AWQ-квантизованная версия модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, опубликованная пользователем MurtazaNasir. Модель предназначена для генерации текста, программного кода, агентных сценариев и исследований AI safety и red teaming, включая запросы, на которые модели с обычными защитными настройками могут отказываться отвечать. В основе используется гибридная архитектура Qwen3.8-27B с 64 слоями: 48 слоёв линейного внимания gated-DeltaNet и 16 слоёв полноценного внимания, а также vision tower и MTP-head. Квантизация выполнена в формате AWQ W4A16_ASYM с размером группы 128; часть компонентов сохранена в bf16. Размер репозитория около 19,55 ГБ. Для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallel либо одна карта на 24 ГБ при небольшом контексте. Модель поддерживает текстовые и визуальные компоненты исходной архитектуры, но точные языки и максимальный размер контекста в предоставленных данных не указаны. Сильными сторонами заявлены близкая к исходной производительность, отсутствие жёстких отказов, совместимость с режимом thinking и хорошие результаты в генерации кода. Ограничения включают возможное снижение качества относительно базовой модели: в README указано падение MMLU на 2,1 процентного пункта. Для стабильной работы рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов. Стандартный шаблон чата поддерживает вызов инструментов, тогда как исходный шаблон их определения и роль tool игнорирует; также системные промпты могут повторно вызвать отказы. Модель распространяется по лицензии Apache-2.0.

ZiRoX112 подготовил GGUF-квантизацию Qwen3.8-27B-Uncensored Q38mix v6 для локального запуска. В основе — дообученная модель OrcaRouter на 27 млрд параметров с гибридной архитектурой gated-delta-net и attention, а также MTP-головой. Файл v6 занимает 19,32 ГБ при 5,655 битах на вес; автор ориентирует его на кодинг-агентов на потребительских GPU с 24–32 ГБ видеопамяти. Квантизация выполнена с помощью собственной importance matrix и распределения точности по тензорам, которое учитывает изменения, связанные с удалением отказов в базовой модели. README сообщает о сохранении такого поведения в проведённых проверках и приводит сравнение качества с BF16-эталоном. Модель предназначена для генерации текста и диалогового использования; метаданные указывают английский, итальянский и китайский языки. Это производный GGUF-файл, основанный на Q8_0-версии модели и созданный с разрешением повторной квантизации. В README раскрыты ограничения оценки: часть распределения eval-токенов совпадала с калибровочным корпусом, а измерения отказов проводились на небольшом наборе запросов. Лицензия в предоставленных данных не указана.

unsloth/Qwen3-Coder-Next — версия Qwen3-Coder-Next от Unsloth для кодирующих агентов и локальной разработки. Это причинная языковая модель с архитектурой MoE семейства Qwen3-Next; репозиторий содержит веса Safetensors и рассчитан на использование с Transformers. README описывает исходную модель как систему с 80 млрд параметров, из которых активируются 3 млрд; метаданные этого репозитория указывают 2,3 млрд параметров. Нативный контекст — 262 144 токена. Модель предназначена для генерации и изменения кода, многошаговых задач разработки, работы с инструментами и восстановления после ошибок выполнения. Заявлена интеграция с CLI- и IDE-агентами; в метаданных также отмечен интерфейс вызова инструментов. README указывает, что поддерживается только режим без рассуждений (non-thinking). Основной язык взаимодействия — текст, а лицензия репозитория — Apache-2.0. Ключевые преимущества — длинный контекст и возможности для агентной разработки. Для запуска README рекомендует актуальные версии Transformers, SGLang или vLLM; для SGLang требуется версия не ниже 0.5.8, для vLLM — не ниже 0.15.0. При сбое запуска из-за большого контекста предлагается уменьшить его. Указанные в README 80 млрд общих и 3 млрд активируемых параметров расходятся с числом 2,3 млрд в метаданных, поэтому размер этой версии по доступным источникам неоднозначен.

noctrex/Qwen3-Coder-REAP-25B-A3B-MXFP4_MOE-GGUF — квантизированная в формате GGUF версия модели Cerebras Qwen3-Coder-REAP-25B-A3B. Это MoE-модель для генерации кода и диалогового использования; каталог также указывает поддержку чата. Репозиторий содержит варианты MXFP4_MOE, включая варианты с imatrix-калибровкой bartowski и экспериментальные варианты codetiny-exp и codemedium-exp, откалиброванные на наборах данных для программирования. Модель предназначена для генерации кода и помощи в задачах программирования. Автор отмечает, что калибровочные данные экспериментальных вариантов охватывают только код, поэтому их пригодность для общих знаний не установлена и требует дальнейшей проверки. Лицензия в предоставленных данных не указана.

QuantFactory/Qwen3-Reranker-4B-GGUF — это квантизированная версия модели Qwen3-Reranker-4B, созданная QuantFactory на основе Qwen/Qwen3-4B-Base с использованием llama.cpp. Модель предназначена для переранжирования текстовых результатов: оценки релевантности документов поисковому запросу и улучшения порядка выдачи. Она может применяться в системах текстового и кодового поиска, retrieval-augmented generation, классификации и других сценариях, где требуется выбрать наиболее подходящие фрагменты среди найденных кандидатов. Модель содержит около 4 млрд параметров, имеет 36 слоёв и поддерживает контекст длиной до 32K токенов. Она работает с текстом, поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычный, кросс-языковой и кодовый поиск. Модель поддерживает пользовательские инструкции, позволяющие адаптировать ранжирование под конкретную задачу, язык или сценарий; для многоязычных задач рекомендуется формулировать инструкции на английском языке. Квантизация в формате GGUF и использование llama.cpp могут снизить требования к ресурсам и упростить локальный запуск, однако конкретные характеристики производительности зависят от варианта квантизации и оборудования. README не содержит точных данных о формате квантизации, аппаратных требованиях, скорости инференса и результатах бенчмарков. Модель распространяется по лицензии Apache-2.0.