II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейКарточка модели mitra-mir/setfit-model-Miscellaneous-Misinformation на Hugging Face совпадает с карточкой mitra-mir/setfit-model-Misinformation-on-Global-Support, поэтому описание составлено по ней. Это модель Sentence-Transformers на архитектуре MPNet, разработанная автором репозитория mitra-mir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Название репозитория указывает на тему дезинформации о глобальной поддержке, однако README не описывает специализированные функции или результаты классификации по этой теме. Модель подходит для получения текстовых эмбеддингов и поиска семантически близких фрагментов. Для использования описан интерфейс библиотеки Sentence-Transformers. Лицензия в предоставленных данных не указана.
Карточка модели mitra-mir/setfit-model-Misinformation-on-Convoy на Hugging Face совпадает с карточкой mitra-mir/setfit-model-Misinformation-on-Global-Support, поэтому описание составлено по ней. Это модель Sentence-Transformers на архитектуре MPNet, разработанная автором репозитория mitra-mir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Название репозитория указывает на тему дезинформации о глобальной поддержке, однако README не описывает специализированные функции или результаты классификации по этой теме. Модель подходит для получения текстовых эмбеддингов и поиска семантически близких фрагментов. Для использования описан интерфейс библиотеки Sentence-Transformers. Лицензия в предоставленных данных не указана.
Карточка модели mitra-mir/setfit-model-Misinformation-on-Media-Traditional-Social на Hugging Face совпадает с карточкой mitra-mir/setfit-model-Misinformation-on-Global-Support, поэтому описание составлено по ней. Это модель Sentence-Transformers на архитектуре MPNet, разработанная автором репозитория mitra-mir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Название репозитория указывает на тему дезинформации о глобальной поддержке, однако README не описывает специализированные функции или результаты классификации по этой теме. Модель подходит для получения текстовых эмбеддингов и поиска семантически близких фрагментов. Для использования описан интерфейс библиотеки Sentence-Transformers. Лицензия в предоставленных данных не указана.
Это разреженный энкодер SPLADE, созданный автором nickprock на основе dbmdz/bert-base-italian-xxl-uncased и дообученный на наборе CulturaViva-ITA с помощью библиотеки Sentence Transformers. Модель преобразует предложения и абзацы на итальянском языке в разреженные векторы размерности 32 102; сходство оценивается скалярным произведением. Размер модели — 137,9 млн параметров, максимальная длина входа — 512 токенов. Энкодер предназначен для семантического поиска и разреженного поиска документов, а также может применяться для оценки сходства предложений. В README приведена оценка Spearman 0,6016 на sts-dev. Модель принимает текст и возвращает векторные представления. Лицензия в предоставленных данных не указана.
Tucano2-qwen-0.5B-Instruct — компактная португалоязычная языковая модель для диалогов и выполнения инструкций, разработанная Polygl0t. Это плотная Transformer-модель семейства Qwen3 примерно с 403 млн параметров и контекстом 4096 токенов; она принимает текст и генерирует текст. Модель дообучена на Tucano2-qwen-0.5B-Base с помощью одного этапа supervised fine-tuning и одного этапа Anchored Preference Optimization. Модель предназначена для генерации ответов на португальском языке, суммаризации, структурированного вывода, function calling и использования в RAG-сценариях. Авторы представляют её как основу для исследований и разработки португалоязычных приложений; открытые наборы данных, код и рецепты обучения поддерживают воспроизводимость. Лицензия Apache 2.0. Малый размер делает модель компактной, но она может галлюцинировать, воспроизводить предубеждения и токсичность, повторяться или давать излишне многословные ответы. Она рассчитана прежде всего на португальский язык, поэтому на других языках возможны ошибки; для практического применения нужна самостоятельная оценка качества и рисков.
oxfrug/bge-m3-swedish-superlim — модель эмбеддингов, созданная автором репозитория путём контрастивного дообучения BAAI/bge-m3 на шведских текстовых парах и запросах с ответами. Она предназначена прежде всего для семантического поиска и сопоставления предложений на шведском языке; также подходит для кластеризации текстов. Архитектура основана на XLM-RoBERTa, размер модели в метаданных — 658,7 млн параметров, нативный контекст — 8194 токена. Рекомендуемая автором размерность эмбеддингов — 768; модель использует библиотеку sentence-transformers и распространяется в формате safetensors. На описанных автором оценках модель улучшила результаты базовой BGE-M3 на SweParaphrase, SweFAQ и SwednRetrieval. Это специализированная модель для поиска: качество классификации шведских текстов снизилось относительно базовой модели. Оценка SweFAQ использовала обучающую выборку, поэтому её нельзя считать результатом zero-shot. Веса распространяются по лицензии MIT, однако лицензии части обучающих данных, включая дополнительную смесь медицинских вопросов и ответов, не установлены; результаты README также не означают включения модели в официальный рейтинг MTEB.
Borealis — русскоязычная аудиоязыковая модель с распознаванием речи, разработанная Ильёй Кулешовым и Александром Николичем из Vikhr Team. Репозиторий содержит чекпойнт архитектуры Borealis, вдохновлённой Voxtral; модель обучалась на примерно 7000 часах русскоязычного аудио. Модель предназначена для преобразования русской речи в текст и поддерживает расстановку пунктуации в распознанной речи. В README приведено сравнение с другими открытыми моделями ASR на нескольких наборах данных: средний WER Borealis составляет 6,33%; результаты различаются в зависимости от набора данных. Модель опубликована в формате PyTorch для Transformers и распространяется по лицензии Apache-2.0. В README не приведены размер модели, длина контекста и подробные инструкции по использованию; заявленный бенчмарк ещё не опубликован, поэтому результаты сравнения следует рассматривать с учётом этого ограничения.
stojchet/d5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base, обученная на датасете generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода. Модель принимает текстовые запросы и выдаёт текст, включая фрагменты кода; контекст составляет до 16 384 токенов. Модель подходит для автодополнения кода и генерации кода по текстовому описанию. Репозиторий содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке и сопутствующих документах модели.
Data Science Coder 1.3B — дообученная разговорная модель семейства Llama, разработанная ed001 для помощи в программировании в задачах анализа данных. Она предназначена для генерации кода и ответов на запросы по сценариям data science; обучение проводилось на наборе ed001/ds-coder-instruct-v1, составленном фильтрацией общедоступных датасетов Hugging Face. В качестве исходной модели README называет DeepSeek Coder Instruct, но точный идентификатор базового репозитория не приводит. Модель содержит 1,3 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. В метаданных указан английский язык, форматы PyTorch и Safetensors, а также возможности общения в чате и генерации кода. Лицензия CC BY-NC-SA 4.0 предусматривает некоммерческое использование и распространение производных материалов на тех же условиях.
deepseek-coder-1.3B-kexer-GGUF — GGUF-квантизированная версия модели deepseek-coder-1.3B-kexer, разработанной JetBrains и основанной на deepseek-ai/deepseek-coder-1.3b-base. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации программного кода и задач, связанных с программированием. В README приведён результат на MultiPL-HumanEval (Kotlin): pass@1 составляет 36,65. Доступны варианты квантизации от Q8_0 до IQ1_M, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Ключевые характеристики — размер базовой модели 1,3 млрд параметров и формат GGUF для использования с llama.cpp. Указаний о поддерживаемых языках, длине контекста, архитектуре, мультимодальности и точном составе обучающих данных в карточке нет. Ограничением является отсутствие указанного chat template: в README отмечено, что используемый формат приглашения может быть некорректным, поэтому следует сверяться с оригинальной карточкой модели. Модель распространяется по лицензии Apache-2.0.
Donut base — предварительно обученная модель для понимания изображений документов, разработанная командой NAVER CLOVA. Архитектура vision encoder-decoder сочетает визуальный энкодер Swin Transformer и текстовый декодер BART: по изображению модель авторегрессионно генерирует текст. Модель предназначена для дообучения под конкретные задачи, например классификацию изображений документов и извлечение структурированных данных из документов. Это базовый чекпойнт, а не готовое решение для конкретного типа документа; для прикладного использования обычно требуется дообучение. Распространяется по лицензии MIT.
Eklav-9B-Reranker — дообученная модель AdarshSingh7647 на базе zai-org/GLM-Z1-9B-0414 для ранжирования текстовых фрагментов по их релевантности запросу. Это плотная причинно-языковая модель семейства GLM-4 с 8,8 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате Safetensors и предназначен для работы через Transformers. Модель использует точечную схему ранжирования: генерирует рассуждение и завершает его меткой true или false, а релевантность оценивается по логитам соответствующего конечного токена. При обучении применялся метод Eklav — обучение продолжению частичной цепочки рассуждений учителя, а не её дословному воспроизведению; при инференсе подсказка учителя не требуется. В README заявлены результаты выше стандартной дистилляции CoT на BRIGHT и сокращение вычислений обучения, но результаты основаны на одном прогоне по каждому домену. Модель предназначена для переупорядочивания результатов поиска и оценки соответствия пассажей запросам. Она обучена и описана для бенчмарков BRIGHT и NevIR. Карточка не указывает отдельную лицензию; перед использованием следует проверить условия базовой модели и репозитория.
Модель cross-encoder/ettin-reranker-17m-v1 разработана авторами семейства Ettin и дообучена на базе jhu-clsp/ettin-encoder-17m с помощью Sentence Transformers на наборе cross-encoder/ettin-reranker-v1-data. Это компактный текстовый реранкер: он оценивает релевантность пары «запрос — текст» и помогает переупорядочить результаты поиска или семантического поиска. Модель построена на архитектуре ModernBERT, содержит 16,8 млн параметров и поддерживает последовательности до 7999 токенов; рассчитана на английский язык. К сильным сторонам относятся небольшой размер и высокая пропускная способность в приведённых авторами тестах, а также улучшение порядка найденных документов в большинстве перечисленных наборов оценки. Качество зависит от предметной области и исходного набора кандидатов; на одном из тестов README показывает ухудшение метрики после реранжирования. Модель принимает текстовые пары и выдаёт оценку релевантности. Лицензия — Apache-2.0.
EttinX-nli-xs — компактная модель-кросс-энкодер, разработанная dleemiller для классификации отношений между парой текстов: противоречие, нейтральность или следование. Она основана на энкодере jhu-clsp/ettin-encoder-32m семейства ModernBERT и дообучена на наборе all-nli-distill с использованием логитов учительской модели dleemiller/ModernCE-large-nli. Модель содержит 31,9 млн параметров и рассчитана на работу через библиотеку sentence-transformers. Модель предназначена для задач Natural Language Inference (NLI), оценки текстовых гипотез и проверки выводов LLM; автор также отмечает пригодность для лёгкого CPU-инференса. В README приведены результаты micro F1: 83,80% на MNLI mismatched и 88,20% на SNLI. Контекст составляет до 7999 токенов по метаданным; README заявляет обработку последовательностей до 8192 токенов. Модель принимает текстовые пары и выдаёт классификационные оценки или метки отношений. Она ориентирована на английский язык. Лицензия — MIT. Результаты и заявленная эффективность приведены автором; качество на иных языках и доменах в карточке не описано.
EvoEmbedding-0.8B — модель эмбеддингов от MiG-NJU для поиска по длинным диалогам и динамическому контексту. Она построена на архитектуре Qwen3.5-0.8B и использует обновляемую латентную очередь памяти, чтобы учитывать порядок реплик и изменения контекста при формировании представлений. Модель возвращает нормализованные векторы для истории сообщений и финального запроса; также README описывает ранжирование списка кандидатов по релевантности. Модель предназначена для семантического поиска в длинных разговорах, систем RAG и памяти агентных приложений, где содержание контекста меняется со временем. Указаны поддержка английского и китайского языков и формат весов safetensors. Репозиторий распространяется по лицензии Apache-2.0. README не приводит длину контекста и подробную оценку качества.
Functionary Medium v3.0 — языковая модель семейства Llama, разработанная meetkai для диалога и вызова функций или плагинов. Она принимает определения инструментов в формате JSON Schema и может решать, когда вызвать их, запускать вызовы последовательно или параллельно, интерпретировать результаты и формировать ответы с опорой на полученные данные. Если инструмент не нужен, модель отвечает обычным сообщением; также заявлена поддержка code interpreter. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и работает с контекстом до 8192 токенов. Для запуска авторы рекомендуют OpenAI-совместимый сервер vLLM; карточка также описывает шаблон диалога и код для разбора ответов с вызовами инструментов. Репозиторий содержит веса PyTorch, лицензия — MIT. Модель предназначена для построения разговорных приложений с вызовом внешних инструментов. Для работы с инструментами требуется передавать их определения в ожидаемом формате и корректно обрабатывать структуру вызовов. README не приводит количественных оценок качества; заявленная в карточке сравнительная характеристика с GPT-4 не подкреплена результатами тестирования.
Functionary Small v2.5 — языковая модель семейства Llama, разработанная MeetKai для диалогов с вызовом функций и плагинов. Модель имеет 7,5 млрд параметров, использует плотную архитектуру и контекст до 8192 токенов; в репозитории представлены веса Safetensors. Лицензия — MIT. Модель принимает сообщения диалога и определения функций в формате JSON Schema, представленные в шаблоне Functionary, и генерирует текстовые ответы или вызовы инструментов. Она умеет выбирать, когда вызвать функцию, выполнять вызовы последовательно или параллельно, учитывать результаты инструментов в ответе и продолжать беседу без инструментов, когда они не нужны. В карточке также заявлена поддержка code interpreter. Модель подходит для создания чат-ассистентов, которым нужно обращаться к внешним API, плагинам или интерпретатору кода. Для запуска разработчик рекомендует OpenAI-совместимый сервер vLLM; для удобного разбора сырых ответов предлагается пользовательский код. Карточка не приводит сравнительных оценок качества, поэтому заявления о превосходстве над другими моделями следует считать утверждениями автора.
ROME — агентная языковая модель, представленная FutureLivingLab и созданная в рамках экосистемы ALE (Agentic Learning Ecosystem). Она предназначена для автономного выполнения многошаговых задач с использованием инструментов, в том числе работы в терминале и программной разработки. В карточке заявлены результаты 24,72% на Terminal-Bench 2.0 и 57,40% на SWE-bench Verified. Модель построена на архитектуре Qwen3 MoE и имеет 2,4 млрд параметров по метаданным; README описывает вариант ROME-30B-A3B с 30 млрд общих и 3 млрд активных параметров. Метаданные указывают контекст до 262 144 токенов, поддержку диалогов и интерфейс вызова инструментов. Лицензия — Apache-2.0. В README описаны обучение с подкреплением и алгоритм IPA для улучшения устойчивости и выполнения длительных задач. Заявления о безопасности и качестве приводятся разработчиком; независимая проверка этих характеристик в предоставленных данных не описана. Также есть расхождение в числе параметров между README и метаданными.
LettuceDetect от KRLabsOrg — англоязычная модель для выявления галлюцинаций в ответах, сформированных по контексту, например в системах RAG. Она дообучена для классификации токенов на базе answerdotai/ModernBERT-base и возвращает оценки для отдельных токенов ответа, которые можно объединить в фрагменты, не подтверждённые контекстом. В карточке указана поддержка контекста до 8192 токенов и обучение на датасете RagTruth; метаданные указывают архитектуру ModernBertForTokenClassification и 149 млн параметров. Модель принимает контекст и ответ и выдаёт разметку токенов. Модель подходит для проверки обоснованности ответов в RAG и подсветки неподтверждённых фрагментов. В README приведены результаты на RagTruth, но без числовых показателей для этой версии. Распространяется по лицензии MIT.
LiquidAI/LFM2-VL-3B-GGUF — мультимодальная vision-language модель семейства LFM2-VL, разработанная Liquid AI для работы на периферийных устройствах и локального развертывания. Модель предназначена для задач преобразования изображений и текста в текст, включая анализ визуального содержимого и генерацию ответов по изображениям, с акцентом на сочетание качества, скорости и экономичного использования памяти. Модель распространяется в формате GGUF, совместимом с llama.cpp, и доступна в вариантах F16, Q4_0 и Q8_0, что позволяет выбирать между точностью, скоростью инференса и требованиями к ресурсам. Указан размер 3B; поддерживаются английский, японский, французский, испанский, немецкий, итальянский, португальский, арабский, китайский и корейский языки. Размер контекста и подробности архитектуры в предоставленной карточке не указаны. Сильными сторонами модели являются мультимодальность, ориентация на edge-сценарии, возможность локального запуска и наличие вариантов квантования. Ограничения включают отсутствие в карточке подробных результатов оценки, характеристик контекста и точных требований к аппаратному обеспечению. Модель выпускается по лицензии lfm1.0; дополнительные условия следует уточнять в файле LICENSE и оригинальной карточке базовой модели LiquidAI/LFM2-VL-3B.
Это пакет слоёв GGUF для запуска чат-модели Llama 4 Maverick 17B 128E Instruct в распределённой среде Mesh LLM. Пакет подготовлен Mesh LLM на основе unsloth/Llama-4-Maverick-17B-128E-Instruct-GGUF и содержит разделённые по слоям артефакты варианта UD-Q4_K_XL для распределённого инференса на нескольких машинах. Модель предназначена для локального приватного чата и генерации текста, в том числе для сценариев, когда полный GGUF не помещается на одном узле. Mesh LLM позволяет обслуживать запросы через локальный API, совместимый с OpenAI Chat Completions. Указаны семейство Llama и формат GGUF; сведения о языках и длине контекста в предоставленных данных отсутствуют. Для работы нужен Mesh LLM и доступные узлы кластера, если модель распределяется между несколькими машинами. Это квантизированный вариант Q4_K_XL, поэтому качество и скорость могут отличаться от исходной модели. Лицензионные условия следует сверять с карточкой исходной модели; в предоставленном README они не приведены.
English Anonymiser OpenPII — англоязычная модель Ai4Privacy для обнаружения и редактирования персональных данных (PII) в тексте. Это дообученная для токенной классификации модель ModernBERT-base с 149 млн параметров, рассчитанная на контекст до 8192 токенов; доступны веса Safetensors и формат ONNX. Модель обучена на английской части набора ai4privacy/open-pii-masking-500k-ai4privacy. Модель помечает фрагменты текста, содержащие PII, чтобы их можно было удалить или скрыть. В тесте на отложенной выборке исходного набора заявлены общие точность 99,17%, precision 98,82%, recall 98,83% и F1 98,82%; результаты на реальных данных могут отличаться. По карточке, модель предназначена для редактирования PII и не выполняет полноценную классификацию PII. Перед применением на собственных данных её следует проверить. Распространяется по лицензии MIT.
MinerU-HTML (Dripper) — дообученная OpenDataLab модель на архитектуре Qwen3 для извлечения основного содержимого HTML-страниц. Она классифицирует элементы страницы и формирует структурированный результат с помощью генерации, управляемой конечным автоматом; проект также предусматривает резервные методы извлечения и API для интеграции. Модель содержит около 508 млн параметров, принимает текстовое представление HTML и выдаёт текст с извлечённым содержимым. Контекст — до 40 960 токенов; в метаданных указана поддержка английского и китайского языков. Модель предназначена для очистки веб-страниц от навигации и других вспомогательных элементов, подготовки содержимого для индексации и использования в RAG-системах, а также для пакетной обработки и оценки качества извлечения. Для локального запуска README рекомендует GPU с CUDA и достаточный объём памяти; предусмотрена интеграция через Python API и REST API. Лицензия модели — Apache 2.0.
MiniMax-M2.5-UD-Q4_K_XL-layers — пакет GGUF с разделёнными по слоям файлами для распределённого запуска MiniMax-M2.5 в кластере Mesh LLM. Пакет подготовлен Mesh LLM на основе unsloth/MiniMax-M2.5-GGUF и сохраняет вариант квантования UD-Q4_K_XL. Метаданные указывают поддержку чата и задачу генерации текста. Модель предназначена для локального приватного инференса, распределения вычислений между несколькими машинами, когда полный GGUF не помещается на одном хосте, и чат-сценариев через локальный API, совместимый с OpenAI. Для работы требуется Mesh LLM; репозиторий содержит разбиение модели на артефакты, включая отдельный файл эмбеддингов. Лицензия, точное число параметров, длина контекста и поддерживаемые языки в предоставленных данных не описаны. За подробностями об архитектуре, настройках чата и лицензии README отсылает к карточке исходной модели.
MiroThinker-v1.0-8B-GGUF — открытая исследовательская агентная модель от команды MiroMind AI, предназначенная для рассуждений с использованием инструментов и поиска информации. Это GGUF-версия модели MiroThinker v1.0, созданная на базе Qwen3-8B с помощью llama.cpp. Модель ориентирована на глубокий многошаговый анализ, задачи общего исследования и длительные сценарии взаимодействия с внешней средой. Она поддерживает контекстное окно до 256K токенов и до 600 вызовов инструментов на одну задачу, что позволяет строить длинные траектории поиска и рассуждений. В карточке указана поддержка английского языка; другие языки и модальности не заявлены. Сильными сторонами являются агентное поведение, получение внешней информации, корректировка ошибок на основе обратной связи среды и масштабирование за счёт более глубоких взаимодействий. Версия распространяется в формате GGUF и использует квантизацию с выборочным повышением точности отдельных слоёв, что может улучшать качество при заданном уровне квантизации, но увеличивает размер файла. Для полноценной работы требуются совместимый runtime, например llama.cpp, и настроенные инструменты или окружение для взаимодействия. Модель распространяется по лицензии MIT.
MyAwesomeModel — модель на базе BERT, доступная через библиотеку Transformers и распространяемая по лицензии MIT. Согласно метаданным Hugging Face, её основное назначение — извлечение признаков из входных данных, то есть преобразование текста в векторные представления для последующего анализа машинного обучения. README также заявляет улучшения в рассуждениях, математике, программировании, классификации, суммаризации и диалогах, однако эти возможности не подтверждаются указанным pipeline-тегом feature-extraction и требуют отдельной проверки. Модель можно применять как компонент систем семантического поиска, кластеризации, классификации и сравнения текстов. В карточке указаны архитектурное семейство BERT, библиотеки Transformers и PyTorch, но размер модели, длина контекста, поддерживаемые языки и сведения о разработчике не приведены. README содержит рекомендации, ориентированные на генеративное использование, включая системный промпт и температуру, однако для модели с тегом feature-extraction их практическая применимость не подтверждена.
opencsg/opencsg-starcoder2-15b-v0.1 — модель генерации кода, созданная исследовательской командой OpenCSG полным дообучением StarCoder2-15B. Архитектура — плотная авторегрессионная StarCoder2; в метаданных указано 21,7 млрд параметров и контекст до 16 384 токенов. Базовая модель обучалась на более чем 80 языках программирования из The Stack. Модель предназначена для генерации и автодополнения кода по контексту, в том числе для заполнения пропусков внутри кода. В README приведён результат HumanEval для Python: pass@1 42,68% при жадном декодировании и оценке по исходным промптам без дополнительных инструкций. Этот показатель не гарантирует аналогичного качества на других задачах и языках программирования. Модель распространяется под лицензией BigCode OpenRAIL-M.
Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-W4A16-AWQ — это 4-битная AWQ-квантизированная версия модели DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель распространяется для использования с библиотекой Transformers и имеет тег image-text-to-text, то есть исходная архитектура включает поддержку работы с текстом и изображениями. Заявлены языки English и Chinese. Точное число параметров в README не указано, но идентификатор исходной модели содержит обозначение 9B. Квантизация выполнена по схеме W4A16_ASYM: веса Linear-слоёв представлены с точностью 4 бита, а активации — 16 битами, с размером группы 128. Формат compressed-tensors поддерживается LMDeploy Turbomind. Эмбеддинги, lm_head, нормализации, компоненты linear attention, vision tower и MTP heads сохранены в BF16. Указано, что модель рассчитана на инференс с LMDeploy; пример запуска использует language_model_only=True и tensor parallelism tp=1. README не содержит результатов собственных бенчмарков, ссылаясь на исходную модель. К основным преимуществам относятся существенное уменьшение размера весов за счёт 4-битной квантизации, возможность запуска на ограниченных GPU-ресурсах и сохранение мультимодальных компонентов и MTP heads в BF16. Ограничения включают зависимость от совместимого загрузчика и формата compressed-tensors, а также потенциальные особенности качества и совместимости, характерные для квантизированных моделей; числовые параметры контекста и подробные характеристики архитектуры не указаны. Модель распространяется по лицензии Apache-2.0.
Qwen3.6-27B-A3B-CoderX-MTP-GGUF — GGUF-квантизированная версия модели CoderX, разработанная ManniX-ITA на основе Qwen3.6-35B-A3B от Qwen. Это разреженная MoE-модель для генерации и анализа кода, ориентированная прежде всего на многошаговые задачи программирования, включая competitive programming, а также краткие завершения кода на нескольких языках. Модель поддерживает reasoning и MTP; точный размер контекстного окна и полный набор языков в карточке не указаны, но приведены результаты для Rust, Java и JavaScript. Архитектура обозначена как Qwen3.5-MoE, общий объём параметров составляет 25,60 млрд, из которых активно используется около 3 млрд. В исходной архитектуре было 256 экспертов, после pruning осталось 184; применяется маршрутизация top-8. Доступны варианты от F16 до низкобитных Q- и I-квантизаций, включая Q4_K_M с imatrix, используемую как стандартную в Ollama. Сильная сторона модели — многошаговое решение задач программирования: на LiveCodeBench v6 она получила 0,727, на HumanEval+ — 0,970. На MultiPL-E результат составил 0,887 и статистически близок к sibling-модели Coder, однако уступает исходной модели Qwen3.6-35B-A3B; по языкам наблюдается преимущество в Rust при более слабом результате в JavaScript. Непрограммный профиль, включая математические, научные, многоязычные и другие задачи, полноценно не измерялся, поэтому качество за пределами кода неизвестно. Модель не является безусловным улучшением Coder и должна выбираться под конкретный рабочий сценарий. Модель распространяется под лицензией Apache-2.0. Для запуска требуется совместимое ПО с поддержкой GGUF, например llama.cpp или Ollama; необходимый объём памяти зависит от выбранной квантизации и составляет примерно от 7,64 GiB для IQ2_XS до 48,87 GiB для F16.
Это мультимодальная квантованная сборка Qwen3.6-35B-A3B, подготовленная FreedomAISVR в формате GGUF для llama.cpp. Она принимает текст и изображения и предназначена для диалогов, ответов по изображениям и других сценариев визуального анализа с языковой моделью. В основе — текстовая MoE-модель с 35,95 млрд параметров, из которых активны около 3 млрд на токен, и 256 экспертами; визуальный энкодер ViT содержит 27 слоёв. Контекст модели составляет 262 144 токена. Веса представлены в NVFP4 с эффективной плотностью около 4,55 бит на вес; для аппаратного ускорения этого формата нужна видеокарта NVIDIA поколения Blackwell, например RTX 50-й серии. В репозитории также есть BF16-файл визуального проектора. Квантование позволяет хранить модель компактнее, но может влиять на качество относительно исходной версии. Лицензия — Apache-2.0.