II.6Документация и сопровождение разработки

ChristianAzinn/gte-large-gguf — это квантизированная GGUF-версия модели gte-large, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий подготовил ChristianAzinn; исходная модель построена преимущественно на архитектуре BERT и распространяется как модель для создания текстовых эмбеддингов. Модель предназначена для информационного поиска, оценки семантического сходства текстов, reranking и других задач, где требуется сопоставление текстовых представлений. Она обучалась на крупном корпусе релевантных пар текстов из различных предметных областей. Указан английский язык, максимальная длина контекста — 512 токенов. GGUF-файлы поддерживаются llama.cpp и LM Studio; доступны варианты квантизации от 2 до 8 бит, а также FP16 и FP32. Квантизация уменьшает размер и требования к памяти, но низкобитные варианты могут заметно снижать качество; README рекомендует сбалансированные варианты Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Модель не предназначена для генерации текста: её основная функция — получение эмбеддингов для последующего сравнения или поиска. Варианты с высокой степенью квантизации удобны для локального запуска на ограниченных ресурсах, однако требуют оценки влияния потери точности на конкретную задачу. Исходная модель и материалы репозитория распространяются по лицензии MIT.

ChristianAzinn/gte-small-gguf — это GGUF-версия модели текстовых эмбеддингов gte-small, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий содержит варианты модели, преобразованные и квантованные ChristianAzinn для использования с llama.cpp и совместимыми приложениями. Модель основана на архитектуре BERT и предназначена для получения векторных представлений текста. Она подходит для информационного поиска, оценки семантического сходства, переранжирования результатов и других задач sentence embeddings. Заявлена поддержка английского языка и контекста до 512 токенов; модель работает только с текстовыми данными. Главное преимущество — небольшой размер файлов и возможность локального запуска, включая LM Studio. Доступны варианты квантования от 2 до 8 бит, а также FP16 и FP32; более сильное квантование уменьшает требования к памяти, но может заметно снижать качество. Для большинства сценариев рекомендуется сбалансированный вариант Q4_K_M или варианты с меньшими потерями качества. Использование поддерживается llama.cpp начиная с указанного в README коммита и LM Studio версии 0.2.19 или новее. Лицензия модели — MIT.

HydroEmbed/HydroEmbed-OpenQA-MiniLM-DualLoss — англоязычный Sentence Transformer, дообученный разработчиком HydroEmbed на базе sentence-transformers/all-MiniLM-L6-v2 для сопоставления и поиска связанных текстов. Модель использует энкодер BERT с усреднением токенных представлений и нормализацией; она преобразует предложения и абзацы в плотные векторы размерности 384. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; в README указана максимальная длина последовательности 256 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текстов на основе эмбеддингов. В README приведены англоязычные пары вопросов и ответов по тематике водных ресурсов и окружающей среды, однако специализация модели на этой области не заявлена. Указаны потери CosineSimilarityLoss и MultipleNegativesRankingLoss. Лицензия в предоставленных данных не приведена.

Jack-Long-Agentic-27B-4bpw-16GB-VRAM — экспериментальная агентная сборка на базе Qwen3.6-27B, опубликованная автором Jack. Это файл GGUF для локальных сред выполнения, совместимых с форматом GGUF; в метаданные шаблона чата встроена архитектура Jack для ведения структурированного рабочего состояния между ходами. README утверждает, что тензоры базовой модели не изменялись, а интеграция выполнена через tokenizer.chat_template. Модель предназначена для длительных многоэтапных задач: работы с кодом и репозиториями, отладки с повторными вызовами инструментов, анализа документов, исследований и оркестрации сложных действий. Заявленные механизмы включают сжатие истории в рабочее состояние, привязку рассуждений к источникам, разделение конфигураций и контрфактических сценариев, проверку выводов и передачу детерминированных операций инструментам. Поддержка изображений базовой моделью в карточке каталога указана, однако README описывает сценарии работы с текстом и инструментами. Автор называет выпуск исследовательским превью и экспериментальной демонстрацией; качество и надёжность агентного поведения требуют проверки в конкретной среде. Для предполагаемого поведения нужны GGUF-совместимый рантайм, доступные модели инструменты и сохранение истории диалога. Лицензия — Apache-2.0.

JSONify-Flux-Large — дообученная PrithivMLmods мультимодальная модель на архитектуре Qwen2-VL-7B-Instruct, настроенная на изображения, созданные Flux, и соответствующие им описания. Она предназначена для описания изображений, визуальных вопросов и рассуждений, распознавания текста на изображениях и решения математических задач с выводом в формате JSON; поддерживает многошаговый диалог и анализ видео. Модель содержит 7,1 млрд параметров, принимает изображения и текст, выдаёт текст, а максимальный контекст составляет 32 768 токенов. В карточке заявлена поддержка английского и китайского языков, а также распознавание текста на японском, арабском и ряде европейских языков. Веса опубликованы в формате Safetensors, библиотека для работы — Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не приводит независимых сравнительных результатов, поэтому заявления о высокой точности и длительности поддерживаемого видео не следует считать подтверждёнными гарантиями качества.

Kiwen1.2-27B — дообученная языковая модель с 27 миллиардами параметров, созданная разработчиком beyoru на основе Qwen3.8-27B. Модель обучалась на длинных рассуждениях из Kimi K3 с применением RLVR и ориентирована на улучшение качества рассуждений, следования инструкциям и надёжности выполнения задач. Модель предназначена для математических и логических задач, программирования, использования инструментов, агентских сценариев и других задач, требующих последовательного рассуждения. Она поддерживает режимы с включённым и отключённым анализом: режим рассуждений рекомендуется для сложных задач, а отключение — для извлечения данных, классификации и форматирования. В README указана возможность работы с контекстом до 262 144 токенов при использовании SGLang, однако сведения о языковом охвате и фактических мультимодальных возможностях не приведены. Заявленное преимущество модели — сочетание относительно компактного размера с акцентом на reasoning, coding, tool use и instruction following; во внутреннем тесте из 100 агентских задач она показала результат 81,2%. Эти показатели не подтверждены независимым публичным бенчмарком. Ограничением является отмеченное разработчиком снижение качества при использовании с dflash2; также в карточке нет подробных данных об архитектуре, датасетах и результатах на стандартных тестах. Модель распространяется по лицензии Apache-2.0 и основана на Qwen3.8-27B, также выпущенной под Apache-2.0.

Laguna-XS 2.1 JANG2L CRACK — текстовая модель для генерации кода и агентных сценариев, выпущенная dealignai на основе poolside/Laguna-XS-2.1. По карточке модели, это MoE-модель с 33 млрд параметров и примерно 3 млрд активных параметров; в метаданных размер указан как 2,6 млрд параметров. Версия JANG2L использует смешанную низкоразрядную квантизацию MLX для Apple Silicon, а CRACK удаляет поведение отказа на уровне весов. Репозиторий содержит веса safetensors, модель рассчитана на запуск через MLX, прежде всего с vMLX. Модель предназначена для агентного программирования, рассуждений и вызова инструментов; поддерживает текстовый ввод и генерацию текста, а также контекст до 262 144 токенов. Карточка заявляет сохранение возможностей кодирования, рассуждений и вызова инструментов после преобразований и приводит результаты MMLU и HarmBench, полученные в vMLX. Английский указан среди языков модели. Для генерации рекомендуется явно задавать temperature=1.0, top_p=1.0 и top_k=20: среды инференса могут игнорировать настройки в файлах конфигурации, что, по карточке, ухудшает качество вывода. Модель настроена следовать инструкциям без отказа, включая потенциально опасные запросы. Лицензия обозначена как other; подробные условия в предоставленных данных не раскрыты.

JANGQ-AI/Laguna-XS-2.1-JANG_6M — квантованный вариант модели Poolside Laguna-XS-2.1, подготовленный Jinho Jang для запуска на Apple Silicon через vMLX. Это текстовая MoE-модель для генерации кода и работы агентных систем; метаданные указывают 2,6 млрд параметров, а карточка описывает исходную архитектуру как MoE с 33 млрд параметров и примерно 3 млрд активных параметров. В карточке также заявлены 40 слоёв, 256 маршрутизируемых экспертов, выбор восьми экспертов и общий эксперт, а длина контекста составляет 262 144 токена. Веса маршрутизируемых экспертов квантованы до 6 бит с AWQ-калибровкой; внимание, общий эксперт, маршрутизатор и нормализации оставлены в высокой точности. Модель поддерживает чат, вызовы инструментов и переключаемый режим рассуждений. Основной указанный язык — английский. Лицензия — OpenMDW-1.1, унаследованная от исходной модели. Карточка приводит скорость декодирования 68,6 токена в секунду на M5 Max и высокое совпадение предсказаний при проверке длинного контекста; эти результаты относятся к указанной конфигурации и оборудованию. Для корректного семплирования следует использовать top_k=20; поддержка шаблона чата, специальных стоп-токенов и параметров квантования зависит от загрузчика.

LiquidAI/LFM2.5-ColBERT-350M-GGUF — мультиязычная модель извлечения и переранжирования документов, разработанная Liquid AI. Это модель позднего взаимодействия (late interaction retriever) на базе эффективной архитектуры LFM2 с заявленным размером 350 млн параметров. Модель формирует отдельный вектор для каждого токена и сопоставляет запрос с документом с помощью метода MaxSim, что позволяет учитывать локальные совпадения между их фрагментами. Модель предназначена для семантического поиска, переранжирования результатов и интеграции в RAG-конвейеры, включая сценарии, где запросы и документы написаны на разных языках. В карточке заявлена высокая точность для 11 языков: английского, испанского, немецкого, французского, итальянского, португальского, арабского, шведского, норвежского, японского и корейского. Скорость вывода сопоставима с гораздо меньшими моделями, что делает её подходящей для развёртывания на периферийных устройствах и использования через llama.cpp в формате GGUF. Сильными сторонами являются мультиязычная работа, высокая заявленная точность, относительно эффективный inference и возможность заменить существующий retriever в RAG-системе. Ограничения связаны с архитектурой позднего взаимодействия: для документов необходимо хранить последовательность токеновых векторов и вычислять MaxSim, поэтому модель требует иной организации индексов, чем обычные модели с одним вектором на документ. Максимальная длина контекста и другие детальные характеристики в карточке не указаны. Лицензия обозначена как lfm1.0; подробные условия приведены в файле LICENSE.

Unsloth/LiquidAI LFM2-700M — компактная языковая модель для генерации текста, созданная на базе модели LiquidAI/LFM2-700M и подготовленная к запуску на периферийных устройствах. В карточке указаны 742 млн параметров, 16 слоёв и контекст до 32 768 токенов. Архитектура гибридная: 10 блоков коротких свёрток LIV и 6 блоков группового внимания GQA; модель распространяется в формате safetensors и рассчитана на работу с Transformers. Модель подходит для локальных диалоговых приложений, многошаговых агентных сценариев, извлечения данных, RAG и генерации творческого текста. Она поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки, а также интерфейс вызова инструментов через формат диалога. Разработчик рекомендует дообучать её под узкие задачи. Малый размер облегчает развертывание на CPU, GPU и NPU, включая смартфоны, ноутбуки и автомобили. При этом модель не рекомендуется для задач с высокими требованиями к знаниям или программированию. Лицензия указана как other; конкретные условия следует уточнять в карточке репозитория.

LightOnOCR-1B-1025 — компактная мультимодальная модель LightOnAI для распознавания текста и понимания документов по изображениям. Это плотная модель семейства Mistral3 с генеративной архитектурой LightOnOCRForConditionalGeneration; репозиторий содержит полную версию весов BF16. Модель предназначена для извлечения текста из сканов и страниц PDF, а также для работы с таблицами и формами. Модель обучена на многоязычных документах: научных статьях, книгах, чеках, счетах, таблицах и формах, включая рукописный текст. В карточке заявлены европейские языки с латинской письменностью; README характеризует вариант как многоязычный. Авторы отмечают высокую скорость и точность для своего размерного класса. Для обработки PDF рекомендуется преобразовать страницы в PNG или JPEG с максимальной стороной около 1540 пикселей, сохраняя пропорции; поддерживается обработка страниц по одной. Модель распространяется по лицензии Apache-2.0. README рекомендует BF16-вариант для инференса и дальнейшего дообучения; для обучения упомянуты LoRA и адаптация к предметным документам. В карточке также отмечено, что LightOnOCR-2 является более новой версией. Заявленные в README результаты производительности и точности приведены авторами и зависят от оборудования и условий оценки.

Matroyshka Re-Ranker — модель семейства CostWiseMistral от BAAI для ранжирования текстовых пассажей по релевантности запросу. Карточка называет её Matroyshka Re-Ranker и отсылает за подробностями к проекту FlagEmbedding; архитектура — плотная причинная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для повторного ранжирования результатов поиска и отбора наиболее подходящих фрагментов, например, перед передачей контекста в систему RAG. Для её использования указана лицензия Apache-2.0. В метаданных есть конфликт задач: авторская метка — text-classification, а каталог относит модель к text-generation; для пользовательского сценария реранкинга основная задача — text-ranking.

MeaningBERT — модель оценки сохранения смысла между двумя предложениями, представленная автором статьи MeaningBERT: Assessing Meaning Preservation Between Sentences. Она выдаёт оценку смыслового сходства, которую можно использовать как обучаемую метрику при сравнении перефразирований и других пар предложений. В репозитории доступны исходный чекпойнт v1 и рекомендуемый чекпойнт v2 large; карточка указывает архитектуру BERT с 136,7 млн параметров, контекст до 512 токенов и формат safetensors. Для v2 large используется энкодер DeBERTa-v3-large, а результат преобразуется в шкалу от 0 до 100; по данным README, на тесте из 1536 пар он показал корреляцию Пирсона 0,704 ± 0,009. Модель принимает пару текстов и относится к классификации текста, хотя практически её используют как регрессионную метрику сохранения смысла. Она предназначена для оценки результатов перефразирования, упрощения и других преобразований текста. README описывает английские энкодеры bert-base-uncased и deberta-v3-large; основная версия v1 слабее обобщает на некоторые внешние наборы данных, а v2 требует корректного преобразования логита в оценку 0–100. Лицензия в предоставленных данных не указана.

miCSE — модель для получения семантических векторных представлений предложений и коротких абзацев, разработанная Tassilo Klein и Moin Nabi. Она использует архитектуру BERT и обучена контрастивным методом с регуляризацией распределения self-attention: согласование представлений разных dropout-аугментированных вариантов текста помогает эффективнее обучаться на небольших наборах данных. Векторы извлекаются из токена [CLS] и подходят для сравнения сходства предложений, поиска и кластеризации. Модель обучалась на английских предложениях из Википедии; в статье также исследуется обучение на малых выборках корпуса SimCSE. Контекст составляет 512 токенов, размер модели — 136,7 млн параметров. Для адаптации few-shot подхода к собственным данным README указывает на необходимость обучения модели на этих данных. Лицензия — Apache-2.0.

mmBERT-base — многоязычный двунаправленный энкодер от команды JHU CLSP, построенный на архитектуре ModernBERT и обученный методом masked language modeling. Модель содержит около 307 млн параметров, использует библиотеку Transformers и имеет контекст до 8192 токенов. Энкодер предназначен для многоязычного понимания текста и переноса между языками. Его можно дообучать для классификации, построения эмбеддингов, поиска и ранжирования; опубликованная карточка также указывает превосходство над XLM-R в этих задачах и высокую скорость относительно предыдущих многоязычных энкодеров. Для прямого применения без дополнительного обучения основная задача — заполнение замаскированных фрагментов текста. Модель обучалась более чем на 3 трлн токенов и охватывает свыше 1800 языков, включая низкоресурсные. Карточка описывает обучение на корпусах FineWeb2 и других веб-, научных, справочных и общественных текстах. Репозиторий предоставляет веса PyTorch под лицензией MIT.

Nixia 1.1 4B — семейство компактных агентных языковых моделей в формате GGUF, разработанное adsyamsafa на базе wangzhang/Qwen3.5-4B-abliterated и ориентированное на корпоративные сценарии с вызовом инструментов, терминальными рабочими процессами, автономным исправлением ошибок и рассуждением. Модель предназначена для генерации текста и кода, сложного анализа, оркестрации нескольких инструментов, DevOps-задач, диагностики конфигураций и самовосстанавливающихся циклов. В репозитории доступны варианты размером около 4 млрд параметров с квантизацией Q4_K_M и размером файла около 2,58 ГБ. Рекомендуемый вариант Pure SFT 2K обучен на 2 000 агентных траекториях и показывает заявленную общую точность 87,0% на восьми специализированных тестах; вариант DARE-TIES 80/20 объединяет SFT и GRPO RLVR и ориентирован на автономный DevOps и быстрое самовосстановление. Заявлены поддержка работы на CPU, включая ноутбуки с 16 ГБ ОЗУ, расход памяти около 3 ГБ и контекст до 8 192 токенов. Сведения о языках и мультимодальности не указаны; по описанию это текстовая модель. Сильные стороны — высокая эффективность на задачах агентной оркестрации, консенсуса, системного программирования, PostgreSQL, Rust и автономного восстановления, а также возможность локального запуска через Ollama и llama.cpp. Ограничения включают небольшой размер модели, зависимость результатов от выбранного варианта и квантизации, а также заметно более низкий результат DARE-варианта на тесте восстановления времени жизни Rust Async Mutex. Модель и указанные материалы распространяются по лицензии Apache-2.0.

NuExtract 2.0 4B — мультимодальная модель для извлечения структурированных данных, разработанная NuMind и дообученная на базе Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а запрос задаётся JSON-шаблоном с названиями полей и типами ожидаемых значений: строки, числа, даты, перечисления и массивы. Если нужные сведения не найдены, модель может вернуть null или пустой массив. Модель подходит для извлечения фактов из документов и изображений, заполнения заданных схем, а также генерации шаблонов извлечения по примерам или описанию на естественном языке. Семейство заявлено как многоязычное; архитектура — плотная Qwen2.5-VL для генерации текста по текстовым и визуальным входам. Размер составляет 3,1 млрд параметров, контекст — до 128 000 токенов. Для извлечения README рекомендует температуру, близкую к нулю; примеры в контексте могут помочь при неоднозначных задачах и требованиях к формату. В метаданных указана лицензия MIT, однако README для версии 4B указывает Qwen Research License, поэтому условия использования следует сверить с лицензией репозитория и базовой модели перед применением, особенно в коммерческих сценариях. Качество может снижаться на сложных или неоднозначных запросах; README не приводит подробных количественных результатов бенчмарка.

OpenGCM-v2 — модель с 9 млрд параметров от NitrAI, дообученная на базе Qwen/Qwen3.5-9B для рассуждений, программирования и агентных сценариев. В карточке заявлено окно контекста базовой модели до 262 тыс. токенов; модель представлена в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Для обучения использовался DoRA, а данные включали 597 примеров с трассами работы кодовых агентов, математическими рассуждениями и системным анализом, дистиллированными из ответов нескольких крупных моделей. Модель предназначена для пошагового решения математических задач, анализа кода и проверки исправлений, а также выполнения многошаговых инструкций и агентных задач с инструментами. В README приведены результаты на небольших наборах задач, поэтому они не дают надёжной оценки обобщающего качества. Автор отмечает возможный сдвиг контекста и нестабильность при очень длинной генерации; рекомендуются низкая температура и структурированные системные подсказки. Модель помечена как устаревшая, автор рекомендует перейти на Polaris. Лицензия — Apache-2.0.

Ornith-1.0-35B-NVFP4 — квантованная версия модели Ornith-1.0-35B, разработанной DeepReinforce. Это агентная модель для программирования с механизмом self-scaffolding, построенная на архитектуре qwen3_5_moe: MoE-модель с 35 млрд параметров и визуальной башней Qwen3-VL. Она поддерживает обработку текста и изображений и заявлена для английского, китайского, японского и французского языков. Модель использует квантование NVFP4 W4A4 с размером группы 16 и форматом compressed-tensors nvfp4-pack-quantized. Большинство линейных слоёв переведено в NVFP4, а визуальная башня, маршрутизаторы MoE и lm_head сохранены в bf16. Размер весов составляет около 21,9 ГБ вместо 70,3 ГБ в bf16, благодаря чему модель рассчитана на запуск на паре GPU по 16 ГБ через vLLM. В README приведена конфигурация обслуживания с контекстом до 8192 токенов; поддерживается переключение режима рассуждений. Сильные стороны модели — пригодность для агентного программирования, поддержка мультимодальных сценариев, существенно меньшие требования к памяти и сохранение качества после квантования. В тестах HumanEval+ и MBPP+ она показала соответственно 93,9% и 80,6% pass@1 с включённым рассуждением. Ограничения включают необходимость совместимой инфраструктуры vLLM и GPU, а также значительный расход токенов в режиме рассуждений; для оценки кода требуется выделять не менее 6500 токенов и извлекать ответ после блока </think>. Модель и квантованный производный вариант распространяются по лицензии MIT.

SC117 публикует GGUF-сборку Ornith-1.5-35B-A3B-MTP-APEX — MoE-модели команды Ornith для агентного программирования и генерации текста. Базовая модель содержит 35 млрд параметров, из которых активируется около 3 млрд на токен; в этой сборке доступны квантизованные профили APEX и вариант BF16. APEX распределяет точность по типам и важности тензоров, а MTP-слой встроен в модель. Модель предназначена для решения задач программирования с участием агента, включая работу в терминале и с инструментами, а также для генерации текста. Репозиторий включает проектор mmproj-BF16.gguf для обработки изображений вместе с текстом через llama.cpp; заявлена возможность контекста до 131072 токенов. README приводит результаты на бенчмарках SWE-bench, Terminal-Bench и других задачах программирования и агентного взаимодействия. Сборка распространяется по лицензии MIT. Она основана на ornith-ai/Ornith-1.5-35B-A3B; метаданные каталога отмечают связь finetune, а файлы репозитория включают GGUF и GGUF BF16. README описывает дополнительные квантизованные профили APEX. Поддержка языков программирования и естественных языков отдельно не перечислена, поэтому конкретные языки здесь не указаны.

Ornith-1.5-9B-OBLITERATED — модифицированная версия Ornith-1.5-9B, разработанного DeepReinforce. Модель доработана проектом OBLITERATUS и собрана Pliny the Prompter с применением precision abliteration surgery — удаления поведенческих направлений, связанных с отказами на потенциально опасные запросы. Она предназначена для генерации текста, программирования, рассуждений, исследовательских задач в области alignment и red teaming, а также агентских сценариев и автоматизации. Модель содержит около 9 млрд параметров и использует гибридную архитектуру Qwen3.5 с Gated DeltaNet и полными attention-слоями; редактированию подверглись все 32 трансформерных слоя. Заявлен английский язык, поддерживаются обычный и thinking-режимы, а также текстовая генерация. В репозитории доступны полноточные bf16-веса и варианты GGUF размером от Q2_K до Q8_0; для максимального сохранения характеристик рекомендуются Q8_0 и Q6_K. Указан контекст размером 8192 токена для примера запуска через llama.cpp, однако общий максимальный контекст README явно не подтверждает. Сильной стороной является существенно сниженная склонность к отказам при сохранении возможностей программирования, рассуждений и базовых агентских задач: в приведённых тестах модель показала 3/3 в генерации кода и 5/6 в тесте связности длинного контекста. Ограничения включают падение MMLU примерно на 4 процентных пункта относительно базовой модели, возможные дополнительные отказы в низкобитных квантизациях, частично ухудшенное function calling и риск галлюцинаций в сложных химических и синтетических сценариях. Модель распространяется по лицензии MIT; из-за удаления защитных ограничений результаты требуют независимой проверки и ответственного применения.

PentaCoder-9B — объединённая модель для генерации кода и агентных задач, опубликованная pragmaticcs. В карточке она описана как слияние пяти специализированных чекпойнтов на общей основе Qwen3.5-9B с использованием метода GeoDELLA. Модель предназначена для написания и отладки программ, планирования многошаговых задач разработки и взаимодействия с инструментами, включая терминал и проверки компиляции. Это текстовая причинно-следственная модель семейства Qwen3.5 с гибридной архитектурой рекуррентного и полносвязного внимания. README заявляет контекст 256 тыс. токенов; метаданные указывают 7,2 млрд параметров, тогда как README приводит 8,8 млрд. Карточка ориентирует модель на код, рассуждения и агентные сценарии; в метаданных языки карточки — английский и китайский. Указанная лицензия — Apache-2.0. Слияние объединяет специализации доноров в алгоритмической корректности, планировании SWE-bench, работе с инструментами, выполнении команд и восстановлении после ошибок. Эти характеристики заявлены в карточке автора и сами по себе не подтверждают качество на независимых тестах. Модель описана как чисто текстовая, поэтому возможности анализа изображений из сводного описания базовой модели к ней не относятся.

Карточка модели OzodovSanjar/Qwe-2.5-3b-coder на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-3B, поэтому описание составлено по ней. Qwen2.5-Coder-3B — базовая кодовая языковая модель, разработанная командой Qwen. Это предварительно обученная причинная трансформерная модель семейства Qwen2 с 3,09 млрд параметров, предназначенная для генерации и анализа кода, рассуждений о коде и исправления ошибок. Она также сохраняет общие языковые и математические способности базовой Qwen2.5. Модель обучалась на корпусе из исходного кода, текстово-кодовых данных и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm, смещение в проекциях QKV и связанные эмбеддинги слов; в ней 36 слоёв, 16 голов Q и 2 головы KV. Контекст составляет 32 768 токенов. Модель предназначена для задач продолжения кода и заполнения пропусков в коде; авторы не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для работы с Transformers требуется версия 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

mlx-community/Qwen2.5-Coder-1.5B-Instruct-bf16 — конвертированная в формат MLX инструктивная модель для генерации кода. Она основана на Qwen/Qwen2.5-Coder-1.5B-Instruct; архитектура — плотная Qwen2 с причинной языковой моделью Qwen2ForCausalLM и 1,5 млрд параметров. Модель предназначена для диалогового взаимодействия и задач с кодом, включая создание фрагментов по запросу и помощь при работе с программным кодом. Контекст модели составляет 32 768 токенов. В метаданных указан английский язык; README описывает конвертацию с помощью mlx-lm 0.18.1 и использование через эту библиотеку. Репозиторий распространяется по лицензии Apache-2.0. Практические результаты зависят от качества инструкций и сложности задачи; карточка не приводит отдельных оценок качества.

unsloth/Qwen2.5-Coder-3B-bnb-4bit — квантованная 4-битная версия модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в формате Unsloth. Модель относится к семейству специализированных языковых моделей для программирования и предназначена для генерации, анализа и исправления кода, а также для задач code completion и fill-in-the-middle. Это базовая модель без дообучения для диалогов, поэтому для чат-сценариев рекомендуется дополнительное обучение или использование подходящего шаблона постобработки. Архитектура основана на causal language model с RoPE, SwiGLU, RMSNorm, смещениями в QKV-проекциях внимания и связанными эмбеддингами слов. В README для данного репозитория приведены характеристики версии 0.5B: около 0,49 млрд параметров, 24 слоя, GQA с 14 головами для Q и 2 для KV, контекст до 32 768 токенов. При этом идентификатор и базовая модель указывают на вариант 3B, а точные архитектурные параметры именно 3B-версии в предоставленных данных не подтверждены. Указан английский язык; мультимодальность не заявлена. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, а также сниженные требования к памяти благодаря 4-битному представлению. Модель может применяться локально и интегрироваться в инструменты разработки, но её базовый, а не диалоговый характер ограничивает использование в роли готового чат-ассистента. Лицензия — Apache-2.0.

Elfsong/Qwen2.5-Coder-3B-Instruct-Venus-Cold-Start — дообученная Elfsong модель на базе Qwen2.5-Coder-3B-Instruct, обученная на наборе данных venus_cold_start. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, рассчитанная на генерацию текста в формате чата. Базовая модель ориентирована на генерацию, анализ и исправление кода по текстовым запросам; карточка этой версии не описывает отдельные возможности или специализацию датасета venus_cold_start. Модель принимает текстовые запросы и выдаёт текст. Контекстное окно — 32 768 токенов. В метаданных указана лицензия other, поэтому точные условия использования следует сверить с файлами лицензии репозитория. README не содержит сведений об оценках качества и ограничениях именно этого дообучения.

Qwen2.5-VL-3B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Она предназначена для обработки изображений, видео и текстовых запросов, визуального анализа документов и сцен, распознавания текста, таблиц, графиков, форм и других структурированных данных, а также для сценариев визуального агента, включая управление компьютером и телефоном. Модель содержит 3 млрд параметров и использует AWQ-квантизацию. В её архитектуре применяются динамическое разрешение изображений, динамическая частота выборки кадров видео, временное позиционное кодирование mRoPE и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. Модель может анализировать видео длительностью более часа, находить релевантные моменты, локализовать объекты с помощью bounding boxes или точек и формировать структурированные JSON-ответы. В README явно указан английский язык; поддержка других языков не заявлена. Сильные стороны модели — сочетание компактного размера с широкими возможностями визуального анализа, работой с длинными видео, локализацией объектов и извлечением структурированных данных из документов. Ограничения включают отсутствие опубликованных в README результатов оценки, неуказанный размер контекстного окна и потенциальную зависимость производительности от аппаратного обеспечения и настроек обработки визуальных токенов. Модель распространяется по лицензии qwen-research; перед использованием следует ознакомиться с условиями лицензии.

QUASAR-QAT/Qwen3.8-27B-QUASAR-NVFP4 — 4-битная NVFP4-версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и квантованной методом QUASAR. Модель предназначена для задач image-text-to-text, reasoning, работы с изображениями и текста, а также агентских и сценариев с длинным контекстом. Точный набор поддерживаемых языков в README не указан. Модель содержит 27 млрд параметров; все 496 из 496 линейных слоёв трансформера, включая компоненты attention и gated delta-net, представлены в формате NVFP4 W4A4. Размер модели составляет 19,7 ГБ. Она поддерживает контекст до 262 144 токенов при запуске через vLLM, а на видеокарте с 32 ГБ памяти, например RTX 5090, рекомендуется ограничить его 65 536 токенами. Для ускорения генерации заявлена поддержка speculative decoding с MTP. Ключевое преимущество — существенное уменьшение размера при сохранении качества, близкого к BF16-версии: результат GPQA-Diamond составляет 0,909 против 0,914 у оригинальной модели, а на AIME'26 заявлен результат 100%. Модель требует NVIDIA GPU с аппаратной поддержкой FP4, то есть Blackwell с compute capability 10.0 и выше, поэтому не подходит для систем без совместимого оборудования. Запуск возможен напрямую через vLLM без этапа конвертации. Модель распространяется по лицензии Apache 2.0.

ddark-il/Qwen3.8-Flash-Next-Uncensored-Mixed-omlx — это MLX-квантизированная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, подготовленная для запуска через oMLX на устройствах Apple Silicon. Модель основана на архитектуре qwen4_exp с разреженными экспертами (MoE), поддерживает текстово-визуальные сценарии и имеет тег image-text-to-text. В README не указано, что ddark-il является исходным разработчиком базовой модели; он предоставляет адаптированный квантованный вариант. Модель содержит около 180 млрд параметров и использует смешанную AWQ/affine-квантизацию с эффективной точностью 4,86 бит на параметр. Размер файлов составляет около 109,24 ГБ, а заявленная длина контекста — до 262 тысяч токенов. В составе предусмотрены MTP-компонент для speculative decoding, GDN и sparse attention, а также vision-модули. Квантизация распределена по чувствительности компонентов: маршрутизируемые эксперты и некоторые таблицы имеют 4-битную точность, критичные элементы сохранены в 8-битном или BF16-виде. Модель предназначена для длинноконтекстной генерации текста, агентских сценариев с вызовами инструментов и задач, сочетающих текст и изображения. На M5 Max с 128 ГБ памяти и oMLX 0.6.4 автор README измерил около 30,7 токена в секунду при работе с длинными агентскими сессиями. Ограничения включают требование oMLX версии не ниже 0.6.3rc3, значительное потребление памяти, зависимость от корректной настройки mmap для PLE-таблицы и отсутствие дополнительного обучения или калибровки. Лицензия — Apache-2.0.

gdubicki/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало модели saricles/Qwen3-Coder-Next-NVFP4-GB10 с побайтно идентичными весами. В основе лежит Qwen3-Coder-Next, разработанная Alibaba и командой Qwen; NVFP4-квантизацию выполнил saricles с использованием LLM Compressor и калибровки на части набора ultrachat_200k. Модель предназначена прежде всего для генерации кода и развёртывания через Transformers или vLLM, в частности на системах DGX Spark с GPU GB10. Модель использует гибридную архитектуру qwen3_next: 48 слоёв, включая 36 слоёв с линейным вниманием DeltaNet и 12 слоёв с полным вниманием, а также latent MoE с 512 экспертами, из которых для каждого токена активны 10 экспертов и один общий. Всего модель содержит 79,7 млрд параметров, при этом около 3 млрд активны на токен. Квантизация NVFP4 уменьшает размер на диске до 45,9 ГБ; отдельные компоненты сохранены в BF16, а KV-кэш для слоёв полного внимания поддерживает FP8. Максимальная длина контекста составляет 262 144 токена, заявлен язык English. Сильными сторонами являются большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоёв DeltaNet. На DGX Spark заявлены скорость около 61 токена в секунду для одного запроса и до примерно пяти одновременных сессий при максимальном контексте. Ограничения включают зависимость от совместимого NVFP4/Marlin-стека и специализированного оборудования; приведённые показатели относятся к конфигурации DGX Spark с vLLM и не гарантируют аналогичную производительность в других средах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.