II.6Документация и сопровождение разработки

GLM-5.1 — флагманская модель Z.ai для агентной разработки и инженерных задач. Это языковая модель с архитектурой GLM MoE DSA и 30,4 млрд параметров; она доступна в формате safetensors и совместима с Transformers. Модель принимает текст и предназначена для генерации кода, решения задач по разработке программного обеспечения и работы с инструментами в длительных сессиях. GLM-5.1 рассчитана на сложные и неоднозначные задачи: она может разбивать работу на этапы, проводить эксперименты, анализировать результаты и менять стратегию в ходе многократных итераций. Разработчик сообщает о сильных результатах на SWE-Bench Pro, NL2Repo и Terminal-Bench 2.0. Модель поддерживает английский и китайский языки и контекст до 202 752 токенов. Для локального запуска перечислены SGLang, vLLM, xLLM, Transformers и KTransformers. Модель распространяется по лицензии MIT. Описание подчёркивает её возможности в агентных сценариях и бенчмарках, но не приводит независимых оценок качества или гарантий результата; практическая работа с инструментами зависит также от используемой системы запуска.

GLM-5.3-MLX-mixed-4_8bit — сборка модели GLM-5.3 от zai-org, адаптированная PipeNetwork для MLX и Apple Silicon. Это генеративная текстовая модель на архитектуре Mixture-of-Experts glm_moe_dsa с 744 млрд параметров, 256 экспертами и маршрутизацией top-8. В архитектуре используется MLA со sparse attention в стиле DeepSeek-V3.2. Модель предназначена для генерации текста и локального инференса на компьютерах Apple Silicon. Экспертные слои занимают около 724,8 млрд параметров и квантизованы в 4 бита, тогда как attention, общие эксперты, плотные слои, эмбеддинги и lm_head хранятся в 8 битах; маршрутизаторы, нормы и индексатор сохранены в исходной точности. Размер файлов составляет около 427,8 ГБ, для запуска рекомендуется Mac с 512 ГБ оперативной памяти. Сборка использует библиотеку MLX и требует специального runtime-файла glm_moe_dsa.py; указанный README рекомендует запуск через mlx-lm с включённым trust remote code. По измерениям на wikitext-2 модель имеет perplexity 2,7420, что лучше равномерной 4-битной версии, хотя смешанная квантизация требует примерно на 9 ГБ больше места. Основные ограничения — крайне высокие требования к памяти, отсутствие multi-token-prediction layer и возможное снижение качества на контекстах свыше 2048 токенов из-за особенностей sparse indexer; заявленная длина контекста в README не указана. Лицензия — GLM-5.3 license, унаследованная от исходной модели; точные условия приведены в файле LICENSE.

Это конверсия в формат GGUF F16 модели granite-embedding-reranker-english-r2 от IBM Granite. Модель предназначена для оценки релевантности пар «запрос — текст» и повторного ранжирования результатов поиска в инструментах и средах, поддерживающих её архитектуру и режим оценки. Это не генеративная чат-модель. Модель ориентирована на английский язык и основана на архитектуре ModernBERT согласно описанию базовой модели в каталоге. Репозиторий содержит веса GGUF в точности F16 без дополнительной квантизации. Использование формата зависит от поддержки encoder- и reranker-моделей, а также нужного механизма pooling или scoring в целевой среде. Лицензия — Apache-2.0.

InSight-doc-8B — мультимодальная модель на 8 млрд параметров для понимания длинных документов, разработанная авторами проекта InSight-doc на базе Qwen/Qwen3-VL-8B-Instruct. Она принимает изображения страниц и текстовые вопросы, а при работе в рекомендованном агентном цикле выбирает области для увеличения с помощью инструмента image_zoom_in_tool, затем формирует ответы по визуальным свидетельствам. Модель обучена полнопараметрической тонкой настройкой и последующим обучением с подкреплением на траекториях и запросах для такого сценария; семейство архитектуры — Qwen3-VL. Модель предназначена для визуальных вопросов и ответов по длинным документам, включая поиск нужных деталей на страницах и отказ от ответа при недостатке свидетельств. В README указано улучшение точности на наборах DUDE, MP-DocVQA, MMLongBench-Doc и LongDocURL относительно базовой Qwen3-VL-8B в условиях низкого и среднего разрешения, а также снижение галлюцинаций на вопросах без ответа и уменьшение задержки на двух длиннодокументных тестах. Для воспроизведения агентного поведения необходимы внешний цикл агента и инструмент увеличения фрагментов; обычная одиночная генерация в Transformers этот цикл не выполняет. Контекст обучения SFT составлял 65 536 токенов; в конфигурации рекомендованного запуска vLLM указан предел длины последовательности 262 144 токена. Лицензия — Apache-2.0.

jina-embeddings-v5-text-nano-retrieval-GGUF — мультиязычная модель эмбеддингов для задач семантического поиска и retrieval, разработанная Jina AI. Это GGUF-квантизация модели jina-embeddings-v5-text-nano-retrieval с поддержкой llama.cpp, предназначенная для эффективного локального или управляемого инференса. Модель содержит 239 млн параметров и преобразует текст в векторы размерностью 768. Она использует pooling по последнему токену и поддерживает Matryoshka Dimensions 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством, размером индекса и скоростью поиска. Модель ориентирована на мультиязычные сценарии, однако конкретный набор языков в README не указан. Модель подходит для семантического поиска, построения retrieval-компонентов и других задач сравнения текстов, где требуется сопоставлять запросы и документы по смыслу. К преимуществам относятся компактный размер, квантизация для эффективного инференса и возможность использования с llama.cpp. Ограничение состоит в том, что это специализированная модель эмбеддингов для retrieval, а не генеративная языковая модель; точные показатели качества, максимальная длина контекста и поддерживаемые языки в README не приведены. Модель распространяется по лицензии CC-BY-NC-4.0, которая ограничивает коммерческое использование. Для коммерческого применения разработчик предлагает связаться с Jina AI.

Карточка модели YuRiVeRTi/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели bearzi/Kimi-K2.7-Code-JANGTQ1 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели bearzi/Kimi-K2.7-Code-JANGTQ2 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

NGA-KR/ko-embed-v0 — корейская плотная модель эмбеддингов текста от NGA-KR, дообученная на базе skt/A.X-Encoder-base. Она построена на архитектуре ModernBERT, содержит 148,7 млн параметров и обрабатывает контекст до 16 384 токенов. Модель предназначена для создания векторных представлений запросов и документов, поиска по сходству и семантического поиска; для запросов и документов в конфигурации предусмотрены подсказки «query: » и «passage: ». Модель проверялась на 20 задачах MTEB(kor, v2), при этом обучение проводилось только на открытых англоязычных наборах данных для поиска, без обучающих разделов корейских бенчмарков, поэтому оценка на MTEB(kor, v1/v2) является zero-shot. Доступна по лицензии Apache-2.0.

KURE-v2 — двуязычная корейско-английская модель поиска документов, разработанная nlpai-lab на основе skt/A.X-Encoder-base. Она предназначена для извлечения релевантных документов по запросу и повторного ранжирования кандидатов в поисковых системах и RAG-сценариях. Модель использует архитектуру ModernBERT и позднее взаимодействие: представляет каждый токен 128-мерным вектором, а релевантность пары «запрос — документ» оценивает через MaxSim. Размер по метаданным — 148,7 млн параметров; контекст — до 16 384 токенов. В карточке сообщается, что модель обучалась в два этапа и показала средний nDCG@10 0,8160 на девяти корейских задачах MTEB Retrieval. Для запросов и документов не нужны инструкции-префиксы. Модель подходит для корейского и английского поиска, включая длинные документы. Позднее взаимодействие хранит несколько векторов на документ, поэтому размер индекса и стоимость поиска зависят от выбранного способа индексации и сжатия; для больших коллекций README рекомендует индекс, формирующий кандидатов, например PLAID или BinaryIVF. Лицензия — Apache-2.0.

Laguna-S-2.1-JANG_4M-CRACK — текстовая MoE-модель, подготовленная dealignai на основе poolside/Laguna-S-2.1 для агентного программирования, рассуждений и вызова инструментов. Веса подвергнуты CRACK-abliteration, удаляющей поведение отказа, и смешанной низкоразрядной квантизации JANG для MLX на Apple Silicon. Метаданные указывают 6,8 млрд параметров, тогда как README описывает исходную Laguna-S-2.1 как модель на 118 млрд параметров; размер активной части MoE отдельно не уточнён. Модель принимает текст и генерирует текст. В README заявлены режимы рассуждения и прямых ответов, сохранённый интерфейс вызова инструментов и контекст 262 тыс. токенов; метаданные каталога указывают нативный контекст 1 048 576 токенов. Предназначена прежде всего для агентных задач разработки и работы с инструментами. README приводит результаты MMLU и HarmBench, полученные через vMLX, но они не гарантируют качество на других задачах или средах. Модель рассчитана на запуск через vMLX либо совместимую среду MLX с поддержкой Laguna; сборка JANG занимает около 63 ГБ и ориентирована на Apple Silicon. Указана лицензия «other», поэтому конкретные условия использования следует сверять с карточкой модели. README сообщает об удалении отказов безопасности и заявляет, что модель будет выполнять запросы разных категорий; это ограничивает её безопасное применение.

Карточка модели SakanaAI/Llama-3-8B-Instruct-OS-Expert на Hugging Face совпадает с карточкой SakanaAI/Llama-3-8B-Instruct-Coding-Expert, поэтому описание составлено по ней. Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

Magicoder-S-CL-7B — языковая модель для генерации кода, разработанная Юсяном Вэем, Чжэ Ваном, Цзявэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров и контекстом до 16 384 токенов; она дообучена на базе CodeLlama-7b-Python-hf. Модель предназначена прежде всего для задач программирования: генерации кода по инструкциям и решения других кодовых задач. При обучении использованы наборы Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Она может ошибаться и хуже справляться с задачами, не связанными с кодом. Лицензия — Llama 2.

MathCoder2-Llama-3-8B-GGUF — это квантованные GGUF-версии модели MathCoder2-Llama-3-8B, разработанной MathGenie и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и ориентирована прежде всего на математические и программные задачи, включая решение задач, написание и анализ кода. В качестве источника данных указан набор MathGenie/MathCode-Pile. Модель основана на семействе Llama 3 и содержит 8 миллиардов параметров. Она работает с текстом и заявлена для английского языка. Доступны варианты от исходных весов F16 до квантований Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; предусмотрено локальное использование, в том числе через LM Studio. Сильной стороной является специализация на математике и коде, а также широкий выбор квантованных вариантов: высококачественные сборки занимают около 6–9 ГБ, а более компактные — примерно 3,7–5 ГБ. Ограничения включают снижение качества на низких уровнях квантования, неизвестные в представленном README размер контекста и подробные результаты оценки, а также отсутствие заявленной поддержки языков кроме английского. Указана лицензия Apache-2.0.

MiMo-7B-RL — языковая модель XiaomiMiMo на 7 млрд параметров, обученная с нуля как часть семейства MiMo-7B, а затем дообученная с подкреплением на основе SFT-модели. Она предназначена прежде всего для пошаговых рассуждений в математике и программировании. По карточке, при обучении использовались проверяемые математические и кодовые задачи с оценкой по правилам; модель поддерживает чат и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Архитектура — плотная причинная модель MiMoForCausalLM; контекстное окно по метаданным — 32 768 токенов. В README описана поддержка спекулятивного декодирования с одним MTP-слоем. Карточка приводит результаты на математических и кодовых бенчмарках, но они не гарантируют аналогичного качества на произвольных запросах. README не сообщает языки обучения или подробные ограничения в использовании. Лицензия — MIT.

Это квантованная сборка NVFP4 модели MiMo-V2.6-Distill-Qwen-9B, разработанной Xiaomi MiMo и подготовленной для llama.cpp в формате GGUF. Исходная модель — мультимодальная модель на 9 млрд параметров, дообученная методом SFT на базе Qwen3.5-9B на данных, созданных более крупной моделью MiMo-V2.6. В репозитории также есть отдельный файл mmproj с визуальным энкодером для обработки изображений и видео. Модель предназначена для агентного программирования, работы с инструментами и терминалом, автоматизации, анализа интерфейсов и экранов, а также задач кибербезопасности. Гибридная архитектура сочетает 24 слоя линейного внимания Mamba-2 и 8 слоёв полного внимания; контекстное окно составляет 262 144 токена. Шаблон чата по умолчанию включает режим рассуждений. NVFP4-сборка занимает около 5,18 ГиБ, а ускорение NVFP4 требует видеокарты NVIDIA Blackwell; на более старых GPU используются более медленные пути. Это исследовательская отправная точка для экспериментов с агентным обучением с подкреплением, а не отполированный продукт. Разработчик приводит результаты бенчмарков, но они не были независимо воспроизведены для этой сборки. У модели нет доступной головы multi-token prediction, а KV-кэш при контексте 256K требует значительной памяти. Лицензия — MIT.

nreimers/mmarco-mMiniLMv2-L6-H384-v1 — мультиязычная модель перекрёстного ранжирования текстовых пар, опубликованная под именем nreimers. Она оценивает релевантность пары «запрос — документ» и предназначена для поиска информации и семантического поиска, в том числе в многоязычных сценариях. Модель построена на архитектуре XLM-RoBERTa и содержит около 110,2 млн параметров; максимальная длина контекста по метаданным — 514 токенов. Карточка Hugging Face помечает её как text-classification, а поиск по карточке родственной версии семейства подтверждает применение mmarco-mMiniLMv2 для многоязычного поиска и ранжирования. Лицензионные условия в доступных данных не подтверждены.

NuExtract 2.0 4B GGUF — мультимодальная модель компании NuMind, предназначенная для структурированного извлечения информации из текста и изображений. Модель принимает исходные данные и JSON-шаблон с названиями полей и ожидаемыми типами значений, после чего возвращает извлечённые данные в JSON-формате. Поддерживаются строки, дословные фрагменты текста, целые и десятичные числа, даты и время в формате ISO, массивы, перечисления и многозначные категории. Модель относится к семейству NuExtract 2.0, имеет размер 4B и распространяется в формате GGUF для использования с совместимыми инструментами, включая llama.cpp. Она мультиязычная и поддерживает текстовые и визуальные входы. В README указано, что семейство построено на предварительно обученных моделях Qwen-VL; для варианта 4B в таблице обозначена база Qwen2.5-VL-3B-Instruct, тогда как метаданные README содержат другое значение, поэтому точную базовую конфигурацию следует уточнять отдельно. Сильной стороной модели является ориентация на извлечение данных по заданной схеме, включая возврат null или пустых массивов при отсутствии релевантной информации. Для стабильности результатов рекомендуется температура, равная или близкая к нулю. Модель предназначена прежде всего для автоматизации обработки документов, текстов и изображений, но README не содержит точных сведений о длине контекста, перечне языков, количественных результатах бенчмарков и ограничениях качества. Для варианта NuExtract-2.0-4B-GGUF указана лицензия Qwen Research License, поэтому коммерческое использование следует проверять по её условиям.

blackmlengineer/occucoder-en-small-v0 — компактная модель Sentence Transformers на архитектуре BERT, обученная разработчиком blackmlengineer для сопоставления коротких текстов. Она преобразует предложения и абзацы в плотные векторы размерности 128; сходство оценивается косинусной мерой. Модель предназначена для извлечения признаков, поиска и ранжирования текстов по смысловому соответствию. Обучение проводилось на 991 580 примерах с парами и отрицательными примерами, с функцией потерь MultipleNegativesRankingLoss. Максимальная длина входа — 32 токена. Карточка показывает англоязычные примеры профессиональных названий и сообщает о поддержке текстовой модальности; лицензия в предоставленных данных не указана.

Mungert/OpenReasoning-Nemotron-14B-GGUF — GGUF-квантованная версия большой языковой модели OpenReasoning-Nemotron-14B, производной от Qwen2.5-14B-Instruct. Модель разработана на базе семейства OpenReasoning-Nemotron; данный репозиторий содержит конвертацию в формат GGUF, выполненную с использованием llama.cpp. Указанный вариант предназначен для локального запуска и генерации текста, кода и решений с применением совместимых инструментов GGUF и llama.cpp. Модель ориентирована на рассуждения в задачах математики, программирования и естественных наук. Для исходной версии заявлена оценка с длиной вывода до 64K токенов. Это текстовая, англоязычная модель с размером 14B параметров; мультимодальные возможности не указаны. Для квантования применён подход с выборочным повышением точности отдельных важных слоёв, что, по описанию автора, может улучшать точность при сохранении преимуществ уменьшенного размера файла, хотя увеличивает его размер. Конкретный тип квантования и характеристики отдельных файлов GGUF в README не приведены. Сильными сторонами являются специализация на сложном reasoning, математике, коде и научных задачах, а также возможность эффективного локального использования в квантованном формате. Ограничения включают зависимость качества и требований к ресурсам от выбранного варианта квантования, а также отсутствие подробных данных о контекстном окне, скорости, аппаратных требованиях и поддерживаемых языках помимо английского. Использование разрешено для коммерческих и некоммерческих исследовательских целей на условиях Creative Commons Attribution 4.0 International (CC-BY-4.0); дополнительно упоминается Apache 2.0 для базовой модели Qwen2.5.

SC117/Ornith-1.0-35B-Heretic-MTP-APEX-GGUF — квантизированная GGUF-версия Ornith-1.0-35B от DeepReinforce AI, созданная на базе Qwen3.5 MoE. Модель ориентирована на агентное программирование, задачи рассуждения и сценарии, где требуется работа с кодом. Это экспериментальный вариант, в котором LoRA Heretic 1.4.0 Trial 63 объединена с весами BF16; также включены совместимая MTP-голова Qwen3.5, визуальный проектор BF16 и варианты APEX со смешанной точностью. Основной заявленный язык — английский. Архитектура мультимодальная, MoE: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов, из которых используются 8. Модель содержит 40 transformer-слоёв и один MTP-слой, поддерживает контекст до 262 144 токенов. В состав релиза входят GGUF-квантизации, предназначенные для более эффективного локального запуска, а также компоненты для обработки визуальных данных. В README не указаны конкретные результаты тестов или требования к аппаратному обеспечению. Сильными сторонами являются большое контекстное окно, MoE-архитектура с относительно небольшим числом активных параметров, поддержка мультимодальности, MTP и варианты смешанной точности. К ограничениям относятся экспериментальный характер производного релиза и возможное отличие поведения, включая отказоустойчивость и склонность к отказам, от исходной модели; перед развёртыванием требуется самостоятельная оценка. Модель распространяется по лицензии MIT.

Phind-CodeLlama-34B-v1 — языковая модель для генерации кода, разработанная Phind и дообученная на базе CodeLlama-34B. Это плотная decoder-only архитектура Llama с 33,5 млрд параметров; репозиторий содержит веса PyTorch, а нативная длина контекста составляет 16 384 токена. Модель предназначена для ответов на задачи по программированию и генерации решений по инструкциям. Она была дообучена на внутреннем наборе примерно из 80 тысяч пар «инструкция — ответ» с задачами и решениями по программированию; авторы сообщают результат 67,6% pass@1 на HumanEval. Модель частично настроена на инструкции, но не обучена как чат-модель. Модель принимает текст и генерирует текст, в том числе код. README предупреждает, что проверки безопасности были ограниченными, поэтому перед внедрением в реальные системы нужна дополнительная оценка. Лицензия репозитория указана как Llama 2.

cross-encoder/qnli-distilroberta-base — англоязычный кросс-энкодер на архитектуре RoBERTa, разработанный и обученный с помощью SentenceTransformers. Модель дообучена на distilbert/distilroberta-base для оценки пары «вопрос — абзац»: она определяет, может ли абзац ответить на вопрос. Обучающие данные основаны на наборе GLUE QNLI, преобразованном из SQuAD в задачу вывода по тексту. Модель содержит 95,2 млн параметров, принимает текстовые пары и выдаёт оценку релевантности, пригодную для ранжирования абзацев по соответствию вопросу. Поддерживает английский язык и контекст длиной до 514 токенов. Доступны веса в форматах PyTorch, safetensors, ONNX, OpenVINO и Flax; лицензия — Apache-2.0. Подходит для поиска ответов в документах и ранжирования кандидатов при вопросно-ответном поиске. Оценка обучена на QNLI и не гарантирует фактическую правильность ответа; результаты за пределами английского языка и заданного контекста не подтверждены.

Qwen2.5-VL-32B-OCR — адаптер LoRA, созданный на базе Qwen/Qwen2.5-VL-32B и дообученный для оптического распознавания символов. Модель принимает изображения вместе с текстовыми запросами и формирует текстовый ответ; её основное назначение — извлечение текста из изображений и документов. Адаптер рассчитан на использование с базовой моделью через Transformers и PEFT. В основе лежит плотная vision-language архитектура Qwen2.5-VL с 32 млрд параметров и контекстом до 128 000 токенов. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Карточка не описывает качество распознавания, поддерживаемые языки или специальные возможности разбора структуры документов, поэтому их нельзя оценить по имеющимся данным.

unsloth/Qwen2-VL-7B-Instruct-unsloth-bnb-4bit — мультимодальная инструкционная модель, основанная на Qwen/Qwen2-VL-7B-Instruct и опубликованная Unsloth. Она предназначена для задач image-text-to-text: анализа изображений и видео, ответов на вопросы по визуальному содержимому, работы с документами и визуального диалога. Модель также может использоваться в сценариях автоматизации устройств, включая мобильные телефоны и роботов, где требуется интерпретация визуальной среды и текстовых инструкций. Модель содержит 7B параметров и использует 4-битное квантование BnB с динамическим подходом Unsloth, который выборочно сохраняет часть параметров в более высокой точности для улучшения качества при сопоставимом потреблении VRAM. Qwen2-VL поддерживает изображения произвольного разрешения благодаря динамическому числу визуальных токенов, а архитектура M-ROPE обрабатывает текстовые, двумерные визуальные и трёхмерные видеопозиции. Модель способна анализировать видео длительностью более 20 минут и распознавать тексты на английском, китайском, большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. К сильным сторонам относятся мультимодальное понимание изображений и видео, работа с различными разрешениями и соотношениями сторон, а также сниженные требования к памяти благодаря квантованию. Ограничения, включая точный размер контекстного окна и возможные потери качества из-за квантования, в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

lesa80/Qwen3.8-27B-MLX-bf16 — версия Qwen3.8-27B в формате MLX с весами bfloat16, подготовленная для запуска на системах Apple с MLX. Это плотная мультимодальная модель с архитектурой Qwen3.5 и 27 млрд параметров, основанная на Qwen/Qwen3.8-27B. Модель принимает текст и изображения, поддерживает анализ видео, диалоговый режим и интерфейс вызова инструментов; заявленная длина контекста — 262 тыс. токенов. Поддерживаются русский, английский и китайский языки. Модель предназначена для ответов на вопросы по изображениям и видео, многошаговых рассуждений и диалоговых задач. Версия в bfloat16 занимает около 51 ГБ и требует не менее 64 ГБ оперативной памяти. Репозиторий распространяется по лицензии Apache-2.0.

dealignai/Qwen3.8-Flash-Next-CRACK-JANG_2L — это исследовательская CRACK-abliterated-версия модели JANGQ-AI/Qwen3.8-Flash-Next-JANG_2L, относящейся к preview-линейке qwen4_exp компании Alibaba. Модель предназначена для запуска на Apple Silicon через MLX и vMLX, а также для текстовых, мультимодальных и агентских сценариев: работы с изображениями и видео, рассуждений, использования инструментов и задач, требующих многошагового взаимодействия. В основе лежит гибридная архитектура Mixture-of-Experts примерно на 176 млрд параметров с 512 экспертами и около 6 млрд активных параметров. Используются Gated DeltaNet и Qwen Sparse Attention, хешированное n-gram-эмбеддирование и встроенная multi-token prediction head. Поддерживаются текст, изображения и видео; заявлены английский и китайский языки. Доступны режимы рассуждений off, low и xhigh. Для модели требуется около 65 ГБ дискового пространства и примерно 47 ГБ активной оперативной памяти, при этом около 18 ГБ таблицы хешированных n-gram-эмбеддингов подгружаются с диска по требованию. Ключевая особенность CRACK-сборки — удаление стандартного отказного поведения при сохранении рассуждений, инструментов и мультимодальных возможностей. На приведённом тесте MMLU точность составила 81,84%, что на 1,49 процентного пункта ниже базовой версии; в отдельных предметах наблюдалось заметное снижение качества. В тестах HarmBench заявлена высокая доля ответов, непосредственно выполняющих запросы, однако модель может генерировать китайский текст даже для некоторых других запросов, а отдельные ответы классифицировались как бессвязные. README также предупреждает, что это исследовательский артефакт и что ответственность за использование весов лежит на пользователе. Лицензия указана как qwen-community-1.0.

Vontra/Qwen3.8-Flash-Next-MLX-3bit-MTP — это 3-битная MLX-конверсия мультимодальной модели Qwen/Qwen3.8-Flash-Next, созданная на основе официального BF16-чекпойнта. Модель предназначена для запуска на устройствах Apple Silicon через совместимые MLX-VLM и oMLX. Она поддерживает работу с текстом и изображениями, а также использует архитектуру qwen4_exp с vision-language стеком и разреженной mixture-of-experts моделью. Общий объём языковой части составляет 125B параметров, из которых активны около 6B; дополнительно указаны 51B параметров в hashed bigram/trigram embedding и 4B параметров в блоке native MTP. Контекст рассчитан на 262 144 токена. Ключевые компоненты включают Gated DeltaNet, Qwen Sparse Attention, sparse MoE-слои, gated residual streams, vision encoder и один draft-блок native MTP для speculative decoding. Квантизация выполнена методом uniform affine quantisation с группой 32; мультимодальные модули и роутеры MoE сохранены в BF16. Размер весов — около 90,774 GB. Сильные стороны модели — существенное снижение размера по сравнению с полноформатным чекпойнтом, поддержка мультимодальных сценариев и возможность ускорения генерации с помощью native MTP. В приведённом тесте на Apple M3 Studio скорость выросла с 28,0408 до 30,5895 токена в секунду, то есть примерно на 9,09%, при принятии 65,4% предложенных токенов. Ограничения включают необходимость runtime с явной поддержкой qwen4_exp и native MTP; старые версии MLX-VLM или oMLX могут быть несовместимы, а поддержка изображений зависит от используемых версий компонентов. Модель распространяется по лицензии Qwen Community License 1.0.

saricles/Qwen3-Coder-Next-NVFP4-GB10 — это 4-битная NVFP4-квантизация модели Qwen3-Coder-Next, подготовленная для NVIDIA DGX Spark с GB10. Базовая модель разработана Qwen; это языковая MoE-модель на 79,7 млрд параметров с 512 экспертами, из которых для каждого токена активны 10, и гибридной архитектурой DeltaNet и attention. Квантизацию после обучения выполнили с помощью LLM Compressor; часть слоёв оставлена в BF16, а большая часть весов, включая in_proj_qkvz, переведена в FP4. Модель предназначена для генерации кода и диалогового использования в сценариях разработки. Карточка приводит результаты тестирования на одном DGX Spark с vLLM и сообщает о совместимости с другими видеокартами Blackwell, поддерживающими NVFP4. В описанном тестовом окружении вес модели занимал 42,7 ГиБ; гибридная архитектура обеспечивает заявленную автором стабильную скорость декодирования при увеличении контекста. В метаданных указан английский язык; размер нативного контекста не приведён. Репозиторий распространяется по лицензии Apache 2.0.

Qwopus3.6-27B-Coder — плотная языковая модель с 27 млрд параметров от Jackrong, дообученная на базе Jackrong/Qwopus3.6-27B-v2 для агентного программирования и работы с инструментами. Она предназначена для генерации и исправления кода на уровне репозитория, анализа ошибок, подготовки патчей, обзора кода и многошаговых задач разработки. Модель обучалась на траекториях работы агентов и поддерживает диалог и структурированные вызовы инструментов; README приводит результат 67% на SWE-bench Verified в режиме без рассуждений для запуска GGUF Q5_K_M. В карточке заявлена поддержка длинного контекста, но для контекстов свыше 32 тысяч токенов может понадобиться масштабирование RoPE/YaRN. Формат весов в метаданных — safetensors. Основные языки в метаданных: английский, китайский, испанский, русский и японский. Модель выпущена как экспериментальная версия сообщества; она специализируется на коде, не проходила полной оценки безопасности и широкого тестирования на общих задачах. Поведение вызова инструментов зависит от формата промпта и схемы инструментов. Лицензия — Apache-2.0.