II.8Инженерия данных и аналитика

oshizo/japanese-e5-mistral-7b_slerp — объединённая модель эмбеддингов, созданная oshizo слиянием intfloat/e5-mistral-7b-instruct и stabilityai/japanese-stablelm-base-gamma-7b методом SLERP. Она предназначена для получения качественных представлений предложений и сравнения их семантического сходства, в частности для работы с японским текстом. Архитектура — плотная Mistral с 7,1 млрд параметров; максимальная длина контекста по метаданным — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Модель подходит для поиска по смыслу, ранжирования и сопоставления японских предложений или текстовых фрагментов через их эмбеддинги. В README автор указывает, что при слиянии использовал больше японской базовой модели в слоях ближе к входу, чтобы сохранить понимание японского языка, и больше E5 в слоях ближе к выходу для получения эмбеддингов. Для примеров использования README направляет к карточке E5-Mistral-7B-Instruct и оценочному ноутбуку JapaneseEmbeddingEval.

jina-clip-v1 — англоязычная мультимодальная модель эмбеддингов Jina AI на архитектуре CLIP. Она преобразует текст и изображения в векторы общего пространства, пригодные для поиска и сравнения по сходству. Модель рассчитана на текстовый поиск, поиск изображений по текстовому запросу, поиск текста по изображению и текстовый семантический поиск. Модель подходит для мультимодальных систем поиска и RAG, где нужно искать текст и изображения с помощью одной модели. В карточке приведены результаты сравнений на задачах Flickr и MSCOCO для поиска между изображениями и текстом, а также на текстовых наборах STS и BEIR. Для объединения текстовых и межмодальных оценок сходства авторы рекомендуют взвешенное усреднение либо нормализацию z-оценкой, поскольку значения текстового сходства обычно выше. Модель распространяется под лицензией Apache-2.0. В карточке не указаны число параметров и длина контекста; для использования описаны варианты через API Jina AI или библиотеки Transformers и Sentence Transformers.

Jina-ColBERT-v1-en — англоязычная модель поиска по фрагментам документов, разработанная Jina AI. Она использует архитектуру ColBERT на основе JinaBERT и обучена на наборе MSMARCO для ранжирования пассажей. Модель создаёт представления запросов и документов для поиска релевантных фрагментов и может применяться для первичного поиска и переранжирования результатов BM25. Модель насчитывает 136,7 млн параметров и поддерживает контекст до 8192 токенов благодаря JinaBERT с двунаправленным вариантом ALiBi. В README сообщается о сопоставимых с ColBERTv2 результатах на стандартных поисковых тестах и лучших результатах на наборах с длинными документами. Лицензия — Apache-2.0.

jina-embeddings-v5-text-small-retrieval — компактная мультиязычная модель встраивания текста, разработанная Jina AI для задач информационного поиска. Она предназначена для семантического сопоставления запросов и документов, построения поисковых систем, retrieval-компонентов и других сценариев, где текст представляется в виде векторов и сравнивается по близости. Модель является частью семейства jina-embeddings-v5-text и основана на jinaai/jina-embeddings-v5-text-small; в карточке она обозначена как quantized-версия. Модель содержит 677 млн параметров, поддерживает контекст до 32 768 токенов и формирует эмбеддинги размерностью 1024. Используется pooling по последнему токену; доступны Matryoshka-размерности 32, 64, 128, 256, 512, 768 и 1024, что позволяет выбирать компромисс между качеством и затратами на хранение и поиск. Согласно описанию, при обучении применялись дистилляция и task-specific contrastive losses, а сама модель показывает результаты выше существующих моделей сопоставимого размера на различных embedding-бенчмарках. Основное ограничение — специализация на retrieval-задачах, поэтому карточка не подтверждает оптимальность модели для генерации текста или иных задач. Для локального использования указаны зависимости transformers, PyTorch, PEFT и vLLM; flash-attention рекомендуется для ускорения инференса. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с некоммерческими ограничениями.

Grug-35B-A3B-GGUF — квантизированная версия модели Grug-35B-A3B, разработанной kai-os и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические и программные сценарии, отладку кода и компактное reasoning. Она обучалась с применением QLoRA и использовала наборы данных для общего, математического и программного reasoning. Модель имеет архитектуру MoE с заявленными 35B общих параметров и 3B активных параметров, однако сведения о точном контекстном окне, поддерживаемых языках и дополнительных модальностях в README отсутствуют. Квантизация выполнена с использованием llama.cpp и imatrix; доступны варианты от IQ3_M и Q3 до Q8_0, а также исходные веса BF16. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Запуск поддерживается через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты, при условии поддержки модели. Сильной стороной является сочетание большой общей ёмкости MoE с небольшим числом активных параметров, что может снизить требования к вычислениям по сравнению с плотной моделью аналогичного размера. Ограничения включают значительные требования к памяти даже для большинства квантизированных вариантов, отсутствие подробных результатов независимых оценок и неполные сведения о языках и контексте. Модель распространяется по лицензии Apache-2.0.

Myric/KAT-Coder-V2.5-Dev-APEX-GGUF — это GGUF-квантизация модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot, подготовленная Myric. Модель предназначена для генерации кода и агентских сценариев программирования, а также для запуска через совместимые инструменты, включая llama.cpp. Репозиторий содержит APEX-квантизации и матрицу важности imatrix; README также указывает на поддержку архитектуры mixture-of-experts (MoE) и семейства Qwen3.5 MoE. Доступен файл KAT-Coder-V2.5-Dev-APEX-dynamic.gguf размером 11,86 GiB, рассчитанный на видеокарту с 16 ГБ памяти. Указанный вариант не содержит MTP-голову и сам по себе не поддерживает speculative decoding; отдельная связанная сборка переносит обученную MTP-голову Qwen3.6-35B-A3B и заявляет ускорение в 2,03 раза на агентском наборе тестов программирования без снижения корректности. Другие характеристики, включая точное число параметров, размер контекста и перечень поддерживаемых языков, в README не указаны. Модель распространяется по лицензии Apache-2.0.

KEmbed-naija-v1 — текстовая Sentence Transformer-модель, дообученная matt-wisdom на базе BAAI/bge-m3 для поиска релевантных текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и позволяет сравнивать их с помощью косинусного сходства. Архитектура включает XLM-RoBERTa, пулинг CLS и нормализацию; модель принимает только текст. Максимальная длина последовательности в карточке — 256 токенов, а метаданные указывают родной контекст 8194 токена. Модель ориентирована на retrieval и семантическое сопоставление запросов с документами. В карточке приведена оценка cosine accuracy 0,7925 на наборе nigerian-val. Метаданные указывают 658,7 млн параметров и лицензию не сообщают, поэтому условия лицензирования по доступным данным определить нельзя.

yj512/klue-roberta-base-klue-sts-mrc — модель Sentence-Transformers, дообученная на базе shangrilar/klue-roberta-base-klue-sts. Она кодирует предложения и абзацы на корейском языке в плотные векторы размерности 768 и предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Для сравнения векторов используется косинусное сходство; архитектура объединяет RoBERTa с усреднением токенных представлений. Модель содержит 137,8 млн параметров, принимает последовательности длиной до 512 токенов по README и до 514 токенов по метаданным. В README приведены значения Spearman 0,8159 и Pearson 0,8067 на оценке сходства, но они не гарантируют качество на других данных. Лицензия в предоставленных сведениях не указана.

Laguna M.1 — языковая модель Poolside для агентного программирования и выполнения длительных задач с помощью инструментов. Это текстовая модель типа Mixture-of-Experts: по карточке README, в ней 225 млрд параметров, из которых активируются 23 млрд на токен; архитектура включает 70 слоёв, 256 экспертов и глобальное внимание. Метаданные Hugging Face указывают 17,1 млрд параметров, поэтому сведения о размере расходятся; контекстное окно составляет 262 144 токена. Модель предназначена для работы в цикле агента: анализа кода и репозиториев, внесения изменений и выполнения задач в терминале. README сообщает о поддержке рассуждений между вызовами инструментов и приводит результаты на SWE-bench Verified, SWE-bench Multilingual, SWE-bench Pro и Terminal-Bench 2.0. Она принимает и выдаёт текст; сведения о конкретных поддерживаемых естественных языках не приведены. Для запуска указана поддержка vLLM, SGLang и Transformers. Лицензия — Apache 2.0, допускающая коммерческое и некоммерческое использование и модификацию.

LaSER-Qwen3-4B — плотный текстовый ретривер с латентным рассуждением, разработанный в рамках подхода LaSER и построенный на базе Qwen/Qwen3-4B. Модель дообучена методом самодистилляции так, чтобы выполнять несколько шагов внутреннего рассуждения в пространстве эмбеддингов перед формированием нормализованного вектора текста. Модель предназначена для получения эмбеддингов запросов и документов в задачах информационного поиска, семантического поиска и retrieval-augmented generation. В README приведён результат 28,0 nDCG@10 в среднем на бенчмарке BRIGHT и заявлена задержка примерно в 1,7 раза выше стандартного плотного ретривера. Размер составляет около 3,7 млрд параметров, архитектура — плотная Qwen3ForCausalLM, формат весов — safetensors, библиотека — Transformers. Контекст модели составляет 40 960 токенов. Карточка указывает английский язык; метаданные содержат датасет LaSER-Training. Модель принимает текст и выдаёт векторы эмбеддингов для поиска и ранжирования по близости. Лицензия — MIT. Качество зависит от выбранного числа шагов латентного рассуждения и характеристик данных; в карточке приведена оценка на BRIGHT, поэтому её не следует считать гарантией качества для любых доменов и наборов запросов.

Orion-zhen разработал чат-модель Orion-zhen/Llama3-70B-Orion-Chinese на основе failspy/Llama-3-70B-Instruct-abliterated-v3, дообучив её методом DPO. Это плотная авторегрессионная модель семейства Llama 3 с 69,5 млрд параметров, контекстом 8192 токена и поддержкой диалога; карточка демонстрирует ответы на китайском языке с более оживлённой подачей и частым использованием эмодзи. Модель предназначена для диалога на китайском, рассуждений, ответов на вопросы и генерации кода. В README приведены примеры решения математических и логических задач, бытовых вопросов, анализа эмоций и написания кода. Метаданные также связывают обучение с наборами предпочтений для китайского и английского диалога, математики, физического рассуждения, кода и других ответов. Файлы опубликованы в формате Safetensors. Лицензия — Llama 3; применимость и условия использования следует сверять с её условиями. Примеры README показывают возможные ошибки в рассуждениях и небезопасные советы, поэтому ответы требуют проверки; инструкция по расширению контекста до 32k в карточке не подтверждена как штатная длина контекста модели.

Llama3-ChatQA-2-8B — диалоговая языковая модель NVIDIA на архитектуре LLaMA 3 с 7,5 млрд параметров. Модель создана на базе Llama 3: контекст расширен с 8K до 128K токенов продолжением обучения, после чего проведено трёхэтапное дообучение по инструкциям. Контрольные точки преобразованы из формата Megatron-LM в формат Hugging Face PyTorch. Модель предназначена для ответов на вопросы по документам и найденному контексту, генерации ответов в диалоге и сценариев RAG. Она оптимизирована для использования предоставленного контекста; модель может обработать документ целиком, если он помещается в контекстное окно. В карточке приведена рекомендация явно сообщать, когда ответ не найден в контексте. Модель поддерживает английский язык и контекст до 128K токенов. Она принимает текст и генерирует текст. Лицензия в предоставленных материалах не указана.

manasp2025/my-embedding-gemma — дообученная модель Sentence Transformers на базе google/embeddinggemma-300m, разработанной Google. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения текстов по косинусному сходству; архитектура — Gemma3TextModel, размер — 302,8 млн параметров. Модель принимает текст длиной до 2048 токенов и предназначена для семантического поиска, оценки сходства, поиска перефразировок, классификации и кластеризации текстов. Дообучение описано на наборе из трёх парных примеров с anchor, positive и negative, с функцией потерь MultipleNegativesRankingLoss. Такой малый объём данных ограничивает основания для ожидания надёжного улучшения качества в широком круге задач. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

NetraEmbed — мультимодальная модель эмбеддингов для поиска по визуальным документам, разработанная Cognitive-Lab на основе Gemma 3 4B IT. BiEncoder кодирует изображение документа и текстовый запрос в плотные векторы, которые можно сравнивать по косинусному сходству для семантического и межъязыкового поиска. Модель поддерживает Matryoshka-представления размерностью 768, 1536 или 2560, выбираемой при инференсе. В README заявлена работа с 22 языками и оценка на наборах Nayana-IR Bench и ViDoRe v2. Для выполнения поиска векторные представления можно использовать с системами вроде FAISS, Milvus и Pinecone. Модель предназначена для поиска по визуальным документам и не является генеративным чат-ботом. Веса основаны на дообучении google/gemma-3-4b-it и распространяются по лицензии Gemma; применимость лицензии следует учитывать при использовании и распространении.

sentence-transformers/nli-roberta-large — модель для получения векторных представлений предложений и абзацев, обученная командой sentence-transformers. Она основана на RoBERTa с плотной архитектурой и содержит 454,1 млн параметров. Модель преобразует текст в эмбеддинги размерностью 1024; контекст ограничен 514 токенами. Эмбеддинги можно использовать для семантического поиска, сравнения сходства текстов и кластеризации. Модель принимает текст и выдаёт векторы, пригодные для поиска и группировки семантически близких фрагментов. В README модель помечена как устаревшая: авторы предупреждают о низком качестве эмбеддингов и рекомендуют выбрать более новую модель. Лицензия — Apache 2.0.

norsbert3-base-matryoshka — модель Sentence Transformers, дообученная MagnusSa на базе ltg/norbert3-base на наборах utdanning_pair_qa, ltg/norquad и NbAiLab/mnli-norwegian. Она кодирует предложения и абзацы в плотные векторы размерности 768, используя скрытое состояние токена CLS и косинусное сходство; Matryoshka-обучение позволяет получать эмбеддинги меньшей размерности. Максимальная длина входа — 512 токенов. Модель предназначена прежде всего для норвежского языка и подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. В карточке приведены результаты оценки поиска для размерностей векторов 768, 512, 256, 128 и 64. Модель принимает текст и выдаёт эмбеддинги; базовый трансформер — NorbertModel, веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Показатели качества относятся к указанным в карточке оценкам поиска и могут не отражать качество на других данных и задачах.

Mungert/OlympicCoder-32B-GGUF — это GGUF-версия 32-миллиардной модели для генерации текста и программного кода, созданная на основе Qwen/Qwen2.5-Coder-32B-Instruct. В метаданных указаны датасет open-r1/codeforces-cots, английский язык, библиотека Transformers и лицензия Apache-2.0. README не содержит подробного описания дообучения, поэтому назначение модели следует оценивать прежде всего как применение возможностей базовой instruct-модели в формате GGUF. Модель предназначена для генерации и работы с текстом и кодом, включая сценарии разработки, решения алгоритмических задач и запуск локального вывода на устройствах с ограниченными ресурсами. Основная особенность сборки — применение ультранизкобитного динамического квантования IQ-DynamicGate с распределением точности по слоям. Для наиболее чувствительных компонентов используются более точные форматы, а значительная часть слоёв может храниться в 1–2 битах, что снижает требования к памяти. Сильная сторона модели — возможность размещения крупной 32B-модели в условиях ограниченного GPU VRAM, на CPU или edge-устройствах. При этом ультранизкая битность неизбежно создаёт компромисс между размером, скоростью и точностью; README приводит результаты DynamicGate для Llama-3-8B, но не предоставляет сопоставимых бенчмарков именно для OlympicCoder-32B. Поэтому фактическое качество и скорость этой сборки зависят от выбранного GGUF-кванта, оборудования и программного движка. Контекстное окно, точный набор поддерживаемых языков и конкретный размер файлов для данной модели в README не указаны.

Это 4-битная версия модели OpenCodeInterpreter-DS-33B, преобразованная сообществом mlx-community из m-a-p/OpenCodeInterpreter-DS-33B в формат MLX для запуска на устройствах Apple Silicon с помощью mlx-lm. Модель основана на плотной архитектуре Llama и содержит 33,1 млрд параметров; длина контекста — 16 384 токена. Модель предназначена для диалоговой генерации текста и помощи с программированием на английском языке. Её можно использовать для написания, объяснения и отладки кода в сценариях общения с ассистентом. README отсылает к исходной карточке OpenCodeInterpreter-DS-33B за подробностями о возможностях. Это преобразование и квантизация до 4 бит для MLX, что снижает требования к памяти при запуске, но может повлиять на точность относительно исходной модели. Модель распространяется по лицензии исходного репозитория; сведения о лицензии в предоставленных данных отсутствуют.

Ornith-1.5-35B-A3B-REAP-20pct — разреженная MoE-модель для генерации текста, программирования и вызова инструментов, созданная oxfrug на основе Ornith-1.5-35B-A3B от ornith-ai. Модель предназначена для локального и самостоятельного развёртывания, особенно в сценариях кодирования, диалогового взаимодействия и tool calling. В метаданных указан английский язык. Модель использует гибридную архитектуру GatedDeltaNet + MoE с 40 слоями. После удаления 20% экспертов в каждом слое осталось 205 экспертов вместо 256, при этом для каждого токена активны 8 экспертов. Активный объём параметров составляет около 3B на токен, размер BF16-весов — примерно 56 ГБ вместо 67 ГБ у базовой модели. Общие эксперты, vision tower, эмбеддинги и lm_head не изменялись; архитектура обозначена как Qwen3_5MoeForConditionalGeneration, поэтому модель поддерживает текстово-мультимодальный интерфейс базовой архитектуры. Для работы требуются transformers версии 5.8.1 или новее; для vLLM заявлена конфигурация с контекстом до 262144 токенов. Главное преимущество — экономия около 11 ГБ дискового пространства при сохранении примерно 3B активных параметров на токен и совместимость с transformers и vLLM. Ограничения связаны с потерей качества из-за pruning: модель не является lossless-копией и не является квантизированной или дообученной. Для этого чекпойнта не проводились полноценные тесты SWE-bench, Terminal-Bench и GPQA, а опубликованные результаты родственной модели нельзя переносить на него. Калибровка выполнялась на последовательностях длиной 1024 токена, что также может повышать риск ухудшения специализированных возможностей, включая tool calling. Модель распространяется по лицензии MIT. Она требует значительных ресурсов: это не вариант для одной видеокарты на 24 ГБ; для длинного контекста в vLLM рекомендуется конфигурация с двумя GPU по 80 ГБ. Форматы GGUF для данного pruning в README не заявлены.

Ornith-1.5-397B — флагманская модель семейства Ornith-1.5 от ornith-ai, созданная как модель с открытыми весами для агентных задач и самоулучшения. Это смесь экспертов (MoE) на 397 млрд параметров, реализованная в архитектуре Qwen3.5 MoE; репозиторий содержит веса SafeTensors, а лицензия — MIT. Модель предназначена прежде всего для агентного программирования: выполнения задач в терминале, исправления ошибок и работы с репозиториями кода. Она поддерживает диалог и вызов инструментов через совместимый с OpenAI интерфейс. Заявленное окно контекста — до 262 144 токенов; README сообщает о высоких результатах на Terminal-Bench 2.1 и DeepSWE. Для запуска требуется многокарточная система: в формате bf16 веса занимают около 800 ГБ; в README приведён пример с восемью GPU H200. Для уменьшения требований авторы предлагают использовать отдельные квантизованные сборки FP8 или INT4. Модель также можно запускать с расширением контекста YaRN, но оно может немного снижать качество на обычной длине запросов.

Ornith-1.5-9B GGUF — квантованный формат 9-миллиардной плотной языковой модели Ornith-1.5, разработанной командой Ornith AI. Модель создана на основе подхода энд‑ту‑энд самоулучшения: она совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с применением reinforcement learning. Данная версия распространяется в формате GGUF и была сгенерирована с использованием llama.cpp. Модель предназначена для генерации текста и эффективного решения задач программирования, включая работу с терминалом и исправление ошибок в коде. Она рассчитана на развёртывание на одной GPU; для мобильных устройств предусмотрен отдельный квантованный вариант Ornith-1.5-9B-Mobile. В README приведены результаты на Terminal-Bench 2.1 и SWE-bench, однако сведения о поддерживаемых языках, длине контекста, конкретном типе квантования и мультимодальности отсутствуют. К сильным сторонам относятся небольшой для современных моделей размер, возможность локального развёртывания и хорошие заявленные результаты в задачах программирования: 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на вариантах Terminal-Bench 2.1. Ограничения включают отсутствие данных о языковом покрытии, контексте и детальном поведении за пределами представленных тестов; показатели зависят от конфигурации запуска и используемого scaffold. Модель распространяется по лицензии MIT.

OxCoder-9B — модель для программирования и агентных задач, разработанная OrionLLM на основе Qwen/Qwen3.5-9B. Она дообучена на траекториях агентного программирования и диалогах из Fable-5.1 и GLM-5.3, связанных с Claude Code, OpenCode и Codex. Модель предназначена для разработки ПО, работы в терминале и многошагового рассуждения при решении инженерных задач. Модель содержит 9 млрд параметров и имеет контекстное окно 262 144 токена. В карточке заявлены навыки работы с многофайловыми кодовыми базами, чтения кода перед изменениями, обработки диагностик LSP и внесения точечных правок. Также отмечены задачи агентного программирования и рассуждения о фронтенд-логике, компонентах и веб-интерфейсах. Модель принимает текстовые запросы и генерирует текст, включая код и ответы в диалоге. Заявленные преимущества и результаты бенчмарков приведены разработчиком; таблица результатов в предоставленном README опущена. Выпущена по лицензии Apache 2.0.

Parable-Granite-4.1-3B-Claude-Fable-5 — диалоговая модель AnkitAI на архитектуре GraniteForCausalLM, дообученная на трассах агентных сессий Claude Fable 5 и инструктивных данных. Она содержит 3,4 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов; дообучение проводилось на последовательностях длиной 2 048 токенов, поэтому специализированное поведение наиболее выражено в начале диалога. Модель рассчитана на пошаговые рассуждения, объяснение и отладку кода, а также работу с терминальными сценариями. В README приведены результаты внутренних тестов, где версия v2 улучшает агентные и объяснительные сценарии относительно базовой модели, но уступает ей в генерации отдельных функций и вызове инструментов. Модель поддерживает английский язык; автор указывает, что она не обучалась для других языков и обработки изображений. Это полновесная версия в формате safetensors для Transformers и vLLM; квантованные сборки доступны отдельно. Лицензия — Apache-2.0. Сгенерированные команды следует проверять перед запуском, а модель не предназначена для навигации по многофайловым репозиториям.

radlab/polish-sts-v2 — модель Sentence Transformers от Radlab для получения векторных представлений польских предложений и абзацев. Она кодирует текст в плотные векторы размерности 1024 на основе архитектуры RoBERTa; модель построена на базе sdadas/polish-roberta-large-v2 и обучена с функцией потерь CosineSimilarityLoss на датасете radlab/polish-sts-dataset. Модель подходит для семантического поиска и кластеризации текстов. Для использования в Transformers требуется применить корректную операцию pooling к контекстным представлениям токенов. Карточка помечает модель как устаревшую и указывает, что её заменяет radlab/polish-bi-encoder-mean. Лицензия — CC BY-SA 4.0.

PP-OCRv4_mobile_rec — модель распознавания строк текста из серии PP-OCRv4_rec, разработанная командой PaddleOCR. Она принимает изображения отдельных текстовых строк и возвращает распознанный текст; её можно использовать как модуль распознавания в конвейере OCR вместе с обнаружением текста и, при необходимости, коррекцией ориентации или деформации изображения. Модель рассчитана на обычные сценарии распознавания китайского и английского текста, с основным акцентом на китайский. PP-OCRv4 развивает PP-OCRv3: в серии оптимизированы данные, структура сети и стратегия обучения. В метаданных размер и численная архитектура не приведены. Модель распространяется по лицензии Apache-2.0. README отмечает, что оценка точности строки засчитывает её как ошибочную при неверном распознавании хотя бы одного символа, включая пунктуацию. Описанная модель распознаёт текстовые строки, а для полноценного OCR-конвейера нужны дополнительные модули, в частности обнаружение текста.

Qwen2.5-Coder-0.5B-Instruct-GGUF — инструкционная языковая модель для работы с исходным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, задач кодового рассуждения, чат-сценариев и создания приложений на базе кодовых агентов. Модель сохраняет возможности для математических и общих языковых задач. Указанный репозиторий содержит версию в формате GGUF, ориентированную на локальный запуск, в том числе через llama.cpp. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд — без учёта эмбеддингов, 24 слоя и GQA с 14 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов. Поддерживаются варианты квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. В карточке явно указан английский язык; другие языки не заявлены. К сильным сторонам относятся небольшой размер, возможность локального запуска и специализация на программном коде. Ограничениями являются существенно меньшая мощность по сравнению с крупными моделями семейства и отсутствие подтверждённых в карточке характеристик мультимодальности или поддержки дополнительных языков. Для расширения контекста до 131 072 токенов рекомендуется использовать не GGUF-версии, поскольку для GGUF заявлена длина до 32 768 токенов, а поддержку YARN для экстраполяции указывает только vLLM. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-4B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-4B-Base, подготовленная Unsloth на основе модели Qwen/Qwen3-4B-Base. Это каузальная языковая модель на стадии предварительного обучения, предназначенная для генерации и продолжения текста, а также общих задач обработки естественного языка, программирования, STEM и рассуждений. README не уточняет особенности именно 4-битной упаковки и сценарии её применения. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд приходятся на параметры без embedding, имеет 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Семейство Qwen3 обучалось на 36 трлн токенов на 119 языках и включает данные для кодирования, STEM, рассуждений, книг, мультиязычных и синтетических задач, однако точные языковые возможности данной версии отдельно не приведены. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битному представлению, длинный контекст и универсальная базовая направленность. Ограничения состоят в том, что это именно базовая, а не инструкционно настроенная модель: README не заявляет о специальной диалоговой настройке, конкретных результатах бенчмарков или требованиях к оборудованию. Для работы рекомендуется актуальная версия библиотеки transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: 'qwen3'. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-28B — производная модель 0xSero на архитектуре Qwen3.5 MoE, созданная из Qwen/Qwen3.5-35B-A3B методом REAP (Router-weighted Expert Activation Pruning). Из 256 экспертов сохранены 205, то есть удалено около 20%; модель содержит 28 млрд параметров и распространяется в формате BF16. Лицензия — Apache-2.0. Модель предназначена для диалоговой генерации текста, рассуждений и задач программирования. В карточке приведены результаты на HumanEval, MMLU и WikiText-2; по сравнению с исходной моделью после pruning показатели на этих тестах снизились. Основное заявленное преимущество — меньший объём памяти: около 53 ГБ вместо 71 ГБ у исходной BF16-модели. Измерения пропускной способности показывают, что ускорение зависит от размера пакета и может отсутствовать.

Это текстовая MoE-модель семейства Qwen для диалоговой генерации. По README, репозиторий содержит полный конвертированный чекпойнт Qwen/Qwen3.8-2.4T-A95B с 4-битным представлением весов; метаданные указывают поддержку чат-сценариев и генерации текста. Модель предназначена для диалогов и генерации ответов, включая программный код. В README приведены измерения скорости на восьми GPU AMD MI325X с ROCm, в том числе с ускорением спекулятивным декодированием DSpark; эти показатели относятся к конкретным настройкам и нагрузкам. Качество модели широко не оценивалось: автор сообщает об арифметических проверках генерации, проверке чата и нескольких тестах с Python-кодом, но не приводит широких оценок точности или perplexity. Квантизация заметно отличается от исходных BF16-весов по приведённым тестам; эквивалентность качества BF16 и детерминизм для произвольных запросов не заявлены. Для размещения чекпойнта указаны значительные требования к памяти GPU. Лицензия обозначена как «other», конкретные условия в предоставленных данных не раскрыты.

Qwen3.8-27B-Uncensored-GPTQ-Int4-sym-G128-MTP-BF16 — это квантизированная версия модели JonathanColetti/Qwen3.8-27B-Uncensored, созданная на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, включая программирование, работу с прозой и вызов инструментов. Она разработана для эффективного запуска на видеоускорителях Intel Arc через vLLM XPU и поддерживает speculative decoding благодаря сохранённой в формате BF16 MTP-голове. Модель использует GPTQ-квантизацию до 4 бит с симметричными группами размера 128; 400 тензоров весов представлены в целочисленном формате I32, а 15 MTP-тензоров сохранены в BF16. Размер репозитория составляет около 19 ГБ. Заявлены языки English и Chinese. Архитектура основана на гибридной GDN/Mamba-конфигурации Qwen3.8, максимальный проверенный контекст — 120 532 токена, при заявленном лимите до 131 072 токенов. Сильные стороны модели — существенно меньшие требования к памяти по сравнению с BF16-версией, поддержка Intel Arc/XPU, длинного контекста, MTP и высокая измеренная скорость генерации на Intel Arc Pro B70: до 68,5 токена в секунду для кода и 52,4 токена в секунду для прозы. Ограничения включают отсутствие формальных оценок качества, калибровку без примеров кода, необходимость специальных патчей vLLM и режима с одной последовательностью при использовании MTP. Префиксное кэширование не даёт выигрыша, а FP8 KV-кэш обязателен для контекста 128K на GPU с 32 ГБ памяти. Поведение «uncensored» унаследовано от исходной модели и не проходило количественной проверки. Указана лицензия Apache-2.0.