II.6Документация и сопровождение разработки

google/xtr-base-en — англоязычная модель семейства T5 для многовекторного поиска по токенам, представленная Google. Она предназначена для извлечения и ранжирования релевантных документов по запросу в системах поиска и retrieval-augmented generation. Архитектура — плотный энкодер T5EncoderModel, размер — 123,8 млн параметров; доступны веса PyTorch и Safetensors. XTR формирует многовекторные представления текста и поддерживает поиск по токенам, что позволяет точнее сопоставлять запросы и документы, чем единое представление текста. Карточка описывает запуск реализации на PyTorch и ссылается на исследовательскую работу о роли извлечения токенов в многовекторном поиске. Модель распространяется по лицензии Apache-2.0.

Yi-Ko-6B-instruct-v2.0 — корейская инструкционная языковая модель семейства Llama, разработанная автором репозитория cocoirun. Модель дообучена методом SFT с LoRA на примерно 110 тысячах примеров, собранных из открытых NLP-данных и вручную подготовленных материалов. В обучение вошли задания по истории, естественным наукам, математике, машинному чтению, анализу отзывов, обобщению, грамматике и общим знаниям, а также корейско-английские и англо-корейские переводы. Модель предназначена для генерации ответов и выполнения инструкций на корейском и английском языках. В карточке указаны 5,9 млрд параметров, архитектура LlamaForCausalLM и контекст 2048 токенов. Автор сообщает об использовании LoRA и двух ускорителей A100 40G при обучении; обучающие данные закрыты. Репозиторий распространяется в формате safetensors по лицензии CC BY-SA 4.0. Качество может зависеть от тематики и формулировки запроса; в карточке нет количественных оценок качества или подробных результатов тестирования. Модель ориентирована на текстовые задачи и не заявлена как специализированная система для отдельных прикладных областей.

AfriqueQwen3.5-0.8B-50Langs — компактная базовая языковая модель из набора AfriqueLLM, разработанного для работы с африканскими языками. Это причинная языковая модель с архитектурой Qwen3.5 и 0,8 млрд параметров, полученная продолжением предобучения Qwen/Qwen3.5-0.8B-Base на примерно 35,5 млрд токенов многоязычных данных. Для запуска и дообучения используется библиотека Transformers. Модель адаптирована для 50 африканских языков; среди языков, указанных в карточке, — суахили, хауса, игбо, йоруба, амхарский, сомали, зулу, африкаанс, арабский, английский, французский и португальский. Она предназначена для генерации текста и диалоговых сценариев, а также ориентирована на задачи с кодом и математикой. Нативная длина контекста составляет 262 144 токена. Небольшой размер облегчает использование модели по сравнению с более крупными вариантами AfriqueLLM, но качество может уступать крупным моделям, особенно в сложных задачах. Карточка приводит оценки на многоязычных бенчмарках, однако часть сводных таблиц сокращена. Лицензия — Creative Commons Attribution 4.0 International (CC BY 4.0).

Amadeus-Verbo-MI-Qwen-2.5-32B-PT-BR-Instruct-Experimental — диалоговая языковая модель на архитектуре Qwen2.5, созданная AmadeusAI слиянием SLERP моделей Qwen/Qwen2.5-32B-Instruct и AmadeusAI AV-BI-Qwen2.5-32B-PT-BR-Instruct. Она предназначена для генерации текста и диалогов на бразильском португальском языке; доступна для запуска через Transformers и поддерживает интерфейс вызова инструментов. Модель содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на португальском языке. В метаданных указана лицензия Apache-2.0. Карточка не приводит результатов оценивания качества или подробностей о проверке поведения после слияния.

AMALIA-9B-1225-SFT — открытая языковая модель, разработанная консорциумом португальских университетов и исследовательских центров при участии Фонда науки и технологий Португалии. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 8,6 млрд параметров. Репозиторий содержит веса Safetensors; модель поддерживает диалоговый режим и контекст до 32 768 токенов. Модель предназначена для универсальной генерации текста на европейском португальском (pt-PT): диалоговой помощи, следования инструкциям, ответов на вопросы, суммаризации, написания и редактирования текстов, перевода и исследовательских задач по португальскому языку. Обучение включало предварительное обучение, контролируемую тонкую настройку (SFT) и настройку предпочтений методом DPO. Модель также можно адаптировать для последующих приложений, включая RAG и государственные сервисы. Карточка указывает, что модель оптимизирована для pt-PT; другие варианты португальского могут обрабатываться менее последовательно. Она способна выдавать фактические ошибки, предвзятые или вредоносные ответы, поэтому результаты нужно проверять, а при внедрении добавлять защитные механизмы и проводить оценку для конкретной задачи. Лицензия — Apache-2.0.

Bee-150M-PT (base) — базовая языковая модель BrCamp, обученная с нуля на бразильском португальском языке. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 151,1 млн параметров. В ней 30 слоёв, группированное внимание с 9 головами и 3 KV-головами, RoPE, словарь из 32 000 токенов и контекст длиной 2048 токенов. Модель предназначена для продолжения текста на португальском. Её можно применять для суммаризации, извлечения структурированных данных, переписывания и классификации, когда необходимые факты предоставлены в контексте. По данным карточки, на португалоязычном holdout-наборе она показала 0,844 bits-per-byte; авторы сообщают, что результат лучше Tucano-160m при примерно в девять раз меньшем числе обучающих токенов. Это базовая модель, а не модель для следования инструкциям. Несмотря на хорошее владение португальским, её фактические знания ненадёжны и могут различаться между генерациями, поэтому она не подходит для открытых фактических вопросов без предоставленного контекста. Распространяется по лицензии Apache-2.0.

CodeGen-Mono 16B — авторегрессионная языковая модель для синтеза программного кода, разработанная Salesforce. Вариант Mono инициализирован из CodeGen-Multi 16B и дополнительно обучен на наборе BigPython, содержащем 71,7 млрд токенов кода на Python. Размер модели — 16 млрд параметров; архитектура — плотная CodeGenForCausalLM, формат весов — PyTorch, контекст — 2048 токенов. Модель предназначена для генерации исполняемого кода по подсказкам на естественном языке, представленным в виде комментариев, а также для продолжения частично написанного кода. В карточке приведена оценка на HumanEval и MTPB. Лицензия — BSD-3-Clause. Модель может ошибаться и не оценивалась для всех вариантов применения; перед использованием результата следует проверять код. Разработчик выпустил её для исследовательских целей в поддержку академической статьи и рекомендует учитывать вопросы точности, безопасности и справедливости.

CodeGen2.5-7B-instruct — авторегрессионная языковая модель для генерации программного кода, разработанная Salesforce. Модель содержит 6,7 млрд параметров, построена на плотной архитектуре Llama и обучена на инструкционных данных после CodeGen2.5-7B-mono; контекст — 2048 токенов. Предобучение семейства включало 1,4 трлн токенов StarCoderData. Модель предназначена для создания исполняемого кода по запросам на английском языке, автодополнения фрагментов программ и заполнения пропусков в коде. Она поддерживает несколько языков программирования и формат infilling. Репозиторий содержит веса PyTorch; карточка указывает исследовательское применение. Лицензия в метаданных обозначена как other, поэтому условия использования следует проверять для конкретной версии модели. Модель может воспроизводить фрагменты исходного кода из обучающих данных; лицензия такого кода может требовать указания авторства или соблюдения других условий. Качество, безопасность и корректность результатов не оценены для всех сценариев использования, поэтому сгенерированный код требует проверки.

DeepCoder-14B-Preview — языковая модель для рассуждений и генерации кода, разработанная Agentica и дообученная с помощью распределённого обучения с подкреплением на базе DeepSeek-R1-Distill-Qwen-14B. Модель построена на архитектуре Qwen2, содержит 14 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы с кодом и рассуждениями. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для решения задач программирования, включая генерацию кода и соревнованийные задачи. В README сообщается о результатах на LiveCodeBench v5, Codeforces и HumanEval+; для длинных ответов рекомендуется выделять не менее 64 000 токенов генерации. Модель доступна под лицензией MIT. Ограничения: это предварительная версия, а длинные ответы могут обрезаться при низком лимите генерации, что снижает результативность.

deepseek-ai/deepseek-coder-5.7bmqa-base — базовая языковая модель для кода от DeepSeek. Это плотная архитектура Llama с Multi Query Attention и 5,6 млрд параметров; модель обучена с нуля на 2 трлн токенов, состоящих из кода и естественного языка. В метаданных указано окно контекста 16 384 токена. Модель предназначена для генерации и дополнения кода, вставки пропущенных фрагментов и работы с кодом на уровне проекта или репозитория. Обучение включало задачу fill-in-the-blank и данные на английском и китайском языках; карточка описывает результаты на нескольких бенчмарках генерации кода. Это базовая, а не чат-модель, поэтому для диалоговых сценариев может потребоваться дополнительная настройка. Веса опубликованы в формате PyTorch; лицензия обозначена как other, конкретные условия следует проверить в репозитории.

Devstral Small 1.1 — языковая модель для агентных задач разработки ПО, созданная в сотрудничестве Mistral AI и All Hands AI. Она дообучена на Mistral-Small-3.1-24B-Instruct-2503 и имеет плотную архитектуру Mistral с 23,4 млрд параметров. Модель принимает текст и выдаёт текст; зрительный энкодер базовой мультимодальной модели удалён до дообучения. Длина контекста составляет до 131 072 токенов, поддерживается интерфейс вызова функций. Модель предназначена для программных агентов, которые исследуют репозитории, редактируют несколько файлов, анализируют тестовое покрытие и выполняют другие задачи программной инженерии. В README рекомендована работа в связке с OpenHands; также описана совместимость с Cline и локальный запуск через vLLM, mistral-inference, Transformers, LM Studio, llama.cpp и Ollama. Карточка сообщает о результате 53,6% на SWE-Bench Verified. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование и модификацию.

GLM-4.1V-9B-Thinking — мультимодальная модель с открытыми весами от Zhipu AI, дообученная на базе GLM-4-9B-0414 для рассуждений по тексту и изображениям. Она предназначена для визуальных вопросов и ответов, решения сложных задач и мультимодальных сценариев с длинным контекстом. Модель семейства GLM-4V имеет плотную архитектуру и около 9 млрд параметров. Она принимает изображения произвольного соотношения сторон разрешением до 4K и поддерживает контекст до 64 тыс. токенов. Заявлена двуязычная работа на китайском и английском языках; для запуска в README приведён пример с библиотекой Transformers. Разработчики сообщают о сильных результатах в математике и на визуальных бенчмарках, включая задачи, где модель сопоставима с более крупными системами. Это заявление основано на оценках авторов и не гарантирует аналогичное качество во всех прикладных сценариях. Модель распространяется по лицензии MIT.

Пакет meshllm/GLM-4.7-UD-Q4_K_XL-layers содержит слоевые артефакты GGUF модели GLM-4.7 и предназначен для запуска через Mesh LLM. Он получен из unsloth/GLM-4.7-GGUF: вариант UD-Q4_K_XL разделён на отдельные файлы слоёв для распределённого инференса на локальном кластере; пакет включает метаданные и эмбеддинги. Модель рассчитана на локальный приватный чат и генерацию текста, в том числе на нескольких машинах, когда полный файл GGUF не помещается на одном узле. Mesh LLM позволяет обслуживать запросы через совместимый с OpenAI интерфейс чата. В метаданных указаны формат GGUF, библиотека mesh-llm и поддержка чата. Лицензионные условия следует сверять с карточкой исходной модели unsloth/GLM-4.7-GGUF; доступные сведения их не приводят.

GLM-5.3-Flash-MLX — это сборка официальной модели GLM-5.3-Flash от zai-org, подготовленная OrcaRouter в формате MLX для Apple Silicon и MLX CUDA backend. Модель использует гибридную архитектуру glm5_next со sparse- и linear-attention, Manifold-Constrained Hyper-Connections и разреженной MoE-структурой на 320 млрд параметров всего и 18 млрд активных параметров. Это первая нативно мультимодальная модель серии GLM-5 с поддержкой текста и изображений; заявленные языки — английский и китайский, а pipeline предназначен для задач image-text-to-text и reasoning. Модель подходит для мультимодального анализа, рассуждений, работы с текстом и изображениями, а также для локального запуска на совместимом оборудовании Apple Silicon. Доступны варианты квантизации 2bit-lite, 2, 3, 4 и 6 бит; корневой каталог содержит рекомендуемую 4-битную сборку. Размеры вариантов составляют примерно от 102 до 296 ГБ, а минимальные требования к оперативной памяти — от 112 до 320 ГБ. Для снижения потерь качества применяется архитектурно-ориентированная квантизация OrcaSAQ без калибровочных данных: чувствительные компоненты получают повышенную точность, а ряд компонентов, включая vision tower, linear-attention layers, нормы и другие тензоры, сохраняется в BF16. Преимуществами являются мультимодальность, MoE-архитектура с относительно небольшим числом активных параметров, варианты с разным балансом качества и потребления памяти, а также оптимизация под Apple Silicon. Ограничения связаны с очень высокими требованиями к памяти даже у наиболее компактной сборки; 2- и 3-битные варианты используют агрессивную квантизацию и могут уступать более точным версиям, тогда как 6-битная сборка обеспечивает качество, близкое к FP8. Модель распространяется по лицензии MIT.

Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated-GGUF — набор квантованных версий мультимодальной модели Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated, разработанной huihui-ai. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. Модель основана на архитектуре Qwen3-VL и имеет конфигурацию 30B-A3B; точные характеристики архитектуры, поддерживаемые языки и размер контекста в README не указаны. Распространяется в формате GGUF для запуска через llama.cpp; для работы требуется актуальная версия llama.cpp и соответствующий мультимодальный проектор mmproj. Указано, что приоритет качества обычно имеют варианты mmproj в порядке F32, BF16, F16. В наборе применена imatrix от unsloth, что связано с оптимизацией квантования. Основные ограничения — зависимость доступного качества и производительности от выбранного уровня квантования и аппаратных ресурсов, а также необходимость отдельного mmproj. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели и репозитории квантованных версий.

InternVL3.5-241B-A28B-HF — мультимодальная модель семейства InternVL, разработанная OpenGVLab и представленная в формате Hugging Face Transformers. Она принимает изображения и текст и генерирует текстовые ответы; предназначена для диалога по изображениям, визуального и математического рассуждения, распознавания текста на изображениях, анализа видео, а также GUI- и агентных задач. В README описаны Cascade RL для улучшения рассуждений и Visual Resolution Router для адаптивной обработки визуальных токенов. Метаданные указывают архитектуру InternVLForConditionalGeneration и формат safetensors. Модель дообучена на основе OpenGVLab/InternVL3_5-241B-A28B-MPO и распространяется по лицензии Apache-2.0. Для запуска требуются значительные вычислительные ресурсы: в README говорится, что модель семейства на 235B параметров требует восьми GPU A100; точные требования для этой версии отдельно не приведены. Длина контекста и конкретный набор поддерживаемых языков в предоставленных данных не указаны.

Jack-3.8-27B-Coder-16GB-VRAM — локальная модель для программирования, разработанная независимым исследователем Джонатаном Майклом Лэнгфордом в рамках The Jack Project. Она основана на Qwen3.8-27B и предназначена для многоэтапной разработки ПО: планирования, реализации, отладки, ревью кода, проектирования тестов, работы с репозиториями и использования инструментов в длительных агентных сценариях. Модель поставляется в формате GGUF для запуска через llama.cpp и рассчитана на работу на GPU с 16 ГБ видеопамяти. Архитектура Jack использует структурирование актуального рабочего состояния и повторную привязку доказательств, чтобы отделять действующие требования и проверенные результаты от устаревших планов, предположений и неудачных экспериментов. В README заявлена поддержка длинных контекстов и многоходовых задач, но конкретная длина контекста не приведена. Лицензия — Apache-2.0. Заявленные преимущества относятся к управлению состоянием в длительных инженерных задачах; README не приводит независимых количественных сравнений, поэтому практическое качество этих улучшений не установлено. Модель предназначена для генерации текста и кода, а не для обработки изображений или видео, несмотря на мультимодальность базовой модели, указанную в каталожном описании.

Jan-Code-4B — дообученная командой Jan на Jan-v3-4B-base-instruct компактная плотная языковая модель семейства Qwen3 с 3,7 млрд параметров. Она предназначена для генерации и редактирования кода, рефакторинга и отладки, а также для локального запуска в роли лёгкого исполнителя подзадач в агентных системах. Модель поддерживает диалоговый режим, работает с текстом и рассчитана на контекст до 262 144 токенов. Модель ориентирована на хорошо ограниченные повседневные задачи программирования, где важны скорость ответа и скромные вычислительные требования; её можно подключить через Jan Desktop или запускать с vLLM. README рекомендует её для небольших агентных задач, но не приводит результатов сравнительных оценок. Лицензия Apache-2.0.

jina-reranker-v3-GGUF — это версия модели jina-reranker-v3 от Jina AI, преобразованная в формат GGUF для эффективного запуска с использованием llama.cpp. Модель предназначена для многоязычного переранжирования документов: она оценивает релевантность документов поисковому запросу и возвращает их в порядке соответствия. Поддерживаются пользовательские инструкции ранжирования, выбор top_n результатов и опциональный возврат эмбеддингов. Модель содержит около 0,6 млрд параметров и распространяется как GGUF-веса BF16 размером примерно 1,1 ГБ, дополнительно требуя MLP-проектор размером около 3 МБ. Для работы предусмотрены Python-реализация GGUFReranker и бинарные файлы llama.cpp; рекомендуется форк llama.cpp от Hanxiao. Модель рассчитана на мультиязычные текстовые сценарии, однако конкретный перечень языков и максимальная длина контекста в README не указаны. К сильным сторонам относятся компактный размер, возможность локального инференса через llama.cpp и применение в поиске, вопросно-ответных системах и других задачах, где требуется уточнить порядок уже найденных документов. Ограничения включают необходимость ручной настройки окружения и наличие отдельных компонентов, а также отсутствие в README подробных бенчмарков и сведений о производительности. Модель распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование; по вопросам коммерческого применения рекомендуется обращаться к Jina AI.

KaLM-Reranker-V1-Small — модель-реранкер семейства KaLM-Reranker-V1, разработанная командой KaLM-Embedding. Она предназначена для повторного ранжирования найденных документов по релевантности запросу, в том числе в конвейерах поиска и RAG. Модель построена на encoder-decoder архитектуре T5Gemma2 и дообучена на базе google/t5gemma-2-1b-1b; в карточке указано около 1 млрд активируемых параметров. Энкодер позволяет заранее кодировать документы, а декодер учитывает инструкции и намерение запроса; перекрёстное внимание связывает запрос с представлением документа. Поддерживается Matryoshka pooling с диапазоном 1x–32x. README указывает длину последовательности 128 тыс. токенов для этой версии, тогда как пример использования ограничивает длину документов 1024 токенами и запросов 512 токенами. Модель рассчитана на оценку пар «запрос—документ» и сортировку документов по релевантности. Авторы сообщают о конкурентных результатах на BEIR, MIRACL и LMEB; также отмечают, что модель не обучалась на больших объёмах многоязычных данных. Метаданные классифицируют её как мультиязычную, но конкретные языки не перечислены. Для инференса описана интеграция с Sentence Transformers и поддержка vLLM. Лицензия — Apache-2.0.

RemySkye/KAT-Coder-V2.5-Dev-GGUF — это набор GGUF-квантизаций модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и подготовленной для использования с llama.cpp пользователем RemySkye. Модель предназначена для генерации кода и агентских сценариев программирования, включая работу с инструментами и автоматизацию задач разработки, однако подробные сведения о возможностях исходной модели в представленном README отсутствуют. Доступны варианты от BF16 размером 64,61 GiB до квантизаций Q2_K размером 12,05 GiB, а также форматы Q3, Q4, Q5, Q6 и Q8. Квантизация позволяет выбирать компромисс между требованиями к памяти и сохранением качества, но более компактные варианты могут уступать полноразмерной версии. Модель относится к архитектуре mixture-of-experts; также заявлены поддержка текстовой генерации и кодовых задач. Языки, размер исходной модели, контекстное окно и модальности в README не указаны. Распространяется по лицензии Apache-2.0. Ограничения и условия использования, кроме лицензии, должны уточняться в документации исходной модели Kwaipilot/KAT-Coder-V2.5-Dev.

KDL-Frontier-Parser-nano — компактная модель разбора документов с открытыми весами, упакованная и настроенная компанией KoreaDeep. Это плотная визуально-языковая модель семейства Qwen2-VL с 1,2 млрд параметров; она принимает изображение документа и текстовый запрос, а в ответ выдаёт текстовую разметку или распознанное содержимое. Модель предназначена для конвейера обработки документов: сначала определяют макет и вырезают области, затем вызывают модель отдельно для каждой области с запросом на распознавание текста, таблиц или макета. Для таблиц она формирует OTSL. По результатам ParseBench от 10 июня 2026 года, средний балл на полном наборе из 2553 примеров составил 76,48; в README также указано отсутствие сбоев инференса в этом прогоне. Для обслуживания README приводит настройки vLLM с контекстом до 8192 токенов, одним изображением на запрос и отключённым режимом thinking. Модель опубликована по лицензии AGPL-3.0. Ее назначение специализировано на разборе документов; распознавание выполняется по областям в несколько вызовов, а преобразование результатов в форматы, отличные от OTSL для таблиц, оставлено вызывающему приложению.

islamassanov/Kimi-K3-Mixed-IQ2-GGUF — мультимодальная GGUF-квантизация базовой модели MoonshotAI/Kimi-K3, подготовленная пользователем islamassanov для запуска через llama.cpp. Модель предназначена для текстовых и визуально-текстовых задач, включая работу с изображениями и OCR. Для текстового режима vision projector можно не подключать. В основе лежит MoE-модель размером 2,8 трлн параметров с 896 маршрутизируемыми экспертами, из которых 16 активируются на каждом токене. Текстовые веса занимают около 793 GiB и распределены по 10 GGUF-файлам; экспертные матрицы используют смешанную квантизацию IQ2_XXS и IQ2_XS, а vision projector сохранён в BF16 и занимает около 862 MiB. Базовая архитектура поддерживает контекст до 1 млн токенов, однако фактически доступный размер контекста зависит от объёма памяти. По данным README, модель набрала 871/1000 на OCRBench, что составляет 97,9% от опубликованного результата базовой модели MoonshotAI. Ключевое преимущество — улучшенная точность восстановления весов при том же размере по сравнению со стандартным IQ2_XXS, но это не гарантирует прироста качества ответов. Главные ограничения — чрезвычайно высокие требования к дисковому пространству и памяти, а также необходимость использовать все 10 текстовых шардов. Распространение и использование регулируются лицензией Kimi K3; тип лицензии указан как other.

Это модель понимания структуры документов на базе LiLT с энкодером XLM-RoBERTa, дообученная Пьером Гийу на наборе DocLayNet. Она классифицирует строки документа по типам элементов макета: заголовок, основной текст, таблица, изображение, формула, подпись, колонтитул, элемент списка и другие классы. Модель предназначена для разметки страниц PDF и других документов на уровне строк; при обучении использовались фрагменты по 384 токена с перекрытием 128 токенов. Размер модели — 305,2 млн параметров, контекст — 514 токенов. В оценке на DocLayNet точность классификации строк составила 91,97%, а F1 для токенов — 0,8584. Она подходит для извлечения структуры финансовых отчётов, научных статей, инструкций, законов и других документов, помогая направлять последующий OCR и разбор содержимого. Поддерживаются английский, немецкий, французский и японский языки; разметка использует текст и геометрию документа. Лицензия — MIT.

LUKE-large — предварительно обученная модель понимания языка, разработанная исследователями, представившими LUKE (Language Understanding with Knowledge-based Embeddings). Она использует трансформер с механизмом entity-aware self-attention: слова и сущности в тексте рассматриваются как отдельные токены, а их типы учитываются при вычислении внимания. Модель содержит 454,1 млн параметров по метаданным; в README указано 483 млн. Архитектура включает 24 слоя со скрытым размером 1024, а базовое обучение проводилось на англоязычной Википедии за декабрь 2018 года. Основная задача в карточке Hugging Face — заполнение пропусков в тексте. Представления LUKE также применялись для извлечения ответов на вопросы, распознавания именованных сущностей, классификации отношений и определения типов сущностей; README приводит результаты на SQuAD, CoNLL-2003, ReCoRD, TACRED и Open Entity. Модель ориентирована на английский язык и имеет контекст до 514 токенов. Доступна в формате PyTorch по лицензии Apache-2.0.

openbmb/MiniCPM-V-4.6-Thinking-BNB — это 4-битная NF4-квантизованная версия мультимодальной модели MiniCPM-V 4.6 Thinking, разработанная командой OpenBMB. Модель предназначена для эффективного понимания изображений и видео, включая сложные мультимодальные рассуждения, математические задачи и распознавание текста на изображениях с высокой нагрузкой на OCR. Она ориентирована в том числе на запуск на конечных устройствах и мобильных платформах: iOS, Android и HarmonyOS. Архитектура включает визуальный энкодер SigLIP2-400M и языковую модель Qwen3.5-0.8B, а также смешанное сжатие визуальных токенов 4x/16x. Вариант Thinking формирует явную цепочку рассуждений перед итоговым ответом, что повышает качество на сложных задачах. Поддерживаются изображения и видео, работа через Transformers, обработка нескольких изображений и использование Flash Attention 2 для ускорения и снижения потребления памяти. Точный размер контекстного окна и список поддерживаемых языков в предоставленных данных не указаны. К сильным сторонам относятся компактность, низкие требования к памяти благодаря 4-битной квантизации, пригодность для edge-сценариев и способность выполнять сложный визуальный анализ. Ограничения включают зависимость от совместимости программного окружения и видеодекодера с версией CUDA, а также потенциальные компромиссы в точности из-за квантизации; количественные результаты оценки в README не приведены. Модель распространяется по лицензии Apache-2.0.

vantk85/my-embedding-gemma — модель Sentence Transformer, созданная дообучением google/embeddinggemma-300m. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству; максимальная длина последовательности — 2048 токенов. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. Дообучение описано на наборе из трёх парных примеров вопросов о финансовых и страховых продуктах с использованием MultipleNegativesRankingLoss. Такая малая выборка не подтверждает надёжное качество на широком круге задач и предметных областей. Репозиторий содержит веса safetensors и рассчитан на работу с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.

IsValorum/Nex-N2.5-mini-APEX-I-MiniPlus-V1-GGUF — это GGUF-квантизированная версия модели Nex-N2.5-mini, разработанной nex-agi. Сборка подготовлена IsValorum с использованием индивидуальной тензорной схемы квантования APEX-I-MiniPlus V1 и предназначена для запуска через llama.cpp и совместимые инструменты. Модель относится к мультимодальным системам с поддержкой изображений и сценариев агентного взаимодействия с компьютером; заявлен pipeline image-text-to-text. Модель использует архитектуру MoE и рассчитана на работу с текстом и визуальными входными данными. В README заявлена поддержка английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Для V1 указаны F32 router gates, выходная голова Q6_K, attention gates Q8_0 и основные эксперты IQ3_XXS. Размер модели, точное число параметров и длина контекста для этой версии не указаны. К сильным сторонам относятся компактность по сравнению с полноразмерной моделью, сохранение повышенной точности чувствительных компонентов и возможность использования преимущественно системной RAM. Ограничения связаны с потерями качества, неизбежными при агрессивном квантовании, а также с тем, что приведённые в README подробные результаты некоторых сравнений относятся к другим версиям или моделям семейства и не подтверждают характеристики именно этой сборки. Модель распространяется по лицензии Apache-2.0.

Это квантизированная версия мультимодальной модели Qwen3.8-27B, преобразованная starskyzheng в нативный формат .ninfer для NInfer и профиля NVIDIA GeForce RTX 5080. Исходная модель разработана командой Qwen. Артефакт предназначен исключительно для запуска в NInfer и не является checkpoint для Transformers, Safetensors или GGUF. Модель поддерживает генерацию текста в режимах с рассуждением и без него, обработку изображений, нескольких изображений, видео и смешанных мультимодальных сообщений. Заявлен контекст до 131 072 токенов с Q4 KV-кэшем, MTP-3 speculative decoding с окном в три токена, а также обслуживание через NInfer CLI, OpenAI Chat Completions и Anthropic Messages. Текстовое ядро использует смешанную групповую квантизацию Q3/Q4/Q5 с эффективным показателем около 3,95 BPW. Размер артефакта составляет примерно 15,33 GiB. Сильными сторонами являются мультимодальность, длинный контекст, поддержка video input и оптимизация для одной RTX 5080 с заявленной высокой скоростью декодирования. Ограничения существенны: требуется 64-битный Linux, NVIDIA GeForce RTX 5080 на 16 ГБ, CUDA Toolkit 13.1 или новее и сборка NInfer из исходников; не поддерживаются multi-GPU, CPU/GPU offload, распределённый запуск и выполнение сгенерированных tool calls. Артефакт распространяется по лицензии Apache-2.0, как и исходный репозиторий Qwen3.8-27B.

leomaurodesenv/nli-MiniLM2-L6-H768-nvidia-aegis-v1-augmented — дообученная модель на базе cross-encoder/nli-MiniLM2-L6-H768. Это плотная модель семейства RoBERTa с 95,2 млн параметров, предназначенная для классификации текста. Базовая модель определяет логическое отношение между парой предложений и поддерживает zero-shot-классификацию; карточка этой версии сообщает точность 0,9498 и loss 0,2039 на тестовой выборке, но не раскрывает её датасет и конкретную схему меток. Модель принимает текст и выдаёт результат классификации. Максимальная длина контекста — 514 токенов. Она опубликована в формате safetensors для Transformers под лицензией Apache-2.0. Языковая специализация этой версии и её ограничения в README не описаны.