II.6Документация и сопровождение разработки

Модель antoinelouis/biencoder-camembert-base-mmarcoFR — плотный биэнкодер для семантического поиска на французском языке, разработанный Antoine Louis. Она кодирует запросы и фрагменты текста в отдельные векторы размерностью 768 и оценивает их релевантность по косинусному сходству. Модель построена на CamemBERT-base и дообучена на французской части mMARCO, включая сложные отрицательные примеры, полученные от плотных поисковых систем. Модель предназначена для поиска passage по запросу, ранжирования найденных фрагментов и построения семантического поиска по французским коллекциям документов. В README указаны максимальная длина последовательностей 128 токенов при обучении, а метаданные задают контекст модели в 514 токенов; для вычисления эмбеддингов предлагаются Sentence-Transformers, FlagEmbedding и Transformers. Лицензия — MIT.

antoinelouis/biencoder-distilcamembert-mmarcoFR — франкоязычный плотный bi-encoder, дообученный Antoine Louis на базе cmarkea/distilcamembert-base для семантического поиска и извлечения релевантных passages. Модель кодирует запросы и документы в векторы размерности 768; косинусное сходство между ними служит оценкой релевантности. Архитектура основана на CamemBERT, содержит 81,2 млн параметров и поддерживает последовательности длиной до 514 токенов; в описанном обучении длина запросов и passages ограничивалась 128 токенами. Модель обучена на французской части mMARCO с hard negatives, полученными от плотных ретриверов. В README приведена оценка на dev-наборе mMARCO-fr с 6 980 запросами и корпусом из 8,8 млн passages. Она подходит для построения семантического поиска на французском языке, где запросы и документы кодируются отдельно, а кандидаты ранжируются по сходству векторов. Лицензия — MIT.

Bud Code Millenials 34B — языковая модель для генерации программного кода, разработанная Bud Ecosystem и дообученная для задач программирования. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров; репозиторий содержит веса в формате safetensors, а максимальная длина контекста составляет 16 384 токена. Модель предназначена для генерации кода по текстовому запросу и помощи в программировании. В README указаны результаты HumanEval 80,48 pass@1 и MBPP 74,68, полученные авторами; эти показатели зависят от методики оценки и не гарантируют такой же результат в пользовательских сценариях. Модель может ошибаться и хуже справляться с задачами, не связанными с кодированием. Использование регулируется лицензией Llama 2.

daVinci-Agency — языковая модель от GAIR, дообученная на базе GLM-4.6 от Zhipu AI для длительных агентных задач, особенно связанных с разработкой программного обеспечения. Она обучалась на траекториях реальных цепочек GitHub Pull Request и рассчитана на работу с многошаговыми процессами: декомпозицией задач, сохранением последовательности действий, использованием инструментов и итеративным улучшением результатов. Модель имеет архитектуру GLM-4 MoE и 23,4 млрд параметров. Контекстное окно составляет около 200 тысяч токенов; в метаданных указано 202 752 токена. Основные сценарии — автономное программирование, планирование и выполнение сложных рабочих процессов, анализ обратной связи и самокоррекция. В README сообщается о приросте на Toolathlon относительно базовой модели, однако приведённых результатов недостаточно для оценки качества во всех сценариях. Модель принимает текст и генерирует текст, включая ответы в чат-формате и вызовы инструментов. В карточке заявлена поддержка английского языка. Лицензия — MIT.

DeepSeek-V4.1-Flash-UNCENSORED-FP8 — модифицированная версия DeepSeek-V4.1-Flash от dealignai, созданная исследовательской командой dealignai. Это мультимодальная модель с поддержкой изображений, инструментов и рассуждений, предназначенная для диалоговых приложений, анализа текста и изображений, выполнения многошаговых задач и работы с длинным контекстом. Модель распространяется как стандартный checkpoint для Transformers и основана на deepseek-ai/DeepSeek-V4.1-Flash. Модель использует архитектуру Causal Encoder-Decoder с 20+20 слоями и MoE: 384 маршрутизируемых эксперта с выбором top-6 и один общий эксперт. Заявлены 552B параметров в backbone, из которых 8B/16B активны на токен. Также используются Hyper-Connections с четырьмя каналами остаточных связей, разреженное внимание CSA2, память Engram для n-грамм и черновая голова DSpark для speculative decoding. Весы представлены в нативном FP8 e4m3fn с блочным масштабированием E8M0, маршрутизируемые эксперты — в FP4. Контекстное окно составляет до 1 млн токенов, а визуальная часть основана на DeepSeek-ViT с 2D-RoPE и pixel unshuffle. Ключевая особенность — перманентная модификация весов, направленная на удаление встроенных механизмов отказа и ограничений безопасности; при этом заявлено сохранение основных возможностей, включая зрение, рассуждения, MTP и многоходовую связность. По приведённым тестам модель полностью выполняет запросы из HarmBench-320, однако её результат MMLU ниже базовой модели: 82,74% против 86,96%; без этических предметов снижение оценивается примерно в 1,1 процентного пункта. Поэтому модель может быть полезна для исследовательских и экспериментальных сценариев, требующих минимальных встроенных ограничений, но несёт повышенный риск генерации опасного или незаконного содержания и не подходит для неконтролируемых пользовательских продуктов. Лицензия — MIT.

ettin-reranker-32m-v1 — англоязычный кросс-энкодер, дообученный разработчиками проекта Ettin на базе jhu-clsp/ettin-encoder-32m с библиотекой Sentence Transformers. Модель содержит 31,9 млн параметров, построена на архитектуре ModernBERT и принимает пары текстов, чтобы оценивать их релевантность; оценки можно использовать для ранжирования результатов семантического поиска и других задач поиска информации. Максимальная длина последовательности — 7 999 токенов. Модель предназначена для повторного ранжирования кандидатов, полученных поисковой системой или моделью эмбеддингов, например в двухэтапном поиске. В README приведены результаты бенчмарков на английских задачах retrieval и сравнительные показатели скорости на GPU и CPU. Доступны форматы safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0.

Functionary Small v3.2 — языковая модель команды MeetKai для диалогов с вызовом функций и инструментов. Она основана на Meta Llama 3.1 8B Instruct; в репозитории указана плотная архитектура Llama с 7,5 млрд параметров и контекстом до 131 072 токенов. Веса представлены в формате safetensors. Модель подходит для чат-сценариев, где нужно выбирать подходящий инструмент, формировать вызовы по описаниям функций в JSON Schema, запускать несколько функций параллельно или последовательно и использовать их результаты для ответа. Она также может продолжать обычный диалог без вызова инструментов и поддерживает сценарии с интерпретатором кода. Для разбора сырых ответов в структуру с полями роли, содержимого и вызовов инструментов предусмотрен пользовательский код; авторы также рекомендуют запуск через совместимый с OpenAI сервер vLLM. Лицензия — MIT. Карточка описывает интерфейс вызова инструментов, но не приводит языковых оценок или сравнительных результатов; фактическое качество зависит от формата промпта и корректной обработки вызовов инструментов.

tarif2108 разработал дообученную текстовую модель на базе google/gemma-3-270m-it для извлечения структурированных данных и формирования JSON без разговорных вступлений. Модель содержит 257 млн параметров, использует плотную архитектуру Gemma 3 и рассчитана на контекст до 32 768 токенов. В карточке заявлена настройка для function calling и строгого вывода JSON; приведённая оценка на тестовом наборе из 100 запросов показывает 90% синтаксически корректных JSON-ответов и 21% точного совпадения со схемой. Модель подходит для преобразования текстовых запросов и описаний в JSON, а также для извлечения аргументов структурированных вызовов функций. README сообщает о меньшей задержке и более высокой точности форматирования относительно базовой модели, однако эти результаты получены на небольшом тестовом наборе и не гарантируют качество на других данных. Доступны веса safetensors и GGUF F16. Лицензия — Gemma; перед использованием следует соблюдать её условия.

Это пакет слоёв модели gpt-oss-120b-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса на кластере локальных машин. Он получен из unsloth/gpt-oss-120b-GGUF и сохраняет исходное распределение GGUF, разделённое на артефакты по слоям. Пакет предназначен для запуска через Mesh LLM, в том числе когда модель слишком велика для одного компьютера. Модель поддерживает генерацию текста и диалоговый режим. Mesh LLM позволяет распределять вычисления между несколькими узлами и предоставлять локальный API, совместимый с OpenAI Chat Completions. Формат исходных весов — GGUF; вариант пакета — UD-Q4_K_XL. Для архитектурных сведений, рекомендаций по шаблону чата и лицензии README отсылает к карточке исходной модели, поэтому эти условия для данного пакета отдельно не приводятся.

afanjul/gte-reranker-modernbert-base-mlx — англоязычный реранкер на базе ModernBERT-base, подготовленный afanjul и преобразованный из Alibaba-NLP/gte-reranker-modernbert-base в формат MLX. Модель оценивает релевантность текста для ранжирования, например при поиске или отборе результатов по запросу. Она построена на архитектуре ModernBERT и содержит 149 млн параметров; длина контекста составляет до 8192 токенов. Репозиторий содержит веса в формате safetensors, а README описывает использование через mlx-embeddings. Модель рассчитана на англоязычные задачи ранжирования текста. Лицензия — Apache-2.0. README указывает на конверсию в MLX, а метаданные связывают модель с дообучением answerdotai/ModernBERT-base; конкретная схема обучения реранкера не описана.

HHEM-2.1-Open — модель Vectara для выявления фактической несогласованности текста с предоставленным контекстом, в частности для контроля ответов LLM в RAG-системах и агентных приложениях. Она принимает пару текстов: свидетельство или предпосылку и проверяемую гипотезу. Модель оценивает, насколько гипотеза подтверждается свидетельством: оценка от 0 до 1, где 0 означает отсутствие подтверждения, а 1 — полную поддержку. Проверка асимметрична: перестановка текстов может изменить результат. Модель построена на базе google/flan-t5-base и дообучена для классификации последовательностей; в Transformers доступны оценка пары или метки «hallucinated» и «consistent». Карточка заявляет неограниченную длину контекста относительно лимита HHEM-1.0 в 512 токенов, но предупреждает о наследуемом ограничении длины входа T5-base. Модель рассчитана на английский язык; сведения о поддержке других языков для этой открытой версии не приводятся. Лицензия — Apache-2.0.

KaLM-Reranker-V1-Large-R2 — модель-реранкер семейства KaLM от разработчиков KaLM-Embedding, дообученная на базе google/t5gemma-2-4b-4b. Она оценивает релевантность документов запросу и предназначена для повторной сортировки кандидатов в поиске и RAG-системах. Архитектура FBNL использует encoder-decoder T5Gemma2; размер Large — около 4 млрд активируемых параметров, поддерживается контекст до 128 тыс. токенов. Модель поддерживает многоязычное ранжирование и Matryoshka pooling с коэффициентом сжатия от 1x до 128x. Меняя сжатие и применяя каскадную схему coarse-to-fine, можно регулировать вычислительные затраты при ранжировании большого числа кандидатов. В README приведены результаты на BEIR и MIRACL; они указывают на улучшение относительно предыдущей версии, включая устойчивость к сильному сжатию. Модель принимает текстовые запросы и документы, а выдаёт оценки релевантности для сортировки. Она не предназначена для генерации свободного текста. Лицензия — Apache-2.0. Результаты бенчмарков не гарантируют такую же точность на конкретных данных; качество следует оценивать на целевом поисковом корпусе.

QuantFactory/Llama-3-Groq-8B-Tool-Use-GGUF — квантизированная версия модели Llama-3-Groq-8B-Tool-Use, созданная QuantFactory с использованием llama.cpp на основе модели Groq. Это авторегрессионная языковая модель с оптимизированной transformer-архитектурой и примерно 8 млрд параметров, дообученная полным fine-tuning и методом Direct Preference Optimization (DPO) на базе Llama 3 8B. Модель предназначена прежде всего для tool use и function calling: взаимодействия с API, обработки структурированных данных и выполнения сложных последовательностей вызовов инструментов. Она принимает текст и генерирует текст с поддержкой вызовов функций в структурированном формате. Заявленный язык — английский; сведения о размере контекста и мультимодальных возможностях отсутствуют. На Berkeley Function Calling Leaderboard модель получила 89,06% общей точности, что в карточке указано как лучший результат среди открытых 8B-моделей. Для общих вопросов и открытой генерации может быть предпочтительнее универсальная языковая модель. Модель способна генерировать неточный или предвзятый контент и требует дополнительных мер безопасности. Результаты чувствительны к параметрам sampling; в качестве отправной точки рекомендованы temperature 0,5 и top_p 0,65. Указана лицензия Meta Llama 3 Community License.

Meta-Llama-3-8B-Instruct-zh-10k — дообученная XavierSpycy диалоговая языковая модель на архитектуре Llama 3 с 7,5 млрд параметров. Она создана на основе meta-llama/Meta-Llama-3-8B-Instruct с помощью LoRA и LLaMA-Factory: модель обучали три эпохи примерно на 10 тысячах китайских примеров из наборов Alpaca Chinese, Alpaca GPT-4 Chinese и OASST SFT Chinese. Для неё заявлено контекстное окно 8192 токена. Модель предназначена прежде всего для диалогов и генерации текста на китайском языке; также поддерживает английский. Её можно использовать для ответов на вопросы, написания текстов, анализа тональности, работы с кодом и вызова функций. README отмечает, что способности модели проверены не полностью: качество китайских ответов зависит от обучающих данных, а ролевые игры, математика и сложные неоднозначные задачи могут даваться хуже. Также не оценено, насколько дообучение вызвало забывание исходных навыков. Лицензия — Apache-2.0.

mist-reranker-22.7M — компактная англоязычная модель-переранжировщик, разработанная OlaVerse. Это cross-encoder на базе cross-encoder/ms-marco-MiniLM-L6-v2 с архитектурой BERT и примерно 25,9 млн параметров по метаданным. Модель оценивает пару «поисковый запрос — фрагмент текста» единым баллом релевантности, чтобы переставлять кандидатов, найденных первым этапом поиска, например в конвейере RAG. Контекст составляет до 512 токенов; модель использует Sentence Transformers и формат safetensors. Модель дообучена на 844 тысячах англоязычных пар из olaverse/reranker-general-en-llm-judged с комбинированной целью: меткой релевантности от LLM-судьи и дополнительным обучением на оценках учителя BAAI/bge-reranker-v2-m3. В карточке сообщается о результатах на NanoBEIR: NDCG@10 равен 0,8543; модель предназначена для быстрого переранжирования при умеренных вычислительных ресурсах. Лицензия — Apache-2.0.

mlx-community/mxbai-rerank-large-v2 — версия модели mixedbread-ai/mxbai-rerank-large-v2, преобразованная сообществом mlx-community в формат MLX для запуска на устройствах Apple Silicon. Это плотная авторегрессионная модель Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов; базовая модель предназначена для переоценки и сортировки результатов поиска по релевантности запросу. Карточка указывает библиотеку MLX и формат safetensors, а также лицензию Apache-2.0. Модель подходит для включения в конвейеры поиска и RAG, где нужно пересортировать найденные документы или фрагменты по соответствию запросу. Метаданные Hugging Face помечают её задачей text-generation и разговорной моделью, хотя базовая модель предназначена для ранжирования; README описывает конвертацию весов, но не содержит подробностей о вызове реранкера или оценках качества. Языковые теги и карточка базовой модели указывают на многоязычность, но русский язык среди перечисленных языков карточки не указан.

Ornith-1.0-35B-NVFP4 — квантованная версия модели deepreinforce-ai/Ornith-1.0-35B, разработанной DeepReinforce. Это агентная модель для генерации кода с механизмом самостоятельного выстраивания рассуждений, основанная на архитектуре qwen3_5_moe: Mixture-of-Experts с 35 млрд параметров и визуальной башней Qwen3-VL. Модель поддерживает текстовые и визуальные входные данные, а заявленные языки включают английский, китайский, японский и французский. Модель предназначена для агентного программирования, генерации и решения задач на код. Доступны режимы с рассуждением и без него; при включённом рассуждении модель может формировать более качественные ответы, но требует увеличенного лимита вывода. В README приведены результаты pass@1: 93,9% на HumanEval+ и 80,6% на MBPP+ в режиме рассуждения, а без рассуждения — 87,1% и 78,1% соответственно. Контекст ограничен 8192 токенами в рекомендуемой конфигурации vLLM. Все линейные слои квантизированы в формате NVFP4 W4A4 с размером группы 16; визуальная башня, маршрутизаторы MoE и lm_head сохранены в bf16. Размер модели уменьшен с 70,3 до 21,9 ГБ, что позволяет запускать её на двух GPU по 16 ГБ через vLLM с автоматическим обнаружением квантования. Ограничениями являются требования к нескольким GPU, зависимость от совместимой инфраструктуры vLLM и необходимость корректно извлекать ответ после блока </think> при оценке режима рассуждения. Модель распространяется по лицензии MIT; производные веса и исходная модель атрибутированы DeepReinforce.

SC117/Ornith-1.0-9B-heretic-MTP — текстовая генеративная модель для агентного программирования, созданная на основе Ornith-1.0-9B от DeepReinforce AI. В README описана как дообученная с помощью обучения с подкреплением модель семейства Qwen3.5 с 9 млрд параметров; репозиторий содержит веса BF16 в Safetensors, добавленные MTP-слои и проектор зрения mmproj-F16. Модель предназначена для генерации кода, выполнения задач разработки с агентными сценариями и взаимодействия через чат. MTP (Multi-Token Prediction) позволяет предсказывать несколько будущих токенов одновременно. В README также указана абляция поведения отказа методом heretic ARA-LoRA. Метаданные указывают поддержку чата и задачу text-generation; несмотря на упоминание зрения в README, возможности мультимодального ввода не подтверждены метаданными. Лицензия — MIT. README приводит результаты на Terminal-Bench 2.1, SWE-Bench Verified, NL2Repo и OpenClaw, но числовые таблицы результатов в доступном тексте пропущены. Для запуска в llama.cpp указаны шаблон chatml и контекст 8192 токена; это рекомендация из README, а не значение native-контекста в метаданных.

OxCoder-9B-GGUF — GGUF-версия модели OxCoder-9B, разработанной OrionLLM на основе Qwen3.5-9B. Модель предназначена для агентного программирования на длительном горизонте, автоматизации работы в терминале, рассуждений и практических задач разработки программного обеспечения, включая работу со сложными многофайловыми кодовыми базами. Указан английский язык; README также содержит тег image-text-to-text и файл mmproj, однако подробности мультимодальных возможностей не описаны. Модель содержит 9 миллиардов параметров и поддерживает нативное контекстное окно 262 144 токена. Она обучалась на дистиллированных агентных траекториях, созданных с использованием Fable-5.1 и GLM-5.3 в средах Claude Code, OpenCode и Codex. Среди заявленных сильных сторон — агентное программирование в терминале, фронтенд-рассуждения, понимание UI-логики и архитектуры компонентов, а также восстановление после ошибок с чтением перед записью и минимальными изменениями на основе диагностик LSP. В README приведены высокие результаты на Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro, GPQA Diamond и ClawEval, но методика оценки не раскрыта. Модель выпускается в нескольких вариантах квантования GGUF, включая BF16, Q3, Q4 и Q5, с размером файлов примерно от 4,26 до 17,9 ГБ; это позволяет выбирать между качеством и требованиями к памяти. Для запуска рекомендуется llama.cpp. Ограничения включают компактный размер по сравнению с более крупными моделями и отсутствие подробной информации о фактическом качестве, системных требованиях и мультимодальном режиме. Распространяется по лицензии Apache 2.0.

Palmyra-mini-thinking-b — англоязычная чат-модель генерации текста компании Writer, дообученная на NVIDIA OpenReasoning-Nemotron-1.5B. Это плотная причинно-языковая модель семейства Qwen2 примерно на 1,5 млрд параметров с контекстом до 131 072 токенов. Модель предназначена для пошаговых рассуждений, решения математических задач и задач по программированию, включая генерацию и отладку кода. В README приведены результаты на математических и программных бенчмарках; они зависят от методики оценки и параметров генерации и не гарантируют аналогичного качества в других сценариях. Модель принимает текст и генерирует текст. README отмечает риск предвзятых или неточных ответов. Лицензия — Apache-2.0.

Pathumma-llm-text-4.0.0 — тайско-английская причинная языковая модель семейства Qwen3.5, разработанная в рамках национальной инициативы ThaiLLM. В README указана версия Pathumma-llm-4b-think-4.0.0: модель содержит 4 млрд параметров и проходит постобучение в два этапа — SFT и DPO. Репозиторий использует Transformers и формат Safetensors; лицензия — Apache-2.0. Модель предназначена для генерации текста в диалогах, следования инструкциям, математических рассуждений и структурированного вызова инструментов на тайском и английском языках. Она может выводить явную цепочку рассуждений перед ответом. Архитектура поддерживает контекст до 262 144 токенов, однако поведение на контекстах существенно длиннее 8 192 токенов в постобучении не проверено.

Карточка модели Aidev2006/Pinto-Coder-v1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

PaddlePaddle/PP-DocLayoutV3_safetensors — веса PP-DocLayoutV3 в формате safetensors, подготовленные PaddlePaddle для использования с Transformers. Модель предназначена для анализа структуры документов, включая изображения с искривлёнными и неплоскими поверхностями: она обнаруживает элементы макета, предсказывает для них многоугольные рамки и определяет логический порядок чтения за один проход. Модель используется как компонент PaddleOCR-VL 1.5/1.6 и GLM-OCR для разбора документов. В карточке указана поддержка английского и китайского языков, а лицензия — Apache-2.0. Ограничение области применения: модель ориентирована на анализ макета документов и сама по себе не описана как универсальная система распознавания и понимания текста.

ManniX-ITA/Qwen3.6-27B-A3B-Coder — производная от Qwen/Qwen3.6-35B-A3B модель для генерации программного кода. В исходной MoE-модели число экспертов сокращено с 256 до 184 на слой по карте компетенций, ориентированной на задачи программирования; число активных экспертов сохранено на уровне A3B. В конфигурации по умолчанию задана маршрутизация top-10. По карточке, дообучение и дистилляция не применялись. Модель сохраняет архитектурные компоненты базовой модели, включая vision tower, но в метаданных основная задача указана как text-generation. Модель предназначена для генерации кода и задач программирования, в том числе на Rust, Java и JavaScript. В карточке приведены результаты HumanEval, LiveCodeBench и MultiPL-E; также сообщается о снижении показателей в отдельных общих и агентных задачах. Лицензия — Apache-2.0. Результаты MultiPL-E измерены с top-8, тогда как опубликованная конфигурация использует top-10; оценка использования инструментов затронута известной ошибкой оценщика и включает safety-critical failures.

paulalesius/Qwen3-Reranker-0.6B-GGUF — это GGUF-квантизированная версия модели Qwen3-Reranker-0.6B, разработанной командой Qwen и подготовленной для работы с llama.cpp. Модель предназначена для переранжирования текстовых документов по степени их релевантности запросу в сценариях поиска, retrieval-augmented generation и построения семантических поисковых систем. Она использует архитектуру Qwen3 и cross-encoder-подход с двухклассовой головой, выдающей оценку yes/no для релевантности пары «запрос — документ». README указывает поддержку многоязычных сценариев, но конкретный список языков и размер контекста не приведены. В репозитории доступны варианты NVFP4 размером около 399,5 MiB и Q6_K размером около 472 MiB. Оба файла содержат примерно 595,8 млн параметров и используют гибридное квантование: голова релевантности сохранена в BF16, нормализационные тензоры — в F32, а крупные линейные слои сжаты. Вариант NVFP4 также сохраняет таблицу эмбеддингов в Q8_0. Это уменьшает размер модели относительно BF16 примерно в 2,4–2,9 раза при близком качестве ранжирования; для Q6_K в заявленном тесте корреляция с BF16 была очень высокой, а совпадение решений по порогу 0,5 составило 60 из 60 случаев. Модель подходит для запуска через llama-server с параметром --reranking и endpoint /rerank. Ограничения связаны с тем, что результаты могут зависеть от устройства и используемых CPU/GPU-ядер: в README отмечены заметные различия ранжирования между CPU и GPU на отдельном тестовом наборе. Лицензия — Apache-2.0, как у исходной модели.

RavenX Chaos Agent — Qwen3.8-27B OBLITERATED — это текстовая языковая модель в формате GGUF, разработанная RavenX AI Labs LLC на базе OBLITERATUS/Qwen3.8-27B-OBLITERATED. По данным карточки, модель обучалась методом Soul Injection на 1 903 806 примерах, объединяющих программирование, рассуждения, агентное взаимодействие, анализ кибербезопасности и другие предметные области. Заявлена поддержка английского языка; сведения о других языках, длине контекста и мультимодальности не приведены. Модель предназначена для генерации кода, технического анализа, работы с инструментами и цепочками вызовов, задач red team и пентестинга, анализа уязвимостей, подготовки bug bounty-отчётов, сопоставления с MITRE ATT&CK, а также для торгового, блокчейн- и криптографического анализа, математического рассуждения и творческого письма. Заявлена совместимость с llama.cpp, Ollama и LM Studio. Версия GGUF Q4_K_M имеет размер около 15,7 ГБ и заявленную скорость 21,6 токена в секунду; также доступна отдельная версия MLX для Apple Silicon. Сильными сторонами заявлены широкий охват задач, специализированные знания по кибербезопасности, генерация производственного кода, вызов инструментов и автономная оркестрация. При этом заявления о результатах основаны на приведённых разработчиком описаниях и внутренних тестах, поэтому их следует дополнительно проверять. Карточка не содержит подробностей о качестве на независимых бенчмарках, длине контекста и точных системных требованиях. Модель описана как abliterated и имеющая нулевые отказы и защитные ограничения, что повышает риск небезопасной генерации и требует контроля при использовании в реальных системах. Лицензия — Apache-2.0.

Это англоязычная модель Cross Encoder, разработанная сообществом cross-encoder-testing и дообученная на базе prajjwal1/bert-tiny с использованием библиотеки Sentence Transformers. Она оценивает пары текстов и возвращает числовой балл релевантности, поэтому предназначена прежде всего для переранжирования результатов поиска, семантического сравнения текстов, поиска перефразировок, классификации текстовых пар и связанных задач. Модель имеет архитектуру Cross Encoder, один выходной label и поддерживает последовательности длиной до 512 токенов. Она работает с текстом на английском языке и применяется к двум текстам одновременно, что обычно позволяет учитывать их взаимное содержание, но требует отдельного вычисления для каждой пары и может быть менее производительной на больших объёмах, чем модели, кодирующие тексты независимо. В README не приведены размер модели, значения метрик или подробные результаты оценки; указано лишь, что обучение выполнялось с BinaryCrossEntropyLoss на данных GooAQ. Модель распространяется по лицензии Apache-2.0. Для использования рекомендуется библиотека Sentence Transformers; README содержит примеры получения оценок для пар текстов и ранжирования набора документов по запросу.

Англоязычный кросс-энкодер kwondw/reranker-ModernBERT-base-gooaq-bce-50k разработан на базе answerdotai/ModernBERT-base и дообучен на данных GooAQ с помощью Sentence Transformers. Модель совместно анализирует пару текстов и выдаёт оценку релевантности, подходящую для повторного ранжирования результатов поиска и семантического поиска. Модель содержит 149 млн параметров, использует архитектуру ModernBertForSequenceClassification и обрабатывает текстовые входы с контекстом до 8192 токенов. В карточке приведены результаты оценки на GooAQ и наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR; показатели различаются между наборами, поэтому качество зависит от данных и сценария применения. Лицензия — Apache-2.0. Это кросс-энкодер, который оценивает пары текстов; его можно применять для ранжирования уже отобранных кандидатов, но карточка не заявляет генерацию текста.

TabiBERT — энкодерная трансформерная языковая модель в стиле BERT, разработанная TABILAB при поддержке VNGRS. Она основана на архитектуре ModernBERT-base и содержит 148,8 млн параметров. Модель обучена преимущественно на турецких текстах, а также на английском языке, коде и математических данных; поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, GeGLU и Flash Attention. Модель предназначена для заполнения пропусков и может служить основой для дообучения под задачи классификации, извлечения ответов на вопросы, NLI, поиска и представления кода, а также семантического поиска по длинным документам. В описанной авторами оценке на турецком бенчмарке TabiBench она показала высокие результаты, включая задачи поиска и QA. Репозиторий содержит веса Safetensors для использования через Transformers. Лицензия — Apache-2.0. По README, качество модели на английском может уступать качеству на турецком, а на других языках — быть ниже; возможны унаследованные от обучающих данных смещения. Обработка последовательностей близких к 8192 токенам может быть медленнее, и авторы рекомендуют проверять результаты перед применением в критических сценариях.

VEJI-V2 — компактная модель типизированного выбора кандидата и принятия структурированных решений, опубликованная racore. Это не генеративная языковая модель: она получает контекст, вопрос или инструкцию и список вариантов, совместно оценивает варианты и возвращает лучший ответ, вероятности, оценку уверенности и фрагменты контекста, использованные для решения. Модель использует замороженный многоязычный энкодер paraphrase-multilingual-MiniLM-L12-v2, маршрутизацию свидетельств, рекуррентное уточнение с GRUCell и признаки точного совпадения, чисел, отрицаний и токенов кода. Обучаемая часть содержит около 3,28 млн параметров без учёта энкодера. Модель предназначена для классификации, маршрутизации запросов, извлечения ответа из заданных вариантов, проверок политик, семантического сопоставления, анализа кода и многошаговых вопросов по контексту. В README заявлена обработка контекста до 250 000 символов с повторным использованием закодированного состояния; тестовая точность составила 82,95% на выборке из 522 вопросов. Указаны английский и арабский языки, формат PyTorch и лицензия MIT. Ответ ограничен предоставленными вариантами, поэтому качество зависит от их полноты и формулировок. Оценка основана на небольшой выборке; в ней слабы ранжирование, планирование, временной порядок, некоторые числовые проверки и предсказание точного вывода кода. Начальная компиляция длинного контекста может быть затратной, а полный тест на длинном контексте не завершился.