I.14Автоматизация процессов и AI-агенты

Qwen3-VL-30B-A3B-Thinking-1M-GGUF — GGUF-репозиторий весов мультимодальной модели Qwen3-VL-30B-A3B-Thinking, разработанной командой Qwen; сборка и адаптация опубликованы Unsloth. Модель предназначена для совместной обработки текста и изображений, а также для анализа видео, визуального рассуждения, OCR, генерации описаний и ответов, STEM-задач, пространственного анализа, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель использует MoE-архитектуру и относится к Thinking-редакции с усиленным рассуждением; в названии указаны 30B общих параметров и 3B активных параметров. Она поддерживает нативный контекст до 256K токенов с заявленной возможностью расширения до 1M, а также обработку длинных документов и продолжительных видео. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных позиций, DeepStack для объединения признаков ViT разных уровней и выравнивание текста с временными метками. OCR заявлен для 32 языков, однако полный перечень языков в README не приведён. К сильным сторонам относятся визуальное и мультимодальное рассуждение, понимание пространственных отношений, видео и длинного контекста, распознавание текста в сложных условиях и возможности визуального агента. Ограничения конкретной GGUF-квантизации, требования к ресурсам, точные параметры квантизации и результаты тестов в README не указаны; заявленные преимущества Unsloth Dynamic 2.0 приведены без подробных подтверждающих данных. Для запуска с llama.cpp требуется использовать параметр --jinja. Репозиторий распространяется по лицензии Apache-2.0.

FuriosaAI публикует эту сборку Qwen3-VL-32B-Thinking вместе с пакетом Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это плотная мультимодальная модель с 32 млрд параметров: она сочетает визуальный энкодер и трансформерный декодер, использует Interleaved-MRoPE и слияние признаков DeepStack. Квантизация не применялась; веса сохраняют точность исходной модели Qwen/Qwen3-VL-32B-Thinking. Модель принимает изображения и текст, а отвечает текстом. Она предназначена для распознавания текста на изображениях, анализа документов и диаграмм, пространственных рассуждений и понимания видео. Версия Thinking формирует рассуждение перед итоговым ответом; также поддерживается вызов инструментов. README описывает запуск через Furiosa-LLM на RNGD, а также совместимость с vLLM, SGLang и Transformers. Модель выпущена под лицензией Apache 2.0. Для запуска на RNGD требуется конфигурация с 32 PE, распределёнными по четырём картам RNGD; отдельные ограничения качества в предоставленных материалах не описаны.

cyankiwi/Qwen3-VL-4B-Instruct-AWQ-8bit — 8-битная AWQ-квантизованная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, а также заявлена для понимания видео, визуального рассуждения и взаимодействия с графическими интерфейсами. Она подходит для описания изображений, визуального вопросно-ответного взаимодействия, OCR, анализа документов, STEM-задач, генерации кода и разметки интерфейсов по визуальным примерам. Модель использует плотную архитектуру размером 4B параметров и поддерживает контекст до 256K токенов с возможностью расширения до 1M. Среди заявленных архитектурных компонентов — Interleaved-MRoPE для временных и пространственных координат, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. Указана поддержка OCR на 32 языках, однако полный перечень языков в README не приведён. Сильные стороны модели — объединённое понимание текста и изображений, распознавание объектов и документов, пространственное и временное рассуждение, работа с длинным контекстом и сценарии визуального агента. Ограничения включают уменьшенную точность, возможные потери качества и совместимость, связанные с 8-битной AWQ-квантизацией, а также отсутствие в README подробных количественных результатов, полного списка языков и требований к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

Qwopus-GLM-18B-Merged-GGUF — экспериментальная текстовая модель семейства Qwen3.5, созданная на основе двух дообученных моделей Jackrong: Qwopus3.5-9B-v3.5 и Qwen3.5-9B-GLM5.1-Distill-v1. Модель собрана методом frankenmerge: объединены по 32 слоя каждой исходной модели, всего 64 слоя и около 18 млрд параметров. После объединения выполнено 1000 шагов QLoRA-дообучения для устранения проблем на границе слоёв. В репозитории представлена версия в формате GGUF с квантизацией Q4_K_M размером около 9,2 ГБ. Модель предназначена для генерации текста, рассуждений, диалогов, программирования, структурированного вывода, tool calling и агентских сценариев. Заявлена поддержка английского, китайского, корейского, японского, французского, немецкого и испанского языков. По данным авторского набора из 44 тестов, модель получила 40 успешных результатов, включая максимальные показатели в категориях базовой генерации, рассуждений, вызова инструментов и агентских рабочих процессов. Она ориентирована на локальный запуск и, согласно README, помещается в 12 ГБ видеопамяти; заявленная производительность составляет около 66 токенов в секунду. Сильными сторонами являются tool calling, агентское рассуждение, многоязычная генерация и улучшенная после «лечения» корректность HTML, CSS и JavaScript. Ограничения включают экспериментальный статус, отсутствие полной независимой оценки и остаточные проблемы в программировании: три теста из пятнадцати не пройдены из-за ошибок именования функций, скобок JavaScript и формата блока кода. Размер контекста в README не указан. Модель распространяется по лицензии Apache-2.0.

Qwopus-GLM-18B-Merged-GGUF — экспериментальная модель, разработанная KyleHessling1 на основе двух дообученных моделей Jackrong: Qwopus3.5-9B-v3.5 и Qwen3.5-9B-GLM5.1-Distill-v1. Это 64-слойное объединение моделей Qwen3.5, дополнительно обработанное 1000-шаговым QLoRA-дообучением для устранения проблем на границе объединения слоёв. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, структурированного вывода, вызова инструментов и агентских сценариев. Модель содержит около 18 млрд параметров; доступная версия распространяется в формате GGUF с квантизацией Q4_K_M и размером около 9,2 ГБ. Заявлена поддержка английского, китайского, корейского, японского, французского, немецкого и испанского языков. По данным автора, модель показывает сильные результаты в рассуждениях, вызове инструментов, многошаговых агентских задачах и структурированном выводе, а также способна работать примерно на 12 ГБ видеопамяти, включая потребительские GPU. В тестовом наборе она набрала 40 из 44 заданий, однако программирование остаётся неидеальным: некоторые случаи форматирования и генерации кода всё ещё завершаются ошибками. Модель следует считать экспериментальной: несмотря на улучшение качества после QLoRA-дообучения, у неё могут сохраняться артефакты объединения и другие непредсказуемые особенности. Лицензия — Apache-2.0.

Qwythos-9B-v2-GGUF — набор GGUF-квантизаций модели Qwythos-9B-v2, разработанной Empero AI, предназначенный для запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Модель ориентирована на рассуждения, генерацию текста, вызов функций и мультимодальные сценарии с анализом изображений. Это 9-миллиардная гибридная модель с сочетанием блоков Gated-DeltaNet линейного внимания и полноформатного внимания в соотношении 3:1. Доступны варианты от Q4_K_M до BF16, включая версии с восстановленной MTP-головой для speculative decoding. Заявлены английский язык, контекст до 1 млн токенов с YaRN и поддержка изображений через отдельный vision projector, совместимый с Qwen3.5-9B. Версия v2 устраняет зацикливание при жадном и низкотемпературном декодировании, сохраняя показатели знаний и рассуждений на уровне базовой модели или выше; модель при этом намеренно uncensored. Для работы с изображениями требуется файл mmproj, а для MTP-ускорения — свежая сборка llama.cpp с поддержкой draft-mtp. Q4_K_M рекомендуется как начальный вариант благодаря балансу размера и качества, однако квантизация может снижать точность по сравнению с BF16. Модель распространяется по лицензии Apache-2.0.

Spartan_v1.0 — языковая модель, созданная слиянием моделей Meta Llama 3.1 с помощью mergekit и метода SLERP. В слияние вошли Meta-Llama-3.1-8B и Meta-Llama-3.1-8B-Instruct; модель содержит 7,5 млрд параметров и использует плотную архитектуру Llama для авторегрессионной генерации текста. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на запросы, написания и продолжения текста, а также сценариев с интерфейсом вызова инструментов. Заявленная длина контекста — 131 072 токена. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. В карточке не описаны отдельные языковые специализации или результаты оценки качества, поэтому их нельзя уверенно определить. Лицензия в предоставленных данных не указана. Производные модели Llama 3.1 распространяются на условиях лицензии Meta Llama 3.1; перед использованием следует сверить применимые условия с карточкой и лицензией базовых моделей.

tanaos-NER-v1 — модель распознавания и классификации именованных сущностей, созданная Tanaos с библиотекой Artifex. Это дообученная на синтетических данных модель FacebookAI/roberta-base с архитектурой RoBERTa и 151,8 млн параметров; она выполняет разметку токенов в тексте и распознаёт 14 категорий сущностей, включая людей, организации и географические объекты. Для обработки текста доступен контекст до 514 токенов. Модель предназначена для извлечения сущностей в чат-ботах, системах извлечения информации и инструментах анализа данных. В README заявлена поддержка английского языка и использование в многоязычных сценариях более чем с 16 языками, однако конкретный список языков не приведён. Модель распространяется по лицензии MIT.

Модель nsugianto/tblstructrecog_finetuned_tbltransstrucrecog_v1_s1_370s — дообученная версия microsoft/table-transformer-structure-recognition для обнаружения структурных элементов таблиц на изображениях документов. Она использует архитектуру Table Transformer на базе DETR и содержит 6,3 млн параметров. Модель может находить строки, столбцы и другие элементы структуры таблицы; библиотека Transformers и формат весов safetensors указаны в метаданных. Модель подходит для извлечения структуры таблиц из документов и последующего преобразования её в машиночитаемое представление. Она опубликована под лицензией MIT. Датасет дообучения, результаты оценки и подробные сведения об ограничениях в карточке не описаны.

TeleOCR — компактная мультимодальная модель StarDoc-AI для разбора документов по изображениям. В метаданных указаны архитектура Qwen2.5-VL, 507,9 млн параметров, контекст 128 000 токенов и библиотека Transformers; README описывает модель как примерно 1,2-миллиардную. Эти сведения о размере расходятся между источниками. Модель предназначена для извлечения текста и структуры из цифровых и снятых камерой документов, включая искажённые страницы, таблицы и формулы. В README заявлены геометрически ориентированное моделирование, автоматическая генерация и проверка обучающих данных и поэтапное обучение. Модель принимает изображения документов и формирует текстовый разбор; в метаданных также отмечена поддержка чата. Заявлены результаты на нескольких тестах разбора документов, но они приведены авторами и сами по себе не гарантируют качество на конкретных данных. Модель опубликована под лицензией Apache-2.0. Для запуска README предлагает Transformers, PyTorch и Pillow; для полного разбора документов авторы отсылают к отдельному репозиторию.

Ternary Bonsai 27B — GGUF — это компактная модель для генерации текста и рассуждений, разработанная Prism ML на базе Qwen3.6-27B. Она предназначена для локального запуска через llama.cpp на CPU, CUDA- и Metal-устройствах, включая стандартные ноутбуки и отдельные GPU. Модель ориентирована на диалоговые сценарии, математические задачи, программирование, агентное использование инструментов и работу на устройствах с ограниченными ресурсами. Модель сохраняет архитектуру исходной 27B-классовой causal language model с гибридным вниманием: около 75% слоёв используют линейное внимание, а около 25% — полное. Она содержит примерно 27,3 млрд тернарных языковых весов и около 0,46 млрд параметров vision tower. Используются SwiGLU, RoPE и RMSNorm. Веса представлены в формате GGUF Q2_0_g128 с тернарными значениями −1, 0 и +1, что соответствует примерно 1,71 бита на вес. Размер развёрнутой модели составляет около 7,2 ГБ против примерно 54 ГБ у FP16-версии. Поддерживается контекст до 262 тысяч токенов, а KV-кэш квантизирован до 4 бит. Vision tower доступна в 4-битном формате и подключается при обработке изображений. К сильным сторонам относятся существенное снижение требований к памяти, сохранение рассуждений и агентного поведения при низкой битности, поддержка локального инференса и заявленное сохранение около 95% показателей FP16-версии на наборе из 15 тестов. Для CUDA доступен слой DSpark для спекулятивного декодирования с заявленным ускорением 1,34 раза. Ограничения включают зависимость от специализированных низкобитных ядер и совместимых форков llama.cpp, а также отсутствие в README точного перечня поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.

bunnycore/Tulu-3.1-8B-SuperNova-Smart — объединённая языковая модель, созданная разработчиком bunnycore с помощью mergekit. В слиянии методом passthrough использованы bunnycore/Tulu-3.1-8B-SuperNova и bunnycore/Llama-3.1-8b-smart-lora; модель основана на архитектуре Llama и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Её можно применять для ответов на вопросы, следования инструкциям и интерфейсов с вызовом инструментов. Указанная длина контекста — 131 072 токена. Данные не описывают поддерживаемые естественные языки и условия лицензии, поэтому их нельзя надёжно указать.

Sakalti/ultiima-72B-v1.5 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В качестве основы использована Sakalti/ultiima-72B; в объединение также вошли newsbang/Homer-v1.0-Qwen2.5-72B и shuttleai/shuttle-3. Модель содержит 71,5 млрд параметров, работает с текстом и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также указывают интерфейс вызова инструментов. Веса представлены в формате safetensors. Лицензия обозначена как other, поэтому перед использованием следует проверить условия на странице модели.

UniNER-7B-all — модель семейства Llama, представленная проектом Universal-NER и предназначенная для извлечения именованных сущностей из текста. Она обучена на сочетании синтетических наборов Pile-NER, созданных ChatGPT, и данных 40 размеченных наборов бенчмарка Universal NER; из обучения исключены CrossNER и MIT для оценки переноса на новые данные. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовый запрос для генерации ответа с извлечёнными сущностями. Контекст — до 2048 токенов. Репозиторий распространяется в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

sabafallah/Unlimited-OCR-Universal — сообщественный форк модели Unlimited-OCR, первоначально разработанной Baidu. Веса модели не изменены: в репозитории адаптирован код запуска для NVIDIA CUDA, Apple Silicon с MPS и CPU. Модель основана на плотной архитектуре UnlimitedOCRForCausalLM и насчитывает 559,7 млн параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для распознавания текста и разбора длинных документов по изображениям, включая многостраничные документы и PDF. Она принимает изображения и выдаёт текст; в метаданных указана поддержка мультиязычных сценариев. Для запуска используются Transformers; путь SGLang в README доступен только на CUDA. Репозиторий распространяется по лицензии MIT. На MPS требуется вычисление в fp32, что увеличивает расход памяти; для ускоренного пути SGLang нужна CUDA.

Verbatim RAG Extractor Model — дообученная KRLabsOrg модель на базе ModernBERT-base для отбора предложений, релевантных вопросу, в системе Verbatim RAG. Она кодирует вопрос и предложения документа в одной последовательности и применяет линейную классификационную голову, присваивая каждому предложению один из двух классов: релевантное или нерелевантное. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Модель предназначена для извлечения подходящих фрагментов из найденных документов перед формированием ответа на вопрос. Порог уверенности по умолчанию равен 0,5; его можно менять, чтобы балансировать точность и полноту отбора. В карточке указана англоязычная поддержка. Лицензия — MIT. Для интеграции README рекомендует пакет verbatim-rag; заявлены зависимости от PyTorch и Transformers.

VultronRetrieverCore-Qwen3.5-4.5B — мультимодальная модель поиска по страницам документов, разработанная Vultr и обученная на базе Qwen/Qwen3.5-4B. Она предназначена для визуального поиска и мультимодальных RAG-систем по PDF, сканам, презентациям и отчётам, включая страницы с таблицами, графиками и сложной вёрсткой. Модель использует архитектуру ColQwen3_5 с поздним взаимодействием в стиле ColBERT: выдаёт многовекторные эмбеддинги размерностью 320 и сопоставляет запросы и страницы методом MaxSim. Размер модели — около 4,5 млрд параметров; генеративная голова удалена. Страницы кодируются с длиной до 1792 визуальных токенов. Модель рассчитана на английский, французский, немецкий, испанский, итальянский и португальский языки. По данным карточки, она заняла второе место в ViDoRe V3 среди указанных моделей и показала высокие результаты на ViDoRe V1 и V2. Многовекторное индексирование помогает учитывать текст, таблицы, иллюстрации и расположение элементов, но требует больше места, чем поиск по одиночным эмбеддингам. Модель не предназначена для генерации ответов и текстового поиска без изображений документов; для ответов по найденным материалам её следует использовать вместе с генеративной моделью. Другие языки находятся вне заявленного распределения. Лицензия — Apache-2.0.

WINTER-FROST-3 — дообученная brucoder модель для генерации текста и диалогов. Она основана на WINTER-FROST-2-PRO, использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров. Модель принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке указан английский язык. В метаданных также отмечен интерфейс взаимодействия с инструментами. Модель подходит для текстовых запросов, диалогов и сценариев, где нужно вызывать инструменты через соответствующий интерфейс. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Лицензия — Apache-2.0.

XCurOS-OCR-GGUF — версия в формате GGUF модели XCurOS-OCR, разработанной XCurOS. Это компактная vision-language-модель на 0,9 млрд параметров для распознавания текста и анализа документов по изображениям. Репозиторий содержит веса декодера и отдельный vision projector, необходимый для обработки изображений; модель запускается локально через llama.cpp на CPU или GPU. Модель предназначена для OCR документов, распознавания формул, таблиц, рукописного текста и кода, а также разбора структуры страниц. README приводит результаты на нескольких бенчмарках и характеризует качество как близкое к более крупным OCR-системам при работе на обычном CPU. Указана поддержка английского, китайского и других языков; конкретная длина контекста не приводится. Веса опубликованы в формате GGUF F16 без квантизации. Для использования требуется совместимая сборка llama.cpp и vision projector. Лицензия — MIT.

Zen Designer GGUF — мультимодальная модель семейства Zen от Hanzo AI и Zoo Labs Foundation, дообученная на основе Qwen/Qwen3-VL-235B-A22B-Instruct, обработанная методом abliteration и выпущенная в формате GGUF. Это MoE-модель на 235 млрд параметров, из которых активно 22 млрд; заявленная длина контекста — 256 тыс. токенов. В репозитории указаны варианты квантизации Q2_K и Q4_K_M, а метаданные также отмечают GGUF F16. Модель предназначена для диалогов и анализа изображений, видео, документов, диаграмм, таблиц и интерфейсов, включая OCR, пространственное понимание и навигацию по GUI. README сообщает о поддержке временных рассуждений по видео и визуального определения областей. Поддерживаемые языки по метаданным: английский, китайский, японский, корейский, французский, немецкий, испанский, португальский, итальянский и русский; в карточке отдельно не выделен основной язык. Abliteration удаляет заложенные в весах отказы, поэтому поведение модели может быть менее безопасным; автор рекомендует задавать правила поведения на уровне приложения. Для локального запуска предлагается llama.cpp с отдельным файлом mmproj для визуального ввода. Модель распространяется по лицензии Apache-2.0.

ZEUS-8B-V20 — объединённая языковая модель семейства Llama 3.1, созданная автором репозитория T145 с помощью mergekit. В слиянии DARE TIES использованы unsloth/Meta-Llama-3.1-8B-Instruct в качестве основы, а также Llama-3.1-Storm-8B, Llama-3.1-SuperNova-Lite, Llama-3.1-8B-Lexi-Uncensored-V2 и Llama-3.1-SauerkrautLM-8b-Instruct. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и предназначена для диалогов и генерации текста; доступен интерфейс для вызова инструментов. Контекст — до 131 072 токенов. В README приведены результаты оценки, включая 79,56% на IFEval и 32,22% на BBH. Модель распространяется в формате safetensors. Лицензия и сведения о языковом охвате в предоставленных данных отсутствуют.

ZEUS-8B-V23 — объединённая языковая модель на архитектуре Llama 3.1, созданная с помощью mergekit методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в объединение также вошли Llama-3.1-Tulu-3-8B, Llama-3.1-Storm-8B, SuperNova-Lite, SauerkrautLM, Lexi-Uncensored-V2 и HuatuoGPT-o1-8B. Модель содержит 7,5 млрд параметров, работает через Transformers и принимает текст для генерации текста; поддерживает диалоги и интерфейс вызова инструментов. Заявленный контекст — до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации ответов и следования инструкциям. В README приведены результаты Open LLM Leaderboard, включая 76,21% на IFEval и 31,47% на BBH; эти показатели относятся к указанным оценочным настройкам и не гарантируют качество в конкретном приложении. В карточке не приведены сведения о лицензии, поэтому условия использования следует проверять в репозитории и у моделей-источников.

Beepo-22B — дообученная модель на базе Mistral-Small-Instruct-2409, опубликованная concedo. Это плотная языковая модель с 22 млрд параметров и контекстом до 32 768 токенов; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова функций. Автор дообучал её для более послушного выполнения инструкций и снижения ограничений, стараясь сохранить способности исходной instruct-модели. Модель подходит для диалоговых помощников, генерации текста и выполнения пользовательских инструкций. Карточка рекомендует формат инструкций Alpaca; исходный формат Mistral Instruct также поддерживается. В метаданных указан английский язык. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.

Behemoth-Gigaberg-SLERP-0.2 — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из Behemoth-123B-v1.2 и Gigaberg-Mistral-Large-123B. Модель предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 122,2 млрд параметров, использует формат safetensors и имеет контекстное окно до 131 072 токенов. Она принимает текст и генерирует текст. Данные о поддерживаемых естественных языках в предоставленной карточке не приведены. Лицензия и конкретные ограничения применения в предоставленных данных не описаны. Качество и надёжность ответов могут зависеть от запроса и сценария использования; ответы следует проверять, особенно при вызове инструментов.

bruhzair/Behemoth-Gigaber-SLERP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit на основе Behemoth-123B-v1.2 и Gigaberg-Mistral-Large-123B. Репозиторий содержит веса в формате safetensors; размер модели — 122,2 млрд параметров, заявленный контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания и продолжения текстов, а также для сценариев с интерфейсом вызова инструментов. Карточка не приводит оценки качества или подробностей о специализации объединённых моделей. Лицензия в предоставленных данных не указана.

Карточка модели dengcao/bge-reranker-v2-m3 на Hugging Face совпадает с карточкой BAAI/bge-reranker-v2-m3, поэтому описание составлено по ней. BAAI/bge-reranker-v2-m3 — многоязычная модель переранжирования от BAAI, построенная на базе bge-m3 и использующая архитектуру XLM-RoBERTa для классификации последовательностей. Она принимает запрос и текстовый фрагмент и выдаёт оценку их релевантности; более высокий балл означает более подходящий фрагмент. При необходимости оценку можно преобразовать сигмоидой в значение от 0 до 1. Модель предназначена для повторной сортировки результатов поиска, например, для уточнения порядка документов, найденных системой извлечения, и повышения качества выдачи в многоязычных сценариях. В README она описана как быстрая и удобная для развёртывания; метаданные указывают 658,7 млн параметров и контекст до 8194 токенов. Карточка характеризует её как многоязычную, но не перечисляет отдельные языки. Модель доступна по лицензии Apache-2.0. Релевантность оценивается для пары «запрос — фрагмент», поэтому для поиска по корпусу сначала нужны кандидаты, полученные отдельной системой извлечения; модель сама не выполняет полный поиск. Скорость и пригодность к развёртыванию заявлены в карточке, но конкретные показатели производительности не приведены.

Это экспортированная в формат ONNX модель BAAI/bge-reranker-v2-m3, опубликованная пользователем rozgo. Она предназначена для оценки релевантности пар «запрос — документ» и ранжирования найденных текстов, например в поиске и системах RAG. В основе лежит архитектура XLM-RoBERTa с классификационной головой; размер составляет 658,7 млн параметров, заявленный контекст — до 8194 токенов. README подтверждает экспорт оптимизированной модели через Optimum в ONNX с opset 13. Модель подходит для повторной сортировки результатов текстового поиска после первичного извлечения кандидатов. Метаданные указывают на языковое семейство XLM-RoBERTa, но конкретный перечень поддерживаемых языков не приведён. Лицензия в предоставленных данных не указана.

Это переранжировщик BGE Reranker v2 M3, преобразованный автором репозитория в формат GGUF F16 для запуска через llama.cpp. Модель принимает запрос и список текстовых кандидатов, оценивает их релевантность и возвращает кандидатов в упорядоченном виде; её можно подключить к поисковому конвейеру через сервер llama.cpp и endpoint /v1/rerank. Основа модели — BAAI/bge-reranker-v2-m3. По README, преобразование выполнено скриптом llama.cpp без других изменений; файл GGUF занимает около 1 ГБ. В карточке указаны японский и английский языки. Модель распространяется по лицензии MIT. Автор предупреждает, что при некорректном переносе классификационной головы GGUF может выдавать числовые оценки без ошибки, но эти оценки будут бессмысленными. Перед использованием следует проверить порядок результатов на примерах с заметно различающейся релевантностью. Для работы нужен llama.cpp с режимом --reranking; сервер переранжирования запускается отдельно от сервера эмбеддингов.

DiTy/bi-encoder-russian-msmarco — русскоязычная модель sentence-transformers, разработанная на основе DeepPavlov/rubert-base-cased и дообученная на датасете MS-MARCO Russian passage ranking. Это двунаправленный энкодер на архитектуре BERT с 205,1 млн параметров: он преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, в том числе асимметричного поиска, когда запрос и документ имеют разную роль. Модель рассчитана на поиск по русскоязычным коллекциям и сравнение текстов по смысловой близости; её можно применять для построения поисковых систем и извлечения релевантных фрагментов. Модель принимает текст и выдаёт векторные представления. Максимальная длина контекста — 512 токенов. Она распространяется по лицензии MIT. В README отмечено, что при использовании через Transformers нужно корректно применить pooling к контекстным представлениям токенов.

Bonsai-2-27B-CRACK-Ternary-JANG — дообученная dealign.ai версия тернарно-квантованной модели PrismML Ternary-Bonsai-2-27B на архитектуре Qwen 3.5, предназначенная для генерации текста, диалога и агентных сценариев. Модель рассчитана на запуск в vMLX на компьютерах Apple Silicon; использует формат JANG с 2-битными аффинными весами, групповой квантизацией 128 и сохранённым Hadamard-преобразованием. В карточке указаны контекст до 262 тыс. токенов, режимы рассуждения low, medium и xhigh, XML-вызовы инструментов, а также поддержка изображений и видео. Модель ориентирована на англо-китайские сценарии, включая ответы на вопросы, кодирование и работу с инструментами. По заявлению автора, поведение отказов удалено на уровне весов; приведены результаты MMLU и HarmBench на данной сборке. Для запуска требуется vMLX с JANG-Hadamard runtime: стандартный путь загрузки MLX, согласно карточке, выдаёт некорректные результаты. Лицензия — Apache 2.0.