II.8Инженерия данных и аналитика

Это квантизированная 4-битная версия инструктивной модели Phi-3.5-mini-instruct, опубликованная пользователем tbhrc и преобразованная в формат MLX из microsoft/Phi-3.5-mini-instruct с помощью mlx-lm 0.17.0. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров; она предназначена для диалоговой генерации текста и помощи с кодом. Метаданные указывают на многоязычную поддержку и контекст длиной 4096 токенов. Модель подходит для локальных диалоговых приложений и генерации кода. Репозиторий использует формат safetensors, а карточка указывает лицензию MIT. Сведения о конкретных ограничениях качества или языковых сценариях в карточке не приведены.

Pixtral-Large-Instruct-2411 — мультимодальная модель Mistral AI для диалогов и анализа изображений. Она построена на Mistral-Large-Instruct-2407 и включает языковой декодер примерно на 123 млрд параметров и визуальный энкодер на 1 млрд параметров; общий размер — 124 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на работу с несколькими изображениями высокого разрешения в одном запросе. Модель предназначена для ответов на вопросы по изображениям, понимания документов и диаграмм, а также для текстовых инструкций и диалогов. В карточке заявлены сильные результаты на MathVista, DocVQA и VQAv2. Для инференса рекомендуется vLLM; README предупреждает, что реализация Transformers пока не работает. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и условиями Mistral AI.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_240 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_280 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_40 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_clustering_gist_checkpoint_epoch_1_step_180 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_clustering_infonce_checkpoint_epoch_1_step_160 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_210 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_50 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_infonce_checkpoint_epoch_1_step_50 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели liddlefish/privacy_embedding_rag_10k_base_checkpoint_2 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

BlueAvenir/prosieben_media_activities_scoring_model_updated — модель на базе XLM-RoBERTa, созданная с использованием Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, поиска по смыслу и кластеризации. В README указано обучение с CosineSimilarityLoss; всего модель содержит около 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель подходит для ранжирования текстов по смысловому сходству, семантического поиска и группировки похожих текстов. В метаданных и карточке не указана специализированная предметная область или лицензия, поэтому условия распространения по имеющимся сведениям определить нельзя.

unsloth/Qwen2.5-1.5B-unsloth-bnb-4bit — 4-битно квантованная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B. Модель предназначена для генерации и продолжения текста, программирования, математических задач, обработки структурированных данных и последующего дообучения. Это текстовая, авторегрессионная causal language model без заявленной поддержки изображений или других модальностей. Ключевая особенность варианта — формат Unsloth Dynamic 4-bit Quant, который избирательно применяет квантование для снижения требований к памяти при сохранении качества по сравнению со стандартными 4-битными вариантами. Семейство Qwen2.5 поддерживает контекст до 128K токенов и генерацию до 8K токенов, а также более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Точные архитектурные параметры именно версии 1.5B в представленном README не указаны; приведённый там блок с характеристиками 0.5B относится к другой конфигурации. Модель выигрывает за счёт небольшого размера и сниженного потребления памяти, что делает её подходящей для локального запуска, экспериментов и эффективного fine-tuning. Как базовая, а не instruction-tuned модель, она не оптимизирована для диалогов без дополнительного дообучения и может требовать настройки шаблонов и параметров генерации. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-GGUF — набор GGUF-квантизаций модели Qwen2.5-Coder-14B, разработанной Qwen и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и работы с исходным кодом, включая локальные сценарии программирования и текстовой генерации. В README указан английский язык, однако подробные сведения о языковом покрытии отсутствуют. Это текстовая autoregressive-модель на 14 млрд параметров, представленная в форматах от F16 до различных вариантов 2–8-битной квантизации. Размер файлов составляет примерно от 6,38 до 29,55 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а варианты с меньшим размером подходят для систем с ограниченной оперативной памятью; для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6. Поддерживается запуск через llama.cpp и LM Studio. Формат prompt использует шаблон с маркерами ролей system, user и assistant. К сильным сторонам относятся специализация на коде, широкий выбор квантизаций и возможность локального запуска. Ограничения связаны с компромиссом между размером и качеством: низкоразрядные варианты дают более низкое качество, а некоторые ARM-оптимизированные файлы требуют поддержки sve или i8mm и не рекомендуются для Mac и Windows. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-3MPER0RR-abliterated — доработанная исследователем 3MPER0RR версия Qwen2.5-Coder-32B-Instruct. Это плотная языковая модель на 32 млрд параметров для диалоговой генерации текста, ориентированная на код: базовая модель предназначена для генерации, анализа и исправления кода, а также создания кодовых агентов. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель описана как протестированная и сохранённая, однако подробности её изменений и результаты испытаний не приведены. Лицензия — Apache 2.0.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill-GGUF — языковая модель, разработанная TeichAI на базе unsloth/Qwen3-14B. Она дообучена методом дистилляции на наборе данных TeichAI/claude-4.5-opus-high-reasoning-250x, созданном на основе ответов Claude Opus 4.5 с высокой интенсивностью рассуждений. Модель предназначена для генерации текста общего назначения, программирования и научных задач. В README указано 14 млрд параметров, однако сведения об архитектурных деталях, модальностях, поддерживаемых языках и размере контекста отсутствуют. Формат GGUF предполагает использование в совместимом локальном инференсе, но конкретные варианты квантования и требования к ресурсам не приведены. Сильной стороной модели является специализация на задачах, требующих развернутого рассуждения, включая кодирование и научные вопросы. Ограничения также связаны с отсутствием подробных данных о качестве, бенчмарках, языковом покрытии, контекстном окне и рекомендуемых параметрах запуска. Модель распространяется по лицензии Apache-2.0.

Карточка модели Taewhoo/qwen3.6-27b-proteomics-rl-step10 на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-AWQ-1M — это квантизированный вариант AWQ INT4 модели DavidAU Qwen3.8-27B Cold Fusion, подготовленный и упакованный Solstice-AI. Модель предназначена для генерации текста, рассуждений, программирования, агентных задач, отладки репозиториев и работы с длинными документами. В README заявлена поддержка английского и китайского языков, а также текстовой и пространственно-временной 3D-визуальной мультимодальности. Модель имеет размер 27 млрд параметров и использует гибридную архитектуру: блоки Gated Delta Recurrent Network с линейным вниманием и блоки Grouped-Query Attention. Формат AWQ INT4 уменьшает заявленный объём с примерно 54 ГБ в BF16 до около 18 ГБ. Контекст расширен с 262 144 до 1 048 576 токенов посредством YaRN RoPE scaling. Также заявлены аппаратная поддержка Multi-Token Prediction и ускорение генерации до 1,72–2,20 раза при использовании совместимой инфраструктуры, включая vLLM и Anvil Runtime. Сильными сторонами README называет задачи программной инженерии, решение задач, управление компьютером и мобильными ОС, следование сложным ограничениям и длинные многофайловые рабочие процессы; приведены высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench и ARC. Эти результаты представлены авторами модели и не подтверждены независимой проверкой в предоставленных данных. Возможными ограничениями являются требования к значительным аппаратным ресурсам для работы с контекстом в миллион токенов, потери качества или точности из-за INT4-квантизации и отсутствие подробностей о фактической совместимости мультимодальных возможностей. Указана лицензия Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-Q8_0-GGUF — это версия модели Qwen3-Coder-30B-A3B-Instruct, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo проекта ggml.ai. Модель разработана командой Qwen; данный репозиторий поддерживается ggml-org и предназначен для запуска средствами llama.cpp. Модель относится к классу text-generation и ориентирована на задачи генерации текста и кода в сценариях локального инференса через llama.cpp, включая запуск в командной строке или в режиме сервера. Из доступных данных известно, что используется конфигурация Q8_0 с 30B параметров и архитектурой Mixture of Experts с активной частью 3B параметров, однако сведения о поддерживаемых языках, модальностях и размере контекста в карточке не приведены. Формат GGUF и интеграция с llama.cpp упрощают запуск на совместимом оборудовании, но требования к ресурсам и фактическая производительность зависят от аппаратной конфигурации. Лицензия указана как Apache-2.0. Подробные характеристики, ограничения и рекомендации по применению следует уточнять в карточке исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct, на которую ссылается README.

Это пакет слоёв GGUF для модели Qwen3-Coder-30B-A3B-Instruct-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF. Он сохраняет исходное распределение GGUF в отдельных артефактах по слоям для распределённого инференса на локальном кластере Mesh LLM. Модель предназначена для генерации кода и диалоговых сценариев, включая локальный приватный запуск, обслуживание на нескольких машинах, когда полный файл не помещается на одном узле, и работу через локальный API, совместимый с OpenAI Chat Completions. Вариант пакета обозначен как UD-Q4_K_XL; репозиторий содержит layer-package, а не единый файл GGUF. Пакет основан на семействе Qwen3 и исходной инструкционной модели для программирования. Лицензионные условия следует сверять с карточкой исходной модели; в доступном README конкретная лицензия не приведена.

Qwen3-Coder-Next-Uncensored-Heretic-GGUF — набор GGUF-квантизаций модели llmfan46/Qwen3-Coder-Next-Uncensored-Heretic, созданной независимым разработчиком llmfan46 на основе Qwen3-Coder-Next от Qwen. Модель предназначена прежде всего для локальной разработки, программирования и агентских сценариев, включая работу с инструментами, длительные цепочки рассуждений, восстановление после ошибок выполнения и интеграцию с CLI/IDE-средами. Доступна для llama.cpp, LM Studio, Ollama и других совместимых инструментов. Архитектура исходной модели — каузальная языковая модель с гибридной структурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего 80 млрд параметров, из которых активируются 3 млрд; 79 млрд параметров относятся к неэмбеддинговым. Модель содержит 48 слоёв, 512 экспертов MoE, из которых активируются 10, и поддерживает контекст до 262 144 токенов. Указан только текстовый режим и режим без рассуждений с блоками <think></think>; сведения о поддерживаемых языках в README не приведены. Это декензурированная версия: по данным автора, она показала 8 отказов из 100 против 100 из 100 у оригинальной модели при KL-дивергенции 0,1488, что указывает на значительно меньшее число отказов при сохранении близости к исходной модели. Основное ограничение — отсутствие подробных независимых оценок качества и языкового охвата, а также необходимость выбирать компромисс между размером и качеством среди вариантов от BF16 до Q3_K_S. Модель распространяется по лицензии Apache-2.0.

Qwen3-Reranker-0.6B — плотная языковая модель для переранжирования текстовых кандидатов, разработанная командой Qwen. Это дообученная версия Qwen/Qwen3-0.6B-Base с 507,6 млн параметров; репозиторий содержит веса Safetensors. Модель оценивает релевантность пары «запрос — текст» и помогает сортировать найденные документы или другие текстовые результаты по соответствию запросу. Модель предназначена для улучшения поиска, включая многоязычный и межъязыковой поиск, поиск по коду и конвейеры RAG. Она поддерживает более 100 языков и контекст до 40 960 токенов по метаданным; README указывает 32K. Можно задавать инструкцию под конкретную задачу. По умолчанию применяется инструкция для поиска фрагментов по веб-запросу. Результат — оценка релевантности; сырые значения являются разностью логитов, а для получения значений в диапазоне 0–1 можно применить sigmoid. Модель принимает текстовые запросы и кандидаты и возвращает оценки, по которым их можно упорядочить. Для многоязычных сценариев авторы рекомендуют формулировать инструкции на английском; в retrieval-задачах отсутствие инструкции на запросе может снижать качество примерно на 1–5%. Лицензия — Apache-2.0.

Qwen3-Reranker-0.6B-GGUF-llama_cpp — это GGUF-конверсия модели Qwen3-Reranker-0.6B, разработанной командой Qwen и подготовленной Voodisss для запуска через llama.cpp. Модель предназначена для переранжирования результатов поиска: она оценивает релевантность документов относительно запроса и может использоваться в семантическом поиске, retrieval-augmented generation (RAG), вопросно-ответных системах и дедупликации текстов. Модель относится к классу reranker и имеет размер 0,6 млрд параметров. Она работает с текстовыми запросами и документами, поддерживает специальную классификацию релевантности yes/no и рассчитана на использование через endpoint /v1/rerank в llama-server с настройками pooling rank и embedding. В примере конфигурации указан контекст до 32768 токенов. Сведения о поддерживаемых языках в README не приведены. Ключевое преимущество сборки — корректная конвертация специфичных для reranker компонентов, включая классификатор, метаданные ранжирования и chat template; благодаря этому она выдаёт осмысленные оценки релевантности, в отличие от некоторых GGUF-сборок, возвращающих некорректные значения. Для квантования Q4_K_M заявлено уменьшение размера примерно втрое по сравнению с F16 при потере качества около 0,3% на тесте MTEB AskUbuntuDupQuestions. Более низкие варианты Q4_0 и Q3_K_M снижают качество примерно на 2%, а Q2_K показывает существенную деградацию. Модель следует использовать именно через /v1/rerank, поскольку endpoint /v1/embeddings для reranker-моделей возвращает нулевые значения. Модель распространяется по лицензии Apache 2.0.

michaelfeil/Qwen3-Reranker-0.6B-seq — дообученная модель ранжирования текста на базе Qwen/Qwen3-0.6B-Base, разработанная в рамках семейства Qwen3 Embedding. Она оценивает пары запроса и кандидата, чтобы переупорядочить найденные документы или фрагменты по релевантности. Модель подходит для повышения качества поиска по текстам и коду, а также для классификации и сопоставления текстов. Модель имеет плотную архитектуру Qwen3ForSequenceClassification и 507,6 млн параметров. README заявляет поддержку более 100 языков и контекст до 32 тыс. токенов; метаданные указывают нативный контекст 40 960 токенов. README рекомендует при необходимости задавать инструкцию под задачу и отмечает, что её формулировка может влиять на качество ранжирования. Модель распространяется по лицензии Apache-2.0.

FuriosaAI публикует эту сборку Qwen3-VL-32B-Thinking вместе с пакетом Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это плотная мультимодальная модель с 32 млрд параметров: она сочетает визуальный энкодер и трансформерный декодер, использует Interleaved-MRoPE и слияние признаков DeepStack. Квантизация не применялась; веса сохраняют точность исходной модели Qwen/Qwen3-VL-32B-Thinking. Модель принимает изображения и текст, а отвечает текстом. Она предназначена для распознавания текста на изображениях, анализа документов и диаграмм, пространственных рассуждений и понимания видео. Версия Thinking формирует рассуждение перед итоговым ответом; также поддерживается вызов инструментов. README описывает запуск через Furiosa-LLM на RNGD, а также совместимость с vLLM, SGLang и Transformers. Модель выпущена под лицензией Apache 2.0. Для запуска на RNGD требуется конфигурация с 32 PE, распределёнными по четырём картам RNGD; отдельные ограничения качества в предоставленных материалах не описаны.

SauerkrautLM-ColQwen3-8b-v0.1 — мультимодальная модель VAGOsolutions для поиска по визуальным документам. Она дообучена на базе Qwen/Qwen3-VL-8B и формирует многовекторные представления размерностью 128 для позднего взаимодействия в стиле ColBERT. Модель принимает изображения документов и текстовые запросы, учитывает их визуальную структуру, включая таблицы, формы и диаграммы, и предназначена для извлечения релевантных страниц без отдельного этапа OCR. Модель содержит 8 млрд параметров, поддерживает до 1540 визуальных токенов на изображение и обучалась для работы на английском, немецком, французском, испанском, итальянском и португальском языках. В README указаны результаты на наборах ViDoRe и MTEB; лицензия — Apache-2.0. Заявленные показатели относятся к оценкам автора и могут отличаться на других данных и в иных условиях.

akhooli/sbert_ar_nli_500k_norm — модель Sentence Transformers на основе BERT, дообученная на 500 тысячах арабских NLI-триплетов. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их с помощью косинусного сходства; максимальная длина последовательности — 512 токенов. Модель рассчитана на арабский язык и построена на aubmindlab/bert-base-arabertv02. Её можно применять для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текста. Данные обучения нормализовали, поэтому в README рекомендуется нормализовать запросы и документы перед кодированием. Модель распространяется по лицензии Apache-2.0.

Muennighoff/SBERT-large-nli-v2 — текстовая модель эмбеддингов на архитектуре BERT, опубликованная Nils Reimers? Карточка описывает обучение с MultipleNegativesRankingLoss и косинусным сходством, что предназначает модель для представления предложений в виде векторов и сравнения их семантической близости. Подходит для поиска похожих фраз, ранжирования предложений по релевантности и построения семантического поиска. Модель содержит 433,9 млн параметров и принимает последовательности длиной до 512 токенов. Доступен формат PyTorch; основная заявленная возможность — получение эмбеддингов. README отсылает за инструкциями и результатами оценки к коду и статье, поэтому конкретные показатели качества в карточке не приведены. Лицензия в предоставленных данных не указана.

fjavigv/snoweu_v4 — модель Sentence Transformers, дообученная на базе Snowflake/snowflake-arctic-embed-m-v1.5. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости и поиска по тексту. Архитектура включает BertModel, CLS-пулинг и нормализацию; сходство оценивается косинусной метрикой. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска, ранжирования по смысловому соответствию, поиска перефразировок, кластеризации и классификации текстов. README приводит оценку cosine_accuracy@1 0,6777, @3 0,8973 и @5 0,9391 на InformationRetrievalEvaluator. Обучающая выборка содержит 46 338 пар предложений; примеры указывают на тексты о регулировании образования и обучении, но специализация на этой области не заявлена. Сведения о лицензии в предоставленных данных отсутствуют.

Snowflake Arctic-embed-m-v2.0 — мультиязычная модель эмбеддингов компании Snowflake для поиска и извлечения информации по тексту. Она предназначена для построения векторного поиска, семантического сопоставления запросов и документов и retrieval-систем, включая приложения корпоративного поиска. В README сообщается о сильных результатах на англоязычных и многоязычных тестах поиска, в том числе MTEB Retrieval, MIRACL и CLEF. Модель построена на GTE multilingual base и имеет 305,3 млн параметров, из которых 113 млн не относятся к эмбеддингам. Она формирует векторы размерности 768, поддерживает контекст до 8192 токенов и методы Matryoshka Representation Learning: размерность можно сократить до 256 с умеренным снижением качества. README также описывает сжатие векторов до 128 байт с 4-битной квантизацией. В репозитории есть веса safetensors и формат ONNX. Модель рассчитана на поиск по тексту и выдаёт эмбеддинги; для оптимального качества извлечения README рекомендует использовать CLS-токен и добавлять префикс к запросам. Метаданные и карточка описывают поддержку многих языков, включая английский, арабский, болгарский, бенгальский, каталонский, чешский, немецкий, греческий, испанский, персидский, финский, французский, иврит, хинди, хорватский, венгерский, индонезийский и итальянский. Лицензия — Apache-2.0.