I.14Автоматизация процессов и AI-агенты

makiart/modernbert-large-ft-all-nli — англоязычная модель Sentence Transformers, разработанная makiart путём дообучения answerdotai/ModernBERT-large на наборе all-nli. Она кодирует предложения и абзацы в плотные векторы размерностью 1024, а сходство между ними можно оценивать косинусной мерой. Архитектура включает энкодер ModernBERT-large и mean pooling; модель содержит 394,7 млн параметров и принимает последовательности длиной до 8192 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и подготовки признаков для классификации. В README приведён результат cosine accuracy 0,8809 на TripletEvaluator для all-nli-dev. Оценка качества на других доменах и языках не приводится; модель обучалась на англоязычных данных all-nli, поэтому её пригодность для русского и специализированных текстов не подтверждена. Лицензия в предоставленных сведениях не указана.

jamescalam/mpnet-snli — модель на базе MPNet, дообученная Джеймсом Бриггсом с помощью sentence-transformers на наборе SNLI для получения векторных представлений предложений и абзацев. Она кодирует текст в плотные эмбеддинги размерности 768 и подходит для семантического поиска, сравнения предложений и кластеризации. Архитектура содержит около 136,7 млн параметров, принимает текстовый контекст длиной до 514 токенов и распространяется в формате PyTorch по лицензии MIT. В README указаны значения MRR@10 и MAP около 0,92 на тестовой выборке SNLI. Автор отмечает, что версия, обученная с негативными примерами, показывает лучшие результаты. Модель ориентирована на английский язык; качество на других языках не подтверждено.

flax-sentence-embeddings/multi-qa_v1-MiniLM-L6-cls_dot — модель SentenceTransformers для преобразования предложений и коротких текстов в векторы, пригодные для поиска и сравнения смысла. Её разработали в рамках Hugging Face Community Week для проекта по обучению моделей эмбеддингов; модель основана на предварительно обученной nreimers/MiniLM-L6-H384-uncased и дообучена контрастивным обучением на парах вопрос–ответ, включая данные StackExchange, MSMARCO и NQ. Это плотная BERT-модель с 25,9 млн параметров. Для представления предложения используется выход CLS, а близость векторов оценивается скалярным произведением. Модель предназначена для семантического поиска, оценки сходства предложений и кластеризации; её можно использовать для поиска подходящих ответов по запросу или группировки похожих вопросов. Максимальная длина контекста — 512 токенов. Модель выдаёт текстовые эмбеддинги, а не готовые ответы. Качество особенно ориентировано на сопоставление вопросов и ответов; доступные сведения не подтверждают поддержку русского языка или оценку качества на других языках и задачах. В карточке не указана лицензия.

Nemotron-4-340B-Instruct-hf — преобразованный чекпойнт диалоговой языковой модели Nemotron-4-340B-Instruct от NVIDIA, опубликованный пользователем mgoin. Модель предназначена для генерации текста в формате диалога; README указывает, что чекпойнт создан из версии 1.0 формата .nemo. Метаданные описывают архитектуру как плотную авторегрессионную модель NemotronForCausalLM с общим числом 466,8 млрд параметров и контекстом 4096 токенов. Модель принимает текст и выдаёт текст, поддерживает чат-сценарии и может развёртываться через vLLM версии 0.5.4 или новее. В README приведены оценки для чекпойнта FP8, полученные с lm-eval 0.4.3 на восьми A100, однако сами результаты в доступном тексте не представлены. Метаданные указывают лицензию other; конкретные условия следует сверять с лицензией базовой модели NVIDIA.

Noema 1.5 2B — открытая языковая модель NoemaAI-labs на 1,7 млрд параметров, дообученная от NoemaAI-labs/Noema-2B методом on-policy-дистилляции. Это плотная текстовая модель семейства Qwen3.5 с архитектурой Gated DeltaNet и gated attention; она предназначена для локальных диалоговых помощников, точного следования инструкциям и ограничениям в нескольких ходах, короткой генерации кода и эффективных рассуждений. Модель поддерживает контекст до 262 144 токенов, однако сама Noema 1.5 оценивалась только на контекстах до 24 576 токенов. В опубликованных тестах модель улучшила следование инструкциям и многошаговым ограничениям относительно базовой Qwen3.5-2B, а также показала преимущество в HumanEval+, сохранив результаты MMLU-Pro в пределах заданного критерия не меньшей эффективности. Она ориентирована преимущественно на английский язык и текстовые сценарии; мультимодальные возможности в этой версии не обучались и не оценивались. Модель может галлюцинировать, ответы в режиме рассуждений могут быть длинными или повторяющимися; для фактоёмких и важных задач рекомендуется проверять утверждения и использовать поиск по источникам. Для работы требуется версия Transformers с поддержкой qwen3_5_text; веса распространяются как safetensors. Лицензия в предоставленных данных не указана.

NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B-FP8 — языковая модель NVIDIA для генерации текста и диалогов, созданная на основе NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью постобучения Elastic. Репозиторий содержит FP8-веса эластичной модели с вложенными вариантами на 30B, 23B и 12B параметров; вариант 12B можно извлечь из общего чекпойнта. Метаданные указывают 946,5 млн параметров, тогда как README описывает вариант как 12B; поэтому размер из метаданных и заявленный размер варианта расходятся. Модель предназначена для диалогов, рассуждений и других задач генерации текста. Архитектура Nemotron-H объединяет слои Mamba-2, Attention и Mixture-of-Experts; активный вариант 12B использует около 2,0B активных параметров. Заявленная длина контекста — 262 144 токена. Модель поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. README рекомендует её для коммерческого использования, однако метаданные указывают лицензию «other», поэтому условия коммерческого применения следует сверить с полным текстом лицензии репозитория.

elias2515/odysseus-Qwen2.5-Coder-7B-16bit — дообученная разговорная языковая модель на архитектуре Qwen2, предназначенная для генерации текста. В основе лежит unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit; для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель содержит 7,1 млрд параметров, имеет контекст длиной до 32 768 токенов и распространяется в формате safetensors. Карточка указывает английский язык. Лицензия — Apache-2.0. Данных о конкретных наборах обучения, качестве на задачах и дополнительных ограничениях в карточке нет.

OpenBuddy/openbuddy-deepseek-67b-v24.1-65k — мультиязычная чат-модель проекта OpenBuddy на архитектуре Llama с 66,6 млрд параметров. Она предназначена для диалогов и генерации текста; поддерживает контекст длиной до 65 536 токенов и языки китайский, английский, французский, немецкий, японский, корейский, итальянский, русский и финский. Модель распространяется в формате Safetensors и рассчитана на использование с Transformers или vLLM. В карточке базовая модель не названа. Лицензия обозначена как deepseek; перед использованием следует проверить условия лицензии. Авторы предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют применять модель в критически важных сценариях, включая медицину, управление опасными системами, а также важные финансовые и юридические решения.

Карточка модели OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.3-200k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.1-200k, поэтому описание составлено по ней. OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.1-200k — многоязычная чат-модель OpenBuddy на 14 млрд параметров. Она основана на Qwen2.5-14B-Chat и использует плотную архитектуру LlamaForCausalLM; модель предназначена для диалоговой генерации текста. Заявленная длина контекста составляет 200 000 токенов. Модель подходит для чат-ботов и приложений, которым нужны ответы и диалог на китайском, английском, французском, немецком, японском, корейском, итальянском и финском языках. Репозиторий содержит веса в формате safetensors; для работы с шаблоном чата README рекомендует быстрый токенизатор из Transformers, также упоминается развёртывание API через vLLM. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Разработчик предостерегает от применения в критических и высокорисковых сценариях, включая медицину и важные финансовые или юридические решения.

MaziyarPanahi/OpenHermes-2.5-neural-chat-7b-v3-2-7B-Mistral-7B-Instruct-v0.2-slerp — слитая диалоговая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-2-7B. Веса представлены в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Её можно применять для чат-ботов, написания и редактирования текстов, а также ответов на вопросы. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Лицензия — Apache-2.0.

Ferox AI подготовила конверсию Microsoft Phi-4-multimodal-instruct для локального мультимодального инференса на устройствах Apple Silicon. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы; она предназначена для визуальных вопросов и ответов, извлечения сведений из документов, распознавания текста на изображениях и анализа графиков и диаграмм. В основе — плотная архитектура семейства Phi-4 с языковой частью Phi-4-Mini на 3,8 млрд параметров и визуальным энкодером SigLIP-SO400M. Весовая часть модели квантизирована до 4 бит с группами по 64, тогда как энкодер SigLIP остаётся в FP16. Метаданные указывают контекст 4096 токенов. В этой сборке аудио не поддерживается; для запуска нужны Apple Silicon и MLX. По внутренним оценкам на небольших выборках модель показывает полезные результаты для документов, диаграмм и OCR, но точность ответов не гарантируется и требует проверки человеком. Распространяется по лицензии MIT. Визуальные LoRA-адаптеры заранее слиты с весами, поэтому переключать их во время работы нельзя.

Pleias-3b-Preview — базовая языковая модель на 3,2 млрд параметров, разработанная Pleias и обученная с нуля на Common Corpus. Это плотный трансформер с архитектурой, близкой к Llama и GPT-NeoX, предназначенный для генерации продолжения текста. Модель обучена на открытых данных из общественного достояния или под разрешительными лицензиями; для обучения использовались Nanotron и вычислительные ресурсы Jean Zay при поддержке Etalab. Модель подходит для генерации и творческого письма на основных европейских языках, а также как основа для дообучения на задачах работы с документами, включая RAG, перевод и исправление ошибок OCR. В README заявлена поддержка английского, французского, испанского, немецкого, итальянского, нидерландского, польского, латинского и португальского; контекст составляет 4096 токенов. Новый токенизатор рассчитан на улучшенную обработку документов и многоязычие. Это ранний предварительный релиз базовой модели, которая умеет продолжать текстовые промпты и не прошла дополнительное выравнивание безопасности. Несмотря на заявленную низкую токсичность, возможны предвзятые, вредоносные или недостоверные ответы, в том числе из-за исторических текстов в данных. Лицензия — Apache-2.0; авторы заявляют, что модель не предназначена для воспроизведения защищённого авторским правом контента.

Модель niltonseixas/portuguese-embed-model — дообученная Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, разработанная для получения плотных векторных представлений предложений и абзацев. Архитектура основана на BERT с усреднением токенных представлений; векторы имеют размерность 384, для сравнения используется косинусное сходство. Модель содержит 124,3 млн параметров и принимает последовательности длиной до 512 токенов согласно метаданным; в README указано ограничение 128 токенов. Основное назначение — семантический поиск и оценка сходства текстов на португальском языке. Также модель подходит для поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Обучение проводилось на 1 404 парах предложений с функцией MultipleNegativesRankingLoss. Базовая модель многоязычная, но карточка этой версии ориентирована на португальские тексты. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

Prox-Phi-3-mini-128k — языковая модель OpenVoid, дообученная на базе архитектуры Microsoft Phi-3-mini-128k для генерации кода и задач кибербезопасности. Это плотная авторегрессионная модель класса Phi3ForCausalLM примерно с 3,7 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации, объяснения и документирования кода, ответов на вопросы о кибербезопасности и техниках взлома, а также анализа уязвимостей и учебных симуляций. Карточка приводит результаты HumanEval, EvalPlus и MBPP, но они не гарантируют качество на практических задачах. Модель может выдавать ошибочные или непоследовательные ответы, поэтому результаты следует проверять, особенно в критичных сценариях. Метаданные указывают английский язык и контекст 4096 токенов; название модели и README заявляют 128k, что расходится с указанной длиной контекста. Лицензия — Apache-2.0.

MingZwhy/Qwen3-1.7B-W2.79-QAOPD — производная модель Qwen3-1.7B, разработанная автором репозитория MingZwhy. Это плотная авторегрессионная языковая модель с 1,7 млрд параметров для генерации текста и диалогов. Веса квантованы до эффективных 2,79 бита: блоки используют смешанные INT1.58 и INT4, эмбеддинги и выходная голова — INT4, активации — INT8. После квантования модель восстановлена с помощью quantization-aware distillation и on-policy distillation; квантование встроено в веса. Модель подходит для диалоговых приложений, ответов на вопросы, математических задач и генерации кода. В README приведены результаты на GSM8K, MATH-500, AMC23, MBPP, HumanEval и QA9; на этих тестах показатели ниже, чем у исходной версии Qwen3-1.7B в BF16. Контекстное окно составляет 40 960 токенов. Базовая модель — многоязычная Qwen3; точный перечень поддерживаемых языков в предоставленных сведениях не раскрыт. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это мультимодальная модель на базе Qwen3.5-9B, разработанная DavidAU совместно с Nightmedia. Она представляет собой результат многоэтапного дообучения и слияния нескольких моделей на локальном оборудовании. Модель ориентирована на универсальные сценарии: следование инструкциям, рассуждения, программирование, творческое письмо, художественную литературу и ролевые диалоги. Заявлена как uncensored и heretic-модель, то есть с ослабленными ограничениями на ответы. Модель распространяется в формате GGUF, включая обычные и MTP-варианты для multi-token prediction. Доступны квантизации, в том числе 4- и 8-битные; для GGUF заявлен контекст до 256 тысяч токенов. Поддерживаются текст и изображения, однако для работы с изображениями требуется отдельный файл mmproj. Указаны английский и китайский языки. NEO IMATRIX-квантизация и частично сохранённая 16-битная точность выходного тензора предназначены для повышения качества, а MTP-варианты — для ускорения генерации при достаточном уровне принятия предсказанных токенов. Сильными сторонами заявлены производительность в ряде benchmark-тестов, развитое следование инструкциям, компактный размер, поддержка рассуждений и потенциально высокая скорость локального запуска. Ограничения включают зависимость скорости и эффективности MTP от оборудования, настроек и acceptance rate, а также необходимость подбирать обычный или MTP-вариант под конкретный сценарий. Приведённые результаты получены авторами модели и не гарантируют превосходство над более крупными моделями во всех задачах. Лицензия — Apache-2.0.

shawnw3i/Qwen3.6-27B-AWQ-MTP — квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в README она классифицирована как image-text-to-text. Вариант ориентирован на запуск через vLLM и ускоренное инференс-развёртывание. Модель имеет размер 27 млрд параметров и использует квантизацию AWQ. Поддерживаются ядро AWQ Marlin с автоматической конвертацией vLLM во время выполнения и MTP speculative decoding, позволяющее ускорять генерацию за счёт спекулятивного декодирования. Для запуска в README указан максимальный размер контекста 65 536 токенов, а также reasoning parser qwen3. Заявлена производительность более 110 токенов в секунду на одном ускорителе A800 80 GB при использовании vLLM 0.21.0, MTP и FP8 KV cache. Сильные стороны модели — сочетание относительно крупного размера, AWQ-квантизации, поддержки Marlin и встроенного MTP для эффективного инференса. README не содержит сведений о языках, точных возможностях мультимодального ввода, результатах бенчмарков, требованиях к другим конфигурациям оборудования или ограничениях качества. Модель распространяется по лицензии Apache-2.0.

SassyDiffusion/Qwen3.6-35B-A3B-heretic-GGUF — это набор GGUF-квантизаций языковой модели Qwen3.6-35B-A3B, подготовленный для локального запуска. Исходную модель разработала команда Qwen, а данная версия создана на базе llmfan46/Qwen3.6-35B-A3B-uncensored-heretic с использованием Heretic 1.2.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA). Модель предназначена для генерации и обработки текста, включая сценарии, где требуется меньше отказов и ограничений по сравнению с оригинальной версией Qwen3.6-35B-A3B. Модель имеет конфигурацию 35B-A3B; точные сведения об архитектуре, размере активируемой части, длине контекста и поддерживаемых языках в README не указаны. Репозиторий содержит варианты EMB_BF16, в которых таблица token_embd.weight сохраняется без квантизации в формате BF16. Эти embeddings хранятся в системной RAM и не занимают VRAM, что может повысить точность при наличии достаточного объёма оперативной памяти, хотя увеличивает требования к RAM. По заявленным результатам версия демонстрирует 10 отказов из 100 против 83 из 100 у оригинальной модели при KL-дивергенции 0,0015, то есть сохраняет близкое поведение исходной модели при значительно меньшем числе отказов. Ограничением является отсутствие подробных данных о качестве на широком наборе задач, языках и контекстном окне, а также повышенные требования к оперативной памяти для EMB_BF16-квантизаций. В метаданных указана лицензия Apache-2.0.

Atomic-Germ/Qwen3.8-27B-Heretic-MTP-GGUF — это многоэтапная дообученная и объединённая версия Qwen3.8 с 27 млрд параметров, распространяемая в формате GGUF. Модель основана на DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU и создана с использованием Unsloth, методов Cold Fusion и Fable Fusion 711. В репозитории представлены обычные и MTP-квантизации, включая варианты с 4- и 8-битной точностью и imatrix-оптимизацией. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов, ролевого взаимодействия и других универсальных применений. Заявлены поддержка английского и китайского языков, три режима работы с рассуждениями, а также акцент на сокращение объёма внутренних рассуждений и ускорение генерации при сохранении детализации ответов. Архитектура, точное окно контекста и наличие подтверждённой мультимодальности в README не указаны. К сильным сторонам относятся относительно высокая производительность на потребительском оборудовании, уменьшенное число токенов рассуждений, варианты для разного объёма памяти и ориентация на детализированные ответы. В README приводятся высокие результаты на ARC-C и ARC-E, однако это заявления автора и не являются независимо подтверждёнными характеристиками. Ограничения включают возможную зависимость качества от выбранной квантизации, отсутствие подробных данных о контекстном окне и неполную информацию о тестировании. Модель распространяется по лицензии Apache-2.0.

JonathanColetti/Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный JonathanColetti для запуска через llama.cpp и совместимые среды. В модели существенно снижено отказное поведение, но оно не устранено полностью; при этом заявлено сохранение исходных возможностей, обучающих данных и архитектуры базовой модели. Изменения выполнены методом abliteration без дообучения и добавления новых данных. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений при использовании совместимого vision runtime. Указаны английский и китайский языки. Архитектура — Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248320 токенов, один MTP-слой и контекст до 262144 токенов. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также варианты с MTP для speculative decoding и отдельный vision-проектор. Сильные стороны модели — большой контекст, поддержка изображений, несколько вариантов квантизации для разных ограничений по памяти и возможность ускорения генерации через speculative decoding. Качество зависит от выбранной квантизации и аппаратного обеспечения; наиболее компактная IQ2_M заметно уступает остальным вариантам по измеренной perplexity. MTP-голова обучалась на неизменённой базовой модели, поэтому коэффициент принятия черновых токенов может немного снижаться, хотя проверка каждого токена сохраняет качество вывода. Для работы требуется совместимый runtime, а поддержка изображений доступна только при наличии соответствующего vision runtime. Лицензия — Apache-2.0.

empero-ai/Qwen3.8-9B-Distill-GGUF — набор GGUF-квантизаций модели, разработанной Empero. Это дистилляция крупной Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B, предназначенная для генерации текста и запуска в llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и других совместимых средах. Указан английский язык; поддерживаемые модальности и размер контекста в карточке не уточняются. Модель имеет гибридную архитектуру Qwen3.5 с тремя слоями Gated DeltaNet на каждый слой полной attention-механики и ориентирована на reasoning-сценарии. В карточке приведены варианты от Q4_K_M размером 5,780 GB до BF16 размером 18,407 GB; рекомендуемым считается Q4_K_M как оптимальный баланс качества и объёма. Для работы требуется современная сборка llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet. Модель использует встроенный шаблон чата и формирует рассуждения в блоках <think>, которые при необходимости следует удалять из пользовательского вывода. По заявленным оценкам исходной модели, дистилляция заметно улучшает результат на MMLU по сравнению с базовой Qwen3.5-9B, однако немного уступает ей на GSM8K. К ограничениям относятся необходимость совместимого рантайма, потребность в дополнительной памяти под KV-кэш при длинном контексте и отсутствие в этой карточке подробных бенчмарков и рекомендаций по применению. Веса распространяются по лицензии Apache-2.0.

Qwen3.8-max-Reasoning-Distilled-GGUF — компактная языковая модель, разработанная khazarai и созданная методом дистилляции знаний из Qwen3.8-max. Модель предназначена для задач рассуждения, включая анализ вариантов, решение вопросов из разных предметных областей и генерацию структурированных ответов. Формат GGUF ориентирован на использование с llama.cpp, а тег vision-language-model и pipeline image-text-to-text указывают на поддержку сценариев работы с изображениями и текстом, однако подробности о реализации визуального ввода в README не приведены. Ключевая особенность модели — оптимизированная цепочка рассуждений: она стремится выдавать линейную, последовательную и решительную логику, сокращая повторные проверки, колебания и циклы «переобдумывания». Благодаря дистилляции модель рассчитана на более эффективный инференс с меньшим числом генерируемых токенов при сохранении качества ответов. Размер архитектуры, объём параметров, максимальная длина контекста и полный набор поддерживаемых языков не указаны; явно заявлен английский язык. Модель может быть полезна там, где важны компактность, скорость и экономный расход токенов. Ограничением является то, что для чрезвычайно сложных многошаговых математических задач может потребоваться явный запрос на пошаговые промежуточные вычисления. Результаты следует проверять при использовании в медицинских, юридических и финансовых сценариях. Указанная лицензия — Apache-2.0.

Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций компактной мультиязычной embedding-модели Qwen3-Embedding-0.6B, разработанной Qwen. Квантизации подготовлены PeterAM4 с использованием llama.cpp и importance matrix, оптимизированной преимущественно для финансовых и технических текстов. Модель предназначена для построения RAG-систем, семантического поиска, извлечения документов и других задач сравнения предложений и текстов. Базовая модель содержит около 596 млн параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует embeddings размерностью 1024. Заявлена поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Доступны варианты от 8-битных до 1-битных, что позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. Сильными сторонами являются небольшой размер, низкие требования к памяти и задержке, а также калибровка квантования на финансовых вопросах и ответах, документах SEC 10-K, финансовых данных, математических задачах и общем тексте. В README рекомендован вариант Q3_K_M-imat размером около 331 МБ; его показатель PPL близок к BF16-базовой версии на указанном тестовом корпусе. При этом агрессивное квантование снижает качество: особенно заметная деградация наблюдается у вариантов ниже примерно 3 BPW, а результаты приведённых тестов не гарантируют аналогичную точность в конкретной задаче поиска. Модель распространяется по лицензии Apache 2.0.

karsar/Qwen3-Embedding-0.6B-hu — модель Sentence Transformers, дообученная разработчиком на базе Qwen/Qwen3-Embedding-0.6B для создания эмбеддингов на венгерском языке. Она преобразует предложения и абзацы в плотные векторы размерности 1024; близость текстов можно оценивать косинусным сходством. Архитектура включает Qwen3, пулинг по последнему токену и нормализацию векторов. Модель содержит 507,6 млн параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, классификации и кластеризации. В README приведена оценка cosine_accuracy 0,717 на тестовом наборе all-triplet-test. Обучение выполнено на наборе json с примерами anchor, positive и negative; лицензия — Apache-2.0.

RamManavalan/Qwen3-VL-Embedding-8B-FP8 — мультимодальная embedding-модель, представляющая собой FP8-квантизированную версию Qwen/Qwen3-VL-Embedding-8B. В README указано, что модель подготовлена для эффективного инференса с vLLM; разработчик исходной модели — Qwen, а данный вариант опубликован пользователем RamManavalan. Модель предназначена для получения векторных представлений текста, изображений, скриншотов, видео и мультимодальных комбинаций, поэтому может применяться в семантическом поиске, сопоставлении контента и мультимодальном retrieval. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размерность embedding составляет 4096, максимальная длина контекста — 32K токенов. Используется FP8_DYNAMIC-квантизация W8A8: веса слоёв декодера представлены в FP8 E4M3 с поканальным масштабированием, активации квантизуются динамически по токенам во время выполнения. Vision Encoder и выходные embedding сохраняются в BF16. Размер модели сокращён примерно с 16 до 9 ГБ, что даёт около 45% экономии памяти; калибровочные данные не требуются. Для инференса рекомендуется vLLM версии 0.14.0 или новее с pooling runner; требуется GPU NVIDIA с поддержкой FP8 и compute capability не ниже 8.9, а минимальный объём VRAM заявлен около 10 ГБ. Сильными сторонами являются поддержка нескольких модальностей, высокая эффективность инференса и сохранение большей части качества исходной модели; для FP8 заявлено обычно более 95% исходной точности, однако отдельные результаты приведены для базовой модели, а не как независимая оценка этой квантизированной версии. Ограничения включают требования к совместимому FP8-оборудованию и зависимость от vLLM или специальной конфигурации Transformers. Модель распространяется по лицензии Apache-2.0.

meichen91/review_multiclass_20230116 — модель sentence-transformers на основе MPNet, разработанная для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в векторы размерности 768 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст с контекстом до 514 токенов. В README указано обучение с CosineSimilarityLoss. Доступен формат PyTorch; применять модель можно через Sentence-Transformers или Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не указана.

Ruri-Large — японская Sentence Transformer модель, разработанная cl-nagoya для получения векторных представлений предложений и оценки их семантического сходства. Она подходит для поиска по смыслу, сравнения предложений, ранжирования результатов и других задач, использующих embeddings. README сообщает о длине последовательности до 512 токенов, размерности векторов 1024 и косинусной функции сходства; модель оценивалась на JMTEB. Архитектура — BERT; размер по метаданным — 436,2 млн параметров. Модель дообучена на базе tohoku-nlp/bert-base-japanese-v3 и предназначена для японского языка. Распространяется по лицензии Apache 2.0.

hiiamsid/sentence_similarity_hindi — модель Sentence-Transformers на архитектуре BERT, разработанная для работы с предложениями и абзацами на хинди. Она преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения семантической близости, семантического поиска и кластеризации текстов. Модель содержит 498,1 млн параметров и поддерживает контекст до 512 токенов. Её можно использовать через Sentence-Transformers либо через Transformers с подходящей операцией pooling для контекстных представлений токенов. Модель обучена с функцией CosineSimilarityLoss и основана на setu4993/LaBSE. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных отсутствуют.

sentence-transformers/sentence-t5-xxl — модель для преобразования предложений и абзацев в плотные векторы размерностью 768, предназначенные прежде всего для сравнения семантической близости текстов. Она построена на T5 и использует только энкодер; в README указано, что веса TensorFlow-модели st5-11b-1 преобразованы в PyTorch и хранятся в FP16. Метаданные указывают 385,2 млн параметров, контекст до 512 токенов и поддержку английского языка. Модель подходит для вычисления сходства между предложениями и абзацами и создания текстовых эмбеддингов. По README она работает хуже в задачах семантического поиска, поэтому для поиска по смыслу может потребоваться другая модель или отдельная настройка. PyTorch-версия и исходная модель TensorFlow могут давать немного разные векторы, хотя на описанных в карточке бенчмарках результаты совпадают. Лицензия — Apache-2.0.

Veritone/siglip2-large-patch16-512-vision — отдельная копия визуальной башни SigLIP 2 Large, разработанной Google. Модель кодирует изображения и видеокадры в общее пространство эмбеддингов; текстовая башня для сопоставления находится в отдельном репозитории Veritone. Разделение позволяет загружать только визуальную часть при индексации. Модель предназначена для классификации изображений по кандидатным текстовым меткам без специального дообучения, поиска по сходству изображений и текста, а также для использования в качестве визуального энкодера. Архитектура — SigLIP, класс SiglipModel; файлы весов представлены в формате safetensors, библиотека — Transformers. В исходной модели SigLIP 2 описано предварительное обучение на наборе WebLI. Репозиторий распространяется по лицензии Apache-2.0.