I.3Извлечение и структурирование данных

Richard Young выпустил эту версию Qwen3-4B-Instruct-2507, обработанную методом abliteration с помощью Heretic v1.4.0. Это плотная причинная языковая модель на 3,7 млрд параметров для генерации текста и диалогов; она рассчитана на режим без пошагового рассуждения и имеет контекстное окно 262 144 токена. Модель предназначена для следования инструкциям, ответов на вопросы, логических и математических задач, программирования, работы с длинными текстами и сценариев с вызовом инструментов. В README автор сообщает, что при его проверке модель отказала в 3 из 100 запросов, тогда как исходная версия отказала во всех 100; это описывает результаты конкретной оценки, а не гарантирует поведение на других запросах. Репозиторий содержит веса Safetensors для Transformers. Указанная лицензия — Apache-2.0. README отмечает поддержку нескольких языков, но не перечисляет их, поэтому основной язык определить нельзя.

lovedheart/Qwen3.5-9B-FP8 — мультимодальная причинная языковая модель с визуальным энкодером, основанная на Qwen3.5-9B и разработанная командой Qwen. Она предназначена для генерации и анализа текста и изображений, рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит около 9 млрд параметров, 32 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. В архитектуре сочетаются Gated DeltaNet, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель обучалась на стадиях предварительного и последующего обучения и совместима с Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся мультимодальность, длинный контекст, высокая эффективность архитектуры и широкое языковое покрытие. README не приводит подробных ограничений, требований к аппаратному обеспечению или результатов независимого тестирования для данной FP8-сборки, поэтому фактическая производительность и качество могут зависеть от среды запуска и сценария использования. Указана лицензия Apache 2.0.

Occamy-1.0 — мультимодальная агентная модель AMAImedia для длительной совместной работы с инструментами, файлами, кодом, поиском и структурированными API. Эта версия репозитория объединяет Occamy-1.0 и Qwen3.6-35B-A3B; в карточке указаны форматы GGUF F16, Q4_K_M, Q8_0 и Safetensors. Модель сохраняет архитектуру Qwen3.6-35B-A3B с Mixture of Experts: 35 млрд параметров всего и около 3 млрд активных при обработке токена. Модель рассчитана на многошаговые рабочие процессы, требующие вызова инструментов, ведения состояния и восстановления после сбоев, а также на программирование в терминале и следование инструкциям. Она принимает текст и изображения и выдаёт текст; заявлены возможности чата и анализа изображений. Карточка отмечает поддержку множества языков, включая русский, английский и китайский. Точное ограничение контекста в предоставленных данных не приведено. Авторы позиционируют Occamy как модель для практической агентной работы с компактной активной частью MoE, но указывают, что у неё остаётся запас для задач с интенсивным поиском и симуляцией пользователя; взаимодействие с браузером или рабочим столом через визуальный интерфейс не входит в текущий обучающий интерфейс. Лицензия — Apache-2.0.

Qwen3.8-27B-NVFP4 — это квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Квантизацию выполнила A2Genesis с использованием NVIDIA TensorRT Model Optimizer 0.45 и рецепта для семейства qwen3_5. Модель предназначена для генерации текста, рассуждений, программирования, работы с инструментами и сценариев image-text-to-text, включая обработку изображений при наличии соответствующей инфраструктуры. Модель использует смешанную точность: проекции MLP и lm_head представлены в NVFP4 с форматом W4A16, проекции внимания — в FP8, KV-кэш — в FP8, а vision tower, MTP head и отдельные свёрточные и gating-слои сохранены в BF16. Размер контрольной точки составляет около 21 ГБ вместо примерно 55 ГБ у BF16-версии. Доступен контекст до 262144 токенов при обслуживании через vLLM, а сохранение MTP-тензоров позволяет применять speculative decoding. Языки в README не указаны. Сильные стороны модели — существенно меньший размер, поддержка высокопроизводительного инференса на GPU Blackwell, совместимость с vLLM, инструментальными вызовами и сохранение мультимодальных компонентов. Ограничения связаны с потерями и возможными особенностями качества, характерными для посттренировочной квантизации; на видеокартах более ранних архитектур NVFP4 загружается через поддержку ModelOpt, но преимущества производительности могут быть ниже. Это общественная квантизация от A2Genesis, не связанная с официальной поддержкой Qwen или NVIDIA. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели Qwen3.8-27B.

Карточка модели Rasputin312/qwen3-8B-finetune на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

furiosa-ai/Qwen3-Embedding-4B — текстовая модель эмбеддингов из серии Qwen3-Embedding, опубликованная FuriosaAI в виде пакета для запуска на ускорителе FuriosaAI RNGD с библиотекой Furiosa-LLM. Она преобразует текст в плотные векторы для семантического поиска, извлечения релевантных документов и сравнения сходства текстов. Это дообученная версия Qwen/Qwen3-Embedding-4B на плотной трансформерной архитектуре Qwen3; число параметров — 3,7 млрд, нативная длина контекста — 40 960 токенов. Модель поддерживает многоязычные сценарии и Matryoshka Representation Learning, позволяющий получать эмбеддинги уменьшенной размерности через параметр dimensions. Репозиторий содержит веса BF16 без квантизации и Furiosa Executable Bundle; для инференса также можно использовать Sentence Transformers, vLLM или Transformers, следуя карточке исходной модели. Лицензия — Apache 2.0.

Qwen3-Embedding-8B — текстовая модель эмбеддингов семейства Qwen3, разработанная командой Qwen. Это плотная архитектура Qwen3ForCausalLM с 7,6 млрд параметров, дообученная на базе Qwen/Qwen3-8B-Base для получения векторных представлений текста. Модель предназначена для семантического поиска и ранжирования, а также поддерживает классификацию, кластеризацию, поиск по коду и межъязыковой поиск. Модель поддерживает более 100 естественных и программных языков, обрабатывает длинные последовательности с контекстом до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README также сообщает о настройке выходной размерности от 32 до 4096. Можно задавать инструкции для конкретной задачи, языка или сценария. Модель рассчитана на получение векторов из текста; метаданные также отмечают возможности чата и интерфейс вызова инструментов, но основной сценарий этой версии — эмбеддинги. По данным карточки, версия 8B заняла первое место в мультиязычном рейтинге MTEB на 5 июня 2025 года с результатом 70,58. Для некоторых задач retrieval README отмечает снижение качества примерно на 1–5% без подходящей инструкции. Для работы с поддержкой Qwen3 требуется Transformers 4.51.0 или новее. Лицензия — Apache-2.0.

Карточка модели a-ibrahim-pwc/Qwen3-Next-80B-A3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-Next-80B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Next-80B-A3B-Instruct — языковая модель от команды Qwen, предназначенная для диалогов, генерации текста и сценариев с вызовом инструментов. Это причинная модель семейства Qwen3-Next с разреженной архитектурой смеси экспертов (MoE), гибридной обработкой контекста через Gated DeltaNet и Gated Attention и поддержкой ускорения вывода с помощью Multi-Token Prediction. В модели 80 млрд параметров, из которых активируются около 3 млрд на токен; при этом метаданные Hugging Face указывают размер 2,3 млрд параметров. Модель рассчитана на инструкции в обычном, нетщательном режиме и поддерживает контекст до 262 144 токенов; в README описано расширение контекста примерно до миллиона токенов с YaRN. Подходит для длинных диалогов и документов, генерации ответов и агентных сценариев с инструментами. Карточка сообщает о результатах на ряде бенчмарков, но не приводит полный набор таблиц в предоставленном тексте. Лицензия Apache-2.0.

Карточка модели unsloth/Qwen3-Next-80B-A3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-Next-80B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Next-80B-A3B-Instruct — языковая модель от команды Qwen, предназначенная для диалогов, генерации текста и сценариев с вызовом инструментов. Это причинная модель семейства Qwen3-Next с разреженной архитектурой смеси экспертов (MoE), гибридной обработкой контекста через Gated DeltaNet и Gated Attention и поддержкой ускорения вывода с помощью Multi-Token Prediction. В модели 80 млрд параметров, из которых активируются около 3 млрд на токен; при этом метаданные Hugging Face указывают размер 2,3 млрд параметров. Модель рассчитана на инструкции в обычном, нетщательном режиме и поддерживает контекст до 262 144 токенов; в README описано расширение контекста примерно до миллиона токенов с YaRN. Подходит для длинных диалогов и документов, генерации ответов и агентных сценариев с инструментами. Карточка сообщает о результатах на ряде бенчмарков, но не приводит полный набор таблиц в предоставленном тексте. Лицензия Apache-2.0.

Rombo-LLM-V2.5-Qwen-7b — дообученная разработчиком Rombo-Org языковая модель на архитектуре Qwen2, основанная на Qwen/Qwen2.5-7B-Instruct. В README указано, что модель получена непрерывным дообучением и объединением instruct- и базовой версий методом TIES; заявлено повышение производительности относительно исходных моделей. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов. Максимальная длина контекста составляет 131 072 токена. В метаданных указаны интерфейс вызова инструментов и формат весов safetensors; README также упоминает наличие квантованных версий GGUF. Модель опубликована по лицензии Apache-2.0.

Это дообученный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2, разработанный автором репозитория tjohn327. Модель кодирует предложения и абзацы в плотные векторы размерности 384 и предназначена для семантического поиска, сравнения текстов и связанных задач. Архитектура основана на BERT: среднее объединение токенных представлений и нормализация выходного вектора. В метаданных указан размер 25,9 млн параметров и контекст до 512 токенов; в README максимальная длина последовательности указана как 256 токенов. Модель обучена на 21 376 парах текстов с использованием MultipleNegativesRankingLoss. Она может применяться для поиска похожих документов, оценки семантического сходства, поиска перефразировок, кластеризации и классификации текстов. README приводит результаты оценки информационного поиска на наборе dev-evaluation. Модель использует библиотеку Sentence Transformers и распространяется в формате safetensors. Язык обучения и лицензия в предоставленных сведениях не обозначены; базовая модель описана как англоязычная.

Seed-OSS-36B-Base — базовая большая языковая модель команды ByteDance Seed, опубликованная под лицензией Apache-2.0. Это плотная авторегрессионная модель на архитектуре Seed-OSS с 31,7 млрд параметров по метаданным; в карточке семейства указаны RoPE, групповое внимание GQA, RMSNorm и активация SwiGLU. Модель принимает текст и генерирует текст. Модель предназначена для дообучения и применения в задачах общего назначения, рассуждений, работы с длинными контекстами и построения агентных систем. Она обучена на 12 трлн токенов, нативно поддерживает контекст до 524 288 токенов и позволяет управлять бюджетом рассуждений. Версия Base включает синтетические инструкционные данные в предобучение; команда также выпустила вариант без этих данных и отдельную версию Instruct. Семейство ориентировано на международное использование. Карточка рекомендует выбирать длину рассуждений с учётом сложности задачи; результаты зависят от бюджета и настроек генерации. Для запуска доступны Transformers и vLLM.

Seed-OSS-36B-Instruct-AWQ-4bit — квантизированная 4-битная версия инструкционной языковой модели Seed-OSS-36B-Instruct, разработанной командой ByteDance Seed. Квантизация выполнена с использованием llm-compressor от vLLM и набора данных Llama-Nemotron-Post-Training-Dataset. Модель предназначена для генерации текста, диалоговых систем, задач рассуждения, агентских сценариев с использованием инструментов и приложений, требующих обработки длинного контекста. Модель основана на архитектуре causal language model с RoPE, GQA, RMSNorm и активацией SwiGLU. Она содержит около 36 миллиардов параметров, 64 слоя, скрытый размер 5120, словарь примерно из 155 тысяч токенов и поддерживает контекст до 512K токенов. Указанные языки — английский и китайский; семейство Seed-OSS в целом ориентировано на международные сценарии. Предусмотрено гибкое управление бюджетом рассуждения, что позволяет выбирать компромисс между качеством и скоростью вывода. Основные преимущества этой версии — существенно сниженные требования к памяти по сравнению с полноразмерной моделью и сохранение возможностей исходной инструкционной модели для общих, логических и агентских задач. Ограничения связаны с 4-битной квантизацией, которая может снижать точность по сравнению с исходными весами, а также с высокой вычислительной нагрузкой модели на 36B параметров. Для работы требуются совместимые реализации Transformers и инфраструктура, поддерживающая AWQ; в README приведён пример запуска через vLLM с tensor parallelism. Модель распространяется по лицензии Apache-2.0.

gubartz/st_scibert_abstruct — модель Sentence Transformers на архитектуре BERT, разработанная пользователем gubartz. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,1 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате PyTorch. При использовании через Transformers поверх контекстных представлений требуется применить подходящий pooling. Модель обучалась с функцией потерь BatchAllTripletLoss. README не уточняет языки обучения, лицензию или специализированную предметную область, поэтому область применения следует определять по данным пользователя. Для длинных текстов действует ограничение контекста в 512 токенов.

Tarka-AIR разработала Tarka-Embedding-150M-V1 — компактную текстовую embedding-модель на 150,9 млн параметров на основе архитектуры Gemma 3 Text. Она преобразует текст в плотные векторы размерностью 768 для поиска, оценки семантического сходства и извлечения документов в RAG-системах. Контекст модели — до 2048 токенов; заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Модель обучена методом дистилляции знаний без меток на корпусе примерно из 2 млрд токенов. Для формирования запросов и документов README рекомендует использовать специальные префиксы, зависящие от сценария. Модель подходит для семантического поиска, подбора похожих текстов, кластеризации и извлечения контекста для ответов на вопросы и проверки фактов. Авторы сообщают, что пока оценивали её только на англоязычном бенчмарке MTEB, поэтому качество для остальных заявленных языков не подтверждено опубликованными результатами. Лицензия — Gemma; перед использованием следует учитывать её условия.

Trinity Mini GGUF — квантизированная версия модели Trinity-Mini, разработанная Arcee AI. Это открытая по весам языковая модель для генерации текста, ориентированная прежде всего на задачи рассуждения, а также на универсальные сценарии работы с инструкциями. Модель предназначена для запуска на платформах, использующих llama.cpp, включая LM Studio, а также доступна через API. Модель построена на архитектуре AfmoeForCausalLM и использует разреженную MoE-архитектуру: всего 26 млрд параметров, из которых 3 млрд активны при обработке токена. В составе 128 экспертов, 8 активных экспертов и 1 общий эксперт. Контекстное окно составляет 128 тысяч токенов. Модель обучена на 10 трлн токенов с дополнительным акцентом на математику и программный код. Заявлена поддержка английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. К сильным сторонам относятся сочетание крупного общего числа параметров с меньшим числом активных параметров, большой контекст и специализация на рассуждениях при сохранении универсальности. Ограничения включают необходимость совместимого программного обеспечения и аппаратных ресурсов для запуска, а также отсутствие в предоставленных данных подробных количественных результатов тестов и информации о мультимодальности; модель описана как текстовая. Распространяется по лицензии OpenMDW-1.1.

USER2-base — русскоязычная модель для создания векторных представлений предложений, разработанная deepvk на основе энкодера RuModernBERT-base. Она содержит 149 млн параметров, поддерживает контекст до 8192 токенов и выдаёт эмбеддинги размерностью 768. Модель дообучена для поиска и семантических задач, включая извлечение информации, сравнение предложений, классификацию и кластеризацию. USER2-base поддерживает Matryoshka Representation Learning: размер эмбеддинга можно сократить до 32, 64, 128, 256, 384 или 512 измерений с минимальной потерей качества. Для разных задач рекомендуется добавлять префиксы, например search_query и search_document для поиска или clustering для кластеризации. Модель доступна в форматах Safetensors и ONNX и совместима с библиотекой Sentence Transformers. Модель ориентирована на русский язык. Карточка приводит результаты оценки на MTEB-rus и MLDR-rus, но не даёт полной таблицы всех сравнительных результатов. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели jondurbin/airoboros-l2-70b-gpt4-m2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-m2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-m2.0 — плотная авторегрессионная модель семейства LLaMA на 65 млрд параметров, разработанная Jon Durbin и дообученная для следования инструкциям на синтетических данных Airoboros. Версия m2.0 объединяет данные набора 1.4.1 без дубликатов и категории system с данными GPT-4, созданными на основе версии от июня 2023 года; исходная серия также включала данные GPT-4 от марта 2023 года. Модель предназначена для диалога и генерации текста по инструкциям: ответов на вопросы по предоставленному контексту, помощи с программированием, планирования шагов для задач с инструментами и генерации аргументов функций в JSON или YAML. Для общения используется текстовый шаблон с ролями USER и ASSISTANT. Контекст составляет 2048 токенов. Модель обучена с QLoRA; README отмечает, что варианты 65B основаны на оригинальной LLaMA, а не Llama 2. Карточка описывает модель как дающую подробные ответы, ориентированную на использование контекста в закрытых вопросах и включающую примеры планирования и вызова функций. Возможны галлюцинации, особенно если запрос не содержит достаточных сведений; для вопросов по контексту автор рекомендует явно просить не придумывать ответ. Модель выпускается по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.

IoannisKat1 выпустил англоязычную модель Sentence Transformers для получения векторных представлений предложений и абзацев, дообученную на базе sentence-transformers/all-MiniLM-L6-v2 на 1 580 парах текстов. Это энкодер на архитектуре BERT с 25,9 млн параметров: он усредняет токенные представления, нормализует результат и формирует векторы размерностью 384, сравниваемые по косинусному сходству. Контекст в метаданных указан как 512 токенов, а README заявляет максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и извлечения признаков для классификации. Matryoshka-обучение позволяет использовать усечённые векторы размерностью 256, 128 или 64; в README приведены результаты оценки поиска для этих размерностей. Модель принимает текст и выдаёт векторные представления. Лицензия — Apache-2.0.

zihoo дообучила sentence-transformers/all-MiniLM-L6-v2 для представления предложений и абзацев в виде плотных семантических векторов размерностью 384. Модель основана на BERT и использует усреднение токенных представлений, после которого векторы нормализуются; сходство можно оценивать косинусной мерой. В метаданных указаны 25,9 млн параметров, библиотека Sentence Transformers и контекст до 512 токенов, а карточка модели указывает максимальную длину последовательности 350 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. README сообщает о дообучении на наборе из 160 000 примеров. Базовая модель описана каталогом как англоязычный энкодер, поэтому качество для других языков не следует предполагать без отдельной проверки. Лицензия в предоставленных данных не указана.

b1ade-embed-kd — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная пользователем w601sxs. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для семантического поиска, кластеризации и оценки сходства текстов. Модель обучена дистилляцией с использованием MSELoss; в README отмечено согласие результатов с моделью-учителем на задаче семантического сходства. Модель доступна в формате safetensors и интегрируется с библиотекой Sentence-Transformers. Контекст ограничен 512 токенами. Лицензия в предоставленных данных не указана.

Nhat1904/best_64_shots — модель Sentence-Transformers на архитектуре MPNet, разработчик которой в карточке не назван. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и семантического поиска. Модель содержит 136,7 млн параметров, принимает текст и формирует векторные представления; максимальная длина контекста составляет 514 токенов. В README указано обучение с функцией потерь CosineSimilarityLoss. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

vectoriseai/bge-small-en — англоязычная модель эмбеддингов из семейства BGE (BAAI General Embedding), представленная в проекте FlagEmbedding. Она преобразует текст в плотные векторы размером 384 для поиска и сравнения по смыслу; в карточке указаны архитектура BERT и около 40 млн параметров. Модель принимает текстовые последовательности длиной до 512 токенов и предназначена для английского языка. Модель подходит для семантического поиска, извлечения релевантных фрагментов для RAG, классификации и кластеризации текста. Для поиска длинных документов по короткому запросу README рекомендует добавлять к запросу инструкцию «Represent this sentence for searching relevant passages:»; к самим документам инструкцию добавлять не нужно. Репозиторий содержит веса PyTorch и Safetensors, а также формат ONNX; лицензия — MIT. Компактный размер упрощает развёртывание по сравнению с крупными вариантами BGE, сохраняя пригодность для типовых задач текстового поиска. Контекст ограничен 512 токенами, поэтому длинные тексты следует обрабатывать частями. Метаданные классифицируют модель как sentence similarity, а каталог также указывает извлечение признаков.

Это Sentence Transformer, дообученный автором samsartor на базе Qwen/Qwen3-Embedding-0.6B для сравнения смысловой близости текстов. Модель преобразует предложения и абзацы в плотные векторы размерности 1024; сходство оценивается косинусной мерой. Архитектура включает Qwen3Model, пулинг последнего токена и нормализацию векторов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Максимальная длина последовательности — 32 768 токенов. Для обучения указаны 5 022 парных примера и ContrastiveLoss. Метаданные описывают базовую Qwen3-Embedding-0.6B как многоязычную модель; конкретный набор поддерживаемых языков этой версии не уточнён. Лицензия в предоставленных данных не указана.

DeepSeek-V3 — крупная языковая модель, разработанная командой DeepSeek и представленная в репозитории Unsloth на базе deepseek-ai/DeepSeek-V3. Она предназначена для задач генерации и обработки текста, включая диалоговые приложения, продолжение текста, адаптацию под специализированные наборы данных и запуск через совместимые инструменты Transformers, vLLM или GGUF. В README указан английский язык модели. Модель использует архитектуру Mixture-of-Experts (MoE) с 671 млрд общих параметров, из которых 37 млрд активируются для каждого токена. В ней применяются Multi-head Latent Attention (MLA), архитектура DeepSeekMoE, стратегия балансировки нагрузки без вспомогательной функции потерь и обучение с предсказанием нескольких токенов, которое может использоваться для ускорения speculative decoding. Предобучение выполнено на 14,8 трлн токенов, после чего проведены Supervised Fine-Tuning и Reinforcement Learning. К сильным сторонам относятся высокая заявленная производительность, эффективность MoE и стабильность обучения; ограничением являются очень большие требования к вычислительным ресурсам для запуска и обучения, а размер контекста и мультимодальные возможности в README не указаны. Лицензия — MIT.

elephant-embeddings-v1-text-small — многоязычная модель эмбеддингов от vllm-sr для поиска по смыслу, извлечения знаний и рабочих процессов ИИ-агентов. Это дообученная ModernBERT-модель с 306,9 млн параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors, библиотека — Sentence Transformers. Модель формирует векторные представления текста и поддерживает 2D Matryoshka: размерность можно выбирать, в частности 64, 256 или 768, с компромиссом между качеством и затратами. Модель предназначена для семантического поиска по длинным заметкам и документам, извлечения из базы знаний, поиска по памяти агента, сопоставления запросов с инструментами и маршрутизации задач. README приводит результаты MTEB и STS, но они не гарантируют качество для каждого набора данных или сценария. Длинные входы увеличивают затраты на вычисления и память, а сокращение размерности или слоёв может снизить качество; для некоторых задач может потребоваться отдельная настройка. Лицензия — Apache-2.0.

EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 302,8 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она принимает текст и преобразует его в векторы размерностью 768, которые можно сократить до 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Максимальная длина входа — 2048 токенов; модель предназначена для работы с Sentence Transformers и ориентирована на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Модель подходит для семантического поиска и извлечения документов, оценки сходства текстов, классификации и кластеризации, а также для поиска фрагментов кода по текстовым запросам и подбора источников для систем ответов на вопросы. Обучение охватывало более 100 языков и включало веб-тексты, код, техническую документацию и данные для задач поиска и классификации. Модель выдаёт векторы, а не готовые ответы на вопросы. Качество зависит от охвата обучающих данных; возможны трудности с нюансами, сарказмом и переносными смыслами, а обучающие данные могут содержать смещения. Лицензия — Gemma; использование регулируется условиями Google и политикой запрещённого использования Gemma.

kttt294/english-sbert-finetuned — англоязычная модель Sentence Transformers, дообученная автором на базе sentence-transformers/all-mpnet-base-v2 для кодирования предложений и абзацев в плотные векторы. Она построена на MPNet с усреднением токенных представлений и нормализацией выходных векторов; размер вектора — 768, для сравнения используется косинусное сходство. Модель подходит для семантического поиска, извлечения релевантных фрагментов и сравнения текстов. Максимальная длина входной последовательности в карточке указана как 384 токена, тогда как метаданные каталога сообщают контекст 514 токенов. В карточке указано обучение на 12 001 примере пар предложений с оценками сходства. Модель принимает текст и выдаёт эмбеддинги; метаданные также относят её к задачам извлечения признаков и сходства предложений. Лицензия в предоставленных данных не указана.

Debbie89889/esci-biencoder — текстовая модель Sentence Transformers, дообученная на базе sentence-transformers/all-MiniLM-L6-v2. Энкодер BERT преобразует предложения и абзацы в плотные векторы размерности 384, усредняет токенные представления и нормализует результат. Для сравнения векторов указана косинусная близость; модель предназначена для семантического поиска и извлечения релевантных текстов. Модель обучалась на 148 465 примерах с MultipleNegativesRankingLoss. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекстное окно 512 токенов. Она принимает текст и выдаёт векторы; метаданные также отмечают поддержку извлечения признаков и сравнения предложений. Лицензия в предоставленных данных не указана.

Модель tasksource/ettin-32m-embed разработана как Sentence Transformer на базе jhu-clsp/ettin-encoder-32m и дообучена на 19 наборах данных. Она кодирует предложения и абзацы в плотные векторы размерности 384; близость текстов оценивается косинусным сходством. Архитектура включает ModernBERT-энкодер, усредняющий пулинг и нормализацию векторов. Модель содержит 31,9 млн параметров и поддерживает контекст до 7999 токенов по метаданным; в README указана максимальная длина последовательности 1024 токена. Модель предназначена для семантического сходства и поиска, поиска перефразировок, классификации и кластеризации текста. Англоязычные обучающие данные охватывают, среди прочего, распознавание дубликатов вопросов, поиск ответов, научные тексты и код. Лицензия в предоставленных данных не указана.