I.3Извлечение и структурирование данных

srikarvar/fine_tuned_model_5 — дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-small, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 384, нормализованные для сравнения по косинусному сходству. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. В основе — архитектура BERT с усреднением токенных представлений и нормализацией; модель рассчитана на последовательности до 512 токенов. Дообучение проведено на парах предложений с метками сходства с использованием OnlineContrastiveLoss; в README приведены результаты оценки на тестовом наборе. Базовая модель multilingual-e5-small предназначена для многоязычных текстовых эмбеддингов, однако конкретные поддерживаемые языки этой версии в карточке не перечислены. Для работы нужны текстовые входы; результатом служат векторы, которые можно использовать в поисковых и сравнительных системах. Лицензия в предоставленных данных не указана.

Edmon02/gemma-4-12B-it-GGUF — это общественное GGUF-зеркало инструкционно дообученной мультимодальной модели Gemma 4 12B IT от Google DeepMind, основанное на google/gemma-4-12B-it. Репозиторий поддерживается Edmon02 и содержит наборы квантованных весов, синхронизированные из bartowski/gemma-4-12B-it-GGUF, для локального запуска на пользовательском оборудовании. Модель предназначена для генерации текста, создания локальных агентов, программирования, а также мультимодальных сценариев с анализом изображений и аудио. Она имеет около 12 млрд плотных параметров, поддерживает текст, vision и audio, использует encoder-free архитектуру без отдельных визуального и аудиокодировщиков. Для обработки изображений в llama.cpp требуется дополнительный файл mmproj-*.gguf. Точное значение контекстного окна в README не указано. Заявлена поддержка английского языка; отдельно упоминаются сценарии исследований на армянском и английском, но полноценный перечень языков не приведён. К сильным сторонам относятся широкий выбор квантований, возможность запуска на устройствах с примерно 8–24 ГБ видеопамяти и интеграция с llama.cpp, LiteRT-LM, LM Studio, Ollama и MLX. Рекомендуемый вариант Q4_K_M рассчитан примерно на 16 ГБ памяти. Ограничения включают необходимость проверять качество общественных квантований относительно официальной версии BF16, возможную потребность в самых свежих сборках llama.cpp или LM Studio для аудио, а также требование принять лицензию и получить доступ к исходному gated-репозиторию Google. Указана лицензия Apache 2.0.

OnlyTextLLMs выпустила текстовую версию Gemma 4 26B A4B IT: из исходной модели Google удалены компоненты обработки изображений и аудио, а текстовая часть весов и языковая головка сохранены. Это причинная языковая модель Gemma4ForCausalLM с 25,23 млрд параметров по README; метаданные каталога указывают 2 млрд параметров, поэтому размер модели в источниках расходится. Модель предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст; её контекст составляет 262 144 токена. Модель распространяется по лицензии Apache 2.0.

AtomicChat/gemma-4-E4B-it-assistant-GGUF — это локальная GGUF-квантизированная версия модели google/gemma-4-E4B-it-assistant, разработанной Google и самостоятельно преобразованной в GGUF командой Atomic Chat. Модель предназначена для генерации текста, диалоговых ассистентов, рассуждений, программирования и автономного офлайн-использования через llama.cpp, Ollama, LM Studio, Jan и совместимые приложения. Архитектура модели — плотный decoder с 42 слоями, гибридным вниманием: скользящее окно 512 токенов сочетается с глобальным вниманием. Указано 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, контекст до 128K токенов, словарь 262K токенов, 4 attention heads и 2 KV heads. Базовая модель поддерживает текст, изображения и аудио, однако представленные в этом репозитории кванты являются текстовыми и не содержат vision projector. Языки модели в README не указаны. Доступны варианты Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; квантизация выполнена с importance matrix, что должно уменьшать потери качества на низкой разрядности. Q4_K_M рекомендован как компромисс между размером, скоростью и качеством, а Q8_0 и F16 — для большей точности. Ограничениями являются текстовый формат поставки, возможная потеря качества из-за квантизации и необходимость использовать шаблон чата Gemma 4 через параметр --jinja. Приведённые в README результаты бенчмарков относятся к базовой модели Google, а не к независимым измерениям данной квантизированной версии. Модель распространяется по лицензии Apache 2.0.

unsloth/GLM-Z1-9B-0414-GGUF — это GGUF-квантизированная версия модели GLM-Z1-9B-0414, разработанной командой THUDM и подготовленной Unsloth. Модель относится к семейству GLM, предназначена для генерации текста и поддерживает китайский и английский языки. Это компактная модель примерно на 9 млрд параметров, ориентированная на локальный запуск в условиях ограниченных вычислительных ресурсов. Модель обучалась с применением методов cold start и расширенного обучения с подкреплением на задачах математики, программирования и логики. Она рассчитана на диалоговые и общие текстовые задачи, требующие рассуждений, включая математическое решение проблем и выполнение сложных инструкций. Для инференса рекомендуется использовать параметры temperature 0.6, top_p 0.95, top_k 40 и max_new_tokens до 30000; поддерживается принудительный режим рассуждений. Базовый максимальный контекст составляет 8192 токена, а для более длинных входов может применяться YaRN с исходным пределом позиционных эмбеддингов 32768 токенов, что потенциально снижает качество на коротких текстах. Для запуска через llama.cpp требуется включить опцию --jinja. Модель распространяется по лицензии MIT.

RedHatAI/granite-3.1-8b-instruct-quantized.w4a16 — это квантизированная версия текстовой инструкционной модели ibm-granite/granite-3.1-8b-instruct с архитектурой Granite 3.1 и примерно 8 млрд параметров. Модель разработана на основе IBM Granite; квантизацию выполнила Neural Magic. Она принимает текст и генерирует текст, ориентирована на диалоговые сценарии, ответы на вопросы и другие задачи text-to-text. В карточке указан английский язык. Модель использует квантизацию весов и активаций до INT4; для линейных операторов внутри трансформерных блоков квантизированы только веса. По сравнению с исходным представлением это примерно на 75% уменьшает размер на диске и требования к видеопамяти, что делает модель более подходящей для эффективного инференса. Она подготовлена для запуска с vLLM версии 0.5.2 и выше и совместима с Red Hat AI Inference Server, Red Hat Enterprise Linux AI и Red Hat OpenShift AI. На OpenLLM benchmark v1 модель получила средний результат 69,81 против 70,30 у неквантизированной версии, что указывает на небольшое снижение качества после сжатия. Модель предназначена для развертывания на GPU и использования через vLLM, включая OpenAI-совместимый сервер. Максимальный контекст модели в README явно не указан; приведенные значения длины контекста относятся к примерам конфигурации запуска. Лицензия — Apache License 2.0.

Granite 4.2 30B GGUF — квантизированная версия языковой модели IBM Granite 4.2 30B, разработанной IBM и опубликованной как ibm-granite/granite-4.2-30b. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, рассуждений, диалоговых сценариев и вызова инструментов. Модель содержит около 29 млрд параметров и работает с текстовыми входными данными. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. В карточке не указаны архитектура и размер контекстного окна. Спекулятивное декодирование не поддерживается. Для работы предусмотрен специальный шаблон запросов с системными и пользовательскими сообщениями, а также секцией рассуждений <think>. Главное преимущество этой версии — выбор множества вариантов квантизации с разным соотношением качества, размера и требований к памяти: от BF16 и Q8_0 до компактных вариантов Q2 и IQ3. В README наиболее сбалансированным вариантом назван Q4_K_M размером 18,03 ГБ, а варианты Q5 и Q6 характеризуются как высококачественные. При этом снижение разрядности может ухудшать качество ответов, особенно у компактных вариантов, а для запуска требуются значительные ресурсы. Лицензия модели — Apache-2.0.

gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

harkov000/hermes-dolphin-8B-v0.2 — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом SLERP из cognitivecomputations/dolphin-2.9.4-llama3.1-8b и NousResearch/Hermes-3-Llama-3.1-8B. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и генерирует текст. В карточке указана лицензия? Нет сведений о лицензии, поэтому условия использования определить нельзя.

jina-embeddings-v5-text-small-mlx — мультимодульная по задачам модель эмбеддингов Jina AI для Apple Silicon, основанная на Qwen3 и использующая четыре LoRA-адаптера для переключения задач. Репозиторий содержит базовые веса и адаптеры; при смене задачи адаптеры объединяются с весами на месте. Модель имеет 507,9 млн параметров, работает в float16 и создаёт векторы размерностью до 1024 с поддержкой Matryoshka-размеров 32, 64, 128, 256, 512, 768 и 1024. Максимальная длина последовательности — 32 768 токенов. Модель предназначена для семантического поиска, сравнения текстов и группировки документов; метаданные указывают задачу feature-extraction. Карточка сообщает о высокой близости результатов к предварительно объединённым контрольным точкам и переключении адаптеров примерно за 20 мс. Установка описана через MLX, поэтому применение ориентировано на устройства Apple Silicon. Модель основана на jinaai/jina-embeddings-v5-text-small и распространяется по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

IFM/K2-Horizon-MoVA-36B-A4B-FP8 — открытая FP8-квантизованная версия модели K2-Horizon-MoVA-36B-A4B, разработанная IFM. Это разреженная Mixture-of-Experts-модель с механизмом внимания Mixture-of-Values (MoVA), содержащая 36 млрд параметров, из которых около 4 млрд активируются для каждого токена. Модель предназначена для генерации текста, агентских сценариев и задач, требующих рассуждений. Модель поддерживает английский язык и нативный контекст до 524 288 токенов. Квантизации FP8 подвергнуты маршрутизируемые линейные слои экспертов в слоях трансформера 3–47: веса используют статический FP8 E4M3FN, а активации — динамический FP8. Остальные основные тензоры, включая attention, общие эксперты, маршрутизаторы, первые плотные слои, MoVA-экспертов значений, нормализацию, embeddings и lm_head, сохранены в BF16. Благодаря этому снижается объём памяти и ускоряется инференс на оборудовании с поддержкой FP8 при близком к исходной BF16-модели качестве. Сильные стороны модели — высокий заявленный уровень результатов при небольшом числе активных параметров, длинный контекст и эффективность разреженной архитектуры. Для обслуживания рекомендуется tensor parallelism с TP=1 или TP=2. Ограничения включают зависимость преимуществ FP8 от совместимого оборудования и инфраструктуры, а также отсутствие в предоставленных данных подробной оценки качества по отдельным задачам и языкам. Модель распространяется под лицензией Apache-2.0.

waris-gill/langcache-embed-v2 — модель Sentence Transformers, дообученная автором на триплетном наборе данных от базовой модели redis/langcache-embed-v1. Она использует архитектуру ModernBERT с 149 млн параметров и преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения текстов по косинусному сходству. Максимальная длина последовательности составляет 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Её можно применять для поиска похожих запросов и семантического кэширования. Обучение описано как дообучение на триплетах; репозиторий использует Sentence Transformers и формат Safetensors. Язык лицензии в предоставленных данных не указан, поэтому условия использования по ним определить нельзя.

laprador-document-encoder — модель Sentence-Transformers на архитектуре BERT, представленная в репозитории gemasphi. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель содержит 136,1 млн параметров, работает с текстом и рассчитана на контекст до 512 токенов. Полученные эмбеддинги подходят для поиска семантически близких фрагментов и группировки текстов по смыслу. Для сравнения текстов и поиска требуется использовать векторное представление модели; README также описывает применение через Sentence-Transformers либо Transformers с соответствующей операцией pooling. Модель распространяется в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

Ling-2.5-1T — открытая языковая модель компании Inclusive Intelligence для диалогов, генерации текста, рассуждений и работы с инструментами. Она построена на гибридной архитектуре Bailing MoE с линейным вниманием; в карточке Hugging Face указано 59 млрд параметров, а разработчик сообщает о 1 трлн общих и 63 млрд активных параметров. Эти оценки размера различаются. Модель распространяется в формате safetensors и поддерживает интерфейс вызова инструментов. Модель рассчитана на следование инструкциям, творческое письмо, сложные рассуждения, агентные сценарии и обработку длинных контекстов. README заявляет контекст до 1 млн токенов с YaRN; метаданные указывают нативный контекст 131 072 токена. Разработчик сообщает об обучении на 29 трлн токенов и улучшении пропускной способности при длинной генерации. Модель выпущена под лицензией MIT. В README отмечено, что она пока уступает передовым моделям в сложных взаимодействиях агентов и длительном выполнении задач. Указания на поддержку конкретных естественных языков в предоставленных данных отсутствуют.

Linkbricks-Horizon-AI-Avengers-V2-78B — многоязычная разговорная языковая модель, дообученная специалистом компании Linkbricks на базе MaziyarPanahi/calme-3.2-instruct-78b. Это плотная модель семейства Qwen2 с 76,7 млрд параметров и контекстом 32 768 токенов; репозиторий содержит веса Safetensors для Transformers. В README описаны этапы SFT, DPO, ORPO и слияния моделей, а также поддержка вызова функций и инструментов. Модель предназначена для генерации текста и диалогов, анализа отзывов клиентов и публикаций в социальных сетях, написания текстов и кода, решения математических и логических задач. Обучение включало многоязычные новостные и wiki-корпуса, а также данные для задач на корейском, японском, китайском и английском языках, включая переводы, суммаризацию и вопросы-ответы. По данным карточки, лицензия — Apache-2.0. Карточка описывает заявленные возможности, но не приводит результатов независимых оценок качества. Размер модели требует значительных вычислительных ресурсов для запуска; поддержка конкретных языков и сценариев может различаться по качеству.

Saxo из Linkbricks дообучил эту плотную авторегрессионную модель на базе Meta Llama 3.3 70B Instruct: обучение включало японскую адаптацию CPT, SFT и DPO. Для обучения использовались японские новостные и вики-корпуса, а также многоязычные данные и примеры для разных задач. Модель рассчитана на диалог и генерацию текста, включая анализ отзывов и публикаций в соцсетях, написание текстов и кода, математические и логические задачи; заявлена поддержка вызова функций и инструментов. Модель принимает текст и поддерживает контекст до 128 тысяч токенов. README заявляет усиленную работу с японским, корейским, китайским и английским языками; метаданные подтверждают японский и корейский среди языков карточки, а также английский. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Размер базовой модели — 69,5 млрд параметров.

Linkbricks-Horizon-AI-Japanese-Base-32B — языковая модель, дообученная директором по данным Linkbricks Юнсоном Джи (Saxo) на базе Qwen/QwQ-32B-Preview. Модель Qwen2 с 32 млрд параметров предназначена для генерации текста и диалогов; обучение включало японское продолженное предобучение, SFT и DPO, а также данные на японском, корейском, китайском и английском языках. В README заявлено окно контекста 128 тыс. токенов, тогда как метаданные указывают нативный контекст 32 768 токенов. Модель рассчитана на многоязычные задачи, включая перевод, суммаризацию, анализ отзывов и публикаций в социальных сетях, написание текстов и кода, математические и логические рассуждения. Поддерживает интерфейс вызова функций и инструментов. Лицензия — Apache-2.0. README не приводит результаты сравнительных оценок, поэтому заявленные сильные стороны не дают основания судить о качестве на конкретных тестах.

Saxo/Linkbricks-Horizon-AI-Llama-3.3-Japanese-70B-Advanced — дообученная модель компании Linkbricks, созданная дата-сайентистом Юнсоном Джи (Saxo) на базе Llama 3.3 70B Instruct. Модель прошла японское продолжительное предобучение, затем SFT и DPO; использует плотную архитектуру Llama с 69,5 млрд параметров и контекстным окном до 128 тысяч токенов. Модель предназначена для диалогов и генерации текста на японском, корейском, китайском и английском языках. В карточке отмечено усиление перевода и межъязыковой работы, анализа отзывов и публикаций в социальных сетях, написания текстов и кода, а также решения математических и логических задач. Поддерживается интерфейс вызова функций и инструментов. Для обучения использовались 30 млн японских новостных материалов и корпус Википедии, а также многоязычные данные для разных задач. Модель распространяется в формате Safetensors под лицензией Apache 2.0. README заявляет перечисленные возможности, но не приводит результаты сравнительных оценок качества.

Карточка модели yuwy-thu/llama31 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Llama_3.x_70b_Smarteaz_V1 — плотная авторегрессионная языковая модель семейства Llama с 69,5 млрд параметров, созданная Nexesenex с помощью слияния моделей MergeKit и метода Model Stock. В качестве основы использованы Smarteaz 0.1, Smarteaz 0.2 R1 и Smarteaz 0.2 NMT; в README также описаны модели, послужившие компонентами этих слияний, включая Llama 3.3 70B, Nemotron 3.1 70B, DeepSeek R1 Distill 70B и Tulu 3 70B. Модель предназначена для генерации текста и диалогового взаимодействия. Автор стремился получить сильные рассуждения и низкую perplexity, сохранив связность на длинном контексте; заявлены результаты 3,45 perplexity на WikiText English при контексте 512, более 62% на ARC-Challenge и более 82% на ARC-Easy. Метаданные указывают контекст до 131 072 токенов и интерфейс вызова инструментов. Модель рассчитана на общие текстовые сценарии; README упоминает снижение выраженности исходных инструкций, стиля и «личности» при слиянии, а также намерение сохранить минимум цензуры. Модель распространяется в формате safetensors через Transformers под лицензией Llama 3.3. Использование должно соответствовать условиям этой лицензии.

Meta Llama 4 Maverick 17B 128E Instruct FP8 — инструкционная квантованная версия модели семейства Llama 4, разработанная Meta. Она предназначена для диалоговых сценариев и генерации текста, включая ответы на запросы, выполнение инструкций и интеграцию в приложения на базе Transformers. Модель заявлена как мультиязычная и поддерживает арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки. В идентификаторе указаны 17B и 128E, однако README не раскрывает архитектурные детали, длину контекста, точные модальности и характеристики качества. Обозначение FP8 указывает на 8-битное представление весов, но конкретные преимущества и ограничения этой версии не приведены. Модель распространяется по Llama 4 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая передачу текста лицензии, атрибуцию «Built with Llama» и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии Meta.

hugging-quants/Meta-Llama-3.1-8B-Instruct-BNB-NF4 — общественная квантованная версия Meta-Llama-3.1-8B-Instruct, разработанной Meta AI. Модель предназначена для генерации текста и мультиязычного диалогового взаимодействия, включая работу в качестве инструкционно настроенного чат-ассистента. Она поддерживает сценарии вопросно-ответного общения и другие задачи text-to-text, совместимые с causal language modeling, и может использоваться через Transformers или Text Generation Inference. Модель содержит 8 миллиардов параметров и работает только с текстом на входе и выходе. Она поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В этой версии исходные веса BF16 преобразованы с помощью bitsandbytes в формат NF4 с размером блока 64. Для загрузки контрольной точки требуется около 6 ГиБ VRAM без учёта KV-кэша и CUDA-графов, поэтому фактические требования к памяти выше. Квантование снижает требования к видеопамяти, но может влиять на качество по сравнению с исходной версией BF16. В README размер контекста и результаты конкретных тестов не указаны. Модель распространяется по лицензии Llama 3.1. Для запуска рекомендуются torch, bitsandbytes и Transformers версии 4.43.0 или выше; также заявлена поддержка Text Generation Inference.

Карточка модели NostraEmpire/mirror-mxbai-embed-large-v1 на Hugging Face совпадает с карточкой mixedbread-ai/mxbai-embed-large-v1, поэтому описание составлено по ней. mxbai-embed-large-v1 — модель Mixedbread AI для построения векторных представлений предложений и текстов. Это плотная BERT-модель на 433,9 млн параметров с контекстом до 512 токенов; она принимает текст и выдаёт эмбеддинги для поиска и сопоставления текстов. Карточка указывает английский язык и библиотеку sentence-transformers. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и оценки сходства предложений. Для поисковых запросов README рекомендует добавлять префикс «Represent this sentence for searching relevant passages:». Поддерживаются Matryoshka Representation Learning и бинарная квантизация, позволяющие уменьшать размер эмбеддингов и затраты на их хранение. В заявленной авторами оценке на MTEB модель показывает сильные результаты среди моделей размера BERT-large. Модель распространяется по лицензии Apache-2.0. Ограничения включают окно контекста в 512 токенов и необходимость использовать рекомендованный префикс для запросов в сценариях поиска; авторы также отмечают наличие ограничений, которые планировали исправить в версии v2, не уточняя их в этой карточке.

Mistral-Small-3.2-24B-Instruct-2506 — плотная модель Mistral на 24 млрд параметров, дообученная на основе mistralai/Mistral-Small-3.1-24B-Base-2503. Она предназначена для следования инструкциям, диалогов и вызова функций; поддерживает обработку изображений и текста. В версии 3.2 улучшены следование инструкциям, снижение повторов и вызов функций по сравнению с версией 3.1. Модель опубликована в формате safetensors и совместима с vLLM. Модель подходит для ассистентов, которым нужно отвечать на запросы, разбирать изображения и обращаться к инструментам через вызов функций. В карточке перечислена поддержка 23 языков, включая русский, английский, французский, немецкий, испанский, китайский и японский. Лицензия Apache-2.0 разрешает свободное использование и распространение с соблюдением её условий.

TheBloke/Mixtral-8x7B-v0.1-GPTQ — это GPTQ-квантизированная версия языковой модели Mixtral 8x7B v0.1, разработанной Mistral AI и подготовленной к публикации в формате GPTQ командой TheBloke. Модель предназначена для генерации и обработки текста, включая диалоговые и другие сценарии применения больших языковых моделей. В метаданных указаны английский, французский, итальянский, немецкий и испанский языки. Архитектура обозначена как Mixtral; исходная модель имеет конфигурацию 8×7B, однако точные сведения о контекстном окне в представленном README отсутствуют. Репозиторий содержит несколько вариантов 4-битной GPTQ-квантизации с разными параметрами group size и Act Order, что позволяет выбирать компромисс между требованиями к видеопамяти и точностью. Размер основного варианта составляет около 23,81 ГБ, а другого варианта — около 24,70 ГБ. Для работы требуются Transformers версии 4.36.0 или новее и совместимая реализация AutoGPTQ либо специальная версия Transformers; поддерживаются Linux с GPU NVIDIA или AMD и Windows с GPU NVIDIA. macOS в README не поддерживается для GPTQ-вариантов. Модель распространяется по лицензии Apache-2.0.

artdev99/MNLP_M3_document_encoder — модель для кодирования предложений и коротких абзацев в плотные векторы размерностью 384, отражающие их семантику. Это форк all-MiniLM-L6-v2, дообученный на базе nreimers/MiniLM-L6-H384-uncased с контрастивной целью на более чем миллиарде пар предложений. Модель использует архитектуру BERT и библиотеку Sentence Transformers; число параметров — 25,9 млн. Векторы подходят для семантического поиска, оценки сходства предложений и кластеризации. Модель принимает текст и выдаёт векторные представления; в README указано усечение входа длиннее 256 word pieces, а контекстное окно по метаданным составляет 512 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Apache-2.0.

hotchpotch/ModernBERT-embedding-CMNBRL — англоязычная модель Sentence Transformers, дообученная разработчиком на базе answerdotai/ModernBERT-base для получения плотных эмбеддингов предложений и абзацев. Она кодирует текст в векторы размерностью 768 и использует среднее pooling по токенам; сходство векторов можно оценивать по косинусной мере. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразирований, кластеризации и классификации текста. Модель имеет архитектуру ModernBERT encoder и около 149 млн параметров. README указывает максимальную длину последовательности 512 токенов, тогда как метаданные сообщают нативный контекст в 8192 токена; на практике следует учитывать ограничение конфигурации Sentence Transformers. Для обучения использовались MS MARCO, Natural Questions, GooAQ, CCNews и HotpotQA. В README приведены результаты оценки на наборах NanoBEIR и отдельных задачах поиска. Модель принимает текст и возвращает векторы, поэтому для поиска по большим коллекциям обычно требуется отдельный индекс эмбеддингов. Она ориентирована на английский язык, а её качество на других языках не подтверждено приведёнными данными. Лицензия — Apache-2.0.

Карточка модели DLCorso/multilingual-e5-small на Hugging Face совпадает с карточкой intfloat/multilingual-e5-small, поэтому описание составлено по ней. Multilingual-E5-small — модель текстовых эмбеддингов, разработанная авторами технического отчёта Multilingual E5. Это компактная 12-слойная модель архитектуры BERT с 124,3 млн параметров и размерностью эмбеддингов 384; она инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель преобразует тексты в векторы для поиска и сравнения по смыслу, включая межъязыковой поиск, поиск фрагментов для систем вопросов и ответов, семантическое сходство, подбор перефразировок и кластеризацию. Для разных типов текста следует использовать префиксы «query: » и «passage: » согласно сценарию; без них качество может снизиться. Поддерживаются 100 языков, однако качество для языков с малым количеством ресурсов может быть ниже. Контекст ограничен 512 токенами, длинные тексты обрезаются. В репозитории доступны форматы PyTorch, SafeTensors, ONNX и OpenVINO. Лицензия — MIT.

Карточка модели Hostage928/multilingual-e5-small на Hugging Face совпадает с карточкой intfloat/multilingual-e5-small, поэтому описание составлено по ней. Multilingual-E5-small — модель текстовых эмбеддингов, разработанная авторами технического отчёта Multilingual E5. Это компактная 12-слойная модель архитектуры BERT с 124,3 млн параметров и размерностью эмбеддингов 384; она инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель преобразует тексты в векторы для поиска и сравнения по смыслу, включая межъязыковой поиск, поиск фрагментов для систем вопросов и ответов, семантическое сходство, подбор перефразировок и кластеризацию. Для разных типов текста следует использовать префиксы «query: » и «passage: » согласно сценарию; без них качество может снизиться. Поддерживаются 100 языков, однако качество для языков с малым количеством ресурсов может быть ниже. Контекст ограничен 512 токенами, длинные тексты обрезаются. В репозитории доступны форматы PyTorch, SafeTensors, ONNX и OpenVINO. Лицензия — MIT.

Карточка модели inboxpraveen/multilingual-e5-small на Hugging Face совпадает с карточкой intfloat/multilingual-e5-small, поэтому описание составлено по ней. Multilingual-E5-small — модель текстовых эмбеддингов, разработанная авторами технического отчёта Multilingual E5. Это компактная 12-слойная модель архитектуры BERT с 124,3 млн параметров и размерностью эмбеддингов 384; она инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель преобразует тексты в векторы для поиска и сравнения по смыслу, включая межъязыковой поиск, поиск фрагментов для систем вопросов и ответов, семантическое сходство, подбор перефразировок и кластеризацию. Для разных типов текста следует использовать префиксы «query: » и «passage: » согласно сценарию; без них качество может снизиться. Поддерживаются 100 языков, однако качество для языков с малым количеством ресурсов может быть ниже. Контекст ограничен 512 токенами, длинные тексты обрезаются. В репозитории доступны форматы PyTorch, SafeTensors, ONNX и OpenVINO. Лицензия — MIT.