I.3Извлечение и структурирование данных

Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP — мультимодальная модель семейства Gemma 4, разработанная HauhauCS на основе Gemma 4 26B-A4B-it от Google DeepMind. Это версия с минимизированными отказами, ориентированная на агентный кодинг, рассуждения, творческое письмо, ролевые и разговорные сценарии, а также задачи, где важны надёжность и следование инструкциям. Модель построена по архитектуре MoE с 128 экспертами, из которых 8 активируются для каждого токена, и имеет заявленный контекст 256K токенов. Используется официальная QAT-квантизация примерно до 4 бит в формате GGUF Q4_K_M; основной файл занимает около 16,8 ГБ. Поддерживается ввод изображений через отдельный vision-проектор mmproj размером около 1,2 ГБ. Заявлен английский язык. В комплект входит MTP-драфтер для speculative decoding, который, по данным автора, ускоряет генерацию примерно на 35% без изменения проверенного моделью результата. Сильными сторонами являются сочетание большого контекста, MoE-архитектуры, поддержки изображений, 4-битной QAT-квантизации и оптимизации под llama.cpp, LM Studio, Jan, koboldcpp и другие GGUF-совместимые среды. Ограничения включают зависимость мультимодального режима от отдельного mmproj, необходимость совместимого MTP-драфтера для заявленного ускорения и возможные сбои Gemma 4 в LM Studio при использовании tensor-split на нескольких GPU. Несмотря на позиционирование как uncensored, автор отмечает отдельные пограничные случаи с отказом при первом запросе. Модель распространяется по лицензии Gemma; дополнительные условия лицензии в README не указаны.

gte-base — модель для получения векторных представлений текста из семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy. Она основана на архитектуре BERT и обучена на большом корпусе пар текстов с разметкой релевантности с использованием многоэтапного контрастивного обучения. Модель предназначена для поиска информации, оценки семантического сходства предложений и ранжирования текстов; её также можно применять для кластеризации и классификации текстов. Модель содержит 136,7 млн параметров, формирует эмбеддинги размерности 768 и обрабатывает последовательности длиной до 512 токенов. Доступны форматы PyTorch и ONNX. В сравнении на бенчмарке MTEB модель показала средний результат 62,39 по 56 задачам согласно карточке модели. Поддерживается английский язык; более длинные тексты обрезаются до 512 токенов. Лицензия — MIT.

gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

GeniusVoice/gv-semanticsearch-dutch-cased — модель Sentence-Transformers на базе BERT, разработанная для преобразования предложений и абзацев в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,3 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт эмбеддинги. Обучение с MultipleNegativesRankingLoss и косинусным сходством направлено на получение векторов, полезных для ранжирования семантически близких текстов. По названию модель ориентирована на нидерландский язык с сохранением регистра. Её можно применять для поиска документов по смыслу, группировки похожих предложений и вычисления семантического сходства. Лицензия в предоставленных данных не указана.

NANI-Nithin/Instella-MoE-16B-A3B-Think-GGUF — набор GGUF-квантизаций модели Instella-MoE-16B-A3B-Think, разработанной AMD. Модель предназначена для рассуждений, генерации текста, программирования и выполнения общих инструкций, включая локальный запуск на рабочих станциях, CPU, GPU и периферийных устройствах через совместимые среды llama.cpp. Это MoE-модель архитектуры Instella-MoE, производная от семейства DeepSeek-V3, примерно с 16 млрд общих параметров и около 3 млрд активных параметров на токен. Она является текстовой, англоязычной моделью с контекстом до 32 768 токенов в указанном примере запуска. Репозиторий содержит варианты от Q2_K до Q8_0, IQ-квантизации и BF16; квантизация позволяет снижать требования к памяти с соответствующим компромиссом между качеством и размером. Ключевое ограничение — отсутствие поддержки Instella-MoE в основной ветке llama.cpp на момент подготовки файлов. Для запуска требуется форк llama.cpp с веткой instella-moe либо будущая версия с полной поддержкой архитектуры, включая Gated Attention и FarSkip. Лицензия модели указана как Apache-2.0.

InternLM2-Base-20B — базовая языковая модель второго поколения InternLM, разработанная командой InternLM. Это плотная авторегрессионная модель на 19,3 млрд параметров для генерации и продолжения текста; она предназначена прежде всего для адаптации к предметным областям и может служить основой для последующего дообучения. Репозиторий содержит веса PyTorch, а заявленная длина контекста составляет 32 768 токенов. Модель рассчитана на работу с длинными текстами и демонстрирует способности к рассуждениям, математике и программированию. В README заявлена поддержка входов до 200 000 символов и приведены результаты оценивания InternLM2-20B на бенчмарках, включая MMLU, AGIEval и BBH; этот показатель длины в символах не следует смешивать с контекстом в 32 768 токенов из метаданных. Карточка описывает семейство InternLM2, но не перечисляет конкретные языки обучения или поддержки. Модель может генерировать предвзятый, дискриминационный или иной вредоносный текст, поэтому её ответы требуют проверки. Код распространяется по Apache-2.0; веса открыты для академических исследований, а для коммерческого использования требуется запросить бесплатную лицензию.

Карточка модели yodayo-ai/jina-embeddings-v2-small-en-st на Hugging Face совпадает с карточкой jinaai/jina-embeddings-v2-small-en, поэтому описание составлено по ней. jina-embeddings-v2-small-en — англоязычная модель эмбеддингов, разработанная Jina AI. Она построена на архитектуре JinaBERT на базе BERT: энкодер предварительно обучен на C4, а затем модель дообучена на наборе Jina AI из более чем 400 миллионов пар предложений и сложных негативных примеров из разных областей. Модель преобразует текст в векторы для поиска по длинным документам, семантического сравнения текстов, ранжирования, рекомендаций и систем RAG. Контекст поддерживает до 8192 токенов благодаря двунаправленному варианту ALiBi; при обучении использовалась длина последовательности 512 токенов. Для получения эмбеддинга предложения или фрагмента текста README рекомендует применять mean pooling. Размер модели — около 32,4 млн параметров по метаданным. Компактный размер обеспечивает быстрое и экономное по памяти получение эмбеддингов. Модель предназначена для английского языка и не является мультиязычной. Для работы через Transformers может потребоваться параметр trust_remote_code=True; модель доступна в форматах PyTorch, Safetensors, ONNX и Core ML. Лицензия — Apache-2.0.

SteelStorage выпустила слитую диалоговую языковую модель на архитектуре Llama с 69,5 млрд параметров. Веса объединены методом Model Stock с помощью mergekit: базой послужила NaniDAO/Llama-3.3-70B-Instruct-ablated, также включены abacusai/Dracarys2-Llama-3.1-70B-Instruct и nbeerbower/Llama-3.1-Nemotron-lorablated-70B. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Данные не уточняют поддерживаемые естественные языки, лицензию или ограничения по использованию, поэтому их нельзя определить по доступной карточке.

Meta Llama 3.1 70B — большая авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Она генерирует текст и рассчитана на многоязычный диалог; семейство включает предварительно обученные и настроенные версии, а настроенные модели используют SFT и RLHF. В этой карточке описана модель размером 70B, но не уточняется, является ли именно этот репозиторий предварительно обученной или настроенной версией. Модель подходит для диалогового помощника, генерации текста и создания синтетических данных. Она принимает и выдаёт текст; заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. В README отмечены более длинное контекстное окно и возможность интеграции с внешними инструментами, но конкретная длина контекста не приведена в предоставленных данных. Модель разработана Meta и выпущена в июле 2024 года. Использование регулируется специальной коммерческой лицензией Llama 3.1 Community License и Acceptable Use Policy; перед применением необходимо соблюдать их условия. К ограничениям относятся статичность модели, риски небезопасных или неточных ответов и сниженная заявленная пригодность для общения на языках вне списка поддержки.

Карточка модели d-matrix/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

DavidAU/Llama3.1-MOE-4X8B-Gated-IQ-Multi-Tier-Deep-Reasoning-32B-GGUF — текстовая instruct-модель, разработанная DavidAU на базе Llama 3.1 и объединяющая четыре 8B-модели в конфигурации Mixture of Experts. В состав входят Llama-3.1-DeepHermes-3-8B-Preview для рассуждений, а также Llama-3.1-Hermes-3-8B, Llama-3.1-dolphin-2.9.4-8b и Llama-3.1-SuperNova-Lite для генерации и дополнительной обработки. Заявленный общий размер — 32B параметров, при этом модель описывается как имеющая около 25B весов. Распространяется в формате GGUF и рассчитана на контекст до 128K токенов. Модель предназначена для текстовой генерации, глубокого рассуждения, решения задач, творческого письма, сторителлинга, ролевых сценариев и работы с инструментами. Поддерживает управление режимом рассуждений через системные промпты, включая включение, отключение и многоуровневое рассуждение, а также совместима с вызовами инструментов благодаря встроенному Llama 3.1 Instruct. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Сильными сторонами являются сочетание нескольких экспертных моделей, возможность управлять режимом рассуждений и универсальность сценариев применения. README рекомендует шаблон Llama 3 Instruct, контекст не менее 4K–8K токенов и более крупные квантизации для лучшего качества. К ограничениям относятся возможная нестабильность активации блока рассуждений, необходимость повторной генерации и зависимость качества от промпта, температуры и выбранной квантизации; заявленные улучшения производительности не подтверждены независимыми бенчмарками. Лицензия — Apache-2.0.

Llama-3.1-Nemotron-92B-Instruct-HF-early — текстовая диалоговая модель на архитектуре Llama, созданная слиянием весов через mergekit методом passthrough на основе nvidia/Llama-3.1-Nemotron-70B-Instruct-HF. Репозиторий содержит модель примерно с 90,9 млрд параметров в формате safetensors; для работы используется библиотека Transformers. Модель предназначена для генерации ответов на инструкции и диалоговых запросов, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Длина контекста составляет 131 072 токена. В карточке не приведены сведения о поддерживаемых естественных языках и лицензии, поэтому их нельзя уточнить; условия использования следует сверить с лицензией базовой модели и репозитория.

Llama3.1-Typhoon2-8B-Instruct — модель для выполнения инструкций, разработанная командой Typhoon AI на основе Llama 3.1 8B. Это плотная авторегрессионная модель семейства Llama с примерно 7,5 млрд параметров; метаданные указывают контекст до 131 072 токенов. Репозиторий содержит веса в формате Safetensors, а для работы требуется Transformers версии 4.45.0 или новее. Модель предназначена прежде всего для диалогов и выполнения инструкций на тайском и английском языках. Среди сценариев — ответы на вопросы, работа с длинным контекстом, вызов функций, а также задачи по математике и программированию. В приведённых авторами тестах показаны результаты для обоих языков, включая тайское переключение между языками и вызов функций. Авторы отмечают, что модель продолжает разрабатываться и может выдавать неточные, предвзятые или нежелательные ответы; встроенные защитные механизмы лишь частичны. Модель распространяется по лицензии Llama 3.1 Community License, поэтому перед использованием необходимо соблюдать её условия.

ErtasAI/Llama-3.2-1B-Instruct — это диалоговая языковая модель на базе Meta Llama 3.2, размещённая ErtasAI. Модель содержит около 1,2 млрд параметров и использует плотную авторегрессионную архитектуру Transformer; обучение включает настройку по инструкциям. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для многоязычного общения. Модель подходит для диалогового помощника, суммаризации, поиска сведений, переписывания запросов и помощи при написании текстов, в том числе в сценариях с ограниченными вычислительными ресурсами. В карточке базовой модели официально перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; качество на других языках не гарантируется. Это дообученная версия meta-llama/Llama-3.2-1B-Instruct, поэтому её специфические изменения и преимущества в карточке не описаны. Модель предоставляется по лицензии Llama 3.2 Community License, предусматривающей собственные условия коммерческого использования.

NVIDIA Llama 3.3 70B Instruct NVFP4 — FP4-квантизованная версия инструктивной языковой модели Meta Llama 3.3 70B Instruct. Это авторегрессионная плотная модель на архитектуре Transformer/Llama 3.3 с 69,5 млрд параметров, принимающая текст и генерирующая текст. Контекст — до 128 тысяч токенов; модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов и генерации текста. Квантизация весов и активаций линейных операторов в блоках Transformer выполнена с помощью NVIDIA TensorRT Model Optimizer; по данным карточки, она уменьшает требования к дисковому пространству и памяти GPU примерно в 3,3 раза. Для инференса указан TensorRT-LLM, аппаратная совместимость — NVIDIA Blackwell. Модель основана на Meta Llama 3.3 70B Instruct и подходит для коммерческого и некоммерческого использования в соответствии с условиями лицензии Llama 3.3. В README не приведены конкретные языки и результаты бенчмарков, поэтому языковой охват и сохранение качества после квантизации по этим данным оценить нельзя.

LLM-jp-4-33b-thinking — плотная трансформерная языковая модель семейства Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов, генерации ответов и решения задач с рассуждением на японском и английском языках; поддерживает интерфейс вызова инструментов. Модель содержит 32,2 млрд параметров, имеет 64 слоя и контекст до 65 536 токенов. Она обучалась на этапах предварительного и промежуточного обучения на 11,7 трлн токенов, затем прошла SFT и выравнивание DPO без обучения с подкреплением. Доступна в формате Safetensors для Transformers, лицензия — Apache-2.0. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Для корректной работы следует использовать приложенный токенизатор: он отличается от предположений библиотеки openai-harmony, несмотря на совместимость шаблона диалога с Harmony.

unsloth/Meta-Llama-3.1-70B-Instruct-bnb-4bit — это 4-битно квантованная версия Meta-Llama-3.1-70B-Instruct, подготовленная с использованием экосистемы Unsloth. Базовую модель разработала Meta; в карточке указано, что Unsloth предоставляет квантованный вариант и инструменты для более эффективного дообучения. Модель предназначена для генерации текста и диалоговых сценариев, включая создание виртуальных ассистентов, обработку инструкций и адаптацию под специализированные наборы данных. Модель относится к семейству Llama 3.1, содержит 70 миллиардов параметров и использует архитектуру decoder-only Transformer, характерную для этой серии. Указан основной язык English; поддержка других языков в карточке не заявлена. Формат bnb-4bit снижает требования к памяти по сравнению с полноразмерной моделью, что может упростить локальный запуск и дообучение, однако потенциально сопровождается потерей качества относительно исходной версии и требует совместимого программного и аппаратного окружения. Сведения о размере контекста, мультимодальности и точных характеристиках инференса отсутствуют. Модель распространяется по лицензии Llama 3.1. Перед использованием необходимо учитывать условия этой лицензии и требования совместимого стека, включая Transformers и поддержку 4-битной загрузки.

Карточка модели nuottroisaoduoc/Meta-Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. unsloth/Meta-Llama-3.1-8B-Instruct — инструкционно настроенная плотная авторегрессионная языковая модель семейства Llama, опубликованная Unsloth на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для диалогов, генерации текста и выполнения пользовательских инструкций; каталог также отмечает интерфейс вызова инструментов. В репозитории указаны 7,5 млрд параметров, формат safetensors и библиотека Transformers. Заявленная длина контекста — 131 072 токена. Модель подходит для создания чат-ботов, генерации и продолжения текста, а также приложений, использующих интерфейс вызова инструментов. В метаданных указан английский язык; README посвящён настройке Llama 3.1 и не сообщает результатов оценки качества именно этой версии. Лицензия — llama3.1; условия использования следует сверять с лицензией семейства Llama 3.1.

tanliboy/Meta-Llama-3.1-8B-Instruct — текстовая инструктивно настроенная языковая модель семейства Llama 3.1, разработанного Meta. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; модель дообучена для диалогов с помощью SFT и RLHF. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на многоязычный диалог на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Модель подходит для создания разговорных помощников, ответов на запросы и генерации текста, а также может быть подключена к внешним инструментам через соответствующий интерфейс. Репозиторий содержит веса в формате safetensors. Модель выпущена 6 сентября 2024 года и распространяется по лицензии Llama 3.1 Community License; перед коммерческим или иным применением необходимо соблюдать её условия и Acceptable Use Policy. Качество и безопасность ответов на языках вне восьми заявленных языков могут быть ниже; разработчикам следует оценивать результаты и применять защитные меры в соответствии со своим сценарием. Интеграция внешних инструментов требует отдельной политики и проверки безопасности подключённых сервисов.

Карточка модели Madras1/minilm-distilled-from-bge-large на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

EnlistedGhost/Ministral-3-8B-Reasoning-2512-GGUF — это конвертированная и квантованная версия Ministral-3-8B-Reasoning-2512-BF16, первоначально разработанной MistralAI. Модель распространяется в формате GGUF и предназначена для запуска через Ollama и llama.cpp. Модель ориентирована на диалоговые задачи, рассуждения и работу с текстом и изображениями. Она поддерживает мультимодальный сценарий image-text-to-text, включая чтение изображений, а также многоязычную работу с английским, французским, испанским, немецким, итальянским, португальским, нидерландским, китайским, японским, корейским, арабским и русским языками. Заявлен размер 8B параметров; точная длина контекста базовой модели не указана, но шаблон чата предусматривает скользящее окно примерно из 46 взаимодействий. К сильным сторонам относятся совместимость с Ollama и llama.cpp, наличие vision-проекторов для мультимодальной обработки и несколько вариантов квантования, позволяющих выбирать компромисс между качеством и требованиями к ресурсам. Ограничением является отмеченная автором проблема с шаблоном чата: при загрузке с Hugging Face он может некорректно активировать теги рассуждений. Модель выпущена под лицензией Apache-2.0.

Ministral-8B-Instruct-2410-HF — версия для Hugging Face модели Ministral-8B-Instruct-2410 от Mistral AI. Это плотная причинно-языковая модель на архитектуре Mistral с 7,5 млрд параметров, дообученная следовать инструкциям и вести диалог. Она принимает текст и предназначена для чата и генерации текста, включая интерфейс вызова функций. Максимальная длина контекста — 32 768 токенов. Модель поддерживает несколько языков, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский. Подходит для диалоговых помощников, генерации и продолжения текста, а также интеграции с инструментами через вызов функций. В карточке указана лицензия MRL; перед использованием следует учитывать её условия.

MiroThinker-1.7 — агентная языковая модель miromind-ai, созданная на основе Qwen3-235B-A22B-Thinking-2507 методом дообучения. Она предназначена для глубокого исследования, многошагового анализа и ответов на сложные вопросы с использованием инструментов; в поддерживаемом агентном сценарии может выполнять до 300 вызовов инструментов за задачу. Модель использует архитектуру Qwen3 MoE, содержит 18,2 млрд параметров и принимает контекст до 262 144 токенов. README сообщает о сильных результатах в задачах исследования, включая BrowseComp, BrowseComp-ZH, GAIA-Val-165 и HLE-Text. Для полноценного использования рекомендован агентный фреймворк с поддержкой инструментов и режимом рассуждений; сама модель в каталоге размечена как генерация текста. В метаданных указан английский язык. Модель распространяется под лицензией Apache-2.0.

Mistral-Instruct-Orca-Slerp — диалоговая языковая модель, созданная слиянием моделей Mistral AI и Open-Orca методом slerp с помощью mergekit. В основе — mistralai/Mistral-7B-Instruct-v0.2 и Open-Orca/Mistral-7B-OpenOrca; модель имеет архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Она принимает текст и выдаёт текст; карточка не сообщает о специализации на конкретном языке или предметной области. Распространяется в формате safetensors по лицензии Apache-2.0.

RedHatAI/Mistral-Small-3.2-24B-Instruct-2506-NVFP4 — квантизированная FP4-версия инструкционной текстовой модели unsloth/Mistral-Small-3.2-24B-Instruct-2506, разработанная RedHatAI. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых сценариев, выполнения инструкций и задач общего назначения, включая объяснение понятий и программирование. Указаны языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако README отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с группировкой 16; для квантизации использовался LLM Compressor и калибровочные данные UltraChat. По сравнению с 16-битным представлением это примерно на 75% уменьшает размер модели на диске и требования к GPU-памяти, что делает модель подходящей для более эффективного инференса. Для запуска заявлена совместимость с vLLM версии 0.9.1 и выше. Ключевое преимущество модели — снижение потребления памяти и размера при сохранении назначения базовой инструкционной модели; качество оценивалось на бенчмарках OpenLLM v1, OpenLLM v2 и HumanEval_64, но подробные результаты в представленном README не приведены. Ограничения включают возможные потери качества из-за агрессивной 4-битной квантизации, отсутствие данных о размере контекстного окна и мультимодальности, а также заявленное ограничение использования английским языком. Модель распространяется по лицензии Apache-2.0.

Карточка модели onelevelstudio/ML-E5-0.6B на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.

mmBERT-Embed-32K-2D-Matryoshka — мультиязычная модель эмбеддингов на архитектуре ModernBERT, разработанная llm-semantic-router и дообученная на llm-semantic-router/mmbert-32k-yarn. Модель содержит около 307 млн параметров, принимает текст длиной до 32 768 токенов и предназначена прежде всего для поиска по смыслу, семантического сходства и retrieval-сценариев, включая мультиязычный RAG и поиск по длинным документам. В карточке заявлена поддержка более 1800 языков. Поддержка 2D Matryoshka позволяет сокращать размерность эмбеддингов или извлекать их с промежуточных слоёв, выбирая баланс между качеством, скоростью и объёмом хранения. В репозитории представлены веса Safetensors и ONNX; модель работает с Sentence Transformers. Указана лицензия Apache-2.0. Ограничения: сокращение числа слоёв заметно снижает качество, а средний результат MTEB немного ниже приведённого в карточке результата BGE-M3. Модель оптимизирована для retrieval и может требовать дообучения для других задач.

mmBERT-Embed-32K-2D-Matryoshka — мультиязычная модель для получения векторных представлений текстов, разработанная vllm-sr и дообученная на базе vllm-sr/mmbert-32k-yarn. Это энкодер ModernBERT с 306,9 млн параметров и контекстом до 32 768 токенов; модель рассчитана на широкий круг языков, включая низкоресурсные, и обучалась на многоязычных парах запросов и документов из BAAI/bge-m3-data. Модель предназначена для поиска по смыслу, семантического сопоставления, классификации и извлечения релевантных документов в RAG-системах, в том числе при работе с длинными текстами. Поддерживает 2D Matryoshka: можно уменьшать размерность эмбеддингов и использовать выходы промежуточных слоёв для компромисса между качеством, скоростью и объёмом хранения. В README приведены результаты MTEB и STS, однако качество зависит от языка и сценария; при сокращении числа слоёв оно заметно снижается. Для других задач может потребоваться дополнительная настройка. Лицензия — Apache-2.0.

Карточка модели arnaultsta/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Карточка модели novelcore/model15 на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.