I.3Извлечение и структурирование данных

TARS-8B-llama-REMIX — языковая модель, созданная picAIso слиянием SLERP через mergekit моделей picAIso/MIX1 и NousResearch/Hermes-2-Pro-Llama-3-8B. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; заявленная длина контекста составляет 8192 токена. Карточка указывает поддержку чата, а базовая Hermes-2-Pro-Llama-3-8B ориентирована на следование инструкциям, вызов функций и генерацию структурированных данных JSON. Лицензия модели — MIT. Подробные оценки качества и ограничения конкретного слияния в карточке не приведены.

EuroLLM-22B-Instruct-2512-GGUF — это квантизированная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной utter-project и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, благодаря чему может использоваться в локальных чат-ботах, ассистентах и приложениях на базе llama.cpp. Модель имеет размер 22 млрд параметров и представлена в формате GGUF с вариантами квантизации от BF16 до Q3. Доступна поддержка llama.cpp, LM Studio и других совместимых проектов. Заявлена работа с широким набором языков, включая английский, немецкий, испанский, французский, итальянский, португальский, польский, русский, китайский, японский, корейский, арабский, хинди и многие другие европейские языки. Формат prompt использует шаблон ChatML с ролями system, user и assistant. Сильными сторонами являются широкий языковой охват, возможность локального запуска и выбор между вариантами квантизации, позволяющий балансировать качество и требования к памяти. Рекомендуемыми считаются варианты Q4_K_M, Q5_K_M, Q6_K и другие близкие к ним; менее битные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут обеспечивать более низкое качество. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по имеющимся данным модель является текстовой и не поддерживает изображения или другие модальности. Распространение осуществляется по лицензии Apache-2.0.

airnicco8/xlm-roberta-de — модель эмбеддингов на базе XLM-RoBERTa, представленная как модель Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для оценки сходства текстов, семантического поиска и кластеризации. Модель обучена на немецкоязычных расшифровках выступлений TED; заявленный контекст составляет 514 токенов, размер — около 305,2 млн параметров. Модель принимает текст и выдаёт векторные представления, которые можно сравнивать для поиска семантически близких текстов или группировать для кластеризации. Для использования с Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Карточка также отмечает возможность дообучения для NLI и классификации текста, но не приводит готовых результатов для этих задач. Лицензия в предоставленных данных не указана.

Anthropic-ai/Aiaudiotranslate — мультиязычная разговорная языковая модель на архитектуре Qwen3.5 с 7,2 млрд параметров. Согласно карточке, это независимый проект открытой модели, дообученной для следования инструкциям, устойчивого поведения ассистента, рассуждений, письма, суммаризации и помощи с программированием. Метаданные указывают контекст до 262 144 токенов и варианты весов Safetensors и GGUF, включая квантизированные сборки. Модель предназначена для диалога и генерации текста на разных языках; в README также заявлены задачи транскрибирования и перевода аудио, но описание репозитория сосредоточено на текстовом ассистенте и не подтверждает аудиовход. Лицензия — MIT. Карточка называет проект независимым и неофициальным; приведённые в README показатели бенчмарков описаны как основанные на Qwen3.5 9B.

nabil-tazi/autotrain-yr729-mb8s3 — модель семейства BERT, созданная дообучением sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с помощью AutoTrain. Она преобразует текстовые предложения и абзацы в эмбеддинги для вычисления семантического сходства. Модель содержит 124,3 млн параметров, использует библиотеку Sentence Transformers и принимает последовательности длиной до 512 токенов. Базовая модель многоязычная, поэтому эмбеддинги подходят для сравнения текстов на разных языках. Модель можно применять для семантического поиска, сопоставления похожих фраз и кластеризации текстов. В README приведена метрика loss 0,124 на валидации, но без описания датасета и протокола оценки её трудно интерпретировать. Модель распространяется на Hugging Face в формате safetensors; лицензия в предоставленных данных не указана.

bangla-embed-e5-small-mnrl — модель Sentence Transformers, дообученная разработчиком Srimon12 на базе intfloat/multilingual-e5-small для работы с текстами на бенгальском языке. Она преобразует текст в нормализованные плотные эмбеддинги размерности 384; архитектура включает BERT, усредняющий pooling и нормализацию. Максимальная длина входа — 512 токенов, для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска и сопоставления текстов: README также указывает поиск перефразировок, кластеризацию и классификацию по эмбеддингам. При обучении использовались miracl_bn, nli_bn и parse_bn. В приведённой оценке на miracl-bn указаны cosine_accuracy@1 0,91 и cosine_accuracy@10 1,0; это результаты конкретной оценки, а не гарантия качества на других данных. Модель принимает текст и выдаёт векторы. Лицензия — MIT.

jegormeister/bert-base-dutch-cased — модель Sentence-Transformers на базе BERT, обученная для получения векторных представлений предложений и абзацев на нидерландском языке. Она кодирует текст в плотные векторы размерностью 256 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 136,3 млн параметров, принимает текстовые входы с контекстом до 512 токенов и распространяется в формате PyTorch. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Для работы доступны Sentence-Transformers и Transformers; при использовании Transformers поверх выходов трансформера требуется применить подходящий pooling. Модель предназначена для построения эмбеддингов, а не для генерации текста. В README не названа лицензия, поэтому условия использования по имеющимся сведениям определить нельзя.

Это англоязычная модель Sentence Transformer от tomaarsen, дообученная на парах вопросов и ответов из набора Natural Questions на базе google-bert/bert-base-uncased. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения текстов по смыслу, семантического поиска и поиска перефразировок. Модель также можно применять для кластеризации и классификации текстов с использованием полученных представлений. Архитектура состоит из BERT и слоя усредняющего pooling; сходство векторов можно оценивать косинусной мерой. Максимальная длина входа — 512 токенов. Модель принимает текст и выдаёт векторы; она не генерирует ответы. Лицензия — Apache-2.0. Качество зависит от задачи и корпуса: приведённые в карточке результаты на наборах поиска различаются, поэтому для целевого применения нужна отдельная оценка.

bertin-roberta-base-finetuning-esnli — модель Sentence-Transformers на архитектуре RoBERTa, разработанная Anibal Pérez, Emilio Tomás Ariza, Lautaro Gesuelli и Mauricio Mazuecos. Модель обучена на испанских задачах вывода по естественному языку, включая ESXNLI и автоматически переведённые SNLI и MultiNLI. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически похожих текстов, кластеризации и оценки семантического сходства. Модель содержит 151,8 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 514 токенов. В оценке на испанском наборе SemEval-2015 STS она превзошла приведённый в карточке базовый результат BETO STS по корреляциям Пирсона и Спирмена. Для использования с Transformers требуется корректная операция pooling поверх контекстных представлений токенов. Сведения о лицензии в предоставленных данных отсутствуют.

Blaze.1-27B-Preview — языковая модель на 27,6 млрд параметров, разработанная на базе Google Gemma 2 27B IT и дообученная на синтетических наборах данных для многошаговых рассуждений. Это плотная авторегрессионная модель семейства Gemma 2, предназначенная для генерации текста и диалога; веса опубликованы в формате Safetensors, исходная точность — bfloat16. Размер контекста — 8192 токена. Модель подходит для ответов на вопросы, суммаризации, следования инструкциям, решения математических и логических задач, сложного анализа и генерации длинных текстов. Основной заявленный язык — английский. Для запуска и дообучения требуются значительные вычислительные ресурсы. Модель может ошибаться в рассуждениях и фактах, а качество ответов зависит от формулировки запроса; на длинных входах связность может снижаться. Лицензия — Gemma.

Kyleiwaniec/COS_TAPT_n_RoBERTa-sts-e3_CosineSimilarityLoss_2023-10-16 — модель на базе RoBERTa, обученная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 1024 и подходит для поиска семантически близких текстов, кластеризации и сравнения сходства предложений. Для работы доступны Sentence-Transformers и Hugging Face Transformers; заявленная длина контекста — 514 токенов, размер модели — 454,1 млн параметров. В карточке указано обучение с CosineSimilarityLoss. Модель принимает текст и выдаёт векторные представления; сведения о поддерживаемых естественных языках и специализированных прикладных областях отсутствуют. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Модель mrm8488/distiluse-base-multilingual-cased-v2-finetuned-stsb_multi_mt-es — испаноязычная модель Sentence-Transformers для оценки семантического сходства предложений и абзацев. Она дообучена на наборе stsb_multi_mt на основе distiluse-base-multilingual-cased-v2 с архитектурой DistilBERT и выдаёт плотные векторы размерности 768. Максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, кластеризации текстов и ранжирования пар предложений по сходству. В README приведён результат оценки Spearman 0,7604. Репозиторий содержит веса PyTorch; для работы описано использование Sentence-Transformers или Transformers с соответствующим pooling. Лицензия в предоставленных данных не указана.

Embedić Large — модель для создания текстовых эмбеддингов, разработанная djovak и дообученная на базе intfloat/multilingual-e5-large. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, информационного поиска, кластеризации и систем RAG. Модель специализируется на сербском языке в кириллице и латинице и также поддерживает английский, поэтому подходит для поиска по смешанным сербско-английским коллекциям. Она построена с использованием Sentence Transformers; в README для семейства указаны обучение в несколько этапов и сравнение результатов на задачах информационного поиска, сходства предложений и поиска параллельных текстов. Модель распространяется по лицензии MIT. README отмечает, что запись сербского текста латиницей без диакритики заметно ухудшает качество поиска, а сохранение заглавных букв в именах собственных может улучшить его.

Карточка модели ng3owb/finance_embedding_8k на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

FlowVec-v1 — мультиязычная модель текстовых эмбеддингов от LingoIITGN, дообученная на базе Qwen/Qwen3-Embedding-8B с помощью трёхэтапного рецепта LoRA и дистилляции относительно замороженной базовой модели. Она предназначена для семантического поиска, ранжирования, кластеризации и сопоставления текстов на индийских языках. Модель использует архитектуру Qwen3 с 7,6 млрд параметров, извлекает векторы размерности 4096 посредством пулинга последнего токена и L2-нормализации. В README указана максимальная длина последовательности 512 токенов; метаданные базовой модели указывают контекст 40960 токенов. Обучение охватывает retrieval, bitext, классификацию, NLI и кластеризацию; модель оценивалась на MTEB(Indic, v1). В README приведены сильные результаты для поиска и ранжирования, но оценки следует трактовать с учётом пересечения обучающих данных с двумя задачами и подбора инструкций на самом бенчмарке. Для подходящих задач важно передавать prompt_name; при поиске и ранжировании запросы кодируются с инструкцией, а документы — без неё. Модель принимает текст и выдаёт эмбеддинги. Лицензия — Apache 2.0.

ebircak/gemma-4-31B-it-4bit-W4A16-GPTQ — общественная 4-битная GPTQ-квантизация instruction-tuned мультимодальной модели Google Gemma-4-31B-it, подготовленная пользователем ebircak. Модель предназначена для генерации текста и обработки сценариев vision-language, включая работу с изображениями, диалоговые приложения, вызов инструментов и развертывание на NVIDIA GPU через vLLM. Модель использует архитектуру Gemma4ForConditionalGeneration с 60 декодерными слоями и скрытым размером 5376. Текстовый декодер и projector квантизированы в int4 по схеме GPTQ W4A16 с размером группы 128, асимметричным квантованием и активациями FP16/BF16; vision tower на базе SigLIP из 27 слоев сохранена в BF16. Контекстное окно составляет до 262 тысяч токенов. Формат — compressed-tensors, квантизация выполнена с помощью llm-compressor 0.10.0.1. Языки в карточке явно не указаны. Главное преимущество — существенное снижение требований к видеопамяти по сравнению с версией BF16: заявлено около 35 ГБ при полном контексте на NVIDIA RTX PRO 6000 с 96 ГБ VRAM. Модель оптимизирована для vLLM, поддерживает prefix caching, chunked prefill и специализированный парсинг Gemma4 для tool calling. Ограничения включают зависимость от совместимых версий CUDA и vLLM, сохранение vision tower в BF16 и возможное снижение качества из-за 4-битной квантизации; разработчик рекомендует оценивать модель для конкретных задач. Квантизация и базовая модель распространяются по лицензии Apache 2.0.

avemio/German-RAG-ModernBERT-Base-TRIPLES — модель Sentence Transformers, разработанная командой German-RAG AI и дообученная на наборе avemio/German-RAG-EMBEDDING-TRIPLES-HESSIAN-AI от answerdotai/ModernBERT-base. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и сравнения текстов; близость оценивается косинусным сходством. Архитектура состоит из ModernBERT и среднего пулинга токенов, максимальная длина последовательности — 8192 токена. Модель ориентирована на немецкоязычные сценарии RAG: поиск релевантных фрагментов и документов, оценку семантического сходства и поиск перефразировок. Также её можно применять для кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты оценки поиска, включая cosine_accuracy@1 0,5818 и @5 0,9522 на указанном наборе оценки. Модель содержит 149 млн параметров, распространяется в формате safetensors и доступна по лицензии Apache-2.0. Она выдаёт эмбеддинги, а не готовые ответы; качество зависит от данных и сценария применения, поэтому результаты оценки из карточки не гарантируют аналогичную точность на других коллекциях.

Grafted-Hermetic-Platypus-D-2x7B — разговорная языковая модель, созданная слиянием Platyboros-Instruct-7B и Hermes-Instruct-7B-v0.2. Она использует архитектуру Mixtral с разреженной экспертной моделью (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций. В качестве формата запросов подходят шаблоны Mistral-Instruct и Alpaca; токенизатор по умолчанию настроен на Alpaca. В карточке приведены результаты нескольких тестов языковых моделей, включая AI2 Reasoning Challenge и HellaSwag. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не сообщает о поддержке конкретных естественных языков, поэтому языки не перечислены. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах.

vivekkopthsd/hinglish-st-33m — модель Sentence Transformers на архитектуре BERT, обученная создавать плотные текстовые эмбеддинги размерностью 384. Она кодирует предложения и абзацы для сравнения семантической близости с помощью косинусного сходства; README также указывает сценарии семантического поиска, поиска перефразирований, классификации и кластеризации. Обучение проводилось на 4 000 примерах с anchor, positive и negative, используя MultipleNegativesRankingLoss. Модель принимает текст. README сообщает максимальную длину последовательности 192 токена, тогда как метаданные указывают родной контекст длиной 512 токенов. Лицензия и конкретные языки в доступных данных не описаны; название модели указывает на Hinglish, но этого недостаточно, чтобы установить языковую поддержку. Карточка не сообщает результаты бенчмарков, поэтому качество для конкретных сценариев следует оценивать на собственных данных.

Hunyuan-7B-Pretrain — предварительно обученная плотная языковая модель Tencent из семейства Hunyuan. Она содержит 7,5 млрд параметров и предназначена для генерации текста и дальнейшей адаптации под прикладные задачи. Модель работает с Transformers и использует архитектуру HunYuanDenseV1ForCausalLM с Grouped Query Attention; метаданные также отмечают поддержку диалогового режима и интерфейса вызова инструментов. Модель рассчитана на длинные контексты до 262 144 токенов и поддерживает режимы быстрого и пошагового рассуждения. Её можно применять для генерации и продолжения текста, обработки длинных документов, а после настройки — для агентных сценариев. В README приведены результаты тестов базовых моделей семейства, но они не гарантируют аналогичное качество в каждом пользовательском сценарии. Модель выпущена Tencent в июле 2025 года. README описывает семейство как открытое, но доступный фрагмент не содержит точных условий лицензии для этой модели. Языки обучения или поддержки в предоставленных источниках не перечислены.

aloobun разработал эту Sentence Transformer на основе aloobun/d-mxbai-L8-embed, дообучив её для работы с несколькими индийскими языками. Модель на базе BERT преобразует предложения и абзацы в плотные векторы размерностью 1024; сходство между текстами можно оценивать по косинусному сходству. В README указана максимальная длина последовательности 128 токенов, а в метаданных — 512 токенов; это расхождение требует проверки при настройке обработки длинных текстов. Модель предназначена для поиска по смыслу и сопоставления текстов на английском и бенгальском, гуджаратском, хинди, каннада, малаялам, маратхи, тамильском и телугу. Её можно применять для поиска семантически близких предложений, оценки сходства, поиска перефразирований, кластеризации и классификации текстов. Репозиторий распространяется по лицензии Apache-2.0. В README приведены результаты оценки для языковых пар с английским; показатели сходства заметно различаются между языками и в некоторых случаях низкие или отрицательные. Поэтому качество следует проверять на данных и сценариях конкретного применения; модель не генерирует текст, а возвращает векторы для последующей обработки.

IndicSBERT-Matryoshka — дообученная модель семейства BERT для получения векторных представлений предложений на 11 основных индийских языках. Она разработана для использования с Sentence Transformers и обучена с MatryoshkaLoss на основе CoSENTLoss: модель оптимизирует эмбеддинги полной размерности и усечённые представления размером 512, 256, 128 и 64, что позволяет выбирать компромисс между размером вектора и качеством для конкретного сценария. В метаданных указаны 264,8 млн параметров и контекст до 512 токенов. Модель подходит для сравнения семантической близости предложений и построения эмбеддингов для поиска по смыслу, кластеризации и группировки текстов. README указывает на дообучение на 11 индийских языках, а метаданные перечисляют языковые коды en, mr, or, te, ta, ml, pa, hi, gu, kn, bn и as; основной язык среди них не выделен. Модель распространяется по лицензии CC BY 4.0.

Kimi-Linear-48B-A3B-Instruct-AWQ-4bit — квантизированная 4-битная версия инструкционной языковой модели Kimi Linear, разработанной Moonshot AI. Модель предназначена для генерации текста и работы в формате диалога, включая задачи с коротким и длинным контекстом, а также сценарии, связанные с reinforcement learning. В README указана поддержка Transformers и возможность развертывания через vLLM с OpenAI-совместимым API. Модель использует гибридную архитектуру с Kimi Delta Attention (KDA) и глобальными блоками MLA в соотношении 3:1. Всего она содержит 48 млрд параметров, из которых активируется около 3 млрд, и поддерживает контекст до 1 млн токенов. Архитектура снижает потребность в KV-кэше до 75% и обеспечивает ускорение декодирования до 6 раз на длинных последовательностях. README не указывает языки, поддерживаемые модальностями или результаты именно для AWQ-версии, поэтому эти характеристики нельзя достоверно оценить. К сильным сторонам относятся высокая эффективность на длинном контексте, уменьшенное потребление памяти и ускорение генерации. Для запуска требуются совместимые версии Python, PyTorch и fla-core, а при использовании Transformers может понадобиться trust_remote_code. Ограничениями являются значительные требования к ресурсам для модели такого размера и отсутствие в README подробных данных о качестве на конкретных прикладных задачах. Лицензия — MIT.

Карточка модели saychuwho/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели sming0408/klue-roberta-base-klue-sts-mrc1 на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели sming0408/klue-roberta-base-klue-sts-mrc3 на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели Sing0402/legal-embed-gte-inbatch на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

RedHatAI/Llama-3.1-8B-Instruct-NVFP4 — квантованная версия Meta-Llama-3.1-8B-Instruct, разработанная RedHatAI для коммерческого и исследовательского использования. Модель предназначена для диалоговых ассистентов и генерации текста на основе текстовых запросов; поддерживает ввод и вывод только в текстовой модальности. В метаданных заявлены языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако README отдельно ограничивает использование английским языком. Модель основана на архитектуре Meta-Llama-3.1 и имеет 8 млрд параметров. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP4 с использованием LLM Compressor; размер группы для весов — 16. Это снижает количество бит на параметр с 16 до 4, а требования к дисковому пространству и GPU-памяти примерно на 75%, что делает модель подходящей для эффективного инференса с vLLM версии 0.9.1 и выше. Контекстная длина в README не указана; для калибровки использовалась максимальная последовательность длиной 2048 токенов. К сильным сторонам относятся уменьшенные требования к памяти и возможность производительного развертывания через vLLM, включая OpenAI-совместимый сервер. Ограничением является потенциальное снижение качества по сравнению с неквантизированной базовой моделью, хотя README сообщает о сравнительной оценке без подробных результатов. Модель распространяется по лицензии llama3.1; применение должно соответствовать действующему законодательству, включая требования торгового контроля.

Llama-3.1-SuperNova-Lite — плотная авторегрессионная языковая модель примерно на 7,5 млрд параметров, разработанная Arcee.ai на основе Llama 3.1 8B Instruct. Это чат-модель, дообученная с использованием дистилляции по офлайн-логитам Llama 3.1 405B Instruct и набора инструкций EvolKit-20k. Она предназначена для диалогов, следования инструкциям и широкого круга текстовых задач, когда нужна компактная альтернатива более крупным моделям. Заявленная длина контекста — 131 072 токена; модель рассчитана на английский язык и использует библиотеку Transformers с весами Safetensors. В карточке отмечены высокие результаты следования инструкциям и применение в различных сценариях, однако приведённые оценки охватывают лишь часть возможностей и не гарантируют качество для конкретной задачи. Лицензия — Llama 3.1 Community License (llama3).

Llama3.1-SuperNovaLite-HuatuoSkywork-o1-8B — языковая модель для генерации текста, созданная методом слияния SLERP с помощью mergekit. В неё объединены grimjim/HuatuoSkywork-o1-Llama-3.1-8B и arcee-ai/Llama-3.1-SuperNova-Lite; архитектура — плотная LlamaForCausalLM семейства Llama. Модель содержит 7,5 млрд параметров, работает через Transformers и распространяется в формате Safetensors. Модель предназначена для диалогов и генерации текста по запросу; каталог также отмечает интерфейс вызова инструментов. Контекст модели составляет до 131 072 токенов. Базовая SuperNova Lite описана как англоязычная чат-модель на базе Llama 3.1 8B Instruct; языковые возможности итогового слияния отдельно не уточняются. Лицензия — Llama 3.1.