I.3Извлечение и структурирование данных

QuantFactory/Llama-3-KoEn-8B-GGUF — квантизированная версия модели beomi/Llama-3-KoEn-8B, созданная с помощью llama.cpp. Исходная модель разработана Junbum Lee (Beomi) на основе Llama 3 8B; обучение продолжалось на корпусе на корейском и английском языках при поддержке программы TRC и выполнялось на TPUv4-256. Модель предназначена для генерации текста и кода, а также для адаптации к различным задачам обработки естественного языка. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и механизмом GQA. Доступен один вариант размером 8B параметров, с контекстом до 8k токенов и объёмом обучения более 80B токенов. На вход принимает только текст и генерирует текст или код; модель является статичной и обучена на офлайн-данных. README не уточняет конкретный формат квантизации и его влияние на производительность или качество. К сильным сторонам относятся поддержка корейского и английского языков, относительно компактный размер и возможность локального запуска благодаря квантизации. Ограничения включают статус предварительного релиза, дату отсечения знаний — июнь 2023 года, отсутствие встроенной инструкционной настройки у базовой модели и необходимость самостоятельно реализовать меры безопасности. Использование регулируется лицензией CC-BY-NC-SA-4.0 в сочетании с лицензией Llama 3 и соответствующими правилами допустимого использования; коммерческие и иные сценарии должны проверяться на соответствие этим условиям.

unsloth/Llama-4-Maverick-17B-128E-Instruct-GGUF-UD — это GGUF-версия инструкционно дообученной модели Llama 4 Maverick, разработанной Meta и опубликованной Unsloth. Модель предназначена для генерации текста и выполнения пользовательских инструкций в общих сценариях работы с языком, включая диалоговые приложения и задачи обработки текста. В идентификаторе указаны конфигурация с 17B параметров и 128E экспертов, а также вариант Instruct; дополнительные сведения об архитектуре и методе квантования в предоставленных данных отсутствуют. Заявлены следующие языки: арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский. Модальность, размер контекстного окна, конкретные уровни квантования, требования к оборудованию, результаты тестирования и известные ограничения не указаны, поэтому оценить производительность в отдельных задачах по этим данным невозможно. Использование модели регулируется Llama 4 Community License от Meta, действующей с 5 апреля 2025 года. Лицензия допускает использование, воспроизведение, распространение, создание производных работ и модификацию на указанных условиях, включая сохранение лицензионного уведомления, предоставление копии соглашения и отображение обозначения «Built with Llama» при распространении материалов или продуктов. Для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено требование запросить отдельную лицензию у Meta.

Llama-SEA-LION-v2-8B-IT — языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Singapore NRF. Это плотная decoder-модель на архитектуре Llama 3, дообученная следовать инструкциям на основе Llama-SEA-LION-v2-8B. Она содержит около 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и генерации ответов на инструкции, в том числе на английском, индонезийском, тайском, вьетнамском и тамильском языках. Среди описанных сценариев оценки — ответы на вопросы, анализ тональности и токсичности, перевод, суммаризация, причинно-следственные рассуждения и языковой вывод; также оценивались соблюдение инструкций и многоходовой диалог. Модель доступна в формате safetensors для Transformers по лицензии Llama 3 Community License. Она может галлюцинировать, выдавать нерелевантные сведения и непоследовательно рассуждать. По заявлению разработчиков, модель не проходила safety-выравнивание, поэтому ответы требуют проверки, а для прикладного использования могут понадобиться дополнительные меры безопасности.

Llama-SEA-LION-v3-8B — многоязычная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная decoder-модель семейства Llama 3.1 с 7,5 млрд параметров, созданная продолжительным предобучением Llama-3.1-8B-Instruct примерно на 200 млрд токенов. Она рассчитана на генерацию текста и диалоговые сценарии с языками Юго-Восточной Азии, а также английским и китайским. Поддерживаются бирманский, китайский, английский, филиппинский, индонезийский, кхмерский, лаосский, малайский, тамильский, тайский и вьетнамский языки; контекст модели составляет до 131 072 токенов. Модель подходит для ответов на вопросы, анализа тональности, выявления токсичности, перевода, краткого пересказа, рассуждений и выполнения инструкций на поддерживаемых языках. В карточке приведены оценки на SEA-HELM и SEA-IFEval, включая проверку соблюдения ограничений и ответа на нужном языке. Модель использует архитектуру и токенизатор Llama 3.1; метаданные указывают библиотеку Transformers и формат safetensors. Лицензия — Llama 3.1 Community License, условия которой следует учитывать при использовании и распространении модели.

BAAI/LLARA-beir — текстовая модель семейства LLaMA, разработанная BAAI для получения эмбеддингов и оценки смыслового сходства предложений. В проекте LLARA представлены подходы EBAE (Embedding-Based Auto-Encoding) и EBAR (Embedding-Based Auto-Regression); репозиторий ссылается на статью и GitHub проекта. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 4096 токенов. Модель подходит для поиска по смыслу, сопоставления предложений и других задач, где нужны текстовые эмбеддинги. Доступны веса в формате safetensors; лицензия — MIT. В карточке не приведены сведения о поддерживаемых естественных языках и специализированных областях применения.

llm-jp-4-32b-a3b-thinking — языковая модель семейства LLM-jp-4, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это Transformer-модель с архитектурой Qwen3 MoE: 32 слоя, 128 экспертов, из которых активируются 8; общий размер составляет около 32,1 млрд параметров, а число активных параметров — около 3,8 млрд. Модель предназначена для генерации текста и диалогового общения, в том числе для задач, требующих рассуждений. Контекстное окно составляет 65 536 токенов. Модель обучалась на 11,7 трлн токенов, а постобучение включало SFT и DPO без обучения с подкреплением. Карточка указывает японский и английский языки. Для корректного использования следует применять прилагаемый токенизатор: хотя шаблон чата совместим с форматом OpenAI Harmony, токенизация библиотекой openai-harmony напрямую не поддерживается. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

ceia-aisdk/llm-large-v1 — распространяемый в формате GGUF артефакт для псевдонима llm/large@1 в CEIA AI SDK. Это квантованная версия инструкционной языковой модели Qwen2.5-14B-Instruct с 14,7 млрд параметров; веса не обучались CEIA. Модель предназначена для диалогов и генерации текста по инструкциям. Репозиторий содержит файл model.gguf в квантизации Q4_K_M от bartowski. Модель принимает текст и выдаёт текст; метаданные отмечают поддержку чата. Лицензия — Apache-2.0, такая же, как у базовой модели.

togethercomputer/m2-bert-80M-2k-retrieval — модель M2-BERT, обученная Jon Saad-Falcon, Dan Fu и Simran Arora. Чекпойнт дообучен для поиска по длинным текстам и рассчитан на последовательности до 2048 токенов. В метаданных указана архитектура M2-BERT с классификационной головой BertForSequenceClassification и 136,7 млн параметров; формат весов — PyTorch. Модель предназначена для оценки сходства предложений и поиска релевантных текстов с длинным контекстом. Её можно применять для поиска документов по запросу и ранжирования кандидатов по релевантности. README рекомендует загружать её через Transformers как AutoModelForSequenceClassification. Лицензия — Apache-2.0. Модель ориентирована на английский язык. Карточка не приводит результатов бенчмарков или конкретных ограничений качества; для задач и языков за пределами заявленного сценария retrieval пригодность следует проверять отдельно.

SanctumAI/Meta-Llama-3.1-8B-Instruct-GGUF — это квантизированная версия текстовой instruction-tuned модели Meta-Llama-3.1-8B-Instruct, разработанной Meta и опубликованной командой meta-llama. Квантизацию в формате GGUF выполнила SanctumAI. Модель предназначена для генерации текста и многоязычных диалоговых сценариев, включая использование в локальных приложениях и системах, совместимых с GGUF. Модель содержит 8 млрд параметров, работает по схеме «текст на входе — текст на выходе» и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Доступны варианты квантизации от Q2_K до Q8_0, а также версия f16; размер файлов составляет примерно от 3,18 до 16,07 ГБ, а оценочная потребность в RAM или VRAM — от 7,20 до 19,21 ГБ. Квантизация позволяет выбирать компромисс между требованиями к памяти и качеством работы, но более низкая точность может снижать качество по сравнению с исходной моделью. Контекст модели в README не указан. Модель распространяется по лицензии Llama 3.1; дополнительные условия следует уточнять в прилагаемом файле LICENSE. Она подходит для чат-ботов, локальных ассистентов и других задач генерации текста, однако README не содержит подробностей о результатах на конкретных бенчмарках, ограничениях безопасности или гарантиях точности.

RedHatAI/Meta-Llama-3.1-8B-Instruct-quantized.w4a16 — это квантизированная версия Meta-Llama-3.1-8B-Instruct, разработанная Neural Magic на базе модели Meta. Модель предназначена для генерации текста и диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское применение на английском языке. Она принимает текст на вход и генерирует текст на выходе, поддерживает чатовый режим и может использоваться с backend vLLM, включая OpenAI-совместимую службу. Модель имеет архитектуру LlamaForCausalLM и содержит 8 миллиардов параметров в исходной версии. Веса линейных операторов трансформерных блоков квантизированы в формат INT4 с симметричным покомпонентным масштабированием для групп по 128 параметров. По сравнению с представлением FP16 это примерно на 75% снижает размер модели на диске и требования к памяти GPU. Квантизация выполнена с использованием AutoGPTQ и калибровочного набора Neural Magic. В README приведены результаты восстановления качества относительно неквантизированной версии: 93,0% для Arena-Hard, 98,9% для OpenLLM v1, 96,1% для OpenLLM v2, 99,7% для HumanEval pass@1 и 97,4% для HumanEval+ pass@1. К сильным сторонам относятся уменьшенные требования к памяти и возможность эффективного развертывания при сохранении большей части качества исходной instruct-модели. Ограничением является заявленная область применения преимущественно на английском языке; использование на других языках указано как выходящее за рамки назначения, несмотря на наличие нескольких языков в метаданных карточки. Лицензия — Llama3.1; также необходимо соблюдать ограничения исходной лицензии Meta и применимые законы и нормы.

Mini-GTE — компактная модель эмбеддингов предложений от QTACK, созданная как подтверждение концепции их подхода к дистилляции. Это Sentence Transformer на архитектуре DistilBERT, дообученный на базе distilbert/distilbert-base-uncased и дистиллированный из GTE. Модель содержит 66 млн параметров и формирует векторы размерности 768; для сравнения предложений используется косинусное сходство. Mini-GTE предназначена для быстрого кодирования запросов, семантического поиска и оценки сходства текстов. Максимальная длина входной последовательности — 512 токенов. В README указано второе место в классическом рейтинге MTEB среди моделей менее чем со 100 млн параметров и 63-е место в общем рейтинге; это заявление разработчика. Модель ориентирована на английский язык. Доступна по лицензии Apache-2.0. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы; качество зависит от языка и предметной области, а README не приводит подробных оценок по отдельным наборам данных.

Ministral-8B-Instruct-2410-GGUF — квантизированная версия инструкционной языковой модели Ministral-8B-Instruct-2410, разработанной Mistral AI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые и прикладные сценарии на поддерживаемых языках: английском, французском, немецком, испанском, итальянском, португальском, китайском, японском, русском и корейском. Из доступных данных известен размер базовой модели — 8B параметров; сведения о конкретном типе квантизации, архитектуре, размере контекста и численных характеристиках отсутствуют. Ключевые достоинства модели — инструкционная настройка, мультиязычность и возможность использования квантизированной сборки в совместимой с GGUF инфраструктуре. При этом README не содержит результатов тестирования, поэтому качество на отдельных языках и задачах оценить нельзя; также не указаны точные требования к памяти и производительности. Модель распространяется по Mistral AI Research License (MRL-0.1), которая ограничивает использование модели, производных моделей и результатов исследовательскими целями и устанавливает дополнительные требования к распространению, атрибуции и уведомлению о модификациях.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-30-v0.1 — разреженная версия чат-модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 30%. В карточке сказано, что pruning выполнен без дообучения и изменения весов. Модель основана на Mistral-7B-Instruct-v0.2; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Репозиторий содержит веса Safetensors; в метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям, подаваемым в формате Mistral с маркерами [INST] и [/INST]. Она принимает текст и генерирует текст. Карточка не задаёт основной язык модели. Лицензия — Apache-2.0. По заявлению карточки, разреживание сохраняет конкурентоспособное качество, но конкретные результаты оценки не приведены. У модели нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

duyntnet/Mistral-7B-Instruct-v0.3-imatrix-GGUF — набор квантизированных вариантов модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI и представленной в формате GGUF с использованием imatrix-квантизации. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке, включая выполнение инструкций, ответы на вопросы и сценарии с вызовом функций или инструментов. Модель относится к семейству Mistral и имеет размер 7B параметров согласно идентификатору. Это текстовая instruct-модель с поддержкой форматов и библиотек, совместимых с GGUF; README также показывает использование через mistral-inference и Hugging Face Transformers. Длина контекста, точные варианты квантизации, аппаратные требования и дополнительные модальности не указаны. К сильным сторонам относятся компактный размер по сравнению с более крупными языковыми моделями, возможность локального запуска в квантизированном виде и поддержка инструкций и function calling. Ограничения включают заявленную языковую поддержку только для английского, отсутствие данных о качестве, бенчмарках и контекстном окне, а также возможные потери качества, зависящие от выбранного уровня квантизации. В карточке указана лицензия «other», но её конкретные условия не раскрыты.

MaziyarPanahi/mistral-7b-v0.1-layla-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая текстовая модель, полученная слиянием Mistral-7B-Instruct-v0.2 и Layla v1 методом SLERP с помощью MergeKit. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка не сообщает о специализации на отдельных языках или предметных областях. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Mistral Large 3 2512 — крупная языковая модель, разработанная компанией Mistral. Она использует разреженную архитектуру mixture-of-experts: 41 млрд активных параметров при 675 млрд параметров всего. Модель позиционируется как наиболее производительная модель Mistral на момент выпуска и предназначена для задач, требующих возможностей большой языковой модели. Предоставленные сведения не содержат данных о поддерживаемых языках, модальностях, длине контекста или конкретных сценариях применения. Модель выпущена под лицензией Apache 2.0, что допускает её использование на условиях этой лицензии. По имеющимся данным нельзя оценить фактическое качество на отдельных задачах, требования к аппаратному обеспечению и ограничения, связанные с безопасностью или областью применения.

Mistral-Nemo-Instruct-2407-FP8 — инструкционная авторегрессионная плотная transformer-модель объёмом 12 млрд параметров, разработанная совместно Mistral AI и NVIDIA. Репозиторий Furiosa AI содержит вариант модели RedHatAI/Mistral-Nemo-Instruct-2407-FP8, подготовленный для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. Модель принимает текст и генерирует текст, поддерживает диалоги с ролями system, user и assistant и предназначена для обычной, нерассуждающей генерации ответов в ассистентских сценариях. Линейные веса слоёв Transformer статически квантизованы в FP8, активации динамически квантизуются в FP8 для каждого токена во время инференса, а KV-кэш сохраняется в 16-битной точности. На RNGD используется tensor parallelism с размером 16 PE, что соответствует двум картам RNGD. Основной поддерживаемый стек в этом репозитории — Furiosa-LLM, однако исходная модель также может запускаться через vLLM, SGLang и Transformers. Указан английский язык; сведения о размере контекста и других языках отсутствуют. Модель подходит для чат-ботов, генерации текста и интеграции через OpenAI-совместимый API. К её сильным сторонам относятся инструкционная настройка, FP8-квантизация для эффективного инференса и поддержка специализированного ускорителя FuriosaAI RNGD. Ограничения включают нерassуждающий характер модели, зависимость данного варианта от Furiosa-LLM и оборудования RNGD, а также отсутствие в предоставленных данных подробных оценок качества. Лицензия — Apache-2.0.

Mistral-Nemo-Instruct-2407-GGUF — это набор файлов модели в формате GGUF для инструкционной языковой модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций, включая локальные сценарии использования через совместимые приложения и библиотеки. В репозитории представлены варианты с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией. Формат GGUF разработан командой llama.cpp и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и другими инструментами. Ключевое преимущество — возможность запуска квантизированных версий локально с использованием CPU и GPU, однако конкретные требования к ресурсам и производительность зависят от выбранного варианта квантизации и программного окружения. README не содержит сведений об архитектуре, размере, поддерживаемых языках, длине контекста, модальностях, сильных сторонах базовой модели или лицензии. Поэтому эти характеристики нельзя надежно определить по представленным данным.

ISTA-DASLab/Mistral-Small-3.1-24B-Instruct-2503-GPTQ-4b-128g — квантированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, опубликованная ISTA-DASLab. Она предназначена для диалоговых задач, генерации и обработки текста, а также сценариев image-text-to-text, включая анализ изображений и ответы на вопросы по ним. Модель содержит 24 млрд параметров и использует INT4-квантование весов линейных операторов языковой части трансформера методом GPTQ с симметричной поканальной по группам схемой и размером группы 128. Визуальная модель и мультимодальный проекционный слой сохранены в исходной точности. Квантование сокращает размер на диске и требования к GPU-памяти примерно на 75%; чекпойнт сохранён в формате compressed_tensors. В README явно указан пример использования с vLLM и Transformers, а для оценки применялся vLLM. По сравнению с исходной моделью на наборе OpenLLM v1 средний результат снизился с 0,7910 до 0,7814, а показатель восстановления составил 0,9878, что указывает на небольшую потерю качества при существенном снижении требований к ресурсам. Ограничения включают зависимость от совместимых версий vLLM или Transformers и необходимость учитывать, что приведённые результаты получены при максимальной длине контекста 4096 токенов; другие характеристики контекста и поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.

gongysh2004/mpnet-base-all-nli-triplet — англоязычная модель Sentence Transformers на базе MPNet, обученная разработчиком репозитория на триплетах набора AllNLI для сопоставления предложений. Она кодирует предложения и абзацы в плотные векторы размерности 768; близость оценивается косинусным сходством. Модель содержит 136,7 млн параметров, использует mean pooling и принимает последовательности длиной до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README приведены результаты TripletEvaluator на AllNLI: точность косинусного сходства 0,9124 на dev и 0,9239 на test. Для задач вне английского языка и предметных областей качество не установлено. Лицензия — Apache-2.0.

multi-qa-distilbert-dot-v1 — модель Sentence Transformers, разработанная в рамках проекта Hugging Face Community Week по обучению моделей эмбеддингов предложений. Она основана на distilbert-base-uncased и дообучена на 215 млн пар «вопрос—ответ» из разных источников для семантического поиска. Модель преобразует запросы, вопросы и текстовые абзацы в плотные векторы размерности 768; для сравнения используется скалярное произведение, а векторы не нормализуются. В метаданных указаны реализации PyTorch, ONNX и OpenVINO. Модель подходит для поиска абзацев, релевантных запросу или вопросу, и для сопоставления вопросов с ответами. Она принимает текст на английском языке; максимальная длина входа — 512 токенов WordPiece, но обучение проводилось на последовательностях длиной до 250 токенов, поэтому качество на более длинных текстах может снижаться. Лицензия в предоставленных данных не указана.

multi-qa-MiniLM-L6-dot-v1 — модель Sentence Transformers, разработанная в рамках Community Week Hugging Face для семантического поиска. Она кодирует вопросы, предложения и абзацы в плотные векторы размерностью 384, обучена на 215 млн пар «вопрос — ответ» из разных источников и использует архитектуру BERT на основе MiniLM-L6. Векторы не нормализуются; для получения эмбеддингов применяется CLS-пулинг, а сходство оценивается скалярным произведением. Модель предназначена для поиска релевантных текстовых фрагментов по запросу или вопросу, включая семантический поиск по коллекции документов. Она поддерживает английский язык, принимает текст и возвращает векторы эмбеддингов. Максимальная длина входа — 512 токенов WordPiece, однако обучение проводилось на текстах длиной до 250 токенов, поэтому на более длинных фрагментах качество может снижаться; превышение лимита приводит к усечению текста. Это дообученная модель на базе nreimers/MiniLM-L6-H384-uncased. В репозитории представлены форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия в предоставленных данных не указана.

multi-qa-mpnet-base-cos-v1 — модель Sentence Transformers на базе MPNet, разработанная в рамках Community Week Hugging Face. Она преобразует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска и сопоставления текста по смыслу. Модель обучена на 215 млн пар «вопрос–ответ» из разных источников с контрастивной целью и усреднением токеновых представлений; для сравнения векторов подходят косинусная близость и скалярное произведение. Модель принимает текст и предназначена для кодирования поисковых запросов и текстовых фрагментов, чтобы находить релевантные документы или ответы. Контекст ограничен 514 токенами по метаданным; карточка рекомендует не превышать 250 word pieces, поскольку более длинные входы могут работать хуже, а тексты свыше 512 word pieces обрезаются. Карточка указывает английский язык. Доступны веса PyTorch и форматы ONNX и OpenVINO; лицензия в предоставленных данных не указана.

mxbai-edge-colbert-v0-32m — компактная модель поиска Mixedbread AI на основе архитектуры ModernBERT и модели Ettin-32M. Она содержит 31,9 млн параметров и формирует многовекторные представления ColBERT с размерностью проекции 64 для поиска с поздним взаимодействием между запросом и документом. Модель предназначена для семантического поиска по коллекциям документов и повторного ранжирования результатов после первого, более лёгкого этапа поиска. По README, она может кодировать документы длиной до 32 000 токенов и совместима с PyLate и Sentence Transformers. Метаданные указывают нативный контекст в 7 999 токенов; это значение следует учитывать отдельно от заявленной в README длины кодируемых документов. Карточка приводит сравнительные результаты на BEIR и LongEmbed, но не содержит полного набора оценок модели в предоставленном фрагменте. Указана лицензия Apache-2.0. Поддерживаемый язык в метаданных — английский.

michaelfeil/mxbai-rerank-base-v2-seq — вариант семейства Mixedbread mxbai-rerank, переписанный как классификатор на базе плотной архитектуры Qwen2. Модель предназначена для ранжирования текстов: она оценивает релевантность документов запросу и подходит для поиска и конвейеров RAG. В README заявлены поддержка кода, длинного контекста и более 100 языков; метаданные указывают 494 млн параметров и контекст до 32 768 токенов. Указанные в карточке языки включают английский, китайский, немецкий, японский, корейский, испанский, французский, арабский, бенгальский, русский, индонезийский, тайский, суахили и телугу. README сообщает о сильных результатах на бенчмарках поиска и эффективности, но технический отчёт ещё готовится, а независимые условия сравнения в карточке описаны ограниченно. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Для вызова через API классификации требуется специальный шаблон промпта; конкретный шаблон в доступном README не приведён.

NexoNimbus-7B — объединённая модель разработчика abideen на базе Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и применения в качестве языковой модели общего назначения. Модель получена слиянием abideen/DareVox-7B и udkai/Garrulus методом SLERP; в конфигурации указан контекст до 32 768 токенов, а веса опубликованы в формате safetensors. Карточка приводит результаты оценки на Open LLM Leaderboard и TruthfulQA, но они не гарантируют качество для конкретного приложения. Модель принимает текст и генерирует текст; язык карточки — английский. Репозиторий распространяется по лицензии Apache-2.0.

nomic-embed-text-v1.5-GGUF — модель Nomic для создания текстовых эмбеддингов и задач семантического сходства. Она предназначена для поиска по смыслу, извлечения признаков и построения RAG-приложений, где пользовательские запросы и документы преобразуются в векторные представления. Для корректной работы требуется добавлять в начало каждой строки префикс инструкции соответствующей задачи, например search_query. Модель основана на архитектуре BERT и распространяется в совместимом с llama.cpp формате GGUF. Поддерживается английский язык. Файлы рассчитаны на контекст 2048 токенов по умолчанию; для использования полного контекста до 8192 токенов в llama.cpp требуется настроить расширение контекста и RoPE scaling. Доступны варианты квантования от Q2_K до Q8_0, а также F16 и F32, что позволяет выбирать между размером файла, требованиями к ресурсам и точностью эмбеддингов. В README не указаны число параметров и размерность векторов. Сильными сторонами являются поддержка локального инференса через llama.cpp, широкий выбор уровней квантования и небольшие размеры файлов — примерно от 48 до 262 МиБ. Ограничениями являются англоязычная специализация, необходимость использования task-префиксов и дополнительной настройки для контекста 8192 токена. Модель распространяется по лицензии Apache-2.0.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это квантизированная версия языковой модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и автоматически преобразованной в формат GGUF проектом ggml-org. В качестве исходной модели указана NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Модель предназначена для генерации текста и может использоваться в приложениях, поддерживающих формат GGUF и совместимых с llama.cpp или аналогичными инструментами. Из доступных данных известны размер 30B и обозначение A3B, однако подробности архитектуры, число активных параметров, длина контекста, поддерживаемые языки и дополнительные модальности не указаны. Формат GGUF удобен для локального запуска и интеграции с соответствующим программным обеспечением, но конкретные требования к памяти, производительность и качество генерации зависят от варианта квантизации и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README. Поэтому перед использованием необходимо ознакомиться с лицензией исходной модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 и условиями распространения данной сборки.

Nemotron-Cascade-8B-Thinking-GGUF — это квантизированная версия языковой модели Nemotron-Cascade-8B-Thinking, разработанной NVIDIA и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста общего назначения и задач, требующих рассуждений; в метаданных также указано обучение с учителем (SFT) и усилением (RL). Поддерживается английский язык. Модель содержит 8 миллиардов параметров и поставляется в различных вариантах квантизации — от BF16 до Q3 и IQ4, с размером файлов примерно от 4,43 до 16,39 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix. Версия BF16 обеспечивает исходное качество, тогда как варианты Q4–Q6 предлагают компромисс между качеством и требованиями к памяти; для запуска подходят llama.cpp, LM Studio и другие совместимые проекты. Формат взаимодействия использует специальные токены ролей и маркер /think. Сильными сторонами являются широкий выбор уровней квантизации, возможность локального запуска и ориентация на задачи рассуждения. Ограничения включают отсутствие в README сведений о длине контекста, точной архитектуре, мультимодальности, результатах оценивания и поддерживаемых языках помимо английского. Модель распространяется по NVIDIA Open Model License; конкретные условия следует уточнять в тексте этой лицензии.

Это GGUF-квантизированная версия OpenCoder-8B-Instruct, разработанного infly. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в формате инструкций, включая сценарии локального запуска через llama.cpp и LM Studio. Модель содержит 8 миллиардов параметров и доступна в вариантах от F16 до различных Q2–Q8-квантизаций, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти. В README указана поддержка английского и китайского языков. Формат взаимодействия использует специальные токены system, user и assistant. Данные о точной архитектуре, размере контекстного окна и поддерживаемых модальностях отсутствуют; по назначению это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая рекомендуемые Q4 и Q5, а также более качественные Q6 и Q8, благодаря чему модель можно адаптировать под разные аппаратные ограничения. Более компактные варианты снижают требования к памяти, но могут заметно уступать по качеству; ARM-оптимизированные варианты требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Модель основана на OpenCoder-8B-Instruct и распространяется с лицензией inf, подробные условия которой приведены в отдельном LICENSE-файле.