I.3Извлечение и структурирование данных

jina-embeddings-v3-GGUF — GGUF-версия модели jina-embeddings-v3, разработанной jinaai и квантизированной компанией Second State Inc. Это модель для построения векторных представлений текста, предназначенная для семантического поиска, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge; для неё используется шаблон prompt типа embedding. Доступны варианты размерности эмбеддингов от 32 до 1024: 32, 64, 128, 256, 512, 768 и 1024. Формат GGUF поддерживает различные уровни квантования, позволяя выбирать между размером файла и сохранением качества; среди указанных вариантов Q4_K_M и Q5_K_M отмечены как сбалансированные или рекомендуемые. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и точный размер контекста; для запуска LlamaEdge приведён контекст 768. Сильными сторонами модели являются возможность локального запуска, выбор размерности эмбеддингов и нескольких уровней квантования, включая компактные варианты. Более агрессивное квантование может приводить к заметной потере качества, тогда как версии с большим числом бит занимают больше памяти. Лицензия в предоставленном README не указана; условия использования следует уточнять в карточке исходной модели jinaai/jina-embeddings-v3 и соответствующего GGUF-репозитория.

K2-Horizon-MoVA-36B-A4B-GGUF — это набор общественных GGUF-квантизаций модели K2-Horizon-MoVA-36B-A4B, разработанной IFM и опубликованной пользователем ngquocvinh. Модель предназначена для запуска через llama.cpp и задач генерации текста, рассуждений, программирования, агентских сценариев и работы с длинным контекстом. Исходная модель использует разреженную архитектуру Mixture-of-Experts с механизмом Mixture-of-Values attention (MoVA): всего заявлено 36 млрд параметров, из которых на каждый токен активируется около 4 млрд. Указано нативное контекстное окно до 524 288 токенов и поддержка английского языка. В набор входят варианты квантизации от Q8_0 до крайне компактных профилей Q1_0; они различаются размером файлов, требованиями к памяти и близостью поведения к эталонной BF16-модели. Практическими вариантами названы Q5_K_M с повышенной точностью, Q4_K_M как сбалансированный профиль и IQ3_M как компактный вариант с квантизацией с учётом важности. Измерения на ограниченном наборе WikiText показывают высокое совпадение старших вариантов с BF16, однако не являются прямой оценкой сохранённых способностей. Профили с экстремальным сжатием, особенно Q1_0, существенно отклоняются от эталона и должны рассматриваться как экспериментальные. Для работы требуется совместимая сборка llama.cpp; длинный контекст может потребовать значительно больше памяти, а полная выгрузка модели на ускоритель может быть недоступна. В метаданных указана лицензия Apache-2.0. README описывает именно квантизированные GGUF-файлы и не содержит полного набора результатов или подробностей исходной модели; за ними рекомендуется обращаться к официальной карточке IFM/K2-Horizon-MoVA-36B-A4B.

Модель NotoriousH2/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная инструктивная языковая модель, опубликованная NotoriousH2. Она основана на архитектуре Llama и предназначена для генерации текста в диалоговом формате; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. Карточка сообщает о дообучении с использованием Unsloth и библиотеки TRL. Для весов указана лицензия Apache-2.0.

Kanana-Nano-2.1B-Embedding — двуязычная модель эмбеддингов от Kakao, основанная на семействе Kanana. Она преобразует тексты в векторные представления и предназначена для семантического поиска, ранжирования и систем Retrieval Augmented Generation (RAG). Модель содержит 1,9 млрд параметров, использует архитектуру Kanana2Vec и поддерживает контекст до 8192 токенов; основными языками являются корейский и английский. Модель совместима с Transformers и sentence-transformers. В sentence-transformers по умолчанию применяется инструкция query, а при усреднении исключаются токены инструкции. При использовании vLLM инструкция учитывается в усреднении, поэтому получаемые векторы могут заметно отличаться от результатов Transformers и sentence-transformers. Для загрузки через Transformers требуется trust_remote_code=True. Лицензия CC BY-NC 4.0 разрешает использование на условиях с ограничением коммерческого применения.

KordAI/KeawGPT-Opus — англоязычная плотная авторегрессионная языковая модель семейства Qwen3 с 3,7 млрд параметров, разработанная KordAI как дообучение KordAI/KeawGPT. Модель принимает текст и генерирует текст; поддерживает диалоговый режим и интерфейс вызова инструментов. Для работы с контекстом поддерживается до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на английском языке. Она распространяется в формате safetensors по лицензии Apache-2.0. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL от Hugging Face.

LEALLA-large — многоязычная модель для получения векторных представлений предложений, разработанная как часть семейства LEALLA и дистиллированная из LaBSE. Это версия, перенесённая с модели v1 на TensorFlow Hub; для неё указана эквивалентность эмбеддингов исходной версии. Модель основана на BERT, содержит 153,5 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для построения многоязычных эмбеддингов предложений и поиска соответствующих текстов на разных языках, включая двуязычный поиск. В README заявлена поддержка 109 языков. Представлены веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache-2.0. При сравнении эмбеддингов для некоторых языков, например японского, могут потребоваться более высокие допуски. Сведения о данных, обучении и метриках приведены в оригинальной научной статье.

Llama3.1-8b-Instruct-CPT-SFT-DPO-09022024 — плотная авторегрессионная языковая модель семейства Llama 3.1 с 7,5 млрд параметров, опубликованная на Hugging Face в формате safetensors для библиотеки Transformers. По названию это инструкционная модель, прошедшая этапы CPT, SFT и DPO; сведения о разработчике и подробностях обучения в карточке не приведены. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Метаданные указывают контекст до 131 072 токенов. Подтверждённых сведений о поддерживаемых естественных языках, специальных прикладных областях и лицензии нет, поэтому область применения и условия распространения следует уточнять у владельца модели. Карточка не содержит результатов оценки или описания ограничений; как и другие генеративные языковые модели, она может выдавать ошибочные или необоснованные ответы.

Llama-SEA-LION-v3-70B — многоязычная текстовая модель AI Singapore, разработанная командой Products Pillar при финансировании NRF Сингапура. Это декодер на архитектуре Llama 3.1 с 69,5 млрд параметров, созданный продолжением предобучения meta-llama/Llama-3.1-70B-Instruct на примерно 200 млрд токенов на 11 языках Юго-Восточной Азии и английском; модель использует токенизатор Llama 3.1 и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, анализа тональности и токсичности, перевода между английским и языками региона, причинных рассуждений и следования инструкциям. Карточка сообщает оценки по SEA-HELM и SEA-IFEval, включая проверку ответа на нужном языке. Модель рассчитана на бирманский, китайский, английский, филиппинский, индонезийский, кхмерский, лаосский, малайский, тамильский, тайский и вьетнамский языки. Для использования необходима инфраструктура, способная обслуживать модель на 70B параметров. Доступна в формате safetensors; лицензия — Llama 3.1 Community License.

Карточка модели kiranbeethoju/MedVectors-base-v0.1 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

EnlistedGhost/Ministral-3-8B-Instruct-2512-GGUF — это квантизированная версия мультимодальной модели Ministral 3 8B Instruct 2512 BF16, разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель предназначена для диалогов, выполнения инструкций и задач image-text-to-text с поддержкой текста и изображений. Указаны языки: английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. Доступны варианты квантования от Q2_K_L до Q8_0_L, а также F16 и мультимодальные vision-проекторы в форматах F16 и F32. Модель ориентирована на локальный запуск и совместима с llama.cpp, Ollama и Yollama. Семейство Ministral 3 разработано для edge-развёртывания; исходная версия 8B, по данным README, может работать примерно в пределах 32 ГБ VRAM в BF16 и менее 24 ГБ RAM или VRAM в квантизированном виде. К сильным сторонам относятся компактный размер, поддержка мультимодального ввода и широкий выбор квантованных вариантов, однако качество и требования к ресурсам зависят от выбранного варианта. Лицензия — Apache-2.0.

MiroThinker-v1.0-8B-GGUF — квантованная версия языковой модели MiroThinker-v1.0-8B, разработанной miromind-ai и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях на базе llama.cpp и LM Studio. Указан английский язык. Модель содержит 8 миллиардов параметров и распространяется в нескольких вариантах точности: от BF16 до квантований Q2–Q8 и IQ. Для квантования использовался llama.cpp с методом imatrix, что позволяет уменьшить размер файлов и требования к памяти при сохранении качества; рекомендуемыми названы варианты Q4–Q6. Размер файлов составляет примерно от 3,9 до 16,39 ГБ в зависимости от формата. В README не указаны точная архитектура, максимальная длина контекста, результаты бенчмарков и дополнительные модальности, поэтому возможности модели в этих аспектах оценить нельзя. Более сильные квантования обеспечивают лучшее качество, а компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее терять качество. Для работы следует использовать совместимое ПО llama.cpp или LM Studio и формат промпта с маркерами ChatML. Лицензия — MIT.

Narkantak/Mistral-2x7b-Instruct-1x2 — объединённая диалоговая языковая модель на архитектуре Mistral, созданная методом TIES из mistralai/Mistral-7B-Instruct-v0.1 и mistralai/Mistral-7B-Instruct-v0.2. Несмотря на название, в метаданных указано 7,1 млрд параметров. Модель предназначена для генерации текста в ответ на запросы и инструкции, в том числе для диалога; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка указывает на объединение двух instruct-моделей, но не сообщает о специальных областях применения или поддерживаемых естественных языках. Репозиторий содержит веса в формате safetensors. Условия лицензии в предоставленных данных не указаны.

Mistral-7B-Instruct-v0.3-GGUF — квантизированная версия инструкционной модели Mistral-7B-Instruct-v0.3, разработанной mistralai и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для диалогового взаимодействия и запуска локальных сервисов генерации текста, включая сценарии с использованием инструментов через LlamaEdge. Модель имеет размер 7B параметров и поддерживает контекст до 32 000 токенов. В репозитории представлены варианты квантизации от Q2_K до Q8_0, а также f16; их размер составляет примерно от 2,72 до 14,5 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу между размером и качеством, тогда как более агрессивная квантизация уменьшает требования к ресурсам, но может заметно ухудшать качество. Сведения о модальностях и поддерживаемых языках в README не указаны. Модель подходит для локального чата, генерации текста и интеграции в приложения через LlamaEdge с шаблонами Mistral Instruct и Mistral Tool. К ограничениям относятся компромиссы между размером файла и качеством, характерные для квантизированных версий, а также отсутствие в предоставленных данных результатов тестирования и подробностей об аппаратных требованиях. Распространяется по лицензии Apache-2.0.

Mistral-Nemo-Instruct-2407-400k_v3 — дообученная Wassimm версия unsloth/Mistral-Nemo-Instruct-2407, созданная с использованием Unsloth и библиотеки TRL от Hugging Face. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена, среди языковых меток карточки указан английский. Модель подходит для диалоговых приложений и генерации текста, включая сценарии, где чат-боту требуется обращаться к инструментам. В README нет сведений о специальной предметной области или конкретных задачах дообучения. Лицензия — Apache-2.0.

bamec66557/Mistral-Nemo-VICIOUS_MESH-12B-2407 — языковая модель, созданная разработчиком bamec66557 слиянием моделей VICIOUS_MESH-12B-BETA и VICIOUS_MESH-12B-OMEGA методом SLERP с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс для вызова инструментов. Нативная длина контекста — 131 072 токена. Карточка приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество для конкретных задач. Модель распространяется в формате safetensors по лицензии Apache-2.0. В предоставленной карточке не перечислены поддерживаемые естественные языки и конкретные ограничения применения.

Mixtral-8x7B-v0.1 — предварительно обученная генеративная языковая модель Mistral AI со sparse Mixture of Experts. В архитектуре Mixtral-8x7B восемь экспертов; модель предназначена для генерации текста и служит базовой моделью для дальнейшей адаптации под конкретные сценарии. В карточке разработчик сообщает, что модель превзошла Llama 2 70B на большинстве проверенных ими бенчмарков. Модель рассчитана на работу с текстом и поддерживает контекст до 32 768 токенов. В метаданных указаны английский, французский, итальянский, немецкий и испанский языки. Веса доступны в формате safetensors; репозиторий подготовлен для обслуживания через vLLM, а README также описывает загрузку через Transformers, хотя отдельно предупреждает, что на момент публикации модель ещё нельзя было инстанцировать через HF. Лицензия — Apache 2.0. Это базовая модель без встроенных механизмов модерации, поэтому ответы могут включать нежелательный контент. Для безопасного применения в пользовательских сценариях нужна отдельная проверка и настройка поведения модели.

Это BF16-версия Mistral Small 3.2 24B Instruct в формате GGUF, подготовленная сообществом mlx-community и опубликованная TensorBlock. Репозиторий содержит файлы, совместимые с llama.cpp; модель предназначена для диалоговой генерации текста и работы с инструкциями. В README приведён шаблон промпта и варианты квантованных файлов, причём для некоторых малых квантовок отмечена существенная потеря качества. Модель содержит 24 млрд параметров и поддерживает многоязычный диалог, в том числе на русском, английском, французском, немецком, испанском, китайском и других языках из карточки. Лицензия — Apache-2.0. Указанная сборка — BF16 в GGUF; доступность файлов разных квантовок позволяет выбирать компромисс между размером и качеством. Для работы с GGUF требуется совместимый рантайм; README подтверждает совместимость с llama.cpp начиная с указанного коммита.

Карточка модели Youssefbou62/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.

Карточка модели Oussama1209/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

tomaarsen/mpnet-base-nq-cgist-gt — текстовая модель Sentence Transformers, созданная дообучением microsoft/mpnet-base на парах запросов и ответов из Natural Questions. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для оценки семантического сходства, поиска и сопоставления текстов. Архитектура включает MPNet и усредняющий токены слой pooling; модель имеет 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель рассчитана на английский язык. Её можно применять для семантического поиска по корпусу документов, сравнения запросов с ответами, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Для сравнения векторов в карточке рекомендована косинусная близость; приведённые оценки на наборах Nano BEIR и Nano BEIR-подобных задачах различаются по датасетам, поэтому качество следует проверять на целевом корпусе. Модель распространяется по лицензии Apache-2.0. Ограничение длины входа составляет 512 токенов; карточка не подтверждает поддержку языков помимо английского.

Это компактная многоязычная модель эмбеддингов multilingual-e5-small в формате GGUF F16, преобразованная из весов intfloat/multilingual-e5-small для работы с llama.cpp и llama-server. В основе — энкодер XLM-RoBERTa семейства BERT; модель создаёт векторы размерности 384 и поддерживает контекст до 512 токенов. Для индексируемых документов и поисковых запросов требуются префиксы «passage: » и «query: » соответственно; README рекомендует mean pooling и L2-нормализацию, после которой можно сравнивать векторы по cosine similarity. Модель предназначена для семантического поиска, сравнения предложений и многоязычного подбора текстов, включая поиск по документам на разных языках. В README приведено сравнение F16-эмбеддингов с результатами sentence-transformers на небольшом многоязычном наборе: близость по cosine similarity составила не менее 0,9976, а средний top-1 результат сохранился. Это наблюдение относится только к указанной выборке; токенизация SentencePiece может давать небольшие отличия. Лицензия — MIT, унаследованная от базовой модели.

Nano-Em1-0.6B-v2 — модель эмбеддингов текста от KiteFish AI на базе Qwen3-0.6B. Она использует двунаправленное внимание вместо причинной маски, среднее объединение токенных представлений и формирует векторы размерности 1024. Максимальная длина входа по README — 512 токенов; метаданные указывают контекст модели в 40 960 токенов. Модель предназначена для поиска документов по запросу, ранжирования, семантического сходства, классификации пар текстов и кластеризации. Для задач предлагаются инструкции-префиксы; при асимметричном поиске префикс инструкции добавляется к запросу, а документы кодируются без него. В метаданных также указана поддержка извлечения признаков и сходства предложений. Модель ориентирована на английский язык, а качество на других языках не оценивалось. Для загрузки архитектуры требуется включить trust_remote_code=True. Модель дообучена на Qwen/Qwen3-0.6B, распространяется в формате safetensors по лицензии Apache-2.0.

Nemostein-3-Nano-Omni-30b-a3b-i1-GGUF — это GGUF-квантизированная версия модели GestaltLabs/Nemostein-3-Nano-Omni-30b-a3b. Квантизацию выполнил mradermacher с использованием weighted/imatrix-подхода. Модель предназначена для генерации текста на английском языке, диалоговых сценариев, задач рассуждения, использования инструментов и function calling. В метаданных модель отмечена как mixture-of-experts и связана с архитектурой Nemotron-H; обозначение базовой модели содержит параметры 30b-a3b, однако точное число активных параметров, размер контекста и подробности архитектуры в README не указаны. Поддержка других модальностей, кроме текстовой, также не подтверждена, несмотря на слово Omni в названии. Доступно множество вариантов GGUF-квантизации размером примерно от 18 до 33,6 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Сильными сторонами являются поддержка англоязычной генерации, reasoning, conversational use, tool use и function calling, а также широкий выбор уровней квантизации. Ограничения связаны с потерями качества, зависящими от выбранного варианта квантизации; некоторые низкобитные варианты в README прямо характеризуются как имеющие низкое качество. Лицензия указана как other, без дополнительных условий в представленном README.

next-32b-i1-GGUF — это набор квантизированных файлов в формате GGUF для языковой модели next-32b, разработанной thelamapi и дополнительно квантизированной mradermacher. Модель дообучалась на наборах данных FineTome-100k, CognitiveKernel-Pro-SFT, KAG-Thinker-training-dataset, ChatGPT-4o-Writing-Prompts, dolphin-r1 и Brief-Pro, поэтому предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, аналитических и письменных задач. Модель имеет около 32 млрд параметров и относится к transformer-моделям с instruction-tuning. В README заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. Указана только текстовая генерация; сведения о мультимодальности и размере контекстного окна отсутствуют. Доступны варианты квантизации от IQ1_S до Q6_K, различающиеся размером, скоростью и качеством; рекомендуются i1-Q4_K_M и i1-Q4_K_S как сбалансированные варианты, а низкоразрядные варианты могут заметно снижать качество. Модель подходит для локального запуска и многоязычных чат-сценариев, однако для работы с большинством вариантов требуется значительный объём памяти. Качество конкретной версии зависит от выбранной квантизации; некоторые варианты в README прямо отмечены как низкокачественные. Лицензия — MIT.

mlx-community/nomicai-modernbert-embed-base-8bit — англоязычная модель для получения векторных представлений текста и оценки сходства предложений. По метаданным это плотная encoder-only модель семейства ModernBERT на 149 млн параметров с контекстом до 8192 токенов; README указывает, что веса преобразованы в формат MLX из nomic-ai/modernbert-embed-base. Модель можно применять для семантического поиска, сравнения текстов и построения эмбеддингов для последующей обработки.

Hyukkyu/nv-embed-v2 — перенос модели NV-Embed-v2 от NVIDIA, выполненный для совместимости с Transformers 5.0 и новее. Единственное заявленное изменение — добавление свойства совместимости в класс NVEmbedModel; веса модели основаны на nvidia/NV-Embed-v2 и сохранены в формате safetensors. Модель предназначена для создания текстовых эмбеддингов, используемых в семантическом поиске, сравнении текстов и RAG-сценариях. README отсылает к исходной карточке NVIDIA за сведениями об архитектуре, обучении и оценках качества. Для использования указаны Transformers версии 5.0.0 или новее, PyTorch 2.0 или новее и Python 3.9 или новее. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями лицензии, включая некоммерческий характер.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-квантизированная версия языковой модели NVIDIA Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и подготовленной для запуска с llama.cpp. Квантизацию выполнил bartowski с использованием imatrix. Модель предназначена для генерации текста и поддерживает только текстовый ввод; заявленное количество параметров — 33 млрд. Вариант включает поддержку MTP. Модель подходит для локального запуска и задач текстовой генерации, включая диалоговые сценарии при использовании рекомендованного шаблона промпта. Доступны варианты квантизации от BF16 и Q8_0 до более компактных Q3 и IQ3, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В README рекомендуются Q4_K_M как сбалансированный вариант, а также варианты Q5 и Q6 для более высокого качества. Заявлена поддержка английского, испанского, французского, немецкого, итальянского и японского языков. Ограничения модели включают отсутствие мультимодального ввода и неизвестный из предоставленных данных размер контекстного окна. Более сильное сжатие уменьшает требования к памяти, но может снижать качество по сравнению с BF16 и вариантами с более высокой точностью. Модель распространяется по лицензии openmdw-1.1; в README она обозначена как license: other, с дополнительной ссылкой на условия лицензии.

Olmo-3-1125-32B — плотная авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это базовая модель семейства OLMo 3, обученная на 5,50 трлн токенов набора Dolma 3; в карточке также описаны этапы промежуточного обучения и обучения длинному контексту. Модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста на английском языке и может служить основой для прикладных систем, дообучения и экспериментов с языковыми моделями. В обучающих данных представлены веб-страницы, код, математика, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса Safetensors для использования через Transformers версии 4.57.0 или выше. Модель выпущена по лицензии Apache 2.0. Как базовая языковая модель без фильтрации безопасности, она может генерировать вредный или предвзятый контент, а фактические ответы могут быть неточными и требуют проверки.

Карточка модели Salahuddin1234/OmniDoctor-Reranker-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-8B, поэтому описание составлено по ней. Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.1 — объединённая методом SLERP чат-модель на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.1 и Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате safetensors. Модель подходит для диалоговых помощников и генерации ответов на запросы. Поддерживаемые языки в предоставленных данных не перечислены. Лицензия — Apache-2.0. Качество ответов может зависеть от формулировки запроса; как и другие языковые модели, она может генерировать фактические ошибки.