I.3Извлечение и структурирование данных

MLX-версия модели all-MiniLM-L6-v2-4bit, созданная сообществом mlx-community на основе sentence-transformers/all-MiniLM-L6-v2. Модель предназначена для генерации текстовых эмбеддингов и задач сравнения предложений, включая оценку семантической схожести, поиск и извлечение признаков из текста. Модель использует архитектуру MiniLM с шестью слоями и 4-битным квантованием, преобразована в формат MLX с помощью mlx-lm версии 0.0.3. Она работает с библиотекой mlx-embeddings, возвращает нормализованные эмбеддинги и поддерживает вычисление сходства между текстами через скалярное произведение. В карточке указано English как язык модели; сведения о размере эмбеддингов, максимальной длине контекста и других модальностях отсутствуют. К сильным сторонам относятся компактность, 4-битное представление и возможность эффективного использования в MLX-среде для семантического поиска и сопоставления текстов. Ограничения, результаты бенчмарков и подробные требования к ресурсам в README не указаны. Модель распространяется по лицензии Apache-2.0.

Ozgur Celik дообучил Sentence Transformer на базе sentence-transformers/all-mpnet-base-v2. Модель кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения текстов используется косинусное сходство. В архитектуру входят MPNet, усредняющий пулинг токенов и нормализация. Максимальная длина последовательности в README — 384 токена, а метаданные указывают нативный контекст в 514 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Она обучалась на 793 примерах с anchor, positive и negative-текстами с использованием MultipleNegativesRankingLoss. Лицензия в предоставленных данных не указана.

Retrieva, Inc. разработала AMBER (Adaptive Multitask Bilingual Embedding Representations) — двуязычную модель текстовых эмбеддингов на архитектуре ModernBERT и в формате Sentence Transformers. Модель дообучена на базе sbintuitions/modernbert-ja-130m, содержит 132,1 млн параметров и предназначена прежде всего для японского языка, с поддержкой английского. При обучении использовались японские и английские наборы данных, а также данные для перевода между этими языками; инструкции на естественном языке помогают получать эмбеддинги с учётом задачи. AMBER подходит для поиска по смыслу, сравнения предложений, ранжирования и других задач, использующих векторные представления текста. README указывает размер выходного вектора 512 измерений, косинусную меру сходства и максимальную длину последовательности 512 токенов; метаданные каталога указывают контекст до 8 192 токенов. Модель оценивалась на японских JMTEB, JQaRA, JaCWIR и японской части MLDR, а также на английском MTEB. Лицензия — Apache 2.0. Качество зависит от языка, данных и задачи; модель ориентирована на японский язык, поэтому её возможности для английского могут отличаться. В README приведены отдельные результаты бенчмарков, но не все значения таблиц доступны в карточке.

danfeg/AraBERT_Finetuned-COMB-6000 — модель эмбеддингов предложений на архитектуре BERT, разработанная danfeg и дообученная с помощью Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, сравнения сходства и кластеризации. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. В метаданных указано 468,2 млн параметров и формат Safetensors. Модель подходит для поиска похожих фрагментов и группировки текстов по смыслу. Обучение с CosineSimilarityLoss ориентировано на задачу сходства предложений. Идентификатор и семейство указывают на AraBERT и арабский язык. Условия лицензирования в доступных данных не приведены.

danfeg/ArabicBERT_Finetuned-EN-2481 — дообученная модель Sentence Transformers на архитектуре BERT для преобразования предложений и абзацев в плотные векторы размерностью 1024. Векторы можно использовать для поиска семантически близких текстов, кластеризации и сравнения предложений по смыслу. Модель принимает текст и формирует эмбеддинги; для работы с Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Максимальная длина контекста — 512 токенов. В карточке описано обучение с CosineSimilarityLoss. Язык модели явно не подтверждён: суффикс EN в названии сам по себе недостаточен, чтобы установить поддержку английского. Лицензия в предоставленных данных не указана.

Это англоязычная модель Sentence Transformer на базе BERT-base-uncased, разработанная tomaarsen и дообученная на наборах all-nli и sts. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель использует архитектуру BERT с усреднением токенных представлений; максимальная длина входа — 512 токенов. Она подходит для построения эмбеддингов и поиска похожих текстов на английском языке. Это не генеративная модель: она возвращает векторные представления, а качество зависит от предметной области и последующей системы поиска или классификации. Лицензия в предоставленных данных не указана.

Это Sentence Transformer на базе BERT, разработанный tintnguyen и дообученный на модели tintnguyen/bert-base-vi-uncased-st. Он преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и сравнения их сходства. Модель использует BERT с усреднением токенных представлений; сходство векторов обычно оценивают косинусной мерой. Максимальная длина входа — 512 токенов. Обучение на парах anchor-positive с MultipleNegativesRankingLoss ориентирует её на семантический поиск, поиск перефразирований, кластеризацию и классификацию текстов. Модель рассчитана прежде всего на вьетнамский язык; в примерах данных встречаются также тексты на других языках. Для практического применения модель формирует текстовые эмбеддинги, а не готовые ответы или метки. В метаданных указана лицензия Apache-2.0.

Это англоязычная модель Sentence Transformer, созданная sobamchan путём дообучения google-bert/bert-large-uncased на наборе all-nli. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для сравнения смысла текстов по косинусному сходству. Архитектура состоит из BERT Large и усредняющего пулинга токенов; число параметров — 433,9 млн, максимальная длина входа — 512 токенов. Модель поддерживает Matryoshka-представления размерности 1024, 768, 512, 256, 128 и 64. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразировок, кластеризации и получения признаков для классификации текста. В README приведена оценка на sts-dev: Spearman correlation по косинусному сходству — 0,8311. Модель рассчитана на английский язык; её карточка не подтверждает качество для других языков. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

NaqibL дообучила англоязычную модель Sentence Transformer на базе BAAI/bge-base-en-v1.5 для преобразования предложений и абзацев в плотные текстовые эмбеддинги. Модель построена на BERT, имеет 136,7 млн параметров и формирует векторы размерностью 768; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и извлечения релевантных текстов, в том числе как компонент RAG. В README для оценки на Triplet указана точность по косинусному сходству 0,8338. Она принимает и обрабатывает текст на английском языке; поддержка других языков не подтверждена. Для получения эмбеддингов и поиска требуется использовать совместимый с ними индекс или систему сравнения векторов. Лицензия в предоставленных данных не указана.

Карточка модели daemonicai/bge-micro-v2 на Hugging Face совпадает с карточкой TaylorAI/bge-micro-v2, поэтому описание составлено по ней. bge-micro-v2 — компактная модель эмбеддингов предложений на базе архитектуры BERT, представленная TaylorAI. Она преобразует предложения и абзацы в плотные векторы размерности 384 и подходит для семантического поиска, кластеризации и сравнения сходства текстов. Модель насчитывает 18,8 млн параметров, принимает текст длиной до 512 токенов и поддерживает Sentence Transformers, Transformers, ONNX и форматы PyTorch и Safetensors. Модель получена дистилляцией в два этапа на основе BAAI/bge-small-en-v1.5; bge-micro был первым этапом этого процесса. Она рассчитана на англоязычные тексты. Лицензия MIT разрешает свободное использование и модификацию с соблюдением её условий. Малый размер делает модель удобной для поиска и ранжирования текстовых представлений, однако векторные представления сами по себе не генерируют ответы, а ограничение контекста составляет 512 токенов.

BlueLM-7B-Chat-32K — диалоговая языковая модель с архитектурой BlueLMForCausalLM, разработанная лабораторией vivo AI. Модель содержит 6,9 млрд параметров и предназначена для генерации ответов в чате, понимания длинных текстов и решения языковых задач. В репозитории представлены веса PyTorch. Модель обучена на корпусе объёмом 2,6 трлн токенов, преимущественно на китайском и английском языках, с небольшим количеством японских и корейских данных. В README заявлена поддержка контекста до 32K токенов и приведены результаты на LongBench, включая задачи суммаризации, ответов по одному и нескольким документам и работы с кодом. Однако метаданные указывают native_context_tokens 2048, поэтому заявленную длину контекста следует сверить с конфигурацией конкретной версии. Лицензия указана как other; README сообщает, что веса открыты для академических исследований и коммерческого применения.

LazarusNLP/congen-indobert-base — модель эмбеддингов предложений на основе BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения смысловой близости и кластеризации текстов. Для работы используется библиотека Sentence Transformers; модель содержит 151,6 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена с функцией потерь ConGenLoss. В карточке указан индонезийский язык. Веса доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

MassTool/contriever-base-msmarco-v1-ToolBenchG2 — модель Sentence-Transformers на базе архитектуры BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления; в README также описано обучение с MultipleNegativesRankingLoss и косинусным сходством. Данных о целевых языках и специализации на конкретной предметной области нет.

semaj83/ctmatch-retriever-v2 — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L6-v2, разработанная semaj83. Это текстовый BERT-энкодер для поиска релевантных предложений и абзацев: он преобразует текст в плотные векторы размерностью 384 и подходит для семантического retrieval и сравнения текстов по косинусному сходству. В модели используются mean pooling и нормализация векторов. Модель обучена на 4 830 парах текстов с MultipleNegativesRankingLoss. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; в README заявлен максимум 256 токенов, поэтому для практического использования следует учитывать лимит 256 из карточки модели. Поддерживается текстовый ввод, выходом служат векторы для поиска и ранжирования по близости. Лицензия в предоставленных данных не указана.

DeCLUTR-small — компактная модель семейства RoBERTa от авторов работы DeCLUTR: Deep Contrastive Learning for Unsupervised Textual Representations. Она обучена для получения универсальных векторных представлений предложений и предназначена для работы как энкодер предложений, в том числе в экосистеме Sentence Transformers. Модель кодирует текст в эмбеддинги, которые можно сравнивать по косинусному сходству. Это подходит для поиска семантически близких предложений, сопоставления текстов и построения признаков для downstream-задач. В метаданных указаны 95,2 млн параметров, контекст до 514 токенов и поддержка английского языка; доступны веса PyTorch и Flax. Лицензия — Apache 2.0. Карточка позиционирует модель как универсальный энкодер предложений, но не приводит оценки качества для конкретных наборов данных. Результаты могут зависеть от домена и способа применения эмбеддингов; архитектура RoBERTa также ограничивает обработку входа заданной длиной контекста.

DeepSeek-R1-Distill-Llama-70B-GGUF — это квантизированная версия языковой модели DeepSeek-R1-Distill-Llama-70B, разработанной командой deepseek-ai и подготовленной в формате GGUF участником bartowski на основе llama.cpp. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Модель дистиллирована из reasoning-модели DeepSeek-R1 и настроена на задачи рассуждения и генерации цепочек рассуждений. Заявлена поддержка контекста до 128 000 токенов. В README не указаны точный вариант квантования, перечень поддерживаемых языков и дополнительные модальности, поэтому её следует рассматривать как текстовую модель. К сильным сторонам относятся большой размер 70B параметров, ориентация на сложное рассуждение и возможность использования квантизированной сборки в локальной инфраструктуре. Ограничения включают потенциально высокие требования к ресурсам, зависимость характеристик от выбранного уровня квантования и типичные для генеративных моделей риски неточных, вредных или неподходящих ответов. Лицензия в предоставленных данных не указана; условия использования следует уточнять в исходном репозитории модели.

much1na/distil-cohere-v1-ckpt — дообученная модель Sentence Transformers на базе BERT google/bert_uncased_L-6_H-512_A-8. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации. Архитектура включает BertModel с усредняющим pooling; сходство векторов можно оценивать косинусной мерой. Модель принимает только текст, поддерживает последовательности длиной до 512 токенов и содержит 40,8 млн параметров. В карточке указано обучение на наборе parquet из примерно 3,81 млн примеров, а метаданные описывают её как модель эмбеддингов. Базовая модель англоязычная, поэтому основное применение — представление английских текстов. Лицензия в доступных данных не указана.

Dolphin Mistral 24B Venice Edition — языковая модель для генерации текста, разработанная Dolphin в сотрудничестве с Venice.ai на базе Mistral-Small-24B-Instruct-2501 от Mistral AI. Модель предназначена для общего назначения: диалоговых систем, ассистентов и встраивания в приложения, где владельцу нужен контроль над системным промптом, настройками выравнивания и данными. Она позиционируется как максимально неограниченная версия Mistral 24B и используется в экосистеме Venice, где представлена под названием Venice Uncensored. Модель относится к классу text-generation и совместима с Transformers, vLLM, Ollama, LM Studio, SGLang и TGI. Указан формат FP8; размер базовой модели — 24B параметров. Сохраняется стандартный chat template Mistral. Для инференса рекомендуется низкая температура, например 0,15; в примере для vLLM заявлена поддержка контекста до 131 072 токенов, вызова инструментов и изображений, однако архитектура мультимодальности и точный набор поддерживаемых языков в README не описаны. Сильная сторона модели — управляемость: системный владелец самостоятельно задаёт тон, правила поведения и ограничения, а также может разворачивать модель локально или в собственной инфраструктуре. Ограничение заключается в намеренно минимальном уровне встроенных этических и безопасностных ограничений, поэтому результаты требуют внешнего контроля и настройки политик применения. Модель распространяется по лицензии Apache-2.0.

Luong23/e5-finetune-embedding-v1 — модель Sentence Transformers, дообученная на базе intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные текстовые векторы размерности 768. Архитектура включает XLM-RoBERTa с усреднённым pooling и нормализацией; сходство векторов можно оценивать косинусной мерой. Модель принимает текст, максимальная длина последовательности в README — 256 токенов; метаданные указывают контекст до 514 токенов. Модель предназначена для семантического поиска и извлечения релевантных фрагментов: например, сопоставления короткого запроса с описанием товара. Обучение проведено на 321 881 паре anchor-positive с использованием MultipleNegativesRankingLoss. Карточка приводит в качестве примеров вьетнамские запросы и описания товаров, но не заявляет этот язык как единственный или основной. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

F2LLM-v2-0.6B — многоязычная модель эмбеддингов из семейства F2LLM-v2, разработанного CodeFuse. Она основана на плотной архитектуре Qwen3 и содержит около 507,9 млн параметров; версия дообучена на базе codefuse-ai/F2LLM-v2-0.6B-Preview. Модель принимает текст и выдаёт векторные представления для семантического поиска, ранжирования и задач сравнения текстов. Модель поддерживает более 200 языков, уделяя особое внимание языкам с ограниченными ресурсами. Контекст составляет 40 960 токенов. Обучение с Matryoshka Representation Learning позволяет сокращать размерность эмбеддингов, а инструкции можно задавать в формате «Instruct: … Query:». В семействе заявлены высокие результаты на ряде бенчмарков MTEB; конкретные показатели этой версии в карточке не приведены. Доступны веса Safetensors и ONNX, библиотека Transformers, лицензия Apache-2.0. Для поиска и переранжирования инструкцию добавляют к запросу, но не к документам; при усечении эмбеддинга его следует нормализовать после усечения.

Карточка модели jessietextstan/few-shot-model на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.

kimquynh/finetuned_sbert_7 — дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, предназначенная для кодирования предложений и абзацев в плотные векторы и их семантического поиска и сравнения. Архитектура включает MPNet, mean pooling и нормализацию; размер модели — 136,7 млн параметров, размерность выходных векторов — 768. Модель принимает текст, использует косинусное сходство и обучалась с ContrastiveLoss на 6 241 примере; в README указана максимальная длина последовательности 384 токена, а метаданные каталога приводят контекст 514 токенов. Модель подходит для извлечения релевантных текстов, вычисления сходства предложений и бинарной классификации пар по косинусному сходству. В README приведены оценки на наборах для сходства резюме и вакансий: Spearman 0,4798, а также accuracy 0,7258 и F1 0,7811 для бинарной классификации. Эти показатели относятся к указанным наборам и не гарантируют аналогичного качества на других данных. В карточке нет сведений о лицензии; обучение описано на англоязычных примерах о резюме и вакансиях, поэтому перенос качества на другие языки и области не установлен.

flammen8-mistral-7B — объединённая языковая модель, созданная flammenai методом SLERP с помощью mergekit из flammen7-mistral-7B и AlphaMonarch-7B. Это плотная авторегрессионная архитектура MistralForCausalLM с 7,1 млрд параметров; модель опубликована в формате safetensors и поддерживается библиотекой Transformers. Она предназначена для генерации текста, включая диалоговое взаимодействие, выполнение инструкций и рассуждения. Контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текст. В карточке не заявлены специализированные области применения или поддерживаемые языки. Репозиторий создан 15 марта 2024 года. Лицензия — Apache-2.0.

duyntnet/gemma-3-12b-it-imatrix-GGUF — набор квантованных GGUF-вариантов инструкционно дообученной мультимодальной модели Gemma 3 12B IT, разработанной Google. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений с выдачей текстового ответа. Квантованные варианты ориентированы на локальный запуск с ограниченными ресурсами через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, LM Studio и другие. Модель принимает текст и изображения: изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов каждое. Заявлены поддержка более 140 языков, контекст до 128K токенов для версии 12B и максимальный объём генерируемого текста до 8192 токенов. Использование imatrix-квантизации уменьшает требования к памяти по сравнению с полноразмерными весами, но конкретные характеристики качества и расхода ресурсов зависят от выбранного файла квантизации. Сильными сторонами являются мультимодальность, большой контекст, многоязычность и возможность локального развертывания. Ограничения включают зависимость от совместимого программного обеспечения: для запуска требуется llama.cpp версии b4875 или новее; квантование также может снижать точность по сравнению с исходной моделью. В README лицензия указана как other, без дополнительных условий, поэтому перед использованием необходимо проверить лицензионные положения исходной Gemma 3 12B IT и конкретного файла модели.

gemma-4-12B-it-QUASAR-Q4_0-GGUF — мультимодальная квантованная версия модели Gemma 4 12B Instruct, разработанная QUASAR-QAT на базе google/gemma-4-12B-it. Модель предназначена для диалогов, генерации и понимания текста, работы с изображениями, рассуждений, вызова функций и инструментов, а также агентских сценариев. Заявлена поддержка английского и других языков, однако полный перечень языков и размер контекстного окна в README не указаны. Модель поставляется в формате GGUF с нативной 4-битной INT4-квантизацией Q4_0, выполненной методом quantization-aware training. Указан размер базовой модели 12B параметров; мультимодальная поддержка обеспечивается vision projector из исходной BF16-модели. Формат совместим со стандартными средствами llama.cpp, Ollama и LM Studio. По измерениям авторов, на отложенных чат-запросах модель показала KL-дивергенцию 0,048 и совпадение top-1 с BF16-версией на уровне 94,3%; эти результаты помечены как непроверенные. К сильным сторонам относятся сохранение близкого к BF16 поведения при меньшем размере и требованиях к ресурсам, а также поддержка текста и изображений. Ограничения включают возможные потери качества из-за 4-битной квантизации, зависимость мультимодальных возможностей от совместимого рантайма и отсутствие в README точных требований к памяти, производительности и максимальному контексту. Модель распространяется по лицензии Apache-2.0.

gety-embed-v0 — модель для создания текстовых эмбеддингов, разработанная gety-ai. Она дообучена на базе intfloat/multilingual-e5-small с использованием открытых и проприетарных синтетических данных и оптимизирована для сценариев локального поиска и оценки сходства предложений. Модель основана на архитектуре BERT и поддерживает мультиязычные тексты. Она принимает input_ids и attention_mask, выполняет masked mean pooling и L2-нормализацию, формируя нормализованный эмбеддинг размерности 384. Доступны варианты ONNX с динамической UINT8-квантизацией размером 112 МБ и FP16 для CUDA размером 224 МБ, Core ML FP16 для macOS 13+ с ускорением ANE, а также OpenVINO-вариант для Intel NPU с INT8-квантованием весов и FP16-активациями размером 114 МБ. Версия Core ML поддерживает динамическую длину последовательности от 1 до 512 токенов. Сильные стороны модели — компактный размер, нормализованный 384-мерный выход и наличие форматов для CPU, CUDA, macOS и Intel NPU, что удобно для локального и периферийного инференса. Ограничения включают отсутствие в README подробных результатов оценки качества, перечня поддерживаемых языков и рекомендаций по максимальной длине ввода для всех вариантов. Модель распространяется по лицензии MIT.

moshew/gist_small_ft_gooaq_v3 — англоязычная Sentence Transformers модель, дообученная автором на 2 000 пар предложений из набора данных с вопросами и ответами. Она основана на avsolatorio/GIST-small-Embedding-v0 и использует BERT с объединением CLS-токена и нормализацией выходного вектора. Модель кодирует предложения и абзацы в плотные эмбеддинги размерности 384; максимальная длина входа — 512 токенов. Модель предназначена для оценки семантического сходства по косинусной близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста по эмбеддингам. Примеры обучения показывают настройку на сопоставление вопросов с релевантными и нерелевантными фрагментами ответов. Репозиторий распространяет веса в формате safetensors и использует библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.

GLiClass base v2.0 RAC init — модель классификации последовательностей с нулевым примером от Knowledgator, основанная на microsoft/deberta-v3-base. Она использует признаки с разных слоёв сети и выполняет классификацию за один проход, что делает её вычислительно эффективной по сравнению с cross-encoder. Модель предназначена для тематической классификации, анализа тональности и повторного ранжирования в RAG-сценариях. Версия RAC обучена учитывать примеры, найденные по семантическому сходству, и использовать их при предсказании. В тестах добавление таких примеров повышало средний F1 с 0,3090 без примеров до 0,4707 с двумя примерами; результаты зависят от набора данных и числа примеров. В карточке указана поддержка английского и французского языков. Модель распространяется в формате Safetensors по лицензии Apache-2.0; автор заявляет, что данные обучения допускают коммерческое использование.

RedHatAI/GLM-5.2-NVFP4-FP8 — квантизированная версия модели zai-org/GLM-5.2, разработанная RedHatAI. Это текстовая авторегрессионная модель для генерации текста, построенная на архитектуре GlmMoeDsaForCausalLM. Она принимает текст и возвращает текст, поддерживает английский и китайский языки и предназначена прежде всего для высокопроизводительного инференса и развёртывания через vLLM, включая сценарии с рассуждениями и вызовом инструментов. Модель использует смешанную точность: веса и активации механизмов внимания представлены в FP8 с блочным масштабированием, а эксперты MoE — в FP4 (NVFP4). Такая оптимизация снижает среднее число битов на параметр примерно с 16 до 4–5, уменьшая размер на диске и потребность в GPU-памяти примерно на 70–75% по сравнению с исходной версией BF16. Контекстная длина в README не указана; для конфигураций с контекстом до 1M токенов предлагается обращаться к рецепту vLLM для GLM-5.2. Главное преимущество модели — существенное сокращение требований к памяти при сохранении большей части качества исходной модели: на GPQA Diamond она набрала 89,1 против 91,2 у незаквантизированной версии, что соответствует восстановлению 97,7% результата. Ограничения включают небольшое снижение точности, зависимость от совместимой версии vLLM и необходимость исправления из pull request #47780. Модель распространяется по лицензии MIT.

Granite-Embedding-97M-Multilingual-R2-GGUF — это мультиязычная модель для создания векторных представлений текста, опубликованная пользователем mykor и основанная на модели ibm-granite/granite-embedding-97m-multilingual-r2, разработанной IBM Granite. Модель распространяется в формате GGUF и предназначена для задач feature extraction, семантического поиска, сравнения предложений и других сценариев, где требуется оценивать смысловую близость текстов. Модель поддерживает широкий набор языков, включая русский, английский, китайский, японский, корейский, арабский и многие другие. В README указано, что доступен файл granite-embedding-97M-multilingual-r2-BF16.gguf в формате BF16; размер базовой модели составляет 97 млн параметров. Для запуска приведён пример с llama.cpp через llama-cpp-python в режиме генерации эмбеддингов. README не содержит сведений о максимальной длине контекста, размерности векторов или подробностях архитектуры. В качестве сильной стороны заявлена близкая совместимость эмбеддингов с исходной моделью Sentence Transformers: в приведённом примере косинусное сходство результатов двух реализаций составляет 0,9999579. Ограничения и результаты независимых бенчмарков в README не описаны. Модель распространяется по лицензии Apache-2.0.