II.6Документация и сопровождение разработки

Qwen3.8-27B-NVFP4-RTX5090 — оптимизированная для видеокарт GeForce RTX 5090 версия модели Qwen/Qwen3.8-27B. Сборка опубликована в gittensor-model-hub и квантизована с помощью NVIDIA Model Optimizer в формате NVFP4. Модель предназначена для развёртывания через SparkInfer, SGLang и vLLM на архитектуре NVIDIA Blackwell; Hopper может загрузить файлы, но не поддерживает выполнение NVFP4. Модель поддерживает работу с текстом, изображениями и видео через OpenAI-совместимый API. Она рассчитана на контекст до 262 144 токенов и помещается на одной RTX 5090 с 32 ГБ памяти; размер чекпойнта составляет около 17,92 ГБ в двух шардах. В сборке квантизирован также lm_head, а неиспользуемая MTP head удалена. Для ускорения генерации может использоваться спекулятивное декодирование с drafter DSpark v2. Сильные стороны модели — большой контекст, мультимодальный ввод, низкие требования к памяти и высокая скорость инференса на RTX 5090, особенно в связке SparkInfer и DSpark v2. Ограничения включают зависимость от Blackwell для полноценного выполнения NVFP4, необходимость специализированных движков и отдельные ограничения текущего API SparkInfer: видео поддерживается фактически, но не всегда корректно отражается в поле input_modalities. Модель распространяется по лицензии Apache-2.0.

Qwen3-Embedding-4B-W4A16-G128 — GPTQ-квантованная версия модели Qwen3-Embedding-4B, опубликованная пользователем boboliu и разработанная на базе Qwen/Qwen3-Embedding-4B. Модель предназначена для создания текстовых эмбеддингов и задач семантического сходства, классификации, кластеризации, поиска, reranking и оценки семантического соответствия. Для калибровки использовались наборы THUIR/T2Ranking и m-a-p/COIG-CQIA. Модель содержит около 4 млрд параметров и использует формат квантования W4A16 с GPTQ. По данным README, квантирование снижает использование VRAM примерно с 17 430 до 11 000 МБ без FA2. На бенчмарке C-MTEB средний результат составляет 71,75 против 72,27 у исходной Qwen3-Embedding-4B, то есть потери составляют около 0,72%. Языки, точная архитектура, размер контекста и поддерживаемые модальности в README не указаны. Основное преимущество модели — уменьшенные требования к видеопамяти при сохранении близкого к исходной версии качества, что делает её более подходящей для локального запуска и ресурсоограниченной инфраструктуры. Ограничением является небольшое снижение качества на C-MTEB, а также необходимость совместимой программной среды для работы с GPTQ-квантованием. README рекомендует установить compressed-tensors, optimum и один из пакетов auto-gptq или gptqmodel. Модель распространяется по лицензии Apache-2.0.

Wheatley961/Raw_2_Test_1_new.model — модель Sentence-Transformers на базе архитектуры XLM-RoBERTa, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. По метаданным модель содержит 305,2 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Репозиторий содержит веса PyTorch; для получения эмбеддингов можно использовать Sentence-Transformers или Transformers с подходящей операцией pooling. Модель подходит для построения поиска по смыслу и группировки текстов. В README указано обучение с CosineSimilarityLoss. Данные о лицензии и конкретном наборе поддерживаемых языков отсутствуют в предоставленных источниках, поэтому их нельзя уточнить.

pushpdeep/sbertmsmarco-en_to_indic_ur-murilv1 — модель на базе BERT, предназначенная для преобразования предложений и абзацев в плотные векторные представления размерности 768. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. В репозитории указано обучение с MSELoss; модель доступна в формате PyTorch и опубликована под именем Sentence-Transformers. Модель принимает текст и выдаёт эмбеддинги. Контекст ограничен 512 токенами. По названию репозитория она связана с MS MARCO и индийскими языками, включая урду; точный перечень поддерживаемых языков и базовая модель в предоставленных данных не подтверждены. Лицензия в источниках не указана.

Карточка модели ceggian/sbert_pt_reddit_softmax_128 на Hugging Face совпадает с карточкой ceggian/sbert_pt_reddit_softmax_32, поэтому описание составлено по ней. ceggian/sbert_pt_reddit_softmax_32 — модель Sentence-Transformers на архитектуре BERT, разработанная пользователем ceggian. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение использовало SoftmaxLoss и данные Reddit, что указывает на настройку для задач сходства предложений. Модель подходит для семантического поиска и группировки похожих текстов; её векторные представления можно использовать в системах поиска и анализа текстов. README не уточняет поддерживаемые естественные языки и лицензию, поэтому область применения и условия использования по этим параметрам определить нельзя.

Карточка модели ceggian/sbert_pt_reddit_softmax_256 на Hugging Face совпадает с карточкой ceggian/sbert_pt_reddit_softmax_32, поэтому описание составлено по ней. ceggian/sbert_pt_reddit_softmax_32 — модель Sentence-Transformers на архитектуре BERT, разработанная пользователем ceggian. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение использовало SoftmaxLoss и данные Reddit, что указывает на настройку для задач сходства предложений. Модель подходит для семантического поиска и группировки похожих текстов; её векторные представления можно использовать в системах поиска и анализа текстов. README не уточняет поддерживаемые естественные языки и лицензию, поэтому область применения и условия использования по этим параметрам определить нельзя.

ceggian/sbert_pt_reddit_softmax_32 — модель Sentence-Transformers на архитектуре BERT, разработанная пользователем ceggian. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение использовало SoftmaxLoss и данные Reddit, что указывает на настройку для задач сходства предложений. Модель подходит для семантического поиска и группировки похожих текстов; её векторные представления можно использовать в системах поиска и анализа текстов. README не уточняет поддерживаемые естественные языки и лицензию, поэтому область применения и условия использования по этим параметрам определить нельзя.

Madras1/sbert-quality-filter-ptbr-v1 — модель Sentence Transformers, дообученная на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она кодирует предложения и абзацы в плотные векторы размерности 384; сходство между текстами оценивается косинусной мерой. В README указана архитектура BERT с усреднением токеновых представлений и максимальная длина последовательности 128 токенов; метаданные указывают 124,3 млн параметров и контекст 512 токенов. Модель предназначена для семантического сравнения текстов и может применяться для семантического поиска, поиска перефразировок, кластеризации и классификации текстов. Название репозитория указывает на фильтрацию качества для бразильского португальского, но README не уточняет, как именно это реализовано; явные сведения о языке обучения отсутствуют. Для работы подходит библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

ilhkn/sentence_classifier — модель Sentence Transformers на базе MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов. Обучение использовало CosineSimilarityLoss. Модель подходит для семантического поиска и группировки текстов по смыслу; векторные представления можно использовать в системах поиска и аналитики текстовых коллекций. В карточке указана библиотека PyTorch. Лицензия и специальные ограничения применения в предоставленных данных не описаны.

adit94/sentenceTest_kbert — модель на базе BERT, опубликованная в формате PyTorch как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель обучалась с TripletLoss; контекст ограничен 512 токенами. Модель подходит для построения векторного поиска по текстам и группировки семантически близких предложений. Карточка не уточняет поддерживаемые естественные языки и лицензию, поэтому эти характеристики нельзя достоверно указать.

KoonJamesZ/sentence-transformers-nina-thai-v3 — модель эмбеддингов предложений на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Число параметров — около 305,2 млн, контекст — до 514 токенов; модель принимает текст и выдаёт векторные представления. Для обучения использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель подходит для поиска семантически близких предложений, группировки текстов по смыслу и построения систем поиска по текстовым коллекциям. В названии указано Thai, однако доступные сведения не подтверждают отдельно поддерживаемые языки или их приоритет. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

Serafim 100m Portuguese PT Sentence Encoder — модель семейства Serafim PT*, разработанная Luís Gomes, António Branco, João Silva, João Rodrigues и Rodrigo Santos. Это sentence-transformers энкодер на архитектуре BERT с 136,1 млн параметров, который преобразует предложения и абзацы на португальском языке в плотные векторы размерности 768. Максимальная длина контекста — 512 токенов. Модель предназначена для семантического поиска, сравнения текстов и кластеризации. Она обучалась с функцией потерь CoSENT и поддерживается библиотекой Sentence-Transformers. Репозиторий содержит веса в формате safetensors. Лицензия MIT.

Карточка модели ITESM/st_demo_2 на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.

princeton-nlp/sup-simcse-roberta-large — модель извлечения признаков, разработанная Princeton NLP на основе RoBERTa-large с методом supervised SimCSE. Она преобразует текст в векторные представления предложений для сравнения их семантической близости и использования в задачах поиска и последующей обработки текста. Обучение проводилось на 314 тысячах примеров из MNLI и SNLI; оценивание включало задачи семантического сходства предложений и переноса на другие задачи. Модель содержит 454,1 млн параметров и рассчитана на контекст до 514 токенов. В репозитории доступны веса PyTorch и Flax. Карточка не сообщает лицензию, поэтому условия использования следует проверить отдельно. Среди ограничений — возможные стереотипные и вредоносные смещения; модель не следует использовать для создания враждебной или отчуждающей среды.

Карточка модели Bhuvana/test-setfit-model на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.

Agents-A1 — агентная модель от InternScience, созданная для длительных многошаговых задач в поиске, инженерии, научных исследованиях, следовании инструкциям и работе с инструментами. В карточке указана архитектура Mixture-of-Experts и размер 35 млрд параметров; модель распространяется в формате Safetensors и поддерживает диалог и интерфейс вызова инструментов. Для запуска подходят Transformers, vLLM и SGLang. Модель предназначена для разбиения сложных запросов на шаги, планирования, использования внешних инструментов и адаптации по промежуточным результатам. Разработчики сообщают о трёхэтапном обучении: широкая supervised fine-tuning, обучение доменных моделей-учителей и многодоменная дистилляция с учётом различий между задачами. В карточке приведены сильные результаты на агентных, научных и инструкционных бенчмарках; они отражают оценку авторов и зависят от сценария и настроек. Веса опубликованы по лицензии Apache-2.0. Карточка не сообщает поддерживаемые естественные языки или длину контекста; описание стандартного варианта упоминает контекст 262K, но подробности конфигурации приведены не полностью. Тег метаданных указывает на генерацию текста; изображение упоминается среди тегов VLM, однако README не описывает визуальный ввод для этой конкретной модели.

Arabic-KW-Mdel — модель эмбеддингов предложений на базе BERT, опубликованная пользователем medmediani. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель имеет 162,4 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена с функцией потерь CosineSimilarityLoss и распространяется в формате PyTorch для использования с Sentence-Transformers или Transformers. В карточке не приведены сведения о лицензии и конкретных языках обучения, поэтому нельзя подтвердить заявленную ориентацию на арабский язык по одному названию репозитория.

booster-team/autotrain-l21an-6mkt7 — это дообученный с помощью AutoTrain энкодер предложений на архитектуре BERT, основанный на sentence-transformers/all-MiniLM-L6-v2. Модель содержит 25,9 млн параметров, принимает текст и формирует плотные векторные представления предложений для оценки семантического сходства. Контекст ограничен 512 токенами. Модель предназначена для сравнения смысловой близости текстов и извлечения эмбеддингов, которые можно использовать в поиске, группировке и других задачах работы с предложениями. В карточке приведена метрика loss 0,676 на валидации, но нет описания набора данных или протокола оценки, поэтому по ней нельзя судить о качестве в конкретном сценарии. Использование предполагает библиотеку Sentence Transformers; лицензия в предоставленных данных не указана.

Shobhank-iiitdwd/BERT-BU-nli-sts-sent — англоязычная модель эмбеддингов на основе BERT, дообученная на задачах распознавания логических отношений между предложениями (NLI) и оценки семантического сходства (STS). Она кодирует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 136,7 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Для использования доступны веса PyTorch; README приводит результат 84,61% на STS (en). Модель основана на bert-base-uncased и предназначена для англоязычных задач поиска и анализа сходства предложений. Для получения эмбеддингов без Sentence-Transformers нужно самостоятельно применить подходящую операцию pooling к контекстным представлениям токенов. Лицензия в предоставленных данных не указана.

BEE-spoke-data/bert-plus-L8-v1.0-allNLI_matryoshka — модель семейства BERT, разработанная BEE-spoke-data для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства, кластеризации и связанных задач с текстовыми эмбеддингами. Модель дообучена на датасете allNLI с функцией потерь MatryoshkaLoss и поддерживает вложенные размерности эмбеддингов 768, 512, 256, 128 и 64. Базовая модель поддерживает контекст до 4096 токенов, однако это дообучение проводилось на коротких примерах с контекстом 512 токенов. Модель рассчитана на английский язык и использует библиотеку Sentence-Transformers. Лицензия — Apache-2.0.

mostafamhmdi/bge-persian — модель Sentence Transformer, дообученная автором на базе BAAI/bge-m3 для сравнения семантической близости персидских предложений и абзацев. Она построена на XLM-RoBERTa с пулингом CLS-токена и нормализацией, выдаёт плотные векторы размерностью 1024 и сравнивает их косинусным сходством. Максимальная длина последовательности составляет 8192 токена, число параметров — около 658,7 млн. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Обучение описано на наборе из 10 963 пар предложений с оценками сходства и функцией CosineSimilarityLoss. Лицензия в предоставленных данных не указана.

comprehend_it-base — англоязычная модель Knowledgator на базе энкодера DeBERTaV3-base, обученная на наборах для вывода на естественном языке и классификации текста. Она предназначена прежде всего для классификации по заданным пользователем категориям в zero-shot режиме: можно передать текст и список меток, не дообучая модель на этих категориях. Также модель применяют для ранжирования результатов поиска и задач извлечения информации, включая распознавание именованных сущностей, извлечение отношений, связывание сущностей и ответы на вопросы. Модель использует архитектуру DeBERTa-v2 для классификации последовательностей, содержит 211,6 млн параметров и принимает контекст до 512 токенов. В карточке заявлено, что на нескольких наборах классификации она превосходила BART-large-mnli в zero-shot сценарии при почти втрое меньшем размере; также приведены результаты для нескольких наборов данных. Доступны веса PyTorch, библиотека Transformers и лицензия Apache-2.0. Модель рассчитана на английский язык. Как энкодер-классификатор, она выдаёт метки и оценки классов, а не генерирует свободный текст. Качество зависит от формулировок текста и кандидатов-меток; контекст ограничен 512 токенами, а README не приводит сравнительных результатов для всех заявленных задач извлечения информации.

DeCLUTR-small — компактная модель семейства RoBERTa от авторов работы DeCLUTR: Deep Contrastive Learning for Unsupervised Textual Representations. Она обучена для получения универсальных векторных представлений предложений и предназначена для работы как энкодер предложений, в том числе в экосистеме Sentence Transformers. Модель кодирует текст в эмбеддинги, которые можно сравнивать по косинусному сходству. Это подходит для поиска семантически близких предложений, сопоставления текстов и построения признаков для downstream-задач. В метаданных указаны 95,2 млн параметров, контекст до 514 токенов и поддержка английского языка; доступны веса PyTorch и Flax. Лицензия — Apache 2.0. Карточка позиционирует модель как универсальный энкодер предложений, но не приводит оценки качества для конкретных наборов данных. Результаты могут зависеть от домена и способа применения эмбеддингов; архитектура RoBERTa также ограничивает обработку входа заданной длиной контекста.

DeepSeek-OCR-2-GGUF — это квантованные варианты мультимодальной vision-language OCR-модели DeepSeek-OCR-2, разработанной командой DeepSeek AI и распространяемой в репозитории SandLogicTechnologies. Модель работает с изображениями и текстом, поддерживает многоязычные сценарии и ориентирована на распознавание текста, понимание структуры документов и извлечение структурированной информации. Модель предназначена для оцифровки сканов, обработки счетов, чеков, форм, таблиц, книг и отчетов, анализа сложных визуальных документов, выделения пар «ключ-значение», а также построения корпоративных OCR-конвейеров, систем поиска и индексации документов. Заявлены возможности анализа макета, взаимосвязей между абзацами, таблицами и формами, включая работу с рукописным и цифровым содержимым. Размер исходной модели составляет около 3 млрд параметров. Доступны GGUF-варианты IQ3_M, IQ4_NL и IQ4_XS для локального запуска через llama.cpp; их размер составляет примерно 1,35, 1,59 и 1,53 ГБ соответственно вместо 5,47 ГБ для 16-битной версии. Ключевое преимущество вариантов GGUF — сниженные требования к памяти и возможность локального развертывания на потребительском оборудовании и периферийных устройствах. IQ4_NL ориентирован на более высокую сохранность качества распознавания, IQ4_XS предлагает баланс между точностью, скоростью и потреблением памяти, а IQ3_M обеспечивает максимальную компактность, но может сильнее терять качество на плотных макетах, рукописном тексте и сложных документах. Для модели не указаны точное максимальное окно контекста, полный перечень поддерживаемых языков и количественные результаты бенчмарков. Лицензия — MIT.

mlx-community/embeddinggemma-300m-8bit — 8-битная версия модели EmbeddingGemma объёмом 302,8 млн параметров, преобразованная сообществом mlx-community в формат MLX из модели Google embeddinggemma-300m-qat-q8_0-unquantized. Модель использует текстовую архитектуру семейства Gemma 3 и предназначена для создания нормализованных векторных представлений текстов. Модель подходит для оценки семантического сходства предложений, поиска похожих текстов, семантического поиска, кластеризации, классификации и построения систем retrieval и reranking. README показывает использование через библиотеку mlx-embeddings и поддерживает task-specific prefixes для разных сценариев работы с эмбеддингами. Максимальная длина контекста составляет 2048 токенов, а квантование до 8 бит уменьшает требования к памяти при работе на устройствах Apple с MLX. Для доступа на Hugging Face требуется принять лицензию Google Gemma. Качество результатов зависит от выбранного task prefix, длины входного текста и предметной области; контекст ограничен 2048 токенами.

GLiNER-relex-large-v1.0 — модель семейства GLiNER для совместного извлечения именованных сущностей и отношений из текста. Она построена на архитектуре GLiNER с единым энкодером: модель находит фрагменты сущностей, формирует возможные пары сущностей и классифицирует отношения между ними с помощью графовых свёрточных слоёв. Размер модели и языки в предоставленных данных не приведены. Модель рассчитана на zero-shot извлечение: при каждом запросе можно задавать собственные типы сущностей и отношений, в том числе текстовые описания меток, чтобы уточнить их смысл. Она выполняет обе задачи за один проход, поддерживает извлечение сущностей без отношений, пакетную обработку и экспорт в ONNX. Подходит для построения графов знаний, анализа документов, автоматической разметки корпусов и подготовки структурированных данных для систем вопросов и ответов. Для использования требуется библиотека GLiNER. Модель распространяется по лицензии Apache-2.0. README рекомендует настраивать пороги отдельно для сущностей, смежности и отношений; качество зависит от выбранных схем и порогов. Эксплуатационные ограничения и перечень поддерживаемых языков в предоставленных данных не описаны.

vivekkopthsd/hinglish-st-33m — модель Sentence Transformers на архитектуре BERT, обученная создавать плотные текстовые эмбеддинги размерностью 384. Она кодирует предложения и абзацы для сравнения семантической близости с помощью косинусного сходства; README также указывает сценарии семантического поиска, поиска перефразирований, классификации и кластеризации. Обучение проводилось на 4 000 примерах с anchor, positive и negative, используя MultipleNegativesRankingLoss. Модель принимает текст. README сообщает максимальную длину последовательности 192 токена, тогда как метаданные указывают родной контекст длиной 512 токенов. Лицензия и конкретные языки в доступных данных не описаны; название модели указывает на Hinglish, но этого недостаточно, чтобы установить языковую поддержку. Карточка не сообщает результаты бенчмарков, поэтому качество для конкретных сценариев следует оценивать на собственных данных.

jina-embeddings-v5-omni-small-text-matching-GGUF — мультимодальная embedding-модель, разработанная Jina AI. Это GGUF-квантованный вариант jina-embeddings-v5-omni-small-text-matching для llama.cpp, предназначенный для задач text matching и семантического поиска. Модель принимает текст, изображения, видео и аудио и преобразует их в 1024-мерные векторы общего пространства, благодаря чему индекс можно создавать по тексту, а выполнять поиск — с использованием любой поддерживаемой модальности без переиндексации. Модель содержит около 1,56 млрд параметров в текстовой, визуальной и аудиобашнях, использует pooling по последнему токену и поддерживает контекст до 32768 токенов. Доступны Matryoshka-размерности от 32 до 1024 измерений. Текстовая часть имеет F16 и 13 уровней int-квантизации с калибровкой imatrix, а мультимодальные проекторы поставляются в F16. Поддерживаются распространённые форматы изображений, видео и аудио, а также PDF. Сильные стороны модели — единое векторное пространство для разных модальностей, возможность мультимодального поиска и компактные GGUF-варианты для llama.cpp. Ограничение состоит в том, что для мультимодального запуска требуется специальная ветка llama.cpp с патчами Jina AI, ещё не включёнными в upstream-версию. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

unsloth/LFM2-1.2B — компактная версия семейства LFM2, разработанного Liquid AI и опубликованная Unsloth. Это плотная гибридная языковая модель примерно с 1,2 млрд параметров: 10 блоков коротких свёрток LIV и 6 блоков внимания GQA. Она рассчитана на запуск на периферийных устройствах и подходит для приложений на смартфонах, ноутбуках и других устройствах с CPU, GPU или NPU. Контекст — до 32 768 токенов. Модель предназначена для диалогов, вызова инструментов, извлечения данных, RAG, творческого письма и других узких сценариев; авторы рекомендуют дообучать её под конкретную задачу. В README заявлены ускоренные обучение и генерация, а также результаты сравнительных тестов для моделей сопоставимого размера. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Для знаний, требующих глубокой предметной подготовки, и задач программирования авторы её не рекомендуют. Репозиторий содержит веса safetensors и основан на LiquidAI/LFM2-1.2B; лицензия указана как other, поэтому её условия следует проверить на странице модели.

Карточка модели avsolatorio/MixEmbed-base-20240110021715-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.