I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельMiniCPM-V 4.0 — мультимодальная языковая модель OpenBMB для диалога и анализа изображений, нескольких изображений и видео. В карточке указаны 3,2 млрд параметров, контекст 32 768 токенов, архитектура MiniCPMV и библиотека Transformers; README описывает основу из SigLIP2-400M и MiniCPM4-3B, но приводит другой общий размер — 4,1 млрд параметров. Модель предназначена для распознавания содержимого изображений и видео, визуальных вопросов и ответов, чтения текста и документов на изображениях, а также понимания нескольких изображений. README подчёркивает эффективность для запуска на мобильных устройствах; поддерживаются локальное использование и интеграция с несколькими средами инференса. Метаданные указывают мультиязычность, но конкретные языки не перечислены. Лицензия — Apache 2.0. Ограничения: ответы могут содержать ошибки, а сама модель не выражает личных мнений и не выполняет ценностные суждения; заявленные в README результаты основаны на оценках авторов.
Карточка модели NostraEmpire/mirror-deepseek-r1-distill-qwen-7b на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
MyAwesomeModel — модель для извлечения признаков из текста, опубликованная в репозитории xcxvvvb55/MyAwesomeModel-TestRepo. В метаданных Hugging Face она отмечена как BERT-модель на базе PyTorch и библиотеки Transformers с pipeline-задачей feature-extraction, то есть предназначена для преобразования текстовых входов в числовые представления, пригодные для последующей обработки.
chandc/my-embedding-gemma — текстовая Sentence Transformer-модель, дообученная на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и извлечения релевантных текстов. Модель использует косинусное сходство и принимает последовательности длиной до 2048 токенов. Для дообучения указаны три примера с парами запросов и релевантных и нерелевантных текстов; применялась функция потерь MultipleNegativesRankingLoss. Примеры относятся к финансовым и страховым вопросам, но их мало, поэтому они не подтверждают надёжную специализацию или качество в этих областях. Модель работает только с текстом; лицензия в предоставленных данных не указана.
NaviDC-OCR GGUF — набор GGUF-квантизаций мультимодальной модели NaviDC-OCR, разработанной StarDoc-AI и преобразованной в GGUF проектом Pluto AI при участии автора с идентификатором @konradjr007. Модель предназначена для локального разбора цифровых и сфотографированных документов с использованием llama.cpp и поддерживает обработку изображений вместе с текстовыми запросами. Основные сценарии применения включают OCR документов, извлечение заголовков и основного текста, распознавание формул с представлением в LaTeX, транскрибацию таблиц в Markdown и структурированный разбор сложных страниц с многоколоночной компоновкой. В карточке указаны английский и китайский языки, а также связь с архитектурой Qwen2.5-VL. Доступны варианты квантизации от Q3_K_M до Q8_0 и версия FP16; размеры языковых квантов составляют примерно от 394,8 МБ до 1,50 ГБ. Для работы с изображениями требуется отдельный мультимодальный проектор mmproj-NaviDC-OCR-F16.gguf размером 1,33 ГБ. Сильными сторонами являются локальный запуск, высокая скорость инференса и сохранение структуры документов, включая формулы и таблицы. В приведённом тесте на одной сложной технической странице варианты Q4_K_M, Q5_K_M и Q8_0 распознали 8 из 8 элементов, при этом Q4_K_M показал наибольшую скорость генерации. Результаты зависят от квантизации, оборудования и типа документа; для Q3_K_M отмечено ухудшение качества, а приведённые показатели не характеризуют работу на широком наборе данных. Лицензия — Apache-2.0.
Nemotron-3-Embed-8B-Community-NVFP4 — мультиязычная модель для получения текстовых эмбеддингов, разработанная и опубликованная shadowrock-io на основе nvidia/Nemotron-3-Embed-8B-BF16. Это квантизированная версия базовой модели в формате NVFP4/FP4 с 4-битным представлением, предназначенная для задач семантического поиска, dense retrieval, vector search, feature extraction и построения RAG-систем. Модель ориентирована на использование с vLLM и поддерживает формат Safetensors. Модель работает с текстом и предназначена для сопоставления смысловой близости запросов и документов. В README заявлена поддержка английского, русского, китайского, арабского, немецкого, французского, испанского, японского, корейского, украинского и других языков; полный перечень включает 30 языков. Указана поддержка подхода Matryoshka, однако размерность эмбеддингов и максимальная длина контекста не приведены. К сильным сторонам относятся снижение требований к памяти и вычислительным ресурсам благодаря NVFP4-квантизации, мультиязычность и ориентация на retrieval-сценарии. В предоставленных результатах MTEB модель показывает высокие значения NDCG@10 на отдельных наборах, включая HumanEvalRetrieval — 1,0, WikiSQLRetrieval — 0,99459 и MBPPRetrieval — 0,95722, однако качество зависит от предметной области. Ограничения включают отсутствие подробностей об архитектуре, размере контекста и официальных характеристиках производительности, а также то, что в README инференс помечен как неподтверждённый. Модель распространяется по лицензии openmdw-1.1, обозначенной в карточке как other.
GooseReason-4B-Instruct — плотная языковая модель NVIDIA на архитектуре Qwen3 с 3,7 млрд параметров, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 методом обучения с подкреплением по проверяемым наградам (RLVR). Для обучения использован набор GooseReason-0.7M с задачами по математике, программированию и естественным наукам; модель предназначена для исследовательских и разработческих сценариев рассуждения и следования инструкциям. Модель принимает текст и генерирует текст. Она подходит для решения математических задач, написания и анализа кода, ответов на вопросы по STEM-дисциплинам, логических головоломок и выполнения инструкций. Заявленная длина контекста — до 262 144 токенов; в метаданных указан английский язык. README сообщает о сравнительных результатах на 15 тестах, охватывающих математику, программирование, STEM, следование инструкциям и логические задачи. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Авторы позиционируют её для исследований и разработки; опубликованные результаты бенчмарков сами по себе не гарантируют качество на произвольных запросах.
Qianfan-OCR — мультимодальная модель для анализа документов, разработанная командой Baidu Qianfan. Модель объединяет распознавание текста, анализ структуры и понимание содержимого документа в единой архитектуре vision-language и преобразует изображения документов, например, в Markdown или структурированный вывод JSON и HTML. Модель содержит 4 млрд параметров и состоит из визуального энкодера Qianfan-ViT, языковой модели Qwen3-4B и межмодального адаптера. Она поддерживает изображения с разрешением до 4K, контекст языковой модели — 32 тыс. токенов с возможностью расширения до 131 тыс. README заявляет поддержку 192 языков. Среди сценариев — извлечение таблиц и ключевых сведений, анализ макета и порядка чтения, ответы на вопросы по документам и понимание диаграмм. Режим Layout-as-Thought позволяет сначала построить структурное представление страницы, что полезно для сложных макетов. Модель предназначена для распознавания и анализа документов, а не для универсальной генерации текста. Качество может зависеть от сложности макета и типа документа; заявленные результаты бенчмарков приведены в README и сами по себе не гарантируют качество на конкретных данных. Репозиторий распространяется по лицензии Apache-2.0.
Карточка модели ansulev/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.
Это модель Sentence Transformers на базе Qwen3-Embedding-0.6B, дообученная для получения плотных текстовых эмбеддингов. Она преобразует предложения и абзацы в векторы размерности 1024; сходство между ними можно оценивать косинусной мерой. Архитектура включает Qwen3Model, пулинг по последнему токену и нормализацию векторов. Модель предназначена для поиска релевантных фрагментов по запросу, семантического поиска и retrieval-сценариев. В README приведены результаты проверки на двух наборах данных для информационного поиска; обучающая выборка описана как набор из 58 примеров с позитивными и негативными парами. Метаданные указывают контекст до 32768 токенов, тогда как README заявляет максимальную длину последовательности 1024 токена; для практического использования следует учитывать ограничение README. Поддерживается текстовый ввод, на выходе — векторы. Сведения о лицензии в предоставленных материалах отсутствуют.
Карточка модели ArchiveStudio/Qwen3-Reranker-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-0.6B, поэтому описание составлено по ней. Qwen3-Reranker-0.6B — компактная модель переранжирования текста из серии Qwen3 Embedding, разработанная Qwen. Она оценивает соответствие пары «запрос — фрагмент» и помогает упорядочить найденные документы или другие текстовые кандидаты по релевантности. Модель содержит 507,6 млн параметров, построена на плотной архитектуре Qwen3 и принимает последовательности контекстом до 40 960 токенов по метаданным; README указывает длину 32K. Для запуска доступны веса Safetensors и интеграция с Transformers и Sentence Transformers. Модель предназначена для улучшения поиска по текстам и коду, в том числе многоязычного и межъязыкового поиска. README заявляет поддержку более 100 языков, понимание длинных текстов и настройку инструкции под сценарий; для поисковых задач приводится стандартная инструкция для запросов веб-поиска. Метаданные указывают дообучение от Qwen/Qwen3-0.6B-Base и лицензию Apache-2.0. Оценки в README получены на кандидатах из первой сотни, предварительно найденных эмбеддинг-моделью Qwen3-Embedding-0.6B, поэтому их нельзя напрямую считать качеством самостоятельного поиска. README также предупреждает, что без инструкции на стороне запроса качество в большинстве рассмотренных сценариев может снизиться примерно на 1–5%.
michaelfeil/Qwen3-Reranker-8B-seq — дообученная модель семейства Qwen3 для ранжирования текстовых пар: она оценивает релевантность документа запросу и помогает переставить найденные результаты в более полезном порядке. По карточке это reranker с 8 млрд параметров, поддержкой более 100 языков и обработкой длинных текстов; в метаданных указаны архитектура Qwen3ForSequenceClassification, контекст до 40 960 токенов и формат safetensors. Модель подходит для поиска по текстам и коду, многоязычного и межъязыкового поиска, а также для классификации текста. Можно задавать инструкции под сценарий; авторы отмечают, что инструкции обычно улучшают результаты на 1–5%. README указывает длину контекста 32K, тогда как метаданные каталога — 40 960 токенов. Модель основана на Qwen/Qwen3-8B-Base и распространяется по лицензии Apache-2.0.
Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.
Карточка модели abdebug2003/qwen3-vl-embedding-endpoint на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-Embedding-8B, поэтому описание составлено по ней. Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.
sergeyzh/rubert-large-uncased-query — компактная BERT-модель автора sergeyzh для симметричного сравнения поисковых запросов на русском и английском языках. Она создаёт эмбеддинги размерности 1024 и предназначена для поиска семантически близких запросов, в том числе для кэширования и фильтрации обращений к LLM и сценариев Q2Q RAG. Модель получена дистилляцией эмбеддингов с учётом префикса Qwen/Qwen3-Embedding-8B и дообучена на основе sergeyzh/rubert-large-uncased-sts. В архитектуре BERT 12 слоёв, максимальная длина контекста — 512 токенов; префиксы при использовании не требуются. Вариант uncased не различает верхний и нижний регистр. По оценке на датасете ai-forever/rubq-retrieval сходство с ответами Qwen/Qwen3-Embedding-8B составляет Pearson r 0,850 и Spearman ρ 0,800. Модель принимает текст и выдаёт векторные представления для сравнения семантической близости. Репозиторий содержит веса safetensors; лицензия — MIT. Результаты метрик приведены для русского языка, поэтому качество на иных данных и задачах может отличаться.
LazarusNLP/all-indo-e5-small-v2 — модель встраиваний предложений на базе BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель использует библиотеку Sentence-Transformers, содержит 124,3 млн параметров и принимает текст с контекстом до 512 токенов. Модель обучена с функцией MultipleNegativesRankingLoss и косинусным сходством. По тегам карточки она ориентирована на индонезийский язык; данные для обучения и оценки включают индонезийские наборы задач поиска, понимания и сопоставления текста. Для использования требуется корректное pooling-преобразование контекстных представлений, если модель запускается через Transformers без Sentence-Transformers. Лицензия в предоставленных данных не указана.
lightonai/answerai-colbert-small-v1 — модель ColBERT в формате PyLate, основанная на answerdotai/answerai-colbert-small-v1 и подготовленная для работы с библиотекой PyLate. Это компактная BERT-модель примерно с 40 млн параметров: она кодирует запросы и документы в последовательности 96-мерных векторов и оценивает их сходство оператором MaxSim. Для запросов предусмотрено до 32 токенов, для документов — около 300; максимальный контекст по метаданным составляет 512 токенов. Модель предназначена для семантического поиска по коллекциям текстов и переранжирования результатов, в том числе в RAG-системах. Её можно использовать для получения векторных представлений запросов и документов, поиска релевантных фрагментов и вычисления оценок сходства. Карточка указывает английский базовый ретривер; поддержка других языков не заявлена. Репозиторий распространяется в формате safetensors. Лицензия в предоставленных данных не указана.
Это кросс-энкодерный реранкер семейства BGE, опубликованный пользователем onzi-suba и основанный на BAAI/bge-reranker-base. Модель оценивает релевантность пары «запрос — документ» и помогает упорядочить результаты поиска; она предназначена, в частности, для повышения качества поиска в RAG-системах. В метаданных указаны архитектура XLM-RoBERTa для классификации последовательностей, около 305,2 млн параметров и контекст до 514 токенов. Исходная модель BGE Reranker Base рассчитана на английский и китайский языки; она выдаёт оценку релевантности вместо эмбеддинга. Поиск и метаданные не подтверждают отдельную лицензию или условия использования именно этой копии.
akarum/cloudy-large-zh — модель семейства BERT для получения векторных представлений текста и оценки сходства между предложениями. По карточке, она ориентирована на китайский язык, выдаёт эмбеддинги размерностью 1024 и поддерживает последовательности длиной до 1024 токенов; инструкции для поисковых запросов не требуются. Модель содержит 424,3 млн параметров и опубликована в формате safetensors. Модель подходит для семантического поиска, сопоставления запросов с документами и поиска похожих предложений на китайском языке. В метаданных Hugging Face основной задачей указан sentence-similarity, а каталог также отмечает feature-extraction. Сведений о лицензии и конкретных ограничениях применения в предоставленных материалах нет.
Карточка модели Ishowbackup/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
Карточка модели BrushStone/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
Карточка модели Openintelligent123/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
Карточка модели OppokJr/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
Карточка модели Openintelligent123/DeepSeek-R1-Distill-Qwen-32B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
EraX-VL-7B-V2.0-Preview-i1-GGUF — мультимодальная vision-language модель на 7 млрд параметров, разработанная erax-ai и преобразованная в формат GGUF пользователем mradermacher. Модель предназначена для обработки изображений и текста и поддерживает вьетнамский, английский и китайский языки. Основные сценарии применения включают OCR, визуальные вопросы и ответы, анализ документов, работу со страховыми материалами, рукописным и древним текстом, радиологическими изображениями и фотографиями автомобильных аварий. Модель может использоваться для генерации текстовых ответов на основе визуального содержимого, однако для работы с изображениями требуются соответствующие mmproj-файлы из статического репозитория. Публикация содержит несколько вариантов квантования GGUF размером примерно от 2,0 до 6,4 ГБ. В README отмечается, что варианты с более высоким качеством квантования обычно обеспечивают лучшее качество, а i1-Q4_K_M рекомендуется как быстрый компромисс между размером, скоростью и качеством. Ограничения включают возможное снижение качества у компактных вариантов квантования; сведения о размере контекста, точных архитектурных компонентах и результатах бенчмарков не приведены. Модель распространяется по лицензии Apache-2.0.
granite-embedding-278m-multilingual-GGUF — квантованная в формате GGUF версия мультиязычной модели эмбеддингов ibm-granite/granite-embedding-278m-multilingual, разработанной IBM и подготовленной пользователем bartowski. Модель предназначена для преобразования текста в векторные представления и может использоваться в семантическом поиске, системах Retrieval и других задачах сопоставления текстов между собой. Заявлены языки английский, арабский, чешский, немецкий, испанский, французский, итальянский, японский, корейский, нидерландский, португальский и китайский. Размер базовой модели составляет 278 млн параметров. Формат GGUF ориентирован на локальный запуск с совместимыми инструментами инференса, однако конкретный тип квантования, размер контекста, архитектура и поддерживаемые модальности в предоставленных данных не указаны. Сильной стороной модели является мультиязычная направленность и пригодность для задач поиска; в README приведены результаты Retrieval на наборе Miracl для нескольких языков. Показатели зависят от языка и сценария использования, поэтому перед внедрением модель следует проверить на собственных данных. Ограничения, связанные с качеством эмбеддингов, контекстом и производительностью, нельзя оценить полнее без дополнительных сведений. Модель распространяется по лицензии Apache-2.0.
Это конверсия в формат GGUF F16 модели granite-embedding-reranker-english-r2 от IBM Granite. Модель предназначена для оценки релевантности пар «запрос — текст» и повторного ранжирования результатов поиска в инструментах и средах, поддерживающих её архитектуру и режим оценки. Это не генеративная чат-модель. Модель ориентирована на английский язык и основана на архитектуре ModernBERT согласно описанию базовой модели в каталоге. Репозиторий содержит веса GGUF в точности F16 без дополнительной квантизации. Использование формата зависит от поддержки encoder- и reranker-моделей, а также нужного механизма pooling или scoring в целевой среде. Лицензия — Apache-2.0.
Granite Vision 3.3 2B — компактная мультимодальная модель IBM для понимания изображений, особенно документов. Она предназначена для извлечения и структурирования сведений из таблиц, графиков, инфографики, диаграмм и других визуальных материалов, а также для ответов на вопросы по изображениям. Модель построена на архитектуре LLaVA: использует визуальный энкодер SigLIP2, двухслойный MLP-коннектор и языковую модель Granite 3.1 2B Instruct с контекстом 128 тыс. токенов. В карточке описаны экспериментальные возможности сегментации изображений, генерации doctags и анализа последовательностей до восьми страниц документа. Для многостраничной обработки рекомендуется уменьшать длинную сторону изображения до 768 пикселей. Модель подходит для извлечения данных из документов и визуального поиска с использованием MM-RAG. Возможны неточные, предвзятые или нежелательные ответы; авторы рекомендуют применять её прежде всего для понимания документов, поскольку более общие задачи по изображениям могут давать нежелательные результаты. Лицензия — Apache-2.0.
gte-en-mlm-base — англоязычный текстовый энкодер GTE-v1.5, разработанный Institute for Intelligent Computing группы Alibaba. Модель основана на энкодере Transformer++: BERT с RoPE и GLU; для токенизации используется словарь bert-base-uncased. Веса содержат 136,7 млн параметров, максимальная длина входа — 8192 токена. Модель обучена на английской части C4 методом masked language modeling и предназначена для кодирования текста. Она входит в серию обобщённых энкодеров GTE для представления текста и задач поиска и ранжирования; в опубликованной таблице для этой версии приведён результат GLUE 85,61. Репозиторий предоставляет веса в формате safetensors. Лицензия — Apache 2.0.
GTE-small-zh — компактная модель текстовых эмбеддингов семейства General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT. Она обучена на больших наборах пар текстов с оценками релевантности и предназначена для получения векторных представлений китайских текстов. Модель подходит для семантического поиска, сравнения сходства предложений, извлечения информации и ранжирования текстов. Размер модели составляет около 36 млн параметров, размерность эмбеддингов — 512, максимальная длина последовательности — 512 токенов. Веса доступны в форматах PyTorch и safetensors. Модель рассчитана исключительно на китайские тексты; более длинные входы обрезаются до 512 токенов. Лицензия — MIT.