I.2Синтез, понимание и проверка знаний

Vela Reranker — дообученный мультиязычный энкодер семейства ModernBERT от vLLM Semantic Router. Модель оценивает релевантность пассажей для поиска, RAG и отбора контекста. Она насчитывает 306,9 млн параметров, принимает пары запросов и текстовых фрагментов и поддерживает контекст до 32 768 токенов. В опубликованных сравнениях Vela превосходит исходный mmBERT Reranker на MIRACL, Natural Questions и SciFact, а также на двух из трёх приведённых инструкционных задач MTEB. Результаты относятся только к указанным задачам и наборам разработки; авторы не заявляют полный балл или рейтинг MTEB. Модель доступна в форматах Safetensors и ONNX под лицензией Apache-2.0.

Это компактная модель Sentence Transformers, дообученная автором swardiantara на базе google/bert_uncased_L-2_H-128_A-2 для получения векторных представлений предложений и абзацев. Архитектура включает двухслойный BERT с mean pooling; модель кодирует текст в плотные векторы размерностью 128, а сходство между ними можно оценивать косинусной мерой. В метаданных указаны 4,4 млн параметров и контекст до 512 токенов, тогда как карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для поиска и сопоставления текстов по смыслу, включая retrieval. Обучение описано на 111 102 парах текстов с оценками сходства и различия; примеры и базовая модель указывают на английский язык. Она компактна и рассчитана на создание эмбеддингов, но карточка не приводит сравнительных оценок качества; практический лимит входа в указанной конфигурации — 128 токенов. Лицензия в предоставленных данных не указана.

CompendiumLabs/bge-large-en-v1.5-gguf — набор квантованных и неквантованных embedding-моделей в формате GGUF, созданный Compendium Labs на основе исходной модели BAAI/bge-large-en-v1.5. Модель предназначена для преобразования текстов в векторные представления, которые можно использовать для семантического поиска, сравнения текстов, кластеризации и других задач, основанных на эмбеддингах. Модель рассчитана на запуск через llama.cpp, llama-cpp-python и интеграцию с LangChain. Доступны варианты F32 размером 1,3 ГБ, F16 размером 639 МБ, Q8_0 размером 342 МБ и Q4_K_M размером 199 МБ. Квантованные версии могут ускорить работу на CPU примерно до 30% при минимальной потере точности; выигрыш на GPU обычно скромнее и зависит от приложения. README не указывает архитектуру, размерность эмбеддингов, максимальную длину контекста и перечень поддерживаемых языков. Сильные стороны модели — поддержка эффективного выполнения на CPU, несколько вариантов точности и совместимость с популярными инструментами экосистемы llama.cpp. Ограничения связаны с тем, что это embedding-модель, а не генеративная языковая модель, а влияние квантования на качество зависит от выбранного формата и сценария. Модель распространяется по лицензии MIT.

Это версия ColBERTv2, подготовленная для совместимости с библиотекой PyLate; исходную модель разработали авторы ColBERTv2, а право на публикацию этой версии предоставил Омар Хаттаб. Модель использует архитектуру BERT и представляет запросы и документы как последовательности плотных 128-мерных векторов. Сходство оценивается оператором MaxSim; модель подходит для многовекторного поиска и ранжирования текстовых фрагментов, а также семантического сравнения предложений. Модель принимает текст, работает с последовательностями длиной до 512 токенов и ориентирована на английский язык. Её можно применять как retriever с поздним взаимодействием в Sentence Transformers или PyLate. Чекпойнт содержит 136,7 млн параметров и распространяется в формате safetensors. Лицензия — MIT.

Это дообученный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2, созданный автором репозитория opnsrcntrbtrian. Модель кодирует предложения и абзацы в плотные семантические векторы размерности 384 для поиска по смыслу и извлечения релевантных текстов. Архитектура включает энкодер BERT, mean pooling и нормализацию векторов; используется косинусное сходство. Модель принимает только текст. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст 512 токенов; поэтому фактический предел следует сверять с используемой конфигурацией. Для поиска её можно применять вместе с индексом векторного поиска и сравнивать векторы запросов и документов. Данных о лицензии в предоставленных источниках нет.

E5-large-trm — сжатая версия многоязычной модели intfloat/multilingual-e5-large, подготовленная с помощью vocabtrimmer; сведения об авторе в карточке не приведены. Модель создаёт текстовые эмбеддинги для семантического поиска, сравнения предложений и ранжирования. В README описан пример кодирования запросов и документов для MS MARCO. Архитектура — XLM-RoBERTa; модель содержит около 453,9 млн параметров, использует Sentence Transformers и сохраняется в формате safetensors. Контекст — до 514 токенов. Словарь сокращён с 250 002 до 50 002 токенов на данных нидерландского раздела C4, а размер матрицы эмбеддингов — с 256 млн до 51,2 млн параметров. Это делает модель ориентированной прежде всего на нидерландский язык; карточка также указывает связь с многоязычной базовой моделью E5. Лицензия — MIT. Представленные данные не уточняют, насколько качество сохраняется для других языков после обрезки словаря.

knowledgator/gliclass-instruct-base-v1.0 — компактная плотная модель семейства GLiClass от Knowledgator для классификации текста по заданным меткам. Она поддерживает zero-shot и few-shot сценарии: метки можно задавать под конкретную задачу, добавлять к ним описания и примеры, группировать и направлять классификацию инструкцией. Модель рассчитана на тематическую и тональную классификацию, определение намерений, проверку следования правилам и безопасности, выявление галлюцинаций, вывод по естественному языку и оценку релевантности текстов. Модель принимает текст и возвращает оценки классов. В README отмечено, что для вывода по естественному языку лучше проверять по одной гипотезе за раз. Приведённые в карточке результаты показывают качество на отдельных наборах для классификации тональности и тем, но сами по себе не гарантируют точность на пользовательских данных. Модель распространяется по лицензии Apache-2.0.

GLiNER2.5 Small — компактная модель извлечения информации от Fastino, построенная на архитектуре GLiNER2 boundary с энкодером DeBERTa-v3-xsmall. Веса содержат 74 млн параметров и доступны в формате safetensors; модель рассчитана на английский язык и поддерживает локальный запуск на CPU, CUDA и MPS. Модель принимает текст и по заданной схеме извлекает сущности, классифицирует текст, находит связи и атрибуты сущностей, а также формирует структурированные записи. Разреженное сопоставление начальных и конечных границ позволяет находить фрагменты произвольной длины в пределах одного окна кодирования; указанный в README предел max_len — 4096 токенов. Модель подходит для быстрой обработки на CPU и периферийных устройствах. Для длинных документов предусмотрена обработка перекрывающимися фрагментами, однако сущность или связь не извлекается, если её границы или связанные сущности не попали в один фрагмент. Обычное извлечение с max_len обрезает текст. Лицензия — Apache-2.0.

ArthurZ/Ilama-3.2-1B — модель для извлечения признаков из текста, опубликованная на Hugging Face и предназначенная для использования с библиотекой Transformers. Модель имеет около 1,2 млрд параметров и поддерживает контекст длиной до 131 072 токенов. Основной сценарий применения — преобразование текстовых последовательностей в векторные представления для последующего семантического поиска, кластеризации, сравнения текстов, классификации и построения систем RAG. В метаданных модель также отмечена как совместимая с text-embeddings-inference и использующая формат Safetensors. В README отсутствуют сведения о разработчике, лицензии, языках, архитектурных деталях, обучающих данных, результатах оценки и конкретных ограничениях качества. Поэтому пригодность модели для определённых языков и прикладных областей следует проверять самостоятельно перед использованием.

InternVL3-38B — мультимодальная модель OpenGVLab для диалога и анализа изображений вместе с текстом. Она построена по схеме ViT-MLP-LLM: визуальная часть InternViT соединена с языковой моделью через MLP-проектор; стратегия динамического разрешения разбивает изображения на фрагменты 448×448, а V2PE улучшает работу с длинными последовательностями визуальных токенов. Размер модели — 38 млрд параметров. Модель предназначена для ответов на вопросы по изображениям, визуального рассуждения, понимания нескольких изображений и видео, а также текстовых задач. В README семейство также описано как подходящее для работы с инструментами, GUI, промышленными изображениями и 3D-сценами. Метаданные указывают дообучение на базе OpenGVLab/InternVL3-38B-Instruct и поддержку чата; модель распространяется в формате safetensors через Transformers. Карточка сообщает о мультиязычной поддержке, но не перечисляет конкретные языки или длину контекста. Лицензия — Apache 2.0. Практическое ограничение: обработка нескольких изображений увеличивает число входных токенов и может требовать большего окна контекста.

LFM2.5-Embedding-350M-4bit — 4-битная MLX-сборка мультиязычной плотной двунаправленной модели-энкодера Liquid AI. Она преобразует запросы и документы в 1024-мерные векторы; косинусное сходство между ними подходит для семантического поиска и сопоставления предложений, включая поиск между языками. Модель предназначена для локального запуска на устройствах Apple Silicon с MLX. В репозитории веса переведены из формата PyTorch/safetensors в MLX и квантованы до 4 бит с аффинной схемой и размером группы 64. В README указано, что на наборе из восьми оценённых датасетов качество поиска сохранилось близким к bf16-версии: среднее удержание NDCG@10 составило 100%, Recall@10 — 98,6%. Оценка для мультиязычных наборов проводилась на сокращённых пулах документов, поэтому абсолютные результаты нельзя напрямую сравнивать с результатами на полных корпусах. Метаданные указывают 444,6 млн параметров и контекст до 128 000 токенов. Поддерживаемые языки включают английский, испанский, немецкий, французский, итальянский, португальский, арабский, шведский, норвежский, японский и корейский. Лицензия отмечена как other; конкретные условия следует сверить с карточкой базовой модели LiquidAI/LFM2.5-Embedding-350M.

Llama 3.2 90B Vision — мультимодальная модель Meta для анализа изображений и генерации ответов на текстовые запросы о них. Она построена на авторегрессионной архитектуре Transformer семейства Llama 3.1 и использует отдельно обученный адаптер зрения с cross-attention, который передаёт представления изображений в языковую модель. Размер модели — 90B параметров; она принимает текст и изображения и выдаёт текст, поддерживает контекст длиной до 128 тыс. токенов. Модель предназначена для визуального распознавания и рассуждений, описания изображений, ответов на вопросы по изображениям и диалогов с визуальным содержимым. Также в карточке указаны сценарии DocVQA, поиска соответствий между изображениями и текстом, а также визуального заземления языковых описаний на объекты или области изображения. Для приложений с изображениями и текстом официально поддерживается английский язык; в текстовых задачах поддерживаются также немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель выпущена Meta в сентябре 2024 года и доступна по лицензии Llama 3.2 Community License — специальному соглашению, условия которого следует учитывать при коммерческом и исследовательском применении. Это статическая модель, обученная на офлайн-данных; сведения о дате отсечения знаний — декабрь 2023 года.

mContriever — многоязычный плотный поисковый энкодер, разработанный исследователями Meta AI. Он предназначен для семантического и межъязыкового поиска: кодирует запросы и документы в векторы, которые можно сопоставлять по сходству. Модель основана на BERT, содержит около 205 млн параметров и принимает текст длиной до 512 токенов. Модель предварительно обучена контрастивным обучением без размеченных пар на корпусе CCNet на 29 языках. Она подходит для извлечения релевантных документов и фрагментов, в том числе когда запрос и найденный материал написаны на разных языках. Это энкодер для поиска, а не генеративная модель ответов; карточка Hugging Face не содержит описания лицензии, поэтому условия использования следует проверять в репозитории разработчика.

Nemotron-3-Embed-1B-BF16-MLX — конверсия мультиязычной модели эмбеддингов NVIDIA Nemotron-3-Embed-1B-BF16, созданная независимым сообществом для запуска на Apple Silicon через MLX. Модель использует архитектуру Ministral3 с двунаправленным вниманием и выдаёт усреднённые L2-нормализованные текстовые эмбеддинги. Размер исходной модели — 1,1 млрд параметров; веса сохранены в BF16 без квантизации, формат файлов — safetensors. В метаданных указан контекст до 262 144 токенов, однако в этой реализации README задаёт max_length 4096 и отмечает, что двунаправленное внимание с квадратичной сложностью ограничивает практическую длину последовательности. Модель предназначена для семантического поиска, сопоставления запросов с документами, извлечения релевантных фрагментов и построения RAG-систем. Поддерживает множество языков, включая русский и английский; для запросов и документов требуются префиксы `query: ` и `passage: ` либо соответствующий параметр `input_type`. README сообщает о близком совпадении эмбеддингов с исходной PyTorch-реализацией, но отдельно подчёркивает, что это не измерение качества поиска. На Apple Silicon скорость обработки длинных документов может быть невысокой. Лицензия — OpenMDW-1.1; конверсия не связана с NVIDIA и не одобрена компанией.

Nemotron-3-Embed-8B-BF16 — мультиязычная модель эмбеддингов текста, разработанная NVIDIA на основе Ministral-3-8B-Instruct-2512. Она преобразует текст в плотные векторы размерности 4096 для поиска по сходству, семантического поиска, межъязыкового поиска и систем RAG. Модель содержит около 8 млрд параметров; в README указаны архитектура Transformer с двунаправленным маскированием внимания и усреднением выходов токенов. Метаданные указывают семейство Ministral 3 и контекстное окно 262144 токена, тогда как README рекомендует ограничивать вход 32768 токенами и разбивать или обрезать более длинные тексты. Модель рассчитана на текстовые корпуса и многоязычные сценарии поиска, включая поиск вопросов и документов на разных языках. README сообщает об оценке на 34 языках и о результатах на мультиязычном бенчмарке RTEB; также поддерживается получение укороченных векторов с последующей L2-нормализацией. Для запуска примеров требуются совместимые версии Transformers, CUDA и PyTorch; заявлена оптимизация для систем с GPU NVIDIA. Указанная лицензия модели — OpenMDW-1.1; базовая модель выпущена под Apache 2.0.

TitanML/olmOCR-2-7B-1025-FP8 — квантованная в формате FP8 версия модели olmOCR-2-7B-1025, разработанной командой AllenAI и созданной на основе Qwen/Qwen2.5-VL-7B-Instruct. Модель дообучалась на наборе olmOCR-mix-1025 и дополнительно оптимизировалась с помощью GRPO reinforcement learning для работы с математическими формулами, таблицами и сложными случаями OCR. Она предназначена для распознавания содержимого документов, прежде всего PDF, включая текст, многостолбцовые страницы, колонтитулы, таблицы, диаграммы и мелкий текст. Заявленный язык — английский. Модель поддерживает обработку изображений документов и рассчитана на подачу одной страницы, отрендеренной так, чтобы её максимальный размер составлял 1288 пикселей. Для практического использования рекомендуется olmOCR toolkit, который автоматически рендерит и поворачивает страницы, повторяет неудачные попытки и предоставляет масштабируемый inference через vLLM для обработки больших объёмов документов. FP8-квантизация сохраняет сопоставимые с исходной моделью результаты olmOCR-bench и может снизить требования к ресурсам, однако README не приводит точные характеристики контекстного окна, аппаратные требования или полный перечень поддерживаемых языков. Модель распространяется по лицензии Apache 2.0 и предназначена для исследовательского и образовательного использования с учётом требований Responsible AI от Ai2.

Модель shahidha/paraphrase-multilingual-MiniLM-L12-v2 — дообученная модель эмбеддингов предложений на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, экспортированная в формат ONNX с квантизацией INT8. Она использует архитектуру MiniLM-L12 на базе BERT, содержит 124,3 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Для выполнения требуется ONNX Runtime; модель ориентирована на быстрый локальный запуск на мобильных и периферийных устройствах. Модель преобразует запросы и документы в плотные векторы для семантического поиска, поиска ответов, сопоставления FAQ, индексации векторных баз и retrieval-компонентов RAG-систем. В README указано дообучение на пользовательском наборе пар «запрос—ответ»; приведённые метрики Recall@1 96,39%, Recall@5 99,51% и MRR 97,69% относятся к тестовому набору авторов и не гарантируют такие же результаты на других данных. Карточка указывает поддержку многоязычной обработки, а метаданные содержат язык en. Лицензия — Apache-2.0. Модель выдаёт эмбеддинги и не генерирует текстовые ответы. Качество поиска зависит от близости данных применения к обучающей выборке и может различаться между предметными областями и языками.

Phi-4-reasoning — языковая модель Microsoft Research с открытыми весами, представленная в репозитории Unsloth. Это дообученная версия Phi-4: плотный декодерный Transformer с 14,1 млрд параметров, рассчитанный на генерацию текста и диалоговое взаимодействие. Модель дообучали на примерах рассуждений с помощью supervised fine-tuning и обучения с подкреплением. Модель предназначена для задач, где важны пошаговые рассуждения и компактное исполнение: решения математических задач, ответы на вопросы по естественным наукам, программирование и логические задачи. Основной язык применения — английский. Контекст составляет до 32 768 токенов; карточка описывает текстовую модель. Разработчик указывает, что модель ориентирована прежде всего на математические рассуждения и не проходила специальную оценку для всех возможных прикладных сценариев. Точность, безопасность и справедливость ответов следует проверять для конкретного применения, особенно в высокорисковых областях. Репозиторий распространяется по лицензии MIT.

coder3101/Qwen2.5-VL-7B-Instruct-heretic — мультимодальная инструкционная модель на 7,1 млрд параметров, созданная на основе Qwen/Qwen2.5-VL-7B-Instruct. Она принимает текст и изображения и формирует текстовые ответы; семейство Qwen2.5-VL также поддерживает работу с видео, включая анализ событий и временных отрезков. Архитектура модели — плотная Qwen2.5-VL с визуальным энкодером, формат весов — safetensors. Метаданные указывают контекст до 128 000 токенов; README базовой модели описывает настройку конфигурации до 32 768 токенов и YaRN для обработки более длинного текста. Модель подходит для вопросов по изображениям, чтения текста и таблиц в документах, разбора диаграмм и визуальной локализации объектов с выводом координат. Также её можно применять для анализа видео и формирования структурированных ответов. В README приведено сравнение с базовой моделью: частота отказов в указанной проверке снизилась со 100 из 100 до 5 из 100; это характеристика конкретного теста, а не гарантия поведения на всех запросах. Модель помечена как uncensored, поэтому может отвечать на запросы, от которых исходная модель отказывается. Лицензия — Apache-2.0.

unsloth/Qwen2-VL-2B-Instruct-bnb-4bit — мультимодальная instruction-tuned модель, основанная на Qwen/Qwen2-VL-2B-Instruct и опубликованная Unsloth. Она предназначена для обработки изображений, видео и текста, визуального вопросно-ответного взаимодействия, анализа документов и сцен, а также сценариев, где требуется принимать решения на основе визуальной информации и текстовых инструкций. Модель содержит 2 миллиарда параметров и распространяется в 4-битном формате bnb. Она поддерживает динамическое разрешение изображений, преобразуя изображения в переменное число визуальных токенов, и использует Multimodal Rotary Position Embedding (M-ROPE) для обработки текстовых, двумерных визуальных и трёхмерных видеопозиционных данных. Заявлена поддержка понимания видео длительностью более 20 минут и распознавания текста на английском, китайском, большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Сильные стороны модели — сочетание компактного размера, 4-битного квантования и мультимодальных возможностей, включая анализ изображений высокого разнообразия разрешений и пропорций, документов и видео. Ограничения, включая возможные потери качества из-за квантования и отсутствие в карточке подробных характеристик контекстного окна, производительности и требований к оборудованию, следует учитывать при выборе модели. Модель распространяется по лицензии Apache-2.0.

Qwen3-Embedding-0.6B-8bit — 8-битная версия модели для создания текстовых эмбеддингов, подготовленная mlx-community в формате MLX из Qwen/Qwen3-Embedding-0.6B. Это плотная модель семейства Qwen3 примерно с 508 млн параметров, предназначенная для извлечения признаков текста и семантического поиска. Она подходит для построения векторных представлений запросов и документов, поиска похожих текстов и систем RAG. Модель поддерживает контекст до 32 768 токенов и распространяется по лицензии Apache-2.0. Карточка указывает на преобразование в MLX, а метаданные связывают репозиторий с базовой моделью Qwen/Qwen3-Embedding-0.6B. Хотя каталог также помечает архитектуру тегом text-generation, основное пользовательское назначение — получение эмбеддингов, что соответствует pipeline_tag feature-extraction. В README не приведены дополнительные сведения о качестве или ограничениях; применимость зависит от языка и предметной области входных текстов.

Nicolassuez/Qwen3-Embedding-0.6B-W8A16-g128-resident — производная модель эмбеддингов на основе Qwen3-Embedding-0.6B от Qwen. Это плотная архитектура Qwen3 с 507,6 млн параметров, контекстом до 32 768 токенов и поддержкой многоязычных текстов. Модель предназначена для создания текстовых эмбеддингов и семантического поиска; для получения векторов README рекомендует pooling по последнему токену и L2-нормализацию. Веса линейных слоёв квантизованы методом int8 weight-only с группами размера 128, а таблица эмбеддингов также хранится в int8 с отдельным bf16-масштабом для каждой строки. Реализация с custom code удерживает квантизованные веса в VRAM и деквантизует слои во время прямого прохода. По замерам README, это снижает объём резидентных весов и VRAM-потребление по сравнению с bf16, но увеличивает задержку; в приведённом тесте качество поиска оставалось близким к bf16. Для загрузки через Transformers требуется trust_remote_code=True; модель также запускается через Infinity и SentenceTransformers. Для совместимости эмбеддингов при индексации и поиске следует использовать одну и ту же версию Transformers: README сообщает о численном дрейфе между версиями 4.57 и 5.14. Лицензия — Apache-2.0.

TiGa-RCE опубликовал BF16-конверсию модели Qwen3-Embedding-8B в формате MLX для запуска на Apple Silicon через MLX или oMLX. Модель основана на Qwen/Qwen3-Embedding-8B и предназначена для создания текстовых эмбеддингов, семантического поиска и задач извлечения признаков. В метаданных указаны 7,6 млрд параметров и контекст до 40 960 токенов; базовая модель поддерживает многоязычный поиск, в том числе поиск по коду и межъязыковой поиск. В ограниченном локальном smoke-тесте извлечения модель достигла 24/24 совпадений top-1 и MRR 1,0 на 24 парах запросов и документов. Это небольшая инженерная проверка, а не оценка на MTEB и не гарантия качества для других данных. Контрольная точка рассчитана на Apple Silicon и MLX/oMLX; результаты для CUDA и PyTorch к ней не относятся. Лицензия — Apache-2.0.

Rank-Embed-1B — модель для получения плотных текстовых эмбеддингов, разработанная GorankLabs на основе google/gemma-3-1b-pt. Это биэнкодер с архитектурой Gemma 3 Text и примерно 1,24 млрд параметров: он кодирует запросы, документы и фрагменты текста в векторы, используя mean pooling по последним скрытым состояниям. Для запросов, документов и коротких фрагментов предусмотрены разные специальные префиксы. Модель предназначена для семантического и сложного поиска, извлечения релевантных документов, ранжирования, RAG, кластеризации и поиска дубликатов. Она ориентирована на эффективное применение в поисковых конвейерах; базовые метаданные указывают контекст до 32 768 токенов, тогда как README заявляет поддержку до 131 072 токенов. Лицензия — Apache-2.0. Rank-Embed-1B возвращает векторы, а не готовые ответы. Для загрузки используются пользовательские классы модели и токенизатора; README требует включить trust_remote_code=True и рекомендует предварительно проверить код репозитория перед развёртыванием. Заявленные качества поиска не сопровождаются в предоставленных материалах численными результатами оценки.

hivaze/ru-e5-base — компактная версия multilingual-e5-base, созданная Сергеем Братчиковым на основе XLM-RoBERTa. Из словаря исходной модели оставлены 69 382 токена, преимущественно для кириллических языков и английского; соответствующие эмбеддинги перенесены на новые идентификаторы токенов. Параметры модели не дообучались, поэтому автор заявляет о сохранении качества исходной модели для кириллических текстов и английского. Модель предназначена для извлечения признаковых представлений текста и может применяться для построения текстовых эмбеддингов, поиска по смыслу и других задач, использующих векторные представления. Уменьшенный словарь сокращает объём модели и расход памяти при обучении. Модель содержит 166,5 млн параметров, принимает последовательности длиной до 514 токенов и доступна в формате safetensors. Лицензия в предоставленных данных не указана.

DeepSeek-V4-Flash-0731-Pruned-155B-A13B-GGUF — неофициальная производная модель, созданная сообществом на основе DeepSeek-V4-Flash-0731 и GGUF-сборки Unsloth. Она не выпущена и не одобрена DeepSeek. Модель предназначена для генерации текста и локального запуска через llama.cpp, прежде всего на Apple Silicon с 64 ГБ памяти, включая сценарии агентного программирования и задач SWE-bench. Это MoE-модель примерно со 155,5 млрд параметров и около 13 млрд активных параметров на токен. В 40 основных MoE-слоях число маршрутизируемых экспертов сокращено с 256 до 128, а первые три hash-слоя сохраняют все 256 экспертов. Веса представлены в квантизации IQ3_XXS; используется GGUF. Основная сборка требует специальной модификации llama.cpp, тогда как альтернативная ZP256 совместима с обычной версией llama.cpp, но работает медленнее. Для ускорения поддерживается speculative decoding с отдельной моделью DSpark. Главное преимущество — возможность полностью разместить основную сборку на GPU 64-гигабайтного Mac mini M4 Pro и получить существенно более высокую скорость по сравнению с частичной выгрузкой исходной модели: до 21,2 токена в секунду при коротком контексте и 14,3–16,6 токена в секунду при агентном контексте 8–32 тыс. токенов. На подмножестве SWE-bench Verified из 100 задач модель решила 77,5% задач против 84,0% у официальной FP8-версии, поэтому pruning сопровождается заметным снижением качества. Калибровочная imatrix исходной модели отдельно для обрезанной версии не проверялась. Лицензия — MIT. Для работы основной сборки требуются совместимые патченные llama.cpp и настройка лимита выделяемой GPU-памяти macOS; заявленная производительность относится к конкретной конфигурации Mac mini M4 Pro 64 ГБ и может отличаться на другом оборудовании.

DeepSeek-VL-Hybrid — мультимодальная модель для понимания изображений и текста, разработанная командой DeepSeek AI. Она принимает изображения и текстовые запросы и формирует текстовые ответы в диалоговом режиме. В архитектуре используется языковая модель на основе LLaMA, SigLIP для обработки изображений низкого разрешения и SAM для изображений высокого разрешения. Модель рассчитана на практические визуально-языковые сценарии, включая анализ скриншотов, PDF, OCR, диаграмм и содержимого, требующего визуальных деталей; заявлена обработка изображений размером до 1024 × 1024 пикселей. В карточке указана версия 7B, однако конкретное число параметров этой копии не приведено. Модель подходит для вопросов об изображениях, извлечения и объяснения визуальной информации, а также работы с документами и графиками. Она требует вычислительных ресурсов для мультимодальной модели и может ошибаться в распознавании мелких деталей или содержимого изображения. Указана лицензия DeepSeek; метаданные Hugging Face классифицируют её как other, поэтому точные условия следует сверить с текстом лицензии репозитория.

Embedić Large — модель для создания текстовых эмбеддингов, разработанная djovak и дообученная на базе intfloat/multilingual-e5-large. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, информационного поиска, кластеризации и систем RAG. Модель специализируется на сербском языке в кириллице и латинице и также поддерживает английский, поэтому подходит для поиска по смешанным сербско-английским коллекциям. Она построена с использованием Sentence Transformers; в README для семейства указаны обучение в несколько этапов и сравнение результатов на задачах информационного поиска, сходства предложений и поиска параллельных текстов. Модель распространяется по лицензии MIT. README отмечает, что запись сербского текста латиницей без диакритики заметно ухудшает качество поиска, а сохранение заглавных букв в именах собственных может улучшить его.

Карточка модели khaojai-it/GLM-4.6V-Flash на Hugging Face совпадает с карточкой unsloth/GLM-4.6V-Flash, поэтому описание составлено по ней. GLM-4.6V-Flash — компактная мультимодальная модель семейства GLM-V от Z.ai, представленная в карточке Unsloth с исправлениями шаблона диалога. Это версия на 9 млрд параметров, рассчитанная на локальное развёртывание и приложения с низкой задержкой; архитектура GLM4V использует условную генерацию текста по изображениям. Модель принимает изображения и текст, понимает документы, страницы с таблицами, диаграммами и иллюстрациями, а также снимки экранов. Контекстное окно семейства заявлено до 128 тысяч токенов. Модель подходит для визуальных диалогов, анализа документов, интерпретации интерфейсов и генерации кода HTML/CSS по скриншотам. Поддерживает вызов инструментов и смешанную генерацию текста и визуального контента. По README, её сильная сторона — мультимодальные сценарии; чисто текстовые ответы слабее, а на сложных запросах возможны чрезмерные рассуждения и повторы. Также отмечены ошибки при подсчёте объектов и распознавании конкретных людей. Репозиторий распространяется по лицензии MIT.

Карточка модели seerware/granite-embedding-30m-sparse на Hugging Face совпадает с карточкой ibm-granite/granite-embedding-30m-sparse, поэтому описание составлено по ней. Granite-Embedding-30m-Sparse — разреженная модель для построения текстовых представлений, разработанная командой Granite Embedding в IBM. Она основана на энкодерной архитектуре на базе RoBERTa, содержит 33,5 млн параметров и рассчитана на английский язык. Модель кодирует текст в словарь токенов и их весов переменной длины, включая расширения исходных токенов. Представления подходят для семантического поиска, извлечения релевантных документов и сравнения текстов. Модель обучалась с использованием предварительного обучения для задач поиска, контрастивной настройки и дистилляции; в карточке сообщается о конкурентных результатах на тестах BEIR, включая сравнение с более крупной SPLADE-моделью. Её можно применять, например, с Sentence Transformers и Milvus. Контекст ограничен 512 токенами: более длинный текст обрезается. Модель обучена только на английских текстах. Лицензия — Apache 2.0.