II.1Анализ требований и архитектура ПО

JoyFox-OmniFlow-9B — мультимодальная модель общего назначения от JoyFox на основе OpenBMB MiniCPM-o 4.5. Она поддерживает диалог на английском, китайском и других языках, выполнение инструкций, ответы на сложные вопросы, математические рассуждения, генерацию кода, ролевые сценарии и вызов инструментов. Модель принимает текст, изображения, видеокадры и аудио, а также поддерживает потоковое взаимодействие в режиме full-duplex с одновременным аудио- и визуальным вводом и текстовым или речевым выводом. Архитектура MiniCPMO включает языковую модель, визуальный и аудиоэнкодеры, мультимодальные проекционные слои и модуль синтеза речи. В README указан размер 9B, а метаданные сообщают 7,6 млрд параметров; контекст — до 40 960 токенов. Релиз распространяется в BF16 Safetensors и включает ресурсы для TTS и клонирования голоса по образцу аудио. Для полной потоковой генерации речи требуются дополнительные зависимости minicpmo-utils[all]. Модель загружается через Transformers; в README описана проверка полной загрузки на GPU NVIDIA RTX PRO 6000 Blackwell. Независимые внешние результаты бенчмарков не приведены; качество потокового взаимодействия зависит от конфигурации аудио и видео и среды выполнения. Возможны неточные, предвзятые или неподходящие ответы, а схемы и аргументы вызова инструментов требуют проверки. Лицензия — Apache-2.0.

Карточка модели Sing0402/legal-embed-gte-dense на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

Abiray/LFM2.5-2.6B-Heretic-Abliterated-GGUF — набор GGUF-квантизаций модели LFM2.5-2.6B, разработанной Liquid AI, с изменениями Heretic (abliterated). Модель предназначена для локального запуска, агентских сценариев, многошагового выполнения инструкций и вызова инструментов. Версия Heretic снижает склонность исходной модели к отказам на ограниченные, спорные и явные запросы, сохраняя заявленные возможности базовой модели. Модель имеет плотную архитектуру LFM2.5 с 30 слоями: 22 блока коротких свёрток с двойным управлением и 8 слоёв GQA. Она содержит около 2,69 млрд параметров, поддерживает контекст до 131 072 токенов, словарь размером 128 000 токенов и нативный вызов инструментов. Заявлена поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского, испанского, вьетнамского, тайского, индонезийского, хинди, русского и польского языков. Доступны квантизации от Q3_K_M до Q8_0 размером примерно от 1,37 до 2,87 ГБ. Q4_K_M позиционируется как оптимальный вариант для мобильных и периферийных устройств, а Q8_0 — как вариант с минимальными потерями качества для сложных задач и интенсивного использования инструментов. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству. Abliteration уменьшает защитные отказы, однако README не приводит независимой оценки безопасности, качества или стабильности поведения модели. Модель распространяется по лицензии Apache-2.0. Предусмотрен полностью офлайн-запуск на CPU или GPU через llama.cpp; для корректного диалогового режима рекомендуется использовать соответствующий шаблон чата.

Это GGUF-квантизированная версия Mistral-Small-4-119B-2603, разработанной Mistral AI и опубликованной пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix. Модель предназначена для задач генерации текста и обработки изображений с текстом, а также для локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты. Модель имеет размер 119 млрд параметров и поддерживает арабский, английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, японский, корейский и китайский языки. Доступны варианты квантизации от Q3 до Q8, различающиеся размером файлов и точностью; рекомендуемые варианты занимают примерно от 64 до 103 ГБ, а Q8_0 — около 126 ГБ. В README не указаны архитектурные детали и размер контекстного окна. Сильной стороной модели является возможность локального использования при сохранении высокого качества, особенно в вариантах Q5–Q6 и Q8. Ограничения связаны с большими требованиями к оперативной памяти и ресурсам, а также с неизбежной потерей качества в более агрессивных вариантах квантизации. Для Q4_1 отмечены проблемы совместимости с поздними слоями FFN_DOWN_EXPS, поэтому исправленная версия этого варианта была переопубликована. Модель распространяется по лицензии Apache-2.0.

onelevelstudio/M-MPNET-BASE — резервная копия модели sentence-transformers/paraphrase-multilingual-mpnet-base-v2, обученной командой sentence-transformers. Модель на базе XLM-RoBERTa преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения предложений и кластеризации. Она принимает текст и выдаёт эмбеддинги; поддерживает множество языков, включая русский. Контекст — до 514 токенов, размер — 305,2 млн параметров. Модель подходит для поиска близких по смыслу текстов и группировки многоязычных документов. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0.

Карточка модели arkam23/multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Карточка модели nounagnonsavoedo/multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Карточка модели hajkis-glami/multilingual-e5-base-embeddings на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Карточка модели RedHatAI/multilingual-e5-large на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это квантизированная версия языковой модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и автоматически преобразованной в формат GGUF проектом ggml-org. В качестве исходной модели указана NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Модель предназначена для генерации текста и может использоваться в приложениях, поддерживающих формат GGUF и совместимых с llama.cpp или аналогичными инструментами. Из доступных данных известны размер 30B и обозначение A3B, однако подробности архитектуры, число активных параметров, длина контекста, поддерживаемые языки и дополнительные модальности не указаны. Формат GGUF удобен для локального запуска и интеграции с соответствующим программным обеспечением, но конкретные требования к памяти, производительность и качество генерации зависят от варианта квантизации и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README. Поэтому перед использованием необходимо ознакомиться с лицензией исходной модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 и условиями распространения данной сборки.

Qwen2.5-Coder-14B-Instruct-GPTQ-Int4 — 4-битная GPTQ-квантизированная instruction-tuned модель для генерации и обработки кода из семейства Qwen2.5-Coder, разработанного командой Qwen/Alibaba Cloud. Модель предназначена для генерации, анализа, исправления и рассуждений о программном коде, а также для создания приложений на базе code agents. Она сохраняет общие математические и языковые возможности базовой модели Qwen2.5 и работает в формате causal language model. Модель содержит 14,7 млрд параметров, из которых 13,1 млрд не являются embedding-параметрами, и включает 48 слоёв. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в Attention QKV; применяется Grouped-Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. В README явно указан английский язык. Квантизация GPTQ Int4 уменьшает требования к памяти и облегчает развёртывание, но может влиять на качество по сравнению с полноточной версией. Для работы рекомендуется актуальная версия transformers, а для длинного контекста — vLLM с соответствующей настройкой. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-0.8B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для локального запуска, прототипирования, исследовательских задач, специализированного дообучения, программирования, рассуждений, работы с изображениями и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. Она использует гибридную архитектуру Gated Delta Networks и разреженной Mixture-of-Experts, а также обучение с multi-step prediction (MTP), поддерживающее спекулятивное декодирование. Нативная длина контекста составляет 262 144 токена. Заявлена поддержка 201 языка и диалекта. Репозиторий ориентирован на совместное использование с llama.cpp и другими инструментами, поддерживающими GGUF; для MTP в llama.cpp требуется соответствующая ветка или актуальная версия с поддержкой draft-MTP. К сильным сторонам относятся малый размер, возможность эффективного локального запуска, мультимодальность, широкий языковой охват и потенциальное ускорение генерации примерно в 1,5–2 раза благодаря MTP. Ограничениями являются невысокий по современным меркам объём модели и, как следствие, вероятно более слабое качество сложных задач по сравнению с крупными моделями. Для MTP указаны ограничения: не поддерживаются параллельные последовательности с параметром -np больше 1 и использование mmproj. Модель распространяется по лицензии Apache 2.0.

ente-ai/Qwen3.5-2B-GGUF — GGUF-версия мультимодальной модели Qwen3.5-2B, разработанной командой Qwen и основанной на Qwen/Qwen3.5-2B. Репозиторий подготовлен с использованием подхода Unsloth Dynamic 2.0 и предназначен для локального запуска, прототипирования, специализированного дообучения, исследований и разработки. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает работу с текстом и изображениями. Она содержит около 2 млрд параметров, 24 слоя, скрытое измерение 2048 и нативный контекст длиной до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks и элементы разреженной Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель совместима с экосистемой Transformers, а также с vLLM, SGLang и KTransformers. К сильным сторонам относятся мультимодальное понимание, большой контекст, компактный размер и пригодность для локального инференса и дообучения. При этом масштаб 2 млрд параметров ограничивает максимальную глубину рассуждений и качество на сложных задачах по сравнению с более крупными моделями; README прямо указывает приоритет прототипирования и исследовательских сценариев. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-4B-AWQ — квантизированная версия мультимодальной vision-language модели Qwen3.5-4B, разработанной командой Qwen (Alibaba Group). Модель принимает текст, изображения и видео во взаимно чередующемся формате и генерирует текст; поддерживает режим рассуждений, включённый по умолчанию. Она предназначена для анализа изображений и видео, визуально-текстового диалога, описания изображений и других задач image-text-to-text, а также для текстовых запросов. Базовая модель содержит около 4 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + sparse MoE с vision encoder. Нативная длина контекста составляет 262 144 токена и может быть увеличена с помощью RoPE scaling. Заявлена поддержка 201 языка и диалекта. В этой версии применена AWQ-квантизация W4A16: веса линейных слоёв языковой модели представлены в 4 битах, а активации — в 16 битах; формат — compressed-tensors pack-quantized. Vision tower, router gates и lm_head сохранены в более высокой точности, что должно способствовать сохранению качества обработки изображений. Ключевое преимущество модели — уменьшенный размер на диске и расход VRAM при сохранении мультимодальных возможностей, благодаря чему она ориентирована на запуск на одной потребительской GPU. Для работы требуются GPU с поддержкой INT4 Marlin kernels, актуальная версия vLLM с поддержкой архитектуры Qwen3_5ForConditionalGeneration и совместимая конфигурация compressed-tensors. В README указана проверка на NVIDIA Blackwell (sm_120); конкретные показатели качества и бенчмарки не приведены. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой Qwen3.5-4B.

unsloth/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной для распространения Unsloth. Это каузальная языковая модель с vision encoder, предназначенная для обработки текста и изображений, включая мультимодальные и агентские сценарии. Для запуска рекомендуется использовать llama.cpp или Unsloth Desktop; также заявлена поддержка ускорения инференса с помощью MTP. Модель имеет 125 млрд параметров, из которых 6 млрд активируются при работе, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, гибридную связку Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts с 512 экспертами и 10 маршрутизируемыми плюс одним общим активным экспертом, Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживаемые языки в README не указаны. К сильным сторонам относятся разреженное внимание на уровне блоков, рассчитанное на снижение задержки при длинном контексте, экономичное масштабирование параметров и малая доля активных параметров относительно общего размера модели. Ограничения связаны с экспериментальным статусом архитектуры, потенциально высокими требованиями к памяти и вычислительным ресурсам, а также отсутствием в предоставленном README подробных результатов бенчмарков и описания языкового покрытия. Модель распространяется по лицензии qwen-community-1.0; указанный тип лицензии — other.

Это GGUF-квантизация модели Qwen3.8-Flash-Next, разработанной командой Qwen и дополнительно подготовленной пользователем pugant для AMD Strix Halo с унифицированной памятью. Модель предназначена для генерации текста и запуска локальных LLM-сценариев на системах с Radeon 8060S и архитектурой gfx1151; при использовании совместимого runtime также заявлена поддержка vision через отдельный mmproj-модуль. Модель использует архитектуру qwen4exp и имеет около 180 млрд параметров в общей структуре: 125 млрд базовой части, около 6 млрд активных параметров, 51 млрд параметров PLE n-gram table и 4 млрд параметров MTP. Репозиторий содержит две сборки: ROCmFP4 STRIX_LEAN для систем с 128 ГБ памяти и смешанную ROCmFP2 STRIX_LEAN с 2-битными, FP4 и Q3-компонентами для систем с 64 ГБ. Поддерживаются английский и другие языки; заявлен контекст до 131 тыс. токенов. Сильные стороны модели — высокая эффективность по памяти для крупной MoE-подобной конфигурации, оптимизация под AMD Strix Halo, поддержка внешнего speculative-драфтера и возможность дискового размещения PLE-таблицы. Сборка ROCmFP4 обеспечивает более высокое качество, тогда как ROCmFP2 позволяет уложиться примерно в 56 ГБ оперативной памяти, но имеет заметный компромисс по качеству на отдельных тестах и больший дисковый объём. Для работы требуются специализированные форки ROCmFPX и совместимый runtime; стандартный llama.cpp эту квантизацию не загружает. Лицензия указана как qwen-community-1.0.

Qwen3.8-Flash-Next-Uncensored — это MLX-квантованная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, опубликованная пользователем ddark-il. Модель предназначена для локального запуска на компьютерах Apple Silicon, прежде всего на M5 Max с 128 ГБ памяти, и поддерживает сценарии генерации текста и обработки изображений с текстом. Модель использует архитектуру qwen4_exp с mixture-of-experts (MoE), vision-language возможностями и механизмом multi-token prediction (MTP). Исходный размер составляет около 180 млрд параметров; в данном варианте применяется смешанная affine-квантизация MLX со средней точностью 4,857 бит на параметр. Размер файлов — 109,29 ГБ, заявлена поддержка контекста до 262 тысяч токенов. Основная часть весов квантизирована в 4, 6 и 8 битах с различными размерами групп, причём для o_proj используется 8-битная квантизация. По измерениям авторов, версия обеспечивает меньшую ошибку относительно исходных bf16-весов, чем предыдущая ревизия, и достигает 90,7% совпадения top-1 предсказаний с bf16-версией. Сильными сторонами являются существенно меньшие требования к памяти по сравнению с bf16, высокая точность для квантизированной модели, поддержка длинного контекста и мультимодальных входов. Ограничения включают очень большой размер, зависимость от MLX и Apple Silicon, возможное влияние квантизации на качество, а также требования к пропускной способности SSD и кэшированию при работе с крупными таблицами и экспертами. Модель распространяется по лицензии Apache-2.0.

ZuzeTt/Qwen3-VL-4B-Thinking-heretic-imatrix-GGUF — мультимодальная модель для понимания и генерации текста по изображениям и текстовым запросам. Она создана на основе Qwen/Qwen3-VL-4B-Thinking и представляет собой её декензурированную версию, полученную с помощью Heretic 1.1.0. В README указано, что исходная модель относится к семейству Qwen; отдельный разработчик этой модификации не назван. Модель предназначена для визуального анализа, рассуждений по изображениям, решения STEM- и математических задач, распознавания текста, понимания пространственных отношений, анализа видео, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены поддержка длинного контекста до 256K токенов с возможным расширением до 1M, понимание длительных видео, OCR на 32 языках и мультимодальное рассуждение. Архитектурные особенности базовой модели включают Dense-архитектуру, режим Thinking, Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками; размер модели — 4B параметров. Ключевая особенность модификации — существенное снижение количества отказов: в приведённом тесте она отказала в 3 из 100 случаев против 97 из 100 у исходной модели, при KL divergence 0,0259. Это может быть преимуществом для исследовательских и прикладных сценариев, где требуется менее ограниченное поведение, но одновременно повышает риск небезопасных или нежелательных ответов. В README не приведены результаты независимой оценки качества, полный перечень поддерживаемых языков генерации, точные характеристики GGUF-квантизации или требования к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

ITESM/sentece-embeddings-BETO — модель эмбеддингов предложений на основе BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства. В метаданных указаны 137,1 млн параметров, контекст до 512 токенов и формат PyTorch. Модель обучалась с функцией потерь Multiple Negatives Ranking Loss и косинусным сходством; среди датасетов карточки указаны Stack Exchange XML и CodeSearchNet. Её можно применять для семантического поиска и группировки текстов, в том числе в контекстах вопросов и ответов и поиска кода. Лицензия в предоставленных данных не указана.

deepset/sentence_bert — загрузка предварительно обученной модели bert-base-nli-stsb-mean-tokens из репозитория Sentence Transformers. Это модель семейства BERT с 136,7 млн параметров и контекстом до 512 токенов, доступная в форматах PyTorch и Flax. Она предназначена для получения векторных представлений предложений, в частности для семантического сопоставления текстов и поиска похожих фраз. Лицензия — Apache 2.0.

UTC-DeBERTa-large — универсальный классификатор токенов от Knowledgator, основанный на DeBERTaV3-large и дообученный на нескольких задачах разметки последовательностей с prompt tuning. Модель предназначена для извлечения информации из текста: распознавания именованных сущностей, ответов на вопросы, извлечения отношений и разрешения кореференции; README также указывает очистку и суммаризацию текста как возможные сценарии. Метаданные относят модель к DeBERTa-v2 и задаче token classification, указывают 533,8 млн параметров и контекст до 512 токенов. Многозадачное обучение нацелено на обобщение и zero-shot распознавание сущностей; в README приведены результаты на CrossNER для областей ИИ, литературы, музыки, политики и науки. Модель принимает текст и выдаёт токенную разметку. Карточка указывает английский язык и лицензию Apache-2.0. Результаты и обобщение могут зависеть от формулировки запроса и типа текста; контекст ограничен 512 токенами.

baichuan-vicuna-chinese-7b — диалоговая языковая модель на 6,7 млрд параметров, созданная на базе baichuan-7B и дообученная командой fireballoon на данных ShareGPT на китайском и английском языках. Для обучения использовались также ShareGPT-ZH, примеры Chain-of-Thought, задачи LeetCode и вспомогательные данные; код обучения основан на FastChat. Модель использует плотную архитектуру LLaMA и формат PyTorch, а её контекст составляет 4096 токенов. Модель предназначена для генерации текста в диалоге: она может отвечать на вопросы, следовать инструкциям и помогать с рассуждениями и задачами по программированию. Карточка также упоминает отдельную GPTQ-квантизованную 4-битную версию, но описываемая здесь модель хранится в формате PyTorch. Лицензия в предоставленных данных не указана.

Bielik-11B-v2.6-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с HPC-центром ACK Cyfronet AGH. Это дообученная в формате инструкций версия Bielik-11B-v2 с архитектурой причинного декодера и шаблоном диалога ChatML. Модель работает с текстом и особенно хорошо ориентирована на польский язык; также заявлена поддержка английского. Модель предназначена для диалогов и выполнения текстовых инструкций, включая задачи по математике, программированию и STEM. При обучении использовались польские корпуса и более 20 млн инструкций, а для выравнивания ответов — обучение на предпочтениях и задачи с проверяемыми критериями. Лицензия — Apache 2.0. Разработчики предупреждают, что модель может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет механизмов модерации. Её ответы требуют проверки, особенно в сценариях, где важны точность и безопасность.

DeepSeek-Coder-V2-Instruct-0724-GGUF — это квантизированная в формате GGUF версия большой MoE-модели для генерации текста и программного кода DeepSeek-Coder-V2-Instruct-0724. Исходную модель разработала команда deepseek-ai, а GGUF-квантизацию подготовил bartowski на основе llama.cpp версии b3715. Модель предназначена прежде всего для задач, связанных с написанием и обработкой кода, однако конкретные поддерживаемые языки программирования, размер, длина контекста и другие архитектурные параметры в README не указаны. Модель можно использовать в инструментах, поддерживающих формат GGUF и шаблон запросов Jinja, в частности в LM Studio. Квантизация делает модель пригодной для локального запуска при наличии совместимого программного обеспечения и подходящих аппаратных ресурсов, но README не содержит сведений о точных требованиях, вариантах квантизации, производительности или качестве на отдельных задачах. Как и другие генеративные модели, она может создавать неточные или неподходящие ответы. Указана лицензия DeepSeek License; тип лицензии обозначен как other, а полный текст доступен в файле LICENSE. Дополнительные сведения о том, что изменилось относительно исходной модели, в README отсутствуют.

DeepSeek-Coder-V2-Lite-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek и квантизированной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и ассистирования в задачах программирования, включая написание и обработку кода, однако конкретный перечень поддерживаемых языков программирования и естественных языков в README не указан. Доступны варианты квантизации от Q2_K и IQ2_M до Q8_0 и экспериментального Q8_0_L, с размером файлов примерно от 6,32 до 17,09 ГБ. Более компактные варианты экономят оперативную память ценой снижения качества, тогда как Q5–Q8 описываются как высококачественные; для ряда конфигураций рекомендуются Q4–Q6. Варианты с суффиксом L используют F16 для весов embedding и output и отмечены как экспериментальные. Архитектура, число параметров, модальности, размер контекста и языки модели в предоставленном README не указаны. Модель рассчитана на локальный запуск через llama.cpp и использует специальный формат промпта с system prompt, сообщениями User и Assistant. Лицензия обозначена как deepseek-license; подробные условия в README не приведены, поэтому перед использованием следует ознакомиться с файлом LICENSE. Основные ограничения — отсутствие в README точных сведений о базовой архитектуре и характеристиках, а также неизбежная зависимость качества и требований к памяти от выбранного уровня квантизации.

Dolphin3.0-Qwen2.5-1.5B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Dolphin3.0-Qwen2.5-1.5B, опубликованная и квантизированная bartowski на основе модели cognitivecomputations. Модель основана на Qwen2.5-1.5B и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на генерацию текста, выполнение инструкций, программирование, математические задачи, работу с function calling и агентскими сценариями. В README указаны английский язык и размер базовой модели 1,5 млрд параметров; сведения о длине контекста, точной архитектуре и других модальностях не приведены. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4 и Q3 с размерами примерно от 0,78 до 6,18 ГБ. Для большинства сценариев рекомендуются варианты Q4–Q6, обеспечивающие баланс качества и требований к памяти. Сильными сторонами являются компактный размер, возможность автономного запуска на локальном оборудовании и широкий выбор уровней квантизации. Более низкие варианты экономят память, но снижают качество; некоторые форматы являются устаревшими. Для корректного взаимодействия следует использовать шаблон prompt в формате ChatML, указанный в README. Модель распространяется по лицензии Apache-2.0.

Карточка модели h2oai/embeddinggemma-300m на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Карточка модели Nguyentruong031203/embeddinggemma-300m на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Granite-Embedding-311M-Multilingual-R2 — модель эмбеддингов текста, разработанная командой Granite Embedding компании IBM. Она использует плотный bi-encoder на архитектуре ModernBERT с 311,6 млн параметров и выдаёт векторы размерностью 768 для запросов, документов, фрагментов текста и кода. Максимальная длина контекста — 32 768 токенов; эмбеддинги можно сокращать до 512, 384, 256 или 128 измерений с постепенным снижением качества. Модель предназначена для семантического поиска, сопоставления запросов и документов, поиска по длинным текстам и межъязыкового поиска. Она поддерживает более 200 языков, а для 52 языков, включая русский, и ряда языков программирования прошла дополнительное обучение на парах для поиска и межъязыкового сопоставления. Поддерживаются Python, Go, Java, JavaScript, PHP, Ruby, SQL, C и C++. Векторы можно сравнивать, например, по косинусному сходству. В README указаны контрастивное дообучение, дистилляция знаний и слияние моделей. Доступны форматы Safetensors, ONNX и OpenVINO; лицензия Apache 2.0. Качество зависит от языка: для низкоресурсных языков оно может быть ниже, чем для языков с расширенной поддержкой; длинные входы сверх лимита контекста обрезаются. Фильтрация обучающих данных и синтетические данные могут вносить смещения.