I.2Синтез, понимание и проверка знаний

bartowski/dolphin-2.9-llama3-8b-GGUF — это набор GGUF-квантизаций модели dolphin-2.9-llama3-8b, разработанной cognitivecomputations и подготовленной для локального запуска. Модель предназначена для генерации текста в диалоговых и инструкционных сценариях, включая ответы на вопросы, программирование, решение математических задач, function calling и агентские задачи. Обучение опиралось на наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, UltraChat, Orca Math и другие датасеты. Это текстовая модель на архитектуре Llama 3 с размером 8 млрд параметров. Репозиторий содержит версии от F16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Квантизации выполнены с использованием llama.cpp и метода imatrix; для взаимодействия указан шаблон промпта ChatML. Поддержка мультимодальности, конкретные языки и размер контекстного окна в README не указаны. Сильной стороной модели является широкий набор обучающих данных и наличие множества вариантов для локального инференса, включая версии, оптимизированные для ARM. Более сильные квантизации обеспечивают лучшее качество, но требуют больше памяти, тогда как Q3-версии экономичнее, но заметнее теряют в качестве. Для запуска рекомендуется использовать совместимый инференс-движок, например llama.cpp или LM Studio. Лицензия обозначена как other, однако её точные условия в README не приведены.

E5-large-unsupervised — англоязычная модель эмбеддингов, разработанная авторами семейства E5 на основе контрастного предобучения с слабой супервизией. Это вариант e5-large без последующего обучения на размеченных данных. Модель построена на архитектуре BERT: 24 слоя, размер эмбеддинга 1024, около 433,9 млн параметров; принимает текст и выдаёт векторные представления. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, сопоставления предложений и абзацев, поиска passage по запросу, обнаружения перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для корректной работы с запросами и документами следует добавлять префиксы «query: » и «passage: » согласно типу задачи. Модель работает только с английскими текстами, а длинные входы обрезаются до 512 токенов. Распространяется по лицензии MIT.

Модель tasksource/ettin-32m-embed разработана как Sentence Transformer на базе jhu-clsp/ettin-encoder-32m и дообучена на 19 наборах данных. Она кодирует предложения и абзацы в плотные векторы размерности 384; близость текстов оценивается косинусным сходством. Архитектура включает ModernBERT-энкодер, усредняющий пулинг и нормализацию векторов. Модель содержит 31,9 млн параметров и поддерживает контекст до 7999 токенов по метаданным; в README указана максимальная длина последовательности 1024 токена. Модель предназначена для семантического сходства и поиска, поиска перефразировок, классификации и кластеризации текста. Англоязычные обучающие данные охватывают, среди прочего, распознавание дубликатов вопросов, поиск ответов, научные тексты и код. Лицензия в предоставленных данных не указана.

Это англоязычная модель Sentence Transformer, разработанная дообучением BAAI/bge-base-en-v1.5. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 768 и нормализует их; сходство можно оценивать косинусной близостью. Архитектура основана на BERT с длиной последовательности до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Её можно применять для получения кандидатов по смысловому сходству в поиске и для сопоставления запросов с документами в RAG-системах. В README приведены результаты оценки информационного поиска, однако они не описывают качество на всех наборах данных и сценариях. В метаданных указаны 136,7 млн параметров, библиотека Sentence Transformers и формат safetensors. Модель ориентирована на английский язык; качество для других языков не подтверждено. Лицензия в предоставленных данных не указана.

FuseAI/FuseChat-Qwen-2.5-7B-Instruct — разговорная языковая модель FuseAI на архитектуре Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Это целевая модель семейства FuseChat-3.0, обученная методом неявного слияния: сначала её дообучили на лучших ответах сильных языковых моделей, затем применили Direct Preference Optimization (DPO) к парам предпочтительных и менее предпочтительных ответов. В качестве источников использовались Gemma-2-27B-It, Mistral-Large-Instruct-2407, Qwen-2.5-72B-Instruct и Llama-3.1-70B-Instruct. Модель предназначена для диалога, следования инструкциям, решения математических задач и помощи с кодом; обучение также включало китайскоязычные данные. Подходит для локального запуска в формате Safetensors, а метаданные отмечают интерфейс вызова инструментов. README сообщает об улучшениях на ряде бенчмарков, однако приведённые там конкретные приросты относятся к версии с целевой моделью Llama-3.1-8B и не подтверждают такие же результаты для этой версии. Лицензия в предоставленных данных не указана.

Edmon02/gemma-4-12B-it-GGUF — это общественное GGUF-зеркало инструкционно дообученной мультимодальной модели Gemma 4 12B IT от Google DeepMind, основанное на google/gemma-4-12B-it. Репозиторий поддерживается Edmon02 и содержит наборы квантованных весов, синхронизированные из bartowski/gemma-4-12B-it-GGUF, для локального запуска на пользовательском оборудовании. Модель предназначена для генерации текста, создания локальных агентов, программирования, а также мультимодальных сценариев с анализом изображений и аудио. Она имеет около 12 млрд плотных параметров, поддерживает текст, vision и audio, использует encoder-free архитектуру без отдельных визуального и аудиокодировщиков. Для обработки изображений в llama.cpp требуется дополнительный файл mmproj-*.gguf. Точное значение контекстного окна в README не указано. Заявлена поддержка английского языка; отдельно упоминаются сценарии исследований на армянском и английском, но полноценный перечень языков не приведён. К сильным сторонам относятся широкий выбор квантований, возможность запуска на устройствах с примерно 8–24 ГБ видеопамяти и интеграция с llama.cpp, LiteRT-LM, LM Studio, Ollama и MLX. Рекомендуемый вариант Q4_K_M рассчитан примерно на 16 ГБ памяти. Ограничения включают необходимость проверять качество общественных квантований относительно официальной версии BF16, возможную потребность в самых свежих сборках llama.cpp или LM Studio для аудио, а также требование принять лицензию и получить доступ к исходному gated-репозиторию Google. Указана лицензия Apache 2.0.

GLiClass Multilang Mini — мультиязычная модель классификации текста из семейства GLiClass, опубликованная Knowledgator. Она предназначена для классификации с пользовательскими метками без дообучения, а также для few-shot сценариев с примерами и описаниями меток. Модель содержит около 288 млн параметров и использует архитектуру GLiClass с механизмом CrossAttn Scorer. Модель подходит для тематической и тональной классификации, определения намерений, проверки следования правилам и безопасности ответов LLM, обнаружения галлюцинаций, NLI и оценки релевантности пары запрос–текст. Она обучена для 20 языков и поддерживает межъязыковые сочетания текста и меток. В README приведены результаты zero-shot оценок и высокая пропускная способность на GPU, но фактическое качество зависит от языка, набора меток и задачи; для NLI рекомендуется подавать одну гипотезу за раз. Веса представлены в формате safetensors, для использования предлагается библиотека gliclass. Лицензия — Apache-2.0.

GLM-4.7-Flash-RAZOR-17B-A3B-E32of64 — сжатая методом RAZOR версия диалоговой MoE-модели GLM-4.7-Flash, опубликованная Nickyang. В каждом MoE-слое оставлено 32 из 64 маршрутизируемых экспертов; отбор выполнен без градиентных обновлений и дополнительного обучения. По README, число хранимых параметров составляет 17,025 млрд, включая MTP, а параметры внимания, общего эксперта, эмбеддингов, LM-головы и оставшихся строк роутера не затронуты. Метаданные каталога указывают 4,1 млрд параметров и контекст 202 752 токена. Модель предназначена для диалоговой генерации текста, рассуждений и программирования с длинным контекстом. Для запуска требуется сборка Transformers с реализацией glm4_moe_lite; веса опубликованы в формате safetensors и хранятся в bfloat16. Лицензия — MIT. Удаление экспертов является потерей информации: ответы могут отличаться по разнообразию, форматированию и поведению при завершении, даже если точность на отдельных задачах в основном сохраняется. Качество на областях, далёких от конечного калибровочного корпуса, не охарактеризовано; перед применением модель следует оценить на целевой нагрузке.

ShiningValiant3 — дообученная Valiant Labs модель генерации текста на архитектуре GPT-OSS-20B с MoE. Она предназначена для научных рассуждений, проектирования систем искусственного интеллекта, решения сложных задач, общего и творческого reasoning, а также диалогов и следования инструкциям. В карточке указаны наборы данных с примерами рассуждений DeepSeek R1 0528; модель использует формат промпта gpt-oss-20b и обычно рекомендуется высокий уровень reasoning. Модель принимает текст и генерирует текст. Метаданные указывают контекст до 131 072 токенов и 1,6 млрд параметров; доступен формат safetensors, а в README отмечены веса bf16 и возможность локального запуска на настольных и мобильных устройствах, а также быстрого серверного инференса. Основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0. README позиционирует её для открытого использования; практические результаты зависят от сценария и вычислительных ресурсов, особенно при использовании bf16.

Это модель Sentence Transformer, дообученная на базе anhtuansh/gte-multilingual-base-Matryoshka-2e-9k. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости и поиска по тексту. В архитектуре используется трансформер с пуллингом CLS-токена и нормализацией; сходство оценивается косинусной мерой. Максимальная длина входа — 8192 токена. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов. В README приведена оценка на задачах информационного поиска, однако результаты зависят от данных и сценария применения. Обучение выполнено на наборе json из 8 259 пар anchor-positive; в примерах набора представлены вьетнамские тексты, поэтому не следует считать поддержку конкретных языков подтверждённой только по этому фрагменту. Лицензия в предоставленных данных не указана.

gte-Qwen2-7B-instruct — мультиязычная модель текстовых эмбеддингов из семейства GTE, разработанная Alibaba-NLP с использованием базовой Qwen2-7B от команды Qwen. Это дообученная плотная модель архитектуры Qwen2 с двунаправленным механизмом внимания и инструкционной настройкой запросов. Она преобразует текст в векторы размерностью 3584 и предназначена для поиска по смыслу, сравнения предложений и других задач семантического сопоставления. Модель обучена на большом мультиязычном корпусе из разных областей с использованием слабой и контролируемой разметки. README сообщает о высоких результатах на английском и китайском наборах MTEB на июнь 2024 года. Карточка указывает максимум 32 тыс. входных токенов, тогда как метаданные каталога дают нативный контекст 131072 токена. Лицензия — Apache-2.0. Для работы требуются Transformers версии 4.39.2 или новее и flash_attn версии 2.5.6 или новее. Модель ориентирована на получение эмбеддингов, хотя метаданные также отмечают генерацию текста и классификацию как поддерживаемые задачи. Заявления о лидерстве в бенчмарках относятся к указанным оценкам и дате; коммерческие облачные API GTE, согласно README, не полностью идентичны открытой модели.

Hermes 2 Pro — диалоговая языковая модель Nous Research, созданная совместно с Interstellarninja и Fireworks.AI на основе дообучения Meta Llama 3 70B. Модель с плотной архитектурой Llama содержит 69,5 млрд параметров, принимает текст и генерирует текст; родной размер контекста — 8192 токена. Для диалога используется формат ChatML. Модель предназначена для общения, выполнения инструкций, вызова функций и формирования структурированных ответов в JSON по заданной схеме. По данным разработчиков, обучение включало обновлённый набор OpenHermes 2.5, а также специально подготовленные данные для вызова функций и JSON Mode. Для использования этих возможностей нужны соответствующие системные инструкции и обработка вызовов инструментов в приложении. В метаданных указан английский язык. Модель наследует возможности базовой Llama 3 70B для генерации текста и кода, однако карточка отдельно не описывает языковую поддержку сверх английского. Доступна в формате safetensors; лицензия в предоставленных данных не указана.

Locutusque/Hyperion-2.0-Mistral-7B — языковая модель Locutusque, дообученная на 750 тысячах примеров набора Hyperion-v2.0 на базе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на сложные вопросы, ведения диалога, генерации кода и рассуждений в научных областях. В карточке описаны сценарии обучения и помощи специалистам в медицине, математике, программировании и других технических дисциплинах. Основной язык — английский. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README отмечены возможные несогласованности ответов из-за разнообразия форматов данных и качества аннотаций; также модель охотно отвечает на любые запросы, поэтому для корпоративного применения автор рекомендует дополнительную настройку с помощью DPO.

Карточка модели genevaquant/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

Карточка модели RedHatAI/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

JiRack Ultra 7B — текстовая модель для генерации и диалогов от CMSManhattan. Она построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, а в карточке модели также заявлена основа DeepSeek R1 7B. Модель оптимизирована для запуска на CPU: автор сообщает о применении технологий BitNet и QAT, а в репозитории доступны веса safetensors и варианты GGUF с квантованием от Q2_K до Q8_0. Указанный контекст — до 131 072 токенов. Модель предназначена для диалоговых сценариев, использования в RAG, агентной разработки и вызова инструментов. Карточка упоминает специализированные токены для маршрутизации, мультимедиа, зрения, звука и робототехники, но метаданные подтверждают только текстовую генерацию и возможность чата; мультимодальный ввод или вывод ими не подтверждён. Среди отмеченных в метаданных языков — английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. По заявлению автора, модель рассчитана на экономичный локальный или облачный инференс, включая запуск через llama.cpp и Ollama. Для квантованного Q4_K_M README рекомендует не менее 12 ГБ системной памяти, а для комфортной работы — 16–24 ГБ; фактическая скорость зависит от процессора и контекста. Веса распространяются по лицензии MIT, однако Docker-образ, готовые Ollama-сборки и UI-клиенты могут требовать отдельной коммерческой лицензии.

JoyAI-LLM Flash — инструктивная языковая модель среднего размера от jdopensource для диалогов, рассуждений, программирования и работы с инструментами. В карточке описаны предварительное обучение на 20 триллионах текстовых токенов, supervised fine-tuning, DPO и обучение с подкреплением в разных средах. Модель использует архитектуру Mixture-of-Experts: в README указаны 48 млрд параметров всего и 3 млрд активируемых параметров; метаданные Hugging Face сообщают 2,7 млрд параметров и класс DeepseekV3ForCausalLM. Эти сведения о размере расходятся. Модель рассчитана на генерацию текста в формате чата, решение задач на рассуждение и код, а также агентные сценарии с вызовом инструментов. README заявляет поддержку контекста до 131 072 токенов согласно метаданным. Указаны китайский и английский языки. Репозиторий содержит веса Safetensors для Transformers. README описывает доступ через API и совместимые с OpenAI и Anthropic интерфейсы; конкретные условия лицензии в предоставленных данных отсутствуют.

KAT-V1-40B (Kwaipilot-AutoThink) — открытая большая языковая модель, разработанная Kwaipilot. Она обучена выбирать, когда явно разворачивать ход рассуждений, а когда отвечать напрямую, чтобы снижать избыточные рассуждения. Модель построена на архитектуре Qwen2, имеет 39,8 млрд параметров и контекстное окно 131 072 токена; для работы с ней указана библиотека Transformers. Модель предназначена для генерации текста в диалогах и решения задач, где полезны как развёрнутые рассуждения, так и краткие ответы. README описывает структурированный формат ответа с режимами включённого и пропущенного рассуждения; метаданные также отмечают интерфейс вызова инструментов. В README сообщается о высоком результате Kwaipilot-AutoThink на LiveCodeBench Pro, но это не раскрывает показатели именно данного чекпойнта KAT-V1-40B. Репозиторий содержит веса Safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели. README сообщает, что документация AutoThink и дополнительные обучающие ресурсы планируются к публикации; подробности обучения и ограничения качества этой версии в предоставленных данных не раскрыты.

Карточка модели donkizm/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели saidsef/knowledge-base-embedding-model на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

LFM2.5-2.6B-etheroi — многоязычная текстовая модель на 2,6 млрд параметров, созданная на базе LiquidAI/LFM2.5-2.6B-Base и дообученная для агентных сценариев. Она использует гибридную архитектуру LFM2: 30 слоёв, включая блоки коротких свёрток и GQA, и поддерживает контекст до 131 072 токенов. Модель предназначена для локального и периферийного развёртывания; карточка указывает поддержку Transformers, vLLM и SGLang. Модель подходит для вызова инструментов, выполнения многошаговых инструкций, извлечения данных, RAG и работы с длинным контекстом. Она поддерживает английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. По карточке, она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

FreedomAISVR/Magistral-Small-2509-MXFP4-GGUF — квантизированная версия мультимодальной модели Magistral-Small-2509 от Mistral AI, опубликованная в формате GGUF с квантизацией MXFP4. Модель основана на Mistral-Small-3.2-24B-Instruct-2506 и содержит 24 млрд параметров; в README указана архитектура Dense Transformer с классом Mistral3ForConditionalGeneration и контекст до 131 072 токенов. Для обработки изображений используется проектор mmproj с визуальным энкодером Pixtral ViT.

Это объединённая плотная языковая модель семейства Qwen2, созданная с помощью mergekit методом Model Stock на основе DeepSeek-R1-Distill-Qwen-32B. В объединение вошли ArliAI/Qwen2.5-32B-ArliAI-RPMax-v1.3, Sao10K/32B-Qwen2.5-Kunou-v1 и EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2. Модель содержит 32 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации текста; доступны интерфейсы чата и вызова инструментов. Контекстное окно — 131 072 токена. Модель предназначена для диалоговой генерации и решения задач на основе текста. Базовая модель DeepSeek-R1-Distill-Qwen-32B описана как модель для рассуждений, математики и программирования, однако README не приводит отдельные оценки качества этого слияния. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

RedHatAI/Meta-Llama-3.1-8B-Instruct-FP8-dynamic — квантизированная версия Meta-Llama-3.1-8B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель архитектуры LlamaForCausalLM для генерации текста, диалоговых ассистентов и tool calling. Модель получает текст на вход и генерирует текст на выходе; поддержка вызова инструментов реализована через специальный шаблон чата и парсер llama3_json. Модель содержит 8 млрд параметров и использует FP8-квантизацию весов и активаций. Квантизируются линейные операторы в трансформерных блоках с применением симметричной поканальной схемы для весов и динамической потокенной квантизации активаций. По сравнению с 16-битным представлением это примерно вдвое уменьшает размер на диске и требования к памяти GPU. Модель рассчитана на эффективный инференс с vLLM; заявлено восстановление качества на уровнях 99,7–105,4% относительно исходной модели в ряде тестов, включая Arena-Hard, OpenLLM и HumanEval. В метаданных указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, однако README отдельно ограничивает использование языком английским и указывает, что применение в других языках относится к сценариям вне области назначения. Контекст модели в README явно не указан. Модель предназначена для коммерческого и исследовательского использования с учетом условий лицензии Llama 3.1 и применимых законов и ограничений. Она была проверена с RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4.

MiMo-V2.6-Flash-RL UNCENSORED GGUF — квантованная сборка модели Xiaomi MiMo-V2.6-Flash-RL, подготовленная cafonez для Framework Desktop с AMD Ryzen AI Max 400 (Gorgon Halo). Это текстовая MoE-модель с 309,8 млрд параметров и 256 экспертами, из которых на токен выбираются 8. Сборка занимает около 154,6 GiB и сочетает исходные веса экспертов MXFP4 с квантованием Q5_K для компонентов внимания и плотных слоёв; заявленный контекст запуска — до 131 072 токенов. Модель предназначена для диалоговой генерации текста, в том числе для задач программирования и использования агентами с инструментами. Это версия без отказов, созданная на уровне весов dealignai. Вариант GGUF содержит только текстовую часть исходной модели: визуальный и аудиокодеры исключены. Для загрузки требуется специальная сборка ROCmFPX; веса рассчитаны на машину с большим объёмом GPU-доступной памяти, а приведённые в карточке скорости измерены на конкретной конфигурации и не гарантируют такую же производительность на другом оборудовании. В карточке указана лицензия MIT.

MiniCPM-V 4.5 — мультимодальная модель OpenBMB для диалога и понимания изображений, нескольких изображений и видео. По README, её языковая часть основана на Qwen3-8B, а визуальная — на SigLIP2-400M; архитектура включает единый 3D-ресэмплер для сжатия видеокадров. В метаданных указано 7,6 млрд параметров, библиотека Transformers и контекст 40 960 токенов. Модель предназначена для описания и анализа изображений и видео, распознавания текста, разбора документов и визуальных вопросов и ответов. README заявляет поддержку более 30 языков, обработку изображений высокого разрешения до 1,8 млн пикселей и видео с частотой до 10 кадров в секунду. Доступны переключаемые режимы быстрого и углублённого рассуждения; разработчики также отмечают поддержку локального запуска и интерфейса вызова инструментов. Возможности и показатели качества в README основаны на оценках разработчиков и бенчмарках; фактическое качество зависит от сценария и оборудования. Модель выпущена под лицензией Apache-2.0.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122220746-best на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122234122-best на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.

Карточка модели adriencleme/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

jfarray/Model_paraphrase-multilingual-mpnet-base-v2_1_Epochs — модель Sentence-Transformers на архитектуре XLM-RoBERTa с 305,2 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для сравнения семантической близости, кластеризации и семантического поиска. Модель принимает текст и выдаёт векторные представления; заявленная длина контекста — 514 токенов. В README указано обучение с CosineSimilarityLoss. Многоязычная основа отражена в названии модели, однако конкретный перечень поддерживаемых языков не приведён. Для использования доступны PyTorch и библиотека Sentence-Transformers. Лицензия в предоставленных данных не указана.