I.2Синтез, понимание и проверка знаний

Карточка модели unsloth/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой unsloth/DeepSeek-R1-Distill-Qwen-7B, поэтому описание составлено по ней. Это версия DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на дистиллированной модели DeepSeek. В карточке указано, что веса представлены в формате safetensors, архитектура — плотная Qwen2, размер — 7,1 млрд параметров, библиотека для работы — Transformers, а лицензия — Apache-2.0. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями, в том числе для решения математических задач и задач программирования. Она обучена на примерах рассуждений, созданных DeepSeek-R1; в README для семейства дистиллированных моделей указан контекст до 128K токенов. Метаданные карточки также указывают контекст 131072 токена. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; README не уточняет перечень поддерживаемых языков. Как и другие языковые модели, она может ошибаться в рассуждениях и ответах. Для использования применяется лицензия Apache-2.0.

Это конвертированная в формат MLX версия DeepSeek-R1-Distill-Qwen-32B, подготовленная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B с помощью mlx-lm 0.20.2. Модель построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров; для генерации текста поддерживается контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста и решения задач рассуждения, в том числе по математике и программированию. Репозиторий содержит веса safetensors в формате MLX. Лицензия в предоставленных данных не указана.

Это модель sentence-transformers на архитектуре DistilBERT, обученная командой Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель поддерживает контекст до 512 токенов и доступна в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель подходит для семантического поиска, группировки похожих текстов и оценки сходства предложений в многоязычных сценариях. В названии и обучении указаны multilingual NLI, STS-B и Quora Ranking; README не перечисляет конкретные поддерживаемые языки. Для использования необходима совместимая среда Sentence Transformers либо корректная операция pooling при работе через Transformers. Лицензия — Apache-2.0.

GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

GRM-2.6-Plus-0628-GGUF — это набор GGUF-квантованных файлов модели GRM-2.6-Plus-0628, разработанной OrionLLM. Модель содержит 27 млрд параметров и предназначена для общего применения, включая диалог, сложное рассуждение, программирование, решение задач и агентские сценарии, особенно при локальном или исследовательском развертывании. Заявлены улучшения по сравнению с GRM-2.6-Plus в задачах с длинной цепочкой действий и многошаговыми агентскими процессами. К сильным сторонам относятся структурированное рассуждение, обработка сложных задач, генерация кода и практическая эффективность для модели такого размера. В README указана только текстовая генерация; сведения о точной архитектуре, поддерживаемых языках, максимальном контексте, конкретных вариантах квантования и мультимодальности не приведены, поэтому эти характеристики нельзя подтвердить. Модель распространяется по лицензии Apache-2.0.

GroveMoE-Inst — инструктивная языковая модель компании InclusionAI на разреженной архитектуре GroveMoE с adjugate experts. По карточке, модель создана на основе Qwen3-30B-A3B-Base: после upcycling она прошла mid-training и дообучение SFT. В README указано 33 млрд параметров всего и 3,14–3,28 млрд активных на токен; метаданные каталога указывают 2,6 млрд параметров, поэтому размер репозитория и цифры в описании расходятся. Модель принимает текст и предназначена для диалогов, следования инструкциям, решения математических и научных задач, а также программирования; заявлен контекст 40 960 токенов и интерфейс вызова инструментов. Разреженная активация позволяет повторно использовать общие вычисления, а технический отчёт и таблица бенчмарков описывают её результаты на задачах знаний, математики и кода. Для общей работы авторы рекомендуют задавать длину генерации до 16 384 токенов и приводят параметры сэмплирования. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README нет сведений о поддерживаемых естественных языках.

jina-embeddings-v3 — мультиязычная многозадачная модель текстовых эмбеддингов, разработанная Jina AI на основе архитектуры Jina-XLM-RoBERTa. Она преобразует текст в векторы для поиска, сопоставления и анализа сходства. Модель содержит пять LoRA-адаптеров для разных типов задач и поддерживает входные последовательности длиной до 8192 токенов благодаря Rotary Position Embeddings. Размер эмбеддинга можно выбирать из вариантов от 32 до 1024 измерений. Модель предназначена для векторизации запросов и документов в поисковых системах, кластеризации, классификации и оценки сходства текстов. Для асимметричного поиска предусмотрены отдельные режимы для запросов и документов; другие режимы ориентированы на разделение текстов, классификацию и сопоставление. Настройка модели охватывает 30 языков, включая русский, а базовая модель поддерживает 100 языков. Для получения векторов на уровне предложения или абзаца при прямой интеграции требуется усреднение представлений токенов. Модель доступна в форматах PyTorch, Safetensors и ONNX; для использования через Transformers указана библиотека Transformers. Лицензия CC-BY-NC-4.0 ограничивает коммерческое применение. В README также отмечено, что исправлена ошибка предыдущей версии кода, при которой усечение Matryoshka-векторов после нормализации давало ненормализованные векторы.

strauss-oak/mdl_bertopic_globo — многоязычная модель эмбеддингов предложений и абзацев, основанная на архитектуре XLM-RoBERTa. Карточка README описывает её как sentence-transformers-модель, преобразующую текст в плотные векторы размерности 768 для кластеризации и семантического поиска. В метаданных указаны 305,2 млн параметров, контекст до 514 токенов, формат safetensors и лицензия Apache-2.0. Модель подходит для поиска близких по смыслу текстов, группировки предложений и абзацев, а также сравнения их семантической близости на множестве языков, включая русский и английский. Для использования через Transformers требуется подходящая операция pooling над контекстными представлениями токенов. В README указано, что модель обучена командой Sentence Transformers; точное происхождение этого репозитория относительно базовой модели отдельно не описано.

nli-roberta-base-v2 — модель Sentence Transformers, обученная командой sentence-transformers на базе архитектуры RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по смыслу, семантического поиска и кластеризации. Модель содержит 151,8 млн параметров, принимает текст и рассчитана на контекст до 514 токенов. Модель подходит для поиска похожих фрагментов текста, группировки документов и построения семантических представлений в системах поиска. Для её использования доступны форматы PyTorch, TensorFlow, Flax, ONNX и OpenVINO. Лицензия — Apache-2.0.

NVIDIA-Nemotron-3-Ultra-550B-A55B-quantized.w4a16 — большая языковая модель Red Hat на базе NVIDIA Nemotron 3 Ultra 550B A55B BF16, опубликованная для генерации текста, рассуждений и работы с инструментами. Она предназначена для сложного решения задач, математики и естественных наук, генерации кода и выполнения инструкций. Модель поддерживает ввод и вывод текста, а также вызов инструментов. Модель использует архитектуру NemotronHForCausalLM, содержит 550 млрд общих параметров и 55 млрд активных параметров. Веса линейных операторов в трансформерных блоках квантизированы в INT4 по схеме W4A16 с размером группы 128; применяется асимметричное покомпонентное квантование по группам. Это примерно на 75% снижает размер модели на диске и требования к памяти GPU по сравнению с BF16-версией. Для работы с рассуждениями и вызовом инструментов требуются соответствующие парсеры vLLM. Заявленная длина контекста — до 262 144 токенов. Сильными сторонами модели являются высокая емкость для сложных задач, поддержка reasoning, генерации кода и tool calling, а также существенное снижение требований к памяти благодаря INT4-квантизации. Ограничения включают значительные вычислительные требования: в рекомендованной конфигурации используется 8 GPU; сведения о поддерживаемых языках и количественных результатах оценки в README не указаны. Модель распространяется по лицензии NVIDIA Open Model License; использование, нарушающее применимое законодательство или нормативные требования, исключено из области применения.

Qwen2.5-VL-32B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen; репозиторий подготовлен Unsloth. Модель предназначена для задач, где требуется совместно обрабатывать текст и изображения, включая визуальные вопросы и ответы, распознавание текста, анализ документов, графиков, таблиц и макетов, математическое и логическое рассуждение, а также структурированное извлечение данных из счетов и форм. Она также поддерживает анализ видео длительностью более часа, поиск релевантных временных фрагментов, визуальную локализацию объектов и сценарии взаимодействия с компьютером или телефоном. Модель содержит 32 млрд параметров и использует архитектуру Qwen2.5-VL с визуальным энкодером ViT, динамическим разрешением изображений и динамической частотой выборки кадров видео. В архитектуре заявлены оконное внимание, SwiGLU и RMSNorm; для временного измерения применяется mRoPE с учетом идентификаторов и абсолютного времени. Основные модальности — текст, изображения и видео. В README указан английский язык, однако полный перечень поддерживаемых языков и размер контекстного окна не приведены. Сильные стороны модели — развитое понимание визуального содержимого, документов и видео, генерация структурированных JSON-ответов, визуальная локализация, а также улучшенные математические и общие рассуждательные способности. Ограничения включают большой размер, высокие требования к вычислительным ресурсам и отсутствие в представленном README подробностей о характеристиках именно GGUF-квантизации, поддерживаемых вариантах квантования и рекомендуемых ресурсах. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-VL-72B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Это AWQ-квантизированный вариант Qwen2.5-VL-72B-Instruct с 72 млрд параметров, предназначенный для обработки текста, изображений и видео в задачах vision-language. Модель умеет распознавать и анализировать объекты, текст, графики, диаграммы, иконки и компоновку изображений, извлекать структурированные данные из счетов, форм, таблиц и других документов, локализовать объекты с помощью bounding boxes или точек, а также понимать видео длительностью более часа и указывать релевантные временные отрезки. Она также ориентирована на агентные сценарии, включая управление компьютером и телефоном, и может формировать структурированные JSON-ответы. В архитектуре используются динамическое разрешение изображений, динамическая частота выборки кадров, временные идентификаторы mRoPE и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. К сильным сторонам относятся широкий спектр визуальных задач, работа с длинными видео, визуальная локализация и извлечение структурированной информации. AWQ-квантизация может снизить требования к памяти и ускорить развертывание по сравнению с полноразмерной версией, однако модель остается крупной и может требовать значительных вычислительных ресурсов. В README не указаны точное максимальное окно контекста, полный перечень поддерживаемых языков и подробные результаты оценки; в метаданных указан английский язык. Лицензия обозначена как qwen; условия приведены в файле лицензии репозитория.

heretic-org/Qwen3-4B-Thinking-2507-heretic — производная языковая модель команды heretic-org на базе Qwen/Qwen3-4B-Thinking-2507. Это плотная авторегрессионная модель с 3,7 млрд параметров для генерации текста в диалоговом формате; она ориентирована на рассуждения и поддерживает контекст до 262 144 токенов. По карточке, модель прошла abliteration: доля отказов в приведённом тесте снизилась с 99 из 100 у исходной модели до 5 из 100. Модель предназначена для сложных запросов, включая логические задачи, математику, науку и программирование, а также для следования инструкциям, использования инструментов и генерации текста. Базовая модель работает только в режиме рассуждений; сведения в карточке о её возможностях и оценках относятся к Qwen3-4B-Thinking-2507 и не подтверждают, что все результаты сохраняются после изменения. Указаны Transformers, формат safetensors и лицензия Apache-2.0. Языки обучения или поддержки в предоставленных данных не определены.

Qwen3.5-9B-DeepSeek-V4-Flash — плотная мультимодальная модель на 9 млрд параметров, дообученная Jackrong методом дистилляции на данных DeepSeek-V4-Distill-8000x. Она построена на базе unsloth/Qwen3.5-9B и предназначена для диалогов, структурированных рассуждений, многошагового решения задач и рабочих процессов с вызовом инструментов. Архитектура поддерживает обработку изображений и текста; заявлена поддержка английского, китайского, корейского, японского, испанского и русского языков. Модель рассчитана на эффективный инференс и может применяться для программирования, математических и STEM-задач, анализа изображений и агентных сценариев. В карточке приведены рекомендации по генерации: temperature от 0,7 до 1,0 и top_p 0,95; для строгих задач программирования предлагается более низкая температура. Модель распространяется по лицензии Apache-2.0. Оценка в README описана как раннее контролируемое сравнение квантованной версии Q5_K_M с базовой Qwen3.5-9B, поэтому заявления о качестве следует считать предварительными. Ограничения включают возможные затруднения с редкими знаниями, чрезмерно длинные рассуждения на простые запросы и возможное ухудшение некоторых аспектов выравнивания безопасности.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — модель для генерации текста и решения сложных многошаговых задач, дообученная на базе Qwen3.5-9B. Она создана с применением supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Основной акцент сделан на структурированном анализе, планировании, декомпозиции задач и более лаконичных ответах. Модель предназначена для математики и логики, программирования и системного анализа, научных, инженерных, юридических, медицинских и финансовых задач, а также для сценариев, связанных с безопасностью и adversarial reasoning. В карточке указана текстовая модальность, pipeline text-generation и поддержка английского, китайского и корейского языков. Размер базовой модели — 9B параметров; размер контекста и точные требования к аппаратным ресурсам не указаны. Сильными сторонами модели считаются многошаговое рассуждение, отслеживание ограничений, последовательное планирование, междисциплинарный охват и анализ отказов или атак. При этом дистилляция и специализированное дообучение могут ухудшать обобщение в некоторых широких сценариях и приводить к частичному забыванию знаний базовой модели, поэтому модель рекомендуется оценивать на целевых задачах перед внедрением. Лицензия — Apache-2.0.

Карточка модели nurdich/Qwen3.8-9B-Distill-uncensored-heretic на Hugging Face совпадает с карточкой petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, поэтому описание составлено по ней. Qwen3.8-9B-Distill-uncensored-heretic — текстовая генеративная модель автора @ptruha, опубликованная в рамках проекта Empero. Это полно-параметрическое дообучение Qwen/Qwen3.5-9B: модель-дистиллят обучена методом SFT на примерно 70 тысячах отфильтрованных трасс рассуждений учителя Qwen3.8 2.4T A95B. Веса содержат около 9 млрд параметров и распространяются в формате Safetensors; карточка указывает архитектуру Qwen3.5 и нативный контекст 262 144 токена. Модель предназначена для диалога, рассуждений, математики, программирования, следования инструкциям и вызова инструментов. В README приведены результаты GSM8K и MMLU; автор сообщает о низкой частоте отказов в собственном тесте, однако эти результаты не являются независимой оценкой. Дообучение было текстовым, поэтому унаследованные от мультимодальной базовой модели возможности работы с изображениями не оценивались. Для запуска требуется актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимыми компонентами; без них внимание может работать медленно и потреблять больше памяти. Лицензия — Apache-2.0.

Qwen3-Embedding-0.6B — плотная текстовая embedding-модель семейства Qwen3, разработанная командой Qwen для получения векторных представлений текста. Она построена на базе Qwen/Qwen3-0.6B-Base и содержит около 508 млн параметров. Модель предназначена для поиска и сопоставления текстов, классификации и кластеризации, поиска кода и межъязыкового поиска. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст длиной до 32 тыс. токенов и выдаёт эмбеддинги размерности от 32 до 1024. Она поддерживает инструкции, задающие цель представления, и настройку размерности выходного вектора. В метаданных карточки указана задача text-generation, однако README описывает модель именно как инструмент для создания текстовых эмбеддингов; поэтому для каталога основная задача — text-embedding. Для использования требуется библиотека Transformers версии 4.51.0 или новее: более ранние версии могут выдавать ошибку при загрузке архитектуры Qwen3. В README отмечено, что подходящие инструкции могут улучшать результаты на 1–5%, а их отсутствие в запросах поиска может снижать качество. Лицензия — Apache-2.0.

unsloth/Qwen3-VL-4B-Instruct-1M-GGUF — GGUF-версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Это инструкционная vision-language модель с архитектурой Dense, предназначенная для понимания и генерации текста на основе текстовых и визуальных данных, включая изображения и видео. Модель подходит для описания и анализа изображений, OCR, обработки длинных документов, визуального и математического рассуждения, пространственного анализа, понимания видеосцен, генерации HTML/CSS/JS и Draw.io по изображениям или видео, а также взаимодействия с графическими интерфейсами и инструментами. Заявлены контекст Native 256K с расширением до 1M токенов, поддержка OCR на 32 языках и улучшения для временной привязки событий в видео. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и Text-Timestamp Alignment. К сильным сторонам относятся сочетание текстового и визуального понимания, работа с длинным контекстом, расширенные возможности OCR, пространственного и видеоанализа, а также относительно компактный размер 4B параметров. README не содержит точных результатов бенчмарков, сведений о конкретном формате или уровне GGUF-квантизации, требованиях к оборудованию и полном перечне поддерживаемых языков, поэтому производительность и ресурсоёмкость в конкретной конфигурации требуют проверки. Для llama.cpp рекомендуется использовать параметр --jinja. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-8B-Instruct-bnb-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-8B-Instruct, опубликованная Unsloth на основе модели Qwen от Qwen Team. Она предназначена для работы с текстом и изображениями, а также для анализа видео, визуального распознавания, OCR, пространственного и мультимодального рассуждения. Модель имеет размер 8B параметров и поддерживает контекст длиной 256K токенов с возможностью расширения до 1M. Среди её возможностей заявлены управление графическими интерфейсами компьютеров и мобильных устройств, генерация Draw.io, HTML, CSS и JavaScript по изображениям и видео, анализ пространственных отношений, понимание длительных видео с временной локализацией событий, STEM- и математическое рассуждение, а также распознавание широкого спектра объектов и сцен. OCR поддерживает 32 языка и устойчив к низкому освещению, размытию и наклону текста. К архитектурным особенностям относятся Interleaved-MRoPE для временных и пространственных измерений, DeepStack для объединения признаков разных уровней ViT и выравнивание текста с временными метками. Квантованный 4-битный формат ориентирован на более экономичное по памяти развёртывание, однако README не приводит точные требования к оборудованию, результаты для данной квантованной версии или детальные ограничения качества. Модель распространяется по лицензии Apache-2.0.

Ring-2.6-1T — большая языковая модель компании InclusionAI для рассуждений и выполнения сложных многошаговых задач. В README заявлено триллион параметров, тогда как метаданные репозитория указывают 59 млрд; фактический размер по доступным сведениям определить однозначно нельзя. Метаданные описывают архитектуру как MoE на базе BailingMoE V2.5 и указывают формат safetensors с compressed-tensors; для запуска README упоминает поддержку BF16 и FP8 в SGLang. Модель предназначена для агентных сценариев: планирования шагов, вызова инструментов, продолжительных диалогов и автоматизации рабочих процессов. Среди заявленных применений — разработка ПО, научный анализ, сложные логические и математические задачи, а также корпоративная автоматизация. README сообщает о режимах интенсивности рассуждений high и xhigh и контексте 128K с расширением до 256K через YaRN; метаданные указывают нативный контекст 131072 токена. Карточка приводит результаты ряда бенчмарков, но они являются заявлениями разработчика. Метаданные подтверждают текстовую генерацию и возможность чата; конкретные языки не указаны. Лицензия репозитория — MIT.

Карточка модели avsolatorio/30-000-11-1-2-2-0-0-mean-normed-384-512_GIST_st_all-MiniLM-L6-v2-20240217220249-best на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

Карточка модели avsolatorio/30-000-11-1-2-2-0-0-mean-normed-384-512_GIST_st_all-MiniLM-L6-v2-20240218195818-latest на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

protoLabsAI/Agents-A1-NVFP4 — квантизированная версия модели InternScience/Agents-A1, разработанная и проверенная protoLabs. Это агентная гибридная MoE-модель класса Qwen3.5-35B-A3B для генерации текста, рассуждений, работы с инструментами, function calling, программирования и других агентных сценариев. Модель предназначена для запуска через vLLM, прежде всего на GPU NVIDIA Blackwell, включая RTX PRO 6000 и RTX 50xx. Модель использует квантизацию NVFP4 W4A4 с калибровкой всех экспертов MoE и занимает около 21,8 ГБ. В контрольной точности сохранены маршрутизаторы MoE, DeltaNet-линейное внимание, эмбеддинги, lm_head, vision tower и MTP-тензоры. В README заявлена поддержка длинного контекста с проверками на длинах до 60K токенов; для работы у верхней границы рекомендуется оставить более 5K токенов запаса либо отключить режим рассуждений. Веса vision tower присутствуют, но рекомендуемая конфигурация vLLM работает только в текстовом режиме. Языки явно не указаны. По приведённым тестам NVFP4-версия превосходит официальную FP8-версию на наборах reasoning-v2, function-call и claw agentic, но немного уступает ей в code spec-delta. На одной RTX PRO 6000 заявлена скорость до 215 токенов в секунду при однопоточном чате. Ограничения включают зависимость от специальной конфигурации vLLM с marlin MoE backend на sm120, несовместимость spec-decode с этим backend и необходимость учитывать значительные затраты контекста при длинных рассуждениях. Модель распространяется по лицензии Apache-2.0.

KnightsAnalytics/all-MiniLM-L6-v2 — англоязычная модель sentence-transformers, основанная на nreimers/MiniLM-L6-H384-uncased. Модель разработана в рамках инициативы Hugging Face Community Week по созданию эффективной модели эмбеддингов предложений с использованием JAX и Flax; в README также указано участие команд Google Flax, JAX и Cloud. Она преобразует предложения и короткие абзацы в плотные векторы размерностью 384. Модель предназначена для семантического поиска, сравнения похожести предложений, кластеризации и других задач извлечения признаков текста. Она обучалась с помощью контрастивного обучения на наборе свыше 1 миллиарда пар предложений, сформированном из множества датасетов, включая MS MARCO, SNLI, MultiNLI, Natural Questions, SQuAD-подобные и другие коллекции. Для получения итогового эмбеддинга используется mean pooling с учетом attention mask и L2-нормализация. По умолчанию входы длиннее 256 word pieces обрезаются. Ключевыми сильными сторонами являются компактная архитектура MiniLM, относительно небольшая размерность эмбеддингов и специализация на семантическом представлении предложений, что делает модель подходящей для эффективного поиска и кластеризации. Ограничения включают поддержку только английского языка согласно карточке модели и ограничение на длину входа; модель предназначена прежде всего для предложений и коротких абзацев, а не для генерации текста или обработки длинных документов без предварительного разбиения. Модель распространяется по лицензии Apache-2.0.

all-MiniLM-L6-v2 — модель для создания эмбеддингов предложений и коротких абзацев, разработанная в рамках Community Week Hugging Face при участии сообщества и команд Flax, JAX и Cloud. Она преобразует текст в плотный вектор размерности 384, отражающий его семантическое содержание. Модель предназначена для семантического поиска, кластеризации и оценки сходства предложений, а также для использования в качестве универсального текстового энкодера. Она основана на предварительно обученной MiniLM-L6-H384-uncased и дообучена с помощью контрастивного обучения на наборе более чем из 1 миллиарда пар предложений, собранных из множества датасетов. Поддерживается английский язык. По умолчанию вход длиннее 256 word pieces усекается; при базовом использовании через Transformers требуется выполнить mean pooling с учётом attention mask и нормализацию векторов. Сильные стороны модели — компактный размер, высокая скорость получения эмбеддингов и пригодность для широкого спектра задач семантического сопоставления. Ограничения включают ориентацию на английский язык, предназначенность прежде всего для предложений и коротких абзацев, а также усечение длинных входов. Модель распространяется по лицензии Apache-2.0.

zihoo дообучила sentence-transformers/all-MiniLM-L6-v2 для представления предложений и абзацев в виде плотных семантических векторов размерностью 384. Модель основана на BERT и использует усреднение токенных представлений, после которого векторы нормализуются; сходство можно оценивать косинусной мерой. В метаданных указаны 25,9 млн параметров, библиотека Sentence Transformers и контекст до 512 токенов, а карточка модели указывает максимальную длину последовательности 350 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. README сообщает о дообучении на наборе из 160 000 примеров. Базовая модель описана каталогом как англоязычный энкодер, поэтому качество для других языков не следует предполагать без отдельной проверки. Лицензия в предоставленных данных не указана.

KhaledReda/all-MiniLM-L6-v51-pair_score — англоязычная модель Sentence Transformer, дообученная на наборе пар текстов pairs_with_scores_v43 на базе sentence-transformers/all-MiniLM-L6-v2. Она кодирует предложения и абзацы в плотные векторы размерности 384; архитектура включает энкодер BERT, усредняющий пулинг токенов и нормализацию. Для оценки близости векторов используется косинусное сходство. Модель предназначена для семантического сравнения текстов и поиска: она помогает находить похожие фразы и документы, выявлять перефразирования, кластеризовать тексты и строить признаки для классификации. В метаданных указаны 25,9 млн параметров и контекст до 512 токенов; карточка модели задаёт максимальную длину последовательности 256 токенов. Веса опубликованы в формате safetensors. Модель работает с английским текстом и выдаёт векторные представления, а не готовые ответы на естественном языке. Качество зависит от соответствия входных данных обучающим парам; длинные тексты следует разбивать на фрагменты. Лицензия — Apache-2.0.

gart-labor/all-mpnet-base-v2-eclass — модель Sentence Transformers на базе MPNet, дообученная разработчиком на датасете eclass. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и имеет контекст до 514 токенов; в карточке указан английский язык. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Nhat1904/best_64_shots — модель Sentence-Transformers на архитектуре MPNet, разработчик которой в карточке не назван. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и семантического поиска. Модель содержит 136,7 млн параметров, принимает текст и формирует векторные представления; максимальная длина контекста составляет 514 токенов. В README указано обучение с функцией потерь CosineSimilarityLoss. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели LDCC/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.