I.3Извлечение и структурирование данных

vrfai/Qwen3.6-27B-FP8 — мультимодальная модель для работы с текстом и изображениями, созданная на основе Qwen/Qwen3.6-27B. Исходную модель разработала команда Qwen (Alibaba Group), а FP8-квантизацию выполнил vrfai с использованием llm-compressor от vLLM Project. Модель предназначена для диалогов, генерации и анализа текста, программирования, а также задач, требующих обработки визуальной информации. Поддерживаются режимы с рассуждением и без него; README не содержит полного перечня языков и точных характеристик исходной модели, включая размер контекста. Используется статическая квантизация W8A8 FP8: веса и активации основных компонентов представлены в FP8 с симметричной по-тензорной схемой, при этом чувствительные компоненты, включая vision encoder, DeltaNet/linear-attention, merger и lm_head, сохранены в BF16. Формат compressed-tensors обеспечивает поддержку в vLLM. Такой подход снижает требования к памяти при сохранении качества лучше, чем более агрессивная NVFP4-квантизация; заявленный размер модели составляет около 34 ГБ. Для работы требуется GPU NVIDIA Ampere, Hopper или Blackwell с поддержкой SM 89+, рекомендовано использование vLLM или Transformers. Модель распространяется по лицензии Apache-2.0. Ограничениями являются необходимость совместимого современного NVIDIA GPU, использование trust_remote_code в приведённых примерах и отсутствие в предоставленном README подробных результатов бенчмарков, точного контекстного окна и полного описания языковой поддержки.

RedHatAI/Qwen3.6-35B-A3B-FP8-dynamic — мультимодальная модель семейства Qwen3.6 с архитектурой mixture-of-experts (MoE), разработанная RedHatAI на основе Qwen/Qwen3.6-35B-A3B от Alibaba Cloud. Модель принимает текст и изображения, а генерирует текст; заявлены улучшенные возможности рассуждений, вызова инструментов и обработки визуально-языковых запросов. Точные поддерживаемые языки и размер контекстного окна в представленном README не указаны. Модель оптимизирована для инференса в vLLM с помощью динамической FP8-квантизации весов и активаций. Квантизация применяется к линейным слоям трансформерных блоков, тогда как визуальный энкодер, MoE-маршрутизатор, общие эксперты, эмбеддинги и некоторые другие компоненты сохраняются в исходной точности. Это примерно на 50% снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Поддерживаются текстовый и мультимодальный режимы, вызов инструментов, рассуждения и speculative decoding с Multi-Token Prediction. Модель распространяется по лицензии Apache 2.0; в README подтверждена валидация для vLLM 0.18.0, RHOAI 3.4 и RHAIIS 3.4.

abhishekchohan/Qwen3.8-27B-AWQ-INT4-FP8KV — квантизированная версия Qwen/Qwen3.8-27B, опубликованная abhishekchohan. Модель предназначена для диалогов, следования инструкциям, математических и научных задач, агентного программирования, многоязычных сценариев и работы с очень длинным контекстом. В карточке указано image-text-to-text позиционирование, однако подробности о поддерживаемых изображениях не приведены. Модель использует AWQ-квантизацию весов INT4 с защищёнными компонентами BF16 и FP8 E4M3 KV-кэшем с калиброванными послойными масштабами. Архитектура Qwen3.8-27B содержит 16 глобальных attention-слоёв, накапливающих KV-кэш, и 48 слоёв DeltaNet с рекуррентным состоянием. Поддерживается контекст до 262 144 токенов; заявлена возможность расширения до 524 288 токенов через YaRN, но результаты за пределами 262 144 токенов не проверялись. Заявленная оценка требований для полного контекста — около 33,5 ГБ VRAM, включая примерно 20 ГБ на веса и 8,5 ГБ на KV-кэш. Ключевое преимущество — примерно двукратное снижение памяти KV-кэша по сравнению с BF16 при сохранении качества: тесты показывают близкие результаты к AWQ-INT4 с BF16 KV, а retrieval-тест на контекстах 32 768, 131 072 и 262 144 токена дал 9/9 успешных результатов. Ограничения включают возможные небольшие колебания качества на отдельных бенчмарках, неподтверждённую работу за пределами 262 144 токенов и несовместимость MTP speculative decoding с FP8 KV в текущем JIT-пути FlashInfer на системах Blackwell. Для запуска рекомендуется vLLM с включённым FP8-кэшем; модель распространяется по лицензии Apache-2.0.

HivenetQuant/Qwen3.8-27B-NVFP4 — квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, опубликованная HivenetQuant. Модель предназначена для работы с текстом и изображениями, включая визуальное понимание, генерацию текста и кода, рассуждения, tool calling и ускоренное авторегрессионное декодирование с помощью MTP speculative decoding. В основе используется модель размером 27B параметров. Квантование выполнено по схеме NVFP4 W4A4: веса и активации основного квантованного слоя представлены в FP4 с блочными масштабами FP8 и group size 16. Чувствительные attention- и recurrent-слои DeltaNet сохранены в FP8, а vision encoder, MTP head, lm_head, нормы и router layers — в BF16. Контекст до 262 144 токенов проверен в конфигурации с vLLM и FP8 KV cache. Модель ориентирована на GPU NVIDIA Blackwell с нативной поддержкой FP4, например RTX 5090. Сильными сторонами являются заметное ускорение по сравнению с FP16, сохранение мультимодальных возможностей и MTP, а также близкие к FP16 результаты на проверенных задачах. В опубликованном сравнении разница обычно составляла менее двух процентных пунктов, однако это оценка деградации на репрезентативных выборках, а не полное измерение абсолютных возможностей базовой модели. Ограничения включают зависимость от совместимого оборудования и настроек vLLM, а также возможное снижение качества из-за квантования, особенно на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

NVIDIA Qwen3.8-27B NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.8-27B, разработанной Alibaba, подготовленная с использованием NVIDIA Model Optimizer. Модель основана на архитектуре Transformer, содержит около 27 млрд параметров и предназначена для генерации текста и мультимодального понимания. Модель рассчитана на AI-агентов, чат-ботов, RAG-системы и другие приложения на базе искусственного интеллекта. Она принимает текст, изображения и видео, а выдаёт текст; заявленная длина контекста достигает 262 тысяч токенов. Квантизация использует смешанный формат NVFP4/FP8: NVFP4 применяется к MLP-слоям и языковой голове, а FP8 — к слоям self-attention и linear attention. Для запуска указаны vLLM и SGLang на GPU NVIDIA Blackwell, предпочтительно в Linux. К сильным сторонам относятся большой контекст, поддержка мультимодальных входных данных, оптимизация для ускоренного вывода на совместимом оборудовании NVIDIA и снижение требований к памяти благодаря квантизации. Ограничения включают зависимость от NVIDIA Blackwell и поддерживаемых сред выполнения, а также отсутствие раскрытых сведений о полном обучающем наборе данных, его размере и языковом составе. Перед промышленным использованием необходимы тестирование на прикладных данных и проверка безопасности. Модель распространяется по лицензии Apache 2.0 и заявлена для коммерческого и некоммерческого использования.

PassingByPixels/Qwen3.8-27B-NVFP4 — это квантованная версия мультимодальной модели Qwen3.8-27B, разработанной Qwen и преобразованной в формат NVFP4 с помощью NVIDIA TensorRT Model Optimizer 0.45.0. Модель предназначена для генерации и понимания текста, анализа изображений и видео, программирования, профессиональных и исследовательских задач, а также многошаговых агентских сценариев. Квантование не включало обучение или дообучение и представляет собой lossy-преобразование исходных весов bf16. Модель содержит около 27 млрд параметров и использует архитектуру causal language model с vision encoder. Она включает 64 слоя, механизм Gated DeltaNet с линейным вниманием, Gated Attention, MTP и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов посредством RoPE scaling, например YaRN. Поддерживаемый язык в карточке указан как английский. Ключевая часть параметров представлена в 4-битном формате NVFP4 с блочными масштабами, а vision tower, эмбеддинги, LM head, MTP head и Gated DeltaNet сохранены в более высокой точности bf16. Основное преимущество — существенно меньшее потребление памяти и возможность запуска на одном устройстве DGX Spark с 128 ГБ памяти через vLLM и Blackwell FP4 path. При этом README не содержит оценки качества квантованной версии по сравнению с исходной bf16-моделью, поэтому возможное снижение точности следует учитывать. Лицензия — Apache-2.0.

cyankiwi/Qwen3.8-Flash-Next-AWQ-INT4 — квантованная версия Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий содержит веса и конфигурацию в формате Hugging Face Transformers. Модель предназначена для генерации и понимания текста, агентских сценариев, задач STEM, а также мультимодальных задач с изображениями благодаря архитектуре языковой модели с vision encoder. Она совместима с Transformers, vLLM, SGLang и TokenSpeed. Архитектура включает 125 млрд параметров, из которых активируется 6 млрд, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Используются гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и n-gram embedding; модель содержит 48 слоёв и имеет скрытую размерность 2560. Ключевые заявленные особенности ориентированы на эффективную обработку длинного контекста и снижение вычислительных затрат. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Размер файлов модели указан как 188,29 ГБ. Преимуществами являются мультимодальность, поддержка нескольких языков, оптимизации для длинного контекста и возможность локального развёртывания в распространённых inference-системах. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README точного размера контекстного окна для данного репозитория и потенциальными потерями качества, характерными для INT4 AWQ-квантизации. Лицензия указана как qwen-community-1.0; применяются условия, приведённые в файле LICENSE.

Qwen3-Embedding-0.6B — плотная текстовая embedding-модель семейства Qwen3, разработанная командой Qwen для получения векторных представлений текста. Она построена на базе Qwen/Qwen3-0.6B-Base и содержит около 508 млн параметров. Модель предназначена для поиска и сопоставления текстов, классификации и кластеризации, поиска кода и межъязыкового поиска. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст длиной до 32 тыс. токенов и выдаёт эмбеддинги размерности от 32 до 1024. Она поддерживает инструкции, задающие цель представления, и настройку размерности выходного вектора. В метаданных карточки указана задача text-generation, однако README описывает модель именно как инструмент для создания текстовых эмбеддингов; поэтому для каталога основная задача — text-embedding. Для использования требуется библиотека Transformers версии 4.51.0 или новее: более ранние версии могут выдавать ошибку при загрузке архитектуры Qwen3. В README отмечено, что подходящие инструкции могут улучшать результаты на 1–5%, а их отсутствие в запросах поиска может снижать качество. Лицензия — Apache-2.0.

Карточка модели freedom-signal/Qwen3-Embedding-0.6B-f16 на Hugging Face совпадает с карточкой unsloth/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, представленная в репозитории Unsloth и основанная на Qwen/Qwen3-0.6B-Base. Это плотная архитектура с 507,6 млн параметров и контекстом до 32 768 токенов. Модель преобразует текст в векторы размерностью от 32 до 1024 и позволяет задавать инструкцию для конкретной задачи. Модель предназначена для семантического поиска и извлечения текстов, сравнения предложений, классификации и кластеризации текста, поиска по коду и межъязыкового сопоставления. Она поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычные и межъязыковые сценарии. Лицензия — Apache-2.0. Карточка описывает всю серию Qwen3 Embedding, поэтому приведённые в ней лидерские результаты относятся к модели 8B, а не подтверждают такие же результаты для версии 0.6B. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку распознавания архитектуры Qwen3.

Карточка модели avsolatorio/30-000-11-1-2-2-0-0-mean-normed-384-512_GIST_st_all-MiniLM-L6-v2-20240218195818-best на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

Карточка модели OneFly7/biencoder_ep10_bs32_lr2e5_cosine_annealing_hard_neg_2 на Hugging Face совпадает с карточкой strauss-oak/mdl_bertopic_globo, поэтому описание составлено по ней. strauss-oak/mdl_bertopic_globo — многоязычная модель эмбеддингов предложений и абзацев, основанная на архитектуре XLM-RoBERTa. Карточка README описывает её как sentence-transformers-модель, преобразующую текст в плотные векторы размерности 768 для кластеризации и семантического поиска. В метаданных указаны 305,2 млн параметров, контекст до 514 токенов, формат safetensors и лицензия Apache-2.0. Модель подходит для поиска близких по смыслу текстов, группировки предложений и абзацев, а также сравнения их семантической близости на множестве языков, включая русский и английский. Для использования через Transformers требуется подходящая операция pooling над контекстными представлениями токенов. В README указано, что модель обучена командой Sentence Transformers; точное происхождение этого репозитория относительно базовой модели отдельно не описано.

Claude Fable 5 — модель класса Mythos от Anthropic, предназначенная для автономной интеллектуальной работы и задач программирования. Она принимает текст, изображения и файлы, а выдаёт текст; также заявлена поддержка рассуждений. Модель подходит для сценариев, где нужно анализировать предоставленные материалы и выполнять задачи по коду. Метаданные каталога относят её к задаче image-text-to-text. Данных о размере, контексте, языках и лицензии в предоставленных источниках нет.

tripolskypetr/gemma-3-12b-it — модель на базе Google Gemma 3 12B IT, разработанная Google DeepMind. Это открытая инструкционно дообученная мультимодальная модель, принимающая текст и изображения и генерирующая текст. README не содержит сведений о специфическом дополнительном дообучении, выполненном автором репозитория. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Она поддерживает более 140 языков, использует контекстное окно до 128 000 токенов, принимает изображения, нормализованные до 896×896 пикселей и представленные 256 токенами каждое, а максимальный объём генерируемого ответа составляет 8192 токена. Размер модели — 12 млрд параметров. К сильным сторонам относятся мультимодальность, широкий языковой охват, большое контекстное окно и возможность развёртывания на собственном оборудовании или в облачной инфраструктуре по сравнению с более крупными моделями. Ограничения включают неизвестные для данного репозитория результаты дополнительного обучения и оценки, а также необходимость учитывать требования к ресурсам для запуска модели такого размера. Использование регулируется лицензией Gemma и соответствующими условиями Google.

Gemma-SEA-LION-v4.5-E2B-IT — мультимодальная языковая модель AI Singapore, адаптированная для английского языка и языков Юго-Восточной Азии. Она основана на Google Gemma 4 E2B IT и прошла постобучение с дистилляцией знаний от Gemma 4 31B IT на наборе SEA-Instruct-2602. Архитектура — декодер Transformer с энкодерами зрения и аудио; размер составляет 2,3 млрд эффективных параметров (5,1 млрд с эмбеддингами), контекст — 128 тыс. токенов. Модель предназначена для диалогов и выполнения инструкций, ответов на вопросы, суммаризации, анализа тональности, перевода между английским и региональными языками, а также мультимодального анализа изображений, видео и аудио. Карточка указывает поддержку мультимодальных возможностей Gemma 4, включая вызов функций и режимы рассуждения. Модель оптимизирована для локального запуска на ноутбуках и мобильных устройствах. Постобучение охватывает бирманский, индонезийский, филиппинский (тагальский), малайский, тамильский, тайский и вьетнамский; метаданные также отмечают английский и китайский. Лицензия — MIT. Авторы предупреждают, что модель не прошла настройку безопасности и проверку устойчивости к состязательным запросам; возможны галлюцинации, нерелевантные и непоследовательные ответы.

GPT-3.5 Turbo 16k — вариант модели GPT-3.5 Turbo с увеличенным контекстным окном, разработанный OpenAI. Он предназначен для генерации текста и диалогов, в том числе для запросов, в которых нужно передать большой объём текста за один раз. По карточке модель обрабатывает примерно 20 страниц текста в одном запросе; использование обходится дороже, чем у стандартной версии GPT-3.5 Turbo.

QuantFactory/INTELLECT-1-Instruct-GGUF — квантизированная версия инструкционной языковой модели PrimeIntellect/INTELLECT-1-Instruct, созданная QuantFactory с использованием llama.cpp. Модель предназначена для генерации текста, выполнения инструкций, работы с кодом, математическими задачами и общими текстовыми запросами. Основной заявленный язык — английский; модель относится к модальности text-to-text и поддерживает только текстовые данные. Модель содержит около 10 млрд параметров, 42 слоя, 32 attention heads, hidden size 4096, словарь размером 128256 токенов и контекст длиной до 8192 токенов. Базовая INTELLECT-1 обучалась с нуля на 1 трлн токенов английского текста и кода, а затем прошла post-training и instruction tuning на наборах данных для общего следования инструкциям, программирования, математики, агентных сценариев и многоязычных данных. Предобучение выполнялось распределённо сообществом Prime Intellect и партнёров на базе framework prime и алгоритма DiLoCo. Ключевое преимущество этой версии — формат GGUF и квантизация, позволяющие запускать модель через совместимые инструменты llama.cpp с меньшими требованиями к памяти по сравнению с полной версией. Однако конкретный уровень качества, скорость и потребление памяти зависят от выбранного варианта квантизации. Контекст ограничен 8192 токенами, а качество для языков, отличных от английского, в README подробно не охарактеризовано. Для исходной модели требуется добавлять BOS-токен в начало каждого примера, иначе производительность может снизиться; применимость этого требования при использовании GGUF зависит от используемого рантайма и шаблона. Лицензия — Apache 2.0.

Это дообученная модель Sentence Transformers на основе jinaai/jina-embeddings-v2-small-en. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для сравнения текстов по косинусному сходству. В архитектуре используется JinaBertModel с усреднением токенных представлений; модель рассчитана на английский язык и принимает последовательности длиной до 8192 токенов по метаданным Hugging Face. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, классификации текстов и кластеризации. Эмбеддинги можно применять для поиска по корпусам и построения RAG-систем. В README указан максимальный размер последовательности 2048 токенов, тогда как метаданные указывают нативный контекст 8192 токена; это расхождение следует учитывать при настройке. Модель опубликована borgcollectivegmbh и сохранена в формате safetensors. Лицензия в предоставленных данных не указана.

K-EXAONE-2.0-750B-A37B-DSpark — мультиязычная языковая модель общего назначения от LG AI Research. Это модель с архитектурой Mixture of Experts семейства EXAONE, предназначенная для генерации текста и диалогового взаимодействия. По метаданным, модель содержит 34,1 млрд параметров и поддерживает контекст до 262 144 токенов. Модель рассчитана на рассуждения, агентные сценарии, работу с кодом и поиск информации в длинном контексте. Она поддерживает корейский, английский, испанский, немецкий, японский, вьетнамский, французский, итальянский, польский и португальский языки. Для ускорения генерации README описывает speculative decoding методами MTP и DSpark; заявлено ускорение примерно в 3–5 раз. Для запуска приведены конфигурации SGLang и vLLM на двух узлах с 16 GPU NVIDIA H200, поэтому использование требует значительных вычислительных ресурсов. Модель выпущена под лицензией Apache 2.0. Она может выдавать ошибочные, устаревшие, предвзятые или неподходящие ответы; актуальность сведений не гарантируется. README также отмечает проблему генерации на NVIDIA B200 с рекомендацией отключить prefill CUDA graph до исправления.

gemasphi/laprador_f — модель Sentence-Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для вычисления семантического сходства, семантического поиска и кластеризации текстов. Число параметров — 136,1 млн, максимальная длина контекста — 512 токенов; модель распространяется в формате PyTorch. Модель можно применять для поиска текстов по смыслу, группировки похожих предложений и сравнения фрагментов текста. README описывает использование через Sentence-Transformers или Transformers с соответствующей операцией pooling. Язык модели и условия лицензии в предоставленных сведениях не раскрыты.

unsloth/Llama-3.3-70B-Instruct — инструктивная мультиязычная языковая модель Meta на архитектуре Llama 3.3, представленная в формате safetensors. Это авторегрессионный трансформер с 69,5 млрд параметров, обученный следовать инструкциям с помощью SFT и RLHF. Модель принимает и генерирует текст; поддерживает диалоговые сценарии и интерфейс вызова инструментов, который разработчики интегрируют самостоятельно. Контекст — до 131 072 токенов. Модель предназначена для чат-ассистентов и генерации текста, в том числе для коммерческого и исследовательского применения. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Условия распространения определяются пользовательской лицензией Llama 3.3 Community License; перед использованием следует соблюдать её положения и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; качество и безопасность ответов требуют проверки, а для неподдерживаемых языков разработчик рекомендует дообучение и дополнительные системные меры.

Llama-TI-8B — текстовая авторегрессионная модель семейства Llama, разработанная и загруженная ehristoforu на основе Meta Llama 3.1 8B. В модели сохранена архитектура LlamaForCausalLM; README указывает на дополнительное обучение и слияние моделей. Число параметров — 7,5 млрд по метаданным, контекст — до 131 072 токенов. Распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, решения математических и физических задач, творческого письма, программирования и анализа длинных текстов. README заявляет об улучшениях в математике, биологии, рассуждениях и письме; модель ориентирована на многоязычную генерацию, однако конкретные поддерживаемые естественные языки не перечислены. Доступна базовая версия, а чат-версия вынесена в отдельный репозиторий.

Meta-Llama-3.1-70B-Instruct-GGUF — инструкционная большая языковая модель семейства Llama 3.1, разработанная Meta и представленная в формате GGUF сообществом backyardai. Она предназначена для генерации текста, диалоговых приложений, ответов на вопросы и выполнения инструкций. Модель является производной от meta-llama/Meta-Llama-3.1-70B-Instruct и ориентирована на сценарии локального или специализированного инференса с использованием совместимых инструментов. Модель имеет размер 70 миллиардов параметров и работает с текстовыми данными. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Конкретная архитектура, длина контекста и параметры квантования для данной сборки не указаны. Большой размер может обеспечивать высокое качество генерации, однако требует значительных вычислительных ресурсов; практические характеристики зависят от используемого варианта GGUF и среды запуска. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов с более чем 700 миллионами активных пользователей в месяц предусмотрено требование получить отдельную лицензию Meta.

RedHatAI/Meta-Llama-3.1-8B-Instruct-quantized.w8a16 — это квантизированная версия Meta-Llama-3.1-8B-Instruct, разработанная Neural Magic на базе модели Meta. Модель предназначена для коммерческого и исследовательского использования в сценариях диалогового ассистента и генерации текста. Она поддерживает текстовый ввод и вывод, а также английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует архитектуру Meta-Llama-3 и содержит около 8 миллиардов параметров. Веса линейных операторов внутри блоков трансформера квантизированы в INT8 по схеме W8A16 с применением симметричной поканальной квантизации и алгоритма GPTQ; выходной слой lm_head не квантизирован. Это примерно вдвое уменьшает размер модели на диске и требования к GPU-памяти по сравнению с 16-битной версией. Модель оптимизирована для эффективного развёртывания с использованием vLLM; в примере конфигурации указан максимальный размер контекста 8192 токена. По заявленным оценкам, квантизация сохраняет качество в пределах 1% от исходной модели на MMLU, ARC-Challenge, GSM-8K, Hellaswag, Winogrande и TruthfulQA. Основные ограничения связаны с меньшим размером и возможными особенностями качества 8-битной квантизации по сравнению с полной версией, а также с тем, что модель предназначена прежде всего для текстовых, а не мультимодальных задач. Модель распространяется по лицензии Llama 3.1; использование не должно нарушать применимое законодательство и требования экспортного контроля.

ronanki/MiniLM-L12-v2-SEP-token — модель Sentence-Transformers для получения векторных представлений предложений и абзацев. Она основана на архитектуре BERT и выдаёт плотные эмбеддинги размерностью 384; в метаданных указано 124,3 млн параметров и контекст до 512 токенов. Модель предназначена для семантического поиска, кластеризации текстов и сравнения предложений по смыслу. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Для использования подходит библиотека Sentence-Transformers; через Transformers требуется отдельно применить подходящую операцию pooling к контекстным представлениям токенов. README и метаданные не указывают лицензию или целевые языки, поэтому их нельзя определить по имеющимся сведениям. Модель публикуется в формате PyTorch.

Mistral-7B-Instruct-v0.3 — плотная языковая модель Mistral AI на 7,1 млрд параметров, дообученная следовать инструкциям на базе Mistral-7B-v0.3. Она предназначена для диалогов, генерации текста по запросам и вызова функций. Модель поддерживает контекст до 32 768 токенов, использует токенизатор v3 и расширенный словарь из 32 768 токенов; для работы доступны веса в формате safetensors. Модель подходит для чат-ботов, ответов на вопросы и выполнения инструкций в приложениях, использующих генерацию текста. Карточка не указывает конкретные языки обучения или поддержки. В README отмечено, что у модели нет встроенных механизмов модерации, а сам чекпойнт предоставлен «как есть» и может быть неактуальным. Лицензия — Apache-2.0.

Nemotron-3-Embed-8B-BF16 — текстовая модель эмбеддингов, разработанная NVIDIA на основе Ministral-3-8B-Instruct-2512. Она кодирует текст в плотные векторы размерностью 4096 для семантического поиска, сопоставления предложений и извлечения фрагментов в системах RAG. Модель рассчитана на многоязычный и межъязыковой поиск; её оценивали на 34 языках. Архитектура — трансформерный энкодер с двунаправленным вниманием и усреднением токенных представлений. Размер модели — около 8 млрд параметров. В README указана максимальная длина последовательности 32 768 токенов; метаданные также приводят контекст 262 144 токена, поэтому при практическом использовании следует учитывать ограничение конкретной конфигурации и способа запуска. Модель принимает текст и выдаёт векторные представления, поддерживает динамическое сокращение размерности с последующей L2-нормализацией. Предназначена для многоязычного семантического поиска, поиска по большим корпусам и RAG-сценариев, включая ответы на вопросы по документам. Для запуска NVIDIA указывает PyTorch и vLLM, а для BF16-чекпойнта — Transformers 5.2.0 или новее; оптимизация ориентирована на GPU NVIDIA. Модель готова к коммерческому использованию по лицензии OpenMDW-1.1; базовая модель Ministral-3-8B-Instruct-2512 выпущена под Apache 2.0.

DataikuNLP/paraphrase-multilingual-MiniLM-L12-v2 — копия модели Sentence-Transformers, обученной командой sentence-transformers. Это плотная модель на архитектуре BERT с 124,3 млн параметров: она преобразует предложения и абзацы в векторы размерностью 384 для сравнения смысловой близости. Модель подходит для семантического поиска и кластеризации текстов, а также для других задач, опирающихся на эмбеддинги предложений. Модель принимает текст и выдаёт векторные представления. Она рассчитана на работу с несколькими языками; идентификаторы языков в метаданных отсутствуют. Максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Копия перенесена из репозитория sentence-transformers с конкретного коммита.

unsloth/Phi-4-mini-instruct-bnb-4bit — это 4-битно квантованная версия Phi-4-mini-instruct, разработанная Unsloth на базе модели Microsoft Phi-4-mini-instruct. Модель предназначена для генерации текста, диалогов и выполнения инструкций, включая задачи программирования, математики, рассуждений и NLP. Она поддерживает мультиязычное применение и относится к семейству Phi-4. Модель имеет контекст длиной до 128K токенов и оптимизирована для запуска при сниженных требованиях к памяти благодаря формату 4-bit. В версии Unsloth исправлены проблемы с padding и EOS-токенами, шаблоном чата и unk-токеном; также заявлено использование Dynamic Quants, которые должны обеспечивать более высокую точность по сравнению со стандартным 4-битным квантованием. Базовая модель обучалась на синтетических данных и отфильтрованных общедоступных веб-источниках, а затем проходила supervised fine-tuning и direct preference optimization. Сильные стороны модели — компактность, большой контекст, поддержка инструкций, диалогов, кода и математических задач, а также исправления, повышающие корректность инференса. Ограничения включают снижение точности по сравнению с полноразмерной или менее квантованной версией и отсутствие в предоставленных данных подробностей об архитектуре, точном числе параметров и перечне языков. Модель распространяется по лицензии MIT.

Карточка модели razsarusi/plottwist-embedder на Hugging Face совпадает с карточкой sentence-transformers/all-mpnet-base-v2, поэтому описание составлено по ней. all-mpnet-base-v2 — модель Sentence Transformers, разработанная в ходе Community Week Hugging Face. Она кодирует предложения и короткие абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В основе лежит microsoft/mpnet-base, дообученная контрастивным обучением на более чем миллиарде пар предложений из нескольких наборов данных. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст. Её можно применять для семантического поиска, извлечения информации и группировки похожих фрагментов. Текст длиннее 384 токенов модели обрезается; README рекомендует использовать её как кодировщик предложений и коротких абзацев. Лицензия — Apache-2.0.

RedHatAI/Qwen3-30B-A3B-FP8-block — это текстовая causal language model, разработанная Red Hat на основе Qwen/Qwen3-30B-A3B. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых систем, ответов на вопросы, следования инструкциям, общего анализа текста и программирования. В README также приведены оценки на OpenLLM leaderboard и coding-бенчмарках HumanEval и MBPP. Архитектура модели обозначена как Qwen3MoeForCausalLM. Это версия с FP8-квантизацией весов и активаций линейных операторов внутри transformer-блоков; используется пок блочная квантизация весов и динамическая токенная квантизация активаций. Снижение разрядности с 16 до 8 бит уменьшает размер на диске и требования к GPU-памяти примерно на 50%. Число параметров указано в идентификаторе и базовой модели как 30B-A3B, однако размер контекста и поддерживаемые языки в README не указаны. К сильным сторонам относятся существенно сниженные требования к хранению и памяти при сохранении качества, близкого к исходной модели: средний результат в OpenLLM V1 составил 73,74 против 73,65 у базовой версии. Модель ориентирована на развёртывание с vLLM и форматом compressed-tensors. Ограничения включают возможные потери качества из-за квантизации, а также отсутствие в предоставленных данных подробностей о языковом покрытии и контекстном окне. Модель распространяется по лицензии Apache-2.0.