I.3Извлечение и структурирование данных

CaptainArni/Swift-Qwen3.8-27B-NInfer — артефакт модели Swift-Qwen3.8-27B, разработанной UkisAI на базе Qwen3.8-27B и преобразованной в однофайловый формат NInfer v3 проектом NInfer. Это мультимодальная модель для работы с текстом и изображениями, с поддержкой видео при включении vision-компонента. Она предназначена для диалогов, рассуждений, программирования и генерации структурированного вывода, а также для локального развёртывания через OpenAI-совместимый API. Модель содержит 27 млрд параметров исходной архитектуры, текстовые и vision-компоненты, MTP и опциональный speculative decoding через DFlash2. Используются квантование NVFP4 и FP8, а также форматы BF16 и Q4/Q5/Q6 для отдельных компонентов. Артефакт занимает около 21,2 GiB, веса требуют 18,9 GiB VRAM с MTP или 20,5 GiB с DFlash2. Заявлен максимальный контекст до 262 144 токенов; в примерах конфигурации используется 64 000 токенов. Поддерживается ускоренная генерация с MTP или DFlash2, причём DFlash2 демонстрирует преимущества на коде и структурированном выводе, но требует больше памяти. К сильным сторонам относятся сокращённое число токенов рассуждения, высокая скорость предварительной обработки и меньший объём памяти по сравнению с приведённым официальным NVFP4-артефактом. Ограничения включают зависимость от NVIDIA GPU, Linux и CUDA 12.8+, необходимость использования NInfer, а также ограниченную доказательность заявленных качественных результатов: README описывает лишь небольшое тестирование. DFlash2 обучался на скрытых состояниях базовой Qwen3.8, а не Swift-версии, поэтому его эффективность для этой модели может различаться. Модель распространяется по лицензии swift-open-license-1.0; точные условия следует уточнять по указанному лицензионному документу.

Tele-FLM (также FLM-2) — открытая многоязычная языковая модель на 52,2 млрд параметров, разработанная BAAI и TeleAI. Это плотный декодерный Transformer, обученный примерно на 2 трлн токенов; архитектура использует RoPE, RMSNorm и SwiGLU и во многом совместима с Llama. Контекст модели составляет 4096 токенов. Модель предназначена для генерации текста и извлечения признаков, включая многоязычные запросы и задачи, где важны фактические суждения. В обучающих данных преобладают английский и китайский языки; также включены код и тексты на других языках. Доступны веса и сведения о разработке и обучении модели. Модель распространяется по лицензии Apache 2.0. По предупреждению разработчиков, она может воспроизводить предвзятые или оскорбительные примеры и выдавать небезопасный контент; ответы следует проверять.

Vela-1.0-Encoder-307M-Embedding — мультиязычная модель эмбеддингов на базе ModernBERT, разработанная командой vLLM Semantic Router. Она предназначена для семантического сопоставления запросов, поиска контекста и организации памяти в маршрутизаторах. Модель содержит 306,9 млн параметров, использует 22 слоя и 768 измерений, поддерживает контекст до 32 768 токенов и доступна в форматах Safetensors и ONNX. Модель применима для семантического поиска, извлечения релевантных документов и сравнения предложений на английском, арабском, испанском, японском и китайском языках. В приведённых оценках она превосходит исходную mmBERT Embedding на отдельных задачах MTEB и при поиске по длинным документам; результаты относятся только к перечисленным тестам. Лицензия — Apache-2.0.

airoboros-33b-gpt4-m2.0 — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, созданная Джоном Дурбином как дообучение с инструкциями на синтетических примерах Airoboros. Версия m2.0 объединяет набор данных версии 1.4.1 с данными серии 2.0 без дубликатов и категории system; данные серии 2.0 были сгенерированы GPT-4 от 14 июня 2023 года. Модель работает с текстом и предназначена для диалогов и выполнения инструкций. Модель подходит для ответов на вопросы по заданному контексту, помощи с программированием, планирования действий с инструментами и генерации структурированных ответов в JSON или YAML. Для контекстных вопросов README рекомендует явно размечать блоки входных данных и инструкций; автор также предупреждает, что модель может выдумывать ответы, если контекст не содержит нужной информации. Формат диалога использует префикс USER/ASSISTANT и системное описание помощника. Указанное в метаданных ограничение контекста — 2048 токенов. Для версии на 33 млрд параметров README сообщает о QLoRA-дообучении и исследовательском, некоммерческом назначении. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование не допускается по указанным условиям.

airoboros-l2-13b-2.2.1 — экспериментальная инструкция-ориентированная языковая модель на архитектуре Llama с 12,9 млрд параметров, созданная Джоном Дурбином на основе преимущественно синтетических данных. Это обновлённая версия airoboros-l2-13b-2.2: в ней заново сгенерированы ответы для задач письма, добавлены более длинные контекстные блоки, удалены примеры ролевой игры и изменена степень снятия ограничений. Модель предназначена для выполнения инструкций, ответов на вопросы по предоставленному контексту, суммаризации, генерации текста и кода, а также формирования аргументов функций в JSON или YAML. Для диалога используется текстовый формат с метками USER и ASSISTANT; контекст составляет 4096 токенов. Модель не ориентирована прежде всего на непринуждённый чат и ролевую игру. Карточка характеризует модель как экспериментальную и предупреждает, что при ответах вне заданного контекста она может выдумывать сведения; для закрытых вопросов рекомендуется явно просить не придумывать ответ при недостатке информации. Распространяется по лицензии Llama 2.

Карточка модели tomaarsen/all-MiniLM-L6-v2-backends на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

NVIDIA DeepSeek-V4.1-Flash NVFP4 — квантизированная версия модели DeepSeek-V4.1-Flash, разработанной DeepSeek AI и подготовленной NVIDIA с использованием Model Optimizer. NVIDIA не является владельцем или разработчиком исходной модели. Модель предназначена для коммерческого и некоммерческого применения, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе генеративного ИИ. Это авторегрессионная мультимодальная модель архитектуры Transformer с Mixture-of-Experts и архитектурой Causal Encoder-Decoder, использующая Compressed Sparse Attention 2. Общий размер backbone составляет 552 млрд параметров; во время prefill активируется 8 млрд, во время decode — 16 млрд, дополнительно используется 196 млрд параметров Engram conditional memory. Модель принимает текст и изображения RGB и генерирует текст. Поддерживается контекст до 1 млн токенов. Сведения о поддерживаемых языках в карточке не указаны. Ключевые преимущества — мультимодальность, поддержка сверхдлинного контекста и снижение требований к вычислениям благодаря квантизации NVFP4 W4A4 с размером группы 16. Модель оптимизирована для NVIDIA GPU, прежде всего архитектуры Blackwell, и протестирована на NVIDIA GB300 с использованием vLLM и SGLang. Ограничения включают зависимость от совместимого оборудования и программного окружения, а также необходимость дополнительного тестирования на данных конкретного сценария перед внедрением. Данные исходного обучения не раскрыты; квантизация выполнена с помощью nvidia-modelopt версии 0.47.0rc0. Лицензия — MIT.

Firefly-LLaMA2-Chinese 13B Chat — китайско-английская разговорная модель семейства LLaMA 2, разработанная командой Firefly. Авторы расширили китайский словарь токенизатора LLaMA 2, провели дополнительное предобучение на китайских и английских текстах, а затем дообучили модель на многоходовых инструкциях. Репозиторий содержит веса PyTorch; модель имеет 13 млрд параметров и контекст 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на китайском и английском языках: она может отвечать на вопросы, создавать и переписывать тексты, суммировать, переводить, извлекать информацию, решать задачи по чтению и генерировать код. Расширенный китайский словарь сокращает число токенов для китайского текста примерно на 54% по сравнению с исходным LLaMA 2, что повышает эффективность его обработки. Авторы сообщают об оценках на китайских и английских тестах и ручном сравнении, но отмечают, что дополнительное предобучение использовало около 2 млрд токенов и было ограничено по объёму и распределению данных; это сказывается, в частности, на результатах CMMLU. Лицензия в предоставленных данных не указана.

llmfan46/gemma-4-12B-it-uncensored-heretic — производная от Google Gemma 4 12B IT модель, опубликованная независимым автором. По README это мультимодальная модель для диалога, рассуждений, программирования и понимания текста, изображений, видео и аудио. Вариант 12B построен на плотной архитектуре Gemma 4 Unified с чередованием локального скользящего и глобального внимания; заявленный контекст базовой модели — до 256K токенов. Модель поддерживает многоязычные сценарии и вызов инструментов. В названии и тегах автор характеризует эту версию как uncensored, decensored и abliterated; README сообщает о целевом компоненте attn.o_proj, но не раскрывает конкретную методику изменения модели. Заявлены распознавание речи и перевод речи в текст, а также анализ изображений и последовательностей видеокадров. Возможные применения включают диалоговых помощников, извлечение сведений из документов и изображений, суммаризацию и генерацию кода. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и быть ненадёжными при неоднозначных или сложных запросах. Указанная в метаданных лицензия — Apache-2.0.

Calandracas/gpt-oss-120b-Derestricted-GGUF — это GGUF-квантизированная версия модели gpt-oss-120b-Derestricted, созданная Arli AI на базе открытой весовой модели openai/gpt-oss-120b от OpenAI. Модель предназначена для генерации текста, задач общего назначения, сложного рассуждения и агентских сценариев, включая вызов функций, веб-браузинг, выполнение Python-кода и структурированный вывод. Архитектура исходной модели основана на Mixture-of-Experts: заявлено около 117 млрд параметров, из которых примерно 5,1 млрд активируются при обработке запроса. Модель поддерживает настраиваемый уровень рассуждения — low, medium и high — и обучена работать в формате ответов Harmony, без которого, согласно карточке, она функционирует некорректно. В README не указаны поддерживаемые языки и точный размер контекста. GGUF-формат ориентирован на локальный запуск совместимыми средствами. Ключевая особенность версии Derestricted — удаление значительной части отказов и ограничивающего поведения при сохранении возможностей рассуждения исходной модели. Для этого Arli AI применила метод Norm-Preserving Biprojected Abliteration, направленный на сохранение норм весов и снижение деградации логики по сравнению с обычной abliteration. При этом модель может иногда сохранять склонность к отказам, а снижение встроенных ограничений повышает риски небезопасного или нежелательного использования. Для производственного запуска также требуются значительные вычислительные ресурсы; исходная модель рассчитана на размещение в одной GPU с 80 ГБ памяти. Лицензия — Apache 2.0.

mlx-community/gpt-oss-20b-OptiQ-4bit — это квантизированная MLX-версия языковой модели openai/gpt-oss-20b, подготовленная проектом mlx-optiq для локального запуска на компьютерах Apple Silicon. Модель предназначена для генерации текста, рассуждений, решения математических задач, следования инструкциям, вызова функций, программирования и поиска информации в длинном контексте. Заявленный язык — английский. В основе лежит 24-слойная MoE-архитектура с 32 экспертами, из которых 4 активируются для каждого токена, а также с attention sinks. Используется чувствительная к слоям смешанная квантизация: 33 слоя представлены в 4-битном формате, 88 — в 8-битном; итоговая точность составляет 5,03 бита на вес. Размер модели на диске — около 11 ГБ, в оперативной памяти при работе требуется примерно 11,6 ГБ. Модель поддерживает reasoning_effort со значениями low, medium и high и формат ответов harmony с каналами analysis и final. По приведённым тестам модель заметно превосходит равномерную 4-битную квантизацию на MMLU, GSM8K, IFEval, BFCL, HumanEval и HashHop, особенно в задачах многошагового извлечения из длинного контекста. Ограничения включают отсутствие квантизации KV-cache и зависимость от экосистемы MLX и Apple Silicon; README также указывает, что модель является квантизацией только весов. Распространяется по лицензии Apache-2.0.

cyankiwi/granite-4.0-h-micro-AWQ-4bit — 4-битная AWQ-квантизованная версия Granite-4.0-H-Micro, разработанной командой Granite и IBM. Базовая модель содержит около 3 млрд параметров, относится к длинноконтекстным инструкционным языковым моделям и дообучена на открытых инструкционных и синтетических данных с применением supervised fine-tuning, reinforcement learning и объединения моделей. Модель предназначена для выполнения общих инструкций и создания AI-ассистентов, в том числе для бизнес-приложений. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи, связанные с кодом, function calling, многоязычный диалог и Fill-In-the-Middle для автодополнения кода. Заявлены улучшенные следование инструкциям и вызов инструментов. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевое ограничение — README не указывает точный размер контекстного окна, архитектурные детали и результаты бенчмарков. Квантизация AWQ-4bit рассчитана на более экономичное развертывание, однако конкретные требования к оборудованию и потери качества для этой версии не приведены. Модель распространяется по лицензии Apache 2.0.

Hermes-4.3-36B-GGUF — языковая модель для генерации текста, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Она предназначена для диалогов, рассуждений, решения математических и логических задач, программирования, STEM-сценариев, творческого письма, ролевого общения, вызова функций и работы со структурированными ответами. Модель имеет размер 36 млрд параметров и поддерживает гибридный режим с рассуждением: при необходимости она формирует сегменты <think>...</think>, а также может работать без явного рассуждения. В обучении использовался посттренировочный корпус примерно из 5 млн примеров и 60 млрд токенов. Hermes 4.3 ориентирована на соблюдение схем JSON, исправление некорректных структурированных объектов, управляемость и широкий спектр форматов вывода. В README заявлен английский язык; размер контекстного окна и полный перечень поддерживаемых языков не указаны. К сильным сторонам относятся улучшенные результаты в математике, коде, логике, STEM и следовании инструкциям, а также поддержка function calling, tool use и structured outputs. Ограничения модели включают отсутствие в представленном README сведений о конкретной GGUF-квантизации, требованиях к оборудованию и размере контекста. Результаты на SimpleQA заметно ниже других приведённых показателей, поэтому фактические ответы следует проверять. Модель распространяется по лицензии Apache-2.0.

Карточка модели muhamad-geosurge/invert-polarity-655db4cc-31b8-41ce-b21b-da1421dcc629 на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.

QuantFactory/Llama3.1-8B-Fireplace2-GGUF — квантизированная версия языковой чат-модели ValiantLabs/Llama3.1-8B-Fireplace2, созданная с использованием llama.cpp. В основе лежит Llama 3.1 8B Instruct; модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Дата исходного выпуска Fireplace 2 — 23 июля 2024 года. Модель ориентирована на обычный чат и техническое ассистирование, а также на формирование структурированных ответов по запросу. Она поддерживает inline function calls, SQL-запросы, JSON-объекты и генерацию примеров визуализации данных с помощью matplotlib, позволяя сочетать обычный текст и структурированные форматы в одном диалоге. Для работы используются формат промптов Llama 3.1 Instruct и специальные маркеры запросов соответствующего типа. Ключевое преимущество модели — расширение возможностей Llama 3.1 8B Instruct функциями для интеграции с инструментами, базами данных и задачами визуализации. GGUF-квантизация и создание через llama.cpp ориентированы на локальный запуск, однако конкретный вариант квантизации, требования к памяти, размер контекста и поддерживаемые форматы файлов в представленном README не указаны. Модель является текстовой и не предназначена для обработки изображений или других мультимодальных данных. Лицензия указана как llama3.1; условия её применения следует уточнять в лицензии исходной модели.

Карточка модели crusoeai/Llama-3.3-70B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.3-70B-Instruct, поэтому описание составлено по ней. Meta Llama 3.3 70B Instruct — мультиязычная генеративная языковая модель Meta для диалогов и следования инструкциям. Это авторегрессионный трансформер на 70 млрд параметров, дообученный с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей. Модель принимает и выдаёт текст, поддерживает контекст до 128 тысяч токенов и оптимизирована для диалоговых сценариев. Модель подходит для создания ассистентов, ответов на вопросы, написания и преобразования текстов, а также генерации синтетических данных. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; русский среди них не указан. Для инференса описана библиотека Transformers, а контрольные точки можно использовать с 8- и 4-битной загрузкой через bitsandbytes для снижения требований к памяти. Модель статична и обучена на офлайн-данных с отсечкой знаний в декабре 2023 года. Она не принимает изображения, аудио или видео; качество и безопасность ответов требуют оценки и мер защиты в конкретном приложении. Использование регулируется пользовательским соглашением Llama 3.3 Community License, включая его ограничения и Acceptable Use Policy.

Meta Llama 3.3 70B Instruct — мультиязычная генеративная языковая модель Meta для диалогов и следования инструкциям. Это авторегрессионный трансформер на 70 млрд параметров, дообученный с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей. Модель принимает и выдаёт текст, поддерживает контекст до 128 тысяч токенов и оптимизирована для диалоговых сценариев. Модель подходит для создания ассистентов, ответов на вопросы, написания и преобразования текстов, а также генерации синтетических данных. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; русский среди них не указан. Для инференса описана библиотека Transformers, а контрольные точки можно использовать с 8- и 4-битной загрузкой через bitsandbytes для снижения требований к памяти. Модель статична и обучена на офлайн-данных с отсечкой знаний в декабре 2023 года. Она не принимает изображения, аудио или видео; качество и безопасность ответов требуют оценки и мер защиты в конкретном приложении. Использование регулируется пользовательским соглашением Llama 3.3 Community License, включая его ограничения и Acceptable Use Policy.

LongChat-7B-v1.5-32k — языковая модель Large Model Systems Organization (LMSYS) для генерации текста и диалогов, рассчитанная на работу с длинными контекстами. Она основана на архитектуре LLaMA с причинно-языковой моделью LlamaForCausalLM и содержит около 6,6 млрд параметров. Конфигурация репозитория задаёт максимальную длину последовательности 32 768 токенов и масштабирование RoPE для длинного контекста. Модель подходит для диалоговых ответов, генерации текста и обработки длинных документов в одном запросе. Доступна по лицензии Apache-2.0. Метаданные каталога указывают 4096 native context tokens, тогда как конфигурация и назначение репозитория указывают расширенную длину до 32 768 токенов; фактическое качество на длинном контексте может зависеть от сценария использования.

fedric95/Meta-Llama-3.1-8B-GGUF — это квантованная версия большой языковой модели Meta-Llama-3.1-8B, подготовленная пользователем fedric95 в формате GGUF. Модель предназначена для генерации текста и работы в сценариях, где требуется локальный или ресурсосберегающий запуск языковой модели, включая диалоговые приложения, написание и преобразование текста, извлечение информации и другие задачи обработки естественного языка. Модель относится к семейству Llama 3.1 и содержит 8 миллиардов параметров. Она работает с текстом; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Квантование в формате GGUF может снизить требования к памяти и упростить запуск на совместимом оборудовании, однако конкретный уровень квантования, размер контекста, точные требования к ресурсам и показатели качества в README не указаны. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов требуется предоставить копию лицензии, указывать «Built with Llama», сохранять установленное уведомление об авторских правах и соблюдать применимые законы и Acceptable Use Policy. Для продуктов с более чем 700 миллионами ежемесячно активных пользователей предусмотрено требование получить отдельную лицензию Meta.

MiniCPM-o 2.6 — мультимодальная модель команды OpenBMB для понимания изображений, аудио и видео, а также голосового общения и потоковых сценариев. По карточке она построена как сквозная система на основе SigLip-400M, Whisper-medium-300M, ChatTTS-200M и Qwen2.5-7B; в метаданных указано 7,1 млрд параметров, плотная архитектура MiniCPMO и контекст 32 768 токенов. Модель доступна через Transformers и распространяется по лицензии Apache-2.0. Модель принимает текстовые запросы, изображения, аудио и непрерывные аудио-видеопотоки. Она отвечает текстом и может вести голосовой диалог с настраиваемыми голосом, эмоцией, скоростью и стилем; также поддерживает клонирование голоса. README описывает распознавание речи, анализ говорящих, аудиоподписи, классификацию звуковых сцен, OCR, понимание нескольких изображений и видео, а также мультимодальное общение в реальном времени. Заявлена поддержка более 30 языков для мультимодальных задач и двуязычный речевой диалог на английском и китайском. Среди заявленных сильных сторон — обработка изображений с разными пропорциями сторон, высокая плотность визуальных токенов и возможность локального запуска на устройствах с ограниченными ресурсами в подходящих сборках. README указывает на совместимость с Transformers 4.44.2 и предупреждает о возможных проблемах совместимости с другими версиями; работа с потоковыми аудио-видео данными требует соответствующей реализации и оборудования. Заявленные результаты бенчмарков приведены авторами модели и зависят от условий оценки.

MMLW-e5-large — польский текстовый энкодер, разработанный авторами семейства MMLW. Модель основана на мультиязычном чекпойнте E5 и обучена методом дистилляции знаний на корпусе из 60 миллионов польско-английских пар текстов; учителями служили английские модели FlagEmbeddings (BGE). Архитектура — XLM-RoBERTa, размер — 658,7 млн параметров, выход — векторы эмбеддингов размерностью 1024. Контекст составляет до 514 токенов. Модель предназначена для семантического поиска и сопоставления текстов, кластеризации и извлечения информации, а также может служить основой для дальнейшего дообучения. Для кодирования запросов требуется префикс «query: », а для документов — «passage: ». В карточке приведены результаты на польских бенчмарках MTEB и PIRB. Доступна по лицензии Apache-2.0.

ModernBERT-embed-large — модель LightOn на архитектуре ModernBERT для создания векторных представлений текста и сравнения сходства предложений. Она основана на ModernBERT-large и объединяет его с ModernBERT-embed-large-unsupervised; модель дообучалась на слабоконтролируемых и размеченных наборах данных Nomic Embed. Веса содержат около 394,7 млн параметров, поддерживают контекст до 8192 токенов и эмбеддинги размерностью 1024, которые можно сократить до 256 с помощью Matryoshka Representation Learning. Модель предназначена для семантического поиска, извлечения релевантных документов, кластеризации, классификации и оценки сходства пар текстов. В карточке приведены результаты на бенчмарке MTEB по поиску, переранжированию, классификации и другим задачам. Вход и выход — текст и его векторное представление. Основной заявленный язык — английский. Доступны форматы safetensors и ONNX; карточка описывает использование через Transformers, Sentence Transformers и Transformers.js. Лицензия — Apache-2.0. Качество может зависеть от предметной области и языка; результаты при сокращении вектора немного отличаются от результатов с полным вектором. Оценки бенчмарков не гарантируют аналогичное качество на конкретных данных.

Multilingual-E5-small — модель текстовых эмбеддингов, основанная на архитектуре BERT и обученная авторами работы Liang Wang и соавторов методом контрастивного предобучения на слабой разметке. В репозитории maiyad/multilingual-e5-small представлены веса модели размером 124,3 млн параметров; модель имеет 12 слоёв и выдаёт векторы размерности 384. Она основана на microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных датасетов. Модель предназначена для поиска и сравнения текстов: семантического сходства, поиска пассажей по запросу, поиска перефразировок и межъязыкового поиска. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к тексту для поиска — «passage: »; для ряда симметричных задач и извлечения признаков рекомендуется префикс «query: ». Модель поддерживает 100 языков, но для языков с малым объёмом обучающих данных качество может быть ниже. Контекст ограничен 512 токенами, длинные тексты усекаются. Лицензия — MIT.

thelamapi/next2.5-i1-GGUF — GGUF-версия Next 2.5, мультимодальной vision-language модели примерно на 4 млрд параметров, разработанной и дообученной компанией Lamapi в Турции на базе Qwen 3.5-4B. Модель ориентирована на работу с текстом и изображениями, включая анализ документов и OCR, визуально-пространственные задачи, рассуждения, математику, программирование и генерацию текста. В README также заявлена поддержка видео, включая длительные видеоматериалы. Модель поддерживает турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; при этом особый акцент сделан на турецком и английском языках и культурном контексте Турции. Заявлен режим рассуждений с блоками <think>...</think> перед ответом и контекст до 262 144 токенов. Обучение включало instruction tuning и DPO, а также наборы данных для рассуждений, мультимодальных задач и генерации текста. К сильным сторонам относятся сочетание компактного размера, мультимодальности, заявленной производительности в задачах знаний и рассуждений и возможность использования на периферийных устройствах. Ограничения включают небольшой по современным меркам объём модели, возможные ошибки в распознавании изображений, видео и фактах, а также то, что приведённые в README сравнительные результаты не подтверждены независимой проверкой. Модель распространяется по лицензии Apache-2.0.

Param2-17B-A2.4B-Thinking — мультиязычная языковая модель BharatGen на архитектуре Mixture-of-Experts. В README заявлено 17 млрд параметров всего и 2,4 млрд активных на токен, а в метаданных Hugging Face указано 1,7 млрд параметров; поэтому размер модели в каталоге расходится между источниками. Модель использует 64 специализированных эксперта и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов на английском, хинди и 21 индийском языке. Заявлены рассуждения, математика, генерация кода и вызов инструментов; модель можно применять для длинных многоязычных запросов, структурированных ответов и последующей тонкой настройки. В метаданных подтверждены библиотека Transformers, формат safetensors и чат-возможность. README рекомендует детерминированное декодирование для стабильных ответов и указывает требование Transformers 4.52.3. Сведения о лицензии в предоставленных данных отсутствуют.

lmstudio-community/Qwen2.5-3B-Instruct-GGUF — это квантованная версия языковой модели Qwen2.5-3B-Instruct, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев и работы с инструкциями, включая понимание и генерацию структурированных данных. Модель поддерживает контекст до 32 тысяч токенов и генерацию до 8 тысяч токенов. Она обучена работать более чем с 29 языками, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся широкий охват знаний, многоязычность и поддержка длинного контекста. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Модель распространяется по лицензии Qwen Research; применимые условия указаны в лицензии исходной модели Qwen2.5-3B-Instruct.

JunHowie/Qwen3-4B-Instruct-2507-GPTQ-Int4 — это 4-битная GPTQ-квантованная версия инструкционной языковой модели Qwen3-4B-Instruct-2507, созданная на базе модели Qwen/Qwen3-4B-Instruct-2507. Репозиторий содержит квантование с размером группы 128 и настройкой desc_act=False, которая, согласно описанию, повышает эффективность генерации токенов по сравнению с более ранними квантованными версиями. Модель предназначена для генерации текста и выполнения инструкций, включая понимание текста, логическое рассуждение, математику, науку, программирование, использование инструментов и открытые творческие задачи. Она поддерживает несколько языков и рассчитана на работу в режиме без рассуждений: модель не генерирует блоки <think></think>. Базовая архитектура — causal language model с 4,0 млрд параметров, 3,6 млрд параметров без учёта эмбеддингов, 36 слоями и Grouped Query Attention: 32 головы для Q и 8 для KV. Нативная длина контекста составляет 262 144 токена. Квантование уменьшает требования к памяти и может быть полезно для локального или высокопроизводительного развертывания, в частности через vLLM; для работы указана зависимость vllm>=0.9.2. Ограничения связаны с потерями качества, возможными при 4-битном квантовании, а также с тем, что это текстовая, а не мультимодальная модель. Лицензия — Apache 2.0.

Qwen3.5-35B-A3B — мультимодальная модель Alibaba, опубликованная в формате Transformers и дообученная на базе Qwen/Qwen3.5-35B-A3B. Она предназначена для диалога, рассуждений, анализа изображений и агентных сценариев с вызовом инструментов. Модель принимает текст и изображения и генерирует текст; её архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 35 млрд параметров, из которых активируются около 3 млрд. В модели 40 слоёв, а нативное контекстное окно составляет 262 144 токена и может расширяться примерно до 1,01 млн токенов. В README заявлена поддержка 201 языков и диалектов. Модель доступна в формате safetensors, совместима с Transformers, vLLM, SGLang и KTransformers и распространяется по лицензии Apache-2.0. Для работы с длинным контекстом и изображениями могут требоваться значительные вычислительные ресурсы; авторы рекомендуют при нехватке памяти уменьшить контекстное окно, сохраняя по возможности не менее 128 тысяч токенов для сложных задач.

Qwen3.8-27B Hi-Fi (fraQtl) — это текстовая GGUF-версия модели Qwen3.8-27B, подготовленная участником сообщества fraQtl на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, включая задачи программирования, математики, общие текстовые сценарии и работу с длинным контекстом. Визуальная башня исходной модели не конвертирована, поэтому мультимодальные возможности в этой сборке отсутствуют. Модель использует квантизацию Q4_K_M с эффективностью около 4,8 бит на параметр и занимает примерно 16,5 ГБ, что ориентирует её на системы класса Snapdragon X-Elite и AI-PC, а не на смартфоны. Заявлен нативный контекст до 262 144 токенов; тестирование извлечения информации подтверждено для последовательностей длиной до 131 072 токенов. По данным README, по сравнению с эталонными сборками того же класса она обеспечивает более близкое к исходным весам поведение на задачах кода и математики, а также сопоставимые результаты на GSM8K и MATH-500. Ограничения включают возможное небольшое ухудшение качества: perplexity на Wikitext-2 выше на 0,7%, а совпадение ответов с исходной моделью в общих задачах ниже на 0,2 процентного пункта. Поддерживаемые языки отдельно не указаны. Модель распространяется по лицензии Apache-2.0.

sergeyzh/rubert-large-uncased-sts — плотная BERT-модель, разработанная Sergeyzh для получения эмбеддингов русских и английских текстов. Эмбеддинги дистиллированы из Qwen/Qwen3-Embedding-4B. Модель предназначена для оценки семантического сходства предложений (STS), поиска перефразов, дедупликации и задач логического вывода NLI. Модель имеет 12 слоёв, размер эмбеддинга 1024 и контекст до 512 токенов. Для работы через Sentence Transformers специальные префиксы не требуются. Её также можно использовать как основу для дообучения под пользовательскую классификацию и кластеризацию. В README приведены результаты оценки на русских и английских бенчмарках семантического сходства; показатели на русских наборах близки к Qwen3-Embedding-4B, а на английских ниже. Модель распространяется по лицензии MIT.