I.3Извлечение и структурирование данных

agentlans/multilingual-e5-small-aligned — дообученная модель Sentence Transformers на основе intfloat/multilingual-e5-small, разработанная для сопоставления предложений и абзацев в общем векторном пространстве. Архитектура основана на BERT: модель усредняет токенные представления, нормализует результат и выдаёт плотные эмбеддинги размерности 384. Максимальная длина последовательности — 512 токенов; для сравнения используется косинусное сходство. Модель подходит для семантического поиска, сравнения смысловой близости текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Она обучалась на парах предложений из набора agentlans/en-translations с функцией потерь MultipleNegativesRankingLoss, что указывает на межъязыковое выравнивание переводов. Карточка не перечисляет поддерживаемые языки, поэтому конкретные языковые коды не приводятся. Лицензия в предоставленных данных не указана.

Карточка модели iliakabanov/multillingual-dense-retriever на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.

good-ai-club/NBB — модель Sentence-Transformers на архитектуре BERT, разработчик которой указан в идентификаторе репозитория как good-ai-club. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 135,5 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Модель подходит для построения текстового поиска по смыслу, ранжирования или группировки похожих фрагментов. В README указан обучающий лосс CosineSimilarityLoss. Сведения о лицензии и конкретном языке обучения не приведены; качество зависит от соответствия входных данных обучающим данным модели.

MrFuzzihead/Nex-N2.5-mini-APEX-GGUF — набор GGUF-квантизированных вариантов мультимодальной агентной модели Nex-N2.5-mini, разработанной Nex-AGI. Квантизация выполнена MrFuzzihead методом APEX, созданным командой LocalAI для llama.cpp и учитывающим структуру Mixture-of-Experts. Модель предназначена для долгих агентных сценариев в реальном мире: управления компьютером, веб-сёрфинга, визуально обоснованных рабочих процессов, проверки результатов и самокоррекции. Она также поддерживает генерацию текста, рассуждения и вызов инструментов. Базовая модель содержит около 35 млрд параметров, использует 256 маршрутизируемых экспертов, из которых 8 активируются на каждом токене, а также общего эксперта. Архитектура включает 40 слоёв с гибридом полного внимания и линейного внимания/SSM; полное внимание используется только в 10 слоях, что снижает нагрузку на KV-кэш. Поддерживаются текст, изображения и видео с временными патчами, контекст до 262 144 токенов, адаптивное рассуждение с уровнями none, medium и high, а также вызов функций в формате Qwen3-Coder. Основной язык и полный перечень языков README не уточняет. Репозиторий предлагает варианты размером примерно от 10,15 до 23,60 ГБ и отдельные vision-проекторы BF16 или Q8_0. Это позволяет выбирать между качеством и требованиями к памяти: старшие варианты рассчитаны примерно на видеокарты с 24 ГБ памяти, компактные — на 12–24 ГБ. APEX применяет разную точность к экспертам, слоям, вниманию и SSM, сохраняя более высокую точность в важных компонентах; варианты с importance matrix ориентированы на лучшее качество и меньшую потерю информации. Ограничения включают неизбежные потери качества квантизации, дополнительные требования к памяти для vision-проектора, KV-кэша и служебных накладных расходов, а также зависимость совместимости от llama.cpp и поддержки мультимодального запуска. Лицензия — Apache-2.0.

Stern5497/nir-2024-xlm-roberta-base — модель Sentence Transformers, дообученная на базе FacebookAI/xlm-roberta-base. Она преобразует предложения и абзацы в плотные векторы размерности 768, которые сравниваются с помощью косинусного сходства. Модель содержит 305,2 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для поиска семантически близких текстов и оценки сходства предложений; её также можно применять для поиска перефразирований, кластеризации и классификации текста. Архитектура включает XLM-RoBERTa и mean pooling. Карточка указывает обучающий набор из 164 848 примеров с тремя текстовыми полями; лицензия и конкретный перечень языков в предоставленных данных не приведены.

cnmoro выпустил компактную модель статических текстовых эмбеддингов на основе nomic-embed-text-v2-moe. Она создана с помощью Tokenlearn: автор сгенерировал эмбеддинги для 23 млн триплетов MS MARCO исходной моделью, а затем обучил на них Model2Vec-модель. Размер выходного вектора — 768 измерений; для загрузки автор рекомендует библиотеку Model2Vec, а метаданные также указывают Sentence Transformers. Модель предназначена для семантического поиска, сравнения предложений и извлечения релевантных документов. В карточке приведена оценка именно этой дистиллированной версии. Репозиторий создан 15 июня 2025 года и распространяется по лицензии Apache-2.0. Метаданные указывают английский и португальский языки; обучающие данные включают португалоязычные триплеты MS MARCO.

Nemotron-3-Nano-30B-A3B-GGUF — это квантизированная GGUF-версия языковой модели NVIDIA Nemotron-3-Nano-30B-A3B, подготовленная пользователем bartowski на базе NVIDIA. Квантизация выполнена с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на задачи общего назначения, включая работу с текстом, кодом, математикой, научными данными, следование инструкциям и агентские сценарии. В метаданных указаны поддерживаемые языки: английский, испанский, французский, немецкий, японский и итальянский. Архитектурные подробности и размер контекста в README не указаны; из названия известно обозначение 30B A3B. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Рекомендуемыми названы варианты Q6 и Q4. Сильная сторона модели — широкий выбор квантизаций и возможность локального запуска при существенно меньших требованиях к памяти по сравнению с полными BF16-весами. При этом более сильная квантизация может снижать качество генерации, а низкокачественные варианты предназначены прежде всего для систем с ограниченным объёмом RAM. Лицензия указана как NVIDIA Open Model License; точные условия следует уточнять в тексте лицензии NVIDIA.

Ornith-1.5-9B-NVFP4-MTP-GGUF — это квантованный GGUF-артефакт модели Ornith-1.5-9B, разработанной ornith-ai и подготовленной пользователем Avifenesh. Модель предназначена для генерации текста, диалоговых сценариев, работы с кодом и задач, поддерживающих XML-вызов инструментов и рассуждения в формате <think>. Артефакт ориентирован на инференс через tiyuvta serving engine и GPU архитектуры NVIDIA Blackwell; для upstream llama.cpp и Ollama рекомендуется использовать официальные BF16–Q8_0 GGUF-файлы без MTP-головы. Основная модель имеет 9 млрд параметров, контекст до 262 144 токенов, словарь размером 248 320 и текстовую text-to-text модальность; vision tower в этот артефакт не включён. Используется NVFP4-квантизация с 4-битными весами и FP8-масштабами на блок, при этом эмбеддинги и выходная голова представлены в Q5_K, а нормы — в F32. Размер файла составляет около 5,4 ГБ вместо 18,8 ГБ в BF16. В артефакт добавлена MTP-голова, заимствованная из Qwen3.5-9B; она используется для speculative decoding и не должна изменять итоговые токены, поскольку каждый спрогнозированный токен проверяется целевой моделью. На тестах заявлена токен-в-токен идентичность с обычной greedy-декодировкой и принятие до 59% черновых токенов при K=3, однако показатели производительности в токенах в секунду не приводятся и зависят от оборудования. Лицензия основного Ornith-1.5-9B указана как MIT; MTP-голова происходит из Qwen3.5-9B под Apache-2.0.

Mungert/Phi-4-mini-instruct.gguf — GGUF-версия модели Phi-4-mini-instruct, разработанной Microsoft и распространяемой на основе этой модели. Это компактная открытая instruction-tuned модель для генерации текста, диалогов, следования инструкциям, рассуждений, генерации кода и function calling. Модель ориентирована на локальный запуск с ограниченными ресурсами и низкой задержкой, а также поддерживает сценарии чат-комплитов. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-источниках; для улучшения следования инструкциям и безопасности применялись supervised fine-tuning и direct preference optimization. Заявлена поддержка контекста до 128K токенов и мультиязычных сценариев, однако конкретный перечень языков в README не указан. Для диалогов используется специальный chat format, а для вызова инструментов предусмотрен структурированный формат с описанием функций в JSON. Преимуществами являются открытая доступность, большой контекст, поддержка reasoning, генерации кода и function calling, а также наличие GGUF-формата, подходящего для локального inference. Ограничения зависят от аппаратной конфигурации и выбранной квантизации; в описанном CPU-сценарии на шести потоках загрузка занимала около 15 секунд, а inference был медленным и обрабатывал только один пользовательский запрос одновременно. Модель распространяется по лицензии MIT.

bunnycore/Qwen2.5-7B-Instruct-Fusion — языковая модель для генерации текста, созданная автором репозитория с помощью слияния нескольких предварительно обученных моделей методом Model Stock через mergekit. В качестве основы использована Qwen/Qwen2.5-7B; также объединены rombodawg/Rombos-LLM-V2.5-Qwen-7b, fblgit/cybertron-v4-qw7B-MGS и sethuiyer/Qwen2.5-7B-Anvita. Модель имеет плотную архитектуру Qwen2 и 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Подходит для диалогов и широких задач генерации текста; в README приведены результаты оценивания на IFEval и BBH. Веса опубликованы в формате Safetensors и указана библиотека Transformers. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

Qwen2.5 Ultimate 14B Instruct — объединённая инструкционная языковая модель, созданная автором qingy2024 методом TIES из Qwen2.5-14B-Instruct и Qwen2.5 Math 14B Instruct на базе Qwen2.5-14B. Модель с плотной архитектурой Qwen2 и 14 млрд параметров предназначена для диалогов и генерации текста; объединение также ориентировано на математические задачи и ответы по инструкциям. Модель принимает текст и генерирует текст. В карточке заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Контекстное окно составляет до 131 072 токенов. В карточке приведены результаты оценивания на наборах IFEval, BBH, MATH, GPQA, MuSR и MMLU-Pro; эти показатели относятся к указанным тестовым настройкам и сами по себе не гарантируют качество в прикладных сценариях. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

Qwen3-4B-GGUF — это квантизированная версия языковой модели Qwen3-4B, разработанной командой Qwen. Квантизацию в формате GGUF выполнил bartowski на основе llama.cpp, релиз b5200. Модель предназначена для локального запуска и генерации текста. Модель поддерживает режимы рассуждения и обычной генерации, а также параметр /no_think для отключения рассуждений. Она ориентирована на следование инструкциям, творческое письмо, ролевые сценарии, многошаговые диалоги, математику, программирование, задачи на здравый смысл и агентские сценарии. Заявлена поддержка более 100 языков и диалектов. Максимальная длина контекста составляет до 131 072 токенов при использовании YaRN, при этом значение по умолчанию указано как 32 000 токенов. Сильными сторонами являются улучшенные способности к рассуждению, широкий языковой охват и возможность выбора между режимами с рассуждением и без него. Ограничения включают типичные для языковых моделей риски неточных, вредных или неподходящих ответов; кроме того, README не содержит сведений о конкретном варианте квантизации, требованиях к ресурсам и лицензии.

Qwen3.5-9B-NVFP4 — квантизированная версия модели Qwen3.5-9B, разработанной командой Qwen и опубликованной в репозитории apolo13x. Это мультимодальная модель формата image-text-to-text: она принимает текст и изображения, а генерирует текстовые ответы. Модель предназначена для диалоговых сценариев, анализа изображений и решения текстовых задач. Веса и активации сжаты до формата NVFP4 (4-bit) с помощью llm-compressor. Для калибровки использовано 512 образцов из набора nvidia/Nemotron-Post-Training-Dataset-v2, включая 256 примеров с рассуждением и 256 без него. Размер модели уменьшен с 18,0 до 11,5 ГБ, примерно в 1,6 раза; заявленное среднее восстановление точности составляет 97,3%. Максимальная длина последовательности при калибровке — 4096 токенов. По результатам оценки в режиме рассуждений модель набрала в среднем 86,11% против 88,36% у исходной Qwen3.5-9B: 74,24% на GPQA Diamond, 92,69% на IFEval и 91,39% на MMLU-Redux. Квантизация снижает требования к хранению и инференсу, но может приводить к некоторой потере качества относительно исходной модели. Указана поддержка vLLM 0.17.0 и reasoning parser qwen3. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная модель семейства Qwen3.5, дообученная и собранная DavidAU совместно с Nightmedia на основе нескольких собственных дообучений Qwen3.5-9B. Это плотная архитектура с 9 млрд параметров, 32 слоями и зрительным энкодером; модель принимает текст и изображения и формирует текстовые ответы. В карточке заявлены контекст до 256 тыс. токенов, режимы рассуждения и диалога, а также интерфейс вызова инструментов. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования и творческого письма, включая ролевые сценарии. По заявлению автора, она прошла многоэтапное дообучение и слияние моделей; опубликованы также варианты GGUF, включая квантизованные и MTP-сборки, но эта карточка содержит исходные веса BF16 в safetensors. Автор приводит сравнительные результаты тестов, однако они не гарантируют превосходства на любых задачах. Модель помечена как uncensored; лицензионные условия — Apache-2.0.

AtomicChat/Qwen3.6-27B-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.6-27B, подготовленный и самостоятельно квантизированный командой Atomic Chat из оригинальных весов с использованием importance matrix. Модель предназначена для локального и полностью офлайн-использования в задачах генерации текста, диалоговых сценариях, программировании, фронтенд-разработке и рассуждениях на уровне репозитория. Для работы рекомендуется использовать llama.cpp и применять шаблон чата Qwen3.6 через параметр --jinja. Модель содержит 27,8 млрд параметров, имеет плотную decoder-архитектуру с 64 слоями, 24 attention heads и 4 KV heads, словарь из 248 320 токенов и контекст до 262 144 токенов. Базовая Qwen3.6-27B поддерживает текст и изображения, однако представленные в этом репозитории GGUF-файлы являются текстовыми и не содержат vision projector. Доступны варианты квантизации от Q2_K до Q8_0; Q4_K_M заявлен как оптимальный баланс размера, скорости и качества, а Q6_K и Q8_0 обеспечивают более высокую точность при повышенных требованиях к памяти. К сильным сторонам относятся офлайн-запуск, широкий выбор размеров, калибровка всех вариантов с importance matrix и сохранение большинства характеристик полноточной модели, особенно начиная с Q4_K_M. Ограничения включают потерю качества в низкобитных вариантах, значительные требования к оперативной или видеопамяти и отсутствие поддержки изображений в поставляемых файлах. В README указана лицензия Apache-2.0.

Qwen3.8-27B-OBLITERATED-W4A16-24GB — это 4-битная GPTQ-квантизованная версия модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, опубликованная пользователем quocbao747. Модель предназначена для генерации текста, диалогов, программного кода и задач рассуждения; она рассчитана на запуск через vLLM с ядром Marlin на одной видеокарте объёмом 24 ГБ, например RTX 4090. Модель содержит 27 млрд параметров и использует схему W4A16: int4-квантизация весов с симметричным group size 128 и статическим actorder. Формат — compressed-tensors/pack-quantized. Сохранены vision tower для мультимодальных возможностей и MTP head для speculative decoding, однако поддерживаемые языки и точный перечень мультимодальных сценариев в карточке не указаны. Заявлен контекст до 81 920 токенов, а в измерениях на RTX 4090 максимальный фактически помещавшийся запрос составлял 72 000 токенов с учётом служебных токенов шаблона. К сильным сторонам относятся небольшое для модели такого размера потребление памяти, высокая скорость декодирования и близкое к исходной модели качество: результат MMLU составил 81,63% против 82,3% у исходной версии в BF16. Ограничения включают снижение качества из-за квантизации, значительный рост времени обработки длинных промптов и резкое ухудшение задержек при высокой конкуренции и больших контекстах. Модель распространяется по лицензии Apache-2.0.

zecafonso/Qwen3-Embedding-4B-384 — текстовая модель Sentence Transformer, дообученная на базе Qwen/Qwen3-Embedding-4B. Она преобразует предложения и абзацы в плотные векторы размерностью 2560 для семантического поиска, извлечения релевантных документов и сравнения текстов. В архитектуре Qwen3 используются извлечение скрытых состояний, pooling по последнему токену и нормализация; сходство можно оценивать косинусной мерой. Модель принимает текст, максимальная длина последовательности в README указана как 384 токена, тогда как метаданные указывают базовый контекст 40960 токенов; для этой дообученной версии следует ориентироваться на ограничение README. Языковая поддержка явно не перечислена, но базовая модель описана в каталоге как мультиязычная. README приводит результаты оценки на двух наборах для информационного поиска, однако это ограниченные выборки и они не гарантируют качество на других данных. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели emee-ai/Qwen3-Embedding-8B-mxfp8 на Hugging Face совпадает с карточкой mlx-community/Qwen3-Embedding-8B-mxfp8, поэтому описание составлено по ней. mlx-community/Qwen3-Embedding-8B-mxfp8 — текстовая модель эмбеддингов семейства Qwen3, подготовленная сообществом mlx-community в формате MLX из Qwen/Qwen3-Embedding-8B. Она предназначена для получения векторных представлений текста, сравнения сходства предложений и поиска по семантической близости. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 40 960 токенов. Модель подходит для семантического поиска, поиска фрагментов для RAG и ранжирования текстов по сходству. Репозиторий README указывает на формат MLX и пакет mlx-embeddings версии 0.0.3; метаданные также отмечают форматы safetensors и возможности эмбеддингов. Лицензия — Apache-2.0. Данные не подтверждают отдельную поддержку конкретных естественных языков.

Карточка модели scalejade/qwen-sea-lion-v4.5-27b-it на Hugging Face совпадает с карточкой aisingapore/Qwen-SEA-LION-v4.5-27B-IT, поэтому описание составлено по ней. Qwen-SEA-LION-v4.5-27B-IT — мультимодальная инструктивная модель AI Singapore для языков Юго-Восточной Азии, дообученная на основе Qwen3.6-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Linear и Full Attention и визуальным энкодером; она принимает текст и изображения и генерирует текст. Контекстное окно составляет 262 тыс. токенов. Модель прошла постобучение с дистилляцией и слиянием моделей на наборе SEA-Instruct-2602. Модель предназначена для многоязычного диалога, ответов на вопросы, перевода, суммаризации, рассуждений и работы с изображениями. В карточке заявлена поддержка английского, бирманского, индонезийского, филиппинского, малайского, тамильского, тайского и вьетнамского языков; метаданные также указывают китайский. Доступны интерфейсы чата и вызова инструментов. Модель распространяется по лицензии MIT. Разработчик предупреждает, что модель может галлюцинировать, давать нерелевантные или непоследовательные ответы и не проверялась на устойчивость к состязательным запросам. Она не проходила выравнивание по безопасности, поэтому перед использованием следует самостоятельно оценить риски и при необходимости провести дополнительную настройку.

zypcastles/QwQ-32B-Instruct-abliterated — объединённая модель семейства Qwen2, созданная разработчиком с помощью mergekit методом SLERP из huihui-ai/Qwen2.5-32B-Instruct-abliterated и huihui-ai/QwQ-32B-Preview-abliterated. Модель предназначена для диалога и генерации текста с улучшенным следованием инструкциям по сравнению с исходной QwQ-моделью. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст. Контекст составляет до 32 768 токенов. Доступна в формате safetensors для библиотеки Transformers; метаданные также указывают интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

REmatch-BGE-Finetuned — англоязычная модель Sentence Transformer, дообученная kagikush на BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения текстов по косинусному сходству, семантического поиска, поиска перефразирований, кластеризации и классификации текстов. Модель построена на BERT и использует pooling по CLS-токену с нормализацией выходных векторов. Метаданные указывают 136,7 млн параметров и контекст до 512 токенов; в README указана максимальная длина последовательности 256 токенов. Для обучения применялись пары anchor, positive и negative с TripletLoss; на валидационном наборе rematch-validation указана cosine accuracy 0,9068. Лицензия в предоставленных данных не указана.

ys7yoo/sentence-roberta-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa для сопоставления смысла предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, пригодные для семантического поиска, кластеризации и вычисления сходства. В метаданных указано 137,8 млн параметров и контекст длиной до 514 токенов. Модель обучалась с функцией CosineSimilarityLoss и использует PyTorch. Она подходит для построения эмбеддингов и ранжирования текстов по смысловой близости. Название и данные карточки указывают на связь с KLUE STS, однако подробности обучающего набора, точные поддерживаемые языки и условия лицензии в предоставленных источниках отсутствуют.

embaas/sentence-transformers-gte-small — модель эмбеддингов на базе архитектуры BERT, опубликованная под организацией embaas. Она преобразует предложения и абзацы в плотные векторы размерностью 384, которые подходят для семантического поиска, кластеризации и сравнения текстов. Модель содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для получения векторных представлений текста, которые можно использовать в поисковых системах и приложениях анализа сходства. Репозиторий содержит веса PyTorch; для использования README рекомендует библиотеку Sentence-Transformers. Лицензия в предоставленных данных не указана.

Solar-Open-100B-NVFP4A16 — сборка модели Solar-Open-100B, разработанной компанией Upstage, которую FuriosaAI самостоятельно квантизировала в формате NVFP4A16 и подготовила для запуска на аппаратуре FuriosaAI RNGD с использованием Furiosa-LLM. Это авторегрессионная текстовая языковая модель с архитектурой Mixture-of-Experts (MoE), предназначенная для генерации текста, чат-взаимодействия, задач с рассуждениями и без них, а также вызова инструментов через функции. Поддерживаются английский и корейский языки, входные и выходные данные представлены в текстовом формате. Веса модели используют 4-битный формат NVFP4, тогда как активации и KV-кэш сохраняются в 16-битной точности. Для рассуждений можно задавать уровень reasoning_effort: low, medium или high; модель также поддерживает отдельную передачу рассуждений и автоматический выбор инструментов при соответствующей настройке сервера. На FuriosaAI RNGD модель работает с tensor parallelism на 32 PE, что соответствует четырём картам RNGD. В README не указаны общий и активный размер модели, длина контекста и точные параметры архитектуры, поэтому эти характеристики нельзя определить по имеющимся данным. Основное преимущество модели — сочетание крупной MoE-архитектуры, возможностей рассуждения и вызова инструментов с экономией памяти благодаря 4-битной квантизации. Сборка ориентирована прежде всего на FuriosaAI RNGD и Furiosa-LLM, хотя квантизированные веса также заявлены как совместимые с vLLM, SGLang и Transformers. Модель распространяется по лицензии Upstage Solar License; в карточке она обозначена как license: other, с отдельной ссылкой на текст лицензии.

Это объединённая авторами MaziyarPanahi языковая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/speechless-mistral-six-in-one-7b-orth-1.0. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы, включая задачи с кодом. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов; основной естественный язык карточки — английский. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README не приводит отдельных оценок качества или подробных ограничений применимости.

Supertron-embedding-300M — компактная модель эмбеддингов на базе Sentence Transformers, разработанная Surpem и дообученная на основе google/embeddinggemma-300m. Она преобразует текст в векторные представления для семантического поиска, сравнения предложений и кластеризации документов, в том числе в системах RAG. Модель построена на плотном трансформере семейства Gemma 3 Text, содержит 302,8 млн параметров и рассчитана на контекст до 2048 токенов. В README указана максимальная длина последовательности 256 токенов для описанной процедуры обучения. Модель ориентирована на английский язык и демонстрирует результаты на задачах семантического сходства из бенчмарка MTEB. Компактный размер делает её подходящей для прикладных систем с ограниченными вычислительными ресурсами. Модель распространяется в формате Safetensors по лицензии Apache 2.0.

Tarka-AIR разработала Tarka-Embedding-350M-V1 — плотную текстовую embedding-модель семейства LFM2 Bidirectional с размером около 350 млн параметров. Она преобразует текст в векторы размерности 1024 для семантического поиска, сравнения текстов и извлечения документов в RAG-системах. Модель предназначена для общего понимания текста и поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Контекст достигает 128 тысяч токенов, однако README отмечает оптимальную работу на входах короче 4 тысяч токенов. Модель обучена методом дистилляции знаний без меток на текстовом корпусе объёмом около 2 млрд токенов; в ходе обучения динамическая выборка охватила менее 1 млрд токенов. Для запуска доступны веса в формате safetensors. README рекомендует Flash Attention и bfloat16 для лучшей производительности. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория перед внедрением.

ThinkingCap-Qwen3.6-27B-int4-AutoRound-v1 — это общественная INT4-квантизация модели ThinkingCap-Qwen3.6-27B, исходно выпущенной BottleCap AI. Квантизацию выполнил Josef Prusa с использованием Intel AutoRound 0.14.0. Модель предназначена для локального инференса и агентных сценариев с длинным контекстом, включая работу с инструментами, вызов функций, оркестрацию задач и обслуживание через vLLM. Модель основана на архитектуре Qwen3.6 с 27 млрд параметров и использует текстовую генерацию. Применена весовая схема W4A16 с 4-битными весами, group size 128 и симметричной квантизацией; размер файлов составляет около 20 ГБ. Тензоры Multi-Token Prediction сохранены в BF16 для поддержки speculative decoding. В рекомендуемой конфигурации vLLM заявлен максимальный контекст до 262 144 токенов, а KV-кэш может дополнительно квантизироваться в 4-битный формат. Поддерживаются режимы рассуждений, tool calling и соответствующие парсеры Qwen3. Сильные стороны модели — уменьшенное потребление памяти, высокая скорость локального инференса, возможность размещения на видеокарте класса RTX 5090 с 32 ГБ памяти и сохранение поведения исходной ThinkingCap в задачах рассуждений и работы с инструментами. По локальным предварительным тестам модель показала результаты 81 в Hermes Agent, 90 в наборе tool-call-style, 89 в instructfollow-15, 73 в bugfind-15 и 65 в cli-40. Эти показатели получены на локальных тестах и не являются полной независимой оценкой качества. Ограничения связаны с потерями качества, возможными для 4-битной квантизации, а также с тем, что приведённые оценки и показатели производительности являются предварительными измерениями на одной конфигурации. Параметр group size 128 выбран в пользу скорости, меньшего потребления VRAM и запаса для длинного KV-кэша; меньшие группы могут повысить качество, но требуют больше памяти. Лицензия в представленном README не указана.

Udever-bloom-3b — модель для построения текстовых эмбеддингов, разработанная Alibaba Group на основе decoder-only Transformer BLOOM-3B. Она дообучена методом BitFit на MS MARCO Passage Ranking, SNLI и MultiNLI с контрастивной функцией потерь и трудными отрицательными примерами; авторы описывают её как универсальную модель представлений для естественных и программных языков. Модель предназначена для поиска и сопоставления текстов, классификации, кластеризации, оценки семантического сходства и ранжирования пассажей. В карточке приведены результаты на MTEB и CodeSearchNet, включая задачи поиска кода. Размер составляет 3,8 млрд параметров, контекст — до 2048 токенов; доступны веса PyTorch. Поддерживаются многочисленные естественные языки и код. Модель создана на базе bigscience/bloom-3b и распространяется по лицензии bigscience-bloom-rail-1.0. Эмбеддинги и результаты зависят от задачи и языка; приведённые в карточке оценки не гарантируют такого же качества на пользовательских данных.

codersan/validadted_e5Fa_onV8d — модель Sentence Transformers, дообученная на базе intfloat/multilingual-e5-small для получения плотных векторных представлений предложений и абзацев. Архитектура основана на BERT: среднее объединение токенных представлений с последующей нормализацией; размерность эмбеддингов — 384, максимальная длина входа — 512 токенов. Для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Она обучалась на 21 484 парах «запрос — релевантный текст» с функцией MultipleNegativesRankingLoss. Базовая модель многоязычная, а примеры обучающих данных включают тексты на персидском языке. Лицензия в предоставленных данных не указана.