I.3Извлечение и структурирование данных

Xenova/nomic-embed-text-v1 — это версия модели эмбеддингов nomic-ai/nomic-embed-text-v1, подготовленная с ONNX-весами для совместимости с библиотекой Transformers.js. Репозиторий Xenova предназначен для запуска модели в JavaScript-окружении, включая веб-сценарии и другие среды, поддерживающие ONNX и Transformers.js. Модель предназначена для преобразования текста в числовые векторные представления с помощью задачи feature extraction. Такие эмбеддинги могут использоваться для семантического поиска, сопоставления текстов, кластеризации и других задач обработки естественного языка, где требуется сравнивать смысловое сходство текстовых фрагментов. README подтверждает поддержку текстового ввода, но не содержит сведений о точном размере модели или векторов, архитектуре, максимальной длине контекста, поддерживаемых языках и специальных модальностях. Ключевое преимущество этой версии — возможность использовать модель через Transformers.js и ONNX-веса, что упрощает интеграцию с JavaScript-приложениями. Ограничения и требования к качеству, производительности, языковому покрытию и аппаратному ускорению в README не указаны. Лицензия также не приведена, поэтому условия использования следует уточнять в исходном репозитории nomic-ai/nomic-embed-text-v1.

NousResearch_Hermes-4-70B-GGUF — это набор квантизированных версий языковой модели Hermes-4-70B, разработанной NousResearch. Квантизацию выполнил bartowski с использованием llama.cpp версии b6258 и метода imatrix. Модель предназначена для генерации текста и локального запуска через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В набор входят варианты в формате GGUF с разными уровнями квантизации: от Q8_0 размером около 75 ГБ до IQ2_S размером около 22 ГБ. Более крупные варианты обеспечивают более высокое качество, тогда как компактные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K; Q3 и Q2-варианты предназначены для систем с ограниченными ресурсами и имеют более низкое качество. README не содержит сведений об архитектуре, поддерживаемых языках, размере контекста, мультимодальности, точных задачах исходной модели или лицензии. Формат prompt также не указан, поэтому его следует уточнять на странице оригинальной модели NousResearch/Hermes-4-70B.

NVIDIA Nemotron-3-Nano-4B-GGUF — это квантизированная версия языковой модели NVIDIA Nemotron-3-Nano-4B, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Указан английский язык; поддержка других языков и мультимодальность не заявлены. Модель имеет около 4 миллиардов параметров в исходной версии и поставляется в вариантах от BF16 до Q2_K_L, включая Q4_K_M, Q5_K_M и Q6_K_L. Квантизация позволяет сократить требования к памяти и запускать модель на локальных устройствах, однако более компактные варианты могут заметно уступать по качеству исходным весам. В README не указаны архитектура, размер контекста, точные показатели производительности и системные требования. Приведён формат промпта с ролями system, user и assistant, а также началом блока рассуждений. При обучении исходной модели использовались наборы данных NVIDIA, охватывающие общие тексты, научные материалы, следование инструкциям, агентные сценарии, календарное планирование, структурированный вывод, математику и соревновательное программирование. Лицензия указана как NVIDIA Nemotron Open Model License; условия следует уточнять в официальном тексте лицензии NVIDIA. Модель подходит для локальной генерации текста, диалоговых приложений, задач следования инструкциям, программирования, математических и агентных сценариев, но конкретные возможности следует проверять для выбранной квантизации.

paraphrase-spanish-distilroberta — модель sentence-transformers, созданная участниками организации hackathon-pln-es для Hackathon 2022 NLP - Spanish. Это дообученная методом переноса знаний испанская RoBERTa-модель BERTIN, обученная на параллельных испанско-английских предложениях с использованием paraphrase-mpnet-base-v2 в роли учителя. Модель содержит 151,8 млн параметров и преобразует предложения и короткие абзацы в плотные векторы размерностью 768; максимальный контекст — 514 токенов. Векторы подходят для поиска по смыслу, оценки сходства предложений и кластеризации текстов на испанском и английском языках. В README приведены результаты оценки семантического сходства для пар ES-ES и ES-EN на наборах STS-2017. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных источниках отсутствуют.

Mungert/pokee_research_7b-GGUF — GGUF-версия модели PokeeResearch-7B, разработанной Pokee AI и дообученной на базе Qwen2.5-7B-Instruct. Модель предназначена для автоматизации глубоких исследовательских задач: декомпозиции сложных запросов, работы с внешними источниками, многошагового рассуждения, проверки и синтеза информации. Она может использоваться как самостоятельный исследовательский ассистент или как компонент многоагентных систем, а также адаптироваться для научного поиска, извлечения документов и многоисточникового суммирования. Модель содержит около 7 миллиардов параметров, относится к инструментально расширяемым языковым моделям и поддерживает текстовые сценарии. В карточке указаны английский, китайский и другие языки, однако отдельно отмечено ограниченное качество для неанглоязычных задач. Контекст ограничен 32 768 токенами. Обучение проводилось на датасете MiroRL-GenQA с использованием RLOO и сигналов RLAIF, включая оценку смысловой эквивалентности и соблюдение формата поведения агента. Данная публикация представляет собой GGUF-сборку, созданную с помощью llama.cpp; применённый подход к квантованию повышает точность отдельных важных слоёв, но увеличивает размер файла, при этом конкретный уровень квантования не указан. Сильные стороны модели — ориентация на исследовательские рабочие процессы, самопроверку, верификацию и синтез данных из нескольких независимых направлений. Результаты зависят от качества внешних источников и поиска; возможны смещения от AI-обратной связи и галлюцинации при противоречивых или недостаточных данных. Модель не предназначена для непроверенных утверждений и единоличного принятия решений в медицинских, юридических или финансовых задачах. Лицензия — Apache 2.0.

Prima-LelantaclesV4-7b-16k-bf16 — языковая модель семейства Mistral, объединённая ChaoticNeutrals из Test157t/Prima-LelantaclesV3-7b и Test157t/Yarncules-7b-128k методом SLERP. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста. Репозиторий содержит веса в формате Safetensors с точностью bfloat16; заявленный нативный контекст — 32 768 токенов. Модель подходит для генерации продолжений и ответов, а также для задач рассуждения и работы с длинным контекстом. В README приведены результаты Open LLM Leaderboard, в том числе 66,04 на AI2 Reasoning Challenge и 85,07 на HellaSwag; это отдельные оценки, а не гарантия качества в конкретном применении. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и лицензиях компонентов.

infgrad выпустил модель на базе XLM-RoBERTa для поиска и семантического сопоставления текстов. Она формирует векторные представления предложений и поддерживает несколько выходных размерностей: 256, 768, 1024, 1563, 1792, 2048 и 4096. Модель рассчитана на поиск как внутри одного языка, так и между китайским и английским; автор отмечает, что английские представления слабее китайских. Контекстная длина составляет 514 токенов. Модель распространяется под лицензией MIT.

kredor/punctuate-all — модель классификации токенов на базе дообученной XLM-RoBERTa-base. Она восстанавливает пунктуацию в тексте, предсказывая для токенов знаки препинания, включая точку, запятую, вопросительный знак, дефис и двоеточие. Модель рассчитана на английский, немецкий, французский, испанский, болгарский, итальянский, польский, нидерландский, чешский, португальский, словацкий и словенский языки. В отчёте указаны общая точность 0,98 и F1 0,95 для точки, 0,86 для запятой и 0,86 для вопросительного знака; качество распознавания дефиса и двоеточия ниже. Модель содержит около 305,2 млн параметров, использует контекст до 514 токенов и распространяется по лицензии MIT.

cross-encoder/qnli-distilroberta-base — англоязычный кросс-энкодер на архитектуре RoBERTa, разработанный и обученный с помощью SentenceTransformers. Модель дообучена на distilbert/distilroberta-base для оценки пары «вопрос — абзац»: она определяет, может ли абзац ответить на вопрос. Обучающие данные основаны на наборе GLUE QNLI, преобразованном из SQuAD в задачу вывода по тексту. Модель содержит 95,2 млн параметров, принимает текстовые пары и выдаёт оценку релевантности, пригодную для ранжирования абзацев по соответствию вопросу. Поддерживает английский язык и контекст длиной до 514 токенов. Доступны веса в форматах PyTorch, safetensors, ONNX, OpenVINO и Flax; лицензия — Apache-2.0. Подходит для поиска ответов в документах и ранжирования кандидатов при вопросно-ответном поиске. Оценка обучена на QNLI и не гарантирует фактическую правильность ответа; результаты за пределами английского языка и заданного контекста не подтверждены.

bunnycore/Qwen-2.5-7b-TitanFusion-v3 — объединённая диалоговая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В основу слияния положена bunnycore/Qwen-2.5-7b-TitanFusion-v2; также использованы bunnycore/Qwen-2.5-7b-rp-lora и Orion-zhen/Qwen2.5-7B-Instruct-Uncensored. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и предназначена для генерации текста в формате диалога. Модель принимает текстовые запросы и генерирует текстовые ответы; её можно использовать для общения и выполнения инструкций. Родительская модель описана как дообученная на ответы без отказов, что указывает на соответствующую ориентацию слияния. Нативный контекст составляет 32 768 токенов. Репозиторий использует Transformers и формат Safetensors; веса объединены в bfloat16. Лицензия в предоставленных данных не указана.

Qwen3-4B-Instruct-2507-GGUF — набор квантованных версий языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено Dhptl с использованием quant-kit в формате GGUF, предназначенном для локального запуска через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. Модель относится к классу текстовых instruction-following и conversational-моделей и предназначена для диалогов, генерации текста, ответов на вопросы и других сценариев работы с текстом. Заявленный размер базовой модели — 4 млрд параметров. В карточке указано поддерживаемое язык — английский; сведения о контекстном окне, точной архитектуре и мультимодальности отсутствуют. Доступны варианты квантования от Q2_K до Q8_0 размером примерно от 1,55 до 3,99 ГБ. Версия Q4_K_M рекомендована как баланс размера и качества, Q3_K_M — для систем с ограниченной памятью, а Q8_0 — для максимально близкого к исходной модели качества. Квантование уменьшает требования к памяти и позволяет запускать модель на потребительском оборудовании, но варианты с более сильным сжатием могут заметно терять в качестве. Приведённые показатели сохранения качества около 97–99% заявлены без фактических результатов тестов в этой карточке, поэтому их следует воспринимать ориентировочно. Модель распространяется по лицензии Apache-2.0. Для практического использования необходимо выбрать конкретный GGUF-файл с учётом доступной оперативной памяти и допустимого компромисса между скоростью, размером и качеством.

RobinsonLabs/Qwen3.5-122B-A10B-abliterated-GGUF — набор квантизированных моделей в формате GGUF на базе Qwen/Qwen3.5-122B-A10B. Модель разработана Robinson Labs методом abliteration и предназначена для генерации и обработки текста в совместимых локальных runtime. Базовая архитектура — MoE qwen35moe с 122 млрд параметров и бюджетом около 10 млрд активных параметров на токен. В сборке сохранён Multi-Token Prediction (MTP/NextN), поэтому совместимые runtime могут использовать спекулятивное декодирование. Доступны варианты с разными уровнями квантизации и размером файлов. Это текстовая модель: vision tower из исходного чекпойнта в GGUF не включена, поэтому обработка изображений не поддерживается. Языки и размер контекстного окна в README не указаны. Ключевая особенность версии — снижение склонности к отказам в запросах для взрослого и творческого контента при заявленном сохранении возможностей модели. При этом защитные механизмы для запросов, связанных с самоповреждением, и другие ограничения безопасности, по данным автора, сохранены. Ограничениями являются высокая требовательность к вычислительным ресурсам из-за полного размера модели, отсутствие мультимодальности и зависимость от поддержки GGUF и MTP конкретным runtime. Модель помечена как не предназначенная для всех аудиторий, а ответственность за использование возложена на пользователя. Лицензия наследуется от базовой модели и указана как Apache-2.0.

Qwen3.5-9B-MXFP8-FP8KV-FP8Attn-CT-AutoRound — квантизированная версия модели Qwen3.5-9B, разработанной командой Qwen. Модель предназначена для генерации текста и запуска сценариев, требующих языкового понимания и вывода, при сниженном потреблении памяти по сравнению с полноточной версией. Квантизация выполнена в формате MXFP8 с использованием метода AutoRound. В README указано, что базовая модель имеет размер 9B параметров; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна не приведены. Для оценки указаны результаты на GSM8K — 0,9310, HellaSwag — 0,5825, MMLU — 0,7833 и PIQA — 0,7916. Основное преимущество модели — более компактное представление, потенциально позволяющее эффективнее использовать вычислительные ресурсы. Ограничения связаны с возможными потерями качества из-за квантизации и отсутствием в README подробностей о совместимых средствах запуска, точных характеристиках производительности и областях применения. Условия лицензирования отдельно не указаны: необходимо соблюдать лицензию исходной модели Qwen/Qwen3.5-9B.

JANGQ-AI представляет JANGTQ4 — квантованную версию мультимодальной модели Qwen3.6-35B-A3B, подготовленную для MLX и Apple Silicon. Модель предназначена для диалогов, анализа изображений и агентных сценариев; поддерживает интерфейс вызова инструментов. В исходной модели 35 млрд параметров, около 3 млрд активируются на токен. Архитектура MoE сочетает 30 слоёв Gated DeltaNet с линейным вниманием и 10 слоёв полного внимания, а также 256 маршрутизируемых экспертов и одного общего эксперта. В JANGTQ4 веса маршрутизируемых экспертов сжаты до 4 бит методом TurboQuant с кодовыми книгами Lloyd–Max и преобразованием Адамара; ряд остальных компонентов хранится в 8-битном формате, а башня зрения сохранена. Репозиторий использует safetensors и библиотеку MLX. Для загрузки квантованных тензоров требуется специальный загрузчик JANG Tools; стандартный mlx_lm.load() их не поддерживает. README указывает, что для видео в MLX-пути нужна собственная обёртка, а для основного mlx-vlm рекомендуется ограничиться изображениями. Лицензия — Apache-2.0.

Карточка модели FeltWelsh/Qwen3-VL-Embedding-2B на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-Embedding-2B, поэтому описание составлено по ней. Qwen3-VL-Embedding-2B — мультимодальная модель эмбеддингов семейства Qwen от команды Qwen, дообученная на базе Qwen/Qwen3-VL-2B-Instruct. Она преобразует текст, изображения, скриншоты, видео и их сочетания в векторы общего семантического пространства для поиска, сопоставления и кластеризации мультимодального контента. Модель содержит 2 млрд параметров, поддерживает контекст до 32 тыс. токенов и выдаёт эмбеддинги размерностью от 64 до 2048 с настраиваемым размером; также поддерживаются инструкции для адаптации представлений к задаче. Модель предназначена для мультимодального поиска, включая поиск изображений и видео по текстовому запросу, сопоставление текста с визуальным содержимым и кластеризацию смешанных данных. Она поддерживает более 30 языков и может использоваться как первый этап поиска перед отдельной моделью-реранкером. Доступна по лицензии Apache-2.0. В README заявлены широкие возможности мультимодального поиска, но конкретные аппаратные требования и характеристики инференса в предоставленном фрагменте не приведены.

Qwythos-27B-v1-i1-GGUF — это квантизированная GGUF-версия модели Qwythos-27B-v1, разработанной empero-ai и подготовленной квантизатором mradermacher. Модель предназначена для задач рассуждения, работы с текстом и изображениями, генерации текста по изображениям, использования инструментов и function calling, а также агентских сценариев. В тегах также указаны направления cybersecurity и biomedical, однако подробности специализированного обучения в README не приведены. Модель имеет размер 27B параметров, поддерживает английский язык и относится к мультимодальным vision-моделям. Заявлена поддержка длинного контекста до 1M токенов, multi-token prediction и различных методов обучения, включая SFT, DPO, ESFT и full fine-tune, но технические детали архитектуры и подтверждённые характеристики контекстного окна не раскрыты. Репозиторий содержит варианты квантизации от Q2_K до Q6_K и IQ-кванты: более компактные варианты требуют меньше памяти, но могут снижать качество; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как оптимальный по сочетанию размера, скорости и качества. Модель распространяется под лицензией Apache-2.0. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. README не содержит результатов тестирования, подробных ограничений безопасности или инструкций по выбору аппаратных ресурсов, поэтому фактическое качество и производительность зависят от выбранного варианта квантизации и используемого программного окружения.

Ramonda Monarch 7B — объединённая модель для генерации текста, опубликованная mayacinka. Она создана методом DARE-TIES с помощью LazyMergekit на основе bardsai/jaskier-7b-dpo-v5.6, eren23/ogno-monarch-jaskier-merge-7b, liminerity/Omningotex-7b-slerp и yleo/OgnoMonarch-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и ответов на запросы; в карточке приведены результаты нескольких языковых и логических бенчмарков. Доступны веса в формате safetensors с точностью bfloat16. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, условия использования могут зависеть от лицензий исходных моделей; перед применением следует проверить их отдельно.

yjoonjang/reviewsearch-dense — текстовая модель Sentence Transformer для поиска и сопоставления предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768 и сравнивает их по косинусному сходству. Модель построена на архитектуре Gemma 3 Text и содержит 302,8 млн параметров; максимальная длина последовательности — 2048 токенов. Модель обучена на данных reviewsearch и предназначена для извлечения релевантных документов по запросу. В README приведена оценка поиска на reviewsearch с cosine_accuracy@1 0,3588 и cosine_accuracy@10 0,775. Доступны файлы в форматах Safetensors и ONNX, использовать модель можно через библиотеку Sentence Transformers. Язык данных в карточке не установлен, поэтому языковую специализацию определить нельзя. Условия лицензии в предоставленных данных не указаны.

cointegrated/rubert-tiny2 — компактный русскоязычный BERT-энкодер, обновлённая версия ruBERT-tiny. Модель разработана для получения векторных представлений предложений; её также можно дообучать для прикладных задач. Она содержит около 29 млн параметров, использует словарь из 83 828 токенов и поддерживает последовательности длиной до 2048 токенов. Эмбеддинги предложений приближены к представлениям LaBSE; сегментные эмбеддинги настроены на задаче NLI. Векторы можно применять, например, для классификации коротких текстов методом ближайших соседей и оценки сходства предложений. Модель ориентирована на русский язык; карточка распространяет её по лицензии MIT.

akhooli/sbert_ar_nli_500k_ubc_norm — модель Sentence Transformers, созданная дообучением UBC-NLP/ARBERTv2 на 500 тысячах арабских NLI-триплетов. Она кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения текстов используется косинусное сходство. Архитектура основана на BERT с усреднением токенных представлений, принимает последовательности длиной до 512 токенов и предназначена для арабского языка. Модель подходит для оценки семантического сходства, семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Качество может снижаться на текстах других языков и на последовательностях длиннее 512 токенов.

Sensei-7B-V1 — языковая модель SciPhi для генерации ответов по результатам веб-поиска и сценариев RAG. Она дообучена на синтетических данных от OpenPipe/mistral-ft-optimized-1218, основанной на Mistral-7B, и рассчитана на создание точных, снабжённых ссылками сводок по нескольким результатам поиска. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров, Grouped-Query Attention, Sliding-Window Attention и токенизатор BPE с поддержкой байтов. Родной контекст составляет 32 768 токенов. На вход подают текстовый запрос и контекст поиска; модель генерирует текстовый ответ, который можно оформить в JSON с полями summary и other_queries. Карточка рекомендует использовать один поисковый запрос и также описывает подачу собственного контекста напрямую. Весовые файлы представлены в формате safetensors. Модель предназначена для интеграции в RAG-процесс с веб-поиском; результаты зависят от качества и релевантности предоставленных поисковых данных. Лицензия в доступных данных не указана.

imvladikon/sentence-transformers-alephbert — модель эмбеддингов предложений на базе BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и рассчитана на семантический поиск, сравнение текстов и кластеризацию. Размер модели — 153,2 млн параметров, максимальная длина контекста — 512 токенов; карточка указывает поддержку иврита. По README, текущая версия получена дистилляцией LaBSE на частном корпусе и обучалась с MultipleNegativesRankingLoss и косинусным сходством. Модель подходит для построения векторных представлений и оценки семантической близости текстов на иврите. Она не генерирует текст; сведения о составе частного обучающего корпуса и его ограничениях не приведены. Формат файлов — PyTorch; лицензия в предоставленных данных не указана.

SlimOrca-Llama-3-8B-GGUF — это квантизированная GGUF-версия текстовой генеративной модели SlimOrca-Llama-3-8B, разработанная на основе оригинальной модели ajibawa-2023/SlimOrca-Llama-3-8B. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель обучена на наборах данных Open-Orca/SlimOrca и ajibawa-2023/SlimOrca-ShareGPT. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, включая ответы на вопросы, решение задач с выбором ответа, суммаризацию, написание обзоров, формулирование гипотез, создание историй и статей. Архитектура относится к семейству Llama 3, размер — 8 миллиардов параметров. Модель поддерживает текстовую модальность; размер контекста в README не указан. Для работы рекомендуется форматирование запросов по шаблону с ролями system, user и assistant. Репозиторий содержит варианты квантизации от IQ1 до Q8 с размером файлов примерно от 2,01 до 8,54 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS отмечены как рекомендуемые благодаря удачному соотношению качества и размера. Более компактные варианты снижают требования к оперативной памяти, но могут заметно уступать в качестве; IQ1-варианты имеют крайне низкое качество и не рекомендуются. Лицензия модели — Apache-2.0.

Solon-embeddings-large-0.1 — открытая модель векторных представлений текста от OrdalieTech. Она основана на архитектуре XLM-RoBERTa и содержит 658,7 млн параметров; веса опубликованы в формате safetensors. Модель предназначена для французского языка и рассчитана на создание эмбеддингов, используемых в задачах сравнения текстов и поиска по смыслу. Контекст модели — до 514 токенов. Модель подходит для семантического поиска, оценки сходства текстов, классификации и ранжирования. В описании приведены результаты по девяти французским тестам MTEB и другим бенчмаркам; для запросов на извлечение информации README рекомендует добавлять префикс «query : », тогда как для текстов-пассажей инструкции не нужны. Лицензия — MIT. Результаты бенчмарков не гарантируют аналогичного качества на других данных и сценариях.

petals-team/StableBeluga2 — версия Stable Beluga 2 от Stability AI, подготовленная для использования в Petals. В основе лежит авторегрессионная языковая модель Llama 2 примерно на 70 млрд параметров, дообученная на внутреннем наборе данных в стиле Orca. Модель предназначена для диалогов и генерации текста по инструкциям на английском языке; заявленный контекст — 4096 токенов. В этой версии веса сохранены в bfloat16 и Safetensors, а также разделены на небольшие шарды по слоям, чтобы клиенты и серверы Petals загружали только нужные части модели. README отмечает небольшую потерю качества при переходе с float32; при использовании NF4-квантизации Petals возможна дополнительная потеря качества. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому её следует проверять и настраивать под конкретное применение. Чекпойнт распространяется по лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT, ограничивающей коммерческое использование.

tranhuudan-fullstack-ai-engineer/stage1 — дообученная на vinai/phobert-base-v2 модель Sentence Transformers на базе RoBERTa. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для вычисления семантического сходства, семантического поиска, поиска перефразирований, классификации текстов и кластеризации. В README указана косинусная мера сходства; метаданные отмечают sentence-similarity как основную задачу и feature-extraction как поддерживаемую. Модель ориентирована на вьетнамский язык и использует среднее объединение токенных представлений. README указывает максимальную длину последовательности 512 токенов, а метаданные каталога — native context 258 токенов; для практического использования следует учитывать более короткое ограничение контекста каталога. При оценке на sts-dev достигнута Spearman-корреляция 0,5148 по косинусному сходству. Веса представлены в формате safetensors; лицензия в предоставленных данных не указана.

stella-base-zh-v2 — китайскоязычная плотная модель кодирования текста, разработанная автором семейства stella. Она предназначена для получения векторных представлений предложений и фрагментов текста, семантического поиска, сопоставления запросов с документами и оценки сходства. Модель основана на piccolo-base-zh и дообучена на открытых наборах данных и синтетических парах вопрос–текст и предложение–текст; обучение включало контрастивные потери с трудными отрицательными примерами, EWC и cosent. В отличие от предшественника, v2 не требует инструкционного префикса для поиска. Архитектура — BERT, около 129,5 млн параметров; модель выдаёт эмбеддинги размерности 768 и обрабатывает последовательности длиной до 1024 токенов. Она рассчитана прежде всего на китайский язык и поддерживает сценарии кодирования длинных текстов. В карточке приведены результаты C-MTEB и отдельной оценки длинного текста, однако автор отмечает нехватку таких тестов и возможное пересечение тестовых данных с обучающими. Лицензия в предоставленных данных не указана.

Карточка модели dunzhang/stella-large-zh-v3-1792d на Hugging Face совпадает с карточкой infgrad/stella-base-zh-v3-1792d, поэтому описание составлено по ней. infgrad/stella-base-zh-v3-1792d — плотная модель семейства BERT от разработчика Infgrad, предназначенная для получения векторных представлений текста и поиска семантически близких предложений. Её можно загружать через Sentence Transformers; README описывает её как универсальный кодировщик для китайского текста. Размер по метаданным — 129,5 млн параметров, контекст — до 1024 токенов; в карточке модели указаны 1792 измерения эмбеддинга и максимум 512 токенов. Модель подходит для семантического поиска, сопоставления предложений и построения текстовых эмбеддингов для retrieval-систем. README сообщает результат 67,96 на C-MTEB. Для длинных текстов автор рекомендует разбиение на фрагменты; для классификационных задач эмбеддинги следует нормализовать. Лицензия — MIT.

Swift-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF — набор GGUF-квантов модели Swift-Qwen3.8-27B-Uncensored-MTP, разработанный ajgazin. В основе лежит Swift-Qwen3.8-27B от UkisAI — дообученная для эффективного рассуждения версия Qwen3.8-27B. Модель предназначена для генерации текста, диалогов и задач рассуждения, а также поддерживает обработку изображений и видео через отдельный vision projector. Вариант содержит MTP head для self-speculative decoding в llama.cpp и ориентирован на локальный запуск через llama.cpp; заявлена совместимость также с vLLM и SGLang для NVFP4-варианта. Доступны варианты от UD-Q2_K_XL размером 9,2 GiB до UD-Q8_K_XL размером 29,3 GiB, а также исходный BF16-файл размером 50,9 GiB. Разные уровни квантования позволяют запускать модель на GPU с 12, 16, 20, 24, 32 и 48 GiB памяти, при необходимости используя частичную выгрузку на CPU. Для заявленного запуска используется контекст до 32768 токенов. Более крупные варианты ближе к качеству BF16: для UD-Q8_K_XL совпадение наиболее вероятного токена составляет 98,8%, для UD-Q4_K_XL — 95,8%, а для UD-Q2_K_XL — 85,2%. Сильные стороны модели — широкий выбор размеров квантов, поддержка текста, изображений и видео, встроенный MTP head для ускорения генерации и сниженная склонность к отказам: в описании указано 15 отказов из 100 против 98 из 100 у исходной Swift-модели. Ограничения включают потерю точности при агрессивном квантовании, необходимость отдельного mmproj-BF16.gguf для мультимодального ввода и специальной сборки llama.cpp с поддержкой MTP для qwen35. Качество измерялось преимущественно на тесте wikitext-2, поэтому оно не полностью характеризует работу с кодом и диалогами. Модель распространяется по лицензии swift-open-license-1.0; в карточке также указана категория лицензии other.

Google T5Gemma-B-B-UL2 — предварительно обученная текстовая модель из семейства T5Gemma. Это энкодер-декодерная архитектура, адаптированная из decoder-only моделей Gemma; данный вариант использует энкодер B и декодер B и подготовлен с помощью UL2. Модель принимает текст и генерирует текст на английском языке. Модель предназначена для генерации и преобразования текста, в том числе ответов на вопросы, суммаризации и задач рассуждения. Её энкодер также может применяться в дискриминативных сценариях, например для классификации и понимания текста. Компактный размер семейства позволяет развёртывать модели на локальных компьютерах и в облачной инфраструктуре, однако точное число параметров этого варианта в предоставленных данных не указано. К ограничениям относятся возможные фактические ошибки, предвзятость обучающих данных и трудности с тонкими языковыми нюансами или сложными открытыми задачами. Модель распространяется с открытыми весами по лицензии Gemma; для использования следует учитывать политику запрещённого использования Gemma.