II.6Документация и сопровождение разработки

Qwen3.8-27B-Uncensored-OrcaRouter-MLX-8bit — неофициальный нативный MLX-чекпойнт, опубликованный пользователем chimingw и созданный на основе Qwen3.8-27B от Qwen/Alibaba через F16-версию orcarouter/Qwen3.8-27B-Uncensored-GGUF. Это плотная vision-language модель с поддержкой текста и изображений, а также MTP-головой для speculative decoding. Модель предназначена для задач понимания и генерации текста по текстовым и визуальным входам, исследовательских экспериментов, интерпретируемости, red-teaming и оценки устойчивости моделей. Заявленные языки — английский и китайский. Модель содержит около 27 миллиардов параметров и использует смешанное хранение: подходящие матрицы квантизированы в нативный MLX affine 8-bit с group size 64, а часть тензоров сохраняется в форматах F16, BF16 или F32. Конвертация не включает дополнительное обучение, дообучение, слияние или изменение выравнивания. Формат MLX ориентирован на запуск в экосистеме Apple Silicon. Размер контекстного окна и точные требования к памяти в README не указаны. К сильным сторонам относятся мультимодальность, поддержка MLX, сохранение исходной точности для ряда тензоров и уменьшенный по сравнению с полной точностью объём хранения. При этом модель является uncensored-версией: согласно заявлению издателя, её защитное выравнивание существенно удалено, поэтому она может отвечать на вредоносные, незаконные и иные опасные запросы. Заявления о поведении, качестве и безопасности не были независимо подтверждены; модель не предназначена для прямого использования конечными пользователями без собственных механизмов модерации и защиты. Лицензия — Apache 2.0.

Qwen3.8-Flash-Next FP8 Abliterated GGUF — неофициальная производная мультимодальной модели Qwen3.8-Flash-Next, созданная сообществом на основе официального FP8-чекпойнта Qwen. Модель не является официальным релизом Qwen и не поддерживается командами Qwen, Alibaba Cloud, NVIDIA или авторами Abliterix. Модель предназначена для понимания текста, изображений и видео, а также для исследовательских, агентских, длинноконтекстных и мультимодальных сценариев. Архитектура включает Mixture-of-Experts, Qwen Sparse Attention, Gated DeltaNet, управляемые остаточные связи, n-граммные эмбеддинги и маршрутизацию к экспертам. Поддерживается многоязычность, однако точный список языков и числовой размер контекста в карточке не указаны. В репозитории представлены GGUF-квантизации Q8_0, Q6_K и Q4_K_M, разделённые на несколько файлов; совокупный размер репозитория составляет около 485 ГБ. Для опционального ускорения декодирования доступны отдельные MTP-компоненты для speculative decoding, совместимые с соответствующей квантизацией и современной сборкой llama.cpp с поддержкой архитектуры qwen4exp. Ключевое отличие производной версии — обработка Abliterix, направленная на ослабление поведения, связанного с отказами. Это может снизить встроенные защитные ограничения и повысить риск неточных, небезопасных или вредоносных ответов, поэтому требуются тестирование, контроль доступа и дополнительная модерация. Указана лицензия qwen-community-license-1.0. Модель рекомендуется использовать для исследований поведения и выравнивания, оценки устойчивости и квантизации, авторизованного red-team-тестирования, экспериментов с GGUF, длинным контекстом и speculative decoding, а также для защитных исследований в области кибербезопасности. Точные требования к оборудованию и производительность зависят от выбранной квантизации, backend и настроек offload.

ReflectionCoder-CL-7B — языковая модель для генерации кода, разработанная SenseLLM. Подход ReflectionCoder использует последовательности рефлексии, построенные с учётом обратной связи компилятора, чтобы улучшать генерацию кода за один запрос. В карточке для этой версии приведены результаты HumanEval 75,0 (68,9) и MBPP 72,2 (61,4). Модель основана на плотной архитектуре Llama и содержит 6,6 млрд параметров. Она принимает текст и выдаёт текст; заявленный контекст составляет 16 384 токена. В метаданных указан английский язык. Доступна в формате safetensors и использует шаблон диалога для общения через Transformers. Лицензия в метаданных — Apache-2.0. README отдельно обозначает лицензию модели как Llama2, поэтому условия распространения и использования следует сверить с лицензиями базовой модели и проекта.

Shitao/RetroMAE — предобученная языковая модель, разработанная авторами RetroMAE: Shitao Xiao, Zheng Liu, Yingxia Shao и Zhao Cao. Она основана на BERT-подобном трансформере и предназначена для задач поиска и семантического сопоставления текстов, а также для дальнейшего обучения плотных ретриверов. В исходной архитектуре используется асимметричная схема masked auto-encoder: полноразмерный трансформер-энкодер и однос layer-трансформер-декодер. Модель содержит около 136,7 млн параметров, работает с контекстом до 512 токенов и доступна через Transformers как masked language model для задачи fill-mask.

RUPunct_big — крупная модель семейства RUPunct для расстановки пунктуации в русском тексте. Карточка называет её самой большой моделью семейства и рекомендует для большинства задач. По архитектуре это BertForTokenClassification на базе BERT с 205,5 млн параметров; модель принимает последовательность токенов и классифицирует их, используя контекст длиной до 512 токенов. Репозиторий содержит веса PyTorch. Модель предназначена для автоматического восстановления пунктуации в русском тексте, например в текстах без знаков препинания. Лицензия MIT разрешает свободное использование и модификацию с соблюдением её условий. Карточка не приводит сравнительных оценок качества или подробностей о данных обучения.

Atla Selene 1 — языковая модель-судья, разработанная Atla для оценки ответов и поведения систем на основе заданных критериев. Она дообучена от Llama-3.3-70B-Instruct с использованием SFT и DPO и содержит около 69,5 млрд параметров. Модель предназначена для выставления оценок, классификации ответов и попарного сравнения вариантов; она также формирует структурированные результаты и качественные критические замечания с обоснованием. Selene 1 подходит для автоматизации оценивания в тестах LLM, проверки соответствия ответа запросу, анализа предпочтений и поиска галлюцинаций в RAG-системах. Критерии и шкалы оценки можно настраивать, а ответы можно проверять как с эталонным материалом, так и без него. Модель работает с текстом, поддерживает диалоговый режим и интерфейс вызова инструментов, использует архитектуру Llama и контекст до 131 072 токенов. В README заявлена преимущественная ориентация на английский язык и поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского; метаданные также указывают английский, немецкий, французский, итальянский, португальский и испанский. Для работы рекомендуется применять шаблон диалога Llama 3, иначе поведение может быть непредсказуемым. Модель опубликована по лицензии Llama 3.3.

Speechless Coder DS 1.3B — языковая модель для генерации кода, опубликованная uukuguy. Это дообученная модель DeepSeek Coder 1.3B на наборах Magicoder OSS Instruct 75K и Magicoder Evol Instruct 110K, чтобы улучшить рассуждение и планирование при решении задач программирования. Модель основана на архитектуре Llama с плотной структурой и содержит 1,3 млрд параметров; веса доступны в формате PyTorch. Модель принимает инструкции в формате Alpaca и предназначена для генерации и исправления кода, а также решения задач по программированию. README приводит результаты BigCode Eval и примеры pass@1 для синтеза и исправления кода на Python, C++, Go, Java, JavaScript и Rust. Контекстное окно в метаданных каталога составляет 16 384 токена; в README указано 8 192, поэтому опубликованные сведения расходятся. Лицензия — Apache-2.0.

mahiyama разработала японскую модель SPLADE для разреженного поиска, дообучив ModernBERT-Ja-310M на парах запросов и документов из набора mahiyama/auto-wiki-qa. Модель преобразует текст в разреженный вектор размерности 102 400: веса отражают исходные термины и связанные слова, что помогает находить документы даже при неполном совпадении формулировок. В основе — ModernBERT с MLM-головой и max-pooling SPLADE; модель содержит около 314,6 млн параметров и поддерживает контекст до 8192 токенов. Энкодер предназначен для японского поиска по текстам, в том числе по материалам Википедии и производным корпусам. Один и тот же энкодер используется для запросов и документов; для ранжирования рекомендуется скалярное произведение разреженных векторов. Веса доступны в формате safetensors, модель можно загрузить через SparseEncoder без дополнительных модулей. Подавление шумовых токенов встроено в веса, а разреженные представления подходят для инвертированных индексов и гибридного поиска с BM25 или плотными эмбеддингами. Модель особенно ориентирована на японский язык и обучена на корпусе с тематическим смещением в сторону Википедии, поэтому её расширение терминов может отражать особенности этого корпуса. Лицензия — MIT.

Карточка модели anassaifi12/sql_model_2 на Hugging Face совпадает с карточкой anassaifi12/qwen2.5-3b_sql_trained_model, поэтому описание составлено по ней. anassaifi12 дообучил модель Qwen2.5-3B для генерации текста на базе unsloth/qwen2.5-3b-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов. Название репозитория указывает на обучение для работы с SQL, однако README не описывает обучающие данные и конкретные возможности модели, поэтому качество генерации SQL по карточке оценить нельзя. Модель принимает и выдаёт текст; в метаданных указан английский язык. Распространяется по лицензии Apache-2.0.

Это точечная модель-переранжировщик пассажей на базе Qwen3-30B-A3B с архитектурой MoE, дообученная командой Utah NLP с помощью Tevatron 3.0. Она оценивает релевантность пары «запрос — пассаж» контрастивным методом и рассчитана на сортировку результатов поиска. Модель использует причинную языковую модель: оценка равна разности логитов ответов «yes» и «no» после специального текстового промпта с запросом и содержимым пассажа. Для корректных оценок промпт должен заканчиваться вопросом о релевантности, без добавления EOS-токена. Модель прошла полное дообучение на наборе RLHN-680K и опубликована в формате Safetensors для библиотеки Transformers. Базовая модель имеет 30 млрд параметров, из которых 3 млрд активны на токен; в метаданных репозитория указано 2,6 млрд параметров. Контекст составляет 32 768 токенов. Лицензия Apache-2.0. Численные метрики качества и перечень поддерживаемых языков в предоставленных источниках не описаны.

Это точечный переранжировщик пассажей utahnlp, созданный на основе Qwen3-30B-A3B — причинной языковой MoE-модели — с помощью инструментария Tevatron 3.0. Модель дообучена контрастивным методом на наборе RLHN-680K; использованные при обучении LoRA-адаптеры объединены с весами модели. Модель оценивает релевантность пары «запрос — пассаж» и предназначена для повторного ранжирования результатов информационного поиска. Она принимает текст запроса и текст пассажа, включая заголовок, и вычисляет оценку как разность логитов ответов «yes» и «no» после заданного вопроса о релевантности. Это причинная языковая модель, а не обычный классификатор последовательностей. Контекст составляет 32 768 токенов; число параметров в метаданных — 2,6 млрд. Формат весов — safetensors, библиотека — Transformers. Карточка не сообщает поддерживаемые естественные языки. Базовая модель — Qwen/Qwen3-30B-A3B-Base. Лицензия — Apache-2.0. Для воспроизведения оценивания важно соблюдать описанный в карточке формат промпта и не добавлять EOS-токен перед вычислением оценки.

utahnlp/tevatron-elastic-modernbert-retriever-depth — модель извлечения признаков и поиска, разработанная Utah NLP и обученная с помощью Tevatron-Elastic на базе answerdotai/ModernBERT-base. Она кодирует запросы и фрагменты документов с префиксами query: и passage: в векторы для поиска релевантных материалов. Контрольная точка поддерживает эластичное сокращение глубины: один набор весов позволяет выбирать число слоёв при кодировании, задавая компромисс между вычислительными затратами и качеством. Модель содержит 149 млн параметров, принимает текст, поддерживает контекст до 8192 токенов и распространяется в формате Safetensors. Модель предназначена для информационного поиска и воспроизводимых экспериментов с вариантами глубины кодировщика. На полной конфигурации авторы сообщают результат nDCG@10 0,456 на BEIR-15; это не заявка на превосходство над современными системами. Обучение проводилось на rlhn/rlhn-680K с максимальной длиной 512 токенов. Лицензия — Apache-2.0. Базовая архитектура ModernBERT ориентирована на английский язык, поэтому README не подтверждает качество поиска на других языках.

VietRAG-Embed — вьетнамская плотная модель эмбеддингов, разработанная VietRAG и дообученная на базе intfloat/multilingual-e5-base. Она построена на XLM-RoBERTa и Sentence Transformers, содержит 305,2 млн параметров и преобразует запросы и фрагменты текста в нормализованные векторы размерности 768. Для запросов требуется префикс «query: », а для документов — «passage: ». Модель предназначена для семантического поиска по вьетнамским документам, извлечения контекста для ответов на вопросы и RAG, а также для отбора кандидатов перед переранжированием. Она не генерирует ответы самостоятельно. Модель обучена на 937 686 вьетнамских парах запрос–релевантный текст–сложный отрицательный пример, включая данные веб-поиска и научно-технические материалы. Её можно применять для поиска по FAQ и базам знаний, а нормализованные векторы подходят для сравнения косинусной близостью или скалярным произведением. Лицензия — MIT. Основной язык — вьетнамский; качество для других языков и смешанных запросов не подтверждено. Контекст ограничен 514 токенами по метаданным, а README указывает усечение входа длиннее 512 токенов, поэтому длинные документы следует делить на смысловые фрагменты. Результаты поиска могут быть тематически близкими, но фактически неверными; приведённый внутренний диагностический тест использует общий корпус с обучением и не гарантирует качество на пользовательских данных.

MiMo-VL-7B-SFT-2508-GGUF — это GGUF-квантизованная версия мультимодальной модели MiMo-VL-7B-SFT-2508, разработанной XiaomiMiMo. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов по их содержанию. Модель имеет размер 7B параметров и поставляется в нескольких вариантах точности — от BF16 до Q2_K_L, включая рекомендуемые версии Q4, Q5 и Q6. Размер файлов составляет примерно от 3,65 до 15,25 ГБ. Формат GGUF ориентирован на запуск через llama.cpp, LM Studio и другие совместимые приложения. Более высокие варианты квантизации лучше сохраняют качество, а компактные версии снижают требования к оперативной памяти, но могут заметно уступать по точности. В README не указаны поддерживаемые языки, размер контекста, точная архитектура мультимодальной части, системные требования и лицензия. Поэтому эти характеристики следует уточнять на странице исходной модели XiaomiMiMo/MiMo-VL-7B-SFT-2508. Условия лицензирования квантизованной версии также не приведены.

XtremeDistil L6 H256 Uncased — компактная дистиллированная модель на архитектуре BERT, опубликованная Microsoft. Она предназначена для переноса знаний между задачами и может служить основой для классификации текста и извлечения признаков. В метаданных указаны 14,1 млн параметров, контекст до 512 токенов и поддержка английского языка; доступны веса PyTorch и TensorFlow. Модель подходит для классификации коротких текстов и как лёгкое представление текста в NLP-конвейерах, где важны компактность и скорость. В README приведены результаты семейства XtremeDistil на GLUE и SQuAD, но указанные там размер и конфигурация относятся к варианту L6 H384, поэтому их нельзя считать характеристиками этого чекпойнта. Лицензия — MIT.

Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.

Qwen3.5-35B-A3B — мультимодальная модель Alibaba с языковой частью и визуальным энкодером. Это post-trained версия базовой Qwen3.5-35B-A3B-Base, распространяемая в формате Transformers и совместимая с Transformers, vLLM, SGLang и KTransformers. Модель принимает текст и изображения и генерирует текст; поддерживает диалог и интерфейс вызова инструментов. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 35 млрд параметров, из которых активны около 3 млрд; используются 40 слоёв и 256 экспертов, из которых на шаг активируются 8 маршрутизируемых и один общий. Контекст составляет 262 144 токена с возможностью расширения примерно до 1,01 млн. В README заявлена поддержка 201 языка и диалекта, включая задачи рассуждения, программирования, работы с агентами и визуального понимания. Модель подходит для анализа изображений и документов, диалоговых помощников, задач с длинным контекстом и агентных сценариев с вызовом инструментов. Режим рассуждения включён по умолчанию; для высоких нагрузок разработчик рекомендует специализированные движки инференса. Доступны веса и конфигурации, лицензия — Apache-2.0.

Albert0919c/gemma-4-E2B-it — дообученная инструктивная версия Gemma 4 E2B от Google DeepMind. Это плотная мультимодальная модель класса Gemma4 для диалогов, рассуждений, генерации и редактирования кода, а также понимания изображений и аудио. Она принимает текст и изображения; для варианта E2B поддерживаются распознавание речи и преобразование речи в переведённый текст. Модель выдаёт текст и подходит для локального запуска на мобильных устройствах и ноутбуках. Семейство Gemma 4 использует гибридное внимание с локальными скользящими окнами и глобальными слоями; для малых вариантов заявлено контекстное окно до 128 тысяч токенов. Поддерживаются многочисленные языки: семейство обучено более чем на 140 языках, а для практических сценариев README заявляет поддержку более 35. Возможности включают ответы на вопросы по изображениям, OCR, разбор документов, видеоанализ по кадрам и вызов инструментов. Репозиторий распространяется в формате Safetensors под лицензией Apache 2.0. Характеристики и возможности описаны для семейства Gemma 4; конкретные результаты этой дообученной версии отдельно не приведены. Как и другие генеративные модели, она может ошибаться в распознавании содержимого и ответах; видеоанализ относится к обработке последовательностей кадров.

michaelfeil/Qwen3-Embedding-4B-auto — текстовая embedding-модель семейства Qwen3, представленная в виде дообучения Qwen/Qwen3-4B-Base. Она преобразует текст в векторы для поиска и сравнения текстов, извлечения информации, кластеризации, классификации и поиска соответствий между языками; поддерживаются также сценарии поиска по коду. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и принимает последовательности длиной до 40 960 токенов согласно метаданным. Размер выходного embedding можно задавать в диапазоне от 32 до 2560 измерений. Карточка заявляет поддержку более 100 естественных языков и языков программирования, а также настройку инструкций под задачу; для многоязычных сценариев рекомендуются инструкции на английском языке. Модель предназначена для прикладного использования в поисковых и аналитических системах. Для получения векторов требуется библиотека Transformers версии 4.51.0 или новее: в более ранних версиях возможна ошибка распознавания архитектуры Qwen3. Лицензия — Apache-2.0.

gemma-4-E4B-it-qat-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на ноутбуках и производительных мобильных устройствах, а также для исследовательских и прикладных сценариев с использованием llama.cpp. Модель поддерживает работу с текстом, изображениями и аудио, включая генерацию текста, распознавание речи, перевод речи, OCR, анализ изображений и видеокадров, function calling и настраиваемый режим рассуждений. Модель имеет около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, использует Quantization-Aware Training, Per-Layer Embeddings и гибридное внимание с 512-токенным скользящим окном в 42 слоях. В состав входят vision encoder примерно на 150 млн параметров и audio encoder примерно на 300 млн параметров. Заявлены контекст до 128 тысяч токенов, словарь на 262 тысячи токенов и поддержка более 140 языков, включая английский. Доступны версии GGUF с точностью от Q2_K до Q8_0, а также BF16, F16 и F32; размер файлов зависит от варианта и составляет примерно от 4,38 до 29,9 ГБ, не считая multimodal-проектора. Сильными сторонами являются сочетание мультимодальности, большого контекста, локального исполнения и сниженных требований к памяти благодаря QAT при сохранении качества, близкого к bfloat16. Ограничения включают значительные аппаратные требования для высокоточных вариантов и зависимость мультимодальных возможностей от совместимого программного обеспечения и projector-файла. Модель распространяется по лицензии Apache-2.0.

Giga-Embeddings-instruct-3B-0826 — двуязычная модель текстовых эмбеддингов из серии Giga-Embeddings. Она основана на предобученной модели разработчика с архитектурой Qwen3, адаптированной для двунаправленного encoder-style внимания, и дообучена контрастивной функцией потерь InfoNCE. Модель содержит около 3,2 млрд параметров, формирует плотные векторы размерностью 2048 и поддерживает контекст до 8192 токенов. Модель предназначена для поиска по смыслу, сравнения предложений и абзацев, классификации и кластеризации на русском и английском языках. В асимметричном поиске к запросу следует добавлять инструкцию задачи, оставляя документы без инструкции; для симметричного сравнения инструкцию можно опустить. Для корректной работы нужны усреднение непустых токенов и L2-нормализация, после чего векторы сравнивают по косинусной близости. Репозиторий предоставляет веса в формате safetensors; лицензия — MIT.

OpenAI o1 — модель рассуждения, разработанная OpenAI для сложных многошаговых задач. Она обучена с применением обучения с подкреплением и предназначена для задач, где полезны тщательный анализ, например математики, программирования, научных вопросов и построения агентных сценариев. Модель также принимает изображения и может рассуждать об их содержимом. В API o1 поддерживает текстовые входы и выходы, изображения на входе, вызов функций и структурированные ответы. Контекстное окно составляет 200 000 токенов. OpenAI указывает, что версия o1-2024-12-17 стала доступна для производственного использования. Модель может ошибаться, а её результаты требуют проверки; открытые сведения не устанавливают число параметров или конкретную архитектуру. Доступ предоставляется через API OpenAI на условиях сервиса OpenAI; веса модели не представлены как открытая загрузка.

Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Это GGUF-конверсия многоязычной модели эмбеддингов Granite Embedding 311M Multilingual R2, разработанной IBM. Модель содержит 311 млн параметров и создаёт векторы размерности 768 для семантического поиска, извлечения документов, RAG, кластеризации и сравнения текстов; поддерживает контекст до 32 тыс. токенов и совместима с llama.cpp. В репозитории доступен вариант F16, ориентированный на сохранение качества.

Карточка модели bonalai/Qwen2.5-Coder-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Qwen2.5-VL-72B-Instruct-GGUF — мультимодальная instruct-модель семейства Qwen2.5-VL, разработанная Qwen и представленная в формате GGUF. Квантизация выполнена bartowski на основе llama.cpp версии b5317. Модель предназначена для работы с текстом и изображениями. Модель подходит для анализа изображений, распознавания объектов, чтения и интерпретации текста, таблиц, графиков, значков, схем и элементов макета. Она также рассчитана на сценарии визуального агента с рассуждением и динамическим управлением инструментами, включая взаимодействие с компьютером и телефоном. Поддерживает структурированный вывод и формирование стабильного JSON, а также многоязычную работу. Заявленная длина контекста составляет 128 тысяч токенов. README не уточняет точную архитектуру, перечень поддерживаемых языков и параметры конкретного файла квантизации, поэтому производительность и требования к ресурсам зависят от выбранного варианта GGUF. Как и другие генеративные модели, модель может выдавать неточные, вредоносные или неподходящие результаты. Лицензия указана как qwen и other; подробные условия приведены в лицензии исходной модели Qwen2.5-VL-72B-Instruct.

NeuralMetrics/Qwen3-Embedding-0.6B — размещённая Neural Metrics копия модели Qwen3-Embedding-0.6B, разработанной командой Qwen. Согласно карточке, веса и поведение совпадают с исходной моделью. Это плотная модель семейства Qwen3 с 507,6 млн параметров, предназначенная для преобразования текста в эмбеддинги; она поддерживает контекст до 32 768 токенов и выходные векторы размером от 32 до 1024 измерений. Модель подходит для семантического поиска по документам, пунктам договоров, строкам и полям, поиска по коду, выявления похожих текстов, классификации и кластеризации. Она поддерживает более 100 языков, включая возможности межъязыкового поиска, и принимает инструкции, позволяющие настроить эмбеддинги под задачу. Векторы можно использовать в системах поиска и маршрутизации документов. Ограничения: это модель эмбеддингов, поэтому для поиска нужен отдельный индекс векторов и компонент, который сопоставляет запросы с документами. Для использования с Transformers требуется версия 4.51.0 или новее; карточка рекомендует подбирать инструкции под сценарий, поскольку их отсутствие может снизить качество поиска. Лицензия — Apache-2.0.

Qwen3-Embedding-0.6B — многоязычная модель эмбеддингов текста семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen/Qwen3-0.6B-Base с плотной архитектурой Qwen3ForCausalLM и примерно 507,6 млн параметров. Модель предназначена для преобразования текста в векторы и поиска семантически близких текстов; её применяют для поиска и извлечения документов, поиска по коду, классификации, кластеризации и сопоставления параллельных текстов. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст до 32 768 токенов и выдаёт эмбеддинги размерностью до 1024, включая пользовательские размерности от 32 до 1024. Она поддерживает инструкции, настраиваемые под задачу, язык или сценарий, что может улучшать качество поиска. README описывает серию как сильную в многоязычных задачах эмбеддингов, но приведённые в нём отдельные лидирующие результаты относятся к модели 8B, а не к версии 0.6B. Для использования требуется совместимая версия Transformers: в версиях ранее 4.51.0 возможно возникновение ошибки распознавания архитектуры. Лицензия — Apache-2.0.

RadixArk/GLM-5.3-NVFP4 — текстовая языковая модель, представляющая собой квантованную производную GLM-5.3-BF16 от Z.ai. Квантование выполнено RadixArk с использованием NVIDIA Model Optimizer; RadixArk не обучала и не дообучала модель. Модель предназначена для агентной разработки, программирования, длительного использования инструментов и задач рассуждения. Архитектура — Transformer со Sparse Mixture-of-Experts и разреженным вниманием: 78 декодерных слоёв, включая 3 плотных MLP и 75 MoE-слоёв, 753 млрд параметров всего и около 40 млрд активируемых на токен. В MoE-слоях используется 256 маршрутизируемых экспертов с выбором 8 экспертов и один общий эксперт. Модель принимает и генерирует текст, поддерживает английский и китайский языки, а длина контекста достигает 1 048 576 токенов. Ключевое преимущество — существенное уменьшение размера checkpoint с 1 507 до 465 ГБ за счёт NVFP4 W4A4-квантования части параметров при сохранении ряда компонентов в BF16. Указаны высокие результаты на GSM8K, AIME 2026, Terminal-Bench 2.1 и DeepSWE, однако базовая модель может выдавать неточные, неполные, нерелевантные или нежелательные ответы, поэтому необходимы проверка результатов и защитные меры. Checkpoint рассчитан на запуск через SGLang на Linux и совместим прежде всего с GPU NVIDIA Blackwell; конфигурация проверена на B300. Условия использования определяются лицензией Z.AI Model License, указанной как MIT-style.

eewwann/me5-ruhnp — модель Sentence Transformers, дообученная автором на базе intfloat/multilingual-e5-large для представления предложений и абзацев в виде плотных текстовых эмбеддингов. В основе лежит XLM-RoBERTa; модель формирует векторы размерности 1024, применяет mean pooling и нормализацию, а сходство текстов можно оценивать косинусной мерой. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. README приводит оценку cosine accuracy 0,993 на TripletEvaluator для набора vk_e5, а также описывает обучение на наборе из 100 000 примеров. Поддерживает многоязычные текстовые входы; максимальная длина последовательности — 512 токенов (514 токенов в метаданных). Это производная модель с весами в формате safetensors. Лицензия в предоставленных данных не указана. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы; качество зависит от языка, домена и соответствия запроса обучающим данным.