II.10Разработка и эксплуатация AI/ML-систем

RedHatAI/Qwen3-30B-A3B-NVFP4 — квантизированная версия языковой модели Qwen/Qwen3-30B-A3B, разработанная RedHatAI. Модель принимает и генерирует текст и предназначена для задач генерации текста, включая диалоговые сценарии и развёртывание через vLLM с OpenAI-совместимым сервером. Модель использует архитектуру Qwen3-30B-A3B, однако в представленном README не указаны подробности о числе параметров активной части, размере контекста и точном наборе поддерживаемых языков. Веса и активации линейных операторов в трансформерных блоках квантизированы в формат FP4; квантизация выполнена с помощью LLM Compressor, а модель подготовлена для инференса в vLLM версии 0.9.1 и выше. Переход с 16 до 4 бит на параметр уменьшает размер модели на диске и требования к памяти GPU примерно на 75%, что является её основным преимуществом. К ограничениям относятся возможная потеря качества по сравнению с неквантизированной моделью и зависимость от совместимого программного стека и аппаратной поддержки. README отдельно ограничивает использование сценариями, соответствующими применимым законам и требованиям экспортного контроля, а также указывает использование на английском языке вне заявленной области применения. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-35B-A3B Coding Extract (N128) — языковая модель для генерации кода, созданная deepgoyal19 на основе Qwen/Qwen3.5-35B-A3B. Это training-free вариант MoE-архитектуры: из 256 маршрутизируемых экспертов в каждом слое оставлены 128, а общий вычислительный блок, внимание и эмбеддинги сохранены. В README указано 18,54 млрд параметров и формат bf16; метаданные каталога указывают 2,9 млрд параметров. Модель работает через Transformers и имеет контекст до 262 144 токенов. Модель предназначена для генерации и дополнения программного кода; в README приведены результаты HumanEval 86,6% и HumanEval+ 83,5% pass@1. Модель принимает текстовые запросы и выдаёт текст, включая код. README утверждает, что веса получены отбором экспертов без дообучения, дистилляции или градиентных обновлений. Лицензия — Apache-2.0.

continuum-ai/qwen3.5-4b-code-forged — дообученная для программирования модель на базе Qwen3.5-4B от Continuum. Это плотная авторегрессионная языковая модель с 3,4 млрд параметров, рассчитанная на генерацию кода и запуск локально, в том числе на потребительском оборудовании. В карточке указаны обучение на коде в течение 1000 шагов и трёх циклов, а также контекст до 262 144 токенов. Модель предназначена для генерации и дополнения кода в разных языках программирования. README сообщает о снижении perplexity на коде с 3,04 до 2,35; результат HumanEval ещё не приведён. Заявления о бенчмарках отмечены как самоотчётные, поэтому их следует считать предварительными. README также описывает этапы train → quant → eval и криптографическую цепочку происхождения ForgeAlloy. Модель распространяется по лицензии Apache-2.0. Метаданные указывают формат safetensors; README упоминает квантизацию в методологии, но доступные сведения не позволяют однозначно определить, является ли опубликованный чекпойнт только квантизованной версией или содержит дообученные веса. Поддерживаются разные естественные языки, но основные языки общения не определены; назначение модели — код.

Qwen3.6-27B — постобученная модель с открытыми весами от hamishivi, основанная на семействе Qwen3.6. Это причинная языковая модель с визуальным энкодером, поддерживающая диалог и интерфейс вызова инструментов. В README заявлен размер 27 млрд параметров и нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель предназначена для агентного программирования, включая работу с фронтендом и анализ репозиториев, а также для диалоговых задач с изображениями и вызовом инструментов. Шаблон чата изменён для сохранения промежуточных рассуждений в истории сообщений. Для запуска указана совместимость с Transformers, vLLM, SGLang и KTransformers; репозиторий содержит веса в формате safetensors. README приводит результаты и сценарии оценки для программирования, работы в терминале, генерации веб-интерфейсов и мультимодальных задач, но таблицы с численными результатами отсутствуют. Метаданные указывают лицензию Apache-2.0. Для развёртывания с длинным контекстом требуется значительная память GPU; README рекомендует уменьшать контекст при нехватке памяти.

Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed — модель для генерации текста, созданная на основе Qwen/Qwen3.6-27B и адаптированная Youssofal для runtime MTPLX. Она предназначена для локального запуска и ускоренной генерации, прежде всего на компьютерах Apple Silicon, включая сценарии программирования, интерактивной работы с текстом и развертывания сервиса через MTPLX. Модель использует архитектуру qwen3-next-mtp и встроенные Multi-Token-Prediction heads для speculative decoding без внешней draft-модели. Основная часть представляет собой flat 4-bit affine-конверсию, а MTP-компонент — предварительно квантованный INT4 sidecar. Максимальная глубина MTP равна 3; верифицированный runtime рассчитан на Apple M5 Max с 128 ГБ unified memory. Для указанного профиля заявлена скорость до 63,056 токена в секунду на тестовом кодовом запросе, однако фактическая производительность зависит от оборудования, настроек и нагрузки. В README не указаны поддерживаемые языки, размер контекста и мультимодальные возможности. Сильная сторона модели — ускоренная декодировка за счёт встроенного speculative decoding и точной проверки предложенных токенов; заявленное ускорение достигает 2,24 раза по сравнению с обычной генерацией в соответствующих условиях. Ограничения включают зависимость от MTPLX и Apple Silicon, статус runtime как preview, поддержку только backend qwen3-next-mtp в MTPLX v0.1.0-preview и необходимость учитывать результаты бенчмарка как зависящие от конкретного теста. Базовая модель и конверсия MTPLX распространяются по лицензии Apache-2.0.

Qwen3.6-27B-YMQ-MTP-GGUF — это набор смешанно-точностных квантованных сборок модели Qwen3.6-27B от ZeroDigest, подготовленных из исходных BF16-весов с помощью YMQ-Compiler v2.0. Репозиторий распространяет веса в формате GGUF и поддерживает параллельное предсказание нескольких токенов (MTP) для спекулятивного декодирования. Модель предназначена для генерации текста и диалогов, в частности для задач программирования и работы через инструменты разработки кода. В README описаны варианты квантования разного размера, от XXS примерно 9,8 ГБ до S примерно 12,2 ГБ, с компромиссом между потреблением памяти и качеством. Автор рекомендует низкие контекстные нагрузки для самых сжатых сборок и отмечает возможное ухудшение вызова API при длинном контексте у варианта XS. В инструкции приведён пример запуска через llama.cpp с MTP и контекстом до 245760 токенов; это параметр запуска, а не подтверждённая нативная длина контекста модели. Базовая Qwen3.6-27B описана в метаданных как мультимодальная, но в README этой сборки конкретная поддержка изображений не раскрыта. Лицензия — Apache-2.0.

Qwen3.8-27B-GPTQ-Int4-sym-G128-MTP-BF16 — квантизированный производный вариант модели Qwen/Qwen3.8-27B, опубликованный пользователем mikeinnyc. Это не дообученная модель: дополнительное обучение не проводилось, а GPTQ-квантизация выполнена непосредственно из исходного чекпойнта BF16. Модель предназначена для генерации текста и развёртывания через Transformers и vLLM, включая сценарии с OpenAI-совместимым API и Open WebUI. Она ориентирована на запуск на Intel Arc Pro B70 с использованием vLLM XPU, speculative decoding и unquantized MTP draft path. В контролируемом тестировании на одной Intel Arc Pro B70 32 GB конфигурация G128 поддерживала контекст до 161 000 токенов с FP8 KV-кэшем. Ключевые характеристики: GPTQ INT4 с симметричной квантизацией и group size 128, без квантизации LM head и MTP-тензоров; размер загрузки составляет около 19,6 ГБ, модель хранится в пяти файлах safetensors. Сильными сторонами являются уменьшенный объём памяти по сравнению с BF16, поддержка очень длинного контекста и возможность ускорения генерации с помощью MTP. Ограничения включают зависимость от совместимой конфигурации vLLM XPU и специальных патчей для проверенного сценария на Intel Arc Pro B70; заявленные характеристики производительности относятся именно к этому окружению. Модель распространяется по лицензии Apache-2.0.

kelnei/Qwen3.8-27B-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.8-27B, разработанная на основе исходной модели Qwen/Qwen3.8-27B. Она предназначена для генерации текста и обработки изображений с текстом, включая сценарии чат-взаимодействия и инференса на NVIDIA Blackwell GPU с архитектурой SM 12.0 и выше. Модель использует смешанную квантизацию: большинство линейных слоёв работают в NVFP4 (W4A4, group-16), отдельные компоненты — в FP8, а vision tower, merger, embeddings, norms и часть DeltaNet-слоёв сохранены в BF16. Размер чекпойнта и требуемой видеопамяти составляет около 21,8 ГБ против примерно 56 ГБ у версии BF16. Поддерживаются KV-кэш FP8 и multi-token prediction (MTP); заявленная точность относительно BF16-оригинала — 94,1% совпадения top-1 при эмулированном W4A4-инференсе. Главное преимущество модели — существенное снижение требований к памяти при сохранении близкого к исходному качеству и повышение скорости декодирования, особенно при MTP speculative decoding. Рекомендуемый сервер — vLLM с оптимизированными NVFP4-ядрами; для SGLang необходимо использовать более раннюю ревизию с BF16-головой, поскольку текущая FP8-голова может приводить к вырожденным результатам. Для работы требуется совместимый NVIDIA Blackwell GPU, поэтому модель не является универсальной для старых видеокарт. Модель распространяется по лицензии Apache-2.0.

Это лёгкая черновая голова EAGLE3 для Qwen3-Coder-Next от Thoughtworks. Она предназначена для ускорения генерации кода и других текстовых ответов методом speculative decoding: голова предлагает следующие токены, а целевая модель проверяет их. Модель содержит 372 млн параметров, использует архитектуру LlamaForCausalLMEagle3 с одним скрытым слоем и принимает скрытые состояния выбранных attention-слоёв базовой модели. Контекст составляет 4096 токенов; заявленный язык — английский. Базовая Qwen3-Coder-Next — MoE-модель для кодирующих агентов и многошаговой разработки. В README приведены замеры ускорения на SWEBench-Verified, HumanEval, Terminal-Bench и MT-Bench. Для запуска описана интеграция с SGLang и базовой моделью Qwen3-Coder-Next. Указаны ограничения: требуются TP=4, backend Triton и форк SGLang с поддержкой Qwen3-Next EAGLE3; на пакетных нагрузках результат зависит от ширины дерева, а при ненулевой температуре может снижаться доля принятых черновых токенов. Лицензия — Apache-2.0.

qwen3_vit_416m_merge.qwen3_vl_30b_a3b — визуальный энкодер на основе vision-весов Qwen3-VL-30B-A3B-Instruct, преобразованных в формат timm. Модель предназначена для извлечения признаков и эмбеддингов изображений, а также может служить визуальным backbone для последующего обучения классификатора. Она не содержит языковой модели и готовой обученной классификационной головы. Энкодер включает пространственный merger и проекцию до ширины 2048, затем усреднение признаков и LayerNorm без аффинных параметров. В README указаны 445,7 млн параметров и базовый размер изображения 768 × 768. Поддерживаются прямоугольные изображения; размеры сторон должны делиться на 16, а варианты с merger 2 × 2 требуют делимости на 32. Для классификации на целевом наборе данных необходимо обучить новую линейную голову. Репозиторий содержит safetensors, использует библиотеку timm и распространяется по лицензии Apache 2.0.

Это модель извлечения признаков изображений на основе визуального энкодера Qwen3-VL-235B-A22B-Instruct, преобразованного в формат timm. Она предназначена для получения пространственных признаков и эмбеддингов изображений, а также для использования в качестве визуального backbone при последующем обучении классификатора. Энкодер содержит около 415 млн параметров, имеет ширину 1152 и рассчитан на изображения 768 × 768. Архитектура использует MLP с GELU-tanh, обучаемые абсолютные позиции и осевое двумерное RoPE; поддерживаются прямоугольные изображения при соблюдении требований к кратности размеров. Модель принимает изображения, а выдаёт признаки и эмбеддинги; языковые веса и обученная голова классификации в репозитории отсутствуют. По README, веса визуального энкодера перенесены из Qwen3-VL без дополнительного обучения, а temporal Conv3d преобразован для обработки одиночных изображений. Для классификации нужно обучить новую линейную голову на целевом наборе данных. Лицензия — Apache 2.0.

Qwopus3.5-9B-Coder-GGUF — мультимодальная языковая модель от Jackrong, созданная на базе Qwopus3.5-9B-v3.5 и представленная в формате GGUF для использования с llama.cpp и совместимыми инструментами. Это плотная модель размером 9 млрд параметров, ориентированная на агентное программирование, сложные вызовы инструментов и логическое рассуждение. Модель предназначена для генерации и отладки кода, решения задач на уровне репозитория, работы с терминальными командами, файловыми операциями, браузерами и function calling. Она поддерживает текстовые и визуальные входные данные; для включения зрения требуется отдельный файл mmproj.gguf. Заявлены языки English, Chinese, Spanish, Russian и Japanese, однако размер контекста в README не указан. При дообучении использовались Trace Inversion, агентские трассировки и наборы данных для reasoning и tool use. Сильными сторонами заявлены структурированное рассуждение, работа с кодом и более стабильное использование инструментов при относительно низких требованиях к оборудованию: автор указывает возможность запуска в 8-битном режиме на устройствах с 16 ГБ оперативной памяти. Модель выпущена как экспериментальная версия сообщества; полноценная оценка общих способностей не проводилась, поэтому в непрофильных задачах возможно снижение качества. Указана лицензия Apache-2.0, но автор рекомендует использовать модель главным образом для исследований и экспериментов.

Replete-Coder-Llama3-8B-GGUF — это квантизированная версия модели Replete-Coder-Llama3-8B, разработанной Replete-AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель основана на архитектуре Llama 3 с 8 млрд параметров и предназначена для генерации текста и работы с программным кодом. Модель ориентирована на задачи программирования, генерации и дополнения кода, обработки инструкций, функционального вызова, математических рассуждений и общего диалогового применения. Обучение проводилось на наборах данных с примерами кода, инструкций, диалогов, математических задач и данных по поиску уязвимостей. В README указан шаблон запросов с секциями System, Instruction и Response. Поддерживается только текстовый ввод и вывод; сведения о языках, максимальной длине контекста и точных результатах тестов не приведены. Доступно несколько уровней квантизации GGUF: от Q5 до Q8, с размером файлов примерно от 5,73 до 9,52 ГБ. В README варианты Q5_K_M, Q6_K и Q6_K_L отмечены как рекомендуемые благодаря сочетанию качества и размера, а Q8 ориентированы на максимально высокое качество. Квантизация снижает требования к памяти, но может незначительно влиять на точность по сравнению с исходной моделью; числовые результаты бенчмарков отсутствуют. Использование регулируется лицензией Llama 3 от Meta, обозначенной как license_name: llama-3.

replit-code-v1-3b — языковая модель Replit, Inc. с архитектурой MPT и примерно 2,7 млрд параметров, предназначенная прежде всего для автодополнения кода. Она обучена на 525 млрд токенов из смеси данных, основанной на очищенной дедуплицированной версии The Stack; среди языков и форматов в обучающей смеси указаны Python, JavaScript, Java, TypeScript, SQL, C++, Rust, Go, HTML и Markdown. Модель использует токенизатор SentencePiece Unigram с кодо-ориентированным словарём на 32 768 токенов и позиционные встраивания ALiBi. Модель подходит как базовая для прикладной тонкой настройки и для дополнения фрагментов кода в редакторах и инструментах разработчика. В README отмечены возможные неподходящие или оскорбительные фрагменты в обучающих данных и рекомендация проверять результаты перед использованием в производственных системах. Лицензия — CC BY-SA 4.0.

resnet50.a1_in1k — свёрточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k по рецепту ResNet Strikes Back A1. Архитектура ResNet-B использует ReLU, начальную свёртку 7×7 с пулингом и свёрточные shortcut-связи 1×1. Модель содержит около 25,6 млн параметров и рассчитана на изображения 224×224 при обучении и 288×288 при оценке. Модель подходит для распознавания объектов на изображениях, извлечения карт признаков и получения эмбеддингов изображений. В README приведены детали обучения: оптимизатор LAMB, функция потерь BCE и косинусное расписание скорости обучения с разогревом. Веса доступны в форматах PyTorch и safetensors; лицензия — Apache-2.0.

ResNet50D A2 In1k — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k по рецепту ResNet Strikes Back A2. Архитектура ResNet-D использует активации ReLU, стем из трёх свёрток 3×3 с пуллингом и shortcut downsample с усредняющим пуллингом 2×2 и свёрткой 1×1. В модели 25,6 млн параметров и 4,4 GMACs. Модель предназначена для классификации изображений, извлечения карт признаков и получения эмбеддингов. При обучении использовался размер изображения 224×224, при тестировании — 288×288. Репозиторий содержит веса PyTorch и safetensors; лицензия — Apache-2.0. Модель работает с изображениями и выдаёт классы, карты признаков или эмбеддинги в зависимости от способа использования.

ResNetV2-50.a1h_in1k — сверточная модель классификации изображений из библиотеки timm, обученная Россом Уайтманом на ImageNet-1k по рецепту A1 из работы ResNet Strikes Back. Архитектура ResNet-V2 использует предварительную активацию остаточных блоков. Модель содержит около 25,5 млн параметров, требует изображение размером 224 × 224 пикселя и имеет вычислительную стоимость 4,1 GMACs. Модель предназначена для классификации изображений по классам ImageNet-1k, а также может использоваться как основа для извлечения признаковых карт и эмбеддингов изображений. Она принимает изображения и выдаёт оценки классов; веса доступны в форматах PyTorch и safetensors. Лицензия — Apache 2.0.

Shitao/RetroMAE_MSMARCO_finetune — BERT-подобная модель семейства RetroMAE, разработанная Shitao Xiao и соавторами для задач нейронного информационного поиска. Она представляет собой дообученную на коллекции MS MARCO passage версию RetroMAE_MSMARCO и предназначена для построения retrieval-ориентированных языковых представлений и плотного поиска.

RuBERT-base-cased — русскоязычная версия двунаправленного трансформера BERT, разработанная DeepPavlov. Модель имеет 12 слоёв, скрытый размер 768, 12 голов внимания и около 205 млн параметров по метаданным. Она принимает текст и извлекает контекстные векторные представления токенов; контекст ограничен 512 токенами. Модель обучалась на русскоязычных текстах Википедии и новостях. При создании использовалась мультиязычная версия BERT-base в качестве начальной точки, а словарь субтокенов был построен для русского языка. Чекпойнт включает головы MLM и NSP и подходит как основа для дальнейшей адаптации к задачам обработки русского языка. Лицензия в предоставленных данных не указана. Прикладные ограничения, помимо длины контекста, в карточке не описаны.

Ruri-Reranker-Small — японская модель-переранжировщик на основе Sentence Transformers и архитектуры DistilBERT, разработанная cl-nagoya. Она дообучена на базе cl-nagoya/ruri-pt-small и предназначена для повторного ранжирования результатов поиска: модель оценивает релевантность пары запроса и документа, чтобы поднять наиболее подходящие результаты выше. Размер модели — около 68 млн параметров; максимальная длина последовательности — 512 токенов. Модель рассчитана на японский язык и показывает результаты в бенчмарках JQaRA, JaCWIR и MIRACL. Лицензия Apache 2.0. Модель специализируется на ранжировании японского текста; качество для других языков не подтверждено. В README приведены сравнительные результаты на бенчмарках, но они не гарантируют аналогичную точность на других наборах данных.

RWKV/RWKV7-G1j-2.9B-20260831 — базовая языковая модель RWKV-7 Goose, официальный выпуск BlinkDL в формате Transformers. Это плотная авторегрессионная модель примерно на 3,1 млрд параметров для генерации текста, оценки и последующего дообучения; шаблон диалога задаёт формат запросов, но сам по себе не означает, что модель выровнена как безопасный ассистент. Архитектура RWKV-7 не использует attention: она поддерживает состояние рекуррентного размера, не растущее с длиной контекста, и постоянную вычислительную работу на генерируемый токен; обучение при этом допускает параллелизацию. В комплект входят реализация для Transformers, токенизатор RWKV World и шаблон чата с поддержкой многоходовых диалогов, режима thinking и формата вызова инструментов. Модель обучалась на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждательных данных. В карточке перечислена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Модель подходит для генерации и продолжения текста, диалоговых прототипов и как основа для оценки или дообучения. Качество следования инструкциям и языковое поведение зависят от чекпойнта, промпта и последующего обучения. Откат состояния для assisted/speculative decoding не поддерживается без сохранения предыдущих состояний; оптимизированный запуск зависит от GPU, типа данных, размера пакета и формы входа. Заявлений о проверке безопасности, предвзятости, токсичности, фактической точности или пригодности для критически важных решений нет. Лицензия — Apache-2.0.

Карточка модели rahulydc/semantic-highlight-ft на Hugging Face совпадает с карточкой zilliz/semantic-highlight-bilingual-v1, поэтому описание составлено по ней. Semantic Highlight Bilingual — модель Zilliz для семантического выделения релевантных предложений в тексте по запросу. Она дообучена на базе BAAI/bge-reranker-v2-m3 и использует архитектуру OpenProvence с весами в формате safetensors. Модель принимает запрос и текстовый контекст, оценивает релевантность токенов, агрегирует оценки по предложениям и возвращает релевантные предложения и показатели сжатия текста. Предназначена для подсветки результатов поиска и сокращения контекста в системах RAG. Модель поддерживает китайский и английский языки. В README указаны размер около 0,6 млрд параметров и вывод за миллисекунды; порог релевантности можно настраивать. Лицензия — MIT. Размер и скорость приведены в карточке модели; фактическая производительность зависит от оборудования и параметров инференса.

myrkur/sentence-transformer-parsbert-fa — Sentence Transformers модель, дообученная на базе HooshvareLab/bert-base-parsbert-uncased для поиска семантически близких персидских предложений и абзацев, в том числе в системах RAG, вопросно-ответных системах и чат-ботах. Архитектура включает BERT и mean pooling; модель преобразует текст в плотные векторы размерности 768, а сходство можно оценивать косинусной мерой. Модель рассчитана на персидский язык, использует библиотеку sentence-transformers и принимает последовательности длиной до 512 токенов. Для подготовки модели указан датасет Gholamreza/pquad. Модель распространяется по лицензии Apache-2.0. Она предназначена для поиска и сопоставления текстов, а не для самостоятельной генерации ответов; качество на других языках и вне задач семантического поиска не подтверждено.

Veritone распространяет текстовую башню модели SigLIP 2 So400m patch14-384 от Google: это отдельная копия текстового энкодера исходной модели google/siglip2-so400m-patch14-384. Она преобразует текстовые запросы в общее пространство эмбеддингов, сопоставимое с представлениями изображений, и предназначена для использования при поиске отдельно от визуальной башни, что позволяет сократить расход памяти и время загрузки. Модель подходит для классификации изображений по текстовым меткам без дообучения, поиска изображений по запросу и в качестве текстового компонента систем сопоставления текста и изображений. Семейство архитектуры — SigLIP; модель работает с текстом и сама по себе не содержит визуальную башню. Контекст составляет 64 токена. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache 2.0. README указывает предварительное обучение SigLIP 2 на наборе WebLI.

SkillReason-reranker-4b — реранкер для поиска навыков ИИ-агентов, разработанный авторами SkillReason и дообученный на базе Qwen/Qwen3-Reranker-4B. Он оценивает соответствие документа с описанием навыка запросу на естественном языке и предназначен для второго этапа конвейера retrieve-then-rerank: после первичного поиска модель пересортировывает кандидатов по релевантности. В опубликованном протоколе оцениваются 20 лучших результатов первичного поиска. Модель имеет плотную архитектуру Qwen3ForCausalLM и 3,7 млрд параметров. Она принимает текстовый запрос и текст документа-кандидата, а её основная функция — ранжирование по релевантности. Контекст составляет до 40 960 токенов; для пакетной обработки и длинных документов авторы рекомендуют официальный инструментарий, который сохраняет формат промпта и корректно обрезает длинный ввод. Карточка указывает английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Ttimms/Spark-X2.5-4B-NVFP4 — это квантизированная 4-битная версия языковой модели XHToken/Spark-X2.5-4B, подготовленная Ttimms. Модель предназначена для генерации текста и кода, агентских сценариев и задач с длинным контекстом; заявленная поддержка языков — английский и китайский. Она совместима с Transformers и рассчитана на запуск через vLLM с внешним плагином Spark2_5, преимущественно на GPU NVIDIA Blackwell. Модель содержит около 4,1 млрд параметров и использует архитектуру Spark2_5ForCausalLM с гибридным вниманием, сочетающим скользящее и полное внимание, а также поэлементным выходным затвором внимания. Контекстное окно достигает 1 млн токенов. Применена квантизация весов NVFP4 W4A16 методом GPTQ с активациями bf16; отдельные компоненты сохранены в bf16. Размер модели на диске составляет около 2,7 ГиБ против 7,7 ГиБ у базовой bf16-версии, что снижает требования к памяти, но на SM120 выигрыш относится главным образом к занимаемому объёму, а не к скорости вычислений. По представленным оценкам, относительно базовой bf16-модели качество снизилось примерно на 4,3 процентного пункта в HumanEval-instruct и на 2,0 пункта в MBPP. GPTQ заметно сохраняет качество лучше, чем округление RTN, однако для максимального сохранения исходных характеристик рекомендуется FP8-версия базовой модели. Для запуска требуются vLLM, внешний плагин Spark2_5 и параметр trust_remote_code; заявлена поддержка tool calling. Модель распространяется по лицензии Apache-2.0.

Это англоязычный разреженный поисковый энкодер SPLADE от tomaarsen, дообученный на базе Luyu/co-condenser-marco с использованием Sentence Transformers. Модель преобразует предложения и абзацы в разреженные векторы размерности 30 522; релевантность документов оценивается скалярным произведением векторов. Архитектура включает BERT с masked language modeling и max-pooling SPLADE. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе по запросам на естественном языке. Максимальная длина входа — 512 токенов. В README приведены оценки на небольших наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Лицензия Apache-2.0 допускает использование и распространение на её условиях.

Это разреженный энкодер семейства ModernBERT, опубликованный организацией SparseEncoder и обученный с помощью Sentence Transformers на английском наборе Natural Questions. Он преобразует текстовые запросы и документы в разреженные векторы размерности 50 368 для семантического поиска и разреженного извлечения информации. Модель содержит 149 млн параметров; метаданные указывают контекст до 8192 токенов, а карточка модели заявляет максимальную длину последовательности 512 токенов. Модель предназначена для поиска релевантных документов и ответов по запросу. В README приведены результаты оценки на наборах NanoBEIR и отдельных наборах поиска, включая Natural Questions, MS MARCO, HotpotQA и Quora Retrieval. Она выдаёт векторные представления, а не готовые текстовые ответы. Лицензия в предоставленных данных не указана.

SPLADEv2max — разработанная Naver разреженная модель-энкодер для поиска по предложениям и абзацам. Она кодирует текст в разреженный вектор размерности 30 522 и предназначена для семантического поиска и извлечения passages; оценки релевантности вычисляются скалярным произведением векторов. Модель основана на distilbert/distilbert-base-uncased и использует masked language modeling с max-pooling и ReLU. Максимальная длина входа — 512 токенов; для воспроизведения оценки используется длина 256 токенов. Поддерживаемый язык — английский. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование.

Stable-DiffCoder-8B-Base — базовая модель для генерации кода, разработанная ByteDance на архитектуре Seed-Coder. Это языковая модель с диффузионным обучением по блокам, представленная в формате safetensors и рассчитанная на запуск через Transformers. По карточке, при обучении использовано 1,3 трлн токенов кода из GitHub и веб-источников; размер модели — 7,6 млрд параметров, длина контекста — 8192 токена. Модель предназначена для генерации и дополнения кода, включая заполнение пропусков между заданными префиксом и суффиксом (Fill-in-the-Middle), а также для рассуждений о коде. Обучение с диффузионным предсказанием в произвольном порядке ориентировано на структурированные задачи редактирования; авторы также отмечают преимущества для языков программирования с малым объёмом обучающих данных. В README сообщается о результатах на тестах генерации кода, дополнения и рассуждений, но они не гарантируют качества в конкретном проекте. Это предварительно обученная базовая модель, а не версия, настроенная на выполнение пользовательских инструкций; для такого сценария авторы отдельно предлагают Stable-DiffCoder-8B-Instruct. Лицензия репозитория — MIT. Модель может выдавать ошибочный или небезопасный код, поэтому результат нужно проверять перед использованием.