II.10Разработка и эксплуатация AI/ML-систем

Ornith-1.0-35B-FP8-BLOCK — это квантизированная версия языковой модели Ornith-1.0-35B, разработанной командой DeepReinforce. Артефакт опубликован shisa-ai и изменяет только представление чекпойнта, не добавляя дополнительного дообучения. Модель относится к семейству Qwen3.5 MoE и предназначена для рассуждений, агентных сценариев и генерации кода, включая работу через совместимый с OpenAI API сервер. Квантизация выполнена методом model-free PTQ без калибровочных данных с помощью llm-compressor. Веса Linear-модулей представлены в статическом симметричном FP8 с блоками 128×128, а активации квантизуются динамически в FP8 с группами размера 128; формат хранения — compressed-tensors FP8_BLOCK. Размер исходной модели — 35B параметров, но другие характеристики, включая точный контекст и языковой охват, в карточке не указаны. Эмбеддинги, lm_head, маршрутизация MoE, линейное внимание и визуальные модули оставлены без квантизации. Модель не содержит MTP-head и не заявляет поддержку speculative decoding. Основные преимущества — уменьшенное представление весов и возможность запуска в современных средах, поддерживающих Qwen3_5MoeForConditionalGeneration и FP8_BLOCK, например vLLM. Ограничения — необходимость значительных ресурсов KV-кэша при длинном контексте и отсутствие опубликованных отдельных бенчмарков для квантизированной версии; качество и задержку рекомендуется проверять относительно исходной BF16-модели на целевой нагрузке. Артефакт распространяется по лицензии MIT.

Ornith-1.5-35B-A3B-FP8 — языковая модель для генерации текста, разработанная командой Ornith AI. Это средняя по размеру модель семейства Ornith-1.5, ориентированная прежде всего на программирование, работу через терминал и агентские сценарии, где модель должна планировать действия, использовать инструменты и решать многошаговые задачи разработки. Модель создана на основе подхода непрерывного самоулучшения: она совместно оптимизирует генерацию задач, построение scaffold-структур и последовательности решений с помощью reinforcement learning, а не полагается только на фиксированный набор задач и вручную разработанные процедуры оценки. Модель использует архитектуру mixture-of-experts: всего содержит около 35 млрд параметров, но активирует примерно 3 млрд параметров на токен. Вариант FP8 предназначен для более эффективного хранения и выполнения инференса. В README указана текстовая модальность и задача text generation; сведения о поддерживаемых языках и размере контекста не приведены. Среди заявленных сильных сторон — результаты в программировании и агентской разработке: на SWE-bench Verified модель получила 79 баллов, а на Terminal-Bench 2.1 — 67,8 балла в конфигурации Terminus-2 и 68,5 в конфигурации Claude Code. Ограничения, не отражённые в карточке, включают отсутствие подробных данных о качестве на общих языковых задачах, языковом покрытии, безопасности и практических требованиях к оборудованию. Модель распространяется по лицензии MIT. Заявленные показатели приведены авторами README и могут зависеть от используемого окружения, инструментов и методики оценки.

Ornith-1.5-35B-A3B — языковая модель семейства Ornith-1.5, разработанная командой Ornith. Это среднеразмерная sparse Mixture-of-Experts модель с 35 млрд параметров, из которых при обработке каждого токена активируется около 3 млрд. Представленная версия предназначена для запуска через библиотеку MLX в 4-битном формате квантования и поддерживает генерацию текста. Модель ориентирована прежде всего на программирование, работу с терминалом и агентские сценарии, включая автономное решение задач разработки и взаимодействие с инструментами. Согласно карточке модели, она обучалась с использованием цикла самоулучшения: модель совместно оптимизировала генерацию задач, построение scaffolding и последовательности решений с помощью reinforcement learning. Заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified; однако приведённые показатели зависят от конкретного окружения и конфигурации агентского harness. К сильным сторонам относятся высокая эффективность инференса за счёт активации небольшой части параметров, специализация на кодировании и агентской работе, а также 4-битное представление для запуска в экосистеме MLX. В доступных данных не указаны максимальная длина контекста, полный список поддерживаемых языков, мультимодальные возможности, требования к оборудованию и лицензия, поэтому эти характеристики и условия использования требуют дополнительной проверки.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и распространяется в формате MLX для задач генерации текста. Модель создана с применением подхода непрерывного самоулучшения: она совместно оптимизирует генерацию учебных задач, построение scaffolds и rollouts решений с использованием reinforcement learning, вместо опоры только на фиксированный набор вручную подготовленных задач. Модель предназначена для программирования, работы с терминалом, решения инженерных задач и других сценариев генерации текста. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual; например, результаты составляют 46,2 и 47 баллов в двух конфигурациях Terminal-Bench 2.1, 70,6 в SWE-bench Verified и 47,5 в SWE-bench Pro. Разработчик позиционирует её как наиболее лёгкую модель семейства, рассчитанную на эффективное развёртывание на одной GPU. Ключевые ограничения связаны с неполнотой доступной карточки: в README не указаны размер контекста, точный набор поддерживаемых языков, дополнительные модальности, конкретная базовая архитектура и лицензия. Для мобильных устройств упомянут отдельный квантизованный вариант Ornith-1.5-9B-Mobile, однако описываемая модель предназначена прежде всего для развёртывания на одной GPU.

Ornith-1.5-9B — плотная языковая модель с 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана для эффективного развертывания на одной GPU; для мобильных устройств предусмотрен отдельный квантованный вариант Ornith-1.5-9B-Mobile. Модель предназначена для генерации текста, программирования и решения задач, требующих многошагового рассуждения и работы с инструментами. В основе обучения лежит расширенный цикл самоулучшения: модель совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с использованием reinforcement learning. В отличие от подхода с фиксированным набором созданных людьми задач и вручную разработанными harness, система автоматически генерирует новые тренировочные задачи и ищет эффективные стратегии их решения. Ornith-1.5 развивает Ornith-1.0, который был построен на базе Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. К сильным сторонам относятся компактный для современных моделей размер, возможность развертывания на одной GPU и заметные результаты в задачах программирования: в README указаны оценки 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на Terminal-Bench 2.1 в зависимости от используемого агента. Данные о поддерживаемых языках, размере контекста, мультимодальности и конкретных архитектурных компонентах не приведены, поэтому их характеристики нельзя установить по этой карточке. Модель распространяется по лицензии MIT.

QaptaanLM-0.75B — компактная текстовая причинно-языковая модель для генерации кода, технических рассуждений и анализа длинных фрагментов кода. Её разработали в проекте Kaptaan на основе Qwen/Qwen3.5-0.8B-Base: визуальную часть исходной архитектуры удалили, а модель дообучили на корпусе KapCode-1B. В README указано 752 млн параметров; метаданные каталога указывают 581,4 млн. Модель использует гибридное внимание с линейными рекуррентными слоями и плотным вниманием, поддерживает заполнение пропусков в коде (Fill-in-the-Middle) и контекст до 262 144 токенов. Она предназначена для локального дополнения и генерации кода, вставки кода в заданный контекст и работы с техническими документами и материалами по STEM. Данные обучения включают исходный код, документацию, веб-тексты и математические материалы; метаданные отмечают английский язык. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0. Карточка также перечисляет отдельные варианты для инструкционного чата и GGUF, но это не форматы данного репозитория.

Модель unsloth/Qwen2.5-32B — версия базовой языковой модели Qwen2.5, опубликованная Unsloth и основанная на Qwen/Qwen2.5-32B. Это плотная причинная языковая модель с архитектурой Qwen2ForCausalLM, 32 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors и модель работает через Transformers. В карточке также приведены сведения об архитектуре семейства: RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Модель предназначена для генерации текста и дальнейшего дообучения. Базовый чекпойнт поддерживает многоязычную генерацию, включая русский, английский, китайский и другие языки; семейство Qwen2.5 также описано как способное работать с кодом, математическими задачами, длинными текстами и структурированными данными. README отдельно предупреждает, что базовая модель не рекомендуется для диалогов без последующего обучения, например SFT или RLHF. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-GGUF — квантизированная в формате GGUF версия базовой модели Qwen2.5-Coder-14B, разработанной командой Qwen. Квантизация выполнена bartowski на основе llama.cpp версии b4058. Модель предназначена для генерации и автодополнения исходного кода и других задач программирования; в карточке указаны английский язык и текстогенерация как основной сценарий применения. Модель содержит 14 млрд параметров, обучена на 5,5 трлн токенов и поддерживает контекст до 128 тыс. токенов с настройками RoPE YaRN и коэффициентом 4,0; исходная длина контекста составляет 32 тыс. токенов. Это именно базовая модель, поэтому она рассчитана на completion и generation, а не на диалоговый или instruct-режим, что ограничивает её готовность к общению по инструкциям без дополнительного форматирования или дообучения. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-14B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-14B-Base, подготовленная Unsloth с использованием квантования Unsloth Dynamic 2.0. Исходную модель разработала команда Qwen. Это причинная языковая модель на стадии предварительного обучения, предназначенная для генерации и продолжения текста, обработки естественного языка, программирования, STEM-задач, рассуждений и работы с многоязычными данными. Модель содержит 14,8 млрд параметров, из них 13,2 млрд без учёта embedding-слоёв, имеет 40 слоёв и использует Grouped Query Attention: 40 голов для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. При обучении использовался корпус объёмом 36 трлн токенов на 119 языках, включавший языковые, кодовые, научно-технические, книжные, многоязычные и синтетические данные. Квантование до 4 бит снижает требования к памяти и может упростить локальный запуск, однако потенциально сопровождается потерей точности по сравнению с полной или менее агрессивной разрядностью. Это базовая, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения инструкций может потребоваться дополнительная настройка или специально подобранный prompting. Для работы рекомендуется использовать актуальную версию transformers; версии ниже 4.51.0 не поддерживают архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B Uncensored Coder — текстовая LoRA-дообученная версия Qwen3.5-9B от mshodiqul на базе DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED. Модель предназначена для генерации кода, агентных сценариев, вызова инструментов и функций в диалоговом формате. Дообучение выполнено методом SFT на синтетических трассах вызова функций и агентного кодирования; тесты карточки отмечают успешную работу с одиночным и множественным выбором инструментов, а также в сценарии агента-программиста. Модель использует архитектуру Qwen3.5-9B и принимает текст, включая запросы с инструкциями для инструментов. Контекстное окно составляет 262 144 токена; практическая длина ответа обычно ограничена несколькими тысячами токенов. Зрительная часть базовой модели сохранена, но в этом дообучении не участвовала. Лицензия — Apache-2.0. Среди известных ограничений — уход в посторонние шаблоны при длинных запросах на bash или скрипты, когда включён блок рассуждений; для таких задач в карточке рекомендуются соответствующий reasoning parser или отключение рассуждений. При вопросе о собственной идентичности модель может воспроизводить имя из обучающих данных. Поведение без цензурных ограничений унаследовано от базовой модели.

Qwen3.6-Max-Preview — проприетарная модель Alibaba Cloud на архитектуре разреженной смеси экспертов (MoE), содержащая примерно 1 трлн параметров. Она предназначена для агентного программирования, использования инструментов и генерации текста. Доступный фрагмент карточки не раскрывает подробности об интерфейсе, поддерживаемых языках или длине контекста. Модель представлена как Preview; условия лицензии в доступных данных не описаны.

unsloth/Qwen3-8B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen Team. Это причинная языковая модель на этапе предварительного обучения, предназначенная для генерации и продолжения текста, адаптации под прикладные задачи, программирования, STEM, рассуждений и работы с многоязычными данными. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, и имеет 36 слоёв. Используется Grouped-Query Attention: 32 головы запросов и 8 голов ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на 36 трлн токенов на 119 языках, однако README не уточняет точный перечень языков и отдельно не описывает мультимодальные возможности; по указанным характеристикам это текстовая модель. 4-битное представление снижает требования к памяти и облегчает локальный запуск, сохраняя совместимость с экосистемой Transformers, но может влиять на точность по сравнению с полноразмерной версией. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев и следования сложным инструкциям может потребоваться дополнительное дообучение или специальное форматирование запросов. Для работы рекомендуется актуальная версия transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: qwen3. Лицензия — Apache-2.0.

AnonimousA/Qwen3.8-Flash-Next-REAP-256-duo-GGUF — общественная производная модели Qwen3.8-Flash-Next, неофициально созданная сообществом и не связанная с Alibaba/Qwen. Это GGUF-квантизированная модель с pruning-экспертов REAP: число экспертов в каждом слое сокращено с 512 до 256, при этом сохранённые веса скопированы без деквантизации и повторного квантования. Базовый формат — Unsloth UD-Q3_K_XL, общий размер составляет около 57,69 GiB в двух файлах вместо 83,8 GiB у исходной версии. Модель предназначена прежде всего для генерации кода и агентского взаимодействия, включая оркестрацию инструментов и tool calling. Она использует архитектуру qwen4exp с гибридом Gated DeltaNet, Qwen Sparse Attention и блоком n-gram embedding. Активируются 10 экспертов и один общий эксперт; число активных параметров не изменено. Веса vision-компонентов сохранены, но файл mmproj распространяется отдельно. Калибровка pruning выполнена на корпусах кода и агентской оркестрации. Главное преимущество — уменьшенный размер, благодаря которому модель может размещаться преимущественно в VRAM: на RTX 5090 объёмом 32 GB заявлены 68,4 токена/с при декодировании и 934 токена/с при prefill с частичным размещением MoE на CPU. При полном выполнении на CPU прирост декодирования практически отсутствует, зато prefill был примерно в 1,58 раза быстрее исходной модели. К ограничениям относятся возможное снижение качества из-за глубокого pruning, более низкий заявленный результат HumanEval по сравнению с последующей версией REAP-320 и необходимость использовать llama.cpp mainline с поддержкой архитектуры, добавленной 27 августа 2026 года. Лицензия указана как qwen-community-1.0; ссылка ведёт на лицензию исходной модели Qwen3.8-Flash-Next. Перед использованием следует учитывать, что это community derivative, а не официальный релиз Qwen.

saricles/Qwen3-Coder-Next-NVFP4-GB10 — это 4-битная NVFP4-квантизация модели Qwen3-Coder-Next, подготовленная для NVIDIA DGX Spark с GB10. Базовая модель разработана Qwen; это языковая MoE-модель на 79,7 млрд параметров с 512 экспертами, из которых для каждого токена активны 10, и гибридной архитектурой DeltaNet и attention. Квантизацию после обучения выполнили с помощью LLM Compressor; часть слоёв оставлена в BF16, а большая часть весов, включая in_proj_qkvz, переведена в FP4. Модель предназначена для генерации кода и диалогового использования в сценариях разработки. Карточка приводит результаты тестирования на одном DGX Spark с vLLM и сообщает о совместимости с другими видеокартами Blackwell, поддерживающими NVFP4. В описанном тестовом окружении вес модели занимал 42,7 ГиБ; гибридная архитектура обеспечивает заявленную автором стабильную скорость декодирования при увеличении контекста. В метаданных указан английский язык; размер нативного контекста не приведён. Репозиторий распространяется по лицензии Apache 2.0.

Qwen3-Embedding-4B-AWQ-INT4 — квантизированная версия модели Qwen/Qwen3-Embedding-4B, производная работа от оригинальной модели Qwen. Артефакт предназначен для встраивания в системы эмбеддингов и может использоваться как компактная замена базовой модели в задачах семантического поиска, сопоставления текстов и других сценариях, где нужны текстовые векторные представления. В README явно указан английский язык. Модель использует 4-битное квантизирование весов методом AWQ (INT4, weight-only). Размер на диске составляет примерно 2,7 ГБ; заявлено, что она помещается на потребительский GPU с 6 ГБ видеопамяти, однако требуется дополнительный запас памяти для KV-кэша. В качестве максимальной длины контекста для запуска через vLLM указано 32 768 токенов. Данные о точной архитектуре, размерности эмбеддингов и результатах сравнительного тестирования не приведены. Основные преимущества — существенно уменьшенный размер и требования к памяти при сохранении назначения исходной embedding-модели, а также совместимость с embedding-стеками и запуском через vLLM. Ограничения включают поддержку только английского языка согласно README и потенциальное снижение точности из-за INT4-квантизации; количественная оценка этого снижения не указана. Модель распространяется по лицензии Apache License 2.0, с требованием соблюдать атрибуцию исходной модели Qwen/Qwen3-Embedding-4B.

NVIDIA Qwen3-Next-80B-A3B-Thinking NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-Next-80B-A3B-Thinking, разработанной Alibaba и подготовленной NVIDIA с использованием TensorRT Model Optimizer. Модель предназначена для коммерческого и некоммерческого применения в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на основе генерации текста. Модель использует архитектуру Transformers и сетевую архитектуру Qwen3NextForCausalLM. Она принимает текстовые последовательности и генерирует текст. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Количество параметров в карточке не раскрыто, поддерживаемые языки и точные характеристики исходной модели здесь не указаны. Веса и активации линейных операторов внутри трансформерных блоков квантизированы в формат NVFP4. Это уменьшает число бит на параметр с 16 до 4, а размер на диске и требования к памяти GPU примерно в 3,3 раза. Модель оптимизирована для инференса через TensorRT-LLM на GPU NVIDIA, в частности на архитектуре Blackwell; предпочтительная операционная система — Linux. Ограничениями являются зависимость от совместимой инфраструктуры NVIDIA, отсутствие раскрытых данных о параметрах и обучении, а также необходимость дополнительного тестирования качества и безопасности для конкретного сценария. Модель распространяется по лицензии Apache License 2.0. Для развёртывания рекомендуется TensorRT-LLM; заявленная версия квантизации выполнена с использованием nvidia-modelopt v0.40.0.

Qwen-Qwen2.5-Coder-14B-Instruct-GGUF — набор GGUF-квантизированных вариантов модели Qwen2.5-Coder-14B-Instruct, подготовленный Featherless AI Quants. Модель предназначена для генерации текста и прежде всего для задач программирования: написания, дополнения и объяснения кода, а также работы с инструкциями в формате instruct. В README не указаны точные сведения о поддерживаемых языках, длине контекста, архитектуре исходной модели и используемых модальностях, поэтому их характеристики нельзя определить достоверно. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 5,5 до 15 ГБ. Разные уровни квантизации позволяют выбирать между меньшими требованиями к ресурсам и потенциальным сохранением качества исходной модели, однако README не содержит результатов сравнительных оценок. Файлы предназначены для запуска в совместимой с форматом GGUF инфраструктуре. Разработчик исходной модели — Qwen, а квантизацию выполнила команда Featherless AI Quants. Ограничения включают зависимость характеристик от выбранного варианта квантизации и отсутствие в README данных о производительности, системных требованиях, качестве на конкретных тестах и ограничениях применения. Лицензия в README не указана.

Qwopus3.8-27B-Flash-TQ3_4S — сборка в формате GGUF модели Jackrong/Qwopus3.8-27B-Flash, разработанной как скоростной вариант Qwen/Qwen3.8-27B для агентных сценариев. Это плотная мультимодальная модель с поддержкой диалога и анализа изображений и видео; в комплекте сохранена голова NextN/MTP для ускорения генерации методом self-speculative decoding. Файл модели занимает 13,6 ГБ, проектор зрения — 1,8 ГБ; README приводит тестирование на GPU RTX 3090 и контекст 32768 токенов в рекомендуемой конфигурации. Модель ориентирована на быстрые циклы работы агентов и генерацию кода. В README сообщаются результаты тестов Hard86, HumanEval и MBPP, а также ускорение декодирования на задачах с кодом при включённом MTP. Это заявление автора карточки; результаты зависят от конфигурации, а сравнение с базовой моделью проводилось при различающихся бюджетах рассуждений. Для загрузки TQ3_4S необходима специальная сборка turbo-tan/llama.cpp-tq3: стандартная llama.cpp этот тип тензоров не поддерживает. Лицензия — Apache-2.0.

McGill-NLP/roberta-large-faithcritic — модель RoBERTa large, дообученная на FaithCritic, производном датасета FaithDial. Она классифицирует высказывание как соответствующее или не соответствующее исходным знаниям и предназначена для проверки фактической верности ответов в диалоговых системах с опорой на источники. Модель имеет архитектуру RobertaForSequenceClassification, содержит 454,1 млн параметров и принимает текст с контекстом длиной до 514 токенов. Выпущена под лицензией MIT.

Semantic Highlight Bilingual — модель Zilliz для семантического выделения релевантных предложений в тексте по запросу. Она дообучена на базе BAAI/bge-reranker-v2-m3 и использует архитектуру OpenProvence с весами в формате safetensors. Модель принимает запрос и текстовый контекст, оценивает релевантность токенов, агрегирует оценки по предложениям и возвращает релевантные предложения и показатели сжатия текста. Предназначена для подсветки результатов поиска и сокращения контекста в системах RAG. Модель поддерживает китайский и английский языки. В README указаны размер около 0,6 млрд параметров и вывод за миллисекунды; порог релевантности можно настраивать. Лицензия — MIT. Размер и скорость приведены в карточке модели; фактическая производительность зависит от оборудования и параметров инференса.

Veritone/siglip2-so400m-patch16-384-vision — облегчённая копия vision tower модели SigLIP 2 So400m, разработанной Google. Она кодирует изображения и видеокадры в общее пространство эмбеддингов и предназначена для отдельной загрузки на этапе индексации, например, когда нужен только визуальный энкодер. Модель подходит для классификации изображений по кандидатным текстовым меткам с нулевым обучением, поиска изображений по тексту и использования в качестве визуального энкодера для мультимодальных моделей. Архитектура — SigLIP, класс SiglipModel; веса сохранены в формате safetensors. Для поиска и сопоставления с текстом предусмотрена отдельная текстовая башня Veritone/siglip2-so400m-patch16-384-text. Модель принимает изображения и выдаёт векторные представления; README также указывает на кодирование видеокадров. Лицензия — Apache-2.0. Размер модели и точные параметры разрешения входа для этой копии в предоставленных сведениях не подтверждены.

Silero VAD v6 — экспорт модели обнаружения речевой активности Silero, подготовленный loom-ai-org для запуска в loom.cpp. Это модель архитектуры STFT + CNN + LSTM примерно с 300 тысячами параметров; веса соответствуют Silero VAD v6.2.3 для аудио 16 кГц и не изменены. Репозиторий упаковывает модель в формат GGUF; метаданные указывают библиотеку loom-py-rt и лицензию MIT. Модель принимает монофонический звук с частотой 16 кГц и выдаёт вероятность наличия речи для каждого кадра длительностью 32 мс. Она подходит для определения участков речи в аудиозаписях и предварительной обработки аудио перед распознаванием речи. Модель языконезависимая; README сообщает, что обучающие корпуса охватывают более 6000 языков. Выход представляет собой вероятности по кадрам, а не готовые временные метки речи: выбор порога и постобработку, включая обработку границ сегментов и отбрасывание коротких фрагментов, нужно выполнять отдельно. Экспортированная версия работает только с монофоническим аудио 16 кГц; вариант для 8 кГц не включён. По README, экспорт сохраняет вычисления исходной модели с небольшим расхождением вероятностей из-за округления с плавающей точкой.

Это конвертированная в формат Vokra GGUF версия модели Silero VAD v6.2.1 от upstream-разработчика snakers4. Она предназначена для определения участков речи в аудиозаписи и запускается в среде инференса Vokra, которая поддерживает отображение весов в память. Для работы модели требуется монофонический WAV с частотой дискретизации 16 кГц; результатом являются обнаруженные речевые сегменты. Файл весит 2,1 МБ, архитектура обозначена как silero-vad. Конверсия сохраняет исходные веса и не является новым дообучением. Лицензия — MIT.

enfuse/smol-tools-4b-32k — языковая модель для агентских сценариев и вызова инструментов, разработанная enfuse на базе Jackrong/Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled. Модель дообучена методом LoRA на 8 059 примерах, включая многошаговые диалоги с использованием инструментов длиной до 32K токенов. Она предназначена для выбора одного или нескольких инструментов, формирования структурированных вызовов функций, работы с результатами инструментов в многоходовых диалогах, анализа длинных документов и выполнения сложных агентских рабочих процессов. Архитектура — Qwen3_5ForCausalLM с 4 млрд параметров, 32 слоями и гибридным вниманием: 24 слоя используют линейное внимание, 8 — полное. Модель текстовая, поддерживает английский язык и контекст до 32 768 токенов. Доступны BF16 safetensors размером 9,7 ГБ, а также варианты GGUF Q8_0 на 4,9 ГБ и Q4_K_M на 2,9 ГБ. Заявлены 100% валидность JSON, 100% корректность аргументов и 100% точность отказа от инструментов, а F1 выбора инструментов составляет 0,940 на отложенной выборке из 200 примеров. Сильные стороны модели — длинный контекст, высокая надежность структурированного вывода, поддержка последовательных и параллельных вызовов инструментов и сохранение точности в многоходовых сценариях. Ограничение — некоторое снижение F1 выбора инструментов по сравнению с 4K-версией: 0,940 против 0,955; в сложных многошаговых рабочих процессах показатель составляет 0,818, а в сценариях с интенсивным рассуждением — 0,914. Модель распространяется по лицензии Apache-2.0.

Это объединённая модель MaziyarPanahi на базе Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-orca-7b-v1.0. Модели объединены методом SLERP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса представлены в safetensors, исходная конфигурация слияния использует bfloat16. Модель предназначена для диалоговых ответов на инструкции и генерации кода на английском языке. Контекстное окно — до 32 768 токенов. Лицензия — Apache-2.0.

SPLADE Sparse Encoder — англоязычная модель на базе BERT, дообученная авторами репозитория tomaarsen от Luyu/co-condenser-marco на датасете MS MARCO с помощью Sentence Transformers. Она преобразует предложения и абзацы в разреженные векторы размерности 30 522 и предназначена для семантического поиска и разреженного извлечения документов; релевантность оценивается скалярным произведением векторов. Модель принимает последовательности длиной до 512 токенов и использует BertForMaskedLM с max pooling и активацией ReLU. Модель подходит для поиска документов по запросам и ранжирования кандидатов в англоязычных поисковых системах. В README приведены оценки на наборах NanoMSMARCO, NanoNFCorpus и NanoNQ. Модель распространяется по лицензии Apache-2.0. Она ориентирована на английский язык и разреженный поиск; результаты зависят от корпуса и поисковой настройки.

Карточка модели seerware/Splade_PP_en_v2 на Hugging Face совпадает с карточкой prithivida/Splade_PP_en_v2, поэтому описание составлено по ней. prithivida/Splade_PP_en_v2 — независимая реализация модели SPLADE++ для поиска по текстовым документам, разработанная Donkey Stereotype. Это модель-энкодер на базе BERT с 136,7 млн параметров, формирующая разреженные представления текста через MLM-голову: она расширяет текст контекстуальными токенами и помогает находить документы при несовпадении формулировок запроса и текста. Модель предназначена для кодирования документов в поисковых и retrieval-системах; для запросов автор указывает на отдельную модель. В README описаны настройки для индустриального поиска: ограничение длины документов 128 токенами, оптимизация разреженности и ориентир на баланс качества поиска, задержки и размера индекса. Модель обучалась с использованием MS MARCO; заявлены показатели MRR@10 и времени retrieval, но они зависят от набора данных и конфигурации системы. Поддерживается английский язык, контекст — до 512 токенов. Доступны форматы PyTorch и ONNX. Для применения модель выдаёт признаки и разреженные представления текста, которые можно индексировать и использовать для поиска документов и оценки сходства предложений. Лицензия — Apache-2.0. Ограничения BERT и конкретного дообучения сохраняются; для пользовательских доменов качество следует проверять отдельно.

StarCoder2-15B-GGUF — квантизированная версия модели StarCoder2 15B, разработанной командой BigCode и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации и обработки программного кода, включая сценарии локального запуска и использования с совместимыми инструментами на базе llama.cpp. В README указан тег text-generation, однако конкретный перечень поддерживаемых языков программирования и естественных языков не приведён. Модель содержит 15 млрд параметров и поддерживает контекст размером 6144 токена. Доступны варианты квантизации от 2 до 8 бит размером примерно от 6,19 до 17 ГБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного сочетания размера и качества, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более агрессивная квантизация уменьшает требования к памяти, но может существенно ухудшать качество; точные архитектурные характеристики и модальности в README не указаны. Модель ориентирована на задачи, связанные с кодом, но README не содержит подробных результатов тестирования или описания ограничений качества. Лицензия указана как bigcode-openrail-m. Оригинальная модель размещена под идентификатором bigcode/starcoder2-15b.

StarCoder2-15B-Instruct-v0.1 — языковая модель для генерации кода по инструкциям, созданная командой BigCode. Её дообучили на StarCoder2-15B на синтетических парах «инструкция — ответ», которые исходная модель сгенерировала и отфильтровала выполнением кода; человеческая разметка и данные дистилляции от крупных закрытых моделей не использовались. Модель предназначена для одношаговых ответов на запросы, связанные с программированием: например, генерации функций, исправления и объяснения кода. Это плотная causal language model семейства StarCoder2 с 21,7 млрд параметров и контекстом 16 384 токена. Она принимает текстовые инструкции и генерирует текст, в том числе код; языковые коды естественных языков в метаданных не указаны. Модель распространяется в формате Safetensors и рассчитана на использование через Transformers. Лицензия — BigCode OpenRAIL-M; перед использованием следует учитывать её условия и ограничения. В карточке отмечено, что инструкции не связанные с программированием могут давать менее точные ответы; заявленный сценарий — один ход, поэтому диалоговые возможности не следует считать подтверждёнными.

StarCoderBase-7B — базовая языковая модель для кода, разработанная проектом BigCode. Она содержит 7 млрд параметров и построена на архитектуре GPT-2 с Multi Query Attention. Модель обучена на корпусе The Stack v1.2, включающем более 80 языков программирования, с использованием цели Fill-in-the-Middle на 1 трлн токенов; длина контекста составляет 8192 токена. Модель предназначена для генерации и продолжения кода по контексту, в том числе для заполнения пропусков внутри фрагмента кода. Это базовая модель, а не модель, настроенная на выполнение инструкций: запросы на естественном языке могут работать хуже, чем подсказки с кодом или техническим контекстом. Генерация может содержать ошибки, уязвимости или неэффективные решения. Возможны дословные фрагменты из обучающих данных, поэтому следует проверять происхождение и лицензионные требования к сгенерированному коду. Лицензия — BigCode OpenRAIL-M.