II.10Разработка и эксплуатация AI/ML-систем

NVFP4/Qwen3-30B-A3B-Thinking-2507-FP4 — квантизированная FP4-версия модели Qwen3-30B-A3B-Thinking-2507, разработанной командой Qwen. Модель относится к классу авторегрессионных языковых моделей и предназначена для генерации текста с акцентом на углублённое рассуждение. Модель подходит для сложных задач логического рассуждения, математики, науки, программирования, следования инструкциям, использования инструментов, генерации текста и агентских сценариев. Заявлена улучшенная работа с длинным контекстом, включая контекст длиной до 262 144 токенов, а также поддержка многоязычных задач. Модель работает только в режиме рассуждения; увеличенная длина рассуждений особенно рекомендуется для сложных запросов. Архитектура — causal language model на основе MoE: 30,5 млрд параметров всего, из которых активируется около 3,3 млрд; 48 слоёв, 128 экспертов и 8 активируемых экспертов, используется GQA с 32 головами Q и 4 головами KV. Квантизация FP4 может снизить требования к памяти и упростить развёртывание, однако точные требования к аппаратуре и влияние квантизации на качество в README не указаны. Ограничением является отсутствие режима без рассуждений и потенциально высокая длина генерируемого вывода. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen3-4B-Thinking-2507-unsloth-bnb-4bit — это 4-битная версия модели Qwen3-4B-Thinking-2507, подготовленная Unsloth на базе модели Qwen. Она предназначена для генерации текста и сложных задач рассуждения, включая логические и математические задачи, научные вопросы, программирование, следование инструкциям, использование инструментов, агентские сценарии и многоязычные запросы. Модель является авторегрессионной causal language model с 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding, 36 слоями и Grouped-Query Attention: 32 головы запросов и 8 ключей/значений. Она поддерживает контекст до 262 144 токенов и работает только в режиме рассуждения; увеличенная длина размышлений особенно ориентирована на сложные задачи. Формат предназначен для text-generation и использования через Transformers, а 4-битное квантование снижает требования к памяти по сравнению с полноразмерной моделью. К сильным сторонам относятся улучшенные результаты в рассуждении, математике, кодировании, следовании инструкциям, работе с инструментами и понимании длинного контекста. Ограничения включают работу только в thinking mode, потенциально значительный расход времени и ресурсов на длинные рассуждения, а также отсутствие в представленном README подробностей о поддерживаемых языках, точных требованиях к оборудованию и характеристиках квантования за пределами обозначения bnb-4bit. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Uncensored-Heretic-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-VL-MTP-GGUF — экспериментальная модель в формате GGUF, опубликованная nerkyor на основе Merkyor/Qwen3.6-27B-DSV4Pro-Thinking-Distill и производной от Qwen3.6-27B DSV4Pro / GLM-5.2 SFT / GPT-5.5 RL Coding. Это плотная модель с 27 млрд параметров, ориентированная прежде всего на программирование, рассуждения, диалог и исследование снижения склонности к отказам. Заявлены поддержка английского и китайского языков, а также мультимодальный сценарий image-text-to-text через отдельный vision-language projector. Основной GGUF-файл предназначен для генерации текста и является единственным обязательным артефактом. Дополнительный mmproj подключает обработку изображений, а MTP draft GGUF может использоваться как боковая модель для speculative decoding. Доступны варианты квантования от Q3 до Q8 и исходный BF16; конкретный контекст в предоставленных данных не указан, однако для некоторых тестов упоминается режим 32K. Модель демонстрирует сильные результаты на MMLU, GPQA и LiveCodeBench: для варианта Q8 указаны 91,2% на MMLU500, 85,35% на GPQA198 и 81/100 на LCB100. Все заявленные GGUF-варианты показали нулевой показатель жёстких отказов на 140 тестовых запросах, но это исследовательский прокси, а не подтверждение безопасности или универсальной корректности. Ограничениями являются экспериментальный характер, возможные ошибки и зависимость качества от уровня квантования; модель не предназначена для неконтролируемой высокорисковой автоматизации. Лицензия указана как other, без дополнительных условий в предоставленной карточке.

Primitive-AI Qwen3.8-27B-mixed-NVFP4-FP8 — это квантизированная версия модели Qwen/Qwen3.8-27B, опубликованная организацией Primitive AI. Модель предназначена для генерации текста, задач общего назначения и сценариев с инструментальным вызовом. Она поддерживает работу через Transformers и stock vLLM, а также speculative decoding с сохранённой MTP-головой. Модель использует смешанную квантизацию NVFP4/FP8 и занимает около 20,7 GiB — примерно в 2,5 раза меньше версии BF16 и на 28% меньше собственной версии Qwen в FP8. Она протестирована на GPU Blackwell и A100: на Blackwell применяются нативные FP4/FP8-ядра, а на A100 используется fallback Marlin W·A16. В заявленных измерениях модель показала общую оценку 88,8 против 89,3 у BF16, пропускную способность 908 токенов в секунду при конкуренции 32 и до 2,5-кратного ускорения при конкуренции 1. К сильным сторонам относятся существенно сниженное потребление памяти, высокая скорость инференса, совместимость с обычным vLLM без калибровочных данных и сохранение возможностей speculative decoding, дающего прирост до 101% с DSpark drafter. Ограничения связаны с потерями точности относительно BF16, особенностями поддержки аппаратных платформ и тем, что приведённые результаты получены на конкретном наборе из 1370 заданий и не гарантируют аналогичную производительность в других сценариях. Языки, максимальный контекст и точная архитектура в README не указаны. Модель распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed — квантованная версия Qwen3.8-27B, адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена прежде всего для локального программирования, генерации текста и работы с инструментами вроде OpenCode, Claude Code и совместимых с OpenAI или Anthropic API приложений. Разработчик базовой модели — Qwen; данный MLX-пакет подготовлен Youssofal для MTPLX. Модель использует динамическое 4-битное квантование с группами по 32 веса: наиболее чувствительные компоненты частично сохранены в 8- или 16-битном формате, включая MTP-голову. Архитектура сохраняет native multi-token prediction с глубиной MTP 3, что позволяет MTPLX применять спекулятивное декодирование на Apple Silicon. Размер загрузки составляет 20,4 ГБ, пиковое потребление unified memory — около 23,6 ГБ, контекстное окно — 262 144 токена. Указанные в README языки не перечислены, но приведённая проверка включает многоязычный текст. Главное преимущество — высокая скорость локальной генерации при близости к исходной модели: заявлены показатели до 87,6 токена в секунду в отдельных сценариях и около 58,7 токена в секунду на средней задаче программирования на M5 Max. По данным автора, точность согласования с bf16-чекпойнтом составляет 96% top-1, а спекулятивная генерация сохраняет исходное распределение выборки. Ограничения включают зависимость от MTPLX и Apple Silicon, требование не менее 32 ГБ unified memory, а также неизбежные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B ThinkingCap Abliterated (MTP GGUF) — GGUF-версия модели, разработанная hotdogs на основе hotdogs/Qwen3.8-27B-thinkingcap-abliterated и дообученная с использованием датасета hotdogs/thinkingcap-sft-qwen38-27b. Модель предназначена для генерации текста, рассуждений, решения задач, следования инструкциям и помощи в программировании, включая сценарии SWE-bench. Она ориентирована на эффективное рассуждение с сокращённым числом токенов и поддерживает запуск через llama.cpp. Модель содержит 27,3 млрд параметров и сохраняет MTP-слой (Multi-Token Prediction) с 15 тензорами. Доступны варианты GGUF F16 размером около 51 ГБ, Q6_K размером около 21 ГБ и Q4_K_M размером около 16 ГБ; Q6_K позиционируется как компромисс между качеством и размером, а Q4_K_M — как наиболее быстрый вариант. В README указано тестирование с контекстом 8192 токена. Языки и набор поддерживаемых модальностей явно не указаны; по описанию это текстовая модель. Сильные стороны — эффективное рассуждение, сохранение MTP при квантовании и высокая производительность на GPQA Diamond, IFEval и SWE-bench в заявленных условиях тестирования. Ограничения включают зависимость качества от выбранной квантовки, значительные требования к памяти и вычислительным ресурсам, а также ограниченность и специфичность приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.

nvidia/Qwen3-8B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-8B, разработанной Alibaba и подготовленной с использованием NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Модель построена на архитектуре Transformers и содержит около 8,2 млрд параметров. Она работает с текстовыми входами и генерирует текстовые последовательности, поддерживает контекст длиной до 131K токенов. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP4, что ориентировано на эффективный инференс. Поддерживается TensorRT-LLM; модель оптимизирована для систем с GPU NVIDIA, включая микроархитектуру Blackwell, и предпочтительно используется в Linux. Сильной стороной модели является готовая предварительная квантизация для развертывания и потенциально более эффективный инференс на совместимом оборудовании по сравнению с CPU-сценариями. Ограничения включают зависимость от экосистемы NVIDIA и TensorRT-LLM, а также отсутствие в README подробных сведений о языках, результатах оценки качества и характеристиках исходного обучения. Для калибровки использовался датасет cnn_dailymail; наборы данных обучения и тестирования не раскрыты. Модель распространяется по лицензии Apache 2.0 и заявлена как пригодная для коммерческого и некоммерческого использования.

QuantTrio/Qwen3-Coder-30B-A3B-Instruct-AWQ — 4-битная AWQ-квантизированная версия Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Это причинная языковая модель для генерации текста и программного кода, включая агентное программирование, использование браузера, понимание репозиториев и вызов функций в совместимых инструментах и платформах. Исходная модель имеет MoE-архитектуру с 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса, 48 слоями, 128 экспертами и 8 активными экспертами. Используется GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может быть расширена до 1 млн токенов. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>. Поддерживаются текстовые сценарии; сведения о конкретном наборе языков в README не приведены. К сильным сторонам относятся высокая эффективность MoE-архитектуры, задачи программирования, агентские сценарии, вызов инструментов и работа с длинным контекстом. Основное ограничение этой версии — существенная потеря качества при 4-битной квантизации, поэтому её следует использовать с осторожностью. Для запуска через vLLM требуется версия 0.10.0 или совместимая, включённый экспертный параллелизм и подходящая GPU-конфигурация; в README приведён сценарий запуска на четырёх GPU с контекстом 32 768 токенов. Распространение указано по лицензии Apache-2.0.

noctrex/Qwen3-Coder-Next-MXFP4_MOE-GGUF — квантованная версия языковой модели Qwen3-Coder-Next, подготовленная автором noctrex в формате GGUF. Веса MoE-тензоров представлены в MXFP4, остальные тензоры сохранены в BF16 или F16; автор рекомендует вариант BF16 как более качественный, а F16 — как альтернативу, которая на некоторых архитектурах может работать быстрее. Модель предназначена для генерации текста в диалоговом формате и унаследовала специализацию Qwen3-Coder-Next на генерации кода и задачах кодирующих агентов. В карточке указаны рекомендуемые параметры генерации: temperature=1.0, top_p=0.95 и top_k=40. Лицензия и ограничения по использованию в предоставленных данных не описаны.

Qwopus3.5-9B-Coder-MTP-GGUF — набор GGUF-квантизаций модели Qwopus3.5-9B-Coder, разработанной Jackrong, с сохранёнными MTP-головами для multi-token prediction и speculative decoding. Квантизации подготовлены автором репозитория с использованием imatrix от mradermacher и инструментов llama.cpp. Модель ориентирована на генерацию и анализ кода, рассуждения, агентские сценарии, tool use и function calling; также заявлена поддержка работы с изображениями и текстом через mmproj-файлы. Доступны варианты IQ4_XS размером примерно 4,99–5,29 GiB. В README заявлены контекст до 98 304 токенов при использовании YaRN за пределами исходных 32 768 токенов, запуск примерно в 6 ГБ VRAM и начальная скорость около 60 токенов в секунду на RTX 4060 в Windows 11 с KVarN. Поддерживаются английский, китайский, корейский, русский, японский и испанский языки. Версии различаются распределением более точных форматов квантования по отдельным слоям; по наблюдениям автора, у V3 лишь незначительно снизилась доля принятых предсказаний по сравнению с V1, оставаясь выше 60% в задачах программирования. Модель подходит для локального запуска через llama.cpp и совместимые приложения, особенно когда важны небольшой размер, длинный контекст и ускорение декодирования MTP. Ограничения включают зависимость мультимодального режима от отдельного mmproj-файла, необходимость корректной настройки YaRN, KVarN и speculative decoding, а также отсутствие подробных независимых бенчмарков. Распространяется по лицензии Apache-2.0.

ResNet-50 от Ross Wightman и проекта timm — сверточная модель для классификации изображений и извлечения визуальных признаков. Модель обучена на ImageNet-1k с рецептом AugMix, оптимизатором SGD с Nesterov, функцией потерь на основе Jensen–Shannon divergence и косинусным расписанием скорости обучения с разогревом. Архитектура использует ReLU, начальную свёртку 7×7 с пулингом и проекции 1×1 в shortcut-соединениях. В карточке указаны 25,6 млн параметров, 4,1 GMAC и входной размер изображения 224×224. Помимо классификации, веса можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для обычной классификации изображений общего назначения. Репозиторий распространяется по лицензии Apache-2.0.

RWKV/RWKV7-G1j-13.3B-20260831 — базовая языковая модель семейства RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная причинная модель с архитектурой Rwkv7ForCausalLM и 14,6 млрд параметров. В отличие от моделей с attention, она использует рекуррентное состояние постоянного размера: объём состояния не растёт как KV-кэш, а вычислительная работа при генерации остаётся постоянной на токен; обучение при этом можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, чатовых и рассуждательных данных. Она предназначена для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель прошла выравнивание безопасности. Поддерживает многоязычную работу, включая английский, китайский, русский и другие языки из карточки. Для запуска доступны интеграция Transformers и дополнительная оптимизированная реализация TileLang. К ограничениям относятся зависимость качества следования инструкциям и языкового поведения от промптинга и последующего обучения, отсутствие заявленной оценки безопасности, предвзятости, токсичности, фактической точности и пригодности для задач с высокими ставками. Спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний; поддержка ускоренного исполнения зависит от оборудования и конфигурации. Лицензия — Apache-2.0.

Seed-Coder-8B-Base — базовая предварительно обученная модель для генерации кода, разработанная ByteDance Seed. Это причинная плотная языковая модель архитектуры Llama с 7,6 млрд параметров, обученная на 6 трлн токенов из данных GitHub и других материалов о программировании в интернете. Модель поддерживает дополнение кода и заполнение пропусков методом Fill-in-the-Middle в контексте до 32 768 токенов. Модель предназначена для генерации и продолжения кода, в том числе восстановления пропущенной части между заданными фрагментами. В README сообщается о сравнительных результатах на бенчмарках генерации и дополнения кода, но они не гарантируют качество на конкретных языках и задачах. Это базовая, а не настроенная на инструкции версия: для диалога и следования пользовательским запросам разработчик предлагает отдельную инструктивную модель. Веса опубликованы в формате safetensors и распространяются по лицензии MIT.

0xKitkat/semantic-chunker-modernbert-base — англоязычная модель 0xKitkat для семантического разбиения документов на фрагменты в RAG-пайплайнах. Это дообученная на структуре разделов Wikipedia модель ModernBERT-base с архитектурой token classification и 149 млн параметров. Она оценивает вероятность границы темы после каждого предложения; контекст модели — до 8192 токенов, обучение проводилось с контекстом 2048 токенов. Доступны веса в форматах Safetensors и ONNX. Модель предназначена для длинных статей, отчётов, руководств и транскриптов, где смена темы может происходить внутри документа. В тестах она хорошо распознаёт границы предложений, но более точные границы не обеспечили стабильного улучшения качества поиска по сравнению с разбиением фиксированного размера. Особенно полезно проверять её на собственном корпусе и настраивать минимальную длину фрагмента. Модель обучена на англоязычном энциклопедическом тексте; разговорные расшифровки, код и таблицы отличаются от обучающего распределения. Для коротких документов семантическое разбиение может ухудшить поиск и работать существенно медленнее фиксированного разделителя. Лицензия — Apache-2.0.

Snowflake Arctic-Base — базовая языковая модель, разработанная командой Snowflake AI Research Team и предварительно обученная с нуля. Это гибридный трансформер с архитектурой dense-MoE: плотный блок на 10 млрд параметров сочетается с остаточным MoE-блоком из 128 экспертов; по README активно выбираются 17 млрд параметров на токен с помощью top-2 gating. В метаданных репозитория указано 11,1 млрд параметров, а нативное окно контекста составляет 4096 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена как базовая модель для генерации и продолжения текста, а также для создания собственных прикладных решений и последующего дообучения; версия Base не является instruct-вариантом. Для запуска README рекомендует Transformers версии 4.39 или выше с `trust_remote_code=True`; для инференса предлагается сервер с 8 ускорителями H100. Лицензия Apache-2.0 допускает использование в исследованиях, прототипах и продуктах.

sparse-encoder-testing/splade-bert-tiny-nq-openvino — компактная англоязычная модель разреженного кодирования на базе BERT, опубликованная в репозитории sparse-encoder-testing. Она предназначена для преобразования текстов в разреженные векторные представления, пригодные для поиска и сопоставления документов. Модель реализована с использованием Sentence Transformers, экспортирована в формат OpenVINO и обучена с функцией потерь SpladeLoss на наборе Natural Questions размером около 99 000 примеров. Модель содержит 4,4 млн параметров и поддерживает контекст до 512 токенов. Её основная модальность — текст, язык — английский. Разреженные представления могут быть полезны для эффективного полнотекстового и семантического поиска, ранжирования документов и построения retrieval-компонентов в системах вопросно-ответного поиска. Модель не предназначена для генерации текста или непосредственного ответа на вопросы. Распространяется по лицензии Apache-2.0. Благодаря небольшому размеру и поддержке OpenVINO модель подходит для локального инференса и систем с ограниченными ресурсами, однако качество и применимость за пределами англоязычных поисковых сценариев могут быть ограничены.

Это англоязычный разреженный энкодер SPLADE, разработанный tomaarsen и дообученный на базе Luyu/co-condenser-marco с использованием Sentence Transformers и данных MS MARCO. Модель преобразует предложения и абзацы в разреженные векторы размерностью 30 522, пригодные для поиска и ранжирования текстов по скалярному произведению. Архитектура включает BERT с MLM-головой и пулинг SPLADE; максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, например поиска ответов по запросам в коллекции текстов. В карточке приведены результаты оценивания на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Поддерживается английский язык. Лицензия — Apache-2.0.

prithivida/Splade_PP_en_v1 — англоязычный разреженный поисковый энкодер семейства SPLADE++, разработанный Donkey Stereotype. Это независимая реализация для поиска по документам: модель преобразует текст в разреженное представление по словарю BERT и расширяет его контекстуально предсказанными токенами. В основе лежит bert-base-uncased; модель содержит 136,7 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в форматах PyTorch и ONNX. Энкодер предназначен для представления документов в системах информационного поиска и семантического поиска, где важны совпадения терминов, расширение запроса и разреженный индекс. В карточке описаны настройки с ограниченным бюджетом токенов и FLOPS, ориентированные на эффективность извлечения; для запросов автор предполагает отдельную модель, которая в этой карточке не представлена. Указаны результаты на MS MARCO и сравнительные показатели поиска, однако они зависят от настройки и не гарантируют качество на других корпусах. Модель работает с текстом на английском языке. Лицензия — Apache-2.0. В README отмечено, что к ней применимы ограничения и смещения базовой BERT-модели.

Stable Code 3B — авторегрессионная языковая модель Stability AI на основе decoder-only Transformer, близкой к архитектуре LLaMA, с реализацией через GPT-NeoX. Модель содержит около 2,7 млрд параметров и предварительно обучена на 1,3 трлн токенов текстовых и программных данных, включая наборы Falcon RefinedWeb, The Stack GitHub Issues, CommitPackFT, StarCoderData, Proof-Pile-2 и MetaMathQA. Модель предназначена прежде всего для генерации, дополнения и анализа программного кода. Она обучалась на 18 языках программирования и поддерживает сценарий Fill in the Middle (FIM), что позволяет вставлять фрагменты кода между заданными началом и концом. Заявлена поддержка последовательностей длиной до 16 384 токенов. В README явно указаны английский язык и код; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. В опубликованных результатах MultiPL-E pass@1 модель показывает 32,4% для Python, 30,9% для C++, 32,1% для Java и JavaScript, 24,2% для PHP и 23,0% для Rust. Эти показатели заявлены как конкурентные среди моделей сопоставимого размера, однако отмечены как непроверенные. Ограничениями являются относительно небольшой размер по сравнению с крупными code-моделями, возможные ошибки и небезопасность генерируемого кода, а также отсутствие подтверждений качества для всех 18 поддерживаемых языков. Модель распространяется по Stability AI Community License. Для коммерческого использования README рекомендует обращаться к условиям коммерческой лицензии Stability AI; конкретные требования в карточке не приведены.

StableCode-Completion-Alpha-3B — авторегрессионная модель для автодополнения кода, разработанная Stability AI. Она принимает контекст программы и генерирует продолжение: одну или несколько строк кода на разных языках программирования. Модель построена на архитектуре GPT-NeoX с декодером-трансформером и содержит около 3,5 млрд параметров. Контекстное окно составляет 16 384 токена. Обучение включало данные StarCoder из распространённых языков программирования и этап расширения контекста. Модель рассчитана на использование в инструментах разработки, например в редакторе кода. Она может воспроизводить фрагменты из обучающих данных, поэтому при использовании следует проверять совпадения и при необходимости указывать их происхождение. Веса распространяются по лицензии Apache 2.0.

StarCoder2-15B — плотная авторегрессионная модель генерации кода, разработанная проектом BigCode. Она обучена на более чем 4 триллионах токенов из The Stack v2 и других источников, охватывая более 600 языков программирования. Модель использует архитектуру Transformer decoder с Grouped Query Attention и скользящим вниманием; контекстное окно составляет 16 384 токена, область скользящего внимания — 4 096 токенов. В метаданных указано 21,7 млрд параметров. Модель предназначена для продолжения и дополнения кода, в том числе по Fill-in-the-Middle: она может генерировать фрагменты с учётом окружающего кода. Это не instruction-модель, поэтому запросы на естественном языке вроде просьбы написать функцию могут работать хуже, чем продолжение кода по заданному контексту. Модель обучена преимущественно на коде, а английский преобладает среди естественных языков обучающих данных. Сгенерированный код может содержать ошибки, быть неэффективным или небезопасным и не гарантированно соответствует задаче. Модель способна воспроизводить фрагменты исходного кода из обучающих данных, поэтому перед использованием результата следует учитывать лицензию исходного кода и требования атрибуции. Лицензия модели — BigCode OpenRAIL-M.

TechxGenus/starcoder2-15b-instruct — языковая модель для генерации кода, созданная дообучением StarCoder2-15B на 0,7 млрд дополнительных токенов с примерами, связанными с программированием; обучение проводилось в течение трёх эпох. Модель использует архитектуру StarCoder2 с плотной causal language model на 21,7 млрд параметров и принимает запросы в формате инструкций Alpaca без системного промпта. Для запуска предлагается Transformers; веса доступны в формате safetensors, контекст — до 16 384 токенов. Модель предназначена для генерации кода по инструкциям и другим задачам программирования. В README заявлен результат 77,4 pass@1 на HumanEval-Python, однако авторы отмечают, что модель прошла ограниченное тестирование и может ошибаться, выдавать вводящее в заблуждение содержимое и хуже справляться с задачами вне программирования. Лицензия — BigCode OpenRAIL-M.

StarCoderBase — авторегрессионная модель генерации кода, разработанная проектом BigCode. Она содержит 15,5 млрд параметров и обучена на 1 трлн токенов исходного кода из The Stack v1.2 на более чем 80 языках программирования. Архитектура основана на GPT-2 с Multi-Query Attention; модель обучалась с задачей Fill-in-the-Middle и принимает контекст до 8192 токенов. Модель предназначена для продолжения кода по контексту, генерации фрагментов и заполнения пропусков между частями кода. Это базовая модель, а не модель, настроенная на выполнение инструкций: запросы на естественном языке могут работать хуже, чем подсказки с кодом или специальный промпт Tech Assistant. Русский язык не указан как основной язык модели; при этом в обучающих данных преобладает английский исходный код. Сгенерированный код может содержать ошибки, быть неэффективным или уязвимым и не гарантированно работает как задумано. Модель может воспроизводить фрагменты кода из обучающих данных, поэтому необходимо проверять происхождение кода и соблюдать применимые требования атрибуции и лицензирования. Указана лицензия BigCode OpenRAIL-M.

Stella-PL-retrieval-mini-8k — модель эмбеддингов, созданная авторами карточки на основе stella_en_400M_v5 и дообученная для поиска по текстам на польском языке. Она преобразует тексты в векторы размерности 1024 и поддерживает контекст до 8192 токенов. Обучение включало адаптацию к польскому языку методом дистилляции знаний на польско-английских парах и последующее контрастивное дообучение на запросах и релевантных либо нерелевантных фрагментах. Модель предназначена для семантического поиска и извлечения релевантных документов по запросу. В README приведён результат NDCG@10 61,29 на польском бенчмарке PIRB. Веса опубликованы в формате safetensors; лицензия — Gemma. README указывает, что используются те же промпты, что и у исходной stella_en_400M_v5.

OpenVoiceOS/stt_en_quartznet15x5_onnx — англоязычная модель автоматического распознавания речи, подготовленная OpenVoiceOS как ONNX-экспорт исходной модели NVIDIA stt_en_quartznet15x5, обученной с использованием NVIDIA NeMo. Модель предназначена для преобразования английской речи в текст, включая офлайн-распознавание аудиофайлов и интеграцию в голосовые системы OpenVoiceOS. Исходный вариант использует архитектуру QuartzNet15x5 с символьным CTC-декодированием. Модель содержит ONNX-граф в формате FP32 с энкодером и CTC-головой, словарь токенов и конфигурацию для onnx-asr. Используются 64 мел-фильтра, коэффициент прореживания 2 и входные 16 кГц PCM WAV-файлы. Для запуска требуется ONNX Runtime; PyTorch и NeMo не нужны. Экспорт проверен сравнением с исходной NeMo-моделью: на эталонном фрагменте получены идентичные транскрипции. Основные ограничения — отсутствие готового варианта int8 и необходимость поддержки препроцессора nemo64 в используемом runtime; для этого могут потребоваться форк onnx-asr или runtime backfill OpenVoiceOS. Данные о точности, обучающих корпусах и известных ограничениях перенесены в карточку исходной модели и здесь не приведены. Лицензия — CC BY 4.0.

TinyBERT_General_4L_312D — компактная модель семейства BERT, опубликованная Huawei Noah’s Ark Lab. Это общий чекпойнт TinyBERT, полученный дистилляцией BERT-base для задач понимания естественного языка. Модель содержит 15,6 млн параметров, имеет 4 слоя и размерность скрытого представления 312; заявлены размер в 7,5 раза меньше и инференс в 9,4 раза быстрее, чем у BERT-base. Длина контекста — до 512 токенов. Модель предназначена для использования как начальная точка для задач понимания текста и последующего дообучения под конкретную задачу. Репозиторий содержит веса PyTorch и Flax. Карточка не сообщает о многоязычной подготовке, поэтому поддерживаемые естественные языки определить нельзя. Лицензия в предоставленных данных не указана.

M4-ai/TinyMistral-248M-v2-cleaner — модель классификации текста на архитектуре Mistral с 215,2 млн параметров. Она предназначена для оценки качества примеров и очистки датасета Rhino; обучена с помощью TRL RewardTrainer на berkeley-nest/Nectar с формированием выборки во время обучения. Модель принимает текст и выдаёт логиты для классификации. В карточке указан контекст длиной до 32 768 токенов и предложено преобразовывать логиты в вероятности сигмоидой. Обучение проводилось на английском языке. Автор сообщает о среднем MSE loss 0,095 во время обучения, но не приводит независимую оценку качества. Модель распространяется по лицензии Apache-2.0.

Turkuaz-Embeddings — модель эмбеддингов, разработанная eneSadi для поиска по турецким текстам. Она основана на XLM-RoBERTa Large и дообучена на наборе MSMARCO-TR; размер вектора эмбеддинга составляет 1024, максимальная длина контекста — 514 токенов. Модель предназначена для семантического поиска, информационного поиска, zero-shot retrieval и использования в RAG-системах с турецкими документами. В карточке заявлено улучшение результатов на нескольких турецких наборах для поиска относительно мультиязычных и турецких моделей, а также относительно исходной XLM-RoBERTa Large. Для обучения использовались пары документов с оценками релевантности от Jina Reranker v2 и функция потерь CoSENT. Модель принимает текст и выдаёт векторы; её основная специализация — турецкий язык. Распространяется по лицензии Apache-2.0.

Uraion-Agent-Small — компактная языковая модель компании Uraion Labs, дообученная на базе Qwen/Qwen3.5-2B. Она предназначена прежде всего для агентных сценариев, вызова инструментов и функций, многошагового взаимодействия с API и построения локальных циклов автоматизации. Модель обучалась методом QLoRA на наборах данных для function calling и instruction following, включая NousResearch/hermes-function-calling-v1, Salesforce/APIGen-MT-5k и mlabonne/FineTome-100k. Модель содержит около 1,9 млрд параметров, из которых при обучении через LoRA использовалось 21,8 млн обучаемых параметров. Она основана на гибридной архитектуре Qwen3.5: 24 слоя включают 18 слоёв Gated DeltaNet с линейным вниманием и 6 слоёв полного внимания. Нативная длина контекста составляет 262 144 токена. Доступны веса в формате GGUF и Transformers NF4; заявлены 4-битное NF4-квантование и поддержка английского языка. Для структурированных вызовов инструментов используется парсер qwen3_coder. Сильными сторонами модели являются небольшой размер, возможность локального развертывания и специализация на структурированном tool calling, что делает её подходящей для локальных агентов, API-композиции и запуска на потребительском оборудовании. При этом GGUF-файлы в репозитории имеют известную проблему с формами некоторых тензоров и могут не загружаться в llama.cpp без дополнительной конвертации. Для архитектуры qwen35 требуется свежая версия llama.cpp, а NF4-веса медленно работают на CPU, поэтому для них предпочтительно GPU-развертывание. Модель распространяется по лицензии Apache 2.0, унаследованной от Qwen3.5.

Vela Domain — модель классификации текста, разработанная командой llm-semantic-router для определения предметной области запроса и выбора подходящих моделей и инструментов. Она распределяет запросы по 14 доменам и предназначена для маршрутизации пользовательских запросов в системах с несколькими моделями или инструментами. Модель основана на ModernBERT с архитектурой классификации последовательностей и содержит 306,9 млн параметров. Она принимает текст длиной до 32 768 токенов, включая специальные токены. В README приведены результаты Macro F1 на наборах разработки для коротких запросов и контекстов до 8K токенов на английском и китайском; эти наборы использовались при выборе чекпойнта и не являются независимой тестовой оценкой. Модель распространяется по лицензии Apache-2.0.