I.14Автоматизация процессов и AI-агенты

open-ogma-micro — англоязычная модель для получения векторных представлений предложений, разработанная авторами семейства open-ogma. Она предназначена для создания компактных эмбеддингов текста и поиска по смыслу. Модель содержит 2,51 млн параметров: двухслойный трансформер с размерностью 128, mean pooling и токенами задач [QRY], [DOC] и [SYM]. По умолчанию используется проекционная голова proj_small с векторами размерности 384; proj_large выдаёт векторы размерности 1024 и показывает более высокие результаты в бенчмарке MTEB(eng, v2). Обе головы и основная часть обучались с матрёшечными потерями, поэтому выходные векторы можно укорачивать до 32, 64 или 128 измерений с последующей нормализацией. Модель дистиллирована от ансамбля BAAI/bge-small-en-v1.5 и BAAI/bge-large-en-v1.5 на корпусах C4 и FineWeb-Edu. Она подходит для семантического поиска и задач, где важны компактный размер и быстрый расчёт эмбеддингов. В бенчмарке MTEB(eng, v2) средний результат составляет 0,5104 для proj_small и 0,5202 для proj_large; показатели ниже, чем у моделей-учителей BGE. Модель распространяется под лицензией MIT; README также указывает на разрешительную лицензионную цепочку данных и учителей.

Pankaj Mathur разработал orca_mini_v9_6_3B-Instruct — диалоговую языковую модель на архитектуре Llama, полученную дообучением Meta Llama 3.2 3B Instruct. Модель содержит 3,2 млрд параметров и предназначена для генерации текста в формате диалога; её можно использовать как основу для чат-ассистентов и других приложений на базе языковых моделей. Модель принимает текст и генерирует текст. В метаданных указан контекст до 131 072 токенов и поддержка английского языка. Веса доступны в форматах PyTorch и Safetensors, для запуска подходит библиотека Transformers. Лицензия — Llama 3.2. Как и другие компактные языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы. Перед внедрением рекомендуется проверять качество и безопасность на сценариях конкретного приложения.

Ornith-1.0-9B-1M-GGUF — это GGUF-сборка модели Ornith-1.0-9B, основанной на dense-архитектуре семейства Qwen3.5. Исходная модель разработана DeepReinforce, а данный вариант опубликован satgeze. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama и совместимые инструменты. Ключевая особенность — контекстное окно до 1 048 576 токенов благодаря встроенному масштабированию RoPE методом YaRN; это в четыре раза больше заявленного исходного окна в 262 144 токена. В сборку также встроен слой MTP для speculative decoding, который, согласно README, может увеличить скорость декодирования в llama.cpp на 15–38%. Доступна vision-модальность через отдельный проектор mmproj, поэтому модель может обрабатывать изображения в поддерживаемых конфигурациях. Предлагаются варианты квантования от IQ2_M до bf16, включая MTP-сборки Q4_K_M и Q8_0; размер файлов варьируется примерно от 3,6 до 17,9 ГБ, а vision-проектор занимает 918 МБ. Это позволяет выбирать между требованиями к памяти и качеством, однако фактическая скорость и возможность работы с контекстом в миллион токенов зависят от оборудования и используемого рантайма. Языки обучения и поддерживаемые языки в README не указаны. Модель распространяется по лицензии MIT.

Ornstein3.8-27B — экспериментальная мультимодальная модель с открытыми весами, созданная GestaltLabs на основе Qwen/Qwen3.8-27B. Это дообученная и объединённая с базовой моделью версия с архитектурой Qwen3_5ForConditionalGeneration: плотная модель примерно на 27 млрд параметров, использующая чередование линейного внимания и полного внимания Gated DeltaNet. Она принимает текст и изображения, поддерживает видео, а длина контекста составляет 262 144 токена. Модель предназначена для диалогов, анализа изображений и видео, а также многошаговых задач, включая математические рассуждения. В одном прогоне GSM8K автор получил 96,51% точности в BF16; этот результат не распространяется на квантованные версии. Автор описывает чекпойнт как раннее объединение весов, а не готовый релиз качества, и планирует дальнейшую работу с RL-средами и дообучением на основе энергетических моделей. Для запуска требуется сборка Transformers с поддержкой Qwen3.8/qwen3_5. Веса опубликованы под лицензией Apache-2.0.

Panoramix-7B-Instruct-v0.2 — текстовая инструктивная модель на архитектуре Mistral, созданная zelus82 с помощью mergekit. Это слияние mlabonne/NeuralHermes-2.5-Mistral-7B и zelus82/Falbala-B7 методом passthrough; репозиторий содержит веса Safetensors. Модель предназначена для генерации текста по инструкциям и диалоговых сценариев. Размер составляет 8,9 млрд параметров, длина контекста — 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает о специальных предметных областях или подтверждённых ограничениях качества.

pastiche-crown-clown-7B-dare — объединённая модель семейства Mistral, созданная с помощью mergekit из четырёх моделей: bardsai/jaskier-7b-dpo-v5.6, mlabonne/AlphaMonarch-7B, mlabonne/NeuralMonarch-7B и macadeliccc/MBX-7B-v3-DPO. Для слияния использован метод DARE TIES; итоговые веса сохранены в формате safetensors и имеют тип bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, в том числе диалогов, ответов на инструкции и рассуждений, унаследованных от базовых моделей. Она может применяться в чат-ботах и для генерации текста по запросу. Репозиторий распространяется по лицензии Apache-2.0. README не приводит сравнительных оценок качества или специализированных ограничений; результаты могут зависеть от запроса и сценария использования.

RedHatAI/Phi-3-medium-128k-instruct-quantized.w4a16 — это квантизированная версия инструкционной языковой модели Phi-3-medium-128k-instruct, разработанная Neural Magic на базе модели Microsoft. Модель принимает текст и генерирует текст, предназначена прежде всего для англоязычных ассистентских диалогов, чат-ботов и задач генерации ответов, а также для коммерческого и исследовательского использования. Модель использует архитектуру Phi-3 и поддерживает контекст размером до 128 тысяч токенов. Веса линейных операторов в трансформерных блоках квантизированы в формат INT4 по схеме W4A16 с симметричной групповой квантизацией и размером группы 128; для квантизации применён GPTQ через библиотеку llm-compressor. Оптимизация сокращает объём хранения и требования к GPU-памяти примерно на 25% по сравнению с 16-битной версией. Указанный результат на OpenLLM Leaderboard v1 составляет 72,38 против 74,46 у неквантизированной модели. К сильным сторонам относятся большой контекст и сниженные требования к памяти, что упрощает эффективное развёртывание через vLLM или Transformers. Ограничения включают специализацию на английском языке, возможное снижение качества из-за квантизации и недопустимость использования в языках, отличных от английского, согласно README. В README указана лицензия MIT, однако в метаданных также присутствует обозначение llama2; перед использованием следует проверить применимые лицензионные условия.

PKCbert — модель на базе BERT, опубликованная пользователем rbnjade1 в формате PyTorch и оформленная для Sentence-Transformers. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель обучалась с TripletLoss и евклидовым расстоянием; размер составляет 136,7 млн параметров, контекст — до 512 токенов. PKCbert подходит для построения семантического поиска и группировки текстов по близости значений. В README не указаны поддерживаемые естественные языки и лицензия, поэтому языковую специализацию и условия использования определить нельзя.

Theros/Q2.5-ColdBrew-R1-Obsidian — объединённая текстовая модель, созданная с помощью mergekit методом Passthrough на основе Theros/Qwen2.5-ColdBrew-R1. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 8,7 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, а заявленная длина контекста составляет 131072 токена. Модель распространяется в формате safetensors; условия лицензии в предоставленных данных не описаны.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-GRPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

ThomasBaruzier/Qwen2.5-Coder-1.5B-Instruct-GGUF — набор квантизированных версий инструкционной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и решения задач, связанных с программным кодом, включая чатовые сценарии и работу с запросами на естественном языке. В карточке указана поддержка английского языка. Модель имеет около 1,5 млрд параметров и распространяется в формате GGUF для использования с llama.cpp. Доступны варианты квантизации от IQ1_S до Q5_K_M с размером файлов примерно от 416 МБ до 1,05 ГБ. Квантизация выполнена с использованием imatrix и калибровочного файла Bartowski; варианты различаются соотношением размера, perplexity и точности. Более компактные варианты требуют меньше памяти, но заметнее теряют качество, тогда как версии с более высокой разрядностью обеспечивают лучшие показатели. Ограничения карточки не описывают контекстное окно, полный набор языков, аппаратные требования и подробные результаты на прикладных тестах. Модель ориентирована на текстовую модальность и не предназначена для обработки изображений или других мультимедийных данных. Указана лицензия Apache-2.0.

litert-community/Qwen3-4B-Thinking-2507 — это квантизированная версия модели Qwen3-4B-Thinking-2507, разработанной командой Qwen и преобразованной в формат LiteRT-LM для локального вывода на устройствах. Модель предназначена для генерации текста и задач, требующих пошагового рассуждения: перед итоговым ответом она формирует цепочку рассуждений в блоке <think>…</think>. Основные сценарии — on-device и edge-инференс на компьютерах, мобильных устройствах и одноплатных компьютерах с использованием runtime Google LiteRT-LM. Модель представляет собой плотную causal language model архитектуры Qwen3ForCausalLM с 4 млрд параметров и 36 слоями. Доступны артефакты с INT4-квантизацией: вариант с блоком 128 размером около 2,3 ГБ и динамический вариант с блоком 32 размером около 2,1 ГБ; для первого также используются INT8-эмбеддинги и целочисленные вычисления. Контекст KV-кэша составляет 4096 токенов. Производительность зависит от устройства и backend: на Apple M4 Max с Metal GPU заявлены около 68,5 токенов/с при декодировании и задержка до первого токена около 0,28 с, а на Raspberry Pi 5 — около 1,5 токена/с. Сильные стороны модели — поддержка локального выполнения, относительно компактный размер, оптимизации LiteRT-LM для GPU и сохранение значительной части качества исходной модели после INT4-квантизации: на GSM8K указано 86% против 90% у reference-версии в формате bfloat16. Ограничения включают зависимость скорости от аппаратной платформы, сокращение качества из-за квантизации и необходимость выделять достаточно большой лимит генерации: рекомендуется max_tokens не менее 2048, иначе цепочка рассуждений может быть оборвана до появления ответа. Модель распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.5-9B-MTPLX-Optimized-Speed-FP16 — языковая модель для генерации текста, опубликованная пользователем Youssofal и основанная на семействе Qwen3.5-9B. Она предназначена для локального запуска на компьютерах Apple с чипами Apple Silicon через MTPLX, включая сценарии интерактивного общения, генерации текста и работы локального сервера с OpenAI-совместимым API. Модель оптимизирована для Multi-Token-Prediction speculative decoding. Основная часть модели использует 6-битное MLX affine-представление, а боковой модуль MTP применяется для спекулятивного декодирования. Упакованные квантованные тензоры сохраняются без повторной квантизации, а плавающие тензоры BF16 преобразованы в FP16 для совместимости с предпочтительным режимом работы на Mac с чипами M1 и M2. Рекомендуемый профиль — sustained, глубина по умолчанию — D2, бэкенд — qwen3-next-mtp. Заявленные показатели исходного артефакта достигают 101,32 токена в секунду в режиме D2, однако для FP16-варианта эти значения приведены как ориентир, а не как гарантированный результат. Сильная сторона модели — сочетание компактного квантованного представления, ускоренного декодирования и адаптации к старым поколениям Apple Silicon. Ограничения включают неполноценную точность по сравнению с full-precision checkpoint, зависимость производительности от устройства и среды MTPLX, а также отсутствие в README сведений о поддерживаемых языках, размере контекстного окна и точной архитектуре базовой модели. Лицензия — Apache 2.0.

Это квантованная в формате NVFP4 сборка Qwen3.5-9B, подготовленная FreedomAISVR для запуска через GGUF и llama.cpp. Она сохраняет поддержку Multi-Token Prediction (MTP): модель предсказывает дополнительный токен на шаге генерации, что, по данным карточки, может увеличить пропускную способность на 30–40%. В README указаны 9 млрд параметров у базовой модели, гибридная архитектура с Attention и Mamba-2, механизм Multi-Head Latent Attention и контекст до 262 144 токенов. Модель предназначена для генерации текста и мультимодального диалога с анализом изображений; для визуального ввода в репозитории предусмотрен отдельный проектор SigLIP в формате F16. NVFP4 рассчитан прежде всего на ускорение инференса на видеокартах NVIDIA Blackwell, а для запуска через llama.cpp приведены текстовый и мультимодальный сценарии. Базовая Qwen3.5-9B описана как мультиязычная; в метаданных явно указаны английский и китайский. Сборка опубликована по лицензии Apache-2.0. NVFP4 может быть неудобен для видеокарт до Blackwell и для запуска на CPU; README рекомендует для таких систем другие варианты квантования. Утверждение о приросте скорости MTP приведено в карточке модели и зависит от оборудования и условий инференса.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.6 27B, опубликованная пользователем d3vs3c на основе модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В создании участвовали несколько авторов и команд, включая Unsloth, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, общего диалога, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлена поддержка vision и языков English и Chinese; pipeline обозначен как image-text-to-text. Дообучение включало материалы для reasoning, Fable traces, датасеты Polar-STRICT и F451-STRICT, а также компоненты, связанные с Claude Opus и GPT-5. Точный размер контекстного окна не указан. Ключевые особенности — 27B-параметрическая базовая архитектура Qwen3.6, многоэтапное fine-tuning и merge, uncensored/heretic-настройка, NEO IMATRIX-квантизация и MTP (multi-token prediction). По утверждению авторов, модель улучшает instruction following, общую интеллектуальность, решение задач и reasoning, а также превосходит базовую Qwen3.6 27B в большинстве указанных тестов; независимая проверка этих заявлений в README не приведена. Для MTP-квантизаций рекомендуется температура не выше 1 и repetition penalty около 1; при низком token acceptance предлагается использовать обычные кванты. Модель заявлена под лицензией Apache-2.0.

RodKykis/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — мультимодальная модель на базе Qwen3.6-27B, представленная в формате GGUF. Она создана как результат многоэтапного дообучения и слияния моделей при участии RodKykis, DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; при обучении использовались, в частности, наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель поддерживает английский и китайский языки, а также обработку изображений, однако точный размер контекстного окна в README не указан. Основное назначение модели — универсальная работа с инструкциями, решение задач, рассуждения, генерация кода, творческое письмо, художественная проза и roleplay. Заявлены улучшенные instruction following, общее решение задач и reasoning. Модель позиционируется как uncensored и heretic-вариант без заявленного изменения базовых возможностей Qwen; при этом README содержит маркетинговые заявления о превосходстве над рядом базовых моделей, которые не следует считать независимой проверкой качества. Репозиторий включает обычные и MTP-варианты GGUF-квантов, выполненные с использованием NEO IMATRIX; часть выходного тензора сохранена в 16-битной точности. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance советуется использовать обычные кванты. Доступны варианты для различных ограничений памяти и конфигураций AMD/Vulkan. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored-NM-DAU-NEO-MAX-MTP-GGUF — крупная 40-миллиардная fine-tune-модель, разработанная DavidAU при участии Nightmedia, TeichAI и других авторов. Она создана на основе Qwen3.6 и объединяет несколько версий Fable Fusion, Deckard Qwen3.6 40B, многоэтапное дообучение и слияние моделей с использованием Unsloth. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, с вариантами разрядности 4 и 8 бит. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач и аналитического рассуждения, генерации кода, творческого письма, создания историй и roleplay. Заявлены улучшенные reasoning и thinking, автоматическая адаптация глубины рассуждений к сложности запроса, подробные ответы и сильные творческие возможности. В карточке также указана поддержка vision и языков English и Chinese, однако конкретные поддерживаемые визуальные форматы и параметры контекста не приведены. К сильным сторонам относятся многоэтапная настройка, акцент на общем интеллекте, instruction following, problem solving и качестве рассуждений, а также доступность квантизированных вариантов для потребительского оборудования. Модель описывается как uncensored и heretic, что может быть полезно для менее ограниченных сценариев, но одновременно означает потенциально более высокие риски нежелательного или небезопасного вывода. Заявления о превосходстве над другими моделями основаны на тестах авторов и не подтверждены независимой проверкой в предоставленных данных. Лицензия модели указана как Apache-2.0. README не содержит точных требований к аппаратному обеспечению, размера контекстного окна, подробных инструкций по запуску или результатов стандартизированных бенчмарков, поэтому эти характеристики нельзя определить по имеющейся информации.

rico03/Qwen3.8-27B-Claude-Opus-Reasoning-Distilled-GGUF — набор GGUF-квантизаций модели, разработанный пользователем rico03 на базе Qwen/Qwen3.8-27B. Модель дообучена методом LoRA с использованием Unsloth и дистиллирована на рассуждениях и ответах Claude Opus 4.6/4.7. Лицензия — Apache-2.0. Модель предназначена для генерации текста и задач, требующих развитого пошагового рассуждения. Она использует плотную архитектуру на 27 млрд параметров с гибридным сочетанием полной и линейной attention-механики Gated DeltaNet, а также Multi-Token Prediction (MTP) head. Базовая Qwen3.8-27B является мультимодальной vision-language моделью, однако дообучение затрагивало только текстовый путь; зрительная часть сохранена без изменений. В README заявлен английский язык, размер контекста не указан. Доступны варианты от F16 до Q4_K_M, что позволяет выбирать между качеством, размером и требованиями к памяти. MTP поддерживает само-спекулятивное декодирование и, по приведённым замерам на H100 NVL, может ускорять генерацию примерно в 1,6 раза без изменения распределения выходов. Ограничения модели включают неполностью скомпоновавшееся дообучение: это проверочный запуск на 150 шагах, а не полностью сходимая fine-tune-версия. Кроме того, значительная часть обучающих рассуждений была реконструирована отдельной моделью, а не взята из внутреннего процесса Claude Opus. Для работы требуется свежая сборка llama.cpp с поддержкой гибридной архитектуры Gated DeltaNet и MTP; старые версии могут не загрузить модель корректно.

Это пакет слоёв GGUF-модели Qwen3.8-27B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Он создан на основе unsloth/Qwen3.8-27B-GGUF и сохраняет исходную GGUF-модель, разделённую на артефакты по слоям. Вариант квантования — Q4_K_XL. Пакет предназначен для локального приватного чата и генерации текста, в том числе на нескольких машинах, когда целиком разместить модель на одном хосте затруднительно. Через Mesh LLM модель можно предоставлять по локальному API, совместимому с OpenAI Chat Completions. Репозиторий использует библиотеку mesh-llm и формат GGUF; лицензия — Apache-2.0. В README не приведены размер контекста, точное число параметров, перечень поддерживаемых языков и подробные результаты оценки качества. Возможности и качество диалога зависят от исходной модели и конфигурации Mesh LLM.

Qwen3.8-27B-Uncensored-GGUF — квантизированная версия базовой модели Qwen/Qwen3.8-27B, опубликованная в формате GGUF для использования с llama.cpp. Модель предназначена для генерации текста, локального запуска и сценариев, где важны различные уровни квантизации, включая работу со speculative decoding благодаря сохранённой голове multi-token prediction (MTP). Доступен вариант с поддержкой изображений, если это предусмотрено базовой моделью. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Заявлены английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также варианты с объединённой MTP-головой и отдельными целевой и draft-моделями. По сравнению с исходной моделью существенно снижено поведение отказа от ответа, но оно не устранено полностью; при этом возможности, обучающие данные и архитектура базовой модели не изменялись. Сильными сторонами являются большой контекст, поддержка MTP для ускорения инференса, несколько вариантов размера файлов и сохранение качества при большинстве квантизаций. Ограничения включают возможное небольшое снижение доли принятых токенов при speculative decoding, зависимость от совместимости используемого runtime и отсутствие в README подробных сведений о фактических показателях рассуждения, программирования и мультиязычных возможностей. Распространение указано по лицензии Apache-2.0.

Qwen3-ASR-0.6B — плотная модель распознавания речи семейства Qwen3-ASR, разработанная командой Qwen. Она принимает аудио и выполняет транскрибацию с автоматическим определением языка. Модель поддерживает 30 языков и 22 китайских диалекта, включая русский, английский, китайский и кантонский; работает в потоковом и офлайн-режимах и рассчитана в том числе на длинные записи. Модель предназначена для распознавания речи в разных акустических условиях, включая речь, пение и песни с фоновой музыкой. Для интеграции доступны пакет qwen-asr и бэкенды Transformers и vLLM; потоковый режим поддерживается через vLLM. В README версия 0.6B описана как компромисс между точностью и эффективностью, с высокой пропускной способностью при параллельной обработке. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README не приводит отдельные результаты оценки качества именно версии 0.6B; характеристики уровня state of the art и сравнение с коммерческими API относятся к версии 1.7B. В потоковом режиме недоступны пакетная обработка и возврат временных меток.

Карточка модели jdoksjiksdjdf/Qwen3-ASR-1.7B на Hugging Face совпадает с карточкой Qwen/Qwen3-ASR-1.7B, поэтому описание составлено по ней. Qwen3-ASR-1.7B — плотная аудиоречевая модель семейства Qwen3-ASR, разработанная командой Qwen. Она распознаёт речь и определяет язык аудио; модель поддерживает 30 естественных языков и 22 китайских диалекта, включая русский, английский, китайский и кантонский. Основана на возможностях аудиопонимания Qwen3-Omni и содержит 1,7 млрд параметров согласно названию модели. Модель предназначена для транскрибации речи в потоковом и офлайн-режимах, в том числе длинных записей, аудио в сложных акустических условиях, пения и песен с фоновой музыкой. В README заявлены сильные результаты на открытых и внутренних тестах; отдельные сравнительные показатели в карточке не приведены. Для потокового распознавания требуется backend vLLM; доступны также интеграции через Transformers и пакет qwen-asr. Веса опубликованы в формате safetensors под лицензией Apache-2.0. Модель принимает аудио и выдаёт распознанный текст. Описанный в README Qwen3-ForcedAligner-0.6B — отдельная модель для временных меток, а не функция данного чекпойнта.

zecafonso/Qwen3-Embedding-0.6B-512 — текстовая Sentence Transformer модель, дообученная на базе Qwen/Qwen3-Embedding-0.6B и опубликованная под именем пользователя zecafonso. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска и поиска релевантных фрагментов. Архитектура включает Qwen3Model, pooling по последнему токену и нормализацию; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на retrieval-сценарии, включая поиск passages по запросу. В README приведены результаты оценки на двух наборах urban-ir-gold, но эти результаты относятся к указанным наборам и не гарантируют аналогичное качество в других предметных областях. Модель принимает текст и выдаёт эмбеддинги; максимальная длина последовательности в README — 512 токенов. Метаданные указывают контекст модели 32 768 токенов, однако README описывает ограничение этой конкретной конфигурации в 512 токенов. Модель реализована на Sentence Transformers и сохранена в safetensors. Лицензия в предоставленных данных не указана.

PeterAM4/Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций модели Qwen3-Embedding-0.6B, разработанной Qwen и квантизированной PeterAM4 с помощью llama.cpp. Модель предназначена для построения эмбеддингов и подходит для RAG-систем, семантического поиска, извлечения документов и задач финансового NLP. Доступны варианты квантизации от 8-битных до 1-битных, включая версии с калибровкой importance matrix, ориентированной на финансовые и технические тексты. Базовая модель содержит 595 776 512 параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует эмбеддинги размерности 1024. Заявлена мультиязычная поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Компактный размер квантизированных файлов позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. К сильным сторонам относятся низкое потребление памяти, потенциально малая задержка и сохранение качества при умеренной квантизации; по приведённому тестированию рекомендован вариант Q3_K_M-imat размером 331 МБ. Качество существенно зависит от выбранного формата: при чрезмерно агрессивной квантизации показатели perplexity заметно ухудшаются, а результаты тестов получены на ограниченном корпусе финансовых, математических и общих текстов и не гарантируют качество для всех задач. Модель распространяется по лицензии Apache 2.0.

Qwen3-VL-Embedding-2B-FP8-DYNAMIC — мультимодальная модель эмбеддингов, разработанная на базе Qwen3-VL-Embedding-2B от Qwen. Она предназначена для преобразования текста, изображений и их комбинаций в векторные представления, которые можно использовать для семантического поиска, сопоставления текстов и изображений, кластеризации и других задач, требующих сравнения мультимодальных данных. Модель ориентирована на эффективное развёртывание через vLLM и поддерживает OpenAI-совместимый API. Модель содержит около 2 млрд параметров и использует архитектуру Qwen3VLModel. Текстовые линейные слои квантизированы методом FP8_DYNAMIC: веса представлены в FP8 с поканальным симметричным квантованием, а активации квантизируются динамически по токенам. 24 визуальных блока сохраняются в формате bfloat16 для поддержания качества обработки изображений и межмодального выравнивания. Размер эмбеддинга по умолчанию составляет 2048, а благодаря Matryoshka-представлениям доступны сокращённые размерности от 64 до 2048, что позволяет экономить память и ускорять операции сравнения. Указано снижение потребления VRAM примерно на 50% по сравнению с версией bfloat16; размер модели составляет около 2,8 ГБ против 4,6 ГБ. К сильным сторонам относятся поддержка текстовых, визуальных и мультимодальных входов, гибкая размерность векторов и сохранение визуальных слоёв в полной точности. Ограничения README не описывает; для мультимодального режима требуется специальный формат запросов vLLM, а практическая совместимость зависит от корректной настройки pooling-режима и загрузки квантизированных весов. Модель распространяется по лицензии Apache 2.0.

Hyper-AI/Qwen3-VL-Embedding-8B-fp8 — мультимодальная модель для построения эмбеддингов, представленная как FP8-квантизированная версия 8-миллиардной модели семейства Qwen3-VL. В метаданных указана базовая модель Qwen/Qwen3-VL-8B-Instruct, а описание связывает модель с серией Qwen3-VL-Embedding, разработанной для мультимодального поиска и сопоставления информации. Инструментарий lightvl, упомянутый в README, предназначен для квантизации моделей и интеграции с vLLM; автор репозитория явно не назван. Модель принимает текст, изображения, скриншоты, видео и произвольные комбинации этих модальностей. Она предназначена для семантического поиска, кросс-модального retrieval, кластеризации, сопоставления текста с изображениями или видео и построения первого этапа двухступенчатых поисковых систем совместно с reranker-моделью. Заявлена поддержка более 30 языков, контекст до 32K токенов и размерность эмбеддингов до 4096 с настраиваемым выходным размером от 64 до 4096. Также заявлена поддержка инструкций для адаптации к конкретным задачам и MRL. Ключевое преимущество этой версии — снижение потребления памяти примерно с 16 до 8,8 ГБ и заявленное ускорение около 30% по сравнению с исходной версией; предусмотрен запуск через vLLM. README также сообщает о cosine similarity до 0,99 для изображений, однако не приводит подробностей методики измерения. Ограничения включают зависимость качества и производительности от FP8-квантизации, аппаратной поддержки и выбранных настроек инференса; подробные требования к оборудованию и результаты бенчмарков в приведённых данных отсутствуют. Лицензия — Apache-2.0.

RetroMAE-Small — компактная модель семейства BERT, разработанная Seznam.cz и предварительно обученная с целевой функцией RetroMAE на чешском веб-корпусе. Она предназначена для получения семантических представлений предложений и решения задач поиска по смыслу и оценки сходства текстов. Модель содержит 27,2 млн параметров и принимает текст с контекстом до 512 токенов. Её можно применять для поиска похожих предложений, извлечения релевантных документов, кластеризации и классификации чешских текстов. Лицензия — CC BY 4.0.

Rombo-LLM-V2.7-llama-3.2-3b — языковая модель Rombo-Org на архитектуре LlamaForCausalLM с 3,2 млрд параметров. По карточке, она объединяет предварительно обученную и instruct-настроенную версии Llama 3.2 3B; метаданные указывают базовую модель meta-llama/Llama-3.2-3B-Instruct и связь fine-tuning. Модель предназначена для генерации текста и диалогов, а также может использоваться для дальнейшего дообучения или инференса без дополнительной настройки. Модель работает с текстом, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors через библиотеку Transformers. Карточка не уточняет языки и результаты оценки качества; метаданные характеризуют базовую модель как мультиязычную. Лицензия — Llama 3.2, поэтому использование регулируется её условиями.

RWKV/RWKV7-7.2B-20260805 — официальная базовая языковая модель BlinkDL из семейства RWKV-7 «Goose», выпущенная в формате Transformers. Это плотная причинная языковая модель класса Rwkv7ForCausalLM с 7,8 млрд параметров; веса представлены в safetensors. Архитектура работает без attention: она поддерживает рекуррентное состояние постоянного размера и постоянные вычисления на генерируемый токен, при этом обучение можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Она предназначена для генерации текста, оценки, последующего обучения и тонкой настройки. Шаблон чата задаёт формат диалога, но сам по себе не означает, что модель прошла выравнивание безопасности. Карточка содержит языковые теги для английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского. Рекуррентное состояние постоянного размера позволяет не наращивать KV-кэш по мере генерации; доступны интеграция с Transformers, продолжение генерации с рекуррентным кэшем и рабочие процессы LoRA. Для нативной регистрации класса RWKV-7 требуется Transformers 5.15 или актуальная версия из исходного кода. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения снимков состояния; производительность TileLang зависит от оборудования и конфигурации. Заявлений об оценке безопасности, фактической точности или пригодности для критически важных решений нет. Лицензия — Apache-2.0.

arcee-ai/saul-mistral-instruct-v0.1-7b-ties — объединённая модель Arcee AI, созданная методом TIES с помощью mergekit на основе Equall/Saul-Base и Mistral-7B-Instruct-v0.1, с Mistral-7B-v0.1 как базовой моделью слияния. Это плотная авторегрессионная языковая модель MistralForCausalLM на 7,1 млрд параметров, предназначенная для генерации текста по инструкциям. Она подходит для диалогов, ответов на вопросы и других задач генерации текста; максимальная длина контекста составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает её специализированную настройку по областям, языковую поддержку, сравнительные результаты или ограничения качества, поэтому применимость в конкретных сценариях следует проверять отдельно.