III.2Исследование рынка и маркетинг

Карточка модели Hagwell/whisper-base на Hugging Face совпадает с карточкой openai/whisper-base, поэтому описание составлено по ней. Whisper Base — мультиязычная модель распознавания речи, разработанная OpenAI. Это Transformer-энкодер-декодер с архитектурой sequence-to-sequence и примерно 51,7 млн параметров; модель принимает аудио и преобразует речь в текст на том же языке. Семейство Whisper обучалось на 680 тысячах часов размеченных аудиоданных со слабым контролем, что помогает ему обобщать на разные наборы данных и предметные области без дообучения. Модель также может переводить речь на английский язык; для длинных записей транскрипцию можно выполнять частями с помощью chunking в Transformers. Whisper Base подходит для транскрибации аудио, включая речь с акцентами, фоновым шумом и технической лексикой, а также для перевода речи на английский. Карточка сообщает о поддержке множества языков, среди них английский, русский, китайский, немецкий, испанский и французский. Для обычного использования модель распространяется по лицензии Apache-2.0. Распознавание может содержать галлюцинации — текст, отсутствующий в аудио, а также повторы. Точность неравномерна между языками, акцентами и диалектами и может быть ниже для языков с малым объёмом обучающих данных. Для модели указана длина входных аудиофрагментов до 30 секунд; более длинные записи обрабатываются с разбиением на части.

Карточка модели unsloth/whisper-base на Hugging Face совпадает с карточкой openai/whisper-base, поэтому описание составлено по ней. Whisper Base — мультиязычная модель распознавания речи, разработанная OpenAI. Это Transformer-энкодер-декодер с архитектурой sequence-to-sequence и примерно 51,7 млн параметров; модель принимает аудио и преобразует речь в текст на том же языке. Семейство Whisper обучалось на 680 тысячах часов размеченных аудиоданных со слабым контролем, что помогает ему обобщать на разные наборы данных и предметные области без дообучения. Модель также может переводить речь на английский язык; для длинных записей транскрипцию можно выполнять частями с помощью chunking в Transformers. Whisper Base подходит для транскрибации аудио, включая речь с акцентами, фоновым шумом и технической лексикой, а также для перевода речи на английский. Карточка сообщает о поддержке множества языков, среди них английский, русский, китайский, немецкий, испанский и французский. Для обычного использования модель распространяется по лицензии Apache-2.0. Распознавание может содержать галлюцинации — текст, отсутствующий в аудио, а также повторы. Точность неравномерна между языками, акцентами и диалектами и может быть ниже для языков с малым объёмом обучающих данных. Для модели указана длина входных аудиофрагментов до 30 секунд; более длинные записи обрабатываются с разбиением на части.

ProCreations/grug-v1.1-qwen-3.8-27b-qgguf — это GGUF-версия модели grug-v1.1-qwen-3.8-27b, разработанная ProCreations для локального запуска через llama.cpp. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами. Заявлена поддержка английского языка и режим text-generation. Модель имеет размер 27B и поставляется в нескольких вариантах квантования: Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K_M, занимающих примерно от 13,3 до 28,6 ГБ. Для работы с изображениями предусмотрен отдельный multimodal-проект mmproj в формате F16 размером около 0,9 ГБ, используемый вместе с llama-mtmd-cli. Размер контекста в README не указан. Ключевая особенность модели — оптимизированное рассуждение: в описании заявлено существенно меньшее число токенов в блоке размышлений по сравнению с базовой моделью. Для большинства случаев рекомендуется средний уровень reasoning effort; режим xhigh может ухудшать выбор инструментов. Квантование позволяет подобрать баланс между качеством и требованиями к памяти, но более компактные варианты могут уступать полноразмерным весам по качеству. Все варианты, согласно README, проверены с помощью llama-bench. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое окружение llama.cpp; конкретные требования к оперативной памяти, производительности и максимальному контексту не указаны.

Snowflake Arctic-Base — базовая языковая модель, разработанная командой Snowflake AI Research Team и предварительно обученная с нуля. Это гибридный трансформер с архитектурой dense-MoE: плотный блок на 10 млрд параметров сочетается с остаточным MoE-блоком из 128 экспертов; по README активно выбираются 17 млрд параметров на токен с помощью top-2 gating. В метаданных репозитория указано 11,1 млрд параметров, а нативное окно контекста составляет 4096 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена как базовая модель для генерации и продолжения текста, а также для создания собственных прикладных решений и последующего дообучения; версия Base не является instruct-вариантом. Для запуска README рекомендует Transformers версии 4.39 или выше с `trust_remote_code=True`; для инференса предлагается сервер с 8 ускорителями H100. Лицензия Apache-2.0 допускает использование в исследованиях, прототипах и продуктах.

QuixiAI выпустила WizardLM-1.0-Uncensored-CodeLlama-34b — дообученную на базе CodeLlama-34b языковую модель семейства Llama с 33,5 млрд параметров. Модель обучена на отфильтрованных данных WizardLM Evol Instruct V2 и использует формат запросов, совместимый со стилем Vicuna 1.1. Модель предназначена для генерации текста и кода, выполнения инструкций и диалоговых сценариев. Разработчик сообщает, что обучение было направлено на снижение отказов, уклончивых ответов и смещения; база CodeLlama, по описанию карточки, обеспечивает хорошие возможности для программирования. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 16 384 токенов. Метка «uncensored» не означает полного отсутствия ограничений: в README отмечены унаследованные этические установки LLaMA и отсутствие защитных механизмов. Модель распространяется по лицензии Llama 2; применяйте её с учётом условий этой лицензии и самостоятельно оценивайте генерируемый контент.

Pula-8B-v0.1 — языковая модель семейства BOTS-LM, разработанная Nathan Brown и Vukosi Marivate для работы на сетсвана и английском языках. Это плотная авторегрессионная модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная на основе Meta-Llama-3.1-8B-Instruct. В метаданных указан контекст до 131 072 токенов; при обучении использовались последовательности длиной до 4 096 токенов. Модель предназначена прежде всего для диалогового помощника и следования инструкциям. Её можно применять для ответов на вопросы, написания текстов, перевода между сетсвана и английским, извлечения именованных сущностей, разметки частей речи и вызова инструментов. Авторы также сообщают о возможностях рассуждения и улучшенных результатах на сетсвана и английском по сравнению с существующими открытыми языковыми и переводческими моделями для этих языков. Модель принимает текст и генерирует текст. README разрешает коммерческое и исследовательское использование, однако конкретная лицензия в карточке не названа. Как и другие языковые модели, Pula-8B может выдавать неточные или предвзятые ответы; для клиентских приложений авторы рекомендуют дополнительные меры безопасности. Официальная поддержка заявлена для сетсвана и английского, а качество на других языках и при обычной генерации текста проверено ограниченно.

unsloth/Qwen3.6-35B-A3B-NVFP4 — открытая NVFP4-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Unsloth на базе модели Qwen. Это каузальная языковая модель с визуальным энкодером, предназначенная для диалоговых и мультимодальных сценариев, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозитория. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 35 млрд параметров, из которых 3 млрд активируются при обработке токена. Архитектура включает 40 слоёв, сочетает Gated DeltaNet, Gated Attention и Mixture of Experts с 256 экспертами, из которых используются 8 маршрутизируемых и 1 общий. Размер скрытого представления составляет 2048, размер словаря — 248 320 токенов. Поддержка изображений заявлена через vision encoder, однако список языков и максимальная длина контекста в README не указаны. Ключевые преимущества версии — сниженное потребление памяти, возможность работы на GPU с 32 ГБ VRAM, встроенный модуль Multi-Token Prediction для speculative decoding и заявленная скорость до 1,56 раза выше других NVFP4-квантизаций. К ограничениям относятся возможные потери точности из-за квантизации, зависимость производительности от аппаратного обеспечения и backend vLLM, а также отсутствие в предоставленных данных подробностей о языковой поддержке и контексте. Лицензия — Apache-2.0.

Saba2.1-Preview — языковая модель Sakalti с архитектурой Qwen2 и 1,5 млрд параметров, дообученная на основе Sakalti/Saba2-Preview. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 200 000 токенов и ориентирована на английский язык. Весовые файлы опубликованы в формате safetensors. Модель доступна по лицензии Apache-2.0. README указывает на обучение с Unsloth и библиотекой TRL.

BTL-4 — 35-миллиардная мультимодальная модель, разработанная badtheorylabs и представленная в формате GGUF с квантованиями от bartowski. Модель предназначена для работы с текстом и изображениями; для обработки изображений требуется отдельный файл mmproj. В описании также заявлены сценарии агентной работы, использования инструментов, программирования и решения задач, требующих рассуждений. Модель запускается через llama.cpp и доступна в вариантах от BF16 до низкобитных квантований Q8, Q6, Q5, Q4 и Q3, включая форматы IQ. Размер файлов составляет примерно от 14,87 до 69,38 ГБ, поэтому выбор варианта позволяет балансировать между качеством, скоростью и требованиями к памяти. Для большинства сценариев рекомендуется Q4_K_M размером 21,39 ГБ, а для более высокого качества — Q5 или Q6. В README не указаны архитектура, поддерживаемые языки и размер контекста; также отсутствуют результаты бенчмарков. К сильным сторонам относятся поддержка текста и изображений, ориентация на код, tool use и reasoning, а также широкий выбор квантований. Ограничениями являются значительные требования к памяти, возможное снижение качества в низкобитных вариантах и необходимость совместимого рантайма llama.cpp, а для мультимодальной работы — файла mmproj. Распространение указано по лицензии Apache-2.0.

Ornith-1.5-35B-A3B-REAP50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, разработанной ornith-ai и подготовленной Ttimms. Модель предназначена для генерации текста, включая программирование и работу в локальных средах через llama.cpp и совместимые приложения. Она создана методом REAP с 50%-ным сокращением экспертных блоков: число экспертов в гибридной архитектуре Gated-DeltaNet и Mixture-of-Experts уменьшено с 256 до 128, удалена MTP-голова, а также визуальная башня; заявленный объём составляет около 19 млрд параметров, из которых примерно 3 млрд активны при обработке токена. Указан английский язык и текстовая модальность. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером от 11,4 до 19,7 ГБ. Рекомендуемый Q4_K_M рассчитан на видеопамять 16 ГБ с запасом под контекст; Q8_0 требует более 16 ГБ или выгрузки части вычислений на CPU. MoE-архитектура обеспечивает относительно быструю работу на CPU и Apple Silicon для модели такого размера. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama на момент публикации ожидала обновления встроенной llama.cpp. Контекст модели в README не указан. До квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%, однако эти показатели относятся к варианту NVFP4A16 и могут не отражать качество GGUF-версий. Ограничениями являются потеря части экспертов и удаление MTP- и визуальной компонентов, а также необходимость достаточно нового программного окружения. Модель распространяется по лицензии MIT, унаследованной от базовой модели; pruning выполнен методом REAP с исправлением перенормировки маршрутизатора.

Teapot LLM — компактная языковая модель сообщества TeapotAI, дообученная на синтетических данных от FLAN-T5-Large. В метаданных указаны архитектура T5, 385,2 млн параметров и контекст до 512 токенов; доступны форматы Safetensors и ONNX. Модель предназначена для генерации ответов на основе предоставленных документов и контекста, в том числе в сценариях RAG. Teapot обучена отвечать на вопросы по контексту, извлекать сведения из документов и выдавать структурированные данные, включая JSON. Она рассчитана на локальный запуск на устройствах с ограниченными ресурсами, включая смартфоны и CPU, и поддерживается Transformers.js для работы в JavaScript-средах. README отмечает стремление модели воздерживаться от ответа, если контекст не содержит достаточных сведений. Метаданные перечисляют английский, французский, румынский и немецкий языки, однако авторы сообщают, что модель не оценивалась на языках, кроме английского. Она не предназначена для генерации кода, творческого письма или критически важных решений. Лицензия — MIT.

Ternary-Bonsai-27B-antidoom-DSpark — текстовая генеративная модель, разработанная на основе prism-ml/Ternary-Bonsai-27B и доработанная Danny-Dasilva с применением antidoom и DSpark. Она предназначена для локальной генерации текста, включая программный код, с запуском через специализированный форк llama.cpp и CUDA-ядра для гибридного внимания. Модель ориентирована на сценарии, где важны компактность, высокая скорость вывода и устойчивость к зацикливанию на повторяющихся фрагментах. В основе лежит гибридная attention-архитектура Qwen3.5-27B с тернарной 2-битной квантизацией Q2_0, плотностью около 2,125 бит на вес и контекстом до 16 384 токенов в приведённой конфигурации. Указан английский язык. В комплект входят основная модель размером около 7 ГБ, DSpark-драфтер в формате Q4_1 для speculative decoding и vision projector Q8_0, что указывает на поддержку мультимодального сценария через проектор, хотя подробности о визуальных возможностях не приведены. К сильным сторонам относятся малый размер, высокая скорость на RTX 5090 и ускорение speculative decoding: в описанном тесте скорость выросла с 129,2 до 184,6 токена в секунду. Antidoom-настройка снижает склонность к продолжению уже начавшихся повторов, однако её эффект частично ослабляется агрессивной 2-битной квантизацией. Скорость DSpark зависит от характера запроса и может снижаться на задачах с низкой долей принятых черновых токенов; для работы требуется совместимый форк llama.cpp и подходящее CUDA-оборудование. Модель распространяется по лицензии Apache-2.0.

Hy3-GGUF — набор GGUF-квантизаций модели Tencent Hy3, подготовленный пользователем vcruz305. Это MoE-модель для генерации текста, диалогов, программного кода и задач рассуждения. Базовая модель имеет 295 млрд параметров, из которых 21 млрд активируются на токен, использует 192 эксперта с выбором top-8, включает 80 основных слоёв и дополнительный MTP/NextN-слой объёмом 3,8 млрд параметров. Заявлена длина контекста до 256K токенов. Модель работает с текстом; сведения о поддерживаемых языках в README не указаны. Репозиторий содержит варианты от IQ1_M и IQ2_M до Q8_0 размером примерно от 92 до 318 ГБ, рассчитанные на системы с большим объёмом памяти и, для некоторых вариантов, на конфигурации из двух узлов. Квантизации используют importance matrix, рассчитанную на корпусе с примерами программирования, рассуждений и диалогов. Для части вариантов проверена генерация кода и диалогов на реальном оборудовании; также поддерживается speculative decoding через MTP, которое в приведённых измерениях заметно повышало скорость генерации. Для запуска требуется llama.cpp с поддержкой архитектуры Hy3: до включения соответствующих изменений в основную ветку необходима специальная ветка с PR #25364. Для корректного применения шаблона чата требуется параметр --jinja. Ограничениями являются значительные требования к памяти, необходимость совместимого оборудования и специальной сборки llama.cpp; часть квантов не проходила индивидуальное нагрузочное тестирование. Модель распространяется по лицензии Apache-2.0.

Ngixdev/OmniCoder-Qwen3.5-9B-Claude-4.6-Opus-Uncensored-v2-GGUF — это GGUF-модель на базе Qwen/Qwen3.5-9B, разработанной Alibaba Cloud. Она создана путём объединения модели Qwen3.5-9B-Uncensored-HauhauCS-Aggressive, Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2 и OmniCoder-9B-GGUF; при слиянии изменялись только дообученные веса, подготовленные с помощью Unsloth, в формате float32. В карточке заявлены языки English, Chinese и Korean, а также поддержка сценариев image-text-to-text, хотя подробности о визуальной архитектуре не приведены. Модель ориентирована на рассуждения, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Версия v2 обучалась более чем на 14 000 образцах рассуждений в стиле Claude 4.6 Opus и оптимизировалась для сокращения избыточной длины цепочек рассуждений при сохранении или повышении точности. В README приведены заявленные результаты HumanEval и HumanEval+, включая более высокую эффективность рассуждений по сравнению с официальной Qwen3.5-9B, однако независимое подтверждение этих результатов отсутствует. Ключевые ограничения — неизвестные размер контекста и точные характеристики модальностей, а также возможное некоторое ухудшение широких универсальных возможностей из-за преимущественно общего, а не специализированного набора данных. Модель позиционируется как uncensored и может иметь минимальное количество отказов, что требует осторожности при использовании в чувствительных сценариях. Для работы рекомендуются LM Studio и специальные параметры генерации, но они не являются обязательными. Лицензия — Apache-2.0.

Qwen3.8-27B-Abliterated-IQ4-MIX-MTP-GGUF — это GGUF-квантизация модели Qwen3.8-27B-Abliterated, разработанной windowsxp811203 на основе Qwen/Qwen3.8-27B. Модель предназначена для локальной генерации текста и высокопроизводительного инференса, включая агентские сценарии программирования, на GPU с 16 ГБ видеопамяти. Вариант поддерживает работу через llama.cpp и рассчитан на спекулятивное декодирование с использованием встроенной головы MTP (Multi-Token Prediction), поэтому отдельная draft-модель не требуется. Размер файла составляет около 13,26 GiB, эффективная точность — 4,17 BPW. Используется смешанная квантизация: основные группы тензоров представлены форматами IQ4_XS, IQ3_S и Q4_K, эмбеддинги — IQ2_S, выходной слой — Q5_K, а MTP-блоки сохранены в более высокой точности Q6_K и Q8_0 для поддержания качества черновой генерации и приемки токенов. Заявлена поддержка английского и китайского языков. В README не указаны архитектурные детали исходной модели и максимальный контекст, однако протестированы конфигурации с выделением контекста до 64K токенов. Сильные стороны модели — относительно небольшой размер для класса 27B, возможность полного размещения слоёв на GPU с 16 ГБ памяти и ускорение генерации за счёт MTP. На AMD Radeon RX 9070 XT в среде Windows с Vulkan и llama.cpp зафиксирована скорость около 49–50 токенов в секунду на коротком активном контексте, но при росте истории до 25–30 тысяч токенов скорость снижалась примерно до середины диапазона 20 токенов в секунду. Показатели зависят от оборудования, размера контекста и рабочей нагрузки. Модель распространяется по лицензии Apache-2.0.

Модель Zoont/faster-whisper-large-v3-turbo-int8-ct2 — преобразованная версия OpenAI Whisper large-v3-turbo в формате CTranslate2 с 8-битной квантизацией. Она предназначена для распознавания речи и преобразования аудио в текст с использованием faster-whisper; поддерживает мультиязычную обработку, включая русский и английский языки. Репозиторий создан 31 января 2025 года, использует библиотеку CTranslate2 и распространяется по лицензии MIT. Карточка отсылает к исходной модели за подробностями; в ней не приведены отдельные сведения о качестве распознавания или длине контекста.

Vegss/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF — дообученная на данных рассуждений Opus 4.6, 4.7 и 4.8 модель Google Gemma 4 12B Instruct в форматах GGUF и Safetensors. Она предназначена для локального диалога, рассуждений, ответов на вопросы и написания кода; поддерживает режим thinking через родной канал Gemma. Репозиторий содержит варианты GGUF от Q2_K до Q8_0 и BF16/F16, а также черновую MTP-модель для ускорения генерации. В README заявлен контекст до 131 тыс. токенов и возможность запуска через llama.cpp и приложения вроде LM Studio и Jan. Модель ориентирована прежде всего на английский язык. README отмечает, что рассуждения представляют собой синтетический CoT, поэтому факты и числовые выводы следует проверять. Обучение снижает частоту отказов и, по описанию автора, модель не имеет полноценного выравнивания по безопасности; для практического применения нужны внешние ограничения. Лицензия — Gemma.

GigaChat Audio MLX — независимый порт модели ai-sage/GigaChat3.1-Audio-10B-A1.8B в формате BF16 для запуска на компьютерах Apple Silicon с библиотекой MLX. Модель принимает аудио вместе с текстовой инструкцией и формирует текстовый ответ: расшифровку речи, перевод, ответы на вопросы об аудио, анализ эмоций, поиск событий с временными отметками и сводки с таймкодами. Архитектура основана на DeepSeek V3; в метаданных указано 1,5 млрд параметров и контекст длиной 262 144 токена. Модель поддерживает русский и английский языки. Репозиторий содержит веса safetensors в BF16; для работы требуется среда Apple Silicon. Разработчики порта сообщают о завершённой обработке тестового аудиофрагмента длительностью 5 минут 17 секунд за 10,41 секунды на Apple M4 Pro с 48 ГБ памяти, однако совместимость с другими конфигурациями не подтверждена. Порт создан независимо от авторов исходной модели. Лицензия модели — MIT. Модель не выполняет диаризацию, потоковое распознавание с микрофона или синтез речи; факты, метки эмоций, сводки и временные отметки могут быть ошибочными и требуют проверки по аудио.

GLM-4.6V-Flash NVFP4 GGUF — квантованная мультимодальная модель Z.ai (Zhipu AI), подготовленная в формате GGUF на основе zai-org/GLM-4.6V-Flash. Она сочетает языковую часть на 9 млрд параметров с 40 слоями трансформера и 24-слойным визуальным ViT-энкодером. Контекст составляет 128K токенов; модель принимает изображения и текст и формирует текстовые ответы, включая описание изображений и разбор документов. Модель подходит для диалогов по изображениям, визуального анализа документов и локального мультимодального ассистента. Веса языковой части представлены в NVFP4, а проектор визуального энкодера — в F16; для полной работы с изображениями нужны оба файла. Нативное вычисление FP4 рассчитано на видеокарты NVIDIA Blackwell, на более старом оборудовании и CPU возможен более медленный программный fallback. Репозиторий указывает лицензию MIT. Квантование снижает требования к памяти, но может повлиять на точность по сравнению с исходными весами.

LFM2.5-VL-1.6B — компактная мультимодальная модель Liquid AI для понимания изображений и диалога по визуальному содержимому. Это дообученная версия LFM2.5-1.2B-Base: языковая основа дополнена визуальным энкодером SigLIP2 NaFlex на 400 млн параметров. Модель содержит 1,6 млрд параметров и имеет контекст 32 768 токенов. Модель принимает изображения и текст, а отвечает текстом. Она подходит для описания изображений, распознавания текста на изображениях и документах, ответов на вопросы по визуальному содержимому и работы с несколькими изображениями. Поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Обрабатывает изображения до 512×512 пикселей без масштабирования; более крупные изображения делит на фрагменты с дополнительным обзорным изображением. Для локального запуска и адаптации доступны Transformers и vLLM. К сильным сторонам относятся следование инструкциям, обработка изображений высокого разрешения, OCR и многоязычное понимание изображений. Модель не предназначена для задач, требующих обширных знаний. В карточке Hugging Face лицензия обозначена как other; конкретные условия следует сверить с файлами репозитория Liquid AI.

unsloth/Qwen3.6-35B-A3B-NVFP4-Fast — квантованный чекпойнт семейства Qwen3.6, разработанный Unsloth на базе Qwen/Qwen3.6-35B-A3B. Это каузальная языковая модель с vision encoder, предназначенная для генерации текста, мультимодальных задач и особенно для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория. Модель поддерживает сохранение контекста рассуждений из предыдущих сообщений. Языки в README не указаны. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена; предусмотрены 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий. Архитектура включает Gated DeltaNet и Gated Attention, 40 слоёв, скрытое измерение 2048 и нативный контекст длиной 262 144 токена. Чекпойнт содержит модуль Multi-Token Prediction, который может использоваться для ускорения декодирования. Квантование выполнено в формате NVFP4 и откалибровано на смеси наборов Unsloth и UltraChat. К сильным сторонам относятся сниженные требования к видеопамяти, заявленная совместимость с GPU от 32 ГБ, высокая скорость инференса в рекомендованных конфигурациях vLLM и результаты, близкие к FP8 и BF16 на приведённых тестах MMLU-Pro, GPQA и AIME 2025. Ограничения связаны с потерями точности и особенностями производительности, возможными из-за NVFP4-квантования, а также с зависимостью скорости от совместимого оборудования и backend. README не приводит подробных данных о мультимодальных возможностях, языках и расширенной длине контекста. Модель распространяется по лицензии Apache-2.0. Веса и конфигурации представлены в формате Hugging Face Transformers; также заявлена совместимость с vLLM, SGLang и KTransformers.

AnonimousA/Qwen3.8-Flash-Next-REAP-320-GGUF — неофициальная общественная производная модели Qwen3.8-Flash-Next, не связанная с Alibaba или командой Qwen. Это текстовая генеративная MoE-модель с прореживанием: число экспертов на слой уменьшено с 512 до 320. Доступны GGUF-квантизации семейства UD-Q3_K_XL объёмом около 64,2 GiB и Q2-вариант объёмом около 57,3 GiB. Отбор экспертов выполнен по много-доменному корпусу, включавшему агентские сценарии, код, диалоги, математику и тексты. Сведения о языках, размере контекстного окна и точной общей архитектуре в карточке не указаны. Модель ориентирована на генерацию текста, программирование и использование в условиях ограниченной видеопамяти, где важны размер, скорость предварительного заполнения и возможность размещения вычислений на GPU. Для основной версии заявлены результаты HumanEval 96,3%, 9 из 10 успешных генераций в тесте редких имён и ускорение prefill примерно на 23% относительно указанного базового варианта; Q2-версия может полностью размещаться на видеокарте с 32 ГБ. Ограничение — потеря части мировых знаний из-за прореживания: в тесте из 12 вопросов доля фабрикаций составила 25%, поэтому модель менее предпочтительна для универсального ассистента, ориентированного на фактическую осведомлённость. Лицензия указана как qwen-community-license-1.0.

Модель dvislobokov/whisper-large-v3-turbo-russian — дообученная русскоязычная версия Whisper large-v3-turbo, созданная dvislobokov на базе openai/whisper-large-v3-turbo. Она предназначена для автоматического распознавания русской речи и преобразования аудио в текст. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 905,2 млн параметров и принимает аудио.

ARK-ASR-0.6B — многоязычная модель распознавания речи от Edge0, обученная по рецепту адаптации на данных учителя и онлайн-дистилляции политики из проекта open-audio-opd. Она преобразует аудио в текстовые транскрипты и подходит для расшифровки записей и потоковой речи на поддерживаемых языках. Архитектура включает декодерный Transformer с 504,7 млн параметров, отдельный аудиоэнкодер в стиле Whisper и MLP-адаптер; аудиопризнаки передаются декодеру для авторегрессионной генерации текста. Указанный в метаданных контекст — 32 768 токенов. Модель принимает аудио с частотой дискретизации 16 кГц и распознаёт китайский, английский, немецкий, японский, французский, корейский, испанский, польский, итальянский, румынский, венгерский, чешский, нидерландский, финский, хорватский, словацкий, словенский, эстонский и литовский языки. В опубликованных оценках модель показывает качество, сопоставимое с Qwen3-ASR-0.6B на английских и китайских наборах, хотя результаты зависят от языка и набора данных. Для запуска рекомендуется официальный скрипт проекта с обработчиком аудио и настройкой trust_remote_code=True. Модель опубликована в формате safetensors под лицензией Apache-2.0.

Nemotron-Labs-Audex-2B — компактная плотная аудио-текстовая языковая модель NVIDIA, дообученная в несколько этапов методом SFT на основе Nemotron-Cascade-2-30B-A3B. Она принимает текст и аудио и генерирует текст или аудио; поддерживает понимание аудио, распознавание и перевод речи, синтез речи, генерацию аудио и диалог с преобразованием речи в речь. Для текстовых запросов доступны режимы с рассуждением и без него, а также сохраняются возможности базовой текстовой модели в рассуждении, работе с длинным контекстом и использовании инструментов. Компактный размер снижает требования к ресурсам по сравнению с Audex-30B-A3B. Модель использует плотную архитектуру семейства Nemotron Labs Audex и выпущена после многоэтапного SFT; в отличие от Audex-30B-A3B, для неё не заявлен дополнительный каскадный этап RL. Для инференса README описывает Transformers и vLLM с версией 0.20.0 и плагином модели. В метаданных указана лицензия other, поэтому конкретные права использования следует сверять с условиями репозитория.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная fine-tune и merge-модель семейства Qwen3.8 с 27 млрд параметров, опубликованная в репозитории isihdfg на основе модели DavidAU. По README, разработка выполнена командой DavidAU с использованием методов COLD FUSION, Fable Fusion 711 и инструментов Unsloth. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, рассчитанные на запуск на пользовательском оборудовании. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Заявлены режимы thinking, reasoning и coder, а также поддержка английского и китайского языков. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа; README также заявляет улучшение результатов на ряде ARC-бенчмарков по сравнению с базовыми моделями, однако эти показатели приведены автором и могут зависеть от режима, квантизации и методики оценки. К сильным сторонам относятся ориентация на программирование и творческие задачи, уменьшенное избыточное рассуждение, наличие вариантов для устройств с ограниченными ресурсами и заявленная поддержка MTP. Ограничения включают отсутствие в README точных данных о размере контекстного окна, полном наборе поддерживаемых модальностей и системных требованиях; заявленная «uncensored» и «abliterated» настройка также может означать ослабленные ограничения безопасности. Лицензия модели указана как Apache-2.0.

Dingdust/LFM2.5-VL-3B-heretic — мультимодальная модель на основе LFM2.5-VL-3B от Liquid AI, ориентированная на локальный запуск и высокую скорость обработки изображений и текста. Это плотная модель класса LFM2-VL с языковой основой LFM2.5-2.6B и визуальным энкодером SigLIP2 NaFlex; веса представлены в формате Safetensors. В карточке указаны контекст 32 768 токенов и поддержка 17 языков: арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского, вьетнамского и других перечисленных языков. Модель предназначена для диалога по изображениям, распознавания текста на страницах с сохранением структуры, поиска объектов по текстовому запросу и локального перевода надписей, например меню и дорожных знаков. В README вариант heretic описан как abliteration-модификация исходной модели: в приведённом сравнении число отказов уменьшено со 100 из 100 до 5 из 100, при KL-дивергенции 0,0168. Модель рассчитана на быстрые одношаговые задачи и локальный инференс; автор README не рекомендует её для задач с интенсивными рассуждениями или сложного анализа чертежей. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

ModernBERTić-large — энкодер на архитектуре ModernBERT-large, разработанный Permitt для боснийского, хорватского, черногорского и сербского языков. Модель содержит 395 млн параметров и принимает последовательности длиной до 8192 токенов. Она обучена предсказывать замаскированные токены и подходит для классификации последовательностей и токенов, понимания длинных документов, а также как основа для дообучения ретриверов и реранкеров. Архитектура включает 28 слоёв, скрытый размер 1024 и 16 голов внимания. Используются RoPE, чередование локального внимания с окном 256 токенов и полного внимания, а также FlashAttention 2. Модель обучена на корпусе из 66 млрд токенов BCMS-текста; заявлены результаты уровня state of the art на SuperGLUE-SR и применение в производственных функциях платформы Recrewty. Лицензия — Apache-2.0. Токенизатор рассчитан на латинскую графику: кириллический текст рекомендуется предварительно транслитерировать. В обучающих данных преобладают хорватский и сербский языки, а код, разговорный чат и узкоспециальные научные тексты представлены слабее. Это энкодер, который не генерирует связный текст.

FriendliAI/MiniCPM-o-2_6 — мультимодальная модель MiniCPM-o 2.6, разработанная командой OpenBMB и размещённая FriendliAI. Это плотная end-to-end архитектура MiniCPMO на 7,1 млрд параметров с компонентами для зрения, речи и текста; модель поддерживает контекст до 32 768 токенов и работает через Transformers. Модель предназначена для диалога с изображениями, распознавания и описания аудио, синтеза речи, перевода речи, а также взаимодействия в реальном времени с потоками видео и аудио. Она поддерживает английский и китайский для двуязычного речевого диалога и заявляет мультиязычные возможности более чем для 30 языков. Среди особенностей — OCR, обработка изображений с разными пропорциями сторон, управление стилем и скоростью речи и клонирование голоса. Модель компактна для своего набора мультимодальных возможностей и рассчитана в том числе на запуск на конечных устройствах; для изображений высокого разрешения заявлена эффективная обработка по числу визуальных токенов. Для инференса доступны разные варианты, включая квантизированные сборки, однако этот репозиторий содержит safetensors. Лицензия — Apache-2.0.

Myric/Ornith-1.5-35B-A3B-APEX-GGUF — это набор квантизированных GGUF-вариантов модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель предназначена для генерации текста, агентного программирования и работы с изображениями через отдельный vision projector; запуск ориентирован на llama.cpp. Лицензия — MIT. Архитектура представляет собой MoE-модель с 35,5 млрд общих параметров и примерно 3 млрд активных параметров: используется 256 маршрутизируемых экспертов с выбором top-8, гибридная gated-delta-net с полным attention в каждом четвёртом слое, 40 основных слоёв и контекст до 262 144 токенов. Также сохранён однос layer MTP-блок для speculative decoding. Доступны варианты i-quality размером 21,67 ГБ, i-compact размером 16,58 ГБ и i-mini размером 12,55 ГБ; они используют разные уровни квантизации и рассчитаны соответственно на качество или экономию памяти. Сильные стороны модели — большой контекст, низкая нагрузка KV-кэша благодаря преобладанию рекуррентных слоёв, поддержка vision через проектор издателя и возможность ускорения генерации с помощью MTP. В заявленном тесте agentic coding вариант i-quality решил 9 из 9 задач и прошёл 154 из 154 проверок, а в пяти perception-задачах с изображениями дал 5 успешных ответов из 5. Эти результаты получены на DGX Spark с llama.cpp в одном прогоне и не являются универсальным сравнительным бенчмарком. Для запуска требуется совместимый llama.cpp, значительный объём памяти и отдельный файл vision projector; README не указывает языковой охват модели и не приводит систематических данных о качестве на разных языках.