II.8Инженерия данных и аналитика

Covenant-72B-Chat — диалоговая языковая модель с настройкой по инструкциям, созданная на основе Covenant-72B. Разработчики описывают базовую модель как крупнейшую языковую модель, обученную совместно без разрешений; вариант Chat дообучен методом supervised fine-tuning. Модель использует плотную архитектуру LLaMA (LlamaForCausalLM), содержит около 70,6 млрд параметров и принимает текст для генерации ответов в диалоге. Контекст составляет 8192 токена, поддерживаемый язык по карточке — английский. Модель предназначена для диалоговых ответов и выполнения инструкций на естественном языке. В README приведены результаты бенчмарков по рассуждениям, математике, общим знаниям и следованию инструкциям; эти оценки показывают способности на тестовых наборах, но не гарантируют точность в прикладных сценариях. Опубликована в формате safetensors под лицензией Apache 2.0.

Это англоязычный разреженный CSR-энкодер, созданный tomaarsen дообучением модели mixedbread-ai/mxbai-embed-large-v1 на наборе Natural Questions с использованием Sentence Transformers. Он преобразует запросы, предложения и абзацы в разреженные векторы размерностью 4096 с максимум 256 активными измерениями; сходство оценивается скалярным произведением. Модель предназначена для семантического поиска и разреженного извлечения документов, например для поиска ответов на вопросы в коллекциях текстов. Максимальная длина входа составляет 512 токенов. В README приведены результаты оценки поиска на наборах NanoMSMARCO при разных ограничениях на число активных измерений; качество зависит от выбранного ограничения. Модель распространяется по лицензии Apache-2.0.

MarkSelles/dutch-minilm-l6-v2 — компактная модель эмбеддингов предложений для нидерландского языка, созданная Mark Selles на основе sentence-transformers/all-MiniLM-L6-v2. Это энкодер BERT с шестью слоями и mean pooling; модель содержит 25,7 млн параметров по метаданным и формирует векторы размерности 384. Для нидерландского текста обучен отдельный WordPiece-токенизатор с 30 тысячами токенов. Модель дистиллирована на параллельных англо-нидерландских данных так, чтобы её векторы совпадали с векторами англоязычной модели-учителя; это позволяет сопоставлять нидерландские запросы с англоязычными документами и выполнять поиск между этими языками. Контекст по метаданным — 512 токенов, при этом README сообщает об усечении последовательностей длиннее 128 токенов. Модель предназначена для семантического поиска, сравнения сходства и кластеризации предложений на нидерландском языке, а также для межъязыкового поиска между нидерландским и английским текстом. В README приведены результаты на наборах STSb-multi-mt Dutch и STS17 nl-en, но это не гарантирует такого же качества на других данных. Модель оптимизирована только для нидерландского; для других языков и специализированных предметных областей качество может быть ниже, а некоторые пары нидерландских предложений с общими словами получают завышенную оценку сходства. Лицензия — Apache-2.0.

elephant-embeddings-v1-text-small — многоязычная модель эмбеддингов от llm-semantic-router, дообученная на базе llm-semantic-router/mmbert-32k-yarn для поиска, семантического сопоставления и сценариев с агентами. Это плотный энкодер ModernBERT с масштабированием YaRN, 306,9 млн параметров и контекстом до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Sentence Transformers. Модель предназначена для векторизации запросов и документов при поиске по базам знаний, RAG, маршрутизации задач, подборе инструментов и поиске по памяти агентов. Поддержка 2D Matryoshka позволяет выбирать размерность вектора и глубину модели под разные требования к скорости, объёму хранения и качеству; в README приведены варианты 64, 256 и 768 измерений. Заявленные результаты включают среднее значение MTEB 61,4 и сохранение 98% качества при размерности 64d и 99% при 256d. Модель поддерживает многоязычные данные и длинные текстовые фрагменты, но длинные входы увеличивают вычислительные затраты. Сокращение числа слоёв может снизить качество, а для задач за пределами поиска и семантического сходства может потребоваться дополнительная настройка. Лицензия — Apache-2.0.

capemox/ettin-encoder-32m-pretrain-50m — компактный энкодер для поиска и сравнения текстов, разработанный на основе jhu-clsp/ettin-encoder-32m. Это предварительно обученный на парах запрос–документ чекпойнт архитектуры ModernBERT примерно с 31,9 млн параметров; модель использует библиотеку Sentence Transformers и сохраняется в формате Safetensors. Контекст модели составляет до 7 999 токенов. Модель обучена контрастивно на сбалансированной выборке из 50 млн пар корпуса DenseOn. Она предназначена для извлечения эмбеддингов и поиска по смыслу, в том числе как zero-shot энкодер или начальная точка для последующей настройки под конкретную задачу. README приводит результаты оценки на подмножестве BEIR и NanoBEIR, а также улучшение качества последующей настройки на MS MARCO hard negatives. Модель ориентирована на английский язык. Это предварительное, не прошедшее supervised-настройку для поиска состояние, поэтому для специализированных сценариев может потребоваться дообучение и отдельная оценка на целевых данных. Лицензия — Apache-2.0.

Карточка модели SihJJJ/faster-whisper-medium на Hugging Face совпадает с карточкой Systran/faster-whisper-medium, поэтому описание составлено по ней. Systran/faster-whisper-medium — конверсия модели распознавания речи Whisper medium от OpenAI в формат CTranslate2, подготовленная для использования с CTranslate2 и faster-whisper. Модель принимает аудио и преобразует речь в текст; семейство Whisper поддерживает многоязычное распознавание, включая русский и английский, а также перевод речи на английский язык. Веса сохранены в FP16. При загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Репозиторий распространяется по лицензии MIT; для сведений о возможностях исходной модели следует обращаться к её карточке OpenAI.

Fun-ASR-MLT-Nano-2512 — мультиязычная модель распознавания речи из семейства Fun-ASR, разработанного командой FunASR. Чекпойнт содержит около 800 млн параметров и обучен на сотнях тысяч часов многоязычной речи. Он предназначен для преобразования аудио в текст на 31 языке, с особым вниманием к языкам Восточной и Юго-Восточной Азии. Модель поддерживает управление языком распознавания; интерфейс FunASR также предоставляет настройку горячих слов и обратную текстовую нормализацию (ITN). В README приведены результаты для семейства Fun-ASR, но они не относятся непосредственно к этому чекпойнту. Возврат временных меток, диаризация говорящих и обучение модели отмечены как пока не поддерживаемые функции. Для запуска используется библиотека FunASR. Модель распространяется по лицензии Apache-2.0.

Akahsizrr/fuse-1-Lite-MLX — сборка модели fuse-1 Lite в формате MLX для запуска на компьютерах Apple Silicon. Это разговорная модель для генерации текста и задач программирования; карточка указывает библиотеку MLX и объём 2,6 млрд параметров. Модель создана слиянием Akahsizrr/fuse-1-Lite, LiquidAI/LFM2.5-2.6B и Qwen/Qwen3.6-35B-A3B. Для запуска требуются Mac с Apple Silicon и пакет mlx-lm; в README предлагается загрузка с trust_remote_code=True. Указанная длина контекста — 131 072 токена. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает качество на конкретных задачах или подробности архитектуры и ссылается за ними на карточку основной модели.

Gemma-2-2b-TitanFusion — разговорная языковая модель на архитектуре Gemma 2, созданная bunnycore с помощью mergekit. В README описано слияние методом Model Stock на базе IlyaGusev/gemma-2-2b-it-abliterated с несколькими моделями Gemma 2 и адаптерами, включая варианты для диалога, рассуждений и кода. Размер модели — 2,7 млрд параметров, контекст — до 8192 токенов; модель работает с текстом и поддерживает чат. Модель предназначена для генерации ответов в диалоге, следования инструкциям, рассуждений и помощи с кодом. Метаданные указывают англоязычную базовую модель. В README не приведены результаты оценки качества или подробности о поведении итогового слияния. Лицензия в доступных данных не указана.

Карточка модели Ishowbackup/Gemma-4-E4B-it-qat-MXFP4-CRACK на Hugging Face совпадает с карточкой dealignai/Gemma-4-E4B-it-qat-MXFP4-CRACK, поэтому описание составлено по ней. Gemma 4 E4B-it QAT MXFP4 CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-e4b-it. Это плотная модель с гибридным скользящим и глобальным вниманием, дообученная с удалением отказов и квантизированная до 4-битного формата MXFP4. Она принимает текстовые запросы, изображения и аудио, а также предназначена для диалога, ответов на вопросы, многошаговых рассуждений и генерации кода; в метаданных также заявлен интерфейс вызова инструментов. В README автор сообщает о сохранении визуальных и аудиовходов, проверке генерации кода и снижении результата MMLU на 3,9 процентного пункта относительно базовой модели. Удаление отказов означает, что модель может выполнять вредоносные запросы; заявленные результаты HarmBench приведены автором и не являются независимой оценкой. Для запуска требуется Apple Silicon с достаточной объединённой памятью и vMLX с поддержкой Gemma 4. Лицензия — Gemma; автор публикует модель для исследовательских целей.

Idefics3-8B-Llama3 — мультимодальная модель Hugging Face, принимающая текст и одно или несколько изображений в произвольном чередовании и формирующая текстовые ответы. Визуальная часть использует SigLIP SO400M, а языковая основана на Meta-Llama-3.1-8B-Instruct. Модель относится к семейству Idefics3 и доступна в формате safetensors через Transformers. Модель предназначена для ответов на вопросы по изображениям, описания визуального содержимого, распознавания текста и анализа документов, а также визуальных рассуждений. Она может работать и с текстом без изображений; генерировать изображения не умеет. В README указан английский как язык модели. Для кодирования изображения 364×364 используются 169 визуальных токенов; большие изображения делятся на фрагменты и кодируются отдельно. Модель улучшает результаты Idefics2 на приведённых в карточке тестах, особенно на задачах понимания документов. Постобучение включало supervised fine-tuning без RLHF, поэтому ответы могут быть краткими и иногда требуют уточнения запроса. Результаты могут содержать фактические ошибки; модель не предназначена для критически важных решений и сценариев, где необходимы достоверные выводы. Лицензия — Apache 2.0.

Laguna-S-2.1-JANG_2L-CRACK — текстовая MoE-модель, выпущенная dealignai на основе poolside/Laguna-S-2.1. Она предназначена прежде всего для агентной разработки ПО, рассуждений и вызова инструментов. По карточке, базовая модель имеет 118 млрд параметров, 48 слоёв и контекст до 262 тыс. токенов; в метаданных указаны 6,8 млрд параметров и контекст до 1 048 576 токенов, поэтому сведения о размере и контексте расходятся. Модель подвергнута удалению отказов на уровне весов и квантована в смешанном формате JANG_2L для MLX и Apple Silicon; заявленный размер набора весов — около 41 ГБ. Поддерживаются режимы рассуждения и прямых ответов, а также интерфейс вызова инструментов. В README приведены результаты MMLU 73,7% и HarmBench 98,8% соответствия запросам; это результаты оценки автора через vMLX, а не независимая гарантия качества. README указывает лицензию как бесплатную для macOS, а метаданные обозначают её как other без конкретных условий. Карточка сообщает, что модель рассчитана на исследовательские цели и авторизованное тестирование безопасности; после удаления отказов она может выполнять широкий спектр запросов без отказа.

Laguna-XS-2.1-bf16 — версия текстовой модели Poolside Laguna-XS-2.1, подготовленная mlx-community для запуска в формате MLX с точностью bfloat16. Это причинная MoE-модель с 2,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; базовая модель ориентирована на агентное программирование, работу в терминале и длительные задачи с кодом. Заявленная длина контекста — 262 144 токена. Репозиторий рассчитан на запуск на компьютерах Apple через mlx-vlm или oMLX с принудительным режимом VLM. mlx-lm пока не поддерживает архитектуру Laguna. В README приведены замеры производительности на MacBook Pro M5 Max с 128 ГБ памяти, однако они не характеризуют скорость на другом оборудовании. Лицензия — OpenMDW 1.1.

LaSER-Qwen3-8B — плотный ретривер с латентным рассуждением, разработанный в рамках подхода LaSER и дообученный на базе Qwen/Qwen3-8B. Модель предназначена для поиска релевантных документов по запросам, особенно когда для поиска требуется многошаговое рассуждение. Она генерирует непрерывные латентные токены рассуждения, объединяет скрытые состояния и выдаёт L2-нормализованные эмбеддинги для запросов и документов. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. README сообщает о результатах на BRIGHT, FollowIR и BrowseComp-Plus; на BRIGHT указана задержка около 50 мс при batch size 8 на одной A100. Веса доступны в формате safetensors, лицензия — MIT. Для кодирования текста используется Transformers; точный способ формирования эмбеддингов требует реализации LaSER из проекта.

LFM2.5-ColBERT-350M-fp16 — многоязычная двунаправленная модель для извлечения признаков и поиска документов, подготовленная на базе LiquidAI/LFM2.5-ColBERT-350M и упакованная в формат MLX fp16 для Apple Silicon. Модель формирует векторы размерности 128 для каждого токена, а релевантность запроса и документа оценивает методом позднего взаимодействия MaxSim. Для кодирования используются обязательные маркеры [Q] для запроса и [D] для документа. Модель предназначена для семантического поиска и ранжирования в системах извлечения информации. Архитектура LFM2 включает двунаправленный энкодер; размер модели по метаданным — 443,4 млн параметров, контекст — до 128 000 токенов. Заявлена поддержка английского, испанского, немецкого, французского, итальянского, португальского, арабского, шведского, норвежского, японского и корейского языков. README приводит результаты на подмножестве англоязычного NanoBEIR и указывает на специализированный загрузчик MLX для корректного получения эмбеддингов. Это вариант fp16 без квантизации, рассчитанный на запуск через MLX на компьютерах Apple Silicon. Лицензия в метаданных обозначена как other; конкретные условия следует проверять в файлах репозитория. Результаты бенчмарка охватывают ограниченный англоязычный набор и не характеризуют качество на полном многоязычном наборе.

Shining Valiant 2 — разговорная языковая модель Valiant Labs, дообученная на основе Meta-Llama-3-70B-Instruct. Это плотная архитектура Llama 3 с 69,5 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций; модель использует формат запросов Llama 3 Instruct и поддерживает контекст до 8192 токенов. По описанию разработчика, дополнительное обучение на собственных данных ориентировано на науку, инженерию, технические знания и структурированные рассуждения, а стиль ответов — дружелюбный и увлечённый. Модель рассчитана на общие диалоговые и аналитические сценарии, включая объяснение технических тем и помощь с задачами вроде написания сопроводительного письма. Указана лицензия Llama 3. В README разработчик помечает эту версию как устаревшую и рекомендует Shining Valiant 2 для Llama 3.1 70B; также сообщается о возможной проблеме с чтением завершающих токенов в text-generation-webui, которая может приводить к незавершённым ответам или нарушению структуры.

Abiray/Muse-Glimmer-30B-GGUF — набор GGUF-квантов мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и дистиллированной из Muse Spark. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели, включая сценарии на потребительском оборудовании. Модель ориентирована на автономные агентные рабочие процессы, многошаговое рассуждение с длинным горизонтом, задачи программирования, включая SWE-bench, и надёжный вызов функций. Поддерживается обработка изображений через отдельный мультимодальный vision projector в формате GGUF; базовая модель и проектор загружаются раздельно. Заявлены 30 млрд параметров, контекст до 131 072 токенов и архитектура с визуальным проектором на основе ViT размером около 1,8 млрд параметров. Сведения о поддерживаемых языках в README не указаны. Доступны варианты квантования от Q8_0 до IQ3_XXS размером примерно от 29,6 до 11,5 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Вариант Q4_K_M обозначен как оптимальный компромисс и рассчитан примерно на 20–24 ГБ памяти, а Q8_0 обеспечивает качество, близкое к BF16, но требует 32–48 ГБ. Более сильное сжатие уменьшает требования к памяти, однако может снижать точность рассуждений и восприятия. Лицензия — Apache-2.0.

Olmo-3-1025-7B — базовая авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Она предназначена для генерации текста и служит основой для дальнейшей настройки под диалоговые и специализированные задачи. Модель имеет плотную Transformer-архитектуру для причинного языкового моделирования, около 6,9 млрд параметров и контекстное окно 65 536 токенов. Она обучена преимущественно на английском языке на данных Dolma 3; обучение включало текст, код, математику, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса в формате safetensors и поддерживается библиотекой Transformers версии 4.57.0 и выше. Длинный контекст и широкая обучающая выборка подходят для генерации продолжений, черновиков и кода, а также для адаптации модели к прикладным сценариям. Это базовая модель, поэтому её ответы не обязательно следуют инструкциям как у чат-модели; возможны фактические ошибки, предвзятые или вредоносные ответы без дополнительной настройки и фильтрации. Лицензия модели и кода — Apache 2.0.

Myric/Ornith-1.5-35B-A3B-APEX-GGUF — это набор квантизированных GGUF-вариантов модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель предназначена для генерации текста, агентного программирования и работы с изображениями через отдельный vision projector; запуск ориентирован на llama.cpp. Лицензия — MIT. Архитектура представляет собой MoE-модель с 35,5 млрд общих параметров и примерно 3 млрд активных параметров: используется 256 маршрутизируемых экспертов с выбором top-8, гибридная gated-delta-net с полным attention в каждом четвёртом слое, 40 основных слоёв и контекст до 262 144 токенов. Также сохранён однос layer MTP-блок для speculative decoding. Доступны варианты i-quality размером 21,67 ГБ, i-compact размером 16,58 ГБ и i-mini размером 12,55 ГБ; они используют разные уровни квантизации и рассчитаны соответственно на качество или экономию памяти. Сильные стороны модели — большой контекст, низкая нагрузка KV-кэша благодаря преобладанию рекуррентных слоёв, поддержка vision через проектор издателя и возможность ускорения генерации с помощью MTP. В заявленном тесте agentic coding вариант i-quality решил 9 из 9 задач и прошёл 154 из 154 проверок, а в пяти perception-задачах с изображениями дал 5 успешных ответов из 5. Эти результаты получены на DGX Spark с llama.cpp в одном прогоне и не являются универсальным сравнительным бенчмарком. Для запуска требуется совместимый llama.cpp, значительный объём памяти и отдельный файл vision projector; README не указывает языковой охват модели и не приводит систематических данных о качестве на разных языках.

google/pix2struct-base — предварительно обученная модель Pix2Struct, разработанная Google и представленная в экосистеме Hugging Face. Это архитектура «визуальный энкодер — текстовый декодер», обученная преобразовывать изображения в текст; веса предназначены для дообучения под конкретные задачи. Модель рассчитана на визуальное понимание содержимого изображений, включая подписи к изображениям и ответы на вопросы по ним. Предобучение нацелено на разбор замаскированных снимков веб-страниц в упрощённый HTML; подход охватывает сигналы, связанные с OCR и описанием изображений. Вход может иметь переменное разрешение, а языковые подсказки и вопросы могут быть представлены на изображении. Карточка перечисляет документы, иллюстрации, пользовательские интерфейсы и обычные фотографии как области последующего применения. Модель не заявлена как готовая универсальная система: для прикладного сценария требуется дообучение. Репозиторий распространяется по лицензии Apache-2.0.

Polaris-V1 — открытая 4-миллиардная dense causal language model, разработанная NitrAI Research и представленная как NitrAI Lab. Это дообученная версия Qwen/Qwen3.5-4B, выровненная с помощью reinforcement learning с наградами за многофайловый синтез кода и проверку теорем. Модель предназначена для генерации и анализа программного кода, сложного рассуждения, автономных агентных сценариев и задач, связанных с исправлением программных проектов. Модель поддерживает английский и китайский языки, работает в режиме text generation и имеет контекстное окно до 1 592 638 токенов с масштабированием RoPE через YaRN. Заявлены требования от 3,2 ГБ VRAM для Q4_K_M до 8,4 ГБ для FP16, что позволяет запускать её на потребительских GPU и Apple Silicon. Поддерживаются Transformers, Ollama и llama.cpp/GGUF; также заявлено спекулятивное декодирование со скоростью 540–720 токенов в секунду при использовании Qwen3.5-0.8B-Draft. Сильные стороны Polaris-V1 — сочетание компактного размера, локального запуска, большого контекстного окна и специализации на программировании и агентном рассуждении. В README указаны результаты: 31,4% Pass@1 на SWE-bench Verified, 38,5% Task Completion Rate на WildClawBench и 26,8% Pass@1 на DeepSWE. Ограничения включают сравнительно небольшой размер и узкую специализацию по сравнению с более крупными моделями, а также отсутствие подробных сведений о качестве на других задачах, фактической эффективности длинного контекста и ограничениях аппаратной совместимости. Модель распространяется по лицензии Apache 2.0.

PolDense-400M — польская модель эмбеддингов от OPI-PIB, предназначенная для плотного поиска и семантического сопоставления текстов. Она построена на энкодере ettin-encoders с архитектурой ModernBERT и содержит около 394,7 млн параметров. Модель формирует векторные представления текстов и рассчитана прежде всего на польскоязычные сценарии поиска, извлечения сведений и RAG; контекст — до 7 999 токенов. Модель обучали в три этапа: адаптация англоязычных энкодеров к польскому языку с помощью дистилляции, дополнительная дистилляция на польских текстах и контрастивная настройка для задач поиска. В README заявлено, что на бенчмарке PIRB из 41 задачи поиска модель показывает результаты на уровне крупных многоязычных моделей. Для поиска запрос следует предварять префиксом «[query]: », а для симметричного сравнения текстов — «[sts]: ». Модель подходит для построения поисковых систем и RAG по польским документам, а также для оценки семантической близости польских текстов. Репозиторий содержит веса safetensors; лицензия указана как Gemma. README описывает также обучение на польско-английских парах и дистилляцию от многоязычного учителя, но позиционирует семейство как ориентированное на польский язык.

perplexity-ai/pplx-computer-qwen-3-6-35b-a3b-mlx-20260709 — локальная языковая модель, опубликованная Perplexity и предназначенная для Perplexity Computer. Она используется в сценариях Hybrid Compute на Mac: локально обрабатывает файлы, конфиденциальные сведения и действия на устройстве, тогда как облачная часть системы выполняет поиск, планирование и более сложное рассуждение. Модель доступна в формате MLX для запуска на Apple silicon. Модель относится к семейству Qwen3.6 и имеет 35 млрд параметров при конфигурации с 3 млрд активных параметров (35B-A3B). Для семейства Qwen3.6 указана разреженная hybrid-архитектура с маршрутизацией Mixture-of-Experts, сочетающая рекуррентные состояния фиксированного размера с full attention. Опубликованный checkpoint использует groupwise affine 4-bit quantization и занимает около 19,4–19,5 ГБ. Подтверждённые модальности и языки, размер контекстного окна, результаты оценки и подробности дообучения для данной версии не указаны. Сильные стороны модели — возможность локального выполнения задач с чувствительными данными, уменьшенный объём весов и оптимизация для Apple silicon. Ограничения связаны с необходимостью совместимого Mac на Apple silicon и достаточного объёма unified memory; в Hybrid Compute требуется не менее 24 ГБ, а 32 ГБ рекомендуются для лучших результатов. Лицензионные условия для этого репозитория в доступных первоисточниках явно не указаны, поэтому свободное коммерческое использование и условия перераспределения подтверждать нельзя.

TheCidSama/Qwen3.5-9b-Claude-4.8-Opus-reasoning — GGUF-модель на базе Qwen3.5-9B, дообученная автором TheCidSama на данных рассуждений, созданных методом trace-inversed CoT с Opus 4.8. Модель предназначена для локального диалога и задач программирования, математики и рассуждений о кибербезопасности; поддерживает режим рассуждения. По заявлению автора, цепочки рассуждений примерно на 20% короче, чем у базовой модели, при сохранении точности итоговых ответов, однако независимые подтверждения этого сравнения не приведены. Опубликована в формате GGUF с квантизацией Q4_K_M; README указывает, что файл занимает около 5,6 ГБ, а запуск возможен через llama.cpp и совместимые приложения. Потребление памяти и доступная длина контекста зависят от оборудования и настроек. Модель ориентирована на английский язык. Лицензия — Apache-2.0. Автор предупреждает, что модель не прошла выравнивание безопасности для производственного применения: ответы по кибербезопасности и другие результаты следует проверять, а при развертывании с пользователями добавлять собственные защитные меры. Общеобразовательные факты также рекомендуется перепроверять.

unsloth/Qwen3.6-27B-UD-MLX-6bit — это 6-битная MLX-квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель предназначена для локального запуска в экосистеме MLX и относится к классу причинных языковых моделей с vision encoder, поэтому поддерживает работу с текстом и изображениями. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; модель обучалась на этапах предварительного и последующего обучения. Основные сценарии применения включают агентное программирование, работу с фронтенд-задачами, анализ репозиториев и итеративную разработку с сохранением контекста рассуждений. Данные о поддерживаемых языках в README не указаны. К сильным сторонам относятся большой контекст, сочетание языковых и визуальных возможностей, оптимизация для MLX и акцент на задачах программирования. Ограничения связаны с необходимостью совместимого MLX-окружения и потерями точности, которые могут быть обусловлены 6-битной квантизацией; количественная оценка таких потерь в README не приведена. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Abliterated-IQ4-MIX-MTP-GGUF — это GGUF-квантизация модели Qwen3.8-27B-Abliterated, разработанной windowsxp811203 на основе Qwen/Qwen3.8-27B. Модель предназначена для локальной генерации текста и высокопроизводительного инференса, включая агентские сценарии программирования, на GPU с 16 ГБ видеопамяти. Вариант поддерживает работу через llama.cpp и рассчитан на спекулятивное декодирование с использованием встроенной головы MTP (Multi-Token Prediction), поэтому отдельная draft-модель не требуется. Размер файла составляет около 13,26 GiB, эффективная точность — 4,17 BPW. Используется смешанная квантизация: основные группы тензоров представлены форматами IQ4_XS, IQ3_S и Q4_K, эмбеддинги — IQ2_S, выходной слой — Q5_K, а MTP-блоки сохранены в более высокой точности Q6_K и Q8_0 для поддержания качества черновой генерации и приемки токенов. Заявлена поддержка английского и китайского языков. В README не указаны архитектурные детали исходной модели и максимальный контекст, однако протестированы конфигурации с выделением контекста до 64K токенов. Сильные стороны модели — относительно небольшой размер для класса 27B, возможность полного размещения слоёв на GPU с 16 ГБ памяти и ускорение генерации за счёт MTP. На AMD Radeon RX 9070 XT в среде Windows с Vulkan и llama.cpp зафиксирована скорость около 49–50 токенов в секунду на коротком активном контексте, но при росте истории до 25–30 тысяч токенов скорость снижалась примерно до середины диапазона 20 токенов в секунду. Показатели зависят от оборудования, размера контекста и рабочей нагрузки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-OBLITERATED — языковая модель для генерации текста на базе Qwen/Qwen3.8-27B, разработанная сообществом OBLITERATUS. Модель модифицирована методом abliteration: из весового пространства удалены направления, связанные с отказами и защитными отступлениями. Она предназначена для локального текстового и кодового взаимодействия, исследовательских задач, red-team-тестирования, агентных сценариев и генерации ответов без типичных отказов на ограниченные запросы. Модель относится к семейству Qwen3, имеет размер 27B параметров и поддерживает текстовую генерацию. Заявлены режимы с рассуждением и без него, а также совместимость с форматами GGUF, Safetensors и MLX. Для версии V3 указана оценка MMLU 82,3% против 84,5% у исходной модели; по данным автора, она сохраняет близкие к базовой модели возможности, но теряет около 2,1 процентного пункта качества. Для стабильной работы рекомендуются температура 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт лучше не задавать. Сильная сторона модели — снижение числа жёстких отказов и безопасностных отступлений при сохранении высокой способности к генерации кода и работе в агентных сценариях. Ограничения включают некоторое снижение качества относительно исходной Qwen3.8-27B, склонность к зацикливанию без repetition_penalty и возможное увеличение длины ответов в режиме рассуждения. Длина контекста и перечень поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.

valiolla/Qwen3.8-4B-Distill-heretic — версия Qwen3.8-4B с ослабленным отказом от ответов, созданная на основе модели Empero AI с помощью Heretic v1.4.0. Это плотная языковая модель с 4 млрд параметров в формате Transformers; она представляет собой полнопараметрическое дообучение Qwen/Qwen3.5-4B методом дистилляции на выборке ответов более крупной модели Qwen3.8. Модель рассчитана на диалог, следование инструкциям, рассуждения и вызов функций; в README отдельно выделены математика и общие рассуждения. Заявленная длина контекста — 262 144 токена. В сравнении с исходной Qwen3.8-4B доля отказов в приведённом тесте снизилась с 99 до 24 из 100, а KL-дивергенция составила 0,0109. Тонкая настройка ориентирована на текст; поведение с изображениями унаследовано от мультимодальной базовой архитектуры, но не оценивалось. Для запуска требуются актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимые ядра Gated DeltaNet; без них генерация может быть медленнее и требовать больше памяти. В README также отмечены риск циклов повторения при жадном декодировании длинных ответов и снижение результата на GSM8K относительно базовой модели. Лицензия — Apache-2.0; авторы предоставляют веса «как есть» для исследований и экспериментов.

Карточка модели willhx/Qwen3-8B-Base-SeaSFT на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

LifetimeMistake/Qwen3-VL-Embedding-2B-NVFP4 — квантованный вариант мультимодальной embedding-модели Qwen/Qwen3-VL-Embedding-2B из семейства Qwen. Модель предназначена для семантического поиска и retrieval-сценариев, включая обработку текста, изображений, скриншотов, видео и смешанных текстово-визуальных запросов. Заявлена поддержка более 30 языков, контекст до 32 000 токенов и размерность эмбеддингов до 2048 с возможностью использовать меньшие размерности. Для многоязычных задач рекомендуются инструкции на английском языке. Вариант использует квантование NVIDIA Model Optimizer NVFP4 с размером группы 16; квантизация применяется к квантируемым весам языковой части, а визуальная часть и lm_head оставлены без квантизации. Модель подготовлена для развёртывания через vLLM с backend modelopt_fp4. По локальному сравнению с FP16-версией она показала примерно на 13% меньшее время выполнения, меньшую среднюю задержку и более высокую пропускную способность, при этом качество поиска немного снизилось, особенно на мультимодальных тестах ViDoRe. Поэтому перед эксплуатацией необходима проверка на собственных данных. Модель распространяется по лицензии Apache-2.0. Для использования требуется vLLM с поддержкой modelopt_fp4 и параметром trust-remote-code; при необходимости шаблон чата можно указать вручную.