II.8Инженерия данных и аналитика

jonatasgrosman/wav2vec2-large-xlsr-53-russian — модель распознавания русской речи от Jonatas Grosman, дообученная на базе facebook/wav2vec2-large-xlsr-53 на обучающей и проверочной выборках Common Voice 6.1 и CSS10. Она использует архитектуру Wav2Vec2 с CTC-декодированием и содержит около 402,7 млн параметров. Модель преобразует аудиозапись русской речи в текст и подходит для транскрибации записей и оценки систем распознавания речи. Для входного аудио требуется частота дискретизации 16 кГц. Карточка указывает лицензию Apache-2.0.

WeMM-Embedding-2B-GGUF — это GGUF-конверсия мультимодальной модели эмбеддингов WeMM-Embedding-2B, разработанной Tencent, предназначенная для локального инференса через llama.cpp. Модель подходит для семантического поиска и сопоставления текста, изображений и визуальных документов, а также для задач, связанных с инструментами, памятью и мультимодальными агентами. Рекомендуемая конфигурация включает основную модель WeMM-Embedding-2B-Q4_K_M.gguf и визуальный проектор mmproj-WeMM-Embedding-2B-Q8_0.gguf. Размер эмбеддинга составляет 2048, используется pooling по последнему токену и L2-нормализация. Поддерживаются матрёшечные размерности 64, 128, 256, 512, 1024 и 2048. Исходная WeMM поддерживает изображения и видео; в README указано, что аудио не поддерживается. Языки и максимальная длина контекста не указаны. По локальной оценке на 156 задачах MMEB-v3 конфигурация сохраняет примерно 96–99% опубликованных результатов оригинальной модели WeMM-Embedding-2B в сопоставимых группах Image, VisDoc, Text и MCMR. К ограничениям относятся неполное покрытие тестов: не оценивались задачи для видео, GUI и аудио, а результаты локального квантованного запуска нельзя считать строго контролируемым сравнением с нативными BF16/FP16-моделями. Лицензия — Apache-2.0.

Whisper Large V3 Russian Podlodka — модель распознавания русской речи, дообученная авторами репозитория на базе Whisper Large V3. Она предназначена для транскрибации длинных аудиозаписей, в частности лекций и интервью, и используется как финальный компонент системы Pisets для подготовки расшифровок. В описанной системе распознавание дополняют сегментация речи с помощью Wav2Vec2 и фильтрация неречевых фрагментов с помощью Audio Spectrogram Transformer. Модель построена на архитектуре Whisper, содержит около 905,2 млн параметров и работает с аудио на входе, выдавая текст. В карточке перечислены обучающие наборы Taiga Speech v2, Podlodka Speech и RuLibriSpeech. Модель опубликована в форматах PyTorch и Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит численных результатов оценки качества, поэтому преимущество модели для конкретных условий записи по ней количественно оценить нельзя.

WordSenseTransformer — англоязычная модель Sentence Transformers, созданная дообучением BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения значений слов в контексте, семантического поиска и других задач сопоставления текста. Архитектура включает BERT и слой WordPooling; сходство векторов измеряется косинусной близостью. Максимальная длина входной последовательности — 512 токенов. Модель обучалась на примерах WordNet с положительными и отрицательными парами контекстуализированных значений слов. В карточке приведены результаты проверки на wordnet-validation: точность cosine_accuracy@1 — 0,966, @5 — 0,999 и @10 — 1,0. Также её можно применять для поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Лицензия в предоставленных данных не указана.

Zamba2-2.7B-Instruct — разговорная модель Zyphra для следования инструкциям и генерации текста. Она получена дообучением Zamba2-2.7B: сначала SFT на наборах UltraChat 200k и Infinity-Instruct, затем DPO на UltraFeedback Binarized, Orca DPO Pairs и OpenHermesPreferences. Модель использует гибридную архитектуру Mamba2 и Transformer: слои Mamba2 чередуются с общими слоями внимания; также применяются LoRA-проекции общего MLP. В репозитории указано 5,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для диалогов, выполнения инструкций, ответов на вопросы, рассуждений и других общих текстовых задач, включая локальное использование на устройствах. Разработчик заявляет о высокой скорости генерации и меньших требованиях к памяти по сравнению с сопоставимыми Transformer-моделями. Для оптимизированного запуска нужны совместимые версии Transformers, mamba-ssm и causal-conv1d; без оптимизированных ядер Mamba2 задержка и расход памяти заметно выше. В README также отмечена возможная неполная совместимость временной реализации с некоторыми фреймворками и инструментами. Лицензия — Apache-2.0.

airoboros-13b-gpt4-1.4 — плотная авторегрессионная модель семейства LLaMA примерно на 12,9 млрд параметров, дообученная автором jondurbin на синтетических данных, созданных с помощью GPT-4. Это полное дообучение, а не QLoRA; модель опубликована в формате PyTorch и использует шаблон диалога Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, ответов на вопросы по предоставленному контексту, написания текстов и кода. В обучающие примеры включены многоходовые беседы, ролевые диалоги, шутки, загадки и задачи по программированию на десяти языках. Контекстное окно составляет 2048 токенов; русский язык отдельно не заявлен. Автор сообщает, что модель обучали отвечать по заданному контексту и стараться ограничивать ответ его содержимым, однако это не гарантирует отсутствия выдуманных фактов. В карточке также указана настройка на ответы без отказов, в том числе на потенциально незаконные или аморальные запросы. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

airoboros-7b-gpt4-1.4 — полноточная дообученная модель семейства LLaMA с плотной архитектурой, созданная jondurbin на синтетических данных, сгенерированных GPT-4. Веса представлены в формате PyTorch; модель содержит около 6,6 млрд параметров и рассчитана на контекст до 2048 токенов. Модель предназначена для диалогов и генерации текста: она отвечает на вопросы, выполняет инструкции, помогает с программированием, письмом, загадками и ролевыми сценариями. Отдельно автор описывает режим ответов по предоставленному контексту, настроенный на использование информации из него. Обучающие примеры кода охватывают десять языков программирования, однако карточка не перечисляет естественные языки, на которых модель обучалась. Автор отмечает, что модель почти не тестировалась, поэтому качество и надёжность ответов не валидированы. В обучающем шаблоне заложено стремление отвечать без отказов независимо от законности или моральной стороны запроса. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

DoubleTrouble — мультимодальная плотная модель семейства Qwen3.5, созданная OliviaRossi слиянием двух дообученных моделей Qwen: DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored и Jackrong/Qwopus3.8-27B-Flash. Карточка указывает размер 27,5 млрд параметров, 64 слоя и архитектуру Qwen3_5ForConditionalGeneration; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалоговой генерации текста, рассуждений, творческих и технических задач, быстрого применения инструментов и агентных сценариев. В README заявлены мультимодальность и поддержка длительных контекстов, однако конкретная длина контекста и подробности обработки изображений не приведены. Автор сообщает, что удалил вспомогательный слой MTP и настроил слияние для сохранения характеристик исходных моделей; это заявления карточки, а не независимая оценка качества или совместимости. Модель рассчитана прежде всего на английский и китайский языки. Её отличительные заявленные свойства — сочетание творческой генерации и агентного исполнения, а также ослабление отказов. Это может приводить к выдаче нежелательного или небезопасного контента. Лицензия — Apache-2.0.

E5-base-trm-nl — модель эмбеддингов предложений на базе XLM-RoBERTa, дообученная clips на нидерландских данных для поиска и сопоставления текстов. Она предназначена для кодирования запросов и документов в векторы, чтобы находить релевантные фрагменты и сравнивать смысл предложений. Модель содержит 151,6 млн параметров, использует библиотеку sentence-transformers и принимает последовательности длиной до 514 токенов. Дообучение выполнено на наборах данных для нидерландского поиска, включая BEIR-NL mMARCO, HotpotQA и FEVER. Репозиторий распространяет веса в формате safetensors по лицензии MIT. В карточке приведены результаты оценки на MTEB-NL, однако извлечённые данные не содержат полных значений для этой модели, поэтому количественно оценить её качество по ним нельзя.

Gaperon-1125-8B — двуязычная авторегрессионная языковая модель с 8 млрд параметров, разработанная командой ALMAnaCH в Inria Paris. Модель построена на архитектуре Llama 3 и обучена примерно на 4 трлн токенов с поэтапным смешиванием данных; финальная фаза включала около 20% данных в формате инструкций. Используется токенизатор Llama 3.1 BPE с размером словаря 128 256 токенов. Модель предназначена для генерации текста на французском и английском языках, работы с кодом и исследований двуязычного NLP, стратегий обучения и отбора данных. В обучающих данных преобладает английский язык (54–65% токенов), доля французского составляет 24–39%, кода — 8–14%. README указывает, что это основной выпуск проекта для общего использования в масштабе 8B, однако также характеризует его как исследовательскую модель и не рекомендует для производственных и критически важных применений. Для диалоговых задач авторы советуют SFT-вариант; качество на бенчмарках уступает моделям, специально оптимизированным под них или более крупным моделям. Лицензия в метаданных — BigScience OpenRAIL-M.

GLuCoSE-base-ja-v2 — японская модель эмбеддингов текста, разработанная Chihiro Yano, Mocho Go, Hideyuki Tachibana, Hiroto Takegawa и Yotaro Watanabe. Это дообученная дистилляцией и многоэтапным контрастивным обучением версия GLuCoSE-base-ja на основе архитектуры LUKE; она создаёт векторные представления предложений и фрагментов текста для поиска и сравнения смысла. Модель содержит 138,4 млн параметров, выдаёт эмбеддинги размерностью 768 и поддерживает контекст до 512 токенов по README и 514 токенов по метаданным. Для запросов и документов при инференсе требуются префиксы «query: » и «passage: » соответственно; близость оценивают косинусным сходством. Модель ориентирована на японский язык и задачи поиска: по описанию авторов, она показывает высокие результаты среди моделей сопоставимого размера в MIRACL и других тестах. Может работать на CPU и доступна через библиотеку Sentence Transformers. Подходит для семантического поиска, извлечения релевантных фрагментов и оценки сходства предложений. Распространяется по лицензии Apache-2.0. Результаты зависят от корректного добавления префиксов и соответствия корпуса японскому языку.

Huihui-MiroThinker-v1.0-8B-abliterated — версия MiroThinker-v1.0-8B, изменённая проектом huihui-ai методом abliteration для снижения числа отказов. Это плотная языковая модель семейства Qwen3 с 7,6 млрд параметров, рассчитанная на генерацию текста и диалог; базовая MiroThinker предназначена для многошаговых исследований, поиска информации и вызова инструментов. Модель можно запускать через Transformers или Ollama. Контекст модели составляет 262 144 токена. В карточке указаны английский язык и лицензия MIT. Abliteration снижает защитные отказы и может приводить к чувствительным, спорным или неподходящим ответам; результаты следует тщательно проверять.

Kazakh-E5-RAG-Embedding — модель эмбеддингов текста для поиска и извлечения документов на казахском языке, опубликованная shyngys879. Это плотный двунаправленный кодировщик на архитектуре XLM-RoBERTa, основанный на multilingual-e5-base и KazEmbed-V5; в метаданных указано 305,2 млн параметров, а README описывает базовый размер в 278 млн. Модель преобразует текст в 768-мерные векторы и использует формат E5 с префиксами «query:» для запросов и «passage:» для документов; контекст составляет до 514 токенов. Модель предназначена для семантического поиска, поиска ответов на вопросы и документов, а также извлечения контекста для RAG. Она оптимизирована для сопоставления казахских запросов и фрагментов, включая различение похожих нерелевантных вариантов; README сообщает об оценке на трёх казахских наборах поиска. Поддерживаются казахский и также русский и английский языки по тегам карточки. Для поиска по корпусу Wikipedia в описанных тестах multilingual-e5-base и multilingual-e5-large показали лучшие результаты. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

Spicyneuron/Kimi-K2.7-Code-MLX-3.6bit — квантованная версия модели Kimi-K2.7-Code, разработанной MoonshotAI. Модель предназначена для генерации текста и, судя по названию базовой модели, прежде всего для задач, связанных с программированием. Она оптимизирована для локального запуска на Mac Studio с чипом M3 Ultra через MLX и MLX-LM, в том числе в формате сервера, совместимого с API chat completions. Это разреженная MoE-модель с 3-битным базовым квантованием и повышенной точностью для чувствительных компонентов, включая маршрутизацию MoE, механизмы внимания и выходные эмбеддинги. Используется смешанная точность с показателем 3,578 бит на вес. Для работы требуется примерно 428 ГБ базовой памяти и до 460 ГБ в пиковом режиме, поэтому модель рассчитана на мощные устройства с большим объёмом объединённой памяти. В README не указаны точный размер модели, длина контекста, поддерживаемые языки и мультимодальные возможности. К сильным сторонам относятся баланс скорости, потребления памяти и качества, а также возможность оставить память для небольшой вспомогательной модели. Заявленная скорость составляет около 219 токенов в секунду при обработке prompt размером 1024 токена и около 21 токена в секунду при генерации последовательности длиной 512 токенов. Ограничения связаны с высокими требованиями к памяти, потерями качества, неизбежными для агрессивного квантования, и узкой оптимизацией под экосистему Apple MLX. Квантование выполнено с использованием форка MLX-LM от spicyneuron. Лицензия в README не указана.

KoAlpaca-RealQA-Solar-Ko-Recovery-11B-Merged — разговорная языковая модель, разработанная beomi. Это слитая LoRA-модель на базе beomi/Solar-Ko-Recovery-11B, дообученная для ответов на вопросы и диалоговых сценариев. Модель использует плотную авторегрессионную архитектуру LlamaForCausalLM и содержит 10,7 млрд параметров; максимальный контекст — 4096 токенов. Репозиторий распространяет веса в формате safetensors. Модель предназначена для генерации текста в диалоге, понимания запросов, письма, рассуждений, решения математических задач и помощи с кодом. В README приведены результаты оценки LogicKor для одно- и многоходовых сценариев, включая режимы с одним примером и пошаговым рассуждением. Базовая модель ориентирована на корейский и английский языки; README не уточняет отдельные языковые показатели этой версии. Лицензия — Apache-2.0.

Laguna-S-2.1-JANG_4M-CRACK — текстовая MoE-модель, подготовленная dealignai на основе poolside/Laguna-S-2.1 для агентного программирования, рассуждений и вызова инструментов. Веса подвергнуты CRACK-abliteration, удаляющей поведение отказа, и смешанной низкоразрядной квантизации JANG для MLX на Apple Silicon. Метаданные указывают 6,8 млрд параметров, тогда как README описывает исходную Laguna-S-2.1 как модель на 118 млрд параметров; размер активной части MoE отдельно не уточнён. Модель принимает текст и генерирует текст. В README заявлены режимы рассуждения и прямых ответов, сохранённый интерфейс вызова инструментов и контекст 262 тыс. токенов; метаданные каталога указывают нативный контекст 1 048 576 токенов. Предназначена прежде всего для агентных задач разработки и работы с инструментами. README приводит результаты MMLU и HarmBench, полученные через vMLX, но они не гарантируют качество на других задачах или средах. Модель рассчитана на запуск через vMLX либо совместимую среду MLX с поддержкой Laguna; сборка JANG занимает около 63 ГБ и ориентирована на Apple Silicon. Указана лицензия «other», поэтому конкретные условия использования следует сверять с карточкой модели. README сообщает об удалении отказов безопасности и заявляет, что модель будет выполнять запросы разных категорий; это ограничивает её безопасное применение.

Llama 3.1 Swallow 8B v0.1 — языковая модель команды Swallow из Токийского института науки (ранее Токийский технологический институт) и AIST, созданная продолжительным предварительным обучением Meta Llama 3.1. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; доступна в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста на японском и английском языках. Дополнительное обучение на японском веб-корпусе, статьях Википедии, математических материалах и коде усилило японские возможности, сохранив английские. Среди оценённых сценариев — ответы на вопросы, чтение и понимание текста, суммаризация, перевод между японским и английским, математические рассуждения и генерация кода. Это базовая, не instruction-tuned версия: она не была настроена для надёжного следования намерениям пользователя и требованиям безопасности, поэтому ответы могут требовать проверки и дополнительной настройки. Авторы описывают модель как находящуюся на ранней стадии исследований и разработки. Лицензия — Llama 3.1; применяйте её с соблюдением условий лицензии Meta.

cicero-ai/multi-qa-mpnet-base-cos-v1-rust — вариант модели multi-qa-mpnet-base-cos-v1, опубликованный под именем cicero-ai; README описывает исходную модель Sentence Transformers, разработанную в рамках Community Week Hugging Face для проекта по обучению моделей эмбеддингов предложений. Это MPNet-base с 136,7 млн параметров, который кодирует предложения и абзацы в нормализованные плотные векторы размерности 768. Модель предназначена прежде всего для семантического поиска: по запросу или вопросу помогает находить релевантные текстовые фрагменты. Модель дообучена на примерно 215 млн пар «вопрос — ответ» из разных источников с использованием контрастивного обучения и mean pooling. Нормализация векторов позволяет использовать скалярное произведение вместо косинусного сходства. Поддерживается английский язык; контекст составляет до 514 токенов по метаданным, а README указывает предел в 512 word pieces и сообщает, что обучение проводилось на текстах длиной до 250 word pieces. Более длинный текст может обрезаться, а качество на нём может снижаться. В метаданных указаны форматы PyTorch и safetensors; лицензия не установлена по предоставленным данным.

Xenova/multi-qa-mpnet-base-dot-v1 — версия модели sentence-transformers/multi-qa-mpnet-base-dot-v1 с весами в формате ONNX, адаптированная для работы через библиотеку Transformers.js. Исходная модель разработана командой Sentence Transformers; в README не указано отдельное имя автора ONNX-версии. Модель предназначена для извлечения признаков из текста и может применяться в сценариях семантического поиска, сопоставления вопросов и ответов, поиска похожих документов и построения векторных представлений. Используемый pipeline — feature-extraction; запуск возможен в JavaScript через @huggingface/transformers, в том числе в средах, совместимых с Transformers.js. README не содержит сведений о точном размере модели, архитектурных параметрах MPNet, поддерживаемых языках, модальностях, длине контекста, показателях качества или ограничениях. Лицензия также не указана. Ключевое преимущество этой версии — совместимость с ONNX и веб-ориентированным JavaScript-инструментарием; при этом возможности и характеристики исходной модели следует уточнять в её базовом репозитории.

OLMo-2-1124-7B-Instruct — диалоговая языковая модель Allen Institute for AI (Ai2), выпущенная в ноябре 2024 года. Это плотная авторегрессионная модель семейства OLMo 2 с архитектурой Olmo2ForCausalLM и 6,9 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана прежде всего на английский язык. Модель создана на основе allenai/OLMo-2-1124-7B-DPO: после обучения на данных Tülu 3 она прошла дополнительное обучение с подкреплением по проверяемым наградам (RLVR), в том числе на задачах математического рассуждения. Предназначена для диалогов, ответов на вопросы, следования инструкциям и решения задач вроде GSM8K, MATH и IFEval. Лицензия — Apache 2.0. У модели ограниченное обучение безопасности, поэтому она может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Для безопасного применения может потребоваться отдельная фильтрация ответов.

OLMoE-1B-7B-0125-DPO — англоязычная диалоговая модель Allen Institute for AI, опубликованная в январе 2025 года. Это вариант OLMoE с архитектурой Mixture of Experts для генерации текста и ответов в чате. В метаданных указаны 472,1 млн параметров и контекст до 4096 токенов; модель распространяется в форматах PyTorch и Safetensors. Модель создана на основе OLMoE-1B-7B-0125-SFT и дополнительно обучена методом DPO на варианте набора Tülu 3. Обучение охватывает диалоговые и другие задачи, включая математические рассуждения и следование инструкциям. Лицензия Apache 2.0 разрешает использование и модификацию на её условиях.

llama_3_orca_mini_v5_8b_orpo — разговорная языковая модель, созданная Pankaj Mathur на базе семейства Llama 3 и обученная с использованием наборов данных ORPO. Модель предназначена для диалога и ответов на запросы в роли универсального ИИ-ассистента; в README указан формат промпта ChatML. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров, принимает текст и генерирует текст. Родной контекст составляет 8192 токена; в метаданных заявлен английский язык. Веса опубликованы в форматах PyTorch и Safetensors. Автор разрешает дальнейшее полное дообучение, настройку DPO, PPO и ORPO, а также объединение моделей при условии указания авторства. Лицензия указана как llama3.

SC117 публикует GGUF-сборку Ornith-1.5-35B-A3B-MTP-APEX — MoE-модели команды Ornith для агентного программирования и генерации текста. Базовая модель содержит 35 млрд параметров, из которых активируется около 3 млрд на токен; в этой сборке доступны квантизованные профили APEX и вариант BF16. APEX распределяет точность по типам и важности тензоров, а MTP-слой встроен в модель. Модель предназначена для решения задач программирования с участием агента, включая работу в терминале и с инструментами, а также для генерации текста. Репозиторий включает проектор mmproj-BF16.gguf для обработки изображений вместе с текстом через llama.cpp; заявлена возможность контекста до 131072 токенов. README приводит результаты на бенчмарках SWE-bench, Terminal-Bench и других задачах программирования и агентного взаимодействия. Сборка распространяется по лицензии MIT. Она основана на ornith-ai/Ornith-1.5-35B-A3B; метаданные каталога отмечают связь finetune, а файлы репозитория включают GGUF и GGUF BF16. README описывает дополнительные квантизованные профили APEX. Поддержка языков программирования и естественных языков отдельно не перечислена, поэтому конкретные языки здесь не указаны.

3MPER0RR/Ornith1.5-9B-3MPER0RR-abliterated — дообученная версия Ornith 1.5 9B, подготовленная 3MPER0RR для экспериментов. Это плотная языковая модель семейства Qwen3.5 с поддержкой диалогового взаимодействия; основная задача — генерация текста. Базовая модель Ornith AI предназначена для программирования, агентных задач и работы с инструментами в длинном контексте. Модель распространяется в формате safetensors по лицензии MIT. Карточка сообщает, что модель прошла испытания и сохранена, но не уточняет набор тестов, контекстное окно или поддерживаемые языки. Суффикс «abliterated» в названии указывает на изменение, связанное с отказами модели, однако карточка не описывает его метод и фактическое влияние.

Карточка модели Traii/predictindustryforcallcenter на Hugging Face совпадает с карточкой intfloat/e5-base-v2, поэтому описание составлено по ней. E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

Qwen3.8-27B-ASCII-Condensed — текстовая GGUF-модель, созданная bsaleh03 на основе Qwen/Qwen3.8-27B и квантованной сборки unsloth/Qwen3.8-27B-GGUF. Это не дообучение, дистилляция или повторное квантование: из квантованной модели удалены строки словаря для не-ASCII-токенов, а токенизатор адаптирован к сокращённому словарю. Модель предназначена для генерации текста и работы с длинным контекстом через llama.cpp, прежде всего на одной видеокарте с 16 ГБ памяти. Словарь уменьшен с 248 320 до 129 006 строк, при этом остальные 864 из 866 тензоров побитово идентичны базовой квантованной модели. На RTX 5070 Ti с 16 ГБ заявлена поддержка до 135 168 токенов контекста при использовании q4_0 для KV-кэша; максимальная длина зависит от типов KV-кэша и доступной видеопамяти. Модель сохраняет MTP-голову для спекулятивного декодирования, а на ASCII-тексте токенизация совпадает с базовой моделью. Основное преимущество — экономия видеопамяти и увеличение доступного контекста без изменения большинства весов. Ограничение — ASCII-ориентированный словарь: английский язык, код и ASCII-пунктуация обрабатываются без дополнительных затрат, но символы с диакритикой, кириллица, CJK и другие не-ASCII-тексты требуют больше токенов; для работы преимущественно на неанглийских языках сборка не рекомендуется. Модель поддерживает только текстовый режим, файл mmproj отсутствует, а смешанные типы KV-кэша требуют пропатченной версии llama.cpp. Распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

ZeroXClem-Qwen3-8B-HoneyBadger-EXP — экспериментальное слияние моделей на архитектуре Qwen3, созданное командой ZeroXClem методом model_stock с помощью MergeKit. Модель содержит 7,6 млрд параметров, работает с текстом и рассчитана на контекст до 40 960 токенов. В основе слияния лежат Qwen3-совместимые модели, включая AXCXEPT/Qwen3-EZO-8B-beta, KaraKaraWitch/CavesOfQwen3-8b, YOYO-AI/Qwen3-8B-YOYO и другие. Модель предназначена для диалогов, следования инструкциям, рассуждений, ролевых бесед и историй, а также понимания и генерации кода. README заявляет поддержку структурированных ответов, включая JSON, Markdown и LaTeX, и рекомендует шаблон чата Qwen3 либо Ollama Modelfile для инференса. Основной язык по карточке — английский; подтверждённая лицензия — Apache-2.0. Это ранний экспериментальный прототип, который, по предупреждению автора, не готов к производственному применению и может выдавать невыравненные или нефильтрованные ответы. Качество и безопасность результатов не гарантируются.

Qwen3-VL-2B-Thinking — плотная vision-language модель семейства Qwen3-VL от Alibaba, рассчитанная на диалоговое мультимодальное понимание и рассуждение. Репозиторий содержит веса версии 2B в формате safetensors; модель работает через Transformers и распространяется по лицензии Apache-2.0. Модель принимает текст и изображения, а также предназначена для понимания видео: анализа визуальных сцен и событий, распознавания текста на изображениях, пространственных рассуждений, решения задач STEM и взаимодействия с графическими интерфейсами через инструменты. Thinking-вариант ориентирован на рассуждения; семейство также поддерживает генерацию текста и объединение текстовой и визуальной информации. Для семейства заявлен контекст 256 тыс. токенов с возможностью расширения до 1 млн, а OCR охватывает 32 языка. К сильным сторонам относятся анализ сложных визуальных сцен, документов и видео, а также работа с GUI и пространственными отношениями. В README приведены общие характеристики семейства, поэтому отдельные количественные результаты именно версии 2B не описаны; заявленные показатели контекста и OCR также относятся к семейству. Модель требует мультимодального стека Transformers и подходящих вычислительных ресурсов.

coder3101/Qwen3-VL-4B-Thinking-heretic — дообученная методом abliteration версия мультимодальной модели Qwen3-VL-4B-Thinking от Qwen. Она принимает текст и изображения, поддерживает диалог и предназначена для визуальных вопросов и ответов, анализа изображений и видео, распознавания текста на изображениях, пространственного рассуждения и взаимодействия с графическими интерфейсами. Архитектура — плотная Qwen3-VLForConditionalGeneration; веса опубликованы в формате safetensors. Базовая модель заявляет контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона и поддержку OCR на 32 языках, однако эти характеристики в README относятся к исходной модели и отдельно для производной версии не подтверждены. README описывает уменьшение числа отказов: 3 отказа из 100 против 97 у исходной модели, при KL-дивергенции 0,0259. Это указывает на ослабление отказного поведения, но не гарантирует отсутствие отказов или точность ответов. Модель распространяется по лицензии Apache-2.0.

ReasonEmbed — текстовая модель эмбеддингов, разработанная Hanhainebula для поиска документов по запросам, требующим многошагового рассуждения. Она дообучена на базе Qwen3-4B с функцией потерь RI-InfoNCE и синтетическими данными. Репозиторий содержит плотную архитектуру Qwen3 с 3,7 млрд параметров; модель принимает текст и выдаёт эмбеддинги. Контекстное окно составляет 40 960 токенов. Модель предназначена для извлечения и сопоставления документов в задачах reasoning-intensive retrieval. В README приведён результат nDCG@10 37,1 на бенчмарке BRIGHT с исходными запросами. Доступна по лицензии Apache-2.0. Карточка также связывает её с базовой моделью hanhainebula/qwen3-4b-ft-msmarco.