II.2Создание и понимание программного кода

Rombos-EVAGutenberg-TIES-Qwen2.5-32B — языковая модель на архитектуре Qwen2.5, созданная nbeerbower слиянием методом TIES через mergekit. В объединение вошли nbeerbower/EVA-Gutenberg3-Qwen2.5-32B и nbeerbower/Rombos-Qwen2.5-32B-lorablated; базовая модель — Qwen/Qwen2.5-32B. Модель содержит 32 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. Она предназначена для диалогов и генерации текста. В метаданных указаны интерфейс вызова инструментов и языковые теги для китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Карточка не приводит результатов оценивания или конкретных ограничений качества; применимость к отдельным задачам следует проверять на собственных данных.

Guilherme34/Samantha-v6.5 — объединённая языковая модель на архитектуре Llama, созданная методом TIES с помощью mergekit. В качестве базовой модели использована Guilherme34/Samantha-v6; также в объединение включена v000000/Llama-3.1-8B-Stheno-v3.4-abliterated. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового общения; заявленный контекст составляет до 131 072 токенов. Модель работает через библиотеку Transformers и распространяется в формате safetensors. Она принимает текст и генерирует текст, поддерживая интерфейс вызова инструментов. В метаданных указана лицензия не предоставлена, поэтому условия использования по лицензии определить нельзя.

Zelensky — экспериментальная командная модель V1, созданная автором nisten на основе семейства Qwen2.5. По карточке, модель обучали один проход с низкой скоростью обучения и многократно объединяли с тремя другими моделями; метаданные также указывают связь merge с Qwen/Qwen2.5-72B-Instruct и другими вариантами Qwen2.5 и ChatWaifu. Это плотная причинно-языковая архитектура Qwen2 с 76,7 млрд параметров и контекстом до 98 304 токенов. Модель предназначена для диалогов и генерации текста; каталог также отмечает интерфейс вызова инструментов. В карточке упоминаются прогоны GPQA Diamond Zero-shot на LM Eval Harness, но результаты оценки не приведены. Указана лицензия MIT, а автор отдельно отмечает, что продолжает действовать лицензия Qwen.

satgeze/Gemma4-12B-Uncensored-HauhauCS-1.5M-GGUF — GGUF-квантованная версия 12-миллиардной Gemma 4 без фильтрации, разработанная SatGeze на базе модели HauhauCS/Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced. Базовые модель и QAT предоставлены Google, снятие ограничений выполнено HauhauCS, а расширение контекста и сертификация — SatGeze. Модель предназначена для генерации текста, обработки очень длинных документов и поиска заданной информации в больших контекстах; также поддерживает работу с изображениями через отдельную vision-модель mmproj и ускорение декодирования с помощью MTP draft head. Нативный контекст составляет 262 144 токена, а с использованием YaRN с коэффициентом 6 расширен до 1 572 864 токенов. Для конфигурации f16 KV модель сертифицирована на контекстах до 1 310 720 токенов с результатом 10/10 в тестах needle-in-a-haystack; при q8_0 KV на максимальном контексте достигнут результат 9/10. Файл основной модели имеет размер около 7,4 ГБ и использует 4-битное квантование Google QAT. Для запуска предусмотрена интеграция с llama.cpp и Ollama. Сильные стороны модели — исключительно длинный контекст, подтверждённая устойчивость поиска информации за пределами миллиона токенов, поддержка vision и возможность ускорения генерации. Ограничения включают снижение качества на предельных длинах, особенно около 2 миллионов токенов, значительные требования к вычислительной памяти и времени предварительной обработки, а также зависимость результата от типа KV-кэша и выбранного квантования. Модель распространяется по лицензии Gemma; условия базовой лицензии применяются к производным компонентам.

GLM-5.3-Flash-UNCENSORED-GGUF — мультимодальная модель семейства GLM, разработанная на основе архитектуры Zhipu AI / ZAI. Некензурированные веса предоставлены dealignai, а GGUF-квантизация и мультимодальный релиз выполнены Solstice-AI. Модель предназначена для генерации и понимания текста, анализа изображений и видео, а также запуска через llama.cpp и совместимые инструменты. В качестве базовой модели указана dealignai/GLM-5.3-Flash-UNCENSORED-FP8. Релиз включает мультимодальный проектор mmproj-BF16.gguf размером 1,11 ГБ с Vision Transformer и временным и пространственным объединением патчей. Поддерживаются английский и китайский языки; заявлены модальности текста, изображений и видео. Для работы указан контекст до 131 072 токенов. В комплект также входят веса DFlash 2 для speculative decoding, позволяющие ускорить генерацию при использовании совместимой конфигурации. Доступны варианты GGUF-квантизации, включая Q4_K_M и Q8_0, а также BF16-компоненты. Сильными сторонами модели являются мультимодальный анализ, поддержка видео, большой контекст, интеграция с llama.cpp и возможность ускорения вывода посредством speculative decoding. Ограничения связаны с необходимостью отдельного мультимодального проектора, совместимого рантайма и, вероятно, значительных вычислительных ресурсов; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии MIT.

GoldenLlama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, созданная объединением Orenguteng/Llama-3.1-8B-Lexi-Uncensored и NousResearch/Hermes-3-Llama-3.1-8B с помощью mergekit. Слои 0–24 взяты из первой модели, а слои 25–31 — из второй; конфигурация слияния passthrough, исходная точность указана как bfloat16. Репозиторий содержит веса safetensors, модель насчитывает 7,5 млрд параметров и имеет контекстное окно 131 072 токена. Модель предназначена для генерации текста и диалогового использования. Лицензия репозитория — Apache-2.0. Карточка не приводит конкретных оценок качества или подробных ограничений; характеристики и поведение унаследованы от объединённых моделей и могут отличаться от каждой из них.

Granite-3.1-1B-A400M-Base — базовая языковая модель, разработанная командой Granite компании IBM. Она построена на декодерном разреженном трансформере Mixture of Experts (MoE); число параметров по метаданным — 163,6 млн. Контекст увеличен с 4K до 128K токенов посредством поэтапного обучения с настройкой RoPE и дополнительного предобучения примерно на 500 млрд токенов для длинного контекста. Модель предназначена для генерации текста и может служить базой для специализированной настройки. Она поддерживает суммаризацию, классификацию и извлечение информации, ответы на вопросы и другие задачи «текст-текст». В карточке указаны английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Обучающие данные охватывают веб, код, академические материалы, книги и математику, а также многоязычные и синтетические длинноконтекстные данные. Модель не прошла выравнивание по безопасности, поэтому может генерировать проблематичные ответы; также возможны предвзятость, дезинформация и дословное воспроизведение обучающих данных. Распространяется по лицензии Apache 2.0.

Llama-3.3-70B-o1 — языковая модель компании codelion, дообученная методом QLoRA на трассах пошагового рассуждения. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; она принимает текст и генерирует ответы с блоком рассуждения между специальными тегами и итоговым ответом в отдельном блоке. Модель предназначена для диалогов и задач, требующих многошагового рассуждения; в карточке приведён результат 46,7 pass@1 на AIME 2024. Контекст модели — до 131 072 токенов. Для многих запросов автор рекомендует разрешать генерацию не менее 8192 токенов, поскольку модель склонна выдавать длинные ответы. Указанная лицензия — Apache-2.0. Базовая модель — unsloth/llama-3.3-70b-instruct-bnb-4bit.

MaziyarPanahi/Mistral-7B-Alpaca-52k-v0.1 — дообученная модель семейства Mistral, созданная на основе mistralai/Mistral-7B-v0.1 с использованием набора инструкций Alpaca из 52 тысяч примеров. Она предназначена для генерации текста по инструкциям и ответов на запросы в диалоговом формате. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель работает с текстом и подходит для широких задач следования инструкциям; в карточке приведены результаты оценивания на наборах для рассуждений и понимания текста. Она выпущена в формате PyTorch и распространяется по лицензии Apache-2.0. README не приводит подробностей о целевых языках или ограничениях качества, поэтому они здесь не уточняются.

NeuralOmniBeagleMBX-v3-7B — слитая модель генерации текста, собранная автором paulml с помощью LazyMergekit из mlabonne/NeuralOmniBeagle-7B и flemmingmiguel/MBX-7B-v3. Для объединения использован метод SLERP с настройками смешивания для слоёв self-attention и MLP; модель основана на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется языковая модель с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

MuXodious/Qwen3.5-4B-SOMPOA-heresy-v2-MTP — мультимодальная модель на 4 млрд параметров, созданная на основе Qwen3.5-4B. По карточке, её дообучили с помощью Heretic и методов SOMA и MPOA для подавления отказов; также восстановлены веса Multi Token Prediction из базовой модели. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером; заявлены диалог, понимание изображений и интерфейс вызова инструментов. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с инструментами. В карточке базовой модели указана поддержка 201 языка и диалекта, а контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000. Репозиторий содержит веса Safetensors для Transformers; карточка также называет совместимость с vLLM, SGLang и KTransformers. В README сообщается о низкой частоте отказов в использованной авторами проверке, поэтому модель может отвечать на запросы, которые базовая модель отклоняла. Это не гарантирует фактическую точность ответов и может снижать надёжность защитных отказов. Лицензия — Apache-2.0.

VisualInference/Qwen3.8-27B-AEON-Ultimate-Uncensored-Multimodal-MLX-6bit — мультимодальная 6-битная MLX-квантизация модели AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, основанной на Qwen/Qwen3.8-27B. Модель предназначена для локального запуска на компьютерах Apple Silicon с использованием MLX и поддерживает текстовые, графические и видео-сценарии через mlx-vlm. Визуальный модуль сохранён полностью, поэтому доступны задачи понимания изображений и видео, а также обычный диалог, генерация текста и агентские сценарии. Модель имеет размер 27B параметров, мультимодальную vision-language архитектуру и 6-битное квантование с group size 64. В карточке заявлены поддержка английского, китайского и других языков, а также функции reasoning, hybrid attention, gated-deltanet и native MTP для speculative decoding. С отдельной моделью-драфтером MTP декодирование может ускоряться примерно в 1,4–1,9 раза без изменения результата. Для работы требуется около 21 ГБ памяти под веса; комфортный запуск рекомендуется на Mac с 48 ГБ и более unified memory, хотя заявлена работоспособность на 36 ГБ. Сильные стороны модели — локальное мультимодальное выполнение на Apple Silicon, сохранённая vision tower, высокая скорость при использовании speculative decoding и отсутствие дополнительной цензуры в варианте AEON. Ограничения включают повышенное потребление памяти, зависимость производительности от пропускной способности памяти и возможные обрывы ответа внутри reasoning при ограничении в 4096 токенов. Также отмечено, что распределение модели заметно сильнее отличается от стандартной Qwen3.8-27B, чем у некоторых альтернативных сборок, а качество 6-битного vision-компонента отдельно не измерялось. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Opus-Distill-GGUF — квантованная мультимодальная модель, разработанная barozp на базе Qwen3.8-27B. Исходная модель дообучена с помощью LoRA на 14 250 трассах рассуждений Claude Opus; адаптеры объединены с базовыми весами. Модель распространяется в формате GGUF для запуска через llama.cpp и предназначена для текстовых и визуально-текстовых задач, включая ответы на вопросы, анализ изображений и задачи, требующие рассуждений. Модель содержит 27 млрд параметров, встроенную vision tower и обученную MTP-голову для self-speculative decoding. Vision tower поставляется отдельно в виде файла mmproj размером около 0,9 ГБ. Доступны варианты от BF16 и Q8_0 до крайне низкоразрядных IQ-квантов; Q4_K_M рекомендован как сбалансированный вариант. Для IQ-квантов используется importance matrix, рассчитанная на данных рассуждений. Точные сведения о поддерживаемых языках и размере контекста в README не указаны. Сильной стороной является улучшение показателей на задачах рассуждений: в описанном тестировании прирост относительно базовой модели составил 4,2 процентного пункта на ARC-Challenge и 26 пунктов на GPQA Diamond, при почти неизменных показателях общих знаний и языкового моделирования. Производительность MTP для этой конкретной модели не измерялась, поэтому приведённые оценки ускорения относятся к родственному Qwen3.6 и не гарантируют такой же результат. Известна проблема с зацикливанием рассуждений при одновременном использовании ограничений «без прозы» и другого ограничения формата; рекомендуется избегать такой комбинации или увеличить лимит генерации. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется отдельный файл mmproj; текстовые сценарии могут использовать модель без него.

AquilaChat2-34B-16K — диалоговая языковая модель BAAI из серии Aquila2, предназначенная для генерации ответов и работы с длинными текстами. Модель основана на плотной авторегрессионной архитектуре AquilaForCausalLM и содержит 33,1 млрд параметров; максимальная длина контекста — 16 384 токена. Доступны веса в формате PyTorch. Модель подходит для диалогов, генерации и суммирования длинных текстов, а также выполнения инструкций в обычных сценариях общения. В README описана версия V1.2, в которой улучшены синтез длинных текстов и выполнение инструкций по сравнению с V1. Для модели указана лицензия other; конкретные условия следует сверять с лицензией репозитория.

ArliAI-Llama-3-8B-Dolfin-v1.0 — диалоговая языковая модель OwenArli на архитектуре Llama 3 с 7,5 млрд параметров и контекстом 8192 токена. Она дообучена методом SFT на базе Meta-Llama-3-8b-Instruct Abliterated v3 с использованием улучшенного набора данных Dolphin и WizardLM. Модель предназначена для генерации ответов в чате и выполнения инструкций; автор отмечает более точное следование запросам и меньше характерных для GPT формулировок. Модель принимает текст и выдаёт текст, используя формат диалоговых сообщений Llama 3 Instruct. Для лучших результатов автор рекомендует формулировать инструкции точно и задавать роль через системное сообщение. Обучение проводилось на последовательностях длиной до 8192 токенов с QLoRA, рангом 64 и alpha 64; в README также указано обучение с 4-битной загрузкой. Модель распространяется по лицензии Meta Llama 3 License. Это дообученный чекпойнт, и его ответы могут быть неточными или неуместными; описание автора указывает на сниженную склонность к отказам, поэтому следует проверять ответы и учитывать требования к безопасному применению.

Bonsai 27B 1-bit CRACK GGUF — мультимодальная vision-language модель, опубликованная dealignai. Это квантованный релиз на базе prism-ml/Bonsai-27B-gguf из семейства Qwen/Qwen3.6-27B, предназначенный для работы с текстом, изображениями и, при поддержке соответствующего runtime, видео. Модель ориентирована на диалоговые сценарии, рассуждения, анализ визуального содержимого и использование инструментов; заявлены языки английский и китайский. В состав входят 27B-классная языковая модель с 64 гибридными блоками архитектуры семейства Qwen и отдельный F16 Qwen3VL-мультимодальный проектор. Основная модель использует нативный формат Q1_0 GGUF и занимает около 4,35 GiB, проектор — около 0,86 GiB. Поддерживаются изображения; видеовход зависит от возможностей Prism runtime, при необходимости рекомендуется предварительно извлекать кадры. В README приведены результаты на фиксированной выборке MMLU-200 — 52,50% — и полном тесте HB-320 — 97,81%, однако эти показатели не эквивалентны результатам на полных официальных наборах. К сильным сторонам относятся малый размер 1-битного представления, мультимодальность, наличие специализированного проектора и высокая заявленная скорость на Apple M5 Max — около 58,5 токена в секунду для текста и изображений. Ограничения включают необходимость использовать форк Prism llama.cpp с поддержкой низкоразрядных типов, а также возможную несовместимость прямого ввода видеофайлов с отдельными клиентами. Модель распространяется по лицензии Apache-2.0.

unsloth/gemma-3-1b-it-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 1B, разработанной Google DeepMind и опубликованной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений, поэтому подходит для локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами. Это мультимодальная модель: она принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; максимальный объём генерируемого ответа составляет 8192 токена. Семейство Gemma 3 поддерживает более 140 языков, однако в карточке этой версии явно указан английский язык. Меньший размер упрощает локальный запуск и снижает требования к ресурсам, но по возможностям и качеству модель может уступать более крупным вариантам Gemma 3. Изображения обрабатываются после нормализации до 896×896 пикселей и кодируются в 256 токенов каждое. Модель распространяется по лицензии Gemma; применимые условия использования определяются официальными Terms of Use Google. README не содержит подробностей о конкретной квантовке GGUF, требованиях к памяти или измеренных показателях качества.

DealignAI выпустила Gemma-4-12B-it-MXFP4-CRACK — дообученную и квантизированную 4-битную версию Gemma 4 12B-it от Google. Модель рассчитана на запуск через MLX на компьютерах Apple Silicon; файлы занимают около 7,5 ГБ. Архитектура объединяет текст, изображения, аудио и видео, использует 48 слоёв и гибридное внимание со скользящим окном и полным вниманием. Заявленная длина контекста — 128 тысяч токенов. Модель предназначена для диалогов, мультимодального анализа и генерации текста. По описанию автора, CRACK удаляет поведение отказа на уровне весов, сохраняя рассуждения, знания и мультимодальные возможности. В README приведены результаты HarmBench и MMLU, полученные на конкретной конфигурации; они не гарантируют такое же качество на других запросах и средах. Для запуска автор рекомендует Osaurus, поддерживающий архитектуру Gemma 4 Unified. Лицензия — Gemma. Модель не рассчитана на естественный язык отказа при потенциально вредоносных запросах, поэтому ответы требуют самостоятельной проверки.

Bunnycore создал эту плотную языковую модель с архитектурой Llama 3.1, объединив несколько предварительно обученных моделей методом Model Stock через mergekit. В состав объединения вошли bunnycore/LLama-3.1-8B-HyperNova-abliteration, bunnycore/LLama-3.1-8b-Ultra-Max-Pro, bunnycore/Llama-3.1-8B-OmniMatrix и leafspark/Llama-3.1-8B-MultiReflection-Instruct; базой слияния служила bunnycore/LLama-3.1-Hyper-Stock. Модель содержит 7,5 млрд параметров, использует формат safetensors и работает через библиотеку Transformers. Она предназначена для генерации текста; в составе исходных моделей есть вариант Instruct с многоэтапными рассуждениями. Заявленная длина контекста — 131 072 токена. Карточка не содержит сведений о лицензии, поэтому условия использования установить по доступным данным нельзя.

Llama-3.1-Tulu-3-8B-SFT — англоязычная инструкционная модель семейства Tülu 3, разработанная AI2 и дообученная на базе meta-llama/Llama-3.1-8B. Это плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров, предназначенная для диалогов и выполнения разнообразных инструкций, включая математические задачи и следование формату ответа. Модель поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors для использования с Transformers. Модель подходит для чат-ботов, ответов на вопросы, решения математических задач и оценки следования инструкциям. Карточка приводит результаты сравнительных тестов, в том числе MMLU, PopQA, GSM8K и IFEval, но они не гарантируют качество в конкретном приложении. По описанию модели, обучение безопасности ограничено, поэтому ответы могут быть проблематичными, особенно при соответствующих запросах. Лицензия — Llama 3.1 Community License Agreement.

Карточка модели WariHima/llm-jp-4-33b-thinking на Hugging Face совпадает с карточкой llm-jp/llm-jp-4-33b-thinking, поэтому описание составлено по ней. LLM-jp-4-33b-thinking — плотная трансформерная языковая модель семейства Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов, генерации ответов и решения задач с рассуждением на японском и английском языках; поддерживает интерфейс вызова инструментов. Модель содержит 32,2 млрд параметров, имеет 64 слоя и контекст до 65 536 токенов. Она обучалась на этапах предварительного и промежуточного обучения на 11,7 трлн токенов, затем прошла SFT и выравнивание DPO без обучения с подкреплением. Доступна в формате Safetensors для Transformers, лицензия — Apache-2.0. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Для корректной работы следует использовать приложенный токенизатор: он отличается от предположений библиотеки openai-harmony, несмотря на совместимость шаблона диалога с Harmony.

cloudyu/mistral_18B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на архитектуре Mistral и дообученная методом SFT на vicgalle/alpaca-gpt4. В README указано 80 слоёв; по метаданным модель содержит 17,6 млрд параметров, использует MistralForCausalLM и имеет контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате «инструкция — входные данные — ответ». Она принимает текст и генерирует текст. Репозиторий содержит веса в формате Safetensors; лицензия — CC BY 4.0. Карточка не описывает отдельные специализированные предметные области или подробные оценки качества.

Severian разработал Nexus-IKM-Mistral-Instruct-v0.2-7B — разговорную языковую модель на архитектуре Mistral с 7,1 млрд параметров. Модель дообучена на экспериментальном наборе Internal Knowledge Map в течение трёх эпох; для обучения использовалась фазовая методика, последовательно акцентирующая системный контекст и инструкции. Модель предназначена для генерации ответов, рассуждений и синтеза информации из разных областей знаний. Её можно применять для многошагового решения задач, поиска связей между дисциплинами и подготовки междисциплинарных идей; заявленные в карточке способности не подтверждены количественными оценками. Контекст составляет до 32 768 токенов. Указана лицензия MIT.

Qwen3.8-4B — текстовая причинно-следственная модель на 4 млрд параметров, разработанная Empero. Это полное дообучение Qwen/Qwen3.5-4B методом дистилляции: модель обучали на примерно 45 тысячах отобранных трасс рассуждений более крупной модели учителя, включая математику, общие рассуждения и следование инструкциям. Модель предназначена для диалогов, решения математических задач, рассуждений и выполнения инструкций; она также поддерживает вызов инструментов в формате Qwen3.5. Контекст составляет 262 144 токена. Весам в формате bf16 требуется около 8 ГБ памяти, а квантованные варианты позволяют запускать модель на ноутбуках и потребительских видеокартах. Карточка сообщает об улучшении результата на MMLU относительно базовой модели, но о снижении на GSM8K. Модель принимает текст и ориентирована на текстовую генерацию. Возможности зрения унаследованы от мультимодальной базовой архитектуры, однако дообучение было текстовым, а зрительные способности не оценивались. Для запуска нужен свежий Transformers с поддержкой Qwen3.5; без специализированных CUDA-ядер некоторые слои работают медленно и потребляют больше памяти. При длинной генерации возможны циклы повторений, особенно при жадном декодировании. Лицензия — Apache-2.0; веса предоставлены «как есть» для исследований и экспериментов.

NeuralMetrics/Qwen3-Embedding-0.6B — размещённая Neural Metrics копия модели Qwen3-Embedding-0.6B, разработанной командой Qwen. Согласно карточке, веса и поведение совпадают с исходной моделью. Это плотная модель семейства Qwen3 с 507,6 млн параметров, предназначенная для преобразования текста в эмбеддинги; она поддерживает контекст до 32 768 токенов и выходные векторы размером от 32 до 1024 измерений. Модель подходит для семантического поиска по документам, пунктам договоров, строкам и полям, поиска по коду, выявления похожих текстов, классификации и кластеризации. Она поддерживает более 100 языков, включая возможности межъязыкового поиска, и принимает инструкции, позволяющие настроить эмбеддинги под задачу. Векторы можно использовать в системах поиска и маршрутизации документов. Ограничения: это модель эмбеддингов, поэтому для поиска нужен отдельный индекс векторов и компонент, который сопоставляет запросы с документами. Для использования с Transformers требуется версия 4.51.0 или новее; карточка рекомендует подбирать инструкции под сценарий, поскольку их отсутствие может снизить качество поиска. Лицензия — Apache-2.0.

UwU-Qwen2.5-32B — объединённая языковая модель, созданная nbeerbower методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B и пяти других моделей семейства QwQ и Qwen. Это плотная авторегрессионная архитектура Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогов; поддерживает интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации и продолжения текста, а также работы с длинными запросами. В метаданных перечислена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

Sakalti/Anemoi-3B — плотная языковая модель на архитектуре Qwen2, созданная объединением весов Qwen/Qwen2.5-3B-Instruct и bunnycore/Qwen-2.5-3b-Rp-lora_model с помощью mergekit и метода passthrough. Модель содержит 3,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, следования инструкциям и создания текстов; в метаданных также отмечен интерфейс вызова инструментов. Базовая модель Qwen2.5-3B-Instruct характеризуется как компактная многоязычная чат-модель, однако конкретные языки Anemoi отдельно не перечислены. Для запуска указана библиотека Transformers, а веса представлены в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями базовых компонентов. README не сообщает результатов оценки качества или специфических ограничений.

Dumpling-Qwen2.5-32B — диалоговая языковая модель на архитектуре Qwen2, разработанная nbeerbower как дообучение nbeerbower/Rombos-EVAGutenberg-TIES-Qwen2.5-32B. Модель содержит 32 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и может использоваться для рассуждений, работы с текстами и сценариев с интерфейсом вызова инструментов. Она дообучена методом ORPO в течение двух эпох на наборах данных для предпочтений, правдивости, физического рассуждения и художественных текстов. Поддержка интерфейса инструментов указана в метаданных; это само по себе не гарантирует совместимость с конкретной системой инструментов. Модель выпущена под лицензией Apache-2.0. Карточка не приводит результатов оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно.

NeoChen1024/gemma-4-26B-A4B-it-qat-W4A16 — квантизированная версия мультимодальной instruct-модели Gemma 4 26B-A4B-it, разработанной Google. Модель предназначена для диалоговых сценариев и задач image-text-to-text, то есть обработки текста и изображений с генерацией текстовых ответов. Она ориентирована на развёртывание через vLLM и использует chat completions API. Модель преобразована из Q4_0 GGUF в формат compressed-tensors pack-quantized W4A16 с 4-битным симметричным групповым квантованием и group_size=32. Квантованные веса и масштабы сохраняются без потерь на уровне нибблов; масштабы имеют тип bfloat16 либо float16. Vision tower и прочие неквантованные тензоры хранятся в bfloat16. Для ускорения работы с Marlin применена padding-обработка размерностей MLP и MoE-блоков. В README не указаны точные размерности контекста и перечень поддерживаемых языков. К сильным сторонам относятся существенное снижение требований к памяти, совместимость с vLLM и сохранение исходных Q4_0-значений без потерь при конвертации. Ограничения связаны с особенностями развёртывания: для tensor parallelism с TP>1 плотные MLP-блоки рекомендуется оставлять неквантованными, что увеличивает потребление VRAM примерно на 725 MiB. Для работы необходим vLLM с поддержкой соответствующего формата и chat completions API; в README тестирование указано для vLLM 0.22.1 и GPU с CUDA compute capability 8.9, где модель загружается примерно в 16,4 GiB видеопамяти. Лицензия в предоставленных данных не указана.

Huihui-MiroThinker-v1.0-8B-abliterated — версия MiroThinker-v1.0-8B, изменённая проектом huihui-ai методом abliteration для снижения числа отказов. Это плотная языковая модель семейства Qwen3 с 7,6 млрд параметров, рассчитанная на генерацию текста и диалог; базовая MiroThinker предназначена для многошаговых исследований, поиска информации и вызова инструментов. Модель можно запускать через Transformers или Ollama. Контекст модели составляет 262 144 токена. В карточке указаны английский язык и лицензия MIT. Abliteration снижает защитные отказы и может приводить к чувствительным, спорным или неподходящим ответам; результаты следует тщательно проверять.