I.6Перевод и языковая адаптация

Mtrini-27B-Tellus-Merged — объединённая модель CompiwerAI для запуска через Transformers. В README в качестве базовой модели указана Qwen3.8-27B; метаданные описывают архитектуру как плотную Qwen3.5 для авторегрессионной генерации текста. Размер по метаданным — 22,3 млрд параметров, нативный контекст — 262 144 токена, файлы представлены в формате safetensors. Модель предназначена для диалогов, генерации кода, математических задач и рассуждений. Для обучения использовалась смесь из 11 200 примеров, включающая данные по программированию и математике, а также марокканскую дариджу и арабский язык. В README сказано, что LoRA-адаптер CompiwerAI объединён с базовой моделью в самостоятельный чекпойнт. Модель распространяется по лицензии Apache-2.0. Результаты обучения и состав обучающей смеси приведены в карточке, но независимые оценки качества и подробные ограничения не описаны.

Ornith-1.5-9B-Uncensored-W4A16 — мультимодальная модель для задач image-text-to-text, разработанная bowmanslayer. Это квантованная версия Ornith-1.5-9B-Uncensored в формате W4A16: веса представлены в INT4, активации — в FP16. Модель ориентирована на английский и китайский языки, а также на сценарии, где требуется обработка текста и изображений. Архитектура включает 32 слоя, из которых 24 являются linear-слоями и 8 — слоями full attention; размер скрытого состояния составляет 4096. Размер квантованной модели — около 8 ГБ. Она предназначена прежде всего для запуска через vLLM с ядром gptq_marlin; поддерживается FP8 KV-кэш fp8_e5m2, который уменьшает расход памяти и позволяет эффективнее работать с длинным контекстом. Указанные в README оценки относятся главным образом к BF16-версии-источнику; для W4A16 заявлены близкие результаты в выборочных проверках. Сильными сторонами являются сохранённые возможности рассуждения, программирования и следования инструкциям, высокая производительность на ряде тестов, а также экономичное использование памяти благодаря гибридной архитектуре и квантованию. Ограничение модели заключается в удалении исходного safety alignment: она не содержит фильтров и защитных ограничений и может выполнять вредоносные, опасные или незаконные запросы. Поэтому ответственность за безопасное и законное применение полностью лежит на пользователе. Лицензия модели — MIT.

Ovis2-16B — мультимодальная языковая модель семейства Ovis, разработанная командой AIDC-AI. Она объединяет визуальный энкодер и языковую модель для диалога по изображениям и видео. Архитектура плотная, класс Ovis; репозиторий содержит веса Safetensors. Вариант 16B показан в тестах изображений и видео, а README рекомендует более новую версию Ovis2.5. Модель предназначена для ответов на вопросы по визуальным материалам, рассуждений по нескольким изображениям и кадрам, многоязычного OCR, а также извлечения структурированных данных из таблиц и диаграмм. В обучении использовались instruction tuning и preference learning для усиления рассуждений; заявлена поддержка английского и китайского, а OCR улучшен для языков помимо них. Для запуска README приводит зависимости PyTorch, Transformers и Flash Attention. Модель распространяется по лицензии Apache-2.0. В README отмечены ограничения: разработчики не гарантируют полного отсутствия проблем с авторскими правами или некорректного содержимого; для новых возможностей рекомендуется Ovis2.5.

Это дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, опубликованная под именем legalvn/paraphrase-multilingual-MiniLM-L12-v2-500. Архитектура основана на BERT с усреднением токенных представлений; модель содержит 124,3 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384. Метаданные указывают на контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для вычисления семантического сходства по косинусной близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Примеры обучающего набора и многоязычная базовая модель указывают на поддержку вьетнамского и других языков; конкретный полный перечень языков в карточке не приведён. Лицензия в предоставленных данных не указана.

PLaMo 3 NICT 2604 31B Base — базовая авторегрессионная языковая модель с 31 млрд параметров, разработанная Preferred Networks совместно с Национальным институтом информационных и коммуникационных технологий Японии (NICT). Модель дистиллирована из модели на 120 млрд параметров и использует гибридную архитектуру с оконным вниманием SWA и традиционными слоями внимания. Для запуска поддерживается библиотека Transformers и vLLM. Модель предназначена для генерации текста на английском и японском языках, включая работу с кодом. Она обучена на 1,5 трлн токенов; контекстное окно в карточке не приведено. Это базовая модель, поэтому для диалоговых и прикладных сценариев может потребоваться дополнительная настройка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением нужны тестирование и настройка безопасности под конкретное применение. Распространяется по лицензии PLaMo Community License. Для коммерческого использования разработчик просит ознакомиться с лицензией и связаться с ним.

CultriX/SeQwence-14Bv6 — объединённая языковая модель, созданная с помощью mergekit методом Model Stock на основе Qwen/Qwen2.5-14B-Instruct. В объединение вошли SeQwence-14Bv2, Qwestion-14B, Qwen2.5-Lumen-14B, Qwen2.5-14B-Wernicke, Virtuoso-Small, SeQwence-14Bv1 и SeQwence-14B-EvolMerge. Модель предназначена для генерации текста и диалоговых сценариев. Она использует плотную архитектуру Qwen2 с 14 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Метаданные отмечают интерфейс для вызова инструментов, однако README не описывает его поведение и ограничения. Модель опубликована в формате safetensors для Transformers. Условия лицензии в предоставленных данных не указаны.

TriFusionNexus-7b — объединённая языковая модель, созданная EryriLabs с помощью mergekit и метода TIES на основе CultriX/NeuralTrix-7B-dpo; в объединение также вошли bardsai/jaskier-7b-dpo-v5.6 и mlabonne/AlphaMonarch-7B. Модель построена на архитектуре Mistral с плотной причинно-языковой сетью, содержит 7,1 млрд параметров и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям и рассуждений. В README приведены результаты Open LLM Leaderboard, включая средний балл 76,32, 72,78 в AI2 Reasoning Challenge и 89,17 в HellaSwag; это результаты указанных оценок, а не гарантия качества в пользовательских задачах. Репозиторий содержит веса в формате safetensors. Лицензия CC-BY-NC-2.0 ограничивает коммерческое использование.

Brocae-Area-7B-slerp — языковая модель на архитектуре Mistral, созданная Kukedlc объединением моделей Fasciculus-Arcuatus-7B-slerp и NeuralKrishna-7B-V2-DPO методом slerp с помощью LazyMergekit. Она предназначена для генерации текста по запросам и может применяться для диалогов, ответов на вопросы и задач рассуждения. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на бенчмарках Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0.

Excalibur-7b — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная InferenceIllusionist с помощью слияния нескольких моделей через mergekit и метод SLERP. В состав слияния вошли merlinite-7b, Magic-Dolphin-7b, Kunoichi-DPO-v2-7B, Monarch-7B и jaskier-7b-dpo-v6.1. Модель предназначена для генерации текста, диалогов и ответов на вопросы; автор особо настраивал процесс слияния с прицелом на результаты MMLU. Контекст модели составляет 32 768 токенов. В README приведены результаты на наборах Open LLM Leaderboard: средний балл 73,6, включая MMLU 65,66 и GSM8K 68,61. Для обработки изображений автор указывает необходимость дополнительного файла mistral-7b-mmproj-v1.5-Q4_1.gguf; это отдельная настройка для совместимого GGUF-запуска, а не основная текстовая модальность указанной модели. Репозиторий распространяется под лицензией Apache-2.0.

nohurry/gemma-4-26B-A4B-it-heretic-GUFF — набор квантованных вариантов модели coder3101/gemma-4-26B-A4B-it-heretic, созданный участником сообщества на основе Gemma 4 от Google. Модель предназначена для диалоговых сценариев, генерации текста и работы с изображениями, включая OCR. В README указана поддержка режима рассуждений, который включается специальным маркером в системном промпте, а также возможность ограничивать бюджет рассуждений. Модель имеет архитектуру Gemma 4 с конфигурацией 26B-A4B; точные сведения о размере активируемой части, языках и максимальной длине контекста в README не приведены. Для обработки изображений используются отдельные mmproj-файлы и настраиваемый диапазон от 70 до 1120 image-токенов. Реализация рассчитана на использование в llama.cpp и koboldcpp; для корректной работы требуется включить Sliding Window Attention с параметром --swa-full. Доступны разные уровни квантования, а выбор рекомендуется делать с учётом доступной VRAM. Для задач OCR желательно использовать менее квантованную текстовую модель и более качественно сохранённый image encoder. Сильными сторонами являются мультимодальность, поддержка управляемого рассуждения, различные варианты квантования и возможность локального запуска. Ограничения включают зависимость требований к памяти от выбранного кванта и контекста, чувствительность image encoder к квантованию, а также необходимость совместимого программного обеспечения и настроек SWA. Модель распространяется по лицензии Apache-2.0; ссылка на лицензию Gemma 4 указана в карточке.

GLM-5.3-NVFP4 — квантизированная версия модели GLM-5.3 от Z.ai, опубликованная в формате NVIDIA Model Optimizer. Это текстовая генеративная модель для запуска и обслуживания задач генерации текста; README также указывает поддержку reasoning и вызова инструментов через соответствующие парсеры. Модель предназначена для работы на GPU NVIDIA Blackwell с архитектурой SM100 и новее, непосредственно через SGLang или vLLM. В модели используются веса и статические активации линейных слоёв маршрутизируемых MoE-экспертов в формате NVFP4, а KV-кэш хранится в FP8. Размер контрольной точки составляет 433 GiB. Доступна опциональная speculative decoding с draft-моделью GLM-5.3-DFlash2 и семью токенами на шаг проверки. Языки, размер контекста, точное число параметров и полный перечень модальностей в README не указаны; по имеющимся данным модель относится к текстовым, а не мультимодальным системам. К сильным сторонам относятся существенное сжатие представления вычислений, поддержка специализированного инференса на современных GPU NVIDIA и близкие к исходной FP8-версии результаты на приведённых тестах: например, 95,1 против 94,3 на AIME 2025 и 91,2 против 91,1 на GPQA Diamond. Ограничения включают требование GPU NVIDIA Blackwell, крупный объём контрольной точки и отсутствие данных о производительности на другом оборудовании. Модель распространяется по лицензии GLM-5.3 License, унаследованной от базовой модели.

Jebadiah/hermes-Poppy-stone-l3-8b — объединённая языковая модель семейства Llama 3, созданная с помощью mergekit методом DARE TIES. В слиянии использованы ChaoticNeutrals/Poppy_Porpoise-v0.7-L3-8B и NousResearch/Hermes-2-Pro-Llama-3-8B; основной моделью указана Poppy_Porpoise-v0.7-L3-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors.

Kimi-Linear-48B-A3B-Base — базовая языковая модель Moonshot AI с архитектурой Kimi Linear и разреженной смесью экспертов. В карточке указаны 48 млрд параметров всего и около 3 млрд активируемых параметров; метаданные каталога отдельно приводят 2,7 млрд параметров. Модель использует гибридное внимание Kimi Delta Attention и MLA с соотношением 3:1 и предназначена для генерации текста, включая диалоги и задачи с длинным контекстом. Заявленная длина контекста — до 1 млн токенов. Архитектура нацелена на эффективную работу с длинными последовательностями: в README заявлены сокращение KV-кэша до 75% и ускорение декодирования до 6 раз в некоторых сценариях. Это базовая версия, поэтому для диалога и следования инструкциям может потребоваться дополнительная настройка. Указана лицензия MIT.

LFM2.5-1.2B-Thinking-MLX-bf16 — версия модели рассуждений Liquid AI, подготовленная командой LM Studio Community на базе LFM2.5-1.2B-Thinking. Это плотная авторегрессионная модель семейства LFM2 с примерно 1,5 млрд параметров, представленная в исходной точности bfloat16 в формате safetensors и адаптированная для запуска на Apple Silicon через MLX. Модель предназначена для генерации текста в диалогах, задач рассуждения и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 128 000 токенов. В карточке указаны английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Компактный размер и оптимизация MLX подходят для локального запуска на устройствах Apple Silicon. Репозиторий указывает лицензию «other», поэтому конкретные условия использования следует сверять с лицензией исходной модели.

Ling-3.0-flash-GGUF — текстовая генеративная модель, разработанная командой inclusionAI. Это следующее поколение нативной гибридной reasoning-модели, предназначенной для генерации текста и решения задач, требующих рассуждений. Модель доступна в формате GGUF и может использоваться в совместимых локальных средах инференса. Модель содержит 124 млрд общих параметров, при этом активными во время обработки являются около 5,1 млрд параметров. По заявлению разработчиков, такая архитектура позволяет ей соответствовать или превосходить предыдущую флагманскую модель на ключевых бенчмарках при значительно меньшем числе активных параметров. Поддерживаемые языки, максимальная длина контекста, конкретные модальности и детальные результаты тестирования в предоставленной карточке не указаны. Сильными сторонами модели заявлены гибридное reasoning и высокая эффективность за счёт активации только части параметров. Ограничения и требования к аппаратному обеспечению, особенности квантования GGUF, языковые возможности и применимые сценарии следует уточнять в полной карточке модели. Модель распространяется по лицензии MIT.

Llama-3.1-8B-Ultra-Instruct-GGUF — это квантизированное представление инструкционной языковой модели Llama-3.1-8B-Ultra-Instruct, разработанное Dampfinchen и опубликованное в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и работы с инструкциями; её можно запускать локально через llama.cpp и LM Studio. В README также указано, что исходная модель является merge-моделью, собранной с использованием mergekit. Модель содержит 8 миллиардов параметров и работает в текстовой модальности. Для неё доступны варианты от F16 размером 16,07 ГБ до квантизаций Q4, Q5, Q6 и Q8 размером примерно от 4,92 до 8,54 ГБ. Квантизация выполнена с использованием imatrix; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как компромисс между размером и качеством. В README приведён специальный формат промпта Llama 3.1. Языки и размер контекстного окна не указаны. Сильная сторона модели — возможность локального запуска на менее мощном оборудовании благодаря нескольким уровням квантизации при сохранении высокого качества. На Open LLM Leaderboard для исходной модели указаны результаты: 80,81% на IFEval, 32,49% на BBH, 14,95% на MATH Level 5, 5,59% на GPQA, 8,61% на MuSR и 31,4% на MMLU-PRO; эти показатели зависят от методики оценки и не гарантируют аналогичные результаты конкретного квантизированного файла. Лицензия указана как llama3.

Модель Hjgugugjhuhjggg/mergekit-passthrough-owrmdht — объединение языковой модели meta-llama/Llama-3.2-1B-Instruct, созданное методом passthrough с помощью mergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия, включая сценарии с интерфейсом вызова инструментов. Модель принимает текст и генерирует текст. Указанная длина контекста — 131 072 токена. Базовая модель Meta описана как компактная многоязычная модель, настроенная на выполнение инструкций и предназначенная для диалогов, поиска сведений, суммаризации и помощи в написании текста. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Tess-4-27B-GGUF — это квантизированная версия модели Tess-4-27B, разработанной migtissera. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. По данным карточки, модель ориентирована на мультимодальные сценарии image-text-to-text, агентные задачи, рассуждения, работу с длинным контекстом и использование инструментов. Указана архитектурная принадлежность к семейству Qwen3, однако точный размер контекста, поддерживаемые языки и подробные характеристики модальностей в README не приведены. Доступны варианты от BF16 до низкоразрядных Q2–Q8-квантизаций; размеры файлов составляют примерно от 13 до 55 ГБ. Варианты Q5–Q6 обозначены как высококачественные, а Q4_K_M — как типичный вариант для большинства сценариев. Сильной стороной являются различные уровни квантизации, позволяющие выбирать между качеством, скоростью и требованиями к памяти, а также поддержка экосистемы llama.cpp. Более низкоразрядные варианты экономят память, но могут заметно уступать по качеству; некоторые форматы являются устаревшими или не рекомендуются. Модель и её квантизированные варианты распространяются по лицензии Apache-2.0.

MiMo-V2.5 — мультимодальная модель Xiaomi для диалогов, понимания изображений, видео и аудио, а также агентных сценариев. Она построена на разреженной MoE-архитектуре MiMo-V2-Flash с гибридным вниманием и отдельными визуальным и аудиокодировщиками. Метаданные репозитория указывают 12 млрд параметров и формат safetensors FP8; README описывает семейство MiMo-V2.5 как модель на 310 млрд параметров, из которых активируются 15 млрд. Эти сведения расходятся, поэтому размер конкретного чекпойнта неоднозначен. Модель рассчитана на генерацию текста, мультимодальное понимание и работу с длинным контекстом до 1 048 576 токенов. README заявляет поддержку текста, изображений, видео и аудио, а также обучение для агентных задач; метаданные отмечают чат и интерфейс вызова инструментов. В карточке указаны английский и китайский языки. Репозиторий распространяется по лицензии MIT. Для корректного поведения следует использовать обновлённые config.json и tokenizer_config.json, поскольку устаревшие версии, по сообщению разработчика, могут ухудшить качество.

MiroThinker-v1.0-8B-GGUF — квантованная версия языковой модели MiroThinker-v1.0-8B, разработанной miromind-ai и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях на базе llama.cpp и LM Studio. Указан английский язык. Модель содержит 8 миллиардов параметров и распространяется в нескольких вариантах точности: от BF16 до квантований Q2–Q8 и IQ. Для квантования использовался llama.cpp с методом imatrix, что позволяет уменьшить размер файлов и требования к памяти при сохранении качества; рекомендуемыми названы варианты Q4–Q6. Размер файлов составляет примерно от 3,9 до 16,39 ГБ в зависимости от формата. В README не указаны точная архитектура, максимальная длина контекста, результаты бенчмарков и дополнительные модальности, поэтому возможности модели в этих аспектах оценить нельзя. Более сильные квантования обеспечивают лучшее качество, а компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее терять качество. Для работы следует использовать совместимое ПО llama.cpp или LM Studio и формат промпта с маркерами ChatML. Лицензия — MIT.

Карточка модели OpenMOSS-Team/moss-moon-003-base на Hugging Face совпадает с карточкой OpenMOSS-Team/moss-moon-003-sft, поэтому описание составлено по ней. MOSS-moon-003-sft — языковая модель с 16 млрд параметров, разработанная командой OpenMOSS-Team. Она основана на CodeGen и предварительно обучена на китайских, английских и программных токенах, после чего дообучена с учителем на примерно 1,1 млн многоходовых диалогов. Модель предназначена для диалогов с пользователем, следования инструкциям в нескольких репликах и отказа на неподходящие запросы. Модель принимает текст и генерирует текст; карточка указывает поддержку английского и китайского языков и контекст до 2048 токенов. Её можно применять для ответов на вопросы, простых математических задач, помощи с кодом и китайскоязычных диалогов. Описанные требования к запуску составляют 31 ГБ видеопамяти для загрузки в FP16 и больше при генерации; доступны варианты MOSS в INT8 и INT4, но этот репозиторий содержит веса PyTorch. Модель может выдавать неверную, вводящую в заблуждение или предвзятую информацию, поэтому ответы следует проверять. Лицензия — AGPL-3.0.

Motif-2-12.7B-Instruct — плотная авторегрессионная языковая модель семейства Motif от Motif Technologies, созданная методом supervised fine-tuning на базе Motif-Technologies/Motif-2-12.7B-Base. Она предназначена для диалогов и генерации текста по инструкциям. Модель содержит 10,8 млрд параметров по метаданным каталога; в README заявлено 12,7 млрд. Контекстное окно составляет до 32 768 токенов. Поддержка чата подтверждена метаданными, а в карточке приведены результаты оценки на языковых бенчмарках. Модель принимает текст и генерирует текст. В тегах карточки указаны английский и корейский языки. Для запуска описано использование Transformers; README также приводит способ запуска через vLLM с временным контейнером, пока официальная поддержка модели проходит рассмотрение. Модель распространяется по лицензии Apache-2.0.

munin-neuralbeagle-7b-density-very-low — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она создана с помощью LazyMergekit методом dare_ties: в слиянии участвовали danish-foundation-models/munin-7b-alpha и mlabonne/NeuralBeagle14-7B; для NeuralBeagle14-7B заданы плотность 0,1 и вес 0,6, маска int8 и формат bfloat16. Модель предназначена для генерации текста и может использоваться для диалогов, следования инструкциям, рассуждений и творческого письма — эти возможности описаны для базовой NeuralBeagle14-7B. Она принимает текст и выдаёт текст. В метаданных указана лицензия Apache-2.0.

Nero-7B-slerp — диалоговая языковая модель на 7,1 млрд параметров, созданная teodortita слиянием Mistral-7B-Instruct-v0.2 и OpenHermes-2.5-Mistral-7B методом SLERP с помощью mergekit. Она предназначена для генерации текста и ответов на инструкции в диалоге; модель принимает текст и выдаёт текст. Архитектура — плотная MistralForCausalLM, контекст — до 32 768 токенов. В README приведены сравнительные результаты на AGIEval, GPT4All, TruthfulQA и Bigbench; Nero показала более высокие значения, чем обе исходные модели, на GPT4All и Bigbench. Эти результаты относятся только к указанным бенчмаркам и не гарантируют качество для конкретных запросов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Это объединённая методом TIES модель Weyaxi, созданная на основе Intel/neural-chat-7b-v3-1 и teknium/OpenHermes-2.5-Mistral-7B. Модель представляет собой плотную авторегрессионную языковую модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и может применяться для диалогов, ответов на вопросы и других задач, решаемых текстовой генерацией. Веса доступны в формате safetensors. Лицензия — Apache-2.0.

OpenZephyrChat-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и Fredithefish/OpenZephyrChat методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации ответов на инструкции и диалоговые запросы. Модель принимает текст и генерирует текстовые ответы. Заявленная длина контекста — 32 768 токенов. В репозитории представлены веса в формате safetensors; лицензия — Apache-2.0. Карточка указывает английский язык.

Mungert/Qwen2.5-14B-Instruct-GGUF — набор GGUF-версий инструкционной языковой модели Qwen2.5-14B-Instruct, разработанной командой Qwen и опубликованной в формате GGUF пользователем Mungert. Модель предназначена для генерации текста, диалоговых сценариев и чат-приложений, включая локальный запуск через llama.cpp и системы с ограниченными ресурсами. Модель содержит 14 миллиардов параметров и работает с текстом; в карточке указана поддержка английского языка. Доступны варианты BF16 и F16, а также квантизованные версии Q4_K, Q4_K_S, Q6_K и Q8_0. Более точные варианты требуют больше памяти, тогда как Q4_K и Q4_K_S подходят для CPU и устройств с небольшим объёмом памяти, но могут уступать по точности. Указанный размер контекста и дополнительные модальности не приведены. Основные преимущества — широкий выбор форматов для разных аппаратных конфигураций и возможность локального инференса с уменьшенным потреблением памяти. Ограничения включают компромисс между качеством и требованиями к памяти при квантизации, а также отсутствие в README подробных данных о производительности, бенчмарках и поддерживаемых языках помимо английского. Модель распространяется по лицензии Apache-2.0.

FreedomAISVR/Qwen3.5-4B-Instruct-MTP-NVFP4-GGUF — квантизированная в NVFP4 версия мультимодальной инструкционной модели Qwen3.5-4B, подготовленная FreedomAISVR в формате GGUF для запуска через llama.cpp. Модель содержит около 3,97 млрд параметров, использует гибридную архитектуру Gated DeltaNet, Gated Attention и FFN, поддерживает MTP (Multi-Token Prediction) и контекст до 262 тысяч токенов. В репозитории также есть проектор изображений в F16; заявлена возможность расширения контекста до 1 млн токенов. Модель предназначена для диалога и генерации текста по инструкциям, рассуждений и понимания изображений. Шаблон чата изменён: рассуждения выключены по умолчанию и включаются параметром enable_thinking=true. NVFP4 снижает размер весов для совместимых NVIDIA Blackwell GPU; для мультимодального ввода требуется отдельный файл проектора. Это производная модель от Qwen/Qwen3.5-4B, а не новая базовая разработка. Лицензия — Apache-2.0.

Qwen35B-Agent-R2-i1-GGUF — квантизированная GGUF-версия модели Qwen35B-Agent-R2, подготовленная mradermacher. Базовая модель разработана автором или организацией hotdogs; точная информация о разработчике в README не указана. Модель предназначена для генерации текста, диалоговых сценариев, reasoning, агентских задач, использования инструментов и tool calling. Обучение или дообучение связано с датасетами для рассуждений, агентскими траекториями и conversational-задачами. Модель относится к архитектуре Mixture-of-Experts и имеет заявленный размер 35B, поддерживает текстовый ввод и вывод. В метаданных указаны английский и тайский языки. Модель распространяется в виде набора квантизаций GGUF с разным компромиссом между размером, скоростью и качеством: от IQ1_S размером 7,6 ГБ до Q6_K размером 28,6 ГБ. Варианты IQ-квантизации могут быть предпочтительнее сопоставимых обычных вариантов по размеру, но низкобитные версии заметно ограничены по качеству. Оптимальными по соотношению размера, скорости и качества README называет i1-Q4_K_S, а i1-Q4_K_M — быстрой и рекомендуемой. В README не указаны размер контекстного окна, точные параметры архитектуры, мультимодальные возможности и результаты бенчмарков, поэтому нельзя сделать выводы об этих характеристиках. Лицензия модели — AGPL-3.0; условия использования производных квантизированных файлов следует учитывать вместе с лицензией базовой модели.

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_4S-GGUF — мультимодальная модель Lemura Labs на базе объединённых Qwen3.6-27B и Jackrong/Qwopus3.6-27B-v2. Последняя версия описана как дистилляция рассуждений Claude Opus на основе Qwen3.6-27B. Модель прошла abliteration для снижения числа отказов и выпущена в формате GGUF с квантизацией TQ3_4S; для обработки изображений требуется отдельный файл проектора mmproj.gguf. Модель предназначена для диалогов, рассуждений и работы с изображениями. Гибридная архитектура сочетает линейное внимание GatedDeltaNet и полнослойное softmax-внимание; заявленная длина контекста — 262144 токена. В карточке сообщается о снижении отказов с 91 до 4 из 100 проверочных запросов при KL-дивергенции 0,0176. Доступны GGUF-веса размером около 14 ГБ вместе с проектором; для TQ3_4S требуется форк llama.cpp от turbo-tan, а без mmproj вход изображений недоступен. Модель принимает текст и изображения и генерирует текст. В метаданных указаны английский и китайский языки, а также мультиязычная поддержка. Лицензия — Apache-2.0. Вследствие удаления отказов модель может отвечать на запросы, которые исходная модель отклоняла; результаты генерации требуют соответствующей проверки.