I.4Обработка документов и форм

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_1S-GGUF — мультимодальная модель Lemura Labs на основе Qwen3.6-27B, объединённая с производной Jackrong/Qwopus3.6-27B-v2, затем изменённая методом abliteration и квантованная в GGUF TQ3_1S. Она принимает текст и изображения при подключении отдельного файла mmproj.gguf и предназначена для диалогов, рассуждений, программирования и анализа изображений. Модель содержит 27 млрд параметров, использует гибридную архитектуру с GatedDeltaNet и полным attention; заявленная длина контекста — 262 144 токена. Указанная в карточке языковая поддержка включает английский и китайский, а также мультиязычность. В README сообщается, что abliteration снизила частоту отказов в тесте автора с 91 до 4 из 100 при KL-дивергенции 0,0176; эти результаты являются заявлением разработчика. Для инференса именно квантованных весов требуется форк llama.cpp-tq3 с поддержкой TQ3_1S; для обработки изображений необходим отдельный vision-проектор mmproj.gguf. Лицензия — Apache-2.0.

Robinson Labs выпустила доработанную версию Qwen3.6-35B-A3B — мультимодальной модели семейства Qwen с архитектурой MoE, примерно 35 млрд параметров и бюджетом около 3 млрд активных параметров. Веса представлены в bf16 в формате sharded safetensors для Transformers. Модель принимает текст и изображения и предназначена для диалогов, вызова инструментов, программирования и анализа изображений; в README также заявлено сохранение поддержки спекулятивного декодирования MTP/NextN для совместимых сред выполнения. В модели ослаблен отказ на взрослые и творческие запросы методом ортогонализации весов; при этом авторы заявляют о сохранении защитных ограничений для запросов о самоповреждении и реальных противоправных действиях. В собственных небольших проверках разработчика модель реже отказывала на общем наборе запросов, а на тесте детской безопасности отклоняла все проверенные запросы; размер этих тестов ограничен и не подтверждает поведение во всех ситуациях. Модель не предназначена для всех аудиторий. Лицензия — Apache-2.0, унаследованная от базовой модели.

Qwen3.8-27B-Opus-Distill-v2-FP8 — это квантизированная версия модели barozp/Qwen3.8-27B-Opus-Distill-v2, опубликованная пользователем или организацией barozp. Модель предназначена для задач рассуждения и мультимодального общения с текстом и изображениями; в карточке также заявлена поддержка MTP и speculative decoding. Она распространяется в формате, совместимом с Transformers, и основана на архитектуре Qwen3.8 с 27 млрд параметров, однако точные сведения о контекстном окне и поддерживаемых языках не указаны. В модели используется блочная FP8-квантизация E4M3 с блоками 128×128 и динамическим масштабированием активаций. Квантизируются главным образом веса, без калибровочного набора данных; vision tower, MTP head, нормализующие и gate-слои, embedding-слои и отдельные параметры Gated-DeltaNet сохраняются в исходной точности. Размер checkpoint составляет примерно 31 ГБ против около 55 ГБ у исходной BF16-версии. По представленным тестам, снижение качества на MMLU, HellaSwag и ARC-Challenge находится в пределах статистической погрешности. Сильные стороны модели — существенно меньший размер, поддержка native FP8 на совместимом оборудовании и близкое к BF16 качество на проверенных задачах. Ограничения связаны с требованиями к программному окружению и аппаратуре: для native FP8 в Transformers требуется специальный FP8 kernel, а некоторые сценарии MTP и sampling на Blackwell могут быть ограничены проблемами flashinfer. На A100 модель автоматически вычисляется через BF16 после де-квантизации. Лицензия — Apache-2.0.

airoboros-dpo-110b-3.3 — экспериментальная чат-модель, дообученная Jon Durbin на базе Qwen 1.5 110B с дополнительным этапом DPO. Она предназначена для диалога, ответов на вопросы по предоставленному контексту, суммаризации, генерации кода и структурированных ответов, включая вывод аргументов для вызова функций. Модель использует архитектуру Qwen2 с плотной сетью из 110 млрд параметров, формат диалога ChatML и контекст до 32 768 токенов. Карточка описывает настройку ответов по контексту, генерацию длинных ответов и планов выполнения, а также примеры задач на кодирование и ролевой диалог. Для ответов по заданному контексту рекомендуется низкая температура; качество следования таким инструкциям зависит от явного форматирования входных данных. Автор отмечает, что иногда в конце ответов появляются случайные лишние токены. Репозиторий содержит веса safetensors; лицензия в метаданных указана как other, без уточнения условий.

GDN-primed-HQwen3-32B-Instruct — гибридная языковая модель, разработанная командой Hybrid Model Factory на основе Qwen3-32B с помощью конвейера Priming. Это инструкционно настроенная причинная языковая модель с 64 слоями: 32 слоя Attention и 32 слоя Gated DeltaNet (GDN), разновидности модели пространства состояний. Веса представлены в формате safetensors, заявленный размер — 29,7 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; карточка указывает поддержку диалога и выполнения инструкций. Модель предназначена для диалога, ответов на вопросы, следования инструкциям, задач по математике, знаниям, программированию и рассуждению, в том числе при работе с длинным контекстом. По данным разработчика, гибридная архитектура сокращает нагрузку на KV-кэш и может ускорять генерацию на длинных контекстах, сохраняя близкое к базовой модели качество; в опубликованных оценках отставание от Transformer-базовой модели составляет около 2,5–3 пунктов на длинных контекстных задачах и около 1–1,5 пункта в среднем на коротких задачах. Эти результаты зависят от сценария и условий запуска. Модель не является reasoning-чекпойнтом и не поддерживает вызов инструментов. Доступна по лицензии Apache 2.0.

Gemma-4-1-E4B-it-heretic — производная от мультимодальной Gemma 4 E4B Instruct модели Google DeepMind, подготовленная eshucode. Это версия с ослабленным механизмом отказов: к весам применили оптимизированное удаление направления отказа, не проводя дообучение. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса safetensors и классифицируется как any-to-any. Базовая модель поддерживает диалог, рассуждения, программирование, анализ изображений и обработку аудио. Версия предназначена для диалоговых и мультимодальных сценариев, где требуется меньше отказов на запросы. В оценке автора сборка показала 25 отказов из 100 на тесте harmful_behaviors при KL-дивергенции 0,0219 относительно базы; это результаты конкретной оценки, а не гарантия качества. README называет её trial 198 из серии экспериментов по подбору компромисса между снижением отказов и сохранением поведения базовой модели. Лицензия — Apache 2.0.

German-RAG-MISTRAL-7B-v3.0-SFT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это SFT-дообучение модели German-RAG-MISTRAL-7B-v3.0-CPT-HESSIAN-AI для сценариев генерации с контекстом, полученным через поиск. Модель рассчитана прежде всего на немецкоязычные бизнес-сценарии: ответы на вопросы по найденным документам, извлечение релевантной информации, суммаризацию и рассуждения, в том числе о временных связях. Поддерживает немецкий и английский языки. Размер — 7,1 млрд параметров, длина контекста — до 32 768 токенов. В обучающих примерах также предусмотрен формат для интеграции с контекстом и ссылками на источники. Модель выдаёт текст и может генерировать недостоверные ответы; факты следует проверять. В README также отмечены риски предвзятых и вредоносных ответов при отсутствии фильтрации безопасности. Модель и код доступны по лицензии Apache 2.0.

giannisan/llama3.1-70B-upscaled-105B — плотная авторегрессионная языковая модель семейства Llama 3.1, созданная методом passthrough-сборки в mergekit из двух перекрывающихся диапазонов слоёв предобученной Llama 3.1 70B. Веса сохранены в формате safetensors; размер модели — около 103,7 млрд параметров, длина контекста — до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Большой контекст подходит для работы с длинными документами и многоходовыми диалогами. Карточка не описывает отдельное обучение или специализированную предметную область. Лицензия в предоставленных данных не указана.

Карточка модели tanliboy/llama-3.2-3b на Hugging Face совпадает с карточкой alpindale/Llama-3.2-3B, поэтому описание составлено по ней. alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

CQDU/MiniMax-M3 — мультимодальная модель семейства MiniMax-M3, разработанная MiniMax. Она предназначена для диалогов с изображениями и видео, программирования и длительных агентных задач. Модель использует разреженное внимание MiniMax Sparse Attention (MSA), имеет около 428 млрд параметров, из которых активируется около 23 млрд, и заявленный контекст до 1 млн токенов. Обучение с совместными текстовыми, визуальными и видеоданными заявлено с самого начала, что поддерживает объединение информации из разных модальностей. Для запуска авторы указывают MiniMax Agent и MiniMax API; README также описывает локальное использование через Transformers и safetensors. Лицензия в метаданных обозначена как other, поэтому условия следует проверять в карточке модели и связанных документах.

Qwen3.6-35B-A3B-MTP-GGUF — это GGUF-квантизированная версия модели Qwen3.6-35B-A3B, разработанная ByteShape с использованием ShapeLearn. ShapeLearn подбирает тип данных для каждого тензора, чтобы сохранять качество при малой разрядности. Модель поддерживает Multi-Token Prediction (MTP), позволяющую предсказывать несколько токенов за один проход и ускорять декодирование за счёт спекулятивного принятия совпадающих токенов. Модель предназначена для GPU-инференса в llama.cpp и поддерживает работу с изображениями и текстом; для загрузки визуального проектора используется параметр --mmproj-auto. MTP особенно полезен при автодополнении кода, генерации структурированных ответов и повторяющегося контента, тогда как для творческой или нетипичной генерации ускорение может быть ниже. Варианты имеют размер от 10 до 18,6 ГБ и используют квантизации IQ2_S, IQ3_S и IQ4_XS с разрядностью 2,25–4,19 бит на вес. Базовая модель имеет 35B параметров и архитектуру, обозначенную как 35B-A3B; другие характеристики, включая языки и размер контекста, в README не указаны. MTP-голова встроена в GGUF, поэтому отдельная draft-модель не требуется, но нужен свежий выпуск llama.cpp с поддержкой draft-mtp. Производительность зависит от конкретной видеокарты и нагрузки; для большинства сценариев рекомендуется предсказывать на 2–4 токена вперёд. Модель распространяется по лицензии Apache-2.0.

llmfan46/Qwen3.6-35B-A3B-uncensored-heretic — мультимодальная чат-модель независимого автора, созданная на основе Qwen/Qwen3.6-35B-A3B. Это вариант с ослабленным отказом на запросы: в карточке приведено сравнение, где доля отказов составляет 10 из 100 против 83 из 100 у исходной модели. Модель предназначена для диалога, анализа изображений и сценариев агентного программирования с вызовом инструментов. Архитектура Qwen3.5 MoE содержит 35 млрд параметров, из которых активируется около 3 млрд; README также описывает языковую модель с визуальным энкодером и 262 144 токена нативного контекста, расширяемого до 1 010 000. Указаны возможности сохранения рассуждений в истории диалога и результаты тестирования MMLU, но эти сведения не гарантируют качество на конкретных задачах. Модель принимает текст и изображения и выдаёт текст. Файлы представлены в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. Поскольку модель специально снижает число отказов, она может отвечать на запросы, которые исходная модель отклоняет; ответы следует проверять, особенно в чувствительных сценариях.

Stockmark-2-100B-Instruct — плотная авторегрессионная языковая модель семейства Llama, разработанная Stockmark Inc. с нуля. Она содержит около 95,1 млрд параметров, обучена примерно на 2 трлн токенов: 60% английских данных, 30% японских и 10% кода. После предобучения модель прошла SFT и DPO на синтетических японских данных для улучшения следования инструкциям. Модель предназначена для диалогов и генерации текста, особенно на японском языке, а также поддерживает английский. Контекстное окно составляет 32 768 токенов; архитектура использует 86 слоёв и групповое запросное внимание с 72 головами Q и 8 головами KV. В опубликованной оценке Japanese MT-bench модель показала средний результат 7,87, включая задачи извлечения информации, ролевого диалога, STEM и программирования. Для запуска доступны веса в формате Safetensors; README приводит примеры использования с Transformers и vLLM. Модель распространяется по лицензии MIT. Для практического развертывания требуется значительный объём вычислительной памяти из-за размера модели; результаты бенчмарка не гарантируют качество в конкретном приложении.

ThinkingCap-Qwen3.6-27B-FP8 — мультимодальная языковая модель BottleCap AI, представляющая собой FP8-квантизированную версию ThinkingCap-Qwen3.6-27B. Базовая модель Qwen3.6-27B разработана командой Qwen, а ThinkingCap получена её дообучением с сохранением качества и стиля ответов при примерно на 50% меньшем среднем числе токенов рассуждений. Модель предназначена для текстовых задач, требующих рассуждений, а также для работы с визуальными данными, включая сценарии, оцениваемые на MMLU-Pro и RealWorldQA. Вес модели квантизирован в формате native block-wise FP8 E4M3 с блоками масштабирования 128×128 и динамической поканальной квантизацией активаций; отдельные компоненты, включая lm_head, MTP-голову, vision tower и входные вентили Gated-DeltaNet, сохранены в bf16. Размер в формате FP8 составляет около 29 ГБ против примерно 55 ГБ для bf16. MTP-голова поддерживает самоспекулятивное декодирование без отдельной draft-модели, а vLLM и SGLang умеют загружать модель нативно. Максимальный контекст, точный набор языков и полный перечень поддерживаемых модальностей в карточке не указаны. К сильным сторонам относятся снижение потребления памяти, близкое к исходному качество, сокращение длины рассуждений и существенное ускорение генерации; по заявленным внутренним тестам, сочетание дообучения, FP8 и MTP обеспечивало многократное ускорение на задачах MMLU-Pro и RealWorldQA. Ограничения включают зависимость производительности от оборудования и серверного движка, а приведённые результаты получены на внутреннем стенде BottleCap AI и не охватывают все сценарии применения. Лицензия — Apache-2.0, однако для доступа к модели требуется заполнить форму запроса.

Aitana-7B-S-Instruct-v0.1-i1-GGUF — это квантизированная версия инструкционной языковой модели Aitana-7B-S-Instruct, разработанной GPLSI. Репозиторий подготовлен и квантизирован пользователем mradermacher в формате GGUF для локального запуска. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, работу с многоязычными данными, извлечение информации, задачи рассуждения и обработку специализированных текстов. Модель имеет размер 7B параметров и работает с текстом. В README заявлена поддержка каталанского, испанского и английского языков; обучение и дообучение проводились на наборах данных для инструкционного обучения, многоязычного общения, поиска с дополнением контекста, перевода, юридических вопросов, научных фактов и математических задач. Доступно множество вариантов квантизации с разным размером от примерно 2,4 до 5,7 ГБ. В качестве рекомендуемого варианта указана i1-Q4_K_M, а i1-Q4_K_S описана как компромисс между размером, скоростью и качеством. Сильными сторонами модели являются ориентация на следование инструкциям, поддержка каталанского, испанского и английского языков, а также возможность запуска в ресурсно-ограниченной среде благодаря GGUF-квантизации. Ограничения включают зависимость качества и скорости от выбранного уровня квантизации; наиболее компактные варианты могут давать заметно более низкое качество. Архитектура и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

A.X 4.0 — большая языковая модель SK Telecom для понимания корейского языка и применения в корпоративной среде. Репозиторий skt/A.X-4.0 содержит плотную авторегрессионную модель семейства Qwen2, с классом Qwen2ForCausalLM и весами в формате safetensors; README указывает, что модель основана на Qwen2.5 и дополнительно обучена на крупных корейских наборах данных. Метаданные каталога указывают 71,1 млрд параметров, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для диалогов, понимания длинных документов и текстовых задач на корейском языке; интерфейс также поддерживает вызов инструментов. README сообщает о результатах на корейских тестах KMMLU и CLIcK и об экономном использовании токенов при обработке корейского текста. В карточке также упомянута облегчённая версия A.X 4.0 Light, но этот репозиторий содержит основную модель. Для запуска README указывает Transformers версии 4.46.0 или новее; для использования вызова инструментов через vLLM — версии 0.6.4.post1 или новее. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Gemma-4-31B-IT-NVFP4-GGUF — квантизированная версия мультимодальной модели Google Gemma-4-31B-it, подготовленная LibertAI для запуска через llama.cpp. Модель предназначена для генерации и понимания текста, а с дополнительным файлом mmproj — также для обработки изображений и аудио. Указан английский язык поддержки. Это плотная decoder-модель примерно на 30,7 млрд параметров с гибридной схемой локального скользящего и глобального внимания, unified KV в глобальных слоях и Proportional RoPE для длинного контекста. Тензоры dense FFN квантизированы в NVFP4, а остальные компоненты используют варианты GGUF-квантизации Q4_K_M, Q8_0 или BF16. Доступны файлы размером примерно от 17 до 30 ГБ; для мультимодального ввода требуется отдельный mmproj-файл размером около 1,2 ГБ. В README приведены примеры запуска с контекстом до 32768 токенов и результаты тестов на NVIDIA RTX 5090. Главное преимущество NVFP4-варианта — уменьшенный объём видеопамяти и высокая производительность на NVIDIA Blackwell, включая RTX 50-й серии, B100 и B200; вариант Q4_K_M рекомендован для наиболее эффективной работы. На старых GPU модель запускается, но преимуществ в производительности NVFP4 может не быть. Большой KV-кэш Gemma-4 ограничивает высокую конкурентную нагрузку, а более точные варианты требуют больше памяти. Модель распространяется по лицензии Gemma, унаследованной от исходной модели Google.

InternLM2.5-7B-Chat-1M — диалоговая языковая модель команды InternLM, вариант InternLM2.5-7B-Chat для работы с контекстом до 262 144 токенов по метаданным. Это плотная авторегрессионная модель семейства InternLM2 с 7,4 млрд параметров, предназначенная для генерации текста в ответ на запросы и ведения диалога. Модель рассчитана на анализ длинных документов, поиск сведений в большом контексте, математические рассуждения и сценарии с использованием инструментов. В README заявлена оценка на текстах длиной до миллиона токенов и приводится рекомендация использовать LMDeploy для инференса с таким контекстом; Transformers не поддерживает этот режим напрямую. Поэтому заявленную длину в миллион токенов следует считать характеристикой описанного в README режима, тогда как метаданные указывают native context в 262 144 токена. Репозиторий содержит веса в формате safetensors. README сообщает, что код распространяется по Apache-2.0, а для весов открыто академическое исследование и предусмотрена бесплатная коммерческая лицензия по запросу. Модель ориентирована на практическое применение, но её заявления о качестве приведены разработчиком по результатам собственных оценок.

Карточка модели babyfacez/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

JANGQ-AI/Mistral-Small-4-119B-A6B-JANG_2L — версия Mistral Small 4, подготовленная Jinho Jang с использованием открытого метода адаптивного квантования JANG и предназначенная для запуска на Apple Silicon через MLX. В README указаны архитектура Mistral Small 4 с MLA attention, 128 MoE-экспертами и визуальным энкодером Pixtral; размер модели — 119 млрд параметров, из которых активны около 6 млрд на токен. Репозиторий содержит веса safetensors, а вариант JANG_2L использует смешанную разрядность около 2,14 бита. Модель предназначена для диалогов и генерации текста, включая рассуждения, ответы на вопросы, математические задачи и написание кода. Она также принимает изображения для визуального анализа; README указывает максимальное разрешение 1540 пикселей и режим рассуждений с тегами [THINK]. Заявлены размер файлов около 30 ГБ и пиковое потребление памяти около 40 ГБ, поэтому автор рекомендует Mac с 48 ГБ объединённой памяти и MLX Studio для поддержки JANG. В метаданных указана лицензия Apache-2.0 и связь с базовой моделью mistralai/Mistral-Small-4-119B-2603. Заявления README о скорости и результатах MMLU являются результатами автора; они не описывают независимую оценку качества. Сильное квантование может влиять на точность, а для запуска нужны совместимая среда MLX и достаточно памяти.

Muse-Glimmer-30B-EXP-EVE-v1 — экспериментальная объединённая модель автора win10 на базе Muse-Glimmer-30B. В README описано слияние моделей разных архитектур методом Tensor Gene Evolution с добавлением возможностей и поведенческих особенностей DeepSeek-V4-Flash-0731 и dots3-note-prev. По метаданным это плотная мультимодальная модель семейства Muse Glimmer на 30 млрд параметров, работающая через Transformers и принимающая изображения и текст для генерации текстовых ответов. Модель предназначена для диалогов, анализа изображений, программирования, агентных сценариев и вызова инструментов. Автор отмечает более широкое и глубокое рассуждение и разнообразие способов решения задач по сравнению с базовой моделью; это заявление из карточки, а не приведённый результат независимой оценки. Распространяется по лицензии Apache-2.0.

Occamy-1.0 GGUF — это набор квантизированных файлов модели Occamy-1.0, разработанной Accio-Lab, в формате GGUF для запуска через совместимые среды, включая llama.cpp. Модель относится к мультимодальному классу image-text-to-text и поддерживает работу с текстом и изображениями через отдельный vision projector; для текстовых сценариев projector не требуется. Доступны варианты квантизации от IQ2_M и Q2_K до Q8_0, а также F16 vision projector. Размеры файлов составляют примерно от 10,9 до 34,4 GiB, без учёта дополнительной памяти на KV-кэш, контекст, параллельные запросы и изображения. Модель предназначена для генерации текста, программного кода, структурированных JSON-ответов и tool use. В README приведены проверки на задачах GSM8K, HumanEval+, строгом JSON и использовании инструментов, однако они выполнены на небольших выборках и не заменяют полноразмерные бенчмарки. Новые квантизации тестировались для текста, кода, JSON и tool use, но их возможности работы с изображениями повторно не проверялись. Размер контекстного окна, языковой охват и точные параметры архитектуры в представленном README не указаны; при этом модель связана с архитектурой MoE и семейством Qwen3.5 MoE. Для корректной работы важна совместимость токенизатора: выпущенные файлы используют метаданные qwen2, NFC-нормализацию и qwen2-подобные правила, а опубликованные измерения требуют специального переопределения qwen35 и не подтверждают полную эквивалентность токенизации. Квантизация уменьшает требования к памяти, но может снижать качество на низких разрядностях. Совместимость с CPU-only и Apple Silicon в приведённых испытаниях не устанавливалась. Файлы распространяются по лицензии Apache 2.0; отдельная MTP head в эти GGUF-файлы не входит.

openchat-3.5-0106-128k-DPO-fixed-32000 — слитая модель на архитектуре Mistral, созданная с помощью LazyMergekit на основе NousResearch/Yarn-Mistral-7b-128k и Eric111/openchat-3.5-0106-128k-DPO. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, написания текстов и работы с длинными документами; заявленная длина контекста в метаданных — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и конкретных языковых ограничениях в предоставленных данных отсутствуют.

Qwen2.5-0.5B-Instruct-AWQ — компактная инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen компании Alibaba Cloud. Она предназначена для генерации текста, диалоговых приложений, следования инструкциям, обработки структурированных данных и создания структурированных ответов, включая JSON, а также для задач программирования и математики. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и корейский. Модель построена по архитектуре causal language model на базе Transformer с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд приходятся на неэмбеддинговые параметры, 24 слоя и механизм GQA с 14 головами для Q и 2 для KV. Контекст составляет до 32 768 токенов, максимальная длина генерации — 8192 токена. AWQ-квантизация до 4 бит снижает требования к памяти и подходит для локального и ресурсно-ограниченного запуска, однако может приводить к некоторой потере качества по сравнению с исходной версией в формате bfloat16. README не содержит конкретных результатов бенчмарков, требований к объёму GPU-памяти или данных о пропускной способности. Модель распространяется по лицензии Apache-2.0. Для использования рекомендуется актуальная версия библиотеки transformers; версии ниже 4.37.0 могут быть несовместимы.

Карточка модели ashphisher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели zomasec/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF — мультимодальная модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Это дообученная версия с фокусом на эффективное рассуждение и генерацию текста по изображениям и текстовым запросам; модель рассчитана на conversational-сценарии, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Доступен формат GGUF для запуска с llama.cpp и совместимых инструментов, а также поддержка экосистемы Transformers и Unsloth. Заявлены языки English, Chinese и Korean, однако сведения о размере контекста в README отсутствуют. В версии v2 использовано около 14 000 образцов рассуждений в стиле Claude 4.6 Opus, с акцентом на короткие и переносимые шаблоны рассуждений. По данным автора, на HumanEval достигнуто 96,91% pass@1 при примерно 24% меньшей длине цепочки рассуждений и на 31,6% большем числе корректных решений на токен по сравнению с базовой моделью. При этом отмечено снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%; модель может уступать базовой версии в задачах, требующих длинного контекста, сложного многошагового рассуждения и более широких общих знаний. Приведённые оценки получены в условиях инференса BF16 с Unsloth и vLLM и не гарантируют аналогичные результаты в других конфигурациях. Модель распространяется по лицензии Apache-2.0. README не содержит подробных требований к аппаратному обеспечению, точного размера контекстного окна и исчерпывающей информации о возможностях или ограничениях мультимодального ввода.

Это мультимодальная модель Qwen3.6-27B, созданная darkc0de на основе Qwen/Qwen3.6-27B и дообученная на примерах рассуждений Claude Opus. Затем модель прошла decensoring методом abliteration с помощью Heretic v1.3.0; опубликованные параметры и сравнение показывают снижение частоты отказов с 98 до 8 на 100 запросах относительно исходной версии distill. Модель предназначена для диалогов, программирования, творческого письма, понимания изображений и задач общего назначения. Архитектура плотная, с 27 млрд параметров; заявлена поддержка изображений и текстового чата. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Для запуска автор отсылает к инструкциям команды Qwen.

Qwen3.6-27B-Jörmungandr — экспериментальный вариант Qwen, созданный nightmedia слиянием NuSLERP нескольких моделей семейства Qwen3.6 и Qwen3.5, а также Tess-4-27B. Это плотная модель класса Qwen3_5ForConditionalGeneration с 27 млрд параметров; репозиторий содержит веса safetensors и использует библиотеку Transformers. Метаданные указывают на поддержку визуальных входов и диалогового режима. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования и творческого письма, включая создание историй и ролевые сценарии. В README приведены результаты бенчмарков и оценки для нескольких вариантов квантования, но они не заменяют независимую оценку качества. Карточка не сообщает длину контекста; поддерживаемые языки по метаданным — английский, китайский, японский и испанский. Модель распространяется по лицензии Apache-2.0.

Qwopus3.8-27B-Flash-V2-bf16 — конверсия модели Jackrong/Qwopus3.8-27B-Flash-V2 в формат MLX BF16, подготовленная сообществом mlx-community для запуска на компьютерах Apple Silicon. Это мультимодальная модель семейства Qwen3.5 с архитектурой условной генерации; она принимает текст, изображения и видеоматериалы и поддерживает чат, работу с инструментами и генерацию кода. В конверсии сохранены шаблон чата и настройки мультимодального процессора исходной модели. Модель подходит для диалогов и задач с кодом, а также для вопросов по изображениям и видео. Для мультимодального запуска README рекомендует библиотеку mlx-vlm. Модель распространяется по лицензии Apache 2.0, унаследованной от исходной модели; подробности о назначении и ограничениях приведены в её исходной карточке.