I.11Классификация, ранжирование и сопоставление

Модель avans06/Meta-Llama-3.2-8B-Instruct — текстовая генеративная модель семейства Llama, размещённая на Hugging Face. Метаданные указывают на плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров, формат safetensors и контекст до 131 072 токенов. Она предназначена для диалогов и генерации текста; также заявлен интерфейс вызова инструментов. Карточка репозитория описывает Llama 3.2-Vision моделей Meta на 11B и 90B параметров, принимающих текст и изображения. Эти сведения не совпадают с идентификатором и архитектурными метаданными данной 8B текстовой модели, поэтому визуальные возможности и характеристики Vision к ней не приписываются. Метаданные перечисляют поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Лицензия — Llama 3.2 Community License, обозначенная в метаданных как llama3.2.

Карточка модели context-labs/meta-llama-Llama-3.2-3B-Instruct-FP16 на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-3B-Instruct, поэтому описание составлено по ней. Meta разработала Llama 3.2 3B Instruct — мультиязычную авторегрессионную языковую модель на архитектуре Transformer для генерации текста. Версия Instruct дообучена с помощью контролируемой настройки и обучения с подкреплением на основе обратной связи от людей; модель оптимизирована для диалогов с ассистентом и задач, связанных с агентными приложениями. Модель подходит для ответов в чате, поиска сведений и суммаризации, а также для мобильных помощников по написанию текста и переформулированию запросов. Она принимает текст и генерирует текст, в том числе код. В карточке семейства указан контекст до 128 тысяч токенов, а среди официально поддерживаемых языков перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель использует Grouped-Query Attention и рассчитана в том числе на запуск в средах с ограниченными ресурсами. По сравнению с более крупными моделями у компактных вариантов могут отличаться баланс безопасности и полезности; разработчикам следует проверять поведение модели в своём сценарии. Использование регулируется пользовательской коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

Phi-3-Small-128K-Instruct — компактная языковая модель Microsoft семейства Phi-3 с архитектурой Phi3SmallForCausalLM и примерно 8,2 млрд параметров по метаданным. Она предназначена для генерации текста и диалоговых сценариев, включая задачи на рассуждение, математику и программирование. Модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных; для следования инструкциям и повышения безопасности прошла supervised fine-tuning и direct preference optimization. Карточка описывает вариант с контекстом 128K токенов, однако метаданные указывают native_context_tokens 8192, поэтому заявленную поддержку длинного контекста следует проверить для конкретной версии и конфигурации. Модель ориентирована прежде всего на английский язык; для других языков качество может быть ниже. Она может выдавать неточные или вымышленные сведения, воспроизводить стереотипы и генерировать оскорбительный контент; сгенерированный код и API следует проверять. Лицензия — MIT.

unsloth/phi-4-unsloth-bnb-4bit — 4-битная версия модели Phi-4, разработанной Microsoft Research и подготовленной Unsloth. Модель основана на dense decoder-only Transformer с 14 млрд параметров, преобразована в архитектуру, совместимую с Llama, и предназначена для более удобного использования и дообучения. Квантизация выполнена в формате Unsloth BNB 4-bit с динамическим выбором параметров, что призвано сохранить более высокую точность по сравнению со стандартной 4-битной квантизацией. Модель работает с текстом, лучше всего подходит для запросов в чат-формате и предназначена для генерации текста, диалоговых приложений, задач NLP, математики и программирования. Поддерживаемый язык — английский. Контекстное окно составляет 16K токенов. Базовая Phi-4 обучалась на сочетании синтетических данных, отфильтрированных общедоступных веб-источников, академических книг и наборов вопросов и ответов, а также проходила supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. К сильным сторонам относятся компактность по сравнению с более крупными моделями, возможности рассуждения, а также сниженные требования к памяти благодаря 4-битному представлению; Unsloth заявляет о преимуществах для последующего fine-tuning. Ограничения включают текстовую модальность, ориентацию прежде всего на английский язык и возможные потери качества из-за квантизации, хотя динамический подход должен их уменьшать. Модель распространяется по лицензии MIT.

Qianfan-OCR — мультимодальная vision-language модель для анализа документов, разработанная командой Baidu Qianfan. Это end-to-end модель с 4 млрд параметров, предназначенная для преобразования изображений документов в Markdown и выполнения задач OCR, анализа структуры и расположения элементов, извлечения таблиц, понимания графиков, ответов на вопросы по документам и извлечения ключевой информации. Представленная версия распространяется в формате GGUF и была создана с использованием llama.cpp. Архитектура включает vision-энкодер Qianfan-ViT с 24 Transformer-слоями и поддержкой изображений разрешением до 4K, языковую модель Qwen3-4B с контекстом 32K токенов, расширяемым до 131K, а также двухслойный cross-modal adapter. Модель поддерживает OCR на 192 языках. Опциональный режим Layout-as-Thought позволяет сначала сформировать структурированное описание макета с ограничивающими рамками, типами элементов и порядком чтения, что полезно для сложных и неоднородных страниц; для простых документов этот режим можно отключать ради снижения задержки. Сильными сторонами модели являются единый подход к распознаванию и пониманию документов, поддержка сложной структуры, таблиц и многоязычного OCR. В заявленных результатах она получила 93,12 на OmniDocBench v1.5, 79,8 на OlmOCR Bench и 880 баллов на OCRBench; производительность достигает 1,024 страницы в секунду при W8A8-квантизации на одной GPU A100. Ограничения включают зависимость качества и скорости от разрешения изображений, сложности макета и выбранного режима обработки; конкретные требования к оборудованию для GGUF-версии в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Qwen2.5-14B-GGUF — это квантизированная версия базовой языковой модели Qwen2.5-14B, созданная QuantFactory с использованием llama.cpp. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста, продолжения текста и последующего дообучения, включая supervised fine-tuning, RLHF и continued pretraining. Разработчики не рекомендуют использовать базовую версию непосредственно для диалогов без дополнительного обучения. Модель относится к каузальным языковым моделям и содержит 14,7 млрд параметров, из которых 13,1 млрд не относятся к embedding-слою. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в attention QKV; предусмотрены 48 слоёв и Grouped-Query Attention с 40 головами Q и 8 головами KV. Контекстное окно составляет до 131 072 токенов, поддерживается генерация длинных текстов. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, работа со структурированными данными и генерация структурированных ответов, включая JSON, а также поддержка длинного контекста. К ограничениям относятся базовый, а не instruction-tuned характер модели и необходимость использования совместимого программного окружения; для работы рекомендуется актуальная версия transformers, поскольку версии ниже 4.37.0 могут вызывать ошибку совместимости. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-14B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-14B-Base, подготовленная Unsloth с использованием квантования Unsloth Dynamic 2.0. Исходную модель разработала команда Qwen. Это причинная языковая модель на стадии предварительного обучения, предназначенная для генерации и продолжения текста, обработки естественного языка, программирования, STEM-задач, рассуждений и работы с многоязычными данными. Модель содержит 14,8 млрд параметров, из них 13,2 млрд без учёта embedding-слоёв, имеет 40 слоёв и использует Grouped Query Attention: 40 голов для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. При обучении использовался корпус объёмом 36 трлн токенов на 119 языках, включавший языковые, кодовые, научно-технические, книжные, многоязычные и синтетические данные. Квантование до 4 бит снижает требования к памяти и может упростить локальный запуск, однако потенциально сопровождается потерей точности по сравнению с полной или менее агрессивной разрядностью. Это базовая, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения инструкций может потребоваться дополнительная настройка или специально подобранный prompting. Для работы рекомендуется использовать актуальную версию transformers; версии ниже 4.51.0 не поддерживают архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-1.7B-bf16 — конверсия модели Qwen/Qwen3-1.7B в формат MLX, подготовленная сообществом mlx-community с помощью mlx-lm версии 0.24.0. Это плотная авторегрессионная языковая модель семейства Qwen3 с 1,7 млрд параметров; она предназначена для генерации текста и диалогов, следования инструкциям, рассуждений и работы с кодом. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Нативная длина контекста — 40 960 токенов. Репозиторий использует safetensors, а вариант bf16 рассчитан на запуск в экосистеме MLX. Лицензия — Apache-2.0.

TeichAI/Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2 — дообученная мультимодальная модель семейства Qwen3.6 от TeichAI на базе Qwen/Qwen3.6-27B. Для обучения использовались наборы примеров с рассуждениями Claude Opus 4.5 и 4.6. Модель предназначена для диалогов, программирования, творческого письма, общего назначения и понимания изображений; метаданные также указывают интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen3_5ForConditionalGeneration и принимает текст и изображения, выдавая текст. В README приведены результаты бенчмарков ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande в точности mxfp8, с небольшими улучшениями относительно базовой Qwen3.6-27B в части тестов. Репозиторий содержит веса safetensors и распространяется по лицензии Apache 2.0. Результаты тестов не гарантируют качество на конкретных задачах; README рекомендует следовать инструкциям по настройке исходной модели Qwen.

Qwen3.6-35B-A3B-Fable-Holo3.1 — мультимодальная модель для диалогов и следования инструкциям, опубликованная Nightmedia. Это слияние Qwen3.6-35B-A3B, Qwen3.6-35B-A3B-Fable-5-Distill и Holo3.1-35B-A3B; архитектура относится к семейству Qwen3.5 MoE. Модель принимает текст и изображения и выдаёт текст. В карточке также описаны варианты для текстового режима, включая сборку с контекстом 1 млн токенов; эти сведения не подтверждают такую длину контекста для основного репозитория. Модель предназначена для мультимодальных диалогов, анализа изображений, рассуждений, задач STEM и программирования. Автор сообщает об улучшении perplexity, скорости и результатов на отдельных тестах после слияния, но не приводит полного описания методики и воспроизводимых сравнений. Модель распространяется под лицензией Apache-2.0.

Qwen3.6-35B-A3B-Heretic-Cerebellum-GGUF — это квантизированная GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Вариант Heretic создан на основе uncensored-модификации от llmfan46 с применением Heretic v1.2.0, а смешанно-точная квантизация Cerebellum выполнена deucebucket. Модель относится к архитектуре Qwen3 и использует MoE-подход; рекомендуемый файл Q3_K_M занимает около 11,96 ГБ. Для мультимодальной работы требуется отдельный vision projector BF16 размером около 858 МБ, поддерживающий обработку изображений и видео через llama.cpp. Модель предназначена для генерации текста, рассуждений, ответов на вопросы, программирования и мультимодального описания изображений. По приведённым локальным тестам на RTX 3090 она показывает 95,48% на ARC-Challenge, 91,78% на HellaSwag, 75,42% на MMLU-Redux и pass@1 64,63% на HumanEval+. Эти результаты характеризуют конкретную квантизированную сборку и не гарантируют аналогичную производительность в других конфигурациях. Сильными сторонами являются сочетание относительно компактного размера, MoE-архитектуры, смешанной квантизации, поддержки мультимодальных сценариев и хороших результатов на задачах общего reasoning и программирования. Ограничения включают потери качества из-за квантизации, необходимость совместимого рантайма и vision projector для работы с изображениями и видео, а также отсутствие в предоставленных данных сведений о длине контекста и поддерживаемых языках. Модель распространяется по лицензии Apache-2.0.

avlp12/Qwen3.8-27B-Alis-MLX-8bit — 8-битная квантизированная версия мультимодальной модели Qwen3.8-27B от Qwen, подготовленная пользователем avlp12 для запуска на Apple Silicon с использованием MLX. Модель предназначена для генерации и анализа текста, работы с изображениями и сценариев, где важны высокая точность, длинные последовательности генерации и агентские циклы. Поддержка изображений сохранена благодаря полной vision-башне, а также сохранена MTP-голова для speculative decoding. Модель основана на архитектуре Qwen3_5ForConditionalGeneration с типом модели qwen3_5 и содержит 27 миллиардов параметров. Квантованный языковой компонент использует 8-битное представление, тогда как 333 тензора vision-башни объёмом около 0,461 млрд параметров сохранены в исходном формате bf16. Указанный размер сборки составляет 27,9 ГБ, пиковое потребление оперативной памяти при загрузке и коротком контексте — около 28,1 ГБ, скорость декодирования на Apple M3 Ultra — около 22 токенов в секунду. Модель поддерживает мультимодальный ввод, включая изображения; заявленные языки включают английский и корейский, также отдельно измерялось качество на коде. Размер контекста в README не указан. Главное преимущество сборки — близкое к исходной bf16-модели поведение при существенно меньшем размере и более высокой скоростью декодирования; заявленные различия perplexity статистически неразличимы на проверенных корпусах. Ограничения — необходимость совместимого Apple Silicon и MLX-окружения, значительные требования к памяти, а также возможное снижение точности из-за 8-битной квантизации по сравнению с bf16. Лицензия модели — Apache-2.0.

infosave/Qwen3.8-27B-cmf — это квантизированная версия модели Qwen3.8-27B, преобразованная в контейнер CMF. Исходная модель разработана командой Qwen, а данный репозиторий содержит её представление для запуска через cortiq — нативный Rust-бинарник без Python и ML-фреймворков. Модель предназначена для генерации текста, диалогов, объяснения технических тем и работы через API, совместимый с OpenAI, а также через Ollama-совместимый интерфейс. Модель имеет 27 млрд параметров и гибридную архитектуру: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания. Заявлено контекстное окно до 262 тысяч токенов и режим рассуждений. Поддерживаются английский, русский и китайский языки. Доступны варианты квантизации 4-bit и 8-bit; наиболее компактный q4tp занимает 14,3 ГБ, q4t — 15,4 ГБ, а q8_2f — 27,4 ГБ. К сильным сторонам относятся большое контекстное окно, поддержка различных GPU через Vulkan, Metal и DX12, работа на CPU, совместимость с NVIDIA, AMD, Intel и Apple silicon, а также возможность спекулятивного декодирования для ускорения жадной генерации. Ограничения связаны с высокими требованиями к памяти, зависимостью производительности от оборудования и характера запроса, а также с тем, что спекулятивное декодирование применяется преимущественно для greedy-генерации и не всегда ускоряет свободный текст. Модель распространяется по лицензии Apache-2.0.

Davidmg0815/Qwen3.8-27B-MTP-GGUF — это GGUF-конверсия модели Qwen/Qwen3.8-27B, опубликованная Davidmg0815 и собранная из оригинальных BF16-весов. Репозиторий предназначен для запуска через llama.cpp и содержит отдельную MTP-модель для speculative decoding, благодаря чему Multi-Token Prediction можно использовать в llama-server. Модель рассчитана на текстовые и мультимодальные сценарии: диалог, рассуждения, генерацию и анализ текста, программирование, структурированный вывод, а также обработку изображений и видео при использовании отдельного vision/video-проектора. В метаданных указаны немецкий и английский языки. Доступны целевая модель в вариантах Q8_0 размером 27,3 ГБ и Q6_K размером 21,0 ГБ, отдельный MTP-draft размером около 3,0 ГБ и мультимодальный проектор F16 размером около 0,9 ГБ. Заявлен контекст до 262 144 токенов; в тестовой конфигурации использовался KV-cache q8_0. Сильная сторона сборки — эффективное speculative decoding: на трёх RTX 3080 по 20 ГБ MTP увеличивал скорость до 2,79 раза для рассуждений и примерно в 1,7 раза для обычного связного текста. В тестах указаны результаты 98,0% на MATH-500 и 88,4–90,2% на HumanEval+. При этом выигрыш от MTP сильно зависит от типа текста: для предсказуемых последовательностей он выше, а для творческого текста и кода ниже. Q8_0 ориентирован на максимальное сохранение качества, тогда как Q6_K быстрее и требует меньше памяти; различия в качестве между ними в приведённых тестах не обнаружены. Для работы MTP необходимы совместимые целевая и draft-модели и llama.cpp с соответствующими параметрами. Лицензия — Apache-2.0.

Карточка модели unsloth/Qwen3-Next-80B-A3B-Thinking на Hugging Face совпадает с карточкой Qwen/Qwen3-Next-80B-A3B-Thinking, поэтому описание составлено по ней. Qwen3-Next-80B-A3B-Thinking — языковая модель с открытыми весами от команды Qwen, предназначенная для сложных задач рассуждения и диалогового применения. Она работает только в режиме размышления и может формировать длинные цепочки рассуждений. Модель построена на причинной архитектуре Qwen3-Next с разреженной смесью экспертов (MoE) и сочетает Gated DeltaNet с Gated Attention для работы с длинным контекстом. Всего в ней 80 млрд параметров, из которых активны около 3 млрд; метаданные каталога указывают 2,3 млрд параметров. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000 токенов. Поддерживаются генерация текста, чат и интерфейс вызова инструментов. Модель подходит для многошагового анализа, решения сложных задач и работы с большими текстовыми контекстами. В README заявлены высокие результаты на тестах рассуждения и эффективность инференса, но эти сравнения приведены разработчиком. Для запуска нужны совместимые версии Transformers, SGLang или vLLM и значительные вычислительные ресурсы; README рекомендует несколько GPU и отмечает риск нехватки памяти при длинном контексте. Лицензия — Apache 2.0.

Yuan 2.0-51B-hf — плотная авторегрессионная языковая модель семейства Yuan, разработанная IEIT System. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, рассуждения, решение математических задач и помощь с кодом. Модель насчитывает 46,2 млрд параметров, использует архитектуру YuanForCausalLM и принимает контекст длиной до 4096 токенов. Разработчики указывают, что Yuan 2.0 основана на Yuan 1.0 и обучалась на расширенных наборах предобучающих и инструкционных данных. В карточке приведены бенчмарки по математике, программированию и достоверности ответов, но результаты конкретно этой версии в предоставленном фрагменте не показаны. Модель может ошибаться и поддаваться вводящим в заблуждение инструкциям. Для весов и репозитория указаны лицензия other и условия Yuan 2.0; README сообщает о возможности коммерческого использования при соблюдении этих условий.

win10/DeepSeek-R1-Distill-sthenno-14b-0121 — объединённая языковая модель на 14 млрд параметров, созданная с помощью mergekit методом TIES на основе sthenno-com/miscii-14b-1225 и объединяющая веса DeepSeek-R1-Distill-Qwen-14B и tempesthenno-ppo-ckpt40. Она использует архитектуру Qwen2ForCausalLM, распространяется в формате safetensors и рассчитана на генерацию текста и диалоги; заявленная длина контекста — 131072 токена. Модель подходит для диалоговых сценариев и генерации ответов, включая задачи рассуждения, математики и программирования, указанные в описании базовой модели каталога. README приводит конфигурацию слияния и тип данных float16. Репозиторий не сообщает отдельные результаты оценки качества или подробные ограничения. Лицензия в предоставленных данных не указана.

Edmon02/gemma-4-12B-it-GGUF — это общественное GGUF-зеркало инструкционно дообученной мультимодальной модели Gemma 4 12B IT от Google DeepMind, основанное на google/gemma-4-12B-it. Репозиторий поддерживается Edmon02 и содержит наборы квантованных весов, синхронизированные из bartowski/gemma-4-12B-it-GGUF, для локального запуска на пользовательском оборудовании. Модель предназначена для генерации текста, создания локальных агентов, программирования, а также мультимодальных сценариев с анализом изображений и аудио. Она имеет около 12 млрд плотных параметров, поддерживает текст, vision и audio, использует encoder-free архитектуру без отдельных визуального и аудиокодировщиков. Для обработки изображений в llama.cpp требуется дополнительный файл mmproj-*.gguf. Точное значение контекстного окна в README не указано. Заявлена поддержка английского языка; отдельно упоминаются сценарии исследований на армянском и английском, но полноценный перечень языков не приведён. К сильным сторонам относятся широкий выбор квантований, возможность запуска на устройствах с примерно 8–24 ГБ видеопамяти и интеграция с llama.cpp, LiteRT-LM, LM Studio, Ollama и MLX. Рекомендуемый вариант Q4_K_M рассчитан примерно на 16 ГБ памяти. Ограничения включают необходимость проверять качество общественных квантований относительно официальной версии BF16, возможную потребность в самых свежих сборках llama.cpp или LM Studio для аудио, а также требование принять лицензию и получить доступ к исходному gated-репозиторию Google. Указана лицензия Apache 2.0.

Hagwell/GLM-5.3-Flash-GGUF — GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 и распространяемой в экосистеме Z.ai; репозиторий также связан с инструментами Unsloth. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом и мультимодальными данными. GLM-5.3-Flash — первая нативно мультимодальная модель серии GLM-5. Она содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Архитектура сочетает разреженное и линейное внимание для снижения стоимости обслуживания длинного контекста и использует Manifold-Constrained Hyper-Connections для повышения эффективности масштабирования. Модель обучалась на мультимодальном корпусе объёмом 30 трлн токенов и поддерживает английский и китайский языки. В README заявлены улучшения относительно GLM-5.2, особенно в программировании и агентских задачах. Ключевые ограничения связаны с форматом и совместимостью: для запуска рекомендуется использовать llama.cpp с указанными изменениями или приложение Unsloth Desktop. README не содержит подробных сведений о конкретных вариантах квантизации, требованиях к памяти, максимальном контексте для данного GGUF-файла или ограничениях качества. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-GGUF — квантизованное GGUF-представление модели GLM-5.3-Flash, разработанной командой GLM-5 и распространяемой в данном формате Unsloth. Модель предназначена для генерации текста, программирования, агентских сценариев и работы с мультимодальными данными. Заявлена поддержка английского и китайского языков. Модель имеет гибридную архитектуру, сочетающую разреженное и линейное внимание, а также использует Manifold-Constrained Hyper-Connections для повышения эффективности масштабирования. Общий размер составляет 320 млрд параметров, из них 18 млрд активны при обработке запроса. Это первая нативно мультимодальная модель серии GLM-5; обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Архитектура ориентирована на снижение стоимости обработки длинного контекста при сохранении возможностей работы с большими объёмами данных, однако точный размер контекстного окна в README не указан. К сильным сторонам относятся мультимодальность, высокая заявленная эффективность, поддержка длинного контекста, задачи программирования и автономной работы с инструментами. Ограничения включают отсутствие подробных сведений о конкретных модальностях, точных характеристиках GGUF-квантизации и требованиях к оборудованию. Модель распространяется по лицензии MIT; для запуска рекомендуется совместимый стек llama.cpp или Unsloth Desktop.

Это квантованная версия Qwen3.5-35B-A3B, доработанная huihui-ai в стиле Claude 4.6 Opus и опубликованная cesarsal1nas в формате GGUF. Модель предназначена для диалогов, следования инструкциям, программирования, рассуждений, генерации структурированных ответов и работы с инструментами. Она также поддерживает обработку изображений при использовании отдельного vision-проектора. Архитектура — qwen35moe: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов, из которых активируются 8. Используется квантование Q4_K_M с размером основного файла около 20 ГБ; vision-проектор F16 занимает около 858 МБ. Заявленная длина контекста — 262 144 токена, однако в примерах запуска рекомендуется 131 072. Языки в README не указаны. К сильным сторонам относятся сочетание MoE-архитектуры с относительно небольшим числом активных параметров, поддержка текста и изображений, а также заявленная пригодность для reasoning, coding и tool use. Модель подвергнута abliteration: механизмы отказа и ограничения выравнивания удалены, поэтому её ответы могут быть менее безопасными и требуют особенно внимательного контроля. Указанные возможности основаны преимущественно на тестировании автора в Hermes Agent; независимые оценки качества не приведены. Лицензия — Apache 2.0.

bullerwins/Hunyuan-A13B-Instruct-hf — это конвертированная в формат Hugging Face версия чат-модели Hunyuan-A13B-Instruct, разработанной Tencent и представленной в репозитории в формате safetensors. Модель использует архитектуру Mixture of Experts (MoE); в README для исходной модели указаны 80 млрд параметров всего и 13 млрд активных, тогда как метаданные этой копии сообщают 3,1 млрд параметров. Поэтому размер модели в описании этой версии нельзя однозначно согласовать с характеристиками оригинала. Модель предназначена для генерации ответов в диалоге, рассуждений, математики, программирования и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. README исходной модели описывает режимы быстрого и углублённого рассуждения и контекст до 256K токенов, но метаданные этой копии указывают нативный контекст 32 768 токенов. Поддерживаемые языки в предоставленных данных не перечислены. Модель работает с текстом на входе и выдаёт текст. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией Tencent в репозитории перед использованием.

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, опубликованная в репозитории Unsloth в формате Safetensors. Это плотный декодерный Transformer на архитектуре Llama 3.1, дообученный для рассуждений, диалогов, следования инструкциям, математики, программирования, RAG и вызова инструментов. В метаданных указано 7,5 млрд параметров, а контекстное окно составляет до 131 072 токенов. Модель принимает и генерирует текст. Она рассчитана прежде всего на английский язык и также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Режим рассуждений включается системным промптом; для локального запуска карточка указывает, что модель помещается на одну RTX GPU. Поддерживаются диалоговый режим и интерфейс вызова инструментов. Модель предназначена для чат-ботов, агентных систем, RAG-приложений и типовых задач по инструкциям. README заявляет коммерческую готовность, однако метаданные указывают лицензию «other» без конкретных условий в предоставленных сведениях; перед использованием следует сверить лицензионные условия исходной карточки. Результаты оценки зависят от режима рассуждений и формата промпта, а русская поддержка не заявлена.

Llama-3-70B-Instruct-Gradient-1048k — разработанная Gradient версия Meta Llama 3 70B Instruct с расширенным контекстом. Она предназначена для диалоговых приложений и обработки длинных текстов, например для анализа больших документов и работы с контекстом свыше миллиона токенов. Модель использует плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и принимает текстовые запросы, выдавая текст. В README указано расширение контекста с 8 тысяч до более чем 1 048 тысяч токенов; метаданные задают длину контекста 1 048 576 токенов. Gradient сообщает о настройке RoPE theta и обучении на 34 млн токенов для этого этапа, около 430 млн токенов суммарно. Модель рассчитана прежде всего на английский язык. Для запуска README рекомендует Transformers или TGI. Лицензия — Llama 3; перед использованием следует учитывать её условия. Как и другие большие языковые модели, она может выдавать ошибки и небезопасные ответы; результаты и меры безопасности следует проверять для конкретного применения.

Карточка модели ByteResearch/Llama-3-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

Llama-8B-Distill-CoT — плотная языковая модель для генерации текста, разработанная prithivMLmods на основе DeepSeek-R1-Distill-Llama-8B. Она дообучена на данных для рассуждений и специализированных наборах с упором на цепочки рассуждений и многошаговое решение задач. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; для запуска предусмотрена библиотека Transformers. Заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговых помощников, следования инструкциям, математических и логических задач, программирования, а также подготовки объяснений, документации и аналитических текстов. В карточке перечислен английский язык. Модель может генерировать ошибочные или предвзятые ответы, испытывать пробелы в специализированных областях и требует значительных вычислительных ресурсов. Лицензия — Llama 3.1.

FreedomAISVR/Magistral-Small-2509-MXFP4-GGUF — квантизированная версия мультимодальной модели Magistral-Small-2509 от Mistral AI, опубликованная в формате GGUF с квантизацией MXFP4. Модель основана на Mistral-Small-3.2-24B-Instruct-2506 и содержит 24 млрд параметров; в README указана архитектура Dense Transformer с классом Mistral3ForConditionalGeneration и контекст до 131 072 токенов. Для обработки изображений используется проектор mmproj с визуальным энкодером Pixtral ViT.

Карточка модели NarsAI/mini-2.0 на Hugging Face совпадает с карточкой inclusionAI/Ling-mini-2.0, поэтому описание составлено по ней. Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.

MiniCPM5-2B-OptiQ-4bit — локальная 4-битная MLX-квантизация модели openbmb/MiniCPM5-2B, разработанной OpenBMB, с использованием инструментария mlx-optiq. Это языковая модель Llama-архитектуры с 42 слоями, размером 2B параметров и контекстом до 128k токенов. Указаны английский и китайский языки. Модель предназначена для текстовой генерации, диалоговых ассистентов, перефразирования, математических и кодовых задач, многошагового рассуждения, работы с инструментами и локального запуска на устройствах Apple Silicon. Ключевая особенность — чувствительная к слоям смешанная точность: 112 из 295 линейных слоёв сохранены в 8-битном формате, остальные 183 используют 4-битное представление. Размер файла составляет около 1,84 ГБ. Доступны режимы без рассуждений для быстрых ответов и с рассуждениями для математики, планирования и многошагового кода. Модель поддерживает собственный формат tool calling, который через optiq serve преобразуется в вызовы инструментов, совместимые с OpenAI и Anthropic API. По приведённым тестам модель показывает высокие результаты в следовании инструкциям, математике, генерации кода и вызове инструментов, однако оценка извлечения информации из длинного контекста заметно ниже остальных показателей. К ограничениям относятся необходимость MLX и Apple Silicon для описанного локального сценария, зависимость качества от режима рассуждений и отсутствие заявленных мультимодальных возможностей. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Phi-3 Medium-128K-Instruct ONNX DirectML — конвертированная и оптимизированная Microsoft версия языковой модели Phi-3 Medium для генерации текста и диалогов. Модель содержит 13,8 млрд параметров и распространяется в формате ONNX; вариант в репозитории квантован до INT4 методом AWQ и рассчитан на инференс через ONNX Runtime с DirectML на Windows GPU. Модель предназначена для ответов на вопросы, следования инструкциям, рассуждений, работы с математическими и программными задачами и обработки длинных запросов. Исходная модель обучена на синтетических данных и отфильтрованных общедоступных веб-страницах, а её постобучение включало supervised fine-tuning и direct preference optimization. README описывает семейство как поддерживающее контекст до 128K токенов, однако метаданные репозитория указывают native context в 4096 токенов, поэтому доступную длину контекста следует уточнять для конкретной сборки. Сборка ориентирована на ускорение генерации на GPU AMD, Intel и NVIDIA с DirectML; в README приведено тестирование на RTX 4090 и минимальная конфигурация Windows с GPU, совместимым с DirectX 12, и 10 ГБ объединённой RAM. Квантование может влиять на точность, несмотря на заявленное сохранение качества AWQ. Модель разработана Microsoft и распространяется по лицензии MIT.