I.1Поиск и навигация по информации

CultriX/Qwen2.5-14B-Hyperionv4 — объединённая языковая модель на архитектуре Qwen2.5, созданная с помощью mergekit. В качестве базовой модели использована CultriX/Qwen2.5-14B-Wernickev3; слияние выполнено методом DARE TIES с участием нескольких моделей семейства Qwen и других производных 14B-моделей. Модель предназначена для генерации текста и диалогового общения, включая сценарии с длинным контекстом до 131 072 токенов. Она поставляется в формате Safetensors и поддерживает интерфейс вызова инструментов. В карточке не заявлена специализация на конкретном языке или прикладной области. Модель содержит 14 млрд параметров. Лицензия в доступных данных не указана.

RedHatAI/Qwen2.5-1.5B-quantized.w8a8 — квантизированная версия языковой модели Qwen2.5-1.5B, разработанная Neural Magic. Модель предназначена для генерации текста и ассистентских диалогов, включая коммерческое и исследовательское применение на нескольких языках. На вход принимает текст и возвращает текст; заявленный язык — английский. Архитектура — Qwen2, размер — 1,5 млрд параметров. Модель использует INT8-квантизацию весов и активаций, что примерно на 50% снижает требования к видеопамяти и размер диска, а также может примерно вдвое увеличить производительность матричных умножений. Квантизуются линейные операторы в трансформерных блоках: веса — статически по каналам, активации — динамически для каждого токена. Для эффективного развертывания рекомендуется vLLM; в README указан контекст до 8192 токенов. По среднему результату OpenLLM Leaderboard модель набрала 58,34 против 58,48 у неквантизированной версии, сохранив 99,8% исходного результата. Ограничениями являются снижение точности по отдельным задачам и отсутствие в предоставленных данных подробной информации о поддерживаемых языках, безопасности, специализированных доменах и качестве за пределами указанных бенчмарков. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимое законодательство и нормативные требования.

Downtown-Case/Qwen2.5-32B-EVA-Instruct-Merge-0.1 — объединённая языковая модель на базе Qwen2.5-32B, созданная методом della с помощью mergekit. В объединение вошли EVA-Qwen2.5-32B версий 0.0 и 0.1, а также Qwen2.5-32B-Instruct; в качестве базовой модели при слиянии использовалась Qwen2.5-32B. Модель предназначена для генерации текста и диалогового взаимодействия. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 32 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка указывает интерфейс для вызова инструментов. Карточка не описывает отдельную специализацию или проверенные преимущества слияния; качество ответов и работы с инструментами следует оценивать на целевых сценариях. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

z-lab/Qwen3.6-35B-A3B-PARO — это мультимодальная версия модели Qwen/Qwen3.6-35B-A3B, подготовленная командой z-lab с использованием метода 4-битного квантования ParoQuant, или Pairwise Rotation Quantization. Модель предназначена для генерации и анализа текста, а также для сценариев image-text-to-text, в которых требуется обработка изображений вместе с текстовыми запросами. Модель имеет размер 35B-A3B согласно идентификатору базовой модели. Языковые компоненты квантованы до INT4, тогда как визуальные компоненты сохранены в исходной точности. Такой подход должен обеспечивать высокую эффективность вывода при сохранении качества, близкого к FP16, и скорости, сопоставимой с AWQ, согласно описанию разработчиков. Поддерживаются NVIDIA GPU через vLLM и Transformers, а также компьютеры Apple Silicon через MLX; доступны интерактивный режим и OpenAI-совместимый сервер. К ограничениям относятся повышенный размер относительно полностью квантованной мультимодальной модели и необходимость не загружать визуальные компоненты, если обработка изображений не требуется. В README не указаны поддерживаемые языки, максимальная длина контекста и подробные результаты бенчмарков. Модель распространяется по лицензии Apache-2.0; сведения о дополнительных ограничениях базовой модели в README не приведены.

lued/Qwen3.8-27B-AEON-UNCENSORED-INT8-W8A16-MTP — квантованная версия модели AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, основанной на Qwen/Qwen3.8-27B. За исходную архитектуру и базовую модель отвечает Qwen, за abliteration — AEON-7, а данный репозиторий содержит числовую W8A16-квантизацию, подготовленную lued. Модель предназначена для диалоговых и мультимодальных сценариев с обработкой текста и изображений, а также для развёртывания в vLLM на видеокартах Ampere. Модель имеет размер 27B параметров, поддерживает vision tower, режимы reasoning и нативный контекст до 262 144 токенов. Веса языковой модели представлены в INT8 с FP16 или BF16-активациями по схеме W8A16; голова MTP сохранена в BF16 для speculative decoding. Конфигурация оптимизирована для тензорного параллелизма на двух RTX 3090 и поддерживает FP8 E4M3 KV-кэш. Расширение контекста до 1 млн токенов с YaRN указано как отдельная возможность исходной модели и не гарантируется данной конфигурацией. Сильные стороны модели — сниженное потребление памяти по сравнению с BF16-версией, сохранение мультимодальности, большого контекста и MTP, а также отсутствие заявленных отказов на проверенном наборе промптов у исходной uncensored-версии. Ограничения включают зависимость от совместимой конфигурации vLLM, Ampere-ориентированную оптимизацию, необходимость учитывать доступную KV-память и возможное отличие поведения от стандартной Qwen3.8-27B из-за abliteration. В README указана лицензия Apache-2.0.

Qwen3.8-27B-FP8 — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная huginnfork на базе модели Qwen/Qwen3.8-27B. Она предназначена для задач, объединяющих работу с текстом и изображениями, включая генерацию и понимание ответов по визуально-текстовым запросам. Модель поддерживает speculative decoding и multi-token prediction, однако конкретный набор языков и максимальная длина контекста в предоставленных данных не указаны. Модель имеет плотную архитектуру семейства Qwen3.5 с гибридом линейного внимания и полного self-attention, vision tower и MTP-head. Квантование выполнено по схеме FP8_DYNAMIC W8A8: веса и активации MLP-проекций квантуются в FP8 E4M3, а активации обрабатываются динамически на уровне токенов. Пути self-attention, linear attention на базе SSM, vision tower, lm_head и MTP-head сохранены в формате bf16. Размер чекпойнта составляет около 35,8 GiB в восьми файлах против 51,7 GiB у версии bf16. Выборочная квантизация MLP снижает объём хранения и, согласно приведённым измерениям, обеспечивает меньшее расхождение с исходной bf16-моделью, чем официальный FP8-релиз, при сохранении сопоставимой perplexity. Ограничения включают необходимость совместимого программного и аппаратного стека для FP8 и отсутствие в предоставленном README подробностей о фактической производительности, поддерживаемых языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

kelnei/Qwen3.8-27B-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.8-27B, разработанная на основе исходной модели Qwen/Qwen3.8-27B. Она предназначена для генерации текста и обработки изображений с текстом, включая сценарии чат-взаимодействия и инференса на NVIDIA Blackwell GPU с архитектурой SM 12.0 и выше. Модель использует смешанную квантизацию: большинство линейных слоёв работают в NVFP4 (W4A4, group-16), отдельные компоненты — в FP8, а vision tower, merger, embeddings, norms и часть DeltaNet-слоёв сохранены в BF16. Размер чекпойнта и требуемой видеопамяти составляет около 21,8 ГБ против примерно 56 ГБ у версии BF16. Поддерживаются KV-кэш FP8 и multi-token prediction (MTP); заявленная точность относительно BF16-оригинала — 94,1% совпадения top-1 при эмулированном W4A4-инференсе. Главное преимущество модели — существенное снижение требований к памяти при сохранении близкого к исходному качеству и повышение скорости декодирования, особенно при MTP speculative decoding. Рекомендуемый сервер — vLLM с оптимизированными NVFP4-ядрами; для SGLang необходимо использовать более раннюю ревизию с BF16-головой, поскольку текущая FP8-голова может приводить к вырожденным результатам. Для работы требуется совместимый NVIDIA Blackwell GPU, поэтому модель не является универсальной для старых видеокарт. Модель распространяется по лицензии Apache-2.0.

Это мультимодальная vision-language модель Qwen3.8-27B, разработанная командой Qwen и представленная в квантованном варианте пользователем lribeiro. Модель предназначена для обработки текста, изображений и видео, включая задачи понимания визуального содержания и генерации текста по визуальному контексту. Она реализована на базе архитектуры Qwen3_5ForConditionalGeneration и поддерживает многоязычные сценарии. Языковая часть содержит около 27 млрд параметров, а vision tower — ещё около 460,7 млн. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, а также vision encoder на базе 27-слойного ViT. Контекст в указанной конфигурации составляет 8192 токена. Лингвистические слои используют FP8 E4M3 в режиме W8A8 с GPTQ-коррекцией весов, тогда как визуальный энкодер и MTP-head сохранены в BF16. Размер чекпойнта составляет 29,97 ГБ против 55,6 ГБ у BF16-базы. Сильными сторонами являются сохранённая обработка изображений и видео, уменьшенный размер, высокая скорость prefill и поддержка MTP speculative decoding; после исправления конфигурации заявлена скорость декодирования 106,9 токена в секунду против 69,4. Ограничения включают необходимость оборудования с поддержкой FP8, прежде всего NVIDIA Blackwell, Ampere или Hopper, а также зависимость от совместимой версии vLLM и FlashInfer. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4-vllm — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем kekzle. Модель предназначена для запуска в vLLM и imp; поддерживает текстовые и визуальные входы, при этом в карточке указан английский язык. Это гибридная архитектура с компонентами GDN, vision tower и MTP draft head, однако подробные сведения о точной архитектуре и максимальном контексте не приведены. Линейные веса внимания, MLP и GDN-проекций сжаты в NVFP4 с группами размера 16 по схеме W4A16, а embeddings, lm_head, нормализации, vision tower и MTP draft head сохранены в исходной точности BF16. Размер весов уменьшен примерно с 51,75 до 19,2 ГиБ, что позволяет разместить модель на видеокарте с 32 ГиБ памяти. По приведённым измерениям на RTX 5090 модель достигла perplexity 4,6158, скорости декодирования до 87,4 токена в секунду и результата 45/45 в тестовом наборе качества. Сильные стороны модели — существенная экономия памяти, поддержка работы с текстом и изображениями, совместимость с vLLM и imp, а также возможность запуска на потребительских видеокартах Blackwell sm_120, где опубликованные варианты с FP8 attention могут не работать. Ограничения связаны с экспериментальным характером квантования без калибровки активаций, меньшей производительностью vLLM на sm_120 из-за fallback на Marlin и необходимостью настраивать число последовательностей и параметры памяти. Для многошаговых диалогов рекомендуется выделять не менее примерно 400 токенов на ответ, поскольку бюджет включает внутреннее рассуждение. Модель распространяется по лицензии Apache-2.0. Квантованная версия создана из официального релиза BF16 с помощью экспериментального квантовщика imp.

Qwen3-VL-8B-Instruct (Abliterated) — модифицированная мультимодальная vision-language модель на базе Qwen3-VL-8B-Instruct. В README разработчик исходной модели не указан. Модель дообучена для следования инструкциям и, согласно описанию, дополнительно подвергнута abliteration — удалению защитных ограничений и фильтрации контента. Модель предназначена для анализа изображений, графиков, схем, скриншотов и документов, визуального ответа на вопросы, генерации описаний изображений, OCR, извлечения и понимания текста, обработки отсканированных форм и многошагового визуального рассуждения. Поддерживает мультимодальные диалоги, включая многоходовое взаимодействие с визуальным содержимым. Заявлены мультиязычность, включая английский и китайский языки, а также контекст до 32 тысяч токенов с учётом текстовых и визуальных токенов. Архитектура описана как Vision Transformer encoder в сочетании с языковым decoder на базе Qwen3-8B; размер языковой модели — около 8 миллиардов параметров. Доступны варианты в форматах safetensors и GGUF, включая FP16, Q8_0 и Q4_K_M, что позволяет запускать модель через Transformers, llama.cpp, Ollama или LM Studio на системах с разным объёмом памяти. Сильными сторонами являются поддержка изображений и документов, OCR, визуальное рассуждение и наличие квантованных вариантов. Ограничение модели — отсутствие встроенных защитных механизмов, поэтому её ответы требуют дополнительного контроля и могут быть небезопасными. Лицензия — Apache-2.0.

Shisa V2 Mistral Nemo 12B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на базе Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель дообучена на синтетических диалоговых и предпочтительных данных, чтобы улучшить качество ответов на японском языке и сохранить возможности на английском. Модель предназначена для диалога, генерации текста, следования инструкциям и сценариев вызова инструментов. В тестах Shisa.AI она показала улучшение японских результатов относительно базовой модели; опубликованы также оценки для английского языка и ряда общих бенчмарков. Поддерживаются японский и английский языки. Модель распространяется по лицензии Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных. Как и другие языковые модели, она может выдавать фактически неверные ответы; для критичных решений ответы следует проверять.

Blaze.1-27B-Preview — языковая модель на 27,6 млрд параметров, разработанная на базе Google Gemma 2 27B IT и дообученная на синтетических наборах данных для многошаговых рассуждений. Это плотная авторегрессионная модель семейства Gemma 2, предназначенная для генерации текста и диалога; веса опубликованы в формате Safetensors, исходная точность — bfloat16. Размер контекста — 8192 токена. Модель подходит для ответов на вопросы, суммаризации, следования инструкциям, решения математических и логических задач, сложного анализа и генерации длинных текстов. Основной заявленный язык — английский. Для запуска и дообучения требуются значительные вычислительные ресурсы. Модель может ошибаться в рассуждениях и фактах, а качество ответов зависит от формулировки запроса; на длинных входах связность может снижаться. Лицензия — Gemma.

Citaman/command-r-24-layer — текстовая генеративная модель на архитектуре Cohere, созданная сообществом Citaman с помощью mergekit. Веса получены слиянием SLERP двух диапазонов слоёв модели Citaman/command-r-25-layer; в метаданных указано 21,8 млрд параметров и формат safetensors. Модель поддерживает контекст до 8192 токенов и интерфейсы диалога и вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая взаимодействие с инструментами. Метаданные не указывают поддерживаемые естественные языки или специализированную предметную область. Лицензия в предоставленных данных не указана.

ISTA-DASLab/gemma-3-27b-it-GPTQ-4b-128g — квантизированная версия мультимодальной модели Gemma 3 27B IT, разработанная на основе google/gemma-3-27b-it. Модель предназначена для диалогов, генерации и понимания текста, а также обработки изображений с текстовыми запросами, включая описание визуального содержимого. Она поддерживает работу через Transformers и vLLM. Весовые параметры модели сжаты до INT4 с применением алгоритма GPTQ, симметричной поканальной групповой схемы с размером группы 128 и формата compressed_tensors. Квантизации подверглись линейные операторы языковой части трансформерных блоков; vision-модель и мультимодальный проекционный слой сохранены в исходной точности. Такое сжатие примерно на 75% уменьшает размер модели на диске и требования к видеопамяти по сравнению с представлением FP16, при этом средний результат на указанных тестах OpenLLM снижается незначительно: 0,7810 против 0,7854 у исходной модели. Модель подходит для мультимодальных ассистентов и сценариев, где важны более низкие требования к памяти GPU. В README не указаны точные длина контекста и список поддерживаемых языков; приведённый пример использует максимальную длину контекста 4096 токенов. Ограничением является возможная небольшая потеря качества из-за INT4-квантизации и необходимость использовать совместимые версии Transformers или vLLM. Модель распространяется по лицензии Gemma.

Gemma 4 E2B IT QAT NVFP4 GGUF — мультимодальная разговорная модель на основе контрольной точки Gemma 4 E2B IT с QAT-оптимизацией и преобразованием весов в формат GGUF с квантованием NVFP4. Модель разработана Google DeepMind; этот вариант подготовлен WhiskyAKM для запуска через llama.cpp и другие совместимые с GGUF движки. Эффективный размер составляет 2,3 млрд параметров, или 5,1 млрд с учётом встраиваний; архитектура — Gemma4ForConditionalGeneration, 35 слоёв. Модель принимает текст, изображения и аудио и формирует текстовые ответы. Она предназначена для диалогов, анализа изображений и аудио, локального запуска и сценариев с вызовом инструментов; заявлены контекст до 128 тыс. токенов и поддержка более 140 языков. QAT и NVFP4 снижают требования к памяти, а файлы GGUF позволяют использовать модель в llama.cpp. Для обработки изображений и аудио нужен движок с мультимодальной поддержкой. Лицензия — Apache-2.0.

Gemma-4-E4B-it-NVFP4 — мультимодальная instruct-модель семейства Gemma 4, созданная на основе google/gemma-4-E4B-it и оптимизированная для диалогового и чат-применения. Квантованную версию подготовил Mario Iseli с использованием NVIDIA Model Optimizer на платформе NVIDIA DGX Spark. Модель предназначена для генерации текста, а также обработки изображений и аудио; заявлена поддержка multilingual-сценариев и контекстного окна до 128K токенов. Архитектура основана на плотной модели с механизмом Per-Layer Embeddings (PLE), где каждый из 26 декодерных слоёв получает специализированный 256-мерный сигнал. Вариант использует квантование NVFP4 по схеме W4A4: веса и активации языковых слоёв представлены в FP4, а башни обработки изображений и аудио, соответствующие проекционные слои и lm_head сохранены в BF16. Размер модели на диске составляет около 10,2 ГБ, при этом мультимодальные компоненты занимают значительную часть памяти. Ключевые преимущества — уменьшенный размер, возможность запуска на совместимом оборудовании NVIDIA и высокая заявленная скорость около 65 токенов в секунду на DGX Spark. Ограничения включают необходимость vLLM с transformers версии 5.4 или новее, зависимость от поддержки NVFP4 и сохранение значительного потребления памяти мультимодальными башнями. Это общественная квантованная сборка, а не официальный релиз NVIDIA или Google. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

General-Reasoner-Qwen3-14B — языковая модель TIGER-Lab, дообученная на базе Qwen/Qwen3-14B-Base для развития рассуждений в широком круге областей. Она предназначена для ответов на вопросы и решения задач, требующих анализа, включая математику, программирование, физику, химию, финансы и гуманитарные дисциплины. Для обучения использованы более 230 тысяч проверяемых вопросов из веб-источников и модельный верификатор; README описывает подход как обучение без промежуточного этапа supervised fine-tuning. Модель имеет плотную архитектуру Qwen3ForCausalLM, 14 млрд параметров и контекст до 32 768 токенов; репозиторий содержит веса в формате safetensors. Поддерживаются чат и интерфейс вызова инструментов. Лицензия — Apache-2.0. Карточка сообщает о результатах на разнообразных бенчмарках рассуждений, но не приводит здесь подробных численных оценок.

RedHatAI/Kimi-K3-FP8-BLOCK — квантованная версия мультимодальной модели moonshotai/Kimi-K3, разработанная RedHatAI. Модель построена на архитектуре KimiK3ForConditionalGeneration, принимает текст и изображения, а генерирует текст. Она предназначена для conversational-сценариев и инференса с использованием vLLM; подробные возможности базовой модели в этой карточке не раскрыты. В модели применена FP8-квантизация весов и активаций линейных операторов внутри трансформерных блоков. Для весов используется блочное масштабирование, для активаций — динамическое групповое масштабирование. Квантизация выполнена методом model-free post-training quantization без калибровочных данных с помощью LLM Compressor; при этом слои эмбеддингов, attention, vision tower, mm_projector и некоторые другие компоненты не квантуются. Модель готова к распределённому запуску в vLLM и поддерживает автоматический выбор инструментов и разбор рассуждений через соответствующие параметры сервера. Размер модели, длина контекста и поддерживаемые языки в README не указаны. Веса и код распространяются по лицензии Kimi K3 License.

Ling-3.0-flash-GGUF — это набор GGUF-конвертаций модели Ling-3.0-flash, разработанной inclusionAI и опубликованной пользователем bloomer010 для запуска через llama.cpp. Модель предназначена для генерации текста, диалоговых и агентских сценариев, включая вызов инструментов, рассуждения и speculative decoding. В основе лежит гибридная архитектура KDA и gated MLA с Mixture-of-Experts на 512 экспертов: общий размер составляет около 124 млрд параметров, из которых активно примерно 5,1 млрд. Конвертации напрямую созданы из BF16 safetensors и включают блок MTP/NextN, поэтому отдельная drafter-модель для этого режима не требуется. Поддерживается контекст до 256K токенов; README не указывает набор языков и наличие мультимодальных возможностей. Доступны варианты квантования от BF16 и Q8_0 до сильно сжатых IQ1 и MXFP4_MOE, что позволяет адаптировать модель к разному объёму памяти. Качество обычно выше у крупных файлов, а малые варианты требуют меньших ресурсов, но могут сильнее терять точность и стабильность. Для эффективного speculative decoding также предлагаются отдельные DSpark draft-модели. Агентское использование в llama.cpp зависит от поддержки актуальных изменений, связанных с Ling parser и обработкой некорректных UTF-8-последовательностей; без них возможны сбои при вызове инструментов в незавершённых блоках рассуждений. Модель распространяется по лицензии MIT.

Saxo/Linkbricks-Horizon-AI-Korean-Pro-8B — корейская разговорная языковая модель от Linkbricks, основанная на архитектуре Llama и содержащая 7,5 млрд параметров. По карточке, она дообучена на базе Saxo/Linkbricks-Horizon-AI-Korean-Advanced-8B-COT-boost; в цепочке обучения базовой модели использовались NousResearch/Hermes-3-Llama-3.1-8B, продолженное предобучение, SFT и DPO. Модель рассчитана прежде всего на корейский язык, также поддерживает английский, японский и китайский. Модель предназначена для диалога, генерации и написания текстов, перевода между корейским, китайским, английским и японским, суммаризации, анализа отзывов и публикаций, программирования, математических и логических задач. Указанное контекстное окно — 131 072 токена; доступны веса в формате safetensors, лицензия Apache-2.0. Карточка заявляет усиленную обработку многоязычных задач и сложных рассуждений; независимые показатели качества не приведены.

Llama-3.1-8B-Instruct-EI1-2ep-sft-warmupbs — дообученная модель семейства Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров. Контекст — до 131 072 токенов. В README указан результат оценки: loss 0,6092. Датасет обучения не раскрыт, поэтому нельзя оценить специализацию модели или переносимость результата на другие задачи. Модель распространяется в формате safetensors по лицензии Llama 3.1; условия лицензии следует учитывать при использовании.

Llama3.1-SuperNovaLite-HuatuoSkywork-o1-8B — языковая модель для генерации текста, созданная методом слияния SLERP с помощью mergekit. В неё объединены grimjim/HuatuoSkywork-o1-Llama-3.1-8B и arcee-ai/Llama-3.1-SuperNova-Lite; архитектура — плотная LlamaForCausalLM семейства Llama. Модель содержит 7,5 млрд параметров, работает через Transformers и распространяется в формате Safetensors. Модель предназначена для диалогов и генерации текста по запросу; каталог также отмечает интерфейс вызова инструментов. Контекст модели составляет до 131 072 токенов. Базовая SuperNova Lite описана как англоязычная чат-модель на базе Llama 3.1 8B Instruct; языковые возможности итогового слияния отдельно не уточняются. Лицензия — Llama 3.1.

Llama-Express.1 — компактная текстовая языковая модель, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах данных с длинными цепочками рассуждений. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; она распространяется в формате Safetensors и рассчитана на запуск через Transformers. Модель предназначена для диалогов на разных языках, следования инструкциям, суммаризации и задач извлечения и обобщения сведений из предоставленного контекста. Данные обучения включают математические и reasoning-наборы; карточка также заявляет поддержку агентных сценариев поиска. Метаданные указывают английский язык, а README описывает модель как многоязычную, поэтому качество на языках с малым объёмом обучающих данных может быть ниже. Модель принимает и генерирует текст; изображения, аудио и видео она не обрабатывает. Длинный контекст не исключает ухудшения качества или усечения на очень больших входах, а ответы зависят от ясности запроса и могут отражать смещения обучающих данных. У модели нет собственного доступа к интернету для проверки актуальных фактов. Лицензия — Llama 3.2; применяются её условия использования.

QuantFactory/Meta-Llama-3.1-8B-GGUF — это квантованная версия большой языковой модели Llama 3.1 с 8 млрд параметров, представленная в формате GGUF. Базовую модель разработала Meta, а QuantFactory подготовила её распространение в квантованном формате. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-ботах, ассистентах, системах обработки естественного языка и других сценариях, где требуется текстовая генерация. Модель поддерживает текстовую модальность. В карточке заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Дополнительные сведения об архитектуре, размере контекстного окна, конкретном методе и уровне квантования, производительности, формате инструкционного дообучения и системных требованиях не указаны, поэтому её характеристики в этих аспектах требуют проверки по файлам модели. Главные преимущества — компактность по сравнению с полноразмерной версией, возможность запуска через совместимые инструменты для GGUF и многоязычная текстовая генерация. Ограничения включают возможные потери качества из-за квантования, зависимость результатов от выбранного варианта квантования и отсутствие заявленных возможностей работы с изображениями или другими модальностями. Модель распространяется по лицензии Llama 3.1 Community License от Meta; при использовании и распространении необходимо соблюдать её условия, включая требования к атрибуции, маркировке «Built with Llama», Acceptable Use Policy и специальные коммерческие ограничения.

MyAwesomeModel — модель из репозитория dfdgdg333/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers. В метаданных Hugging Face она классифицирована как модель для извлечения признаков и связана с архитектурой BERT; README при этом описывает обновлённую версию как модель с улучшенными рассуждениями, пониманием текста, генерацией кода и диалогами. Согласно README, модель предназначена для сложных задач рассуждения, математических и логических задач, ответов на вопросы, классификации текста, анализа тональности, суммаризации, перевода, генерации кода и диалогов. Также заявлены поддержка системного промпта, function calling, загрузки файлов и генерации с использованием результатов веб-поиска. Для запуска рекомендуется температура 0,6. К сильным сторонам относятся заявленные улучшения рассуждений, снижение частоты галлюцинаций и широкие результаты на бенчмарках, включая математику, программирование и понимание языка. Однако метаданные указывают pipeline-задачу feature-extraction, а README не содержит надёжных сведений о размере модели, длине контекста, поддерживаемых естественных языках или точной конфигурации архитектуры. Модель распространяется по лицензии MIT.

Open-Instruct CoT 13B — языковая модель на архитектуре LLaMA с 12,9 млрд параметров, дообученная Allen Institute for AI на подмножестве CoT из Flan v2. Она предназначена для генерации ответов на инструкции с пошаговыми рассуждениями, а также для общих задач генерации текста, включая вопросы и ответы, математические задачи и программирование. Модель принимает текст и выдаёт текст; карточка указывает английский язык, а контекст составляет 2048 токенов. В опубликованных бенчмарках модель оценивалась на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Для её использования требуется исходная модель LLaMA в формате Hugging Face: опубликованный репозиторий содержит diff весов, а не самостоятельный полный чекпойнт. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Ovis2-16B — мультимодальная языковая модель семейства Ovis, разработанная командой AIDC-AI. Она объединяет визуальный энкодер и языковую модель для диалога по изображениям и видео. Архитектура плотная, класс Ovis; репозиторий содержит веса Safetensors. Вариант 16B показан в тестах изображений и видео, а README рекомендует более новую версию Ovis2.5. Модель предназначена для ответов на вопросы по визуальным материалам, рассуждений по нескольким изображениям и кадрам, многоязычного OCR, а также извлечения структурированных данных из таблиц и диаграмм. В обучении использовались instruction tuning и preference learning для усиления рассуждений; заявлена поддержка английского и китайского, а OCR улучшен для языков помимо них. Для запуска README приводит зависимости PyTorch, Transformers и Flash Attention. Модель распространяется по лицензии Apache-2.0. В README отмечены ограничения: разработчики не гарантируют полного отсутствия проблем с авторскими правами или некорректного содержимого; для новых возможностей рекомендуется Ovis2.5.

Ovis2-34B — мультимодальная языковая модель семейства Ovis, разработанная командой Ovis. Она сочетает визуальный энкодер и языковую модель, структурно согласуя визуальные и текстовые представления. Модель принимает изображения и текст, отвечает на вопросы о визуальном содержимом и обрабатывает видео и несколько изображений в рамках одного сценария. Модель предназначена для визуального рассуждения, распознавания текста на изображениях, извлечения структурированных данных из таблиц и диаграмм, а также диалогов по визуальным материалам. В README заявлены усиленные способности к рассуждению и многоязычному OCR; метаданные указывают поддержку чата и интерфейса вызова инструментов. Архитектура — плотная модель Ovis; веса доступны в формате safetensors. Карточка приводит результаты оценки на тестах изображений и видео. Лицензия — Apache-2.0. README рекомендует использовать более новую версию Ovis2.5. Заявленные возможности и результаты бенчмарков не гарантируют точность на конкретных данных; модель может выдавать неподходящий контент или содержать проблемы с авторскими правами, как отмечено авторами.

Qandora-2.5-7B — объединённая методом mergekit модель для диалогов и генерации текста. Она создана на основе Rombos-LLM-V2.5-Qwen-7b, cybertron-v4-qw7B-MGS и Homer-7B-v0.2 с помощью линейного слияния весов; архитектура — плотная Qwen2, около 7,1 млрд параметров. Модель принимает текст и выдаёт текст, а нативная длина контекста составляет 32 768 токенов. Модель предназначена для диалогового взаимодействия и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Qwen2-VL-2B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная командой Qwen. Это квантованная версия модели Qwen2-VL-2B-Instruct с примерно 2 млрд параметров, предназначенная для задач image-text-to-text: анализа изображений и видео, визуального ответа на вопросы, работы с документами, распознавания текста на изображениях и диалога по визуальному содержимому. Модель поддерживает изображения произвольного разрешения и соотношения сторон благодаря динамическому представлению визуальных токенов, а также видео длительностью более 20 минут. Архитектура использует Multimodal Rotary Position Embedding (M-ROPE), разделяющий позиционную информацию для текста, двумерных изображений и трёхмерного видео. Заявлена поддержка английского и китайского языков, а также текстов на изображениях на большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Модель может применяться в визуальном анализе, Document VQA, математических задачах по изображениям, видеоаналитике и сценариях управления устройствами. Ключевое преимущество версии AWQ — сниженное потребление памяти по сравнению с BF16 за счёт квантования, что упрощает локальный запуск. При этом квантование может немного снижать точность: в приведённых тестах AWQ получила 41,33 на MMMU, 86,96 на DocVQA, 71,64 на MMBench и 39,90 на MathVista. README не указывает точное максимальное окно контекста; в тестах использовались входы до 129024 токенов, но результаты производительности для AWQ приведены только до 30720 токенов. Модель распространяется по лицензии Apache-2.0.