I.11Классификация, ранжирование и сопоставление

Это квантованная версия Granite 3.3 8B Instruct — инструкционной текстовой модели, разработанной командой IBM Granite. Репозиторий подготовлен bartowski в формате GGUF с использованием llama.cpp и метода imatrix; базовая модель указана как ibm-granite/granite-3.3-8b-instruct. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, поддерживающих llama.cpp, включая LM Studio. Доступны варианты от BF16 до различных уровней квантования Q3–Q8 и IQ, что позволяет выбирать между качеством ответа, размером файла и требованиями к оперативной памяти. Размер исходной модели составляет 8 миллиардов параметров, однако README не указывает архитектуру, языки, длину контекста или дополнительные модальности; по назначению это текстовая, а не мультимодальная модель. Сильной стороной сборки является широкий выбор квантований: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев при меньшем потреблении памяти. Более компактные варианты позволяют запускать модель на системах с ограниченной RAM, но могут снижать качество ответов. Для корректной работы следует использовать указанный шаблон prompt и совместимый llama.cpp-based runtime. Распространение осуществляется по лицензии Apache-2.0.

SteelStorage выпустила слитую диалоговую языковую модель на архитектуре Llama с 69,5 млрд параметров. Веса объединены методом Model Stock с помощью mergekit: базой послужила NaniDAO/Llama-3.3-70B-Instruct-ablated, также включены abacusai/Dracarys2-Llama-3.1-70B-Instruct и nbeerbower/Llama-3.1-Nemotron-lorablated-70B. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Данные не уточняют поддерживаемые естественные языки, лицензию или ограничения по использованию, поэтому их нельзя определить по доступной карточке.

Lapa LLM v0.1.3 Instruct — украинская мультимодальная модель команды Lapa LLM, созданная на базе Gemma 3 12B и дообученная на украинских текстах. В проекте участвовали исследователи Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Версия 0.1.3 содержит исправления согласования и проверку pipeline; остальная модель не изменилась. Модель принимает текст и изображения и генерирует текст для диалога, ответов на вопросы, анализа изображений, суммаризации и перевода между английским и украинским языками. В README заявлены контекст входа до 128 тысяч токенов и выход до 8192 токенов. Адаптированный токенизатор заменяет 80 тысяч из 250 тысяч токенов украинскими; разработчики сообщают о сокращении числа токенов для украинского текста примерно в 1,5 раза относительно Gemma 3. Модель предназначена для украинских NLP-сценариев, включая локальную обработку документов, чат-боты и RAG. README отмечает сильные результаты в переводе, вопросах по изображениям и суммаризации, но также сообщает, что разработчики продолжают собирать данные для улучшения обработки изображений и следования инструкциям. Лицензия в метаданных указана как gemma; README заявляет о возможности коммерческого использования.

Llama3.1-Typhoon2-8B-Instruct — модель для выполнения инструкций, разработанная командой Typhoon AI на основе Llama 3.1 8B. Это плотная авторегрессионная модель семейства Llama с примерно 7,5 млрд параметров; метаданные указывают контекст до 131 072 токенов. Репозиторий содержит веса в формате Safetensors, а для работы требуется Transformers версии 4.45.0 или новее. Модель предназначена прежде всего для диалогов и выполнения инструкций на тайском и английском языках. Среди сценариев — ответы на вопросы, работа с длинным контекстом, вызов функций, а также задачи по математике и программированию. В приведённых авторами тестах показаны результаты для обоих языков, включая тайское переключение между языками и вызов функций. Авторы отмечают, что модель продолжает разрабатываться и может выдавать неточные, предвзятые или нежелательные ответы; встроенные защитные механизмы лишь частичны. Модель распространяется по лицензии Llama 3.1 Community License, поэтому перед использованием необходимо соблюдать её условия.

ErtasAI/Llama-3.2-1B-Instruct — это диалоговая языковая модель на базе Meta Llama 3.2, размещённая ErtasAI. Модель содержит около 1,2 млрд параметров и использует плотную авторегрессионную архитектуру Transformer; обучение включает настройку по инструкциям. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для многоязычного общения. Модель подходит для диалогового помощника, суммаризации, поиска сведений, переписывания запросов и помощи при написании текстов, в том числе в сценариях с ограниченными вычислительными ресурсами. В карточке базовой модели официально перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; качество на других языках не гарантируется. Это дообученная версия meta-llama/Llama-3.2-1B-Instruct, поэтому её специфические изменения и преимущества в карточке не описаны. Модель предоставляется по лицензии Llama 3.2 Community License, предусматривающей собственные условия коммерческого использования.

unsloth/Llama-3.2-3B-Instruct-GGUF — GGUF-версия инструкционно дообученной языковой модели Llama 3.2 с 3 млрд параметров, разработанной Meta и опубликованной Unsloth. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA); варианты GGUF доступны в форматах квантования от 2 до 16 бит, что позволяет выбирать баланс между качеством, размером и требованиями к памяти. Модель предназначена для генерации текста и мультиязычного диалога, включая агентский поиск по данным и суммаризацию. Она работает в режиме «текст на входе — текст на выходе» и официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. README не указывает размер контекстного окна и конкретные показатели производительности; модель является статичной и обучена на офлайн-данных. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta, а также Acceptable Use Policy. GGUF-квантизация может снизить требования к памяти и упростить локальный запуск, но при меньшей разрядности возможна потеря качества. Модель не является мультимодальной: заявлены только текстовые входы и выходы.

LwQ-10B-Instruct — инструкционно настроенная языковая модель prithivMLmods на архитектуре Llama 3.1, дообученная на основе meta-llama/Llama-3.1-8B-Instruct. Модель содержит 10,6 млрд параметров и предназначена для генерации текста и диалога на нескольких языках; в карточке заявлено контекстное окно 4096 токенов. Модель подходит для чат-ботов и виртуальных помощников, следования инструкциям, математических и логических рассуждений, решения задач по контексту, а также создания и суммаризации текстов. По README, дообучение включало синтетические наборы для рассуждений; семейство Llama 3.1 описано как авторегрессионный трансформер, а инструкция — как настроенная с использованием SFT и RLHF. Доступна в формате safetensors для Transformers. Качество может различаться между языками; сложные рассуждения могут содержать ошибки, а неоднозначные запросы ухудшают ответы. Ограниченное контекстное окно, потребность в значительных вычислительных ресурсах и отсутствие доступа к актуальным данным ограничивают применение. Лицензия — Llama 3.1.

Megalodon-OCR-Sync-0713-AIO-GGUF — мультимодальная модель, разработанная prithivMLmods. Это GGUF-версия Megalodon-OCR-Sync-0713, дообученной на базе Qwen2.5-VL-3B-Instruct. Модель предназначена для обработки изображений и текста, включая OCR, извлечение и анализ содержимого документов, а также работу с визуальными данными. Модель ориентирована на поиск и извлечение информации из документов разных типов и форматов, распознавание структурированных и неструктурированных данных, таблиц, графиков, математических выражений и других визуальных представлений. Она поддерживает контекстный анализ сложных и длинных документов, форматирование результатов в LaTeX, мультиязычный анализ, визуальное позиционирование объектов для управления устройствами и понимание видео длительностью более 20 минут. Заявлены английский и китайский языки. Объём контекста в README не указан. Доступны варианты квантования GGUF от F16 размером 6,18 ГБ до компактных вариантов менее 1 ГБ, что позволяет выбирать баланс между качеством и требованиями к ресурсам. Сильными сторонами являются специализация на OCR и документах, работа с разнообразными визуальными структурами и применимость в образовательных и корпоративных сценариях. Ограничениями являются значительные требования к вычислительным ресурсам, а также возможное снижение качества на изображениях низкого качества и при работе с редкими языками. Лицензия — Apache 2.0.

Meta-Llama-3.1-8B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta-Llama-3.1-8B-Instruct, разработанной Meta и подготовленной в формате GGUF пользователем bartowski. Это текстовая модель для генерации ответов по инструкциям и диалогового взаимодействия. Модель предназначена для задач text generation, включая ответы на запросы, создание и преобразование текста и другие сценарии, где требуется работа с естественным языком. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Размер базовой модели — 8B параметров; модальности и размер контекстного окна в предоставленных данных не указаны. Квантизация в формате GGUF может упростить локальный запуск и снизить требования к ресурсам по сравнению с полноразмерными весами, однако конкретный уровень квантизации в README не указан. Ограничения включают возможные ошибки и неточности генерации, а также отсутствие данных о производительности, точном варианте квантования и контекстном окне. Модель распространяется по Llama 3.1 Community License от Meta с требованиями соблюдать Acceptable Use Policy, включать текст лицензии и атрибуцию при распространении, а также использовать обозначение «Built with Llama» в предусмотренных лицензией случаях.

Mistral 7B Instruct v0.1 в формате GGUF — языковая модель для генерации текста и выполнения инструкций, разработанная Mistral AI и преобразованная в квантизированные файлы TheBloke. Модель предназначена для диалоговых приложений, локального запуска и других сценариев, где требуется обработка текстовых запросов с использованием совместимых библиотек и пользовательских интерфейсов. Модель относится к семейству Mistral и содержит 7 миллиардов параметров. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на инференс с использованием CPU и GPU. Поддерживаются llama.cpp и ряд сторонних инструментов, включая text-generation-webui, LM Studio, KoboldCpp, ctransformers и llama-cpp-python. Для форматирования запросов используется шаблон <s>[INST] {prompt} [/INST]. К сильным сторонам относятся компактность квантизированных вариантов, возможность локального запуска и широкая совместимость с экосистемой GGUF. Ограничения включают максимальную длину последовательности 4096 токенов для указанных файлов, а также возможное снижение качества при использовании более агрессивной квантизации. Поддерживаются только текстовые сценарии; сведения о языках обучения в README не указаны. Модель распространяется по лицензии Apache 2.0.

Mistral-Instruct-Orca-Slerp — диалоговая языковая модель, созданная слиянием моделей Mistral AI и Open-Orca методом slerp с помощью mergekit. В основе — mistralai/Mistral-7B-Instruct-v0.2 и Open-Orca/Mistral-7B-OpenOrca; модель имеет архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Она принимает текст и выдаёт текст; карточка не сообщает о специализации на конкретном языке или предметной области. Распространяется в формате safetensors по лицензии Apache-2.0.

Карточка модели ckoozzzu/new1 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Open-Instruct Human-mix 13B — языковая модель Allen Institute for AI (AI2), полученная дообучением LLaMA с 12,9 млрд параметров на смеси созданных людьми инструкционных данных, включая FLAN V2, CoT, Dolly и OpenAssistant 1. Модель предназначена для генерации ответов на инструкции и запросы на естественном языке; её обучали и оценивали в рамках исследования состояния instruction tuning на открытых ресурсах. Модель использует плотную архитектуру LLaMA и принимает текст. Контекст составляет 2048 токенов; в карточке указан английский язык. Для генерации рекомендуется соблюдать заданный авторами формат входа с переносами строк. В README приведены результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Это diff весов, поэтому для использования нужна доступная базовая LLaMA в формате Hugging Face. Модель распространяется по лицензии AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании.

Pixtral-Large-Instruct-2411 — мультимодальная модель Mistral AI для диалогов и анализа изображений. Она построена на Mistral-Large-Instruct-2407 и включает языковой декодер примерно на 123 млрд параметров и визуальный энкодер на 1 млрд параметров; общий размер — 124 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на работу с несколькими изображениями высокого разрешения в одном запросе. Модель предназначена для ответов на вопросы по изображениям, понимания документов и диаграмм, а также для текстовых инструкций и диалогов. В карточке заявлены сильные результаты на MathVista, DocVQA и VQAv2. Для инференса рекомендуется vLLM; README предупреждает, что реализация Transformers пока не работает. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и условиями Mistral AI.

QRWKV-QwQ-32B — 32-миллиардная языковая модель от Featherless AI, созданная в рамках проекта RADLADS. Авторы преобразовали Qwen/QwQ-32B в вариант с линейным вниманием RWKV, используя дистилляцию внимания; модель унаследовала знания и языковые данные родительской модели. Она предназначена для диалогов и генерации текста, включая рассуждения при выводе, а также поддерживает интерфейс вызова инструментов. Модель использует плотную архитектуру RWKV6Qwen2, работает с контекстом до 131 072 токенов и распространяется в формате safetensors через Transformers. В README приведены результаты ряда бенчмарков, где QRWKV-QwQ-32B в некоторых тестах немного превосходит Qwen/QwQ-32B. Авторы заявляют о снижении вычислительных затрат при работе с длинным контекстом; модель поддерживает около 30 языков, унаследованных от семейства Qwen. Лицензия — Apache-2.0. Для запуска через Transformers требуется разрешить загрузку удалённого кода. Результаты тестов ограничены указанными настройками оценки и сами по себе не гарантируют качество на прикладных задачах; в README также отмечено, что модель имеет ограничения по числу поддерживаемых языков по сравнению с более ранними многоязычными моделями RWKV.

Карточка модели sagar-rasakonda/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

QuantFactory/Qwen3-0.6B-GGUF — квантизированная версия языковой модели Qwen3-0.6B, созданная QuantFactory на основе базовой модели Qwen/Qwen3-0.6B с использованием llama.cpp. Это каузальная языковая модель для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, написания кода, творческих сценариев и интеграции с внешними инструментами. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к embedding, и включает 28 слоёв. Используется Grouped Query Attention: 16 голов для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Модель поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Она умеет переключаться между режимами thinking для сложных рассуждений, математики и программирования и non-thinking для более быстрого универсального диалога. К сильным сторонам относятся малый размер, поддержка квантизированного формата GGUF, многоязычность, рассуждения, диалоговые и агентские сценарии. Ограничения включают меньшую ёмкость по сравнению с более крупными моделями и возможные повторения при неудачных параметрах генерации; в исходной документации для таких случаев рекомендуется настроить sampling и presence_penalty. Данные о конкретном варианте квантизации, требованиях к памяти и производительности не указаны. Модель распространяется по лицензии Apache-2.0.

Smoffyy/Qwen3.5-4B-Instruct-Pure-GGUF — это GGUF-квантизированная версия официальной модели Qwen3.5-4B, разработанной командой Qwen. Автор репозитория создал её с помощью официальных инструментов llama.cpp, напрямую преобразовав исходные веса без модификаций и дополнительных настроек. Модель предназначена для локального запуска в приложениях на базе llama.cpp и совместимых инструментах. Модель поддерживает мультимодальные сценарии с текстом и изображениями; для включения возможностей компьютерного зрения требуется отдельный файл mmproj-f16.gguf. Архитектура исходной Qwen3.5 описывается как гибридная и включает Gated Delta Networks и разреженную Mixture-of-Experts. Указана поддержка 201 языка и диалекта. В README приведён пример запуска с контекстом 64K: для квантизации q4_k_m такое использование требует около 7 ГБ памяти GPU. Режим рассуждений можно включать или отключать через параметр enable_thinking в запросе или конфигурацию шаблона чата. К сильным сторонам относятся близость к официальным весам, доступность различных уровней квантизации и возможность локального использования на ограниченном оборудовании. К ограничениям относятся потенциальная потеря качества из-за квантизации, зависимость требований к памяти от выбранного варианта и необходимость дополнительного multimodal-проектора для работы с изображениями. Модель и производные распространяются по лицензии Apache 2.0.

Qwen3.8-19B-Pruned-GGUF — набор официальных GGUF-квантований модели ewinregirgojr/Qwen3.8-19B-Pruned, опубликованный и квантованный ewinregirgojr. Модель предназначена для локальной генерации текста, диалоговых сценариев, задач рассуждения и function calling на потребительском оборудовании. Поддерживаются Ollama, LM Studio, Jan, llama.cpp, Unsloth, LocalAI и Open WebUI. Модель основана на архитектуре Qwen3.8 и использует 30% структурированной разреженности SparseGPT; заявлено около 18,9 млрд активных ненулевых параметров при сохранении 866 текстовых слоёв. Доступны варианты Q4_0, Q6_K и Q8_0 размером 17,79, 23,20 и 29,30 ГБ соответственно. Максимальная длина контекста заявлена до 262 144 токенов. Указаны английский и китайский языки, текстовая модальность и формат GGUF для локального инференса. В README приведены результаты MMLU 81,5% и GSM8K 86,9%, однако методика и воспроизводимость этих показателей требуют самостоятельной проверки. Сильные стороны — уменьшенный объём весов, возможность запуска на распространённых GPU и оптимизация для локального использования; для Q4_0 заявлена совместимость с видеокартами от 24 ГБ памяти, тогда как более точные варианты требуют больше RAM или VRAM. Ограничения связаны с компромиссом между размером, точностью и требованиями к оборудованию, а также с тем, что разреженность не обязательно ускоряется всеми программными стеками. Модель распространяется по лицензии Apache-2.0.

Distillio/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, разработанной Qwen и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель содержит около 28 млрд параметров и предназначена для локального запуска задач генерации и анализа текста, а также обработки изображений при использовании совместимого файла mmproj. Модель поддерживает мультимодальный ввод текста и изображений, speculative decoding с использованием MTP и квантизацию imatrix. Доступны варианты от BF16 и Q8_0 до более компактных Q2_K и IQ3/IQ4, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Рекомендуемым компромиссом README называет Q4_K_M размером около 17,77 ГБ; более высокое качество обеспечивают Q5 и Q6, а варианты Q2–Q3 рассчитаны на ограниченный объём оперативной памяти, но заметно уступают по качеству. Для запуска требуется совместимое программное обеспечение, в частности llama.cpp; для работы с изображениями необходим mmproj-файл. README не указывает поддерживаемые языки и размер контекста, поэтому эти характеристики нельзя надёжно определить по представленным данным. Модель распространяется по лицензии Apache-2.0.

Avesed/Qwen3.8-27B-INT4-W4A16 — это квантизированная версия Qwen/Qwen3.8-27B, разработанная сообществом Avesed. Модель относится к гибридным плотным vision-language моделям: сочетает линейное внимание GatedDeltaNet с периодическим полным вниманием, имеет встроенную vision tower и MTP head для спекулятивного декодирования. Она поддерживает английский и китайский языки, а также обработку изображений и текста. Модель предназначена для генерации и перевода текста, рассуждений, математических задач и мультимодальных сценариев с изображениями. Используется INT4 weight-only квантизация W4A16 с AWQ, symmetric INT4 weights и group size 32. Размер чекпойнта составляет около 20 ГБ, поэтому веса помещаются на одной GPU с 24 ГБ памяти; для обслуживания через vLLM в README указана конфигурация tensor parallel на двух RTX 3090. В чувствительных к качеству компонентах, включая embeddings, lm_head, vision tower и MTP head, сохранён формат bfloat16. На GSM8K модель показала результат 96,4% при описанном в README протоколе оценки; заявлена работоспособность китайской и английской генерации, перевода, vision path и режимов reasoning. MTP-спекулятивное декодирование обеспечивает среднюю длину принятой последовательности около 2,4 токена из 3 при K=2. Ограничения включают зависимость результатов от протокола оценки и параметров сэмплирования, отсутствие результатов MMLU-Pro, а также заметную зависимость производительности от аппаратной конфигурации. Для запуска рекомендуется vLLM; лицензия — Apache-2.0.

AtomicChat/Qwen3.8-27B-MLX-AD-3.50bpw-DWQ-12.7GB — это MLX-квантизированная версия Qwen3.8-27B, выпущенная командой AtomicChat. Базовую модель разработала команда Qwen компании Alibaba. Это открытая плотная мультимодальная модель с поддержкой текста и изображений, предназначенная для генерации текста, визуального понимания, программирования, агентских рабочих процессов и автоматизации офисных задач. Модель содержит около 27 млрд параметров. Вариант AtomicChat использует формат MLX, 3-битное представление с параметром 3.50 bpw и занимает примерно 12,7 ГБ, поэтому ориентирован на локальный запуск, в частности на совместимое оборудование Apple через MLX. На странице модели указана категория Image-Text-to-Text и языковой тег English. Для исходной Qwen3.8-27B заявлено нативное контекстное окно 262 000 токенов с возможностью расширения до 1 млн токенов посредством YaRN. Главное преимущество варианта — существенное уменьшение размера и требований к памяти по сравнению с полной моделью при сохранении мультимодальных возможностей. Ограничения связаны с потерями качества, возможными для 3-битной квантизации, зависимостью от MLX-совместимого окружения и отсутствием на странице AtomicChat подробных независимых тестов, перечня поддерживаемых языков и детального описания архитектуры именно этого квантизированного варианта. Для базовой Qwen3.8-27B указана лицензия Apache 2.0; отдельные условия для производного репозитория AtomicChat следует проверять дополнительно.

Qwen3.8-27B-NVFP4-MTP-VL-GGUF — пользовательская GGUF-сборка базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Сборка предназначена для локального запуска через llama.cpp и Ollama и объединяет языковую модель с поддержкой изображений и видео, механизмом MTP для ускоренного спекулятивного декодирования и отдельным F16 CLIP-проектором для обработки зрения. Это не официальный checkpoint в формате Transformers, а квантованная упаковка сообщества. Языковая часть и MTP используют NVFP4, выходные и embedding-слои — Q5_K, размер языкового файла составляет около 14,6 ГиБ, а проектор занимает около 888 МиБ. Нативный контекст модели — 262 144 токена; в GGUF добавлены метаданные статического YaRN с коэффициентом 4, позволяющие запрашивать окно до 1 048 576 токенов без изменения весов. Поддерживаются английский и китайский языки. Сильные стороны — существенно меньшие требования к памяти по сравнению с BF16, сохранение визуальных возможностей и MTP, а также совместимость с локальными рантаймами. Для работы требуются сборки, поддерживающие архитектуру qwen35, NVFP4, mmproj и draft-mtp. Окно в миллион токенов требует очень большого объёма памяти для KV-кэша, а статический YaRN может ухудшать качество на коротких запросах, поэтому для обычного диалога рекомендуется меньший контекст. Модель распространяется по лицензии Apache License 2.0.

Qwen3-VL-2B-Instruct — плотная vision-language модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также поддерживает понимание видео и временных меток; предназначена для диалога, визуальных вопросов и ответов, распознавания текста в изображениях и документах, пространственного анализа и работы визуального агента с интерфейсами и инструментами. Модель объединяет текстовую и визуальную обработку. В карточке описаны улучшенное распознавание объектов и деталей, OCR на 32 языках, анализ положения объектов и временной структуры видео, а также создание HTML/CSS/JS или схем Draw.io по визуальным примерам. Архитектура использует Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена длина контекста 256K токенов с возможностью расширения до 1M. Весовой репозиторий предназначен для версии Instruct; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия Apache-2.0. README не приводит результаты тестов или отдельные численные показатели качества, поэтому заявленные преимущества не следует трактовать как независимую оценку.

Qwen3-VL-2B-Instruct-1M-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen и представленная в формате GGUF с динамической квантизацией Unsloth Dynamic 2.0. Репозиторий основан на Qwen3-VL-2B-Instruct и предназначен для запуска и инференса через совместимые инструменты, включая llama.cpp и Transformers. Модель принимает текст и изображения, а также ориентирована на понимание видео. Она предназначена для визуального вопросно-ответного взаимодействия, описания изображений, OCR, анализа документов, STEM- и математического рассуждения, пространственного анализа, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Заявлены поддержка контекста 256K с возможным расширением до 1M токенов, улучшенное понимание длительных видео и OCR на 32 языках; конкретный перечень языков в README не приведён. Архитектурно модель использует плотную конфигурацию с примерно 2 млрд параметров, а среди ключевых компонентов указаны Interleaved-MRoPE для временных и пространственных позиций, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, работа с длинным контекстом, документами, видео и пространственными отношениями. Ограничения включают небольшой по современным меркам размер, возможные потери качества из-за квантизации и отсутствие в README подробных количественных результатов, точного списка языков и требований к аппаратному обеспечению. Лицензия — Apache-2.0.

Qwen3-VL-30B-A3B-Thinking-1M-GGUF — GGUF-репозиторий весов мультимодальной модели Qwen3-VL-30B-A3B-Thinking, разработанной командой Qwen; сборка и адаптация опубликованы Unsloth. Модель предназначена для совместной обработки текста и изображений, а также для анализа видео, визуального рассуждения, OCR, генерации описаний и ответов, STEM-задач, пространственного анализа, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель использует MoE-архитектуру и относится к Thinking-редакции с усиленным рассуждением; в названии указаны 30B общих параметров и 3B активных параметров. Она поддерживает нативный контекст до 256K токенов с заявленной возможностью расширения до 1M, а также обработку длинных документов и продолжительных видео. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных позиций, DeepStack для объединения признаков ViT разных уровней и выравнивание текста с временными метками. OCR заявлен для 32 языков, однако полный перечень языков в README не приведён. К сильным сторонам относятся визуальное и мультимодальное рассуждение, понимание пространственных отношений, видео и длинного контекста, распознавание текста в сложных условиях и возможности визуального агента. Ограничения конкретной GGUF-квантизации, требования к ресурсам, точные параметры квантизации и результаты тестов в README не указаны; заявленные преимущества Unsloth Dynamic 2.0 приведены без подробных подтверждающих данных. Для запуска с llama.cpp требуется использовать параметр --jinja. Репозиторий распространяется по лицензии Apache-2.0.

Shisa V2 Mistral Nemo 12B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на базе Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель дообучена на синтетических диалоговых и предпочтительных данных, чтобы улучшить качество ответов на японском языке и сохранить возможности на английском. Модель предназначена для диалога, генерации текста, следования инструкциям и сценариев вызова инструментов. В тестах Shisa.AI она показала улучшение японских результатов относительно базовой модели; опубликованы также оценки для английского языка и ряда общих бенчмарков. Поддерживаются японский и английский языки. Модель распространяется по лицензии Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных. Как и другие языковые модели, она может выдавать фактически неверные ответы; для критичных решений ответы следует проверять.

RedHatAI/SmolLM3-3B-FP8-dynamic — квантованная версия языковой модели SmolLM3-3B, разработанная Red Hat (Neural Magic) на базе модели HuggingFaceTB/SmolLM3-3B. Это текстовая модель для генерации и преобразования текста, включая диалоговые сценарии. Заявлена поддержка английского, французского, испанского, итальянского, португальского, китайского, арабского и русского языков. Модель использует архитектуру SmolLM3-3B и принимает текст на входе, выдавая текст на выходе. Веса и активации линейных операторов в трансформерных блоках квантованы в FP8: веса — статически по каналам, активации — динамически по токенам. По данным разработчика, это примерно вдвое снижает требования к памяти GPU и размер файлов, а также примерно вдвое увеличивает пропускную способность матричных вычислений. Для эффективного развёртывания рекомендуется vLLM; поддерживается OpenAI-совместимый серверный интерфейс. В README также указана максимальная длина контекста 65 536 токенов в конфигурации оценки. На тестах AIME24, MATH-500 и GPQA-Diamond квантованная версия показала средний результат 58,90 против 58,61 у исходной модели, что указывает на близкое сохранение качества рассуждений после квантования. Ограничения включают зависимость от совместимого программного стека для эффективного использования FP8 и отсутствие в представленном описании подробных сведений о качестве на других задачах. Модель распространяется по лицензии Apache-2.0.

Stockmark-2-100B-Instruct — плотная авторегрессионная языковая модель семейства Llama, разработанная Stockmark Inc. с нуля. Она содержит около 95,1 млрд параметров, обучена примерно на 2 трлн токенов: 60% английских данных, 30% японских и 10% кода. После предобучения модель прошла SFT и DPO на синтетических японских данных для улучшения следования инструкциям. Модель предназначена для диалогов и генерации текста, особенно на японском языке, а также поддерживает английский. Контекстное окно составляет 32 768 токенов; архитектура использует 86 слоёв и групповое запросное внимание с 72 головами Q и 8 головами KV. В опубликованной оценке Japanese MT-bench модель показала средний результат 7,87, включая задачи извлечения информации, ролевого диалога, STEM и программирования. Для запуска доступны веса в формате Safetensors; README приводит примеры использования с Transformers и vLLM. Модель распространяется по лицензии MIT. Для практического развертывания требуется значительный объём вычислительной памяти из-за размера модели; результаты бенчмарка не гарантируют качество в конкретном приложении.

bunnycore/Tulu-3.1-8B-SuperNova-Smart — объединённая языковая модель, созданная разработчиком bunnycore с помощью mergekit. В слиянии методом passthrough использованы bunnycore/Tulu-3.1-8B-SuperNova и bunnycore/Llama-3.1-8b-smart-lora; модель основана на архитектуре Llama и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Её можно применять для ответов на вопросы, следования инструкциям и интерфейсов с вызовом инструментов. Указанная длина контекста — 131 072 токена. Данные не описывают поддерживаемые естественные языки и условия лицензии, поэтому их нельзя надёжно указать.