II.2Создание и понимание программного кода

NicholasCorrado/uf-tulu-2-7b-dpo-full — плотная авторегрессионная языковая модель семейства Llama, дообученная на базе models/tulu-2-7b-uf-dpo методом DPO на наборе HuggingFaceH4/ultrafeedback_binarized. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, работает через Transformers и принимает контекст длиной до 8192 токенов. Модель предназначена для генерации текста в диалоговом формате и ответов на запросы. В README приведены результаты оценки на тестовом наборе, включая точность предпочтений 0,7422; подробности сценариев применения и ограничения в карточке не раскрыты. Файлы опубликованы в формате safetensors. Информация о лицензии в предоставленных данных отсутствует.

Vorenthos-Instruct-7b — разговорная модель для генерации текста, опубликованная vorenthiclabs как экспорт локальной установки Ollama. Модель имеет плотную архитектуру объёмом около 7,2 млрд параметров и распространяется в формате GGUF с шаблоном диалога; карточка рекомендует запуск через Ollama и также упоминает совместимость с llama.cpp и Transformers с поддержкой GGUF. Модель предназначена для диалогов и генерации текста. В метаданных указан базовый репозиторий Vorenthos-Instruct-7b и связь с ним типа finetune, однако README не описывает изменения при дообучении. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

Yamshadowexperiment28M70.5-0.45-0.64-0.12-0.94-0.72-7B — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, опубликованная пользователем aaron-di. Она предназначена для генерации текста и диалогов; в карточке показан пример запуска через Transformers с шаблоном чата. Модель принимает текст и выдаёт текст, а её нативный контекст составляет 32 768 токенов. Модель объединяет AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Файлы представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. README не сообщает о специализированной области применения или подтверждённых показателях качества.

YamshadowInex12_Strangemerges_32Shadow — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Strangemerges_32Shadow-7B. Она предназначена для генерации текста и использует плотную архитектуру MistralForCausalLM. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель можно применять для генерации продолжений, черновиков и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не сообщает о специальных предметных областях или других отличительных возможностях.

YamshadowStrangemerges_32_AlloyingotneoyNeuralsirkrishna — объединённая модель семейства Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B. Она предназначена для генерации текста и может использоваться в диалоговых и других сценариях, где требуется продолжение текста. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не описывает конкретные специализации или оценку качества, поэтому её возможности за пределами генерации текста не следует предполагать.

YamshadowStrangemerges_32_YamT3qm7x — объединённая языковая модель на архитектуре Mistral, созданная путём слияния моделей automerger/YamshadowStrangemerges_32-7B и automerger/YamT3qm7x-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель подходит для генерации продолжений и ответов на текстовые запросы. В метаданных указана лицензия Apache-2.0. README не описывает специальные сценарии применения или ограничения качества.

ale-bay/zephyr-7b-sft-full — диалоговая языковая модель, дообученная на базе mistralai/Mistral-7B-v0.1 с помощью supervised fine-tuning на наборе HuggingFaceH4/ultrachat_200k. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и предназначена для генерации текста в формате диалога. Максимальный контекст составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. В карточке приведено значение loss 0,9368 на оценочном наборе, но не описаны протокол оценки и сравнительные результаты. Модель распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о целевом использовании и ограничениях.

Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Granite-3.2-8B-Instruct-Preview — языковая модель IBM Granite Team, дообученная на основе ibm-granite/granite-3.1-8b-instruct для улучшенного пошагового рассуждения. Это плотная авторегрессионная модель на 8,2 млрд параметров с контекстом до 131 072 токенов; режим рассуждения можно включать по необходимости. Модель предназначена для ответов на общие инструкции и создания диалоговых помощников, в том числе для бизнес-сценариев. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и вызов функций, а также работу с длинными документами и стенограммами встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель выпущена в формате safetensors и распространяется по лицензии Apache 2.0. Это предварительный релиз; унаследованные от Granite-3.1 ограничения и этические соображения сохраняются.

Карточка модели nttruong1007/qb-granite31-8b на Hugging Face совпадает с карточкой ibm-granite/granite-3.1-8b-instruct, поэтому описание составлено по ней. Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Granite-3.1-3B-A800M-Instruct — языковая модель IBM Granite Team для выполнения общих инструкций и создания диалоговых ассистентов. Это дообученная версия Granite-3.1-3B-A800M-Base: метаданные относят её к семейству Granite MoE, а README описывает decoder-only архитектуру с GQA, RoPE, SwiGLU и RMSNorm. В репозитории указано 352,3 млн параметров и контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Она поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках; также подходит для анализа длинных документов и записей встреч. README указывает, что обучение инструкциям преимущественно велось на английском, поэтому качество на других языках может быть ниже. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache 2.0. Ответы могут быть неточными, предвзятыми или небезопасными; для конкретных сценариев нужны проверка и настройка.

Granite-3.0-3B-A800M-Instruct — инструктивная языковая модель семейства Granite 3.0, разработанная командой Granite в IBM. Это дообученная на инструкционных данных модель IBM Granite-3.0-3B-A800M-Base с разреженной архитектурой Transformer Mixture of Experts и декодером, содержащая 352,3 млн параметров по метаданным. Модель принимает текст и генерирует текст; её контекстное окно составляет 4096 токенов. Модель предназначена для ответов на общие инструкции и создания диалоговых помощников, в том числе для бизнес-приложений. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и вызов функций. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Диалоговый формат и интерфейс вызова инструментов подходят для построения ассистентов. Модель выпущена в октябре 2024 года и распространяется по лицензии Apache 2.0. По данным разработчика, качество на многоязычных задачах может уступать английскому; возможны неточные, предвзятые или небезопасные ответы. Для целевых сценариев рекомендуется проверка и настройка модели.

Qwen3-VL-30B-A3B-Instruct-FP8 — мультимодальная vision-language модель из семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-30B-A3B-Instruct с мелкозернистым квантованием и размером блока 128; заявлено, что её производительность почти идентична исходной версии в формате BF16. Модель предназначена для понимания и генерации текста с учётом изображений и видео. Модель ориентирована на визуальное восприятие и рассуждение, анализ документов и сцен, OCR, пространственное понимание, обработку длинных текстов и многочасовых видео, а также на визуальное управление PC- и мобильными GUI, вызов инструментов и выполнение задач агентом. Она поддерживает генерацию Draw.io, HTML, CSS и JavaScript по изображениям и видео, STEM- и математическое рассуждение, а также временную локализацию событий в видео. Заявлен нативный контекст 256K токенов с возможностью расширения до 1M, а OCR поддерживает 32 языка; полный перечень языков в README не указан. К сильным сторонам относятся объединённое текстово-визуальное понимание, улучшенное распознавание объектов и документов, анализ пространственных отношений и видео, а также архитектурные механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Ограничение при развёртывании заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; README рекомендует vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

QuantFactory/granite-3.1-1b-a400m-instruct-GGUF — квантизированная версия Granite-3.1-1B-A400M-Instruct, созданная QuantFactory с использованием llama.cpp на основе модели IBM Granite. Это инструкционная языковая модель для генерации текста и построения AI-ассистентов в различных прикладных областях, включая бизнес-сценарии. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, Retrieval-Augmented Generation (RAG), задач, связанных с кодом, function calling, многоязычного диалога и обработки длинного контекста, включая анализ документов и совещаний. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Исходная модель использует decoder-only Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Она относится к sparse MoE-архитектуре с 1,3 млрд параметров, из которых активно используется около 400 млн; включает 24 слоя, 32 эксперта и выбирает 8 экспертов на токен. Максимальная длина последовательности — 128K токенов. Квантизация может снизить требования к памяти и упростить локальный запуск, однако README не указывает конкретные форматы квантизации, их точность и совместимость. Модель выпущена под лицензией Apache 2.0.

Granite-3.0-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов, в том числе для бизнес-сценариев. Это дообученная версия Granite-3.0-1B-A400M-Base: обучение включало supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Модель использует декодерный разреженный Transformer с архитектурой Mixture of Experts (MoE); в метаданных указан размер 163,6 млн параметров и контекст до 4096 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, вызова функций и многоязычного диалога. Карточка заявляет поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Лицензия — Apache 2.0. Качество на языках кроме английского может быть ниже; few-shot-примеры могут улучшить ответы в многоязычных сценариях. Модель способна выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать для конкретного применения.

Qwen3-VL-32B-Instruct-FP8 — мультимодальная instruction-модель семейства Qwen, представленная как FP8-квантизированная версия Qwen3-VL-32B-Instruct. Модель предназначена для обработки текста, изображений и видео, включая генерацию ответов, визуальное понимание и мультимодальное рассуждение. Квантование выполнено методом fine-grained FP8 с размером блока 128; заявлено, что показатели близки к исходной версии в формате BF16. Модель ориентирована на анализ изображений и видео, OCR, понимание пространственных отношений, STEM- и математическое рассуждение, распознавание объектов и сцен, извлечение структуры из длинных документов, а также задачи визуального агента и генерацию Draw.io, HTML, CSS и JavaScript по изображениям или видео. Она поддерживает контекст длиной 256 тысяч токенов с возможностью расширения до 1 миллиона и рассчитана на работу с длинными документами и многочасовым видео. Для OCR заявлена поддержка 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильные стороны модели — сочетание текстового и визуального понимания, расширенная работа с видео и пространственными отношениями, улучшенное распознавание текста в сложных условиях и поддержка агентских сценариев с взаимодействием через графический интерфейс и инструменты. Ограничение текущей версии заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; для развёртывания рекомендуется использовать vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Instruct-FP8 — мультимодальная instruction-модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-8B-Instruct с мелкозернистой квантизацией и размером блока 128; согласно README, её показатели почти идентичны исходной версии BF16. Модель предназначена для обработки текста, изображений и видео, генерации ответов по визуальному и текстовому контексту, OCR, анализа документов, пространственного рассуждения, понимания длительных видеоматериалов, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены возможности работы с контекстом до 256K токенов с расширением до 1M, временная привязка событий в видео, улучшенное распознавание текста на 32 языках и поддержка задач STEM и математики. Ключевые архитектурные особенности включают Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и механизм выравнивания текста с временными метками. Ограничение текущей версии заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache 2.0.

Firefly-LLaMA2-Chinese 13B Chat — китайско-английская разговорная модель семейства LLaMA 2, разработанная командой Firefly. Авторы расширили китайский словарь токенизатора LLaMA 2, провели дополнительное предобучение на китайских и английских текстах, а затем дообучили модель на многоходовых инструкциях. Репозиторий содержит веса PyTorch; модель имеет 13 млрд параметров и контекст 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на китайском и английском языках: она может отвечать на вопросы, создавать и переписывать тексты, суммировать, переводить, извлекать информацию, решать задачи по чтению и генерировать код. Расширенный китайский словарь сокращает число токенов для китайского текста примерно на 54% по сравнению с исходным LLaMA 2, что повышает эффективность его обработки. Авторы сообщают об оценках на китайских и английских тестах и ручном сравнении, но отмечают, что дополнительное предобучение использовало около 2 млрд токенов и было ограничено по объёму и распределению данных; это сказывается, в частности, на результатах CMMLU. Лицензия в предоставленных данных не указана.

Qwen3-Embedding-0.6B-auto — текстовая модель для создания эмбеддингов, опубликованная в репозитории michaelfeil и основанная на Qwen/Qwen3-0.6B-Base. Это дообученная плотная архитектура Qwen3 примерно с 508 млн параметров; она принимает текст и возвращает векторы размерностью от 32 до 1024. Модель поддерживает контекст до 32 768 токенов и более 100 языков, включая языки программирования. Модель предназначена для поиска и извлечения текстов и кода, сравнения смысловой близости, классификации, кластеризации и поиска параллельных текстов. Она учитывает инструкции, заданные для конкретной задачи, и позволяет настраивать размер вектора. Для работы с архитектурой Qwen3 требуется Transformers версии 4.51.0 или новее; без инструкции на стороне запроса качество поиска в некоторых сценариях может снизиться примерно на 1–5%. Лицензия — Apache-2.0.

QuantTrio/Qwen3-VL-30B-A3B-Thinking-AWQ — это AWQ-квантизированная версия мультимодальной модели Qwen3-VL-30B-A3B-Thinking, разработанной командой Qwen. Модель распространяется в формате для генерации текста и предназначена для локального инференса, в частности через vLLM. Размер набора файлов указан как 17 ГБ, а базовая модель использует MoE-архитектуру с обозначением 30B-A3B. Точный создатель самой квантизированной сборки в README явно не указан; репозиторий связан с идентификатором QuantTrio. Модель предназначена для обработки текста, изображений и видео, включая визуальное распознавание, OCR, анализ документов, пространственное рассуждение, STEM- и математические задачи, понимание видеосцен и взаимодействие с графическими интерфейсами и инструментами. Заявлены генерация Draw.io, HTML, CSS и JavaScript по изображениям или видео, а также поддержка длинного контекста: базово 256K токенов с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный список языков в README не приведён. Ключевые архитектурные особенности базовой модели включают Interleaved-MRoPE для работы с временными и пространственными измерениями, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. Сильными сторонами являются мультимодальное рассуждение, детальное восприятие изображений, обработка длинных документов и видео, а также возможность более экономичного запуска благодаря AWQ-квантизации. Ограничения включают зависимость от совместимого ПО и аппаратной конфигурации; приведённый пример vLLM рассчитан на использование двух GPU, а показатели производительности в README представлены только изображениями без числовой расшифровки. Модель распространяется по лицензии Apache-2.0.

EXAONE-4.0-32B-GGUF — квантизированная версия языковой модели EXAONE 4.0 от LG AI Research. Модель предназначена для генерации текста, диалоговых приложений, агентного использования инструментов и задач, требующих рассуждений. Она поддерживает два режима: Non-reasoning для повседневного взаимодействия и Reasoning для более сложных задач. Заявлена поддержка английского, корейского и испанского языков. Модель содержит около 30,95 млрд параметров без учёта эмбеддингов, 64 слоя и использует GQA с 40 attention heads и 8 KV heads. Контекстное окно составляет 131 072 токена, размер словаря — 102 400. Архитектура включает гибридное внимание: local attention и global attention в соотношении 3:1, а также QK-Reorder-Norm. Репозиторий распространяет веса в формате GGUF с вариантами квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS; также доступны веса BF16. Модель официально поддерживается llama.cpp и может запускаться локально или через OpenAI-совместимый сервер. Сильными сторонами являются сочетание обычного и рассуждающего режимов, большой контекст, мультиязычность, поддержка агентных сценариев и несколько вариантов квантизации для выбора между качеством и требованиями к ресурсам. Ограничениями являются значительный размер 32B, высокие требования к памяти и вычислениям, а также необходимость учитывать особенности интеграции с llama.cpp и применения соответствующего chat template. Лицензия обозначена как exaone; точные условия следует уточнять в файле LICENSE.

Qwen3.6-35B-A3B-DSV4Pro-Thinking-Distill-GGUF — это GGUF-квантизированная версия рассуждающей модели, разработанной пользователем nerkyor на базе Qwen/Qwen3.6-35B-A3B от команды Qwen. Модель использует MoE-архитектуру с 35 млрд общих параметров и примерно 3 млрд активных параметров, а также дистилляцию в стиле ReAct, ориентированную на более быстрое и стабильное решение сложных задач. Репозиторий предназначен для локального запуска через llama.cpp и совместимые приложения, включая Lynn Agent и LM Studio. Модель подходит для текстовой генерации, сложного рассуждения, оркестрации и агентских сценариев. Доступна поддержка изображений через отдельный vision projector. GGUF-файлы содержат встроенную native MTP-голову для speculative decoding и, кроме вариантов Q8_0 и F16, используют imatrix-коррекцию. Предлагаются варианты от Q4_K_M примерно на 21 ГБ до F16 примерно на 69 ГБ; рекомендуемый баланс качества и требований к памяти — Q4_K_M, а для высокопроизводительных систем с 32 ГБ и более рекомендуется Q5_K_M. В примере запуска используется контекст 8192 токенов, но README не указывает предельный размер контекста модели. По приведённым тестам дистиллированная версия показывает 80,3% на GPQA-Diamond и сокращает время сквозной оркестрации в 2,3 раза относительно базовой модели при включённом reasoning. Native MTP даёт ускорение до 1,63 раза на Q8_0 в однопоточном тесте, однако выигрыш зависит от квантизации и снижается при высокой многопоточности. Ограничением является небольшое снижение результата MMLU относительно базы — 90,2% против 91,4%; также для запуска требуются значительные объёмы VRAM или unified memory. Модель распространяется по лицензии Apache-2.0.

batiai/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, основанной на архитектуре Qwen3.5. Квантизацию выпустила BatiAI на базе официального релиза Qwen. Модель предназначена для локального запуска через llama.cpp и Ollama, включая использование на устройствах Apple Silicon. Модель представляет собой плотную модель на 27 млрд параметров с 64 слоями, скрытым размером 5120 и словарём из 248 320 токенов. Она использует гибридную архитектуру с преимущественно линейным вниманием Gated DeltaNet и полным вниманием в каждом четвёртом блоке. Нативный контекст составляет 262 144 токена и заявлена возможность расширения до 1 млн токенов. Поддерживаются текстовые сценарии, а при подключении vision-проектора BF16 — анализ изображений и видео. Заявлены языки английский, корейский и китайский. Модель ориентирована на генерацию текста, рассуждения, планирование и агентские сценарии с обработкой обратной связи от окружения. Режим рассуждений включён по умолчанию, его можно отключать и настраивать через reasoning_effort. Доступно несколько вариантов квантизации объёмом примерно от 10,2 до 22,1 ГБ, а vision-проектор требует ещё около 0,93 ГБ. Квантизация снижает требования к памяти, но может влиять на качество по сравнению с полноточной моделью; конкретные требования зависят от выбранного варианта и оборудования. На Apple Silicon производительность разных квантизаций неодинакова, поэтому меньший файл не всегда означает более высокую скорость. Распространение указано по лицензии Apache-2.0.

Qwen3-VL-2B-Thinking-GGUF — мультимодальная vision-language модель серии Qwen, разработанная командой Qwen. Это GGUF-версия базовой модели Qwen3-VL-2B-Thinking, предназначенная для локального запуска через llama.cpp, Ollama и другие инструменты, совместимые с GGUF. Модель сочетает языковую модель примерно на 2 млрд параметров с vision encoder и работает с текстом и изображениями, а также поддерживает анализ видео. Релиз включает языковые веса в форматах FP16, Q8_0 и Q4_K_M и отдельный vision encoder в FP16 или Q8_0. Заявлены расширенный контекст до 256K токенов с возможностью масштабирования до 1M, визуальное и пространственное рассуждение, OCR для 32 языков, понимание документов, STEM-задач, видео и пользовательских интерфейсов. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Модель подходит для визуального вопросно-ответного взаимодействия, распознавания и структурирования текста на изображениях, анализа документов и видео, визуального рассуждения, генерации кода и задач визуального агента. Наличие нескольких уровней точности позволяет выбирать баланс между качеством, скоростью и требованиями к памяти, а поддержка CPU, NVIDIA GPU, Apple Silicon и Intel GPU упрощает локальное развертывание. Ограничения включают возможное снижение качества при квантовании, зависимость производительности от оборудования и отсутствие в README подробных числовых результатов тестирования и полного списка поддерживаемых языков. Модель распространяется по лицензии Apache-2.0.

Карточка модели context-labs/meta-llama-Llama-3.2-3B-Instruct-FP16 на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-3B-Instruct, поэтому описание составлено по ней. Meta разработала Llama 3.2 3B Instruct — мультиязычную авторегрессионную языковую модель на архитектуре Transformer для генерации текста. Версия Instruct дообучена с помощью контролируемой настройки и обучения с подкреплением на основе обратной связи от людей; модель оптимизирована для диалогов с ассистентом и задач, связанных с агентными приложениями. Модель подходит для ответов в чате, поиска сведений и суммаризации, а также для мобильных помощников по написанию текста и переформулированию запросов. Она принимает текст и генерирует текст, в том числе код. В карточке семейства указан контекст до 128 тысяч токенов, а среди официально поддерживаемых языков перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель использует Grouped-Query Attention и рассчитана в том числе на запуск в средах с ограниченными ресурсами. По сравнению с более крупными моделями у компактных вариантов могут отличаться баланс безопасности и полезности; разработчикам следует проверять поведение модели в своём сценарии. Использование регулируется пользовательской коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

apolo13x/Qwen3.5-27B-quantized.w4a16 — квантованная версия мультимодальной модели Qwen3.5-27B, разработанной командой Qwen и опубликованной пользователем apolo13x. Модель принимает текст и изображения, а генерирует текст, поэтому предназначена для диалоговых сценариев, анализа визуального и текстового контента, а также общих задач рассуждения и следования инструкциям. Веса сжаты до формата INT4 W4A16 с использованием GPTQ и инструмента llm-compressor. Для калибровки использовано 512 образцов из датасета HuggingFaceH4/ultrachat_200k. Размер модели уменьшен с 51,8 до 17,3 ГБ, примерно в 3 раза, при заявленном среднем восстановлении точности 100,3% относительно исходной модели. В README не указаны точное количество контекстных токенов и поддерживаемые языки. Модель демонстрирует высокие результаты в GPQA Diamond, IFEval и MMLU-Redux: средняя оценка составила 90,05% против 89,76% у исходной Qwen3.5-27B. Ключевые ограничения связаны с 4-битным квантованием и зависимостью от совместимой инфраструктуры; на 27 февраля 2026 года заявлена поддержка в nightly-версии vLLM. Модель распространяется по лицензии Apache-2.0.

Vishva007/Qwen3.5-9B-W4A16-AutoRound-GPTQ — квантизированная версия модели Qwen/Qwen3.5-9B, подготовленная Vishva007 с использованием метода AutoRound от Intel. Модель предназначена для генерации текста, задач рассуждения и обработки изображений с текстом, включая визуальное понимание и OCR. Она поддерживает архитектуру и возможности базовой модели Qwen3.5-9B; точный размер контекста и перечень языков в README не указаны. Используется квантизация W4A16: веса представлены в 4-битном формате, а активации сохраняются в 16-битной точности. Применены симметричная квантизация с размером группы 32, 1200 итераций оптимизации и 512 калибровочных образцов при длине последовательности 4096. По заявлению автора, это снижает потребление памяти примерно на 50% по сравнению с FP16-версией и подходит для развёртывания на потребительских и средних GPU. Vision Tower сохранён в BF16 для сохранения качества визуального анализа и OCR, а модули Multi-Token Prediction — в исходной BF16-точности. Модель поддерживает Multi-Token Prediction и спекулятивное декодирование в совместимых серверных средах, включая vLLM, что может повысить пропускную способность. Совместимость заявлена для transformers и бэкендов, поддерживающих веса AutoRound в формате GPTQ, включая vLLM, SGLang и AutoGPTQ. Ограничения связаны с зависимостью от совместимого программного обеспечения и аппаратной поддержки квантизации; количественные результаты тестов качества в README не приведены. Лицензия — Apache-2.0.

AIArchiveInfo/Qwen3-Embedding-0.6B — побитовая архивная копия Qwen/Qwen3-Embedding-0.6B, разработанной командой Qwen. Это плотная модель семейства Qwen3 с 507,6 млн параметров, предназначенная для преобразования текстов в векторные представления и сравнения их семантической близости. Она подходит для поиска по тексту и коду, классификации и кластеризации текстов, поиска параллельных фрагментов на разных языках и построения семантического поиска. Модель поддерживает более 100 языков, контекст до 32 768 токенов и настраиваемую размерность эмбеддингов от 32 до 1024. Она учитывает инструкции, заданные для конкретной задачи; исходная карточка рекомендует формулировать их на английском в многоязычных сценариях. Для работы с архитектурой Qwen3 требуется Transformers версии 4.51.0 или новее. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0; согласно карточке, эта копия не обучалась и не изменялась.

Firefly-LLaMA2-7B-Chat — китайско-английская разговорная модель команды Firefly на архитектуре LLaMA 2. Она создана на базе LLaMA 2 с расширенным китайским словарём: модель прошла дополнительное предобучение на китайских и английских текстах, а затем дообучение на многоходовых инструкциях и диалогах. В репозитории указаны размер 6,7 млрд параметров, контекст 4096 токенов и формат PyTorch. Модель предназначена для диалоговых ответов, генерации и преобразования текста, включая ответы на вопросы, краткое изложение, перевод, извлечение информации, классификацию, математические задачи и генерацию кода. Расширенный китайский словарь уменьшает число токенов при обработке китайского текста; авторы также сообщают о сохранении английских возможностей базовой LLaMA 2 и улучшении китайских навыков по сравнению с LLaMA 2 Chat. Указанные в карточке оценки относятся к авторским тестам и не гарантируют качество в конкретных сценариях. Модель генерирует текст по текстовым запросам. В README отмечено, что прирост по китайским знаниям ограничен объёмом и составом дополнительного предобучения; авторы использовали около 2 млрд токенов из подготовленного корпуса. Лицензия для конкретного репозитория в предоставленных данных не указана.

Gemma 3 4B IT GGUF — квантизированное или иным образом подготовленное для формата GGUF представление instruction-tuned модели Google Gemma 3 4B IT. Разработчик — Google DeepMind. Модель относится к семейству лёгких открытых моделей, созданных на основе исследований и технологий Gemini, и предназначена для генерации текста и анализа изображений. Модель поддерживает текстовые и графические входные данные и генерирует текст. Она подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа содержимого изображений и извлечения визуальной информации. Для версии 4B заявлено контекстное окно до 128K токенов, максимальный объём генерируемого результата — до 8192 токенов; изображения нормализуются до 896×896 и кодируются в 256 токенов каждое. Указана поддержка более 140 языков, а обучающие данные также включали код и математические материалы. Ключевое преимущество — сочетание мультимодальности, большого контекста и относительно небольшого размера, что упрощает развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. README не содержит точных сведений об архитектуре, параметрах квантования GGUF, фактической производительности или ограничениях качества. Использование регулируется лицензией Gemma и условиями Google; конкретные условия необходимо проверять в Terms of Use.