II.2Создание и понимание программного кода

Llama TI 8B Instruct — дообученная и объединённая модель на основе Meta Llama 3.1 8B Instruct, разработанная и опубликованная ehristoforu. Она использует плотную архитектуру LlamaForCausalLM и предназначена для диалогов и генерации текста; заявленный размер — 8,03 млрд параметров, а длина контекста — до 131 072 токенов. Автор сообщает об улучшениях в математике, физике, биологии, логическом рассуждении и творческом письме. Модель также подходит для программирования и анализа длинных текстов, а интерфейс поддерживает чат и вызов инструментов. В карточке перечислены возможности на английском и работа с кодом; автор отдельно заявляет о письме на многих языках. Модель распространяется в формате Safetensors под лицензией Apache-2.0. Заявленные улучшения приведены в карточке без количественных результатов оценки, поэтому их качество на конкретных задачах следует проверять отдельно.

unsloth/Mistral-Small-24B-Instruct-2501-GGUF — квантизированная версия 24-миллиардной Mistral Small 3 (2501), разработанной командой Mistral AI и опубликованной Unsloth в формате GGUF. Это instruction-tuned модель на базе Mistral-Small-24B-Base-2501, предназначенная для диалоговых приложений, генерации текста, локального инференса, function calling, выдачи JSON и создания специализированных предметных ассистентов после дообучения. Модель поддерживает десятки языков, включая английский, французский, немецкий, испанский, итальянский, китайский, японский, корейский, португальский, нидерландский и польский. Заявлены сильные conversational и reasoning-возможности, поддержка системных промптов и контекстное окно 32K токенов. Используется токенизатор Tekken со словарём размером 131K; конкретная архитектура и параметры квантизации в предоставленном README не указаны. К сильным сторонам относятся высокая плотность знаний, низкая задержка, нативные возможности для агентных сценариев и возможность локального запуска после квантизации, в том числе на RTX 4090 или MacBook с 32 ГБ оперативной памяти. Ограничения включают отсутствие подробных данных о вариантах квантизации, требованиях к оборудованию и результатах независимых оценок; заявленные преимущества основаны на материалах разработчика. Модель распространяется по лицензии Apache 2.0, допускающей использование и модификацию в коммерческих и некоммерческих целях.

next-8b-i1-GGUF — квантизированная GGUF-версия языковой модели next-8b, разработанной thelamapi и подготовленной квантизатором mradermacher. В README также указана поддержка со стороны nethype GmbH. Модель предназначена для генерации текста, диалоговых сценариев, аналитических и рассуждающих задач, а также многоязычного применения. Это текстовая Transformer-модель примерно на 8 млрд параметров, обученная и дообученная с использованием наборов данных для instruction tuning, reasoning, диалогов, программирования, медицинских и других специализированных текстовых сценариев. Заявлены языки: турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский. Мультимодальность и размер контекстного окна в README не указаны. Модель доступна в большом наборе GGUF-квантизаций размером примерно от 2,2 до 6,8 ГБ. Варианты различаются балансом между скоростью, требованиями к памяти и качеством; для общего использования рекомендован i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описан как оптимальный по соотношению размера, скорости и качества. Более агрессивные квантизации имеют заметные ограничения качества, поэтому конкретный вариант следует выбирать с учётом доступной памяти и требований к результату. Лицензия — MIT.

NVIDIA-Nemotron-3-Super-120B-A12B-FP8 — большая языковая модель, разработанная NVIDIA Corporation. Она предназначена для агентных рабочих процессов, рассуждений, диалоговых приложений, использования инструментов, систем RAG и высоконагруженных сценариев, включая автоматизацию ИТ-заявок. Модель поддерживает английский, французский, немецкий, итальянский, японский, испанский и китайский языки, а режим рассуждений можно включать или отключать через шаблон чата. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями Attention и механизмом Multi-Token Prediction для ускорения генерации. Она содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, поддерживает контекст до 1 млн токенов и поставляется в формате FP8. Встроенная MTP-голова поддерживает speculative decoding. Для работы требуется минимум две видеокарты H100 с 80 ГБ памяти. К сильным сторонам относятся большой контекст, поддержка многоязычных и агентных сценариев, конфигурируемое рассуждение, высокая эффективность разреженной архитектуры и возможность применения в коммерческих системах. Ограничениями являются значительные требования к аппаратным ресурсам, а также необходимость учитывать особенности лицензии и настройки инференса; в README рекомендуется использовать temperature 1.0 и top_p 0.95. Использование модели регулируется NVIDIA Nemotron Open Model License; заявлена готовность к коммерческому применению.

NVIDIA-Nemotron-Nano-9B-v2-Japanese — разработанная NVIDIA Japan японская версия языковой модели NVIDIA Nemotron Nano, дообученная на японских данных для чата и задач с рассуждением. Модель предназначена для диалоговых приложений, следования инструкциям, AI-агентов и RAG-систем; поддерживает вызов инструментов и программирование. В основе — гибридная архитектура Nemotron-H с преимущественно слоями Mamba-2 и MLP и четырьмя слоями Attention. Модель принимает и генерирует текст, поддерживает японский и английский языки и контекст до 131 072 токенов. Может сначала выдавать трассу рассуждений, а затем ответ; режим рассуждений и бюджет токенов на него настраиваются при инференсе. Карточка указывает 9 млрд параметров, тогда как метаданные каталога — 15,1 млрд. Модель оптимизирована для систем с GPU NVIDIA; качество зависит от задачи, а результаты Nejumi Leaderboard 4 измерены на японских подмножествах и не сопоставимы напрямую с исходными бенчмарками. Коммерческое использование разрешено; в метаданных лицензия обозначена как other.

plato-9b — диалоговая языковая модель на 9 млрд параметров, разработанная DeepVK дообучением google/gemma-2-9b-it. Она предназначена прежде всего для генерации ответов на русском языке и общения в формате диалога. Модель обучали с supervised fine-tuning и оптимизацией предпочтений на инструкционных данных, включавших диалоги, математику, биологию, химию, код и общие знания. Архитектура — плотная Gemma 2 для причинной генерации текста; контекст — до 8192 токенов. Метаданные указывают поддержку русского и английского языков. В карточке приведены оценки на русскоязычных наборах arena-general-ru и arena-hard-ru с оцениванием LLM-as-a-judge. Эти результаты характеризуют конкретные тесты и не гарантируют качество для каждой задачи. Модель принимает текст и генерирует текст. Распространяется по лицензии Apache-2.0.

ThomasBaruzier/Qwen2.5-3B-Instruct-GGUF — набор GGUF-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-3B-Instruct. Исходную модель разработала команда Qwen компании Alibaba Cloud; данный репозиторий содержит квантизации, созданные с помощью llama.cpp и метода imatrix с использованием калибровочного файла Bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая следование инструкциям, создание длинных текстов, работу со структурированными данными и JSON, программирование и математические задачи. Она поддерживает более 29 языков, среди явно указанных — китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Это каузальная Transformer-модель с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Модель содержит 3,09 млрд параметров, 36 слоёв и использует Grouped-Query Attention с 16 головами для Q и 2 для KV. Заявлена длина контекста до 32 768 токенов и генерация до 8192 токенов. Главное преимущество репозитория — выбор компромиссов между размером файлов, качеством и требованиями к памяти: варианты занимают примерно от 755 МБ до 5,9 ГБ, при этом качество квантования различается, поэтому наиболее компактные версии могут заметно уступать F16. Лицензия указана как qwen-research; применяются условия лицензии исходной модели Qwen2.5-3B-Instruct.

RedHatAI/Qwen3-30B-A3B-quantized.w4a16 — квантизированная версия языковой модели Qwen3-30B-A3B, разработанная Red Hat (Neural Magic). Это авторегрессионная текстовая модель на архитектуре Qwen3ForCausalLM: принимает текст и генерирует текст. Она предназначена для рассуждений, вызова функций, дообучения под предметные области, многоязычного следования инструкциям и перевода. Модель использует INT4-квантизацию весов линейных операторов в трансформерных блоках. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритм GPTQ, реализованный в библиотеке llm-compressor; веса имеют формат W4A16. По сравнению с 16-битным представлением это примерно на 75% уменьшает размер на диске и требования к памяти GPU. Доступно эффективное развертывание через vLLM, включая OpenAI-совместимый сервер. В README конкретно не указаны языки, точное окно контекста и результаты оценок. К сильным сторонам относятся существенная экономия памяти и дискового пространства при сохранении назначения базовой модели, а также поддержка сценариев рассуждения и многоязычной работы. Ограничения связаны с возможными потерями качества из-за 4-битной квантизации и зависимостью рекомендованного развертывания от совместимого стека, включая vLLM. Модель выпущена под лицензией Apache-2.0; использование не должно нарушать применимое законодательство и требования экспортного контроля.

Qwen3-Swallow 32B RL v0.2 AWQ-INT4 — квантованная 4-битная версия большой языковой модели, разработанная командой Tokyo Institute of Technology под названием tokyotech-llm на основе Qwen3. Модель дообучалась с использованием непрерывного предварительного обучения, supervised fine-tuning и reinforcement learning with verifiable rewards (RLVR), включая датасеты по математике, программированию, рассуждениям и диалогам. Модель предназначена для генерации текста, общения, японско-английского перевода, решения математических задач, программирования и задач, требующих развитого рассуждения. Она оптимизирована для японского и английского языков. Размер исходной модели составляет 32 млрд параметров; архитектурные детали и токенизатор соответствуют Qwen3. Рекомендуется использовать контекст длиной не более 32 768 токенов и параметры генерации temperature 0,6, top-p 0,95 и top-k 20. К сильным сторонам относятся высокая двуязычная компетентность, улучшенные возможности рассуждения и сохранение производительности в математике и программировании. Для данной AWQ-квантизованной версии результаты оценки пока не опубликованы. Модель не обучалась специально для использования инструментов и function calling, а переключение режима рассуждений ON/OFF не поддерживается. Лицензия — Apache-2.0.

DeepSeek-V3-Base — базовая языковая модель семейства DeepSeek-V3, разработанная командой DeepSeek AI. Это Mixture-of-Experts (MoE) модель с 671 млрд общих параметров, из которых 37 млрд активируются для каждого токена. Модель предварительно обучена на 14,8 трлн разнообразных токенов и предназначена для использования в качестве основы для генерации и понимания текста, а также последующей адаптации под прикладные задачи. В архитектуре применяются Multi-head Latent Attention (MLA) и DeepSeekMoE. Для балансировки нагрузки используется стратегия без вспомогательной функции потерь, а обучение дополнено целью Multi-Token Prediction, которая может применяться и для ускорения вывода посредством speculative decoding. Обучение проводилось с использованием смешанной точности FP8; заявлены высокая эффективность обучения и стабильность процесса. Длина контекста в предоставленных данных не указана, как и точный перечень поддерживаемых языков и сведения о мультимодальности. Сильными сторонами модели являются крупный общий объём параметров, высокая вычислительная эффективность за счёт разреженной активации экспертов и заявленная конкурентоспособность среди открытых базовых моделей. Ограничения включают значительные требования к инфраструктуре для запуска и отсутствие в предоставленном описании подробных характеристик инференса, языкового покрытия и результатов по отдельным прикладным сценариям. Код распространяется по лицензии MIT, а сама модель — по Model Agreement.

GoGPT2-13B — 13-миллиардная плотная языковая модель семейства Llama, основанная на Llama 2 и представленная разработчиком Golaxy. Она предназначена для генерации текста на китайском и английском языках: ответов на вопросы, написания и редактирования текстов, объяснения понятий и создания кода. Архитектура — LlamaForCausalLM; модель рассчитана на контекст до 4096 токенов и доступна в формате PyTorch. В примерах карточки показаны ответы на общие вопросы, создание рецензий и реализация алгоритма. Модель дообучена на китайском наборе Alpaca-GPT4; лицензия — Apache-2.0. Карточка также говорит о версиях GoGPT на 7B и 13B параметров, но не приводит подробностей их сравнительной производительности.

bartowski/granite-3.0-3b-a800m-instruct-GGUF — набор квантизированных версий инструкционной языковой модели granite-3.0-3b-a800m-instruct, разработанной IBM Granite и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и выполнения инструкций, включая ответы на вопросы, рассуждения, решение математических задач, работу с кодом и мультиязычные сценарии. Доступны веса в форматах от F16 до Q4, включая варианты Q8_0, Q6_K, Q5_K и Q4_K; размер файлов составляет примерно от 1,93 до 6,75 ГБ. Для запуска рекомендуется использовать llama.cpp или LM Studio. В README приведены результаты на IFEval, AGI-Eval, OBQA, BoolQ, ARC-C, HumanEvalSynthesis, GSM8K и PAWS-X, однако подробные характеристики архитектуры, максимального контекста, поддерживаемых языков и модальностей не указаны. К сильным сторонам относятся выбор степеней квантизации, возможность локального запуска и сохранение высокого качества в вариантах Q5 и Q6. Более компактные варианты требуют меньше памяти, но могут сильнее терять качество. Модель предназначена для текстовых задач и не заявлена как мультимодальная. Лицензия — Apache-2.0.

Это модель realoperator42, представляющая собой «разцензурированную» версию IBM Granite-4.1-3B, созданную с помощью Heretic v1.4.0. Это плотный декодерный трансформер с 3,4 млрд параметров, ориентированный на диалог и генерацию текста; максимальная длина контекста — 131 072 токена. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Модель подходит для генерации ответов на инструкции и диалоговых сценариев, включая суммаризацию, извлечение и классификацию текста, ответы на вопросы, RAG, задачи с кодом и вызов функций. Исходная Granite-4.1-3B поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; данные карточки не подтверждают отдельную языковую оценку именно этой модификации. В README приведено сравнение отказов: 3 из 100 для этой версии против 88 из 100 у исходной модели, поэтому её поведение в отношении отказов заметно изменено. Модификация создана методом abliteration, меняющим поведение модели без обычного дообучения на целевом наборе данных. README сообщает о воспроизводимости процесса и приводит KL-дивергенцию 0,2603 относительно исходной модели. Она может выдавать неточные, предвзятые или небезопасные ответы; перед применением требуется оценить её поведение и настроить подходящие меры безопасности.

Hermes 2 Pro — диалоговая языковая модель Nous Research, созданная совместно с Interstellarninja и Fireworks.AI на основе дообучения Meta Llama 3 70B. Модель с плотной архитектурой Llama содержит 69,5 млрд параметров, принимает текст и генерирует текст; родной размер контекста — 8192 токена. Для диалога используется формат ChatML. Модель предназначена для общения, выполнения инструкций, вызова функций и формирования структурированных ответов в JSON по заданной схеме. По данным разработчиков, обучение включало обновлённый набор OpenHermes 2.5, а также специально подготовленные данные для вызова функций и JSON Mode. Для использования этих возможностей нужны соответствующие системные инструкции и обработка вызовов инструментов в приложении. В метаданных указан английский язык. Модель наследует возможности базовой Llama 3 70B для генерации текста и кода, однако карточка отдельно не описывает языковую поддержку сверх английского. Доступна в формате safetensors; лицензия в предоставленных данных не указана.

Hunyuan-1.8B-Instruct — компактная инструктивная языковая модель Tencent из семейства Hunyuan. Это плотная авторегрессионная модель на 1,8 млрд параметров для генерации текста и диалогового взаимодействия; она поддерживает вызов инструментов через соответствующий интерфейс. Модель предназначена для ответов на вопросы, следования инструкциям, рассуждений, задач по математике и программированию, а также агентных сценариев. Поддерживаются быстрый и медленный режимы рассуждения и контекст до 256K токенов. В карточке приведены результаты тестирования разных вариантов семейства, но отдельные цифры для модели 1.8B не следует считать гарантией качества в реальных задачах. Модель разработана Tencent и опубликована 30 июля 2025 года. Для запуска описана поддержка Transformers, TensorRT-LLM, vLLM и SGLang. Сведения о лицензии в предоставленных данных отсутствуют.

AlexWortega/instruct_rugptSmall — небольшая авторская версия ruGPT Small, дообученная на инструкциях, материалах Habr, данных для вопросов и ответов и коде. Модель на архитектуре GPT-2 предназначена для генерации текста по запросу и может использоваться для ответов на вопросы и помощи с кодом. Модель работает через библиотеку Transformers, принимает текст и генерирует текст. Контекст составляет 2048 токенов. В метаданных указана лицензия Apache-2.0. Размер модели и список поддерживаемых естественных языков явно не приведены; русский язык подтверждён примером запроса и описанием дообучения на русскоязычных инструкциях.

bunnycore/Llama-3.2-3B-TitanFusion-v2 — текстовая языковая модель, созданная слиянием нескольких предварительно обученных моделей семейства Llama 3.2 с помощью mergekit и метода TIES. В качестве базовой использована unsloth/Llama-3.2-3B; в слияние также вошли модели с уклоном в программирование и рассуждения. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Заявленная длина контекста — 131 072 токена. В карточке не приведены сведения о специальных языковых или предметных ограничениях, а также о лицензии, поэтому их нельзя уточнить по доступным данным.

llm-jp-4.1-8b-thinking — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная трансформерная модель семейства Llama с 7,8 млрд параметров по метаданным и контекстом до 65 536 токенов. Репозиторий содержит веса в формате safetensors; для диалогов предусмотрен шаблон, совместимый с форматом ответов OpenAI Harmony, но для токенизации требуется прилагаемый токенизатор модели. Модель предназначена для генерации ответов и рассуждений в диалоге, а также для задач математики, естественных наук, вопросов и ответов, программирования, следования инструкциям и перевода между японским и английским. Она обучалась на японском и английском; после предварительного обучения прошла дообучение с учителем и выравнивание методом DPO, без обучения с подкреплением. Контекст и наличие диалогового режима делают её пригодной для многошаговых запросов и работы с длинными текстами. Разработчики оценивают модель на общих задачах, безопасности и вызове инструментов. Карточка предупреждает, что ответы могут быть неточными, неподходящими или нежелательными, поэтому результаты следует проверять. Разработчики не предназначают модель для непосредственного применения в производственных сервисах. Лицензия — Apache-2.0.

Модель thebbg/Ma7ee7_Qwen3.8_4B_Distilled — дообученная версия Qwen3, опубликованная разработчиком thebbg. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. В карточке указано, что обучение проводилось с Unsloth. Модель принимает текст и выдаёт текст. Для неё заявлено контекстное окно до 262 144 токенов, а в метаданных указан английский язык. Базовая модель описана как подходящая для рассуждений, программирования и диалоговых задач; отдельные специализированные возможности этой версии не описаны. Лицензия — Apache-2.0.

solidrust/Mistral-7B-Instruct-v0.3-AWQ — это 4-битно квантованная версия Mistral-7B-Instruct-v0.3, разработанной компанией Mistral AI (mistralai) и опубликованной в формате AWQ пользователем Suparious. Модель представляет собой большую языковую модель с авторегрессионной архитектурой для генерации текста и была дообучена на выполнение инструкций. Модель предназначена для диалоговых сценариев, ответов на запросы пользователей, генерации и обработки текста, а также задач, где требуется следование инструкциям. Базовая версия Mistral-7B-v0.3 получила расширенный словарь размером 32768 токенов, поддержку токенизатора v3 и function calling. README не указывает поддерживаемые языки и размер контекстного окна. Ключевое преимущество версии AWQ — снижение требований к памяти и потенциально высокая скорость инференса при сохранении качества, сопоставимого с распространёнными настройками GPTQ. Ограничением является поддержка преимущественно Linux и Windows с графическими процессорами NVIDIA; для macOS рекомендуется использовать модели в формате GGUF. Для запуска доступны AutoAWQ, vLLM, Text Generation Inference, Transformers и Text Generation WebUI. Модель распространяется по лицензии Apache-2.0.

SanctumAI/Mistral-7B-Instruct-v0.3-GGUF — это квантизированная версия инструкционной языковой модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI и подготовленной в формате GGUF командой SanctumAI. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая использование через локальные приложения, поддерживающие GGUF. Она также поддерживает function calling. Модель основана на Mistral-7B-v0.3 и использует расширенный словарь размером 32 768 токенов и tokenizer v3. В репозитории доступны варианты квантизации от Q2_K до Q8_0, а также версия f16; размер файлов составляет примерно от 2,72 до 14,50 ГБ. Для полного контекста до 32 000 токенов заявленные требования к памяти варьируются от 6,78 до 17,74 ГБ в зависимости от варианта. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует считать текстовой. Ключевое преимущество — возможность запускать модель локально с выбором компромисса между размером, требованиями к памяти и сохранением качества. Ограничения связаны с потерями качества при низкой степени квантизации и с тем, что это сравнительно компактная 7-миллиардная модель, поэтому её возможности уступают более крупным моделям в сложных задачах. Модель распространяется по лицензии Apache-2.0.

Aratako/Mixtral-8x7B-Instruct-v0.1-upscaled — экспериментальная инструктивная языковая модель, созданная автором Aratako с помощью mergekit: слои исходной mistralai/Mixtral-8x7B-Instruct-v0.1 чередуются методом passthrough. Архитектура — Mixtral MoE для генерации текста и диалогов; в репозитории указано 12,3 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на запросы, ведения диалога, написания текстов, извлечения сведений, программирования и рассуждений. Карточка приводит результаты MT-Bench, где модель показывает неоднородные изменения относительно исходника по отдельным категориям; это не гарантирует качества на других задачах. Указаны языки английский, французский, итальянский, немецкий и испанский. Веса опубликованы в формате safetensors под лицензией Apache-2.0. Это экспериментальное слияние слоёв одной модели; README описывает метод и сравнительный бенчмарк, но не подтверждает независимую проверку результатов.

MrFuzzihead/Nex-N2.5-mini-APEX-GGUF — набор GGUF-квантизированных вариантов мультимодальной агентной модели Nex-N2.5-mini, разработанной Nex-AGI. Квантизация выполнена MrFuzzihead методом APEX, созданным командой LocalAI для llama.cpp и учитывающим структуру Mixture-of-Experts. Модель предназначена для долгих агентных сценариев в реальном мире: управления компьютером, веб-сёрфинга, визуально обоснованных рабочих процессов, проверки результатов и самокоррекции. Она также поддерживает генерацию текста, рассуждения и вызов инструментов. Базовая модель содержит около 35 млрд параметров, использует 256 маршрутизируемых экспертов, из которых 8 активируются на каждом токене, а также общего эксперта. Архитектура включает 40 слоёв с гибридом полного внимания и линейного внимания/SSM; полное внимание используется только в 10 слоях, что снижает нагрузку на KV-кэш. Поддерживаются текст, изображения и видео с временными патчами, контекст до 262 144 токенов, адаптивное рассуждение с уровнями none, medium и high, а также вызов функций в формате Qwen3-Coder. Основной язык и полный перечень языков README не уточняет. Репозиторий предлагает варианты размером примерно от 10,15 до 23,60 ГБ и отдельные vision-проекторы BF16 или Q8_0. Это позволяет выбирать между качеством и требованиями к памяти: старшие варианты рассчитаны примерно на видеокарты с 24 ГБ памяти, компактные — на 12–24 ГБ. APEX применяет разную точность к экспертам, слоям, вниманию и SSM, сохраняя более высокую точность в важных компонентах; варианты с importance matrix ориентированы на лучшее качество и меньшую потерю информации. Ограничения включают неизбежные потери качества квантизации, дополнительные требования к памяти для vision-проектора, KV-кэша и служебных накладных расходов, а также зависимость совместимости от llama.cpp и поддержки мультимодального запуска. Лицензия — Apache-2.0.

Qwen2-1.5B-Instruct-GPTQ-Int4 — инструкционно дообученная языковая модель из семейства Qwen2, разработанная командой Qwen. Она предназначена для диалоговых сценариев и генерации текста: ответов на вопросы, кратких объяснений, работы с естественным языком и кодом. Модель относится к классу decoder-only Transformer и содержит 1,5 млрд параметров; версия GPTQ-Int4 использует 4-битное квантование для снижения требований к памяти при инференсе. Поддерживаются текстовые входы и выходы, а контекстное окно в README не указано. В архитектуре заявлены активация SwiGLU, bias в QKV-проекциях и group query attention. Токенизатор адаптирован для нескольких естественных языков и языков программирования, однако в метаданных README явно указан английский язык. Модель предварительно обучалась на большом объёме данных, а затем дообучалась с помощью supervised fine-tuning и direct preference optimization; заявлены возможности в понимании и генерации текста, многоязычности, программировании, математике и рассуждениях. README не приводит точных результатов тестов и не описывает специфические ограничения качества квантированной версии; для запуска рекомендуются актуальные версии transformers, autogptq или vLLM. Лицензия — Apache 2.0.

CalamitousFelicitousness/Qwen2.5-3B-Instruct-fp8-dynamic — инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это каузальная Transformer-модель для генерации текста и диалоговых сценариев, включая следование инструкциям, ответы на вопросы, работу со структурированными данными и создание структурированных ответов, в том числе JSON. Указанная версия основана на Qwen/Qwen2.5-3B и использует динамическое 8-битное представление FP8, однако подробности реализации квантования в README не приведены. Модель содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и имеет 36 слоёв. Архитектура включает RoPE, SwiGLU, RMSNorm, смещения в QKV внимания, связанные эмбеддинги слов и GQA с 16 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Заявлена поддержка более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Сильными сторонами являются улучшенные возможности в программировании и математике, следование инструкциям, генерация длинных текстов, обработка структурированных данных и устойчивость к разнообразным системным промптам. Ограничения включают меньший размер по сравнению с крупными моделями семейства и отсутствие в README подробных результатов оценки, требований к аппаратным ресурсам, характеристик производительности и описания модальностей, отличных от текста. Лицензия указана как qwen-research; применимые условия следует уточнять в тексте лицензии Qwen/Qwen2.5-3B.

SII-Enigma/Qwen2.5-7B-Ins-SFT-32k — плотная причинно-языковая модель семейства Qwen2.5 с 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B-Instruct. В README описан подход AMPO: он использует решения нескольких моделей-учителей, вмешиваясь, когда модель не справляется самостоятельно, и выбирая понятные ей варианты решений. Авторы заявляют, что подход улучшает результативность и эффективность по сравнению с одним RL или SFT. Модель предназначена для генерации текста и диалогов, в том числе для задач рассуждения. Контекст составляет 32 768 токенов; репозиторий использует формат Safetensors и библиотеку Transformers. Метаданные указывают интерфейс вызова инструментов, но README не приводит подробных примеров или результатов оценки именно этого чекпойнта. Указана лицензия Apache-2.0.

Qwen2.5-7B-Instruct-20241204-114939 — дообученная компанией или автором qfq диалоговая языковая модель на архитектуре Qwen2 плотного типа с 7,1 млрд параметров. Она предназначена для генерации текста и ответов в формате диалога; также поддерживает интерфейс вызова инструментов. В карточке указана оценка Loss 0,3328 на наборе для оценки, но сам набор данных и подробности обучения не описаны. Модель принимает текст и генерирует текст. Контекстное окно составляет 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README не приводит конкретных специализаций или ограничений, поэтому пригодность для узких задач и качество ответов следует оценивать отдельно.

txn545/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия языковой модели Qwen3.5-122B-A10B от Alibaba, подготовленная с использованием NVIDIA Model Optimizer. Это авторегрессионная модель на архитектуре Transformers с разреженной экспертной архитектурой: всего 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Модель принимает текст, изображения и видео, а генерирует текст; заявленная длина контекста — до 262 тысяч токенов. Языки README не уточняет. Модель предназначена для развертывания в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Квантизация весов и активаций линейных операторов в MoE-блоках выполнена в формате NVFP4 и ориентирована на инференс через SGLang на GPU NVIDIA Blackwell под Linux. Указанная версия квантизации создана с помощью nvidia-modelopt v0.43.0.dev52+g35e60991c; для запуска требуется актуальная версия SGLang с поддержкой соответствующих изменений. Сильной стороной модели являются крупный общий объём параметров, мультимодальный ввод, длинный контекст и оптимизация для аппаратного ускорения NVIDIA. Ограничения включают зависимость от совместимого оборудования и программного окружения, а также возможные неточности, токсичные ответы и усиление предубеждений, присутствовавших в исходных данных обучения. Сведения о полном обучающем и тестовом наборах, а также подробные языковые характеристики не раскрыты. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование с учётом условий базовой модели Qwen3.5-122B-A10B.

Agens Pilot NOESIS BF16 — это мультимодальная языковая модель примерно на 27 млрд параметров, разработанная Blockway и выпущенная AMAImedia в составе платформы автоматизации многоязычного дубляжа NOESIS. Это дообученная версия Qwen3.8-27B с архитектурой Qwen3.5 для генерации текста по текстовым и визуальным входам; репозиторий содержит веса BF16 в формате Safetensors. Модель рассчитана на контекст до 1 млн токенов, включая расширение YaRN сверх нативных 262 144 токенов. Модель предназначена для диалоговых помощников и агентных сценариев, особенно для пользователей Гонконга и региона Гуандун. Карточка выделяет письменный кантонский с гонконгской лексикой и регистром, ответы на сложные исторические и геополитические вопросы с несколькими перспективами, следование инструкциям, вызов инструментов, программирование и задачи «изображение—текст». Заявлены также китайский и английский языки; метаданные указывают широкий набор дополнительных языков. По результатам внутренней проверки разработчика модель показала более сбалансированные ответы на небольшом наборе сложных вопросов, при этом поведение отказа на универсально вредоносные запросы сохранилось. Эти результаты ориентировочные: набор мал, оценки получены в одном запуске, а показатели внутренних тестов напрямую несопоставимы с внешними бенчмарками. Модель может ошибаться в фактах, визуальная математика названа слабой стороной; кантонское поведение лучше всего охватывает письменный гонконгский вариант. Лицензия Apache-2.0 допускает коммерческое использование.

ByteOtter/Qwen3.8-27B-TAK-Reasoning-GGUF — квантованная версия Qwen3.8-27B, разработанная ByteOtter на основе модели Qwen/Qwen3.8-27B. Это текстовая генеративная модель в формате GGUF для запуска через llama.cpp. Дообучение и слияние моделей не применялись: изменена только точность представления весов с использованием task-aware quantization (TAK), ориентированной на задачи рассуждения. Модель предназначена прежде всего для задач, требующих логического анализа и пошагового рассуждения, а также может применяться для генерации текста, ответов на вопросы, работы с кодом, математикой, извлечения и структурирования информации. Размер файла составляет 8,372 ГБ, используется смешанная точность с целевым форматом UD-IQ2_S. В опубликованной оценке модель набрала 82,81% в категории reasoning, превысив сопоставимую квантованную версию Unsloth на 5,47 процентного пункта и немного уступив исходной BF16-модели с результатом 83,59%. Сильной стороной является сохранение высокой способности к рассуждению при существенно меньшем размере по сравнению с BF16-версией, а также улучшенные относительно компаратора показатели по математике, следованию инструкциям, суммаризации, структурированному выводу и связности. Ограничения включают возможное изменение качества, стабильности и точности из-за квантования; результаты на диагностических наборах не следует считать универсальными гарантиями. Модель содержит только текстовый GGUF и не включает мультимодальный проектор. Языки и размер контекстного окна в README не указаны, поэтому их следует уточнять в карточке базовой модели. Производитель рекомендует использовать свежую сборку llama.cpp. Производная распространяется по лицензии Apache License 2.0 в соответствии с лицензией базовой модели.