II.3Рефакторинг, миграция и модернизация

Manticore 13B — языковая модель OpenAccess AI Collective, полученная дообучением Llama 13B на наборах диалогов, инструкций, задач на рассуждение и краткое изложение. Это плотная авторегрессионная архитектура LLaMA с 12,9 млрд параметров; модель использует Transformers и принимает текст, генерируя текст. Указанный контекст — 2048 токенов, основной язык карточки — английский. Модель предназначена для диалогов с ассистентом, выполнения инструкций, ответов на вопросы и генерации подробных или кратких ответов. Данные обучения включают ShareGPT, WizardLM, Wizard-Vicuna, Alpaca-CoT, GPT4-LLM-Cleaned, GPTeacher, ScienceQA, HellaSwag, MMLU и набор для суммаризации отзывов. Модель не проходила выравнивание предпочтений с помощью RLHF и может выдавать проблемные ответы, особенно при соответствующих запросах. Лицензия в предоставленных данных не указана.

SillyTilly/Meta-Llama-3.1-405B-Instruct — текстовая инструкция-настроенная модель Meta из семейства Llama 3.1. Это авторегрессионный плотный Transformer с архитектурой LlamaForCausalLM и механизмом Grouped-Query Attention; в репозитории указано около 408 млрд параметров, формат весов safetensors и контекст до 131 072 токенов. Модель принимает и генерирует текст и предназначена для диалоговых сценариев с ассистентом, генерации текста и использования в коммерческих и исследовательских приложениях. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Ключевые особенности семейства включают настройку инструкциями с помощью supervised fine-tuning и обучения с обратной связью от людей, а также возможности многоязычного диалога и интеграции с внешними инструментами на стороне приложения. Репозиторий создан пользователем SillyTilly; README описывает модель Meta Llama 3.1. Использование регулируется пользовательской коммерческой лицензией Llama 3.1 Community License и Acceptable Use Policy. К ограничениям относятся непредсказуемые или небезопасные ответы, а также недостаточно надёжное качество и безопасность на языках, не входящих в перечень поддерживаемых; при подключении инструментов разработчик должен отдельно контролировать их безопасность и целостность.

mlx-community/Meta-Llama-3.1-70B-Instruct-4bit — 4-битная квантованная версия инструкционной большой языковой модели Llama 3.1, разработанной Meta и адаптированной сообществом mlx-community для экосистемы MLX. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые сценарии, ответы на вопросы, подготовку и преобразование текстов и другие задачи обработки естественного языка. Известно, что модель содержит 70 миллиардов параметров и работает в формате 4-bit quantization, что снижает требования к памяти по сравнению с полноразмерной версией и делает локальный запуск более доступным при совместимом оборудовании и программном обеспечении. Заявлены поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В карточке указаны библиотеки Transformers и MLX, однако архитектура и размер контекстного окна не уточнены. Модель подходит для локального инференса и приложений, где важны качество инструкционного следования и многоязычная генерация. К ограничениям относятся высокие вычислительные требования, обусловленные размером 70B, возможные потери качества из-за 4-битного квантования и отсутствие в предоставленных данных сведений о мультимодальности, точных характеристиках производительности и контекстном окне. Использование регулируется Llama 3.1 Community License от Meta: при распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая указание «Built with Llama», сохранение уведомления об авторских правах и Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено получение отдельной лицензии Meta.

thesven/Phi-3.5-mini-instruct-awq — это сторонняя AWQ-квантизованная версия Microsoft Phi-3.5-mini-instruct, опубликованная пользователем thesven. Базовая модель разработана Microsoft и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и задач NLP, включая многоязычные сценарии. Репозиторий содержит 4-битные веса в формате Safetensors с AWQ и требует custom code для архитектуры Phi-3. Модель имеет около 4 млрд параметров, архитектуру decoder-only causal language model Phi3ForCausalLM, 32 слоя, 32 attention heads и заявленный контекст до 128K токенов. Это текстовая, а не мультимодальная модель; в карточке базовой модели заявлена многоязычная поддержка, включая английский, немецкий, испанский, французский, японский, русский, тайский и китайский. Квантизация уменьшает размер репозитория примерно до 2,28 ГБ и предназначена для более компактного локального запуска, однако для самой AWQ-версии отдельные результаты качества и подробные ограничения не опубликованы. Лицензия и условия использования у репозитория thesven явно не указаны. Для базовой Microsoft Phi-3.5-mini-instruct указана лицензия MIT. Поэтому при использовании квантизованной версии следует отдельно проверить права на распространение самой производной сборки и учитывать ограничения базовой модели, включая возможные пробелы многоязычного качества и необходимость тестирования в конкретном приложении.

SanctumAI/Phi-3-mini-4k-instruct-GGUF — это квантизированная в формате GGUF версия Phi-3-Mini-4K-Instruct, разработанной Microsoft и подготовленной SanctumAI. Модель предназначена для генерации текста и выполнения инструкций, включая задачи понимания языка, рассуждений, математики, программирования, здравого смысла и логики. Она ориентирована на локальный запуск на устройствах с ограниченными ресурсами. Модель содержит 3,8 млрд параметров и поддерживает контекст до 4096 токенов. Это текстовая модель с поддержкой английского языка; README также отмечает наличие вариантов квантизации от Q2_K до Q8_0 и версии FP16, занимающих примерно от 1,45 до 7,64 ГБ, при потребности в памяти от 5,05 до 10,82 ГБ. Обучение включало синтетические и отфильтрованные общедоступные данные, а дообучение — supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и безопасности. К сильным сторонам относятся компактный размер, возможность локального использования и заявленная высокая производительность среди моделей с менее чем 13 млрд параметров. Ограничения включают небольшое контекстное окно, текстовую специализацию и возможные неточные, вредные или неподходящие ответы. Для использования следует применять шаблон приглашений Phi-3 с системными, пользовательскими и ассистентскими сообщениями. Указана лицензия MIT.

Aratako создал эту диалоговую языковую модель, объединив через mergekit Qwen/Qwen1.5-7B-Chat и abacusai/Liberated-Qwen1.5-7B в архитектуру Mixture of Experts без дополнительного дообучения. Модель имеет архитектуру Qwen2ForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; она предназначена для генерации текста и диалогов на английском языке. В тестах MT-Bench модель показала результаты, близкие к исходной Qwen1.5-7B-Chat; автор приводит сравнительные оценки для задач кодирования, извлечения информации, рассуждений, ролевого общения и письма. Для запуска нужны пользовательские файлы модели и конфигурации, размещённые рядом с весами. В карточке указана лицензия other, а README сообщает о наследовании лицензии Tongyi-Qianwen.

Qwen2.5-14B-DeepSeek-R1-1M — объединённая плотная языковая модель на архитектуре Qwen2, созданная с помощью MergeKit методом TIES. В качестве базовой использована Qwen/Qwen2.5-14B-Instruct-1M; в объединение также вошли DeepSeek-R1-Distill-Qwen-14B и Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 1 010 000 токенов. Модель предназначена для диалогов и генерации текста по инструкциям, включая работу с длинным контекстом. Метаданные также указывают интерфейс для вызова инструментов. Данные карточки описывают способ объединения и состав моделей, но не приводят отдельные оценки качества или подробные рекомендации по применению. Лицензия в предоставленных данных не указана. Для использования следует учитывать условия лицензий исходных моделей; их совместимость здесь не подтверждена.

Qwen3.5-9b-Opus-Openclaw-Distilled-i1-GGUF — это квантизированная в формате GGUF версия модели Qwen3.5-9b-Opus-Openclaw-Distilled. Исходную модель разработал ykarout, а квантизацию выполнил mradermacher. Модель основана на Qwen3.5 и имеет размер около 9 млрд параметров. Модель предназначена для генерации текста, диалоговых сценариев, reasoning-задач, агентских приложений и использования инструментов. В метаданных заявлены поддержка vision, conversational- и agentic-сценариев, а также интеграция с Transformers и text-generation-inference. Указаны языки: английский, арабский, испанский, латынь, турецкий, немецкий, чешский и китайский. Контекстное окно и точная архитектура в README не указаны. Основное преимущество — наличие набора GGUF-квантизаций разных размеров, включая imatrix-вариант, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. При этом низкобитные варианты могут заметно снижать качество; README отдельно характеризует некоторые из них как предназначенные для крайних случаев или имеющие низкое качество. Для обработки изображений могут потребоваться дополнительные mmproj-файлы из связанного репозитория. Модель распространяется по лицензии Apache-2.0.

mmangkad/Qwen3.6-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Модель построена на архитектуре Transformers и имеет 35 млрд параметров, из которых 3 млрд активируются при работе. Она принимает и генерирует текст, поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов в MoE-компонентах transformer-блоков квантизированы в формат NVFP4, что ориентировано на эффективный инференс на GPU NVIDIA. Указана совместимость с NVIDIA Blackwell, Linux и SGLang; тестирование проводилось на B300. Данные о поддерживаемых языках и полном составе обучающего набора не раскрыты. Сильные стороны модели — предварительная NVFP4-квантизация, большой контекст и оптимизация для развертывания на совместимом оборудовании NVIDIA. Для запуска требуется SGLang, по README рекомендуется актуальная версия из основной ветки. Модель может воспроизводить токсичные формулировки и общественные предубеждения из исходных данных, а также генерировать неточные, неполные или нерелевантные ответы. Распространение и использование разрешены по лицензии Apache 2.0 с учетом требований и ограничений базовой модели.

Chungulus/Qwen3.8-27B-Q6_K-GGUF — это неизменённая ванильная квантизованная версия модели Qwen3.8-27B, опубликованная Chungulus на основе исходных весов Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, обработки изображений и видео, вызова инструментов и задач reasoning; заявлена совместимость с нативным форматом tool calling Qwen и управлением режимами мышления через enable_thinking, reasoning_effort и preserve_thinking. Модель поставляется в формате GGUF с квантизацией Q6_K на базе llama.cpp. Основной файл занимает около 22,431 ГБ, vision projector в формате F16 — отдельный файл, а полный репозиторий — около 23,371 ГБ. Сохранена гибридная архитектура Hybrid Gated DeltaNet/full-attention, vision-компоненты, tokenizer и MTP-метаданные; спекулятивное ускорение не заявляется. Архитектурный максимальный контекст и полноценные бенчмарки в README не указаны, а самая длинная проверенная последовательность составляла 73 токена. Текстовая генерация, вызов инструментов, обработка изображений и видео, а также шаблон чата прошли заявленные локальные проверки. Квантизация может снижать качество по сравнению с исходными весами, особенно при меньшей разрядности, а для запуска требуется среда с поддержкой графа Qwen3.8, vision tower/projector и MTP-метаданных. Рекомендуется иметь не менее примерно 27 ГБ доступной памяти с учётом модели, vision projector и базовых накладных расходов; KV-cache дополнительно увеличивается с размером контекста. Модель и данная квантизация распространяются по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-версия плотной языковой модели Qwen3.8-27B, подготовленная HauhauCS. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео при использовании отдельного BF16-проектора. Указаны поддержка английского, китайского и других языков, а также мультимодальный режим image-text-to-text. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, FFN-размер 17408, словарь на 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Она сохраняет встроенный механизм NextN/MTP и дополнительно поставляется с профилем HauhauCS FastMTP 32K для ускорения спекулятивного декодирования. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000. Доступны квантизации от Q8_K_P до IQ2_M; для изображений и видео требуется отдельный vision projector. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказного поведения, что может быть полезно для свободного исследования, автоматизации и сценариев, где важна максимальная отзывчивость. При этом отсутствие защитных отказов повышает риски при работе с вредоносными или чувствительными запросами, а для критически важных длинноконтекстных агентских задач автор рекомендует более сбалансированный вариант. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-сборка плотной мультимодальной causal language model Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также анализа изображений и видео. Вариант Aggressive ориентирован на прямые ответы без выраженного отказного поведения и с минимальным предварительным вступлением в сложных запросах. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, размер FFN 17408 и словарь из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенные MTP/NextN и профиль ускорения HauhauCS FastMTP 32K; заявлены ускорение генерации до 3,02 раза для документов и до 1,93 раза для рассуждений относительно варианта без MTP. Нативный контекст составляет 262 144 токена и может расширяться до 1 000 000. Для визуального ввода используется отдельный vision-проектор BF16. Заявлены английский, китайский и мультиязычный режимы. Сильными сторонами являются большой контекст, текстовые и визуальные возможности, поддержка нескольких уровней квантизации GGUF и ускорение FastMTP. Aggressive-профиль может быть удобен там, где нужны краткие прямые ответы, однако его сниженное отказное поведение может быть менее подходящим для надёжных и критичных к безопасности приложений; автор README рекомендует для таких агентских задач Balanced-вариант, если он доступен. Доступны квантизации Q2–Q8 и пользовательские K_P-кванты, оптимизированные для сохранения качества. Модель распространяется по лицензии Apache-2.0.

navispace/Qwen3.8-27B-W8A16-GPTQ — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в карточке она классифицирована как image-text-to-text. Эта сборка использует 8-битное квантизирование весов W8A16 в формате GPTQ с группами размера 32, тогда как активации выполняются в FP16. Размер весов уменьшен примерно с 51,7 до 31,2 GiB, что позволяет разместить модель на двух видеокартах по 24 ГБ с дополнительной памятью под KV-кэш. Квантизирование выполнено методом round-to-nearest без калибровочного набора данных, с симметричным масштабированием по группам и поиском оптимального коэффициента уменьшения масштаба. Квантизированы основные проекции MLP, attention и linear attention; vision tower, embeddings, lm_head, нормализации и ряд компонентов оставлены в BF16. Заявленная относительная ошибка восстановления весов составляет в среднем 0,567%. Базовый контекст модели составляет 262 144 токена, а с расширением YaRN в указанной конфигурации может достигать 524 288 токенов. Языки в README не указаны. Сильными сторонами являются существенное снижение требований к памяти, поддержка длинного контекста и совместимость с vLLM, включая сценарии на AMD Radeon RX 7900 XTX под ROCm. Ограничения включают необходимость FP16-активаций для INT8-ядер Exllama на ROCm, потенциальную нестабильность FP16 на длинных генерациях и отсутствие сравнительных бенчмарков с исходными BF16-весами. Лицензия — Apache-2.0.

Guile/Qwen3.8-Flash-Next-GGUF — это GGUF-квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и квантизированной bartowski с использованием llama.cpp. Модель содержит около 180 млрд параметров и предназначена для задач генерации и понимания текста, а также обработки изображений в мультимодальном режиме при наличии файла mmproj. Поддержка speculative decoding не заявлена. Доступны варианты весов от BF16 и Q8_0 до низкобитных Q2–Q5 и IQ-квантизаций. Размер файлов составляет примерно от 88 до 354 ГБ, поэтому модель рассчитана на системы с большим объёмом оперативной или видеопамяти. В README рекомендуется Q4_K_M как компромисс между качеством и размером, а Q6_K — как вариант с очень высоким качеством. Квантизации используют imatrix, что должно помогать сохранять качество при уменьшении размера, однако более низкие разрядности сопровождаются заметным снижением качества. Модель запускается через совместимые инструменты экосистемы llama.cpp и распространяется с лицензией qwen-community-1.0; указана лицензия other и ссылка на файл LICENSE. Сведения о поддерживаемых языках, размере контекстного окна и точных архитектурных особенностях в предоставленном README отсутствуют.

Smaug-Llama-3-70B-Instruct — чат-модель Abacus.AI, полученная дообучением meta-llama/Meta-Llama-3-70B-Instruct по рецепту Smaug для повышения качества многошаговых диалогов. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации ответов и ведения диалога; она использует формат запросов Llama 3 Instruct и контекст до 8192 токенов. Модель рассчитана на многошаговые беседы и широкий круг текстовых запросов. В карточке приведены результаты MT-Bench и Arena-Hard, где авторы сообщают о высоком качестве ответов; также указаны результаты нескольких тестов знаний и рассуждений. Это заявления из карточки, а не гарантия результатов в конкретных задачах. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

RedHatAI/SmolLM3-3B-FP8-dynamic — квантованная версия языковой модели SmolLM3-3B, разработанная Red Hat (Neural Magic) на базе модели HuggingFaceTB/SmolLM3-3B. Это текстовая модель для генерации и преобразования текста, включая диалоговые сценарии. Заявлена поддержка английского, французского, испанского, итальянского, португальского, китайского, арабского и русского языков. Модель использует архитектуру SmolLM3-3B и принимает текст на входе, выдавая текст на выходе. Веса и активации линейных операторов в трансформерных блоках квантованы в FP8: веса — статически по каналам, активации — динамически по токенам. По данным разработчика, это примерно вдвое снижает требования к памяти GPU и размер файлов, а также примерно вдвое увеличивает пропускную способность матричных вычислений. Для эффективного развёртывания рекомендуется vLLM; поддерживается OpenAI-совместимый серверный интерфейс. В README также указана максимальная длина контекста 65 536 токенов в конфигурации оценки. На тестах AIME24, MATH-500 и GPQA-Diamond квантованная версия показала средний результат 58,90 против 58,61 у исходной модели, что указывает на близкое сохранение качества рассуждений после квантования. Ограничения включают зависимость от совместимого программного стека для эффективного использования FP8 и отсутствие в представленном описании подробных сведений о качестве на других задачах. Модель распространяется по лицензии Apache-2.0.

Trida-7B — языковая модель на 7,76 млрд параметров от Trillion Labs, построенная на архитектуре Block Diffusion Language Model. Это Transformer-декодер с RoPE, SwiGLU и RMSNorm; модель создана посредством непрерывного предобучения базовой trillionlabs/Tri-7B с последующим постобучением. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для генерации на корейском, английском и японском языках. Блочная диффузионная генерация сочетается в ней с авторегрессионными зависимостями. Механизм Step-wise Autoregressive Attention рассчитан на обучение и генерацию с более эффективным использованием вычислений; заявлена поддержка KV-кэширования внутри текущего блока. В README указана длина контекста 8192 токена, тогда как метаданные каталога задают native context в 4096 токенов. Модель оценивали на задачах рассуждения, знаний, программирования, математики и следования инструкциям. Модель распространяется по лицензии Apache-2.0. Разработчик указывает, что качество может снижаться при работе с языками, отличными от английского, корейского и японского; сведения модели ограничены данными до февраля 2025 года.

Larryvrh опубликовал версию Yi-6B-200K от 01.AI, преобразованную для совместимости с архитектурой Llama и удобства использования. Это плотная авторегрессионная языковая модель с примерно 5,8 млрд параметров и контекстом до 200 000 токенов, распространяемая в формате Safetensors. Она предназначена для генерации текста, включая ответы на вопросы, понимание длинных текстов, рассуждения, математику и задачи по коду; карточка описывает оценивание на наборах MMLU, CMMLU, C-Eval и других бенчмарках. Модель поддерживает китайский и английский языки. Лицензия — Apache-2.0. Результаты генерации могут быть ошибочными или проблематичными; в README также отмечено, что оценки бенчмарков зависят от промптов, постобработки и настроек декодирования.

Карточка модели InternScience/Agents-A1-4B-F16-GGUF на Hugging Face совпадает с карточкой InternScience/Agents-A1-4B, поэтому описание составлено по ней. Agents-A1-4B — плотная языковая модель на 4 млрд параметров от InternScience, созданная для автономного выполнения многошаговых задач. Она основана на архитектуре Qwen3.5 и дообучена для агентных сценариев: поиска, инженерной работы, научных исследований, следования инструкциям и вызова инструментов. Модель поддерживает диалог и интерфейс вызова функций; веса доступны в формате safetensors и совместимы с Transformers, vLLM и SGLang. В README заявлена длина контекста до 262 144 токенов при указанной конфигурации SGLang. Модель предназначена для разложения сложных запросов на шаги, планирования, использования внешних инструментов и ответов на научные и профессиональные вопросы. В README приведены высокие результаты на тестах поиска, агентных задач и следования инструкциям, однако это заявления разработчика, и они не гарантируют качество в конкретном приложении. Лицензия Apache-2.0.

c4ai-command-a-03-2025-GGUF — это квантизированная GGUF-версия языковой модели c4ai-command-a-03-2025, разработанной CohereForAI. Данная сборка подготовлена bartowski с использованием llama.cpp и imatrix-квантизации и предназначена для генерации текста в локальных приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский, турецкий, украинский и вьетнамский языки. В README не указаны архитектура, число параметров, поддерживаемая длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступно несколько вариантов квантизации с размерами от 67,90 до 118,01 ГБ: Q4_K_L, Q4_1, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Более крупные варианты обычно лучше сохраняют качество, но требуют больше памяти. Ограничения включают значительные требования к ресурсам, зависимость от совместимого ПО и отсутствие заявленных характеристик производительности. Лицензия CC-BY-NC-4.0 разрешает только некоммерческое использование; для доступа также предусмотрено принятие лицензионного соглашения Cohere.

DeepSeek-V3.2-Exp — экспериментальная языковая модель семейства DeepSeek, разработанная DeepSeek и опубликованная в виде побитово идентичной архивной копии AIArchiveInfo. В исходной версии исследуется механизм DeepSeek Sparse Attention для повышения эффективности обучения и инференса на длинных последовательностях; по заявлению авторов, качество ответов остаётся близким к DeepSeek-V3.1-Terminus. Модель предназначена для генерации текста и диалогового взаимодействия, а метаданные также указывают интерфейс вызова инструментов. Модель содержит 37,6 млрд параметров, использует архитектуру DeepseekV32ForCausalLM и формат весов safetensors FP8. Длина контекста — 163 840 токенов. README сообщает, что веса архивной копии не обучались и не изменялись, поэтому классификация как дообучения из метаданных может отражать связь с базовой моделью, а не изменение весов именно этой копии. Лицензия — MIT.

DeepSeek-V4-Flash-GGUF — набор GGUF-квантизаций базовой модели DeepSeek-V4-Flash, разработанной deepseek-ai и опубликованной пользователем teamblobfish. Модель предназначена для генерации текста, агентских сценариев и задач с вызовом инструментов, включая рабочие процессы наподобие Claude Code. Варианты представлены с разной степенью квантизации: от Q8_0 размером около 282 ГиБ до IQ1_S-XL размером около 57 ГиБ. Рекомендуемый вариант Q4_K_M-XL занимает около 163 ГиБ и сочетает 4-битное тело модели с хранением ряда важных тензоров в Q8_0; заявлена поддержка tool calling. GGUF-файлы используют архитектуру DeepSeek V4 с MoE-компонентами и специализированными операциями, включая compressor decode, hyperconnection, lightning indexer, FP8 KV simulation и NextN heads. Для запуска требуется форк llama.cpp с поддержкой V4; стандартный upstream llama.cpp не подходит. Поддерживаются Apple Silicon через Metal, NVIDIA CUDA на совместимых GPU и CPU. ROCm, Vulkan и Metal на AMD не поддерживают необходимые V4-ядра. В репозитории также присутствуют встроенный DSML chat template и калибровочные данные для некоторых вариантов. Проект находится в статусе WIP. Квантизации позволяют уменьшить требования к диску и памяти, однако качество и производительность зависят от выбранного варианта и оборудования; для некоторых старых GPU CUDA-путь FP8 не был проверен в работе. Модель и материалы репозитория распространяются по лицензии MIT.

Falcon3-MoE-2x7B-Instruct — инструктивная языковая модель с архитектурой Mixture of Experts, созданная объединением двух моделей Falcon3-7B-Instruct. В README заявлено 13,4 млрд параметров и формат BF16; метаданные указывают 7,1 млрд параметров. Модель основана на Falcon3-7B-Instruct от TII, а репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов и генерации ответов по инструкциям. Базовая Falcon3-7B-Instruct рассчитана на задачи понимания языка, следования инструкциям, рассуждений, программирования и математики; контекст составляет до 32 768 токенов. В карточке для базовой модели перечислены английский, французский, испанский и португальский языки. Метаданные также отмечают интерфейс для вызова инструментов. Лицензия указана как other, поэтому конкретные условия использования следует уточнять в репозитории. Описание не содержит отдельных оценок качества или ограничений для MoE-версии; заявленные возможности базовой модели не следует считать подтверждёнными сравнительными результатами этой сборки.

Falcon-H1-34B-Instruct — многоязычная инструктивная языковая модель, разработанная Technology Innovation Institute (TII). Это плотная авторегрессионная модель с гибридной архитектурой Transformers и Mamba; для работы доступны Transformers, vLLM и llama.cpp. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения и ответы на инструкции. Модель содержит 29,6 млрд параметров и поддерживает контекст длиной до 262 144 токенов. В метаданных перечислены арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский языки. В README приведены результаты сравнительной оценки на нескольких наборах задач, но они не гарантируют одинакового качества для всех языков и сценариев. Модель дообучена на базе tiiuae/Falcon-H1-34B-Base; лицензия — Falcon-LLM License, обозначенная в метаданных как other, поэтому перед использованием следует проверить её условия.

google/gemma-2b-AWQ — AWQ-квантизированная версия базовой модели Gemma-2B, разработанной Google. Это компактная decoder-only большая языковая модель с открытыми весами, обученная на основе технологий, использованных при создании Gemini. Модель работает с текстом и ориентирована преимущественно на английский язык. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений, работы с программным кодом и математическими запросами. Она принимает текстовые строки, включая вопросы, инструкции и документы, а возвращает сгенерированный английский текст. Небольшой размер делает её подходящей для запуска на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами; также предусмотрено последующее дообучение. При обучении использовалось около 6 триллионов токенов из веб-документов, кода и математических материалов с применением фильтрации вредоносного и чувствительного контента. README не указывает размер контекстного окна и конкретные характеристики архитектуры помимо класса decoder-only. Это базовая, а не instruction-tuned версия, поэтому для диалоговых сценариев и точного следования инструкциям могут потребоваться дополнительное дообучение или специальное форматирование запросов. Квантизация AWQ снижает требования к ресурсам, но её влияние на качество зависит от задачи и среды запуска. Использование регулируется лицензией Google Gemma Terms of Use; для доступа на Hugging Face требуется принять условия лицензии. Лицензия указана как gemma-terms-of-use.

Hunyuan-A13B-Instruct-GGUF — GGUF-квантизированная версия инструкционной модели Hunyuan-A13B-Instruct, разработанной Tencent. Квантизацию выполнил bartowski на основе llama.cpp версии b5845; модель представлена в рамках программы Community models сообщества LM Studio, но LM Studio не является её разработчиком или владельцем. Модель предназначена для генерации текста по инструкциям и оптимизирована для агентских задач с гибридным рассуждением. Это MoE-модель с 80 млрд общих параметров, из которых при обработке активируются 13 млрд. Заявлена поддержка контекста до 256 тысяч токенов, при этом значение по умолчанию составляет 32 тысячи токенов. Сведения о поддерживаемых языках и модальностях в README не указаны; по имеющимся данным, модель относится к текстовым моделям. К сильным сторонам относятся большой контекст, архитектура MoE с меньшим числом активных параметров и ориентация на агентские сценарии и рассуждение. Ограничения включают отсутствие в README подробных результатов оценки, перечня языков, информации о требованиях к оборудованию и характеристиках отдельных вариантов квантизации. Модель распространяется по лицензии tencent-hunyuan-a13b; указана ссылка на лицензию Tencent Hunyuan.

MLX Community Llama-3.1-8B-Instruct-4bit — это 4-битно квантованная версия инструкционной языковой модели Llama 3.1 8B Instruct, разработанной Meta и адаптированной сообществом MLX для запуска с использованием экосистемы MLX. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, написание и преобразование текста, обобщение и другие задачи обработки естественного языка. Модель относится к текстовым моделям и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер базовой модели составляет 8 миллиардов параметров. Квантование до 4 бит снижает требования к памяти и может упростить локальный запуск, однако способно немного ухудшить точность и качество по сравнению с полной версией. В README не указаны размер контекстного окна, конкретные требования к оборудованию и результаты бенчмарков. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение уведомления об авторстве и соблюдение Acceptable Use Policy. Для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено требование получить отдельную лицензию Meta.

NVIDIA Llama 3.1 8B Instruct FP8 — FP8-квантизированная версия инструкционно настроенной авторегрессионной языковой модели Meta Llama 3.1 8B Instruct. Модель подготовлена NVIDIA с помощью TensorRT Model Optimizer; README уточняет, что она не принадлежит NVIDIA и была собрана по требованиям стороннего разработчика. Архитектура — трансформер Llama 3.1 с плотной моделью примерно на 7,5 млрд параметров. Модель принимает текстовые последовательности и генерирует текст, поддерживает диалоговый режим и контекст до 128 тысяч токенов. Квантизация весов и активаций линейных операторов до FP8 предназначена для более экономичного и быстрого инференса: в README указано сокращение требований к диску и памяти GPU примерно на 50% и ускорение примерно в 1,3 раза на H100. Предусмотрен запуск через TensorRT-LLM и vLLM на совместимых GPU NVIDIA. Модель подходит для диалогов, генерации и продолжения текста, а также ответов на инструкции. В README заявлено коммерческое и некоммерческое использование; лицензия в метаданных — llama3.1. Качество и скорость зависят от оборудования и среды инференса; оценка ускорения приведена для конфигурации с H100.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекстное окно составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. В предоставленных материалах не описаны языковое покрытие и специальные ограничения качества или безопасности.

Карточка модели sagar-rasakonda/Mistral-7B-Instruct-v0.2 на Hugging Face совпадает с карточкой mistralai/Mistral-7B-Instruct-v0.2, поэтому описание составлено по ней. Mistral-7B-Instruct-v0.2 — диалоговая языковая модель Mistral AI для генерации ответов на инструкции и сообщения пользователя. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров; для общения используется формат instruct. Она рассчитана на чат, ответы на вопросы, объяснения и другие задачи генерации текста. В метаданных указан контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка показывает пример кодирования запроса и генерации ответа, но не приводит перечень поддерживаемых языков или специализированных областей. Модель выпущена под лицензией Apache-2.0. По заявлению авторов, это демонстрация возможностей дообучения базовой модели; встроенных механизмов модерации нет, поэтому ответы могут не соблюдать заданные ограничения.