II.1Анализ требований и архитектура ПО

Anubis-Mini-8B-v1-GGUF — это набор квантизованных версий языковой модели Anubis-Mini-8B-v1, разработанной TheDrummer. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста и распространяется в формате GGUF. Модель рассчитана на локальный запуск через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI, LoLLMs и совместимые инструменты. Доступны варианты от исходных весов BF16 размером 16,07 ГБ до квантизаций Q2–Q8, что позволяет выбирать баланс между качеством, размером файлов и требованиями к оперативной памяти. Для запуска рекомендуется использовать указанный в README формат prompt с ролями system, user и assistant. Ключевая заявленная характеристика — размер базовой модели 8B; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна в README не указаны. Старшие варианты квантизации обеспечивают качество, близкое к исходному, а более компактные подходят для систем с ограниченным объёмом памяти, но могут заметнее терять качество. Лицензия в предоставленных данных не указана.

Anubis-Pro-105B-v1-GGUF — это квантизированная версия текстовой генеративной модели Anubis-Pro-105B-v1, разработанной TheDrummer и подготовленной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp b4585 и метода imatrix, что позволяет запускать модель локально через llama.cpp, LM Studio и другие совместимые проекты. Модель предназначена для генерации текста и диалоговых сценариев. В README указано, что исходная модель содержит 105 миллиардов параметров; поддерживаемые модальности, языки и размер контекста не указаны. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, с размером файлов примерно от 32,77 до 111,34 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, а наиболее качественным считается Q8_0. Сильной стороной модели является возможность локального запуска и выбор между качеством, размером и требованиями к памяти. Низкобитные варианты требуют меньше ресурсов, но обеспечивают более низкое качество; Q3 и Q2 описаны как низкокачественные, хотя некоторые из них остаются пригодными для использования. Для работы рекомендуется применять указанный шаблон prompt format. Лицензия обозначена как other, без дополнительных условий в README.

TheDrummer_Cydonia-24B-v4.3-GGUF — это набор квантованных файлов модели Cydonia-24B-v4.3, разработанной TheDrummer и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Для общения указан шаблон промпта с системной инструкцией и пользовательским запросом в формате [SYSTEM_PROMPT] и [INST]. Доступны версии от BF16 до низкобитных квантований Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 9,91 до 47,15 ГБ; вариант Q4_K_M обозначен как типичный выбор для большинства сценариев, а Q6_K и Q6_K_L — как варианты очень высокого качества. Квантование выполнено с использованием llama.cpp и метода imatrix на калибровочных наборах данных. README не содержит сведений об архитектуре исходной модели, поддерживаемых языках, размере контекста, мультимодальности или лицензии, поэтому эти характеристики нельзя подтвердить.

Fallen-Command-A-111B-v1.1-GGUF — квантизированная версия языковой модели Fallen-Command-A-111B-v1.1, разработанной TheDrummer. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через LM Studio, llama.cpp и другие совместимые проекты. Это модель примерно на 111 миллиардов параметров в формате GGUF. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-серий, различающиеся размером файлов, требованиями к памяти и качеством генерации. Наиболее качественными считаются Q8_0, Q6_K_L и Q5_K_L, тогда как варианты с более низкой разрядностью экономят ресурсы за счёт снижения качества. README не содержит сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре или мультимодальности; по указанному pipeline_tag модель относится к текстовым генеративным моделям. Для работы требуется значительный объём оперативной или видеопамяти: размер файлов квантизаций составляет примерно от 43 до 118 ГБ. Модель поддерживает специальный шаблон prompt format с системными, пользовательскими и чат-ботными ролями, поэтому при запуске следует использовать соответствующее форматирование. Лицензия указана как other, но её конкретные условия в README не раскрыты.

TheDrummer_Magidonia-24B-v4.2.0-GGUF — это набор квантизированных версий текстогенеративной модели Magidonia-24B-v4.2.0, разработанной TheDrummer. Квантизацию выполнил bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ3/IQ4-квантизаций. Размер файлов составляет примерно от 10,4 до 47,15 ГБ; варианты Q6_K_L, Q6_K, Q5 и Q4 рекомендуются как обеспечивающие высокое или хорошее качество, тогда как младшие Q3-варианты рассчитаны на системы с ограниченным объёмом оперативной памяти и обладают более низким качеством. Для работы следует использовать указанный шаблон приглашений с системным сообщением и пользовательским запросом. В README не указаны архитектура исходной модели, поддерживаемые языки, размер контекстного окна, мультимодальные возможности и лицензия. Поэтому модель следует рассматривать как локальную текстовую LLM, для которой выбор файла зависит от доступной памяти и требуемого баланса между качеством и размером.

bartowski/TheDrummer_Snowpiercer-15B-v4-GGUF — это набор GGUF-квантизаций языковой модели Snowpiercer-15B-v4, разработанной TheDrummer. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от BF16 до низкобитных Q2/Q3/Q4/Q5/Q6/Q8, поэтому можно выбирать между качеством ответа, размером файла и требованиями к оперативной памяти. Полная версия BF16 занимает около 30 ГБ, а рекомендуемые варианты Q4–Q6 — примерно от 9 до 13 ГБ. Для модели указан шаблон диалога с ролями system, user и assistant. Архитектура, поддерживаемые языки, размер контекста и модальности в README не указаны; по назначению это текстовая авторегрессионная модель. Сильная сторона набора — широкий выбор квантизаций для локального инференса, включая варианты, оптимизированные для различных ограничений памяти и некоторых CPU-платформ. Более сильное сжатие уменьшает требования к ресурсам, но может снижать качество генерации. Лицензия в предоставленном README не указана, поэтому условия использования необходимо уточнить на странице исходной модели и репозитория.

TheDrummer_Valkyrie-49B-v2-GGUF — это GGUF-квантизированная версия модели Valkyrie-49B-v2, разработанной TheDrummer и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях на базе llama.cpp, включая LM Studio. В репозитории представлены варианты от BF16 до низкоразрядных квантований Q2–Q8 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Квантизация выполнена с использованием llama.cpp b6317 и метода imatrix; для некоторых вариантов применяются веса Q8_0 для embedding- и output-слоёв. Рекомендуемыми указаны, в частности, Q4_K_M, Q5_K_M, Q6_K и Q6_K_L; размер файлов варьируется примерно от 21 до 100 ГБ среди представленных вариантов. Модель является текстовой, однако сведения об архитектуре исходной модели, поддерживаемых языках, размере контекста и формате промптов в README не указаны. Для версий с сильным сжатием ожидается снижение качества, тогда как более крупные варианты обеспечивают более высокую точность, но требуют значительных аппаратных ресурсов. Лицензия в предоставленных данных не указана.

trinhkhng/ties_Merged_Qwen2-0.5B_0.0 — объединённая модель на основе Qwen2-0.5B, созданная методом TIES с помощью mergekit. В слияние включена модель debias_Qwen2-0.5B; базовая модель и источник токенизатора — Qwen2-0.5B. Это плотная авторегрессионная языковая модель с архитектурой Qwen2ForCausalLM и примерно 493,7 млн параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для построения чат-ботов и получения ответов или продолжений текста. Заявленная длина контекста составляет 131 072 токена. В карточке не приведены сведения о поддерживаемых естественных языках и конкретных результатах оценки качества. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

tiny-grpo — компактная языковая модель для генерации текста и диалогов, разработанная на основе Qwen/Qwen2.5-0.5B-Instruct и дообученная с помощью TRL. Модель использует плотную архитектуру Qwen2 и содержит 494 млн параметров; для работы с текстом доступен контекст длиной до 32 768 токенов. Модель предназначена для ответов на пользовательские запросы в диалоговом формате, выполнения инструкций и генерации текста. Её можно использовать для прототипов чат-ботов и других приложений, которым нужна компактная инструктивная модель. В карточке приведён пример запуска через Transformers pipeline на GPU. В репозитории указаны веса в формате safetensors. Язык лицензии в предоставленных данных не указан; перед использованием следует проверить лицензию базовой модели и условия самого репозитория. Данных о специальных ограничениях качества или безопасности модели в карточке нет.

TwinLlama-3.1-8B-DPO — языковая модель семейства Llama, разработанная mlabonne и дообученная на базе mlabonne/TwinLlama-3.1-8B методом DPO. Модель предназначена для генерации текста; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Заявленная длина контекста — 131 072 токена. В репозитории используются веса safetensors; лицензия — Apache-2.0. Доступные сведения не описывают специализированные прикладные области или отдельные возможности помимо генерации текста.

bartowski/VibeStudio_MiniMax-M2-THRIFT-GGUF — это набор квантизированных версий текстовой генеративной модели VibeStudio/MiniMax-M2-THRIFT. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; базовая модель связана с исходной через отношение quantized. В метаданных модель отмечена как MoE, но подробности архитектуры, число параметров, размер контекста и поддерживаемые языки не указаны. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие проекты на его основе. Доступны варианты GGUF с уровнями квантизации от Q8_0 до Q2_K и IQ-квантами. Более крупные варианты, такие как Q6_K и Q5_K_M, ориентированы на максимальное сохранение качества, а Q4_K_M и IQ4_XS предлагают компромисс между качеством и требованиями к памяти. Версии Q3 и Q2 занимают меньше места, но характеризуются более низким качеством. К преимуществам относятся широкий выбор уровней квантизации, поддержка локального инференса и оптимизация с использованием калибровочных данных. Ограничения связаны с очень большими размерами файлов — примерно от 60 до 183 ГБ в представленных вариантах, необходимостью совместимого программного обеспечения и возможной потерей качества при более агрессивной квантизации. В README указана лицензия MIT; формат prompt должен соответствовать шаблону, приведённому автором.

VisFlamCat — объединённая языковая модель на архитектуре Mistral, созданная автором репозитория с помощью LazyMergekit из flammenai/flammen15-gutenberg-DPO-v1-7B, Eric111/CatunaLaserPi и Nitral-AI/Visual-LaylelemonMaidRP-7B. Модель содержит 7,1 млрд параметров, использует формат safetensors, имеет контекст до 32 768 токенов и предназначена для генерации текста. Модель подходит для диалогов и свободного продолжения текста. В README приведены результаты оценки на Open LLM Leaderboard: среднее значение 21,16, IFEval — 43,66, BBH — 32,88. Она объединяет несколько моделей методом TIES; лицензия и дополнительные условия использования в предоставленных данных не описаны.

WideSeek-SFT-4B — языковая модель семейства Qwen3, дообученная командой WideSeek-R1 на наборе WideSeek-R1 SFT Data. Она предназначена для генерации текста в диалогах и работы с многоходовыми траекториями агентов для задач с широкой или глубокой структурой. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. Модель подходит для экспериментальных агентных сценариев, где требуется вести диалог и последовательно обрабатывать этапы задачи. Она принимает и генерирует текст; карточка не сообщает о специализированной поддержке конкретных естественных языков. Распространяется по лицензии Apache-2.0.

Winter Garden 7B - Γ — экспериментальная чат-модель на архитектуре Mistral, созданная автором maldv. Она получена итеративным слиянием DARE-TIES дерева из Mistral-7B-v0.1 и нескольких производных моделей семейства Mistral 7B, включая модели для диалога и ролевых сценариев. Репозиторий содержит веса Safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста в формате диалога и других задач, решаемых инструкционной языковой моделью. В карточке отмечена поддержка чата; автор сообщает, что базовый шаблон Mistral INST работает удовлетворительно, но не приводит результатов бенчмарков. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение. README описывает модель как эксперимент и не содержит подтверждённых оценок качества.

Yamshadowexperiment28M70.4-0.66-0.97-0.25-0.96-0.79-7B — объединённая текстовая модель на архитектуре Mistral, опубликованная пользователем aaron-di. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; пример в карточке показывает использование в формате диалога через шаблон чата Transformers. Модель принимает текстовые запросы и выдаёт продолжение текста. Контекст составляет до 32 768 токенов. В карточке указана лицензия Apache-2.0. Данных о специальных областях применения и целевых языках нет.

Aaron-di представил Yamshadowexperiment28M70.45-0.14-0.68-0.49-0.24-0.93-7B — объединённую языковую модель Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. В README показан пример генерации текста по запросу в формате чата с помощью Transformers; указана возможность загрузки модели через pipeline text-generation. Модель предназначена для генерации текста и диалоговых ответов. Её контекстное окно составляет 32 768 токенов. Модель объединена из AurelPx/Percival_01-7b-slerp и liminerity/M7-7b; файлы представлены в формате safetensors. Лицензия — Apache-2.0. README не приводит результатов оценки качества, специализации по языкам или предметным областям. Поэтому пригодность для конкретных задач и языков, кроме показанного англоязычного примера, не установлена.

Это набор квантованных версий модели zephyr-7b-sft-full-SPIN-iter3 в формате GGUF с использованием imatrix. Модель разработана на основе UCLA-AGI/zephyr-7b-sft-full; исходная модель представляет собой GPT-подобную модель примерно с 7 млрд параметров, дообученную на синтетических наборах данных. Базой послужила alignment-handbook/zephyr-7b-sft-full, созданная на основе mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста и преимущественно ориентирована на англоязычные NLP-сценарии. Формат GGUF позволяет запускать её с помощью llama.cpp и совместимых приложений, включая JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. README не содержит сведений о поддерживаемых модальностях помимо текста, размере контекста, конкретных вариантах квантования или требованиях к ресурсам. Сильными сторонами являются относительно компактный размер класса 7B и возможность локального запуска через широкий набор совместимых инструментов. Ограничениями выступают преимущественная ориентация на английский язык, отсутствие заявленных мультимодальных возможностей и недостаток подробных данных о качестве, контексте и характеристиках отдельных квантованных вариантов. В метаданных текущего репозитория указана лицензия other, тогда как в описании исходной модели заявлена лицензия MIT; условия использования следует уточнять для конкретного варианта и исходной модели.

Карточка модели aaarrbbee/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Nocodedev0/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Rab007/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Voilabois/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Qwen3-235B-A22B-GGUF — квантованная версия модели Qwen3-235B-A22B, разработанной командой Qwen. Квантование в формате GGUF выполнил bartowski на основе llama.cpp. Модель предназначена для локального текстового взаимодействия, генерации и обработки текста, следования инструкциям, многоходовых диалогов, творческого письма, ролевых сценариев, программирования, математики и задач, требующих рассуждений. Это MoE-модель с общим размером 235B параметров и 22B активируемых параметров; в конфигурации указаны 128 экспертов, из которых одновременно активны 8. Поддерживаются режимы с рассуждением и без него, а также отключение рассуждений с помощью параметра /no_think в конце запроса. Заявлена поддержка более 100 языков и диалектов. Контекстное окно достигает 131 072 токенов с YaRN, при этом значение по умолчанию составляет 32 000 токенов. Сильные стороны модели — улучшенное рассуждение, широкий языковой охват, развитые агентские возможности и универсальность в диалоговых, творческих и технических задачах. Ограничения включают зависимость характеристик от конкретного варианта квантования и конфигурации запуска, а также возможность неточных, вредных или неподходящих ответов. Модель распространяется по лицензии Apache 2.0.

Qwen3-235B-A22B-Instruct-2507 — большая языковая модель, разработанная командой Qwen и представленная в формате GGUF компанией Unsloth. Это каузальная модель для генерации текста, дообученная для выполнения инструкций. Она предназначена для диалогов, следования указаниям, логического рассуждения, понимания текста, математики, научных задач, программирования, использования инструментов и работы с открытыми субъективными запросами. Модель поддерживает широкий спектр языков и рассчитана на приложения, требующие высокого качества ответов и обработки длинных документов. Модель построена на архитектуре Mixture of Experts: содержит 235 млрд параметров, из которых 22 млрд активируются при обработке токена, 94 слоя, 128 экспертов и 8 активируемых экспертов. Используется Grouped Query Attention с 64 головами Q и 4 головами KV; контекстное окно составляет 262 144 токена. Модель работает только в нережиме рассуждений и не генерирует блоки <think></think>. К сильным сторонам относятся улучшенные знания, многоязычность, следование инструкциям, математическое и логическое рассуждение, программирование, работа с инструментами и понимание длинного контекста. Ограничения включают отсутствие режима рассуждений и высокие требования к вычислительным ресурсам, характерные для модели такого размера; точные требования к оборудованию в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0. Указанный репозиторий содержит GGUF-представление, подготовленное Unsloth; базовая модель — Qwen/Qwen3-235B-A22B-Instruct-2507.

Карточка модели Van7887/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели vll1addd/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

unsloth/Qwen3.8-27B-FP8 — FP8-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная каузальная языковая модель с vision encoder, предназначенная для генерации текста, программирования, профессиональных и исследовательских задач, долгих агентских сценариев, а также понимания изображений и видео, включая документы, STEM-диаграммы и продолжительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов. Архитектура основана на сочетании Gated DeltaNet, Gated Attention и FFN; также используется Multi-Token Prediction. Доступны режимы с рассуждением и без него: глубину рассуждений можно регулировать параметром reasoning_effort, а контекст рассуждений в диалоге сохранять с помощью preserve_thinking. Указанные материалы совместимы с Hugging Face Transformers, vLLM, SGLang и TokenSpeed. К сильным сторонам относятся развитые возможности для кода, профессиональной работы, исследований, автономного планирования и выполнения многошаговых задач, а также нативная мультимодальность и близкая к исходной модели производительность после квантизации. Ограничения включают зависимость эффективности и пропускной способности от используемого inference-фреймворка, а также дополнительные вычислительные и временные затраты при включённом глубоком рассуждении. В README не указаны поддерживаемые языки. Модель распространяется по лицензии Apache-2.0. Репозиторий содержит веса и конфигурации в формате Hugging Face Transformers; для производственного или высоконагруженного развёртывания рекомендуются специализированные серверные движки, например vLLM или SGLang.

DeepSeek-V3 — крупная языковая модель с архитектурой Mixture-of-Experts, разработанная командой DeepSeek AI. Модель содержит 671 млрд параметров, из которых для каждого токена активируется около 37 млрд. Она предназначена для работы с естественным языком, генерации и анализа текста, программирования, решения сложных задач и сценариев, требующих развитого рассуждения. Модель доступна как открытая базовая модель, дополненная этапами supervised fine-tuning и reinforcement learning. Архитектура DeepSeek-V3 основана на Multi-head Latent Attention и DeepSeekMoE, унаследованных и развитых по сравнению с DeepSeek-V2. Среди ключевых нововведений — балансировка нагрузки без вспомогательной функции потерь и обучение с предсказанием нескольких токенов, которое также может применяться для ускорения speculative decoding. Модель предварительно обучена на 14,8 трлн разнообразных токенов; заявлена поддержка эффективного FP8-обучения. В README не указаны точная длина контекста, перечень языков и дополнительные модальности, поэтому модель следует рассматривать прежде всего как текстовую LLM. Сильными сторонами DeepSeek-V3 являются высокая заявленная производительность, эффективное использование параметров при инференсе, развитые возможности рассуждения и сравнительная экономичность обучения. Ограничения включают значительный общий размер модели и соответствующие требования к вычислительным ресурсам; конкретные характеристики инференса и результаты по отдельным задачам зависят от конфигурации и реализации. Код распространяется по лицензии MIT, а сама модель — по Model Agreement.

NVIDIA DeepSeek-V4-Flash-NVFP4 — это квантизированная версия DeepSeek-V4-Flash, разработанного DeepSeek AI. NVIDIA подготовила модель с использованием Model Optimizer, но не является её владельцем или исходным разработчиком. Модель предназначена для генерации текста, сложного рассуждения, агентных AI-приложений, сценариев с использованием инструментов, математики, программной инженерии и корпоративных AI-ассистентов. Модель использует архитектуру Transformer с Mixture-of-Experts и гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет 284 млрд, из них активируется 13 млрд. Поддерживается только текстовый ввод и вывод, многошаговые диалоги, системные инструкции, структурированный JSON, function/tool calling и выдача рассуждений. Максимальная длина контекста — 1 млн токенов. Доступны режимы Non-think, Think High и Think Max; используется специальный pipeline кодирования encoding_dsv4. К сильным сторонам относятся большой контекст, поддержка углублённого рассуждения, инструментального взаимодействия и задач программирования. Модель квантизирована в формат NVFP4, что ориентировано на ускоренный инференс на GPU NVIDIA. Указаны поддерживаемые среды SGLang и vLLM, операционная система Linux и совместимость с архитектурой NVIDIA Blackwell; тестирование проводилось на NVIDIA B200. Данные обучения не раскрыты, поэтому характеристики качества следует проверять на прикладных задачах. Для безопасного внедрения требуется дополнительное тестирование и валидация. Лицензия указана как MIT, модель доступна для коммерческого и некоммерческого использования.

vs199507/gemma-4-31B-it-GGUF — GGUF-версия мультимодальной instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind и подготовленной сообществом Unsloth. Модель предназначена для генерации и понимания текста, программирования, рассуждений, работы с изображениями и агентских сценариев с вызовом функций. Это плотная модель примерно с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее окно размером 1024 токена с глобальным вниманием. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 256 тысяч токенов и мультиязычную работу более чем со 140 языками. Для модели заявлены настраиваемые режимы рассуждений, улучшенные возможности программирования, native function calling и поддержка системных промптов. К сильным сторонам относятся большой контекст, мультимодальное понимание, развитые возможности рассуждений и широкий спектр прикладных сценариев — от диалогов и анализа документов до coding и автономных агентов. Конкретные характеристики квантования, требования к памяти и производительность этой GGUF-сборки в README не указаны; из-за размера модель ориентирована преимущественно на мощные рабочие станции и серверы. Распространение осуществляется по лицензии Apache 2.0.

Qwen2-7B-Instruct-AWQ — инструкционная языковая модель из серии Qwen, разработанная командой Qwen. Это текстовая модель для генерации ответов в диалогах, следования инструкциям, понимания и создания текста, а также задач программирования, математики, рассуждений и многоязычной обработки. Модель предназначена для локального развертывания и интеграции в приложения через Transformers или vLLM. Модель содержит около 7 миллиардов параметров и основана на decoder-only архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и Grouped Query Attention. Она прошла предварительное обучение, supervised fine-tuning и Direct Preference Optimization. Вариант AWQ использует квантованные веса для снижения требований к памяти и ускорения инференса. Модель работает с текстом, поддерживает английский язык, а токенизатор адаптирован также к нескольким естественным языкам и языкам программирования. Заявлена длина контекста до 131 072 токенов; для обработки очень длинных входов применяется метод YARN. Сильными сторонами модели являются большой контекст, инструкционное выравнивание, поддержка многоязычных и технических сценариев, а также более экономичное развертывание благодаря квантованию. Модель не является мультимодальной и ориентирована на текстовую генерацию. При использовании YARN в vLLM статический коэффициент масштабирования может отрицательно влиять на качество или производительность на коротких текстах, поэтому его рекомендуется включать только при необходимости длинного контекста. Модель распространяется по лицензии Apache-2.0.