II.1Анализ требований и архитектура ПО

Wizard-Zephyr-Orpo-8x22B — объединённая диалоговая языковая модель, созданная разработчиком tlphams с помощью mergekit на основе alpindale/WizardLM-2-8x22B и HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1. Она предназначена для генерации текста в диалоге и ответов на запросы; базовая модель WizardLM рассчитана на сложные запросы, рассуждения, многоязычное общение, программирование и математику. Модель использует архитектуру Mixtral MoE и класс MixtralForCausalLM, содержит 22B параметров и имеет контекст длиной до 65 536 токенов. Доступна в формате safetensors для Transformers. Автор сообщает, что результат MT-Bench был немного ниже, чем у alpindale/WizardLM-2-8x22B, но выше GPT-4-0314; это оценка из README, а не гарантия качества. Лицензия CC-BY-NC-SA-4.0 разрешает использование с указанием авторства и на условиях распространения производных материалов по той же лицензии, но ограничивает коммерческое использование.

airoboros-l2-7b-2.2.1 — экспериментальная инструкция-настроенная языковая модель jondurbin на архитектуре Llama. Это обновлённая версия airoboros-l2-7b-2.2: в обучении использованы преимущественно синтетические данные набора airoboros-2.2.1, обновлены примеры написания текстов, добавлены более длинные контекстные блоки и удалены данные для ролевых сценариев. Модель содержит 6,6 млрд параметров, работает с контекстом до 4096 токенов и распространяется в формате PyTorch по лицензии Llama 2. Модель предназначена для следования инструкциям, ответов на вопросы по предоставленному контексту, суммаризации, написания текстов и кода. Также она может формировать JSON- или YAML-подобные аргументы и планы для сценариев вызова функций, но выполнение этих планов требует отдельной реализации. Карточка отмечает склонность к инструкциям вместо непринуждённого общения и ролевой игры. Для диалога используется формат с маркерами USER и ASSISTANT; для вопросов по источникам автор рекомендует явные разделители контекста и инструкции не выдумывать ответ при нехватке сведений. Модель может галлюцинировать, поэтому её ответы и планы следует проверять; для предотвращения продолжения от лица пользователя нужно настроить критерии остановки генерации.

DeepSeek-R1-Distill-Llama-70B-GGUF — это квантизированная версия языковой модели DeepSeek-R1-Distill-Llama-70B, разработанной командой deepseek-ai и подготовленной в формате GGUF участником bartowski на основе llama.cpp. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Модель дистиллирована из reasoning-модели DeepSeek-R1 и настроена на задачи рассуждения и генерации цепочек рассуждений. Заявлена поддержка контекста до 128 000 токенов. В README не указаны точный вариант квантования, перечень поддерживаемых языков и дополнительные модальности, поэтому её следует рассматривать как текстовую модель. К сильным сторонам относятся большой размер 70B параметров, ориентация на сложное рассуждение и возможность использования квантизированной сборки в локальной инфраструктуре. Ограничения включают потенциально высокие требования к ресурсам, зависимость характеристик от выбранного уровня квантования и типичные для генеративных моделей риски неточных, вредных или неподходящих ответов. Лицензия в предоставленных данных не указана; условия использования следует уточнять в исходном репозитории модели.

DeepSeek-V3.1-Base — базовая языковая модель, разработанная DeepSeek AI. Она предназначена как основа для последующего дообучения и создания прикладных версий, включая варианты с режимами рассуждения и без рассуждения, поддержкой вызова инструментов и агентскими сценариями. Модель ориентирована на обработку длинного контекста и сложных текстовых запросов. Модель построена на архитектуре Mixture-of-Experts: общий размер составляет 671 млрд параметров, из которых для одного токена активируется 37 млрд. Максимальная длина контекста — 128K токенов. В README не указаны точный набор поддерживаемых языков и мультимодальные возможности, поэтому подтверждённо описать её можно только как текстовую языковую модель. Для обучения использовалось расширение длинного контекста в два этапа, а веса и активации представлены в формате UE8M0 FP8. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость при меньшем числе активируемых параметров и пригодность в качестве базы для специализированного дообучения. Ограничения включают очень высокие требования к ресурсам для развёртывания и отсутствие в предоставленных данных подробных результатов оценки, перечня языков и описания мультимодальности. Модель распространяется по лицензии MIT.

FuseChat-7B-Slerp — диалоговая языковая модель FuseAI, разработанная на основе исследовательской работы команды Sun Yat-sen University по объединению знаний чат-моделей. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 8192 токенов. Вариант SLERP объединяет модели в пространстве параметров; в README FuseChat описана стратегия «сначала слияние знаний, затем объединение», предназначенная для интеграции сильных сторон нескольких моделей в одну. Модель рассчитана на диалог, ответы на вопросы и выполнение текстовых инструкций на английском языке, включая задачи письма, ролевого общения, рассуждений, математики, программирования, естественных наук и гуманитарных дисциплин. README сообщает среднюю оценку 8,19 на MT-Bench для FuseChat-7B-SLERP. Модель принимает текст и генерирует текст; изображения, аудио и другие модальности не заявлены. В метаданных базовой моделью указана openchat/openchat_3.5, а README описывает семейство FuseChat как результат слияния нескольких чат-моделей. Репозиторий распространяет веса в формате safetensors по лицензии Apache-2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах; модель может ошибаться, а заявленная поддержка языков ограничена английским.

Gemini 3.8 Flash — модель Google из семейства Gemini Flash. В карточке указаны улучшения по сравнению с Gemini 3.7 Flash в задачах разработки программного обеспечения, агентных сценариях и многошаговых рассуждениях. Метаданные каталога классифицируют модель как image-text-to-text. Имеющихся сведений недостаточно, чтобы описать её размер, контекст, языковую поддержку, условия лицензии или ограничения; эти характеристики здесь не предполагаются.

unsloth/gemma-3-27b-it-GGUF — GGUF-версия instruction-tuned модели Gemma 3 27B, разработанной Google DeepMind и подготовленной для распространения Unsloth. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации, рассуждений и понимания изображений с выдачей текстового ответа. Она подходит для локального запуска на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре при наличии достаточных ресурсов. Модель мультимодальная: принимает текст и изображения, нормализованные до 896×896 и представленные как 256 токенов каждое, а генерирует текст. Для версии 27B заявлено контекстное окно до 128K токенов и максимальный объём вывода 8192 токена. Gemma 3 поддерживает более 140 языков; в метаданных данного репозитория отдельно указан английский язык. Объём обучения 27B-версии составил 14 триллионов токенов. К сильным сторонам относятся большой контекст, мультимодальность, широкий языковой охват, instruction-tuned формат и возможность использования GGUF в совместимых локальных инструментах. Ограничения включают значительные требования к вычислительным ресурсам из-за размера 27B, а также зависимость совместимости и производительности от конкретного GGUF-квантизированного варианта и среды запуска; сведения о точном уровне квантизации в карточке не указаны. Использование регулируется лицензией Gemma и соответствующими Terms of Use Google.

Gemma-4-E4B-text-base — текстовая версия Gemma-4-E4B-it, подготовленная wyattearp удалением мультимодальных проекций зрения и аудио. Параметры языкового трансформера сохранены побитно относительно базовой модели; это плотная авторегрессионная модель Gemma 4 примерно на 4,2 млрд параметров с контекстом до 131 072 токенов и словарём из 256 000 токенов. Модель предназначена для генерации текста, диалогов, рассуждений, программирования и агентных сценариев с вызовом инструментов. Текстовая конфигурация сокращает расход памяти на мультимодальные компоненты и упрощает обслуживание через Transformers и совместимые движки, включая vLLM. Карточка описывает англоязычное применение; удаление аудио- и визуальных компонентов исключает обработку изображений и аудио. Модель распространяется в формате safetensors; для использования действует лицензия Gemma. README отмечает необходимость исправления парсера вызовов инструментов в vLLM для корректной обработки некоторых переходов формата Gemma 4.

GLM-4.6 — языковая модель компании Zhipu AI из семейства GLM-4 MoE, доступная в репозитории в формате safetensors для Transformers. Она предназначена для диалогов, программирования, рассуждений и агентных сценариев с вызовом инструментов и поиском. По сравнению с GLM-4.5 улучшены результаты в задачах кодирования и рассуждений, качество генерации интерфейсов и естественность стиля. Модель поддерживает контекст до 202 752 токенов и ориентирована прежде всего на английский и китайский языки. Модель подходит для генерации и объяснения кода, работы в агентных фреймворках, выполнения многошаговых задач с инструментами и поиска по запросу. В метаданных указано 23,4 млрд параметров и лицензия MIT. README приводит результаты сравнительных оценок, но не содержит подробностей о методике обучения или гарантий качества на конкретных прикладных задачах.

GLM-4.7-Flash-Razor-17B-A3B-E32of64 — текстовая диалоговая MoE-модель на архитектуре GLM-4-MoE-Lite, полученная из GLM-4.7-Flash удалением методом RAZOR половины маршрутизируемых экспертов в каждом MoE-слое. В модели сохранено 32 из 64 экспертов; обучающие обновления и восстановительное дообучение не применялись. Репозиторий указывает 17 млрд параметров, а метаданные Hugging Face — 4,1 млрд; фактический размер параметров поэтому расходится между источниками. Активно около 3 млрд параметров на токен. Модель предназначена для диалоговой генерации текста и сценариев, унаследованных от GLM-4.7-Flash, включая рассуждения и программирование. Она принимает текст и выдаёт текст, поддерживает контекст до 202 752 токенов и распространяется в формате safetensors с весами bfloat16; для запуска нужна версия Transformers с реализацией glm4_moe_lite. Экспертное прореживание примерно вдвое сокращает объём хранения экспертов, при этом вычисления на токен остаются практически неизменными. Изменения генерации возможны: могут отличаться разнообразие, форматирование и поведение при завершении ответа, даже если точность задач в целом сохраняется. Модель выпущена под лицензией MIT.

InternLM2.5-20B — плотная авторегрессионная языковая модель семейства InternLM2.5, разработанная командой InternLM. Модель содержит 19,3 млрд параметров и предназначена для генерации текста и диалоговых сценариев, включая рассуждения и работу с длинными документами. В метаданных указан контекст до 262 144 токенов; карточка семейства также сообщает о проверках на контекстах до 1 млн токенов, но это значение не подтверждено для данного репозитория метаданными. Разработчик сообщает об улучшении результатов рассуждений относительно InternLM2 и приводит оценки на MMLU, CMMLU и BBH. Карточка не перечисляет конкретные поддерживаемые языки, поэтому модель можно описать как языковую без выделения основного языка. Она может генерировать предвзятый, дискриминационный или иной вредный текст. Код распространяется по Apache-2.0; для весов README указывает открытый доступ для академических исследований и необходимость запросить бесплатное разрешение на коммерческое использование.

InternLM2.5-20B-Chat — диалоговая языковая модель, разработанная командой InternLM и распространяемая в формате GGUF сообществом LM Studio. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, ведения диалогов, следования инструкциям, решения математических задач и задач, требующих рассуждений. Она также поддерживает использование инструментов и может применяться совместно с инструментом MindSearch. Модель содержит около 20 миллиардов параметров и рассчитана на контекст длиной до 32 000 токенов. В README не указаны поддерживаемые языки и мультимодальные возможности, поэтому модель следует считать текстовой. Для работы в LM Studio рекомендуется шаблон ChatML. По заявлению авторов, модель обеспечивает высокие результаты в задачах рассуждений и сопоставима с Gemma 2 27B при меньшем размере. Ограничения включают возможность генерации неточного, вредного или неподходящего содержимого, а также зависимость характеристик от выбранной GGUF-квантизации и аппаратного обеспечения. Модель помечена лицензией other; конкретные условия лицензии в README не раскрыты, поэтому перед использованием необходимо ознакомиться с условиями исходной модели InternLM2.5-20B-Chat и данной сборки.

JiRack Ultra 14B — плотная языковая модель на 14 млрд параметров от CMSManhattan, предназначенная для локального и облачного инференса на CPU. По карточке, модель построена на архитектуре DeepSeek R1-14B, переработана с поддержкой ternary/BitNet-подхода и использует обновлённый токенизатор с тегами для маршрутизации, мультимедиа, вызова инструментов и робототехники. Метаданные указывают архитектуру Qwen2 и контекст до 131 072 токенов; заявлены GGUF-квантизации от Q2_K до Q8_0 и веса safetensors. Модель подходит для диалоговой генерации текста, использования в RAG как экспертная модель, программирования и агентных сценариев с вызовом инструментов. В карточке описаны варианты запуска через llama.cpp и Ollama, а также варианты для CPU с разными требованиями к памяти. Теги модели указывают поддержку многих языков, включая русский, английский, китайский, японский, корейский, европейские и ряд других языков. Веса распространяются по лицензии MIT, разрешающей в том числе коммерческое использование. Docker-образ, готовые квантизованные сборки Ollama и интерфейсные клиенты могут иметь отдельные коммерческие условия. Заявления карточки о производительности, поддержке робототехники и инструментах следует считать описанием разработчика; практическое качество и совместимость зависят от сборки и оборудования.

deltanym/llama-3.1-120b-instruct — текстовая разговорная модель, созданная методом слияния через mergekit на основе meta-llama/Llama-3.1-70B-Instruct. В карточке указана конфигурация passthrough; модель использует плотную архитектуру семейства Llama и формат safetensors. Метаданные указывают 120,8 млрд параметров и контекстное окно до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения, включая сценарии с интерфейсом вызова инструментов. В основе лежит многоязычная instruct-модель Meta; README описывает её как воспроизведение Meta-Llama-3-120B-Instruct с использованием Llama 3.1 70B вместо Llama 3. Лицензия в предоставленных данных не указана.

Llama3.1-8B-Titanium-Forge — языковая модель, созданная ZeroXClem методом слияния четырёх моделей ValiantLabs на базе семейства Llama 3.1. Она объединяет диалоговые навыки ShiningValiant2, математические способности Cobalt, генерацию кода Enigma и структурированный вывод Fireplace2. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 131 072 токена. Модель предназначена для технических консультаций, решения математических задач, написания и объяснения кода, создания SQL-запросов и JSON, а также для диалоговых помощников и творческого письма. Карточка заявляет поддержку вызова инструментов через интерфейс модели. Основной язык — английский; метаданные не содержат отдельного перечня поддерживаемых языков. Весовые файлы опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Заявленные специализации происходят из карточки и не сопровождаются результатами оценивания; точность ответов, качество на длинном контексте и надёжность структурированного вывода следует проверять для конкретного применения.

Mistral-7B-Instruct-v0.3 — инструкционная языковая модель семейства Mistral, разработанная Mistral AI и преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.16.0. Модель содержит около 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для диалогового взаимодействия, генерации ответов на инструкции, написания и преобразования текста, суммирования и ответов на вопросы. Формат MLX ориентирован на запуск через библиотеку mlx-lm на совместимом оборудовании Apple. Модель распространяется по лицензии Apache-2.0.

gghfez/Mistral-Small-3.2-24B-Instruct-hf — преобразованная в формат Hugging Face версия Mistral-Small-3.2-24B-Instruct-2506. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров, предназначенная для генерации текста и диалогов по инструкциям. Модель принимает текст и выдаёт текст; контекст — до 32 768 токенов. В карточке указано, что эта версия не мультимодальная. Модель может применяться для диалоговых ассистентов, ответов на вопросы и генерации текста. Она распространяется по лицензии Apache-2.0. README описывает преобразование базовой модели в формат Hugging Face, а не отдельное дообучение.

Kaoeiri/MS_a-coolyte-2409-22B — языковая модель для диалогов и генерации текста, созданная с помощью mergekit. Это плотная модель архитектуры Mistral с 22 млрд параметров, полученная слиянием unsloth/Mistral-Small-Instruct-2409 и rAIfle/Acolyte-LORA методом task arithmetic; веса представлены в формате Safetensors. Модель рассчитана на текстовый ввод и генерацию текста, поддерживает чат и интерфейс вызова инструментов. Контекст — до 131 072 токенов. Модель можно использовать для диалоговых ассистентов, генерации и продолжения текста, а также сценариев, где ответ опирается на длинный контекст или вызов инструментов. README указывает, что плотность слияния подбиралась для целевого training loss 0,3. Сведения о конкретных поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют.

MS-Inky-2409-22B — объединённая модель Kaoeiri, созданная с помощью LazyMergekit на основе unsloth/Mistral-Small-Instruct-2409+estrogen/MS-22b-RP-Ink-adpt. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 22 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Заявленная длина контекста — 131072 токена. Модель распространяется в формате safetensors. В README указан метод объединения task_arithmetic, тип данных bfloat16 и объединённый источник токенизатора. Лицензия в предоставленных данных не указана.

Kaoeiri выпустил объединённую модель для генерации текста на основе Mistral-Small-Instruct-2409 и mistral-small-springdragon-qlora. Слияние выполнено методом task arithmetic с помощью mergekit; архитектура — плотная Mistral, модель содержит 22 млрд параметров и работает с контекстом до 131 072 токенов. Репозиторий содержит веса в формате safetensors, для работы указана библиотека Transformers. Модель предназначена для диалогов и генерации текста; метаданные также отмечают интерфейс вызова функций. Она поддерживает текстовый ввод и выдаёт текст. Лицензия в предоставленных данных не указана.

unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-вариант языковой модели NVIDIA Nemotron 3.5 Lightning, разработанной NVIDIA Corporation. Модель предназначена для генерации текста и кода, создания специализированных AI-агентов, а также для постобучения, адаптации под предметные области, дистилляции и подготовки собственных квантованных вариантов. README указывает, что исходная модель является полноточной версией BF16, а данный репозиторий предоставляет вариант GGUF. Модель использует гибридную архитектуру Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными Attention-слоями. Всего предусмотрено 30 млрд параметров, из которых активно используется 3 млрд. Контекст может достигать 1 млн токенов; для развёртывания на одной H100 рекомендуется 256 тыс. токенов. Поддерживаются английский и языки программирования, испанский, французский, немецкий, итальянский и японский. Режим рассуждений можно включать или отключать через параметр chat template. К сильным сторонам относятся высокая вычислительная эффективность благодаря MoE-подходу, большой контекст, поддержка нескольких языков и возможность настройки под конкретные задачи. Ограничения и практические требования зависят от конкретной GGUF-квантизации и аппаратной конфигурации; README не приводит сведения о размере файлов, уровнях квантизации или точных требованиях к запуску именно этого варианта. Модель распространяется по лицензии OpenMDW-1.1, которая, согласно README, допускает коммерческое использование.

bartowski/nvidia_Nemotron-Cascade-14B-Thinking-GGUF — это набор GGUF-квантизаций языковой модели Nemotron-Cascade-14B-Thinking, разработанной NVIDIA. Квантизации подготовлены bartowski с использованием llama.cpp release b7423 и метода imatrix; исходная модель построена на базе Qwen3-14B Base и дообучена NVIDIA с помощью многоэтапного SFT и последовательного доменного reinforcement learning. Модель предназначена для текстовой генерации общего назначения, сложного рассуждения, математических задач, программирования, software engineering, следования инструкциям и tool use. Она рассчитана исключительно на thinking mode и использует шаблон Qwen3-style ChatML с добавлением тега /think. Поддерживается английский язык. Модель имеет около 14B параметров; репозиторий GGUF предлагает варианты от IQ2_XS до BF16 размером примерно от 4,69 до 29,54 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти для llama.cpp, LM Studio и совместимых приложений. Исходная конфигурация рассчитана на 32K токенов; с RoPE scaling по методу YaRN заявлена поддержка 64K токенов, а для SWE Verified — до 90K. Сильные стороны — специализация на глубоком рассуждении и высокие результаты NVIDIA на широком наборе тестов, включая математику и программирование. Ограничения связаны с режимом только thinking, англоязычной специализацией и неизбежной потерей качества у низкобитных квантизаций. Модель и производные квантизации распространяются по NVIDIA Open Model License.

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-BF16 — языковая модель NVIDIA для генерации текста и диалогов с поддержкой рассуждений. Это эластичный чекпойнт на базе NVIDIA-Nemotron-3-Nano-30B-A3B-BF16, содержащий вложенные варианты размером 30B, 23B и 12B параметров, которые можно извлечь из общих весов. Для основного варианта указаны 30B общих и 3,6B активных параметров; архитектура сочетает Mamba-2, Transformer и Mixture-of-Experts. Модель распространяется в формате BF16 через safetensors и использует библиотеку Transformers. Модель предназначена для диалогов, решения задач на рассуждение и генерации текста с возможностью выбирать вариант под доступный вычислительный бюджет. Она поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Размер контекста по метаданным — 262 144 токена; в README также описана настройка развёртывания с контекстом до 1M токенов. README заявляет готовность к коммерческому использованию, однако конкретное обозначение лицензии в метаданных — other, поэтому условия следует проверить на странице модели.

Omega AI 70B — диалоговая языковая модель семейства Omega AI, представленная как дообученная на базе meta-llama/Llama-3.3-70B-Instruct. По метаданным, модель содержит 71,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации ответов; доступны интерфейсы чата и вызова инструментов. Контекст составляет до 32 768 токенов. Модель предназначена для диалоговых ассистентов и генерации текста. README характеризует репозиторий как справочный и уточняет, что фирменное название Omega AI не меняет архитектуру или предварительно обученные веса базовой модели. Условия исходной лицензии и требования к атрибуции продолжают действовать; конкретная лицензия в предоставленных данных не приведена.

Open-Instruct GPT-4 Alpaca 13B — языковая модель семейства LLaMA с 12,9 млрд параметров, разработанная командой AllenAI. Она дообучена на наборе GPT-4 Alpaca для следования инструкциям и генерации текста. Модель предназначена для диалоговых запросов, ответов на вопросы, рассуждений и других задач, задаваемых в текстовом формате; для результатов, соответствующих обучению, следует использовать предусмотренный формат инструкций. Контекст модели — 2048 токенов. В README приведены результаты оценки на наборах задач общего назначения, включая MMLU, GSM, BBH и Codex-Eval. Репозиторий содержит разницу весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face и её объединение с этой разницей. Условия использования определяются лицензией AI model license вместе с исходной лицензией LLaMA.

Ornith-1.5-9B-MXFP4_Hybrid-Imatrix-GGUF — это квантизированная GGUF-сборка модели Ornith-1.5-9B, разработанной Ornith AI и опубликованной пользователем jashepp. Модель предназначена для генерации текста, диалоговых сценариев, агентного использования, работы с инструментами и особенно для программирования и редактирования кода. Она ориентирована на задачи, где важны следование инструкциям, планирование и пошаговое рассуждение; автор рекомендует сохранять режим reasoning/thinking включённым. Модель имеет размер 9B параметров и распространяется в нескольких вариантах смешанной точности с использованием MXFP4, Q8_0 и F16. В сборках применена importance matrix (imatrix), а точность распределена по слоям вручную: наиболее чувствительные компоненты и общие части модели сохраняются в более высокой точности, тогда как разреженные экспертные блоки сжимаются до MXFP4. Доступны файлы размером примерно от 4,77 до 11,4 ГБ. Заявлен английский язык; модель относится к текстовым генеративным моделям и основана на архитектуре и весах Ornith-1.5-9B. Сильными сторонами являются улучшенное следование инструкциям, рассуждение, агентные сценарии и сохранение качества при снижении требований к памяти благодаря гибридной квантизации. Ограничения включают компромисс между размером и качеством в разных вариантах, отсутствие в README сведений о длине контекста, поддерживаемых языках помимо английского и подробных количественных результатах. Модель распространяется по лицензии MIT.

Qwen2-1.5B-Instruct — инструктивно дообученная языковая модель из серии Qwen2, разработанной командой Qwen. Она предназначена для диалогов и генерации текста по пользовательским инструкциям, включая задачи понимания языка, программирования, математики и рассуждений. Модель содержит 1,5 млрд параметров, использует плотную архитектуру Transformer с декодером Qwen2 и поддерживает контекст до 32 768 токенов. В карточке отмечены улучшенный токенизатор для нескольких естественных языков и кода, а также конкурентные результаты на тестах понимания, генерации, программирования и математики. Репозиторий содержит веса safetensors; для работы с библиотекой Transformers рекомендуется версия 4.37.0 или новее. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-14B-Instruct-1M-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-14B-Instruct-1M, разработанной командой Qwen. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи, требующие обработки очень длинного контекста, при сохранении возможностей на коротких запросах. В метаданных указана поддержка английского языка. Модель имеет контекстное окно до 1 миллиона токенов, что делает её подходящей для анализа больших документов и других длинных последовательностей. При этом для последовательностей свыше 262 144 токенов возможно снижение точности до появления улучшенной поддержки. Размер исходной модели составляет 14 миллиардов параметров; сведения о конкретном методе и уровнях GGUF-квантизации в README не указаны. Модель распространяется по лицензии Apache-2.0. Как и другие языковые модели, она может генерировать неточный, неподходящий или вредоносный контент, поэтому результаты требуют проверки. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность или соответствие конкретным требованиям.

QuantTrio/Qwen3.6-27B-AWQ — это квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и опубликованной в формате, совместимом с Transformers. Вариант AWQ создан с помощью квантования без калибровочного датасета; размер файла модели составляет около 21 GiB. Лицензия — Apache 2.0. Модель предназначена прежде всего для агентного программирования, работы с фронтенд-разработкой, анализа репозиториев и сценариев с вызовом инструментов. Она относится к классу causal language model with vision encoder, поэтому поддерживает текстовые и визуальные входные данные. Заявлены возможности сохранения контекста рассуждений между сообщениями, автоматического выбора инструментов и интеграции с vLLM. Архитектура включает 27 миллиардов параметров, 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также многошаговое обучение для multi-token prediction. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Данные о полном наборе поддерживаемых языков и подробных результатах независимого тестирования в README не приведены. К сильным сторонам относятся большой контекст, мультимодальность, ориентация на программирование и возможность эффективного запуска в квантизированном виде. Ограничения связаны с тем, что AWQ-квантование без калибровочного набора может приводить к потере качества по сравнению с исходной моделью; для запуска указаны vLLM 0.19.0, Transformers 5.5.4 и CUDA 12.8 или 13.0. При использовании tensor parallelism на восьми GPU требуется включить expert parallelism.

cyankiwi/Qwen3.6-27B-AWQ-BF16-INT8 — квантизированный вариант Qwen3.6-27B, разработанный сообществом cyankiwi на основе модели Qwen/Qwen3.6-27B от команды Qwen. Модель предназначена для работы с текстом и изображениями, включая агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку и задачи, требующие сохранения контекста рассуждений. Это каузальная языковая модель с vision encoder и 27 миллиардами параметров. Архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-step training с MTP. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели указан как 36,85 ГБ. Сильными сторонами являются мультимодальность, большой контекст, ориентация на coding agent-сценарии и совместимость с Transformers, vLLM, SGLang и KTransformers. README не содержит подробных сведений о типичных ограничениях качества, требованиях к оборудованию или влиянии квантизации на результаты, поэтому эти характеристики нельзя оценить по имеющимся данным. Модель распространяется по лицензии Apache-2.0.