II.7DevOps, облако и эксплуатация IT-систем

Карточка модели ByteResearch/Llama-3-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

Карточка модели DavidLanz/Llama3-tw-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

maldv/Meta-Llama-3-8B-Instruct-hf — чат-модель семейства Llama 3, разработанного Meta. Это авторегрессионный плотный трансформер LlamaForCausalLM с 7,5 млрд параметров и Grouped-Query Attention; репозиторий содержит веса в формате safetensors. Модель принимает текст и генерирует текст, включая код, а версия Instruct настроена для диалогов и помощнических сценариев. Модель подходит для ответов на вопросы, ведения диалога и генерации текста или кода на английском языке. Метаданные указывают контекст до 8192 токенов. README описывает настройку инструкционной версии с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи людей. Для языков помимо английского может потребоваться дополнительное дообучение. Условия использования определяются лицензией Meta Llama 3 с коммерческими условиями и политикой допустимого использования. Модель статична и обучена на офлайн-данных; для конкретного приложения разработчикам следует самостоятельно настраивать меры безопасности.

Natsumura Assistant 1.0 — разговорная модель общего назначения из серии Natsumura, разработанная Tohur. Это плотная авторегрессионная модель семейства Llama 3.1 с 7,5 млрд параметров и контекстом до 131 072 токенов; она предназначена для диалогов и помощи с широким кругом текстовых задач. Модель дообучена на основе meta-llama/Meta-Llama-3.1-8B-Instruct с использованием наборов Natsumura Identity, Dolphin, Dolphin Coder, OpenHermes 2.5 Uncensored и UltraChat Uncensored. Карточка характеризует её как uncensored и отмечает высокую готовность следовать запросам. Модель принимает текст и генерирует текст; заявлена лицензия Llama 3.1 Community License.

OpenHermes 2.5 Mistral 7B — языковая модель Teknium, дообученная на базе Mistral-7B-v0.1 для диалогов и следования инструкциям. Она содержит около 7,1 млрд параметров, использует плотную архитектуру Mistral и формат диалога ChatML; заявленная длина контекста — 32 768 токенов. Модель обучалась на наборе примерно из миллиона примеров, преимущественно сгенерированных GPT-4, включая дополнительные данные по программированию. Модель предназначена для многошагового общения, ответов на вопросы, выполнения инструкций и помощи с программированием. В карточке приводится результат HumanEval 50,7% при Pass@1, а также сообщается об улучшении ряда общих бенчмарков по сравнению с предыдущей версией; это результаты авторов, не гарантия качества в конкретных сценариях. Указанный в метаданных язык — английский. Модель принимает текстовые запросы и генерирует текст. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Как и другие генеративные языковые модели, она может выдавать неверные сведения или код с ошибками; результаты следует проверять.

Qwen3-235B-A22B-Thinking-2507 — большая языковая модель семейства Qwen3 от команды Qwen, построенная на архитектуре причинной MoE-модели. В ней 235 млрд параметров всего, из которых активируются 22 млрд; модель имеет 94 слоя и использует 8 из 128 экспертов на шаг. Она работает только в режиме рассуждения и рассчитана на генерацию текста и диалоговое взаимодействие, включая использование инструментов. Модель предназначена для сложных задач логического рассуждения, математики, науки, программирования, следования инструкциям и работы с длинными текстовыми контекстами. Нативная длина контекста составляет 262 144 токена. По сравнению с предыдущей версией Qwen3-235B-A22B-Thinking в карточке заявлены улучшения качества рассуждений и общих возможностей; независимые результаты в предоставленных данных не подтверждены. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache-2.0. Режим рассуждения увеличивает длину ответов и может быть избыточен для простых запросов; предоставленные данные не описывают конкретные ограничения качества или перечень поддерживаемых языков.

Qwen3.8-Flash-Next (PLElast) GGUF — это GGUF-сборка модели Qwen3.8-Flash-Next, опубликованная whm0627 на основе весов Qwen/Qwen3.8-Flash-Next и квантизаций unsloth. Модель предназначена для генерации текста, включая программный код и структурированные форматы. Архитектура — MoE с общим размером около 177B параметров и примерно 3B активных параметров. Доступны варианты Q2_K_XL размером 79 ГБ и IQ1_S размером 68 ГБ; веса не переквантизировались, изменён только порядок тензоров. Особенность сборки PLElast — размещение большой таблицы PLE/n-gram-эмбеддингов в конце файла. Это позволяет запускать модель на Apple Silicon и Metal при ограниченной памяти: на Mac с 64 ГБ заявлено около 42–48 ГБ использования VRAM или unified memory, несмотря на больший размер файла. Поддерживается контекст до 128K токенов. В тестах на Apple M1 Max с llama.cpp скорость декодирования составила около 21 токена в секунду, а с MTP speculative decoding для кода — около 24 токенов в секунду. Q2_K_XL обеспечивает немного лучшую perplexity, тогда как IQ1_S занимает меньше места и оставляет больше памяти для длинного контекста; автор отмечает, что глубокое тестирование не проводилось. Модель требует llama.cpp с поддержкой qwen4exp, быстрой SSD-памяти и актуального runtime; для MTP нужны отдельная draft-модель и специальная ветка llama.cpp. Совместимость с LM Studio заявлена только для новых runtime. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next GGUF — это квантизированная версия официальной модели Qwen/Qwen3.8-Flash-Next, подготовленная BatiAI в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста, программирования, работы с инструментами и структурированного вывода, включая JSON. Заявлена поддержка английского, корейского и китайского языков. Модель использует MoE-архитектуру qwen4exp: около 176,9 млрд параметров, из которых примерно 4,9 млрд активируются на каждом токене; всего используется 512 экспертов с выбором top-10. Доступны варианты квантизации IQ3_XXS, IQ4_XS, Q4_K_M и Q6_K размером примерно от 79 до 141 ГиБ. Вариант IQ4_XS показал скорость генерации 11,7 токена в секунду на CPU и 32,74 токена в секунду на Mac Studio M2 Ultra с 192 ГиБ памяти. Для запуска требуется актуальная версия llama.cpp с поддержкой qwen4exp; старые версии, а также ранние сборки Ollama и LM Studio могут не загружать модель. Сильными сторонами являются высокая скорость для модели такого размера, проверенная генерация на корейском языке, поддержка вызова инструментов, программирования, длинных текстов и структурированного вывода. При этом модель ненадёжна в арифметике: в тестах она допустила ошибки в двух нетривиальных выражениях, поэтому вычисления, особенно связанные с деньгами и количествами, следует передавать калькулятору или проверять отдельно. Для работы требуется значительный объём памяти. Лицензия указана как qwen-community-license-1.0; применяются условия лицензии Qwen.

Это объединённая авторами MaziyarPanahi языковая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/speechless-mistral-six-in-one-7b-orth-1.0. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы, включая задачи с кодом. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов; основной естественный язык карточки — английский. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README не приводит отдельных оценок качества или подробных ограничений применимости.

unsloth/Step-3.7-Flash-GGUF — GGUF-квантизированная версия модели Step 3.7 Flash, разработанной StepFun и распространяемой в формате Unsloth Dynamic 2.0. Это мультимодальная vision-language модель со sparse Mixture-of-Experts: она объединяет языковую основу примерно на 196 млрд параметров и vision-энкодер на 1,8 млрд параметров, активируя около 11 млрд параметров на токен. Модель поддерживает изображения и текст, английский язык и контекст до 256 тысяч токенов. Доступны уровни рассуждения low, medium и high для выбора баланса между скоростью, стоимостью и глубиной обработки. Модель предназначена для высоконагруженных агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, работу с инструментами и рассуждение. Она подходит для анализа больших финансовых документов, обработки интерфейсов, wireframe, графиков и диаграмм, многошагового поиска с перекрёстной проверкой источников, оркестрации внешних API и параллельных задач программирования. Заявленная производительность достигает 400 токенов в секунду; модель также ориентирована на исправление ошибок в многосоставных репозиториях и генерацию патчей, проходящих автоматические тесты. Сильные стороны модели — большое контекстное окно, нативное понимание изображений, поддержка длительных агентных рабочих процессов и возможность локального, облачного или серверного развёртывания через Transformers, vLLM, SGLang и llama.cpp. Ограничения включают значительные требования к памяти и вычислительным ресурсам: для локального запуска указаны устройства как минимум со 128 ГБ unified memory. README не содержит подробностей о качестве на языках, кроме английского, а заявленные результаты бенчмарков могут зависеть от конфигурации и способа инференса. Лицензия — Apache-2.0.

ZYR3.1MoE (ZV1.1MeO) — текстовая генеративная модель с многоагентной архитектурой и маршрутизацией Mixture-of-Experts. В README разработчик явно не указан; модель опубликована под идентификатором zyr-AGENT/ZYR3.1MoE. Это объединённая самостоятельная версия с весами, токенизатором и chat template, без необходимости загружать отдельные адаптеры или компоненты. Размер весов составляет около 18 ГБ в пяти safetensors-фрагментах. Модель предназначена для сложных рабочих запросов: планирования, декомпозиции задач, программирования, математических рассуждений, исследования, проверки фактов, критики, обзора, оптимизации и координации компьютерных операций. Её поведение имитирует работу оркестрационной команды из 11 специализированных агентов, которыми управляют уровни ATP, ACN и MeO. Простые вопросы обрабатываются напрямую, а практические запросы могут запускать цикл планирования, распределения ролей и проверки результата. Ключевая особенность — обученное многоагентное поведение поверх одной объединённой модели; ATP и ACN являются внешними runtime-компонентами, а не отдельными нейронными весами. README не указывает точный размер базовой модели, максимальную длину контекста, поддерживаемые языки или мультимодальные возможности, поэтому подтверждённой является только работа с текстовой генерацией. Сгенерированные моделью отчёты о тестах могут быть симулированными и не заменяют реальные внешние результаты выполнения. Для надёжной работы рекомендуется GPU с объёмом памяти от 24 ГБ; поддержка 4-битной квантизации для гибридной архитектуры не гарантируется. Лицензия обозначена как other, но её конкретные условия в README не приведены.

MaziyarPanahi/dolphin-2.6-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель генерации текста, созданная слиянием Mistral-7B-Instruct-v0.1 и dolphin-2.6-mistral-7b методом SLERP. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров; она принимает инструкции и диалоговые запросы и генерирует текстовые ответы. Указанное в метаданных окно контекста — 32 768 токенов. Модель ориентирована на общие диалоговые задачи и ответы на инструкции; теги карточки также указывают англоязычные данные и наборы для задач программирования. Модель распространяется в формате safetensors и имеет лицензию Apache-2.0. Качество и поведение зависят от формулировки запроса и данных слияния; конкретные результаты на бенчмарках в карточке не приведены.

Это GGUF-квантизированная версия текстовой языковой модели dolphin-2.9.2-Phi-3-Medium, разработанной cognitivecomputations и подготовленной пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, программным кодом, математическими задачами и агентными запросами. В обучении или дообучении исходной модели использовались наборы данных Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Agent-FLAN и SystemChat-2.0. Распространяется в формате GGUF для запуска с llama.cpp и совместимых инструментов. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; для ряда вариантов применена IMatrix-квантизация, позволяющая уменьшить размер модели при сохранении качества. Указан английский язык, модальность — текстовая. Размер исходного BF16-варианта составляет около 27,92 ГБ, а доступные квантизированные файлы занимают примерно от 5,20 до 14,83 ГБ. Сильная сторона модели — возможность локального запуска с выбором компромисса между качеством и требованиями к памяти благодаря множеству уровней квантизации. Ограничения README не раскрывает: отсутствуют сведения о числе параметров, архитектурных деталях, размере контекста, результатах бенчмарков и качестве на других языках. Для публикации указана лицензия MIT.

Карточка модели Aregay01/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Kimi-Linear-REAP-35B-A3B-Instruct — разговорная причинно-языковая MoE-модель, созданная Cerebras на основе moonshotai/Kimi-Linear-48B-A3B-Instruct методом REAP: из исходной модели удалены избыточные эксперты. По README, в модели 35 млрд параметров, из которых около 3 млрд активируются на токен; заявлены 27 слоёв, 180 экспертов и выбор 8 экспертов на токен. В метаданных размер указан как 2,7 млрд параметров. Модель предназначена для диалога и генерации текста, включая код, математические рассуждения, вызов функций и ответы на вопросы по длинному контексту. Заявлена длина контекста до 1 048 576 токенов; README отмечает, что отдельные оценки на LongBench v2 и FRAMES проводились с ограничением входа до 128 тысяч токенов. Карточка сообщает о близком к исходной модели качестве при снижении размера примерно на 30%, а также о совместимости с актуальной версией vLLM, поддерживающей Kimi-Linear. Модель распространяется по лицензии MIT. README указывает, что после однократного прореживания дополнительное дообучение не выполнялось; при этом метаданные обозначают связь с базовой моделью как finetune. Заявления о качестве основаны на оценках карточки и могут не переноситься на все задачи; для отдельных тестов отмечено снижение точности после удаления экспертов.

Maestro-10B — языковая модель примерно с 9,9 млрд параметров, созданная suayptalha дообучением Virtuoso-Lite от arcee-ai на датасете OpenOrca. Она использует плотную архитектуру Llama и предназначена для диалогов и генерации текста; унаследованные от базовой модели сильные стороны включают рассуждения, генерацию кода, математические и технические задачи. Поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Модель подходит для диалоговых ассистентов, ответов на вопросы, помощи с кодом и решения математических и технических задач. Файлы представлены в форматах PyTorch и Safetensors. В карточке указана лицензия «other», поэтому конкретные условия использования следует сверить с лицензией репозитория.

MiMo-Negentropy-9B-AGSI — плотная модель семейства Qwen3.5 примерно на 9 млрд параметров, созданная слиянием MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo и Negentropy-claude-opus-4.7-9B от Jackrong. В README слияние названо AGSI Pipelined Fusion и описано как адаптивная спектральная интерполяция весов с защитой от конфликтов параметров. Модель предназначена для диалоговых и агентных сценариев, включая программирование, рассуждения и работу с терминалом. Метаданные указывают поддержку английского и китайского языков; репозиторий содержит веса в формате safetensors. Лицензия — MIT. Это текстовая генеративная модель с возможностью чата. Карточка не приводит результатов сравнительной оценки и не подтверждает практические гарантии качества; мультимодальные возможности базовой модели не следует автоматически считать возможностями этой версии.

MiMo-V2.6-Pro-UltraSpeed — мультимодальная модель-ассистент, разработанная Xiaomi. Она предназначена для задач, где важны глубокое рассуждение и быстрая реакция: интерактивных агентов, программирования, анализа рисков и исследовательской работы. Xiaomi заявляет, что модель сохраняет возможности MiMo-V2.6-Pro и генерирует ответы с выходной скоростью до 20 раз выше. Модель принимает текст, изображения, видео и аудио, а выдаёт текст. Поддерживает контекст до 1 млн токенов и генерацию до 128 тыс. токенов, вызов инструментов, потоковую выдачу, поиск в интернете и структурированный вывод. Доступна через API Xiaomi. Данные о лицензии и конкретных языках для этой версии в использованных источниках отсутствуют.

NVIDIA Nemotron 3.5 Lightning 30B-A3B — APEX GGUF — это набор измеренно распределённых и оптимизированных GGUF-квантизаций базовой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B от NVIDIA. Рецепт APEX и инструментарий предоставлены LocalAI, а движок квантизации — llama.cpp. Модель предназначена для генерации текста, диалоговых приложений и сценариев с инструментами, включая последовательный tool-calling, при запуске через llama.cpp. Архитектура Nemotron-H гибридная: 52 слоя сочетают Mamba2 SSM и MoE, причём полное attention используется только в 6 слоях. MoE включает 128 маршрутизируемых экспертов и общий эксперт; активно используется около 3B параметров из примерно 31,6B. Контекст поддерживается до 128k токенов, а благодаря архитектуре KV-кэш занимает около 6 KiB на токен, или примерно 0,75 GiB при контексте 128k. В комплект включена MTP-голова для speculative decoding. Доступны варианты mini на 3,56 bpw и 13,66 GiB, compact на 4,42 bpw и 16,91 GiB, а также i-quality на 5,62 bpw и 21,53 GiB; compact и i-quality на момент описания ещё загружались. Сильные стороны модели — большой контекст при сравнительно небольших требованиях к памяти, специализированная importance matrix-квантизация, измеренное распределение битов по тензорам и сохранённая поддержка speculative decoding. Вариант mini рассчитан на видеокарту с 16 ГБ памяти и полный контекст 128k. Ограничения включают необходимость достаточно новой версии llama.cpp, явной настройки размера контекста и учёт того, что модель генерирует подробные рассуждения, увеличивая расход выходных токенов. Лицензия указана как openmdw-1.1.

OpenAi-GPT-oss-20b-MODERATE-uncensored-NEO-Imatrix-gguf — текстовая generative-модель, разработанная DavidAU на базе huizimao/gpt-oss-20b-uncensored-bf16. Она предназначена для диалогов, общего решения задач, рассуждений, мозгового штурма, генерации текста и кода, включая программирование. Модель ориентирована на более свободную генерацию контента с меньшим количеством отказов, чем исходная версия OpenAI, однако не является полностью abliterate и в некоторых случаях требует более подробных инструкций. Заявлены архитектура Mixture of Experts с 24 экспертами, размер около 20B параметров, поддержка контекста до 128K токенов и английского языка. Распространяется в формате GGUF с вариантами квантования IQ4_NL, Q5_1 и Q8_0, включая версии с одной, двумя или тремя Imatrix-матрицами NEO, NeoCODE и Horror. По утверждению автора, NEO-, DI- и TRI-Matrix-варианты могут улучшать качество, стабильность и креативность, а производительность на совместимом оборудовании может достигать более 80 токенов в секунду. К сильным сторонам относятся широкий набор сценариев, генерация кода, творческие задачи и относительно низкая склонность к отказам. Ограничения включают возможную нестабильность отдельных генераций, зависимость результата от температуры, repetition penalty, числа экспертов и длины промпта, а также необходимость дополнительных указаний для получения выраженной ненормативной, графичной или сексуальной лексики. Модель лицензирована по Apache-2.0; конкретные требования к аппаратному обеспечению в README не указаны.

Qwen2.5-14B — базовая языковая модель серии Qwen2.5, разработанной командой Qwen. Это предварительно обученная плотная авторегрессионная модель на архитектуре Transformer с RoPE, SwiGLU, RMSNorm и смещениями в проекциях QKV; в ней 14 млрд параметров, 48 слоёв, 40 голов Q и 8 голов KV. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для дообучения и дальнейшей адаптации под генерацию текста, включая диалоги, следование инструкциям, программирование, математику и структурированные данные. Серия поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий и японский. В карточке этой базовой версии отмечены английский язык и интерфейс для вызова инструментов. Сильные стороны серии — работа с длинным контекстом, улучшенное следование инструкциям, генерация длинных текстов и структурированных результатов, в том числе JSON. Это базовая версия, поэтому авторы не рекомендуют использовать её для диалогов без дополнительного постобучения. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-7B — базовая языковая модель серии Qwen2.5, разработанной командой Qwen. Это предобученная плотная авторегрессионная модель на 7,1 млрд параметров; в карточке указаны архитектура Qwen2ForCausalLM, RoPE, SwiGLU, RMSNorm и контекст до 131 072 токенов. Модель распространяется в формате Safetensors и под лицензией Apache-2.0. Модель предназначена для дальнейшей адаптации и использования как основа для генерации текста, кода и структурированных ответов. Серия поддерживает более 29 языков, включая русский и английский, и заявляет улучшения в математике, программировании, следовании инструкциям и работе с таблицами и JSON. У этой версии базовые веса предобучения: разработчик не рекомендует использовать её непосредственно для диалогов; для чат-сценариев требуется постобучение, например SFT или RLHF.

RadixArk Qwen3.8-2.4T-A95B-NVFP4 — квантизированная версия причинно-следственной языковой модели Qwen3.8-2.4T-A95B, созданной Qwen. Квантизацию выполнила RadixArk с использованием NVIDIA Model Optimizer и схемы experts-only NVFP4; RadixArk не обучала и не дообучала модель. Архитектура — Transformer Mixture-of-Experts с 2,4 трлн общих параметров и 95 млрд активируемых параметров. Модель предназначена для генерации текста, AI-агентов, чат-ботов, RAG-систем и других текстовых приложений. Она принимает и возвращает текст, поддерживает контекст до 262 144 токенов и работает только в режиме рассуждений; мультимодальные входы и отключение thinking mode не поддерживаются. Квантизации подвергнуты линейные операторы в MLP-блоках маршрутизируемых экспертов, остальные компоненты сохраняют точность исходного чекпойнта. Для запуска рекомендуется SGLang на Linux и совместимое оборудование NVIDIA Blackwell, в частности конфигурация 8×B300; заявленная интеграция с другими платформами не указана. По приведённым оценкам на конфигурации 8×B300 модель получила 97,73% на GSM8K, 98,75% pass@1 и 100% pass@16 на AIME 2026, 70,6% pass@1 на SWE-bench Verified и 87,64% pass@1 на Terminal-Bench 2.1. Ограничения и характеристики обучения унаследованы от исходной модели; README предупреждает о возможном воспроизведении токсичных высказываний и общественных предубеждений из обучающих данных. Модель распространяется по лицензии Qwen3.8-Max, обозначенной как other.

Ring-2.6-1T — большая языковая модель компании InclusionAI для рассуждений и выполнения сложных многошаговых задач. В README заявлено триллион параметров, тогда как метаданные репозитория указывают 59 млрд; фактический размер по доступным сведениям определить однозначно нельзя. Метаданные описывают архитектуру как MoE на базе BailingMoE V2.5 и указывают формат safetensors с compressed-tensors; для запуска README упоминает поддержку BF16 и FP8 в SGLang. Модель предназначена для агентных сценариев: планирования шагов, вызова инструментов, продолжительных диалогов и автоматизации рабочих процессов. Среди заявленных применений — разработка ПО, научный анализ, сложные логические и математические задачи, а также корпоративная автоматизация. README сообщает о режимах интенсивности рассуждений high и xhigh и контексте 128K с расширением до 256K через YaRN; метаданные указывают нативный контекст 131072 токена. Карточка приводит результаты ряда бенчмарков, но они являются заявлениями разработчика. Метаданные подтверждают текстовую генерацию и возможность чата; конкретные языки не указаны. Лицензия репозитория — MIT.

Sinythos 5.5 — это готовый к запуску вариант Qwen3-30B-A3B-Thinking-2507, подготовленный HTPQoo и распространяемый в формате GGUF для LM Studio, Jan, Atomic Chat и llama.cpp. Это модель MoE с 30 млрд параметров, из которых активны 3,3 млрд на токен; README сообщает, что все 579 тензоров побайтно совпадают с квантованной сборкой UD-Q4_K_XL базовой модели. Изменены встроенный шаблон чата и системная директива с шестью правилами поведения, поэтому модель не является обученной с нуля или дообученной версией. Модель предназначена для диалогов и генерации текста, включая рассуждения, помощь с программированием и агентские сценарии с внешними инструментами, выполнением кода и повторной проверкой ответа. Встроенная директива ориентирует ответы на язык пользователя; в метаданных отмечены итальянский, английский и многоязычность. Для применения в llama.cpp требуется включить обработку шаблона через `--jinja`; без неё пользовательские инструкции из шаблона не применяются. README указывает файл размером 17,7 ГБ и возможность запуска на CPU при достаточном объёме RAM. Веса распространяются по лицензии Apache 2.0, унаследованной от Qwen; для кода runtime указана MIT. Для полной реализации агентского сценария требуются runtime и инструменты, которые предоставляет приложение, а не только файл модели.

Spark-X2.5-4B MLX 4-bit — 4-битная MLX-квантизованная версия языковой модели XHToken/Spark-X2.5-4B, разработанной XHToken. Это универсальная текстовая модель для рассуждений, программирования, использования инструментов и агентских рабочих процессов. Модель содержит около 4 миллиардов параметров и поддерживает текстовую генерацию с нативным контекстом до 1 048 576 токенов. Размер файла весов составляет 2,31 ГБ. Модель предназначена для запуска в экосистеме MLX на совместимом оборудовании Apple, а её архитектура spark2_5 на данный момент поддерживается Spark-MLX-LLM. Совместимость с oMLX и стандартным MLX-LM в README не заявлена. К сильным сторонам относятся существенно уменьшенный размер 4-битных весов и очень длинное контекстное окно, что подходит для обработки больших документов и длительных агентских сценариев. При этом README не содержит подробных результатов тестирования, сведений о языках, конкретных мультимодальных возможностях или ограничениях качества. Модель распространяется по лицензии Apache-2.0.

uukuguy выпустил объединённую языковую модель на базе Mistral-7B для генерации текста, диалога и задач с кодом. В неё объединены ehartford/dolphin-2.1-mistral-7b, Open-Orca/Mistral-7B-OpenOrca, bhenrym14/mistral-7b-platypus-fp16 и ehartford/samantha-1.2-mistral-7b. Архитектура — плотный трансформер MistralForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Модель принимает текст и генерирует текст, а карточка отмечает поддержку кода и приводит результаты HumanEval и тестов Open LLM Leaderboard. Модель подходит для диалоговых ответов, генерации кода и общих текстовых задач. В репозитории представлены варианты AWQ, GPTQ и GGUF с разной разрядностью для GPU и CPU+GPU-инференса; метаданные этого репозитория указывают Transformers и safetensors. Лицензия — Llama 2. Карточка не описывает отдельные гарантии качества или механизмы модерации для объединённой модели.

Tess-2.0-Llama-3-70B — универсальная языковая модель для диалога и генерации текста, разработанная Migtissera; вычислительные ресурсы для обучения предоставила KindoAI. Это плотная autoregressive-модель семейства Llama 3 на архитектуре LlamaForCausalLM с 69,5 млрд параметров и контекстом до 8192 токенов. Она принимает текстовые инструкции и выдаёт текст, поддерживает формат диалога Llama 3. Модель дообучена на базе meta-llama/Meta-Llama-3-70B в течение двух эпох на наборе Tess-2.0, который по принципам LIMA включает около 100 тысяч высококачественных примеров по программированию и общим темам. Подходит для диалоговых помощников, ответов на вопросы, написания текстов и помощи с кодом. Карточка характеризует набор данных как мало ограничивающий следование инструкциям, поэтому модель может отвечать на нежелательные запросы. Модель может выдавать неточную или вводящую в заблуждение информацию, а также предвзятый, оскорбительный или иной неподходящий контент; ответы следует проверять. Лицензия — Llama 3 License (llama3).

Salience-27B-R5-GGUF — это квантизированная версия мультимодальной модели Salience-27B-R5, разработанной vectionlabs и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель содержит около 28 млрд параметров и поддерживает обработку текста и изображений; для работы с изображениями требуется файл mmproj. Заявлена поддержка speculative decoding через MTP. Модель предназначена для задач рассуждения, эффективного пошагового анализа, программирования и software engineering, а также для агентских сценариев с использованием терминала и инструментов. В карточке указана поддержка английского языка и большой длины контекста, однако точный размер контекстного окна и подробности архитектуры не приведены. Основное преимущество — широкий выбор вариантов квантизации с разным балансом между качеством, размером и требованиями к памяти. Рекомендуемым универсальным вариантом назван Q4_K_M размером около 17,77 ГБ, а варианты Q5 и Q6 обеспечивают более высокое качество при больших требованиях к ресурсам. Более сильная квантизация экономит память, но может снижать качество ответов; точные результаты тестирования и измерения perplexity или KLD не указаны. Модель распространяется по лицензии Apache-2.0.

Zrald-AI Qwen 3.8 27B zraldv1-cs — GGUF-версия модели Qwen3.8-27B, опубликованная Zrald и оптимизированная для компактного размера. Это чат-модель для генерации текста, диалогов, программирования и рассуждений. В репозитории указан файл размером 10,18 GiB; README приводит результаты замеров на AMD Instinct MI300X, включая сохранение 90,72% точности и скорость генерации 76,33 токена в секунду. Для запуска рекомендуется не менее 12 ГБ VRAM. Модель основана на Qwen/Qwen3.8-27B и заявлена как дообученная; доступна в формате GGUF для использования с llama.cpp. Базовая модель описана как мультимодальная, но сведения о поддержке изображений или видео именно этой сборкой не приведены. Лицензия — Apache-2.0.