II.9Статистика, эксперименты и причинный анализ

Open-Instruct Human-mix 7B — языковая модель семейства LLaMA, дообученная командой Allen Institute for AI на смеси созданных людьми инструкционных данных: FLAN V2, CoT, Dolly и OpenAssistant 1. Это плотная авторегрессионная модель примерно с 6,6 млрд параметров; для неё указаны библиотека Transformers и контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям: ответов на вопросы, выполнения текстовых заданий, рассуждений и генерации кода. Она обучена преимущественно на англоязычных данных, а карточка приводит результаты по нескольким академическим и прикладным бенчмаркам. Для лучшего качества следует соблюдать формат входного запроса, описанный в карточке. Репозиторий содержит diff весов, поэтому для использования нужна исходная модель LLaMA в формате Hugging Face. Указаны лицензия AI model license и исходная лицензия LLaMA; перед применением необходимо учитывать условия обеих лицензий. Модель не описана как мультимодальная и имеет ограниченное контекстное окно.

Open-Instruct Self-Instruct 13B — языковая модель Allen Institute for AI (AI2), созданная дообучением LLaMA с 12,9 млрд параметров на датасете Self-Instruct. Это causal language model для генерации текста по инструкциям; для лучшего качества вход следует оформлять в специальном формате модели с переводами строк. Модель предназначена для выполнения разнообразных текстовых инструкций, ответов на вопросы, решения задач и генерации кода. Она поддерживает английский язык, имеет контекстное окно 2048 токенов и распространяется в формате PyTorch. В README приведены результаты на тестах знаний, математики, рассуждений, вопросов и генерации кода. Это diff дообучения, а не самостоятельный полный набор весов: для использования требуется исходная модель LLaMA в формате Hugging Face. Применяются лицензия модели из LICENSE.txt и исходная лицензия LLaMA; конкретные условия следует сверять с этими файлами.

Qwen3.5-397B-A17B-VQ-2.4bpw — векторно-квантизированная версия модели Qwen3.5-397B-A17B, опубликованная TheDrainFlorist на базе исходной модели Qwen/Qwen3.5-397B-A17B. Модель предназначена для генерации текста, рассуждений, работы с кодом и, при использовании совместимого mlx-vlm, обработки изображений. Она ориентирована прежде всего на запуск на компьютерах Apple Silicon с unified memory, включая одну систему с 128 ГБ памяти. Модель использует формат MLX и квантизацию с эффективностью 2,4 бита на параметр; размер артефакта составляет около 110,8 GiB. По заявлению автора, она проверена с контекстом до 30 031 токена, потребляет около 110,8 GiB резидентной памяти и достигает примерно 19–22 токенов в секунду при декодировании на M4 Max. Для текстового режима требуется mlx-lm с поддержкой model_file, а для изображений — mlx-vlm версии 0.6.16 или новее. В метаданных указан английский язык. Сильные стороны модели — возможность локального запуска очень крупной Qwen-модели на одной 128-ГБ машине, отсутствие необходимости в патчах и сравнительно низкий размер благодаря векторной квантизации. В README приведены измеренные значения perplexity: 2,7655 на указанном корпусе Wikitext и 2,6383 на смешанном корпусе кода. Ограничения включают высокие требования к памяти, зависимость от совместимых версий MLX-инструментов и необходимость выделить почти весь доступный объём памяти; приведённые метрики нельзя напрямую переносить на другие корпуса и сценарии. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Fable-Uncensored — 27-миллиардная плотная модель семейства Qwen3.5 от Lemura Labs, дообученная на основе lemuralabs/Qwen3.6-27B-Fable-Agentic. Она предназначена для диалогов, пошаговых рассуждений, общих вопросов и многошагового вызова инструментов. Архитектура поддерживает текст и изображения; README описывает работу с инструментами в нескольких ходах диалога. В тестах, приведённых авторами, модель показала 88,29% на MMLU-Pro, 97,67% на GSM8K и 56,57% на GPQA-Diamond. У модели снижено число отказов от запросов, поэтому она может отвечать на запросы, которые отклонила бы модель с более строгими ограничениями. Указанная в метаданных лицензия — Apache-2.0; README также рекомендует учитывать лицензии базовой модели и обучающих данных. Длина контекста в метаданных не приведена; пример запуска задаёт максимальную длину 16 384 токена, что является параметром конфигурации запуска.

Qwen3.6-27B-Omnimerge-v4-GGUF — квантизированная версия модели ManniX-ITA/Qwen3.6-27B-Omnimerge-v4, созданная автором ManniX-ITA. Это объединённая модель на базе Qwen3.6-27B, дополненная результатами слияния трёх дообученных вариантов. Модель распространяется в формате GGUF и предназначена для локального запуска с помощью llama.cpp. Модель имеет архитектуру Qwen3.5 и около 27,78 млрд параметров. Доступны варианты от F16 до низкобитных IQ- и Q-квантизаций, включая Q2_K, Q4_K_M, Q6_K и Q8_0. Заявлены возможности рассуждений, работы с кодом и изображениями; в карточке указано поддерживаемое описание языка English. Контекстное окно и точный перечень поддерживаемых визуальных входов не указаны. Сильными сторонами заявлены улучшенные результаты в задачах программирования и научного рассуждения по сравнению с некоторыми базовыми и предыдущими версиями Omnimerge, а также специальная модификация MLP-слоёв для повышения устойчивости механизма рассуждений. Качество зависит от выбранной квантизации, а приведённые бенчмарки измерялись при разных настройках генерации и не всегда напрямую сопоставимы. Для ускоренного декодирования доступен отдельный MTP-вариант репозитория, не входящий в эту модель. Лицензия — Apache-2.0.

Qwen3.8-9B — плотная языковая модель на 9 млрд параметров от Empero, полученная дистилляцией рассуждений модели-учителя Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B. Это полное дообучение всех параметров базовой модели на SFT-примерах: примерно 70 тысяч отобранных трасс учителя по математике, программированию, общим рассуждениям, следованию инструкциям и работе с инструментами. Модель использует архитектуру Qwen3.5 и формат весов Safetensors; нативный контекст составляет 262 144 токена. Она предназначена для генерации ответов с пошаговыми рассуждениями, решения математических задач, написания кода и вызова инструментов. В карточке приведены результаты тестирования на GSM8K и MMLU; на MMLU модель заметно превзошла базовую Qwen3.5-9B, тогда как на GSM8K показала немного более низкий результат. Интерфейс вызова функций поддерживается без дополнительной обёртки. Лицензия — Apache-2.0. Тонкая настройка проводилась только для текста; визуальные возможности унаследованы от мультимодальной базы, но в карточке не оценивались.

zypcastles/QwQ-32B-Instruct-abliterated — объединённая модель семейства Qwen2, созданная разработчиком с помощью mergekit методом SLERP из huihui-ai/Qwen2.5-32B-Instruct-abliterated и huihui-ai/QwQ-32B-Preview-abliterated. Модель предназначена для диалога и генерации текста с улучшенным следованием инструкциям по сравнению с исходной QwQ-моделью. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст. Контекст составляет до 32 768 токенов. Доступна в формате safetensors для библиотеки Transformers; метаданные также указывают интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

Virtuoso-Lite-PreDistill — экспериментальная текстовая модель для генерации и диалогов от Arcee AI. Согласно карточке, это предварительная версия Virtuoso-Lite: вариант стандартного обучения SFT и объединения с RLHF, подготовленный для проверки перед дополнительными этапами обучения. В README описана дистилляция логитов Deepseek-V3 на примерно 1,1 млрд токенов и архитектура Llama-3; метаданные Hugging Face указывают архитектуру LlamaForCausalLM, 9,9 млрд параметров и базовую модель tiiuae/Falcon3-10B-Base. Доступны веса в формате safetensors, библиотека Transformers и контекстное окно до 32 768 токенов по метаданным. Модель предназначена для чат-ботов и виртуальных помощников, анализа данных, исследовательских прототипов и STEM-обучения. В README заявлены возможности рассуждения, генерации и отладки кода, а также решения математических задач; метаданные отмечают интерфейс вызова инструментов. Основной язык не указан, поэтому язык не классифицируется. Лицензия обозначена как falcon-llm-license в README и как other в метаданных; перед использованием следует проверить условия распространения в карточке модели.

Agents-A1-4B — плотная языковая модель на 4 млрд параметров от InternScience, созданная для автономного выполнения многошаговых задач. Она основана на архитектуре Qwen3.5 и дообучена для агентных сценариев: поиска, инженерной работы, научных исследований, следования инструкциям и вызова инструментов. Модель поддерживает диалог и интерфейс вызова функций; веса доступны в формате safetensors и совместимы с Transformers, vLLM и SGLang. В README заявлена длина контекста до 262 144 токенов при указанной конфигурации SGLang. Модель предназначена для разложения сложных запросов на шаги, планирования, использования внешних инструментов и ответов на научные и профессиональные вопросы. В README приведены высокие результаты на тестах поиска, агентных задач и следования инструкциям, однако это заявления разработчика, и они не гарантируют качество в конкретном приложении. Лицензия Apache-2.0.

Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

unsloth/DeepSeek-R1-GGUF — GGUF-версия модели DeepSeek-R1, разработанной DeepSeek и подготовленной компанией Unsloth. Модель предназначена для локального запуска через llama.cpp и сценариев, требующих рассуждений, генерации и анализа текста, а также написания программного кода. В README указан английский язык; другие языки не заявлены. Модель использует архитектуру MoE и представлена в нескольких вариантах динамической квантизации: 1,58 бит, 1,73 бит, 2,22 бит и 2,51 бит. Размер файлов составляет примерно от 131 до 212 ГБ. Более точные варианты требуют больше дискового пространства, но характеризуются лучшей заявленной точностью: от Fair для 1,58-битной версии до Best для 2,51-битной. Для запуска рекомендуется llama.cpp; возможна частичная выгрузка слоёв на GPU. В примерах используется контекст 8192 токена, однако максимальный размер контекста в README не указан. К сильным сторонам относятся существенное уменьшение размера весов за счёт агрессивной квантизации, возможность локального запуска и наличие вариантов с разным компромиссом между качеством и требованиями к ресурсам. Ограничениями являются очень большой объём файлов даже у наиболее сжатых вариантов, необходимость совместимого оборудования и ПО, а также потенциальное снижение точности из-за низкой разрядности. Модель распространяется по лицензии MIT.

unsloth/DeepSeek-R1-GGUF-UD — это GGUF-квантизированная версия модели DeepSeek-R1, разработанной командой DeepSeek и подготовленной в формате динамической квантизации Unsloth Dynamic v2.0. Модель предназначена для локального запуска через llama.cpp и ориентирована на задачи рассуждений, генерации текста, программирования и диалогового использования. В README указан английский язык, библиотека Transformers и поддержка формата GGUF. Доступны варианты с эффективной разрядностью от 1,58 до 2,51 бит: UD-IQ1_S, UD-IQ1_M, UD-IQ2_XXS и UD-Q2_K_XL. Размер файлов составляет примерно от 131 до 212 ГБ. Квантизация выборочно применяет разные разрядности к компонентам MoE, чтобы сохранить больше точности по сравнению со стандартными 1-битными и 2-битными вариантами. В README приведены оценки качества от Fair до Best, однако архитектурные параметры, общее число параметров и размер контекста исходной модели не указаны; для примеров запуска используется контекст 8192 токена. Сильные стороны модели — возможность локального запуска, уменьшенный объём хранения относительно полной точности и повышенная точность благодаря динамической квантизации. Ограничениями являются очень большой размер даже у наиболее компактной версии, необходимость совместимого оборудования и llama.cpp, а также возможная потеря качества на низких уровнях квантизации. Для запуска рекомендуется использовать специальный chat template и параметр --min-p 0.05; доступна выгрузка части слоёв на GPU. Репозиторий распространяется по лицензии MIT.

EXAONE-Deep-32B GGUF — квантизированная GGUF-версия языковой reasoning-модели EXAONE-Deep 32B, разработанной LG AI Research. Репозиторий Mungert содержит вариант базовой модели LGAI-EXAONE/EXAONE-3.5-32B-Instruct, преобразованный с помощью llama.cpp. Модель предназначена для генерации текста, решения математических задач, рассуждений, программирования и диалогового использования. Модель содержит около 30,95 млрд параметров без эмбеддингов, 64 слоя и использует Grouped-Query Attention с 40 Q-головами и 8 KV-головами. Размер словаря составляет 102 400 токенов, контекст — до 32 768 токенов. Заявлена поддержка английского и корейского языков. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp; конкретные характеристики зависят от выбранного уровня квантизации. Ключевая особенность сборки — экспериментальный подход к квантизации: отдельные важные слои переводятся в более высокую точность с помощью tensor-type bumping. Это может повысить точность при заданном размере файла, особенно на низких уровнях квантизации, но увеличивает объём модели. Модель ориентирована на задачи, требующие рассуждений, однако README не содержит полной информации о требованиях к оборудованию, ограничениях применения и сравнительных результатах именно этой GGUF-сборки. Лицензия указана как EXAONE; подробные условия находятся в файле LICENSE.

GLM-4.7-REAP-218B-A32B-GGUF — GGUF-версия разреженной языковой модели GLM-4.7, подготовленная Unsloth. Модель с архитектурой Sparse Mixture-of-Experts (SMoE) создана методом REAP (Router-weighted Expert Activation Pruning), который удаляет избыточные эксперты, сохраняя независимое управление маршрутизатора оставшимися экспертами. Модель содержит 218 млрд параметров, из которых 32 млрд активируются для каждого токена, включает 92 слоя, 96 экспертов с активацией 8 экспертов на токен, использует GQA с 96 Q- и 8 KV-головами и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации текста и кода, агентских рабочих процессов, понимания репозиториев, многошаговых сценариев и function calling. Заявлена близкая к исходной GLM-4.7 производительность при сокращении размера примерно на 40% по сравнению с полной моделью на 355 млрд параметров. Это делает её привлекательной для локального развертывания, сред с ограниченными ресурсами и исследовательских задач. Поддерживаются текстовые сценарии; заявленный язык в карточке — английский. К сильным сторонам относятся сохранение возможностей генерации кода, агентного программирования и вызова функций, отсутствие необходимости в дополнительном дообучении после pruning, а также совместимость с llama.cpp при использовании параметра --jinja. Для запуска требуется значительный объём памяти из-за общего размера модели; конкретные характеристики квантования GGUF, результаты оценки именно этой версии и требования к оборудованию в карточке не указаны. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-GGUF — это GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 компании Z.ai; представленный репозиторий основан на модели zai-org/GLM-5.3-Flash и подготовлен с использованием методов Unsloth Dynamic 3.0. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки и относится к мультимодальным моделям, однако README не уточняет полный набор поддерживаемых модальностей и особенности их использования именно в данной GGUF-сборке. Архитектура сочетает разреженное и линейное внимание, а также использует Manifold-Constrained Hyper-Connections. Модель содержит 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлены повышенная эффективность, снижение стоимости обработки длинного контекста и сильные результаты в задачах программирования и использования инструментов; в README также указано контекстное окно до 300 000 токенов в отдельных оценках и до 1 млн токенов в NL2Repo. К ограничениям относятся высокие требования к ресурсам исходной модели, возможные потери качества из-за квантования и необходимость совместимого программного обеспечения: для запуска рекомендуется использовать llama.cpp с указанными изменениями или Unsloth Desktop. Конкретный формат квантования и требования к оперативной памяти в README не указаны. Модель распространяется по лицензии MIT.

JetMoE-8B-Chat — разговорная языковая модель семейства JetMoE, созданная авторами проекта JetMoE. Это дообученная версия JetMoE-8B для диалоговой генерации текста. Архитектура включает 24 блока с разреженными слоями Mixture of Attention heads и Mixture of Experts: в каждом слое из восьми экспертов для токена активируются два. Всего модель содержит 8 млрд параметров, из которых при инференсе активны 2,2 млрд; базовая JetMoE-8B обучалась на 1,25 трлн токенов из открытых наборов данных. Модель предназначена для диалогов, ответов на вопросы, написания кода и решения математических задач. README сообщает о сравнительных результатах на языковых и кодовых бенчмарках, однако приведённые таблицы неполны, поэтому эти заявления нельзя независимо оценить по карточке. Контекст составляет 4096 токенов. Модель принимает и генерирует текст; в метаданных заявлена возможность чата, но конкретный список поддерживаемых естественных языков не приведён. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает её как открытую и допускающую дообучение при ограниченных вычислительных ресурсах; практическое качество зависит от запроса и сценария применения.

LumenX1-Sept26-Release — текстовая авторегрессионная модель семейства Lumen Dense, опубликованная dusersad12 на Hugging Face. Она предназначена для диалогов и генерации ответов, особенно для сложных задач на рассуждение, математику, программирование и общую логику. В карточке заявлены улучшенные рассуждения, снижение числа галлюцинаций и поддержка вызова функций; для ответа на вопрос AIME 2026 указано в среднем 31 тыс. токенов рассуждения. Модель использует архитектуру LumenDenseForCausalLM и распространяется в формате PyTorch для Transformers. Репозиторий выпущен под лицензией MIT. Карточка не сообщает размер модели, длину контекста и поддерживаемые естественные языки. Заявления о качестве приведены в README, но детали бенчмарков описаны частично.

AceReason-Nemotron-14B-GGUF — это квантизированная версия языковой модели AceReason-Nemotron-14B, разработанной NVIDIA. Сборка подготовлена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения математических задач, рассуждений и программирования; поддерживает английский язык и запускается через llama.cpp, LM Studio и другие совместимые проекты. Размер исходной модели составляет 14 млрд параметров. В репозитории доступны варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы варианты Q6_K, Q6_K_L, Q5 и Q4_K_M; для устройств с ограниченной памятью доступны более компактные варианты, но с более низким качеством. Архитектура, максимальная длина контекста и другие подробные характеристики в README не указаны. Модель удобна для локального запуска и ресурсоэффективного вывода, однако качество зависит от выбранного уровня квантования, а низкобитные варианты могут заметно уступать более крупным по точности. Для корректной работы следует использовать указанный формат prompt. Модель распространяется по NVIDIA Open Model License; конкретные условия необходимо уточнять в тексте лицензии NVIDIA.

Модель mlx-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-BF16 — версия NVIDIA Nemotron 3 Nano, подготовленная сообществом mlx-community для запуска в формате MLX. README указывает, что она преобразована из nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью mlx-lm 0.29.1; метаданные связывают её с этой базовой моделью и задачей генерации текста. Модель предназначена для диалоговой генерации текста. Описание базовой модели в каталоге указывает на сценарии рассуждений, программирования и создания агентных приложений; в карточке отмечена поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Репозиторий использует библиотеку MLX и файлы safetensors. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией базовой модели и карточкой репозитория.

OpenChat-3.5-0106 — диалоговая языковая модель команды OpenChat, созданная дообучением Mistral-7B-v0.1 на смешанных данных. Она предназначена для общения и генерации текста, включая помощь с программированием, математические рассуждения и общие вопросы. Модель построена на архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 8192 токенов; для диалога предусмотрены обычный режим и режим математических рассуждений. В карточке также описана экспериментальная возможность оценивать ответы и давать обратную связь. Модель рассчитана на текстовый ввод и выдачу текста. Карточка рекомендует развёртывание через OpenChat API-сервер с vLLM и указывает, что запуск возможен на потребительском GPU с 24 ГБ памяти. Опубликована под лицензией Apache-2.0. Заявления о превосходстве в карточке основаны на приведённых авторами тестах и зависят от набора задач и условий оценки.

lmstudio-community/Phi-4-reasoning-plus-MLX-4bit — это версия модели Microsoft Phi-4-reasoning-plus, преобразованная сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке, включая задачи рассуждения, математики, программирования и обработки естественного языка. Модель поддерживает использование через библиотеку mlx-lm и совместима с чатовым шаблоном токенизатора. В названии указано 4-битное представление, однако архитектура, количество параметров, размер контекста и точные характеристики модальностей в README не приведены; по указанным данным модель является текстовой и не предназначена для обработки изображений или других мультимедийных данных. Лицензия — MIT. README не содержит результатов тестирования, поэтому количественно оценить сильные стороны и ограничения модели невозможно; к ограничениям относятся неизвестные параметры производительности и качества, а также заявленная языковая поддержка только английского языка.

Q36-35B-A3B-Opus4.7-Ablit-Heretic-OBLITERATUS-Hermes-MTP-Vision-Llama — мультимодальная модель семейства Qwen3.6-35B-A3B, опубликованная пользователем oktayd. Это производный вариант, собранный на основе Qwen3.6-35B-A3B с использованием нескольких этапов reasoning-дистилляции, ablation, Heretic и OBLITERATUS Nuclear, а также дообучения Hermes для function calling, агентских сценариев, работы с кодом, терминалом, файлами и репозиториями. Указанная в названии связь с Opus 4.7 относится только к унаследованной линии дистилляции и не означает включение проприетарной модели Claude. Модель предназначена для генерации текста, анализа изображений и текста, рассуждений, программирования, использования инструментов и агентских задач. Архитектура — mixture-of-experts Qwen3.6, представленная в GGUF как qwen35 или qwen3_5_moe: всего около 35 млрд параметров, из которых активируется около 3 млрд. Поддерживаются контекст до 262 144 токенов, английский язык и мультимодальный ввод через отдельный F16 vision projector. Доступны варианты квантования MXFP4_MOE и Q4_K_M для запуска в llama.cpp. По приведённым тестам модель особенно сильна в соблюдении сложных инструкций: в IFEval она получила 9/10 по строгим промптам и 17/18 по строгим инструкциям. На небольших выборках она показала сопоставимые с базовым сравнением результаты в HumanEval+, MMLU-Pro, GSM8K и BBH, однако уступила в MBPP+ и продемонстрировала проблемы с зацикливанием или усечением вывода в отдельных задачах MuSR. Поддержка одновременного использования Vision и MTP, финальная проверка FreeToken-сервинга и комбинированные мультимодальные сценарии ещё не подтверждены. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется основной GGUF-файл вместе с соответствующим vision projector; заявленная поддержка относится к llama.cpp.

FreedomAISVR публикует GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — разговорной модели рассуждения, дистиллированной из Claude 4.7 Opus. В основе лежит архитектура Qwen3.5 MoE с 35 млрд параметров, около 3 млрд из которых активны при генерации; в модели 256 экспертов, из них 8 активируются на токен, а также 40 слоёв и MTP-голова. Контекст составляет 262 144 токена. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями. Это текстовая версия без поддержки изображений. Веса сохранены в формате GGUF и квантизированы в NVFP4 примерно до 4 бит; файл модели занимает около 18,81 ГБ. Apache 2.0 указана как лицензия исходной модели.

Qwen3.8-27B-OBLITERATED — текстовая генеративная модель из репозитория kcplummer, созданная на основе Qwen/Qwen3.8-27B. Это модификация Qwen3.8, в которой методом abliteration удалено поведение отказа от ответов на ограниченные запросы. В README описана версия V3 с итеративным уточнением, целевой обработкой направлений отказа и смешиванием результатов нескольких процедур. Модель предназначена для генерации текста, программного кода, исследовательских и red-team-сценариев, а также агентных задач, включая кибербезопасность и тестирование безопасности ИИ. Модель имеет архитектуру Qwen3, около 27 млрд параметров и поддерживает текстовый ввод и вывод. Указана совместимость с режимом рассуждений, однако для V3 рекомендуется его отключать ради более прямых ответов. В README приведён показатель MMLU 82,3% для версии V3 против 84,5% у исходной модели; также заявлены рабочая генерация кода в 20 из 20 проверенных заданий и сохранение способности отвечать в расширенных сценариях. Рекомендуемые параметры — temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов, но конкретный размер контекста и список поддерживаемых языков не указаны. Главное преимущество модели — существенно сниженная склонность к жёстким отказам и формальным «лекциям о безопасности», при сохранении большей части исходных возможностей. Ограничения включают небольшое снижение результата MMLU относительно базовой модели, риск циклической генерации без repetition_penalty и потенциально повышенные риски при использовании для вредоносных или опасных задач из-за отсутствия стандартных защитных отказов. В README указана лицензия Apache-2.0; доступны варианты в форматах GGUF, Safetensors и MLX.

Qwen3-Swallow 32B RL v0.2 AWQ-INT4 — квантованная 4-битная версия большой языковой модели, разработанная командой Tokyo Institute of Technology под названием tokyotech-llm на основе Qwen3. Модель дообучалась с использованием непрерывного предварительного обучения, supervised fine-tuning и reinforcement learning with verifiable rewards (RLVR), включая датасеты по математике, программированию, рассуждениям и диалогам. Модель предназначена для генерации текста, общения, японско-английского перевода, решения математических задач, программирования и задач, требующих развитого рассуждения. Она оптимизирована для японского и английского языков. Размер исходной модели составляет 32 млрд параметров; архитектурные детали и токенизатор соответствуют Qwen3. Рекомендуется использовать контекст длиной не более 32 768 токенов и параметры генерации temperature 0,6, top-p 0,95 и top-k 20. К сильным сторонам относятся высокая двуязычная компетентность, улучшенные возможности рассуждения и сохранение производительности в математике и программировании. Для данной AWQ-квантизованной версии результаты оценки пока не опубликованы. Модель не обучалась специально для использования инструментов и function calling, а переключение режима рассуждений ON/OFF не поддерживается. Лицензия — Apache-2.0.

Reflection Llama-3.1 70B — языковая модель, созданная Matt Shumer на основе Meta Llama 3.1 70B Instruct с применением метода Reflection-Tuning. Она предназначена для диалогов и генерации текста, в том числе для задач, требующих пошагового рассуждения и исправления ошибок. Модель имеет плотную архитектуру LlamaForCausalLM, содержит около 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Во время генерации модель разделяет ход рассуждения и итоговый ответ специальными токенами; для диалогов используется шаблон Llama 3.1. Карточка описывает обучение на синтетических данных Glaive и рекомендует системный запрос, задающий формат рассуждений и ответа. Доступны веса в формате safetensors; лицензия — Llama 3.1 Community License. Метаданные указывают интерфейс вызова инструментов, но README не приводит оценок его качества. Модель унаследовала языковые возможности базовой модели; конкретный набор языков в предоставленных данных не перечислен.

StarFuse-7B-DARE — диалоговая языковая модель на архитектуре Mistral, созданная объединением четырёх моделей с помощью mergekit и метода dare_ties: openchat/openchat-3.5-0106, FuseAI/FuseChat-7B-VaRM, Nexusflow/Starling-LM-7B-beta и Weyaxi/Newton-7B. Модель содержит 7,1 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы в формате диалога. Она предназначена для общения и генерации текста, включая ответы на общие вопросы, программирование и математические рассуждения. Контекст составляет 8192 токена. Модель опубликована в формате safetensors с точностью bfloat16 и лицензией Apache-2.0. В README не приведены сведения о целевых языках или специальных ограничениях качества.

Карточка модели CollectionStudio/Trinity-Mini на Hugging Face совпадает с карточкой arcee-ai/Trinity-Mini, поэтому описание составлено по ней. Trinity Mini — открытая по весам разговорная языковая модель от Arcee AI, дообученная на базе arcee-ai/Trinity-Mini-Base. Это MoE-модель семейства AFMoE с 26 млрд параметров и 3 млрд активных параметров; в README указаны 128 экспертов, из которых активны 8 и один общий. Модель предназначена для диалогов и задач рассуждения, включая математику и программирование. Модель обучена на 10 трлн токенов. Длина контекста составляет 128 тыс. токенов. Метаданные указывают поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для запуска заявлена совместимость с Transformers, vLLM, llama.cpp, LM Studio и API. Указанная в README лицензия — OpenMDW-1.1; метаданные классифицируют лицензию как other.

MaziyarPanahi/Trinity-Mini-GGUF — набор файлов модели Trinity-Mini в формате GGUF, подготовленный MaziyarPanahi на основе оригинальной модели arcee-ai. Модель разработана Arcee AI и предназначена для генерации текста, рассуждений, а также прикладных сценариев, включая работу с математикой и кодом. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки. Trinity-Mini — разреженная Mixture-of-Experts модель архитектуры AfmoeForCausalLM с 26 млрд общих параметров и 3 млрд активных параметров. Она содержит 128 экспертов, из которых одновременно используются 8, а также одного общего эксперта. Контекстное окно составляет 128 тысяч токенов. Модель обучалась на 10 трлн токенов, включая дополнительные данные по математике и программированию. В репозитории доступны варианты квантования с разной разрядностью — от 2 до 8 бит. К сильным сторонам относятся большое контекстное окно, эффективная MoE-архитектура и возможность локального запуска с выбором уровня квантования. README не содержит сведений о поддерживаемых языках, результатах конкретных бенчмарков и ограничениях качества, поэтому эти характеристики нельзя оценить точнее. Для работы требуются совместимые версии llama.cpp или других клиентов, поддерживающих GGUF. Модель распространяется по лицензии Apache 2.0.

Карточка модели roskosmos19/Whale-4B-Thinking-2507 на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Thinking, поэтому описание составлено по ней. Orca-4B-Thinking — языковая модель для диалогов и задач, требующих многошаговых рассуждений. Согласно README, модель разработана на основе Qwen3-4B и дообучена в стиле DeepSeek-R1 на наборах OpenThoughts-114k и Mixture-of-Thoughts; метаданные связывают её с Qwen/Qwen3.5-4B. Карточка описывает причинную плотную архитектуру Qwen3, а метаданные указывают 3,7 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации развёрнутых рассуждений и ответов в математике, программировании, естественных науках и головоломках, а также для следования инструкциям и работы с инструментами. README сообщает о режиме Thinking и приводит оценочные результаты бенчмарков, поэтому заявленные улучшения производительности не следует считать независимой проверкой. Поддерживаются английский, немецкий, испанский, французский и китайский языки по тегам метаданных. Лицензия — Apache-2.0.