I.13Симуляция, моделирование и открытие нового

Spec-T1-Base-7B — плотная языковая модель на 7 млрд параметров от SVECTOR-CORPORATION, обученная с нуля для рассуждений. Она предназначена для генерации текста и диалогов, в частности для решения математических задач и рассуждений о коде. В карточке указаны интерфейс чата и интерфейс вызова инструментов; модель принимает текст и генерирует текст. Модель предварительно обучали примерно на 5 трлн токенов в течение 5,5 месяцев на данных с акцентом на математику и программирование. Контекст составляет до 32 768 токенов. В README приведены результаты внутренних оценок; команда уточняет, что измерения проводились в контролируемой среде и не проверялись внешними организациями. Репозиторий содержит веса в формате safetensors. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в карточке модели. Заявления о сравнении с моделями большего размера относятся к оценкам авторов; результаты могут зависеть от условий тестирования.

LRM-3.2 — модель рассуждений, разработанная Orion Research и дообученная на базе Qwen3.6-27B. Она предназначена для диалогов, решения задач и многошаговой работы, включая агентные сценарии. Модель сокращает рассуждения во внутреннем ходе мыслей: их длина адаптируется к сложности задачи, а ответы пользователю сохраняют обычную полноту и естественность. Заявленная цель — снизить задержку и расход токенов без ухудшения качества итоговых ответов. Архитектура — плотная Qwen3.5, базовая модель содержит 27 млрд параметров. Дообучение выполнено на наборах ProCreations/grug-think и ProCreations/grug-think-v3-10k с акцентом на траектории рассуждений; README указывает, что токенизатор и длина контекста базовой модели не менялись, но числовое значение контекста не приводит. Модель распространяется в формате safetensors по лицензии Apache-2.0. Описание и примеры сосредоточены на английском языке; поддержка других языков отдельно не заявлена.

Phi-4-mini-reasoning-GGUF — это GGUF-квантизированная версия языковой модели Phi-4-mini-reasoning, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения математических задач и работы с кодом; поддерживает сценарии локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты от BF16 размером 7,68 ГБ до низкобитных квантов размером около 1,90 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, IQ и другие; варианты с более высокой разрядностью обычно обеспечивают лучшее качество, а низкоразрядные требуют меньше оперативной памяти. Указан английский язык. Архитектура исходной модели, число параметров, поддерживаемые модальности и размер контекста в README не описаны. Сильными сторонами являются локальный запуск, широкий выбор компромиссов между качеством и требованиями к памяти, а также специализация исходной модели на математическом рассуждении. Ограничения включают возможное снижение качества при использовании низкоразрядных квантов и отсутствие в README подробных результатов оценки. Модель распространяется по лицензии MIT.

Pink Elephant 48B-S — разреженная языковая модель с архитектурой Mixture-of-Experts, разработанная Pink Elephant. В ней 47,7 млрд параметров, из которых на каждом токене активны около 14,66 млрд; используются 8 экспертов с маршрутизацией top-2. Модель создана на основе Pink Elephant 14B: плотную модель преобразовали в MoE, затем дообучили на примерах по программированию и математике и объединили обученные адаптеры с основными весами. Репозиторий содержит веса в формате safetensors; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации текста, диалогов, написания и анализа кода, а также решения математических задач. В README приведены результаты HumanEval 70,12%, MATH-500 38,40%, GSM8K 68,5% и MMLU 60,0%; выборки GSM8K и MMLU для проверки были небольшими. Модель поддерживает английский язык. По данным карточки, лицензия — MIT. Для загрузки автор рекомендует Transformers и указывает trust_remote_code=True.

RLT-7B — авторегрессионная языковая модель Sakana AI с 7,1 млрд параметров, дообученная методом supervised fine-tuning на основе Qwen/Qwen2.5-7B-Instruct. Она использует подход Reinforcement-Learned Teachers: модель-учитель, оптимизированная для создания рассуждений, передаёт их навыки модели-ученику через дистилляцию. Модель предназначена для генерации текста и диалогов, включая задачи на рассуждение, математику, науку и код. Поддерживает английский и китайский языки; контекст — до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Разработчик позиционирует её как экспериментальный прототип для исследований и разработки; результаты не гарантируются, а применение в критически важных системах не рекомендуется.

grug-27b — дообученная модель ProCreations на базе Qwen/Qwen3.6-27B с плотной архитектурой семейства Qwen3.5. Разработчик объединил LoRA-адаптер ранга 32, обученный на текстовых линейных слоях, с базовой моделью и сохранил веса в формате bf16. По карточке, обучение было направлено на компактные, адаптивные рассуждения: короткие для простых задач и более подробные для сложных. Модель предназначена для генерации текста в диалогах, программирования, математических задач и агентных сценариев с использованием инструментов. Карточка приводит результаты на HumanEval, MBPP и GSM8K, а также сообщает о снижении расхода токенов на этих тестах и проверках на зацикливание. Эти результаты получены разработчиком и не гарантируют такого же качества на других запросах. Указана поддержка английского языка; базовая Qwen3.6-27B также описана в каталоге как мультимодальная, но README grug-27b говорит об обучении текстового стека, поэтому работу с изображениями для этой версии подтвердить нельзя. Для запуска приведён контекст длиной 32 768 токенов как параметр сервера, а не заявленный нативный предел модели. Лицензия — Apache-2.0.

Arx12/Maple-Preview-Exact-GGUF — это сторонний набор GGUF-репаков модели Maple-Preview, разработанной DeepGrove. Репаки подготовлены и проверены Arx12 на основе официальных файлов DeepGrove; данный репозиторий не является официальным релизом DeepGrove. Модель предназначена для генерации текста и задач, требующих рассуждений, с акцентом на соотношение качества, скорости и потребления памяти. Агентные сценарии и широкое постобучение пока ограничены по сравнению с планируемой полной версией Maple. Maple-Preview представляет собой reasoning-модель с архитектурой Mixture-of-Experts: 20 млрд общих параметров, около 1 млрд активных параметров на токен, 24 трансформерных слоя, 256 экспертов и 8 активных экспертов на токен. Используется ternary-weight дизайн и конфигурация внимания 3:1 SWA-512:GA, объединяющая скользящее и глобальное внимание. Контекст — до 131 072 токенов, заявленный язык — английский. Доступны варианты с точным репаком матриц TQ2_0 в Q4_0 или Q8_0, а также F16-представление; для некоторых вариантов LM head квантуется отдельно, поэтому полная побитовая идентичность вывода между форматами не гарантируется. Сильной стороной является сохранение представленных значений исходных матриц при репаках Q4_0 и Q8_0, подтверждённое проверкой всех 168 исходных TQ2_0 матриц, а также возможность работы с очень длинным контекстом и сравнительно небольшим числом активных параметров. Ограничения включают preview-статус, возможное отставание в агентных задачах и то, что exact-репак не восстанавливает точность, утраченную до исходного квантования; различия в вычислительных ядрах могут менять логиты и текст. Модель и производные репаки распространяются по лицензии MIT.

stelterlab/Qwen3-Coder-30B-A3B-Instruct-AWQ — экспериментальная AWQ-квантизованная версия Qwen3-Coder-30B-A3B-Instruct, разработанная stelterlab на основе оригинальных весов Qwen AI. Квантизация выполнена в формате INT4 GEMM с использованием llm-compressor от vLLM Project. Модель предназначена для генерации и анализа кода, агентного программирования, работы с браузером и задач, требующих понимания репозиториев и вызова инструментов. Это каузальная языковая MoE-модель с 30,5 млрд параметров, из которых активируются 3,3 млрд. Она содержит 48 слоёв, 128 экспертов и активирует 8 экспертов на запрос; используется GQA с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может расширяться до 1 млн токенов. Модель поддерживает только режим без рассуждений и не генерирует блоки <think></think>; заявлены возможности function calling и интеграция с инструментами для агентного программирования. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся сочетание большого общего объёма параметров с малым числом активируемых параметров, длинный контекст, ориентация на код и поддержка инструментов. Ограничения связаны с экспериментальным статусом данной квантизованной сборки и возможными требованиями к памяти и вычислительным ресурсам при работе с длинным контекстом; при нехватке памяти рекомендуется уменьшать контекст. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen2.5-VL-72B-Instruct-FP8-dynamic — квантизированная версия мультимодальной модели Qwen2.5-VL-72B-Instruct, разработанной Qwen и оптимизированной Neural Magic. Модель принимает изображения и текст, а генерирует текст; в карточке также указан английский язык. Версия выпущена 24 февраля 2025 года. Модель предназначена для визуально-языковых задач: ответов на вопросы по изображениям, анализа документов и диаграмм, визуального рассуждения и решения математических задач по визуальному содержимому. Архитектура основана на Qwen2.5-VL-72B-Instruct с 72 млрд параметров. Веса и активации квантизированы в FP8 с динамическим режимом, что ориентировано на более эффективное выполнение инференса. Для запуска рекомендуется vLLM версии 0.5.2 или новее; поддерживается OpenAI-совместимый сервер. В примере развертывания используется контекст до 4096 токенов, однако общий максимальный контекст модели в README не указан. По приведенным оценкам, FP8-версия сохраняет близкое к исходной качество на задачах MMMU, VQAv2, DocVQA, ChartQA и MathVista, но результаты могут зависеть от сценария использования и настроек инференса. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-29B-REAP-Opus-Reasoning-Distill-MTP-GGUF — набор GGUF-квантизаций модели, разработанной barozp. В основе лежит MoE-модель Qwen3.6-35B-A3B, сокращённая методом REAP до 205 из 256 экспертов, объединённая с LoRA-адаптером, дистиллированным из Opus reasoning, и дополненная головкой Multi-Token Prediction (MTP), восстановленной из исходного неприженного чекпойнта. Модель предназначена для генерации текста и задач рассуждения; поддерживаемые языки и размер контекстного окна в README не указаны. Главная особенность версии — поддержка самоспекулятивного декодирования: MTP-головка предварительно предлагает токены, а базовая модель проверяет их. В тестах с llama.cpp это обеспечило ускорение генерации на 39–67% при включённом speculative decoding, без измеримого ухудшения качества по сравнению с версией без MTP. Доступны варианты от BF16 до экстремальных IQ1_M; квантизации Q и IQ различаются требованиями к памяти, совместимостью, скоростью и потерями качества. Для квантизаций до Q4_K_M использовалась importance matrix. Для использования MTP требуется современная сборка llama.cpp или совместимый интерфейс с явным включением режима draft-mtp; без этого модель работает как обычная GGUF-модель, а в некоторых конфигурациях спекулятивное декодирование может почти не ускорять генерацию или даже замедлять её. Требования к ресурсам зависят от квантизации: размер файлов составляет примерно от 7,2 до 57,9 ГБ. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-W4A16-AutoRound — квантизированная версия модели Qwen3.8-27B-Uncensored от orcarouter, созданная с использованием Intel AutoRound. Она основана на Qwen/Qwen3.8-27B и представляет собой abliterated-производную с существенно удалённым защитным выравниванием. Модель предназначена для исследовательских задач, включая интерпретируемость, исследования безопасности ИИ, red teaming, оценку моделей и интеграцию в собственные защищённые системы. Модель поддерживает работу с текстом и изображениями, языки English и Chinese, а также контекст до 262 144 токенов. Используется архитектура Qwen3.8 с сохранённой vision tower и MTP-головой для speculative decoding. Квантизация W4A16 выполнена методом AutoRound: основные линейные слои используют 4-битные веса и 16-битные активации, а vision tower, lm_head, embed_tokens и отдельные проекции GatedDeltaNet сохранены в bf16. Для запуска рекомендуется vLLM; заявлены показатели 0,9052 на GSM8K, 0,761 на MMLU-Pro и 0,880 на MMLU. Сильными сторонами являются большой контекст, поддержка изображений, сниженные требования к памяти по сравнению с полноразмерной моделью и сохранение значительной части исходных возможностей после квантизации. Ограничения включают возможное снижение качества из-за квантизации и abliteration, а также отсутствие эффективных встроенных защитных механизмов: модель может выполнять вредоносные, незаконные или неэтичные запросы. Её не следует предоставлять конечным пользователям без собственной системы безопасности. Лицензия — Apache-2.0; ответственность за использование и последствия вывода несёт пользователь.

Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — модель для генерации текста и решения сложных многошаговых задач, дообученная на базе Qwen3.5-9B. Она создана с применением supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Основной акцент сделан на структурированном анализе, планировании, декомпозиции задач и более лаконичных ответах. Модель предназначена для математики и логики, программирования и системного анализа, научных, инженерных, юридических, медицинских и финансовых задач, а также для сценариев, связанных с безопасностью и adversarial reasoning. В карточке указана текстовая модальность, pipeline text-generation и поддержка английского, китайского и корейского языков. Размер базовой модели — 9B параметров; размер контекста и точные требования к аппаратным ресурсам не указаны. Сильными сторонами модели считаются многошаговое рассуждение, отслеживание ограничений, последовательное планирование, междисциплинарный охват и анализ отказов или атак. При этом дистилляция и специализированное дообучение могут ухудшать обобщение в некоторых широких сценариях и приводить к частичному забыванию знаний базовой модели, поэтому модель рекомендуется оценивать на целевых задачах перед внедрением. Лицензия — Apache-2.0.

DeepSeek-V3.2-Speciale — крупная языковая модель, разработанная DeepSeek AI. Она представляет собой высокоресурсный вариант DeepSeek-V3.2, дообученный на базе DeepSeek-V3.2-Exp-Base, и ориентирована на сложное рассуждение, решение математических и алгоритмических задач, использование инструментов и работу в агентных сценариях. Модель использует механизм разреженного внимания DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при работе с длинным контекстом. В DeepSeek-V3.2 также применяются масштабируемое обучение с подкреплением и конвейер синтеза данных для агентных задач, включая взаимодействие с инструментами. В README не указаны размер модели, точная архитектура, максимальная длина контекста, поддерживаемые языки и модальности; заявлена текстовая работа с сообщениями и инструментами. К сильным сторонам относятся развитое рассуждение, эффективность на длинном контексте и способность выполнять сложные интерактивные задачи. Для версии Speciale заявлены результаты на уровне или выше GPT-5, а также золотые медали на IMO и IOI 2025, однако эти утверждения приведены в README без подробностей о методике оценки. Ограничения включают отсутствие встроенного Jinja-шаблона чата и необходимость использовать предоставленный Python-код для кодирования сообщений и разбора ответов; функция разбора рассчитана только на корректно оформленный вывод. Модель распространяется по лицензии MIT.

cyankiwi/GLM-5.2-AWQ-INT4 — это квантизированная версия GLM-5.2, разработанная на базе модели Z.ai (zai-org). Модель предназначена для генерации текста, решения задач с длинной цепочкой рассуждений, программирования, работы с инструментами и агентских сценариев. В README также указана калибровка на наборах STEM и Agentic. Модель использует формат AWQ с точностью INT4. Заявлена поддержка контекста до 1 млн токенов. Архитектура GLM-5.2 включает IndexShare, повторно использующий один индексатор для каждой группы из четырёх разреженных attention-слоёв, что снижает вычисления на длинном контексте; MTP-слой предназначен для speculative decoding. В карточке указаны английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Размер основных файлов составляет 454,29 ГБ, дополнительного MTP-слоя — 19,91 ГБ, общий объём загрузки — 474,19 ГБ. Сильные стороны модели — работа с очень длинным контекстом, программирование, математическое и научное рассуждение, а также агентские задачи; конкретные результаты приведены в бенчмарках базовой GLM-5.2. Ограничениями являются крупный объём файлов и высокие требования к ресурсам для локального развёртывания, а также возможные потери качества из-за INT4-квантизации. Для запуска указана совместимость с SGLang, vLLM, Transformers, KTransformers и Unsloth. Лицензия — MIT.

AMAImedia/Hy4-preview-BF16-GGUF — размещённая AMAImedia сборка модели Hy4 preview, разработанной Tencent Hy Team. Это диалоговая модель семейства hy_v4 с архитектурой Mixture-of-Experts; исходная модель содержит 770 млрд параметров, из которых активируются 49 млрд на токен. В архитектуре используются 78 слоёв, разреженное внимание Gated DeepSeek Sparse Attention и слой MTP для ускорения спекулятивного декодирования. Карточка указывает контекст длиной до 1 048 576 токенов. Модель предназначена для генерации текста и диалога, включая разработку и отладку программ, анализ документов и данных, подготовку офисных материалов, создание игровых прототипов и научные задачи. Hy4 preview также поддерживает сценарии с изображениями согласно тегу image-text-to-text. В метаданных заявлены языки, включая английский, русский, китайский, вьетнамский и японский; карточка перечисляет дополнительные языки. Репозиторий обозначен как GGUF BF16, однако метаданные также содержат форматы GGUF Q4_K_M и safetensors. Это ранняя версия: README отмечает склонность тратить лишнее время на сложные рассуждения и чрезмерно перепроверять результаты. Модель опубликована под лицензией Apache-2.0. Связь с tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF указана в метаданных как merge.

P4tchFake/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — текстовая генеративная модель, дообученная на базе Qwen3.5-9B с использованием supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Модель ориентирована на структурированное аналитическое поведение и более организованный Chain-of-Thought. В README указаны английский, китайский и корейский языки; архитектура описана как Dense, размер базовой модели — 9B параметров, однако размер контекста не указан. Модель предназначена для сложных многошаговых задач, требующих декомпозиции, планирования, абстрагирования, отслеживания ограничений и анализа компромиссов. Заявлены широкие области применения, включая математику и логику, программирование и системный анализ, безопасность и adversarial reasoning, физику, инженерию, право, философию, медицину, финансы, химию и прикладные социальные системы. Среди сильных сторон отмечаются структурированное рассуждение, более плотные и последовательные аналитические ответы, междисциплинарный охват и компактный размер. Из-за дистилляции и специализированного дообучения поведение модели может отличаться от исходной Qwen3.5-9B: возможны изменения в обобщающей способности и частичное забывание отдельных сведений предварительного обучения. Поэтому модель рекомендуется оценивать на собственных задачах перед применением в продуктивных сценариях. Лицензия — Apache-2.0.

ISTA-DASLab/Qwen3.6-35B-A3B-2Bit-GSQ — это квантизованная версия модели Qwen/Qwen3.6-35B-A3B, разработанная IST-DASLab с использованием метода GSQ (Gumbel-Softmax Quantization). Базовая модель построена по архитектуре MoE: 35 млрд параметров всего и около 3 млрд активных параметров. Модель ориентирована на рассуждения, программирование, следование инструкциям, научные и математические задачи, а также работу с длинным контекстом. В репозитории заявлена поддержка сценариев image-text-to-text; чекпойнт включает vision-компоненты, необходимые для мультимодальных входов, однако сведения о поддерживаемых языках и точной длине контекста в README не указаны. Ключевая особенность — смешанная квантизация. Веса маршрутизируемых экспертных MLP представлены в 2-битном формате GSQ с эффективной стоимостью хранения около 2,13 бит на параметр и размером группы 128, тогда как attention-слои, общие эксперты и LM head квантизованы в INT8. Эмбеддинги, нормализации, маршрутизатор MoE и другие компоненты сохранены в BF16. Полный чекпойнт занимает примерно 12,6 ГБ, а вариант без vision- и MTP-компонентов — около 9,9 ГБ. По приведённым оценкам, модель сохраняет высокую точность базовой версии, особенно на AIME 2025, где результат совпал с исходной моделью, но уступает ей на GPQA Diamond, IFEval, MMLU-Pro и GSM8K. Ограничения связаны с необходимостью специальной инфраструктуры: для запуска через vLLM требуется версия 0.27.1, патч совместимости из репозитория и GPU Ampere или Hopper. Лицензия — Apache-2.0.

Solstice-AI Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-mlx-oQ8e-1M — это релиз модели для Apple Silicon в формате MLX, созданный Solstice-AI на базе дообученной модели DavidAU Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored. Архитектурная основа принадлежит Qwen/Alibaba, дообучение выполнил DavidAU, а смешанную oQ8e-квантизацию подготовила Solstice-AI. В карточке указаны английский и китайский языки, лицензия Apache 2.0 и контекстное окно до 1 048 576 токенов. Модель предназначена для запуска на компьютерах Apple с unified memory и ориентирована на рассуждения, программирование, научные и многодисциплинарные задачи. Заявлены переменная глубина рассуждений через 10-уровневую систему управления thinking, нативная аппаратная Multi-Token Prediction и скорость 58–74 токена в секунду на потребительских и профессиональных чипах Apple Silicon. Формат oQ8e использует смешанную точность и повышенную разрядность для чувствительных компонентов, включая проекции внимания, матрицы MLP и нормализационные тензоры. К сильным сторонам относятся большой контекст, оптимизация под Metal и Apple Silicon, поддержка аппаратного MTP, гибкое управление глубиной рассуждений и ориентация на кодирование и reasoning. Ограничениями являются требование не менее 64 ГБ unified memory для конфигурации oQ8e, зависимость от MLX/mlx-lm и отсутствие в README подробностей о фактической мультимодальности, несмотря на заявленный pipeline image-text-to-text. Модель обозначена как uncensored и abliterated, поэтому её поведение в части отказов от потенциально вредных запросов может отличаться от стандартных версий.

Locutusque/Hyperion-2.0-Mistral-7B — языковая модель Locutusque, дообученная на 750 тысячах примеров набора Hyperion-v2.0 на базе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на сложные вопросы, ведения диалога, генерации кода и рассуждений в научных областях. В карточке описаны сценарии обучения и помощи специалистам в медицине, математике, программировании и других технических дисциплинах. Основной язык — английский. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README отмечены возможные несогласованности ответов из-за разнообразия форматов данных и качества аннотаций; также модель охотно отвечает на любые запросы, поэтому для корпоративного применения автор рекомендует дополнительную настройку с помощью DPO.

Ornith-1.5-35B-A3B uncensored (NVFP4) — доработанная и квантованная версия модели Ornith-1.5-35B-A3B от команды Ornith, подготовленная Robert Ressl. Модель основана на архитектуре Mixture-of-Experts: общий размер составляет 35B параметров, около 3B параметров активны при обработке токена. Это текстовая генеративная модель на английском языке, предназначенная для генерации текста, рассуждений, вызова инструментов, исследований безопасности, red-teaming и penetration testing. В README также указано, что мультимодальная оболочка и vision tower сохранены, однако подробные сведения о поддерживаемых визуальных сценариях не приведены. Модель использует abliteration в один проход и формат NVFP4 только для экспертных тензоров; attention, shared expert, router и embeddings остаются в BF16. Размер экспортированной модели составляет около 23 ГБ вместо 71,9 ГБ у BF16-версии, заявленная длина контекста — 262 144 токена. Для запуска рекомендованы SGLang и NVIDIA GPU с поддержкой Blackwell; на одной NVIDIA RTX PRO 6000 Blackwell 96 GB измерена скорость 213 токенов в секунду при коротких запросах. К сильным сторонам относятся существенно сниженная частота жёстких отказов, сохранение инструментального вызова и близкое к базовой модели качество на GPQA-Diamond: 58,6% против 61,1%. Ограничения включают остаточные отказы, возможное влияние квантования на поведение и отсутствие MTP speculative decoding, поскольку тензоры mtp.* были удалены из экспортированного контрольного пункта. Модель по умолчанию ориентирована на рассуждения; для коротких прямых ответов рекомендуется отключать режим thinking. Лицензия — MIT, унаследованная от базовой модели Ornith.

Qwen3.5-397B-A17B-Opus-4.6-Reasoning-Uncensored-GGUF — GGUF-версия модели, разработанная timteh673 на базе Qwen/Qwen3.5-397B-A17B. Модель предназначена прежде всего для генерации текста, сложного рассуждения, аналитических задач, многошагового решения проблем и диалоговых сценариев. Она прошла abliteration для снижения отказов и LoRA-дообучение на 12 842 образцах рассуждений, дистиллированных из ответов Anthropic Claude Opus 4.6, с использованием тегов <think> для явного отображения процесса рассуждения. Архитектура представляет собой гибридную Qwen3.5 MoE с GatedDeltaNet и Transformer-компонентами: 397 млрд параметров всего, 17 млрд активных параметров на токен, 60 слоёв, 32 attention-головы, 2 KV-головы, 512 маршрутизируемых экспертов и общий эксперт, из которых активны 10 на токен. Заявлена длина контекста до 262 144 токенов, словарь из 248 320 токенов и поддержка более 201 языка, включая английский, китайский, японский, корейский, русский и другие. Модель также сохраняет нативный vision encoder для работы с текстом, изображениями и видео, однако мультимодальные возможности после дообучения не тестировались. Сильными сторонами являются MoE-архитектура с большим общим числом параметров, улучшенное структурированное рассуждение и широкий контекст. Модель очень требовательна к ресурсам: размер доступных вариантов составляет примерно от 135 до 739 ГБ, а для рекомендованной квантизации Q4_K_M требуется около 230 ГБ оперативной памяти. Возможны отдельные отказы, поскольку routed-эксперты не были полностью обработаны при abliteration; режим рассуждения генерирует теги <think>, которые при необходимости следует удалять постобработкой. Лицензия — Apache 2.0.

Locutusque/Hyperion-1.5-Mistral-7B — разговорная языковая модель, опубликованная M4-ai и дообученная на наборе Hyperion-v1.5 на основе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на контекст до 32 768 токенов; веса доступны в формате safetensors. Модель предназначена для диалоговых ответов на сложные вопросы, научных рассуждений, генерации и понимания кода, математических и логических задач, а также работы с медицинскими текстами. В README заявлена поддержка английского языка и применение в обучающих системах, профессиональных помощниках и технических чат-интерфейсах. Качество и согласованность ответов могут варьироваться из-за неоднородного форматирования и качества разметки обучающих данных. Медицинские и другие предметные ответы требуют проверки. Модель распространяется по лицензии Apache-2.0.

QwQ-32B-AWQ — 4-битная AWQ-квантизированная версия reasoning-модели семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста и решения сложных задач, где важны пошаговое рассуждение и повышенная точность, включая математические задачи, вопросы с вариантами ответа, диалоговые сценарии и другие задачи, требующие анализа. Она основана на Qwen2.5 и обучалась с использованием предварительного обучения, supervised fine-tuning и reinforcement learning. Это каузальная языковая модель с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещений в QKV-проекциях внимания. Модель содержит около 32,5 млрд параметров, из которых 31 млрд не относятся к эмбеддингам, 64 слоя и механизм GQA с 40 головами для Q и 8 для KV. Заявленная длина контекста составляет до 131 072 токенов, однако для входов длиннее 8192 токенов рекомендуется включать YaRN. В карточке указаны поддержка английского языка и текстовая модальность; модель доступна для запуска через совместимые инструменты экосистемы Hugging Face и рекомендуется к развёртыванию с vLLM. Сильными сторонами модели являются ориентация на рассуждение, конкурентоспособность с современными reasoning-моделями сопоставимого класса и сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможные повторы при жадной декодировке, необходимость подбора параметров sampling и потенциальное ухудшение производительности на коротких текстах при статическом YaRN. Модель распространяется по лицензии Apache-2.0.

Menlo/Jan-nano-128k-gguf — это квантованная GGUF-версия компактной языковой модели Jan-Nano-128k, разработанной Menlo Research; авторами указаны Alan Dao и Bach Vu Dinh. Модель предназначена для генерации текста и исследовательских сценариев, включая анализ научных статей и длинных документов, синтез информации из нескольких источников, работу с большими наборами данных и сложные многошаговые диалоги. Она также совместима с серверами Model Context Protocol (MCP) и поддерживает вызов инструментов при соответствующей настройке среды. Ключевая характеристика модели — нативное контекстное окно до 128 000 токенов, рассчитанное на сохранение производительности при работе с длинным контекстом. Указан английский язык; модель относится к нетерминологически «рассуждающим» моделям и не использует отдельный режим thinking. Архитектура, точный размер модели, тип и параметры квантования, а также перечень поддерживаемых модальностей в README не раскрыты, поэтому подтверждена только текстовая модальность. Сильными сторонами заявлены обработка больших документов, глубокий анализ и улучшение результатов на длинном контексте по сравнению с предыдущей версией Jan-Nano. Ограничения включают отсутствие подробных сведений об архитектуре, размере и конкретном варианте квантования, а также необходимость корректной настройки chat template и параметров масштабирования RoPE при некоторых способах развёртывания. Модель распространяется по лицензии Apache 2.0.

Nemotron-3.5-Lightning-30B-A3B-CRACK-GGUF — производная GGUF-версия модели NVIDIA Nemotron-3.5-Lightning-30B-A3B, подготовленная Dealign.ai для запуска через llama.cpp. Это языковая модель для генерации текста, рассуждений и исследовательских сценариев, включая авторизованное red-teaming. Поддерживаются английский и китайский языки. Модель использует гибридную архитектуру Mamba-2 SSM, Mixture-of-Experts и attention: 52 слоя, включая 23 слоя Mamba-2, 23 MoE-слоя и 6 attention-слоёв; всего 128 маршрутизируемых экспертов, около 3 млрд активных параметров. Заявлен контекст до 262K токенов, а режим рассуждений включён по умолчанию. Репозиторий содержит квантизации Q8_0, Q4_K_M и Q2_K размером около 35,0, 25,4 и 18,7 ГБ соответственно; Q4_K_M обозначена как сбалансированный рекомендуемый вариант. Во все варианты встроена native MTP-голова для спекулятивного декодирования без отдельной draft-модели. Abliteration CRACK удаляет поведение отказа при сохранении знаний, рассуждений и многоязычности, однако по тесту MMLU результат снизился с 78,3% у базовой модели до 74,2%, особенно в STEM и гуманитарных дисциплинах. По HarmBench модель продемонстрировала 100% выполнения вредоносных запросов без отказов, поэтому имеет существенно сниженные защитные ограничения и требует ответственного и законного применения. Лицензия — NVIDIA Open Model License; модель является производной квантизированной версией базовой модели NVIDIA.

Locutusque/NeuralHyperion-Medium-Preview — англоязычная плотная языковая модель семейства Mistral, выпущенная M4-ai. Это версия модели NeuralHyperion-Medium объёмом 7,1 млрд параметров на базе mistralai/Mistral-7B-v0.1, дообученная на наборе Hyperion и затем с помощью DPO на парах Argilla Orca. Она предназначена для генерации текста, ответов на сложные вопросы и диалогов, а также для рассуждений, генерации кода и работы с научными, медицинскими и математическими текстами. Контекст составляет 32 768 токенов; модель принимает текст и генерирует текст. Модель может быть полезна для учебных помощников по естественным и компьютерным наукам, технических диалоговых систем, анализа медицинских текстов и поддержки программирования. В README приведены результаты отдельных тестов рассуждения и здравого смысла, но полная оценка обозначена как ожидающая публикации. Среди указанных ограничений — возможная непоследовательность ответов из-за различий в форматировании данных и качестве их разметки. Лицензия — Apache-2.0.

unsloth/DeepSeek-R1-Distill-Qwen-32B-bnb-4bit — 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, опубликованная Unsloth на основе модели DeepSeek. Модель относится к семейству плотных языковых моделей, дистиллированных из DeepSeek-R1 и построенных на базе Qwen. Разработчики DeepSeek указывают, что эта версия предназначена для задач рассуждения и превосходит OpenAI o1-mini на ряде бенчмарков для плотных моделей. Модель ориентирована на решение сложных задач, включая математические рассуждения, программирование, пошаговый анализ и генерацию текста. В README заявлены способности, связанные с самопроверкой, рефлексией и построением длинных цепочек рассуждений. Указан размер 32B, библиотека Transformers и английский язык; сведения о поддерживаемых модальностях, размере контекста и точной архитектуре в предоставленных данных отсутствуют. Ключевое преимущество варианта — 4-битное представление, потенциально снижающее требования к памяти по сравнению с полноразмерными весами, однако README не содержит точных характеристик производительности или качества именно этой квантованной сборки. Возможными ограничениями являются зависимость результатов от качества квантования и отсутствие подтверждённых данных о контекстном окне и мультиязычности. Модель распространяется по лицензии Apache-2.0.

Muse Glimmer 30B GGUF — это квантизированная версия 30-миллиардной каузальной языковой модели Muse Glimmer, разработанной Meta Superintelligence Lab и дистиллированной из Muse Spark. Репозиторий содержит сборки в формате GGUF для локального запуска через llama.cpp на пользовательском оборудовании без облачной инфраструктуры и сетевого доступа. Релиз датирован августом 2026 года, лицензия — Apache 2.0. Модель предназначена для автономных агентных задач, многошагового рассуждения, надёжного использования инструментов, мультимодального понимания и восстановления после сбоев. Базовые GGUF-файлы работают с текстом, а для обработки изображений требуется отдельный perception encoder. Дополнительно доступен DFlash drafter для ускорения генерации с помощью speculative decoding. Указан контекст до 131072 токенов при запуске сервера, однако конкретная доступная длина зависит от конфигурации и ресурсов устройства. Доступны две текстовые квантизации: Q4_K_M размером около 16,8 ГБ, ориентированная на видеокарты с 24 ГБ памяти, и Dynamic Q4_K_XL размером около 19,7 ГБ для систем с 32 ГБ памяти. Вместе с энкодером изображений и drafter требуется примерно до 23 ГБ памяти. Сильными сторонами являются локальная работа, поддержка агентных сценариев, рассуждения и изображений; ограничениями — крупный размер, необходимость совместимой версии llama.cpp не ниже b10353 и отсутствие опубликованной bf16 GGUF-сборки в этом репозитории.

Rewnozom-GGUF — это конверсия модели Rewnozom/Rewnozom в формат GGUF, разработанная авторами Rewnozom на основе Qwen/Qwen2.5-7B-Instruct-1M. Модель предназначена для локального запуска через llama.cpp, Ollama, LM Studio, Jan и другие совместимые загрузчики. Указан английский язык, а исходная модель относится к семейству 7B instruct-моделей с контекстом до 1 млн токенов. Модель ориентирована на генерацию текста, рассуждения и задачи, связанные с логикой, декомпозицией запросов, планированием и исправлением планов, маршрутизацией инструментов, управлением состоянием и памятью, retrieval, разрешениями и многоагентной оркестрацией. В README также упоминается обучение на синтетических данных с детерминированными формальными мирами, проверками оракула и машинно проверяемыми ответами. Доступны варианты от F32, F16 и BF16 до низкобитных квантований, включая K-quants, legacy-quants, T-quants и гибридные профили. Сильными сторонами являются широкий выбор размеров файлов и компромиссов между качеством, скоростью и потреблением памяти, а также возможность локального использования. Качество и производительность зависят от выбранного квантования, длины контекста, аппаратного ускорения и характера задач; низкобитные варианты могут заметно менять поведение модели. Контроль разрешений, деструктивных действий и изменения состояния рекомендуется оставлять за детерминированной логикой приложения. Распространение заявлено по лицензии Apache 2.0.