I.13Симуляция, моделирование и открытие нового
В разделе собраны самостоятельные задачи, где AI помогает исследовать сложные системы, проверять сценарии и искать новые конструкции, закономерности или гипотезы. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
1 577 моделейunsloth/GLM-Z1-32B-0414-GGUF — GGUF-версия 32-миллиардной reasoning-модели GLM-Z1-32B-0414, разработанной командой THUDM на основе GLM-4-32B-0414 и подготовленной в формате GGUF проектом Unsloth. Модель предназначена для локального текстового диалога и генерации текста, особенно для задач, требующих глубокого рассуждения: математики, программирования, логики и решения сложных многоэтапных задач. Модель поддерживает китайский и английский языки и относится к задачам text-generation. Заявлены улучшенные математические способности и общее качество решения сложных задач по сравнению с базовой моделью. В README указано 32 миллиарда параметров; архитектура подробно не описана. Для работы с длинным контекстом предусмотрен YaRN: при длине входа свыше 8192 токенов рекомендуется включать масштабирование RoPE, исходный максимальный размер позиционных эмбеддингов составляет 32768 токенов. Модель подходит для локального развертывания через совместимые инструменты, включая llama.cpp; для корректной обработки системного промпта в llama.cpp рекомендуется параметр --jinja. Для генерации рекомендованы temperature 0.6, top_p 0.95, top_k 40 и max_new_tokens 30000. Ограничения включают значительные требования к вычислительным ресурсам из-за размера 32B и возможное небольшое ухудшение качества на коротких текстах при постоянном включении YaRN. Лицензия — MIT.
BigBang-Aquila-35B-Merged — мультимодальная модель на базе Qwen/Qwen3.6-35B-A3B, созданная объединением DARE-TIES двух специализированных моделей: BigBang-v1 для формальных рассуждений, математики, программирования и исследований, и XYZ-Aquila-mini для веб-поиска, сбора данных и вызова инструментов. Веса объединены с коэффициентами 0,55 и 0,45 соответственно; доступны файлы BF16 Safetensors и GGUF. Модель предназначена для диалогов с изображениями и агентных сценариев, сочетающих рассуждения, код, веб-поиск и инструменты. Карточка сообщает об успешном прохождении 3 из 3 сложных тестов по математике и коду, 1 из 3 по веб-сценариям и 2 из 3 в смешанных задачах; это небольшая оценка и она не гарантирует качество в других условиях. Для запуска требуются Transformers версии не ниже 5.12, а также flash-linear-attention и causal_conv1d. В чекпойнт не включена исходная MTP-голова. Лицензия — Apache-2.0.
TIGER-Lab разработала General-Reasoner-Qwen2.5-14B — дообученную причинно-следственную языковую модель семейства Qwen2.5 с 14 млрд параметров. Она предназначена для диалоговой генерации текста и решения задач, требующих рассуждений в разных областях: математике, программировании, физике, химии, финансах и гуманитарных дисциплинах. Модель обучена на наборе из более чем 230 тысяч проверяемых вопросов; подход General-Reasoner использует проверку ответов компактной генеративной моделью-верификатором и не включает отдельный этап RL-обучения. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык. Репозиторий использует формат safetensors и библиотеку Transformers; метаданные указывают интерфейс для диалога и вызова инструментов. Лицензия — Apache-2.0. Карточка сообщает о результатах на нескольких бенчмарках, но не приводит конкретных значений в предоставленном фрагменте; ответы модели могут требовать проверки.
Phi-4-reasoning-plus-GGUF — квантизированная в формате GGUF версия модели Phi-4-reasoning-plus, разработанной Microsoft. Квантизация выполнена bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалогов, программирования, математики и решения многошаговых задач, требующих логического рассуждения. Модель поддерживает контекст до 32 000 токенов и работает с текстом на английском языке. Она дообучена на базе Phi-4 и дополнительно обучалась с применением Reinforcement Learning для повышения точности. Ключевая особенность — ориентация на сложные математические и логические задачи; при этом модель в среднем генерирует примерно на 50% больше токенов, чем базовая версия. В README не указаны точный размер модели, архитектурные детали и наборы данных. Модель распространяется по лицензии MIT. GGUF и llama.cpp упрощают локальный запуск, однако конкретные требования к оборудованию зависят от выбранного уровня квантизации, который в предоставленных данных не указан. Как и другие языковые модели, она может генерировать неточные или неподходящие ответы.
DavidAU создал Qwen2.5-QwQ-35B-Eureka-Cubed — плотную языковую модель для генерации текста и диалогов с акцентом на рассуждения. Она объединяет QwQ-32B с компонентами DeepSeek-R1-Distill-Qwen-32B и TinyR1-32B-Preview методом автора «Cubed»: в README заявлены четыре дополнительных слоя и прирост примерно на 2 млрд параметров. Метаданные указывают архитектуру Qwen2 и 33,9 млрд параметров; модель рассчитана на контекст до 131 072 токенов и распространяется в формате safetensors для использования напрямую или конвертации в другие форматы. Модель предназначена для решения задач, требующих пошагового рассуждения, включая математику и программирование, а также для написания развернутых, творческих и научных текстов. README рекомендует шаблон ChatML без системного промпта и приводит настройки генерации; указанный там дополнительный промпт необязателен. Автор сообщает о более коротких цепочках рассуждений на некоторых задачах и улучшении детализации и креативности ответов, но не приводит независимых оценок. Лицензия в предоставленных данных не указана.
Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, опубликованная HauhauCS. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Профиль Aggressive ориентирован на прямые ответы с минимальным вступлением и без поведения отказа; заявленные возможности базовой модели сохраняются без изменений в обучающих данных и общем назначении. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder и поддержкой мультимодального ввода через отдельный BF16-проектор. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Указана поддержка английского, китайского и других языков. Выпуск представлен в форматах GGUF с различными уровнями квантизации, включая специализированные K_P-кванты. К сильным сторонам относятся длинный контекст, мультимодальность, сохранённые встроенные механизмы MTP/NextN и ускорение HauhauCS FastMTP 32K. Заявлено ускорение генерации до 3,02 раза для документов и до 1,93 раза для задач рассуждения по сравнению с вариантами без MTP, однако эти показатели зависят от сценария и конфигурации. Агрессивный профиль может быть менее подходящим для надёжно контролируемых агентских задач, где предпочтительнее сбалансированная версия. Для работы с изображениями и видео требуется отдельный vision-проектор. Модель распространяется по лицензии Apache-2.0.
GPT-5.6 Terra Pro — вариант GPT-5.6 Terra от OpenAI, работающий с параметром reasoning.mode, установленным в значение pro. Он предназначен для получения более качественных ответов на сложные задачи. В карточке модели не приведены сведения об архитектуре, размере, модальностях, языках или лицензии.
Mungert/Nex-N2-mini-GGUF — квантованный вариант модели Nex-N2-mini, разработанной командой Nex-AGI. Модель предназначена для агентских сценариев и постобучена на базе Qwen3.5-35B-A3B-Base. Она ориентирована на выполнение практических задач, требующих понимания требований, планирования, написания кода, работы с инструментами, терминалом, поиском и обратной связью от среды. Ключевая концепция модели — Agentic Thinking, объединяющая рассуждение, использование инструментов и итеративное выполнение задач в единый цикл. Подход включает Adaptive Thinking, позволяющий выбирать глубину рассуждений в зависимости от сложности задачи, и Coherent Thinking, обеспечивающий единый механизм рассуждений в общих и агентских сценариях. Заявлены возможности для агентского программирования, глубокого исследования, tool calling, терминального выполнения, разработки игр, веб- и мультимодальной генерации. Архитектура, точное количество активируемых параметров, размер контекста, поддерживаемые языки и фактические характеристики GGUF-квантизации в README не указаны. По приведённым оценкам Nex-N2-mini показывает результаты в задачах поиска, вызова инструментов, программной инженерии и общего рассуждения; среди указанных показателей — 74,4 на SWE-Bench Verified, 60,7 на Terminal-Bench 2.1 и 82,6 на GPQA Diamond. Сильными сторонами являются агентские рабочие процессы, кодирование и выполнение длинных задач, однако показатели ниже, чем у более крупной версии Nex-N2-Pro, а результаты зависят от сценария и внешней среды. Модель распространяется по лицензии Apache-2.0.
Qwen3.6-27B-DSV4Pro-Thinking-Distill-GGUF — набор GGUF-квантизаций модели, разработанный пользователем nerkyor на основе плотной Qwen3.6-27B от Qwen. Модель представляет собой дистилляцию рассуждений в стиле DeepSeek-V4-Pro ReAct с нативной головой MTP (multi-token prediction) и imatrix-коррекцией для большинства вариантов. Дистилляция направлена на улучшение сходимости рассуждений, при этом заявлено сохранение возможностей программирования и общих знаний. Модель предназначена для локального агентного рассуждения, программирования и работы в качестве независимого от облачных сервисов резервного решения, в частности внутри Lynn Agent. Доступны варианты размером от 15,3 до 54,7 GB: IQ4_XS рассчитан на запуск на видеокарте с 16 GB памяти без выгрузки на CPU, а Q5_K_M рекомендован для систем с 24 GB и более. Для ускорения генерации поддерживается нативный MTP; в приведённых измерениях Q4_K_M обеспечивал до 2,6 раза большую скорость в одном потоке, однако выигрыш снижается при высокой параллельности. Модель ориентирована как минимум на английский и китайский языки; для обработки изображений предусмотрен отдельный vision-проектор mmproj F16. В тестах дистиллированная версия показала более высокие результаты на задачах сложного рассуждения и не достигала ограничения длины ответа в случаях, где базовая модель могла не завершить решение. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, снижение эффективности MTP при многопоточности и необходимость подбирать параметры генерации для thinking-режима; в README рекомендуется temperature 0.6 и top_p 0.95. Лицензия — Apache-2.0.
Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизированная версия мультимодальной модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Профиль Aggressive ориентирован на прямые ответы с минимальным вступлением и без стандартного поведения отказа; при этом заявлено сохранение исходных текстовых, reasoning-, agentic-, image- и video-возможностей базовой модели. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder и поддержкой языков English, Chinese и других языков за счёт мультиязычной базы. Архитектура включает 64 слоя языковой модели, hidden size 5120, FFN size 17408, словарь размером 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживается нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. В поставку входят различные GGUF-квантизации, отдельный BF16 vision projector для изображений и видео, а также профиль HauhauCS FastMTP 32K для ускорения speculative decoding; заявлено ускорение до 3,02 раза для документов и до 1,93 раза для reasoning-сценариев по сравнению с режимом без MTP. Сильные стороны модели — широкий набор модальностей, длинный контекст, сохранённые возможности Qwen3.8, выбор квантизаций от Q2 до Q8 и оптимизированные K_P-кванты, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Агрессивный профиль может быть менее подходящим для надёжно контролируемых агентских и критически важных задач, где предпочтительнее более сбалансированная настройка. Для мультимодального ввода требуется отдельный vision projector, а запуск требует значительных ресурсов: размер текстовых файлов составляет примерно от 10,32 до 31,46 ГБ в зависимости от квантизации. Модель распространяется по лицензии Apache-2.0.
DeepSeek-R1-Distill-Llama-8B — плотная языковая модель семейства Llama, разработанная DeepSeek и дообученная на примерах рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста с акцентом на решение математических задач, программирование и многошаговые рассуждения; также поддерживает диалоговый режим. Модель содержит 7,5 млрд параметров и имеет контекст до 131 072 токенов. Модель основана на Llama-3.1-8B. В README указано, что конфигурации и токенизатор были слегка изменены, поэтому для ожидаемого качества рекомендуется использовать настройки из карточки модели. Метаданные указывают формат safetensors, библиотеку Transformers и лицензию MIT. Модель может генерировать длинные цепочки рассуждений; качество конкретных ответов зависит от задачи и настроек генерации.
Ring-flash-2.0 — разговорная языковая модель с архитектурой MoE, разработанная InclusionAI на основе Ling-flash-2.0-base. Она предназначена для сложных рассуждений, включая решение математических задач, генерацию кода и логический анализ, а также для научных и медицинских вопросов и творческого письма. Модель обучалась в несколько этапов с SFT, обучением с проверяемыми наградами и RLHF; README также описывает алгоритм icepop для повышения стабильности длительного обучения с подкреплением для MoE-моделей. В метаданных указано 5,5 млрд параметров, а README сообщает о 100 млрд параметров всего и 6,1 млрд активных при генерации. Архитектура включает разреженную активацию экспертов и слои MTP. Контекст — до 32 768 токенов. Модель принимает текст и генерирует текст; основное назначение — диалоговое текстовое взаимодействие. Заявленные авторами сильные стороны — эффективность инференса и результаты в задачах рассуждения; эти оценки основаны на описании модели и приведённых там сравнениях. Модель доступна по лицензии MIT. Для запуска README описывает использование Transformers и vLLM, причём для vLLM на момент карточки требовалась специальная подготовка окружения. Поддерживаемые естественные языки в предоставленных источниках не перечислены.
INTELLECT-3.1 — языковая модель Prime Intellect для генерации текста и рассуждений, продолженное обучение INTELLECT-3 с подкреплением на задачах математики, программирования, разработки программного обеспечения и работы с агентами. README описывает её как Mixture-of-Experts с 106 млрд параметров, из которых 12 млрд активируются; метаданные указывают 8,5 млрд параметров и архитектуру GLM-4 MoE на базе zai-org/GLM-4.5-Air-Base. Эти сведения о размере расходятся между источниками. Модель рассчитана на диалоговые сценарии, решение задач и агентные рабочие процессы. Указанная длина контекста — 131 072 токена. В карточке заявлена поддержка английского языка; метаданные отмечают возможность чата. README описывает запуск через vLLM на двух H200 и настройку интерфейса вызова инструментов, но это не подтверждает отдельный pipeline для вызова инструментов. Лицензия модели в метаданных — MIT.
TeichAI/Gemma-4-31B-Fable-5-Agent-Distill — дообученная на трассах Claude Code и пользовательских диалогах модель Gemma 4 на 31 млрд параметров. Она предназначена для работы в агентных оболочках, включая Claude Code и pi, и помогает генерировать и отлаживать код, планировать архитектуру программ, выполнять многошаговые исследования и решать аналитические задачи. Модель поддерживает диалоговый формат, интерфейс вызова инструментов и анализ изображений; в метаданных указан английский язык. Для запуска README рекомендует актуальную версию Transformers. Разработчик сообщает, что способность к рассуждению оставлена без изменений и что модель оптимизирована дистилляцией трасс Claude Code. Бенчмарки пока не опубликованы, поэтому заявленные возможности не сопровождаются количественной оценкой. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0.
Locutusque/Hyperion-3.0-Yi-34B — языковая модель Locutusque, дообученная на 150 000 примерах набора Hyperion-v3.0. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для диалогов, ответов на вопросы и генерации кода; в карточке также заявлены математические и логические рассуждения, а также понимание медицинских и научных текстов. Модель рассчитана прежде всего на англоязычные запросы и охватывает задачи программирования, медицины, математики и научных рассуждений. Её можно применять в учебных помощниках, технических чат-ботах и инструментах поддержки специалистов. Контекст составляет 4096 токенов; веса опубликованы в формате safetensors для Transformers. Автор README указывает лицензию Yi NC, тогда как метаданные Hugging Face содержат лицензию other; условия использования следует сверять с файлами лицензии в репозитории. Карточка предупреждает о возможной непоследовательности ответов из-за качества и разнообразия данных, а также о высокой склонности модели выполнять запросы; результаты оценки в README не приведены.
unsloth/Jan-nano-128k-GGUF — это GGUF-квантизированная версия компактной языковой модели Jan-Nano-128k, разработанной Menlo Research авторами Alan Dao, Bach Vu Dinh и Thinh Le и опубликованной в формате Unsloth Dynamic 2.0. Модель предназначена для генерации текста и исследовательских задач, включая анализ длинных документов, обработку научных статей, синтез информации из нескольких источников, сложные рассуждения и многошаговые диалоги. Она совместима с серверами Model Context Protocol (MCP) и может использоваться локально, в том числе через Jan, с сохранением конфиденциальности данных. Ключевая характеристика модели — нативное контекстное окно до 128 000 токенов, рассчитанное на эффективную работу с длинными контекстами без типичной деградации производительности при их расширении. В README не указаны точный размер модели, базовая архитектура, поддерживаемые языки, модальности и параметры GGUF-квантизации; заявлена поддержка текстовой генерации и языка English. Модель оценивалась на SimpleQA с использованием MCP-методологии, однако численные результаты в предоставленных данных отсутствуют. Сильными сторонами являются большое контекстное окно, ориентация на глубокий анализ и работа с большими объёмами информации, а также возможность локального развертывания. Ограничения включают отсутствие подробных сведений о размере, аппаратных требованиях, конкретных вариантах квантизации и фактических показателях качества. Модель распространяется по лицензии Apache 2.0.
GPT-6 Astra Pro — вариант GPT-6 Astra от OpenAI, работающий с параметром reasoning.mode, установленным в pro. Он предназначен для получения более качественных ответов на сложные задачи. README направляет к документации OpenAI за дополнительными сведениями; данных об архитектуре, размере, модальностях, языках, контексте и лицензии в доступной карточке нет.
MiMo-Ornith-9B-AGSI — объединённая языковая модель OliviaRossi, созданная слиянием XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B и ornith-ai/Ornith-1.5-9B. Она предназначена для генерации текста в диалоге, рассуждений, программирования и агентных сценариев с вызовом инструментов, включая работу с терминалом и CLI. В метаданных указана плотная архитектура семейства Qwen 3.5; репозиторий содержит веса Safetensors и рассчитан на Transformers. README описывает метод слияния AGSI, а также рекомендует запускать модель с контекстом до 131 072 токенов. Модель ориентирована на сочетание математических и программных рассуждений с выполнением агентных задач и самоотладкой. Карточка сообщает о шаблоне чата Qwen и форматировании, отделяющем внутренние рассуждения от итогового ответа. Поддерживаемые языки по данным карточки — английский и китайский. Лицензия — Apache-2.0. Практические результаты и рекомендуемые параметры запуска из README не являются независимой оценкой качества; заявленный длинный контекст зависит от используемого сервера и конфигурации.
Qwen2.5-Coder-14B-Instruct-AWQ — инструкция-настроенная языковая модель для генерации текста и программного кода, разработанная командой Qwen. Она предназначена для написания, анализа, объяснения и исправления кода, решения задач программирования, а также для использования в чат-ассистентах и агентных системах разработчика. Модель основана на Qwen2.5-Coder-14B-Instruct и распространяется как 4-битная AWQ-квантизированная версия. Модель является каузальной языковой моделью с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Она содержит около 14,7 млрд параметров, 48 слоёв и использует Grouped Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN. Модель обучалась на данных, включающих исходный код, текстово-кодовые связи и синтетические данные, с общим объёмом обучения 5,5 трлн токенов. В метаданных README указан английский язык. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения связаны с возможным ухудшением производительности на коротких текстах при статическом масштабировании YaRN и с тем, что для эффективной работы требуются совместимые версии Transformers и поддержка AWQ. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-27B-Opus-Distill-v2 — плотная мультимодальная модель семейства Qwen, созданная barozp дообучением Qwen/Qwen3.8-27B методом LoRA с последующим объединением адаптера с базовыми весами. Дообучение выполнено на 11 716 примерах с проверенными трассами рассуждений Claude Opus; по данным карточки, набор очищен от строк с проблемным шаблоном и непроверенных источников. Модель предназначена для диалогов, анализа изображений и решения многошаговых задач с рассуждением. В README приведены результаты тестирования на логических и научных заданиях, а также проверка исправления ошибки зацикливания при совместном задании ограничений формата. Возможности зрения и MTP унаследованы от базовой модели и в этом дообучении не менялись. Модель принимает текст и изображения и генерирует текст; контекстная длина и поддерживаемые естественные языки в предоставленных данных не описаны. Модель распространяется под лицензией Apache-2.0. Карточка сообщает об исправлении конкретного случая зацикливания, но это не гарантирует его отсутствия во всех сценариях; приведённые бенчмарки ограничены режимом 0-shot, loglikelihood и QUICK с лимитом 500 примеров.
Qwen3.8-Flash-Next-Uncensored-NVFP4 — квантизированная версия модели Qwen3.8-Flash-Next, разработанной Qwen и опубликованной OrcaRouter. Это мультимодальная Mixture-of-Experts-модель для работы с текстом и изображениями, рассуждений, вызова инструментов, функционального вызова, исследовательского red-teaming и анализа механизмов отказа моделей. Модель представляет preview-архитектуры Qwen4 и поддерживает английский и китайский языки. Архитектура включает 512 экспертов, из которых для каждого запроса активируются 10 маршрутизируемых и 1 общий эксперт, Gated DeltaNet linear attention, Qwen Sparse Attention, HyperConnections и PLE n-gram embeddings. Экспертные веса сжаты в NVFP4 с точностью 4 бита, attention и общие экспертные веса — в FP8, а отдельные компоненты, включая эмбеддинги, vision tower и нормализации, сохранены в bf16. Размер хранения сокращён примерно с 330 ГБ в bf16 до 178 ГБ; KV-кэш во время работы остаётся в bf16. Главное преимущество модели — значительное снижение требований к памяти при сохранении полноточных путей в важных компонентах, а также встроенная поддержка vision, reasoning и tool calling. Ограничения включают необходимость GPU с архитектурой Blackwell и FP4 tensor cores; Hopper и более старые GPU не поддерживаются. Для запуска нужны свежие версии vLLM с архитектурой qwen4_exp и compressed-tensors NVFP4, а мультимодальный режим зависит от поддержки vision-стека Qwen. Из модели удалена значительная часть safety alignment методом abliteration, поэтому она может выполнять вредоносные или незаконные запросы, от которых исходная модель отказалась бы. Модель предназначена только для легитимных исследований; перед практическим развёртыванием необходимы собственные фильтры безопасности и модерация. Лицензия — Apache 2.0, унаследованная от базовой модели.
mlx-community/QwQ-32B-Preview-bf16 — конвертированная в формат MLX версия QwQ-32B-Preview, подготовленная сообществом mlx-community из модели Qwen/QwQ-32B-Preview с помощью mlx-lm 0.20.1. Это плотная авторегрессионная модель семейства Qwen2 на 32 млрд параметров для генерации текста в диалоговом режиме; заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговых ответов, математических рассуждений и программирования. В карточке заявлен интерфейс для вызова инструментов; английский указан среди языков. Репозиторий распространяется по лицензии Apache-2.0. Это конверсия в MLX, поэтому для запуска требуется совместимая среда MLX.
SentinelLM — плотная авторегрессионная языковая модель семейства Sentinel, представленная в репозитории dusersad12. Карточка описывает обновлённую версию, обученную с дополнительными вычислительными ресурсами и алгоритмической оптимизацией на этапе постобучения. Модель предназначена для генерации текста и диалогов, включая сложные задачи рассуждения, математику, программирование и логику; также заявлена поддержка вызова функций. В README сообщается об улучшении результата на AIME 2024 с 64% до 83,3% и о снижении галлюцинаций относительно предыдущей версии. Для вопросов AIME указано среднее рассуждение объёмом около 19 тысяч токенов. Модель доступна в формате PyTorch для Transformers и распространяется по лицензии Apache-2.0. Длина контекста и поддерживаемые естественные языки в предоставленных данных не обозначены.
Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced-Ollama — это модифицированная и квантизированная версия Gemma 4 26B A4B, основанная на Google Gemma 4 26B A4B Instruct. Модель опубликована braydenh563, а вариант без ограничений разработан HauhauCS. Она предназначена для творческого письма, ролевых сценариев, эмоционально-интеллектуального общения, исследований, программирования и агентных задач с инструментами. Версия Balanced ориентирована на минимальное число отказов и обычно предоставляет полный ответ после краткой оговорки о безопасности, хотя в отдельных случаях может сначала уклониться от ответа. Модель использует архитектуру Mixture-of-Experts: около 25,2 млрд параметров всего и примерно 3,8 млрд активных параметров на проход, 128 маршрутизируемых экспертов, выбор 8 экспертов и одного общего эксперта. В ней 30 слоёв, гибридное внимание со скользящим окном на 1024 токена и периодическим глобальным вниманием, Proportional RoPE и нативный контекст до 256K токенов. Это нативно мультимодальная модель для текста и изображений; для обработки изображений поставляется отдельный mmproj, поддерживающий переменные бюджеты визуальных токенов от 70 до 1120 на изображение. В README заявлен английский язык. К сильным сторонам относятся высокая вычислительная эффективность MoE, большой контекст, мультимодальность, стабильность семплирования в длинных сессиях и специальные K_P-квантизации с оптимизацией по важности тензоров. Ограничения включают отсутствие приведённых независимых бенчмарков, зависимость качества и требований к памяти от выбранной квантизации, а также менее высокую пригодность для агентного программирования по сравнению с Qwen3.6, согласно автору README. Удаление отказов снижает встроенные защитные ограничения и требует самостоятельного контроля безопасного применения. Модель распространяется по лицензии Apache-2.0 в форматах GGUF; размеры доступных вариантов составляют примерно от 10 до 27 ГБ, а файл mmproj занимает около 1,2 ГБ.
GRaPE 2.5 Helios — мультимодальная инструктивная модель компании SL-AI, дообученная на базе Qwen/Qwen3.5-9B. Она принимает текст и изображения, а также, согласно карточке, видео, и генерирует текст. Модель предназначена для диалога, анализа изображений, рассуждений, творческих задач, программирования с использованием инструментов и задач STEAM. В модели предусмотрены настраиваемые режимы глубины рассуждений и усилий при работе с инструментами; заявлена поддержка нескольких языков. Архитектура — плотная Qwen3.5 для генерации текста с визуальным входом; в метаданных указано 9 млрд параметров, а в README размер округлён до 10 млрд. Модель распространяется по лицензии Apache 2.0. Карточка заявляет, что обучение ориентировано на качество данных, более естественный стиль ответов и улучшение обобщения и агентного программирования. Эти заявления не сопровождаются результатами независимых сравнительных тестов. Для видеовхода и работы с инструментами требуется совместимая обвязка; конкретный формат входного видео README не описывает.
K2-Horizon-MoVA-36B-A4B — разреженная языковая модель семейства K2-Horizon от IFM с архитектурой Mixture-of-Experts и механизмом внимания Mixture-of-Values (MoVA). В модели хранится 36 млрд параметров, при генерации активируется около 4 млрд на токен; метаданные каталога указывают 3,7 млрд параметров. Модель предназначена для диалоговой генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Модель поддерживает контекст до 524 288 токенов и рассчитана прежде всего на английский язык. Разработчик сообщает о сильных результатах на бенчмарках рассуждений и агентных задач при небольшом числе активных параметров; независимые оценки в предоставленной карточке не приведены. Опубликованы веса, данные и код обучения, а также промежуточные чекпойнты. Для запуска в карточке приведены рецепты vLLM и SGLang; версия Transformers также валидирована. Модель распространяется по лицензии Apache-2.0. Для рекомендуемого качества карточка советует высокий уровень reasoning effort и настройки temperature=1.0, top_p=0.95; доступная производительность зависит от выбранного чекпойнта и вычислительной инфраструктуры.
JANGQ-AI/Qwen3.5-397B-A17B-JANG_2L — вариант модели Qwen3.5-397B-A17B, подготовленный Jinho Jang и проектом JANG. Это большая мультимодальная модель класса MoE с гибридной архитектурой GatedDeltaNet и полного внимания; по карточке активны 17 млрд параметров из 397 млрд. Репозиторий содержит смешанно-точное квантованное представление JANG_2L для Apple Silicon: веса с разной чувствительностью хранятся с разной разрядностью, а вычисления выполняются в bfloat16. В метаданных библиотекой указана MLX. Модель предназначена для диалогов, рассуждений и анализа изображений и видео. Режим reasoning позволяет включать пошаговое рассуждение; карточка также сообщает о поддержке vision и интерфейсе вызова инструментов. По заявлению автора, модель занимает 187 ГБ и показывает 36 токенов в секунду на M4 Ultra с 256 ГБ объединённой памяти. Для запуска автор рекомендует MLX Studio или JANG с MLX; заявлена необходимость Apple Silicon с 256 ГБ памяти. Карточка приводит результаты MMLU, но это авторские замеры на ограниченной выборке и не гарантия качества в других задачах. Доступ к изображениям и видео заявлен в README, хотя pipeline_tag и каталог классифицируют модель как text-generation. Указанная лицензия — Apache-2.0.
Qwen3.5-9B Triple-Loop Phase 1 Step 2100 — экспериментальная дообученная языковая модель Lordnyx на основе Qwen/Qwen3.5-9B. Она предназначена для диалоговой генерации текста, рассуждений, решения математических задач, программирования и логических задач. Модель использует гибридную архитектуру Gated-DeltaNet и полного внимания; средние 16 слоёв трижды выполняются с общими весами, что даёт заявленную виртуальную глубину в 64 слоя при обычном объёме параметров. Обучение включало дистилляцию по логитам учителя Qwen/Qwen3.8-27B и глубокий надзор. В карточке заявлены контекст до 262 144 токенов и 7,2 млрд параметров по метаданным. Доступны веса Safetensors и GGUF, включая квантованный вариант Q5_K_M; указаны Apache-2.0. Автор сообщает о результатах на собственном наборе из 97 задач, включая 100% на математической подвыборке из 10 заданий, но эти результаты не гарантируют качество на других данных. Модель обозначена как экспериментальная ранняя фаза обучения; заявлена совместимость со стандартными средствами запуска Qwen3.5.
Qwen3.6-35B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx-4bit — это общественная 4-битная конверсия в формат MLX модели Qwen3.5 MoE с примерно 35 млрд параметров. Модель основана на архитектуре Qwen3_5MoeForConditionalGeneration, дообучена с использованием Unsloth для генерации кода и пошагового рассуждения и дистиллирована на трассировках рассуждений DeepSeek v4 Pro. Конверсию подготовил пользователь 10Hen10; базовые компоненты связаны с Qwen и Unsloth, а инференс рассчитан на фреймворк Apple MLX. Модель предназначена для генерации, дополнения и объяснения кода, задач по математике и логике, отладки, агентских сценариев с вызовом инструментов и локального конфиденциального запуска на macOS. Она поддерживает текст, изображения и видео, а также встроенный function/tool calling в шаблоне чата. Основной язык — английский; поддержка других языков не является целевой. Контекстное окно в README не указано. Используется разреженная Mixture-of-Experts-архитектура, поэтому на каждом токене активна только часть параметров. Веса имеют 4-битное affine-квантование с размером группы 64, а чувствительные router/gate-слои сохранены в 8-битном формате. Для Apple Silicon M1–M4 рекомендуется не менее 32 ГБ unified memory; сами веса занимают примерно 20–22 ГБ, ещё около 2–4 ГБ требуется для KV-кэша и служебных данных. К сильным сторонам относятся сочетание кодогенерации и рассуждений, мультимодальность, поддержка инструментов и возможность локального запуска на совместимых устройствах Apple. Ограничения включают отсутствие официальных результатов бенчмарков, возможное снижение качества из-за 4-битного квантования, галлюцинации и ошибки в коде, а также зависимость качества рассуждений от учительской модели и данных дистилляции. Модель распространяется по лицензии Apache-2.0.
Reka-Flash-3-21B-Reasoning-Uncensored-MAX-NEO-Imatrix-GGUF — текстовая reasoning-модель на базе RekaAI/reka-flash-3, опубликованная DavidAU. Она предназначена для локального текстового общения, решения задач и рассуждений, генерации и продолжения художественных текстов, ролевых сценариев, мозгового штурма и общего использования. Модель заявлена как uncensored и поддерживает function calling, однако подробности реализации этих возможностей в README не приведены. Модель имеет размер 21B параметров, работает в формате GGUF и рассчитана на контекст до 128k токенов. Доступен ряд квантованных вариантов от IQ1 до Q8; варианты с более высокой точностью обычно обеспечивают более качественные и быстрые рассуждения, но требуют больше памяти и вычислительных ресурсов. Варианты дополнительно обработаны с использованием NEO Imatrix и сохраняют BF16 для выходного тензора, что, согласно README, должно улучшать следование инструкциям, качество ответов и эффективность рассуждений. Для работы используются теги <reasoning> и </reasoning>, а системный промпт не является обязательным. Сильными сторонами заявлены стабильное рассуждение при разных значениях температуры, способность не зацикливаться и высокая эффективность оптимизированных квантов. При этом качество рассуждений напрямую зависит от выбранного уровня квантования: IQ1 ограничивает reasoning, а для сложных задач рекомендуются IQ3 и выше, особенно IQ4 или Q5–Q8. Низкие кванты требуют меньше ресурсов, но могут заметно уступать по качеству и скорости. Заявленный язык — английский. Модель распространяется по лицензии Apache-2.0.