II.9Статистика, эксперименты и причинный анализ

Ling-lite-1.5 — языковая модель с разреженной архитектурой MoE, разработанная InclusionAI для генерации текста и диалогового взаимодействия. Карточка относит её к семейству Ling и приводит для этой версии 16,8 млрд параметров, из которых активируется 2,75 млрд. В метаданных репозитория указано 794,8 млн параметров и контекст 32 768 токенов, тогда как README сообщает 128K контекста; поэтому характеристики размера и длины контекста в источниках расходятся. Модель предназначена для широкого круга задач с текстом, включая ответы на вопросы, решение задач и генерацию кода. В опубликованной таблице оценки приведены результаты на MMLU, GPQA и HumanEval; README также описывает тесты длинного контекста до 128K. Для запуска указана библиотека Transformers, веса представлены в формате safetensors. Лицензия — MIT.

Llama-3.1-Nemotron-lorablated-70B — диалоговая текстовая модель на архитектуре Llama, созданная автором репозитория слиянием NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF и mlabonne/Llama-3-70B-Instruct-abliterated-LORA с помощью mergekit и task arithmetic. Модель содержит 69,5 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы; поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и ответов на инструкции, включая запросы, на которые базовая модель могла отказываться отвечать. В метаданных также заявлен интерфейс вызова инструментов. Карточка приводит результаты оценивания на IFEval и BBH, но не описывает конкретный набор поддерживаемых языков. Модель распространяется по лицензии Llama 3.1; применимость её условий следует проверять для конкретного использования.

marin-8b-instruct-i1-GGUF — это GGUF-квантизированная версия языковой модели marin-8b-instruct, разработанной сообществом marin-community и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста и выполнения инструкций на английском языке. В основе лежит модель размером 8 миллиардов параметров; точные сведения об архитектуре и размере контекстного окна в README не указаны. Обучение или дообучение проводилось с использованием наборов данных для программирования, рассуждений, математики, естественных рассуждений и диалоговых взаимодействий, включая AceCode-87K, Bespoke-Stratos-17k, dolphin-r1, Natural Reasoning, OpenThoughts-114k-math и smoltalk. Основное преимущество — доступность множества вариантов GGUF-квантизации с разным соотношением размера, скорости и качества, что позволяет запускать модель на устройствах с ограниченными ресурсами. При этом низкобитные варианты могут заметно терять в качестве; в README отдельно отмечены ограничения некоторых конфигураций, а рекомендуемым назван вариант i1-Q4_K_M. Модель распространяется по лицензии Apache-2.0.

Карточка модели TracNetwork/mayhem-catalog-prism-ml-Ternary-Bonsai-27B-MLX-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

JetBrains/Mellum2-12B-A2.5B-Thinking-GGUF-Q4_K_M — это квантизированная GGUF-версия рассуждающей языковой модели Mellum2, разработанной JetBrains. Модель предназначена для генерации текста и решения задач, требующих пошагового рассуждения, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Заявленный контекст составляет 131 072 токена. Модель поддерживает английский язык и выводит цепочку рассуждений в блоках <think>...</think> перед финальным ответом. Вариант Q4_K_M использует 4-битное k-квантизирование, занимает около 8,1 ГБ и обеспечивает сбалансированное соотношение качества и размера: совпадение наиболее вероятного токена с BF16-версией составляет около 89,8% на указанном тесте. Основные преимущества — возможность локального запуска, большой контекст, MoE-архитектура и заметное уменьшение размера по сравнению с BF16-версией. Ограничения связаны с потерями точности из-за 4-битного квантизирования, необходимостью совместимого рантайма и тем, что README не содержит подробных результатов оценки исходной модели. Модель распространяется по лицензии Apache 2.0.

FriendliAI публикует FP8-квантизированную версию Meta Llama 3 70B Instruct — авторегрессионной плотной трансформерной модели для генерации текста. Модель содержит 69,5 млрд параметров, использует Grouped-Query Attention и рассчитана на контекст до 8192 токенов. Вариант Instruct настроен для диалогов и работы в формате ассистента; модель принимает текст и генерирует текст и код на английском языке. FP8 повышает эффективность инференса при сохранении высокой точности, однако для этого формата требуются GPU NVIDIA Ada, Hopper или Blackwell. Модель основана на Meta-Llama-3-70B-Instruct и предназначена для коммерческого и исследовательского применения. Репозиторий указывает лицензию other; в README описана пользовательская коммерческая лицензия Meta Llama 3, условия которой необходимо соблюдать.

Mistral-7B-Uncensored — разговорная текстовая модель на базе архитектуры Mistral 7B с примерно 7 миллиардами параметров. Согласно карточке, её разработчик и сопровождающий — luvGPT; модель создана посредством дообучения, ориентированного на выполнение инструкций. Указанный язык — английский, основная модальность — текст. Репозиторий содержит квантованную версию для локального запуска. Модель предназначена для диалоговых сценариев, следования инструкциям, творческого письма, открытого обсуждения, помощи с кодом и техническими объяснениями. Она ориентирована на локальное и автономное использование, включая приватные или изолированные среды, исследование prompt engineering и alignment, а также эксперименты с пользовательской настройкой поведения. Поддерживается формат диалога с ролями system, user и assistant; заявлена стабильная работа в продолжительных разговорах и выполнение многошаговых задач. К сильным сторонам относятся компактный для локального развертывания размер, пригодность для квантованных и CPU-ориентированных сред, гибкость и сниженный уровень автоматической фильтрации. Ограничение модели заключается в отсутствии встроенного защитного фильтра: ответственность за применение и управление рисками возлагается на оператора. Модель распространяется по лицензии Apache 2.0.

Nemotron 3 Nano 30B-A3B GGUF — квантованный вариант NVIDIA Nemotron 3 Nano 30B-A3B, подготовленный BatiAI для локального запуска на компьютерах Mac. Это гибридная языковая модель NemotronH с архитектурой Mamba и attention и смесью экспертов: в README указаны 30 млрд параметров, 128 экспертов и 8 активных на токен. Для выполнения используется llama.cpp; доступны варианты IQ3_XXS, IQ4_XS и Q5_K_M с разными требованиями к памяти. Модель предназначена для диалогов, рассуждений, программирования и агентных сценариев, включая работу с инструментами и структурированными ответами. README описывает её как рассчитанную на длинный контекст с линейным масштабированием гибридной архитектуры и приводит тесты на Mac с Apple Silicon. В метаданных указана поддержка английского, корейского, японского и китайского языков; сведения базовой модели каталога также упоминают шесть языков. Репозиторий содержит квантованные GGUF-веса, хотя метаданные форматов обозначают их как «GGUF BF16». Лицензия — NVIDIA Open Model License, названная в README коммерчески ориентированной; перед использованием следует проверить её условия для конкретного применения. Производительность и качество зависят от выбранной квантизации и доступной памяти.

OpenChat 3.5-1210 — диалоговая языковая модель, разработанная командой OpenChat и созданная дообучением Mistral-7B-v0.1 на смешанных данных разного качества. Модель с плотной архитектурой Mistral содержит 7,1 млрд параметров и поддерживает контекст до 8192 токенов; доступны веса в формате Safetensors. Она предназначена для генерации ответов в чате, написания и объяснения кода, решения математических задач и других общих текстовых запросов. В карточке также описаны экспериментальные сценарии оценки ответов и предоставления обратной связи. Модель поддерживает два режима диалога: общий режим для чата, программирования и широкого круга задач, а также режим, настроенный на математические рассуждения. Разработчик приводит результаты тестов по программированию, математике и общим знаниям, однако бенчмарки не гарантируют точность в практических задачах. Модель может ошибаться или выдавать убедительно звучащие неверные ответы; режимы и шаблон диалога следует применять согласно карточке. Лицензия — Apache-2.0. Для работы с моделью автор рекомендует OpenChat и сервер с API, совместимым с OpenAI ChatCompletion; в карточке заявлен запуск на потребительском GPU с 24 ГБ памяти. Языки обучения или поддержки явно не перечислены, поэтому языковые возможности сверх текстового диалога здесь не уточняются.

Pythia 6.9B Tulu — языковая модель Allen Institute for AI, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель GPT-NeoX с 8,8 млрд параметров в метаданных и контекстом до 2048 токенов. Модель предназначена для генерации ответов на инструкции, диалоговых запросов, рассуждений и кода. В карточке приведены результаты на наборах тестов для общих знаний, математики, вопросов и ответов и генерации кода; авторы отмечают, что результат зависит от соблюдения обучающего формата с переводом строки после маркера сообщения. Модель поддерживает английский язык. Она распространяется в формате PyTorch и является полным набором весов, а не diff. Условия использования определяются лицензией модели из LICENSE.txt и исходной лицензией Pythia из pythia_license.txt; их конкретные положения в предоставленных данных не приведены.

Open-Instruct ShareGPT 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на очищенном наборе ShareGPT. Она предназначена для генерации ответов на инструкции и диалоговые запросы; карточка также приводит результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель принимает текст и выдаёт текст, рассчитана на английский язык и поддерживает контекст до 2048 токенов. Это diff-модель: для использования нужны исходные веса LLaMA в формате Hugging Face, к которым применяются изменения модели. В README указаны лицензия AI model license и исходная лицензия LLaMA; перед использованием необходимо учитывать условия обеих лицензий. Качество генерации зависит от соблюдения описанного в карточке формата входного запроса.

Open-Instruct Stanford Alpaca 13B — языковая модель семейства LLaMA с плотной архитектурой, дообученная Allen Institute for AI на наборе инструкций Stanford Alpaca в рамках исследования по instruction tuning на открытых ресурсах. Модель предназначена для генерации ответов на инструкции и запросы на английском языке; для работы с ней следует использовать описанный в карточке формат входного запроса. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст. Её контекст составляет 2048 токенов. В карточке приведены результаты на наборах тестов по общим знаниям, математике, рассуждениям, вопросам и ответам, программированию и следованию инструкциям. Это diff весов, для использования которого требуется модель LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Это сборка Phi-3 Mini-128K-Instruct в формате GGUF F16, опубликованная ProfessorF (Nick V. Flor); исходную модель разработала Microsoft. Это компактная языковая модель с 3,8 млрд параметров, рассчитанная на генерацию текста и диалог по инструкциям. Файлы GGUF предназначены для локального запуска через llama.cpp и совместимые интерфейсы, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. Модель рассчитана прежде всего на английский язык. Она подходит для ответов на вопросы, генерации текста, программирования, математики и логических рассуждений; окно контекста исходной модели составляет до 128 тыс. токенов. README описывает обучение и настройку исходной модели с помощью supervised fine-tuning и direct preference optimization. Репозиторий предоставляет 16-битные GGUF-файлы; лицензия — MIT. Модель может ошибаться, а её пригодность для конкретного применения требует проверки, особенно в сценариях с высокими рисками. Заявления о сильных результатах на бенчмарках относятся к описанию исходной модели Microsoft и не являются независимой оценкой этой сборки.

kaitchup/Phi-3-mini-4k-instruct-gptq-4bit — это 4-битная GPTQ-квантизованная версия Phi-3 Mini-4K-Instruct, опубликованная пользователем kaitchup на Hugging Face и основанная на модели Microsoft. Она предназначена для генерации текста, диалогов и выполнения инструкций, включая задачи по работе с кодом, математикой, рассуждениями и общими знаниями, при локальном или серверном запуске с меньшими требованиями к памяти. Исходная Phi-3 Mini-4K-Instruct представляет собой плотную decoder-only Transformer-модель примерно на 3,8 млрд параметров, дообученную с применением supervised fine-tuning и Direct Preference Optimization. Модель работает с текстовыми входами и поддерживает контекст до 4K токенов; основной язык — английский, при этом в метаданных также указан французский. Вариант из указанного репозитория использует 4-битное GPTQ-представление, что уменьшает размер и требования к памяти, но может снижать точность и качество по сравнению с полной точностью. Сильные стороны — компактность, возможность запуска на более доступном оборудовании и хорошие для своего размера результаты в задачах следования инструкциям, рассуждений и программирования. Ограничения включают короткое окно контекста, преимущественно англоязычную ориентацию, возможные ошибки и галлюцинации, а также потери качества из-за квантизации. Для опубликованной версии в карточке модели условия лицензирования явно не указаны; исходная модель Microsoft распространяется по лицензии MIT.

unsloth/phi-4 — версия Phi-4 от Unsloth, созданная на основе microsoft/phi-4. Авторы сообщают о переносе модели на архитектуру Llama для упрощения использования и дообучения, а также о внесении исправлений Phi-4. Модель содержит 14,1 млрд параметров и принимает текст, преимущественно в формате чата; длина контекста — 16 384 токена. Модель предназначена для генерации текста и диалогов на английском языке, включая задачи рассуждения, логики, математики и программирования. Её можно использовать как основу для генеративных функций в сценариях с ограничениями по памяти, вычислительным ресурсам или задержке. По карточке базовая Phi-4 разработана Microsoft Research и обучена с использованием синтетических данных, отфильтрованных публичных веб-источников, академических книг и наборов вопросов и ответов; для улучшения следования инструкциям применялись supervised fine-tuning и direct preference optimization. Репозиторий использует формат safetensors и распространяется по лицензии MIT. Модель ориентирована прежде всего на английский язык; как и другие языковые модели, она может ошибаться, поэтому её ответы следует проверять, особенно при использовании в высокорисковых сценариях.

Qemma-Q1.7B — компактная текстовая языковая модель Convergent Intelligence LLC, представляющая собой слияние весов Gemma 3 (1B) и Qwen3-1.7B без адаптеров. В описании заявлена гибридная архитектура: основа и MLP Gemma 3 сочетаются с механизмом внимания и выходной частью Qwen; используется токенизатор Gemma 3. Модель доступна в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие. Модель предназначена для следования инструкциям, пошаговых рассуждений, помощи с кодом и анализа, а также для дальнейшего дообучения SFT или RLHF. Заявленная длина контекста — 262144 токена; README упоминает масштабирование RoPE на основе YaRN. В метаданных указан английский язык, а среди обучающих наборов — UltraChat 200k и MathInstruct. Модель может галлюцинировать; автор не рекомендует полагаться на неё при принятии критически важных медицинских, юридических или финансовых решений. Лицензия — OSL-3.0; следует учитывать лицензии исходных моделей и данных.

unsloth/Qwen2.5-1.5B-unsloth-bnb-4bit — 4-битно квантованная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B. Модель предназначена для генерации и продолжения текста, программирования, математических задач, обработки структурированных данных и последующего дообучения. Это текстовая, авторегрессионная causal language model без заявленной поддержки изображений или других модальностей. Ключевая особенность варианта — формат Unsloth Dynamic 4-bit Quant, который избирательно применяет квантование для снижения требований к памяти при сохранении качества по сравнению со стандартными 4-битными вариантами. Семейство Qwen2.5 поддерживает контекст до 128K токенов и генерацию до 8K токенов, а также более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Точные архитектурные параметры именно версии 1.5B в представленном README не указаны; приведённый там блок с характеристиками 0.5B относится к другой конфигурации. Модель выигрывает за счёт небольшого размера и сниженного потребления памяти, что делает её подходящей для локального запуска, экспериментов и эффективного fine-tuning. Как базовая, а не instruction-tuned модель, она не оптимизирована для диалогов без дополнительного дообучения и может требовать настройки шаблонов и параметров генерации. Лицензия — Apache-2.0.

Qwen3-1.5B-Instruct — компактная языковая модель на 1,5 млрд параметров, созданная сообществом с помощью mergekit. Это слияние методом TIES инструктивной модели Qwen2.5-1.5B-Instruct с Qwen2.5-Coder-1.5B-Instruct и Qwen2.5-Math-1.5B-Instruct. Модель использует архитектуру Qwen2 для генерации текста и диалогов; заявленный контекст — до 32 768 токенов. Модель подходит для ответов на вопросы, инструктивных диалогов, генерации кода и решения математических задач. Метаданные также отмечают интерфейс для вызова инструментов. Модель распространяется в формате Safetensors; README указывает, что при слиянии использовалась точность float16. Лицензия в предоставленных материалах не указана.

Qwen3.6-14B-A3B-FableVibes-GGUF — модель tvall43 на базе Qwen3.6-14B-A3B-FableVibes, представленная в формате GGUF для запуска на локальном оборудовании. Это обобщённая модель рассуждений, дообученная на трассах рассуждений Claude Fable 5 и дополненная данными Claude Opus, Qwen для tool calling и Evol-Instruct-Code. Модель предназначена для генерации текста, решения сложных задач с многошаговым рассуждением, программирования и сценариев, связанных с вызовом инструментов. Она использует архитектуру MoE с примерно 14B активных параметров после pruning исходной модели Qwen3.6-35B-A3B. Поддерживается мультимодальный режим через файлы mmproj, однако конкретные характеристики контекстного окна и полный перечень поддерживаемых языков не указаны. Модель ориентирована на англоязычные сценарии. К сильным сторонам относятся структурированное рассуждение, улучшенные способности к работе со сложными задачами и возможность запуска на потребительском оборудовании благодаря нескольким вариантам квантования: от F16 до Q2_K. Модель поддерживает llama.cpp и совместимые интерфейсы, включая LM Studio, Ollama и text-generation-webui. Ограничениями являются повышенная задержка до первого токена из-за режима thinking, значительный расход токенов на рассуждение и возможное снижение качества в сильно сжатых вариантах квантования. Распространяется по лицензии Apache-2.0.

Qwen3.6-27B-GPTQ-Pro-4bit — это 4-битная GPTQ-квантизация модели Qwen/Qwen3.6-27B, опубликованная пользователем groxaxo. Модель предназначена для эффективного запуска на GPU в локальных и размещённых средах, открытой оценки и воспроизводимых экспериментов. В метаданных указана задача image-text-to-text и поддержка английского языка. Модель содержит около 27 млрд параметров и использует формат GPTQ с оптимизацией под Marlin и сервер vLLM. Для сжатия применялись GPTQ-Pro, FOEM и настройки GPTAQ-style; заявленная цель — сохранить качество исходной модели при уменьшении потребления памяти. Репозиторий включает веса в формате safetensors, конфигурации, токенизатор, процессор и шаблон диалога. В документации приведена конфигурация с контекстом до 132144 токенов, однако практические ограничения зависят от оборудования, длины контекста, размера KV-кэша и числа параллельных запросов. Модель ориентирована на генерацию текста, задачи рассуждения и программирования, а также на сценарии инференса через vLLM или Transformers. В качестве проверенной конфигурации указаны две NVIDIA RTX 3090; для наиболее надёжного запуска рекомендуются float16 и gptq_marlin. К ограничениям относятся возможные изменения качества, памяти и скорости из-за квантизации, необходимость совместимого runtime и сохранения согласованности всех файлов одной версии. На протестированной конфигурации speculative decoding не дал прироста скорости, а запуск с контекстом 262144 токенов привёл к нехватке памяти. Лицензия — Apache 2.0.

Huntfat/Qwen3.8-27B-OBLITERATED-huntfat — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем Huntfat. Это модификация Qwen3.8-27B, созданная с применением метода abliteration: из весов удалялись направления, связанные с отказами и уклончивыми ответами. В README указано, что версия V3 дополнительно использует итеративное уточнение и целевую обработку корпуса данных. Модель предназначена для генерации текста, программного кода и ответов на запросы, включая сценарии, в которых исходная модель могла отказывать или заменять содержательный ответ предупреждениями. Заявлены совместимость с режимом рассуждений, применение в агентских и длинноконтекстных сценариях, а также варианты распространения в форматах GGUF, Safetensors и MLX. Точные размер контекста, перечень поддерживаемых языков и мультимодальные возможности в представленном README не указаны. По заявленным данным, V3 сохраняет большую часть возможностей исходной модели: результат MMLU составляет 82,3% против 84,5% у базовой версии, при этом автор сообщает о 20 успешных из 20 проверок задач генерации кода и о снижении склонности к отказам. Ограничениями являются умеренная потеря качества относительно базовой модели, возможные циклы при генерации без repetition_penalty и чувствительность к настройкам декодирования. Рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; для агентских сценариев допускаются temperature 0,1–0,3 и ограничение длины ответа. Модель распространяется по лицензии Apache-2.0.

AleaiactaEst1/Qwen3.8-27B-Unleashed-GGUF — это квантизированная GGUF-версия uncensored-модели Qwen3.8-27B, основанная на JonathanColetti/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, диалогов, написания кода и других задач, поддерживаемых text-generation-моделями. Указанные языки — английский и китайский. Модель имеет размер 27B параметров и поддерживает контекст до 262 144 токенов. Используется динамическая покомпонентная квантизация Unsloth Dynamic 3.0: чувствительные тензоры сохраняют больше точности, а менее чувствительные сжимаются сильнее. Доступны девять уровней квантизации, включая UD-IQ4_XS, UD-Q3_K_XL и UD-IQ3_XXS. Для UD-Q3_K_XL заявлены размер 13,2 ГБ, скорость 112,8 токена в секунду в специализированном тесте на RTX 4090 и успешное извлечение данных из контекста длиной 250 806 токенов. К сильным сторонам относятся uncensored-поведение, длинный контекст, хорошее соотношение качества и размера, а также преимущество динамической квантизации над протестированными равномерными вариантами. Ограничения включают зависимость скорости от длины генерации и оборудования: для коротких ответов на RTX 4090 измерялось около 24,9 токена в секунду, а приведённые показатели получены на одной конфигурации и не универсальны. Самые низкие уровни квантизации могут заметно снижать качество; в README уровень Q2 назван практическим нижним пределом. Модель распространяется по лицензии Apache 2.0. Карта квантизации заимствована из unsloth/Qwen3.8-27B-GGUF, а веса и матрица важности — из JonathanColetti/Qwen3.8-27B-Uncensored; автор README отдельно указывает, что рецепт разработан Unsloth.

nvythong/Qwen3.8-35B-A3B-Distill-mlx-fp16 — конвертированная в формат MLX модель Empero на базе Qwen3.8-35B-A3B-Distill. Репозиторий создан 29 сентября 2026 года; модель предназначена для диалоговой генерации текста. Базовая модель имеет MoE-архитектуру семейства Qwen3.5 и поддерживает чат, рассуждения, математику, программирование и вызов инструментов. В README указано преобразование с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors и лицензию Apache-2.0. Модель ориентирована на английский язык. Сведений о длине контекста и точном числе параметров этой версии нет.

Qwen3.8-Flash-Next-CRACK-JANG_6S — модель, опубликованная dealignai на основе JANGQ-AI/Qwen3.8-Flash-Next-JANG_6S, относящегося к экспериментальной линейке Alibaba Qwen. Это CRACK-abliterated-сборка, в которой удалено поведение отказа при сохранении рассуждений, инструментального взаимодействия и мультимодальных возможностей. Модель предназначена для исследовательских задач, агентных сценариев, работы с инструментами, рассуждений, а также анализа изображений и видео. Модель представляет собой квантованную версию примерно 176-миллиардной MoE-архитектуры с 512 экспертами и около 6 миллиардов активных параметров. В описании указаны гибрид Gated DeltaNet и Qwen Sparse Attention, хешированное n-граммное embedding, встроенная multi-token prediction head, поддержка режимов рассуждений off, low и xhigh, а также vision-language и video-возможности. Заявлены языки English и Chinese. Для запуска используется MLX на Apple Silicon; требуется около 106 ГБ дискового пространства и примерно 82 ГБ активной оперативной памяти, при этом около 24 ГБ таблицы embedding потоково считываются с SSD. К сильным сторонам относятся мультимодальность, поддержка агентных инструментов, рассуждений и эффективная MoE-архитектура с небольшим числом активных параметров. По приведённым тестам CRACK-версия получила 86,10% на MMLU, что на 1,62 процентного пункта ниже базовой модели, и не демонстрировала жёстких отказов в 960 проверках HarmBench. Это одновременно является ограничением и фактором риска: модель намеренно лишена части защитного поведения, поэтому требует осторожного применения и дополнительного контроля безопасности. В README также отмечен один некорректный длинный цикл генерации в режиме xhigh. Модель распространяется по лицензии qwen-community-1.0, обозначенной как other. Она представлена как исследовательский артефакт; ответственность за использование весов возлагается на пользователя. Для запуска рекомендуется окружение vMLX и платформа Apple Silicon.

Smaug-Llama-3-70B-Instruct — чат-модель Abacus.AI, полученная дообучением meta-llama/Meta-Llama-3-70B-Instruct по рецепту Smaug для повышения качества многошаговых диалогов. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации ответов и ведения диалога; она использует формат запросов Llama 3 Instruct и контекст до 8192 токенов. Модель рассчитана на многошаговые беседы и широкий круг текстовых запросов. В карточке приведены результаты MT-Bench и Arena-Hard, где авторы сообщают о высоком качестве ответов; также указаны результаты нескольких тестов знаний и рассуждений. Это заявления из карточки, а не гарантия результатов в конкретных задачах. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

Tencent разработала Hunyuan-Large — текстовую языковую модель на архитектуре Transformer с разреженной структурой Mixture of Experts. Она содержит 389 млрд параметров, из которых при обработке активны 52 млрд. Предварительно обученная версия поддерживает контекст до 256 тысяч токенов, а версия Instruct — до 128 тысяч токенов. Модель предназначена для генерации текста, ответов на вопросы, чтения и понимания длинных документов, рассуждений и решения математических задач. В карточке описаны оценки на англоязычных и китайских тестах, включая MMLU, CMMLU и C-Eval; метаданные также отмечают английский язык. Для развёртывания README указывает vLLM и TRT-LLM. Репозиторий распространяется по лицензии с обозначением other, поэтому конкретные условия следует уточнять в лицензии проекта.

Карточка модели t-kawata/Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

UNA-34Beagles-32K-bf16-v1 — экспериментальная диалоговая модель, опубликованная one-man-army и построенная на Yi-34B-200K с использованием Bagel. Это плотная 34-миллиардная языковая модель архитектуры Llama, распространяемая в формате Safetensors; заявленная длина контекста — 32 768 токенов. Модель дообучена на широком наборе данных для инструкций, диалогов, рассуждений, программирования, математики и ролевых сценариев, а также прошла DPO-обучение. Модель предназначена для генерации текста и ответов в диалоге: она может помогать с вопросами и ответами, анализом предоставленного контекста, написанием кода, математическими задачами и творческими или ролевыми текстами. В README указаны четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML-подобный формат. Данные описывают многоязычные задачи, но конкретный перечень поддерживаемых языков не приведён. Автор сообщает, что включение Toxic DPO должно снизить цензурирование ответов. Это может повышать вероятность генерации токсичного или небезопасного текста; качество и надёжность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0.

Это GGUF-сборка Qwen3.8 27B, подготовленная zhangrover для локального запуска на компьютерах с ограниченной видеопамятью. В основе лежит unsloth/Qwen3.8-27B-GGUF; веса подвергнуты смешанной квантизации KQV-Q4 + IQ3 Floor, а полный MTP-блок из 15 тензоров сохранён в файле размером около 10,13 ГиБ. Модель предназначена для диалогов и генерации текста, включая рассуждения и программирование. По заявлению автора, на видеокарте с 16 ГБ памяти при кэше KV Q4 помещается контекст свыше 130 тысяч токенов. В полной точности ключевые K/Q/V-блоки оставлены на уровне Q4_K, нормализации — F32, а значительная часть FFN-контуров снижена до IQ3_XXS; MTP позволяет использовать спекулятивное декодирование в llama.cpp. Сборка рассчитана на запуск через llama.cpp; производительность и качество зависят от оборудования, настроек квантизации и совместимости используемой версии. Автор указывает, что модель предоставляется без гарантий. Лицензия — Apache-2.0.

Zrald-AI Qwen 3.8 27B zraldv1-cs — GGUF-версия модели Qwen3.8-27B, опубликованная Zrald и оптимизированная для компактного размера. Это чат-модель для генерации текста, диалогов, программирования и рассуждений. В репозитории указан файл размером 10,18 GiB; README приводит результаты замеров на AMD Instinct MI300X, включая сохранение 90,72% точности и скорость генерации 76,33 токена в секунду. Для запуска рекомендуется не менее 12 ГБ VRAM. Модель основана на Qwen/Qwen3.8-27B и заявлена как дообученная; доступна в формате GGUF для использования с llama.cpp. Базовая модель описана как мультимодальная, но сведения о поддержке изображений или видео именно этой сборкой не приведены. Лицензия — Apache-2.0.