I.11Классификация, ранжирование и сопоставление

GLM-4-32B-0414 — плотная авторегрессионная языковая модель семейства GLM-4 от Z.ai с 31,6 млрд параметров. Она предназначена для диалогов и генерации текста; карточка отмечает интерфейс вызова инструментов. Модель обучалась на больших объёмах данных, а этап постобучения включал выравнивание по предпочтениям людей и улучшение следования инструкциям, написания кода и вызова функций. Модель подходит для генерации и объяснения кода, ответов на вопросы с опорой на поиск, подготовки отчётов и выполнения агентных задач с инструментами. В README указана поддержка удобного локального развертывания. Контекст составляет 32 768 токенов; заявлены китайский и английский языки. Репозиторий содержит веса Safetensors и распространяется по лицензии MIT. README содержит посторонний фрагмент о детской литературе и не предоставляет технических сведений о производительности модели, поэтому её заявленные сильные стороны следует считать описанием разработчика, а не независимой оценкой. Также в карточке приведены материалы о других моделях серии GLM, которые не следует приписывать этой модели.

Это конверсия модели IBM Granite 3.3 8B Instruct в формат MLX, подготовленная сообществом mlx-community. Модель с плотной архитектурой GraniteForCausalLM содержит 8,2 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы; поддерживает диалог и интерфейс вызова инструментов. Размер контекста — до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; её можно применять для ответов на вопросы, анализа длинных текстов, программирования и многоязычных задач. Репозиторий распространяется по лицензии Apache-2.0. Это конверсия исходной модели ibm-granite/granite-3.3-8b-instruct для MLX, поэтому для использования в этой экосистеме потребуется совместимая среда MLX.

Карточка модели genevaquant/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

Карточка модели RedHatAI/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

JANGQ-AI/Mistral-Small-4-119B-A6B-JANG_4M — квантованная сборка модели Mistral Small 4 от Jinho Jang и проекта JANGQ-AI, предназначенная для запуска на компьютерах Apple Silicon через MLX. Она основана на mistralai/Mistral-Small-4-119B-2603 и использует формат MLX safetensors с квантованием JANG 4.08 бит и вычислениями bfloat16. Модель содержит 119 млрд параметров, из которых активны около 6 млрд на токен. Архитектура включает 36 MoE-слоёв с 128 экспертами и выбором четырёх экспертов, MLA-внимание и визуальный энкодер Pixtral. Модель поддерживает диалог, рассуждения, генерацию кода и анализ изображений; README указывает максимальное разрешение изображений 1540 пикселей. В карточке перечислены английский, французский, немецкий, испанский, японский, корейский и китайский языки. Сборка рассчитана на запуск в MLX Studio; README также указывает поддержку oMLX. Для указанной конфигурации требуется около 68 ГБ оперативной памяти, а тест скорости приведён для M3 Ultra. Владелец публикует код квантования с открытым исходным кодом; модель распространяется по лицензии Apache-2.0. Приведённые скорости относятся к конкретному стенду и не гарантируют такие же результаты на других устройствах.

Natsumura Assistant 1.0 — разговорная модель общего назначения из серии Natsumura, разработанная Tohur. Это плотная авторегрессионная модель семейства Llama 3.1 с 7,5 млрд параметров и контекстом до 131 072 токенов; она предназначена для диалогов и помощи с широким кругом текстовых задач. Модель дообучена на основе meta-llama/Meta-Llama-3.1-8B-Instruct с использованием наборов Natsumura Identity, Dolphin, Dolphin Coder, OpenHermes 2.5 Uncensored и UltraChat Uncensored. Карточка характеризует её как uncensored и отмечает высокую готовность следовать запросам. Модель принимает текст и генерирует текст; заявлена лицензия Llama 3.1 Community License.

NULLXES SHINRA-4B-INSTRUCT — плотная decoder-only Transformer-модель семейства SHINRA, разработанная NULLXES. Это instruction-tuned чекпойнт примерно на 3,9 млрд параметров с архитектурой ShinraForCausalLM, группированным вниманием GQA, RoPE и контекстом 32 768 токенов. Модель предназначена для диалогов и следования инструкциям, генерации кода, многоязычных ответов, подготовки структурированных JSON-выводов и черновиков вызовов инструментов. Обучение включает предварительное обучение, SFT и DPO. В данных заявлены тексты и код, математика и научные материалы, а также диалоги и примеры работы с инструментами. Карточка указывает английский, русский, немецкий, французский, испанский, китайский, японский, корейский и арабский языки; доля английского при предварительном обучении преобладала. Модель рассчитана на исследовательское применение и интеграцию в продукты NULLXES. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты. По заявлению разработчика, модель уступает крупным моделям в многошаговых рассуждениях и на редких языках; фильтры безопасности эвристические, поэтому возможны вредоносные ответы. Работа с контекстом длиннее 8192 токенов использует экстраполяцию RoPE и требует отдельной проверки качества. Пользовательская архитектура при загрузке через Hugging Face требует trust_remote_code=True.

Карточка модели Juanpa2414/Qwen3-235B-A22B-Thinking-2507 на Hugging Face совпадает с карточкой Qwen/Qwen3-235B-A22B-Thinking-2507, поэтому описание составлено по ней. Qwen3-235B-A22B-Thinking-2507 — большая языковая модель семейства Qwen3 от команды Qwen, построенная на архитектуре причинной MoE-модели. В ней 235 млрд параметров всего, из которых активируются 22 млрд; модель имеет 94 слоя и использует 8 из 128 экспертов на шаг. Она работает только в режиме рассуждения и рассчитана на генерацию текста и диалоговое взаимодействие, включая использование инструментов. Модель предназначена для сложных задач логического рассуждения, математики, науки, программирования, следования инструкциям и работы с длинными текстовыми контекстами. Нативная длина контекста составляет 262 144 токена. По сравнению с предыдущей версией Qwen3-235B-A22B-Thinking в карточке заявлены улучшения качества рассуждений и общих возможностей; независимые результаты в предоставленных данных не подтверждены. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache-2.0. Режим рассуждения увеличивает длину ответов и может быть избыточен для простых запросов; предоставленные данные не описывают конкретные ограничения качества или перечень поддерживаемых языков.

Richard Young выпустил эту версию Qwen3.6-27B, обработанную методом abliteration с помощью Heretic v1.4.0, чтобы снизить частоту отказов. Это плотная модель Qwen с 27 млрд параметров, причинной языковой моделью и визуальным энкодером; карточка описывает её как мультимодальную разговорную модель с поддержкой зрения. Веса опубликованы в формате Safetensors и совместимы с Transformers и указанными в README движками инференса. Модель предназначена для диалога, анализа изображений, программирования и агентных сценариев с использованием инструментов. Она поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. В сравнении с исходной Qwen3.6-27B в README указаны 38 отказов из 100 против 91 из 100 и KL-дивергенция 0,0254. Это может означать более редкие отказы, но не гарантирует точность или безопасность ответов. Лицензия — Apache-2.0.

Qwen3.8-27B-Q4_0_ROCMFP4_STRIX_LEAN — квантизированная версия базовой модели Qwen/Qwen3.8-27B, подготовленная pugant в формате GGUF для llama.cpp. Это плотная гибридная модель с 48 слоями gated-delta-net и 16 слоями полного внимания, нативным контекстом до 262 тысяч токенов и поддержкой MTP для спекулятивного декодирования. В метаданных указаны английский и мультиязычный режимы, а основное назначение — генерация текста, включая программный код, структурированные ответы и задачи RAG. Модель использует квантизацию Q4_0_ROCMFP4_STRIX_LEAN с эффективной точностью около 4,34 BPW и размером примерно 13,82 ГиБ. Она оптимизирована для AMD Strix Halo с графикой RDNA 3.5 и ROCmFPX, поддерживает ROCm и Vulkan-бэкенды, а встроенный MTP-слой может заметно ускорять декодирование на предсказуемом и структурированном контенте. Наиболее высокое ускорение ожидается при генерации кода, детерминированных и структурированных данных; для обычной прозы эффект ограничен. Главное ограничение — модель несовместима со стандартной сборкой llama.cpp и требует форка ROCmFPX с пользовательскими типами тензоров. Она протестирована на Radeon 8060S в составе AMD Ryzen AI Max+ 395, поэтому работоспособность и производительность на другом оборудовании не гарантируются. Лицензия — Apache-2.0.

airoboros-33b-3.1.2 — экспериментальная разговорная модель jondurbin на архитектуре Llama, дообученная на наборе airoboros-3.1, в основном состоящем из синтетических данных. Она предназначена для следования инструкциям и многошаговым запросам, ответов на вопросы по предоставленному контексту, суммаризации, извлечения сведений из журналов и генерации кода. Модель использует шаблон диалога Llama 2 и поддерживает контекст до 2048 токенов по метаданным; в README автор указывает, что при дообучении применял rope scaling для увеличения контекста до 4096 токенов. В репозитории указаны 32,3 млрд параметров и формат safetensors. Среди заявленных сценариев также генерация аргументов для вызова функций и построение текстовых планов выполнения. Это только генерация текста: для реального вызова инструментов требуется внешняя система, которая разбирает и исполняет такой план. Модель ориентирована на инструкции, а не на непринуждённый чат или ролевую игру; автор рекомендует низкую температуру генерации. Базовая модель — llama-30b-hf. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Карточка модели jondurbin/airoboros-c34b-3.1.2 на Hugging Face совпадает с карточкой jondurbin/airoboros-l2-70b-3.1.2, поэтому описание составлено по ней. airoboros-l2-70b-3.1.2 — экспериментальная инструктивная языковая модель от jondurbin, созданная на базе Llama 2 и дообученная на наборе airoboros-3.1, преимущественно на синтетических данных. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст. Для диалогов используется шаблон Llama 2 Chat. Модель предназначена для следования инструкциям и решает широкий круг задач: ответы на вопросы по предоставленному контексту, суммаризация, математические решения в формате MathJSON, извлечение данных из логов, анонимизация, программирование и генерация аргументов для вызова функций. Она также обучалась на многошаговых инструкциях и диалогах с учётом системного промпта и истории беседы. Для MathJSON автор рекомендует низкую температуру генерации; исполнение планов или вызовов функций требует внешнего кода. Модель распространяется по лицензии Llama 2. Карточка называет её экспериментальной и отмечает, что часть данных по снятию ограничений не опубликована.

airoboros-l2-c70b-3.1.2 — экспериментальная диалоговая модель jondurbin на архитектуре Llama 2, дообученная на Llama 2 70B Chat с использованием преимущественно синтетических данных набора airoboros-3.1. Модель содержит 68,7 млрд параметров, работает с текстом и рассчитана на контекст до 4096 токенов; для диалога использует шаблон Llama 2 Chat. Модель предназначена для выполнения инструкций и широкого круга текстовых задач: ответов по предоставленному контексту, суммаризации, извлечения информации из логов, обезличивания текста, программирования и генерации структурированных аргументов для функций. В README отмечено, что акцент сделан на следовании инструкциям, а не на непринуждённом общении и ролевой игре. Для MathJSON автор рекомендует низкую температуру генерации. Автор характеризует модель как экспериментальную и сообщает о тестовом дообучении поверх чат-версии Llama 2. Возможны ошибки и выдуманные ответы; для вопросов по контексту рекомендуется явно просить не придумывать ответ при нехватке сведений. Модель распространяется под лицензией Llama 2.

Vontra/DeepSeek-V4-Flash-0731-MXFP4-MLX — это MLX-конверсия модели DeepSeek-V4-Flash-0731 от DeepSeek, распространяемая Vontra. Модель предназначена для генерации текста и запуска локальных LLM-приложений на устройствах Apple с MLX, включая диалоги, программирование и работу с длинным контекстом. Исходная модель имеет 305 млрд параметров, из которых около 13 млрд активируются для одного токена, и использует архитектуру Mixture-of-Experts. В данной версии эксперты представлены в формате MXFP4, attention — в MXFP8, а выходная голова сохраняется в формате bfloat16. Поддерживается текстовая модальность; сведения о полном наборе языков и максимальной длине контекста в README не указаны, однако приведены измерения на контексте 23 тысячи токенов. Конверсия заявлена как побитово идентичная исходному checkpoint: значения весов после деквантизации совпадают с оригиналом, а размер составляет около 167,1 ГБ. Модель сохраняет DSpark MTP-головы, что позволяет использовать нативное speculative decoding в oMLX 0.5.4rc2 и повысить скорость генерации примерно до 41,7 токена в секунду на Mac Studio с M3 Ultra против 26,1 токена в секунду без спекуляции. Для работы требуется значительный объём памяти и совместимое окружение MLX/oMLX; заявленные показатели зависят от оборудования, настроек и кэширования промптов. Лицензия — MIT.

Карточка модели belltechsoft/gemma-4-12B-it-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-assistant, поэтому описание составлено по ней. Gemma 4 12B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, предназначенная для диалогов и генерации текста. Эта карточка описывает вариант Multi-Token Prediction (MTP): компактная черновая модель для speculative decoding, которая предлагает несколько токенов заранее, а целевая модель проверяет их параллельно. Такой режим может ускорять декодирование до 3 раз без изменения качества относительно обычной генерации. Модель семейства Gemma 4 использует плотную архитектуру и поддерживает ввод текста, изображений и аудио; на выходе генерирует текст. Она предназначена для рассуждений, программирования, распознавания и понимания речи, работы с изображениями и агентных сценариев с вызовом инструментов. Семейство поддерживает длинный контекст до 256 тысяч токенов и многоязычную работу; в карточке указана поддержка более 140 языков при обучении. MTP-вариант рассчитан на использование в speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена обычному checkpoint для всех сценариев. Лицензия — Apache 2.0.

GLM-4-32B-0414-uncensored-heretic-v2-GGUF — набор GGUF-квантизаций 32-миллиардной языковой модели GLM-4-32B-0414. Модель разработана на основе zai-org/GLM-4-32B-0414 независимым автором llmfan46 с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA). Это декензурированная версия модели, ориентированная на генерацию текста на английском и китайском языках. Модель предназначена для диалогов, следования инструкциям, генерации инженерного кода, создания артефактов, function calling, поисковых вопросов и ответов, а также подготовки отчётов. Заявлены 32 млрд параметров и предварительное обучение исходной модели на 15 трлн единиц высококачественных данных, включая синтетические данные для рассуждений. README не содержит сведений о размере контекстного окна и мультимодальных возможностях; указанный pipeline относится к генерации текста. Ключевая особенность — существенно меньше отказов в сравнении с исходной моделью: 7 из 100 против 100 из 100 в приведённом тесте, при заявленном KL divergence 0,0555. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; Q8_0 описан как близкий к исходному качеству, а Q4_K_M — как подходящий для систем с ограниченной VRAM. Квантизации совместимы с llama.cpp, LM Studio, Ollama и другими инструментами для GGUF. Снижение ограничений может сопровождаться меньшей безопасностью и не гарантирует сохранение всех характеристик исходной модели. Лицензия — MIT.

MiniMax-M3 — мультимодальная модель семейства MiniMax M3, разработанная MiniMax. Она предназначена для диалогов с текстом и изображениями, анализа видео, программирования и выполнения длительных агентных задач. Модель имеет около 428 млрд параметров, из которых активируется около 23 млрд; заявлена поддержка контекста до 1 млн токенов. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA), призванное снизить вычислительные затраты и расход памяти при обработке длинного контекста. Модель обучалась одновременно на разных модальностях и рассчитана на семантическую работу с текстом, изображениями и видео. В карточке заявлены высокие результаты на длительных агентных сценариях, включая программирование и совместную работу; количественные показатели бенчмарков не приведены. Для использования указаны MiniMax Agent и MiniMax API, а также локальное развёртывание через Transformers и веса safetensors. Лицензия обозначена как other, поэтому перед применением следует проверить её условия в репозитории модели.

OpenModel-1T-A50B-Instruct — разговорная языковая модель NeXTHub на архитектуре Transformer с разреженной смесью экспертов (MoE). В карточке заявлены 1 трлн общих параметров и 50 млрд активных параметров на проход, однако метаданные Hugging Face указывают 49,6 млрд параметров; для размера ориентиром служат метаданные. Репозиторий содержит веса в формате safetensors, а метаданные указывают контекст 32 768 токенов; заявленные в README 128K токенов расходятся с этим значением. Модель предназначена для диалогов и инструкций, рассуждений, математических задач, генерации и отладки кода, научной работы, анализа данных и использования интерфейса вызова инструментов. README описывает обучение с упором на длинные рассуждения и инструкционную настройку; заявленные в карточке качества и результаты тестов не подтверждены приведёнными метаданными. Языки модели не указаны в доступных данных. Лицензия — Apache-2.0. Ограничения, прямо следующие из источников: сведения о размере и длине контекста в README расходятся с метаданными, а независимая проверка заявленных характеристик и результатов оценки не представлена.

Qwen3.6-27B-uncensored-heretic-v1 — мультимодальная модель на 27 млрд параметров, созданная независимым автором llmfan46 на основе Qwen/Qwen3.6-27B. Автор применил abliteration: изменил компоненты проекций внимания в слоях 24–57, чтобы снизить частоту отказов. По приведённому в карточке тесту модель отказала в 10 случаях из 100 против 92 у исходной модели; KL-дивергенция относительно оригинала составила 0,0286. Модель принимает текст и изображения и предназначена для диалога, анализа изображений, агентных сценариев и задач программирования, включая работу с репозиториями и инструментами. Архитектура — плотная Qwen3.5 с визуальным энкодером; заявленная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Карточка содержит результаты отдельных тестов, но они не гарантируют качество на других задачах. Основа доступна по лицензии Apache 2.0; условия карточки производной модели также указывают Apache 2.0.

Qwen3.8-Flash-Next-oQ4e-100K-MTP — это нативно квантованная версия Qwen3.8-Flash-Next, разработанная jedisct1 для среды oMLX и OpenAI-совместимого API на базе MLX. Модель предназначена для coding agents, других агентных сценариев, работы с текстом и изображениями, а также tool calling через совместимые клиенты. Она сохраняет vision tower Qwen4, MTP-голову и нативную архитектурную настройку контекста 262 144 токена, однако для конфигурации с 128 ГиБ памяти рекомендован безопасный общий лимит контекста 100 000 токенов. Основной формат весов — аффинное квантование oQ4e с размером группы 64; крупная PLE-таблица использует 4-битное квантование с размером группы 32. Часть компонентов оставлена в BF16 для сохранения качества вывода и эффективности MTP, а отдельные маршрутизируемые проекции — в Q8. Размер весов составляет примерно 108,8 млрд байт в 22 файлах safetensors. Модель поддерживает визуальный ввод, а README подтверждает успешное распознавание изображений и проверку вызова инструментов, но точный набор поддерживаемых языков не указан. Сильными сторонами являются очень длинный контекст, поддержка изображений и инструментов, совместимость с OpenAI API, prompt caching через SSD и оптимизация для локального запуска на Mac с 128 ГиБ памяти. Ограничения — необходимость oMLX, SSD-offload для полного контекста, значительные требования к памяти и рекомендация отключать MTP для coding agents: при включении MTP в тестах один из десяти защитных сценариев tool calling не был пройден. Модель распространяется по лицензии qwen-community-1.0; это лицензия с обозначением other, а её полный текст находится в файле LICENSE.

Solar Pro 4 — большая языковая модель компании Upstage, предназначенная для длительных задач и агентных сценариев. В карточке указано контекстное окно размером 524 тыс. токенов. Модель рассчитана на работу с длинными документами и задачи офисной продуктивности. README также отмечает поддержку агентных рабочих процессов, но не приводит подробностей об архитектуре, размере модели, языках или условиях лицензии.

unsloth/Step-3.7-Flash-GGUF — GGUF-квантизированная версия модели Step 3.7 Flash, разработанной StepFun и распространяемой в формате Unsloth Dynamic 2.0. Это мультимодальная vision-language модель со sparse Mixture-of-Experts: она объединяет языковую основу примерно на 196 млрд параметров и vision-энкодер на 1,8 млрд параметров, активируя около 11 млрд параметров на токен. Модель поддерживает изображения и текст, английский язык и контекст до 256 тысяч токенов. Доступны уровни рассуждения low, medium и high для выбора баланса между скоростью, стоимостью и глубиной обработки. Модель предназначена для высоконагруженных агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, работу с инструментами и рассуждение. Она подходит для анализа больших финансовых документов, обработки интерфейсов, wireframe, графиков и диаграмм, многошагового поиска с перекрёстной проверкой источников, оркестрации внешних API и параллельных задач программирования. Заявленная производительность достигает 400 токенов в секунду; модель также ориентирована на исправление ошибок в многосоставных репозиториях и генерацию патчей, проходящих автоматические тесты. Сильные стороны модели — большое контекстное окно, нативное понимание изображений, поддержка длительных агентных рабочих процессов и возможность локального, облачного или серверного развёртывания через Transformers, vLLM, SGLang и llama.cpp. Ограничения включают значительные требования к памяти и вычислительным ресурсам: для локального запуска указаны устройства как минимум со 128 ГБ unified memory. README не содержит подробностей о качестве на языках, кроме английского, а заявленные результаты бенчмарков могут зависеть от конфигурации и способа инференса. Лицензия — Apache-2.0.

XORTRON.CriminalComputing.LARGE.2026.3 — разговорная языковая модель на архитектуре Mistral, опубликованная heretic-org. По карточке это версия Mistral-Large-Instruct-2411 с abliteration: модель изменена для существенного снижения частоты отказов, а не для отдельной предметной области. Она предназначена для генерации ответов в диалоге, рассуждений, помощи с кодом и работы с длинным контекстом; исходная карточка также описывает поддержку вызова функций. Метаданные указывают 122,2 млрд параметров, плотную архитектуру MistralForCausalLM, контекст до 131 072 токенов и форматы Safetensors. Указаны английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. В приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, при KL-дивергенции 0,0578; это показывает снижение отказов, но не подтверждает качество или безопасность ответов. Лицензия обозначена как other; README описывает исследовательскую лицензию Mistral для исходной модели, но условия лицензии этой производной модели однозначно не установлены.

Gemma 4 12B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, предназначенная для диалогов и генерации текста. Эта карточка описывает вариант Multi-Token Prediction (MTP): компактная черновая модель для speculative decoding, которая предлагает несколько токенов заранее, а целевая модель проверяет их параллельно. Такой режим может ускорять декодирование до 3 раз без изменения качества относительно обычной генерации. Модель семейства Gemma 4 использует плотную архитектуру и поддерживает ввод текста, изображений и аудио; на выходе генерирует текст. Она предназначена для рассуждений, программирования, распознавания и понимания речи, работы с изображениями и агентных сценариев с вызовом инструментов. Семейство поддерживает длинный контекст до 256 тысяч токенов и многоязычную работу; в карточке указана поддержка более 140 языков при обучении. MTP-вариант рассчитан на использование в speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена обычному checkpoint для всех сценариев. Лицензия — Apache 2.0.

JiRack Ultra 7B — текстовая генеративная модель компании CMSManhattan для локального и облачного запуска, в том числе на процессорах с ограниченной памятью. Она основана на плотной архитектуре Qwen2 и насчитывает 7,1 млрд параметров; автор описывает рефакторинг с элементами BitNet и токенизатором JiRack, расширенным тегами для маршрутизации запросов, вызова инструментов и робототехники. Доступны веса Safetensors и варианты GGUF, включая Q2_K–Q8_0; карточка указывает контекст до 131 072 токенов и чат-возможности. Модель предназначена для диалоговой генерации, использования в RAG-системах как экспертной модели, а также для сценариев с агентами и вызовом инструментов. README также упоминает задачи кодирования, мультимедиа и робототехники, однако метаданные подтверждают только text-generation и текстовый ввод-вывод, поэтому специальные мультимодальные возможности из этих упоминаний не следуют. Указана поддержка языков от английского и китайского до русского, японского, корейского и ряда других. Автор заявляет оптимизацию инференса на CPU и возможность запуска через llama.cpp и Ollama; фактическая скорость и качество зависят от оборудования и выбранной квантизации. Весам назначена лицензия MIT, разрешающая коммерческое использование; Docker-образ, UI-клиенты и готовые продукты для Ollama могут иметь отдельные коммерческие условия.

Kimi-Linear-REAP-35B-A3B-Instruct — разговорная причинно-языковая MoE-модель, созданная Cerebras на основе moonshotai/Kimi-Linear-48B-A3B-Instruct методом REAP: из исходной модели удалены избыточные эксперты. По README, в модели 35 млрд параметров, из которых около 3 млрд активируются на токен; заявлены 27 слоёв, 180 экспертов и выбор 8 экспертов на токен. В метаданных размер указан как 2,7 млрд параметров. Модель предназначена для диалога и генерации текста, включая код, математические рассуждения, вызов функций и ответы на вопросы по длинному контексту. Заявлена длина контекста до 1 048 576 токенов; README отмечает, что отдельные оценки на LongBench v2 и FRAMES проводились с ограничением входа до 128 тысяч токенов. Карточка сообщает о близком к исходной модели качестве при снижении размера примерно на 30%, а также о совместимости с актуальной версией vLLM, поддерживающей Kimi-Linear. Модель распространяется по лицензии MIT. README указывает, что после однократного прореживания дополнительное дообучение не выполнялось; при этом метаданные обозначают связь с базовой моделью как finetune. Заявления о качестве основаны на оценках карточки и могут не переноситься на все задачи; для отдельных тестов отмечено снижение точности после удаления экспертов.

Kiwen1.1-27B-MTP-GGUF — это набор смешанных GGUF-квантизаций модели Kiwen1.1-27B, разработанной beyoru и подготовленной пользователем NikiKrutan для запуска через llama.cpp. Модель ориентирована на диалоговые сценарии, программирование, агентские задачи, рассуждения, математику и работу с текстами на нескольких языках, включая английский, русский и вьетнамский. Суффикс MTP и метаданные указывают на вариант, связанный с multi-token prediction, однако подробности архитектуры MTP в README не приведены. Квантизации создаются инструментом niki-allocator, который подбирает тип квантования отдельно для каждого тензора с учётом целевого размера файла и оценок качества на основе KLD. Доступно 15 вариантов размером примерно от 8500 до 23000 МиБ; автор рекомендует выбирать максимально крупный вариант, помещающийся в доступную память, поскольку больший размер обычно обеспечивает более высокое качество. Производительность зависит от оборудования и конфигурации и отдельно не измерялась. Сильной стороной модели является тщательная оценка качества квантизаций на корпусах для программирования, агентских задач, рассуждений, сложной логики, мультиязычных текстов и научных материалов, а также сравнение с альтернативными сборками. Ограничения включают зависимость скорости и пригодности от аппаратной конфигурации, возможные потери качества из-за квантования и отсутствие в README точных сведений о размере контекста, полном наборе поддерживаемых языков и характеристиках исходной архитектуры. Распространение заявлено по лицензии Apache-2.0.

QuantFactory/Llama3.1-8B-Fireplace2-GGUF — квантизированная версия языковой чат-модели ValiantLabs/Llama3.1-8B-Fireplace2, созданная с использованием llama.cpp. В основе лежит Llama 3.1 8B Instruct; модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Дата исходного выпуска Fireplace 2 — 23 июля 2024 года. Модель ориентирована на обычный чат и техническое ассистирование, а также на формирование структурированных ответов по запросу. Она поддерживает inline function calls, SQL-запросы, JSON-объекты и генерацию примеров визуализации данных с помощью matplotlib, позволяя сочетать обычный текст и структурированные форматы в одном диалоге. Для работы используются формат промптов Llama 3.1 Instruct и специальные маркеры запросов соответствующего типа. Ключевое преимущество модели — расширение возможностей Llama 3.1 8B Instruct функциями для интеграции с инструментами, базами данных и задачами визуализации. GGUF-квантизация и создание через llama.cpp ориентированы на локальный запуск, однако конкретный вариант квантизации, требования к памяти, размер контекста и поддерживаемые форматы файлов в представленном README не указаны. Модель является текстовой и не предназначена для обработки изображений или других мультимодальных данных. Лицензия указана как llama3.1; условия её применения следует уточнять в лицензии исходной модели.

LongCat-Flash-Chat — разговорная языковая модель Meituan для генерации ответов и выполнения агентных задач. Она основана на архитектуре Mixture-of-Experts (MoE) и поддерживает интерфейс вызова инструментов. В README указано 560 млрд параметров всего и в среднем около 27 млрд активируемых на токен; метаданные Hugging Face указывают 17,7 млрд параметров, поэтому размер модели в источниках расходится. Контекст составляет до 131 072 токенов. Модель предназначена для диалогов, задач с инструментами, многошагового взаимодействия, а также задач рассуждения и программирования. В README модель описана как non-thinking; авторы сообщают о высокой пропускной способности инференса и конкурентных результатах на своих оценках. Доступны веса в формате safetensors. Лицензия — MIT. Авторы предупреждают, что модель не была специально разработана и всесторонне проверена для всех возможных прикладных сценариев.

LongCat-Flash-Lite-Sparse — разговорная языковая модель Meituan семейства LongCat, предназначенная для генерации текста, работы с длинным контекстом и агентных сценариев. В README она описана как невозрастающая по рассуждениям модель типа Mixture-of-Experts с 69 млрд параметров и примерно 3 млрд активируемых на токен; метаданные каталога указывают 2,5 млрд параметров. В архитектуре LongcatCausalLM используется LongCat Sparse Attention, а заявленная длина контекста достигает 1 024 000 токенов. Модель рассчитана на диалог, агентное программирование, поиск и использование инструментов, а также на обработку больших объёмов текста. README сообщает о повышенной эффективности вывода на длинном контексте и улучшении агентных возможностей относительно плотной версии LongCat-Flash-Lite. В метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса Safetensors и лицензирован по MIT. Для развёртывания README описывает адаптации в SGLang. Модель не проходила исчерпывающую оценку для всех прикладных сценариев; заявленные результаты зависят от конфигурации, в частности от включения Hierarchical Indexing.