II.9Статистика, эксперименты и причинный анализ

unsloth/DeepSeek-R1-Distill-Qwen-1.5B-unsloth-bnb-4bit — это 4-битная квантованная версия языковой модели DeepSeek-R1-Distill-Qwen-1.5B, подготовленная Unsloth на основе базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Модель относится к семейству DeepSeek-R1 и использует дистилляцию способностей рассуждения, полученных при обучении DeepSeek-R1, в компактную модель на базе Qwen. Формат предназначен для использования с библиотекой Transformers и технологией bitsandbytes. Модель предназначена прежде всего для текстовых задач, требующих рассуждений, включая решение математических задач, программирование, ответы на вопросы и другие сценарии, где важна последовательная логика. Благодаря размеру 1,5 млрд параметров и 4-битному представлению она ориентирована на запуск при ограниченных ресурсах памяти, однако README не содержит точных требований к оборудованию, размера контекста или подробных показателей качества. Указан английский язык; поддержка других языков отдельно не заявлена. К сильным сторонам относятся компактность, сниженные требования к памяти и ориентация на reasoning-задачи. Ограничениями являются меньшая вместимость по сравнению с более крупными моделями DeepSeek-R1 и возможные потери качества из-за 4-битной квантования; конкретные компромиссы в README не измерены. Модель распространяется по лицензии Apache-2.0.

mobiuslabsgmbh выпустила DeepSeek-R1-ReDistill-Qwen-1.5B-v1.1 — повторно дистиллированную версию DeepSeek-R1-Distill-Qwen-1.5B для повышения качества генерации текста и рассуждений. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов; веса представлены в формате safetensors. Модель подходит для диалогов и решения задач, в том числе по математике и программированию. В README приведены сравнительные результаты на ARC, HellaSwag, MMLU, GPQA, MMLU PRO и MUSR: версия v1.1 показывает более высокие значения, чем исходная DeepSeek-R1-Distill-Qwen-1.5B, на перечисленных тестах. Модель распространяется по лицензии MIT. В карточке не приведены сведения о языковом охвате и подробные ограничения; качество ответов следует проверять для конкретного сценария.

DNA 2.0 — языковая модель компании Dnotitia Inc., созданная дообучением Smoothie-Qwen3-14B. Это плотная авторегрессионная модель семейства Qwen3 с 14 млрд параметров, предназначенная для диалогов, рассуждений, математических задач и повседневных запросов. В README заявлены улучшения пошагового решения задач, логического вывода и генерации на корейском и английском языках; модель также позиционируется как менее ограничивающая ответы на чувствительные темы. Модель принимает текст и генерирует текст. README указывает контекст 32 тыс. токенов с расширением до 131 тыс. через YaRN, тогда как метаданные каталога фиксируют нативный контекст 40 960 токенов. Поддерживается режим управления рассуждением через команды /think и /no_think. Доступны веса Safetensors для Transformers, лицензия — Apache 2.0. Заявления README об оценках и улучшениях представлены разработчиком и не сопровождаются подробностями протокола оценки; качество на конкретных задачах следует проверять отдельно. Для генерации с включённым режимом рассуждения автор не рекомендует жадное декодирование из-за ухудшения качества и риска повторов.

Falcon3-Mamba-7B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный декодер на основе Mamba1: 64 блока, ширина 4096, размер состояния 16 и словарь на 65 тысяч токенов. Модель продолжает предварительное обучение Falcon-Mamba-7B на дополнительных данных из веба, кода, STEM и других высококачественных источников. Модель предназначена для генерации текста и служит основой для сценариев рассуждения, понимания языка, следования инструкциям, работы с кодом и математикой. Контекстное окно достигает 32 тысяч токенов; обучение велось преимущественно на английских данных. В репозитории представлены веса Safetensors для Transformers. Разработчик сообщает о сильных результатах на задачах рассуждения, понимания языка, кода и математики по сравнению с моделями SSM схожего размера на момент выпуска. Это базовая модель, поэтому качество следования инструкциям в прикладном чате может уступать специализированным instruct-версиям. Лицензия — TII Falcon-LLM License 2.0.

grug-27b — дообученная модель ProCreations на базе Qwen/Qwen3.6-27B с плотной архитектурой семейства Qwen3.5. Разработчик объединил LoRA-адаптер ранга 32, обученный на текстовых линейных слоях, с базовой моделью и сохранил веса в формате bf16. По карточке, обучение было направлено на компактные, адаптивные рассуждения: короткие для простых задач и более подробные для сложных. Модель предназначена для генерации текста в диалогах, программирования, математических задач и агентных сценариев с использованием инструментов. Карточка приводит результаты на HumanEval, MBPP и GSM8K, а также сообщает о снижении расхода токенов на этих тестах и проверках на зацикливание. Эти результаты получены разработчиком и не гарантируют такого же качества на других запросах. Указана поддержка английского языка; базовая Qwen3.6-27B также описана в каталоге как мультимодальная, но README grug-27b говорит об обучении текстового стека, поэтому работу с изображениями для этой версии подтвердить нельзя. Для запуска приведён контекст длиной 32 768 токенов как параметр сервера, а не заявленный нативный предел модели. Лицензия — Apache-2.0.

KoarAI разработала LFM2.5-350M-Thinking-0003 как дообученную компактную гибридную языковую модель на основе LiquidAI/LFM2.5-350M. Модель с архитектурой LFM2 и примерно 443,4 млн параметров предназначена для генерации текста и диалогов с пошаговыми рассуждениями: она формирует внутренние шаги решения, а затем выдаёт итоговый ответ. Модель дообучена на примерах математических и алгоритмических рассуждений, программирования, русскоязычных диалогов, многошаговых ответов и вопросов из STEM, бизнеса и права. Заявлены контекст до 128 000 токенов и поддержка английского и русского языков. Модель рассчитана на компактное развертывание и сценарии, где нужны ответы с инструкциями, рассуждениями или вызовом инструментов; качество рассуждений и кодогенерации на малой модели может быть ограничено. Репозиторий содержит веса в формате safetensors. Указана лицензия Apache-2.0. Для локального запуска через llama.cpp и совместимые приложения автор отдельно указывает квантованные версии GGUF в другом репозитории.

Marin 32B — базовая авторегрессионная языковая модель, разработанная командой Marin Project. Она предназначена для генерации продолжений текста и служит основой для разработки и адаптации языковых моделей. Модель обучена на корпусах общего текста, кода, математики, научных материалов и вопросов и ответов; в карточке приведены результаты оценки на общих языковых, математических и программных тестах. Модель имеет плотную архитектуру Qwen3 с 31,9 млрд параметров, QK-Norm attention, 64 слоями и контекстом 4096 токенов. Она работает с Transformers и принимает текст, выдавая текст. Основной язык — английский. По данным карточки, обучающие данные не выходят за июль 2024 года. Marin 32B — базовая модель без настройки безопасности; она может выдавать вредный или неточный текст и не предназначена для полностью автономного использования. Код и веса распространяются по лицензии Apache 2.0.

Vontra/MiMo-V2.6-Flash-RL-MLX-4bit-MTP — конверсия модели XiaomiMiMo/MiMo-V2.6-Flash-RL для MLX, опубликованная Vontra и предназначенная прежде всего для запуска на компьютерах Apple Silicon. Это генеративная текстовая модель, ориентированная на создание связного текста, объяснений и программного кода. В README приведены успешные проверки арифметики, фактических объяснений и Python-кода, однако подробные оценки качества и сценарии применения следует уточнять в карточке исходной модели. Исходная MiMo-V2.6-Flash-RL описывается как разреженная MoE-модель с 309 млрд параметров, из которых 15 млрд активны на токен, 48 трансформерными слоями, 256 маршрутизируемыми экспертами и восемью активными экспертами на токен. Исходный релиз поддерживает контекст до одного миллиона токенов и омнимодальные входы; заявлены текст, изображения и аудио. Эта версия использует 4-битную аффинную квантизацию плотных проекций с размером группы 64, тогда как эксперты MoE сохраняют формат MXFP4 с размером группы 32. Средний размер — 4,257 бита на вес, текстовая модель занимает около 154 GiB, а весь репозиторий — около 160 GiB. Поддерживаемые языки, указанные в карточке, — английский и китайский. В комплект входят MTP-предиктор, DFlash-драфтер, vision encoder, audio encoder и audio tokenizer, но текущие oMLX и MLX text generation автоматически используют только текстовый путь: MTP, DFlash, зрительные и аудиофункции пока требуют MiMo-совместимых интеграций и не заявлены как работающие в стандартном режиме. На Mac Studio с M3 Ultra, 256 ГБ памяти измерены скорости 59,4 токена в секунду при декодировании и 477,1–562,8 токена в секунду при обработке промпта; рекомендована конфигурация с 256 ГБ unified memory. Модель распространяется по лицензии MIT. Это community-конверсия, поэтому её ограничения включают высокие требования к памяти и неполную поддержку вспомогательных мультимодальных компонентов в текущем MLX-стеке.

MiniMax-M3 — мультимодальная модель компании MiniMax для диалогов, работы с изображениями и видео, программирования и агентных задач. Она принимает текст и визуальные данные, объединяя их обработку благодаря обучению на смешанных модальностях с самого начала. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA) и поддерживает контекст до 1 млн токенов. Разработчик заявляет об ускорении обработки длинного контекста относительно M2 и о сильных результатах в длительных агентных задачах, включая программирование и совместную работу. Модель доступна через MiniMax Agent и API, а также для локального запуска на Transformers с весами safetensors. Лицензия указана как other; конкретные условия следует проверить в карточке модели. В README не перечислены поддерживаемые естественные языки и отдельные ограничения качества.

MoEstral-2x7B — диалоговая языковая модель на архитектуре Mixtral/MoE, опубликованная paulilioaica. Она предназначена для генерации текста и ответов на инструкции, в том числе для задач рассуждения, работы с числами и абстрактными понятиями. В карточке описано объединение через mergekit двух копий mistralai/Mistral-7B-Instruct-v0.2 с маршрутизацией экспертов по тематическим подсказкам; метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. README приводит результаты на отдельных бенчмарках, но не описывает методику или полный набор оценок, поэтому эти цифры не позволяют судить о качестве во всех сценариях.

Mtrini-27B-Tellus-Merged — объединённая модель CompiwerAI для запуска через Transformers. В README в качестве базовой модели указана Qwen3.8-27B; метаданные описывают архитектуру как плотную Qwen3.5 для авторегрессионной генерации текста. Размер по метаданным — 22,3 млрд параметров, нативный контекст — 262 144 токена, файлы представлены в формате safetensors. Модель предназначена для диалогов, генерации кода, математических задач и рассуждений. Для обучения использовалась смесь из 11 200 примеров, включающая данные по программированию и математике, а также марокканскую дариджу и арабский язык. В README сказано, что LoRA-адаптер CompiwerAI объединён с базовой моделью в самостоятельный чекпойнт. Модель распространяется по лицензии Apache-2.0. Результаты обучения и состав обучающей смеси приведены в карточке, но независимые оценки качества и подробные ограничения не описаны.

orca_mini_v8_1_70b-GGUF — это квантизированная версия языковой модели orca_mini_v8_1_70b, разработанной pankajmathur и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и может запускаться локально, в частности через LM Studio и другие совместимые инструменты llama.cpp. Модель содержит 70 миллиардов параметров и работает с текстом на английском языке. Доступны варианты квантизации от Q8_0 до IQ1_M, различающиеся размером файлов, требованиями к памяти и качеством вывода; наиболее качественными считаются Q8_0, Q6_K и Q5, а варианты Q3 и Q2 ориентированы на устройства с ограниченными ресурсами, но снижают качество. Для работы рекомендуется использовать указанный в README шаблон промпта с системными, пользовательскими и ассистентскими сообщениями. Сильной стороной модели является возможность локального запуска крупной 70B-модели с выбором подходящего компромисса между качеством и потреблением памяти. Ограничения включают значительные требования к оперативной или видеопамяти даже для сжатых вариантов, а также снижение качества у агрессивных квантизаций. Архитектура, размер контекстного окна и мультимодальные возможности в README не указаны. Указанная лицензия — llama3.3.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и распространяется в формате MLX для задач генерации текста. Модель создана с применением подхода непрерывного самоулучшения: она совместно оптимизирует генерацию учебных задач, построение scaffolds и rollouts решений с использованием reinforcement learning, вместо опоры только на фиксированный набор вручную подготовленных задач. Модель предназначена для программирования, работы с терминалом, решения инженерных задач и других сценариев генерации текста. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual; например, результаты составляют 46,2 и 47 баллов в двух конфигурациях Terminal-Bench 2.1, 70,6 в SWE-bench Verified и 47,5 в SWE-bench Pro. Разработчик позиционирует её как наиболее лёгкую модель семейства, рассчитанную на эффективное развёртывание на одной GPU. Ключевые ограничения связаны с неполнотой доступной карточки: в README не указаны размер контекста, точный набор поддерживаемых языков, дополнительные модальности, конкретная базовая архитектура и лицензия. Для мобильных устройств упомянут отдельный квантизованный вариант Ornith-1.5-9B-Mobile, однако описываемая модель предназначена прежде всего для развёртывания на одной GPU.

Phi-3.5-MoE-instruct-4bit — это 4-битная квантизированная версия инструкционной языковой модели Phi-3.5-MoE, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm. Модель содержит около 4 млрд параметров, поддерживает архитектуру Mixture of Experts и распространяется для работы через библиотеку Transformers и инструменты MLX. Модель предназначена для генерации текста в диалогах, ответов на вопросы, выполнения инструкций и генерации кода. Она ориентирована на многоязычные сценарии и может использоваться в локальных приложениях, чат-ботах, помощниках разработчика и системах автоматизации работы с текстом. Максимальная длина контекста составляет 4096 токенов. Лицензия MIT допускает свободное использование при соблюдении её условий. 4-битное представление снижает требования к памяти и подходит для локального запуска, но может уступать полноразмерной версии по точности и качеству генерации.

vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

harithoppil/Qwen3-0.6B-English-Pruned — это англоязычная производная плотной авторегрессионной языковой модели семейства Qwen3, основанная на Qwen/Qwen3-0.6B-Base и опубликованная пользователем harithoppil. В README описаны удаление семи слоёв из 28 методом Layer Dropping (ShortGPT) и сокращение словаря с 151 643 до 101 816 токенов. В метаданных указаны 368,5 млн параметров, архитектура Qwen3ForCausalLM, формат safetensors и контекст до 40 960 токенов. Модель предназначена для генерации английского текста, диалога, написания кода и решения математических задач; README также описывает переключение режимов рассуждения и обычного ответа. Сокращённый словарь исключает токены для кириллицы и ряда других письменностей, поэтому модель специализирована на английском, коде и математике. Удаление слоёв и уменьшение словаря нацелены на снижение размера и повышение скорости вывода, но в README не приведены сравнительные измерения качества или скорости. Лицензия — Apache-2.0.

Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1 — экспериментальная мультимодальная модель с 27 млрд параметров, созданная автором Jackrong на базе Qwen3.5-27B. Модель прошла supervised fine-tuning с использованием LoRA на отфильтрованных данных рассуждений, полученных от GLM-5.1; в обучении также использовался набор Qwen3.5-reasoning-700x. Весы опубликованы в формате safetensors, модель рассчитана на работу через Transformers и распространяется по лицензии Apache-2.0. Модель предназначена для диалогов и следования инструкциям, многошаговых рассуждений, решения математических и логических задач, программирования и анализа изображений. Заявлена поддержка английского, китайского, японского и испанского языков; архитектура Qwen3.5 поддерживает обработку текста и изображений. Карточка описывает её как экспериментальную версию для обучения, демонстраций и технического исследования, с ожидаемыми улучшениями в структурированности и последовательности ответов. Модель может галлюцинировать факты, а цепочки рассуждений — становиться нестабильными, зацикливаться или отклоняться от задачи. Автор предупреждает, что прирост качества умеренный и не гарантирован; особенно важна проверка ответов о реальных событиях. Хотя метаданные классифицируют модель как image-text-to-text, README также описывает её как инструмент для аналитических задач, кода и математики.

Это GGUF-версия модели Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32, подготовленная mradermacher. Репозиторий содержит статические квантизации, включая варианты GGUF и мультимодальные дополнения mmproj; указан вариант F32. Базовая модель связана с nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32 и классифицирована как дообучение. Модель предназначена для генерации текста в диалоговом и инструкционном формате. По тегам карточки она ориентирована на рассуждения, математику, программирование и творческое письмо, включая создание и продолжение историй; метаданные также указывают мультиязычную поддержку английского, китайского, японского и испанского языков. Лицензия — Apache-2.0. Репозиторий распространяет веса в формате GGUF, предназначенном для запуска совместимым ПО; доступные уровни квантизации различаются по размеру и могут влиять на качество. Карточка не приводит результатов сравнительных оценок или конкретных ограничений качества.

Qwen3.6-35B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx-4bit — это общественная 4-битная конверсия в формат MLX модели Qwen3.5 MoE с примерно 35 млрд параметров. Модель основана на архитектуре Qwen3_5MoeForConditionalGeneration, дообучена с использованием Unsloth для генерации кода и пошагового рассуждения и дистиллирована на трассировках рассуждений DeepSeek v4 Pro. Конверсию подготовил пользователь 10Hen10; базовые компоненты связаны с Qwen и Unsloth, а инференс рассчитан на фреймворк Apple MLX. Модель предназначена для генерации, дополнения и объяснения кода, задач по математике и логике, отладки, агентских сценариев с вызовом инструментов и локального конфиденциального запуска на macOS. Она поддерживает текст, изображения и видео, а также встроенный function/tool calling в шаблоне чата. Основной язык — английский; поддержка других языков не является целевой. Контекстное окно в README не указано. Используется разреженная Mixture-of-Experts-архитектура, поэтому на каждом токене активна только часть параметров. Веса имеют 4-битное affine-квантование с размером группы 64, а чувствительные router/gate-слои сохранены в 8-битном формате. Для Apple Silicon M1–M4 рекомендуется не менее 32 ГБ unified memory; сами веса занимают примерно 20–22 ГБ, ещё около 2–4 ГБ требуется для KV-кэша и служебных данных. К сильным сторонам относятся сочетание кодогенерации и рассуждений, мультимодальность, поддержка инструментов и возможность локального запуска на совместимых устройствах Apple. Ограничения включают отсутствие официальных результатов бенчмарков, возможное снижение качества из-за 4-битного квантования, галлюцинации и ошибки в коде, а также зависимость качества рассуждений от учительской модели и данных дистилляции. Модель распространяется по лицензии Apache-2.0.

mlx-community/QwQ-32B-bf16 — конверсия модели QwQ-32B в формат MLX, подготовленная сообществом mlx-community на основе Qwen/QwQ-32B с помощью mlx-lm 0.21.5. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров для генерации текста и диалогов; метаданные указывают контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалоговых и текстовых задач, в том числе для запросов, требующих последовательного рассуждения. Карточка указывает на формат safetensors, лицензию Apache-2.0 и использование через MLX. Поддержка английского отмечена в метаданных; другие языки и отдельные гарантии качества в карточке не описаны.

Reflection-Llama-3.1-70B — текстовая языковая модель Unsloth на 69,5 млрд параметров, дообученная на Meta-Llama-3.1-70B-Instruct методом Reflection-Tuning. Она предназначена для диалогов и генерации ответов, в том числе для задач, требующих многошагового рассуждения: модель может отмечать и исправлять ошибки в ходе рассуждения, а затем выдавать итоговый ответ. Модель использует архитектуру Llama 3.1 с плотной причинно-следственной языковой сетью и контекстом до 131 072 токенов. Модель принимает текст и генерирует текст. Она следует формату чата Llama 3.1 и использует специальные токены для разделения рассуждения и ответа. В README рекомендуются temperature 0,7 и top_p 0,95; автор также предлагает добавлять к запросу фразу «Think carefully» для повышения точности. Заявления README о лидерстве в бенчмарках не подтверждены приведёнными здесь независимыми результатами. Модель распространяется по лицензии Llama 3.1; её условия следует учитывать при использовании и распространении.

SentinelLM — плотная авторегрессионная языковая модель семейства Sentinel, представленная в репозитории dusersad12. Карточка описывает обновлённую версию, обученную с дополнительными вычислительными ресурсами и алгоритмической оптимизацией на этапе постобучения. Модель предназначена для генерации текста и диалогов, включая сложные задачи рассуждения, математику, программирование и логику; также заявлена поддержка вызова функций. В README сообщается об улучшении результата на AIME 2024 с 64% до 83,3% и о снижении галлюцинаций относительно предыдущей версии. Для вопросов AIME указано среднее рассуждение объёмом около 19 тысяч токенов. Модель доступна в формате PyTorch для Transformers и распространяется по лицензии Apache-2.0. Длина контекста и поддерживаемые естественные языки в предоставленных данных не обозначены.

QuantFactory/Skywork-o1-Open-Llama-3.1-8B-GGUF — квантизированная версия модели Skywork o1 Open-Llama-3.1-8B, созданная с использованием llama.cpp. Исходную модель разработала команда Skywork компании Kunlun Inc.; она основана на Meta-Llama-3.1-8B-Instruct и дообучена на данных в стиле «медленного мышления». Версия в этом репозитории предназначена для запуска в формате GGUF с использованием совместимых инструментов llama.cpp. Модель ориентирована на диалоги, генерацию текста и решение задач, требующих рассуждений: математики, программирования, логики, здравого смысла, этических решений и распознавания логических ловушек. Заявленные особенности включают планирование, пошаговое рассуждение, саморефлексию и самопроверку. В разработке применялись многоагентная генерация данных, непрерывное предварительное обучение, supervised fine-tuning, обучение с подкреплением с использованием process reward model и алгоритмы поиска рассуждений. Известный размер исходной модели — 8B параметров; архитектура и набор поддерживаемых языков в предоставленных данных отдельно не указаны. Квантизация может снизить требования к ресурсам и упростить локальный запуск, но конкретные варианты квантизации и их влияние на качество зависят от файлов, доступных в репозитории. Модель ориентирована прежде всего на задачи рассуждений, однако заявленные преимущества основаны на описании разработчиков, а ограничения и результаты независимых проверок не приведены. Лицензия указана как other, поэтому точные условия использования необходимо уточнять в исходном репозитории и сопутствующих материалах.

Apodex-1.1-mini-FP8 — reasoning-first языковая модель, разработанная Apodex AI. Она предназначена для сложных долгосрочных исследовательских и агентских задач, требующих не только генерации текста, но и работы с файлами, данными, таблицами, изображениями, кодом и внешними инструментами. Модель может декомпозировать задачу, координировать параллельных субагентов, поддерживать общее состояние работы, адаптировать план по ходу выполнения и формировать проверяемые результаты. Модель относится к текстогенерационным моделям, совместима с chat template Qwen3.5 и поддерживает нативный function calling, а также выдачу рассуждений. Указаны языки English и Chinese. Для развёртывания рекомендуется SGLang с OpenAI-совместимым API; заявленная длина контекста составляет до 262144 токенов, максимальная длина генерации в рекомендуемых настройках — 32768 токенов. Суффикс FP8 указывает на используемый формат представления модели, однако точный размер и архитектура в README не указаны. Сильные стороны модели — выполнение многоэтапных задач в реальных средах, работа с инструментами и встроенная проверка утверждений по источникам, данным и вычислениям. В README приведены высокие результаты на ряде тестов, включая FrontierFinance и FrontierScience-Research, но применимость этих результатов к конкретным задачам может различаться. Ограничения включают отсутствие подробных сведений о точной архитектуре, количестве параметров, поддерживаемых аппаратных конфигурациях и полном наборе модальностей. Модель распространяется по лицензии Apache 2.0.

unsloth/cogito-v2-preview-llama-70B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 70B, разработанная Unsloth на базе deepcogito/cogito-v2-preview-llama-70B. Это инструкционно дообученная генеративная модель с гибридным режимом рассуждений: она может отвечать напрямую либо предварительно выполнять саморефлексию. Обучение проводилось с использованием Iterated Distillation and Amplification (IDA), стратегии итеративного самоулучшения. Модель предназначена для генерации текста, следования инструкциям, программирования, задач STEM, вызова инструментов и общего ассистирования. Модель поддерживает контекст длиной до 128k токенов и обучена более чем на 30 языках, поэтому ориентирована на многоязычные сценарии. Заявлены улучшенные возможности в программировании, работе с инструментами и многоязычии по сравнению с сопоставимыми по размеру моделями. Доступны стандартный режим и расширенное рассуждение; для последнего в совместимых инструментах требуется включить параметр enable_thinking или использовать предусмотренный системный запрос и префилл. GGUF-формат подходит для запуска через совместимые средства локального инференса, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. К ограничениям относятся значительные требования к вычислительным ресурсам, обусловленные размером 70B, а также экспериментальный статус preview и возможная хрупкость гибридного режима в редких случаях. Репозиторий распространяется по лицензии Llama 3.1, указанной как допускающая коммерческое использование; точные условия следует проверять в тексте лицензии.

Qwen3.8-27B-GPTQ-INT4 — квантованная версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем abhishekchohan. Модель предназначена для диалогов, следования инструкциям, математических и научных задач, программирования, агентских сценариев и мультиязычной работы. Она поддерживает текстовые и визуальные входы, а также нативный контекст до 262 144 токенов. Используется 4-битное асимметричное квантование весов INT4 с GPTQ, group_size=32 и статическим упорядочиванием активаций. Квантированы основные линейные слои 64 текстовых слоёв, тогда как нормализации, эмбеддинги, языковая голова, визуальный ViT-энкодер, слои DeltaNet и предиктор MTP сохранены в BF16. Размер весов составляет около 27 ГБ вместо примерно 55,6 ГБ у версии BF16. Калибровка выполнена на данных по следованию инструкциям, математике, науке, коду и мультиязычным задачам. По представленным оценкам, модель в целом сохраняет качество BF16-версии в пределах статистического шума на большинстве тестов и полностью сохраняет результаты поиска информации в контексте до 262 144 токенов. При этом на MathVision зафиксировано снижение результата на 2,5 пункта, а поведение агентских сценариев и вызова инструментов отдельно не оценивалось. Поддерживаются thinking, tool calling и speculative decoding при использовании совместимой версии vLLM; полный контекст требует значительного объёма видеопамяти. Лицензия — Apache-2.0. Расширение контекста до 1 млн токенов через YaRN в этом чекпойнте не проверялось.

Andycurrent/gemma-3-12b-it-uncensored-GGUF — производная instruction-tuned модель Gemma 3 с 12 млрд параметров, разработанная на базе Google Gemma 3 12B IT. Базовую архитектуру разработала Google, а кураторство и выпуск этой версии указаны за BrainDAO. Репозиторий также содержит вариант Vision-Language Model (VLM), поддерживающий работу с изображениями и текстом. Модель предназначена для общего ассистирования, диалогов, следования инструкциям, логического и аналитического рассуждения, написания и отладки кода, исследовательского анализа, агентных сценариев с инструментами, а для VLM-варианта — для описания изображений, визуальных вопросов и ответов и мультимодального общения. Заявлена поддержка английского языка. Модель ориентирована на локальное и приватное развертывание; для работы следует использовать формат инструкций Gemma, а VLM-вариант требует мультимодального формата входных данных, поддерживаемого конкретным inference-фреймворком. Ключевая особенность версии — минимальные дополнительные ограничения выравнивания: заявлено отсутствие специально добавленных слоёв безопасности, отказов и alignment-ограничений сверх базовой модели. Это может дать больше контроля над системными промптами и меньше искусственных отказов, но одновременно означает необходимость самостоятельной оценки рисков, фильтрации и безопасного применения. Ограничения включают отсутствие дополнительных гарантий безопасности, а также потенциальную зависимость возможностей и производительности от используемого варианта, GGUF-квантизации и среды инференса; подробности о размере контекста и конкретных параметрах квантизации в README не указаны. Модель распространяется по пользовательской Gemma License, унаследованной от базовой модели Google. Это не Apache-2.0, MIT или другая стандартная open-source-лицензия; перед использованием, распространением или встраиванием необходимо ознакомиться с условиями Gemma License и соблюдать применимое законодательство.

K2-Horizon-MoVA-36B-A4B-oQ4e — это MLX-конверсия и 4-битная смешанно-точная квантизированная версия модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной командой IFM. Модель предназначена для генерации текста, рассуждений, ответов на научные вопросы, программирования, извлечения информации, структурированного вывода и агентских сценариев с вызовом инструментов и использованием терминала. Архитектура модели основана на разреженной Mixture-of-Experts и механизме внимания Mixture-of-Values (MoVA). Всего модель содержит 36 млрд параметров, из которых при обработке активны около 4 млрд. Заявлена поддержка контекста до 512 тысяч токенов. Это reasoning-модель; для наилучших результатов рекомендуется использовать высокий уровень усилий рассуждения. Данные о поддерживаемых языках и мультимодальных возможностях в README не указаны, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются качество рассуждений, структурированный вывод, надёжность вызова инструментов и применение в локальных агентских конвейерах. По приведённым сравнениям модель превосходит Qwen 3.6 35B A3B в большинстве тестов, но уступает ему по скорости генерации: производительность ограничена большим общим размером модели, несмотря на небольшое число активных параметров. Для запуска требуется MLX-совместимая среда; при использовании oMLX необходима версия 0.6.4 или новее с патчем поддержки K2-Horizon. Модель распространяется по лицензии Apache-2.0, как и исходная модель.

casperhansen/llama-3.3-70b-instruct-awq — это AWQ-квантизированная версия языковой модели Llama 3.3 70B Instruct, разработанной Meta и подготовленной в формате AWQ с использованием AutoAWQ. Модель предназначена для многоязычного диалога, генерации текста и кода, рассуждений, решения математических задач, программирования и сценариев с использованием инструментов. Она работает только с текстом на входе и выходе. Модель построена на авторегрессионной оптимизированной архитектуре Transformer, имеет 70 миллиардов параметров, поддерживает Grouped-Query Attention (GQA) и контекст длиной до 128 тысяч токенов. Она обучена на более чем 15 триллионах токенов из общедоступных онлайн-данных, а instruction-версия дополнительно использует supervised fine-tuning и reinforcement learning with human feedback для повышения полезности и безопасности. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; дата отсечения знаний — декабрь 2023 года. Сильными сторонами модели являются большой контекст, многоязычность и высокие заявленные результаты в задачах следования инструкциям, программирования, математики и понимания текста. К ограничениям относятся текстовая модальность, статичный характер модели и фиксированная дата отсечения знаний; качество и безопасность ответов могут зависеть от конкретного применения и квантизации AWQ. Использование регулируется пользовательской коммерческой лицензией Llama 3.3 Community License Agreement.

Карточка модели Nocodedev0/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.