II.9Статистика, эксперименты и причинный анализ

Qwen3-Swallow-32B-CPT-v0.2 — плотная языковая модель на 29,7 млрд параметров, разработанная проектом Swallow на базе Qwen3-32B. Это вариант continual pre-training (CPT), обученный для улучшения японского языка и японско-английского перевода при сохранении и усилении навыков математики и программирования. В обучении использовались японские и английские корпуса, параллельные тексты, а также наборы данных по математике, коду, STEM и диалогам. Модель принимает текст и генерирует текст; поддерживает японский и английский языки. Метаданные указывают контекст до 40 960 токенов, а карточка рекомендует ограничивать длину контекста 32 768 токенами или меньше. Модель рассчитана на генерацию текста, диалог, перевод и задачи рассуждения, математики и программирования. Для инференса авторы преимущественно проверяли vLLM. Модель находится на раннем этапе разработки; авторы предупреждают, что её не настраивали для надёжного следования человеческим намерениям и требований безопасности. Использование инструментов явно не обучалось, а переключатель режима рассуждений не поддерживается. Лицензия — Apache-2.0.

Qwen3-Swallow-32B-RL-v0.2 — японско-английская языковая модель команды Swallow LLM, дообученная на основе Qwen3-Swallow-32B-SFT-v0.2 с помощью обучения с подкреплением по проверяемым вознаграждениям (RLVR). Это плотная архитектура Qwen3 с 29,7 млрд параметров, предназначенная для диалоговой генерации текста и рассуждений; модель принимает текст и генерирует текст. Поддерживает японский и английский языки, а родная длина контекста составляет 40 960 токенов. Модель ориентирована на ответы на японском и английском языках, перевод между ними, а также задачи математики и программирования. По описанию разработчиков, RLVR улучшило математические и кодовые рассуждения, сохранив результаты на уровне исходных Qwen3 или выше на некоторых задачах. Для запуска разработчики рекомендуют Transformers-совместимую инфраструктуру, в частности vLLM, и контекст не более 32 768 токенов. Вызов инструментов не является проверенным сценарием, а отдельного переключателя режима рассуждений нет. Модель выпущена на раннем этапе исследований и разработки; авторы предупреждают, что её ответы не настроены для надёжного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0.

Это GGUF-квантизованная версия Qwen3-Next-80B-A3B-Instruct — инструкционной текстовой модели, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговых и прикладных сценариях, где требуется запуск через совместимые локальные инструменты, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Доступны варианты квантизации от Q8_0 до Q3_K и IQ3/IQ4, с размером файлов примерно от 36,6 до 84,8 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие позволяют снизить требования к оперативной памяти за счёт большей потери качества. Для работы необходимо использовать указанный шаблон промпта с ролями system, user и assistant. Архитектура, максимальный контекст, поддерживаемые языки и дополнительные модальности в README не указаны. К сильным сторонам относятся широкий выбор уровней квантизации, поддержка распространённого формата GGUF и возможность локального запуска в нескольких приложениях. Ограничениями являются значительный объём файлов и неизбежный компромисс между качеством и экономией памяти при выборе низкобитных вариантов; совместимость с отдельными инструментами может зависеть от их обновления. Модель распространяется по лицензии Apache 2.0.

QWQ-EVA-Preview-SLERP-32b — языковая модель на 32 млрд параметров, созданная слиянием ParasiticRogue/EVA-Instruct-32B-v2 и Qwen/QwQ-32B-Preview методом SLERP с помощью mergekit. Она предназначена для диалоговой генерации текста; базовые модели также ориентированы на математические рассуждения и программирование, поэтому модель может быть полезна в таких сценариях, однако README не приводит отдельных оценок её возможностей. Модель построена на архитектуре Qwen2ForCausalLM, принимает текст и выдаёт текст, поддерживает контекст до 131072 токенов и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0.

StrangeMerges_18-7B-dare_ties — объединённая языковая модель, созданная Gille с помощью LazyMergekit на основе Gille/StrangeMerges_17-7B-dare_ties и teknium/OpenHermes-2.5-Mistral-7B. В ней используется архитектура Mistral с плотной сетью и 7,1 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, написания текстов и помощи с кодом; README приводит результаты оценки на бенчмарках рассуждений и понимания текста. Указана лицензия Apache-2.0. README не уточняет языковой охват и отдельные гарантии качества, поэтому результаты на бенчмарках не следует считать обещанием качества для любых сценариев.

Trismal-NeurAmoclion-7B-Base-Ties — объединённая модель на основе Mistral, созданная JoPmt с помощью LazyMergekit. Она объединяет JoPmt/Trismal-HyperAmocles-7B-Base-Ties и Locutusque/NeuralHyperion-2.0-Mistral-7B методом TIES. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста. Описание базовой модели указывает на поддержку сложных вопросов, научных рассуждений, генерации кода и диалогов; README не уточняет, насколько эти возможности сохраняются после слияния. Доступные сведения не описывают лицензию или языки модели.

Это дообученная модель генерации текста на архитектуре Llama 2 с 12,9 млрд параметров, созданная автором репозитория на основе NousResearch/Yarn-Llama-2-13b-64k. К модели применён merged QLoRA fine-tune ранга 64 на наборе инструкций Airoboros 2.1; базовая версия использует YaRN для расширения рабочего контекста до 65 536 токенов. Модель предназначена для ответов на инструкции и вопросы, а также генерации текста с учётом длинного контекста. В описании приведены результаты тестов на ARC, Hellaswag и MMLU и сравнение perplexity на разных длинах контекста. Репозиторий содержит веса safetensors; для запуска через Transformers требуется trust_remote_code=True и совместимая реализация YaRN. Автор указывает, что короткоконтекстные результаты конкурентны с некоторыми моделями сравнения, но также отмечает необходимость дальнейшей проверки качества на длинном контексте. Лицензия в доступных данных не указана.

Atem-Pharaoh-3B-i1-GGUF — GGUF-квантизированная версия модели Atem-Pharaoh-3B, разработанной EphAsad и квантизированной mradermacher. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения, включая математику, программирование, анализ и ответы в областях, представленных обучающими наборами. В обучении или дообучении использовались наборы с математическими, кодовыми, медицинскими и рассуждательными примерами, а также синтетические данные, полученные дистилляцией других моделей. Модель имеет около 3 миллиардов параметров и распространяется в формате GGUF для использования с совместимыми инструментами, включая llama.cpp. Доступны варианты с разными уровнями квантизации — от IQ1 и IQ2 до Q6_K; они различаются размером файлов, скоростью и качеством. Для баланса размера, скорости и качества в README рекомендуется вариант i1-Q4_K_M, а i1-Q4_K_S также отмечен как оптимальный по этим параметрам. Указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Сильными сторонами являются компактный размер, возможность локального запуска и специализация на рассуждении, математике, коде и диалогах. Ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием подробных результатов оценивания. Модель распространяется по лицензии Apache-2.0.

Camelidae-8x34B — языковая модель семейства Camelidae, разработанная авторами проекта Camelidae с применением метода Parameter-Efficient Sparsity Crafting. Это разреженная Mixture-of-Experts-модель с архитектурой на основе LLaMA; в репозитории указано 33,9 млрд параметров. Модель прошла инструкционное дообучение и предназначена для генерации текста и ответов на общие запросы. Модель ориентирована в том числе на задачи по математике и программированию. В описании проекта приведены результаты тестирования по общим знаниям, математике и генерации кода; модель загружается через Transformers как причинная языковая модель. Контекст составляет 4096 токенов, основной указанный язык — английский. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты бенчмарков зависят от настройки и не гарантируют качество для конкретных запросов; карточка не описывает отдельные ограничения или защитные механизмы модели.

COSMO-PRO-7B — созданная Aryyanthakrr объединением SLERP двух инструктивных языковых моделей Qwen2.5: Qwen2.5-7B-Instruct и Qwen2.5-Coder-7B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; в метаданных также указана поддержка интерфейса вызова инструментов. Модель подходит для ответов на вопросы, ведения диалогов и генерации кода в сценариях с контекстом до 32 768 токенов. Репозиторий использует формат safetensors, библиотеку Transformers. Данных о поддерживаемых естественных языках в карточке нет. Условия лицензии в предоставленных источниках не приведены.

DeepSeek-Coder-V2-Lite-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek и квантизированной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и ассистирования в задачах программирования, включая написание и обработку кода, однако конкретный перечень поддерживаемых языков программирования и естественных языков в README не указан. Доступны варианты квантизации от Q2_K и IQ2_M до Q8_0 и экспериментального Q8_0_L, с размером файлов примерно от 6,32 до 17,09 ГБ. Более компактные варианты экономят оперативную память ценой снижения качества, тогда как Q5–Q8 описываются как высококачественные; для ряда конфигураций рекомендуются Q4–Q6. Варианты с суффиксом L используют F16 для весов embedding и output и отмечены как экспериментальные. Архитектура, число параметров, модальности, размер контекста и языки модели в предоставленном README не указаны. Модель рассчитана на локальный запуск через llama.cpp и использует специальный формат промпта с system prompt, сообщениями User и Assistant. Лицензия обозначена как deepseek-license; подробные условия в README не приведены, поэтому перед использованием следует ознакомиться с файлом LICENSE. Основные ограничения — отсутствие в README точных сведений о базовой архитектуре и характеристиках, а также неизбежная зависимость качества и требований к памяти от выбранного уровня квантизации.

DeepSeek-R1-Distill-Qwen-14B-Q4_K_M-GGUF — это квантованная версия модели DeepSeek-R1-Distill-Qwen-14B, разработанной организацией deepseek-ai и опубликованной в формате GGUF пользователем Andrew Webby из RolePlai. Модель предназначена для генерации текста, диалоговых сценариев, ролевого общения, а также задач программирования и математики; она может использоваться в приложениях на базе llama.cpp. Модель основана на архитектуре Qwen, имеет размер 14 млрд параметров и поддерживает текстовый ввод и вывод. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что делает модель более подходящей для локального запуска, однако может снижать точность по сравнению с исходными весами. В README не указаны поддерживаемые языки, размер контекстного окна, точные требования к оборудованию, результаты тестирования и ограничения качества. Файл модели имеет формат GGUF, не использует imatrix и не разделён на части. Лицензия и условия использования в предоставленных данных не указаны.

DeepSeek V4 Flash — это квантизированная GGUF-версия базовой модели DeepSeek-AI DeepSeek-V4-Flash, подготовленная antirez для инференс-движка ds4. Модель предназначена для генерации текста и работы с англоязычными запросами, включая локальный запуск на системах с Apple Silicon и поддержкой Metal. Модель использует архитектуру Mixture-of-Experts (MoE). Доступны варианты с квантизацией routed experts в форматах 2-bit IQ2_XXS/Q2_K и 4-bit Q4_K, при этом важные компоненты, включая attention projections, shared experts, output head и router, сохранены в менее агрессивных форматах Q8_0, F16 или F32. Размер основных файлов составляет около 80,8 ГиБ для q2 и 153,3 ГиБ для q4. Дополнительный файл MTP размером 3,6 ГиБ обеспечивает поддержку speculative decoding и не является самостоятельной моделью. Сильной стороной сборки является уменьшение размера за счёт агрессивной квантизации экспертных блоков при сохранении точности маршрутизации и ряда ключевых компонентов. Вариант q2 рассчитан на компьютеры с 128 ГиБ оперативной памяти, а q4 — на системы с объёмом памяти от 256 ГиБ. Сборка может работать с другими инференс-движками, но гарантируется прежде всего совместимость с ds4; MTP требует специального загрузчика. В README приведён пример запуска с контекстом до 100000 токенов, однако максимальный контекст самой модели явно не указан. GGUF-файлы распространяются по лицензии MIT; авторские права на базовую модель принадлежат DeepSeek, а распространение квантизированных файлов осуществляется на условиях релиза базовой модели.

Dolphin 3.0 Llama 3.2 1B — модель для диалогов и выполнения инструкций, подготовленная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 1B. Это плотная авторегрессионная языковая модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; используется формат ChatML. Модель предназначена для локального применения в качестве универсального помощника: она подходит для генерации кода, решения математических задач, вызова функций и общения на общие темы. Её можно настраивать системным промптом; обучающие данные включают наборы для кода, математики, агентных инструкций и диалогов. Карточка перечисляет английский язык. Доступны веса в формате safetensors. Модель лицензирована по условиям llama3.2. Это компактная модель с существенно меньшим числом параметров, чем крупные универсальные ассистенты; карточка не содержит результатов оценивания, поэтому качество для конкретных задач не подтверждено приведёнными тестами.

Dolphin3.0-Qwen2.5-1.5B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Dolphin3.0-Qwen2.5-1.5B, опубликованная и квантизированная bartowski на основе модели cognitivecomputations. Модель основана на Qwen2.5-1.5B и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на генерацию текста, выполнение инструкций, программирование, математические задачи, работу с function calling и агентскими сценариями. В README указаны английский язык и размер базовой модели 1,5 млрд параметров; сведения о длине контекста, точной архитектуре и других модальностях не приведены. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4 и Q3 с размерами примерно от 0,78 до 6,18 ГБ. Для большинства сценариев рекомендуются варианты Q4–Q6, обеспечивающие баланс качества и требований к памяти. Сильными сторонами являются компактный размер, возможность автономного запуска на локальном оборудовании и широкий выбор уровней квантизации. Более низкие варианты экономят память, но снижают качество; некоторые форматы являются устаревшими. Для корректного взаимодействия следует использовать шаблон prompt в формате ChatML, указанный в README. Модель распространяется по лицензии Apache-2.0.

Enteli-49B — текстовая генеративная модель, разработанная командой EnteliMind. В карточке заявлены возможности понимания и генерации текста, рассуждений, программирования и математических задач; также описана адаптация под отраслевые сценарии. Эти заявления о качестве и сравнении с GPT-3.5 не подтверждены приведёнными данными бенчмарков. Метаданные указывают архитектуру MixtralForCausalLM семейства Mixtral с разреженной смесью экспертов (MoE), 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогового использования и выдаёт текст; карточка описывает удобство интеграции через Hugging Face Transformers. README не сообщает поддерживаемые естественные языки или лицензию, поэтому их нельзя уточнить. Модель распространяется в формате safetensors. В карточке заявлены эксперименты с нормализацией EMADNorm, однако подробностей для оценки их влияния на качество не приведено.

Andycurrent/gemma-3-4b-it-uncensored-v2-GGUF — квантованные версии Gemma-3-4B-IT-Uncensored-v2, созданной на базе Gemma 3 и модели braindao/gemma-3-4b-it-uncensored-v2. Это инструкционно дообученная языковая модель примерно на 4 млрд параметров, предназначенная для локального, офлайн- и приватного развертывания. Указан английский язык; модель работает в текстовом режиме и использует формат чата Gemma с маркерами начала и конца хода диалога. Модель ориентирована на диалоги, генерацию текста, творческие задачи, рассуждения, структурированные ответы, объяснение кода, примеры и лёгкую отладку. Она делает акцент на высокой отзывчивости, следовании пользовательским инструкциям, стабильности в продолжительных диалогах и уменьшенном количестве встроенных ограничений, поэтому может применяться для персональных ассистентов, ролевых систем, prompt engineering, исследований выравнивания и экспериментов с поведением моделей. Ключевое преимущество — сочетание компактного размера и возможности запуска на потребительских GPU, CPU с квантованием и устройствах с ограниченными ресурсами. При этом точные параметры квантования, максимальная длина контекста и результаты бенчмарков не указаны. Из-за минимально ограниченного поведения модель может генерировать контент, который обычно фильтруется; пользователю необходимо самостоятельно учитывать требования законодательства, политики и этические нормы. Лицензия наследует условия оригинальной модели Gemma.

gemma-4-26B-A4B-it-Uncensored-MAX-GGUF — это GGUF-версия модели, разработанной prithivMLmods на базе google/gemma-4-26B-A4B-it. Модель представляет собой модифицированную версию Gemma с уменьшенным уровнем встроенных отказов от ответа: для этого применялись анализ направлений отказа и методы abliteration. Заявлено сохранение возможностей рассуждения и следования инструкциям исходной архитектуры. Модель предназначена для генерации текста, подробных ответов, выполнения инструкций, исследовательских и обучающих сценариев, а также агентских задач. Указана поддержка обработки изображений и текста; заявлен английский язык. Архитектура описана как MoE, размер — 26 млрд параметров. Доступны файлы GGUF в форматах BF16, F16, F32 и Q8_0, а также отдельные mmproj-файлы для мультимодальной обработки. Сведения о размере контекстного окна и точных характеристиках MoE-компонентов не приведены. К сильным сторонам относятся сниженная склонность к отказам, ориентация на подробные ответы, рассуждение и следование инструкциям. Ограничением является потенциально повышенный риск генерации небезопасного или незаконного содержания из-за уменьшенных защитных механизмов; использование осуществляется на риск пользователя. Модель предоставляется по лицензии Apache-2.0 и заявлена авторами для исследовательских и учебных целей.

Gemma 4 31B it qat JANG_4M CRACK — созданная dealignai модификация Google Gemma 4 31B Instruct для запуска в vMLX на компьютерах Mac с Apple Silicon. Это плотная мультимодальная модель класса Gemma4 с 60 слоями и гибридным скользящим и глобальным вниманием; она принимает текст и изображения, поддерживает диалог, ответы на вопросы, многошаговые рассуждения и генерацию кода. Квантизация JANG_4M использует 8-битную точность для attention и 4-битную для MLP. По заявлению авторов, модель сохраняет возможности зрения и связность ответов; в их тестах MMLU снизился на 1,8 процентного пункта относительно базовой модели. Авторы также сообщают о снятии отказов для широкого набора вредоносных запросов. Это существенно ограничивает безопасное применение модели: она может помогать с опасными действиями. Для запуска требуется vMLX с поддержкой Gemma 4 и Mac на Apple Silicon с достаточной общей памятью; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки Gemma 4. Лицензия — Gemma; авторы указывают исследовательское назначение и ответственность пользователей за соблюдение законов.

GLM-4.5-Air-bf16 — версия GLM-4.5-Air, подготовленная сообществом mlx-community для запуска в MLX на устройствах Apple с поддержкой MLX. Репозиторий преобразован из zai-org/GLM-4.5-Air с помощью mlx-lm 0.28.2; по метаданным, модель относится к семейству GLM-4 MoE и содержит 8,5 млрд параметров. Лицензия — MIT. Модель предназначена для генерации текста в диалоговом режиме. Базовая GLM-4.5-Air рассчитана на рассуждения, программирование и работу интеллектуальных агентов с инструментами; в этой карточке подтверждены диалоговая возможность и задача text-generation. Контекстное окно — 131 072 токена. Поддерживаемые языки по карточке — английский и китайский. Преобразованная версия упрощает запуск модели в экосистеме MLX. Доступные сведения не подтверждают отдельную оценку качества именно этой сборки или её поддержку вызова инструментов; назначение инструментов указано для базовой модели.

Human-Like-LLama3-8B-Instruct-GGUF — это 8-миллиардная текстовая instruction-модель семейства Llama 3, разработанная HumanLLMs на основе Humanish-LLama3-8B-Instruct. Данная версия опубликована в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Обучение или дообучение модели связано с набором данных humanish-dpo-project и методом DPO. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и иных текстовых сценариях. В README приведены результаты оценивания на IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако показатели заметно различаются между задачами, поэтому их следует рассматривать как ориентиры, а не гарантию качества в конкретном применении. Мультимодальность, поддерживаемые языки, размер контекстного окна и рекомендуемый формат промптов в карточке не указаны. Доступно несколько вариантов квантизации от F16 до Q3_K_XL. Более высокие варианты обычно лучше сохраняют качество, но требуют больше памяти; Q4_K_M указан как вариант стандартного размера, а Q5 и Q6 — как высококачественные варианты. Ограничения включают отсутствие описания prompt format и неполную информацию о языках, контексте и поведении модели. Лицензия указана как llama3.

SirSahOl подготовил 16-битную версию модели IFM/K2-Horizon-0.9B для запуска на компьютерах Apple Silicon с помощью MLX. Это плотная причинная языковая модель примерно на 924,5 млн параметров с контекстом до 8192 токенов, предназначенная для диалогов и генерации текста. Базовая модель описана как компактная модель для рассуждений, математики и программирования; эти возможности унаследованы от неё. Модель распространяется в формате safetensors и рассчитана на запуск через MLX. README приводит замеры на Apple M1 и рекомендации по объёму памяти для разных вариантов точности. Для этой версии требуется Apple Silicon M1 или новее; при работе с контекстами длиннее 8 тысяч токенов качество может снижаться. Лицензия — Apache 2.0.

WhiskyAKM публикует NVFP4-квантизированную GGUF-версию K2-Horizon-3.7B, модели семейства IFM. Это плотная авторегрессионная модель-декодер с 3,7 млрд параметров и контекстом до 524 288 токенов; репозиторий предназначен для запуска через llama.cpp и другие совместимые с GGUF движки. Модель поддерживает диалоговую генерацию текста, а карточка указывает английский язык. Версия NVFP4 использует 4-битный формат и ориентирована на совместимое оборудование NVIDIA Blackwell. В README приведены результаты исходной модели на математических, кодовых и других тестах, однако они не характеризуют отдельно качество этой квантизированной сборки. Базовая модель описана как предназначенная для генерации текста, программирования и рассуждений. Лицензия — Apache-2.0.

Laser-Dolphin-Mixtral-4x7b-dpo — языковая модель семейства Mixtral, опубликованная macadeliccc. Это MoE-модель для генерации текста, созданная на основе cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser; карточка указывает на проект laserRMT и приводит оценки модели на тестах языковых моделей. Метаданные описывают архитектуру как MixtralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель подходит для диалогов и генерации текста, включая написание кода и ответы на запросы; в README приведён пример запроса на Python-код. Веса опубликованы в формате safetensors, а карточка сообщает об оценке в 4-битной квантизации AWQ. Репозиторий распространяется по лицензии Apache-2.0. Данные о поддерживаемых естественных языках не приведены.

LiquidAI/LFM2.5-1.2B-Thinking-MLX-4bit — это 4-битная MLX-версия модели LFM2.5-1.2B-Thinking, разработанная Liquid AI для инференса на устройствах Apple Silicon. Модель предназначена для генерации текста, решения задач и сценариев, требующих рассуждений: перед выдачей итогового ответа она формирует объяснение цепочки рассуждений. Поддерживаются вызовы инструментов и диалоговый формат ChatML. Модель содержит 1,2 млрд параметров, использует 4-битную точность с размером группы 64, занимает около 628 МБ и поддерживает контекст длиной до 32K токенов. В README заявлена поддержка английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Версия ориентирована на локальный запуск через MLX и пакет mlx-lm на Apple Silicon; рекомендуемые параметры генерации оптимизированы для низкой температуры и коротких ответов. К сильным сторонам относятся компактный размер, низкая разрядность, возможность локального использования на совместимых устройствах, поддержка многошаговых рассуждений и function calling. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, а также необходимость учитывать, что вывод рассуждений может быть объёмным и не всегда гарантирует корректность ответа. Модель распространяется по лицензии LFM 1.0.

Apollo Raines опубликовал вариант Llama 3.1 8B Instruct, изменённый инструментом jBlaze методом representation engineering. По описанию автора, дополнительного обучения не было: изменения в весах подавляют отказы и уклончивые формулировки, чтобы ответы были более прямыми. Модель предназначена для диалоговой генерации текста, ответов на вопросы и выполнения инструкций, включая задачи по программированию. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она принимает текст и выдаёт текст; в карточке указаны английский язык и контекст до 131 072 токенов. Автор характеризует релиз как демонстрационную версию с намеренно сниженной полнотой возможностей. Указана лицензия Llama 3.1; свойства изменения отказов могут влиять на безопасность ответов, а заявленных автором проблем не обнаружено.

Llama3.1-8B-ShiningValiant2-GGUF — это квантизированная GGUF-версия языковой модели Llama3.1-8B-ShiningValiant2, разработанной ValiantLabs и подготовленной к распространению пользователем bartowski. Модель предназначена для генерации текста, диалоговых и инструкционных сценариев, включая работу с научно-техническими темами: физикой, биологией, химией, информатикой и инженерией. Указан английский язык. Модель основана на архитектуре Llama и имеет около 8 млрд параметров. Она представлена в форматах от F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; запуск рекомендуется через LM Studio. В README не указаны модальности, максимальный размер контекста и результаты сравнительных тестов, поэтому её преимущества можно уверенно связывать главным образом с выбором размера и уровня квантизации. Качество и потребление памяти зависят от выбранного варианта: F16 обеспечивает максимальное сохранение исходных характеристик, а квантизированные версии подходят для локального запуска на менее производительном оборудовании, но могут уступать по качеству. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. Модель распространяется по лицензии llama3.1.

Shenzhi Wang и соавторы разработали Llama3-8B-Chinese-Chat — диалоговую модель на базе Meta-Llama-3-8B-Instruct, дообученную методом ORPO для китайско- и англоязычных пользователей. Этот репозиторий содержит веса GGUF в формате F16; модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста, включая ролевые сценарии, использование инструментов и решение математических задач. По сравнению с базовой моделью авторы отмечают меньше случаев, когда на китайский запрос следует английский ответ, и меньше смешения китайского и английского в китайских ответах. В README описана версия v2.1 с улучшениями в ролевых диалогах, вызове функций и математике. Известное ограничение: модель не дообучали на сохранение своей идентичности, поэтому ответы о том, кто она и кем создана, могут быть случайными. Для использования действуют условия лицензии Llama 3.

Llama-Deepsync-1B — дообученная PrithivMLmods модель на базе Meta Llama 3.2 1B Instruct для генерации текста и диалогов. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса SafeTensors; модель можно запускать через Transformers. Модель предназначена для ответов на сложные запросы с логическим рассуждением, решения задач по математике, генерации и объяснения кода, творческого письма и создания структурированных ответов, включая JSON. В README также заявлена поддержка многоязычного общения и генерации длинных текстов. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; более широкое заявление README о 29 языках не подкреплено их перечнем в метаданных. Лицензия — CreativeML OpenRAIL-M.

LRM-3.2 — модель рассуждений, разработанная Orion Research и дообученная на базе Qwen3.6-27B. Она предназначена для диалогов, решения задач и многошаговой работы, включая агентные сценарии. Модель сокращает рассуждения во внутреннем ходе мыслей: их длина адаптируется к сложности задачи, а ответы пользователю сохраняют обычную полноту и естественность. Заявленная цель — снизить задержку и расход токенов без ухудшения качества итоговых ответов. Архитектура — плотная Qwen3.5, базовая модель содержит 27 млрд параметров. Дообучение выполнено на наборах ProCreations/grug-think и ProCreations/grug-think-v3-10k с акцентом на траектории рассуждений; README указывает, что токенизатор и длина контекста базовой модели не менялись, но числовое значение контекста не приводит. Модель распространяется в формате safetensors по лицензии Apache-2.0. Описание и примеры сосредоточены на английском языке; поддержка других языков отдельно не заявлена.