I.3Извлечение и структурирование данных

Spark-X2.5-4B-GGUF — это GGUF-квантизированная версия модели Spark-X2.5-4B, разработанной XHToken. Квантизацию выполнил stornic56 с использованием imatrix и форка llama.cpp на базе коммита b10514-4a3635c32; начиная с версии llama.cpp b10828 архитектура spark2_5 поддерживается в основном репозитории. Модель содержит около 4,11 млрд параметров, принимает текстовые данные и поддерживает английский и китайский языки. Модель предназначена для генерации текста в диалоговых и прикладных сценариях, включая рассуждения и thinking-режим, а также вызов инструментов. Шаблон чата встроен в каждый GGUF-файл и поддерживает автоматическое применение через --jinja. По умолчанию рассуждения выводятся внутри тегов <think>...</think> перед итоговым ответом. Доступны варианты от BF16 до низкобитных Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_NL, Q3_K_M, IQ3_M и IQ2_M; вариант Q4_K_M рекомендован как компромисс между размером и качеством. К сильным сторонам относятся широкий выбор квантизаций, поддержка imatrix и возможность запуска через llama.cpp, включая ускорение на Intel Arc с Vulkan. IQ2_M сохраняет работоспособность в расширенном тесте связности, тогда как Q2_K был исключён из выпуска из-за циклов повторения; варианты ниже IQ2_M не создавались из-за ожидаемой существенной потери качества. Максимальная длина контекста в README не указана, поэтому параметры запуска с 8192 или 16384 токенами нельзя считать подтверждённым ограничением модели. Распространение осуществляется по лицензии Apache-2.0.

MaziyarPanahi/Trinity-Mini-GGUF — набор файлов модели Trinity-Mini в формате GGUF, подготовленный MaziyarPanahi на основе оригинальной модели arcee-ai. Модель разработана Arcee AI и предназначена для генерации текста, рассуждений, а также прикладных сценариев, включая работу с математикой и кодом. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки. Trinity-Mini — разреженная Mixture-of-Experts модель архитектуры AfmoeForCausalLM с 26 млрд общих параметров и 3 млрд активных параметров. Она содержит 128 экспертов, из которых одновременно используются 8, а также одного общего эксперта. Контекстное окно составляет 128 тысяч токенов. Модель обучалась на 10 трлн токенов, включая дополнительные данные по математике и программированию. В репозитории доступны варианты квантования с разной разрядностью — от 2 до 8 бит. К сильным сторонам относятся большое контекстное окно, эффективная MoE-архитектура и возможность локального запуска с выбором уровня квантования. README не содержит сведений о поддерживаемых языках, результатах конкретных бенчмарков и ограничениях качества, поэтому эти характеристики нельзя оценить точнее. Для работы требуются совместимые версии llama.cpp или других клиентов, поддерживающих GGUF. Модель распространяется по лицензии Apache 2.0.

jondurbin выпустил эту плотную авторегрессионную модель семейства LLaMA с 12,9 млрд параметров, дообученную на синтетических данных, созданных GPT‑4. Она генерирует текст в формате диалога Vicuna и предназначена для ответов на вопросы, рассуждений, работы с викторинами, математическими задачами, кодом, заданиями с выбором ответа и пропусками, а также для ответов по предоставленному контексту. Особенность модели — обучение следовать заданному контексту и по возможности ограничивать ответы сведениями из него, чтобы уменьшить галлюцинации. Репозиторий содержит веса PyTorch; заявленное метаданными контекстное окно — 4096 токенов, однако автор предупреждает, что работа на такой длине не проверена и качество может снижаться за пределами примерно 2048 токенов. Модель основана на LLaMA, для которой README описывает использование шаблона Vicuna; лицензия CC BY-NC 4.0 допускает использование с ограничением на коммерческое применение.

TheBloke опубликовал модель Jon Durbin Airoboros 33B GPT4 1.4 в формате PyTorch fp16, объединив её с SuperHOT 8K от Kaio Ken. Это плотная авторегрессионная модель семейства LLaMA примерно с 32,3 млрд параметров и контекстом до 8192 токенов. В README указано, что для поддержки расширенного контекста при инференсе требуется trust_remote_code=True или соответствующий monkey patch. Модель предназначена для диалогов и ответов на инструкции, включая вопросы по предоставленному контексту, генерацию текстов, ролевые сценарии, загадки и примеры кода. Обучающие данные Airoboros были синтетически созданы с помощью GPT-4; в карточке также отмечены примеры кода на десяти языках программирования. Для полного качества ответы на закрытые вопросы по контексту рекомендуется задавать в специальном формате, описанном в README. Веса доступны в формате PyTorch fp16 для GPU-инференса и дальнейшей конвертации. README помечает исходную версию Airoboros как ещё не протестированную; модель требует совместимого окружения и настройки расширенного контекста. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с файлами репозитория.

Darwin-4B-Opus — языковая модель для диалога и рассуждений, созданная VIDRAFT с помощью движка Darwin V6. Это слияние Google Gemma 4 E4B Instruct и модели Gemma-4-E4B-Claude-4.6-Opus-Reasoning-Distilled; при слиянии DARE-TIES применялись диагностически подобранные коэффициенты для отдельных тензоров. Модель использует архитектуру Gemma4ForConditionalGeneration с MoE, содержит около 4 млрд параметров и представлена в формате BF16 и safetensors. Модель предназначена для ответов на вопросы, рассуждений, программирования, математики и анализа на одном потребительском GPU. В README заявлены контекст 128 тыс. токенов и поддержка более 140 языков; метаданные карточки перечисляют английский, корейский, японский и китайский. Архитектура базовой модели поддерживает изображения и аудио, однако README не описывает эти сценарии для Darwin-4B-Opus. В README приведён результат 82,92% на ARC-Challenge в режиме zero-shot; авторы отмечают, что проверка здоровья модели не проводилась. Модель распространяется по лицензии Apache 2.0. Фактическое качество на других задачах и мультимодальная работа в карточке не подтверждены.

squanchyzx/DeepSeek-V4-Flash-0731-HERETIC-Abliterated-FP8 — производная модель от DeepSeek-V4-Flash-0731, разработанной DeepSeek. Релиз создан издателем squanchyzx с использованием Heretic v1.4.0, проекта Philipp Emanuel Weidmann и соавторов. Модель предназначена для генерации текста, рассуждений, работы с инструментами и длительных агентских сессий, особенно в сценариях с большими историями диалога и большим количеством вызовов инструментов. Модель сохраняет официальную архитектуру DeepSeek V4/DSpark, native FP8-представление, официальный encoder, tokenizer и конфигурацию базовой модели. В версии v2 изменены attention output projections в слоях 10–42: применена rank-3 коррекция refusal subspace для режимов chat, think-high и think-max со сниженной силой lambda=1.35. MTP/DSpark-тензоры, эксперты, embeddings, norms, heads и остальные компоненты не изменялись. Заявлено сконфигурированное контекстное окно до 1 048 576 токенов; для запуска требуется DeepSeek-V4-совместимый runtime и официальный encoder. Сильной стороной релиза является целевая проверка устойчивости к деградации в длинных историях: в опубликованных тестах 12 из 12 длинных воспроизведений завершились без повторяющихся последовательностей, переключения скриптов и других патологий, а 6 из 6 проверенных вызовов инструментов были корректными. При этом результаты являются ограниченными релизными тестами, а не универсальным бенчмарком: короткая проверка качества дала 11 из 12 успешных результатов, а refusal smoke — 6 из 16. Совместимость с обычными runtime без поддержки DeepSeek V4 не гарантируется. Модель распространяется по лицензии MIT. При этом используемый проект Heretic имеет отдельную лицензию AGPL-3.0-or-later; README подчёркивает, что Heretic не принадлежит издателю модели.

DictaLM 3.0 24B Thinking — разговорная reasoning-модель семейства Mistral, разработанная Dicta. Она предназначена для диалога и генерации ответов с предварительным рассуждением в отдельном блоке; также поддерживает вызов внешних инструментов и API. Модель содержит 23,4 млрд параметров, использует плотную архитектуру Mistral и принимает текстовые запросы, выдавая текстовые ответы. Она обучена на обширных корпусах на иврите и английском; длина контекста составляет 65 280 токенов. Для работы с инструкциями следует использовать шаблон чата модели. В карточке указаны веса safetensors и лицензия Apache-2.0.

Euraika/EuroLLM-22B-Instruct-GPTQ — 4-битная GPTQ-квантизованная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной командой EuroLLM проекта UTTER. Квантизацию выполнила Euraika с использованием GPTQModel; модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, объяснение сложных тем и работу в формате ChatML. Модель поддерживает все 24 официальных языка Европейского союза, а также турецкий, украинский и другие европейские языки: английский, немецкий, французский, итальянский, испанский, португальский, польский, нидерландский, чешский, греческий, венгерский, румынский, финский, шведский, болгарский, словацкий, датский, словенский, литовский, латышский, эстонский, хорватский, ирландский, мальтийский и норвежский. Архитектура базовой модели в README не уточнена; заявлены 22 млрд параметров, 53 трансформерных слоя и размер квантизованной модели около 14 ГБ. Используется GPTQ с точностью 4 бита, group size 128 и desc_act=true. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении заявленного качества квантизации; поддерживаются инференс через GPTQModel, vLLM и Transformers/AutoGPTQ, а также работа на нескольких GPU. Минимально рекомендуется 16 ГБ VRAM, оптимально — 24 ГБ. Ограничения включают зависимость качества от 4-битной квантизации и отсутствие в README сведений о длине контекста базовой модели, мультимодальности, результатах независимых бенчмарков и конкретных гарантиях качества. Модель распространяется по лицензии Apache 2.0.

Falcon-H1-7B-Instruct — мультиязычная языковая модель, разработанная командой Falcon. Это плотная авторегрессионная модель с гибридной архитектурой Transformer и Mamba, дообученная на базе tiiuae/Falcon-H1-7B-Base для диалогового взаимодействия и генерации текста. Модель содержит 6,4 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, ответов на вопросы, рассуждений и других задач генерации текста. В карточке указана поддержка английского и многоязычного ввода; метаданные перечисляют арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский. Для запуска подходят Transformers и vLLM; файлы GGUF доступны в официальной коллекции для llama.cpp. Карточка приводит результаты сравнительной оценки на общих и логических задачах, но они не гарантируют качество в каждом сценарии. Лицензия — Falcon-LLM License; перед применением следует проверить её условия.

Карточка модели Eric111/FINAL-Bench_Darwin-4B-Opus на Hugging Face совпадает с карточкой FINAL-Bench/Darwin-4B-Opus, поэтому описание составлено по ней. Darwin-4B-Opus — языковая модель для диалога и рассуждений, созданная VIDRAFT с помощью движка Darwin V6. Это слияние Google Gemma 4 E4B Instruct и модели Gemma-4-E4B-Claude-4.6-Opus-Reasoning-Distilled; при слиянии DARE-TIES применялись диагностически подобранные коэффициенты для отдельных тензоров. Модель использует архитектуру Gemma4ForConditionalGeneration с MoE, содержит около 4 млрд параметров и представлена в формате BF16 и safetensors. Модель предназначена для ответов на вопросы, рассуждений, программирования, математики и анализа на одном потребительском GPU. В README заявлены контекст 128 тыс. токенов и поддержка более 140 языков; метаданные карточки перечисляют английский, корейский, японский и китайский. Архитектура базовой модели поддерживает изображения и аудио, однако README не описывает эти сценарии для Darwin-4B-Opus. В README приведён результат 82,92% на ARC-Challenge в режиме zero-shot; авторы отмечают, что проверка здоровья модели не проводилась. Модель распространяется по лицензии Apache 2.0. Фактическое качество на других задачах и мультимодальная работа в карточке не подтверждены.

Gemma 2 9B Instruct — языковая модель Google с открытыми весами, построенная на архитектуре decoder-only и адаптированная для следования инструкциям и диалога. Она принимает текст и генерирует текст; семейство Gemma описано как ориентированное на английский язык. Репозиторий содержит производную версию базовой модели google/gemma-2-9b и файлы safetensors для использования с Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по заданному контексту. Относительно компактный размер семейства позволяет запускать модели Gemma на локальных компьютерах или собственной облачной инфраструктуре, хотя фактические требования зависят от конфигурации запуска. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Использование регулируется лицензией Gemma.

unsloth/gemma-3n-E4B-it — инструкция-настроенная версия Gemma 3n E4B от Google, опубликованная Unsloth. Это плотная модель класса Gemma3n с архитектурой Gemma3nForConditionalGeneration и поддержкой диалога и изображений. Репозиторий содержит веса safetensors; в README для этой сборки заявлена работа только с текстом, поэтому описанные для семейства возможности обработки изображений, видео и аудио здесь не подтверждены. Модель предназначена для генерации текста и диалоговых сценариев: создания черновиков и кода, суммаризации, ответов на вопросы и работы чат-ботов. README указывает контекст до 32 тысяч токенов. Семейство Gemma 3n рассчитано на эффективный запуск на устройствах с ограниченными ресурсами благодаря выборочной активации параметров; для этой конкретной сборки общее число параметров в предоставленных метаданных не указано. Ожидаемые ограничения включают возможные фактические ошибки, смещения обучающих данных и затруднения с неоднозначными или сложными запросами. Лицензия — Gemma; перед использованием следует учитывать её условия.

Это конвертированная в формат MLX модель Gemma 4 12B Unified, основанная на google/gemma-4-12B. Конверсию выполнило сообщество mlx-community с помощью mlx-vlm версии 0.6.0; модель предназначена для запуска на устройствах Apple с MLX. Базовая модель Google DeepMind поддерживает диалоги, код, рассуждения и анализ текста, изображений, видео и аудио. Репозиторий содержит веса safetensors в формате bf16. Лицензия — Apache-2.0. README отсылает за подробностями к карточке исходной модели, поэтому специфические для этой конверсии сведения о контекстном окне, языковой поддержке и качестве не приведены. Для запуска через описанный интерфейс требуется mlx-vlm.

GLM-5.3-Flash-REAP-250B-A18B — мультимодальная MoE-модель, разработанная OpenMOSE на базе GLM-5.3-Flash от zai-org. Она предназначена для многоязычного диалога, работы с кодом и задач, связанных с японским языком; заявленная мультимодальность включает обработку текста и изображений. В README указаны языки English, Chinese и Japanese. Модель использует архитектуру Glm5NextForConditionalGeneration с 42 MoE-слоями и 228 маршрутизируемыми экспертами в каждом слое вместо 288 у исходной модели. В ней 250,5 млрд параметров без MTP-слоя и 257,9 млрд с ним, при этом число активных параметров на токен сохранено на уровне 18 млрд: выбираются 8 из оставшихся экспертов и общий эксперт. Модель хранится в блочном формате FP8, занимает около 265 ГБ и совместима с исходным кодом инференса; vision tower, MTP-слой, токенизатор и chat template скопированы без изменений. Контекст в README явно не указан. Эксперты были удалены методом domain-aware REAP без дополнительного обучения. Такой подход сохраняет важные для чата и программирования эксперты лучше, чем калибровка по одному домену, одновременно уменьшая размер модели и требования к GPU при сохранении исходной вычислительной нагрузки на токен. Ограничение метода состоит в том, что удаление экспертов неизбежно сокращает ёмкость модели и может ухудшить способности в доменах, не представленных в калибровочных данных; README не приводит независимых количественных результатов оценки качества. Модель распространяется по лицензии MIT.

GPT-5 Mini — компактная версия GPT-5 от OpenAI для задач рассуждения с умеренной вычислительной нагрузкой. Она рассчитана на сценарии, где важны меньшие задержки и стоимость при сохранении навыков следования инструкциям и настройки безопасности, характерных для GPT-5.

GRaPE 2 Flash — мультимодальная модель семейства GRaPE, разработанная под брендом SLAI (Skinnertopia Lab for Artificial Intelligence). Это дообученная версия Qwen3-VL-8B-Thinking с архитектурой Qwen3-VL; в карточке указано около 9 млрд параметров. Модель принимает изображения и текст и формирует текстовые ответы. Она рассчитана на развертывание на потребительском оборудовании и предлагает режимы управления глубиной рассуждений. Основные сценарии — программирование, задачи по науке, технике, инженерии, искусству и математике, логические рассуждения и структурированное решение задач, в том числе с визуальными данными. Доступные языковые метки охватывают английский, китайский, французский, немецкий, испанский, японский, корейский, португальский, русский и арабский. Обучающие данные закрыты; в карточке нет результатов бенчмарков, поэтому качество на конкретных задачах следует проверять отдельно. Модель выпущена по лицензии Apache 2.0.

mlx-community/K2-Horizon-7B-bf16 — конверсия модели IFM/K2-Horizon-7B в формат MLX с точностью bf16, подготовленная сообществом mlx-community для компьютеров Apple silicon. Это плотная авторегрессионная модель семейства K2-Horizon с 7B параметров по README и 8B по метаданным; она поддерживает контекст до 524 288 токенов и предназначена для диалогов и генерации текста, включая работу с длинными запросами. В карточке описаны проверки соответствия реализации PyTorch и тестовые примеры генерации. Модель подходит для ответов на вопросы, рассуждений, помощи с кодом и обработки длинных текстов. Конверсия выполнена без квантизации, поэтому веса занимают около 18 ГБ; с учётом памяти для KV-кэша длинный контекст требует существенно больше оперативной памяти. Для запуска указана библиотека mlx-lm и необходимость доверенной загрузки кода модели в некоторых версиях. Лицензия — Apache-2.0.

Llama3.1-70B-ShiningValiant2-GGUF — это квантизированная версия текстовой генеративной модели Llama3.1-70B-ShiningValiant2, разработанной ValiantLabs и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров; она ориентирована на режимы instruct и chat и предназначена прежде всего для работы с английским языком. Модель подходит для генерации текста, диалоговых сценариев, решения задач по естественным и техническим дисциплинам, включая физику, биологию, химию, информатику, инженерию и логическое рассуждение. В README приведены результаты на Winogrande и отдельных подзадачах MMLU, включая MMLU College Biology, что указывает на сильную сторону модели в задачах общего и научного понимания. Для запуска предлагается использовать LM Studio или совместимое программное обеспечение на базе llama.cpp с указанным шаблоном prompt. Доступно несколько вариантов квантизации с размером файлов примерно от 27,47 до 74,98 ГБ. Q6_K и Q5_K, а также Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; более компактные варианты экономят оперативную память, но могут заметно уступать по качеству. Требования к памяти, максимальный контекст, мультимодальные возможности и дополнительные языки в README не указаны. Модель распространяется по лицензии llama3.1.

QuantFactory/LLaMA3-iterative-DPO-final-GGUF — это неофициальная GGUF-квантизованная версия инструкционной языковой модели LLaMA3-iterative-DPO-final, созданная QuantFactory с использованием llama.cpp на основе модели RLHFlow. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и использование в conversational-приложениях. Модель имеет около 8 млрд параметров и обучена методом Iterative DPO — вариантом онлайн-RLHF, основанным на Direct Preference Optimization. По данным README, обучение проводилось на открытых наборах данных без дополнительной разметки людьми или GPT-4. В опубликованных результатах модель показывает высокие показатели на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также на академических тестах GSM-8K, MMLU, HumanEval, TruthfulQA, ARC и MBPP. Конкретный формат квантизации, поддерживаемые языки, длина контекста и точные требования к ресурсам не указаны. К сильным сторонам относятся компактный для инструкционной модели размер, возможность запуска в GGUF-совместимой инфраструктуре и хорошие заявленные результаты в диалоговых, математических, кодовых и общеобразовательных задачах. Ограничения включают неофициальный статус чекпойнта, возможные потери качества из-за квантизации и отсутствие подробных сведений о её параметрах. Указана лицензия llama3; дополнительные условия использования в README не раскрыты.

Llama-Thinker-3B-Preview — мультиязычная генеративная модель prithivMLmods на архитектуре Llama 3.2, дообученная на базе meta-llama/Llama-3.2-3B-Instruct. Модель содержит 3,2 млрд параметров и предназначена для диалога, генерации текста и решения задач, требующих рассуждений. По карточке, обучение включало supervised fine-tuning и обучение с подкреплением на синтетических данных с длинными цепочками рассуждений. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель доступна в формате safetensors и запускается через Transformers; для локального запуска карточка также описывает использование квантованных вариантов через Ollama. Лицензия — CreativeML OpenRAIL-M.

Mengzi3-13B-Base — базовая языковая модель Langboat на архитектуре Llama с 13,3 млрд параметров. Она продолжительно обучалась на многоязычном корпусе объёмом в триллионы токенов, включающем веб-страницы, энциклопедии, социальные сети, СМИ, новости и открытые наборы данных. Модель предназначена для генерации текста и дальнейшей адаптации под пользовательские задачи; карточка отмечает сильные способности в китайском языке и поддержку других языков. Модель может служить основой для приложений генерации текста, а также задач по математике и программированию. В карточке приведены сравнительные результаты бенчмарков, но они не гарантируют качество на конкретных пользовательских данных. Контекст составляет 8192 токена. Репозиторий содержит веса SafeTensors, а лицензия — Apache-2.0. Разработчики предоставляют модель «как есть» и возлагают ответственность за её применение на пользователей.

Rubra AI выпустила эту инструктивную версию Meta-Llama-3-70B, дополнительно обученную на собственном наборе данных для диалогов, выполнения инструкций и вызова функций. Модель предназначена для многошаговых бесед, в которых ассистент может вызывать инструменты и продолжать диалог с учётом полученных результатов. Это плотная авторегрессионная языковая модель архитектуры Llama с 69,5 млрд параметров. Она принимает текст и генерирует текст; карточка указывает поддержку английского языка и контекст до 8192 токенов. Модель доступна в формате safetensors для Transformers. Модель подходит для диалоговых ассистентов и сценариев с интеграцией инструментов. Она может выдавать ошибочные или предвзятые ответы, поэтому результаты требуют проверки, особенно в чувствительных и критически важных областях. Указана лицензия Llama 3 (llama3).

Карточка модели mlabonne/Meta-Llama-3-8B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

Карточка модели satpalsr/Meta-Llama-3-8B на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

MiniCPM5-2B-heretic — компактная плотная языковая модель семейства MiniCPM5, представленная в карточке как модель для локального запуска на устройствах с ограниченными ресурсами. Она основана на архитектуре LlamaForCausalLM и содержит около 2,2 млрд параметров; README указывает 2,52 млрд параметров всего и 1,98 млрд без эмбеддингов. Контекстное окно составляет 131 072 токена. Модель предназначена для диалоговых помощников, генерации текста, программирования, математических рассуждений, работы с длинным контекстом и сценариев использования инструментов. Карточка заявляет сильные результаты относительно моделей сопоставимого размера в программировании, математике, понимании длинного контекста и агентных задачах, а также пригодность для локального и периферийного развертывания. Эти оценки приведены разработчиками и не являются независимой проверкой. Теги «heretic», «uncensored» и «abliterated» указывают на модификацию с ослабленными отказами, но README не описывает способ её получения; поэтому происхождение именно этой версии нельзя уверенно установить. Модель принимает текст и генерирует текст. В метаданных указаны английский и китайский языки. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; модель может выдавать нежелательный контент под воздействием специально составленных запросов. Ответы на чувствительные темы не являются профессиональной консультацией, а для практического применения нужны собственные меры безопасности.

Mixtral-8x7B-Instruct-v0.1 — инструктивная языковая модель Mistral AI на архитектуре Mixtral с разреженной смесью экспертов (MoE). Это дообученная версия Mixtral-8x7B-v0.1 для диалогов и генерации ответов по запросу. Модель принимает текст и выдаёт текст; в карточке заявлен контекст до 32 768 токенов. Для запуска README показывает токенизатор mistral-common и библиотеку mistralinference, а метаданные также указывают поддержку vLLM. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по инструкциям. В карточке она названа демонстрацией возможностей дообучения базовой модели. Указанные языки — английский, французский, итальянский, немецкий и испанский; специализация на каком-либо одном языке не заявлена. README предупреждает, что встроенных механизмов модерации нет. Лицензия — Apache-2.0.

Muse-Glimmer-30B-EXP-EVE-v1 — экспериментальная объединённая модель автора win10 на базе Muse-Glimmer-30B. В README описано слияние моделей разных архитектур методом Tensor Gene Evolution с добавлением возможностей и поведенческих особенностей DeepSeek-V4-Flash-0731 и dots3-note-prev. По метаданным это плотная мультимодальная модель семейства Muse Glimmer на 30 млрд параметров, работающая через Transformers и принимающая изображения и текст для генерации текстовых ответов. Модель предназначена для диалогов, анализа изображений, программирования, агентных сценариев и вызова инструментов. Автор отмечает более широкое и глубокое рассуждение и разнообразие способов решения задач по сравнению с базовой моделью; это заявление из карточки, а не приведённый результат независимой оценки. Распространяется по лицензии Apache-2.0.

AceReason-Nemotron-14B-GGUF — это квантизированная версия языковой модели AceReason-Nemotron-14B, разработанной NVIDIA. Сборка подготовлена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения математических задач, рассуждений и программирования; поддерживает английский язык и запускается через llama.cpp, LM Studio и другие совместимые проекты. Размер исходной модели составляет 14 млрд параметров. В репозитории доступны варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы варианты Q6_K, Q6_K_L, Q5 и Q4_K_M; для устройств с ограниченной памятью доступны более компактные варианты, но с более низким качеством. Архитектура, максимальная длина контекста и другие подробные характеристики в README не указаны. Модель удобна для локального запуска и ресурсоэффективного вывода, однако качество зависит от выбранного уровня квантования, а низкобитные варианты могут заметно уступать более крупным по точности. Для корректной работы следует использовать указанный формат prompt. Модель распространяется по NVIDIA Open Model License; конкретные условия необходимо уточнять в тексте лицензии NVIDIA.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель NVIDIA для генерации текста, диалогов и рассуждений. Это эталонный выпуск весов BF16, предназначенный прежде всего для дообучения, адаптации к предметной области, исследований и создания производных квантованных вариантов. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и Attention; в модели 30 млрд параметров, из которых активно задействуются 3 млрд, а также используются слои Multi-Token Prediction. Репозиторий содержит веса safetensors, модель работает через Transformers. Модель рассчитана на текстовые запросы и сценарии чата, включая инструкции, кодирование, агентные задачи и работу с длинным контекстом. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский, а в постобучающих данных представлены китайский и многоязычные задачи перевода и рассуждений. В README заявлена длина контекста до 1 млн токенов, тогда как метаданные каталога указывают нативный контекст 262 144 токена. Заявленная лицензия — other; карточка характеризует модель как пригодную для коммерческого использования. Полноточный вариант предназначен главным образом для настройки и оценки; для оптимизированного вывода NVIDIA рекомендует вариант NVFP4.

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-NVFP4-GGUF — GGUF-представление NVFP4-квантизованной эластичной языковой модели NVIDIA. В одном чекпойнте заключены три вложенных варианта на 30B, 23B и 12B параметров с общим пространством весов; для генерации можно выбрать подходящий размер. Модель основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 и сочетает Mamba-2, Transformer и Mixture-of-Experts. В базовой архитектуре 23 слоя Mamba-2 и MoE, 6 слоёв внимания, а в каждом MoE-слое — 128 экспертов и один общий, из которых на токен активируются шесть. Модель предназначена для диалогов, рассуждений и генерации текста, а вложенные размеры позволяют выбирать компромисс между качеством, вычислительными затратами и задержкой. Контекст в README указан до 128K в примере развёртывания и до 1M при увеличении настройки. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. В README описана квантизация NVFP4 с дистилляцией с учётом квантизации и заявлена готовность к коммерческому использованию. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с лицензией репозитория.