I.3Извлечение и структурирование данных

INTELLECT-3-GGUF — набор квантизированных версий языковой модели INTELLECT-3, разработанной Prime Intellect. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, задач рассуждения, агентских сценариев и применений, связанных с reinforcement learning и verifiers; запуск возможен через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В репозитории представлены файлы в формате GGUF с уровнями квантизации от Q8_0 до вариантов Q2 и IQ. Размеры файлов составляют примерно от 44,71 до 113,61 ГБ. Более высокие уровни, включая Q6_K, Q5_K_M и Q5_K_S, обеспечивают близкое к исходному качество, тогда как низкие уровни экономят память за счёт качества. README также отмечает архитектурную принадлежность к mixture-of-experts и поддержку английского языка, однако точные размеры модели, параметры контекста и полный набор модальностей не указаны. Модель ориентирована на локальный запуск и предлагает выбор между качеством, требованиями к памяти и скоростью инференса. Ограничениями являются значительный объём файлов даже для компактных вариантов и потенциальное снижение качества при использовании низких уровней квантизации. Распространение выполняется по лицензии MIT; базовая модель указана как PrimeIntellect/INTELLECT-3.

Qwen-2.5-Aether-SlerpFusion-7B — слитая текстовая модель на архитектуре Qwen2, созданная ZeroXClem с помощью mergekit и метода SLERP. Она объединяет Locutusque/StockQwen-2.5-7B и allknowingroger/QwenSlerp8-7B; размер модели составляет 7,1 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая создание контента, суммаризацию, перевод и чат-ботов. README также предлагает использовать её для юридических, медицинских и технических задач, однако не приводит специализированных оценок или подтверждения качества в этих областях. Модель принимает текст и генерирует текст; метаданные указывают английский и китайский языки. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-Instruct-GPTQ-Int4 — 4-битная GPTQ-квантизированная instruction-tuned модель для генерации и обработки кода из семейства Qwen2.5-Coder, разработанного командой Qwen/Alibaba Cloud. Модель предназначена для генерации, анализа, исправления и рассуждений о программном коде, а также для создания приложений на базе code agents. Она сохраняет общие математические и языковые возможности базовой модели Qwen2.5 и работает в формате causal language model. Модель содержит 14,7 млрд параметров, из которых 13,1 млрд не являются embedding-параметрами, и включает 48 слоёв. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в Attention QKV; применяется Grouped-Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. В README явно указан английский язык. Квантизация GPTQ Int4 уменьшает требования к памяти и облегчает развёртывание, но может влиять на качество по сравнению с полноточной версией. Для работы рекомендуется актуальная версия transformers, а для длинного контекста — vLLM с соответствующей настройкой. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-Coder, разработанной командой Qwen при Alibaba Cloud и представленной в репозитории Unsloth. Модель предназначена для генерации, анализа и исправления программного кода, кодового рассуждения, создания code agents, а также задач математики и общего назначения. В README явно указан английский язык. Модель относится к causal language models и использует архитектуру Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и механизм GQA с 28 головами для Q и 4 для KV; заявленная максимальная длина контекста — 131 072 токена. Базовая серия обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Существенные сильные стороны — специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также поддержка длинного контекста. README не приводит подробных ограничений качества, перечня языков программирования или характеристик именно 4-битного квантования. Для работы рекомендуется использовать актуальную версию библиотеки Transformers. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-2B-OptiQ-4bit — это локальная MLX-квантизация базовой модели Qwen/Qwen3.5-2B, подготовленная сообществом mlx-community с помощью инструментария mlx-optiq. Модель предназначена для запуска генерации текста на устройствах Apple Silicon без PyTorch и облачной инфраструктуры; её можно использовать через mlx-lm, а для расширенных сценариев — через mlx-optiq. Модель имеет преимущественно 4-битную смешанную точность: 130 слоёв используют 4-bit, а 56 чувствительных слоёв — 8-bit; всего квантизировано 186 слоёв, размер группы — 64. Распределение точности выбрано по результатам анализа чувствительности на калибровочной выборке из шести доменов: проза, рассуждения, код, агентские сценарии, вызовы инструментов и инструкции с ограничениями. Размер на диске составляет около 1,4 ГБ. В комплект входит MTP-голова для спекулятивного декодирования, обеспечивающая примерно 1,4-кратное ускорение генерации при поддержке mlx-optiq. Модель подходит для общего текстового общения, рассуждений, следования инструкциям, генерации кода, вызова инструментов и локальных агентских рабочих процессов. По указанным тестам она показывает 58,9% на MMLU, 55,6% на GSM8K, 59,7% на IFEval, 77,0% на BFCL и 51,2% на HumanEval; средний Capability Score составляет 50,41. Сильными сторонами являются компактность, адаптация к Apple Silicon и улучшенные по сравнению с равномерной 4-битной квантизацией результаты в большинстве метрик, особенно в HumanEval и BFCL. Ограничения включают зависимость от MLX и экосистемы Apple Silicon, потери качества из-за квантизации и нулевой результат в заявленном тесте длинноконтекстного поиска HashHop. Размер контекста, поддерживаемые языки и точные характеристики исходной Qwen3.5-2B в README не указаны. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это экспериментальная instruction-модель на базе Qwen3.5-9B, опубликованная пользователем W00ds1. В README указано, что она создана в результате многоэтапного fine-tuning и объединения нескольких моделей на локальном оборудовании при участии Nightmedia; базовая модель связана с DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель ориентирована на общий диалог, следование инструкциям, reasoning, программирование, творческое письмо и roleplaying, а также заявлена как uncensored и heretic-модель с уменьшенным количеством отказов. Модель поставляется в формате GGUF в обычных и MTP-вариантах, включая квантизации с использованием NEO IMATRIX. MTP предназначен для ускорения генерации за счёт multi-token prediction, но его эффективность зависит от оборудования, температуры и acceptance rate; при низком acceptance rate обычный вариант может работать быстрее. Заявлено контекстное окно 256k токенов. Поддерживаются английский и китайский языки. Vision активирован, однако для обработки изображений требуется отдельный файл mmproj. Указана совместимость со стандартными приложениями, поддерживающими GGUF. В README приведены результаты на ARC-C, ARC-E, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где модель сравнивается с рядом более крупных моделей; эти результаты следует считать заявленными авторами и не распространять автоматически на все задачи. Ограничения включают зависимость производительности от выбранной квантизации, режима thinking или instruct, параметров генерации и аппаратного обеспечения, а также отсутствие гарантии превосходства над моделями большего размера во всех сценариях. Лицензия указана как Apache-2.0.

Hellohihihih/qwen35-v35-textmix-merged-full — полноразмерная объединённая текстовая причинная языковая модель на архитектуре Qwen3.5, созданная автором репозитория на основе Qwen/Qwen3.5-9B и адаптера LoRA Hellohihihih/qwen35-v30-textmix-lora. Веса адаптера объединены с базовыми весами, поэтому для запуска не требуется загружать PEFT-адаптер отдельно. Модель предназначена для генерации текста и диалогов; в тегах карточки указаны английский и корейский языки, ответы на вопросы и рассуждения. Это текстовая версия без кодировщиков изображений, аудио и видео, а также без мультимодального проектора. Модель содержит 7,2 млрд параметров, поддерживает контекст до 262 144 токенов и распространяется в формате safetensors через Transformers. Лицензия указана как other, поэтому условия использования следует уточнить в карточке репозитория.

Qwen3.8-27B-OBLITERATED — производная текстовая генеративная модель, опубликованная пользователем bniler2 на базе Qwen/Qwen3.8-27B. Она относится к семейству Qwen3 и предназначена для генерации текста, программного кода и ответов на запросы, включая запросы, на которые исходная модель могла отвечать отказом или отвлечёнными предупреждениями. Модель ориентирована на исследовательские, red-team- и агентные сценарии, а также на локальный запуск в форматах GGUF, SafeTensors и MLX. Заявлены размер 27 млрд параметров и совместимость с режимом рассуждений Qwen3. В README рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Размер контекстного окна и перечень поддерживаемых языков не указаны. Для V3 заявлены показатель MMLU 82,3% в тесте lm-eval 0-shot, близкая к исходной модели производительность и полноценные ответы на тестовые задачи генерации кода, однако эти результаты приведены автором модели и не подтверждены независимой проверкой. Главная особенность модели — удаление или ослабление отказов и защитных ответов методом abliteration с последующей итеративной доработкой и смешиванием вариантов. Это может повысить полезность в задачах анализа безопасности и генерации кода, но одновременно снижает встроенные механизмы безопасного поведения и может привести к выдаче рискованного или вредоносного содержания. По сравнению с исходной моделью заявлено снижение MMLU на 2,1 процентного пункта. Модель распространяется по лицензии Apache-2.0.

Max-GE/Qwen3.8-27B-uncen — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Согласно README, модель создана с использованием Unsloth, методов COLD FUSION и Fable Fusion и ориентирована на повышение качества рассуждений, общее решение задач, программирование, творческое письмо, создание историй и roleplaying. Заявлена как uncensored/abliterated-модель. Модель относится к семейству Qwen3.8 с размером 27B и поддерживает английский и китайский языки. Репозиторий содержит Regular и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит; заявлена поддержка трёх режимов мышления. Основной особенностью разработчики называют сокращение объёма reasoning-токенов примерно от двух до десяти раз по сравнению с обычной Qwen3.8 при сохранении детализации и качества, а также оптимизацию скорости генерации. README также указывает тег image-text-to-text, но не приводит подробностей о визуальном энкодере или подтверждённой обработке изображений. Сильными сторонами заявлены высокие результаты на ARC-C и ARC-E, улучшение по сравнению с базовыми моделями Qwen и эффективность на потребительском оборудовании. Эти результаты представлены разработчиками и не сопровождаются в карточке независимой методологией проверки. Возможные ограничения включают зависимость характеристик от выбранной GGUF-квантизации, отсутствие данных о размере контекста и детальных тестах безопасности, а также uncensored-настройку, которая может повышать риск нежелательных или небезопасных ответов. В метаданных указана лицензия Apache-2.0.

SphinxMind-14B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В качестве базовой указана shuttleai/shuttle-3-mini; также в объединении участвовала EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2. Модель предназначена для генерации текста и диалогового общения. Размер составляет 14 млрд параметров, максимальный контекст — 65 536 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о конкретных языках, лицензии и специальных ограничениях в предоставленных данных отсутствуют.

Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.

SynthIA-7B-v1.3-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi объединением mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/SynthIA-7B-v1.3-dare-0.85 методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов в диалоговом формате. Модель принимает текст и выдаёт текст; контекст составляет до 32 768 токенов. Её можно применять для чат-ботов, ответов на инструкции, черновиков и суммаризации текста. В карточке указана лицензия Apache-2.0. README не приводит сравнительных оценок качества или подробных ограничений, поэтому результаты следует проверять на целевых задачах.

Thespis-CurtainCall-7b-v0.3 — языковая модель на 7,1 млрд параметров, опубликованная cgato. Это плотная авторегрессионная модель семейства Mistral для генерации текста; в карточке указан контекст до 32 768 токенов и формат PyTorch. Модель обучена на наборах Dolphin, UltraChat, Capybara, Augmental, ToxicQA, MagicCoder-Evol-Instruct-110k, Yahoo Answers, OpenOrca, Airoboros 3.1 и данных по физическому рассуждению и теории разума. Она предназначена для диалогов и генерации ответов в шаблоне, совместимом с Ooba и Silly Tavern, а также может применяться для инструкционного следования, рассуждений и задач по коду благодаря составу обучающих данных. Модель выпущена как версия 7B; автор сообщает о планах выпустить вариант Mixtral. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не сообщает результаты оценивания качества, поэтому пригодность для конкретных задач следует проверять самостоятельно.

constructai/VibeThinker-3B-GGUF — это квантизированная версия языковой модели VibeThinker-3B, разработанной WeiboAI и преобразованной в формат GGUF командой constructai. Модель предназначена для генерации текста и эффективного запуска на CPU и GPU с помощью llama.cpp, Ollama, LM Studio и других совместимых средств. Модель содержит около 3 миллиардов параметров и ориентирована на задачи рассуждения, математики, программирования, instruction-following и оценки уровня GPQA. Доступны варианты с разными уровнями квантизации и размером файлов примерно от 791 МБ до 6,18 ГБ, включая F16, Q8_0, Q6_K, Q5_K, Q4_K и другие форматы. README не указывает поддерживаемые языки, максимальную длину контекста и наличие мультимодальных возможностей, поэтому модель следует считать текстовой, а эти характеристики — неизвестными. К сильным сторонам относятся относительно небольшой размер, широкий выбор квантизаций и возможность локального запуска на доступном оборудовании. Более агрессивная квантизация уменьшает требования к памяти, но может снижать точность по сравнению с F16 или менее сжатыми вариантами. Модель распространяется по лицензии MIT; исходная модель также указана как лицензированная по MIT.

Zenith-7B-dpo-v1 — диалоговая языковая модель Xenon1 на архитектуре Mistral, дообученная на Mistral-7B-v0.1 с использованием набора Ultrafeedback и техник из статьи Self-Rewarding Language Models. Модель предназначена для генерации ответов на инструкции и ведения диалога; для запросов используется формат Mistral с маркерами [INST] и [/INST], также доступен шаблон чата Transformers. Модель содержит 7,1 млрд параметров, использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Максимальный контекст — 32 768 токенов. Указана поддержка английского языка; опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

OpenCSG Agentic-30B-A3B — первая модель серии OpenCSG Agentic, дообученная для локальных и корпоративных ИИ-агентов, выполнения Skills и работы с инструментами. Она предназначена для сценариев, где агенту нужно следовать инструкциям, выбирать навык, формировать аргументы, анализировать ответы инструментов и выполнять многошаговые задачи в нескольких системах. В основе лежит Qwen/Qwen3-30B-A3B с архитектурой MoE Qwen3MoeForCausalLM: в README указаны 30,53 млрд параметров всего и около 3,3 млрд активных на токен, 128 экспертов и 8 активных экспертов. Модель выпущена в BF16, поддерживает контекст до 40 960 токенов и ориентирована на китайский и английский языки. Для запуска авторы приводят измерения на одной NVIDIA A800 80 ГБ с vLLM. Сильная сторона модели — обучение на сценариях вызова инструментов и восстановления после ошибок; среди приведённых удачных примеров — управление почтой и календарём, CRM и планирование проектов. Оценка Agentic Eval также показывает заметное снижение результатов на сложных, длинных и межсистемных задачах, особенно на китайском языке. Авторы рекомендуют проверять результаты и требовать подтверждения человека для чувствительных операций. Лицензия указана как other; условия использования следует сверять с лицензионным соглашением репозитория.

bhenrym14 создал экспериментальную модификацию Airoboros 33B GPT-4 1.4.1 на архитектуре Llama. Это плотная авторегрессионная языковая модель примерно на 32,3 млрд параметров, дообученная с помощью QLoRA и RoPE scaling; веса опубликованы в формате safetensors. README описывает обучение на синтетическом наборе airoboros-gpt4-1.4.1 и расширение контекстного окна до 8192 токенов, однако метаданные указывают native context в 2048 токенов, поэтому фактическую поддержку длинного контекста следует считать экспериментальной. Модель предназначена для диалоговых ответов, следования инструкциям, ответов по предоставленному контексту, ролевых сценариев, загадок и задач на программирование. Обучающие данные включают примеры кода на десяти языках программирования; естественные языки в карточке явно не перечислены. Автор сообщает о хороших впечатлениях от отдельных экспериментов, но отмечает, что влияние на задачи вне оценки perplexity не установлено. README не сообщает лицензию.

ALIA-40b-Instruct-2601 — это диалоговая языковая модель с архитектурой LlamaForCausalLM, разработанная лабораторией Language Technologies Барселонского суперкомпьютерного центра. Модель содержит 38,3 млрд параметров и принимает текстовые запросы, формируя текстовые ответы. Она дообучена на базе BSC-LT/ALIA-40b: после адаптации к длинному контексту проведены обучение на 808 тысячах диалоговых примеров и выравнивание предпочтений методом DPO на 368 тысячах пар ответов. Контекстное окно составляет 163 840 токенов. Модель предназначена для диалогов и следования инструкциям. Постобучение в первую очередь ориентировано на испанский, каталанский, баскский, галисийский и английский языки; качество на других языках не гарантируется. Рекомендуются температура генерации 0–0,2 и отказ от repetition penalty. Модель не поддерживает нативный вызов функций и не предназначена для автономных действий; математические рассуждения и генерацию кода следует проверять. Выравнивание безопасности предварительное, возможны нежелательные ответы. Лицензия — Apache-2.0.

jondurbin/bagel-2.8b-v0.2 — экспериментальная чат-модель, созданная Jondurbin путём дообучения state-spaces/mamba-2.8b-slimpj с помощью Bagel. По метаданным, модель содержит 6 млрд параметров и распространяется в формате PyTorch по лицензии Apache-2.0. Модель предназначена для диалогов и широкого круга инструктивных задач: ответов на вопросы, рассуждений, решения математических задач, написания кода и SQL, чтения и понимания текста, а также ролевого общения. В README указана поддержка форматов Vicuna, Llama 2, Alpaca и ChatML-подобного формата; также можно использовать шаблон диалога токенизатора. При обучении применялись разнообразные англоязычные и многоязычные датасеты, включая Belebele, MMLU, MathInstruct, Spider и наборы диалогов. Это экспериментальное дообучение базовой архитектуры Mamba, а не модель с гарантированными производственными характеристиками. Автор отмечает, что версия с DPO работает заметно лучше; данная версия не должна считаться эквивалентной ей. README не сообщает длину контекста и отдельные результаты оценки качества.

hiyouga/Baichuan-7B-sft — двуязычная instruction-tuned LoRA-модель на архитектуре Baichuan, предназначенная для генерации текста в ответ на инструкции и вопросы. При дообучении использовались наборы Alpaca, Alpaca-ZH и CodeAlpaca, поэтому модель подходит для диалоговых запросов, следования инструкциям и задач по коду на китайском и английском языках. Модель содержит 6,7 млрд параметров, принимает текст и выдаёт текст; нативная длина контекста — 4096 токенов. Репозиторий содержит веса PyTorch, а для работы требуется базовая модель Baichuan-7B. Модель опубликована hiyouga в июне 2023 года и распространяется по лицензии Apache-2.0, хотя README также предписывает соблюдать лицензию Baichuan-7B; перед использованием следует проверить применимые условия обеих лицензий.

Blaze.1-27B-Reflection — текстовая диалоговая модель на архитектуре Gemma 2, дообученная автором репозитория на данных саморефлексии и поведения, включая синтетические примеры рассуждений от DeepSeek и QwQ. Модель содержит 27,6 млрд параметров, рассчитана на генерацию текста и диалог на английском языке; её контекст — 8192 токена. Модель предназначена для сложных ответов на вопросы, пошагового рассуждения, суммаризации, поддержки принятия решений, диалога и творческого письма. По описанию карточки, дообучение ориентировано на длинные цепочки рассуждений и самопроверку. Весовые файлы представлены в формате safetensors, исходные веса экспортированы в bfloat16; лицензия — Gemma. Ограничения включают возможные ошибки и галлюцинации, снижение качества на неанглийских запросах и узкоспециальной терминологии, потерю контекста в длинных документах и диалогах, а также повторяющиеся рассуждения. Для запуска и дообучения требуются значительные вычислительные ресурсы.

Blaze-14B-xElite — дообученная разговорная языковая модель от prithivMLmods на базе архитектуры LLaMA. Она содержит 14,1 млрд параметров, принимает и генерирует текст, поддерживает контекст до 16 384 токенов и предназначена для генерации ответов, решения задач на рассуждение и математику, объяснения сложных тем, написания текстов и многоязычных сценариев. В карточке указано обучение на синтетических данных, материалах из открытых источников, академических книгах и наборах вопросов и ответов; для выравнивания использовались SFT и итеративный DPO. Заявлена поддержка английского языка и многоязычных задач. Модель распространяется в формате safetensors по лицензии Llama 3.1. Модель может ошибаться, неверно интерпретировать неоднозначные запросы, воспроизводить смещения из обучающих данных и выдавать небезопасные ответы; её знания не обновляются в реальном времени. Для запуска могут потребоваться значительные вычислительные ресурсы. Результаты Open LLM Leaderboard в карточке ограничены отдельными метриками и сами по себе не гарантируют качество в конкретных приложениях.

Bonsai-27B-antidoom-1bit-DSpark — текстовая генеративная модель, разработанная на базе Bonsai-27B от prism-ml с применением метода antidoom от Liquid4All и ускорения DSpark от PrismML. Модель предназначена для генерации текста, включая программный код, а также поддерживает работу с изображениями через поставляемый vision projector. Указанный язык — английский. Это гибридная attention-модель Qwen3.5 с 27 млрд параметров, квантованная в 1-битный формат GGUF Q1_0 с показателем 1,125 бит на вес при группировке g128. В комплект входят основная модель размером около 4,5 ГБ, DSpark-драфтер в формате Q4_1 и vision projector в формате Q8_0. Для запуска требуется форк llama.cpp от PrismML с CUDA и поддержкой специальных Q1_0-ядер гибридного внимания; протестированная конфигурация использует одну RTX 5090 с 32 ГБ памяти. Контекст в приведённой конфигурации составляет 16 384 токена. Antidoom — это FTPO-настройка, направленная на снижение зацикливания и повторов: модель обучалась предпочитать связное продолжение вместо продолжения повторяющегося цикла. При этом агрессивное 1-битное квантование частично ослабляет эффект LoRA, поэтому он сильнее проявляется при более высокой точности. DSpark ускоряет генерацию на задачах с высокой долей принятых черновых токенов, однако на обычной прозе с низкой долей принятия может работать медленнее нативного режима. Лицензия модели — Apache-2.0.

Chinese-Mixtral-Instruct — чат-модель, разработанная авторами проекта Chinese-Mixtral. Она дообучена на инструкционных данных на основе Chinese-Mixtral, которая построена на Mixtral-8x7B-v0.1. Модель предназначена для диалога, ответов на вопросы и генерации текста по инструкциям. Архитектура — Mixtral с разреженной экспертной моделью (MoE); в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Заявлены китайский и английский языки. Модель подходит для чат-ботов, вопросов и ответов на китайском или английском и других задач генерации текста по инструкциям. Опубликована под лицензией Apache-2.0.

DeepSeek-R1-Distill-Qwen-14B-Q4_K_M-GGUF — это квантованная версия модели DeepSeek-R1-Distill-Qwen-14B, разработанной организацией deepseek-ai и опубликованной в формате GGUF пользователем Andrew Webby из RolePlai. Модель предназначена для генерации текста, диалоговых сценариев, ролевого общения, а также задач программирования и математики; она может использоваться в приложениях на базе llama.cpp. Модель основана на архитектуре Qwen, имеет размер 14 млрд параметров и поддерживает текстовый ввод и вывод. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что делает модель более подходящей для локального запуска, однако может снижать точность по сравнению с исходными весами. В README не указаны поддерживаемые языки, размер контекстного окна, точные требования к оборудованию, результаты тестирования и ограничения качества. Файл модели имеет формат GGUF, не использует imatrix и не разделён на части. Лицензия и условия использования в предоставленных данных не указаны.

Dynin-Omni — мультимодальная модель семейства Dynin-Omni, разработанная авторами проекта Dynin-Omni и дообученная на основе Gen-Verse/MMaDA-8B-MixCoT. Это плотная модель примерно на 9,2 млрд параметров с архитектурой masked diffusion: она представляет текст, изображения, видео и речь дискретными токенами в общем словаре и генерирует ответы итеративным уточнением масок. Модель предназначена для диалога и рассуждений, понимания изображений и видео, генерации и редактирования изображений, распознавания речи и синтеза речи. Единая архитектура поддерживает преобразования между модальностями, включая видео в текст, речь в текст, текст в речь и текст в изображение. В README заявлены расширенный контекст, генерация речи длительностью до 21 секунды и режимы рассуждения с управлением глубиной. Модель можно запускать и обучать локально через Transformers; поддержка в vLLM-Omni заявлена для будущего выпуска версии 0.19.0. В карточке приведены результаты на тестах рассуждений, понимания изображений и видео, генерации изображений и распознавания речи. Эти значения зависят от используемого протокола оценки. Лицензия — MIT. Карточка указывает английский язык; языки для аудио и других мультимодальных задач отдельно не перечислены.

Карточка модели IntervitensInc/gemma-2-27b-chatml на Hugging Face совпадает с карточкой google/gemma-2-27b, поэтому описание составлено по ней. Gemma 2 27B — текстовая авторегрессионная языковая модель семейства Gemma, разработанного Google с использованием исследований и технологий, применявшихся при создании Gemini. Модель доступна с открытыми весами и предназначена для генерации текста; семейство Gemma включает предварительно обученные и настроенные для следования инструкциям варианты. В репозитории указаны формат safetensors и библиотека Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по чётко сформулированным запросам. В README заявлена поддержка английского языка; конкретные размер контекстного окна и число параметров здесь не приведены. Открытые веса позволяют запускать модель на собственном оборудовании или в облачной инфраструктуре. Ограничения включают возможные фактические ошибки, предвзятость, трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Gemma.

Akicou/GLM-4.7-Flash-REAP-50 — сжатая версия GLM-4.7-Flash, созданная с помощью REAP (Router-weighted Expert Activation Pruning) от Cerebras. Из модели удалена примерно половина экспертов; README указывает 4,1 млрд параметров, а архитектура в метаданных обозначена как GLM4 MoE Lite с классом Glm4MoeLiteForCausalLM. Модель предназначена для генерации текста, особенно кода, вызова функций и агентных сценариев. Она поддерживает контекст до 202 752 токенов и рассчитана прежде всего на английский язык. Модель можно запускать через Transformers, vLLM и SGLang; указана лицензия MIT. README сообщает, что сжатие выполнено без дообучения, поэтому классификация происхождения как fine-tune в метаданных расходится с описанным методом pruning. Для GGUF-файлов автор отмечает проблему совместимости с llama.cpp и их повторную генерацию; метаданные указывают формат safetensors.

granite-4.0-h-3b-ar — компактная инструктивная языковая модель, разработанная IBM Research и Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) в рамках IBM–MBZUAI AI Center of Excellence. Она предназначена для диалогов и генерации текста на современном стандартном арабском, нескольких региональных арабских диалектах и английском языке, в том числе для разнородных и межъязыковых сценариев. Модель содержит 2,6 млрд параметров и использует плотную decoder-only архитектуру GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Контекстное окно по метаданным составляет 131 072 токена. Компактный размер позволяет рассматривать её для эффективного развёртывания при ограниченных ресурсах; обучение охватывало общие задачи, а также примеры по математике, программированию и рассуждениям. Качество может зависеть от диалекта, предметной области, формулировки запроса и сложности задачи; результаты на арабских диалектах могут уступать английским. Модель способна выдавать неточные, предвзятые, неподходящие или небезопасные ответы, поэтому перед использованием в конкретной задаче рекомендуется оценка и настройка, а для рискованных сценариев — модерация входов и выходов. Лицензия — Apache-2.0.

InternLM-Chat-7B — диалоговая модель семейства InternLM от команды InternLM, предназначенная для практических сценариев общения и генерации текста. Это плотная авторегрессионная модель класса InternLMForCausalLM с 6,9 млрд параметров; в репозитории представлены веса PyTorch. Карточка сообщает о тренировке на триллионах высококачественных токенов и оценивает модель по языковым, предметным, знаниевым, логическим и понимательным задачам. Модель подходит для диалоговых ассистентов, ответов на вопросы, объяснений и генерации текста; также заявлены возможности вызова инструментов для построения пользовательских рабочих процессов. Метаданные указывают контекст 2048 токенов, тогда как README заявляет окно 8k, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Карточка приводит результаты OpenCompass, включая C-Eval, MMLU и AGIEval. Модель может генерировать предвзятые, дискриминационные или иные вредоносные ответы. Код распространяется по Apache-2.0; для весов указано открытое использование в академических исследованиях, а коммерческое применение требует получения бесплатного разрешения.