I.11Классификация, ранжирование и сопоставление

unsloth/Meta-Llama-3.1-70B-Instruct-bnb-4bit — это 4-битно квантованная версия Meta-Llama-3.1-70B-Instruct, подготовленная с использованием экосистемы Unsloth. Базовую модель разработала Meta; в карточке указано, что Unsloth предоставляет квантованный вариант и инструменты для более эффективного дообучения. Модель предназначена для генерации текста и диалоговых сценариев, включая создание виртуальных ассистентов, обработку инструкций и адаптацию под специализированные наборы данных. Модель относится к семейству Llama 3.1, содержит 70 миллиардов параметров и использует архитектуру decoder-only Transformer, характерную для этой серии. Указан основной язык English; поддержка других языков в карточке не заявлена. Формат bnb-4bit снижает требования к памяти по сравнению с полноразмерной моделью, что может упростить локальный запуск и дообучение, однако потенциально сопровождается потерей качества относительно исходной версии и требует совместимого программного и аппаратного окружения. Сведения о размере контекста, мультимодальности и точных характеристиках инференса отсутствуют. Модель распространяется по лицензии Llama 3.1. Перед использованием необходимо учитывать условия этой лицензии и требования совместимого стека, включая Transformers и поддержку 4-битной загрузки.

MiMo-V2.6-Distill-Qwen-9B-OptiQ-4bit — квантованная MLX-версия модели XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, разработанная сообществом mlx-community. Базовая модель представляет собой дистилляцию архитектуры Qwen3.5 9B и предназначена для генерации текста, рассуждений, программирования, агентных сценариев и работы с инструментами. Модель рассчитана на локальный запуск на устройствах с Apple Silicon через MLX, без PyTorch и облачных сервисов. Используется смешанная точность: большинство слоёв имеют 4-битное представление, а чувствительные слои — 8-битное. Всего 134 слоя хранятся в 8-битном формате и 116 — в 4-битном; средняя разрядность веса составляет 6,34 бита, размер модели на диске — около 6,77 ГБ вместо примерно 18 ГБ в формате bfloat16. Архитектура включает 32 слоя, 8 слоёв с полной attention и 24 слоя с linear attention, 16 голов, 4 KV-головы, head_dim 256, hidden size 4096 и словарь из 248 320 токенов. Языки и размер контекстного окна в README не указаны. К сильным сторонам относятся существенное уменьшение размера и заявленное ускорение генерации в 2,4–7 раз относительно родительской модели bfloat16 при проверке на нескольких типах запросов. Распределение разрядности перенесено из квантования Qwen3.5-9B и не измерялось непосредственно на этой модели, поэтому опубликованные оценки качества для Qwen3.5-9B к ней не относятся; Capability Score для данной модели не рассчитывался. Модель распространяется по лицензии MIT.

mlx-community/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-OptiQ-4bit — это MLX-квантизированная версия модели GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking, которая представляет собой reasoning fine-tune архитектуры MiniCPM5-1B примерно на 1 млрд параметров. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения задач с рассуждениями, программирования, tool calling и function calling. Заявлена поддержка английского и китайского языков, а формат работы ориентирован на Apple Silicon через MLX. Основная точность квантования — 4-bit, при этом чувствительные слои хранятся в 8-bit. Всего квантизировано 169 слоёв: 67 в 8-bit и 102 в 4-bit; эффективная разрядность составляет 5,805 бит на вес. Размер весов уменьшен с 2,0 ГБ в bf16 до 874 МБ, что делает модель удобной для локального запуска на компьютерах Apple Silicon. При генерации модель формирует рассуждения внутри тегов <think>...</think>, поэтому ей требуется достаточно большой лимит max_tokens. К сильным сторонам относятся малый размер, локальная работа без облачных сервисов и PyTorch, поддержка MLX-native serving, смешанной точности KV-cache и LoRA fine-tuning через mlx-optiq. При этом для данной квантованной версии не проводились task-бенчмарки, а распределение разрядности перенесено с базовой модели MiniCPM5-1B и может несколько отличаться по оптимальности для этого fine-tune. В карточке указана лицензия Apache-2.0; также рекомендуется учитывать условия лицензии исходной модели.

MS-Inky-2409-22B — объединённая модель Kaoeiri, созданная с помощью LazyMergekit на основе unsloth/Mistral-Small-Instruct-2409+estrogen/MS-22b-RP-Ink-adpt. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 22 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Заявленная длина контекста — 131072 токена. Модель распространяется в формате safetensors. В README указан метод объединения task_arithmetic, тип данных bfloat16 и объединённый источник токенизатора. Лицензия в предоставленных данных не указана.

NovaMind — открытая 7-миллиардная плотная языковая модель-ассистент семейства Nova, разработанная NovaMind. Это обновлённая версия с более длительным этапом mid-training и расширенным post-training; модель предназначена для генерации текста, многошаговых рассуждений, программирования, логических задач и диалогового использования. В README также заявлены более надёжный вызов функций в многоходовых диалогах и снижение ошибок на внутренних проверках фактической точности. Авторы сообщают о результате 84,6% на GPQA Diamond и среднем расходе 26 тысяч токенов на вопрос в этой оценке; приведены также результаты по математическому, логическому и здравому рассуждению. Модель распространяется в формате PyTorch и использует класс NovaMindForCausalLM. Для локального запуска рекомендована температура 0,7; доступна также через размещённые авторами чат-интерфейс и API. Лицензия — Apache-2.0. README не приводит сведения о поддерживаемых языках и длине контекста.

OpenAi-GPT-oss-20b-abliterated-uncensored-NEO-Imatrix-gguf — это квантизированная GGUF-версия текстовой модели на базе huihui-ai/Huihui-gpt-oss-20b-BF16-abliterated. В README указано, что модель подготовлена DavidAU с использованием наборов данных NEO, Horror и NEOCode для Imatrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и работу с общими запросами. Заявлена поддержка английского языка и контекста до 128K токенов. Архитектура описана как Mixture of Experts с 24 экспертами; размер базовой модели — 20B параметров. Доступны варианты квантизации IQ4_NL, Q5_1 и Q8_0, включая варианты с одной, двумя или тремя Imatrix-матрицами. Удаление ограничений и отказов делает модель менее склонной к цензурированным ответам, но автор предупреждает, что из-за abliteration она может быть менее стабильной и «грубоватой»; поведение зависит от варианта квантизации и настроек. README также отмечает, что Q5_1 может быть стабильнее IQ4_NL, тогда как IQ4_NL иногда дает более непредсказуемые и творческие ответы. Модель распространяется по лицензии Apache-2.0. Для работы требуется среда, совместимая с форматом GGUF и соответствующим вариантом квантизации; конкретные аппаратные требования в README не указаны.

Open-Instruct ShareGPT 30B — дообученная AllenAI 30B-модель семейства LLaMA для генерации ответов на инструкции и диалоговые запросы. Она обучена на очищенном наборе ShareGPT, подготовленном по аналогии с Vicuna, и описана в рамках исследования «How Far Can Camels Go? Exploring the State of Instruction Tuning on Open Resources». Архитектура — плотная авторегрессионная LLaMA с 32,3 млрд параметров; модель принимает текст и генерирует текст на английском языке. Максимальная длина контекста — 2048 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, решения задач и генерации кода. В README приведены результаты на академических бенчмарках, включая MMLU, GSM, BBH и Codex-Eval; качество зависит от формата запроса, поэтому рекомендуется использовать указанный авторами шаблон ввода с нужными переносами строк. Репозиторий содержит diff весов: для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Распространение регулируется лицензией AI model license вместе с исходной лицензией LLaMA.

OpenThaiGPT 1.6 72B — плотная языковая модель команды OpenThaiGPT для диалогов и общих задач на тайском и английском языках. Она основана на архитектуре Qwen2, содержит 71,5 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на вопросы, рассуждений, решения математических задач и помощи с кодом. Команда отмечает улучшения в рассуждениях о коде на тайском и английском языках, а также понимании тайского языка и культурного контекста. Модель можно запускать локально; для облегчённых вариантов доступны отдельные GGUF-квантизации. Это объединённая модель, собранная из OpenThaiGPT 1.5 72B Instruct и вариантов OpenThaiGPT 1.6 для экзаменационных задач, общих инструкций и Lexitron. Репозиторий содержит веса Safetensors. Указана лицензия other, без конкретизации её условий в предоставленных данных. Ответы модели не гарантированы; полная точность и применимость к конкретным задачам не установлены.

bunnycore/Phi-4-Model-Stock — объединённая языковая модель на основе unsloth/phi-4, созданная методом Model Stock с помощью mergekit. В объединение вошли Phi-4-Avg, Phi-4-Empathetic, Phi-4-Math-IO и Phi-4-QwQ; размер модели — 14,1 млрд параметров, максимальная длина контекста — 16 384 токена. Модель предназначена для генерации текста и диалогов, включая задачи рассуждения и математики. Модель использует архитектуру LlamaForCausalLM и распространяется в формате safetensors. Карточка приводит результаты оценок на IFEval и BBH, но не описывает языковое покрытие или гарантии качества для отдельных задач. Лицензия — MIT.

Карточка модели thetoprated76/pMistral-7B-Instruct-v0.2 на Hugging Face совпадает с карточкой mistralai/Mistral-7B-Instruct-v0.2, поэтому описание составлено по ней. Mistral-7B-Instruct-v0.2 — диалоговая языковая модель Mistral AI для генерации ответов на инструкции и сообщения пользователя. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров; для общения используется формат instruct. Она рассчитана на чат, ответы на вопросы, объяснения и другие задачи генерации текста. В метаданных указан контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка показывает пример кодирования запроса и генерации ответа, но не приводит перечень поддерживаемых языков или специализированных областей. Модель выпущена под лицензией Apache-2.0. По заявлению авторов, это демонстрация возможностей дообучения базовой модели; встроенных механизмов модерации нет, поэтому ответы могут не соблюдать заданные ограничения.

Карточка модели News666520/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

llmfan46/Qwen3.6-35B-A3B-uncensored-heretic — мультимодальная чат-модель независимого автора, созданная на основе Qwen/Qwen3.6-35B-A3B. Это вариант с ослабленным отказом на запросы: в карточке приведено сравнение, где доля отказов составляет 10 из 100 против 83 из 100 у исходной модели. Модель предназначена для диалога, анализа изображений и сценариев агентного программирования с вызовом инструментов. Архитектура Qwen3.5 MoE содержит 35 млрд параметров, из которых активируется около 3 млрд; README также описывает языковую модель с визуальным энкодером и 262 144 токена нативного контекста, расширяемого до 1 010 000. Указаны возможности сохранения рассуждений в истории диалога и результаты тестирования MMLU, но эти сведения не гарантируют качество на конкретных задачах. Модель принимает текст и изображения и выдаёт текст. Файлы представлены в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. Поскольку модель специально снижает число отказов, она может отвечать на запросы, которые исходная модель отклоняет; ответы следует проверять, особенно в чувствительных сценариях.

Rabbit-Hole-Ai/Qwen3.8-27B-5090-goldilocks-GGUF — это квантованная версия Qwen3.8-27B в формате GGUF, предназначенная для запуска через llama.cpp. Модель основана на Qwen/Qwen3.8-27B и оптимизирована для размещения на одной видеокарте NVIDIA RTX 5090 с 32 ГБ памяти под Windows 11. Основное назначение — генерация текста с большим контекстом, включая локальный инференс и сценарии, где важны высокая вместимость контекста и поддержка speculative decoding. Файл использует смешанную точность с эффективным показателем 7,36 bpw и занимает около 23 990 МиБ. В составе 866 тензоров применяются 339 тензоров Q8_0, 167 Q6_K и 360 F32; MTP-слой blk.64 сохранён для совместимости с режимом draft-mtp. Для текстовых задач заявлена поддержка контекста до 131 тыс. токенов, а при использовании vision projector — до 110 тыс. токенов. README приводит среднюю KL-дивергенцию относительно исходной BF16-модели 0,001800 для RTN-сборки и 0,001678 для imatrix-сборки. Сильная сторона модели — эффективное использование памяти RTX 5090 за счёт повышения точности квантования в пределах доступного объёма VRAM и сохранения качества, близкого к BF16-оригиналу. Указанная скорость генерации зависит от глубины контекста и конфигурации: для imatrix-файла приводятся значения 72,6 токена/с при глубине 8 тыс. и 64,0 токена/с при глубине 98 тыс. Ограничениями являются требовательность к видеопамяти, заметное падение скорости на длинном контексте и необходимость внимательно выбирать параметры KV-кэша и speculative decoding: сочетание квантованного KV-кэша с определёнными настройками спекулятивной генерации может резко ухудшить производительность. Лицензия — Apache-2.0.

Qwen3.8-27B-AEON-Ultimate-Uncensored-UD-GGUF — набор GGUF-квантизованных версий модели Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 от AEON-7. Модель предназначена для генерации текста, включая диалоги, работу с кодом, рассуждениями и агентскими сценариями с function calling. Указана поддержка английского и китайского языков, а также vision через компонент mmproj. Это гибридная архитектура GatedDeltaNet и attention: 48 из 64 слоёв используют рекуррентный SSM-механизм. В поставку входят варианты AWQ-UD и Baseline UD с квантизацией Q8_0, Q6_K, Q5_K_M и IQ4_XS; размеры файлов составляют примерно 25,9–34,7 ГБ. При квантизации рекуррентные тензоры SSM сохраняются в исходной точности, применяются матрица важности и чувствительные к тензорам настройки точности. Поддержаны MTP для speculative decoding и контекст калибровки до 32 768 токенов, однако максимальный контекст модели в README не указан. AWQ-UD рекомендуется как вариант с более низкой perplexity, тогда как Baseline UD ближе к распределению выходов F16 по KL-divergence. Модель рассчитана на запуск через llama.cpp; для максимальной производительности README также указывает SGLang с DFlash2. Ограничения включают зависимость качества и скорости от выбранного кванта и аппаратного обеспечения, а также отсутствие подробных данных о возможностях vision и точных требованиях к памяти. Лицензия — Apache-2.0.

lued/Qwen3.8-27B-INT8-W8A16-DFlash2 — это квантованная версия Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем lued. Репозиторий изменяет числовое представление модели, сохраняя основные возможности исходной версии, включая vision tower, управление режимом рассуждений и вызов инструментов. Модель предназначена для диалоговых и мультимодальных задач, а также для развёртывания через vLLM на потребительском оборудовании. Модель использует INT8-квантование весов W8A16 с активациями FP16 или BF16 и рассчитана на GPU архитектуры Ampere, включая RTX 3090. Заявлен контекст до 262 144 токенов; размер модели на диске составляет около 28 ГиБ. Для ускорения генерации применяется speculative decoding с отдельной моделью-черновиком DFlash2, которая предлагает до семи токенов за шаг. На двух RTX 3090 заявлена скорость до 117 токенов в секунду при полном контексте, а совпадение наиболее вероятного следующего токена с исходной BF16-моделью составляет 98,1%. Сильными сторонами являются заметное снижение размера, почти полное сохранение поведения исходной модели и ускоренная генерация на совместимом оборудовании. Ограничения включают необходимость отдельной модели DFlash2, использования неподдерживаемых в стабильной версии vLLM патчей и конфигурации с двумя GPU для заявленных характеристик. Языки и точные архитектурные параметры в README не указаны. Модель распространяется по лицензии Apache 2.0.

Sartaj Bhuvaji подготовил текстовую версию Qwen3.8-27B, удалив из Qwen/Qwen3.8-27B зрительную подсистему и преобразовав конфигурацию в Qwen3_5ForCausalLM. Это плотная гибридная авторегрессионная модель с 64 декодерными слоями: 48 слоёв линейного внимания и 16 слоёв полного внимания. В репозитории около 27,3 млрд параметров; заявленная длина контекста — 262 144 токена. Текстовые веса побайтно совпадают с исходной моделью, дообучения или переобучения не было. Модель предназначена для генерации текста и диалогового использования, включая развёртывание через Transformers, vLLM и SGLang. Удаление зрительной подсистемы исключает обработку изображений и сокращает занимаемую память примерно на 0,92 ГБ; автор также сообщает об увеличении доступной KV-кэш-памяти в конкретном тесте на H100. Лицензия — Apache-2.0. Модель не принимает изображения. Голова multi-token prediction сохранена, но не поддерживается проверенными загрузчиками; прирост скорости не гарантируется и зависит от движка, оборудования и нагрузки. Приведённые бенчмарки охватывают один H100 и ограниченный набор размеров запросов.

Atomic-Germ/Qwen3.8-Flash-Next-APEX-GGUF — набор оптимизированных GGUF-квантизаций модели Qwen3.8-Flash-Next, разработанный Atomic-Germ на базе mudler/Qwen3.8-Flash-Next-APEX-GGUF. Модель описана как Mixture-of-Experts архитектура объёмом 125B/177B параметров с технологиями GDN и Qwen Sparse Attention. Репозиторий ориентирован на локальный запуск и совместное использование с Guanaco, включая потоковую загрузку с диска на потребительском оборудовании. Основные варианты включают Q6_K с высококачественной квантизацией весов, Q8_0 для скрытых состояний и F32 для нормализаций, а также более компактный Q4_0 с меньшими требованиями к памяти. В комплект также входит importance matrix imatrix.dat, предназначенная для настройки квантизации и оптимизации динамической выгрузки экспертов. В репозитории заявлен улучшенный шаблон чата с поддержкой многошагового диалога, строгих JSON-схем и параллельных вызовов инструментов. Для запуска через Guanaco указана возможность работы примерно в 24 ГБ памяти; конкретная скорость зависит от оборудования, типа квантизации и используемых ядер. Сильными сторонами являются высокая степень сжатия при заявленном небольшом ухудшении perplexity относительно BF16, оптимизация размещения чувствительных слоёв и поддержка потокового запуска крупных MoE-моделей на ограниченных ресурсах. Ограничения включают зависимость производительности от конкретного оборудования и режима загрузки, отсутствие измерений пропускной способности в README, а также неполную оценку на отложенных данных. Языки, точная максимальная длина контекста и полноценные мультимодальные возможности явно не указаны; в примере запуска используется контекст 128000 токенов. Лицензия — Apache-2.0.

Myric/Qwen3.8-Flash-Next-APEX-GGUF — это GGUF-конверсия модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста, мультимодального анализа изображений и агентного программирования с использованием llama.cpp. В комплект входят основной файл MIDDLE для инференса, BF16-файл как источник для квантования и отдельный vision projector для работы с изображениями. Архитектура представляет собой мультимодальную MoE-модель общим размером около 180 млрд параметров и примерно 6,8 млрд активных параметров. Она содержит 48 слоёв, 512 маршрутизируемых экспертов с выбором top-10, гибридную архитектуру gated-delta-net с полноценным attention в каждом четвёртом слое, разреженное QSA-внимание и n-gram embeddings на уровне слоёв. Заявленный контекст составляет до 262 144 токенов. Поддержка языков в README не указана. Сильные стороны модели — большой контекст, мультимодальные возможности, эффективная MoE-архитектура и хорошие результаты в описанном тесте агентного программирования: 9 из 9 задач и 154 из 154 тестов. Ограничения включают высокие требования к памяти: для MIDDLE требуется около 85,4 GiB под веса, а также дополнительная память под KV-кэш и вычислительные буферы. Для llama.cpp рекомендуется использовать f16 KV-кэш и один параллельный слот; q8_0 KV может приводить к сбоям или некорректным результатам. Параметр reasoning effort high не поддерживается, допустимы xhigh, medium и low. Для работы с изображениями требуется vision projector. Модель распространяется по лицензии Apache-2.0. Для запуска опубликованных файлов необходима актуальная версия llama.cpp с поддержкой qwen4exp; самостоятельная конвертация требует специальной ветки конвертера, поскольку соответствующее исправление ещё не включено upstream.

Vontra/Qwen3.8-Flash-Next-MLX-4bit-MTP — это 4-битная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen. Конверсия выполнена из официального BF16-чекпойнта для запуска на Apple Silicon через MLX и сохраняет штатный блок MTP для speculative decoding. Модель предназначена для диалогов и генерации текста, а также для сценариев vision-language с обработкой изображений при наличии совместимого MLX-VLM и runtime. Архитектура представляет собой vision-language sparse MoE на базе Qwen4Exp с языковой частью на 125 млрд параметров, из которых активны около 6 млрд, и контекстом до 262 144 токенов. Используются Gated DeltaNet, Qwen Sparse Attention, разреженные mixture-of-experts-слои, расширенные gated residual streams, hashed bigram и trigram embeddings, а также один draft-блок MTP объёмом 4 млрд параметров. Основные языковые и MTP-модули квантизованы в 4 бита с размером группы 32; мультимодальные модули и router gates сохранены в BF16. Формат весов — MLX safetensors, общий размер — около 113,2 ГБ. К сильным сторонам относятся существенно сниженный по сравнению с BF16 объём весов, поддержка длинного контекста и потенциальное ускорение декодирования благодаря native MTP. На Apple M3 Studio в указанной конфигурации скорость генерации выросла с 27,83 до 31,44 токена в секунду, однако результаты зависят от длины контекста, версии runtime, состояния кэша, памяти и температуры. Для работы требуется runtime с явной поддержкой архитектуры qwen4_exp и native MTP; старые версии могут быть несовместимы, а поддержка изображений зависит от версий MLX-VLM и oMLX. Модель распространяется по Qwen Community License 1.0.

Toffee 3B β — языковая модель-ассистент, разработанная zait-ai и дообученная на базе mistralai/Ministral-3-3B-Base-2512. Она предназначена для диалога и выполнения инструкций, включая общие вопросы, математические задачи и программирование. Модель использует плотную архитектуру семейства Mistral, содержит 3,2 млрд параметров и поддерживает контекст до 8192 токенов. Обучение проходило на смесях диалоговых, математических и программных инструкций. В карточке приведены результаты на MMLU, HellaSwag, BoolQ и Winogrande, однако сравнение с другими моделями обозначено как приблизительное из-за различий в настройках оценки. Основной язык — английский. Модель распространяется по лицензии MIT.

Tulu 7B — языковая модель Allen Institute for AI (AI2), полученная дообучением LLaMA 7B на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров, представленная в формате PyTorch и рассчитанная на контекст до 2048 токенов. Модель предназначена для генерации ответов на инструкции и диалоговые запросы, а также для задач общего рассуждения и генерации кода. В карточке приведены результаты оценки на тестах знаний, математики, рассуждений, вопросов и ответов и программирования. Для работы требуется исходная модель LLaMA в формате Hugging Face; Tulu 7B опубликована как разность весов, а вход нужно подавать в предусмотренном моделью формате с инструкцией и разделителями. Модель ориентирована на английский язык. Она лицензирована по лицензии AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании. Контекст ограничен 2048 токенами, а качество генерации зависит от соблюдения формата входа.

BigFalcon3-from10B — языковая модель для генерации текста и диалогов, созданная ehristoforu с помощью объединения весов через mergekit. В README указана модель tiiuae/Falcon3-10B-Instruct как единственная включённая в объединение; метаданные каталога классифицируют результат как дообучение этой базовой модели. Архитектура плотная, семейства Llama; модель содержит 15,8 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, а также может использовать интерфейс вызова инструментов. Метаданные базовой модели указывают на сценарии рассуждений, программирования и математики. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют.

DPOpenHermes-7B-v2 — диалоговая языковая модель, разработанная OpenAccess AI Collective на базе OpenHermes-2.5-Mistral-7B. Это плотная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов, дообученная методом Direct Preference Optimization (DPO) с использованием 16-битного LoRA и наборов предпочтений Intel/orca_dpo_pairs и UltraFeedback. Модель предназначена для многоходового общения, следования инструкциям и генерации текста; её формат диалога ChatML поддерживает системные сообщения и совместим с типовым сценарием общения через ChatGPT-подобный API. Карточка приводит результаты AGIEval и BigBench Hard, но не описывает их методику; результаты TruthfulQA не приведены. Модель ориентирована на английский язык. Распространяется по лицензии Apache-2.0; как и другие языковые модели, может выдавать ошибки и неподходящие ответы.

Falcon3-Mamba-7B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный декодер на основе Mamba1: 64 блока, ширина 4096, размер состояния 16 и словарь на 65 тысяч токенов. Модель продолжает предварительное обучение Falcon-Mamba-7B на дополнительных данных из веба, кода, STEM и других высококачественных источников. Модель предназначена для генерации текста и служит основой для сценариев рассуждения, понимания языка, следования инструкциям, работы с кодом и математикой. Контекстное окно достигает 32 тысяч токенов; обучение велось преимущественно на английских данных. В репозитории представлены веса Safetensors для Transformers. Разработчик сообщает о сильных результатах на задачах рассуждения, понимания языка, кода и математики по сравнению с моделями SSM схожего размера на момент выпуска. Это базовая модель, поэтому качество следования инструкциям в прикладном чате может уступать специализированным instruct-версиям. Лицензия — TII Falcon-LLM License 2.0.

G9v3-3B — плотная причинная языковая модель команды AI9Stars на архитектуре LlamaForCausalLM с примерно 2,7 млрд параметров. Она предназначена для локального запуска и сценариев с ограниченными ресурсами; поддерживает контекст длиной до 131 072 токенов. Модель рассчитана на повседневные задачи ассистента, программирование, работу с инструментами и рассуждения. В README описаны режимы генерации с включённым и отключённым режимом обдумывания; метаданные указывают поддержку чата и английского и китайского языков. Для запуска подходят Transformers, vLLM и SGLang. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому результаты следует проверять, особенно перед использованием в важных решениях. Лицензия — Apache-2.0.

Abiray/Gemma-4-12B-it-AEON-Abliterated-K4-GGUF — это GGUF-квантизированная версия инструкционной модели Gemma-4-12B-it-AEON-Abliterated, разработанной AEON-7 на основе Google Gemma-4-12B-it. Модель предназначена для генерации текста, чат-взаимодействия, выполнения инструкций, рассуждений, программирования, а также сценариев с tool calling и function calling. В карточке указана поддержка английского языка. Модель использует архитектуру gemma4_unified и содержит около 12 миллиардов параметров. Отличительная особенность — abliteration с применением пользовательской K=4 multi-direction norm-preserving biprojection, призванной сохранять качество генерации и устранять стандартные шаблоны отказов. Репозиторий предоставляет варианты квантизации от 3 до 8 бит: размеры файлов составляют примерно от 6,09 до 12,70 ГБ. Рекомендуемый вариант Q4_K_M занимает 7,38 ГБ и рассчитан на запуск на одной видеокарте уровня T4 или RTX 3060/4060; Q8_0 близок к точности BF16 и требует около 16 ГБ видеопамяти. В примере запуска указан контекст 4096 токенов, но максимальный размер контекста в README не заявлен. Сильными сторонами являются широкий выбор уровней квантизации, возможность запуска через llama.cpp и llama-cpp-python, поддержка локального развёртывания и ориентация на сценарии, где требуется меньше отказов. Ограничения включают отсутствие заявленных сведений о качестве на стандартных бенчмарках, неполные данные о мультимодальности и максимальном контексте, а также возможные риски, связанные с удалением стандартных механизмов отказа. Модель распространяется под лицензией Gemma.

HauhauCS/Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced — модифицированная версия Google Gemma 4 26B A4B IT, разработанная HauhauCS. Модель предназначена для генерации текста, творческого письма, ролевых сценариев, задач эмоционального интеллекта, программирования и агентных рабочих процессов с использованием инструментов. Она позиционируется как uncensored-вариант с минимальным количеством отказов; при этом в отдельных пограничных случаях может сначала добавить краткое предупреждение или отклонить запрос, но обычно отвечает после повторного запроса. Модель имеет MoE-архитектуру: около 25,2 млрд общих параметров и 3,8 млрд активных параметров на проход, 128 маршрутизируемых экспертов, top-8 и один общий эксперт. Используются 30 слоёв с гибридным вниманием, включающим пять оконных слоёв на 1024 токена и один слой полного внимания, а также Proportional RoPE. Нативный контекст составляет 256 тысяч токенов. Модель мультимодальная, поддерживает текст и изображения, поставляется с визуальным проектором mmproj и переменным бюджетом визуальных токенов. В README явно указан английский язык. Сильными сторонами заявлены стабильная работа при повторной генерации, сохранение связности в длинных контекстах, высокая пропускная способность благодаря малому числу активных параметров и пригодность для локального запуска через GGUF-совместимые среды, включая llama.cpp и LM Studio. Для сложных агентных задач автор README отмечает превосходство Qwen3.6. Доступны различные варианты квантования размером примерно от 10 до 27 ГБ; рекомендуемый вариант для программирования — Q4_K_P. Модель распространяется по лицензии Apache-2.0.

Vikneshwaran/gemma_4_tau2_retail — репозиторий модели семейства Gemma 4, разработанного Google DeepMind. Карточка описывает Gemma 4 как мультимодальную модель для понимания изображений и генерации текста; семейство также предназначено для диалогов, рассуждений, программирования, суммаризации и агентных сценариев с вызовом инструментов. Архитектура указана как плотная Gemma4ForConditionalGeneration, веса опубликованы в формате safetensors. Размер и длина контекста конкретно этого чекпойнта не установлены в предоставленных данных; README приводит разные варианты размеров и контекста для семейства в целом. Модель может быть полезна для визуального анализа изображений, извлечения текста и сведений из документов, ответов на вопросы по изображению и генерации текста по запросу. Gemma 4 поддерживает более 140 языков при обучении, а README указывает поддержку более 35 языков для использования. Лицензия — Apache 2.0. Данные карточки не уточняют, чем этот репозиторий отличается от базовой модели Gemma 4 и какие возможности семейства доступны именно в данном варианте.

TIGER-Lab разработала General-Reasoner-Qwen2.5-14B — дообученную причинно-следственную языковую модель семейства Qwen2.5 с 14 млрд параметров. Она предназначена для диалоговой генерации текста и решения задач, требующих рассуждений в разных областях: математике, программировании, физике, химии, финансах и гуманитарных дисциплинах. Модель обучена на наборе из более чем 230 тысяч проверяемых вопросов; подход General-Reasoner использует проверку ответов компактной генеративной моделью-верификатором и не включает отдельный этап RL-обучения. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык. Репозиторий использует формат safetensors и библиотеку Transformers; метаданные указывают интерфейс для диалога и вызова инструментов. Лицензия — Apache-2.0. Карточка сообщает о результатах на нескольких бенчмарках, но не приводит конкретных значений в предоставленном фрагменте; ответы модели могут требовать проверки.

Gixtral 100B — разговорная языковая модель для генерации текста и выполнения инструкций, созданная ehristoforu путём объединения нескольких моделей семейства Mixtral и WizardLM, включая Mixtral-8x22B-Instruct-v0.1, Mixtral-8x7B-Instruct-v0.1, Dolphin и WizardLM-2-8x22B. Архитектура — Mixtral с разреженной экспертной структурой (MoE); в метаданных указано 9,7 млрд параметров и контекстное окно 32 768 токенов. Модель подходит для диалогов, ответов на запросы, следования инструкциям и генерации текста на английском, французском, немецком, испанском и итальянском языках. Для объединения использованы наборы данных, включающие примеры для программирования и инструктивных диалогов. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README описывает модель как объединение моделей, хотя в метаданных среди базовых моделей также указаны Dolphin и WizardLM. Практические результаты объединения и сравнительные оценки в карточке не приведены; фактическое качество может зависеть от запроса и используемой конфигурации.