I.11Классификация, ранжирование и сопоставление

Brooooooklyn/Qwen3.8-27B-MXFP4-mlx — это квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат MLX для Apple Silicon. Модель предназначена для генерации текста, работы с изображениями и текстом, а также задач программирования. Она относится к семейству Qwen3.5 и использует плотную языковую архитектуру из 64 слоёв: 48 слоёв с линейным вниманием и 16 слоёв с полным вниманием. В составе также есть BF16 vision tower и один слой MTP для ускоренного спекулятивного декодирования. Веса используют смешанную weight-only квантизацию: MXFP4 с группами по 32 элемента для части FFN-слоёв и MXFP8 с группами по 32 элемента для остальных основных модулей, включая attention, lm_head и последние восемь FFN-слоёв. Эмбеддинги, нормализации, vision tower, MTP-подсистема и другие исключённые тензоры сохранены в BF16. Контекстное окно и полный список поддерживаемых языков в представленном описании не указаны. Модель рассчитана на локальный запуск в экосистеме MLX и требует @mlx-node/lm и @mlx-node/core версии 0.0.10 или новее. К преимуществам относятся существенное уменьшение размера весов и совместимость с Apple Silicon, однако README не содержит результатов оценки качества, производительности, работы с длинным контекстом или изображениями, поэтому эти характеристики не подтверждены. Квантизация не использует калибровочные данные и не гарантирует эквивалентность NVIDIA NVFP4 или калиброванным схемам W4A4/W8A8. Исходная модель распространяется по лицензии Apache-2.0; вклад в возможности и обучение принадлежит Qwen Team, рецепт квантизации разработан Unsloth.

xaionaro/qwen38-fcf-gguf — открытая многоэтапная fine-tune- и merge-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано, что разработка выполнялась командой автора с использованием Unsloth, методов COLD FUSION и Fable Fusion. Модель распространяется в формате GGUF, включая обычные и MTP-квантизации Neo-CODER MAX DI-MATRIX; заявлены варианты с разрядностью 4 и 8 бит. Размер базовой модели — 27 млрд параметров. Модель предназначена для широкого спектра задач: общего диалога, решения задач и рассуждений, программирования, творческого письма, художественной прозы и ролевых сценариев. Заявленная особенность — сокращённый объём thinking-токенов по сравнению с обычной Qwen3.8, что должно уменьшать задержку и расход токенов при сохранении подробности ответов. В метаданных указаны английский и китайский языки. Поддержка контекста, точный набор модальностей и дополнительные архитектурные характеристики в README не описаны; тег image-text-to-text сам по себе не позволяет надёжно подтвердить полноценную работу с изображениями. К сильным сторонам относятся ориентация на высокую детализацию, рассуждения, код и творческие задачи, а также наличие квантизированных сборок для запуска на потребительском оборудовании. Автор заявляет превосходство над рядом базовых моделей в семи бенчмарках и высокие результаты ARC, однако эти утверждения требуют независимой проверки. Ограничениями являются отсутствие подробных воспроизводимых данных о тестировании, неизвестные требования к памяти и производительности для конкретных квантов, а также uncensored-профиль, который может приводить к генерации небезопасного или нежелательного контента. Указанная лицензия — Apache-2.0.

sasa2000/Qwen3-Swallow-8B-RL-v0.2-heretic — дообученная версия Qwen3-Swallow 8B RL v0.2 с ослабленным поведением отказа, подготовленная на основе abliteration. Базовая модель разработана проектом Swallow LLM; репозиторий содержит плотную причинно-языковую архитектуру Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для общения на японском и английском языках, перевода между ними, решения математических задач, программирования и рассуждений. В сравнении из карточки указано 31 отказ из 100 запросов против 97 у исходной модели; это описание теста отказов, а не оценка общей точности. Рекомендуемый автором предел контекста — 32 768 токенов или меньше. Работа с вызовом инструментов не была специально обучена и не валидирована, а отдельное переключение режима рассуждений не поддерживается. Модель распространяется по лицензии Apache-2.0. Авторы базовой модели отмечают, что семейство находится на раннем этапе разработки и не настроено для надёжного следования человеческим намерениям или требованиям безопасности; снижение частоты отказов также означает, что ответы требуют соответствующей проверки.

Карточка модели JetLM/SDAR-4B-Chat-b64 на Hugging Face совпадает с карточкой JetLM/SDAR-8B-Chat-b32, поэтому описание составлено по ней. JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.

SentinelLM — плотная авторегрессионная языковая модель семейства Sentinel, представленная в репозитории dusersad12. Карточка описывает обновлённую версию, обученную с дополнительными вычислительными ресурсами и алгоритмической оптимизацией на этапе постобучения. Модель предназначена для генерации текста и диалогов, включая сложные задачи рассуждения, математику, программирование и логику; также заявлена поддержка вызова функций. В README сообщается об улучшении результата на AIME 2024 с 64% до 83,3% и о снижении галлюцинаций относительно предыдущей версии. Для вопросов AIME указано среднее рассуждение объёмом около 19 тысяч токенов. Модель доступна в формате PyTorch для Transformers и распространяется по лицензии Apache-2.0. Длина контекста и поддерживаемые естественные языки в предоставленных данных не обозначены.

YamT3qm7xp_YamOgno — объединённая методом слияния модель семейства Mistral от MaziyarPanahi, созданная на основе automerger/YamT3qm7xp-7B и automerger/YamOgno-7B. Она предназначена для генерации текста и поддерживает контекст длиной до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors по лицензии Apache 2.0.

360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

Airavata-airoboros-slerp — объединённая авторами репозитория модель на базе LLaMA, созданная методом slerp с помощью mergekit из jondurbin/airoboros-7b-gpt4-1.1 и ai4bharat/Airavata. Это плотная авторегрессионная модель объёмом 6,6 млрд параметров для генерации текста; в метаданных указано окно контекста 2048 токенов. Модель подходит для диалоговой генерации, ответов на вопросы и задач, поддерживаемых исходными моделями. Карточка не приводит сравнительных оценок качества или подробных результатов тестирования. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели c4ai-command-r-plus, разработанной CohereForAI и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных inference-средах, поддерживающих формат GGUF. В README также указан специальный шаблон промпта для системных, пользовательских и ответов чат-бота. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский и арабский языки. Точные сведения об архитектуре, количестве параметров и размере контекста в карточке не приведены. Доступно несколько вариантов квантизации от Q2_K до Q5_K_M, а также IQ-квантизации; размер файлов составляет примерно от 39,49 до 73,62 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество при больших требованиях к памяти, а низкие подходят для систем с ограниченными ресурсами, но снижают качество. Сильной стороной модели является возможность локального запуска с выбором компромисса между качеством, скоростью и потреблением памяти. Q5_K_M и Q5_K_S обозначены как высококачественные рекомендуемые варианты, а некоторые I-квантизации эффективнее по соотношению размера и качества при использовании cuBLAS или rocBLAS. I-квантизации не совместимы с Vulkan и могут работать медленнее K-квантизаций на CPU и Apple Metal. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая запрет коммерческого применения.

QuantFactory/CausalLM-35b-beta-long-GGUF — квантованная версия языковой модели CausalLM/35b-beta-long, созданная QuantFactory с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; её карточка также указывает на обучение с учётом инструкций, математических задач, программирования и специализированных текстовых наборов данных. Модель имеет размер 35 миллиардов параметров и поддерживает контекст длиной 128K и более токенов. Заявлены языки English, Chinese, Japanese и German. Для взаимодействия используется шаблон ChatML, а токенизатор отличается от токенизатора Cohere. Формат GGUF и квантование ориентированы на запуск средствами экосистемы llama.cpp и могут снизить требования к вычислительным ресурсам по сравнению с полноразмерной моделью, однако конкретный уровень квантования в карточке не указан. Сильными сторонами модели являются очень длинный контекст, многоязычность и обучение на разнообразных инструкционных, математических, энциклопедических и диалоговых данных. Ограничения включают отсутствие подробных результатов оценивания, неуказанные характеристики квантования и аппаратные требования. Модель распространяется по лицензии GPL-3.0.

MLX-версия модели DeepSeek-R1-0528-Qwen3-8B, разработанная сообществом mlx-community и преобразованная из исходной модели deepseek-ai с помощью mlx-lm 0.24.1. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе в приложениях, использующих формат диалоговых сообщений и chat template. Модель основана на DeepSeek-R1-0528-Qwen3-8B и представлена в 4-битном формате квантования, что может снизить требования к памяти по сравнению с полноточной версией, однако README не содержит подробностей об архитектуре, количестве параметров, поддерживаемых языках, контексте, модальностях, производительности или ограничениях качества. Указана лицензия MIT, поэтому условия использования определяются её положениями.

DeepSeek-R1-Distill-Qwen-14B-3MPER0RR-abliterated — экспериментально изменённая версия DeepSeek-R1-Distill-Qwen-14B от 3MPER0RR. Это плотная 14-миллиардная языковая модель на архитектуре Qwen2 для диалогов и генерации текста; в карточке указано, что модель протестирована и сохранена. Она унаследовала от базовой модели поддержку рассуждений, в том числе для математических и программных задач, и контекст до 131 072 токенов. Модель рассчитана на разговорное взаимодействие и текстовые запросы. README описывает её как модифицированную, «abliterated» экспериментальную версию, но не уточняет метод изменения и не приводит результатов сравнительных оценок, поэтому нельзя установить, как оно повлияло на качество и поведение. Лицензия — MIT.

NVIDIA DeepSeek-V3.2-NVFP4 — текстовая авторегрессионная модель на архитектуре Transformer с классом DeepseekV32ForCausalLM, основанная на DeepSeek-V3.2 от DeepSeek AI. NVIDIA выпустила эту квантованную версию с помощью TensorRT Model Optimizer; она предназначена для генерации текста и развёртывания в чат-ботах, агентных системах, RAG и других приложениях на базе ИИ. Модель принимает текст и генерирует текст, поддерживает контекст до 163 840 токенов и насчитывает 37,6 млрд параметров по метаданным Hugging Face. Квантование NVFP4 снижает требования к диску и памяти GPU примерно в 1,66 раза; для запуска README указывает TensorRT-LLM версии 1.2.0rc8 или новее и восемь GPU B200. Оптимизация рассчитана на оборудование NVIDIA Blackwell и Linux. Модель заявлена для коммерческого и некоммерческого использования по лицензии MIT. Она может воспроизводить токсичные формулировки и социальные предубеждения из обучающих данных, а также давать неточные, неполные, нерелевантные или избыточные ответы; перед внедрением её следует проверять на данных конкретного сценария.

DeepSeek-V4.1-Flash (GGUF) — квантизированная версия текстовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и преобразованной в формат GGUF автором mxxm-t. Сборка предназначена для запуска через mx-llama.cpp — форк llama.cpp с поддержкой много-GPU инференса, pipeline и tensor parallelism, а также DSpark/MTP speculative decoding. Модель использует MoE-архитектуру с маршрутизируемыми экспертами и квантованием MXFP4; основные веса занимают около 375,8 GiB в 12 файлах, а после загрузки требуют примерно 302 GiB без учёта KV-кэша и вычислительных буферов. В комплект входит отдельный файл DSpark размером 7,43 GiB, который не является самостоятельной моделью и применяется только для speculative decoding. Поддерживается генерация текста; языки и максимальный контекст в README явно не указаны, хотя приведён пример запуска с контекстом 32768 токенов. Сильные стороны сборки — эффективный много-GPU инференс, поддержка режимов layer и tensor parallelism, MXFP4 для routed experts, сжатие KV-кэша и ускорение генерации с помощью DSpark. Ограничения заключаются в высоких требованиях к памяти и накопителю, необходимости совместимого mx-llama.cpp, отсутствии vision tower, projector и файла mmproj, а также в том, что DSpark нельзя использовать отдельно. Для chat completions ответ этой архитектуры помещается в поле reasoning_content, а не content. Лицензия MIT, унаследованная от базовой модели DeepSeek.

Gemma 2 9B — текстовая авторегрессионная модель семейства Gemma, разработанная Google. Это базовая предварительно обученная версия с открытыми весами; README также описывает семейство в целом, включая варианты, дообученные для следования инструкциям. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации и рассуждений, а её сравнительно компактный размер позволяет запускать её на персональных компьютерах и в собственной облачной инфраструктуре. Модель принимает текст и генерирует текст. В карточке семейство указано как англоязычное; конкретная длина контекста и число параметров не приведены в предоставленных данных. Модель может выдавать неточные или устаревшие сведения, испытывать трудности со сложным контекстом, нюансами языка и здравым смыслом, а также воспроизводить предвзятости обучающих данных. Лицензия — Gemma, с условиями и ограничениями, заданными политиками Google для использования моделей Gemma.

Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

Карточка модели Mimoniske/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF — это GGUF-квантизированная версия модели GLM-4.7-Flash, разработанная DavidAU на базе Olafangensan/GLM-4.7-Flash-heretic и исходной модели ZAI-ORG. Модель предназначена для генерации текста, рассуждений, программирования, творческого письма, создания сюжетов и сцен, ролевых сценариев, а также работы с жанрами science fiction, horror и romance. Заявлена как uncensored/heretic-версия с удалёнными или ослабленными отказами, однако для получения более откровенного, грубого или эксплицитного текста может потребоваться явное указание желаемой лексики и уровня детализации. В основе используется MoE-архитектура на 30B параметров с тремя или четырьмя? активными экспертами; README указывает четыре активных эксперта и около 2B активных параметров при генерации. Поддерживаются английский и китайский языки. Модель работает на GPU и CPU, поставляется в формате GGUF, использует NEO и Code imatrix-квантизацию, а также 16-битный выходной тензор для повышения качества финального текста и рассуждений. Заявлен контекст до 200 тысяч токенов без RoPE, при этом рекомендуется использовать не менее 8–16 тысяч токенов для длинных ответов. Для запуска требуется актуальная версия llama.cpp; для некоторых конфигураций рекомендуется отключать Flash Attention из-за возможного снижения скорости. Сильными сторонами являются сочетание малой вычислительной нагрузки активной части MoE, поддержка длинного контекста, улучшения для кода и рассуждений, а также возможность локального запуска на CPU и GPU. Возможные ограничения включают зависимость качества и скорости от конкретного кванта, параметров семплирования и программного окружения, а также склонность к длинным или повторно «полирующимся» ответам. Модель распространяется по лицензии MIT.

Jebadiah/hermes-SOVL-stone-l3-8b — объединённая языковая модель на архитектуре Llama 3, созданная с помощью mergekit методом DARE TIES. В объединение вошли ResplendentAI/SOVL_Llama3_8B как базовая модель и NousResearch/Hermes-2-Pro-Llama-3-8B; конфигурация задаёт для Hermes плотность 0,53 и вес 0,4. Модель содержит 7,5 млрд параметров и использует контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и ответов на запросы в чат-сценариях. Метаданные указывают библиотеку Transformers и формат safetensors. Основой служат модели Llama 3, одна из которых описана в каталоге как дообученная диалоговая модель для следования инструкциям, вызова функций и генерации структурированных данных JSON. Лицензия в предоставленных данных не указана. Качество и ограничения конкретного объединения в README не описаны; возможности базовой модели не гарантируют их сохранение после слияния.

Josie 7B v6.0 — дообученная Gökdeniz Gülmez языковая модель семейства Qwen2 для диалоговой генерации текста и выполнения запросов пользователя. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст длиной до 32 768 токенов. Для диалога применяется формат с отдельными сообщениями system, user и assistant; также заявлен интерфейс вызова инструментов. Модель дообучена на пользовательских наборах данных; подробности о них в карточке не раскрыты. Она подходит для чат-ботов и генерации ответов на текстовые запросы. Распространяется в формате safetensors по лицензии Apache 2.0.

Llama 2 13B Chat — языковая модель Meta, представленная в формате GGUF и квантизированная TheBloke. Она основана на исходной модели Meta Llama 2 13B Chat и предназначена для генерации текста и ведения диалогов с использованием инструкций в формате Llama-2-Chat. Модель ориентирована на сценарии чат-ассистентов, локального запуска, генерации текста и интерактивных приложений. Указан английский язык. Архитектура — Llama, размер — 13 миллиардов параметров; модель работает в текстовой модальности. Формат GGUF поддерживает метаданные, специальные токены и улучшенную токенизацию, а также совместим с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Сильными сторонами являются возможность локального запуска на CPU и GPU, поддержка множества инструментов инференса и наличие нескольких вариантов квантизации. Ограничения включают зависимость характеристик от выбранного уровня квантизации; сведения о размере контекста, точных архитектурных деталях и качестве на конкретных задачах в README не указаны. Модель распространяется по лицензии Llama 2.

mncai/llama2-13b-dpo-v7 — языковая модель MindsAndCompany на архитектуре Llama 2, дообученная для следования инструкциям и оптимизированная методом DPO. Она предназначена для генерации ответов на запросы и может использоваться в чат-ботах и корпоративных генеративных AI-продуктах. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 2048 токенов. В карточке показан пример запроса на корейском языке, а метаданные указывают английский и корейский языки. Модель распространяется в формате safetensors по лицензии Llama 2.

Llama3.1-8B-ShiningValiant2-GGUF — это квантизированная GGUF-версия языковой модели Llama3.1-8B-ShiningValiant2, разработанной ValiantLabs и подготовленной к распространению пользователем bartowski. Модель предназначена для генерации текста, диалоговых и инструкционных сценариев, включая работу с научно-техническими темами: физикой, биологией, химией, информатикой и инженерией. Указан английский язык. Модель основана на архитектуре Llama и имеет около 8 млрд параметров. Она представлена в форматах от F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; запуск рекомендуется через LM Studio. В README не указаны модальности, максимальный размер контекста и результаты сравнительных тестов, поэтому её преимущества можно уверенно связывать главным образом с выбором размера и уровня квантизации. Качество и потребление памяти зависят от выбранного варианта: F16 обеспечивает максимальное сохранение исходных характеристик, а квантизированные версии подходят для локального запуска на менее производительном оборудовании, но могут уступать по качеству. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. Модель распространяется по лицензии llama3.1.

cstr/llama3.1-8b-spaetzle-v59 — слитая модель на архитектуре Llama 3.1, подготовленная автором репозитория с использованием Dampfinchen/Llama-3.1-8B-Ultra-Instruct и Undi95/Meta-Llama-3.1-8B-Claude. Веса объединены методом DARE-TIES; модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. В карточке приведён результат EQ-Bench v2_de 67,38; это указывает на оценивание немецкоязычных диалоговых способностей, но не гарантирует качество в других сценариях. Метаданные отмечают интерфейс вызова инструментов. Поддерживаемые языки по карточке — английский и немецкий. Лицензия — Llama 3.1 Community License. Это слияние весов, а не самостоятельная конверсия формата; для производных моделей и последующего распространения следует учитывать условия лицензий исходных компонентов.

MeliodasPercival_01_T3qm7xpStrangemerges_32 — объединённая модель для генерации текста на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/T3qm7xpStrangemerges_32-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов. Доступна в формате Safetensors и распространяется по лицензии Apache-2.0.

Карточка модели Ayush-1722/Meta-Llama-3-8B-Instruct-Summarize-v0.2-24K-LoRANET-Merged на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Minitron-8B-Base — базовая большая языковая модель NVIDIA, созданная из Nemotron-4 15B. Модель с архитектурой Transformer Decoder и классом NemotronForCausalLM содержит 8,7 млрд параметров; в ней применяются Grouped-Query Attention и Rotary Position Embeddings. Контекст составляет 4096 токенов, вход и выход — текст. Модель предназначена для генерации текста и исследований и разработок на её основе: она обучалась на английских и многоязычных текстах, включая код, диалоги, статьи и веб-страницы. Корпус охватывает математику, науку, финансы и право; в продолженное обучение также включили небольшую долю данных вопросно-ответного формата и для выравнивания. NVIDIA сообщает о дистилляции после структурного прореживания Nemotron-4 15B с использованием 94 млрд токенов; в README приведены результаты оценок на MMLU, HellaSwag, Winogrande, GSM8K, ARC-C, XLSum и HumanEval. Модель может генерировать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичный язык и социальные предубеждения из обучающих данных. Данные предварительного обучения имеют срез по июнь 2023 года. Лицензия указана как other; точные условия следует сверить с файлами репозитория и условиями NVIDIA. Карточка обозначает модель как предназначенную для исследований и разработки.

bartowski/Mistral-NeMo-Minitron-8B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Mistral-NeMo-Minitron-8B-Instruct, разработанной NVIDIA и преобразованной в GGUF с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые среды локального вывода. Для взаимодействия используется специальный шаблон с ролями System, User и Assistant. Доступны варианты от полноразмерных весов F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 4,2 до 16,8 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Квантизации выполнены с использованием imatrix; версии Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как хороший компромисс для ограниченных ресурсов. Отдельные варианты оптимизированы для ARM и требуют соответствующих аппаратных возможностей. README не указывает поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики исходной модели или результаты бенчмарков. Для ARM-оптимизированных вариантов имеются ограничения совместимости: их не рекомендуется использовать на Mac и Windows. Условия лицензирования в предоставленных данных не указаны.

Nous-Hermes-13b — языковая модель Nous Research, дообученная совместно с Teknium и Karan4D на более чем 300 тысячах инструкций. В её основе Llama с плотной архитектурой и примерно 12,9 млрд параметров; модель распространяется в формате PyTorch. Она принимает текстовые инструкции в формате Alpaca и предназначена для генерации текста и диалоговых ответов. Модель обучалась преимущественно на синтетических ответах GPT-4 и наборах инструкций по общим темам, ролевым сценариям, программированию, математике и естественным наукам. Карточка заявляет длинные ответы и низкий уровень галлюцинаций, но не приводит в предоставленных материалах независимой проверки этих свойств. Контекст модели — 2048 токенов; карточка указывает английский язык. Лицензия — GPL.

Карточка модели Openintelligent123/Phi-4-reasoning на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning, поэтому описание составлено по ней. Phi-4-reasoning — открытая по весам языковая модель Microsoft Research, дообученная на базе Phi-4 с помощью supervised fine-tuning на примерах цепочек рассуждений и обучения с подкреплением. Она предназначена для диалоговых генеративных приложений, где важны рассуждения и логика, а также ограничены вычислительные ресурсы или допустимая задержка. Основные области обучения и оценки — математика, наука и программирование; модель рассчитана прежде всего на английский язык. Модель использует плотный декодерный Transformer архитектуры Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов. При инференсе рекомендуется ChatML-шаблон; для более сложных запросов авторы советуют выделять больше токенов на генерацию. Модель может ошибаться и не проходила оценку для всех прикладных сценариев, поэтому ответы следует проверять, особенно при использовании в задачах с высокими последствиями. Лицензия — MIT.