II.6Документация и сопровождение разработки

Mixtral Megamerge DARE 8x7B v2 — объединённая модель семейства Mixtral, созданная автором репозитория martyn с помощью DARE. В слияние вошли базовая и instruct-версии Mixtral-8x7B-v0.1, а также Dolphin, Dolly, OpenHermes и Noromaid на базе Mixtral. Архитектура — языковая модель с разреженной экспертной маршрутизацией (MoE); в репозитории указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. README сообщает, что слияние рассчитано на обобщение форматов промптов и настроек генерации. Веса доступны в формате safetensors, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробного описания ограничений.

MixtureofMerges-MoE-4x7b-v4 — языковая модель для генерации текста, созданная автором jsfs11 с помощью LazyMergekit. Это смесь экспертов (MoE) на архитектуре Mixtral, объединяющая четыре модели: flemmingmiguel/MBX-7B-v3, Kukedlc/NeuTrixOmniBe-7B-model-remix, PetroGPT/WestSeverus-7B-DPO и vanillaOVO/supermario_v4. В репозитории указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. В карточке приведены результаты оценивания на Open LLM Leaderboard, включая средний балл 76,23, AI2 Reasoning Challenge и HellaSwag. Данных о языках обучения или специальных предметных областях в предоставленной карточке нет. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Результаты тестов не гарантируют качество на конкретных задачах; карточка также не описывает поведение отдельных экспертов и рекомендуемые параметры инференса.

Это GGUF-квантизированная версия языковой модели Qwen3-14B-abliterated, разработанной mlabonne. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 6,66 до 29,54 ГБ; варианты с более высокой точностью обычно требуют больше памяти, но лучше сохраняют качество, тогда как компактные варианты подходят для систем с ограниченным объёмом RAM. Для общения используется шаблон prompt формата ChatML с ролями system, user и assistant. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках или мультимодальности, поэтому эти характеристики нельзя достоверно указать. Сильной стороной являются разнообразие форматов GGUF и возможность локального запуска; ограничениями выступают неизбежные потери качества при сильной квантизации и зависимость от совместимого программного обеспечения. Указана лицензия Apache-2.0.

MN-GRAND-Gutenberg-Lyra4-Lyra-12B-DARKNESS — текстовая генеративная модель, опубликованная DavidAU. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; веса представлены в формате safetensors и доступны для прямого использования или последующей конвертации в форматы квантования, включая GGUF, GPTQ, EXL2, AWQ и HQQ. Каталог указывает контекст до 1 024 000 токенов и поддержку диалогового режима. Модель предназначена для генерации текста в диалогах и других текстовых сценариях. README советует подбирать параметры и сэмплеры с учётом особенностей модели, однако подробные настройки и примеры в карточке недоступны. Указаний о поддерживаемых естественных языках и лицензии в предоставленных данных нет.

MobileLLaMA-1.4B-Chat — языковая модель семейства LLaMA, разработанная командой MobileLLaMA и дообученная на базе MobileLLaMA-1.4B-Base методом supervised instruction fine-tuning на датасете ShareGPT. Модель предназначена для генерации текста в формате диалога и следования инструкциям. Модель содержит 1,3 млрд параметров, использует плотную архитектуру LlamaForCausalLM и работает с контекстом до 2048 токенов. Она принимает текст и выдаёт текст; веса доступны в формате PyTorch для загрузки через Hugging Face Transformers. Лицензия — Apache-2.0. Небольшой размер модели делает её пригодной для экспериментов и сценариев с ограниченными вычислительными ресурсами, однако качество ответов и фактическая надёжность могут уступать более крупным моделям; длинные запросы ограничены контекстом в 2048 токенов.

kodonho/Momo-70b-DPO-mixed — англоязычная смешанная языковая модель, созданная на основе moreh/MoMo-70B-lora-1.8.6-DPO с использованием gradient slerp. Это плотная авторегрессионная модель семейства Llama с 71 млрд параметров, предназначенная для генерации текста; контекстное окно составляет 32 768 токенов. В метаданных также указана связь с moreh/MoMo-70B-lora-1.8.4-DPO, а файлы представлены в формате safetensors. Модель подходит для генерации англоязычных ответов и продолжения текста. Репозиторий распространяется по лицензии MIT. Доступные сведения не описывают отдельные специализированные области или дополнительные возможности модели.

Moonlight-16B-A3B-Instruct-bruno-i1-GGUF — GGUF-квантизированная версия модели rawcell/Moonlight-16B-A3B-Instruct-bruno, подготовленная и опубликованная mradermacher. Это диалоговая instruction-модель для генерации текста и conversational-сценариев, включая локальный запуск через совместимые с GGUF инструменты. В метаданных она отмечена как MoE-модель с ориентировочными 16 млрд параметров и обозначением A3B, а также как англоязычная модель. Доступны многочисленные варианты квантизации от i1-IQ1_S до i1-Q6_K с размером файлов примерно от 5,2 до 12,1 ГБ; README отмечает i1-Q4_K_M как быстрый и рекомендуемый вариант, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Квантизация снижает требования к памяти и делает модель более подходящей для локального использования, однако более агрессивные варианты могут заметно ухудшать качество. Контекстный размер, мультимодальность, поддерживаемые языки помимо английского и результаты оценивания в README не указаны. Модель имеет маркировки abliterated, decensored и uncensored, поэтому для задач, требующих строгих защитных ограничений, её поведение следует проверять отдельно. Лицензия — Apache-2.0.

Motif 2.6B — плотная авторегрессионная языковая модель с 2,6 млрд параметров, разработанная Motif Technologies и обученная с нуля на 2,4 трлн токенов. Она предназначена для генерации текста и диалогового взаимодействия; разработчики позиционируют её как компактную модель общего назначения. Модель обучалась на ускорителях AMD Instinct MI250, а заявленная длина контекста составляет 16 384 токена. В карточке указаны английский и корейский языки. Модель подходит для чат-ботов, генерации и продолжения текста, а также для экспериментов с компактными языковыми моделями. В README приведены результаты сравнительных тестов, однако показатели получены в разных условиях и по данным публикаций разработчиков сравниваемых моделей, поэтому их следует интерпретировать осторожно. Для загрузки через Transformers карточка приводит пример с AutoModelForCausalLM и trust_remote_code=True. Весы опубликованы в формате safetensors по лицензии Apache-2.0. Модель обучена с нуля и не указана как производная от другой базовой модели.

zelk12 создал эту модель как объединение двух предварительно обученных языковых моделей семейства Gemma 2 с помощью SLERP и mergekit. Это плотная авторегрессионная модель на 9 млрд параметров для генерации текста и диалогового взаимодействия; она доступна в формате safetensors и рассчитана на контекст до 8192 токенов. Модель подходит для генерации ответов и ведения текстового диалога. Карточка описывает способ объединения и исходные модели, но не приводит отдельные результаты оценки качества или специализированные сценарии применения. Лицензия в предоставленных данных не указана.

MT-Gen3-gemma-2-9B-Flip — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT-Gen3-GB-gemma-2-9B и zelk12/MT-Gen3-IMMMUMA-gemma-2-9B. Модель содержит 9 млрд параметров, доступна в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 8192 токенов. Модель можно использовать для генерации ответов в чате и других задач продолжения текста. Сведений о специализации по языкам или прикладным областям в карточке нет. Лицензия в предоставленных данных не указана.

RadixArk/Muse-Glimmer-q4km-gs128-MLX — текстовая версия Muse Glimmer для устройств Apple Silicon, подготовленная RadixArk в формате MLX. Это перепаковка весов из GGUF-релиза Muse Glimmer 30B: коды квантования сохранены, а масштабы групп представлены в формате MLX. Модель имеет плотную архитектуру Muse Glimmer примерно на 27 млрд параметров и контекст до 131 072 токенов; карточка указывает поддержку чата и интерфейса вызова инструментов. Модель предназначена для генерации текста и диалогового использования, включая сценарии с вызовом инструментов. README рекомендует запускать её через MLX-бэкенд SGLang на Mac с Apple Silicon и не менее чем 48 ГБ объединённой памяти. В README приведены результаты GSM8K и CIMemories, полученные на одной конфигурации оборудования; для CIMemories указано, что оценка проведена в одном испытании. Модель принимает и выдаёт только текст; путь обработки изображений в MLX-бэкенде отсутствует. Это квантованная производная модель на основе meta-models/Muse-Glimmer-30B-GGUF. Сведения о лицензии в предоставленных данных отсутствуют.

MyAwesomeModel — модель из репозитория dfdgdg333/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers. В метаданных Hugging Face она классифицирована как модель для извлечения признаков и связана с архитектурой BERT; README при этом описывает обновлённую версию как модель с улучшенными рассуждениями, пониманием текста, генерацией кода и диалогами. Согласно README, модель предназначена для сложных задач рассуждения, математических и логических задач, ответов на вопросы, классификации текста, анализа тональности, суммаризации, перевода, генерации кода и диалогов. Также заявлены поддержка системного промпта, function calling, загрузки файлов и генерации с использованием результатов веб-поиска. Для запуска рекомендуется температура 0,6. К сильным сторонам относятся заявленные улучшения рассуждений, снижение частоты галлюцинаций и широкие результаты на бенчмарках, включая математику, программирование и понимание языка. Однако метаданные указывают pipeline-задачу feature-extraction, а README не содержит надёжных сведений о размере модели, длине контекста, поддерживаемых естественных языках или точной конфигурации архитектуры. Модель распространяется по лицензии MIT.

Nanbeige4.2-3B-CE v1.0 — языковая модель от автора репозитория Irfanuruchi, дообученная на базе Nanbeige/Nanbeige4.2-3B для компьютерной инженерии и системного программирования. Это плотная авторегрессионная модель NanbeigeForCausalLM с 3,2 млрд параметров; контекст — до 262 144 токенов. Принимает текст и поддерживает диалоговый интерфейс вызова инструментов. Модель предназначена для ответов на вопросы и объяснений по Linux и операционным системам, архитектуре компьютеров, виртуальной памяти, кэшам, многопоточности, сетям, DNS, Docker и встраиваемым системам. В README описаны LoRA/QLoRA-дообучение и последующее слияние адаптера с базовой моделью; опубликованный артефакт — самостоятельные веса BF16 в формате Safetensors, для инференса адаптер не требуется. Указанная лицензия — Apache-2.0. Авторы проверяли модель на наборе из 28 системных вопросов. Среди отмеченных ограничений — неточности в отдельных случаях с порядками памяти C++, обработкой ошибок страниц, Docker DNS, когерентностью кэша и терминологией. Для критически важных инженерных решений ответы следует перепроверять.

Nebula-Reasoner-12B — объединённая разговорная языковая модель от mrcuddle, созданная с помощью mergekit методом Arcee Fusion на основе ChaoticNeutrals/Mag-Mell-Reasoner-12B с включением Nitral-AI/CaptainErisNebula-12B-Chimera-v1.1. Модель построена на архитектуре Mistral с плотной причинной языковой сетью, содержит 12,1 млрд параметров и распространяется в формате safetensors для Transformers. Заявленный контекст — до 1 024 000 токенов. Модель предназначена для генерации текста в диалоговом формате и рассуждений. Доступные сведения не описывают отдельные специализированные задачи или языки, поэтому её следует рассматривать как общую разговорную модель. В README приведена конфигурация объединения, но нет результатов оценки качества или рекомендаций по настройке. Лицензия в предоставленных данных не указана.

NekoMind1.6-Base — базовая предварительно обученная языковая модель серии NekoMind от nekocyrene для генерации текста. Это декодерный Transformer с архитектурой Mixture-of-Experts: 20 слоёв, из которых 18 используют разреженные блоки экспертов с маршрутизацией top-4, а первые два — плотные MLP. В README указано 1,5 млрд параметров всего и около 300 млн активируемых на токен; метаданные каталога указывают 284,4 млн параметров, поэтому фактический размер следует считать расходящимся между источниками. Модель использует RoPE, SwiGLU, RMSNorm и GQA, имеет контекст до 32 768 токенов и поддерживает чатовый шаблон и интерфейс вызова инструментов. Модель предназначена для продолжения текста и диалоговых сценариев, а также может служить основой для дальнейшей адаптации. README не приводит оценок качества, перечня поддерживаемых естественных языков или специализированных предметных областей. Для загрузки требуется Transformers не ниже 4.51.0, PyTorch не ниже 2.1.0 и включение trust_remote_code=True, поскольку пользовательский код архитектуры ещё не включён в основную библиотеку Transformers. Лицензия репозитория — Apache-2.0.

NemoMerge-12B-DellaV1b — объединённая модель на 12,1 млрд параметров, созданная с помощью mergekit из Gryphe/Pantheon-RP-1.5-12b-Nemo, anthracite-org/magnum-12b-v2 и grimjim/mistralai-Mistral-Nemo-Base-2407. В основе лежит плотная архитектура Mistral для авторегрессионной генерации текста. Модель подходит для генерации текста, ролевых диалогов и ответов по инструкциям. В README указан формат весов bfloat16; метаданные сообщают о контексте до 1 024 000 токенов. Модель распространяется по лицензии Apache-2.0. Данных о специальных ограничениях использования или подтверждённой поддержке конкретных языков в предоставленных источниках нет.

Nemomix-v3.0-12B — объединённая языковая модель на 12,1 млрд параметров, созданная автором репозитория с помощью mergekit. В основе лежит Mistral Nemo Base 2407; с ней методом task arithmetic объединены NeverSleep Historical lumi-nemo-e2.0, Mistral Nemo Instruct 2407 и intervitens mini-magnum-12b-v1.1. Модель построена на архитектуре MistralForCausalLM и опубликована в формате safetensors. Модель предназначена для генерации текста и может применяться в сценариях, где нужны ответы на запросы и продолжение текста. Заявленная длина контекста составляет 1 024 000 токенов. Карточка не приводит сведений о поддерживаемых естественных языках, качестве на конкретных задачах или специализированных областях применения. Лицензия в предоставленных данных не указана. Результаты объединения нескольких моделей могут зависеть от характера запроса; независимые оценки качества и подробные сведения об ограничениях в карточке отсутствуют.

Nemostein-3-Hermes-Omni-30b-a3b — модель на базе GestaltLabs/Nemostein-3-Hermes-Omni-30b-a3b, опубликованная в формате GGUF и квантизированная mradermacher. По доступным метаданным, это текстовая conversational-модель на базе Transformers с архитектурой Mixture-of-Experts; в названии указаны параметры 30b и a3b. Заявлен английский язык. Модель предназначена для генерации текста и диалоговых сценариев, включая reasoning, tool use и function calling. В метаданных также указаны SFT, LoRA и Unsloth, однако подробности обучения, поддерживаемые модальности, размер контекста и результаты тестирования не приведены. Поэтому возможности, связанные с обозначением Omni, нельзя подтвердить по представленному README. Доступно множество вариантов квантизации GGUF с объёмом файлов примерно от 18 до 33,6 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; среди рекомендованных автором указаны i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Лицензия обозначена как other, но её конкретные условия в README не раскрыты.

Nemotron-Mini-4B-Instruct — компактная языковая модель NVIDIA для генерации диалоговых ответов и выполнения инструкций. Это дообученная версия nvidia/Minitron-4B-Base, основанной на Nemotron-4 15B и сжатой с помощью прореживания, дистилляции и квантования. Модель содержит 4,3 млрд параметров и построена как авторегрессионный Transformer-декодер с Grouped-Query Attention и RoPE; принимает контекст до 4096 токенов. Модель предназначена для ролевых диалогов, ответов на вопросы по материалам в сценариях RAG и вызова функций. NVIDIA оптимизировала её для быстрого вывода и развёртывания на устройствах; карточка заявляет готовность к коммерческому использованию. Основной язык — английский. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией и условиями NVIDIA.

QuantFactory/NeuralDaredevil-7B-GGUF — квантизированная версия языковой модели NeuralDaredevil-7B, созданная с помощью llama.cpp. Базовая модель разработана mlabonne: это DPO-файнтюнинг модели mlabonne/Daredevil-7B на датасете предпочтений argilla/distilabel-intel-orca-dpo-pairs. Модель предназначена для генерации текста, диалоговых и общих языковых задач, а также рассуждений и ответов на вопросы. Модель относится к семейству 7B; точная архитектура, размер контекста, поддерживаемые языки и сведения о модальностях в README не указаны. Квантизация в формате GGUF рассчитана на использование через инструменты экосистемы llama.cpp и может снизить требования к памяти по сравнению с исходной полноразмерной моделью. В опубликованных тестах модель показывает результаты 74,12 в среднем на Open LLM Leaderboard, включая 87,62 на HellaSwag, 73,16 на GSM8K и 65,12 на MMLU. Эти показатели характеризуют задачи бенчмарков и не гарантируют качество в прикладных сценариях. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства, но ограничивающей коммерческое применение. README не содержит подробностей о конкретном варианте квантизации, системных требованиях, формате prompt-шаблона и ограничениях безопасности.

Neural-phi2 — языковая модель семейства Phi, разработанная автором репозитория на основе Phi-2 от Microsoft и дообученная методом Direct Preference Optimization на диалоговых парах из набора argilla/distilabel-intel-orca-dpo-pairs. Карточка описывает модель как примерно 2-миллиардную, тогда как метаданные Hugging Face указывают 3,5 млрд параметров; архитектура — плотная авторегрессионная PhiForCausalLM, формат весов — safetensors, библиотека — Transformers, длина контекста — 2048 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, суммаризацию и работу чат-ботов и виртуальных помощников. Карточка сообщает об использовании 4-битной загрузки и LoRA в процессе обучения, но не устанавливает однозначно формат итоговой модели. Лицензия — Apache-2.0. Модель ориентирована на английский язык; её качество подробно не оценивалось, а ответы могут содержать фактические ошибки и смещения.

NeuralsynthesisInex12-7B — автоматически слитая модель для генерации текста, созданная Maxime Labonne методом DARE-TIES на основе NeuralSynthesis-7B-v0.1 и INEX12-7b. Модель построена на архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. Веса доступны в формате Safetensors, лицензия — Apache-2.0. Карточка описывает параметры слияния, но не приводит сведений о языковой специализации и результатах оценки качества.

NeuralTopBench-7B-ties — объединённая языковая модель, созданная с помощью LazyMergekit на основе Kukedlc/Neural4gsm8k, nlpguy/AlloyIngotNeoX, automerger/OgnoExperiment27-7B и vanillaOVO/supermario_v4. Модель разработана для генерации текста и построена на плотной архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель можно применять для генерации продолжений и ответов в текстовом диалоге; состав объединённых моделей указывает на сочетание нескольких вариантов языковой модели. README не приводит результатов оценки качества или подробных рекомендаций по использованию. Лицензия в предоставленных данных не указана.

Neuronovo/neuronovo-9B-v0.2 — языковая модель Jan Kocoń на архитектуре Mistral, дообученная на базе CultriX/MistralTrix-v1 с применением LoRA и DPO на наборе Intel/orca_dpo_pairs. Она предназначена для генерации текста и диалоговых ответов, включая продолжение беседы и ответы на запросы. Модель содержит 8,9 млрд параметров, использует Transformers и формат safetensors; нативный контекст составляет 32 768 токенов. В описании обучения также указаны пределы в 1 024 токена для промпта и 1 536 токенов для генерации. Карточка заявляет высокое место в категории моделей примерно на 7 млрд параметров, хотя фактический размер ближе к 9 млрд; это заявление не сопровождается здесь подробностями оценки. Модель рассчитана на английский язык. Репозиторий распространяется по лицензии Apache-2.0.

Neuron-V1-14B-Instruct-i1-GGUF — квантизированная версия инструкционной языковой модели Neuron-V1-14B-Instruct, разработанной Neura-Tech-AI и подготовленной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, поддерживающих GGUF, включая сценарии с ограниченными ресурсами и различными уровнями квантования. Модель содержит 14 миллиардов параметров, относится к текстовым моделям и, судя по указанным тегам, использует архитектуру Qwen2. Заявлена поддержка английского и хинди. Длина контекста и дополнительные модальности не указаны. Репозиторий предлагает варианты квантования от сверхкомпактных IQ1 до более качественного Q6_K; наиболее сбалансированным автор считает i1-Q4_K_S, а i1-Q4_K_M отмечен как быстрый и рекомендуемый. Более сильная квантовка требует больше памяти, тогда как низкие уровни могут заметно снижать качество. Преимущество модели — широкий выбор GGUF-вариантов для подбора компромисса между размером, скоростью и качеством, а также наличие imatrix-файла для создания собственных квантов. Ограничения — отсутствие в README результатов тестирования, данных о длине контекста и подробностей обучения, поэтому качество в конкретных задачах оценить нельзя. Указана лицензия Apache-2.0.

Norobara-ZLoss-8x7B-GGUF — квантизированная версия языковой модели Norobara ZLoss 8X7B, разработанной Doctor Shotgun и подготовленной в формате GGUF пользователем TheBloke. Модель основана на архитектуре Mixtral и предназначена для генерации текста по инструкциям, диалоговых сценариев и локального запуска через совместимые приложения и библиотеки. Модель обучалась на наборах данных LDJnr/Capybara, unalignment/toxic-dpo-v0.1, LDJnr/Verified-Camel, HuggingFaceH4/no_robots и связанных наборах Doctor Shotgun. В метаданных указан английский язык. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между потреблением памяти, скоростью и качеством. Исходное обозначение 8x7B указывает на конфигурацию модели, однако точное число активных параметров и размер контекстного окна в README не указаны. GGUF-версии совместимы с llama.cpp и рядом локальных интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Сильной стороной является возможность запуска на CPU и GPU с разными уровнями квантования; ограничениями могут быть потери качества при использовании наиболее агрессивных вариантов квантования, а также отсутствие заявленной поддержки мультимодальных входов. Лицензия в README не указана, поэтому условия использования следует уточнять в репозитории исходной модели и у автора.

Notus 7B v1 — диалоговая модель Argilla с архитектурой Mistral и 7,1 млрд параметров. Она дообучена методом Direct Preference Optimization (DPO) на базе alignment-handbook/zephyr-7b-sft-full с использованием набора argilla/ultrafeedback-binarized-preferences, в котором предпочтения ответов размечены по рейтингам и предварительно очищены от части проблем исходного UltraFeedback. Модель предназначена для диалоговых приложений и генерации ответов на запросы преимущественно на английском языке. В карточке приведены сравнительные результаты на MT-Bench, AlpacaEval и Open LLM Leaderboard; заявлено преимущество над Zephyr-7B-beta на AlpacaEval. Контекст составляет до 32 768 токенов. Лицензия — MIT. Модель унаследовала ограничения обучающих данных и оценки: авторы отмечают, что в UltraFeedback присутствовали промпты из TruthfulQA, поэтому результат на этом бенчмарке может быть недостоверным. Карточка также указывает, что будущая очистка данных может изменить результаты.

DeepHermes-3-Llama-3-3B-Preview-GGUF — набор GGUF-квантизованных версий языковой модели DeepHermes-3-Llama-3-3B-Preview, разработанной NousResearch и подготовленной квантизацией bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогов и выполнения инструкций; среди заявленных сценариев — чат, reasoning, roleplaying, function calling и генерация JSON. Указана поддержка английского языка и формата prompt, совместимого с Llama 3 и ChatML-подобной структурой ролей. Модель имеет около 3 млрд параметров и работает с текстовой модальностью. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3 размером примерно от 1,9 до 6,4 ГБ, что позволяет запускать её локально через llama.cpp, LM Studio и другие совместимые проекты, в том числе на устройствах с ограниченной памятью. Более сильные стороны — компактность, широкий выбор квантизаций и пригодность для локального inference; при этом это preview-версия, а квантизация может снижать качество по сравнению с исходными весами. Размер контекстного окна и дополнительные языки в README не указаны. Лицензия обозначена как llama3.

nuevamol-135m-reinvent-sft — дообученная модель генерации текста, созданная на основе mnoukhov/nuevamol-135m-6B-wd3 с использованием TRL. Она построена на плотной архитектуре LlamaForCausalLM и содержит 106,4 млн параметров; поддерживает контекст длиной до 8192 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы в формате диалога. В карточке приведён пример ответа на открытый вопрос; данных о специализации на конкретной области или языках нет. Файлы весов доступны в формате safetensors. Лицензия в предоставленных данных не указана.

jeiku/nuggiespoe — объединённая текстовая модель, созданная с помощью mergekit из FourOhFour/Nuggies_4B и FourOhFour/Poe_4B методом SLERP. Модель построена на архитектуре Llama, содержит 3,9 млрд параметров и предназначена для генерации текста и диалоговых ответов. Метаданные указывают контекст до 131 072 токенов и поддержку чата; модель работает через библиотеку Transformers и распространяется в формате safetensors. Модель подойдёт для диалоговых приложений и генерации текста с длинным контекстом. В карточке не приведены результаты оценки качества или сведения о поддерживаемых естественных языках. Лицензия в доступных данных не указана.