I.5Создание и редактирование текста

Granite-4.0-H-Tiny — языковая модель IBM Granite Team для диалогов и выполнения инструкций, рассчитанная на создание ассистентов и бизнес-приложений. Это дообученная на инструкциях модель семейства Granite 4.0: в README указана версия на 7 млрд параметров, тогда как метаданные репозитория сообщают 500,2 млн параметров. Архитектура — декодерный гибридный MoE-трансформер с GQA, Mamba2, общими экспертами, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; поддерживается контекст до 131 072 токенов. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова инструментов, а также многоязычного диалога. В README перечислены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель обучена преимущественно на англоязычных инструкциях; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы, поэтому для конкретного применения нужны проверка и настройка безопасности. Разработчик — IBM Granite Team. Лицензия — Apache 2.0; веса опубликованы в формате safetensors.

Granite-4.0-H-Tiny — диалоговая языковая модель, представленная Unsloth на основе модели IBM Granite и предназначенная для выполнения инструкций и создания ассистентов. В README указано 7 млрд параметров, тогда как метаданные репозитория содержат оценку 500,2 млн параметров; поэтому размер не приводится как однозначно установленный. Модель построена на декодерной гибридной MoE-архитектуре с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Контекст — до 131 072 токенов. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, многоязычного диалога и вызова инструментов. Разработчики заявляют поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Репозиторий Unsloth описан как дообучение базовой модели IBM; карточка Granite сообщает о настройке инструкциями, выравнивании и слиянии моделей. Лицензия — Apache 2.0. Качество на языках помимо английского может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для специализированного применения рекомендуется проверка и настройка.

edwardcapriolo/granite-4.0-h-tiny-JQ4 — квантованная версия Granite-4.0-H-Tiny, модели IBM для диалогов и выполнения инструкций. Репозиторий преобразован Deliverance Q.O.D.: выбранные веса представлены в формате Q4, размер модели уменьшен с 12,9 до 4,2 ГБ. Метаданные указывают 500,2 млн параметров, архитектуру MoE на базе decoder-only трансформера и контекст до 131 072 токенов; модель предназначена для генерации текста и поддерживает чат. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, программирования, вызова инструментов и многоязычного диалога, в том числе в бизнес-приложениях. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. К архитектурным компонентам исходной модели относятся GQA, Mamba2 и общие эксперты MoE. Квантование предназначено для уменьшения размера и ускорения локального вывода, но карточка не приводит сравнительных результатов качества для этого варианта. Для неанглийских языков качество может быть ниже, чем для английского; ответы могут быть неточными, предвзятыми или небезопасными, поэтому модель следует проверять для конкретного применения. Лицензия — Apache 2.0.

unsloth/granite-4.0-micro-unsloth-bnb-4bit — 4-битная квантованная версия Granite-4.0-Micro, разработанная Unsloth на базе модели IBM Granite Team. Исходная модель — инструкционная языковая модель с 3 млрд параметров, дообученная IBM на открытых наборах инструкций с разрешительными лицензиями и внутренних синтетических данных с применением supervised fine-tuning, reinforcement learning и объединения моделей. Модель предназначена для корпоративных приложений, ассистентов и LLM-агентов с поддержкой вызова инструментов. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, программирования, function calling, многоязычного диалога и Fill-In-the-Middle-дополнения кода. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Указана поддержка длинного контекста, однако его точный размер в README не приведён. Ключевые сильные стороны — улучшенное следование инструкциям, tool calling и сниженные требования к памяти благодаря 4-битному формату; ограничения квантования и точные характеристики производительности не указаны. Распространяется по лицензии Apache 2.0. Для работы используется библиотека Transformers и формат bnb-4bit; README не содержит подробностей о точной архитектуре квантования, размере контекстного окна или результатах бенчмарков именно этой версии.

cyankiwi/granite-4.1-3b-AWQ-INT4 — квантизированная версия Granite-4.1-3B, разработанная сообществом cyankiwi на основе базовой модели IBM Granite Team. Это инструкционная языковая модель примерно на 3 млрд параметров, дообученная IBM с применением supervised fine-tuning и reinforcement learning alignment для улучшения следования инструкциям, диалогов и вызова инструментов. Представленная сборка использует AWQ INT4-квантизацию и занимает около 2,33 ГБ. Модель предназначена для бизнес-приложений и AI-ассистентов, включая агентские сценарии с вызовом внешних функций и API. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, программирование, function calling, многоязычный диалог и Fill-In-the-Middle для автодополнения кода. В карточке указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков; исходная Granite-4.1-3B также заявлена как поддерживающая немецкий, португальский, чешский и итальянский. Сильные стороны модели — небольшой размер, сниженные требования к памяти благодаря INT4-квантизации, поддержка длинного контекста, многоязычность и ориентация на инструкции и использование инструментов. README не содержит точного размера контекстного окна, сведений о мультимодальности, подробных результатов тестирования или ограничений качества этой квантизированной сборки, поэтому её возможности следует оценивать на целевых задачах. Лицензия исходной модели и данной сборки указана как Apache 2.0.

infosave/Granite-4.2-cmf — набор квантизированных плотных reasoning-моделей семейства IBM Granite 4.2, основанных на моделях IBM Granite 3B, 8B и 30B. Репозиторий подготовлен для среды Cortiq и содержит артефакты CMF с весами, токенизатором, точным шаблоном чата и хешами целостности. Модели предназначены для генерации текста, диалогов, многошагового рассуждения, работы с инструментами и многоходовым контекстом. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Доступны профили Q4TP и Q8_2F. Q4TP использует смешанную точность: основные проекции квантизированы в 4-битный формат, а границы словаря — в 8-битный; Q8_2F обеспечивает более высокое качество за счёт 8-битного представления проекций. Размер файлов составляет примерно от 2,17 до 29,31 ГБ в зависимости от варианта. Поддерживаются CPU, Vulkan, DX12 и Metal без обязательной установки Python, PyTorch или CUDA toolkit. Контекст модели — 131 072 токена; заявленное IBM расширение до 512K в этих файлах не реализовано. Преимущества — компактность, переносимость, сохранение специфичной архитектуры Granite и возможность работы при ограниченной VRAM с переносом части слоёв на CPU. Ограничения — необходимость значительных ресурсов для вариантов 8B и 30B, снижение качества у Q4TP по сравнению с Q8_2F и отсутствие заявленной поддержки контекста 512K. Распространение осуществляется по лицензии Apache-2.0.

QuantFactory/granite-7b-instruct-GGUF — квантизированная версия instruct-модели IBM Granite-7B-Instruct, созданная с использованием llama.cpp. Базовая модель — ibm/granite-7b-base; исходная модель разработана IBM Research и обучена с применением метода LAB (Large-scale Alignment for chatBots), использующего синтетические данные от Mixtral-8x7B-Instruct в качестве учителя. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Указанный язык — английский. Модель содержит около 7 млрд параметров; формат GGUF и квантизация ориентированы на более эффективный запуск с совместимыми инструментами и меньшими требованиями к памяти. В карточке не указаны размер контекстного окна, конкретный вариант квантизации, поддерживаемые модальности помимо текста и точные требования к аппаратному обеспечению. К сильным сторонам относятся использование структурированной таксономии задач, синтетической генерации данных, поэтапного обучения и replay buffer для добавления знаний и навыков с уменьшением риска катастрофического забывания. В приведённых тестах Granite-7b-lab получил средний результат 6,69 на MTBench и 51,91 на MMLU (5-shot), однако эти показатели относятся к исходной LAB-модели и не обязательно напрямую характеризуют данный квантизированный вариант. Модель распространяется по лицензии Apache-2.0.

GRMR-1.5B-Instruct — модель для исправления грамматики и улучшения читаемости текста, разработанная qingy2024 на основе Qwen 2.5 1.5B. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов. Она принимает текст и возвращает его отредактированную версию, сохраняя исходный смысл; в примере модель исправляет капитализацию, дефис и формулировку английского текста. Для шаблона чата используется формат с блоками исходного и исправленного текста; в карточке рекомендуется температура 0 и repeat penalty 1.0. Модель предназначена для корректуры и лёгкого редактирования текста на английском языке. Она выпущена под лицензией Apache-2.0. Данных о качестве на других языках или об оценке модели в карточке нет.

Snowball GLM 5.3 RLVR SFT — диалоговая MoE-модель семейства Grug, разработанная open-athena. Это дообученный чекпойнт open-athena/Grug-67B-A2B-Datakit-SFT-262K-2026.09.21: модель обучали с учётом только ответов ассистента на 5 000 диалогах GLM 5.3 RLVR, используя последовательности длиной 32 768 токенов и 136 шагов оптимизации. Модель предназначена для генерации текста в диалоге, рассуждений и сценариев с вызовом инструментов. Она поддерживает контекст до 262 144 токенов и имеет 2,8 млрд параметров; формат весов — safetensors. Лицензия — OpenMDW 1.1, унаследованная от базовой модели.

WorldSim-Opus-3.6-35B-A3B-GGUF — это квантизированная версия языковой модели Gryphe/WorldSim-Opus-3.6-35B-A3B, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель ориентирована на диалоговое общение, работу по инструкциям, ролевые сценарии, reasoning и творческое письмо. Обучение или дообучение связано с датасетом Gryphe/Opus-4.6-Reasoning-24k. Модель основана на архитектуре Qwen3.6 MoE; в названии указана конфигурация 35B-A3B. README сообщает о поддержке английского языка и текстовом формате взаимодействия через ChatML с шаблоном, включающим секцию рассуждений <think>. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ; размеры файлов составляют примерно от 16,9 до 69,38 ГБ. Более качественные варианты требуют больше памяти, а младшие квантизации предназначены для ограниченных ресурсов и могут снижать качество. Модель можно запускать локально через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Контекстное окно, точные требования к оперативной или видеопамяти, мультимодальные возможности и результаты бенчмарков в README не указаны. Репозиторий распространяется по лицензии Apache-2.0.

h2o-danube2-1.8b-chat — чат-модель H2O.ai на основе плотной авторегрессионной архитектуры Mistral, созданная с модификациями архитектуры Llama 2. Модель содержит около 1,7 млрд параметров и дообучена в два этапа: SFT и DPO; обучение проводилось с помощью H2O LLM Studio. Модель предназначена для диалогов и генерации текста по запросу. Её можно применять для ответов на вопросы, составления черновиков и помощи в повседневных текстовых задачах. Контекст — до 8192 токенов; используется токенизатор Mistral с размером словаря 32 000. В метаданных заявлен английский язык. Модель распространяется в формате Safetensors через Transformers по лицензии Apache-2.0. Она может генерировать неверные, бессвязные или нерелевантные ответы и воспроизводить предвзятость либо оскорбительное содержание; результаты следует проверять.

h2oai/h2ogpt-4096-llama2-13b — клонированная H2O.ai версия Meta Llama 2 13B, созданная для генерации текста и использования в составе h2oGPT. Модель можно дообучать с помощью открытого ПО h2oGPT и H2O LLM Studio. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 12,9 млрд параметров. Она принимает текст, генерирует текст и поддерживает контекст до 4096 токенов. В карточке указана поддержка английского языка; репозиторий содержит веса PyTorch и Safetensors. Модель подходит для генерации ответов и диалоговых сценариев, в том числе для чата с документами через приложение h2oGPT. Лицензия репозитория — Llama 2; условия использования определяются лицензией Meta Llama 2.

h2ogpt-4096-llama2-70b-chat — чат-модель для генерации текста, созданная H2O.ai как клон Meta Llama 2 70B Chat. Она предназначена для диалога с пользователем и сравнения ответов языковых моделей; также её можно использовать для общения с документами в приложении h2oGPT. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 68,7 млрд параметров. Она принимает и генерирует текст, поддерживает английский язык и имеет контекст длиной до 4096 токенов. Веса доступны в форматах PyTorch и Safetensors. Модель распространяется по лицензии Llama 2. Карточка не описывает отдельные результаты оценки качества или специальные ограничения применения.

h2oai/h2ogpt-oasst1-falcon-40b — инструктивная большая языковая модель H2O.ai, дообученная на базе tiiuae/falcon-40b на датасете h2oai/openassistant_oasst1_h2ogpt_graded. Она предназначена для диалогового помощника, ответов на вопросы и генерации текста по запросам пользователя. Модель использует плотную авторегрессионную архитектуру RefinedWeb; в метаданных указано 65 млрд параметров, а в README — 40 млрд. Работает с текстом, использует Transformers и опубликована в формате PyTorch. Карточка приводит результаты оценки на задачах ARC и описывает запуск чат-бота. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. Она может выдавать неверные или нерелевантные ответы и воспроизводить предвзятый либо оскорбительный контент; результаты требуют проверки.

Hazy-Llama-70b — объединённая диалоговая языковая модель, созданная tdot604 с помощью mergekit методом TIES. В слиянии использованы mattshumer/Reflection-Llama-3.1-70B как базовая модель и Sao10K/L3-70B-Euryale-v2.1; конфигурация задаёт им веса 0,8 и 0,2 соответственно. Модель построена на архитектуре Llama, содержит 69,5 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы. Поддерживает контекст до 8192 токенов и рассчитана на диалоговое использование. Модель подходит для ведения диалога и генерации ответов на текстовые запросы. Метаданные базовой модели описывают её как диалоговую модель с этапом самопроверки и исправления ошибок, однако README не подтверждает, что это поведение сохраняется в данном слиянии. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

inflatebot/helide-beta-r1 — объединённая языковая модель, созданная с помощью mergekit из Sao10K/L3-8B-Stheno-v3.2 и Fizzarolli/L3-8b-Rosier-v1 методом SLERP. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; максимальная длина контекста — 8192 токена. Модель можно применять для ведения диалогов, выполнения инструкций и написания историй. В карточке указаны англоязычные базовые модели, поэтому основным языком следует считать английский. Веса опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

Helios-10.7B-v2 — языковая модель семейства Llama, созданная occultml путём слияния двух моделей с помощью mergekit и метода SLERP. В конфигурации указаны jeonsworld/CarbonVillain-en-10.7B-v2 и kekmodel/StopCarbon-10.7B-v5; базовой моделью названа jeonsworld/CarbonVillain-en-10.7B-v4. Метаданные указывают 7,1 млрд параметров, контекст до 4096 токенов и формат Safetensors. Модель предназначена для генерации текста в диалоговом режиме. Её можно использовать для ведения беседы и генерации ответов или продолжений текста. В README приведены результаты оценивания на нескольких задачах Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не описывает отдельные специализированные области применения или дополнительные модальности; указанная архитектура — плотная LlamaForCausalLM.

HelpingAI Dhanishtha-2.0-preview-GGUF — это квантизированная версия языковой модели Dhanishtha-2.0-preview, разработанной HelpingAI и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия, рассуждений с промежуточным мышлением, решения сложных задач, философских и образовательных объяснений. Модель относится к архитектуре Transformers и поддерживает мультиязычную работу, включая английский, хинди, китайский, испанский, французский, немецкий, японский, корейский, арабский, португальский, русский и ряд других языков. Доступны варианты от BF16 размером около 29,54 ГБ до различных квантизаций объёмом примерно от 8,11 ГБ. Квантизации позволяют запускать модель с меньшими требованиями к памяти; варианты Q5 и Q6 заявлены как высококачественные, а Q4_K_M — как оптимальный размер для большинства сценариев. Длина контекста, число параметров и мультимодальные возможности в README не указаны, поэтому модель следует считать текстовой. Сильными сторонами являются поддержка большого числа языков, ориентация на рассуждения и наличие широкого выбора квантизаций для локального запуска. Ограничения связаны с возможной потерей качества в более компактных квантизациях, значительными требованиями к памяти у крупных вариантов и отсутствием данных о производительности, длине контекста и результатах оценки. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Указана лицензия Apache-2.0.

Heretic-Scalpel-E2B — мультимодальная чат-модель на архитектуре Gemma 4 E2B, основанная на Google Gemma 4 E2B IT и дообученная автором репозитория. Карточка заявляет, что модель работает локально и офлайн, использует около 8 ГБ оперативной памяти и поддерживает контекст до 128K токенов; эти характеристики приведены в README автора. Модель предназначена для диалога и создания текста, включая суммаризацию и ответы на вопросы, а также для анализа изображений и аудио. Она принимает текстовые, визуальные и аудиовходы и выдаёт текст; в метаданных также отмечен интерфейс вызова инструментов. README описывает ослабление исходных ограничений безопасности, поэтому модель может отвечать на запросы без прежних отказов базовой модели. Возможны фактические ошибки, пробелы в знаниях и трудности с нюансами языка или сложными задачами; ослабленные ограничения безопасности повышают риск вредоносных ответов. Язык модели не указан в метаданных. Лицензия репозитория — Apache-2.0.

Hermes-2-Pro-11B — текстовая генеративная модель Matt Shumer, созданная с помощью LazyMergekit на основе NousResearch/Hermes-2-Pro-Mistral-7B. Несмотря на описание README как слияния нескольких моделей, в нём перечислена одна и та же базовая модель десять раз; метаданные каталога классифицируют связь как дообучение. Архитектура — плотная MistralForCausalLM, размер — 11 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Лицензия Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей обучения, поэтому пригодность для конкретной задачи следует проверять на собственных примерах.

QuantFactory/Hermes-2-Pro-Mistral-7B-GGUF — квантизированная версия языковой модели Hermes 2 Pro на базе Mistral 7B, созданная с использованием llama.cpp. Исходную модель разработали Nous Research при участии interstellarninja и Fireworks.AI; для обучения использовались очищенная версия датасета OpenHermes 2.5 и собственные наборы данных для вызова функций и генерации структурированного JSON. Модель предназначена для диалогов, выполнения общих текстовых задач, следования инструкциям, ролевых сценариев, вызова функций и выдачи данных в формате JSON. Она использует шаблон ChatML, поддерживает системные сообщения и многоходовые диалоги, а также специальную структуру для function calling. Заявлены результаты 90% на внутренней оценке вызова функций и 84% на оценке структурированного JSON-вывода. Модель относится к текстовым генеративным моделям, поддерживает английский язык и имеет размер базовой архитектуры 7 миллиардов параметров. Формат GGUF и квантизация ориентированы на запуск через совместимые инструменты, включая llama.cpp, однако конкретный уровень квантизации в README не указан. Контекстное окно также не указано. Ограничениями являются специализация на английском языке, меньшие возможности по сравнению с более крупными моделями и возможная потеря качества из-за квантизации. Модель распространяется по лицензии Apache 2.0.

Hermes-2-Pro-Mixtral-4x7B — разговорная языковая модель, собранная Isotonic как смесь экспертов (MoE) с помощью LazyMergekit из четырёх копий NousResearch/Hermes-2-Pro-Mistral-7B. Модель предназначена для диалогов по инструкциям и генерации текста; поддерживает формат чата ChatML, многошаговое общение, вызов функций и структурированные ответы в JSON. В карточке указано 7,1 млрд параметров и контекст длиной до 32 768 токенов. Репозиторий содержит веса Safetensors; для 4-битного инференса README приводит ориентир около 5 ГБ видеопамяти. Модель может подойти для чат-ботов, ассистентов и сценариев с вызовом инструментов. Лицензия — Apache-2.0. Данных о поддерживаемых естественных языках и конкретных оценках качества в карточке нет.

Это 8-битная версия Hermes 3 на базе Llama 3.1 с 70 млрд параметров, преобразованная сообществом mlx-community в формат MLX из NousResearch/Hermes-3-Llama-3.1-70B с помощью mlx-lm 0.16.1. Модель предназначена для диалогов и следования инструкциям; метаданные также указывают на дообучение исходной Llama 3.1 70B. Поддерживает текстовый ввод и генерацию текста, включая сценарии чат-взаимодействия. Контекст составляет до 131 072 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Llama 3. Используйте её в совместимой среде MLX; README предлагает установить mlx-lm.

Hermes-3-Llama-3.1-70B-GGUF — это квантизированная в формате GGUF версия языковой модели Hermes-3-Llama-3.1-70B, разработанной NousResearch. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи ассистирования, ролевого общения, работу с синтетическими данными и дистилляцией, вызов функций и формирование структурированных ответов в JSON. Модель основана на Llama 3.1 с 70 млрд параметров и ориентирована на англоязычные сценарии. Она поддерживает инструкционный формат общения ChatML, режим JSON и function calling; в README приведён специальный шаблон промпта с системными, пользовательскими и ассистентскими сообщениями. Доступно множество вариантов квантизации с разным соотношением качества, размера и требований к памяти: от Q8_0 размером около 75 ГБ до крайне компактных IQ1_M и IQ2-вариантов. Рекомендуемыми названы, в частности, Q6_K, Q5_K_M и варианты Q4. Сильной стороной модели является высокое качество старших вариантов квантизации и поддержка расширенных сценариев инструкционного использования, включая структурированный вывод и вызов функций. Ограничения связаны с большим размером 70-миллиардной модели, значительными требованиями к оперативной или видеопамяти и неизбежной потерей качества у низкобитных вариантов. Сведения о длине контекста и мультимодальных возможностях в README не указаны. Лицензия обозначена как llama3.

Hermes-3-Llama-3.1-70B-lorablated — диалоговая модель mlabonne на архитектуре Llama 3.1, созданная слиянием Hermes-3-Llama-3.1-70B от NousResearch с адаптером abliteration. Модель предназначена для генерации ответов в диалоге и выполнения инструкций; версия lorablated настроена на снижение отказов отвечать на допустимые запросы. В карточке приведены результаты оценивания на IFEval и BBH. Модель содержит 69,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; максимальный контекст — 131 072 токена. Для работы с ней нужны текстовые запросы, ответы генерируются в текстовом виде. Указана библиотека Transformers. Сведений о лицензии в доступных данных нет.

Hermes-3-Llama-3.1-8B-IMat-GGUF — квантизированная версия текстовой генеративной модели NousResearch/Hermes-3-Llama-3.1-8B, подготовленная legraphista в формате GGUF для llama.cpp. В основе лежит модель семейства Llama 3.1 с 8 млрд параметров; исходный тип данных — BF16. Указан английский язык, а назначение модели — генерация текста и диалоговое взаимодействие. Модель предназначена для чат-сценариев, следования инструкциям, ролевого общения, работы с ChatML, генерации структурированных ответов в JSON и function calling. Доступны варианты с разной степенью квантизации — от BF16 и FP16 до 1–8-битных форматов; часть низкобитных вариантов использует IMatrix для снижения потерь качества при уменьшении размера. Это позволяет запускать модель на более ограниченных по памяти системах, выбирая компромисс между качеством, скоростью и требованиями к ресурсам. В README не указаны размер контекстного окна, мультимодальные возможности, результаты бенчмарков и подробные ограничения качества, поэтому модель следует считать текстовой и ориентированной прежде всего на английский язык. Квантизация может приводить к снижению точности по сравнению с исходной BF16-моделью, особенно в наиболее компактных вариантах. Лицензия указана как Llama 3; условия её применения следует уточнять в лицензии исходной модели.

Hermes-4-70B-GGUF — это квантизированная версия языковой модели Hermes-4-70B, разработанной NousResearch. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, создание и преобразование текстов и другие задачи обработки естественного языка. Формат GGUF ориентирован на локальный запуск с использованием совместимых инструментов, включая llama.cpp и LM Studio. В основе модели лежит модель размером 70 миллиардов параметров; точный вариант квантования в README не указан. Модель работает с текстовой модальностью, сведения о поддерживаемых языках и размере контекстного окна не приведены. Квантизация может снизить требования к памяти по сравнению с полноразмерной моделью, но потенциально влияет на точность и качество генерации. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы. GGUF-квантизация предоставлена командой LM Studio с использованием llama.cpp release b6287, при этом LM Studio не является разработчиком исходной модели. Лицензия в README не указана.

HermesChat-Mistral-7B — объединённая языковая модель на базе Mistral-7B-v0.1, созданная автором репозитория из OpenChat 3.5 и OpenHermes 2.5 с помощью LazyMergekit. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста; заявленный размер контекста составляет 32 768 токенов. Модель предназначена для диалогов и других сценариев, где требуется генерировать текст по текстовому запросу. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Карточка описывает метод слияния SLERP и конфигурацию смешивания слоёв внимания и MLP. В источниках не приведены результаты оценивания качества или отдельные сведения о поддерживаемых языках, поэтому возможности в конкретных языках и преимущество перед исходными моделями по ним установить нельзя.

Hermes-Dolphin-out — объединённая языковая модель на архитектуре Llama, созданная автором harkov000 методом SLERP из NousResearch/Hermes-3-Llama-3.1-8B и cognitivecomputations/dolphin-2.9.4-llama3.1-8b. Модель содержит около 7,5 млрд параметров, работает с текстом и имеет контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Её можно использовать для ответов на вопросы, рассуждений, написания кода и сценариев с вызовом инструментов; эти возможности унаследованы от моделей, участвовавших в объединении. В метаданных основная задача — text-generation. Карточка не сообщает результаты оценки качества именно этого объединения. Языковая ориентация и отдельные ограничения модели не описаны; базовая Hermes 3 характеризуется как англоязычная. Модель распространяется в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

HermesFlashback-7B.1 — диалоговая языковая модель, созданная FredrikBL слиянием моделей NeuralHermes-2.5-Mistral-7B и Mistral-7B-v0.1-flashback-v2 с помощью LazyMergekit. Веса объединены методом SLERP; модель основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста по запросам. Её можно применять для ответов на вопросы, написания и продолжения текста, а также для тестирования диалоговых сценариев. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. В карточке не приведены результаты оценивания качества или подробности о языках обучения, поэтому их нельзя установить по доступным данным.