I.5Создание и редактирование текста

Henbane-7b-attempt2 — дообученная Edens-Gate модель генерации текста на архитектуре Qwen2. Она основана на Qwen/Qwen2-7B и содержит 7,1 млрд параметров; карточка указывает контекст до 131072 токенов и формат PyTorch. Модель поддерживает диалоговый режим и предназначена для генерации текста и ответов в разговорном формате. В README приведены значение loss 1,0222 на оценочном наборе и результаты отдельных тестов Open LLM Leaderboard, включая IFEval и BBH. Данные обучения описаны как набор None, поэтому назначение дообучения и его специализацию определить нельзя. Модель распространяется по лицензии Apache-2.0.

Hercules-5.0-Qwen2-7B-GGUF — это GGUF-квантизированная версия языковой модели Locutusque/Hercules-5.0-Qwen2-7B, подготовленная пользователем bartowski с использованием llama.cpp и калибровочного набора данных imatrix. Модель предназначена для генерации текста и локального запуска в совместимых приложениях на базе llama.cpp и других инструментов, поддерживающих формат GGUF. В README указан шаблон диалога с системными и пользовательскими сообщениями в формате ChatML. Модель относится к семейству Qwen2 и имеет размер 7B параметров; она работает с текстовой модальностью. Доступны варианты от F32 до низкобитных Q2–Q8, включая Q4_K_M как компромисс между размером и качеством, а также варианты Q5 и Q6 с более высоким качеством. Квантизация позволяет снизить требования к памяти, но по сравнению с полной точностью может ухудшать качество, особенно в младших вариантах. Языки, размер контекстного окна, результаты оценивания и специализированные сценарии применения в README не указаны. Распространение заявлено по лицензии Apache-2.0.

Hermes-2.5-Yi-1.5-9B-Chat — разговорная языковая модель, созданная автором juvi21 путём дообучения 01-ai/Yi-1.5-9B-Chat на наборе данных teknium/OpenHermes-2.5. Это плотная причинная модель семейства Llama с 8,6 млрд параметров, предназначенная для генерации текста в диалоге. Для общения используется шаблон ChatML. Модель подходит для диалоговых помощников, ответов на вопросы и других задач генерации текста. В README приведены результаты тестов AGIEval, ARC и BoolQ, однако автор отмечает, что оценка качества основана на первых впечатлениях и может измениться при более длительном использовании. README сообщает о длине последовательности обучения 8192 токена; метаданные указывают нативный контекст 4096 токенов, поэтому не следует считать поддержку более длинного контекста подтверждённой. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors; в README также упоминаются отдельные GGUF-квантизации. Лицензия — Apache-2.0.

Это 4-битная версия Hermes 3 на базе Llama 3.1 8B, преобразованная сообществом mlx-community из NousResearch/Hermes-3-Llama-3.1-8B в формат MLX с помощью mlx-lm 0.16.1. Модель представляет собой плотную авторегрессионную LlamaForCausalLM с примерно 7,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалоговой генерации текста и следования инструкциям; в метаданных также отмечены чат и function calling. Репозиторий ориентирован на запуск через mlx-lm. Карточка указывает английский язык и лицензию Llama 3. Использование 4-битного представления уменьшает требования к памяти, но может влиять на точность по сравнению с исходными весами.

mlx-community/Hermes-3-Llama-3.1-8B-8bit — 8-битная версия Hermes 3 на базе Llama 3.1 8B, подготовленная сообществом mlx-community для формата MLX. Модель была преобразована из NousResearch/Hermes-3-Llama-3.1-8B с помощью mlx-lm 0.16.1; метаданные указывают на дообучение исходной Llama 3.1 8B и архитектуру LlamaForCausalLM с 7,5 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, ролевые сценарии и вызов функций. Заявленный контекст составляет 131 072 токена; в карточке указаны английский язык, chat template ChatML, режим JSON и function calling. Формат MLX рассчитан на запуск через mlx-lm. Для модели указана лицензия llama3. Карточка не приводит отдельных результатов оценки качества; фактическая скорость и потребление памяти зависят от устройства и сценария запуска.

MotherEarth/Hermes-Storm-Climate-lorablated — объединённая диалоговая языковая модель, созданная с помощью mergekit методом SLERP из mlabonne/Hermes-3-Llama-3.1-8B-lorablated и MotherEarth/storm_climate. Она построена на архитектуре Llama с плотной моделью класса LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста в диалогах; заявленный контекст составляет 131072 токена. Модель принимает текст и генерирует текст. В карточке указаны форматы safetensors и библиотека Transformers. Для оценки её пригодности к конкретным задачам стоит учитывать, что README описывает способ слияния, но не приводит результатов тестирования или подробных ограничений. Лицензия в предоставленных данных не указана.

CalderaAI/Hexoteric-7B — экспериментальная разговорная языковая модель на архитектуре Mistral, созданная CalderaAI. Это сферическое слияние вручную отобранных моделей Mistrel-7B и преемник Naberius-7B; для тестирования инструкций автор рекомендует формат Stanford Alpaca. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в форматах PyTorch и Safetensors. Модель предназначена для диалогов и генерации ответов на инструкции. Лицензия Apache-2.0 разрешает использование на её условиях. README отмечает ранний статус выпуска и сообщает, что исходные вычислительные ресурсы эксперимента недоступны.

win10/high-speed-mixing-7B-V2 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода TIES. В основу объединения вошла Orion-zhen/Meissa-Qwen2.5-7B-Instruct, также использована win10/high-speed-mixing-7B-V1. Модель построена на архитектуре Qwen2 для генерации текста и диалогов. Она содержит 7,1 млрд параметров, рассчитана на контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Базовая модель Meissa-Qwen2.5-7B-Instruct предназначена для художественных текстов и ролевых диалогов; эти сценарии подходят и для использования объединённой модели. Сведения о лицензии и подробных ограничениях в доступных материалах отсутствуют.

Himeyuri-Magnum-12B-HereticMerge — языковая модель для диалоговой генерации текста, созданная разработчиком yamatazen слиянием методом SLERP через mergekit моделей MuXodious/Mistral-Nemo-Instruct-2407-absolute-heresy и yamatazen/Himeyuri-Magnum-12B. Это плотная 12,1-миллиардная модель семейства Mistral с архитектурой MistralForCausalLM, предназначенная для чата и генерации текста. Карточка указывает поддержку английского и японского языков, а метаданные — контекст до 1 024 000 токенов. Модель распространяется в формате safetensors и имеет лицензию Apache-2.0. Качество на конкретных задачах и ограничения в README не описаны.

Hippogriff 30B Chat — экспериментальная чат-модель Open Access AI Collective, созданная дообучением LLaMA 30B. Она использует архитектуру LlamaForCausalLM и принимает текстовые запросы в форматах диалога USER/ASSISTANT и Pygmalion/Metharme. Модель рассчитана на ответы по контексту, следование инструкциям, объяснения, создание и переписывание прозы, шутки, ролевые диалоги, задачи на рассуждение и краткое изложение. В README отмечено, что проза и ответы на вопросы по контексту улучшены относительно Manticore, но с математикой модель справляется слабо. Для обучения использовались англоязычные наборы инструкций, диалогов, ролевых данных, вопросов и ответов, рассуждений, задач на здравый смысл, школьных вопросов и суммаризации. Размер модели — 32,3 млрд параметров, максимальный контекст — 2048 токенов; для работы нужны значительные вычислительные ресурсы. Модель не проходила RLHF и не включает фильтрацию ответов, поэтому возможны неточные, предвзятые или оскорбительные результаты; фактические ответы требуют проверки человеком. Лицензия в предоставленных данных не указана.

Holland-4B-V1 — языковая модель Delta-Vector для творческого письма и задач универсального помощника. Это плотная причинная модель семейства Llama с 3,9 млрд параметров, дообученная на базе IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml методом полного дообучения в течение двух эпох. Модель настроена на инструкции в формате ChatML и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации и продолжения художественного текста, а также диалоговых задач помощника. В карточке заявлено улучшение связности и качества письма и ответов относительно предыдущей версии Magnum 4B. Указанные обучающие наборы включают англоязычные инструкционные и литературные данные; отдельный перечень поддерживаемых языков не приведён. Весы опубликованы в формате safetensors, лицензия — MIT. В README отмечено, что для некоторых вариантов запуска требовались специальные настройки из-за особенностей RoPE и размеров голов внимания; обходной путь для GGUF ограничивает контекст 8 192 токенами. Это дообученная модель с небольшой базой параметров, поэтому её качество может уступать более крупным моделям на сложных задачах.

Homer-v1.0-Qwen2.5-7B — дообученная на большом объёме инструкционных данных языковая модель от автора репозитория newsbang. Она основана на Qwen2.5-7B и предназначена для диалогов и выполнения инструкций; карточка также приводит результаты оценки на IFEval и BBH. Архитектура — плотная Qwen2 с причинным декодером Qwen2ForCausalLM, размер — 7,1 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; отдельная специализация на математике не подтверждена, хотя автор сообщает о выпуске математической части набора данных и анализе утечек данных в математических бенчмарках. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. В карточке не описаны поддерживаемые естественные языки и подробные ограничения качества.

1024m/HPhi-4-00-fp16 — дообученная 1024m модель для генерации текста и диалогов. Она основана на unsloth/phi-4 и обучалась с использованием Unsloth и библиотеки TRL; архитектура в метаданных указана как LlamaForCausalLM, плотная, размер — 14,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и ориентирована на английский язык. Модель подходит для ведения диалога и генерации англоязычных ответов, рассуждений и кода. В репозитории представлены веса в формате safetensors. Лицензия — Apache-2.0.

HQwen-3B-00-fp16 — чат-модель для генерации текста, разработанная 1024m на основе unsloth/Qwen2.5-3B-Instruct. Модель дообучена с использованием Unsloth и библиотеки TRL; её архитектура — плотная Qwen2, размер — 3,1 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для диалогов, ответов на запросы и создания текста, включая структурированные ответы и сценарии с интерфейсом вызова инструментов. В карточке указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Описание не приводит отдельных результатов оценки качества или специализированных областей применения.

Карточка модели FreedomIntelligence/HuatuoGPT-7B на Hugging Face совпадает с карточкой FreedomIntelligence/HuatuoGPT-13b-delta, поэтому описание составлено по ней. HuatuoGPT-13b-delta — языковая модель семейства LLaMA с 12,9 млрд параметров, представленная проектом HuatuoGPT. Репозиторий направляет к проекту, но не содержит подробностей о назначении и обучении именно этой версии. Модель использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст. В метаданных указано контекстное окно 2048 токенов и формат PyTorch. Лицензия — Apache-2.0.

Hubble 4B v1 — языковая модель, дообученная BeaverAI на базе NVIDIA Llama 3.1 4B Minitron, компактной версии Llama 3.1 8B. Модель предназначена для диалогов и генерации текста; поддерживает формат ChatML и режим продолжения текста. Архитектура — плотная LlamaForCausalLM, размер — 3,9 млрд параметров, контекст — до 131 072 токенов. Модель обучалась на данных в формате ChatML с токеном конца последовательности ``. В README указана совместимость с Kobold 1.74; поддержка Layla для iOS и Android на момент описания находилась в разработке. В метаданных указана лицензия «other», поэтому условия использования следует сверить с лицензией репозитория перед применением.

Huihui-gpt-oss-20b-BF16-abliterated-GGUF — это набор квантованных версий текстовой генеративной модели Huihui-gpt-oss-20b-BF16-abliterated, разработанной huihui-ai. Репозиторий подготовлен bartowski в формате GGUF с использованием llama.cpp и imatrix-квантования. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и совместимых приложениях. В набор входят исходные веса BF16 и варианты квантования Q8_0, MXFP4_MOE, Q6, Q5, Q4, Q3 и Q2, размером примерно от 11,5 до 41,9 ГБ. Версии различаются балансом между качеством, требованиями к памяти и скоростью работы; наиболее качественными и рекомендуемыми в README названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Некоторые варианты ориентированы на ограниченный объём оперативной памяти или особенности ARM и Apple Silicon. README не содержит сведений об архитектуре модели, поддерживаемых языках, размере контекста, модальностях, точной методике создания исходной модели или лицензии. Формат prompt также не указан, поэтому перед использованием следует обратиться к странице исходной модели.

Huihui-MoE-1B-A0.6B — языковая модель разработчика huihui.ai, созданная на основе Qwen/Qwen3-0.6B. Она использует архитектуру Qwen3MoeForCausalLM: в каждом MoE-слое есть три эксперта, из которых для каждого токена активируется один. В репозитории указано около 1,1 млрд параметров; метаданные каталога указывают 507,9 млн. Контекст модели — до 40 960 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы. Она объединяет экспертов по программированию, математике и медицине, дообученных отдельно, с исходной моделью Qwen3-0.6B для следования инструкциям. Весовые матрицы экспертов объединены, а веса маршрутизатора инициализированы случайно; модель не дообучалась после сборки. Поэтому качество маршрутизации может быть неоптимальным, и для конкретных задач рекомендуется дообучение. Модель рассчитана на Transformers; README предупреждает о несовместимости с Ollama. Лицензия — Apache-2.0.

Huihui-Qwen3.5-9B-abliterated-GGUF — набор файлов модели в формате GGUF, созданный на основе huihui-ai/Huihui-Qwen3.5-9B-abliterated и опубликованный Abiray. Модель предназначена для локального запуска и генерации текста в совместимых приложениях, включая LM Studio, Ollama, Jan, text-generation-webui и llama.cpp. Для взаимодействия используется шаблон ChatML. Доступны варианты квантования от Q4_K_S до Q8_0 с размером файлов примерно от 5,1 до 9,6 ГБ. Рекомендуемый вариант Q4_K_M обеспечивает баланс между скоростью, потреблением памяти, размером и сохранением качества рассуждений; более высокие уровни квантования требуют больше RAM или VRAM и дают качество, близкое к исходной модели F16. README не содержит сведений о точном контекстном окне, поддерживаемых языках, модальностях, лицензии и конкретной архитектуре, поэтому эти характеристики нельзя уточнить.

Vtuber-plan/Huihui-Qwen3.8-27B-abliterated-NVFP4 — это 4-битная NVFP4-квантизованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, созданной на базе Qwen/Qwen3.8-27B. Квантизация выполнена с помощью NVIDIA TensorRT Model Optimizer 0.45.0; в комплект входит исправленный шаблон чата Qwen. Модель предназначена для генерации текста, диалогов, рассуждений, многоязычных задач и агентских сценариев с вызовами инструментов. Модель использует веса NVFP4 с размером групп 16 и FP8 KV-кэш. Для калибровки применялся набор из 5349 примеров, включающий английские и многоязычные диалоги, математические задачи, длинные рассуждения и трассировки вызовов инструментов. Заявлены языки English, French и multilingual; точный максимальный размер контекста в README не указан. Размер чекпойнта составляет около 19,5 ГБ и распределён по пяти шардам. Основное преимущество — сохранение качества чатового и агентского использования после квантизации: на GSM8K при фиксированном шаблоне чата модель показала 0,9833 против 0,9783 у базовой BF16-версии. При этом она плохо подходит для сырых few-shot-промптов без чатового режима: модель может начать рассуждение и не успеть выдать ответ при малом бюджете токенов. Рекомендуется использовать шаблон из комплекта, режим reasoning_effort medium и запас генерации от 8 тысяч токенов. При максимальном режиме xhigh возможны зацикливание и исчерпание лимита, особенно при температуре около нуля. В sglang при высокой конкуренции и длинных генерациях известна проблема падения; рекомендуется ограничивать число одновременных запросов или обновить sglang. Для запуска нужны sglang с quantization modelopt или TensorRT-LLM; обычный transformers/BF16 inference этот чекпойнт не деквантизирует. Лицензия — Apache-2.0.

Abiray/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — набор квантизированных моделей в формате GGUF, созданный Abiray на основе Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated от huihui-ai. Базовая модель представляет собой версию Qwythos-9B-Claude-Mythos-5-1M от empero-ai, модифицированную методами abliteration для удаления векторов отказа. Репозиторий также содержит мультимодальные проекционные файлы mmproj для работы с изображениями локально. Модель предназначена для генерации текста, рассуждений и сценариев image-to-text с поддержкой зрения. Заявлены архитектура современного семейства Qwen 3.5, 9 млрд параметров, английский язык и контекст до 1 млн токенов; конкретные возможности зависят от используемой сборки и совместимости с llama.cpp. Доступны варианты квантизации от 3 до 8 бит размером примерно от 4,74 до 9,79 ГБ, включая рекомендуемый компромисс Q4_K_M. Для визуального ввода требуется отдельный проектор mmproj; доступны квантизированный и F16-варианты. К сильным сторонам относятся локальный запуск, широкий выбор квантизации, поддержка длинного контекста и изображений, а также сниженное количество встроенных отказов. Ограничения включают возможную потерю качества при низкой квантизации, требования к свежей версии llama.cpp и необходимость дополнительного проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.

Humaneyes — англоязычная модель Eemansleepdeprived для преобразования текста, созданная на основе PEGASUS и дообученная на tuner007/pegasus_paraphrase. Она перефразирует сгенерированный ИИ текст, стремясь сделать его более естественным, сохраняя исходный смысл и связность абзацев. Модель предназначена для редактирования и стилистической переработки англоязычных текстов; автор также заявляет сценарии снижения вероятности обнаружения ИИ-генерации. Модель содержит 366,8 млн параметров, использует архитектуру PegasusForConditionalGeneration и библиотеку Transformers. Указанная длина контекста — 60 токенов, поэтому длинные тексты могут требовать обработки частями. Автор предупреждает о возможных смысловых сдвигах и о том, что обход систем обнаружения ИИ не гарантируется. Лицензия — MIT.

Humanizer Gemma 4 E4B — модель для перефразирования текстов, созданная автором репозитория jialinyyzz на основе google/gemma-4-E4B. Она преобразует черновики, написанные языковой моделью, в текст, стилистически более похожий на человеческий, стараясь сохранять все факты, числа, имена, даты, цитаты и исходный смысл. Модель предназначена для редактирования научных и государственных текстов, студенческих эссе, электронных писем, сообщений на форумах и китайской прозы. Это текстовая generative-модель примерно на 4 млрд параметров с поддержкой английского и китайского языков. Доступны версия Transformers в формате bfloat16, а также GGUF-варианты Q8_0, Q6_K и bfloat16 для llama.cpp. Модель не является chat-моделью: для корректной работы требуется использовать предусмотренный формат prompt без системного сообщения и chat template. Обучение включало SFT на 28,6 тыс. пар, DPO на 1 898 парах и GRPO; основным критерием была точность сохранения исходной информации, а не прохождение детекторов. Сильные стороны модели — высокая сохранность фактов и низкая склонность к буквальному копированию; в указанной оценке v2 не допускала критических ошибок в 62 английских образцах. Английский работает лучше китайского, короткие тексты менее надёжны. Известны риски потери уточняющих формулировок, случайных искажений отдельных предложений и ошибок в числах, датах и направлении утверждений, поэтому результат требует проверки. Контекстное окно в README не указано. Модель распространяется по лицензии Gemma.

Human-Like-LLama3-8B-Instruct-GGUF — это 8-миллиардная текстовая instruction-модель семейства Llama 3, разработанная HumanLLMs на основе Humanish-LLama3-8B-Instruct. Данная версия опубликована в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Обучение или дообучение модели связано с набором данных humanish-dpo-project и методом DPO. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и иных текстовых сценариях. В README приведены результаты оценивания на IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако показатели заметно различаются между задачами, поэтому их следует рассматривать как ориентиры, а не гарантию качества в конкретном применении. Мультимодальность, поддерживаемые языки, размер контекстного окна и рекомендуемый формат промптов в карточке не указаны. Доступно несколько вариантов квантизации от F16 до Q3_K_XL. Более высокие варианты обычно лучше сохраняют качество, но требуют больше памяти; Q4_K_M указан как вариант стандартного размера, а Q5 и Q6 — как высококачественные варианты. Ограничения включают отсутствие описания prompt format и неполную информацию о языках, контексте и поведении модели. Лицензия указана как llama3.

Hunyuan-0.5B-Instruct — компактная инструктивная языковая модель Tencent, дообученная на базе tencent/Hunyuan-0.5B-Pretrain. Это плотная авторегрессионная модель семейства Hunyuan V1 Dense с 463,5 млн параметров, доступная в формате safetensors и предназначенная для генерации текста в диалоговом режиме. Модель подходит для ответов на запросы и инструкций, рассуждений, задач по математике и коду, а также для агентных сценариев с интерфейсом вызова инструментов. Она поддерживает режимы быстрого и пошагового рассуждения и контекст до 262 144 токенов; в README также отмечены Grouped Query Attention и варианты квантования для эффективного развёртывания. В метаданных не перечислены поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. Модель относится к линейке общего назначения, а приведённые в README результаты тестов относятся к отдельным оценкам и не гарантируют качество на конкретных запросах. Для этой модели в предоставленных данных не указана лицензия.

hushGPT — дообученная автором zaddyzaddy языковая модель семейства Llama на базе unsloth/llama-3-8b-bnb-4bit. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM, предназначенная для генерации текста; карточка не описывает специализированную предметную область или отдельный сценарий применения. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Обучение проводилось с использованием Unsloth и библиотеки TRL. В метаданных указан английский язык, однако карточка не уточняет характер обучения, качество или специальные возможности модели. Лицензия — Apache-2.0.

Hymba-1.5B-Base — базовая текстовая генеративная модель компании NVIDIA для настройки под разнообразные задачи генерации естественного языка. Она содержит около 1,1 млрд параметров и поддерживает контекст до 8192 токенов. Архитектура Hymba сочетает в каждом слое головы внимания и состояния Mamba, использует обучаемые meta-токены, Grouped-Query Attention, RoPE, совместное использование KV-кэша и преимущественно скользящее окно внимания. Модель предназначена для генерации текста и может служить основой для дообучения под прикладные сценарии, включая диалоговые. В README указана готовность к коммерческому использованию; модель выпущена по NVIDIA Open Model License Agreement. Она доступна в формате safetensors и работает с библиотекой Transformers. Модель может выдавать неточные, неполные, избыточные или токсичные ответы, отражать предвзятости обучающих данных и быть уязвимой к jailbreak-атакам. Для использования в RAG- и агентных системах NVIDIA рекомендует проверять выходные данные.

Toneto17/ia-vaga — генеративная языковая модель для создания текста. Модель опубликована пользователем Toneto17 на Hugging Face и доступна для работы через библиотеку Transformers. В метаданных она связана с архитектурой семейства Qwen2 и поддерживает форматы Safetensors и GGUF. Модель содержит около 494 млн параметров и имеет нативное контекстное окно до 32 768 токенов. Она предназначена для задач генерации и продолжения текста, а также может использоваться в диалоговых сценариях благодаря тегу conversational. Поддерживаемые естественные языки, точная архитектура и сведения о разработчике в карточке не раскрыты. README не содержит результатов оценки, описания обучающих данных, лицензии или рекомендаций по применению, поэтому перед использованием модель следует дополнительно протестировать на целевых данных и проверить условия распространения.

Это квантизированная GGUF-версия Granite 3.3 2B Instruct — компактной языковой модели, разработанной IBM под идентификатором ibm-granite. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговом формате, включая запуск локально через LM Studio, llama.cpp и совместимые проекты. Модель содержит 2 млрд параметров и относится к текстовым моделям; сведения о поддерживаемых языках, размере контекста и дополнительных модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Старшие варианты обеспечивают качество, близкое к исходной модели, а менее точные подходят для устройств с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для работы требуется использовать указанный формат prompt с ролями system, user и assistant. Модель распространяется по лицензии Apache-2.0. README описывает именно квантизированные сборки, поэтому их характеристики и качество зависят от выбранного варианта квантования.

Это GGUF-квантизированная версия языковой модели granite-4.0-h-micro, разработанной IBM Granite и опубликованной в формате llama.cpp-сумместимых файлов пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты с точностью от BF16 до Q3 и IQ3/IQ4, с размерами файлов примерно от 1,46 до 6,39 ГБ. Квантизация выполнена с использованием imatrix на базе llama.cpp, что позволяет снизить требования к памяти при сохранении приемлемого качества; наиболее качественными считаются варианты Q6 и Q5, а Q4_K_M указан как вариант по умолчанию для большинства сценариев. Исходный README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях, размере контекста или формате prompt. Сильной стороной модели является широкий выбор степеней квантизации для разных ограничений по памяти и оборудования, включая варианты, ориентированные на CPU и Apple silicon. Более компактные варианты экономят память, но обеспечивают более низкое качество. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели IBM Granite и соответствующего репозитория.