I.5Создание и редактирование текста

AEZAKMI-v2 — диалоговая донастройка Yi-34B-200K, опубликованная adamo1139. Модель построена на плотной архитектуре LlamaForCausalLM с 33,9 млрд параметров и контекстом до 200 000 токенов; в репозитории представлены веса safetensors. Обучение проводилось на наборе данных AEZAKMI v2 с использованием QLoRA и формата диалогов ChatML. Модель предназначена для свободного общения и ролевых диалогов, с акцентом на естественный язык и меньшую склонность к типичным формулировкам ассистентов, обученных с помощью RLHF. Автор отмечает, что она не рассчитана на сильные результаты в математике, загадках и сложных рассуждениях. Для генерации автор рекомендует штраф за повторение около 1,05; в ролевых сценариях возможны повторы и трудности с длинными системными сообщениями. Лицензия — Apache-2.0. Карточка указывает контекст базовой модели в 200 000 токенов; при этом автор сообщал, что конкретная квантованная сборка EXL2 с 4,65 bpw и 8-битным кешем работала с контекстом до 24 000 токенов.

Карточка модели soob3123/amoral-gemma3-1B-v2 на Hugging Face совпадает с карточкой soob3123/amoral-gemma3-4B-v2, поэтому описание составлено по ней. soob3123/amoral-gemma3-4B-v2 — дообученная модель семейства Gemma 3 4B от автора репозитория soob3123, основанная на google/gemma-3-4b-it. Она предназначена для диалоговой генерации аналитически нейтральных ответов на чувствительные и спорные вопросы, с упором на фактическую точность, сдержанный тон и избегание оценочных формулировок. Архитектура — плотная Gemma 3; репозиторий содержит веса Safetensors, интерфейс рассчитан на чат. Модель поддерживает английский язык; базовая Gemma 3 также мультимодальна, однако в карточке этой версии заявлена только генерация текста. Модель может быть полезна для подготовки нейтральных объяснений и анализа противоречивых тем. Указанная лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений; нейтральный стиль и заявленная фактическая точность не гарантируют беспристрастность или достоверность ответов.

Augmentasanguis-8x7B — разговорная модель Envoid на архитектуре Mixtral, дообученная с помощью QLoRA на текстовых примерах для ролевых диалогов. Автор описывает обучение на небольшом наборе сырых текстовых образцов длиной до 512 токенов и называет результат стилистическим сдвигом, призванным сохранить общие возможности Mixtral Instruct, усилив характеризацию и образные описания. Модель принимает текст и генерирует текст; для общения используется формат запросов Mixtral Instruct. Контекст составляет 32 768 токенов, в репозитории размещены веса Safetensors, общий размер модели указан как 7,1 млрд параметров. Модель подходит для ролевых диалогов и создания выразительных описаний персонажей и сцен. Автор отмечает более свободное поведение по сравнению с исходной Mixtral Instruct; карточка предупреждает, что возможна генерация контента для взрослых. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Ayam 2x8B — разговорная MoE-модель на архитектуре Mixtral, опубликованная пользователем R136a1. Автор описывает её как экспериментальное объединение Stheno-v3.2 и L3 8B Instruct, призванное совместить творческий стиль Stheno с лучшим пониманием сложных сценариев и нескольких персонажей. Модель предназначена для чата, творческого письма и ролевых диалогов; автор также упоминает сценарии ERP. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст длиной до 8192 токенов. В карточке указаны английский язык и лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценка автора основана на тестировании в SillyTavern с контекстом и инструкциями Llama 3 Instruct; результаты могут зависеть от шаблона диалога и настроек сэмплирования.

tohoku-nlp/bert-large-japanese — японская языковая модель BERT, разработанная группой Tohoku NLP и предварительно обученная на японской Википедии. Она предназначена для заполнения пропусков и других задач, основанных на контекстных представлениях текста. Модель имеет 24 слоя, размер скрытых состояний 1024 и 16 голов внимания; число параметров — 436,2 млн. Текст сначала сегментируется морфологически с использованием словаря Unidic 2.1.2, затем разбивается на подслова WordPiece. Словарь содержит 32 768 единиц, контекст — до 512 токенов. При обучении задачи masked language modeling использовалось маскирование целых слов. Доступны версии весов PyTorch, TensorFlow и Flax. Модель обучена на японской Википедии, поэтому лучше всего подходит для японского текста общего характера. Для использования с языками и предметными областями, отличными от обучающих данных, качество не гарантируется. Лицензия — CC BY-SA 4.0.

Big-Lemon-Cookie-11B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом passthrough из KatyTheCutie/LemonadeRP-4.5.3, SanjiWatsuki/Kunoichi-7B и SanjiWatsuki/Silicon-Maid-7B. Она предназначена для генерации текста и ролевых диалогов на английском языке, включая ответы от лица персонажей и творческое продолжение заданного сценария. Модель содержит 10,6 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель распространяется под лицензией CC BY 4.0. В README перечислены исходные модели и схема объединения, но нет результатов оценки качества или подробных рекомендаций по использованию; фактическое качество ролевых ответов может зависеть от промпта и настроек генерации.

BioMistral-7B-SLERP — модель генерации текста, созданная слиянием SLERP через mergekit моделей BioMistral/BioMistral-7B и mistralai/Mistral-7B-Instruct-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на диалог и генерацию ответов в биомедицинской тематике. Поддерживает контекст до 32 768 токенов и доступна в формате safetensors. Модель подходит для исследовательских экспериментов с медицинскими и биологическими вопросами, включая ответы на вопросы и подготовку черновиков текста. В карточке указаны языки английский, французский, испанский, итальянский, польский, нидерландский и немецкий; BioMistral обучалась на текстах PubMed Central, а мультиязычные оценки проводились на автоматически переведённых медицинских наборах. Авторы предупреждают, что модель не проверялась в клинической практике, может содержать смещения и не предназначена для профессиональных медицинских решений или применения в производстве без специального выравнивания и тщательной проверки. Лицензия — Apache-2.0.

Capybara-Tess12-Yi-34B-200K-DARE — экспериментальная языковая модель, созданная brucethemoose слиянием NousResearch/Nous-Capybara-34B и migtissera/Tess-M-v1.2 с помощью экспериментальной реализации DARE TIES в mergekit. Используется архитектура Llama с плотной моделью на 33,9 млрд параметров; модель предназначена для генерации текста, в том числе диалоговых ответов с шаблоном Orca-Vicuna. Заявленная длина контекста — 200 000 токенов, основной язык в карточке — английский. Автор предупреждает, что слияние получилось неудачным. Для корректной генерации может потребоваться отключить BOS-токен или снизить температуру; иногда модель выводит стоп-токен текстом, поэтому его стоит учитывать при настройке остановки генерации. Лицензия указана как other, без конкретных условий в доступных данных.

CausalLM-RP-34B — дообученная NeverSleep модель для генерации диалогового текста в ролевых сценариях. Она основана на CausalLM/34b-beta и обучена на нескольких наборах данных для role-play. Модель использует плотную архитектуру Llama с 33,9 млрд параметров, поддерживает контекст до 200 000 токенов и доступна в формате PyTorch с весами fp16. Для диалогов README приводит шаблон ChatML. Модель предназначена для ведения ролевых бесед и продолжения диалогов по заданному системному промпту и реплике пользователя. Она рассчитана на контент для взрослой аудитории, включая NSFW-сценарии. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Configurable-Hermes-3-Llama-3.1-8B — диалоговая языковая модель, созданная Vicgalle дообучением NousResearch/Hermes-3-Llama-3.1-8B методом configurable safety tuning на наборе vicgalle/configurable-system-prompt-multitask. Она генерирует текст в ответ на инструкции и диалоговые сообщения. Поведение настраивается системным промптом: модель может работать как безопасный помощник, отвечать без ограничений, придерживаться заданной роли или стремиться к честным и беспристрастным ответам. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Заявленная длина контекста — 131 072 токена. Она рассчитана на диалоговое использование через Transformers и поддерживает интерфейс вызова инструментов. Базовая Hermes 3 на Llama 3.1 ориентирована на английский язык; отдельное подтверждение широкого языкового покрытия в карточке отсутствует. Модель подходит для экспериментов с настройкой поведения ассистента и исследования безопасности и выравнивания. В зависимости от системного промпта она может генерировать вредный или оскорбительный контент, а смена промпта не гарантирует истинности или безопасности ответов. Лицензия — llama3.1.

Это конвертированная в формат MLX версия DarkIdol-Llama-3.1-8B-Instruct-1.3-Uncensored. Модель разработана на базе дообученной модели aifeifei798/DarkIdol-Llama-3.1-8B-Instruct-1.3-Uncensored; README сообщает о конвертации с помощью mlx-lm 0.29.1. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и ролевых диалогов, в том числе мрачных сценариев, а также творческого письма. Модель принимает текст и выдаёт текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Формат MLX предназначен для запуска на устройствах Apple с совместимым программным обеспечением. Репозиторий распространяется по лицензии Llama 3.1. README не приводит отдельных результатов оценки качества или более подробных инструкций по использованию.

Darwin-60B-DUO — созданный командой FINAL-Bench агрегатор двух специализированных языковых моделей, работающий как единый API-сервис. Оркестратор Hybrid-A направляет запросы к Darwin-28B-REASON для англоязычных рассуждений, к AWAXIS-Think-31B для корейского языка либо использует последовательную обработку и ансамбль. Заявленный суммарный размер моделей — 58,17 млрд параметров; репозиторий содержит оркестратор, а веса компонентов загружаются из отдельных репозиториев и запускаются через vLLM. Модель предназначена для двуязычных корейско-английских помощников и интеграции через OpenAI-совместимый API. Оптимальна для английского и корейского; другие языки не оптимизированы. Развёртывание требует ресурсов для двух бэкендов: базовая конфигурация использует две GPU, а FP8 позволяет разместить их на одной GPU объёмом 80 ГБ. Сервис не поддерживает потоковую выдачу токенов, а заявленный текстовый режим отключает обработку изображений и видео. Возможны галлюцинации и ошибки при выборе ответа ансамблем. Лицензия репозитория — Gemma.

dQwen3.5-9B-Base — базовая языковая модель с маскированной диффузионной генерацией, созданная авторами семейства dQwen3.5 на основе Qwen3.5-9B. В гибридной архитектуре DiffuQwen35 слои внимания сделаны двунаправленными, а слои Gated DeltaNet сохраняют причинную обработку. Модель содержит 7,2 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации: в карточке указано, что она не проходила инструкционное дообучение. Метаданные также отмечают возможность диалога, однако для пользовательских инструкций модель специально не настроена. Лицензия Apache-2.0. Для запуска README требует CUDA GPU, Transformers версии 5.13 или новее, а также указывает проверенную конфигурацию с PyTorch и flash-linear-attention.

ErosScribe-10.7b-v3 — языковая модель OmnicromsBrain для генерации прозы с откровенным содержанием и ролевых диалогов. Это объединённая модель на архитектуре Mistral с 10,6 млрд параметров; репозиторий содержит веса Safetensors, а в метаданных указан контекст до 32 768 токенов. Для слияния использовано более десятка моделей и не менее 25 наборов данных; среди компонентов — модели для ролевого общения, чатов и прозы. Модель предназначена для написания художественных сцен и участия в текстовых ролевых играх. Автор отмечает, что третья версия лучше сохраняет откровенную направленность, чем предыдущие версии. Лицензия в предоставленных данных не указана.

Experiment25-7B — экспериментальная языковая модель на 7,1 млрд параметров с плотной архитектурой Mistral, опубликованная yam-peleg. Репозиторий предназначен для проверки и улучшения исследовательского конвейера обучения и оценки LLM: в эксперименте изучаются подготовка данных, алгоритмы обучения, эффективность архитектуры и метрики оценки. Модель принимает текст и генерирует текст; метаданные указывают контекст до 32 768 токенов и библиотеку Transformers. Карточка не описывает конкретные пользовательские сценарии, результаты оценки или специализированные языки, кроме английского, отмеченного в метаданных. Весы доступны в формате safetensors по лицензии Apache-2.0.

mlx-community/gemma-3n-E4B-it-bf16 — версия Gemma 3n E4B от mlx-community, преобразованная из google/gemma-3n-E4B-it в формат MLX с помощью mlx-vlm 0.3.1. Это мультимодальная диалоговая модель семейства Gemma 3n с архитектурой Gemma3nForConditionalGeneration; каталог относит её к задаче image-text-to-text и указывает поддержку чата и анализа изображений. Модель подходит для диалогов и ответов на вопросы по изображениям в среде MLX. Карточка рекомендует использовать mlx-vlm. Репозиторий содержит веса safetensors; в метаданных лицензия указана как Gemma. Подробности о возможностях исходной модели отсылаются к её карточке, поэтому поддержка аудио и видео для этой конкретной версии здесь не подтверждена.

czw/gpt2-base-chinese-finetuned-job-resume — языковая модель семейства GPT-2, созданная дообучением ckiplab/gpt2-base-chinese на неизвестном наборе данных. Она предназначена для генерации текста по заданному контексту; название указывает на специализацию на резюме и вакансиях, но README не раскрывает конкретные сценарии обучения или применения. Модель использует архитектуру GPT2LMHeadModel, работает с текстом и имеет контекст длиной до 1024 токенов. В карточке приведён результат оценки: loss 2.2658. Репозиторий содержит веса PyTorch, лицензия — GPL-3.0. Состав и качество обучающих данных, языковые возможности и ограничения в README не раскрыты.

GPT-2 Open Platypus — авторегрессионная языковая модель на архитектуре GPT-2, дообученная Luiz G A Alves на инструкциях с использованием набора Open-Platypus, ориентированного на STEM-темы и логические задачи. Модель предназначена для генерации текста и ответов на вопросы; её можно использовать напрямую или дообучать для прикладных задач. Модель работает с английским текстом и имеет контекстное окно 1024 токена. В карточке приведены результаты бенчмарков ARC и HellaSwag, однако они не гарантируют качество на пользовательских задачах. Модель может выдавать фактические ошибки и унаследовать предвзятость и неотфильтрованное содержание обучающих данных. Лицензия — MIT.

HachimiMT-30-zh-vi — компактная модель машинного перевода с архитектурой Marian seq2seq, опубликованная пользователем ngocdang83. Она переводит текст с китайского на вьетнамский и предназначена в частности для перевода веб-новелл и художественной прозы, а также для локального или серверного запуска, когда важны скорость и небольшой размер. Метаданные указывают около 30 млн параметров, библиотеку Transformers и контекст до 512 токенов; в README размер оценён примерно в 32 млн параметров. Для токенизации используются SentencePiece-токенизаторы исходного и целевого языков. В опубликованном тесте FLORES-200 devtest модель получила BLEU 14,29 и chrF 37,30; в 1 012 проверенных переводах не обнаружено строк с оставшимися китайскими иероглифами. Эти автоматические показатели не гарантируют качество художественного перевода: редкие имена, идиомы и узкоспециальная лексика остаются сложными случаями. Для публикации и других ответственных сценариев результаты следует проверять. Доступна версия runtime CTranslate2 INT8 для ускорения CPU-инференса. Условия лицензии в предоставленных данных не описаны.

Haven-Chat v5.0 — англоязычная разговорная модель-компаньон, созданная haven-ai-companion на базе Gemma 4 Turbo Sovereign Companion Engine. Она дообучена для ролевых диалогов, эмоционально насыщенного общения, проработки персонажей и повествования в фэнтезийных и фанатских сценариях. В карточке заявлены понимание идентичности и самовыражения, характерных тропов и анатомии людей и фантастических гибридов. Модель распространяется в формате GGUF для запуска через llama.cpp и Ollama; заявленный контекст — 131 072 токена. Разработчик позиционирует её как модель без отказов для творческого общения. Репозиторий использует лицензию Apache-2.0. Заявленные характеристики и возможности взяты из карточки модели и не сопровождаются независимыми оценками качества.

MuXodious/HER-32B-absolute-heresy — экспериментальная версия HER-32B, созданная с помощью abliteration-инструмента Heretic v1.2.0 с сохранением величины весов и ортогональной абляцией. Это плотная причинно-языковая модель семейства Qwen3 с 29,7 млрд параметров и контекстом до 131 072 токенов; базовая модель HER-32B дообучена для многошагового ролевого диалога и симуляции персонажей с раздельными слоями рассуждений: планированием от третьего лица и внутренними мыслями персонажа от первого лица. Модель предназначена для генерации диалогов и отыгрыша персонажей с описанием мыслей, действий и реплик. В README указано, что после преобразования доля отказов снизилась с 89 до 4 из 100, а KL-дивергенция составила 0,0318; автор отдельно отмечает, что индекс «ереси» условный и не предсказывает качество. Доступны веса Safetensors для Transformers, интерфейс поддерживает чат и вызов инструментов. Лицензия — Apache-2.0.

Это производная версия Tencent Hy-MT2-30B-A3B в формате GGUF с выборочной квантизацией NVFP4, подготовленная Reza2kn для перевода между английским и персидским языками на видеокартах NVIDIA Blackwell. В ней квантизированы 128 маршрутизируемых экспертов в слоях 1–47; механизмы внимания, эмбеддинги, маршрутизаторы, общие эксперты, нулевой слой и языковая голова сохранены в BF16. Исходная MoE-модель содержит около 30,1 млрд параметров. Модель предназначена для локального и серверного машинного перевода в обоих направлениях: английский → персидский и персидский → английский. Карточка сообщает о проверке GGUF-артефакта на Blackwell и ноутбучной RTX 5080, включая измерения скорости и качества на небольших наборах разработки. Эти результаты характеризуют проверку конвертации и не являются независимой оценкой общего качества перевода. Для запуска требуется сборка llama.cpp с поддержкой CUDA SM120 и NVFP4 MMQ; объём выгружаемых на GPU слоёв зависит от оборудования, а часть весов может размещаться в системной памяти. Распространение модели лицензировано по Apache License 2.0; сохраняются применимые уведомления и условия лицензирования исходной модели.

zurichquants/inkling-UD-Q2_K_XL-layers — пакет слоёв GGUF для распределённого запуска модели inkling через Mesh LLM. Он создан на основе unsloth/inkling-GGUF и разделяет исходную модель на артефакты по слоям, чтобы распределять вычисления между несколькими машинами. Репозиторий поддерживает сценарии локального приватного общения с моделью, обслуживания через API, совместимый с OpenAI, и запуска на кластере, когда одной машине недостаточно ресурсов. В метаданных задача модели указана как image-text-to-text, а среди возможностей — чат и работа с изображениями. Библиотека запуска — mesh-llm; пакет содержит GGUF-артефакты, включая варианты GGUF BF16. Пакет экспериментальный: проверка целостности артефактов выполнена, но корректность разделения слоёв, работы во время запуска и мультимодальность ещё не сертифицированы. README отсылает за архитектурой, лицензией и рекомендациями к карточке исходной модели, поэтому условия лицензии здесь не установлены.

Это GGUF-квантизированная версия модели internlm/internlm2-math-plus-mixtral8x22b, подготовленная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и, судя по названию и исходной модели, ориентирована прежде всего на математические задачи. Указаны английский и китайский языки. Формат GGUF подходит для локального запуска средствами llama.cpp и совместимыми инструментами. В репозитории представлены варианты от BF16 и FP16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов; размеры файлов составляют примерно от 48 до 281 ГБ, а многие варианты разделены на части. Для ряда низкобитных вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера. Исходный тип данных модели — BF16. Архитектура, точное число параметров, размер контекста и поддерживаемые модальности в README не указаны; из данных следует только текстовая специализация без заявленной поддержки изображений или аудио. Сильные стороны — широкий выбор уровней квантизации и возможность локального запуска, а также использование IMatrix в части компактных вариантов. Ограничения — очень большие требования к дисковому пространству и, вероятно, к оперативной или видеопамяти; качество и скорость зависят от выбранного варианта квантизации. Лицензия обозначена как other, но её конкретные условия в README не приведены.

KansenSakura-Eclipse-RP-12b — 12,1-миллиардная плотная авторегрессионная модель семейства Mistral, созданная Retreatcost слиянием нескольких моделей для ролевых диалогов и повествовательной прозы. Она ориентирована на сюжеты в духе визуальных новелл, эмоциональные трансформации персонажей, телесные описания и техноорганический хоррор; поддерживает чатовый формат ChatML. В README автор советует ограничивать контекст 16 тыс. токенов для лучшего качества, хотя в метаданных заявлено 1 024 000 токенов нативного контекста. Модель предназначена для генерации текстовых сцен и продолжения ролевого взаимодействия. Слияние объединяет KansenSakura-Zero-RP-12b, Violet Twilight, Muse, Wayfarer, Forgotten Safeword и Bigger-Body; карточка также описывает сочетание слоёв для связности повествования, эмоциональной глубины и построения сцен. В README заявлены неограниченная творческая генерация и возможность NSFW-контента, включая потенциально тревожные сюжеты. Лицензия — Apache-2.0.

grimjim создал kunoichi-lemon-royale-7B — экспериментальную объединённую модель для генерации текста на основе архитектуры Mistral с 7,1 млрд параметров. Она предназначена прежде всего для ролевых диалогов и повествовательной генерации: модель следует карточкам персонажей и учитывает подсказки из начального сообщения. Для общения подходят шаблоны Alpaca и ChatML; заявленный контекст — до 8192 токенов. Модель получена слиянием нескольких предварительно обученных моделей методом DARE TIES с помощью mergekit; базой послужила SanjiWatsuki/Kunoichi-7B. Доступны варианты квантования GGUF и EXL2. README отмечает, что модель проверена лишь ограниченно и иногда может раскрывать контекст. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не коммерческое применение.

L3.1-Artemis-c-8B — диалоговая языковая модель семейства Llama, созданная сообществом mergekit-community с помощью mergekit. Это слияние методом Model Stock с базой kromeurus/L3.1-Ablaze-Vulca-v0.1-8B и тремя другими моделями: Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B, mergekit-community/L3-Boshima-a и failspy/Llama-3-8B-Instruct-MopeyMule. Модель содержит около 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Модель предназначена для диалогов и ролевых сценариев. Описание базовой модели в каталоге указывает на ролевые игры с тяжёлыми эмоциональными темами и сюжетами спасения персонажей. Веса доступны в формате safetensors; для запуска используется библиотека Transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

kromeurus/L3.1-Siithamo-v0.4-8B — объединённая разговорная модель на архитектуре Llama 3.1, созданная автором карточки с помощью mergekit. В репозитории указано 7,5 млрд параметров, формат safetensors и контекст до 131 072 токенов. В состав merge входят несколько моделей семейства Llama 3 и 3.1, включая Lyraea, Niitama и варианты ArliAI Formax. Модель предназначена для генерации текста в диалогах и особенно для ролевых игр: автор отмечает следование инструкциям, динамичный стиль письма и запоминание деталей примерно в пределах 32 тысяч токенов. Она склонна к многословным, витиеватым и драматичным ответам, поэтому хуже подходит для тонкой и сдержанной ролевой игры. README указывает, что для результата важно явно задавать формат ответа. Сведения о лицензии в предоставленных данных отсутствуют.

QuantFactory/L3-8B-Stheno-v3.1-GGUF — квантованная версия модели Sao10K/L3-8B-Stheno-v3.1, созданная с использованием llama.cpp. Модель основана на Llama 3 с размером 8B параметров и предназначена для генерации текста на английском языке. Формат GGUF ориентирован на локальный запуск совместимых языковых моделей. Основной сценарий использования — ролевые диалоги один на один с поддержанием заданной личности персонажа. Модель также подходит для сценариев, RPG и написания историй, хотя для роли рассказчика или сложных игровых сессий ей могут потребоваться дополнительный контекст и few-shot-примеры. Разработчик отмечает выразительный стиль, разнообразные ответы при повторной генерации и хорошую обработку характеров персонажей. Модель склонна к NSFW-содержанию, поэтому для нейтрального направления это следует явно указывать в запросах. К ограничениям относятся периодическая генерация XML-утечек и бессмысленного текста, которые, по данным README, обычно исправляются повторной генерацией. Архитектурные детали квантования, размер контекста и конкретные варианты квантования не указаны. Модель выпущена под лицензией CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.

QuantFactory/Llama-3.1-Hawkish-8B-GGUF — квантизированная версия модели Llama-3.1-Hawkish-8B, разработанной mukaj и преобразованной QuantFactory с использованием llama.cpp. Модель предназначена для генерации текста и работает в формате GGUF. Модель ориентирована прежде всего на финансовые и экономические задачи: анализ экономики, облигаций и фиксированной доходности, акций, корпоративного финансирования, деривативов и управления портфелем. Дополнительно в дообучение включались материалы по программированию, общим знаниям, NLP и диалогам, чтобы снизить забывание исходных возможностей. Указан английский язык. Размер модели — 8B параметров; точные характеристики архитектуры, размер контекстного окна и конкретный уровень квантизации в README не приведены. По заявлению авторов, модель улучшена в математике и экономике и показала проходной результат на представленном пробном экзамене CFA Level 1, однако приведённые оценки относятся к отдельному mock exam и не являются гарантией качества в реальных финансовых сценариях. Ограничения также связаны с отсутствием подробных данных о тестовой методике и точных параметрах квантизации. Лицензия обозначена как other, без дополнительных условий в карточке модели.