II.6Документация и сопровождение разработки

laion/delphi-2e20-p67m33-k0p20-lr83-a001-wc386k_lr1e5-sft — разговорная языковая модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Она принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Модель обучена с нуля на наборах wildchat_386k и delphi_warmup, а карточка также отмечает возможность диалога. Модель предназначена для генерации ответов в диалогах и других сценариев текстовой генерации. В репозитории указаны веса Safetensors и библиотека Transformers. Лицензия обозначена как other; конкретные условия использования в доступных данных не раскрыты.

Это диалоговая модель генерации текста семейства Qwen3, опубликованная LAION. Согласно карточке, модель обучена с нуля на наборах данных Magpie и delphi_warmup. Она предназначена для генерации текста в чат-сценариях. Модель содержит 315,9 млн параметров, использует плотную архитектуру Qwen3ForCausalLM и принимает контекст длиной до 4096 токенов. Файлы весов представлены в формате safetensors; для работы указана библиотека Transformers. Лицензия обозначена как other, поэтому условия использования следует проверять в репозитории модели.

Densefin-291-Mistral-22B — разговорная языковая модель семейства Mistral, опубликованная lodrick-the-lafted. Она предназначена для генерации текста и диалогов. По метаданным, модель плотная, содержит 22 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст до 65 536 токенов. Карточка описывает её как результат небольшого изменения тензоров для преобразования Mixtral с одним экспертом в вариант Mistral; исходная базовая модель не названа. Модель распространяется в формате safetensors под лицензией Apache-2.0. В метаданных указана возможность чата, однако README не сообщает результатов оценки качества или подробностей о возможностях и ограничениях такой модификации.

Модель Dnoya10/dicoding_genAI_adv_collab_grpo_5 разработана Dnoya10 и представляет собой дообученную языковую модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Поддерживает английский язык и контекст длиной до 32 768 токенов. Обучена с использованием Unsloth и библиотеки TRL от Hugging Face. Распространяется по лицензии Apache-2.0.

DiscoLM 120b (Alpha) — экспериментальная языковая модель DiscoResearch, обученная Бьёрном Плюстером. Это дообученная версия Goliath 120B, объединённой модели на основе нескольких Llama 2 70B. Модель содержит около 117,5 млрд параметров, использует архитектуру Llama с плотной causal language model и принимает текст, выдавая текст. Для диалогов применяется формат ChatML; максимальный исходный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, включая генерацию текстов, ответы на вопросы, рассуждения, математические задачи и код. В обучающую выборку вошли англоязычные и немецкоязычные инструкции, диалоги, математические данные, стихи и песни. Авторы приводят результаты бенчмарков, однако отмечают раннюю альфа-стадию и возможность загрязнения тестовых данных, поэтому оценки не гарантируют качество в практических задачах. Модель распространяется по лицензии Llama 2; при использовании действуют ограничения исходной лицензии и лицензий обучающих датасетов. Авторы указывают, что модель предназначена только для исследовательских целей.

hlo-world/dolphin-2.1-mistral-7b-tgi — это перепакованная версия ehartford/dolphin-2.1-mistral-7b для запуска через Text Generation Inference. Репакер исправил проблему с индексами добавленных токенов и включил веса в формате safetensors, чтобы упростить развёртывание. В основе — плотная авторегрессионная модель Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель работает с текстом и поддерживает диалог в формате ChatML. Модель обучена на датасетах Dolphin и Airoboros 2.2.1 и предназначена для генерации текста и ответов в диалоге на английском языке. В README она описана как модель без встроенных ограничений на содержание, поэтому перед предоставлением пользователям может потребоваться собственный слой выравнивания и модерации. Лицензия Apache 2.0 допускает коммерческое и некоммерческое использование.

HenryJJ/dolphin-2.6-mistral-7b-dpo-orca-v1 — авторегрессионная языковая модель, дообученная HenryJJ методом DPO на базе cognitivecomputations/dolphin-2.6-mistral-7b с использованием набора Intel/orca_dpo_pairs. Модель предназначена для диалогов и генерации ответов в формате ChatML; заявленный язык — английский. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Нативная длина контекста по метаданным составляет 32 768 токенов; README сообщает, что обучение проводилось с окном контекста 1 024 токена. В репозитории указаны веса Safetensors. Лицензия — Apache-2.0.

Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

dots.llm1.inst — инструктивная версия языковой модели dots.llm1 от команды dots-studio. Это разреженная MoE-модель с 142 млрд параметров, из которых при генерации активируются 14 млрд. Архитектура включает 62 слоя, multi-head attention с QK-Norm и маршрутизацию к 6 из 128 экспертов, а также два общих эксперта. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на запросы и генерации или продолжения текста на английском и китайском языках. В README описаны этапы предварительного обучения и дообучения с учителем; репозиторий содержит вариант instruction-tuned. Указанная лицензия — MIT. Сведения о качестве в конкретных задачах в доступной карточке не приведены.

Модель dpo-qwen2.5-0.5b-halueval разработана Varun Chundru и Debasmita Biswas как компонент снижения галлюцинаций в исследовательском проекте Purdue University Fort Wayne. Это плотная причинная языковая модель Qwen2.5 на 494 млн параметров, дообученная методом Direct Preference Optimization на предпочтениях, составленных по трём задачам набора HaluEval: ответам на вопросы, диалогу и суммаризации. Модель предназначена для генерации текста по контексту, в частности для ответов на вопросы и суммаризации документов с опорой на источник. Она принимает текст и может использовать контекст до 32 768 токенов; карточка указывает английский язык. В оценке на отложенной части HaluEval общая доля галлюцинаций, измеренная отдельным классификатором DeBERTa, снизилась с 85,5% у базовой модели до 37,7%. Наибольший эффект показан для ответов на вопросы и суммаризации, тогда как в диалоге показатель остался высоким — 94,2%. Это измерения классификатора-прокси, а не человеческая оценка; обучение длилось одну эпоху, а ограничение длины при обучении могло обрезать длинные документы. Модель не рекомендуется для высокорисковых сценариев без дополнительной проверки. Лицензия — Apache-2.0.

Dumpling-Qwen2.5-1.5B — диалоговая языковая модель на архитектуре Qwen2 с 1,5 млрд параметров, созданная nbeerbower дообучением nbeerbower/EVA-abliterated-TIES-Qwen2.5-1.5B. Модель предназначена для генерации текста и диалоговых ответов; метаданные также указывают интерфейс вызова инструментов. Контекстное окно составляет до 131 072 токенов. Модель дообучена методом QLoRA ORPO в течение двух эпох на наборах DPO, охватывающих диалоги, рассуждения, художественные тексты и другие предпочтения ответов. Доступна в формате safetensors через Transformers. Лицензия — Apache-2.0. Карточка не сообщает результаты оценивания качества и не описывает отдельно поддерживаемые естественные языки.

DupletBoreas-7B-t0.0001 — экспериментальная объединённая языковая модель, опубликованная под именем v000000. Она создана алгоритмом NearSwap на основе fearlessdots/WizardLM-2-7B-abliterated и Virt-io/Erebus-Holodeck-7B; в README первой указана как базовая fearlessdots/WizardLM-2-7B-abliterated. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и многоходового диалога в формате запросов, совместимом с Vicuna. В README также описана поддержка жанровых подсказок. Указаны веса в формате safetensors; автор README благодарит за квантованные версии GGUF и GGUF imatrix, но эти форматы не перечислены среди файлов метаданных этой модели. Языки и специализированные области применения не заявлены. Условия лицензии в предоставленных данных не указаны.

Eris_PrimeV3.05-Vision-7B — объединённая ChaoticNeutrals модель семейства Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а также анализа изображений при запуске в Koboldcpp с отдельным файлом mmproj; для работы с изображениями автор рекомендует актуальную версию Koboldcpp. Модель имеет контекст длиной 32 768 токенов. Репозиторий содержит веса в форматах Safetensors и GGUF F16. По метаданным, модель объединяет Eris_PrimeV3-Vision-7B и Prima-LelantaclesV7-experimental-7b. Лицензия обозначена как other, поэтому условия использования следует уточнить на странице репозитория.

EVA-LLaMA-3.33-70B-v0.0-GGUF — это квантизированная версия большой языковой модели EVA-LLaMA-3.33-70B-v0.0, разработанной EVA-UNIT-01 и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. В README указано использование наборов данных для инструкционного обучения, письма, ролевого взаимодействия и генерации структурированных ответов. Модель содержит 70B параметров и относится к семейству LLaMA; точная архитектура, поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. Доступны варианты квантизации от Q8_0 до Q3 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Наиболее качественными считаются Q8_0 и Q6_K, а Q4_K_M, Q4_K_S и IQ4_XS предназначены для более сбалансированного локального использования. Некоторые варианты оптимизированы для ARM или AVX и имеют ограничения по совместимости с устройствами Apple. Сильными сторонами являются большой размер модели, ориентация на качественную генерацию текста и широкий выбор уровней квантизации. Ограничения включают значительные требования к оперативной памяти: размер файлов составляет примерно от 27 до 75 ГБ, а снижение разрядности может ухудшать качество. Модель предназначена для текстовых задач; сведения о мультимодальности, результатах оценивания и конкретных ограничениях безопасности отсутствуют. Лицензия указана как eva-llama3.3 с типом other; дополнительные условия в README не приведены.

Jongbin-kr/exaone-3.5-7.8b-verireason-full-ft-reasoning-co-ratio1.0-epoch3 — дообученная Jongbin-kr на TRL версия инструкционной языковой модели EXAONE-3.5-7.8B-Instruct от LG AI Research. Это плотная авторегрессионная модель класса ExaoneForCausalLM с 7,4 млрд параметров, предназначенная для диалогов и генерации текста. В карточке показан пример ответа на вопрос в формате чата. Модель принимает текст и генерирует текст; контекстное окно составляет 32 768 токенов. Базовая модель рассчитана на английский и корейский языки. Название и карточка указывают на настройку для рассуждений, однако сравнительные оценки качества и подробности обучающих данных не приведены. Для запуска в README указан Transformers и выполнение на CUDA.

EXAONE-4.0-1.2B-GGUF — квантизированная версия языковой модели EXAONE 4.0, разработанной LG AI Research. Модель предназначена для генерации текста, диалоговых приложений, локального запуска и on-device-сценариев, где важны компактный размер и умеренное потребление ресурсов. Серия EXAONE 4.0 поддерживает режимы рассуждения и без рассуждения, использование инструментов агентами и многоязычную работу на английском, корейском и испанском языках. Вариант содержит около 1,07 млрд параметров без учёта эмбеддингов, 30 слоёв и механизм внимания GQA с 32 головами и 8 KV-головами. Размер словаря составляет 102 400 токенов, заявленная длина контекста — 65 536 токенов. Модель распространяется в формате GGUF с вариантами квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS, а также с весами BF16; поддерживается llama.cpp. Сильными сторонами являются компактность, возможность локального и встраиваемого использования, поддержка трёх языков, длинного контекста и двух режимов генерации. Ограничением по сравнению с 32B-версией серии является существенно меньший размер, поэтому модель может уступать ей в качестве, глубине рассуждений и сложных профессиональных задачах; конкретные результаты тестирования для данного варианта в предоставленных данных не приведены. Лицензия указана как EXAONE, с типом other и отдельным файлом LICENSE; точные условия использования в README не раскрыты.

MaziyarPanahi/Experiment26Yam_Ognoexperiment27Multi_verse_model — объединённая модель для генерации текста, созданная на основе двух моделей: automerger/Experiment26Yam-7B и automerger/Ognoexperiment27Multi_verse_model-7B. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста с контекстом до 32 768 токенов. Карточка не уточняет специализацию, поддерживаемые языки или отдельные сценарии применения. Веса опубликованы в формате safetensors по лицензии Apache-2.0.

Experiment26Yamshadow_YamNeuralsirkrishna — объединённая текстовая модель, созданная из automerger/Experiment26Yamshadow-7B и automerger/YamNeuralsirkrishna-7B. В репозитории указаны архитектура Mistral с плотной структурой и 7,1 млрд параметров; модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется продолжать или создавать текстовые ответы на входной запрос. Метаданные указывают задачу text-generation, но README не описывает специализированные области применения или сравнительные преимущества. Модель распространяется по лицензии Apache-2.0. Карточка не содержит сведений о дополнительном обучении, оценках качества или ограничениях поведения.

MaziyarPanahi/Experiment28T3q_Experiment24Ognoexperiment27 — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана путём слияния automerger/Experiment28T3q-7B и automerger/Experiment24Ognoexperiment27-7B. Модель предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжения текста. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0. README не описывает конкретные преимущества, целевые сценарии или результаты оценки качества, поэтому их нельзя надёжно определить по доступным данным.

bunnycore/Falcon3-3B-RP-V0.1 — объединённая языковая модель, созданная с помощью mergekit методом passthrough на основе huihui-ai/Falcon3-3B-Instruct-abliterated и bunnycore/falcon-3-3B-Rp-lora_model. В метаданных архитектура указана как плотная модель семейства Llama с классом LlamaForCausalLM; размер — 2,8 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке заявлен интерфейс для вызова инструментов, однако подробные инструкции по его использованию и примеры диалогов не приведены. Карточка не сообщает о поддерживаемых естественных языках или специализированных областях применения. Лицензия в предоставленных данных не указана. Качество, ограничения и безопасность ответов отдельно не описаны; результаты следует проверять в соответствии с предполагаемым сценарием использования.

Falcon3-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Falcon3-7B-Instruct, разработанной Technology Innovation Institute (TII) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, включая запуск локально через llama.cpp и совместимые приложения, например LM Studio. Для общения используется шаблон с ролями system, user и assistant. Модель поддерживает английский, французский, испанский и португальский языки. Базовый размер составляет 7 млрд параметров; доступны варианты от F16 до Q2_K, поэтому можно выбирать баланс между качеством, скоростью и требованиями к памяти. Квантизация выполнена с использованием imatrix, а в README отдельно отмечено исправление tokenizer. Варианты Q5 и Q6 характеризуются как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а более компактные Q3 и Q2 имеют заметно более низкое качество. Основные ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием в README данных о размере контекста, архитектурных деталях, производительности и специализированных возможностях. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке модели.

Fireball-3.1-8B-ORPO-GGUF — квантованная версия текстовой генеративной модели Fireball-3.1-8B-ORPO, разработанной EpistemeAI и подготовленной в формате GGUF пользователем bartowski. Модель основана на архитектуре семейства Llama, содержит около 8 миллиардов параметров и предназначена для генерации текста на английском языке. Исходная модель обучалась с использованием SFT и ORPO на датасете reciperesearch/dolphin-sft-v0.1-preference. Модель подходит для локального инференса и сценариев, связанных с диалогами и генерацией текста, включая запуск через llama.cpp и LM Studio. В репозитории доступны варианты от F16 до низкобитных квантований Q2–Q8, что позволяет выбирать баланс между качеством, объёмом памяти и скоростью работы. Рекомендуемыми указаны варианты Q4–Q6; некоторые форматы Q4_0 дополнительно оптимизированы для CPU и ARM. К сильным сторонам относятся широкий выбор квантований, возможность локального запуска и сохранение высокого качества в вариантах Q5–Q8. Ограничения включают отсутствие указанного в README формата промпта, неизвестный размер контекста и отсутствие сведений о мультимодальности; по имеющимся данным модель предназначена только для работы с текстом. Лицензия указана как Llama 3.1, с дополнительной ссылкой на файл LICENSE.

jaspionjader/fr-6-8b — объединённая разговорная языковая модель семейства Llama, созданная с помощью mergekit методом SLERP из jaspionjader/fr-3-8b и jaspionjader/fr-5-8b. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалоговых ответов. Модель принимает текст и выдаёт текст. Заявленная длина контекста составляет 131072 токена. Веса доступны в формате safetensors для библиотеки Transformers. README не описывает отдельные специализированные области или языки применения. Условия лицензии в предоставленных данных не указаны.

Franken-Mistral-Merlinite-Maid 7B — объединённая языковая модель, созданная ND911 с помощью mergekit и метода SLERP. В слиянии использована модель l3utterfly/mistral-7b-v0.1-layla-v4-chatml; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста, включая диалоговые сценарии и ответы в стиле чат-модели Layla. Модель принимает текст и генерирует текст. Её контекстное окно составляет 8192 токена. Лицензия в предоставленных данных не указана.

Модель RyotaKadoya1993/fullymerged_v1_128_gen3 — дообученная плотная авторегрессионная Llama-модель для генерации текста и диалогов. Её разработал RyotaKadoya1993; базовая модель — ryotakadoya1993/fullymerged_v1_128_gen2. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст длиной до 8192 токенов. В метаданных указан английский язык и возможность чата. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные предметные области, результаты оценки качества или конкретные ограничения; пригодность ответов следует проверять для выбранного сценария.

Карточка модели FuseAI/FuseChat-7B-v2.0 на Hugging Face совпадает с карточкой FuseAI/OpenChat-3.5-7B-Starling-v2.0, поэтому описание составлено по ней. FuseAI/OpenChat-3.5-7B-Starling-v2.0 — диалоговая языковая модель, выпущенная исследовательской группой Sun Yat-sen University в рамках проекта FuseChat. Это целевая модель, полученная лёгким дообучением для попарного слияния знаний OpenChat-3.5-7B и Starling-LM-7B-alpha; архитектура — плотная Mistral с 7,1 млрд параметров. В README она описана как компонент для объединения с другими целевыми моделями FuseChat в единую чат-модель. Модель предназначена для ответов на вопросы, выполнения текстовых инструкций и диалогового общения. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README приводит результаты MT-Bench для итоговой FuseChat-7B-v2.0, но не отдельную оценку этого целевого чекпойнта, поэтому эти показатели нельзя напрямую переносить на данную модель. Качество ответов может зависеть от шаблона диалога и сценария применения.

FuseChat-Llama-3.1-8B-Instruct-GGUF — это набор квантованных версий инструкционной языковой модели FuseChat-Llama-3.1-8B-Instruct, разработанной FuseAI. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с пользовательскими запросами в локальных приложениях на базе llama.cpp и LM Studio. Квантованные файлы представлены в формате GGUF и подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу текстовых генеративных моделей и имеет около 8 млрд параметров в исходной версии. Доступны варианты от F32 и F16 до различных форматов квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов составляет примерно от 4,3 до 32,1 ГБ. Для работы предусмотрен специальный шаблон промпта с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантований: варианты Q6 и Q5 ориентированы на высокое качество, а Q4 и Q3 — на снижение требований к памяти. Некоторые файлы оптимизированы для ARM или AVX, однако отдельные варианты не рекомендуются для Mac или GPU. README не содержит сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, результатах оценки и лицензии, поэтому эти характеристики нельзя подтвердить.

FuseChat-Qwen-2.5-7B-Instruct-GGUF — набор GGUF-квантизаций модели FuseAI/FuseChat-Qwen-2.5-7B-Instruct, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и LM Studio. Для работы рекомендуется применять формат промпта с маркерами ролей system, user и assistant. В набор входят варианты от исходных весов f32 и f16 до квантизаций Q8_0, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер 7B указан в названии базовой модели; конкретные файлы занимают примерно от 4,09 до 30,47 ГБ. Некоторые варианты оптимизированы для ARM или AVX, отдельные требуют поддержки SVE или i8mm и не рекомендуются для Mac или GPU в зависимости от формата. Сильная сторона набора — широкий выбор уровней квантизации, включая варианты, ориентированные на высокое качество и использование на устройствах с ограниченной памятью. README не содержит сведений о языках, размере контекста, мультимодальности и лицензии исходной модели, поэтому эти характеристики нельзя достоверно указать.

FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview-GGUF — это GGUF-квантизированная версия instruct-модели FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview, разработанной FuseAI и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio. В основе лежит модель с 32 миллиардами параметров; доступны варианты от BF16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix на базе llama.cpp b4514. Более высокие форматы сохраняют лучшее качество, а варианты Q4 и Q3 требуют меньше оперативной памяти; наиболее универсальным в README назван Q4_K_M. Указан специальный шаблон промпта с ролями system, User и Assistant. Модель ориентирована на локальный инференс и сценарии, где важны автономность, выбор размера файла и баланс между качеством и требованиями к памяти. README не содержит сведений о поддерживаемых языках, длине контекста, мультимодальности, результатах бенчмарков или ограничениях качества. Лицензия в предоставленных данных не указана.

FusionEngine-12B-Lorablated — объединённая модель на базе yamatazen/FusionEngine-12B с адаптером nbeerbower/Mistral-Nemo-12B-abliterated-LORA. Её разработчик — yamatazen. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; она предназначена для генерации текста и диалогового общения. Модель сохранена в формате bfloat16 и может использоваться для развёртывания или дальнейшего дообучения. Заявленная длина контекста — 1 024 000 токенов. Модель принимает текст и выдаёт текст. Карточка не уточняет поддерживаемые естественные языки и лицензию, поэтому нельзя определить языковой охват и условия использования. По названию и составу модель связана с abliterated-адаптером, однако README не описывает поведение модели и не приводит результаты оценки качества.