I.5Создание и редактирование текста

Lambent/cosmo-upscale — языковая модель для генерации текста, созданная методом mergekit passthrough на основе HuggingFaceTB/cosmo-1b. В конфигурации повторно размещены срезы слоёв исходной модели; репозиторий содержит веса в формате safetensors. Архитектура — плотная LlamaForCausalLM, размер — 2,1 млрд параметров, контекст — 2048 токенов. Модель подходит для продолжения текста и генерации ответов, историй и образовательного контента — таких сценариев, как у базовой модели. В карточке описана операция слияния, однако метаданные классифицируют происхождение как дообучение; здесь указан тип из метаданных. Лицензия и отдельные оценки качества в предоставленных данных не приведены.

Covasna-0.1 — сжатая обрезкой версия языковой модели migtissera/Tess-70B-v1.6, представленная Mihaiii. Модель семейства Llama предназначена для генерации текста и диалогового общения. Веса хранятся в формате BF16 и SafeTensors; после удаления части слоёв размер модели составляет около 41,3 млрд параметров вместо 69 млрд у исходной модели. Контекст — до 32 764 токенов. Автор описывает отбор слоёв по показателю SNR с помощью laserRMT и их удаление с mergekit. Модель распространяется по лицензии Llama 2. README также ссылается на отдельную версию GGUF, но эта карточка описывает вариант BF16.

creative-writer-32b-preview-GGUF — это GGUF-квантизации языковой модели creative-writer-32b-preview, разработанной jukofyork и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации творческих текстов и других задач текстовой генерации; указанный язык — английский. Для запуска рекомендуется использовать LM Studio или совместимое ПО на базе llama.cpp. Модель имеет размер 32 млрд параметров в исходном варианте, однако README не содержит сведений о её базовой архитектуре, размере контекстного окна или поддерживаемых модальностях, поэтому её следует рассматривать как текстовую, англоязычную модель. Доступны варианты от F16 до различных Q8, Q6, Q5, Q4 и Q3-квантизаций объёмом примерно от 14,71 до 64,60 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, а младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству. Сильной стороной является наличие большого выбора квантизаций для разных аппаратных конфигураций; README рекомендует, в частности, варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K_M. Ограничения включают англоязычную специализацию, требования к значительному объёму памяти для крупных вариантов и потенциальное снижение качества при использовании низких уровней квантизации. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.

CrucibleLab_M3.2-24B-Loki-V1.3-GGUF — это GGUF-квантизация текстовой генеративной модели M3.2-24B-Loki-V1.3, разработанной CrucibleLab. Квантизации выполнены bartowski с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных Q- и IQ-квантизаций. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с llama.cpp, включая LM Studio и другие производные проекты. Размер исходной модели составляет 24B параметров; размер файлов зависит от варианта квантизации и варьируется примерно от 10,4 до 47,15 ГБ. Для модели не указан собственный формат промптов, поэтому его следует уточнять на странице оригинальной модели. Сильная сторона сборки — широкий выбор вариантов, позволяющий выбирать между качеством генерации и требованиями к памяти. Q6_K_L, Q6_K, Q5 и Q4-варианты отмечены как высококачественные или рекомендуемые, тогда как Q3-варианты экономят память ценой снижения качества. Языки, длина контекста, точная архитектура, дополнительные модальности и лицензия в представленном README не указаны.

CrystalMistral_7b_v.03 — языковая модель для генерации текста и диалогов, созданная Crystalcareai с помощью LazyMergekit. Это слияние методом SLERP моделей Crystalcareai/CrystalMistral-GPT4 и cognitivecomputations/samantha-1.2-mistral-7b. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не описывает языковую специализацию или отдельные прикладные области. Модель подходит для генерации ответов и ведения диалога. Данных о сравнительных оценках качества и известных ограничениях нет. Условия лицензии в предоставленных данных не указаны.

csg-wukong-1B-chat-v0.1 — разработанная OpenCSG чат-модель, полученная дообучением csg-wukong-1B. Она предназначена для диалоговой генерации текста и может применяться в чат-ботах и других сценариях, где требуется генерировать ответы на текстовые запросы. Модель построена на плотной архитектуре Llama и содержит около 1 млрд параметров; заявленная длина контекста — 32 768 токенов. В карточке также отмечена возможность работы с кодом. Модель представлена в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены сведения об обучении и оценке исходной csg-wukong-1B на open_llm_leaderboard, но отдельные результаты оценки чат-версии не указаны.

CTRL — авторегрессионная однонаправленная Transformer-модель для генерации текста, разработанная Salesforce Research. Она обучена предсказывать следующий токен на корпусе объёмом около 140 ГБ и использует первый токен как управляющий код, задающий, например, домен, стиль, тему, дату, сущности или тип задачи. Модель предназначена для генерации текста с управляемыми параметрами: черновиков и творческих текстов, форматированных материалов и контекстной маркетинговой копии. Её также можно дообучать для других текстовых задач и использовать в исследованиях генерации и выявления искусственного текста. Модель поддерживает главным образом английский язык, а также в меньшей степени немецкий, испанский и французский; указанный для неё контекст составляет 50 000 токенов. Доступны веса PyTorch и TensorFlow. CTRL может воспроизводить вредные стереотипы и предвзятость из обучающих данных, а сгенерированные утверждения могут быть ложными или приписаны не тем людям. Рекомендации разработчиков ограничивают автономное использование и применение для нормативных утверждений. Лицензия — BSD 3-Clause.

cybertron-v4-qw7B-UNAMGS-GGUF — квантизированная версия текстовой языковой модели cybertron-v4-qw7B-UNAMGS, разработанной fblgit на базе Qwen2.5 7B. Квантизацию выполнил bartowski в формате GGUF с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и диалоговых сценариев; для работы указан шаблон промпта в формате ChatML. Поддерживается английский язык. Модель дообучалась методом SFT с использованием подходов UNA (Uniform Neural Alignment) и MGS на датасете Magpie-Align/Magpie-Qwen2.5-Pro-1M-v0.1. Архитектура, размер контекста и точная модальность в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других типов данных. Доступны варианты от F16 до квантизаций Q8_0, Q6_K_L, Q6_K, Q5_K_L, Q5_K_M и Q5_K_S, что позволяет выбирать баланс между качеством и требованиями к памяти. Для запуска рекомендуется LM Studio или совместимое ПО на базе llama.cpp. В качестве сильных сторон заявлены высокие результаты среди моделей класса 7–8B без загрязнения тестовых данных, а также несколько вариантов квантизации, включая Q6_K и Q6_K_L. Ограничения включают сравнительно небольшой размер модели и отсутствие подробных сведений о контекстном окне, производительности, безопасности и практических сценариях применения. Лицензия обозначена как Qwen; README ссылается на лицензию Qwen для Qwen2.5-72B-Instruct, однако точные условия для производной модели требуют проверки.

Cydonia-v1.25-22B — слитая языковая модель, созданная автором репозитория на основе TheDrummer/Cydonia-22B-v1.2 и TheDrummer/Cydonia-22B-v1.3. Модели объединены методом SLERP с помощью mergekit; в конфигурации указана точность bfloat16. Репозиторий содержит 22-миллиардную плотную модель архитектуры Mistral в формате safetensors с контекстом до 32 768 токенов. Модель предназначена для генерации текста и разговорного взаимодействия; базовое семейство Cydonia ориентировано на творческое письмо, ролевые диалоги и развитие повествовательных сцен. В метаданных также отмечен интерфейс вызова инструментов. Поддерживаемый язык по карточке — английский. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория и лицензиями исходных моделей.

knifeayumu/Cydonia-v1.3-Magnum-v4-22B — плотная языковая модель семейства Mistral на 22 млрд параметров, созданная автором knifeayumu с помощью слияния моделей TheDrummer/Cydonia-22B-v1.3 и anthracite-org/magnum-v4-22b. Для слияния применён метод SLERP через mergekit; веса представлены в формате Safetensors и имеют точность bfloat16. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и создание связной прозы. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов, а интерфейс карточки отмечает возможности чата и вызова инструментов. Базовая модель описана как ориентированная на английский язык; других языковых характеристик README и метаданные не подтверждают. В метаданных указана лицензия «other», поэтому перед использованием следует проверить условия на странице модели и её базовых компонентов. Карточка не содержит конкретных оценок качества; как у генеративной языковой модели, ответы могут быть ошибочными или неподходящими для конкретной задачи.

Cygnis Alpha 2 (8B) v0.3 i1 GGUF — квантизированная GGUF-версия модели Cygnis-Alpha 2 8B v0.3, разработанная автором или организацией Simonc-44. Модель относится к семейству Llama 3.1 и оптимизирована для генерации текста, рассуждений и задач, где требуется сохранение сложных паттернов цепочки рассуждений (CoT). Модель предназначена для локального вывода через llama.cpp, Ollama и совместимые инструменты. Она ориентирована на английский и французский языки. Вариант i1 использует оптимизацию Imatrix, призванную повысить качество низкобитной квантизации; доступны, в частности, варианты Q6_K размером около 6,7 ГБ и рекомендуемый Q4_K_M размером около 5,0 ГБ. Архитектура, заявленный размер около 8B параметров и текстовая модальность указаны в README, но размер контекстного окна не приведён. Сильными сторонами являются локальный запуск, поддержка французского и английского языков, а также направленность на рассуждения при сниженной потребности в памяти благодаря квантизации. Ограничения включают возможную потерю качества по сравнению с полной точностью и отсутствие в предоставленных данных количественных результатов тестирования, подробных сведений об архитектуре и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Cypher-Mixtral-2x1.8B-v0.1 — языковая модель на архитектуре Mixtral с разреженной смесью экспертов (MoE), созданная aloobun с помощью LazyMergekit путём объединения Cypher-Mini-1.8B и Cypher-CoT-1.8B. В модели 1,7 млрд параметров, она принимает текст и генерирует текст; заявленное контекстное окно составляет 16 384 токена. Модель предназначена для генерации текста и диалогового общения. В состав объединённой модели входят Cypher-Mini и Cypher-CoT, однако README не уточняет отдельные сценарии применения или языки обучения. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробных сведений об ограничениях; ответы следует проверять, особенно при использовании в критически важных сценариях.

Модель bryordas/d-40-16-5e-5 — дообученная автором bryordas разговорная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке указаны английский язык и формат safetensors. Для обучения использовались Unsloth и библиотека TRL; конкретный набор данных и специализированная область применения не описаны. Модель распространяется по лицензии Apache-2.0. Данных о качестве и ограничениях дообучения в карточке нет.

Danny-Odin — объединённая языковая модель Edens-Gate на архитектуре Gemma 2, созданная с помощью mergekit методом task arithmetic. В качестве базовой модели использована Edens-Gate/Danny-Test, а Delta-Vector/Odin-9B добавлена в слияние с весом 0,1. Модель содержит 7,1 млрд параметров и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста и чат-диалогов. Её можно применять для творческого письма и ролевых бесед — такие сценарии указаны для базовой модели в метаданных. Репозиторий использует формат safetensors и библиотеку Transformers. Языки и лицензия в предоставленных данных не обозначены.

danskgpt-v4-31b — дообученная на датских данных текстовая модель syvai на базе google/gemma-4-31B-it. Это плотная причинная языковая модель Gemma4ForCausalLM с 27,4 млрд параметров, поддерживающая диалоги и контекст до 262 144 токенов. Для работы следует использовать шаблон чата Gemma-4. Модель предназначена для задач на датском языке: понимания текста, ответов на вопросы по знаниям и рассуждениям, классификации, распознавания именованных сущностей и работы в роли общего помощника. Она также подходит для перефразирования и краткого пересказа датских текстов. Чекпойнт описан как текстовый; формат файлов — safetensors, обучение выполнено методом QLoRA. На открытых запросах модель может отвечать более кратко и категорично, чем исходная модель. Она наследует смещения и ограниченность знаний базовой модели; для решений с высокими последствиями требуется проверка человеком. Лицензия — CC BY 4.0.

trollek/danube2-1.8b-Neural — диалоговая языковая модель, созданная дообучением H2O.ai Danube 2 с помощью BAdam и SFT на наборе mlabonne/orpo-dpo-mix-40k. Она предназначена для генерации текста в формате беседы с шаблоном ChatML и может использоваться для ответов на инструкции и поддержания диалога. Модель построена на плотной архитектуре MistralForCausalLM, содержит 1,7 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества, поэтому соответствие ответов конкретным требованиям следует проверять на целевых примерах.

Locutusque/DareQwen-2.5-7B — объединённая языковая модель, созданная автором репозитория с помощью mergekit на основе Qwen2.5. В слиянии DARE TIES использованы Qwen2.5-7B, Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct; параметры сохранены в формате bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, а объединение вариантов Instruct, Coder и Math ориентировано на сочетание общих инструкций, программирования и математических задач. В метаданных также отмечен интерфейс вызова инструментов. Указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. README предупреждает, что объединённая модель требует дообучения, поэтому её готовность к практическому использованию без дополнительной настройки не подтверждена. Лицензия в предоставленных данных не указана.

Dark-Hermes3-Llama3.2-3B — дообученная разговорная модель mrcuddle на архитектуре Llama 3.2 с 3,2 млрд параметров, созданная на основе NousResearch/Hermes-3-Llama-3.2-3B. Она предназначена для генерации текста и диалогов; метаданные также отмечают следование инструкциям. Модель принимает текст и выдаёт текст, поддерживает английский язык и рассчитана на контекст до 131 072 токенов. Модель распространяется в форматах PyTorch и safetensors по лицензии llama3. Карточка не описывает отдельные методы обучения или специальные возможности, поэтому пригодность для конкретных сценариев следует оценивать самостоятельно.

DarkIdol-Qwen3.8-27B-v1.1-i1-GGUF — квантизированная GGUF-версия модели DarkIdol-Qwen3.8-27B-v1.1, разработанная aifeifei798 и квантизированная mradermacher. Модель основана на Qwen3.8 с размером 27 млрд параметров и предназначена для генерации текста, диалогов, ролевых сценариев, творческого письма, сторителлинга и задач, требующих рассуждений. README также обозначает поддержку мультимодальности и зрения, однако подробности реализации визуального ввода не указаны. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского, тайского, китайского, корейского и японского языков. Модель поставляется в виде набора квантизаций с различными компромиссами между размером, скоростью и качеством: от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ. В README рекомендуется i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описывается как сбалансированный по размеру, скорости и качеству. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Размер контекста и точные характеристики архитектуры не указаны. Сильными сторонами модели являются ориентация на ролевые и творческие диалоги, многоязычность, наличие вариантов для запуска на оборудовании с разным объёмом памяти и потенциальная поддержка зрения. Ограничения связаны с потерями качества, зависящими от выбранной квантизации, а также с отсутствием в README результатов бенчмарков, сведений о датасете, точного контекстного окна и подробных инструкций по мультимодальному использованию. Модель распространяется по лицензии Apache-2.0.

Darwin-36B-Opus — языковая модель FINAL-Bench / VIDRAFT_LAB, полученная эволюционным слиянием Qwen3.6-35B-A3B и её версии, дообученной на примерах рассуждений. Это MoE-модель на архитектуре Qwen3.5 MoE для генерации текста и диалогов с режимом пошаговых рассуждений; в README заявлены 36 млрд параметров всего и около 3 млрд активных, а метаданные указывают 2,9 млрд параметров. Контекст — 262 144 токена. Модель предназначена для сложных вопросов и рассуждений, включая задачи уровня GPQA Diamond; заявлены поддержка нескольких языков и результат 88,4% на GPQA Diamond по описанному авторами протоколу. Модель принимает текстовые запросы и генерирует текст. Доступна в формате Safetensors и распространяется по лицензии Apache 2.0. README описывает её как результат слияния весов без повторной градиентной оптимизации финальной модели; опубликованный бенчмарк включает стохастический повторный отбор ответов, поэтому показатель может зависеть от протокола оценки.

DataDecide-dclm-baseline-1B-45000_47500_50000_52500_55000_weightedavg_merge — объединённая предобученная языковая модель на архитектуре Llama, созданная с помощью mergekit методом Linear. В качестве базового чекпойнта при слиянии использован шаг 55000; также объединены чекпойнты шагов 45000, 47500, 50000 и 52500 из серии dclm-baseline. Разработчик в карточке не назван. Модель предназначена для генерации текста. Она содержит 1,2 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 2048 токенов. Карточка не описывает специальные предметные области или языки. Модель сохранена в формате safetensors и предназначена для загрузки через Transformers. Сведения о лицензии и конкретных ограничениях качества в предоставленных данных отсутствуют.

Это объединённая предобученная языковая модель семейства Llama, опубликованная пользователем yuhengtu-bytedance. Модель создана методом линейного слияния mergekit из пяти контрольных точек обучения DCLM baseline на смеси DCLM и Dolma 1.7; одна из контрольных точек указана как базовая при слиянии. Веса представлены в формате safetensors и содержат около 1,2 млрд параметров. Модель предназначена для генерации текста и продолжения текстовых последовательностей. Она принимает текст и выдаёт текст; заявленный контекст составляет 2048 токенов. Карточка не сообщает о специальной прикладной области или отдельных языковых настройках, поэтому модель можно описать как языковую модель общего назначения. Лицензия в предоставленных сведениях не указана.

DataDecide-dclm-baseline-qc-7p-fw2-1B-47500_50000_52500_55000_57500_weightedavg_merge — объединённая предобученная языковая модель, созданная с помощью mergekit методом Linear. В качестве базовой при слиянии использована контрольная точка step57500; также объединены контрольные точки step47500, step50000, step52500 и step55000 из семейства dclm-baseline-qc-7p-fw2. Архитектура — плотная LlamaForCausalLM, размер — 1,2 млрд параметров. Модель предназначена для генерации текста. Её можно применять в сценариях автодополнения и генерации связных продолжений по текстовому запросу. Контекст составляет 2048 токенов; репозиторий использует формат safetensors и библиотеку Transformers. В карточке нет сведений о целевых языках и специализированных областях применения. Лицензия в предоставленных данных не указана.

DataDecide-dclm-baseline-qc-fw-3p-1B-50000_52500_55000_57500_60000_weightedavg_merge — объединённая языковая модель, созданная с помощью mergekit линейным слиянием нескольких контрольных точек dclm-baseline-qc-fw-3p. В качестве базовой контрольной точки использована step60000; в слияние также вошли step50000, step52500, step55000 и step57500. Модель основана на архитектуре LlamaForCausalLM, содержит 1,2 млрд параметров и предназначена для генерации текста. Она принимает текстовый контекст, а длина нативного контекста составляет 2048 токенов. В README и метаданных не указаны специализированные области применения или поддерживаемые естественные языки. Веса опубликованы в формате safetensors. Данные описывают способ слияния, но не приводят сравнительных оценок качества или подробных сведений об обучении. Лицензия в предоставленных материалах не указана.

DataDecide-falcon-and-cc-1B-6000062500650006750069369weightedavgmerge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована контрольная точка step69369, также в объединение вошли контрольные точки step60000, step62500, step65000 и step67500 из серии falcon-and-cc. Модель построена на архитектуре LlamaForCausalLM и содержит 1,2 млрд параметров. Она предназначена для генерации текста; нативный контекст составляет 2048 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых естественных языках. Сведения о лицензии отсутствуют, поэтому условия использования по имеющимся данным определить нельзя.

DataDecide-falcon-and-cc-qc-20p-1B-60000_62500_65000_67500_69369_weightedavg_merge — объединённая модель генерации текста, созданная с помощью mergekit и метода Linear merge из нескольких контрольных точек предобучения. В карточке базовой указана контрольная точка step69369; также объединены step60000, step62500, step65000 и step67500. Архитектура — плотная LlamaForCausalLM, размер — 1,2 млрд параметров, максимальный контекст — 2048 токенов. Модель опубликована в формате safetensors и предназначена для генерации текста. Карточка не сообщает, для каких конкретных сценариев модель оптимизирована, какие языки она поддерживает и каковы её сравнительные качества. Лицензия в предоставленных данных не указана.

bartowski/datagemma-rig-27b-it-GGUF — это набор GGUF-квантизированных версий диалоговой текстовой модели datagemma-rig-27b-it, разработанной Google. Модель предназначена для генерации текста и разговорного взаимодействия, а также для локального запуска через совместимые инструменты, включая llama.cpp и LM Studio. В основе лежит модель размером 27 млрд параметров в формате instruction-tuned; доступны варианты от F16 до более компактных квантов Q8, Q6, Q5, Q4 и Q3, включая форматы, оптимизированные для ARM. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности или точных целевых сценариях применения. Модель не поддерживает системный промпт; следует использовать указанный формат шаблона диалога. Сильными сторонами являются широкий выбор размеров файлов и компромиссов между качеством и требованиями к памяти: варианты Q6 и Q5 описаны как высококачественные, а Q4 — как более экономичные для локального использования. Более сильная квантизация уменьшает требования к ресурсам, но может снижать качество генерации. Распространение регулируется лицензией Gemma: для доступа на Hugging Face необходимо ознакомиться с условиями лицензии Google и принять их.

Это GGUF-квантизированная версия conversational-модели datagemma-rig-27b-it, исходно разработанной Google. Релиз подготовлен пользователем legraphista с применением llama.cpp и предназначен для локального запуска и генерации текста в диалоговых сценариях. В основе лежит модель размером 27 млрд параметров в формате BF16; исходная карточка указывает текстовую генерацию, но не сообщает поддерживаемые языки и размер контекстного окна. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы IQ. Квантизация позволяет выбирать компромисс между качеством, размером файла и требованиями к памяти: размеры файлов варьируются примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, рассчитанная на сохранение качества при уменьшенной точности; BF16, FP16, Q8_0 и Q6_K используют статические варианты без IMatrix. Модель предназначена для работы через llama.cpp и совместимые инструменты, однако конкретные системные требования и показатели качества в README не указаны. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии. Ограничения, связанные с безопасностью, точностью ответов и конкретными сценариями применения исходной модели, в представленных данных не описаны.

bartowski/ddh0_Cassiopeia-70B-GGUF — набор квантизированных версий текстовой генеративной модели Cassiopeia-70B, разработанной ddh0. Квантизация выполнена bartowski с использованием llama.cpp b5934 и метода imatrix; распространение осуществляется в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, включая Q6_K и Q5_K_M/S, рекомендованные для высокого качества, а также более компактные версии для систем с ограниченным объёмом оперативной памяти. Размер файлов составляет примерно от 24 до 75 ГБ, при этом некоторые варианты поставляются разделёнными на несколько частей. Более сильная квантизация экономит память, но может снижать качество генерации; низкобитные варианты отмечены как имеющие низкое качество. Модель поддерживает текстовую модальность и использует специальный шаблон prompt с ролями system, user и assistant. Сведения о поддерживаемых языках, размере контекстного окна, точной архитектуре, исходной лицензии и результатах оценки в README не указаны, поэтому эти характеристики нельзя надёжно определить по представленным данным. Условия лицензирования также не указаны.

Это набор GGUF-квантизированных версий языковой модели Gemma 3 40B, разработанной ddh0 и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска в совместимых приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. В набор входят варианты от BF16 до низкобитных Q2 и IQ-квантизаций размером примерно от 15,5 до 79,6 ГБ. Доступны различные уровни компромисса между качеством, требованиями к памяти и скоростью инференса; наиболее качественными и рекомендуемыми в README названы варианты Q6_K, Q6_K_L, Q5 и Q4. Архитектура, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий адаптировать запуск к доступным ресурсам, при этом старшие варианты сохраняют качество, близкое к исходной модели. Низкобитные варианты требуют меньше памяти, но могут заметно уступать по качеству. Для модели не указан отдельный chat template, поэтому используется шаблон по умолчанию, который может быть некорректным; рекомендуется сверяться с карточкой исходной модели. Лицензия указана как Gemma.