I.5Создание и редактирование текста

DeepSeek-V3.1-Terminus-W4AFP8 — смешанно-точная квантованная версия DeepSeek-V3.1-Terminus. Репозиторий модели связан с deepseek-ai/DeepSeek-V3.1-Terminus; по метаданным это производная модели с архитектурой DeepSeek V3 и классом DeepseekV3ForCausalLM. Модель содержит 37,6 млрд параметров и рассчитана на генерацию текста, включая диалог и вызов инструментов через соответствующий интерфейс. Контекст составляет до 163 840 токенов. Веса плотных слоёв сохраняют формат FP8 исходной модели, а веса MoE-слоёв представлены в INT4 с активациями FP8 (W4AFP8). В README приведены результаты тестирования в режиме без рассуждений; для инференса описан запуск через SGLang версии 0.5.2 или новее с tensor parallel. Модель распространяется по лицензии MIT. Карточка не уточняет языки и специфические ограничения качества.

DeepSeek-V4-Flash-0731 GGUF — квантизированная версия текстовой генеративной модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и преобразованной в формат GGUF пользователем qtum с использованием llama.cpp. Модель предназначена для генерации и продолжения текста, включая работу с английскими и китайскими запросами, а также для локального запуска через llama.cpp на одной или нескольких видеокартах. Модель использует разреженную MoE-архитектуру с маршрутизацией к 6 экспертам из 256 на каждом токене. В репозитории представлены несколько уровней квантизации размером от 58,8 до 129,9 GiB, распределённых по четырём сегментам; также доступна исходная эталонная сборка размером 145,6 GiB. Все варианты калиброваны с использованием смешанных фрагментов кода, английского и китайского текста. Заявленный размер контекста в примерах запуска составляет 8192 токена, а для speculative decoding — 2048 токенов. Сильными сторонами сборки являются широкий выбор уровней сжатия, защита наиболее важных компонентов модели от чрезмерной квантизации и поддержка DSpark speculative decoding. При этом уменьшение размера сопровождается ростом perplexity, а варианты IQ1 и IQ2 заметно уступают более крупным сборкам по точности. Speculative decoding в текущей реализации требует размещения модели и черновой модели на одном GPU и не работает при распределении целевой модели более чем на одну видеокарту; для запуска нужны все сегменты выбранного варианта. Лицензия — MIT, унаследованная от базовой модели.

DeepSeek-V4-Flash-0731-W4A16 — это квантизированная версия языковой модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Модель предназначена для генерации текста, включая диалоговые ответы, рассуждения, решение математических задач, программирование, работу с инструкциями и задачи на понимание текста. В карточке указаны английский и китайский языки. Архитектура поддерживает 283 млрд параметров; сведения о контекстном окне и мультимодальных возможностях не приведены. Модель использует смешанную точность: routed experts преобразованы из FP4 в INT4 с group_size=32 и вычислениями активаций в BF16, attention, shared experts и indexer сохранены в FP8, а остальные перечисленные компоненты — в BF16. Формат совместим с vLLM и предназначен для запуска на GPU NVIDIA без аппаратной поддержки FP4, включая H20, H100, A100, L40S, L20 и RTX 4090, при наличии подходящей конфигурации. Размер файлов модели составляет около 166 ГБ; для запуска рекомендуется vLLM версии 0.26.0 или новее и не менее двух H20 96 ГБ либо четырёх A100 80 ГБ. Сильная сторона модели — возможность инференса исходной DeepSeek-V4-Flash-0731 на Hopper и Ampere без FP4 tensor core, при сохранении заявленного качества на небольшой проверочной выборке из 50 заданий. К ограничениям относятся неизбежная ошибка INT4-квантизации, высокая потребность в видеопамяти и необходимость использовать специальный модуль кодирования prompt вместо стандартного chat template. Лицензия обозначена как DeepSeek с отдельной ссылкой на её текст; условия коммерческого и иного использования следует уточнять в лицензии.

DeepVeo-R1-B — объединённая языковая модель сообщества mergekit-community, созданная методом DARE TIES на базе Qwen/Qwen2.5-1.5B-Instruct с включением Alfitaria/Q25-1.5B-VeoLu и deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, рассчитанная на генерацию текста и диалоговые сценарии. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель распространяется в формате safetensors через Transformers. Модель подходит для диалоговых ответов и генерации текста с использованием возможностей объединённых чекпойнтов. README описывает способ слияния, состав моделей и параметры конфигурации, но не приводит сравнительных оценок качества или подробных сведений о языковом покрытии. Лицензия в предоставленных данных не указана.

Deita-20b — языковая модель для генерации текста на базе архитектуры Llama с 19,3 млрд параметров. Карточка показывает пример диалога с системным и пользовательским сообщениями, поэтому модель подходит для выполнения инструкций и ответов на запросы в формате ассистента. Заявленная длина контекста — 32 768 токенов. Модель использует формат Safetensors и обучалась на наборе KnutJaegersberg/Deita-6k. В карточке приведены результаты оценок на нескольких тестах рассуждения и понимания текста. Код распространяется по Apache-2.0; для весов заявлены академическое и бесплатное коммерческое использование, однако для коммерческой лицензии предлагается подать отдельную заявку.

laion/delphi-1e22-9_7Bparams-160Btokens-base-wc386k_lr1e5-sft — разговорная языковая модель семейства Qwen3, разработанная LAION и обученная с нуля на наборах данных wildchat_386k и delphi_warmup. Модель предназначена для генерации текста в диалоге: она принимает текстовые запросы и формирует текстовые ответы. Число параметров — 9,2 млрд, архитектура плотная Qwen3ForCausalLM, контекст — 4096 токенов. В карточке нет сведений о специализированных областях применения, оценке качества или дополнительных ограничениях. Репозиторий содержит веса в формате safetensors и заявляет лицензию other; конкретные условия лицензии следует сверить с файлами репозитория.

Это диалоговая языковая модель семейства Qwen3, разработанная авторами репозитория laion/delphi-9e19-p67m33-k0p20-lr83-a002-magpie_lr1e5-sft. Модель с 1,2 млрд параметров обучена с нуля на наборах данных magpie и delphi_warmup и предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Языковая поддержка и специализированные области применения в карточке не описаны. Лицензия указана как other, поэтому условия использования следует сверить с материалами репозитория.

DeltaP2S-Llama2-13B-SameFormula-ptbr-S13-a050 — объединённый чекпойнт, созданный экспериментальным пакетом Delta-P2S. Он основан на meta-llama/Llama-2-13b-hf и использует архитектуру LlamaForCausalLM с плотной сетью примерно на 12,9 млрд параметров. Модель предназначена для генерации текста; карточка не уточняет специализированные сценарии её применения. Модель принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов и распространяется в формате safetensors для библиотеки Transformers. В README указана базовая модель, но не приведены сведения о качестве, обучающих данных или конкретных языках. Лицензия в предоставленных данных не указана.

DeltaP2S-Qwen2.5-14B-SameFormula-Code-S13-QV — объединённый чекпойнт Qwen2.5, созданный экспериментальным пакетом Delta-P2S с учётом архитектуры Qwen. Базовая модель — Qwen/Qwen2.5-14B; архитектура — плотная авторегрессионная Qwen2ForCausalLM на 14 млрд параметров. Модель работает через Transformers, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоговом режиме. В названии и каталоге обучения есть указание на код, но README не описывает конкретные возможности программирования или результаты обучения, поэтому специализацию на коде нельзя подтвердить. Лицензия в предоставленных данных не указана.

DFM Mimir v1 — языковая модель, разработанная в рамках Danish Foundation Models при сотрудничестве Университета Южной Дании, Орхусского университета, Копенгагенского университета и Alexandra Institute. Модель обучена с нуля на архитектуре HRM-Text и предназначена для генерации текста и диалогового следования инструкциям. В репозитории указано около 1 млрд параметров, а метаданные Hugging Face содержат оценку 855,6 млн; длина контекста — 4096 токенов. Модель ориентирована на датский и английский языки. Авторы сообщают о конкурентных результатах на тестах по датскому, английскому, математике и программированию, включая новый уровень результатов для датского среди сравниваемых моделей. Она может использоваться для диалога, ответов на вопросы, следования инструкциям, а также задач на рассуждение, математику и код. Лицензия — Apache 2.0. Авторы предупреждают, что модель обучалась только на датском и английском и может плохо работать на других языках. Она не проходила специальную настройку безопасности и может отражать социальные предубеждения обучающих данных.

Модель Dnoya10/dicoding_genAI_expert_adv_eks2 — дообученная Dnoya10 языковая модель Qwen2 для генерации текста и диалогов. Она основана на unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель имеет плотную архитектуру Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст; в метаданных также отмечен интерфейс вызова инструментов. Карточка указывает английский язык. Модель распространяется по лицензии Apache-2.0.

Карточка модели Dnoya10/dicoding_genAI_sft_eks2 на Hugging Face совпадает с карточкой Dnoya10/dicoding_genAI_expert_adv_eks2, поэтому описание составлено по ней. Модель Dnoya10/dicoding_genAI_expert_adv_eks2 — дообученная Dnoya10 языковая модель Qwen2 для генерации текста и диалогов. Она основана на unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель имеет плотную архитектуру Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст; в метаданных также отмечен интерфейс вызова инструментов. Карточка указывает английский язык. Модель распространяется по лицензии Apache-2.0.

DictaLM 3.0 24B Thinking — разговорная reasoning-модель семейства Mistral, разработанная Dicta. Она предназначена для диалога и генерации ответов с предварительным рассуждением в отдельном блоке; также поддерживает вызов внешних инструментов и API. Модель содержит 23,4 млрд параметров, использует плотную архитектуру Mistral и принимает текстовые запросы, выдавая текстовые ответы. Она обучена на обширных корпусах на иврите и английском; длина контекста составляет 65 280 токенов. Для работы с инструкциями следует использовать шаблон чата модели. В карточке указаны веса safetensors и лицензия Apache-2.0.

Dirk-Qwen3.8-27B-GGUF — это GGUF-квантизированная версия базовой модели Qwen/Qwen3.8-27B, подготовленная разработчиком peculiar-ragdoll. Модель представляет собой плотную vision-language модель с 27 млрд параметров, поддерживающую работу с текстом и изображениями. В карточке заявлены английский и китайский языки, а также совместимость с llama.cpp. Модель предназначена для диалогов, анализа изображений, генерации кода и агентских сценариев. Она использует модифицированный Sharp chat template с настройкой краткости ответов и поддерживает Multi-Token Prediction (MTP) для ускорения генерации средствами speculative decoding. По умолчанию используется умеренный уровень рассуждений; его можно изменить через chat_template_kwargs, выбрав low, medium или xhigh. Поддерживается отключение рассуждений. Основное отличие от исходной модели заключается в шаблоне чата: веса и MTP-компоненты сохранены без изменений. Доступны варианты квантования от примерно 2 до 4 бит, включая GSQ-RCO и Unsloth Dynamic 3.0, с размерами файлов примерно от 8,8 до 17,6 ГБ. Это позволяет запускать модель на видеокартах с 12, 16 и 24 ГБ памяти, хотя более сильное квантование может снижать качество, а доступный объём памяти также зависит от длины контекста. Точный максимальный размер контекста в карточке не указан. Лицензия — Apache 2.0.

DiscoLM 70B — крупная языковая модель для генерации текста, разработанная Disco Research. Данная карточка содержит её квантованные файлы в формате GGUF, подготовленные TheBloke; исходная модель доступна в формате FP16 для GPU-инференса и дальнейших преобразований. Модель основана на архитектуре LLaMA и содержит 70 миллиардов параметров. Она предназначена для диалоговых и общих задач генерации текста, включая работу на английском и немецком языках. В обучении использовались наборы Open-Orca/SlimOrca-Dedup, teknium/openhermes, MetaMathQA, Synthia, AgentInstruct и немецкоязычные датасеты LeoLM и ultrachat_de. Для взаимодействия используется шаблон ChatML с ролями system, user и assistant. GGUF-файлы доступны в вариантах с 2-, 3-, 4-, 5-, 6- и 8-битным квантованием, что позволяет запускать модель с использованием CPU и GPU через llama.cpp и совместимые приложения. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной FP16-версией; конкретный контекстный размер и производительность в README не указаны. Модель распространяется по лицензии Llama 2.

DiscoLM German 7b v1 — плотная языковая модель на архитектуре Mistral с 7,1 млрд параметров, разработанная DiscoResearch. Она дообучена на инструкциях и диалогах на немецком и английском языках: после этапа SFT модель прошла дополнительное обучение DPO. Модель предназначена для повседневного общения, генерации и понимания текста, а также перевода; использует шаблон диалога ChatML и поддерживает контекст до 32 768 токенов. Модель ориентирована прежде всего на качественные ответы на немецком, сохраняя беглость на английском. В README также заявлены экспериментальная поддержка вызова функций и структурированных ответов. Авторы отмечают, что модель уступает более крупным моделям в сложных рассуждениях, математике и программировании, а также в некоторых задачах кодирования и извлечения данных. Она может выдавать неверные или оскорбительные ответы. Лицензия — Apache-2.0.

DistilabelCerberus-7B-slerp — слитая модель для генерации текста на основе Mistral, созданная с помощью mergekit из DistilabelBeagle14-7B и OpenHermes-2.5-Mistral-7B. В конфигурации применён метод слияния slerp с разными весами для слоёв self-attention и MLP; модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В карточке приведены результаты оценивания на наборах задач рассуждения, понимания здравого смысла и математики. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

eren23/DistilHermes-2.5-Mistral-7B — дообученная методом DPO модель на основе teknium/OpenHermes-2.5-Mistral-7B, созданная с использованием набора argilla/distilabel-intel-orca-dpo-pairs. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалогов, генерации текста и ответов на вопросы. Поддерживает английский язык и контекст длиной до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены результаты оценивания базовой модели OpenHermes-2.5-Mistral-7B на нескольких тестах; их нельзя считать отдельной оценкой этого чекпойнта. Для практического применения подходят диалоговые сценарии и ответы на вопросы, однако качество ответов может зависеть от запроса и не гарантирует фактическую точность.

djinn-7b — языковая модель на базе Mistral, созданная mayacinka объединением моделей paulml/DPOB-INMTOB-7B и bardsai/jaskier-7b-dpo-v6.1 методом SLERP с помощью LazyMergekit. Это плотная авторегрессионная модель с 7,1 млрд параметров, рассчитанная на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель подходит для генерации ответов и текста, а также для общих задач понимания языка и рассуждений. В README приведены результаты Open LLM Leaderboard и AutoEval, включая оценки по MMLU, TruthfulQA и GSM8K, но сведения о языках обучения и целевых сценариях не приведены. Модель распространяется в формате safetensors.

Это версия модели Dolly v2 6.9B, разбитая на шарды автором репозитория diegi97. Шардирование снижает объём оперативной памяти CPU, необходимый при загрузке весов на GPU, и позволяет загружать модель по частям. В метаданных указаны архитектура GPT-NeoX, около 8,8 млрд параметров и контекст до 2048 токенов; формат файлов — PyTorch. Модель предназначена для генерации текста. README описывает изменение способа загрузки, а не новое обучение или изменение возможностей исходной Dolly v2. В метаданных и README не приведены сведения о языках, лицензии или ограничениях исходной модели, поэтому здесь они не уточняются.

dolphin-2.0-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением mistralai/Mistral-7B-Instruct-v0.1 и cognitivecomputations/dolphin-2.0-mistral-7b методом SLERP. Конфигурация указывает диапазон слоёв 0–32 для обеих моделей и формат весов bfloat16. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов, язык в карточке — английский. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных ограничений; качество ответов может зависеть от формулировки запроса и задач, на которых проверяется модель.

Dolphin 2.1 Mistral 7B — разговорная языковая модель, разработанная Eric Hartford и обученная на базе Mistral. Она предназначена для диалога, ответов на вопросы и выполнения инструкций в формате ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. При обучении использованы наборы Dolphin, созданный как открытая реализация подхода Microsoft Orca, и Airoboros 2.2.1 для расширения творческих ответов. Карточка описывает модель как uncensored и предупреждает о высокой готовности выполнять запросы, в том числе неэтичные; перед развёртыванием сервиса рекомендуется добавить собственный уровень фильтрации. Указана лицензия Apache 2.0, допускающая коммерческое и некоммерческое использование.

Dolphin 2.5 Mixtral 8x7B GGUF — это набор квантованных файлов модели cognitivecomputations/dolphin-2.5-mixtral-8x7b, подготовленный MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В основе лежит архитектура Mixtral с конфигурацией 8x7B; точный размер контекста и полный набор поддерживаемых языков в README не указаны, хотя модель помечена как предназначенная для английского языка. Доступны варианты квантования от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Квантование упрощает запуск на локальном оборудовании, но варианты с меньшей разрядностью могут иметь более низкое качество генерации. Модель обучалась на наборах данных Dolphin, Airoboros, Dolphin Coder, Synthia, OpenHermes, Magicoder и других, перечисленных в карточке. Сценарии применения включают локальную генерацию текста и, судя по составу данных и тегам, задачи общего назначения и программирования, однако специализированные возможности и ограничения отдельно не описаны. Распространяется по лицензии Apache-2.0.

dolphin-2.9.1-mixtral-1x22b-IMat-GGUF — это квантизированная версия текстовой генеративной модели dolphin-2.9.1-mixtral-1x22b, разработанной cognitivecomputations и подготовленной в формате GGUF пользователем legraphista. Модель предназначена для локального запуска и задач генерации текста, включая диалоговое взаимодействие, следование инструкциям, программирование, математические задачи, function calling и агентские сценарии, на которые указывают использованные при обучении наборы данных. Заявленный язык — английский. Модель основана на архитектуре Mixtral и имеет обозначение 1x22b; точные характеристики архитектуры и размер контекстного окна в README не указаны. Доступны варианты от BF16 и FP16 до Q2_K, Q3_K, Q4_K, Q5_K, Q6_K и Q8_0 с размером файлов примерно от 8,27 до 44,48 ГБ. Для ряда вариантов применена IMatrix-квантизация, предназначенная для более эффективного уменьшения размера при сохранении качества. Это позволяет выбирать баланс между требованиями к памяти и качеством вывода, однако квантизация может снижать точность по сравнению с исходной BF16-моделью, особенно у компактных вариантов. Для запуска используются совместимые инструменты экосистемы llama.cpp. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, данных о поддерживаемых языках помимо английского, точного контекстного окна или подробных сведений о системных требованиях, поэтому эти характеристики нельзя надежно оценить.

Dolphin-2.9-Llama3-8B-GGUF — это квантизированная версия текстовой генеративной модели Dolphin 2.9 Llama 3 8B, созданной cognitivecomputations на базе Meta-Llama-3-8B. Квантизации в формате GGUF подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых ответов, следования инструкциям, генерации и анализа текста, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы данных Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, UltraChat, Orca Math и другие специализированные датасеты. Модель имеет текстовую модальность и около 8 миллиардов параметров. README не содержит точных сведений о поддерживаемых языках и размере контекстного окна. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-классов размером примерно от 2,6 до 8,54 ГБ: более качественные варианты требуют больше памяти, а низкобитные позволяют запускать модель на менее производительном оборудовании с некоторой потерей качества. Для работы указан формат чата с ролями system, user и assistant. Сильными сторонами являются широкий набор инструкционных, кодовых, математических и агентских данных, поддержка локального запуска через llama.cpp и большой выбор компромиссов между качеством и требованиями к памяти. Версия устарела и помечена как deprecated из-за проблем с настройками токенизатора; рекомендуется использовать более новую переквантизированную версию dolphin-2.9-llama3-8b-GGUF. Лицензия указана как other, без подробностей об условиях использования.

Dolphin Mistral 24B Venice Edition — языковая модель для генерации текста, разработанная Dolphin в сотрудничестве с Venice.ai на базе Mistral-Small-24B-Instruct-2501 от Mistral AI. Модель предназначена для общего назначения: диалоговых систем, ассистентов и встраивания в приложения, где владельцу нужен контроль над системным промптом, настройками выравнивания и данными. Она позиционируется как максимально неограниченная версия Mistral 24B и используется в экосистеме Venice, где представлена под названием Venice Uncensored. Модель относится к классу text-generation и совместима с Transformers, vLLM, Ollama, LM Studio, SGLang и TGI. Указан формат FP8; размер базовой модели — 24B параметров. Сохраняется стандартный chat template Mistral. Для инференса рекомендуется низкая температура, например 0,15; в примере для vLLM заявлена поддержка контекста до 131 072 токенов, вызова инструментов и изображений, однако архитектура мультимодальности и точный набор поддерживаемых языков в README не описаны. Сильная сторона модели — управляемость: системный владелец самостоятельно задаёт тон, правила поведения и ограничения, а также может разворачивать модель локально или в собственной инфраструктуре. Ограничение заключается в намеренно минимальном уровне встроенных этических и безопасностных ограничений, поэтому результаты требуют внешнего контроля и настройки политик применения. Модель распространяется по лицензии Apache-2.0.

unsloth/dots.llm1.inst-GGUF — GGUF-версия instruction-tuned модели dots.llm1.inst, разработанной командой rednote-hilab и подготовленной в формате GGUF проектом Unsloth. Это большая разреженная Mixture-of-Experts (MoE) языковая модель для генерации текста и диалоговых сценариев, включая работу в локальных средствах инференса, совместимых с GGUF. Модель предназначена для общения, ответов на вопросы и других задач обработки текста на английском и китайском языках. Модель содержит 142 млрд параметров, из которых при инференсе активируется 14 млрд. Архитектура включает 62 слоя, 32 attention heads, Multi-head Attention с QK-Norm, а также fine-grained MoE с выбором 6 из 128 маршрутизируемых экспертов и двумя общими экспертами. Контекстное окно составляет 32 768 токенов. Instruction-тюнинг выполнен после этапа предварительного обучения; при предварительном обучении использовались высококачественные данные без синтетических токенов. К сильным сторонам относятся сочетание возможностей крупной модели с меньшим числом активных параметров, потенциальная вычислительная эффективность MoE и открытость исходной модели. README не указывает конкретный метод или уровень GGUF-квантизации, поэтому характеристики качества, размера файла и требований к памяти для данной сборки определить нельзя. Для llama.cpp требуется включить параметр --jinja, чтобы корректно обрабатывался системный промпт. Лицензия модели — MIT.

DoubleLlama3-8b-slerp — диалоговая языковая модель для генерации текста, созданная слиянием двух экземпляров Meta-Llama-3-8B-Instruct методом slerp с помощью LazyMergekit. Она предназначена для чата и формирования ассистентских ответов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В метаданных указана поддержка английского языка. Файлы опубликованы в формате safetensors. Лицензия в предоставленных сведениях не указана.

OliviaRossi/DoubleTrouble-GGUF — мультимодальная модель семейства DoubleTrouble-27B, разработанная OliviaRossi на основе объединения Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored от DavidAU и Qwopus3.8-27B-Flash от Jackrong. Модель распространяется в формате GGUF и предназначена для генерации текста, сложного следования инструкциям, рассуждений, программирования, агентских сценариев и вызова инструментов, а также для работы с изображениями. Заявлена поддержка английского и китайского языков. Архитектура представляет собой плотную модель Qwen 3.8 с 27 млрд параметров, 64 слоями, скрытым размером 5120, гибридом Gated DeltaNet и Grouped-Query Attention, а также встроенным vision encoder. В репозитории доступны полноточная BF16-версия объёмом около 52 ГБ в двух частях и квантизованная IQ3_XXS с importance matrix объёмом около 11,5 ГБ. Для BF16 рекомендуется не менее 56 ГБ VRAM или RAM, а IQ3_XXS рассчитана на системы до 16 ГБ памяти. Поддерживаются llama.cpp, vLLM и Ollama; заявлена совместимость со стандартным JSON-вызовом инструментов. Модель предлагает режимы динамического рассуждения: от мгновенного ответа без размышлений до углублённого анализа, а также специальные режимы для мозгового штурма и исследовательских задач. По заявлению автора, при слиянии сохранены свойства uncensored-модели, снижена склонность к отказам, а вспомогательная MTP-голова удалена для стабильной работы в стандартных рантаймах. Ограничения включают высокие требования к памяти для BF16, потерю части точности в IQ3_XXS и зависимость качества мультимодальной и агентской работы от используемого рантайма и шаблона чата. Лицензия — Apache-2.0.

DPOpenHermes 7B v2 GGUF — квантизированная версия языковой модели Open Access AI Collective, подготовленная TheBloke в формате GGUF. Модель основана на архитектуре Mistral, содержит около 7 миллиардов параметров и предназначена для генерации текста на английском языке, включая диалоговые и инструкционные сценарии. Модель обучалась с использованием наборов данных teknium/openhermes, allenai/ultrafeedback_binarized_cleaned и Intel/orca_dpo_pairs. Для общения используется шаблон ChatML с системными и пользовательскими сообщениями. GGUF-файлы доступны в вариантах с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией, что позволяет запускать модель с разными компромиссами между качеством, скоростью и требованиями к памяти на CPU и GPU. Модель совместима с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения включают поддержку только английского языка согласно карточке и отсутствие сведений о мультимодальности или размере контекстного окна. Лицензия — Apache 2.0.