I.5Создание и редактирование текста

bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF — это набор GGUF-квантизаций модели DeepSeek-R1-Distill-Qwen-14B, разработанной DeepSeek. Квантизация выполнена bartowski с использованием llama.cpp b4514 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio, с применением формата промпта, указанного в README. Доступны варианты от полных F32 и F16 весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, размером примерно от 6,66 до 59,09 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как рекомендуемые варианты высокого качества. Некоторые форматы оптимизированы для работы на CPU и Apple Silicon, включая online repacking для ARM и AVX. В README не указаны архитектурные детали, длина контекста, поддерживаемые языки и модальности, а также лицензия. Поэтому модель следует рассматривать как текстовую локальную модель, совместимость и фактические требования к памяти которой зависят от выбранного файла квантизации и используемого программного обеспечения.

wh-zhu/DeepSeek-R1-Distill-Qwen-1.5B-InRa — текстовая генеративная модель на архитектуре Qwen2 с 1,6 млрд параметров. Метаданные указывают на возможность диалога и контекстное окно до 131072 токенов. Модель дообучена на базе wh-zhu/DeepSeek-R1-Distill-Qwen-1.5B-CLM и предназначена для генерации текста в формате чата. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия обозначена как other; конкретные условия по имеющимся данным определить нельзя.

mlx-community/DeepSeek-R1-Distill-Qwen-32B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанная сообществом mlx-community и преобразованная из исходной модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B в формат MLX с использованием mlx-lm версии 0.20.2. Модель предназначена для генерации текста и диалогового использования в экосистеме MLX, в частности через библиотеку mlx-lm. В README приведён пример запуска с чат-шаблоном токенизатора, поэтому её можно использовать для ответов на запросы и интерактивного общения. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Ключевая характеристика модели — 4-битное представление, ориентированное на более эффективное использование памяти при локальном запуске в MLX. Ограничения, точные сильные стороны, лицензия и условия распространения в README не указаны. Для работы требуется установить библиотеку mlx-lm.

DeepSeek-R1-Distill-Qwen-32B-abliterated-GGUF — это набор квантизированных версий текстовой генеративной модели DeepSeek-R1-Distill-Qwen-32B-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходную модель разработала huihui-ai. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая LM Studio и llama.cpp. Модель содержит около 32 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, включая IQ-варианты. Размер файлов составляет примерно от 15,94 до 65,54 ГБ в зависимости от варианта. README не указывает поддерживаемые языки, размер контекстного окна и мультимодальные возможности, поэтому подтверждено только текстовое применение. Ключевые преимущества — широкий выбор вариантов квантизации, возможность локального запуска и сохранение высокого качества у версий Q6 и Q5; Q4_K_M обозначена как вариант по умолчанию для большинства сценариев. Более компактные версии подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Модель помечена как abliterated и uncensored, однако подробные характеристики, ограничения и лицензия в README не указаны.

MLX-версия модели DeepSeek-R1-Distill-Qwen-32B, разработанной DeepSeek и производной от Qwen. Данная сборка преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.21.1 и предназначена для локального запуска и генерации текста через библиотеку mlx-lm, прежде всего на устройствах Apple, поддерживающих MLX. Из README известно, что модель имеет размер 32B параметров и использует 8-битное представление весов. Она является текстовой языковой моделью; конкретные сведения об архитектуре, поддерживаемых языках, длине контекста, сильных сторонах и ограничениях в карточке не указаны. Для работы требуется установить mlx-lm и загрузить модель через его API. Лицензия и условия коммерческого или иного использования в README не указаны. Для точной оценки прав использования следует обратиться к карточке базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B и к условиям публикации конвертированной версии.

DeepSeek-V2-Lite-Chat REAP Pruned ratio 0.3 — разреженный вариант диалоговой модели DeepSeek-V2-Lite-Chat, созданный методом REAP pruning. В каждом MoE-слое число маршрутизируемых экспертов уменьшено с 64 до 45: удалено 19 из 64 экспертов, что соответствует фактическому коэффициенту 0,296875. Общие эксперты сохранены, а на каждый токен активируются 6 маршрутизируемых экспертов. Модель предназначена для диалоговой генерации текста и ответов на запросы. Она принимает текст и выдаёт текст; метаданные указывают 2,5 млрд параметров и контекст до 163 840 токенов. Чекпойнт основан на deepseek-ai/DeepSeek-V2-Lite-Chat и загружается как DeepseekV2ForCausalLM в Transformers. Карточка сообщает о проверке загрузки и пробного прохода, но не приводит результатов сравнительной оценки качества после прореживания. Лицензия в предоставленных данных не указана.

DeepSeek-V3.1-Base — базовая языковая модель, разработанная DeepSeek AI. Она предназначена как основа для последующего дообучения и создания прикладных версий, включая варианты с режимами рассуждения и без рассуждения, поддержкой вызова инструментов и агентскими сценариями. Модель ориентирована на обработку длинного контекста и сложных текстовых запросов. Модель построена на архитектуре Mixture-of-Experts: общий размер составляет 671 млрд параметров, из которых для одного токена активируется 37 млрд. Максимальная длина контекста — 128K токенов. В README не указаны точный набор поддерживаемых языков и мультимодальные возможности, поэтому подтверждённо описать её можно только как текстовую языковую модель. Для обучения использовалось расширение длинного контекста в два этапа, а веса и активации представлены в формате UE8M0 FP8. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость при меньшем числе активируемых параметров и пригодность в качестве базы для специализированного дообучения. Ограничения включают очень высокие требования к ресурсам для развёртывания и отсутствие в предоставленных данных подробных результатов оценки, перечня языков и описания мультимодальности. Модель распространяется по лицензии MIT.

NVIDIA DeepSeek-V3.2-NVFP4 — текстовая авторегрессионная модель на архитектуре Transformer с классом DeepseekV32ForCausalLM, основанная на DeepSeek-V3.2 от DeepSeek AI. NVIDIA выпустила эту квантованную версию с помощью TensorRT Model Optimizer; она предназначена для генерации текста и развёртывания в чат-ботах, агентных системах, RAG и других приложениях на базе ИИ. Модель принимает текст и генерирует текст, поддерживает контекст до 163 840 токенов и насчитывает 37,6 млрд параметров по метаданным Hugging Face. Квантование NVFP4 снижает требования к диску и памяти GPU примерно в 1,66 раза; для запуска README указывает TensorRT-LLM версии 1.2.0rc8 или новее и восемь GPU B200. Оптимизация рассчитана на оборудование NVIDIA Blackwell и Linux. Модель заявлена для коммерческого и некоммерческого использования по лицензии MIT. Она может воспроизводить токсичные формулировки и социальные предубеждения из обучающих данных, а также давать неточные, неполные, нерелевантные или избыточные ответы; перед внедрением её следует проверять на данных конкретного сценария.

AMAImedia/DeepSeek-V4.1-Flash-FP8-GGUF — GGUF-квантизированная версия мультимодальной модели DeepSeek-V4.1-Flash, опубликованная AMAImedia в рамках платформы NOESIS. Модель основана на разработках DeepSeek AI и связана с базовыми моделями Tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF, указанными в карточке. Дата выпуска — 20 сентября 2026 года. Модель предназначена для работы с текстом и изображениями: она принимает изображения и текст, а генерирует текст авторегрессивно. Заявлена поддержка контекстов до одного миллиона токенов и широкого набора языков, включая английский, русский, китайский, вьетнамский, японский и многие другие. Архитектура представляет собой мультимодальную Mixture-of-Experts с 552 млрд параметров в backbone и структурой Causal Encoder-Decoder из 40 Transformer-слоёв: 20 слоёв причинного энкодера и 20 слоёв декодера. Ключевая особенность — оптимизация KV-кэша и вычислений для длинного контекста и input-heavy агентских сценариев. Во время prefill активируется около 8 млрд параметров на токен, а во время decode — около 16 млрд; механизм SWA Bounded Replay уменьшает постоянный объём KV-кэша примерно до одной восьмой от DeepSeek-V4-Flash. Используется Compressed Sparse Attention 2 с режимами Full, Reindex и Reuse. GGUF и FP8 ориентированы на эффективное локальное или специализированное инференс-развёртывание, однако требования к памяти и производительности для модели такого масштаба в карточке не указаны. Лицензия, указанная в метаданных этой версии, — Apache 2.0. Полные сведения о качестве, бенчмарках, точных характеристиках квантизации и ограничениях применения в представленном README отсутствуют.

Rarri/DeepSeek-V4-Flash-0731-NVFP4 — это квантизированная версия модели DeepSeek-V4-Flash-0731, разработанная на основе релиза deepseek-ai и подготовленная с помощью NVIDIA Model-Optimizer. Модель предназначена для генерации текста и высокопроизводительного инференса с использованием vLLM или TensorRT-LLM на GPU NVIDIA Blackwell с поддержкой NVFP4. Она ориентирована на сценарии, где важны высокая скорость декодирования и использование длинного контекста, включая speculative decoding с механизмом DSpark. Модель содержит 304 млрд параметров, 43 слоя MoE, 256 маршрутизируемых экспертов в каждом MoE-слое и три слоя multi-token prediction (MTP). Все маршрутизируемые экспертные веса, включая MTP-экспертов, переведены в NVFP4 W4A4; attention, роутеры, shared experts, embeddings и lm_head сохранены в исходном формате FP8. Поддерживается контекст до 131K токенов. Экспертные веса преобразованы без потери значений исходных MXFP4-весов, а speculative decoding в тестовой конфигурации примерно удваивал скорость однопоточного декодирования, достигая типичных 200–240 токенов в секунду. Ключевые ограничения — зависимость от GPU Blackwell (sm_120+), специализированных сборок инференсных фреймворков и гибридной FP8/NVFP4-MoE-разметки. Рекомендуемые параметры speculative decoding включают жадное семплирование, пять draft-токенов и bf16 draft head; вероятностное семплирование может приводить к некорректному выводу в NVFP4-пути. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

DeepSeek-V4-Flash-2bit-DQ — это версия модели DeepSeek-V4-Flash, подготовленная сообществом mlx-community при поддержке Lambda.ai для запуска с использованием библиотеки MLX. Модель предназначена для генерации текста и локального инференса через mlx-lm; в README приведён пример диалогового применения с использованием chat template. Ключевая особенность модели — динамическая смешанная квантизация. Большинство весов экспертов маршрутизируемой MoE-архитектуры упаковано в 2 бита, а чувствительные слои и проекции сохранены в форматах 4, 6 или 8 бит. Такой подход снижает потребление памяти по сравнению с базовым checkpoint с 4-битной квантизацией, сохраняя более высокое качество в критичных компонентах. Точный размер модели, объём контекста, список поддерживаемых языков и модальности в README не указаны. Для использования требуется установить пакет mlx-lm; модель рассчитана на экосистему MLX. Лицензия в предоставленных данных не указана, поэтому условия распространения и коммерческого использования требуют дополнительной проверки.

mlx-community/DeepSeek-V4-Flash-8bit — это версия модели DeepSeek-V4-Flash, опубликованная сообществом mlx-community и предназначенная для генерации текста. Модель подготовлена для работы с библиотекой MLX и запуска через mlx-lm; в README также указана поддержка шаблона диалога, если он доступен в токенизаторе. Известно, что модель использует 8-битное представление и относится к категории text-generation. Она может применяться для диалоговой генерации и других задач создания текста, однако сведения об архитектуре, количестве параметров, размере контекста, поддерживаемых языках и модальностях в README отсутствуют. К сильным сторонам относятся интеграция с MLX и возможность локального запуска через mlx-lm. Ограничения и точные требования к аппаратному обеспечению не указаны. Лицензия в предоставленных материалах не обозначена.

anemll публикует пакет SSD Flash-MoE для DeepSeek V4 Flash, предназначенный для запуска в совместимых сборках llama.cpp. Это квантованное представление модели: общие и плотные тензоры хранятся в GGUF в формате FP8, а тензоры маршрутизируемых экспертов — в отдельных бинарных банках sidecar в формате FP4. Архитектура deepseek4 содержит 43 блока и 256 экспертов, из которых для каждого токена активируются 6; заявленная длина контекста — 1 048 576 токенов. Пакет предназначен для генерации текста и диалогового использования. Он требует Flash-MoE-совместимого runtime llama.cpp с поддержкой DeepSeek V4 Flash, режима slot-bank и указанных типов тензоров; обычной загрузки одного плотного GGUF недостаточно. Репозиторий указывает лицензию MIT. В карточке не заявлены специальные ограничения по языкам или предметным областям.

DeepSeek V4 Flash REAP K128 — это экспериментальная структурно прореженная версия DeepSeek V4 Flash, подготовленная sleepyeldrazi. Метод REAP от Cerebras Research удаляет 50% маршрутизируемых экспертов в слоях Mixture-of-Experts, сохраняя внимание, эмбеддинги, общих экспертов, маршрутизатор и компоненты MTP. Это GGUF-модель смешанной точности: в слоях 37–42 используются эксперты Q4_K, в остальных — IQ2_XXS/Q2_K. Для запуска требуется среда ds4, поддерживающая выбор типа квантования по слоям. Модель предназначена для генерации текста и диалогов, в том числе для задач программирования, вызова инструментов и поиска знаний. Для калибровки использованы 8 000 промптов на 5 млн токенов; автор сообщает о прореживании без дообучения и без изменения весов сохранённых экспертов. Модель распространяется по лицензии MIT. Для запуска требуется совместимый runtime; README предупреждает о несовместимости с некоторыми средами, ожидающими тензоры экспертов IQ2_XXS.

DEFUNCT-EXPERIMENT2_1 — объединённая языковая модель от netcat420, созданная из предварительно обученных моделей с помощью mergekit и метода SLERP. Она предназначена для генерации текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2 для причинной генерации, содержит 7,1 млрд параметров и поддерживает контекст длиной до 4096 токенов. В объединении использованы netcat420/DeepSeek-R1-MFANN-TIES-unretrained-7b и netcat420/Qwen2.5-DeepSeek-R1-MFANN-7b. В README указана базовая модель netcat420/DeepSeek-R1-MFANN-TIES-unretrained-7b; веса сохранены в формате safetensors. Лицензия в предоставленных источниках не приведена.

MergedQwen2-0.5B0.1 — объединённая методом DELLA модель семейства Qwen2, созданная с помощью mergekit на основе Qwen2-0.5B и debias_Qwen2-0.5B. Это компактная плотная авторегрессионная языковая модель примерно на 494 млн параметров для генерации текста и диалогового взаимодействия. В метаданных указан контекст длиной до 131 072 токенов. Модель принимает текст и генерирует текст; её можно использовать для диалогов и других задач генерации. Веса опубликованы в формате safetensors и предназначены для Transformers. В README приведена конфигурация слияния, включая плотность 0,5 и параметр epsilon 0,1. Лицензия в предоставленных материалах не указана.

sftmagpie-delphiwarmupdelphi-2e20-p33m67-kdelphi-1e-05delphi-3e18-p33m67-k — диалоговая языковая модель семейства Qwen3, разработанная авторами репозитория laion/delphi-2e20-p33m67-k0p20-lr83-a001-magpie_lr1e5-sft. Модель содержит 1,7 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и предназначена для генерации текста в диалогах; карточка сообщает, что обучение проводилось с нуля на наборах данных magpie и delphi_warmup. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 4096 токенов; репозиторий использует Transformers и содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в файлах репозитория. Карточка не приводит оценок качества, подробных сценариев применения или известных ограничений.

Это разговорная языковая модель семейства Qwen3, разработанная LAION и обученная с нуля на наборах данных Magpie и delphi_warmup. Модель содержит 2,2 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и принимает текст для генерации текста; в метаданных также отмечена поддержка чата. Контекстное окно составляет 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев. README не приводит результатов оценки или конкретных рекомендаций по применению. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория.

DeltaP2S-Gemma2-9B-SameFormula-Code-S13 — объединённый чекпойнт на базе google/gemma-2-9b, созданный с помощью экспериментального пакета Delta-P2S с учётом семейства моделей. Это плотная авторегрессионная языковая модель Gemma 2 с 9 млрд параметров, предназначенная для генерации текста; контекстное окно составляет 8192 токена. В названии указано назначение для кода, однако README не описывает конкретные возможности или результаты в задачах программирования. Модель загружена в формате safetensors и использует библиотеку Transformers. Условия лицензии в доступных данных не приведены.

DFlash-Qwen3.5-27B-Uncensored-GGUF — GGUF-квантизированная версия модели DFlash-Qwen3.5-27B-Uncensored от AEON-7, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, программирования, рассуждений, агентских сценариев, вызова функций и работы с инструментами. В README также заявлены мультимодальность и поддержка vision-language через отдельный файл mmproj. Модель имеет размер 27 млрд параметров и относится к семейству Qwen3.5 с гибридной архитектурой, сочетающей attention и linear attention; среди заявленных компонентов указаны Gated DeltaNet и block diffusion. Поддерживается английский язык, библиотека Transformers, а также совместимые с OpenAI интерфейсы и vLLM. Максимальный размер контекста в README не указан. Доступны варианты квантования GGUF от Q2_K до Q8_0 и IQ4_XS; размеры файлов составляют примерно от 10,8 до 28,7 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как обеспечивающий наилучшее качество среди перечисленных. К сильным сторонам относятся широкий набор заявленных сценариев, поддержка инструментов и мультимодальности, а также возможность выбора между различными уровнями квантования для баланса качества, скорости и требований к памяти. Ограничения включают отсутствие в README точных данных о размере контекста, результатах оценки, поддерживаемых языках помимо английского и фактических возможностях мультимодального режима; для него требуется отдельный mmproj-файл. Модель распространяется по лицензии Apache-2.0.

Dnoya10/dicoding_genAI_expert_collab_grpo_4 — дообученная языковая модель семейства Qwen2 с архитектурой плотной авторегрессионной сети. Разработчик — Dnoya10; модель дообучена на Dnoya10/dicoding_genAI_expert_collab_eks1 с использованием Unsloth и библиотеки TRL. В репозитории указаны веса Safetensors, размер модели — 1,5 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы и ведения беседы на английском языке. Интерфейс поддерживает вызов инструментов, но карточка не описывает специальные предметные области или конкретные сценарии применения. Лицензия — Apache-2.0.

DictaLM-3.0-24B-Thinking — открытая языковая reasoning-модель, разработанная организацией DICTA. Эта версия распространяется в формате GGUF и основана на модели DictaLM-3.0-24B-Thinking, первоначально инициализированной из Mistral-Small-3.1-24B-Base-2503. Модель содержит 24 миллиарда параметров и предназначена для генерации текста и диалогового взаимодействия. Модель обучалась на обширных корпусах текстов на иврите и английском языке и ориентирована прежде всего на задачи, требующие качественной работы с этими языками, включая ответы на вопросы, следование инструкциям, рассуждения и использование в чат-ассистентах. Перед формированием ответа она выполняет внутренний этап рассуждения в специальном блоке. Также заявлена поддержка вызова инструментов, что позволяет интегрировать модель с внешними API и сервисами. К сильным сторонам относятся специализация на иврите, открытые веса, поддержка английского языка, reasoning-возможности и доступность для локального развёртывания. Размер в 24 миллиарда параметров предъявляет существенные требования к вычислительным ресурсам. Максимальный размер контекста и точные характеристики GGUF-квантизации в представленном описании не указаны. Модель распространяется по лицензии Apache 2.0.

DiscoPOP-zephyr-7b-gemma — языковая модель для генерации текста, разработанная Sakana AI и распространяемая в формате GGUF сообществом LM Studio. Она основана на Zephyr 7b Gemma и предназначена для общего использования: диалогов, ответов на запросы и других задач генерации текста в локальных приложениях, поддерживающих llama.cpp или LM Studio. Модель содержит около 8 млрд параметров и обучена методом DiscoPOP (Discovered Preference Optimization), разработанным Sakana AI для оптимизации предпочтений. По заявлению авторов, метод обеспечивает более высокий показатель Reward при меньшем отклонении от базовой модели по KL Divergence по сравнению с DPO. Модель работает в текстовой модальности, однако поддерживаемые языки и максимальный размер контекста в README не указаны. Для работы рекомендуется шаблон ChatML; системный промпт не предусмотрен. Предоставленная версия является квантизированной сборкой GGUF от bartowski на основе llama.cpp. Это делает её подходящей для локального запуска при ограниченных ресурсах, но конкретные параметры квантизации в README не указаны. Ограничения включают возможные неточные, вредные или нежелательные ответы, характерные для генеративных языковых моделей, а также отсутствие гарантии качества. Модель распространяется по лицензии gemma; дополнительные условия использования следует проверять в материалах исходной модели.

argilla/distilabeled-Marcoro14-7B-slerp — языковая модель Argilla, полученная методом DPO дообучения базовой модели mlabonne/Marcoro14-7B-slerp на наборе пар предпочтений argilla/distilabel-intel-orca-dpo-pairs. Это плотная Mistral-модель с 7,1 млрд параметров, предназначенная для генерации текста и общих языковых задач; заявленная длина контекста — 32 768 токенов. Карточка приводит результаты на нескольких языковых бенчмарках, однако они не гарантируют аналогичного качества в конкретном приложении. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.

argilla/distilabeled-Marcoro14-7B-slerp-full — языковая модель, созданная Argilla как DPO-дообучение модели mlabonne/Marcoro14-7B-slerp на наборе предпочтений argilla/distilabel-intel-orca-dpo-pairs. В отличие от варианта distilabeled-Marcoro14-7B-slerp, эта версия прошла полный цикл по датасету, а не 200 шагов обучения. Модель предназначена для генерации текста и диалоговых ответов. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; карточка указывает английский язык. В README приведены результаты нескольких бенчмарков, однако они не гарантируют качество на конкретных пользовательских задачах. Модель распространяется в формате safetensors по лицензии Apache-2.0. Для запуска требуются ресурсы, соответствующие модели такого размера; карточка не описывает специальные ограничения безопасности или целевые прикладные области.

Карточка модели sshleifer/distilbart-xsum-12-3 на Hugging Face совпадает с карточкой sshleifer/distilbart-cnn-12-6, поэтому описание составлено по ней. sshleifer/distilbart-cnn-12-6 — англоязычная модель суммаризации текста на базе BART, представленная в семействе DistilBART. Вариант 12-6 использует 12 слоёв кодировщика и 6 слоёв декодировщика; размер модели по метаданным — 252,8 млн параметров. Она предназначена для сокращения документов и статей до краткого связного пересказа. Модель обучена для суммаризации на данных CNN/DailyMail; в карточке также приведены метрики для вариантов DistilBART, включая оценки ROUGE и времени вывода. Она принимает текст и генерирует текстовое резюме, поддерживает контекст до 1024 токенов и доступна в форматах PyTorch и Flax. Лицензия — Apache 2.0. Модель рассчитана на английский язык. Контекстное окно ограничивает длину обрабатываемого текста, а качество и скорость зависят от длины входа и выбранного варианта; приведённая таблица метрик относится к нескольким вариантам DistilBART и не даёт отдельной оценки именно для distilbart-cnn-12-6.

Карточка модели sshleifer/distilbart-xsum-9-6 на Hugging Face совпадает с карточкой sshleifer/distilbart-cnn-12-6, поэтому описание составлено по ней. sshleifer/distilbart-cnn-12-6 — англоязычная модель суммаризации текста на базе BART, представленная в семействе DistilBART. Вариант 12-6 использует 12 слоёв кодировщика и 6 слоёв декодировщика; размер модели по метаданным — 252,8 млн параметров. Она предназначена для сокращения документов и статей до краткого связного пересказа. Модель обучена для суммаризации на данных CNN/DailyMail; в карточке также приведены метрики для вариантов DistilBART, включая оценки ROUGE и времени вывода. Она принимает текст и генерирует текстовое резюме, поддерживает контекст до 1024 токенов и доступна в форматах PyTorch и Flax. Лицензия — Apache 2.0. Модель рассчитана на английский язык. Контекстное окно ограничивает длину обрабатываемого текста, а качество и скорость зависят от длины входа и выбранного варианта; приведённая таблица метрик относится к нескольким вариантам DistilBART и не даёт отдельной оценки именно для distilbart-cnn-12-6.

DistilQwen2-7B-Instruct — дистиллированная языковая модель Alibaba PAI на архитектуре Qwen2, созданная на основе Qwen2-7B-Instruct. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует текст; карточка демонстрирует использование в диалоговом формате. Длина контекста — 32 768 токенов. Модель предназначена для следования инструкциям и диалоговых сценариев. Для дистилляции использованы открытые наборы Magpie, OpenHermes и Mammoth 2, а также синтетические данные; основная часть инструкций была на китайском и английском языках. README сообщает об оценивании на AlpacaEval, MT-Bench и IFEval. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

dmWM-LLama-3-1B-Harm-ft-HarmData-AlpacaGPT4-OpenWebText-d4-a0.25 — плотная авторегрессионная языковая модель семейства Llama, созданная дообучением huihui-ai/Llama-3.2-1B-Instruct-abliterated. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 1,2 млрд параметров, рассчитана на контекст до 131 072 токенов и использует библиотеку Transformers; веса доступны в формате Safetensors. Карточка не описывает конкретные сценарии применения, обучающие данные или результаты оценки качества. Лицензия — llama3.2. README не содержит дополнительных сведений об ограничениях или условиях применения.

hlo-world/dolphin-2.1-mistral-7b-tgi — это перепакованная версия ehartford/dolphin-2.1-mistral-7b для запуска через Text Generation Inference. Репакер исправил проблему с индексами добавленных токенов и включил веса в формате safetensors, чтобы упростить развёртывание. В основе — плотная авторегрессионная модель Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель работает с текстом и поддерживает диалог в формате ChatML. Модель обучена на датасетах Dolphin и Airoboros 2.2.1 и предназначена для генерации текста и ответов в диалоге на английском языке. В README она описана как модель без встроенных ограничений на содержание, поэтому перед предоставлением пользователям может потребоваться собственный слой выравнивания и модерации. Лицензия Apache 2.0 допускает коммерческое и некоммерческое использование.