I.5Создание и редактирование текста

ryanfortin/community-blend-qwen3-8b — это плотная языковая модель семейства Qwen3 с 7,6 млрд параметров, разработанная путём эволюционного слияния моделей. По README, автор получил её после 781 поколения автоматического отбора и 749 слияний дообученных моделей Qwen3-8B; итоговый вариант создан методом SLERP из двух промежуточных чемпионов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и рассуждений в разных областях. Контекст составляет 40 960 токенов; репозиторий содержит веса в safetensors и использует библиотеку Transformers. README сообщает об улучшении относительно исходной Qwen3-8B на шести из восьми бенчмарков, включая HellaSwag и ARC, и описывает сохранённые навыки в медицине, математике и прогнозировании. Это результаты тестирования автора, а не гарантия качества для конкретных пользовательских задач. Модель доступна по лицензии Apache-2.0.

Edens-Gate/Control-8B-V1.1-abliteration — объединённая языковая модель, созданная с помощью mergekit методом task arithmetic на основе Delta-Vector/Control-8B-V1.1 и grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Это плотная архитектура семейства Llama с примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131072 токена. Модель опубликована в формате safetensors и использует библиотеку Transformers. Метаданные не содержат сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Карточка описывает метод слияния, но не приводит оценок качества или подробных ограничений применения.

Crazy-Qwen2-7b — объединённая модель на основе Qwen2-7B, созданная с помощью mergekit. В состав слияния вошли Locutusque/Hercules-5.0-Qwen2-7B, natong19/Qwen2-7B-Instruct-abliterated и macadeliccc/Samantha-Qwen-2-7B; использован метод model_stock, а в конфигурации базовой модели указана natong19/Qwen2-7B-Instruct-abliterated. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и рассчитана на генерацию текста и диалоговое общение. Размер контекста — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Метаданные описывают модель как экспериментальную модификацию Qwen2-7B-Instruct для диалогов и генерации текста с ослабленными направлениями отказа; это может снижать надёжность отказов на чувствительные запросы.

Crimson_Dawn-v0.2-GGUF — набор GGUF-квантизаций базовой модели Epiculous/Crimson_Dawn-v0.2, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, включая диалоговые и ролевые сценарии, а также задачи написания текстов и следования инструкциям; это следует из состава обучающих наборов, в который входят датасеты для roleplay, instruct и writing. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель работает в текстовой модальности и распространяется в различных вариантах точности — от F16 и Q8_0 до более компактных Q2/Q3/Q4/Q5/Q6-квантизаций. Размеры файлов составляют примерно от 5,45 до 24,50 ГБ, что позволяет выбирать между качеством генерации и требованиями к памяти. Точная архитектура, число параметров и размер контекста в README не указаны. К сильным сторонам относятся широкий выбор квантизаций, включая варианты, оптимизированные для ARM, а также заявленное высокое качество рекомендуемых Q5 и Q6-вариантов. Ограничения связаны с возможной потерей качества у низкобитных квантизаций и отсутствием подробных сведений о базовой архитектуре и контекстном окне. Для запуска рекомендуется использовать llama.cpp или LM Studio и указанный шаблон prompt format. Модель распространяется по лицензии Apache-2.0.

CrystalMistral-24B — текстовая генеративная модель семейства Mixtral, созданная с помощью LazyMergekit путём слияния четырёх моделей: eren23/dpo-binarized-NeuralTrix-7B, macadeliccc/WestLake-7B-v2-laser-truthy-dpo, Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp и cognitivecomputations/WestLake-7B-v2-laser. Архитектура — MixtralForCausalLM с механизмом смеси экспертов (MoE); в репозитории указаны веса Safetensors, а метаданные содержат размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов на запросы. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые языки, качество на конкретных задачах или специальные ограничения применения.

Curie-7B-v1 — польскоязычная языковая модель, разработанная Сzymon Ruciński. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров, рассчитанная на генерацию текста. Авторы адаптировали англоязычную базовую модель к польскому языку с помощью Language Adaptive Pre-training на корпусе SpeakLeash объёмом около 276 млн польских токенов, а затем дообучили её на задачах KLEJ. Контекст модели — до 32 768 токенов. Модель предназначена для генерации польского текста и может служить основой для польскоязычных ассистентов и решений NLP; результаты KLEJ показывают близкие к сильным базовым моделям показатели на восьми из девяти задач. В README также описана низкая perplexity 3,02 среди декодерных моделей. Это исследовательская разработка, опубликованная под лицензией Apache-2.0. Карточка не приводит конкретных оценок безопасности или эксплуатационных ограничений.

CyberCore-Qwen-2.1-7B — объединённая языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, опубликованная bunnycore. Она создана методом TIES с помощью mergekit на основе rombodawg/Rombos-LLM-V2.5-Qwen-7b и объединяет варианты cybertron-v4 и Persona. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также отмечают интерфейс вызова инструментов. Модель работает с текстом, использует библиотеку Transformers и имеет заявленную длину контекста 131 072 токена. Веса доступны в формате safetensors. Карточка не приводит оценки качества или подробных ограничений; качество ответов и работа с инструментами могут зависеть от промпта и используемого способа запуска. Лицензия в предоставленных данных не указана.

Cydonia-22B-v1.1 — диалоговая языковая модель, представленная BeaverAI. Она предназначена для генерации текста в формате чата, ролевых диалогов и историй; карточка рекомендует шаблоны Metharme/Pygmalion и Mistral, а также обычное продолжение текста. Версия 1.1 описана как менее склонная к отказам и морализаторству и улучшенная в следовании сценарию. Модель имеет плотную архитектуру MistralForCausalLM и содержит 22 млрд параметров. Метаданные указывают контекст до 131 072 токенов и формат весов safetensors. Для лицензии указано значение «other»; конкретные условия в карточке не раскрыты, поэтому перед использованием следует проверить лицензионные сведения репозитория.

Cydonia-ForgottenThoughts-24B — объединённая языковая модель Casual-Autopsy, созданная методом TIES с помощью mergekit на основе TheDrummer/Cydonia-24B-v2 и с включением Undi95/MistralThinker-v1.1 и ReadyArt/Forgotten-Safeword-24B-v3.0. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Контекст составляет до 32 768 токенов; репозиторий использует формат safetensors и библиотеку Transformers. В README не описаны отдельные прикладные специализации или поддерживаемые языки. Лицензия в предоставленных данных не указана. Качество, поведение в диалогах и ограничения модели отдельно не охарактеризованы.

dan-omni-3b-q3s — квантизированная версия модели dan-omni-3b, созданная с применением Q3_K_S для ускорения вывода и снижения требований к памяти. В README указаны дообучение LoRA на инструкционных данных для мобильных устройств и базовая модель Qwen2.5-3B; репозиторий содержит формат GGUF. Модель предназначена для генерации ответов в диалогах и выполнения общих инструкций на устройствах с ограниченной памятью. Она подходит для вопросов, письма, математики, программирования, перевода и творческих задач; заявленная длина контекста — 4096 токенов. Модель принимает и выдаёт текст, мультимодальные возможности отсутствуют. По сравнению с вариантом Q4_K_M README заявляет меньший размер и более быстрый вывод при небольшом снижении качества. Квантизация может ухудшать результаты на сложных задачах рассуждения. Лицензия репозитория — Apache-2.0.

Dans-AdventurousWinds-Mk2-7b-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная MaziyarPanahi методом slerp из mistralai/Mistral-7B-Instruct-v0.2 и PocketDoc/Dans-AdventurousWinds-Mk2-7b. Она предназначена для генерации текста и ответов на инструкции в диалоговых сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка описывает способ объединения весов, но не приводит оценок качества или подробных ограничений; возможности могут зависеть от конкретного сценария использования.

Daredevil-7B — объединённая текстовая модель, созданная с помощью LazyMergekit на основе Mistral-7B-v0.1, SamirGPT-v1, Slerp-CM-mist-dpo и Mistral-7B-Merge-14-v0.2. Это плотная авторегрессионная архитектура MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы. В README приведены результаты оценивания на нескольких наборах тестов, включая задания на рассуждение и понимание текста. Карточка не уточняет языковой охват и специализированную предметную область. В репозитории указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. Результаты тестов не гарантируют качество для конкретных задач; назначение модели описано как общее текстовое генерирование.

Aleteian/DarkCamelot — объединённая модель генерации текста на базе семейства Mistral, созданная автором репозитория с помощью mergekit. В слиянии использован метод della; базой указана win10/Mistral-Nemo-abliterated-Nemo-Pro-v2, также объединены восемь других языковых моделей. Размер модели — 12,1 млрд параметров, формат весов — SafeTensors; для работы заявлен контекст до 1 024 000 токенов. Модель предназначена для диалогов и генерации текста. Метаданные также отмечают интерфейс вызова инструментов. В карточке нет сведений о специальной отраслевой специализации или подтверждённом наборе языков, поэтому их нельзя приписывать модели на основании описания базовых компонентов. Это экспериментальное слияние нескольких моделей; качество и поведение могут отличаться от каждого исходного чекпойнта, а заявленный размер контекста не гарантирует одинаковую производительность на всей длине. Условия лицензирования в предоставленных данных не приведены.

Aleteian/Darkness-Reign-MN-12B — объединённая языковая модель, созданная автором Aleteian с помощью mergekit и метода Model Stock на базе Aleteian/Saiga-Unleashed. В объединение вошли Aleteian/Follow-the-Flow-MN-12B, Aleteian/One-To-Rule-Them-All-MN-12B и Aleteian/Hello-Darkness-My-Old-Friend-5-MN-12B. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Она предназначена для диалогов и генерации текста; репозиторий содержит веса в формате safetensors, а конфигурация указывает bfloat16 и шаблон чата Mistral. Метаданные заявляют контекст до 1 024 000 токенов. Карточка не приводит результатов оценки качества или подробных ограничений по применению. Лицензия в предоставленных данных не указана.

Это объединённая предобученная языковая модель DataDecide-dclm-baseline-qc-7p-fw2-1B, созданная с помощью mergekit методом Linear из пяти чекпойнтов обучения: шагов 50 000, 52 500, 55 000, 57 500 и 60 000; последний использован как базовый при слиянии. Модель построена на архитектуре Llama, содержит 1,2 млрд параметров и принимает текст для генерации текста. Нативная длина контекста — 2048 токенов. Модель предназначена для генерации текста общего назначения. README и метаданные не описывают конкретные прикладные специализации, языки или результаты оценки качества, поэтому возможности за пределами текстовой генерации не заявлены. Лицензия в предоставленных данных не указана.

DataDecide-dolma1_7-1B-47500_50000_52500_55000_57500_weightedavg_merge — объединённая языковая модель, созданная с помощью mergekit из пяти предобученных чекпойнтов Dolma 1.7B на разных шагах обучения. Использован линейный метод слияния; базой служил чекпойнт шага 57500. Модель построена на архитектуре LlamaForCausalLM и содержит около 1,2 млрд параметров. Модель предназначена для генерации текста. Она принимает текст и продолжает его, а также подходит для диалоговых и других сценариев генерации, в которых полезна причинно-языковая модель. Контекст составляет 2048 токенов. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Веса доступны в формате safetensors через библиотеку Transformers. Лицензия в предоставленных данных не указана; сведений о сравнительной точности и конкретных ограничениях слияния также нет.

Deacon-34B — дообученная языковая модель семейства Llama, опубликованная KnutJaegersberg. Автор указывает, что модель адаптирована под токенизатор Llama и дообучена на датасете EverythingLM в течение пяти эпох с применением NEFTune. В метаданных указаны архитектура LlamaForCausalLM, 33,9 млрд параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и выполнения инструкций в формате диалога с ИИ-ассистентом. Карточка приводит пример вопроса о дообучении языковых моделей, но не описывает более узкую специализацию или результаты оценки качества. Метаданные указывают формат safetensors и тег задачи text-generation. В README заявлено, что для коммерческого использования требуется разрешение согласно Model License Agreement 2.0; там же приведён порядок обращения за официальной коммерческой лицензией. Поэтому перед коммерческим применением следует проверить условия лицензии Yi, указанной автором карточки.

Hasanur525/deed-summarization_version_10 — дообученная модель на архитектуре mT5, основанная на Hasanur525/deed-summarization_version_5. Она предназначена для автоматического краткого пересказа текстов. В репозитории указаны результаты на оценочном наборе: ROUGE-1 0,3247, ROUGE-2 0,1432, ROUGE-L 0,3268 и ROUGE-Lsum 0,3201; средняя длина генерации — около 98 токенов. Модель содержит 291,2 млн параметров и распространяется в формате safetensors. Данные обучения и конкретные языки применения в карточке не раскрыты. Лицензия в предоставленных данных не указана.

bartowski/deepcogito_cogito-v1-preview-qwen-14B-GGUF — это квантизированная версия языковой модели cogito-v1-preview-qwen-14B, разработанной deepcogito. Модель предназначена для генерации текста и поставляется в формате GGUF для запуска через llama.cpp, LM Studio и другие совместимые проекты. Для работы используется шаблон диалога с ролями system, user и assistant. Доступны варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Версии с более высокой разрядностью обеспечивают качество, близкое к исходной модели, но требуют больше памяти; варианты Q4 и Q3 уменьшают требования к ресурсам ценой снижения качества и подходят для локального запуска при ограниченном объёме ОЗУ. Размер базовой модели составляет 14 млрд параметров, однако сведения о поддерживаемых языках, длине контекста и мультимодальности в README не указаны. Квантизация выполнена bartowski с использованием imatrix и llama.cpp. Модель распространяется по лицензии Apache-2.0.

DeepSauerHuatuoSkywork-R1-o1-Llama-3.1-8B — объединённая языковая модель, собранная grimjim с помощью mergekit. В основе лежит meta-llama/Llama-3.1-8B; в слияние также включены SauerHuatuoSkywork-o1-Llama-3.1-8B с весом 0,9 и DeepSeek-R1-Distill-Llama-8B с весом 0,1. Использован метод task arithmetic, итоговые веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев, где полезны рассуждения и следование инструкциям. Она содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка приводит результаты оценивания на IFEval и BBH, однако не описывает языки, на которых модель проверена. Лицензия — llama3.1; её условия следует учитывать при использовании и распространении модели.

DeepSeek LLM 67B Chat — диалоговая языковая модель компании DeepSeek с плотной архитектурой семейства Llama и 66,6 млрд параметров. Модель создана на основе deepseek-ai/deepseek-llm-67b-base и дообучена на дополнительных данных с инструкциями. В репозитории представлены веса PyTorch; модель принимает текст и генерирует текст в формате диалога. Модель предназначена для общения и выполнения текстовых запросов на английском и китайском языках. Обучение с нуля проводилось на корпусе объёмом 2 трлн токенов. Контекст модели — 4096 токенов. В карточке приведён шаблон диалога; авторы не рекомендуют использовать системный промпт с этой версией. Лицензия в метаданных указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Карточка не описывает специализированные области применения или гарантии качества.

DeepSeek-MoE-16B-Chat — разговорная языковая модель DeepSeek на архитектуре DeepSeek для генерации текста в формате диалога. Она предназначена для ответов на сообщения пользователя и других сценариев чат-взаимодействия. В метаданных указаны 2,6 млрд параметров, контекст до 4096 токенов и формат весов safetensors. Модель принимает текст и генерирует текст. Карточка не приводит сведений о поддерживаемых языках или специализированных областях применения. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

DeepSeek-R1 — серия больших языковых моделей, разработанная DeepSeek и представленная в вариантах, дистиллированных из архитектур Qwen и Llama. Модели предназначены для генерации текста, диалогов, решения задач, требующих рассуждений, поиска и обработки информации, а также для сценариев клиентской поддержки, conversational AI, исследований и корпоративной автоматизации. В репозитории доступны варианты DeepSeek-R1-Distill-Qwen размером 1.5B, 7B, 14B и 32B параметров, а также DeepSeek-R1-Distill-Llama размером 8B и 70B параметров. Для каждой ветки указана квантованная версия q4-km по умолчанию. Модель относится к классу text-generation; сведения о поддерживаемых языках, размере контекста и дополнительных модальностях в README не приведены, поэтому она описывается как текстовая. Основные сильные стороны серии — широкий диапазон размеров, возможность выбрать баланс между ресурсопотреблением и качеством, а также ориентация на диалог и рассуждения. Более крупные варианты потенциально требуют больше вычислительных ресурсов, а квантованные версии могут отличаться по качеству от исходных моделей. Конкретные ограничения, показатели производительности и условия применения в README не указаны. Репозиторий распространяется по лицензии MIT; в README также приведена ссылка на исходную лицензию DeepSeek-R1.

mlx-community/DeepSeek-R1-Distill-Llama-70B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Llama-70B, разработанной deepseek-ai и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в средах, совместимых с MLX. Для работы используется библиотека mlx-lm; README показывает загрузку модели, применение chat template и генерацию ответа по текстовому запросу. Ключевые характеристики: 70 миллиардов параметров в базовой модели, 4-битное представление весов, текстовая модальность и архитектурная основа Llama, унаследованная от DeepSeek-R1-Distill-Llama-70B. Сведения о поддерживаемых языках, размере контекстного окна, точных возможностях рассуждения, ограничениях, лицензии и требованиях к оборудованию в README не указаны.

RedHatAI/DeepSeek-R1-Distill-Llama-70B-FP8-dynamic — квантизированная версия модели DeepSeek-R1-Distill-Llama-70B, разработанная Neural Magic на базе модели DeepSeek. Это текстовая авторегрессионная модель с архитектурой LlamaForCausalLM: принимает текст и генерирует текст. Модель предназначена для задач рассуждения, ответов на вопросы, математических и общих языковых задач, а также для развертывания через vLLM и OpenAI-совместимый сервер. Модель содержит около 70 миллиардов параметров и использует FP8-квантизацию весов и активаций. Квантизации подвергаются линейные операции внутри трансформерных блоков; веса квантизируются по симметричной поканальной схеме, а активации — по симметричной потокенной схеме. Переход с 16-битного представления на 8-битное примерно вдвое сокращает размер модели на диске и требования к памяти GPU. Для квантизации использован LLM Compressor. В README не указаны поддерживаемые языки и максимальная длина контекста. По приведенным оценкам, FP8-версия сохраняет близкую к исходной точность на тестах рассуждения и OpenLLM Leaderboard, включая AIME 2024, MATH-500, GPQA Diamond, GSM8K и MMLU. Основное преимущество модели — снижение требований к памяти и возможность эффективного инференса на GPU, однако фактическая производительность зависит от оборудования и конфигурации vLLM. Модель распространяется по лицензии MIT.

DeepSeek-R1-Distill-Qwen-14B-GGUF — квантизированная GGUF-версия модели DeepSeek-R1-Distill-Qwen-14B, разработанной deepseek-ai и подготовленной компанией Second State Inc. Модель предназначена для текстового диалога и генерации ответов, а также может использоваться в локальных приложениях и сервисах на базе LlamaEdge. Для взаимодействия применяется шаблон запросов ChatML. Модель содержит 14 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантизации Q2_K–Q8_0 и f16 размером примерно от 5,77 до 29,5 ГБ. Варианты с меньшим числом бит требуют меньше памяти, но могут заметно терять в качестве; README рекомендует Q4_K_M как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с небольшими потерями качества. Модель рассчитана на работу через llama.cpp и LlamaEdge, включая запуск как локального чат-приложения или API-сервиса. Сильными сторонами являются большой контекст, возможность локального развертывания и широкий выбор компромиссов между размером, требованиями к ресурсам и качеством. Ограничения связаны с потерями качества при низкой квантизации и значительными требованиями к памяти для крупных вариантов. Сведения о поддерживаемых языках, точной архитектуре, назначении обучения и лицензии в README не указаны.

NVIDIA DeepSeek-R1-NVFP4-v2 — FP4-квантованная версия языковой модели DeepSeek R1, подготовленная NVIDIA с помощью TensorRT Model Optimizer. В карточке указано, что модель разработана не NVIDIA, а создана по требованиям третьей стороны. Архитектура основана на трансформере DeepSeek V3; модель содержит 37,6 млрд параметров и рассчитана на контекст до 163 840 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалогов, ответов на вопросы и пошагового решения задач. По сравнению с nvidia/DeepSeek-R1-FP4 в этой версии дополнительно квантован модуль wo в слоях внимания. Квантование весов и активаций линейных операторов снижает требования к диску и видеопамяти примерно в 1,6 раза. Для инференса карточка указывает TensorRT-LLM и совместимость с архитектурой NVIDIA Blackwell; пример развертывания требует 8 GPU B200. Модель распространяется по лицензии MIT и заявлена для коммерческого и некоммерческого использования. Она может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и социальные предубеждения из обучающих данных.

DeepSeek-V2-Lite-Chat-GGUF — это квантизированная GGUF-версия диалоговой модели DeepSeek-V2-Lite-Chat, разработанной DeepSeek-ai и подготовленной компанией Second State Inc. Модель предназначена для локального запуска и генерации ответов в формате чат-ассистента; в README также указана совместимость с LlamaEdge версии 0.12.3 и выше. Модель поддерживает контекст размером до 128 000 токенов и использует шаблон запросов deepseek-chat-2. В репозитории доступны варианты квантования от Q2_K до Q8_0, а также f16, с размером файлов примерно от 6,43 до 31,4 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Более сильное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках и модальностях, поэтому эти характеристики нельзя уточнить. Модель распространяется по лицензии DeepSeek с обозначением other; ссылка на условия лицензии приведена в исходном описании.

MaziyarPanahi/DeepSeek-V3-0324-GGUF — это набор файлов модели DeepSeek-V3-0324 в формате GGUF. Исходную модель разработала команда deepseek-ai, а данную GGUF-версию подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими решениями, включая варианты с ускорением на GPU и совместимыми API. Это делает модель пригодной для локальных чат-интерфейсов, серверов генерации текста и интеграции в приложения. В README указана 2-битная квантизация, которая может снизить требования к памяти, но потенциально сопровождается ухудшением качества по сравнению с полноразмерной моделью. В предоставленных данных не указаны архитектура, общее число параметров, поддерживаемые языки и размер контекста. Модель распространяется по лицензии MIT.

mlx-community/DeepSeek-V3.1-8bit — это 8-битная версия модели DeepSeek-V3.1, преобразованная сообществом mlx-community в формат MLX из исходной модели deepseek-ai/DeepSeek-V3.1. Модель предназначена для генерации текста и локального использования через библиотеку mlx-lm на устройствах, поддерживающих MLX. Она может применяться для диалогов и других задач текстовой генерации; в README приведён пример использования с chat template и сообщениями в формате ролей. Ключевые характеристики — формат MLX, 8-битное представление весов и тег text-generation. Конвертация выполнена с помощью mlx-lm версии 0.26.3. Данные о точном размере модели, архитектуре, поддерживаемых языках и длине контекста в README не указаны. Сжатое 8-битное представление может быть удобно для локального запуска, однако конкретные требования к памяти, производительность и качество по сравнению с исходной моделью не описаны. Модель распространяется по лицензии MIT.