I.5Создание и редактирование текста

Cosmosis-3x34B — разговорная языковая модель Weyaxi, построенная на архитектуре Mixtral с разреженной экспертной структурой MoE. В репозитории указано 33,9 млрд параметров; модель распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие. Метаданные указывают контекст длиной до 200 000 токенов. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. В README приведены варианты шаблонов запросов ChatML, Human Assistant, Alpaca и Vicuna, но автор не определяет предпочтительный шаблон и отсылает к шаблонам модели bagel-dpo-34b-v0.2. В README также приведены результаты оценки на бенчмарках, включая средний результат 75,39. Модель основана на объединении нескольких экспертных моделей; точная схема создания описана в конфигурации воспроизведения, однако доступный текст README её не раскрывает. Лицензия обозначена в метаданных как other, поэтому условия использования следует проверять в репозитории. Автор отмечает неопределённость с выбором шаблона промпта.

sasa2000/cosmos-reason2-2b-text-only — неофициальная текстовая версия NVIDIA Cosmos-Reason2-2B, подготовленная автором репозитория sasa2000. Это плотная причинная языковая модель Qwen3ForCausalLM: из исходной мультимодальной модели оставлены языковой блок и выходной слой lm_head, а компоненты обработки изображений и видео удалены. В метаданных указано 1,7 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогового использования. Она загружается через Transformers как Qwen3ForCausalLM; README сообщает об успешной загрузке и проверочном прямом проходе. В отличие от исходной Cosmos-Reason2-2B, этот чекпойнт не принимает изображения или видео и не включает соответствующие процессоры и проектор. Репозиторий помечен лицензией other; конкретные условия README не приводит. Это производный чекпойнт, созданный не NVIDIA, поэтому перед использованием следует проверить условия исходной модели и репозитория.

Covenant-72B-Chat — диалоговая языковая модель с настройкой по инструкциям, созданная на основе Covenant-72B. Разработчики описывают базовую модель как крупнейшую языковую модель, обученную совместно без разрешений; вариант Chat дообучен методом supervised fine-tuning. Модель использует плотную архитектуру LLaMA (LlamaForCausalLM), содержит около 70,6 млрд параметров и принимает текст для генерации ответов в диалоге. Контекст составляет 8192 токена, поддерживаемый язык по карточке — английский. Модель предназначена для диалоговых ответов и выполнения инструкций на естественном языке. В README приведены результаты бенчмарков по рассуждениям, математике, общим знаниям и следованию инструкциям; эти оценки показывают способности на тестовых наборах, но не гарантируют точность в прикладных сценариях. Опубликована в формате safetensors под лицензией Apache 2.0.

nold/CroissantLLMChat-v0.1-GGUF — GGUF-квантизированная версия CroissantLLMChat-v0.1, разработанная в рамках инициативы CroissantLLM и подготовленная с использованием пайплайна llm-quantizer. Исходную модель создали Manuel Faysse, Patrick Fernandes и соавторы. Это чат-модель, дообученная после 190 тысяч шагов обучения на примерно 2,99 трлн токенов с последующей Chat-настройкой. Модель предназначена для диалогов, генерации и редактирования текста, преимущественно на французском и английском языках, а также для задач перевода; её можно запускать на локальном пользовательском оборудовании. Архитектура в README явно не указана, размер исходной модели составляет 1,3 млрд параметров, а поддерживаемая модальность — текст. Для корректной работы рекомендуется использовать заданный chat template и температуру не ниже 0,3. Заявленный контекст модели не указан. К сильным сторонам относятся производительность для своего размера, хорошие результаты в письменных задачах и особенно в переводе, а также открытость проекта. Ограничения включают слабые возможности сложного рассуждения, относительно низкое качество генерации кода и неоптимальную работу с языками, кроме французского и английского. Модель может галлюцинировать и выдавать фактически неверные сведения; ориентировочная граница знаний связана с дампом Wikipedia за ноябрь 2023 года. Модель распространяется по лицензии MIT.

Kaballas/Cyber13 — языковая модель Kaballas, дообученная на Kaballas/Cyber8. Это плотная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель поддерживает контекст длиной до 131072 токенов и имеет интерфейс для вызова инструментов. Модель хранится в формате PyTorch и распространяется по лицензии Apache-2.0. В README указано, что при обучении использовались Unsloth и библиотека TRL; заявлено ускорение обучения вдвое. Карточка не описывает специализацию или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять самостоятельно.

Kaballas/Cyber8 — разговорная модель генерации текста, разработанная Kaballas и дообученная на базе Kaballas/Cyber6. Она предназначена для диалогов и ответов в чате на английском языке. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В обучении использовались Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

cyberneurova-Qwen3.8-27B-GGUF — набор квантизированных сборок модели cyberneurova-Qwen3.8-27B, разработанной cyberneurova. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio, Jan и других средах, поддерживающих формат GGUF, и относится к задачам генерации текста. Модель имеет размер 27B параметров и доступна в вариантах квантизации от Q2_K до Q8_0 объёмом примерно от 10 до 29 ГБ. Рекомендуется вариант Q4_K_M как компромисс между качеством и требованиями к памяти. Заявлена мультимодальность: для обработки изображений требуется отдельный vision projector mmproj-F16.gguf объёмом около 0,9 ГБ. В README приведён пример контекста 8192 токена, однако максимальный размер контекста явно не указан. Языки не заявлены. К сильным сторонам относятся локальный запуск, несколько уровней квантизации, поддержка изображений и заявленный результат базовой модели 11 из 12 на исполняемом бенчмарке программирования. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, необходимость дополнительного проектора для работы с изображениями и наличие сокращённых встроенных отказов; пользователь несёт ответственность за применение модели и соблюдение законодательства. Модель распространяется по лицензии Apache-2.0.

Cydonia-v1.2-Magnum-v4-22B-OLD — объединённая языковая модель на архитектуре Mistral, опубликованная пользователем knifeayumu. Она создана методом task arithmetic с помощью mergekit из TheDrummer/Cydonia-22B-v1.2 и anthracite-org/magnum-v4-22b с равными весами; размер модели — 22 млрд параметров, формат файлов — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов, включая создание связной прозы на английском языке. Метаданные также отмечают интерфейс для вызова инструментов. Для использования доступны отдельные GGUF-квантизации, однако этот репозиторий содержит исходную объединённую модель в safetensors. Лицензия указана как other, поэтому перед применением следует проверить условия на странице модели.

Cydonia-v4.1-MS3.2-Magnum-Diamond-24B — объединённая языковая модель, созданная knifeayumu методом SLERP с помощью mergekit на основе TheDrummer/Cydonia-24B-v4.1 и Doctor-Shotgun/MS3.2-24B-Magnum-Diamond. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров; она принимает текст и генерирует текст, в том числе подходит для творческого письма и ролевых диалогов согласно описанию базовой модели. Заявленная длина контекста — 131 072 токена. Модель распространяется в формате safetensors по лицензии Apache-2.0. README описывает рецепт слияния, но не приводит отдельных оценок качества или подробных рекомендаций по использованию. Качество и поведение могут отличаться от исходных моделей; описание генерации видео в README относится к созданию иллюстрации карточки с помощью внешних инструментов, а не к возможностям этой языковой модели.

Cygnis-Alpha 2 (8B) v0.3 — это языковая модель для генерации текста, представленная в формате GGUF с различными вариантами квантизации. Базовую модель разработал Simonc-44, а квантизацию выполнил mradermacher. Модель обучалась с использованием наборов данных Cygnis-Alpha2-Instruct-Mix и Cygnis-Identity-SFT и предназначена для локального запуска через совместимые инструменты работы с GGUF. Модель содержит около 8 миллиардов параметров и, судя по метаданным, относится к семейству архитектур Llama 3.1. Она ориентирована на текстовые задачи, включая генерацию ответов, следование инструкциям и рассуждения. Заявлены английский и французский языки. Поддержка мультимодальных входов и размер контекстного окна в README не указаны. Основное преимущество версии — широкий выбор квантизированных вариантов размером примерно от 2,1 до 6,7 ГБ, что позволяет адаптировать модель к доступным ресурсам и выбирать компромисс между скоростью, требованиями к памяти и качеством. При этом некоторые малобитные варианты характеризуются как низкокачественные, поэтому для практического использования рекомендуется выбирать более качественные варианты, например i1-Q4_K_M или i1-Q5_K_M. Модель распространяется под лицензией Apache-2.0.

Cymist2-v0.1-SFT — языковая модель команды Cypien AI для генерации текста и диалоговых сценариев на турецком и английском языках. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная на базе mistralai/Mistral-7B-v0.1 и доступная в формате safetensors для библиотеки Transformers. Контекст модели составляет 32 768 токенов. Модель предназначена для чат-ботов, виртуальных помощников и приложений общего назначения, включая сценарии поиска с дополненной генерацией (RAG). Она поддерживает турецкий и английский языки; в README указано обучение на разнообразных источниках на этих языках. Распространяется по лицензии Apache-2.0. Модель может унаследовать смещения из обучающих данных. Разработчик не рекомендует применять её в критически важных системах или там, где требуются специализированные знания за пределами общей генерации текста; точность ответов не гарантируется.

danskgpt-v4-12b — дообученная Syvai текстовая модель на архитектуре Gemma4ForCausalLM, созданная на основе google/gemma-4-12B-it для более сильного понимания датского языка, работы со знаниями и рассуждений. Это плотная модель примерно на 11,6 млрд параметров; карточка указывает дообучение QLoRA с рангом 16, базой NF4 и вычислениями bf16. Контекст составляет 262 144 токена, для диалога используется шаблон чата Gemma-4. Модель предназначена для датской NLP: классификации, понимания прочитанного, ответов на вопросы, извлечения именованных сущностей и задач универсального ассистента. Она принимает текст и генерирует текст; примеры включают перефразирование, суммаризацию и оценку тональности. Модель ориентирована на датский язык и не предназначена для мультимодального ввода, несмотря на мультимодальные возможности базовой модели. По карточке модель может быть более краткой и решительной в открытой генерации, чем базовая модель, наследует её смещения и ограничения знаний. Для высокорисковых решений требуется человеческий контроль. Лицензия — CC BY 4.0.

Dans-PersonalityEngine-V1.1.0-12b-GGUF — квантизированная GGUF-версия языковой модели Dans-PersonalityEngine V1.1.0 с 12 млрд параметров. Исходную модель разработала PocketDoc, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста общего назначения, ролевого общения, написания историй, работы с кодом, математикой, логикой, химией, биологией, климатическими и операционными сценариями, а также для задач с инструментами и функциями. Указан английский язык; поддерживается текстовая модальность и формат диалоговых сообщений ChatML. Модель дообучалась на наборах данных для ассистентских диалогов, персонажей, прозы, программирования, математических и логических задач, научных тем, следования инструкциям, вызова инструментов и работы с командами оболочки. В репозитории доступны варианты от F16 до различных уровней квантования Q4–Q8; это позволяет выбирать между качеством генерации и требованиями к памяти. README не содержит сведений об архитектуре базовой модели, размере контекстного окна, подтвержденных результатах оценки или точных ограничениях применения. Модель выпускается по лицензии Apache-2.0. К основным ограничениям относятся отсутствие заявленных количественных бенчмарков, неполная информация о поддерживаемых языках и контекстной длине, а также возможное снижение качества при использовании более сильного квантования. Для запуска рекомендуется совместимое программное обеспечение, например llama.cpp или LM Studio.

Dans-PersonalityEngine-V1.2.0-24b — дообученная PocketDoc модель семейства Mistral на базе mistralai/Mistral-Small-24B-Base-2501. Это плотная языковая модель с 23,4 млрд параметров, рассчитанная на генерацию текста; она принимает текст и выдаёт текст. Модель обучалась на инструкциях в одном и нескольких ходах, использовании инструментов, ролевых сценариях, текстовых приключениях и совместном написании. В карточке заявлены также анализ тональности и суммаризация как задачи для конвейеров. Модель предназначена прежде всего для ролевого общения, соавторства и продолжения историй, а также для диалоговых инструкций, генерации кода и задач общего назначения. Она поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Для диалогов рекомендуется формат ChatML с ролями system, user и assistant. Автор предупреждает о возможных проблемах с автоматической вставкой начального токена BOS: в некоторых бэкендах его отсутствие может приводить к несвязным ответам или повторению пользовательского текста; в таком случае рекомендуется попробовать добавить <s> в начало контекста. Модель распространяется по лицензии Apache-2.0.

Lambent/danube2-upscale-1.7 — языковая модель, созданная разработчиком Lambent с помощью линейного слияния четырёх вариантов danube2-upscale. В основе архитектуры MistralForCausalLM с плотной структурой; модель содержит 2,2 млрд параметров и рассчитана на контекст до 8192 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и общих языковых задач. В README приведены результаты бенчмарков AGIEval, GPT4All, TruthfulQA, Bigbench и EQ-Bench; автор отмечает, что это первый вариант серии, показавший многообещающее улучшение относительно h2o-danube2-1.8b-base. Методика экспериментов описана как беспорядочная, а воспроизвести рецепт обучения автор считает затруднительным.

darkps_ice-AI-GGUF — это квантованные версии языковой модели ice-AI, разработанной DarkPs и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Входной модальностью является текст, спекулятивное декодирование не поддерживается. Модель содержит около 8 млрд параметров. Набор включает варианты от BF16 до низкоразрядных квантовок Q2 и IQ, размер файлов составляет примерно от 3,4 до 16,4 ГБ. Квантования с imatrix рассчитаны на работу через совместимые инструменты llama.cpp; разработчик рекомендует Q4_K_M как сбалансированный вариант по качеству, размеру и производительности, а Q6_K и Q6_K_L — для более высокого качества. Длина контекста в README не указана. Сильными сторонами являются широкий выбор квантований, возможность подобрать модель под доступный объём памяти и совместимость с экосистемой llama.cpp. Более компактные варианты экономят память, но могут заметно уступать старшим квантованиям по качеству. Лицензия — Apache-2.0; исходной моделью указана darkps/ice-AI.

atmzed/Darwin-4B-David-mlx-fp16 — текстовая генеративная модель семейства Gemma 4 с плотной архитектурой, представленная в формате MLX для запуска на устройствах Apple. Репозиторий создан atmzed и содержит конверсию модели FINAL-Bench/Darwin-4B-David с помощью mlx-lm версии 0.31.2; метаданные также связывают её с этой базовой моделью как с дообучением. Модель предназначена для диалогового взаимодействия и генерации текста. В карточке указана поддержка английского, корейского, японского и китайского языков, а также многоязычность. Модель распространяется по лицензии Apache-2.0. Данных о размере и длине контекста в предоставленных источниках нет.

DataDecide-dclm-baseline-qc-7p-fw3-1B-5500057500600006250065000weightedavgmerge — языковая модель, созданная объединением пяти предварительно обученных чекпойнтов с помощью mergekit. Использован метод Linear merge, базой объединения служил чекпойнт шага 65000; остальные включённые чекпойнты соответствуют шагам 55000, 57500, 60000 и 62500. Модель построена на архитектуре LlamaForCausalLM, содержит 1,2 млрд параметров и принимает текст для авторегрессионной генерации текста. Родной размер контекста — 2048 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. В карточке не описаны конкретные специализации, языковое покрытие, оценка качества или рекомендуемые сценарии, поэтому её следует рассматривать как общую языковую модель. Лицензия в предоставленных данных не указана.

DataDecide-dolma1_6plus-1B-52500_55000_57500_60000_62500_weightedavg_merge — объединённая предобученная языковая модель на базе архитектуры Llama, созданная с помощью mergekit. В неё сведены чекпойнты dolma1_6plus с шагов обучения 52500, 55000, 57500, 60000 и 62500; базовым при линейном слиянии указан чекпойнт шага 62500. Модель содержит 1,2 млрд параметров, принимает текст и генерирует текст. Она предназначена для задач генерации текста; заявленная длина контекста — 2048 токенов. Карточка не уточняет специализацию по предметной области или языкам. В репозитории используются веса Safetensors, модель рассчитана на Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

DataDecide-dolma17-no-math-code-1B-6000062500650006750069369weightedavgmerge — языковая модель, созданная слиянием нескольких предобученных чекпойнтов методом Linear с помощью mergekit. В качестве базового чекпойнта при слиянии использован step69369; также объединены чекпойнты step60000, step62500, step65000 и step67500 из серии dolma1_7-no-math-code. Архитектура — плотная LlamaForCausalLM, размер — около 1,2 млрд параметров. Модель предназначена для генерации текста. В названии серии обозначено исключение математики и кода, но README не приводит оценок качества или подробных сценариев применения. Максимальная длина контекста — 2048 токенов. Модель работает с текстовым вводом и выдаёт текст. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Andromeda-70B-GGUF — это квантизированная версия языковой модели Andromeda-70B, разработанной ddh0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с форматом GGUF, включая LM Studio, llama.cpp и другие проекты на его основе. Модель имеет заявленный размер 70B параметров и поддерживает несколько вариантов квантизации — от Q8_0 до Q2 и IQ-серий. Размер файлов варьируется примерно от 22 до 75 ГБ, поэтому можно выбирать между качеством ответов и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми указаны варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_L и Q4_K_M; варианты с более низкой разрядностью экономят память, но заметно уступают по качеству. В README приведён специальный шаблон приглашений с системными и пользовательскими сообщениями, а также датами отсечения знаний: декабрь 2023 года для базы знаний и 26 июля 2024 года как текущая дата шаблона. Архитектура, поддерживаемые языки, размер контекстного окна, результаты тестирования и лицензия не указаны. Условия использования следует уточнять по исходной модели ddh0/Andromeda-70B и соответствующим материалам проекта.

bartowski/deepcogito_cogito-v1-preview-llama-8B-GGUF — это GGUF-квантизированная версия языковой модели cogito-v1-preview-llama-8B, разработанной deepcogito. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF с вариантами точности от BF16 до различных Q- и IQ-квантизаций. Доступны файлы размером примерно от 3,8 до 16,1 ГБ; варианты Q6_K и Q6_K_L обозначены как обеспечивающие качество, близкое к исходному, а Q4_K_M рекомендован как стандартный компромисс между качеством и размером. Для работы предусмотрен формат prompt с системными и пользовательскими сообщениями в стиле Llama 3.1. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными весами. Более компактные варианты экономят оперативную память, но могут уступать по качеству менее сжатым версиям; конкретные поддерживаемые языки, размер контекста, мультимодальные возможности и результаты бенчмарков в README не указаны. Лицензия обозначена как llama3.1.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-70B, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и может использоваться в локальных приложениях на базе llama.cpp, включая LM Studio и другие совместимые проекты. В основе лежит модель класса Llama с заявленным размером 70B параметров. Доступны варианты квантования от Q8_0 до Q2_K_L и IQ3/IQ4, различающиеся размером файла, требованиями к памяти и качеством вывода. Более качественными и рекомендуемыми в README названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; модели с более низкой разрядностью экономят память, но могут заметно уступать в качестве. Формат GGUF и imatrix-квантование облегчают локальный запуск, однако даже компактные варианты требуют значительных ресурсов. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура исходной модели, мультимодальные возможности и лицензия. Шаблон чата также не задан и может требовать проверки по карточке исходной модели; приведённый формат основан на служебных токенах Llama. Условия использования в представленном README не указаны.

DeepHermes 3 Preview — предварительная версия языковой модели серии Hermes, разработанная Nous Research. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, дообученная на базе meta-llama/Meta-Llama-3.2-3B. Она предназначена для диалогов, следования инструкциям и генерации текста; режим рассуждений с развёрнутой цепочкой рассуждений и обычный режим ответа переключаются системным запросом. Модель также поддерживает интерфейс вызова функций и генерацию структурированных ответов в формате JSON. Модель использует формат чата Llama-Chat, рассчитана на контекст до 131 072 токенов и поддерживает английский язык. В карточке описаны применение Transformers и vLLM, а веса доступны в формате safetensors. Это предварительный выпуск с ранними возможностями рассуждения, поэтому возможны нестабильное поведение и недочёты. Лицензия — Llama 3 Community License (llama3).

Модель krishanwalia30/DeepSeek-R1-Distill-Alpaca-FineTuned — дообученная разработчиком krishanwalia30 языковая модель для генерации текста и диалоговых ответов. Она основана на unsloth/DeepSeek-R1-Distill-Llama-8B-unsloth-bnb-4bit, использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. В качестве обучающих данных указаны yahma/alpaca-cleaned; в карточке заявлено дообучение на Alpaca для повышения адаптивности ответов. Модель предназначена для пользовательских ассистентов, генерации текстов и документации, ответов на специализированные запросы и извлечения аналитических выводов из данных. Она принимает текст и генерирует текст; заявленная родная длина контекста — 131 072 токена. README также упоминает ONNX Runtime, но метаданные перечисляют форматы PyTorch и safetensors, поэтому наличие ONNX-файлов не подтверждается. Заявления карточки о высокой точности и снижении галлюцинаций не подкреплены результатами бенчмарков. Лицензия — Apache-2.0.

DeepSeek-R1-Distill-Llama-70B-GGUF — это набор GGUF-квантизаций 70-миллиардной языковой модели DeepSeek-R1-Distill-Llama-70B, подготовленный пользователем bartowski на основе модели DeepSeek AI. Квантизация выполнена с помощью llama.cpp релиза b4514 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio, а также для инференса с использованием llama.cpp и совместимых инструментов. Модель является текстовой, однако в README не указаны точная архитектура исходной модели, размер контекстного окна и поддерживаемые языки. Доступны варианты с различной степенью квантизации: от Q8_0 размером около 75 ГБ до низкобитных IQ2 и Q2 размером около 22–27 ГБ. Более высокие уровни, включая Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, ориентированы на сохранение качества, тогда как варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. Сильной стороной набора является широкий выбор форматов для подбора компромисса между качеством, размером и требованиями к памяти; для большинства сценариев в README рекомендуются Q6_K, Q5_K и Q4_K_M. Ограничения включают очень высокие требования к оперативной или видеопамяти даже у компактных вариантов, а также возможное снижение качества при сильной квантизации. Лицензия в предоставленном README не указана.

Текстовая модель семейства Llama, опубликованная Kunakornjack и дообученная на unsloth/DeepSeek-R1-Distill-Llama-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические задачи, программирование и многошаговые рассуждения. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель может применяться для диалоговых помощников, генерации ответов, решения математических задач и помощи с кодом. Карточка не описывает отдельные результаты или специализацию этого дообучения, поэтому его влияние на качество по сравнению с базовой моделью оценить нельзя. Лицензия — Apache-2.0.

bartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-Distill-Qwen-7B, подготовленный bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченными ресурсами. В основе лежит модель размером 7B параметров; точная архитектура, поддерживаемые языки и размер контекста в представленном README не указаны. Доступны версии от F32 и F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и Q2 с размером файлов примерно от 3,55 до 30,47 ГБ. Квантизация выполнена с использованием llama.cpp и imatrix, а для запуска рекомендуется применять указанный формат prompt. Сильная сторона набора — широкий выбор компромиссов между качеством, размером файла и требованиями к памяти: версии Q6 и Q5 заявлены как обеспечивающие очень высокое или высокое качество, а Q4 — как подходящие для большинства сценариев. Более компактные варианты предназначены для систем с небольшим объёмом RAM, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования следует уточнять в документации исходной модели и репозитория.

Это набор GGUF-квантизаций модели DeepSeek-R1-Distill-Qwen-7B, базирующейся на модели deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Квантизации подготовлены пользователем Dhptl с использованием quant-kit 18 июня 2026 года. Модель относится к классу text-generation и предназначена для диалогов, генерации текста и локального запуска через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. Доступны варианты Q2_K, Q3_K, Q4_K, Q5_K, Q6_K и Q8_0 размером примерно от 2,81 до 7,54 ГБ. Рекомендуемый вариант Q4_K_M занимает 4,36 ГБ и требует около 5,9 ГБ RAM; Q3_K_M ориентирован на системы с 8 ГБ RAM, а Q8_0 — на максимальное приближение к качеству исходной модели при потребности примерно в 9 ГБ RAM. Квантизация уменьшает размер и требования к памяти, но более агрессивные варианты могут заметно снижать качество. Для модели указан английский язык; контекст, точное число параметров архитектуры и мультимодальные возможности в карточке не раскрыты. Модель подходит для локального использования на компьютерах с ограниченными ресурсами и поддерживает работу на CPU или GPU в совместимых инструментах. Приведённые значения сохранения качества около 97–99% являются ориентировочными, а фактические результаты бенчмарков в README отсутствуют. Лицензия — MIT.

mobiuslabsgmbh/DeepSeek-R1-ReDistill-Llama3-8B-v1.1 — повторно дистиллированная версия DeepSeek-R1-Distill-Llama3-8B, разработанная Mobius Labs. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста и диалоговых сценариев; заявленная длина контекста — 131 072 токена. В сравнении с исходной DeepSeek-R1-Distill-Llama3-8B карточка приводит улучшенные результаты на ARC, MMLU, GPQA, MMLU PRO и MUSR, при этом на HellaSwag результат немного ниже. Модель подходит для задач рассуждения, ответов на вопросы и других сценариев генерации текста. В репозитории доступны веса safetensors. Лицензия — MIT. В README также упоминается возможность ускорения инференса с HQQ; приведённые в карточке сравнительные результаты не заменяют независимую оценку на целевых данных.