II.6Документация и сопровождение разработки

ChatGLM-6B-INT4 — открытая квантованная версия диалоговой языковой модели ChatGLM-6B, разработанной командой THUDM/GLM. Модель основана на архитектуре General Language Model (GLM), оптимизирована для двуязычных китайско-английских вопросов и диалогов и обучалась на китайско-английском корпусе объёмом около 1 трлн токенов с применением监督微调, обучения на обратной связи и обучения с подкреплением на основе человеческих предпочтений. Веса 28 GLM-блоков преобразованы в формат INT4, тогда как Embedding и LM Head не квантизированы. Это снижает требования к памяти: для инференса теоретически достаточно около 6 ГБ видеопамяти или соответствующего объёма оперативной памяти при работе на CPU, что делает возможным локальный запуск на потребительских видеокартах и потенциально на встраиваемых устройствах. В метаданных Hugging Face указано 8,1 млрд параметров; README описывает базовую модель как модель на 6,2 млрд параметров. Модель подходит для локальных чат-ботов, ответов на вопросы, многошагового диалога, генерации текстов и прототипирования двуязычных NLP-приложений. Длина контекста в предоставленных данных не указана. Код распространяется по Apache-2.0, а использование весов регулируется отдельной Model License.

checkpoints_en_my_logit — компактная языковая модель семейства Qwen3 с 1,7 млрд параметров, опубликованная в формате, совместимом с библиотекой Transformers. По метаданным модель предназначена для генерации текста и поддерживает контекст длиной до 40 960 токенов; тег conversational указывает на применимость в диалоговых сценариях. Модель можно использовать для генерации ответов, ведения диалога, продолжения текста и создания прототипов текстовых приложений. Сильными сторонами являются небольшой размер относительно более крупных языковых моделей и длинное контекстное окно. Разработчик, лицензия, языки обучения, данные, результаты оценки и точная архитектура в доступных материалах не описаны, поэтому модель следует предварительно проверять на целевых данных и учитывать возможные фактические ошибки, смещения и нестабильность ответов.

Chocolatine-14B-Instruct-DPO-v1.3 — диалоговая языковая модель на 14,1 млрд параметров, разработанная Jonathan Pacifico на основе Microsoft Phi-4. Модель дообучена методом DPO на наборе jpacifico/french-orca-dpo-pairs-revised; автор сообщает об улучшении результатов на французском языке и в целом относительно базовой модели. Она предназначена для генерации текста и ведения диалогов на французском и английском языках, а также может применяться для задач рассуждения, математики и программирования, поддерживаемых базовой Phi-4. Модель использует плотную архитектуру семейства Phi-3 и принимает контекст до 16 384 токенов. В README приведены результаты на OpenLLM Leaderboard и MT-Bench-French, но они зависят от методики оценки и не гарантируют качество в конкретном сценарии. У модели нет механизма модерации. Лицензия — MIT.

ashwinR/CodeExplainer — модель на архитектуре T5, дообученная автором с помощью AutoTrain на небольшой выборке фрагментов кода Python. Она генерирует построчные объяснения исходного кода и предназначена для упрощения его понимания. Модель содержит 385,2 млн параметров, работает с текстом и имеет контекст до 512 токенов. Модель подходит для краткого объяснения небольших фрагментов Python-кода. В карточке приведены метрики проверки: ROUGE-1 29,375, ROUGE-2 18,128 и ROUGE-L 25,445. Обучающая выборка описана как небольшая, поэтому качество на произвольном коде и других языках программирования может быть ограниченным. Лицензия — MIT.

duyntnet/codegeex4-all-9b-imatrix-GGUF — набор GGUF-квантизаций модели CodeGeeX4-ALL-9B, разработанной THUDM. Это авторегрессионная языковая модель для генерации текста и кода, ориентированная на задачи программирования: ответы на вопросы о коде и компьютерах, написание исполняемого кода, объяснение решений и автодополнение. Модель поддерживает диалоговый режим с системными и пользовательскими сообщениями, а также infilling — заполнение фрагментов кода между заданными префиксом и суффиксом. Доступны варианты запуска через llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. В README указано, что исходную модель можно запускать с Transformers версий 4.39.0–4.40.2; сведения о точной архитектуре, размере контекста и поддерживаемых языках программирования не приведены. Сильными сторонами являются специализация на программировании, поддержка диалога и заполнения кода, а также наличие GGUF-квантизаций для локального запуска в совместимых приложениях. Ограничения включают отсутствие в README результатов оценки качества, требований к ресурсам и подробностей о вариантах квантизации. Лицензия обозначена как other, без дополнительных условий использования.

unsloth/codegemma-7b-it — разговорная версия CodeGemma от Google, представленная Unsloth в виде модели для генерации текста. Репозиторий содержит плотную авторегрессионную модель Gemma с 8,2 млрд параметров, рассчитанную на диалог и дополнение текста; максимальный контекст составляет 8192 токена. В метаданных указана поддержка английского языка и формат safetensors. Модель подходит для диалоговых приложений и генерации продолжений текста, в частности в сценариях, связанных с кодом, для которых предназначено семейство CodeGemma. Карточка Unsloth описывает ноутбуки для дообучения Gemma и форматы шаблонов ChatML и Vicuna, но не приводит результатов оценки качества именно этого чекпойнта. Модель распространяется по лицензии Apache-2.0.

Salesforce CodeT5+ 220M — модель семейства CodeT5+ для понимания и генерации кода, разработанная Salesforce Research. Это плотная encoder-decoder-модель на архитектуре T5 с 123,7 млн параметров, доступная в формате PyTorch; она использует токенизатор оригинального CodeT5. Модель обучена на очищенном наборе кода GitHub с разрешительными лицензиями и рассчитана на работу с кодом на C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Модель подходит для генерации кода по текстовому запросу, дополнения кода, поиска соответствий между текстом и кодом и других задач понимания кода. В README указано контекстное окно 512 токенов. Карточка описывает семейство как гибкое по режимам работы, но конкретный чекпойнт представлен классом T5ForConditionalGeneration. Лицензия — BSD-3-Clause. Разработчики отмечают, что модель не оценивалась для всех сценариев применения и рекомендуют проверять точность и безопасность перед внедрением.

CODE_VERONICA — дообученная модель Sentence Transformer на базе intfloat/multilingual-e5-large, представленная автором репозитория CODE_VERONICA. Она кодирует предложения и абзацы на русском и английском языках в плотные текстовые векторы размерности 1024 для семантического поиска и извлечения релевантных фрагментов. Архитектура включает XLM-RoBERTa, усредняющий pooling и нормализацию векторов; сходство можно оценивать косинусной мерой. Максимальная длина входа — 512 токенов. Модель обучена на 778 парах предложений с использованием MultipleNegativesRankingLoss. Примеры связывают русские формулировки, включая сленг и текст в неверной раскладке, с англоязычными фрагментами кода, поэтому она может быть полезна для поиска кода по русским запросам и сопоставления таких запросов с описаниями или фрагментами кода. Лицензия в предоставленных данных не указана.

Это версия Command A+ в формате GGUF BF16, опубликованная DevQuasar на основе CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста и диалогового общения; метаданные каталога также характеризуют её как модель для чата. Базовая Command A+ описана как многоязычная мультимодальная модель Cohere для диалогов, рассуждений и агентных задач с текстом, изображениями и вызовом инструментов. Однако карточка этой версии не подтверждает, что её сборка GGUF сохраняет работу с изображениями или вызов инструментов, поэтому эти возможности нельзя считать гарантированными. Репозиторий содержит вариант GGUF в точности BF16. README называет его квантованной версией, но метаданные указывают BF16, что само по себе не подтверждает уменьшенную разрядность. Сведения о лицензии и ограничениях использования в предоставленных данных отсутствуют.

SvalTek/ColdBrew-Aphid — разговорная языковая модель семейства Llama, разработанная SvalTek и дообученная на базе с тем же идентификатором. Она предназначена для генерации текста в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель сохранена в формате safetensors и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. В карточке указан английский язык. Лицензия — Apache-2.0. README не приводит результатов оценки качества или подробностей обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.

ComplexKDA — авторегрессионная языковая модель с 1,36 млрд параметров, выпущенная командой авторов, перечисленных в карточке: Julien Siems, Riccardo Grazzi, Korbinian Pöppel и соавторы. Это чисто рекуррентная модель на архитектуре Kimi Delta Attention с подписанным затухающим коэффициентом: каналы могут осциллировать, а не только забывать предыдущий контекст. В архитектуре 24 слоя, размер скрытого состояния 2048, 16 голов внимания и короткая свёртка ширины 4; контекст обучения — 4096 токенов. Модель предназначена для авторегрессионной генерации текста и диалоговых сценариев. Для запуска в Transformers доступны вложенные реализация модели и токенизатор; при кодировании важно использовать токенизатор из репозитория, поскольку его настройки отличаются от upstream-версии. Репозиторий содержит веса safetensors и имеет лицензию MIT. Метаданные указывают 1,1 млрд параметров, тогда как README сообщает 1,36 млрд; точный размер следует считать неоднозначным.

Cydonia-ForgottenThoughts-24B — объединённая языковая модель Casual-Autopsy, созданная методом TIES с помощью mergekit на основе TheDrummer/Cydonia-24B-v2 и с включением Undi95/MistralThinker-v1.1 и ReadyArt/Forgotten-Safeword-24B-v3.0. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Контекст составляет до 32 768 токенов; репозиторий использует формат safetensors и библиотеку Transformers. В README не описаны отдельные прикладные специализации или поддерживаемые языки. Лицензия в предоставленных данных не указана. Качество, поведение в диалогах и ограничения модели отдельно не охарактеризованы.

Cypher-Mini-1.8B — экспериментальная разговорная языковая модель, созданная дообучением h2oai/h2o-danube-1.8b-chat разработчиком aloobun на Hercules v3 и частном наборе данных. Это плотная Mistral-архитектура для генерации текста с примерно 1,7 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В карточке приведён пример ответа с объяснением логической ошибки, но результаты бенчмарков ещё не представлены. Модель выпущена в формате safetensors и распространяется по лицензии Apache-2.0.

Cyrax-7B — языковая модель семейства Mistral с 7,1 млрд параметров, опубликованная touqir. Она предназначена для генерации текста и ответов на запросы; в карточке приведены результаты Open LLM Leaderboard по тестам ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K. Модель использует плотную архитектуру MistralForCausalLM, работает с текстом и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает дополнительных сведений о методе обучения или ограничениях модели.

Dans-PersonalityEngine-v1.0.0-8b-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Dans-PersonalityEngine-v1.0.0-8b, разработанной PocketDoc и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель содержит около 8 млрд параметров и предназначена для локального запуска, в частности через LM Studio. Доступны варианты от F16 до различных уровней квантизации Q3–Q8, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Модель ориентирована на широкий круг текстовых задач: диалоговое взаимодействие и ассистирование, написание и редактирование прозы, решение математических задач, программирование и анализ кода, подготовку данных, работу с инструментами и выполнение многошаговых заданий. В составе обучающих данных заявлены англоязычные наборы, посвящённые литературному письму, инструкциям, программированию, математике, химии, биологии, выживанию и другим темам. Основная заявленная область применения — генерация текста на английском языке; поддержка других языков и мультимодальных входов в README не указана. Сильными сторонами являются разнообразная специализация обучающих данных, наличие многочисленных вариантов квантизации и возможность локального инференса с использованием формата GGUF. К ограничениям относятся зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также отсутствие в README сведений об архитектуре базовой модели, размере контекстного окна, результатах бенчмарков и фактическом качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

mrcuddle/DarkHermes3-Llama3.2-3B-Instruct — дообученная компанией mrcuddle языковая модель для диалогов, следования инструкциям и генерации текста. Она основана на mrcuddle/Dark-Hermes3-Llama3.2-3B и обучена на англоязычном наборе llamafactory/alpaca_en. Модель использует плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Она рассчитана на текстовый ввод и генерацию текста; метаданные указывают поддержку чата и выполнения инструкций. В README приведено значение loss 1,1205 на оценочном наборе, но подробности оценки не описаны. Модель подходит для англоязычных диалоговых приложений, ответов на инструкции и генерации текста. Весовые файлы доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

mlabonne/DatacampLlama-3.1-8B — плотная языковая модель семейства Llama 3.1, дообученная mlabonne на базе unsloth/Meta-Llama-3.1-8B-bnb-4bit. Модель предназначена для генерации текста и диалогового использования. В репозитории представлены веса в формате Safetensors; обучение выполнялось с использованием Unsloth и библиотеки Hugging Face TRL. Размер модели — 7,5 млрд параметров, длина контекста — до 131 072 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0.

DataDecide-dolma1_7-1B-47500_50000_52500_55000_57500_weightedavg_merge — объединённая языковая модель, созданная с помощью mergekit из пяти предобученных чекпойнтов Dolma 1.7B на разных шагах обучения. Использован линейный метод слияния; базой служил чекпойнт шага 57500. Модель построена на архитектуре LlamaForCausalLM и содержит около 1,2 млрд параметров. Модель предназначена для генерации текста. Она принимает текст и продолжает его, а также подходит для диалоговых и других сценариев генерации, в которых полезна причинно-языковая модель. Контекст составляет 2048 токенов. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Веса доступны в формате safetensors через библиотеку Transformers. Лицензия в предоставленных данных не указана; сведений о сравнительной точности и конкретных ограничениях слияния также нет.

bartowski/deepcogito_cogito-v1-preview-llama-8B-GGUF — это GGUF-квантизированная версия языковой модели cogito-v1-preview-llama-8B, разработанной deepcogito. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF с вариантами точности от BF16 до различных Q- и IQ-квантизаций. Доступны файлы размером примерно от 3,8 до 16,1 ГБ; варианты Q6_K и Q6_K_L обозначены как обеспечивающие качество, близкое к исходному, а Q4_K_M рекомендован как стандартный компромисс между качеством и размером. Для работы предусмотрен формат prompt с системными и пользовательскими сообщениями в стиле Llama 3.1. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными весами. Более компактные варианты экономят оперативную память, но могут уступать по качеству менее сжатым версиям; конкретные поддерживаемые языки, размер контекста, мультимодальные возможности и результаты бенчмарков в README не указаны. Лицензия обозначена как llama3.1.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-70B, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и может использоваться в локальных приложениях на базе llama.cpp, включая LM Studio и другие совместимые проекты. В основе лежит модель класса Llama с заявленным размером 70B параметров. Доступны варианты квантования от Q8_0 до Q2_K_L и IQ3/IQ4, различающиеся размером файла, требованиями к памяти и качеством вывода. Более качественными и рекомендуемыми в README названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; модели с более низкой разрядностью экономят память, но могут заметно уступать в качестве. Формат GGUF и imatrix-квантование облегчают локальный запуск, однако даже компактные варианты требуют значительных ресурсов. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура исходной модели, мультимодальные возможности и лицензия. Шаблон чата также не задан и может требовать проверки по карточке исходной модели; приведённый формат основан на служебных токенах Llama. Условия использования в представленном README не указаны.

Deepseek-LLM-7B-Chat-GGUF — чат-модель Deepseek LLM 7B Chat, разработанная DeepSeek и представленная в формате GGUF. Репозиторий содержит квантизированные варианты модели, подготовленные Second State Inc., с разрядностью от 2 до 8 бит и размером файлов примерно от 2,72 до 7,35 ГБ. Модель предназначена для диалогового взаимодействия и может запускаться локально через LlamaEdge версии 0.2.8 или новее. Заявленный размер контекста составляет 4096 токенов. Доступны варианты с различным компромиссом между размером файла и качеством: Q2_K и варианты Q3 обеспечивают минимальные требования к ресурсам, но сопровождаются существенной потерей качества, тогда как Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые сбалансированные варианты. Модель работает с текстовыми запросами по шаблону deepseek-chat; сведения о поддерживаемых языках, точной архитектуре и результатах оценивания в README не приведены. Лицензия указана как deepseek, тип — other; применяются условия, описанные в файле LICENSE.

Карточка модели unsloth/DeepSeek-R1-Distill-Llama-70B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели maksimbbbi/DeepSeek-R1-Distill-Llama-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

DeepSeek-R1-Distill-Llama-8B-Enkrypt-Aligned — дообученная компанией Enkrypt AI версия DeepSeek-R1-Distill-Llama-8B, дополнительно выровненная по набору данных безопасности Enkrypt AI, созданному с использованием процесса SAGE. Это плотная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов, генерации текста с учетом требований безопасности, модерации контента, а также образовательных и исследовательских сценариев. Разработчик заявляет о снижении токсичности, вредных ответов и уязвимости к jailbreak-запросам при сохранении качества; в карточке приведен результат 46,43 на MMLU-Pro. Лицензия в предоставленных данных не указана.

DeepSeek-R1-Distill-Llama-8B-GGUF — это GGUF-версия модели DeepSeek-R1-Distill-Llama-8B, подготовленная Unsloth на базе DeepSeek-R1-Distill-Llama-8B. Модель предназначена для текстового диалога, генерации ответов и задач, требующих рассуждений; в примере README она формирует рассуждение перед итоговым ответом. Заявленный язык — английский. Модель основана на Llama 3.1 с размером 8B параметров и рассчитана на запуск через llama.cpp. Доступны квантизированные варианты GGUF, включая Q4_K_M; README также упоминает динамические квантизации Unsloth с разрядностью 1,58 и 2 бита, направленные на улучшение точности по сравнению со стандартными 1- и 2-битными вариантами. Поддерживается выгрузка части слоёв на GPU, что может ускорить обработку при наличии подходящего оборудования. Сильными сторонами являются относительно компактный размер, возможность локального запуска и наличие квантизированных сборок для снижения требований к памяти. Ограничения включают зависимость качества и скорости от выбранного уровня квантизации и оборудования; контекстное окно, мультимодальные возможности и подробные результаты оценки в README не указаны. Лицензия обозначена как llama3.1.

Карточка модели Ishowbackup/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели Openintelligent123/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF — это набор GGUF-квантизаций модели DeepSeek-R1-Distill-Qwen-14B, разработанной DeepSeek. Квантизация выполнена bartowski с использованием llama.cpp b4514 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio, с применением формата промпта, указанного в README. Доступны варианты от полных F32 и F16 весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, размером примерно от 6,66 до 59,09 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как рекомендуемые варианты высокого качества. Некоторые форматы оптимизированы для работы на CPU и Apple Silicon, включая online repacking для ARM и AVX. В README не указаны архитектурные детали, длина контекста, поддерживаемые языки и модальности, а также лицензия. Поэтому модель следует рассматривать как текстовую локальную модель, совместимость и фактические требования к памяти которой зависят от выбранного файла квантизации и используемого программного обеспечения.

Карточка модели BrushStone/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели HBkira/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.