II.6Документация и сопровождение разработки

MaziyarPanahi/calme-2.2-qwen2-72b-GGUF — квантизированная версия дообученной языковой модели calme-2.2-qwen2-72b, разработанной и квантизированной MaziyarPanahi на основе Qwen/Qwen2-72B-Instruct. Модель предназначена для генерации текста в диалоговых и общих сценариях использования больших языковых моделей, включая ответы на вопросы, рассуждения и решение задач. Для работы используется шаблон ChatML; поддерживаемые форматы GGUF рассчитаны на запуск через совместимые инструменты, например llama.cpp. Модель основана на архитектуре Qwen2 с заявленным размером 72 млрд параметров и представлена в вариантах квантизации от 2 до 16 бит, включая Q2_K, 3-, 4-, 5-, 6- и 8-битные варианты. Квантизация позволяет снизить требования к памяти, однако может уменьшать точность по сравнению с полноразмерной версией; README не содержит сведений о длине контекста, точном наборе языков, требованиях к оборудованию и результатах комплексного сравнения. В опубликованных оценках указаны результаты на TruthfulQA, Winogrande, ARC-Challenge и GSM8K, но они не гарантируют качество в конкретных прикладных сценариях. Лицензия обозначена как other с названием tongyi-qianwen; в качестве лицензионного документа указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием необходимо проверить её условия, особенно требования к распространению и коммерческому применению.

murtsu/capnstop — чат-модель на базе Granite 4.2 с системным промптом, который задаёт ограниченный бюджет усилий для ответа. Она предназначена для диалога и генерации текста, когда важны краткость и проверяемость: модель разбивает задачу на подцели, проверяет их по критериям завершения и останавливается после подтверждения результата. Если не может проверить часть ответа, она должна сообщить об этом и оценить уверенность, а при затруднении — попробовать другой подход вместо повторения одной попытки. Подход Budgeted Reward Allocation Марко Тахванайнена реализован промптингом, а не дообучением. Модель основана на Granite 4.2 и распространяется в формате GGUF для запуска через Ollama. В README указаны параметры генерации: temperature 0.6, top_p 0.95 и repeat_penalty 1.15. Лицензия — Apache 2.0.

CausalLM 14B — языковая модель на архитектуре LLaMA с 14 миллиардами параметров, разработанная CausalLM. TheBloke подготовил её квантованные версии в формате GGUF, предназначенные для локального запуска и инференса через llama.cpp и совместимые инструменты. Модель относится к классу text-generation и поддерживает английский и китайский языки. Модель предназначена для генерации текста и диалоговых сценариев с использованием шаблона ChatML. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти, включая запуск на CPU и GPU. Формат GGUF поддерживается llama.cpp, text-generation-webui, LM Studio, KoboldCpp, ctransformers, llama-cpp-python и другими клиентами. К сильным сторонам относятся широкий набор обучающих данных, поддержка локального инференса и несколько уровней квантования. Ограничения включают отсутствие сведений о размере контекста, точных характеристиках производительности и мультимодальных возможностях; по представленным данным модель следует рассматривать как текстовую. Исходная модель заявлена под лицензией WTFPL, а квантованные версии также сопровождаются условиями Meta Llama 2 License, поэтому применимость и взаимодействие этих лицензий необходимо проверять перед использованием.

IanLi233/Cautious_Qwen — дообученная модель Qwen2.5-7B, опубликованная в формате SafeTensors и подготовленная с помощью Unsloth. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель примерно на 7,1 млрд параметров; заявленная длина контекста составляет 131 072 токена. Карточка не раскрывает обучающие данные, конкретные сценарии дообучения, языки, разработчика и лицензию. Поэтому область, в которой модель особенно надёжна, определить нельзя; ответы следует проверять, особенно при использовании в важных решениях. Базовая модель указана в README как Qwen2.5-7B.

Cerebrum-1.0-7b — языковая модель для генерации текста и решения задач, требующих рассуждений. Её разработала AetherResearch на основе Mistral-7B-v0.1: модель дообучили на небольшом наборе примеров с цепочками рассуждений и дополнительно настроили с помощью целевого RLHF. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, математических задач, ответов на вопросы, мозгового штурма и творческих запросов. В карточке приводятся результаты сравнений на ARC Challenge и GSM8k, однако условия оценки различались для моделей, поэтому эти результаты не гарантируют превосходства в других сценариях. README рекомендует шаблон диалога в стиле Alpaca с просьбой описать ход рассуждений. Лицензия Apache-2.0.

ChatGLM2-6B — открытая двуязычная диалоговая языковая модель второго поколения, разработанная командой GLM/THUDM. Модель предназначена для ведения диалогов, ответов на вопросы и генерации текста на китайском и английском языках. Доступна в репозитории zai-org/chatglm2-6b-int4 в формате INT4-квантизации. Модель содержит около 7,5 млрд параметров и использует архитектурные решения GLM, включая гибридную целевую функцию и Multi-Query Attention. Она предварительно обучена на 1,4 трлн китайских и английских токенов и дополнительно прошла обучение с выравниванием по предпочтениям людей. Базовая длина контекста составляет 32 768 токенов; в диалоговом обучении использовался контекст до 8 192 токенов. FlashAttention повышает эффективность работы и снижает требования к памяти. ChatGLM2-6B подходит для чат-ботов, помощников по вопросам и генерации ответов в приложениях с ограниченными вычислительными ресурсами. К сильным сторонам относятся поддержка китайского и английского языков, плавное ведение многоходового диалога и эффективный INT4-инференс. При этом понимание одиночных сверхдлинных документов ограничено, а ответы модели могут содержать фактические ошибки и требуют проверки. Код распространяется по Apache-2.0, а использование весов регулируется отдельной Model License.

legraphista/codegeex4-all-9b-IMat-GGUF — это набор GGUF-версий модели THUDM/codegeex4-all-9b, подготовленный пользователем legraphista. Модель предназначена для генерации текста, включая задачи, связанные с программированием; в метаданных указаны китайский и английский языки. Исходная модель использует формат BF16, а опубликованные файлы представлены в вариантах BF16, F16 и разных уровнях квантования. Модель содержит около 9 миллиардов параметров. Доступны квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K, IQ4 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к ресурсам. Для ряда вариантов применена IMatrix-квантизация, предназначенная для снижения потерь качества при уменьшении точности. Файлы рассчитаны на использование с инструментами, поддерживающими формат GGUF, включая llama.cpp; также опубликован файл imatrix.dat. Преимуществами являются широкий выбор уровней квантования и наличие вариантов размером примерно от 4 до 10 ГБ, что облегчает локальный запуск на системах с разными ресурсами. Ограничения включают отсутствие в предоставленных данных сведений об архитектуре, размере контекста, мультимодальности, точных возможностях модели и результатах оценки качества; поэтому её следует рассматривать как текстовую модель без подтверждённой поддержки других модальностей. Лицензия обозначена как codegeex4; подробные условия доступны по ссылке на лицензию исходной модели THUDM/codegeex4-all-9b.

shareAI/CodeLLaMA-chat-13b-Chinese — китайская версия CodeLlama для многоходового диалога, предназначенная для ответов на вопросы по программированию и работы в роли помощника по коду. Модель разработала shareAI; карточка описывает её как специализированную на коде, в отличие от ChineseLLaMa общего языкового назначения. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 12,9 млрд параметров. Она работает через Transformers, принимает текст и генерирует текст; заявленный контекст составляет 16 384 токена. Метаданные указывают китайский и английский языки, а обучение связано с наборами ShareGPT-Chinese-English-90k и CodeChat. Модель подходит для диалога о коде, ответов на вопросы по программированию и генерации программного текста. Лицензия — OpenRAIL; перед использованием следует учитывать её условия. Карточка не сообщает конкретные результаты оценки качества или ограничения по языкам программирования.

CodePhi-3-mini-4k-instruct-python — дообученная модель на архитектуре Phi-3, основанная на microsoft/Phi-3-mini-4k-instruct. Она содержит 3,7 млрд параметров, принимает текст и генерирует текст в контексте до 4096 токенов; модель опубликована в формате safetensors под лицензией MIT. Модель предназначена для диалоговой генерации текста и задач программирования на Python. Базовая Phi-3 mini поддерживает также рассуждения и другие задачи программирования, однако карточка этой версии не описывает обучающий набор, оценки качества или конкретные ограничения дообучения, поэтому её специализацию и надёжность в этих сценариях следует оценивать отдельно.

CollectiveCognition-v1.1-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и teknium/CollectiveCognition-v1.1-Mistral-7B методом SLERP. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы на английском языке. Нативная длина контекста — 32 768 токенов. Модель подходит для диалоговых ассистентов и выполнения инструкций. В репозитории представлены веса safetensors в формате bfloat16. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробных рекомендаций по применению, поэтому пригодность для конкретной задачи следует проверять отдельно.

Citaman/command-r-15-layer — текстовая модель, созданная с помощью mergekit из двух срезов модели Citaman/command-r-16-layer методом SLERP. В конфигурации объединения использованы слои [0, 15] и [1, 16] одной базовой модели; веса сохранены в формате safetensors, тип данных — bfloat16. Модель построена на архитектуре CohereForCausalLM и содержит 14,4 млрд параметров. Она предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Контекст составляет до 8192 токенов. В карточке нет сведений о конкретных языках и специализированных прикладных областях. Модель может быть полезна для диалоговых приложений и генерации текста с подключением инструментов. Поскольку это объединение срезов одного чекпойнта, README не сообщает о сравнительных оценках качества или специальных улучшениях. Лицензия в предоставленных данных не указана.

Citaman/command-r-1-layer — экспериментальная текстовая генеративная модель, созданная автором репозитория с помощью mergekit. В README описано слияние методом SLERP на основе Citaman/command-r-2-layer; конфигурация использует диапазоны слоёв [0, 1] и [1, 2]. Метаданные относят модель к семейству Cohere и архитектуре CohereForCausalLM, указывают 2,9 млрд параметров, формат safetensors и контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Карточка не сообщает о поддерживаемых естественных языках или специализированных предметных областях. Лицензия в предоставленных данных не указана.

Citaman/command-r-7-layer — языковая модель для генерации текста, опубликованная пользователем Citaman. Это плотная причинно-языковая модель семейства Cohere с 7,9 млрд параметров; репозиторий содержит веса в формате safetensors и создан с помощью mergekit методом SLERP на основе Citaman/command-r-8-layer. По метаданным модель рассчитана на диалог и интерфейс вызова инструментов; контекст составляет 8192 токена. Подходит для генерации ответов в чат-ботах и для сценариев, где языковая модель взаимодействует с инструментами. Модель принимает текст и генерирует текст. README описывает объединение с перекрывающимися диапазонами слоёв одной базовой модели. В предоставленных материалах нет сведений о лицензии и поддерживаемых естественных языках, поэтому условия коммерческого использования и языковые возможности определить нельзя.

cuckoo-starling-32k-7B — объединённая языковая чат-модель на архитектуре Mistral, созданная grimjim методом SLERP с помощью mergekit из grimjim/Mistral-Starling-merge-trial1-7B и grimjim/kukulemon-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. В карточке указана поддержка шаблонов ChatML и Alpaca; автор сообщает о неформальном тестировании с настройками temperature 0,9–1,0 и minP 0,02. В README обсуждается ручная настройка RoPE theta до 100K и отмечается, что при тестировании связность повествования иногда ухудшалась с RoPE theta 1M. Модель доступна в формате safetensors, использует библиотеку Transformers и распространяется по лицензии CC BY-NC 4.0, ограничивающей коммерческое использование. README приводит результаты нескольких оценок, но не описывает полный протокол тестирования, поэтому они не гарантируют качество на конкретных задачах.

Cygnis-Alpha 2 (8B) v0.3 — это языковая модель для генерации текста, представленная в формате GGUF с различными вариантами квантизации. Базовую модель разработал Simonc-44, а квантизацию выполнил mradermacher. Модель обучалась с использованием наборов данных Cygnis-Alpha2-Instruct-Mix и Cygnis-Identity-SFT и предназначена для локального запуска через совместимые инструменты работы с GGUF. Модель содержит около 8 миллиардов параметров и, судя по метаданным, относится к семейству архитектур Llama 3.1. Она ориентирована на текстовые задачи, включая генерацию ответов, следование инструкциям и рассуждения. Заявлены английский и французский языки. Поддержка мультимодальных входов и размер контекстного окна в README не указаны. Основное преимущество версии — широкий выбор квантизированных вариантов размером примерно от 2,1 до 6,7 ГБ, что позволяет адаптировать модель к доступным ресурсам и выбирать компромисс между скоростью, требованиями к памяти и качеством. При этом некоторые малобитные варианты характеризуются как низкокачественные, поэтому для практического использования рекомендуется выбирать более качественные варианты, например i1-Q4_K_M или i1-Q5_K_M. Модель распространяется под лицензией Apache-2.0.

Cymist2-v0.1-SFT — языковая модель команды Cypien AI для генерации текста и диалоговых сценариев на турецком и английском языках. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная на базе mistralai/Mistral-7B-v0.1 и доступная в формате safetensors для библиотеки Transformers. Контекст модели составляет 32 768 токенов. Модель предназначена для чат-ботов, виртуальных помощников и приложений общего назначения, включая сценарии поиска с дополненной генерацией (RAG). Она поддерживает турецкий и английский языки; в README указано обучение на разнообразных источниках на этих языках. Распространяется по лицензии Apache-2.0. Модель может унаследовать смещения из обучающих данных. Разработчик не рекомендует применять её в критически важных системах или там, где требуются специализированные знания за пределами общей генерации текста; точность ответов не гарантируется.

Модель trollek/danube2-1.8b-CodeFeedback — дообученная разговорная языковая модель для генерации текста и помощи с программированием. Её разработчик дообучил h2oai/h2o-danube2-1.8b-base методом BAdam на наборах CodeFeedback-Filtered-Instruction и Code-Feedback с помощью Llama-Factory. Модель построена на плотной архитектуре MistralForCausalLM и содержит 1,7 млрд параметров. Модель принимает текстовые инструкции в шаблоне ChatML и генерирует текстовые ответы; в карточке указана длина контекста 8192 токена и поддержка английского языка. Она предназначена для диалоговой помощи при написании кода и ответов на инструкции по программированию. Распространяется под лицензией Apache-2.0.

Aleteian/DarkCamelot — объединённая модель генерации текста на базе семейства Mistral, созданная автором репозитория с помощью mergekit. В слиянии использован метод della; базой указана win10/Mistral-Nemo-abliterated-Nemo-Pro-v2, также объединены восемь других языковых моделей. Размер модели — 12,1 млрд параметров, формат весов — SafeTensors; для работы заявлен контекст до 1 024 000 токенов. Модель предназначена для диалогов и генерации текста. Метаданные также отмечают интерфейс вызова инструментов. В карточке нет сведений о специальной отраслевой специализации или подтверждённом наборе языков, поэтому их нельзя приписывать модели на основании описания базовых компонентов. Это экспериментальное слияние нескольких моделей; качество и поведение могут отличаться от каждого исходного чекпойнта, а заявленный размер контекста не гарантирует одинаковую производительность на всей длине. Условия лицензирования в предоставленных данных не приведены.

bartowski/deepcogito_cogito-v1-preview-qwen-14B-GGUF — это квантизированная версия языковой модели cogito-v1-preview-qwen-14B, разработанной deepcogito. Модель предназначена для генерации текста и поставляется в формате GGUF для запуска через llama.cpp, LM Studio и другие совместимые проекты. Для работы используется шаблон диалога с ролями system, user и assistant. Доступны варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Версии с более высокой разрядностью обеспечивают качество, близкое к исходной модели, но требуют больше памяти; варианты Q4 и Q3 уменьшают требования к ресурсам ценой снижения качества и подходят для локального запуска при ограниченном объёме ОЗУ. Размер базовой модели составляет 14 млрд параметров, однако сведения о поддерживаемых языках, длине контекста и мультимодальности в README не указаны. Квантизация выполнена bartowski с использованием imatrix и llama.cpp. Модель распространяется по лицензии Apache-2.0.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная версия языковой модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp версии b5524 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Это текстовая модель размером 8B параметров, представленная в формате GGUF. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, с размером файлов примерно от 3,9 до 16,39 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, а варианты Q3 и ниже ориентированы на устройства с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format; контекстное окно, поддерживаемые языки и дополнительные модальности в README не указаны. Сильные стороны модели — возможность локального запуска, широкий выбор вариантов квантизации и компромисс между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного варианта: более сильная квантизация может снижать качество генерации, а для запуска требуются совместимые инструменты и достаточно оперативной или видеопамяти. Лицензия модели указана как MIT.

DeepSeek-MOE-4X8B-R1-Distill-Llama-3.1-Deep-Thinker-Uncensored-24B-GGUF — языковая модель для генерации текста, разработанная DavidAU. Она основана на объединении четырёх Llama-настроек с технологиями рассуждения DeepSeek и предназначена для общего применения, творческого письма, ролевых сценариев, мозгового штурма, решения логических задач, загадок и многошаговых проблем. Модель использует архитектуру Mixture of Experts: заявлены четыре активируемых эксперта по 8B параметров, при этом размер модели составляет около 24,9B параметров. Указана поддержка английского языка, контекст до 128K токенов и формат GGUF для локального запуска. Модель может генерировать рассуждения и варианты решений, причём их активация и глубина зависят от запроса, температуры и других параметров. Рекомендуется использовать контекст не менее 4096 токенов, температуру примерно 0–0,8 для стабильной работы и повторный штраф 1,02–1,07; для более глубоких и разнообразных рассуждений автор допускает значительно более высокую температуру. К сильным сторонам относятся выраженная способность к многошаговому решению задач, генерации идей, созданию сюжетов и относительно стабильной работе при различных настройках. Ограничениями являются возможная непредсказуемость, чрезмерно длинные или неуместные рассуждения, необходимость иногда повторно запускать генерацию, а также риск появления рассуждений в основном ответе. Модель позиционируется как uncensored и может создавать материалы для взрослых, сцены ужасов и нецензурную лексику, поэтому она подходит не для всех аудиторий. Лицензия модели — Apache-2.0. Для работы требуется шаблон чата Llama 3 Instruct, Command-R или автоматически загружаемый шаблон Jinja, содержащийся в квантизации.

mlx-community/DeepSeek-R1-Distill-Llama-70B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Llama-70B, разработанной deepseek-ai и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в средах, совместимых с MLX. Для работы используется библиотека mlx-lm; README показывает загрузку модели, применение chat template и генерацию ответа по текстовому запросу. Ключевые характеристики: 70 миллиардов параметров в базовой модели, 4-битное представление весов, текстовая модальность и архитектурная основа Llama, унаследованная от DeepSeek-R1-Distill-Llama-70B. Сведения о поддерживаемых языках, размере контекстного окна, точных возможностях рассуждения, ограничениях, лицензии и требованиях к оборудованию в README не указаны.

wh-zhu/DeepSeek-R1-Distill-Qwen-1.5B-InRa — текстовая генеративная модель на архитектуре Qwen2 с 1,6 млрд параметров. Метаданные указывают на возможность диалога и контекстное окно до 131072 токенов. Модель дообучена на базе wh-zhu/DeepSeek-R1-Distill-Qwen-1.5B-CLM и предназначена для генерации текста в формате чата. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия обозначена как other; конкретные условия по имеющимся данным определить нельзя.

MLX-версия модели DeepSeek-R1-Distill-Qwen-32B, разработанной DeepSeek и производной от Qwen. Данная сборка преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.21.1 и предназначена для локального запуска и генерации текста через библиотеку mlx-lm, прежде всего на устройствах Apple, поддерживающих MLX. Из README известно, что модель имеет размер 32B параметров и использует 8-битное представление весов. Она является текстовой языковой моделью; конкретные сведения об архитектуре, поддерживаемых языках, длине контекста, сильных сторонах и ограничениях в карточке не указаны. Для работы требуется установить mlx-lm и загрузить модель через его API. Лицензия и условия коммерческого или иного использования в README не указаны. Для точной оценки прав использования следует обратиться к карточке базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B и к условиям публикации конвертированной версии.

DeepSeek-R1-Distill-Qwen-7B-imatrix-GGUF — это квантизированные в формате GGUF варианты модели DeepSeek-R1-Distill-Qwen-7B, разработанной командой DeepSeek на базе Qwen2.5. Репозиторий предназначен для локального запуска языковой модели в задачах генерации текста, рассуждений, решения математических задач и программирования. Модель относится к плотным моделям примерно на 7 млрд параметров и работает с текстом; в README указан английский язык. Она создана посредством дообучения Qwen2.5 на данных рассуждений, сгенерированных DeepSeek-R1, что позволяет переносить способности крупной reasoning-модели в более компактную модель. Формат GGUF и imatrix-квантизации ориентированы на эффективный запуск через llama.cpp и совместимые приложения, включая KoboldCPP, Ollama, LM Studio и другие клиенты. Сильными сторонами являются компактный размер, возможность локального использования и специализация на сложных рассуждениях, математике и коде. Ограничения конкретных вариантов квантизации, требования к ресурсам, размер контекстного окна и точные характеристики производительности в README не указаны; квантизация может влиять на качество по сравнению с исходной моделью. Лицензия обозначена как other, без подробного описания условий в предоставленных данных.

DeepSeek-V2-Lite-Chat-GGUF — это квантизированная GGUF-версия диалоговой модели DeepSeek-V2-Lite-Chat, разработанной DeepSeek-ai и подготовленной компанией Second State Inc. Модель предназначена для локального запуска и генерации ответов в формате чат-ассистента; в README также указана совместимость с LlamaEdge версии 0.12.3 и выше. Модель поддерживает контекст размером до 128 000 токенов и использует шаблон запросов deepseek-chat-2. В репозитории доступны варианты квантования от Q2_K до Q8_0, а также f16, с размером файлов примерно от 6,43 до 31,4 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Более сильное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках и модальностях, поэтому эти характеристики нельзя уточнить. Модель распространяется по лицензии DeepSeek с обозначением other; ссылка на условия лицензии приведена в исходном описании.

DeepSeek V4 Flash — REAM144 (163B) DS4 Q2 — это чат-модель WaveCut в формате GGUF, созданная на основе DeepSeek-V4-Flash-0731-REAM144-163B. В сборке сохранено 144 из исходных 256 экспертов на слой; модель квантизована до 2 бит для экспертов и 8 бит для attention, с использованием матрицы важности. Файл весит 49,3 ГБ, а автор указывает запуск на Mac с 64 ГБ памяти и контекстом 8 тыс. токенов. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы по коду и сценариев с инструментами. По карточке она уверенно справляется с многоязычным чатом, рассуждениями и длинными диалогами, включая русский и переключение между английским и русским. Для запуска нужен DS4 fork с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Квантизация 2 бит может ухудшать качество агентных задач: тесты показали непостоянные сбои при вызове инструментов, рефакторинге кода и цепочках «вызов инструмента — код». Лицензия — MIT.

DiffusionGemma 26B-A4B-it MXFP8 — языковая модель с блоковой диффузионной генерацией, подготовленная OsaurusAI для запуска через движок vMLX на компьютерах Apple Silicon. В отличие от авторегрессионной генерации, она формирует текстовые блоки размером до 256 токенов и уточняет их итеративным денойзингом. Архитектура — 30-слойная Gemma 4-style MoE с 128 экспертами и выбором 8 экспертов; всего 26 млрд параметров, активно используется около 4 млрд. Веса основных компонентов квантованы в MXFP8, а эмбеддинги, нормализации и визуальный модуль сохранены в fp16; файлы занимают около 26 ГБ. Модель предназначена для диалога и генерации текста, анализа одного или нескольких изображений и вызова инструментов в формате Gemma 4. Для работы с изображениями используется визуальный модуль Gemma 4. Темп генерации на M5 Max указан как 28–42 токена в секунду при 48 шагах денойзинга; фактическая скорость зависит от оборудования и бюджета шагов. Лицензия — Gemma. При очень коротких запросах жадная стратегия денойзинга иногда приводит к пустому ответу; повторная попытка или переформулировка могут помочь. Параметры temperature и top_p, переданные через интерфейс, игнорируются: параметры сэмплирования задаются конфигурацией модели, а уменьшение числа шагов ниже 12 ухудшает качество. Для запуска указана среда Apple Silicon с Osaurus и движком vMLX.

Это дообученная модель генерации текста на основе meta-llama/Llama-3.2-1B-Instruct, опубликованная пользователем Grogros. Она использует плотную архитектуру LlamaForCausalLM и содержит около 1,2 млрд параметров. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Базовая модель поддерживает несколько языков, однако конкретные языки и специализация этого дообучения в карточке не описаны. Заявленная длина контекста составляет 131 072 токена. Карточка не приводит результатов оценки или описания обучающих данных, поэтому качество в отдельных задачах оценить нельзя. Лицензия — Llama 3.2; её условия следует учитывать при использовании и распространении модели.

DNA 2.0 — языковая модель компании Dnotitia Inc., созданная дообучением Smoothie-Qwen3-14B. Это плотная авторегрессионная модель семейства Qwen3 с 14 млрд параметров, предназначенная для диалогов, рассуждений, математических задач и повседневных запросов. В README заявлены улучшения пошагового решения задач, логического вывода и генерации на корейском и английском языках; модель также позиционируется как менее ограничивающая ответы на чувствительные темы. Модель принимает текст и генерирует текст. README указывает контекст 32 тыс. токенов с расширением до 131 тыс. через YaRN, тогда как метаданные каталога фиксируют нативный контекст 40 960 токенов. Поддерживается режим управления рассуждением через команды /think и /no_think. Доступны веса Safetensors для Transformers, лицензия — Apache 2.0. Заявления README об оценках и улучшениях представлены разработчиком и не сопровождаются подробностями протокола оценки; качество на конкретных задачах следует проверять отдельно. Для генерации с включённым режимом рассуждения автор не рекомендует жадное декодирование из-за ухудшения качества и риска повторов.