I.5Создание и редактирование текста

COLLISION-1B — причинная языковая модель семейства COLLISION, разработанная командой Viraj et al. Это плотный трансформер примерно на 1,3 млрд параметров по метаданным; README указывает около 999 млн параметров и 24 слоя. Модель предназначена для генерации текста и диалогового взаимодействия, а карточка также заявляет сценарии рассуждения и прикладные NLP-задачи, включая извлечение ключевых фраз, классификацию тем и тональности, исправление грамматики и понимание прочитанного. Модель принимает текст и генерирует текст; заявленная длина контекста — 1 024 токена. В карточке указан английский язык, а веса доступны в форматах PyTorch и SafeTensors. Лицензия — MIT. README заявляет высокую скорость на CPU и способности рассуждать, но предоставленные сведения не подтверждают сравнительные результаты этих заявлений; короткое контекстное окно ограничивает работу с длинными документами.

Citaman/command-r-7-layer — языковая модель для генерации текста, опубликованная пользователем Citaman. Это плотная причинно-языковая модель семейства Cohere с 7,9 млрд параметров; репозиторий содержит веса в формате safetensors и создан с помощью mergekit методом SLERP на основе Citaman/command-r-8-layer. По метаданным модель рассчитана на диалог и интерфейс вызова инструментов; контекст составляет 8192 токена. Подходит для генерации ответов в чат-ботах и для сценариев, где языковая модель взаимодействует с инструментами. Модель принимает текст и генерирует текст. README описывает объединение с перекрывающимися диапазонами слоёв одной базовой модели. В предоставленных материалах нет сведений о лицензии и поддерживаемых естественных языках, поэтому условия коммерческого использования и языковые возможности определить нельзя.

ChaoticNeutrals/Community_Request-03-12B — разговорная языковая модель семейства Mistral с 12,1 млрд параметров, созданная слиянием двух предварительно обученных моделей с помощью mergekit и метода SLERP: Nitral-AI/Captain-Eris_Violet-GRPO-v0.420 и Nitral-AI/Wayfarer_Eris_Noctis-12B. Модель предназначена для генерации текста в диалоговом формате и поддерживает контекст до 1 024 000 токенов. Модель использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Карточка не описывает специализированные предметные области или языки. Лицензия в предоставленных данных не указана.

ComplexKDA — авторегрессионная языковая модель с 1,36 млрд параметров, выпущенная командой авторов, перечисленных в карточке: Julien Siems, Riccardo Grazzi, Korbinian Pöppel и соавторы. Это чисто рекуррентная модель на архитектуре Kimi Delta Attention с подписанным затухающим коэффициентом: каналы могут осциллировать, а не только забывать предыдущий контекст. В архитектуре 24 слоя, размер скрытого состояния 2048, 16 голов внимания и короткая свёртка ширины 4; контекст обучения — 4096 токенов. Модель предназначена для авторегрессионной генерации текста и диалоговых сценариев. Для запуска в Transformers доступны вложенные реализация модели и токенизатор; при кодировании важно использовать токенизатор из репозитория, поскольку его настройки отличаются от upstream-версии. Репозиторий содержит веса safetensors и имеет лицензию MIT. Метаданные указывают 1,1 млрд параметров, тогда как README сообщает 1,36 млрд; точный размер следует считать неоднозначным.

vicgalle/Configurable-Mistral-7B — диалоговая языковая модель на архитектуре Mistral, опубликованная пользователем vicgalle на Hugging Face и дообученная на наборе configurable-system-prompt-multitask. Она предназначена для генерации текста в формате чата с настраиваемыми системными инструкциями и выполнения связанных с ними задач. Модель содержит около 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке не уточнены поддерживаемые языки и результаты оценки качества. Модель распространяется по лицензии Apache-2.0.

Elfrino/ContextualKunoichi_KTO-7B — созданная Elfrino диалоговая языковая модель, полученная слиянием SLERP двух моделей Mistral 7B: ContextualAI/Contextual_KTO_Mistral_PairRM и crestf411/daybreak-kunoichi-2dpo-7b. Слияние выполнено с помощью mergekit; файлы модели опубликованы в формате safetensors. Модель предназначена для генерации текста в диалогах и ответов на запросы. Её архитектура — плотная MistralForCausalLM, размер — около 7,1 млрд параметров, заявленная длина контекста — 32 768 токенов. Карточка описывает выбор исходных моделей по рейтингам Alpaca Eval и рейтингу креативности, однако также отмечает, что модель находится на этапе тестирования. Язык и лицензия в предоставленных данных не указаны.

Copus-2x8B — разговорная языковая модель, созданная lodrick-the-lafted путём объединения архитектурой MoE двух дообученных моделей на базе Llama 3: dreamgen/opus-v1.2-llama-3-8b и NousResearch/Meta-Llama-3-8B-Instruct_. README характеризует результат как приемлемый, но отмечает, что он уступает Miqu. Модель предназначена для генерации текста в диалоговом формате. Она использует архитектуру Mixtral MoE, имеет 7,5 млрд параметров и контекст до 8192 токенов. В README указана лицензия Llama 3; в метаданных Hugging Face лицензия обозначена как llama2, поэтому условия лицензирования стоит сверить с файлами репозитория перед использованием.

Карточка модели NormalGuy85/Crunch-Ai2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

crunchy-onion bagel — языковая модель, созданная автором репозитория путём объединения предварительно обученных моделей с помощью mergekit и метода DARE TIES. В состав объединения вошли Mixtral-8x7B-v0.1, Mixtral-8x7B-Instruct-v0.1, crunchy-onion-base и bagel-dpo-8x7b-v0.2. Архитектура — Mixtral MoE с авторегрессионной генерацией текста; объём параметров в метаданных указан как 7,1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста по запросам, включая диалоговые сценарии. Инструктивный компонент Mixtral позволяет использовать её для ответов на запросы и продолжения текста, однако карточка не приводит отдельных оценок качества или специализированных областей применения. Лицензия в предоставленных данных не указана.

cuckoo-starling-32k-7B — объединённая языковая чат-модель на архитектуре Mistral, созданная grimjim методом SLERP с помощью mergekit из grimjim/Mistral-Starling-merge-trial1-7B и grimjim/kukulemon-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. В карточке указана поддержка шаблонов ChatML и Alpaca; автор сообщает о неформальном тестировании с настройками temperature 0,9–1,0 и minP 0,02. В README обсуждается ручная настройка RoPE theta до 100K и отмечается, что при тестировании связность повествования иногда ухудшалась с RoPE theta 1M. Модель доступна в формате safetensors, использует библиотеку Transformers и распространяется по лицензии CC BY-NC 4.0, ограничивающей коммерческое использование. README приводит результаты нескольких оценок, но не описывает полный протокол тестирования, поэтому они не гарантируют качество на конкретных задачах.

Cybertron v4 qw7B MGS — диалоговая плотная трансформерная модель на 7,1 млрд параметров, разработанная fblgit и основанная на Qwen2.5-7B-Instruct. Она дообучена методом SFT на датасете Magpie-Align/Magpie-Qwen2.5-Pro-1M-v0.1 и предназначена для генерации текста и ответов в диалоге; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет заявленную длину контекста 131 072 токена. В карточке автор заявляет высокие результаты в классе моделей 7B–8B и приводит оценки Open LLM Leaderboard, включая 62,64 на IFEval и 37,04 на BBH; эти результаты относятся к указанной автором оценке. Для модели указана лицензия other, поэтому условия использования следует сверить с лицензией и файлами репозитория. В README упоминается подход MGS, но его расшифровка и подробности не раскрыты.

Cyrax-7B — языковая модель семейства Mistral с 7,1 млрд параметров, опубликованная touqir. Она предназначена для генерации текста и ответов на запросы; в карточке приведены результаты Open LLM Leaderboard по тестам ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K. Модель использует плотную архитектуру MistralForCausalLM, работает с текстом и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает дополнительных сведений о методе обучения или ограничениях модели.

Edens-Gate/Danny-Odin-Slerp — объединённая модель генерации текста, созданная разработчиком Edens-Gate с помощью mergekit. В ней методом SLERP объединены Edens-Gate/Danny-Test и Delta-Vector/Odin-9B; архитектура — Gemma 2, плотная авторегрессионная модель на 9 млрд параметров. Модель предназначена для генерации текста и чат-диалогов. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и распространяется в формате safetensors для Transformers. В метаданных указана возможность чата; базовая модель описана как ориентированная на творческое письмо и ролевые диалоги, но README не уточняет, насколько эти сценарии сохранены после слияния. Условия лицензии в предоставленных данных не приведены.

Dans-PersonalityEngine-v1.0.0-8b-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Dans-PersonalityEngine-v1.0.0-8b, разработанной PocketDoc и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель содержит около 8 млрд параметров и предназначена для локального запуска, в частности через LM Studio. Доступны варианты от F16 до различных уровней квантизации Q3–Q8, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Модель ориентирована на широкий круг текстовых задач: диалоговое взаимодействие и ассистирование, написание и редактирование прозы, решение математических задач, программирование и анализ кода, подготовку данных, работу с инструментами и выполнение многошаговых заданий. В составе обучающих данных заявлены англоязычные наборы, посвящённые литературному письму, инструкциям, программированию, математике, химии, биологии, выживанию и другим темам. Основная заявленная область применения — генерация текста на английском языке; поддержка других языков и мультимодальных входов в README не указана. Сильными сторонами являются разнообразная специализация обучающих данных, наличие многочисленных вариантов квантизации и возможность локального инференса с использованием формата GGUF. К ограничениям относятся зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также отсутствие в README сведений об архитектуре базовой модели, размере контекстного окна, результатах бенчмарков и фактическом качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Dans-PersonalityEngine-V1.1.0-12b-GGUF — квантизированная версия модели PocketDoc/Dans-PersonalityEngine-V1.1.0-12b, созданная QuantFactory с использованием llama.cpp. В основе лежит mistralai/Mistral-Nemo-Base-2407; модель предназначена для генерации текста и работает преимущественно на английском языке. Максимальная длина контекста составляет 32 768 токенов. Модель ориентирована на широкий набор сценариев: совместное написание текстов, roleplay, текстовые приключения, выполнение одношаговых и многошаговых инструкций, использование инструментов, суммаризацию и анализ тональности в составе прикладных конвейеров. Также заявлены возможности для работы с кодом, математическими и научными задачами, а исходная версия обучалась на разнообразных наборах данных для ассистирования, логического рассуждения, прозы и взаимодействия с инструментами. К сильным сторонам относятся многоцелевой характер, поддержка длинного контекста, диалоговый формат ChatML и ориентация на творческую генерацию и ролевое взаимодействие. Ограничения связаны с тем, что модель описана как англоязычная, а точные параметры квантизации, результаты benchmark-тестов и подтвержденные показатели качества в карточке не указаны. Рекомендуемые настройки генерации: temperature 1.0, top_p 0.95 и min_p 0.05. Модель распространяется по лицензии Apache-2.0.

DarkSapling-V2-Ultra-Quality-7B-GGUF — текстовая генеративная модель, разработанная DavidAU на основе Dark Sapling V2 7B, созданной TeeZee. Модель предназначена для следования инструкциям, рассуждений, творческого письма, сторителлинга, ролевого взаимодействия и генерации художественных текстов с нюансами и эмоциональной выразительностью. Модель имеет размер 7B параметров, распространяется в формате GGUF и поддерживает контекст до 32 000 токенов. В README указана поддержка английского языка и текстовая модальность. Доступны различные квантизированные версии; автор утверждает, что ремастеринг и 32-bit upscale повышают качество, особенно в вариантах Q4KM, Q6 и Q8, однако различия между квантизациями могут быть заметны прежде всего в творческих сценариях и задачах без однозначного ответа. Сильными сторонами заявлены улучшенное следование инструкциям, рассуждение, глубина, нюансированность и эмоциональность, а также более эффективное использование контекста. Ограничения включают зависимость качества от выбранной квантизации и оборудования, а также отсутствие подробных независимых оценок в представленном README. Модель распространяется по лицензии Apache-2.0.

DatacampLlama-3.1-8B-GGUF — набор GGUF-квантизированных версий модели DatacampLlama-3.1-8B, опубликованной mlabonne. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через llama.cpp и LM Studio; в README заявлена поддержка английского языка и формат чата с ролями system, user и assistant. Модель относится к семейству Llama 3.1 и имеет размер 8B параметров. Доступны варианты от исходных весов F16 размером около 16,07 ГБ до компактных форматов Q2 и IQ3 размером примерно 3,66–4,78 ГБ, а также более качественные варианты Q4–Q8. Высокие уровни квантизации обеспечивают лучшее сохранение качества, тогда как компактные версии требуют меньше оперативной памяти, но могут заметнее уступать в качестве генерации. Отдельные варианты оптимизированы для CPU и ARM-инференса. README не указывает размер контекста, мультимодальные возможности, результаты бенчмарков или подробности обучения, поэтому модель следует рассматривать как текстовую, без подтвержденной поддержки изображений и других модальностей. Лицензия — Apache 2.0.

DataDecide-dclm-baseline-qc-fw-3p-1B-55000_57500_60000_62500_65000_weightedavg_merge — объединённая языковая модель на базе архитектуры Llama, созданная с помощью mergekit методом Linear из пяти контрольных точек DCLM baseline QC FW 3P. Разработчик в карточке не назван. Модель предназначена для генерации текста; каталог указывает около 1,2 млрд параметров, библиотеку Transformers и контекст до 2048 токенов. Модель принимает текст и генерирует текст. README и метаданные не описывают её целевые языки, специализированные области или дополнительные возможности, поэтому её следует рассматривать как модель общего назначения без подтверждённых узких специализаций. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана. Качество и безопасность ответов отдельно не охарактеризованы; перед использованием в приложениях следует оценить их на целевых запросах.

DataDecide-falcon-1B-5000052500550005750060000weightedavgmerge — объединённая причинно-языковая модель, созданная с помощью mergekit линейным слиянием нескольких контрольных точек Falcon. В качестве базовой контрольной точки использована step60000; также объединены step50000, step52500, step55000 и step57500. Архитектура в метаданных обозначена как LlamaForCausalLM, размер модели — 1,2 млрд параметров, библиотека — Transformers, формат весов — safetensors. Модель предназначена для генерации текста по текстовому запросу. Контекст составляет 2048 токенов. В README не приведены сведения о языках, специализированных областях применения или лицензии, поэтому их нельзя надёжно определить по доступным данным.

DataDecide-falcon-1B-6000062500650006750069369weightedavgmerge — объединённая языковая модель на 1,2 млрд параметров, созданная с помощью mergekit методом Linear из нескольких контрольных точек Falcon. В README базовой указана контрольная точка step69369; в объединение также вошли step60000, step62500, step65000 и step67500. Архитектура — плотная LlamaForCausalLM, библиотека для работы — Transformers, веса представлены в формате safetensors. Модель предназначена для генерации текста. Контекст составляет 2048 токенов. README и метаданные не уточняют поддерживаемые естественные языки и специализированные сценарии применения, поэтому её можно описать только как модель общего назначения. Данных о лицензии и известных ограничениях нет.

DataDecide-falcon-and-cc-qc-10p-1B-5500057500600006250065000weightedavgmerge — объединённая языковая модель, созданная с помощью mergekit. В README указано линейное слияние нескольких предобученных чекпойнтов из серии falcon-and-cc-qc-10p; один из них использован как базовый при слиянии. По метаданным это плотная LlamaForCausalLM примерно на 1,2 млрд параметров, предназначенная для генерации текста и имеющая контекст до 2048 токенов. Модель может применяться для генерации продолжений и ответов на текстовые запросы. README и метаданные не описывают специализированные области применения, поддерживаемые языки или сравнительные качества модели. Репозиторий содержит веса safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Dazzling-Star-Aurora-32b-v0.0-Experimental-1130 — текстовая разговорная модель на 32 млрд параметров, созданная автором карточки слиянием моделей EVA-Qwen2.5-32B-v0.2 и Qwen2.5-32B-ArliAI-RPMax-v1.3 на базе Qwen2.5-32B. Для объединения применён метод TIES; веса представлены в формате safetensors, а карточка описывает шаблон диалога ChatML. Модель предназначена для генерации текста в диалогах и других сценариях, где нужны ответы на запросы пользователя. Метаданные указывают контекстное окно до 131072 токенов, а также интерфейс для вызова инструментов. В карточке автор отмечает, что создал слияние как личный эксперимент и предлагает попробовать модель, но не приводит результатов оценки качества. Условия использования определяются лицензией базовой модели и компонентов слияния; в предоставленных данных лицензия не указана.

DeciLM-7B — авторегрессионная языковая модель для генерации текста, разработанная компанией Deci. Это предварительно обученная плотная модель с архитектурой Transformer decoder и 7,04 млрд параметров; метаданные репозитория указывают 7,9 млрд параметров. Архитектура создана с помощью AutoNAC и использует переменное число голов Grouped-Query Attention по слоям для сочетания качества и скорости. Длина контекста составляет 8192 токена. Модель предназначена для генерации текста на английском языке, коммерческого и исследовательского применения, а также для дообучения под различные задачи и языки. Карточка сообщает о высоких результатах среди базовых моделей класса 7B на Open LLM Leaderboard и высокой пропускной способности; доступен отдельный instruct-вариант для диалогового использования. Модель принимает текст и генерирует текст. Качество и поведение на других языках и в разных сценариях требуют отдельной проверки: оценивание проводилось преимущественно на английском языке. Выводы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением необходимы тестирование и настройка под конкретное применение. Лицензия — Apache 2.0.

Hasanur525/deed_summarization_mt5_version_1 — дообученная Hasanur525 модель Google mT5-base для суммаризации текстов. Она построена на архитектуре MT5ForConditionalGeneration и содержит 291,2 млн параметров. Многоязычная базовая модель преобразует текст в текст; модель сохранена в формате safetensors. Модель предназначена для создания краткого содержания входного текста. В README приведены метрики на оценочном наборе: Loss 0,5863, ROUGE-1 1,0138, ROUGE-2 0,6875, ROUGE-L 1,0233, ROUGE-Lsum 1,0941 и средняя длина генерации около 288 токенов. Датасет указан как None, поэтому по карточке нельзя установить предметную область обучения или проверить приведённые значения метрик. Лицензия — Apache-2.0. README не сообщает об ограничениях применения или подтверждённых целевых языках; многоязычность относится к базовой модели и сама по себе не подтверждает качество суммаризации на каждом языке.

DeepSeek-R1-0528-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-0528, разработанной deepseek-ai и преобразованной в формат GGUF участником bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 215 до 713 ГБ для представленных файлов. Квантизация выполнена с применением imatrix и специального набора данных; для повышения производительности использовались изменения из соответствующего PR для llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста исходной модели. Сильной стороной набора является широкий выбор уровней квантизации: более высокие варианты обеспечивают качество, близкое к исходному, а более компактные позволяют экономить оперативную память. Ограничения связаны с очень большими требованиями к дисковому пространству и памяти, а также с неизбежным снижением качества у низкобитных вариантов. Для работы следует использовать указанный формат промпта с маркерами DeepSeek-R1. Модель распространяется по лицензии MIT.

Это GGUF-квантизированная версия языковой модели DeepSeek-V3-0324, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты квантования Q2, Q3, Q4, Q5, Q6, Q8 и IQ, включая версии Q4_K_M-V2 и другие модификации. Размер файлов варьируется примерно от 247 до 713 ГБ, поэтому запуск требует значительных ресурсов. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а более низкие уменьшают требования к памяти ценой качества. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, мультимодальности или размере контекста. Модель подходит для локального текстового inference и может использоваться в приложениях, поддерживающих формат GGUF и экосистему llama.cpp. Рекомендуемый шаблон промпта приведён в README. Распространение указано по лицензии MIT.

Deepseek-LLM-7B-Chat-GGUF — чат-модель Deepseek LLM 7B Chat, разработанная DeepSeek и представленная в формате GGUF. Репозиторий содержит квантизированные варианты модели, подготовленные Second State Inc., с разрядностью от 2 до 8 бит и размером файлов примерно от 2,72 до 7,35 ГБ. Модель предназначена для диалогового взаимодействия и может запускаться локально через LlamaEdge версии 0.2.8 или новее. Заявленный размер контекста составляет 4096 токенов. Доступны варианты с различным компромиссом между размером файла и качеством: Q2_K и варианты Q3 обеспечивают минимальные требования к ресурсам, но сопровождаются существенной потерей качества, тогда как Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые сбалансированные варианты. Модель работает с текстовыми запросами по шаблону deepseek-chat; сведения о поддерживаемых языках, точной архитектуре и результатах оценивания в README не приведены. Лицензия указана как deepseek, тип — other; применяются условия, описанные в файле LICENSE.

DeepSeek-MOE-4X8B-R1-Distill-Llama-3.1-Deep-Thinker-Uncensored-24B-GGUF — языковая модель для генерации текста, разработанная DavidAU. Она основана на объединении четырёх Llama-настроек с технологиями рассуждения DeepSeek и предназначена для общего применения, творческого письма, ролевых сценариев, мозгового штурма, решения логических задач, загадок и многошаговых проблем. Модель использует архитектуру Mixture of Experts: заявлены четыре активируемых эксперта по 8B параметров, при этом размер модели составляет около 24,9B параметров. Указана поддержка английского языка, контекст до 128K токенов и формат GGUF для локального запуска. Модель может генерировать рассуждения и варианты решений, причём их активация и глубина зависят от запроса, температуры и других параметров. Рекомендуется использовать контекст не менее 4096 токенов, температуру примерно 0–0,8 для стабильной работы и повторный штраф 1,02–1,07; для более глубоких и разнообразных рассуждений автор допускает значительно более высокую температуру. К сильным сторонам относятся выраженная способность к многошаговому решению задач, генерации идей, созданию сюжетов и относительно стабильной работе при различных настройках. Ограничениями являются возможная непредсказуемость, чрезмерно длинные или неуместные рассуждения, необходимость иногда повторно запускать генерацию, а также риск появления рассуждений в основном ответе. Модель позиционируется как uncensored и может создавать материалы для взрослых, сцены ужасов и нецензурную лексику, поэтому она подходит не для всех аудиторий. Лицензия модели — Apache-2.0. Для работы требуется шаблон чата Llama 3 Instruct, Command-R или автоматически загружаемый шаблон Jinja, содержащийся в квантизации.

casperhansen/deepseek-r1-distill-llama-8b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-8B, опубликованная пользователем Casper Hansen на Hugging Face. Исходную модель разработала DeepSeek; она создана дистилляцией DeepSeek-R1 в базовую архитектуру Llama 3.1 8B с использованием синтетических образцов, с акцентом на рассуждения. Репозиторий Casper Hansen содержит веса в формате Safetensors и конфигурацию для запуска квантизованной модели. Модель предназначена для текстовой генерации и задач, требующих языкового и логического рассуждения, включая ответы на вопросы, математические и программные задачи. Она использует архитектуру LlamaForCausalLM, около 8 млрд параметров, 32 слоя, 32 attention-heads и 8 key-value heads. Конфигурация указывает контекст до 131 072 токенов, хотя практическая поддержка зависит от используемого ПО и ресурсов. Мультимодальность не заявлена; модель работает с текстом. Квантизация снижает требования к памяти и ускоряет локальный запуск, но может ухудшать качество по сравнению с полной точностью. Карточка производной модели почти не содержит описания, поэтому подробные сведения о бенчмарках, ограничениях безопасности, языковой поддержке и рекомендуемых сценариях именно этой AWQ-сборки отсутствуют. В репозитории указана лицензия MIT; при использовании также следует учитывать условия исходной модели DeepSeek-R1-Distill-Llama-8B.

huihui-ai выпустила uncensored-версию DeepSeek-R1-Distill-Qwen-14B, созданную методом abliteration для удаления отказов модели. Это экспериментальная версия с грубой реализацией концепции; архитектура — плотная Qwen2ForCausalLM на 14 млрд параметров, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования; поддерживает контекст до 131072 токенов. Модель основана на deepseek-ai/DeepSeek-R1-Distill-Qwen-14B. Автор указывает, что доступна более новая версия v2. Условия лицензии в предоставленных данных не указаны.