II.6Документация и сопровождение разработки

Карточка модели Ishowbackup/DeepSeek-R1-Distill-Llama-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

DeepSeek-R1-Distill-Llama-8B-GGUF — это набор GGUF-квантизаций модели DeepSeek-R1-Distill-Llama-8B, подготовленный bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана DeepSeek, а данный репозиторий предоставляет варианты весов для локального запуска и инференса, в том числе через LM Studio. Модель предназначена для генерации текста и поддерживает сценарии локального использования, включая диалоговое взаимодействие и задачи рассуждения, предусмотренные базовой моделью. Доступны варианты от F32 и F16 до низкоразрядных Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер модели составляет 8 миллиардов параметров; формат GGUF ориентирован на работу с llama.cpp. В README также указан шаблон промпта, содержащий системное сообщение, запрос пользователя и ответ ассистента. Сильной стороной набора является широкий выбор квантизаций: варианты Q6 и Q5 обеспечивают высокое качество при заметно меньшем размере, а Q4 и Q3 подходят для устройств с ограниченными ресурсами. Более компактные варианты экономят память, но могут снижать качество генерации. Данные о поддерживаемых языках, размере контекста, точной архитектуре, мультимодальности и лицензии в README не указаны.

unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF — это GGUF-версия модели DeepSeek-R1-Distill-Qwen-14B, подготовленная Unsloth на основе модели DeepSeek. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, требующие пошагового рассуждения; в README приведён пример решения простой арифметической задачи. Для запуска рекомендуется использовать llama.cpp с соответствующим чат-шаблоном и специальными токенами <｜User｜> и <｜Assistant｜>. Модель относится к семейству Qwen и имеет размер 14B параметров. Доступны варианты с разными уровнями GGUF-квантизации, включая Q4_K_M и Q8_0; конкретные характеристики зависят от выбранного файла. Указан английский язык. README не содержит данных о длине контекста, мультимодальности, точной архитектуре или результатах тестирования, поэтому эти свойства нельзя надёжно оценить. К сильным сторонам относятся возможность локального запуска через llama.cpp и ускорение обработки за счёт GPU-offload; для работы требуется достаточно производительное оборудование, а качество и потребление памяти зависят от квантизации. Модель распространяется по лицензии Apache-2.0.

Карточка модели bbbbiia/DeepSeek-R1-Distill-Qwen-7B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

mlx-community/DeepSeek-R1-Distill-Qwen-7B-4bit — это 4-битно квантованная версия модели DeepSeek-R1-Distill-Qwen-7B, преобразованная сообществом mlx-community в формат MLX из исходной модели deepseek-ai с использованием mlx-lm версии 0.21.1. Модель предназначена для локального запуска и генерации текста в экосистеме MLX, прежде всего на устройствах Apple, совместимых с этим фреймворком. Модель относится к семейству Qwen и имеет размер 7B параметров; доступна в 4-битном представлении, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность. README показывает поддержку диалогового использования через chat template и библиотеки mlx-lm. Сведения о модальностях, языках, размере контекста, специализированных сценариях, ограничениях качества и лицензии в предоставленных данных отсутствуют.

DeepSeek-V2-Lite-Chat-IMat-GGUF — это GGUF-квантизированная версия диалоговой языковой модели DeepSeek-V2-Lite-Chat, разработанной deepseek-ai. Квантизацию выполнил legraphista с использованием форка llama.cpp и метода IMatrix, предназначенного для сохранения качества при уменьшении точности весов. Исходная модель имеет формат BF16. Модель предназначена для генерации текста и диалоговых сценариев при локальном запуске через совместимые инструменты, включая llama.cpp. Доступны варианты в форматах FP16, BF16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизациях, что позволяет выбирать между качеством, скоростью и требованиями к памяти. Размер файлов варьируется примерно от 6 до 31 ГБ. IMatrix применяется в ряде низко- и среднебитных вариантов, включая Q4_K, Q3_K, Q2_K и многие IQ-форматы. Сильная сторона набора — широкий выбор степеней квантизации и возможность локального использования в экосистеме GGUF. При этом квантизация снижает требования к ресурсам, но может уменьшать точность и качество генерации по сравнению с исходной моделью; степень потерь зависит от выбранного варианта. README не содержит сведений об архитектурных деталях, числе параметров, поддерживаемых языках, размере контекста и лицензии исходной модели, поэтому эти характеристики нельзя достоверно указать.

DeepSeek-V2-Lite-Chat REAP Pruned ratio 0.3 — разреженный вариант диалоговой модели DeepSeek-V2-Lite-Chat, созданный методом REAP pruning. В каждом MoE-слое число маршрутизируемых экспертов уменьшено с 64 до 45: удалено 19 из 64 экспертов, что соответствует фактическому коэффициенту 0,296875. Общие эксперты сохранены, а на каждый токен активируются 6 маршрутизируемых экспертов. Модель предназначена для диалоговой генерации текста и ответов на запросы. Она принимает текст и выдаёт текст; метаданные указывают 2,5 млрд параметров и контекст до 163 840 токенов. Чекпойнт основан на deepseek-ai/DeepSeek-V2-Lite-Chat и загружается как DeepseekV2ForCausalLM в Transformers. Карточка сообщает о проверке загрузки и пробного прохода, но не приводит результатов сравнительной оценки качества после прореживания. Лицензия в предоставленных данных не указана.

mlx-community/DeepSeek-V3.1-4bit — это 4-битно квантованная версия языковой модели DeepSeek-V3.1, разработанная сообществом mlx-community на основе модели deepseek-ai и преобразованная в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и локального запуска в экосистеме MLX. Она поддерживает сценарии диалогового взаимодействия и текстовой генерации через библиотеку mlx-lm; README также указывает на наличие chat template, совместимого с сообщениями ролей user и assistant. Архитектура, количество параметров, поддерживаемые языки, размер контекста и дополнительные модальности в предоставленных данных не указаны, поэтому нельзя достоверно оценить эти характеристики. Ключевая особенность модели — 4-битное представление, потенциально снижающее требования к памяти по сравнению с полной точностью, а также адаптация к MLX. Ограничения и результаты бенчмарков в README не приведены. Модель распространяется по лицензии MIT.

WaveCut подготовил квантованную сборку DeepSeek-V4-Flash-0731-REAM96-111B в формате GGUF. Это чат-модель с архитектурой mixture-of-experts: в сборке оставлено 96 из исходных 256 экспертов на слой. Экспертов квантовали до 2 бит, внимание — до 8 бит; для квантования использована importance matrix. Файл ream96.gguf занимает 36,4 ГБ, сборка рассчитана на конфигурации с 48 ГиБ памяти. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы о коде и продолжительных бесед. В README отмечено, что многоязычный чат, рассуждения и длинные диалоги показывают стабильные результаты, однако 2-битная квантизация особенно ухудшает агентное поведение. В отдельных прогонах наблюдались сбои в русской игре слов, переключении с английского на русский, вызове инструментов и удержании фокуса в длинном диалоге. Для запуска требуется специализированная ветка DS4 с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Лицензия — MIT. Для конфигураций запуска в README приведён контекст 8192 токена.

mlx-community/DeepSeek-V4-Flash-8bit — это версия модели DeepSeek-V4-Flash, опубликованная сообществом mlx-community и предназначенная для генерации текста. Модель подготовлена для работы с библиотекой MLX и запуска через mlx-lm; в README также указана поддержка шаблона диалога, если он доступен в токенизаторе. Известно, что модель использует 8-битное представление и относится к категории text-generation. Она может применяться для диалоговой генерации и других задач создания текста, однако сведения об архитектуре, количестве параметров, размере контекста, поддерживаемых языках и модальностях в README отсутствуют. К сильным сторонам относятся интеграция с MLX и возможность локального запуска через mlx-lm. Ограничения и точные требования к аппаратному обеспечению не указаны. Лицензия в предоставленных материалах не обозначена.

DellaMix-12B — объединённая модель для генерации текста, созданная yamatazen с помощью mergekit и метода DELLA. За основу взята yamatazen/EtherealAurora-12B-Lorablated; в объединение также вошли yamatazen/Shisa-v2-Mistral-Nemo-12B-Abliterated, yamatazen/ForgottenMaid-12B и yamatazen/FusionEngine-12B. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Она предназначена для диалогов и генерации текста на английском и японском языках; метаданные указывают контекстное окно до 1 024 000 токенов. Репозиторий содержит веса в формате safetensors, для работы используется библиотека Transformers. Модель подойдёт для чат-ботов, продолжения текста и генерации ответов на запросы. Карточка не приводит результатов оценивания качества или конкретных ограничений. Лицензия в предоставленных данных не указана.

DeltaP2S-Gemma2-9B-SameFormula-Code-S13 — объединённый чекпойнт на базе google/gemma-2-9b, созданный с помощью экспериментального пакета Delta-P2S с учётом семейства моделей. Это плотная авторегрессионная языковая модель Gemma 2 с 9 млрд параметров, предназначенная для генерации текста; контекстное окно составляет 8192 токена. В названии указано назначение для кода, однако README не описывает конкретные возможности или результаты в задачах программирования. Модель загружена в формате safetensors и использует библиотеку Transformers. Условия лицензии в доступных данных не приведены.

Это объединённый чекпойнт эксперимента Delta-P2S, созданный пакетом для переноса параметров между моделями с учётом их семейств. В карточке указан переход от CodeGemma 2B к Gemma 7B; архитектура репозитория — плотная авторегрессионная GemmaForCausalLM, размер составляет 8,2 млрд параметров, контекст — 8192 токена. Модель предназначена для генерации текста, включая код, однако карточка не описывает отдельные сценарии или результаты оценки качества. Модель распространяется в формате safetensors и использует библиотеку Transformers. Сведения о лицензии в доступных данных отсутствуют.

DiscoLM 70B — крупная языковая модель для генерации текста, разработанная Disco Research. Данная карточка содержит её квантованные файлы в формате GGUF, подготовленные TheBloke; исходная модель доступна в формате FP16 для GPU-инференса и дальнейших преобразований. Модель основана на архитектуре LLaMA и содержит 70 миллиардов параметров. Она предназначена для диалоговых и общих задач генерации текста, включая работу на английском и немецком языках. В обучении использовались наборы Open-Orca/SlimOrca-Dedup, teknium/openhermes, MetaMathQA, Synthia, AgentInstruct и немецкоязычные датасеты LeoLM и ultrachat_de. Для взаимодействия используется шаблон ChatML с ролями system, user и assistant. GGUF-файлы доступны в вариантах с 2-, 3-, 4-, 5-, 6- и 8-битным квантованием, что позволяет запускать модель с использованием CPU и GPU через llama.cpp и совместимые приложения. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной FP16-версией; конкретный контекстный размер и производительность в README не указаны. Модель распространяется по лицензии Llama 2.

dolphin-2.8-mistral-7b-v02-GGUF — это квантизированная версия текстовой генеративной модели dolphin-2.8-mistral-7b-v02, основанной на alpindale/Mistral-7B-v0.2-hf. Исходная модель опубликована организацией cognitivecomputations, а квантизации в формате GGUF выполнены bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска совместимых LLM-приложений. Модель относится к семейству Mistral и имеет размер 7 миллиардов параметров. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q5_0, Q4_K_M, Q4_K_S, IQ4_NL, IQ4_XS, Q4_0, Q3_K_L, Q3_K_M, IQ3_M, IQ3_S, Q3_K_S и Q2_K; их размер варьируется примерно от 2,71 до 7,69 ГБ, а качество снижается при более агрессивном сжатии. В README не указаны поддерживаемые языки, размер контекста, результаты тестирования или специальные модальности, поэтому модель следует рассматривать как текстовую. Сильная сторона модели — возможность подобрать баланс между качеством, потреблением памяти и скоростью локального запуска; для большинства сценариев рекомендуется вариант Q6_K, тогда как Q3 и Q2 ориентированы на системы с ограниченной оперативной памятью и заметно уступают по качеству. Ограничения включают потерю качества из-за квантизации и отсутствие данных о бенчмарках, языковой специализации и безопасностных характеристиках. Лицензия в README не указана.

dolphin-2.9.2-qwen2-7b-GGUF — это квантизированная версия языковой модели dolphin-2.9.2-qwen2-7b, опубликованной cognitivecomputations. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF для локального запуска через совместимые средства инференса, включая llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев. В README указан шаблон сообщений с ролями system, user и assistant, поэтому её можно применять для интерактивных ассистентов и других задач text-generation. В основе лежит архитектура Qwen2 с 7 млрд параметров, однако сведения о поддерживаемых языках, размере контекста и мультимодальности не приведены. Доступны различные уровни квантизации, позволяющие выбирать компромисс между качеством, размером файла и скоростью работы в зависимости от объёма RAM и VRAM. K-квантизации проще выбирать, а I-квантизации могут обеспечивать лучшие характеристики при небольшом размере в некоторых конфигурациях, но имеют ограничения совместимости: в частности, I-квантизации не поддерживаются сборками Vulkan. Лицензия в README не указана.

Dolphin3.0-R1-Mistral-24B-Patched — текстовая генеративная модель от AIOpsInSpace, созданная на базе cognitivecomputations/Dolphin3.0-Mistral-24B. Модель объединяет дообучение Dolphin 3.0 с паттернами рассуждений DeepSeek-R1 и предназначена для локального запуска, генерации текста и решения задач, требующих пошагового рассуждения. Заявлена поддержка формата reasoning trace с тегами <think> и исправления, повышающие стабильность работы локальных бэкендов и предотвращающие зависания токенизатора. Модель представляет собой плотную архитектуру Mistral с 24 млрд параметров. В карточке указана английская локализация; другие языки и размер контекстного окна не описаны. Среди заявленных особенностей — отсутствие ограничений на тематику ответов и совместимость с GGUF, однако конкретные варианты квантования, требования к оборудованию и результаты бенчмарков не приведены. Сильными сторонами модели являются сочетание относительно компактного для такого уровня reasoning-движка размера, открытой основы Mistral, ориентированности на локальное выполнение и поддержка явного формата рассуждений. Ограничениями остаются отсутствие подтверждённых количественных оценок качества, неполные сведения о контексте и аппаратных требованиях, а также потенциальные риски использования модели без встроенных ограничений безопасности. Указанная лицензия — Apache-2.0.

Dolphin Llama 13B — языковая модель команды Dolphin на архитектуре Llama 1 с 12,9 млрд параметров. Она дообучена на открытой реализации датасета Orca: инструкциях FLANv2 с ответами GPT-3.5 и GPT-4. Модель предназначена для диалогов и выполнения разнообразных инструкций; формат запросов включает поля SYSTEM, USER и ASSISTANT. Контекст составляет 2048 токенов. В карточке модель описана как uncensored: при подготовке данных удаляли примеры отказов, избегания и выравнивания. Это позволяет настраивать поведение модели собственным alignment-слоем, но также означает, что без дополнительной фильтрации она может отвечать на вредоносные запросы. Модель основана на Llama 1 и предназначена только для некоммерческого использования; лицензия в метаданных указана как other.

Карточка модели tiondoubl/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

Zigeng/dParallel_Dream_7B_Instruct — инструктивная языковая модель семейства Dream, разработанная исследователями xML Lab Национального университета Сингапура. Она использует подход dParallel: дистилляцию с принудительным повышением уверенности токенов, предназначенную для параллельного декодирования диффузионных языковых моделей и сокращения числа шагов генерации при сохранении качества. Модель подходит для диалоговой генерации текста и задач, где важна быстрая генерация ответов; в карточке также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру Dream, 7,1 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса Safetensors; лицензия — MIT. README описывает ускорение на GSM8K и MBPP для dParallel, применённого к LLaDA-8B-Instruct, но не приводит отдельные показатели для этой Dream-модели.

DPOpenHermes 7B GGUF — квантизированная версия языковой модели DPOpenHermes 7B, разработанной Open Access AI Collective и подготовленной в формате GGUF компанией TheBloke. Модель основана на архитектуре Mistral, предназначена для генерации текста и диалоговых сценариев, а также может использоваться локально через llama.cpp и совместимые интерфейсы и библиотеки. Указан английский язык; поддерживается шаблон диалога ChatML с системными и пользовательскими сообщениями. Модель имеет 7 миллиардов параметров. Доступны варианты GGUFv2 с квантованием от 2 до 8 бит, включая CPU+GPU-инференс, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Контекстное окно, точные требования к ресурсам и показатели качества в README не указаны. Модель обучалась с использованием наборов teknium/openhermes, argilla/ultrafeedback-binarized-preferences и Intel/orca_dpo_pairs. Сильными сторонами являются открытый формат, возможность локального запуска и широкий выбор уровней квантования. Ограничениями выступают преимущественно англоязычная специализация, отсутствие заявленных мультимодальных возможностей и неполная информация о производительности и контекстном окне. Лицензия — Apache-2.0.

ylalain/ECE-PRYMMAL-YL-1B-SLERP-V8 — языковая модель для генерации текста, опубликованная на Hugging Face в формате safetensors и предназначенная для использования с библиотекой Transformers. Она построена на плотной архитектуре Qwen2 с примерно 1,4 млрд параметров и контекстом до 131 072 токенов. Модель создана слиянием Youlln/ECE-PRYMMAL-YL-1B-SLERP-V1; метаданные также указывают возможности чата и интерфейс вызова инструментов. Модель подходит для диалоговой генерации и других задач продолжения текста. README содержит лишь автоматически созданное описание и фрагмент результатов Open LLM Leaderboard, поэтому конкретные сильные стороны, обучение, поддерживаемые языки и рекомендации по применению установить по карточке нельзя. Лицензия — Apache-2.0.

Это набор файлов модели в формате GGUF, подготовленный featherless-ai-quants на основе дообученной Edgerunners/meta-llama-3-8b-instruct-hf-ortho-baukit-5fail-3000total-bf16. Модель относится к семейству Llama 3, имеет архитектуру языковой модели для генерации текста и поддерживает диалоговый режим. В репозитории представлены варианты квантования Q8_0, Q4_K_S и Q2_K; метаданные также указывают вариант GGUF BF16. Модель предназначена для генерации текста и ведения диалогов. Размер контекста и поддерживаемые естественные языки в предоставленных данных не описаны. Квантованные варианты занимают примерно 3–8 ГБ, что позволяет выбирать компромисс между размером файла и точностью весов. Репозиторий указывает на базовую модель и производное дообучение, однако конкретные возможности и ограничения этого дообучения не раскрыты. Лицензия в предоставленных данных не указана.

Endurance-100B-v1 — плотная языковая модель семейства Mistral на 100,1 млрд параметров, дообученная TheDrummer на основе TheDrummer/Lazarus-2407-100B. Модель предназначена для генерации текста и диалогов; карточка отмечает дополнительное обучение на инструкциях и ролевых сценариях, а также поддержку шаблона чата Metharme. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель подходит для ролевых диалогов, творческого письма и ответов на инструкции. В README автор характеризует варианты квантования как пригодные для запуска при меньшем объёме памяти, однако опубликованный репозиторий указан в формате safetensors. Точная лицензия в предоставленных данных не приведена.

cheikh025/enemray-gemma3-1b-cpt-merged — дообученная текстовая модель на архитектуре Gemma 3, разработанная cheikh025 на основе unsloth/gemma-3-1b-pt. Она предназначена для генерации текста; карточка сообщает об обучении с использованием Unsloth и библиотеки TRL. Модель содержит 1 млрд параметров, принимает текст и выдаёт текст, а её контекст составляет до 32 768 токенов. В метаданных указан английский язык и лицензия Apache-2.0.

Eris-Lelantacles-7b — языковая модель, созданная слиянием моделей Nitral-AI/Eris-Beach_Day-7b и Nitral-AI/Lelanta-lake-7b методом SLERP. Это плотная Mistral-модель с 7,1 млрд параметров для генерации текста; заявленная длина контекста — 32 768 токенов. В README приведена конфигурация mergekit с разными коэффициентами смешивания для слоёв self-attention и MLP, а итоговый тип данных — bfloat16. Модель подходит для генерации продолжений и ответов на текстовые запросы. Карточка не описывает конкретные сценарии, языковое покрытие или дополнительные возможности, поэтому их нельзя надёжно уточнить. Лицензия указана как other; конкретные условия использования следует сверить с лицензиями исходных моделей и материалами репозитория.

Это порт модели Escha Qwen3.8-27B, подготовленный degenmeowster для запуска через llama.cpp на AMD ROCm. В основе — дообученная EschaLabs/Qwen3.8-27B-Escha-W2; веса представлены в формате GGUF с 2-битной квантизацией Escha W2 и головой Q8_0. Модель использует плотную гибридную архитектуру Qwen35: 64 слоя, из которых 48 используют линейное внимание, а 16 — полное. В README заявлена поддержка контекста до 262144 токенов; порт проверен на AMD Radeon RX 7900 XTX с gfx1100. Модель предназначена для диалоговой генерации текста и задач рассуждения. README приводит измерения производительности и качества на указанной видеокарте, но они зависят от оборудования, настроек и протокола оценки. Сильные стороны — большой контекст и возможность полного размещения модели и KV-кэша на подходящей карте AMD; ограничение — сильная 2-битная квантизация может влиять на качество, а сведения о поддерживаемых естественных языках не приведены. Лицензия репозитория — Apache-2.0.

EsotericSage-12B — плотная языковая модель на архитектуре Mistral, созданная yamatazen слиянием предварительно обученных моделей yamatazen/LinearWriter-12B и yamatazen/ForgottenMaid-12B методом NearSwap с помощью mergekit. Модель содержит 12,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое применение; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 131 072 токена. В карточке отмечены английский и японский языки. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

EVE-27b-XENO-HAT-DeepSeek-V4-Flash — экспериментальная разговорная модель для генерации текста, созданная слиянием DeepSeek V4 Flash и Qwen3.6-27B. По README, при слиянии архитектуру согласовали с Qwen 3.5; метаданные указывают плотную архитектуру семейства Qwen3.5 и формат safetensors. Модель принимает текст и выдаёт текст, поддерживает интерфейс вызова инструментов. В карточке заявлены китайский, русский и английский языки; базовая Qwen описана как мультимодальная, однако для этой модели обработка изображений не подтверждена. Модель можно применять для диалогов и генерации текста на русском, английском и китайском, а также для сценариев с вызовом инструментов. Автор описывает её как эксперимент, но отмечает, что она пригодна к использованию. Размер в 27 млрд параметров относится к базовой Qwen3.6-27B; отдельный размер итоговой модели не приведён. Длина контекста 262k указана в тегах карточки. Лицензия — Apache-2.0.

evomodel-1.9 — настраиваемая версия Qwen-3.5 9B, выпущенная в формате GGUF для запуска через llama.cpp. Модель дообучена с помощью LoRA-адаптера с параметрами r=8 и alpha=8, который затем объединён с базовой моделью. Поддерживает генерацию текста и диалоговый режим; заявленная длина контекста — до 262 тыс. токенов. Репозиторий содержит варианты Q8_0, NVFP4 и Q4_K_M; у NVFP4 и Q4_K_M эмбеддинги токенов и выходной слой сохранены в Q8_0. Для вызова инструментов модель выдаёт текст в специальном формате, который должен разбирать обслуживающий клиент: llama.cpp сам этот формат не обрабатывает. Лицензия — Apache-2.0.