II.6Документация и сопровождение разработки

Orca-2-13B-GGUF — квантизированная версия языковой модели Orca-2-13b, разработанной Microsoft и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через LlamaEdge как сервиса или командного приложения. Для работы применяется шаблон запросов ChatML, а заявленный размер контекста составляет 5120 токенов. Модель основана на архитектуре Orca-2 с 13 млрд параметров и поддерживает только текстовую модальность. README не указывает набор поддерживаемых языков, поэтому языковые возможности нельзя достоверно определить по представленным данным. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 5,43 до 13,8 ГБ. Чем выше разрядность, тем меньше потери качества, но тем больше требования к памяти; авторами рекомендуется сбалансированный вариант Q4_K_M либо варианты Q5_K_M и Q5_K_S с очень небольшими потерями качества. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут значительно терять качество, а более точные требуют больше ресурсов. Для запуска указан LlamaEdge версии 0.2.8 или новее. Модель распространяется по Microsoft Research License; точные условия следует уточнять в файле лицензии исходного репозитория.

fangloveskari/ORCA_LLaMA_70B_QLoRA — языковая модель на архитектуре LLaMA 2, дообученная fangloveskari методом QLoRA с NF4 и LoRA ранга 16. В обучении использовалась смешанная выборка на основе Open-Platypus с небольшими долями Dolphin и OpenOrca; README также отмечает поддержку датасета ORCA и применение FlashAttention 2. Модель содержит 68,7 млрд параметров и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста и ответов на запросы на английском языке. В карточке приведены результаты оценки на ARC, HellaSwag и MMLU; они характеризуют отдельные тесты и не гарантируют качество в других сценариях. Возможны неточные, предвзятые или нежелательные ответы, поэтому перед применением в конкретном продукте модель следует проверить и настроить. Лицензия — Llama 2 License.

OrcaMaid 13B — это языковая модель для генерации текста в формате GGUF, созданная ddh0 на базе архитектуры Llama и квантизированная TheBloke. Репозиторий содержит варианты модели с разрядностью 2, 3, 4, 5, 6 и 8 бит для запуска на CPU и GPU. Исходная модель доступна в формате FP16 для GPU-инференса и дальнейших преобразований. Модель предназначена для выполнения инструкций и генерации ответов в текстовых сценариях, включая локальный инференс через llama.cpp и совместимые приложения и библиотеки. Для работы используется шаблон Alpaca с секциями Instruction и Response. Поддерживаются клиенты и инструменты, совместимые с GGUF, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ключевые характеристики — 13 миллиардов параметров, текстовая модальность, архитектура семейства Llama и формат GGUFv2. Сведения о поддерживаемых языках и размере контекста в README не указаны. Квантизация позволяет выбирать компромисс между требованиями к памяти и качеством, однако конкретные характеристики качества и аппаратные требования зависят от выбранного варианта. Лицензия указана как microsoft-research-license для исходной модели; также заявляется применимость лицензии Meta Llama 2, поэтому условия использования и взаимодействие лицензий следует проверять в исходном репозитории.

orca_mini_13b — языковая модель Pankaj Mathur, созданная на базе OpenLLaMA-13B дообучением на наборах инструкций WizardLM, Alpaca и Dolly-V2. При подготовке данных применялся подход из исследовательской работы Orca: примеры дополнялись системными инструкциями и пояснениями, призванными передать ход рассуждений модели-учителя GPT-3.5-turbo-0301. Модель предназначена для генерации текста по инструкциям, диалоговых ответов и выполнения общих языковых задач на английском языке. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, доступная в форматах PyTorch и Safetensors через Transformers. Контекст составляет 2048 токенов. Модель обучена на синтетических и пользовательских наборах инструкций; качество может различаться в зависимости от запроса, а ответы могут быть неточными или содержать ошибки. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных материалов на тех же условиях и не допускает коммерческого использования.

Orca-SOLAR-4x10.7b — объединение четырёх инструктивных дообученных моделей Solar-10.7B, опубликованное пользователем macadeliccc. Модель построена на архитектуре Mixtral с разреженной экспертной структурой MoE; метаданные указывают 10,6 млрд параметров и контекст до 4096 токенов. Она предназначена для генерации текста в диалоговом формате и особенно ориентирована на задачи программирования: автор отмечает, что на вопросы о коде модель может отвечать развёрнутыми фрагментами кода. Модель принимает текст и генерирует текст. В карточке указан английский язык, а также набор данных Intel/orca_dpo_pairs. В README заявлена возможность запуска на бесплатном CPU-оборудовании через GGUF, хотя в репозитории указаны файлы safetensors. Лицензия — Apache-2.0. Результаты таблицы Open LLM Leaderboard приведены в README, но полные сведения об оценке в предоставленном тексте отсутствуют.

Ornith-1.5-35B-A3B-REAP-50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная пользователем Ttimms на основе модели от ornith-ai. Это гибридная архитектура Gated-DeltaNet и Mixture-of-Experts (MoE): после 50%-порогового pruning методом REAP число экспертов сокращено с 256 до 128, удалена MTP-голова, а итоговый объём составляет примерно 19 млрд параметров. Модель предназначена для генерации текста и ориентирована прежде всего на англоязычные сценарии. Модель подходит для локального запуска и задач программирования: для исходной модели до квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%. Благодаря примерно 3 млрд активных параметров она может обеспечивать быструю инференс-работу на CPU и Apple Silicon. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ, тогда как Q8_0 требует более 16 ГБ памяти или выгрузки части вычислений на CPU. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; также подходят LM Studio, KoboldCpp, Jan и text-generation-webui. Поддержка Ollama на момент публикации ожидала обновления встроенного llama.cpp. В README не указаны размер контекста и мультиязычные возможности; заявлен только английский язык. Из ограничений также следует учитывать удаление vision tower и MTP-головы, зависимость от совместимого рантайма и компромисс между качеством и объёмом памяти при выборе квантизации. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Ornith-1.5-9B-SFT-Fable5-Glint — дообученная модель на базе Ornith AI Ornith-1.5-9B, разработанная ermiaazarkhalili. Это плотная модель архитектуры Qwen3_5ForConditionalGeneration с 9,4 млрд параметров, обученная методом SFT с LoRA на наборе инструкций Fable-5-Glint-Clean. Репозиторий содержит safetensors, а метаданные указывают на применение Transformers и интерфейс чата с вызовом инструментов. Модель предназначена для генерации текста в диалоговых сценариях и следования инструкциям, представленным в обучающем наборе. Карточка сообщает о 1 554 шагах обучения и снижении training loss с 0,9980 до 0,6284; эти значения не являются оценкой качества на практических задачах. Адаптер LoRA объединён с базовыми весами, поэтому отдельно отключить дообучение нельзя. Модель унаследовала ограничения и смещения базовой модели. Её поведение вне распределения единственного набора инструкций не проверено, а бенчмарки не проводились. Лицензия — MIT.

Ornstein-Hermes-3.6-27b-i1-GGUF — квантизированная версия модели Ornstein-Hermes-3.6-27b, разработанной GestaltLabs и подготовленной в формате GGUF пользователем mradermacher. В README также указано использование набора данных DJLougen/Acta и наличие тегов, связанных с семейством Qwen, мультимодальностью и Hermes. Модель предназначена для генерации текста на английском языке, обработки изображений вместе с текстом, вызова функций, работы с инструментами и агентских сценариев. Заявлены мультимодальные возможности image-text-to-text, function calling и tool use, однако точный размер контекстного окна и подробности архитектуры в README не указаны. Доступно множество вариантов квантизации с размером файлов примерно от 7,2 до 22,2 ГБ. Варианты различаются балансом между размером, скоростью и качеством: README отмечает, что некоторые низкобитные варианты имеют низкое качество, а i1-Q4_K_M рекомендуется как быстрый вариант. Качество конкретной версии зависит от выбранного типа квантизации. Модель распространяется по лицензии Apache-2.0.

Jayant9928/orpo_v2 — чат-модель для генерации текста на основе плотной архитектуры Llama с классом LlamaForCausalLM. Размер составляет 7,5 млрд параметров, максимальная длина контекста — 8192 токена. Репозиторий содержит веса в формате safetensors. Модель предназначена для диалоговой генерации текста. Карточка автоматически создана и не сообщает разработчика, базовую модель, данные обучения, оценки качества или подробности применения, поэтому специальные преимущества и ограничения сверх этого установить нельзя. Лицензия — Apache-2.0.

jeiku/OrthoPoppy — на базе архитектуры Llama плотная языковая модель примерно на 7,5 млрд параметров для диалоговой генерации текста. Она создана методом слияния SLERP с помощью mergekit из Nitral-AI/Poppy_Porpoise-0.72-L3-8B и Edgerunners/meta-llama-3-8b-instruct-hf-ortho-baukit-5fail-3000total-bf16. Репозиторий содержит веса safetensors; модель рассчитана на контекст до 8192 токенов и предназначена для использования через Transformers. Модель подходит для ведения диалога и генерации ответов на текстовые запросы. Карточка не приводит подробных оценок качества или сведений о языковом покрытии, поэтому их нельзя надёжно уточнить. Лицензия в предоставленных данных не указана.

Oumuamua-7b-instruct — созданная nitky объединённая модель на архитектуре Mistral для генерации текста по инструкциям и диалогов. Она получена методом Model Stock с помощью mergekit на основе nitky/Oumuamua-7b-base; в объединение вошли японские и англоязычные модели, включая Mistral-7B-Instruct-v0.3, Japanese StableLM и Swallow. Модель содержит 7,2 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов в формате инструкций [INST] и может использоваться в текстовом интерфейсе или локальном окружении, совместимом с Transformers. Автор проверял её в text-generation-webui и рекомендует формат промпта из карточки; для генерации указана температура 0,3. В метаданных перечислены японский и английский языки. Лицензия — Apache-2.0.

Карточка модели anonymous-bird-72/Ouro-2.6B на Hugging Face совпадает с карточкой ByteDance/Ouro-2.6B, поэтому описание составлено по ней. Ouro-2.6B — языковая модель ByteDance с 2,6 млрд параметров на архитектуре Looped Language Model: это декодерный Transformer из 24 слоёв с общими весами, которые повторно применяются на четырёх рекуррентных шагах. Модель предназначена для генерации текста и диалогового взаимодействия; рекуррентные вычисления в скрытом пространстве поддерживают рассуждения, а механизм раннего выхода позволяет менять объём вычислений и баланс между скоростью и качеством. Модель принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В README заявлена эффективность по числу параметров на уровне стандартных моделей размером 3–4 млрд параметров, но независимые показатели качества не приведены. Для адаптивного раннего выхода требуется совместимая среда: при использовании vLLM модель всегда выполняет все заданные рекуррентные шаги. Лицензия — Apache 2.0; README предупреждает, что модель предназначена для исследований и предоставляется без гарантий для производственного использования.

Parm-2-CoT-14B-16k-o1-QwQ — языковая модель Pinkstack, дообученная на базе Microsoft Phi-4 для рассуждений и генерации текста. Она ориентирована на диалоги, решение математических задач, ответы на вопросы, требующие многошагового анализа, и программирование. В карточке указано, что модель обучалась на датасете amphora/QwQ-LongCoT-130K; архитектура репозитория обозначена как LlamaForCausalLM, веса доступны в формате safetensors. Размер модели — 14,1 млрд параметров, контекст — 16 384 токена. Модель поддерживает текстовый ввод и выдаёт текст. Автор отмечает высокие результаты на отдельных тестах рассуждений, математики и знаний, но приводит низкий результат IFEval и связывает его с постоянным пошаговым рассуждением. Для устойчивых результатов рекомендуется низкая температура; иногда модель может завершить рассуждение без итогового ответа. Лицензия — MIT.

bunsenfeng/parti_17_full — языковая модель для генерации текста, опубликованная пользователем bunsenfeng на Hugging Face. README создан автоматически и не содержит достоверных сведений о разработчике, обучающих данных или происхождении модели. Модель предназначена для сценариев генерации и продолжения текста, а также может использоваться в диалоговых приложениях благодаря тегу conversational. В метаданных указаны библиотека Transformers, семейство Qwen2 и формат safetensors. Размер модели составляет 7,1 млрд параметров, максимальная нативная длина контекста — 32 768 токенов. Документация не содержит результатов оценки, описания архитектуры на уровне конфигурации, поддерживаемых естественных языков, лицензии и рекомендаций по безопасному применению. Поэтому качество, языковой охват и допустимые условия использования следует проверять отдельно перед внедрением.

Pearl-3x7B — языковая модель Louis Brulé Naudet для диалогов, программирования и математических задач. Это объединение трёх моделей в архитектуре Mixture of Experts на основе Mixtral, примерно 7,1 млрд параметров; репозиторий содержит веса Safetensors, модель рассчитана на контекст до 32 768 токенов и использует библиотеку Transformers. Модель предназначена для ответов в чате, генерации и объяснения кода, а также решения математических задач. В карточке указан английский язык. Модель выпущена под лицензией Apache-2.0. README заявляет специализацию на анализе данных, однако не приводит результатов оценки, поэтому качество на конкретных задачах не подтверждено.

Penjing-27B-Pollard — это квантизированная версия Qwen/Qwen3.8-27B, подготовленная PollardWeights с использованием метода Pollard Weights. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, ik_llama.cpp, Ollama и LM Studio. Указанная архитектура — qwen3_5, объём — около 27,3 млрд параметров. Поддерживаются текстовые и графические входы, а заявленный язык — английский. Модель рассчитана на диалоговые сценарии и мультимодальные задачи, включая работу с изображениями при использовании дополнительного vision-проектора mmproj-Penjing-27B-bf16.gguf. Доступно несколько вариантов квантизации с разным соотношением размера и качества: от IQ1_KT размером 6,53 ГБ до Q6_K размером 22,43 ГБ. Квантизация основана на измерении чувствительности отдельных слоёв и использует importance matrix; это позволяет эффективнее распределять биты по сравнению с равномерным сжатием. Главное преимущество модели — существенное уменьшение требований к памяти: вариант IQ1_KT примерно на 88% меньше исходной версии f16. При этом качество зависит от выбранного файла: по измерениям на wikitext2 вариант IQ2_KT показал perplexity 5,0817 и был обозначен как рекомендуемый вариант по умолчанию, тогда как IQ1_KT обеспечивает минимальный размер, но заметно сильнее отклоняется от f16. IQ1_KT и IQ2_KT требуют ik_llama.cpp; остальные варианты совместимы со стандартным llama.cpp. Результаты измерений получены на одной машине и могут не полностью отражать качество в прикладных задачах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

p-e-w_Qwen3-4B-Instruct-2507-heretic-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen3-4B-Instruct-2507-heretic. Исходную модель разработал p-e-w, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций при локальном запуске через llama.cpp, LM Studio и совместимые проекты. Модель содержит около 4 миллиардов параметров и доступна в вариантах от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 2,24 до 8,05 ГБ, что позволяет выбирать между качеством и требованиями к памяти. В README не указаны поддерживаемые языки, длина контекста, точная архитектура или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются компактный размер, возможность локального запуска и широкий выбор квантизаций; варианты Q4–Q6 позиционируются как обеспечивающие хорошее или очень высокое качество при сниженных требованиях к памяти. Ограничения включают возможную потерю качества при использовании низких уровней квантизации и отсутствие указанного в README chat template, из-за чего форматирование запросов может потребовать проверки по карточке исходной модели. Распространение заявлено по лицензии Apache-2.0.

rasyosef/phi-2-instruct-v0.1 — это дообученная версия Phi-2 от Microsoft, подготовленная автором репозитория для выполнения инструкций и диалогов. Модель основана на архитектуре Transformer Phi с плотной причинной языковой моделью; в README указано 2,7 млрд параметров, а метаданные каталога приводят 3,5 млрд. Контекст составляет 2048 токенов, веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель прошла supervised fine-tuning на парах инструкций и ответов из OpenHermes-2.5, затем оптимизацию предпочтений методом DPO на нескольких наборах данных. Она предназначена для генерации ответов в формате чата, следования инструкциям, ответов на вопросы и решения задач на рассуждение. README приводит результаты оценок на IFEval, GSM8K, MMLU, TruthfulQA и Winogrande; это небольшая англоязычная модель общего назначения, поэтому качество и надёжность ответов могут уступать более крупным моделям. Лицензия — MIT.

win10/phi-3.5-sakura-yuzu-v2 — объединённая языковая модель на архитектуре Phi-3, созданная с помощью mergekit методом passthrough на основе win10/phi-3.5-Sakura-Yuzu-v1.5. Модель содержит около 4,7 млрд параметров, использует формат safetensors и рассчитана на генерацию текста в диалоговом режиме с контекстом до 4096 токенов. Модель подходит для ведения диалогов и генерации текстовых ответов. Карточка не описывает специализированные предметные области или поддерживаемые естественные языки. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия текстовой языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft. Репозиторий подготовлен пользователем legraphista с использованием llama.cpp b3003 и метода IMatrix для отдельных вариантов квантования. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые инструменты. Заявлена поддержка multilingual-сценариев, однако конкретный перечень языков в README не указан. Модель имеет контекстное окно до 128k токенов и поставляется в форматах GGUF с разными уровнями точности: от FP16 и BF16 до Q2_K, Q3_K, Q4_K, Q5_K, Q6_K, Q8_0 и вариантов IQ. Размер файлов составляет примерно от 4,77 до 27,92 ГБ. Варианты Q2–Q4 и некоторые IQ используют IMatrix, что должно помогать сохранять качество при сильном сжатии, но README не приводит количественных результатов сравнения. Сильная сторона репозитория — широкий выбор форматов для компромисса между качеством, размером и требованиями к памяти, а также поддержка длинного контекста исходной модели. Ограничения включают высокие аппаратные требования для крупных вариантов и возможное снижение качества у низкобитных квантований; архитектура и точное число параметров в README не указаны. Модель распространяется по лицензии MIT, унаследованной от исходной модели Microsoft.

Montecarlo2024/Phi-3-mini-4k-Python-Vezora143k — разговорная языковая модель, разработанная Montecarlo2024 путём дообучения unsloth/phi-3-mini-4k-instruct-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 3,7 млрд параметров и рассчитана на контекст до 4096 токенов; в метаданных указаны архитектура Mistral и поддержка чата. Модель дообучалась с использованием Unsloth и библиотеки Hugging Face TRL. В карточке не описаны особенности датасета Python-Vezora143k или результаты оценки, поэтому специализацию на программировании по одному названию подтвердить нельзя. Указана лицензия Apache-2.0.

MaziyarPanahi/Phi-4-mini-instruct-GGUF — это набор квантованных файлов в формате GGUF для исходной модели microsoft/Phi-4-mini-instruct. Базовую модель разработала Microsoft, а квантование и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Набор содержит варианты с квантованием 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF ориентирован на локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Архитектура, количество параметров, поддерживаемые языки и размер контекста в предоставленных данных не указаны. Ключевые преимущества — доступность нескольких уровней квантования и совместимость с широким набором локальных средств запуска, включая варианты с GPU-ускорением и OpenAI-совместимыми API. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, а также с зависимостью характеристик производительности от выбранного варианта и оборудования. Лицензия в README не указана.

Phi-4-reasoning-plus-w4a16-llmcompressor — это квантизованная версия языковой модели Phi-4-reasoning-plus, разработанной Microsoft. Модель предназначена для генерации текста и работы с текстовыми запросами, включая задачи рассуждения; исходная архитектура представлена как Phi3ForCausalLM. Модель поддерживает английский язык. Чекпойнт подготовлен компанией AMD для инференса на процессорах AMD EPYC под Linux. Используется 4-битная квантизация весов без квантизации активаций (W4A16): веса представлены в формате INT4, симметрично и группами по 128 параметров, а активации сохраняются в BF16. Для запуска рекомендован стек vLLM 0.26.0, LLM Compressor 0.12.0, ZenDNN 6.1.0, ZenTorch 2.11.0.3 и PyTorch 2.11.0. Ключевое преимущество модели — существенное сокращение размера весов при сохранении качества: на тесте GSM8K она показала 0,8688 против 0,8704 у исходной BF16-модели, то есть восстановила 99,82% результата базовой версии. Ограничения включают ориентацию на CPU AMD EPYC, зависимость от совместимых версий программного стека и возможную потерю точности из-за агрессивной 4-битной квантизации. В README указана лицензия MIT; также отмечено, что модель распространяется на условиях лицензии исходной модели.

INTELLECT-2-GGUF — это набор GGUF-квантизированных версий языковой модели INTELLECT-2, разработанной Prime Intellect и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В README также указано, что при обучении использовался датасет PrimeIntellect/Intellect-2-RL-Dataset. Доступны исходные веса в формате BF16 и варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3 и Q2 с размером файлов примерно от 13 до 66 ГБ. Более крупные варианты обычно обеспечивают более высокое качество, а менее крупные требуют меньше оперативной памяти; рекомендуемым вариантом по умолчанию назван Q4_K_M. Модель поддерживает текстовую генерацию, однако сведения об архитектуре, числе параметров, контекстном окне и языках в README не приведены. Формат подсказок использует роли system, user и assistant, а также блок рассуждений <think>. Лицензия модели указана как Apache-2.0. Ограничения связаны прежде всего с компромиссом между размером файла, требованиями к памяти и качеством, зависящим от выбранного уровня квантизации; варианты Q3 и Q2 характеризуются как менее качественные, а некоторые форматы отмечены как устаревшие.

SLORA/PRO — диалоговая языковая модель, разработанная и поддерживаемая Muhammad Taqi. Она предназначена для генерации текста в чате и поддерживает интерфейс вызова инструментов. Модель основана на архитектуре DeepSeek V3, имеет 37,6 млрд параметров и контекст длиной до 163 840 токенов; веса представлены в формате Safetensors FP8 и рассчитаны на работу с Transformers. Автор заявляет о собственной реализации и высокой скорости ответов, однако карточка не приводит сравнительных измерений или подробностей обучения. Модель распространяется по лицензии MIT.

Psyonic-Rose-20B-Higher-Quality — плотная языковая модель семейства Llama с 19,8 млрд параметров, созданная слиянием через mergekit моделей DavidAU/Psyonic-Cetacean-V1-20B-Ultra-Quality-Float32 и tavtav/Rose-20B. Модель предназначена для генерации текста и диалогов в формате Alpaca instruct; контекст составляет 4096 токенов. Модель опубликована в формате safetensors и использует точность float32 согласно описанию слияния. Она подходит для генерации ответов и ролевых диалогов, но доступные сведения не подтверждают специализацию на конкретной предметной области или языках. Лицензия в предоставленных данных не указана.

Qandora-2.5-7B-Creative — объединённая модель для генерации текста, созданная автором репозитория с помощью mergekit методом passthrough на основе bunnycore/Qandora-2.5-7B и bunnycore/Qwen-2.1-7b-Persona-lora_model. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors и предназначен для работы через Transformers; метаданные также отмечают чатовые возможности и интерфейс вызова инструментов. Модель подходит для диалоговой генерации и творческих текстовых задач. В карточке не приведены результаты оценки качества, подробное описание навыков или языковой охват, поэтому нельзя уверенно судить о качестве для отдельных жанров и языков. Лицензия в предоставленных данных не указана.

mlx-community/quantized-gemma-2b — конверсия Gemma 2B от Google в формат MLX, подготовленная сообществом mlx-community для запуска на устройствах Apple с помощью mlx-lm. Это плотная авторегрессионная языковая модель с 2,5 млрд параметров и контекстом до 8192 токенов; она генерирует текст по текстовому запросу и подходит для диалогов и других задач генерации текста. Модель создана на основе google/gemma-2b. Репозиторий содержит веса в формате safetensors; в README указана конверсия в MLX. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой исходной Gemma и лицензией репозитория.

QuantumLM-70B-hf — плотная авторегрессионная языковая модель семейства Llama, разработанная Quantum AI и дообученная на наборе данных Guanaco и Guanaco-Unchained. Модель содержит 68,7 млрд параметров и принимает текст для генерации продолжений и ответов; указанный контекст — 2048 токенов. Репозиторий содержит веса в формате safetensors. Модель подходит для диалогов, ответов на вопросы и генерации текста на английском языке. Дообучение было направлено на настройку поведения базовой Llama 2 70B, в том числе на более безопасные распределения ответов, однако оно не устраняет все предубеждения и токсичность. Результаты не следует считать достоверными без проверки или заменой человеческому суждению. Лицензия CC BY-NC-4.0 разрешает использование на некоммерческих условиях; авторы заявляют исследовательское назначение.

C10X/qwe3 — разговорная языковая модель семейства Qwen2, разработанная C10X и дообученная на базе C10X/QWev2. Она предназначена для генерации текста в диалоге; в репозитории заявлен интерфейс вызова инструментов. Модель содержит 494 млн параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. В метаданных указан английский язык и формат весов safetensors. Лицензия — Apache 2.0. Данные не описывают специализацию обучения или результаты оценки качества, поэтому пригодность для конкретной предметной области не установлена.