I.7Речь, диалоги и встречи

Qwen3.5-88B — текстовая версия модели Qwen3.5, подготовленная 0xSero из Qwen/Qwen3.5-122B-A10B методом REAP (Routing-Enhanced Activation Pruning). Из MoE-модели удалено около 30% экспертов; итоговая модель содержит 88 млрд параметров и распространяется в формате BF16. В основе указана архитектура Qwen3.5 MoE с GDN и полным attention. Модель предназначена для генерации текста и диалогов. Это контрольная точка только для языковой модели, полученная из мультимодальной базы: изображения она не обрабатывает. REAP отбирает экспертов по активациям маршрутизатора на калибровочном наборе данных; в README также указана защита критически важных для безопасности возможностей. Для запуска приведён пример с vLLM и максимальной длиной контекста 8192 токена. Лицензия в метаданных обозначена как other, конкретные условия следует проверять на странице репозитория.

Twu31/Qwen3.8-27B-AWQ-INT4-MTP-LowLatency — квантизированная сборка базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем Twu31. Модель предназначена для интерактивного диалога с низкой задержкой, включая чат-интерфейсы, голосовых агентов и embodied assistants, при отключённом рассуждении и работе через vLLM на одной GPU. Это гибридная модель с архитектурой GDN и attention, поддержкой текстово-визуального ввода и языками English и Chinese. Основные веса представлены в формате INT4 W4A16 с симметричной групповой квантизацией g128 и обслуживаются через compressed-tensors и Marlin; lm_head использует INT8, а vision tower и MTP draft head сохранены в BF16. Размер квантизированных весов составляет около 18,2 ГБ против 55,6 ГБ у BF16-версии. Указан максимальный контекст 12 288 токенов в рекомендуемой конфигурации. Сборка поддерживает speculative decoding через MTP и оптимизирована для prefix caching; заявлены TTFT менее 100 мс и задержка полного ответа менее 0,5 секунды в отдельных конфигурациях на RTX 6000 Ada или RTX 5090. Сильные стороны модели — низкая задержка, экономия видеопамяти, сохранённая MTP-голова и высокая эффективность prefix caching при длинном фиксированном системном промпте. Ограничения включают зависимость производительности от версии и настроек vLLM, GPU с архитектурой SM 8.0+, параметров prefix caching и длины ответа; MTP требует проверки фактического acceptance rate и может замедлять работу при низком принятии черновых токенов. Поддержка SGLang не проверялась. Модель распространяется по лицензии Apache-2.0.

Sohailhosseini/Qwen3.8-9B-Distill-AWQ-W4A16 — квантизированная версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная пользователем Sohailhosseini. Модель предназначена для генерации текста и диалогового взаимодействия, а заявленный pipeline_tag указывает на поддержку сценариев image-text-to-text. В README также отмечена пригодность для instruction-тuned и многоязычных моделей, однако конкретный набор поддерживаемых языков не указан. Модель содержит 9,7 млрд параметров и использует схему AWQ-W4A16 с 4-битными весами в формате compressed-tensors. Размер на диске составляет около 8,6 ГБ — примерно в 2,24 раза меньше исходных 19,3 ГБ. Квантизация выполнена на GPU A40 с использованием 256 образцов из набора HuggingFaceH4/ultrachat_200k. Слои lm_head и компоненты, связанные с visual, vision_tower, vision_model, multi_modal_projector и merger, оставлены без квантизации, что соответствует мультимодальной конфигурации. Основные преимущества — сниженные требования к хранению и потенциально более эффективный запуск при сохранении качества исходной модели; README отдельно отмечает быструю калибровку и обычно более высокую устойчивость на instruction-тuned и многоязычных моделях. Для запуска рекомендуется vLLM с максимальной длиной контекста 32768 токенов. Ограничение схемы заключается в её асимметричности: некоторые старые ядра vLLM могут лучше работать с симметричным W4A16. Лицензия — Apache-2.0, унаследованная от исходной модели.

Qwen3.8-Flash-Next-ANE — пакет гибридного инференса модели Qwen3.8-Flash-Next от True2456 для компьютеров Apple Silicon. Модель дообучена на базе Qwen/Qwen3.8-Flash-Next; в README описаны 36 слоёв Gated DeltaNet и 12 слоёв Qwen Sparse Attention, исполняемые на Apple Neural Engine, и разрежённые MoE-эксперты, работающие через MLX на GPU. Веса языковой модели хранятся в 4-битном формате, а для ускорения декодирования применяются спекулятивная генерация и таблицы n-грамм. Пакет предназначен для диалогов, генерации текста и агентных сценариев, включая работу через OpenAI-совместимый API и интерфейс вызова инструментов. Автор сообщает о тестировании на Mac с M5 Max и 96 или 128 ГБ объединённой памяти; README приводит результаты производительности и тестов качества для этой конфигурации. Это не полностью исполняемая на ANE модель: часть вычислений выполняется на GPU и CPU. Лицензия указана как other, поэтому условия использования следует проверять на странице репозитория.

Vontra/Qwen3.8-Flash-Next-MLX-oQ3-MTP — это квантованная MLX-версия Qwen3.8-Flash-Next, подготовленная разработчиком Vontra на основе официального BF16-чекпойнта Qwen. Модель предназначена для запуска на Apple Silicon через совместимые среды MLX и oMLX, включая задачи генерации текста и обработки изображений благодаря архитектуре vision-language. Модель использует архитектуру qwen4_exp со sparse mixture-of-experts, Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и n-граммными embeddings. Всего заявлено 125 млрд параметров языковой модели, из которых активно используется около 6 млрд, 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов на токен и один общий эксперт. Контекст составляет 262 144 токена, а upstream-версия допускает расширение до 1 млн токенов. В состав включён native MTP-блок на 4 млрд параметров для speculative decoding. Квантование oQ3 использует 3-битную аффинную основу с размером группы 32 и 746 модулями повышенной точности: части весов представлены в 4-, 5-, 6- и 8-битном формате. Модель занимает около 92,5 ГБ и поставляется в формате MLX safetensors. В тесте на Apple M3 Studio включение native MTP повысило скорость генерации с 26,54 до 29,08 токена в секунду, однако фактическая производительность зависит от длины контекста, версии runtime, памяти и тепловых условий. Для работы требуется runtime с явной поддержкой qwen4_exp и native MTP; неподдерживаемые среды могут не загрузить модель. Модель распространяется по лицензии Qwen Community License 1.0. README не содержит полных сведений о результатах upstream-оценок, безопасности и ограничениях исходной модели; за ними следует обращаться к оригинальной карточке Qwen3.8-Flash-Next.

Модель thao-uyen1508/qwen3_MT_epoch1_16bit — дообученная автором thao-uyen1508 плотная языковая модель Qwen3 с 14 млрд параметров. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель обучалась с Unsloth и библиотекой TRL и распространяется в формате safetensors. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 40 960 токенов. Она основана на unsloth/qwen3-14b-unsloth-bnb-4bit и выпущена по лицензии Apache-2.0.

Qwentile2.5-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwentile2.5-32B-Instruct, разработанной maldv и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста, чат- и диалоговых сценариев, а также локального использования через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского языка. Модель имеет размер 32 млрд параметров. Доступны варианты от F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы K-quants и IQ-quants, что позволяет выбирать между качеством, скоростью и требованиями к оперативной памяти. Квантизации выполнены с использованием imatrix на базе llama.cpp; для общения применяется шаблон с тегами <|im_start|> и <|im_end|>. Сильная сторона набора — широкий выбор вариантов, включая высококачественные Q6_K и Q6_K_L, а также более компактные версии для систем с ограниченной памятью. При этом уменьшение разрядности может снижать качество генерации, особенно у Q2–Q3 вариантов; для работы также требуются значительные вычислительные ресурсы. Контекстное окно, точная архитектура и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели rhombus18/rhododendron-analyst-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

Карточка модели rhombus18/rhododendron-default-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

CombinHorizon/Rombos-Qwen2.5-7B-Inst-BaseMerge-TIES — языковая модель, созданная методом слияния TIES с помощью mergekit на основе Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct. Модель разработана для генерации текста и диалоговых сценариев; поддерживает интерфейс вызова инструментов. Она содержит 7,1 млрд параметров, построена на плотной архитектуре Qwen2 и использует класс Qwen2ForCausalLM. Контекстное окно составляет до 131 072 токенов. Модель подходит для ответов на запросы, продолжения текста и генерации структурированных ответов. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они сами по себе не гарантируют качество в конкретном применении. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. README указывает на слияние с Qwen2.5-7B-Instruct; отдельные специализированные области применения не заявлены.

Sakura-SOLAR-Instruct — разговорная языковая модель на базе архитектуры Llama, разработанная Кюджином Ханом (kyujinpy) в рамках исследовательского консорциума корейских компаний Media Group Saramgwa Forest и Marker. Модель создана с помощью Mergekit и предназначена для генерации текста в диалоговом формате. В карточке указано 10,6 млрд параметров и контекст длиной 4096 токенов. Модель подходит для ведения диалогов, ответов на вопросы и решения задач на понимание и генерацию текста. В README приведены результаты Open LLM Leaderboard по ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; это результаты оценки, а не гарантия качества в конкретном сценарии. В метаданных указан английский язык. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая требует атрибуции и ограничивает коммерческое использование.

Карточка модели JetLM/SDAR-1.7B-Chat-b32 на Hugging Face совпадает с карточкой JetLM/SDAR-8B-Chat-b32, поэтому описание составлено по ней. JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.

Карточка модели JetLM/SDAR-8B-Chat-b64 на Hugging Face совпадает с карточкой JetLM/SDAR-8B-Chat-b32, поэтому описание составлено по ней. JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.

SEC-1.6-Calme-7B-Instruct — объединённая Arcee AI чат-модель на архитектуре Mistral, созданная с помощью mergekit из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и MaziyarPanahi/Calme-7B-Instruct-v0.2. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. Её контекстное окно составляет 32 768 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. README описывает слияние методом SLERP с настройками для слоёв self-attention и MLP; отдельных оценок качества или ограничений применения карточка не приводит.

chargoddard/servile-harpsichord-cdpo — языковая модель семейства Mistral, разработанная Chargoddard. Это плотная авторегрессионная модель на 7,1 млрд параметров для генерации текста; она обучена на другой случайной выборке тех же наборов данных, что и loyal-piano-m7, а затем дообучена методом cDPO на смеси датасетов RLHF. Модель использует формат запросов Alpaca и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации и следования инструкциям. В обучении использованы наборы данных Orca, суммаризации отзывов, ролевого диалога и предпочтений, включая PKU-SafeRLHF и UltraFeedback. Репозиторий содержит веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

jaspionjader/sof-10 — это объединённая авторегрессионная языковая модель семейства Llama, созданная с помощью mergekit методом Model Stock. В качестве базовой модели использована jaspionjader/sof-6; в объединение также вошли jaspionjader/sof-3, jaspionjader/sof-5 и jaspionjader/sof-9. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый режим и имеет контекстное окно до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Файлы опубликованы в формате safetensors, библиотека для работы — Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых естественных языках, поэтому нельзя определить основной язык модели. Лицензия в доступных данных не указана.

jaspionjader/sof-12 — объединённая языковая модель, созданная разработчиком jaspionjader из sof-10, sof-11 и sof-6 с помощью mergekit и метода Model Stock. Модель построена на архитектуре Llama с плотной структурой и содержит 7,5 млрд параметров; она предназначена для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и работает через библиотеку Transformers. Модель принимает текст и выдаёт текст. Карточка не уточняет специализацию по языкам или предметным областям, поэтому её можно рассматривать для общих диалоговых сценариев и генерации текста. Веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана.

Lucyfer1718/spartan_nemotron — диалоговая языковая модель, созданная слиянием методом SLERP двух моделей: mattshumer/Reflection-Llama-3.1-70B и nvidia/Llama-3.1-Nemotron-70B-Instruct-HF. Она предназначена для генерации текста в ответ на запросы и ведения диалога; метаданные также отмечают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 28,4 млрд параметров, работает с контекстом до 131 072 токенов и распространяется в формате safetensors через Transformers. Модель подходит для диалоговых ассистентов, ответов на инструкции и генерации текста с длинным контекстом. В карточке не указаны отдельные целевые языки или специализированная предметная область. Лицензия и сведения о качестве или ограничениях модели в предоставленных данных отсутствуют.

StrangeMerges_16-7B-slerp — объединённая языковая модель семейства Mistral, опубликованная Gille. Она создана методом SLERP с помощью LazyMergekit на основе Gille/StrangeMerges_15-7B-slerp и SanjiWatsuki/Kunoichi-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для генерации текста; заявленная длина контекста — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев общего назначения. В README приведены результаты оценивания на Open LLM Leaderboard, включая ARC и HellaSwag, но эти показатели сами по себе не гарантируют качество на конкретных задачах. Модель распространяется под лицензией Apache-2.0.

Gille/StrangeMerges_33-7B-slerp — объединённая текстовая модель, созданная методом slerp с помощью LazyMergekit из ZySec-AI/ZySec-7B-v1 и Gille/StrangeMerges_30-7B-slerp. Модель построена на архитектуре Mistral с плотной архитектурой причинного языкового моделирования и содержит 7,1 млрд параметров; её контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, ведения чата и создания связных текстов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Данных о специализированной предметной области или языках модели в предоставленных источниках нет.

StrangeMerges_37-7B-dare_ties — объединённая языковая модель на архитектуре Mistral, собранная Gille с помощью LazyMergekit из liminerity/M7-7b, Gille/StrangeMerges_30-7B-slerp и ContextualAI/Contextual_KTO_Mistral_PairRM. В конфигурации указано объединение DARE-TIES с точностью bfloat16; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценивания на бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

SuperChat-7B — диалоговая языковая модель, созданная Яшем Маратхе путём слияния нескольких моделей на базе Mistral: openchat/openchat-3.5-0106, OpenPipe/mistral-ft-optimized-1227, berkeley-nest/Starling-LM-7B-alpha, jan-hq/supermario-v2 и mistralai/Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров и использует плотную архитектуру Mistral для генерации текста и общения в формате инструкций; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на запросы и генерации текста. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сведения о языках или результаты оценок качества, поэтому их нельзя уточнить по доступным данным.

T3qm7xNeuralsirkrishna_ShadowCalme — объединённая языковая модель семейства Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowCalme-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поставляется в формате safetensors. Модель предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Сведения о специальных областях применения и языках не приведены.

T3qm7xNeuralsirkrishna_Strangemerges_32Experiment26 — объединённая языковая модель на архитектуре Mistral, опубликованная MaziyarPanahi. Она объединяет модели automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Experiment26-7B и предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации продолжений текста и ответов в диалоге. Репозиторий не приводит сведений о специализации по языкам или прикладным областям. Лицензия — Apache-2.0.

Это объединённая модель генерации текста на архитектуре Llama, созданная с помощью mergekit методом della_linear. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2; также объединены Solshine/reflection-llama-3.1-8B, три версии ArliAI/Llama-3.1-8B-ArliAI-RPMax и Skywork-o1-Open-Llama-3.1-8B. Размер модели — 7,5 млрд параметров, формат весов — safetensors. Модель предназначена для диалоговой генерации текста и ответов на инструкции. Контекстное окно составляет до 131 072 токенов; метаданные также указывают интерфейс вызова инструментов. Карточка не приводит оценки качества или результаты тестирования. Лицензия в предоставленных сведениях не указана.

TopEvolution-DPO-32K — слитая языковая модель семейства Mistral, созданная сообществом mergekit-community методом SLERP на основе mergekit-community/TopEvolution и mpasila/Kunoichi-DPO-v2-Instruct-32k-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и выполнения инструкций; поддерживает контекст до 32 768 токенов. В конфигурации слияния использована V-образная кривая весов: TopEvolution задаёт вклад на входе и выходе, а Kunoichi-DPO-v2-Instruct — в средних слоях. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Языковая специализация и лицензия в предоставленных источниках не описаны.

TurdusTrixBeagle-DARETIES-7B — текстовая авторегрессионная модель на архитектуре Mistral, созданная слиянием udkai/Turdus, CultriX/MergeTrix-7B-v2 и mlabonne/NeuralBeagle14-7B методом DARE-TIES с помощью LazyMergekit. В конфигурации указан Mistral-7B-v0.1 как базовая модель; размер итоговой модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста, диалогов и ответов на инструкции, а также для задач рассуждения и творческого письма. В README приведены результаты Open LLM Leaderboard: средняя оценка 75,20, включая 73,46 на AI2 Reasoning Challenge и 88,61 на HellaSwag. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Языки и специализированные прикладные области в доступных материалах не обозначены.

una-cybertron-7b-v3-OMA — языковая модель, разработанная juanako.ai (автор Xavier M.) и представленная OMA. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, обработанная методом UNA (Uniform Neural Alignment); автор указывает, что это не слияние слоёв и не SLERP-подобное объединение моделей. Модель предназначена для генерации текста в формате диалога или инструкций; карточка выделяет математику, логику и рассуждения, а также общие ответы, объяснения, стихи, рассказы и шутки. В README рекомендуются форматы ChatML и Alpaca System. Метаданные указывают контекст до 32 768 токенов, библиотеку Transformers и формат весов safetensors; лицензия — Apache-2.0. Карточка также заявляет, что модели UNA можно дообучать и использовать как основу для слияния, и что в ней есть цифровой водяной знак.

UNA-ThePitbull-21.4B-v2 — разговорная языковая модель от fblgit, основанная на saltlux/luxia-21.4b-alignment-v1.0. Это плотная авторегрессионная модель семейства Llama с 20,9 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста и диалогов. Версия 2 получила дополнительное обучение SFT на Replete-AI/code_bagel_hermes-2.5 и DPO на mlabonne/orpo-dpo-mix-40k и jondurbin/py-dpo-v0.1; автор также описывает применение стратегии UNA к части MLP- и attention-слоёв. Модель подходит для разговорных помощников, ответов на вопросы и генерации связного текста. В карточке приведены результаты нескольких бенчмарков, однако заявленные автором оценки не гарантируют аналогичного качества в конкретных сценариях. Доступны веса в формате Safetensors, библиотека Transformers; лицензия — AFL-3.0. README указывает отдельную GGUF-квантизацию в репозитории bartowski/UNA-ThePitbull-21.4B-v2-GGUF.

VICIOUS_MESH-12B-BETA — объединённая модель генерации текста на архитектуре Mistral, созданная автором репозитория с помощью mergekit и метода TIES. В слияние вошли VICIOUS_MESH-12B-ALPHA и Infermatic/MN-12B-Inferor-v0.1 на базе Khetterman/DarkAtom-12B-v3. Модель содержит 12,1 млрд параметров, распространяется в формате Safetensors, а в README также указана GGUF-квантизация Q4_K_M. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и работу через интерфейс вызова инструментов. Метаданные указывают поддержку английского, японского, русского, китайского, корейского и испанского языков. Заявленная длина контекста — 1 024 000 токенов; это значение значительно выше контекста, указанного для базовой Inferor 0.1, поэтому фактическую работу с таким объёмом следует проверять в используемой конфигурации. Лицензия — Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; это ограниченный набор оценок и он не гарантирует качество на конкретных задачах. Метаданные помечают модель как не предназначенную для всех аудиторий.