I.7Речь, диалоги и встречи

Qwen3.6-Whittle-25B-A3B — текстовая MoE-модель для диалогов и генерации текста, созданная автором проекта Whittle на основе Qwen3.6-35B-A3B. В основной версии репозитория удалены 30% маршрутизируемых экспертов базовой модели (256 → 180 на слой), а оставшиеся веса дообучены с помощью самодистилляции от исходной модели. Общее число параметров по метаданным — 2,9 млрд; модель поддерживает контекст до 262 144 токенов. В репозитории также описаны отдельные экспериментальные и GGUF-артефакты, поэтому характеристики конкретных файлов различаются. Модель предназначена для диалогов, следования инструкциям и агентных сценариев; метаданные отмечают интерфейс вызова инструментов. Карточка приводит результаты небольших проверок и указывает на близкую к исходной модели точность в отдельных заданиях, но эти результаты основаны на малом числе примеров. Для текстового и кодового дополнения в стиле базовой модели автор отмечает потерю качества без удалённой n-граммной памяти. Метаданные указывают лицензию Apache-2.0.

lued/Qwen3.8-27B-huihui-abliterated-INT8-W8A16-DFlash2 — квантованная версия Huihui-Qwen3.8-27B-abliterated, разработанная на базе моделей huihui-ai и Qwen. Это мультимодальная conversational-модель с поддержкой текста и изображений, предназначенная для диалогов, генерации текста, задач рассуждения, tool calling и работы с длинным контекстом. Модель рассчитана на запуск через vLLM и потребительское оборудование, в частности две видеокарты RTX 3090. Модель содержит 27B параметров, использует формат W8A16 с весами INT8 и активациями FP16 или BF16, а также поддерживает контекст до 262 144 токенов. Для ускорения генерации применяется speculative decoding с отдельной моделью-черновиком DFlash2, которая предлагает до 7 токенов за шаг. Размер основной модели составляет около 28 GiB в шести шардах, размер drafter — около 2,02 GiB. По данным README, квантование сохраняет 98,5% совпадения следующего токена с исходной BF16-моделью при среднем KLD 0,000694. Сильные стороны модели — уменьшенный вдвое размер относительно BF16-версии, поддержка длинного контекста, vision tower, thinking controls и tool calling, а также заявленное ускорение генерации на RTX 3090. Ограничения включают необходимость двух GPU с общим объёмом памяти 48 ГБ для заявленного сценария, использование неподдерживаемого в стабильном vLLM DFlash2 с дополнительными патчами и отсутствие собственных измерений скорости именно для этой сборки; приведённые показатели производительности относятся к родственному варианту. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-MLX — сборка официальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и адаптированной OrcaRouter для MLX. Это мультимодальная vision-language модель с поддержкой текста и изображений, ориентированная на запуск на устройствах Apple Silicon. Заявлены английский и китайский языки, управление режимом рассуждений, вызов инструментов и Multi-Token Prediction (MTP) для ускорения спекулятивной генерации. Модель имеет 27 миллиардов параметров и плотную гибридную архитектуру, сочетающую линейное внимание Gated DeltaNet с полноразмерным attention. Доступны аффинные варианты квантования на 4, 6 и 8 бит: примерно 16, 24 и 31 ГБ соответственно. Визуальная башня, нормализационные и свёрточные слои сохраняются в BF16, а линейные веса языковой модели квантуются. Вариант 8-bit обеспечивает качество, близкое к BF16, 6-bit предлагает компромисс между качеством и объёмом, а 4-bit предназначен для повседневного использования при меньших требованиях к памяти. Модель подходит для диалоговых приложений, анализа изображений, генерации текста, задач рассуждения и сценариев с вызовом функций. Для ускорения генерации доступен отдельный MTP-драфтер, совместимый с любой основной точностью. Ограничениями являются значительные требования к оперативной памяти, зависимость от актуальных версий mlx-vlm и MLX, а также преимущественная ориентация на Apple Silicon; для vision-режима на CUDA требуется дополнительная настройка. Репозиторий распространяется по лицензии Apache 2.0.

Qwen3.8-27B-OQ3-GGUF — квантованная версия Qwen3.8-27B, подготовленная Ora Computing методом посттренировочной калибровочной квантизации. Модель предназначена для диалогов и генерации текста; с дополнительным vision-проектором GGUF поддерживает также входные изображения и видео. Репозиторий содержит файл модели размером 10,54 ГБ со средней точностью 3,026 бита на вес и отдельный проектор изображения размером 0,93 ГБ. В основной файл встроена голова многотокенного предсказания, которую можно использовать для ускорения декодирования в совместимых версиях llama.cpp. По приведённым в карточке тестам модель сохраняет 95,4% совокупного результата исходной версии bf16 на MMLU-Pro и AIME-25, занимая примерно в 5,3 раза меньше места. Для запуска автор рекомендует llama.cpp; заявленный родительский чекпойнт — Qwen/Qwen3.8-27B. Лицензия указана как other, поэтому условия использования следует проверять на странице репозитория.

DavidAU/Qwen3-8B-64k-Context-2X-Josiefied-Uncensored — текстовая генеративная модель на архитектуре Qwen3ForCausalLM с 7,6 млрд параметров, подготовленная DavidAU на основе Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Автор указывает, что контекст увеличен с 32 768 до 65 536 токенов с помощью метода YaRN. Модель рассчитана на диалоговую генерацию и рассуждения; в репозитории доступны веса safetensors для прямого использования или подготовки квантованных вариантов. Модель подходит для продолжительных диалогов, работы с длинными текстовыми запросами и ролевых сценариев. Для «мышления» и генерации ответа автор рекомендует выделять 8–16 тысяч токенов контекста. Указаны шаблоны Jinja и ChatML. В метаданных заявлен интерфейс вызова инструментов, однако README не описывает его настройку. Сведения о лицензии в предоставленных данных отсутствуют.

Это квантованный вариант Qwen/Qwen3.8-Flash-Next, подготовленный с помощью AutoRound и схемы MXFP4-Mixed. Репозиторий содержит веса в формате safetensors; модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. В README приведены результаты оценки на нескольких тестах и измерения на контексте длиной 131 072 токена. Для запуска требуется сборка vLLM с поддержкой MXFP4-Mixed и архитектуры модели. Для FP8-кэша KV его нужно включить отдельным параметром времени запуска; README также описывает ограничения совместимости некоторых сборок vLLM с этой архитектурой и форматом compressed-tensors. Лицензия наследуется от исходной модели Qwen/Qwen3.8-Flash-Next.

Sakalti/QwenPass-4 — объединённая методом passthrough языковая модель на архитектуре Qwen2, созданная Sakalti с помощью mergekit на основе Sakalti/light-7b-beta. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель содержит 3,8 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В репозитории представлены веса в формате safetensors для библиотеки Transformers. Лицензия — Apache-2.0.

QwenQwen2.5-7B-IT-Dare — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES на основе Qwen/Qwen2.5-7B-Instruct. В карточке перечислена только эта базовая модель, поэтому объединение фактически описано как слияние её весов с коэффициентами 1 и плотностью 1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Она подходит для диалогов и генерации текста, а интерфейс также поддерживает вызов инструментов. Репозиторий использует библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана. Как и у базовой модели, качество ответов может зависеть от запроса; карточка не приводит результатов оценки или специальных ограничений применения.

Ramonda Monarch 7B — объединённая модель для генерации текста, опубликованная mayacinka. Она создана методом DARE-TIES с помощью LazyMergekit на основе bardsai/jaskier-7b-dpo-v5.6, eren23/ogno-monarch-jaskier-merge-7b, liminerity/Omningotex-7b-slerp и yleo/OgnoMonarch-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и ответов на запросы; в карточке приведены результаты нескольких языковых и логических бенчмарков. Доступны веса в формате safetensors с точностью bfloat16. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, условия использования могут зависеть от лицензий исходных моделей; перед применением следует проверить их отдельно.

Re:ultiima-14B — языковая модель, созданная TeamDelta слиянием весов через TIES с помощью mergekit. В основу взята предобученная Qwen/Qwen2.5-14B, в слияние также включена Qwen/Qwen2.5-14B-Instruct. Модель имеет плотную архитектуру Qwen2 с 14 млрд параметров и контекстным окном до 131072 токенов. Модель предназначена для генерации текста и диалогов на английском и китайском языках; метаданные также отмечают интерфейс вызова инструментов. Она распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит оценок качества или специальных ограничений применения. Как и другие языковые модели, ответы могут быть ошибочными; возможности вызова инструментов обозначают интерфейсную поддержку и сами по себе не гарантируют корректное выполнение действий.

Rombos-LLM-70b-Llama-3.3 — дообученная диалоговая языковая модель на архитектуре Llama, опубликованная пользователем rombodawg. Она предназначена для генерации текста и общения в формате инструктивного ассистента; метаданные также указывают интерфейс вызова инструментов. Модель содержит 69,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. В качестве основы указана meta-llama/Llama-3.3-70B-Instruct, мультиязычная инструктивная модель Meta. README не раскрывает подробности обучения или особые сценарии применения. Лицензия — llama3.3.

RuadaptQwen2.5-7B-Lite-Beta — русскоязычная адаптация модели T-lite-it-1.0, опубликованная RefalMachine. В README описаны замена токенизатора, продолжение предобучения на русскоязычном корпусе и применение техники LEP (Learned Embedding Propagation); метаданные указывают на объединение Qwen/Qwen2.5-7B и t-tech/T-lite-it-1.0. Это плотная авторегрессионная модель семейства Qwen2 с 7 млрд параметров, предназначенная для генерации текста и диалогов. Контекст — до 32 768 токенов. Расширенный токенизатор на основе tiktoken cl100k и униграмного словаря на 48 тысяч токенов, по заявлению авторов, повышает скорость генерации русскоязычного текста до 60% относительно T-lite-it-1.0. Модель оценивали на Ru-Arena-General, MERA и llmtf_open, однако README приводит неполные результаты и указывает на использование repetition_penalty=1.1 в замерах Ru-Arena-General. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Авторы предупреждают, что ответы отражают данные обучения, и отмечают отсутствие контроля над предобучением исходной модели.

Saba1-7B — слитая модель для генерации текста и диалогов, созданная Sakalti методом TIES с помощью mergekit. В слиянии использованы AIDC-AI/Marco-o1 и базовая Sakalti/model-3; архитектура Qwen2, около 7,1 млрд параметров, веса в формате safetensors и точности bfloat16. Модель работает через библиотеку Transformers и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и других задач генерации текста; метаданные также отмечают интерфейс вызова инструментов. Лицензия в доступных сведениях не указана.

Seamaiiza-7B-v2-128k — языковая модель AlekseiPravdin для генерации текста и диалогов. Это слияние двух моделей с помощью mergekit и метода SLERP: AlekseiPravdin/Seamaiiza-7B-v1 и AlekseiPravdin/KSI-RP-NSK-128k-7B. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров; веса представлены в формате safetensors. Модель подходит для генерации продолжений текста и ведения диалогов. В названии и карточке базовой модели заявлен контекст до 128k токенов, однако метаданные этой модели указывают native context 32 768 токенов, поэтому возможность работы с 128k токенов не подтверждена для данного репозитория. Лицензия — Apache-2.0.

slerp-test-turdus-beagle — текстовая генеративная модель объёмом 7,1 млрд параметров, созданная объединением udkai/Turdus и mlabonne/NeuralBeagle14-7B методом SLERP с помощью LazyMergekit. Модель основана на архитектуре Mistral и распространяется в формате Safetensors; для неё заявлено контекстное окно до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и творческих задач. В карточке приведены результаты оценок на бенчмарках AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0. Метаданные указывают на объединение двух базовых моделей; README также приводит OpenPipe/mistral-ft-optimized-1218 как базовую модель в конфигурации слияния.

Smaug Dolphin 60B — объединённая методом MoErge языковая модель на архитектуре Mixtral, созданная на основе abacusai/Smaug-34B-v0.1 и cognitivecomputations/dolphin-2.2-yi-34b-200k. Она предназначена для диалоговой генерации текста. В метаданных указаны 33,9 млрд параметров и контекст до 200 000 токенов; репозиторий содержит веса в формате safetensors. В README приведены результаты оценивания на бенчмарках рассуждений и понимания текста, включая средний балл 76,44, ARC и HellaSwag. Карточка сообщает, что модель работает ожидаемо, а оценки ещё проводятся. Лицензия обозначена как other, поэтому условия использования следует сверять с файлами лицензии репозитория.

macadeliccc/SOLAR-10.7b-Instruct-dpo — диалоговая языковая модель, созданная дообучением upstage/SOLAR-10.7B-Instruct-v1.0 на наборе Intel/orca_dpo_pairs. Это плотная авторегрессионная модель семейства LLaMA с 10,6 млрд параметров, предназначенная для генерации ответов в формате чата. Она использует шаблон ChatML и рассчитана на контекст до 4096 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и задач рассуждения на естественном языке. В README приведены результаты нескольких бенчмарков и сравнение с базовой моделью, однако они не гарантируют качество на конкретных данных или сценариях. Доступна лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

QuantFactory/Sparse-Llama-3.1-8B-2of4-GGUF — квантизированная версия разреженной текстовой модели Sparse-Llama-3.1-8B-2of4, созданная QuantFactory с использованием llama.cpp. Базовая архитектура — Llama-3.1-8B; исходную разреженную модель разработала Neural Magic на основе Meta Llama 3.1 8B. Модель принимает текст и генерирует текст. Модель предназначена для задач генерации текста и общего языкового моделирования, включая понимание языка, ответы на вопросы, рассуждения и работу с текстовыми запросами. Ключевая оптимизация — разреженность 2:4: в каждой группе из четырёх весов сохраняются два, а два удаляются. Для восстановления качества после pruning использовались обучение с дистилляцией знаний на 13 млрд токенов, SparseGPT и подход SquareHead. Формат GGUF ориентирован на запуск через llama.cpp; в исходной карточке также указана возможность эффективного развертывания через vLLM. По данным OpenLLM, средняя оценка составляет 62,16 против 63,19 у плотной Llama-3.1-8B, что соответствует 98,37% восстановления точности. На Mosaic Eval Gauntlet средняя оценка равна 53,85 против 55,34, или 97,3% восстановления. Основное преимущество — снижение избыточности модели при сохранении большей части качества исходной версии; ограничениями являются возможное ухудшение результатов на отдельных задачах и отсутствие в предоставленных данных сведений о поддерживаемых языках, длине контекста, точных параметрах квантизации и требованиях к оборудованию. Лицензия указана как llama3.1.

StrangeMerges_54-7B-model_stock — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Gille с помощью LazyMergekit и метода model_stock. В конфигурации указаны несколько исходных моделей, включая Gille/StrangerPerciVaaled_Strange-7B-slerp в качестве базовой; метаданные также связывают модель с другими объединёнными чекпойнтами.

Stylizer-V2-LLaMa-70B — объединённая языковая модель на архитектуре Llama, созданная автором репозитория с помощью mergekit и метода SCE. Основой слияния послужила huihui-ai/Llama-3.3-70B-Instruct-abliterated; также объединены модели Nemotron, Euryale, Hermes и Negative LLAMA. Модель содержит 69,5 млрд параметров и рассчитана на генерацию текста и диалоги. Метаданные указывают контекст длиной до 131072 токенов и библиотеку Transformers. Модель принимает текст и выдаёт текст; карточка не описывает более узкую специализацию или гарантированные преимущества по сравнению с исходными моделями. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не указана.

T3qm7xNeuralsirkrishna_Experiment28Experiment26 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Experiment26-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Tess-2.0-Mixtral — языковая модель общего назначения из серии Tess, разработанной migtissera. Она обучена на базе mistralai/Mixtral-8x7B-v0.1 и использует архитектуру MixtralForCausalLM с разреженной архитектурой MoE. Модель предназначена для генерации текста и диалогов; формат запросов включает роли SYSTEM, USER и ASSISTANT. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors, лицензия — Apache-2.0. В карточке указано, что модель uncensored; она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент, поэтому результаты следует проверять.

Tess-M-v1.3 — языковая модель общего назначения из серии Tess, разработанной migtissera. Модель построена на архитектуре Llama и дообучена на базе Yi-34B-200K; размер составляет 33,9 млрд параметров. Она принимает текст и генерирует текст, используя формат диалога с ролями SYSTEM, USER и ASSISTANT. Модель предназначена для диалогов и генерации ответов, в том числе при работе с длинным контекстом до 200 000 токенов. В README указано, что версия 1.3 — стабильный выпуск, а при тестировании на длинных контекстах наблюдались редкие незначительные повторы. Лицензия обозначена в метаданных как other; конкретные условия следует проверять на странице модели.

Twilight-XL-195B — объединённая авторегрессионная языковая модель, созданная softwareweaver с помощью mergekit методом passthrough на основе Twilight-Large. Архитектура — плотная MistralForCausalLM; размер составляет 192,8 млрд параметров, формат весов — safetensors. Для общения используется формат промпта Mistral Large; модель также поддерживает интерфейс вызова инструментов. Модель предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 131 072 токена. Карточка не описывает отдельную специализацию или результаты оценки качества. Репозиторий распространяется по лицензии other, поэтому условия использования следует уточнять в сопровождающих лицензионных материалах.

nlpguy/Westgate — слитая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из jsfs11/TurdusTrixBeagle-DARETIES-7B и senseable/garten2-7b. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста; заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, следования инструкциям и рассуждений, а результаты тестирования в README включают показатели на AI2 Reasoning Challenge и HellaSwag. Карточка не описывает специализацию по языку или предметной области. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

WestKunai-Hermes-long-128k-test-7b — слитая языковая модель на архитектуре Mistral, созданная автором seyf1elislam с помощью mergekit из WestKunai-Hermes-7b и NousResearch/Yarn-Mistral-7b-128k. Модель содержит 7,1 млрд параметров и предназначена для генерации текста.

Wiederchat-7b-dpo-laser — чат-модель для генерации текста, созданная mayflowergmbh. Это объединение трёх моделей на архитектуре Mistral: mlabonne/OmniTruthyBeagle-7B-v0, mayflowergmbh/Wiedervereinigung-7b-dpo-laser и cognitivecomputations/openchat-3.5-0106-laser. Веса представлены в формате safetensors; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов. В README приведены результаты оценки Mt-Bench-De, включая категории письма, ролевого общения, рассуждений, математики, программирования, извлечения информации, STEM и гуманитарных дисциплин. Базовая модель описана как немецкоязычная, поэтому немецкий — основной язык модели; результаты теста сами по себе не гарантируют качество в конкретных сценариях. Условия лицензирования в предоставленных данных не описаны.

Zamba2-7B-Instruct — диалоговая языковая модель Zyphra, дообученная на наборах данных для следования инструкциям и общения на основе Zyphra/Zamba2-7B. Это плотная гибридная архитектура, сочетающая слои пространства состояний Mamba2 с блоками внимания Transformer; общие веса внимания и LoRA-проекции помогают ограничить дополнительные параметры. В метаданных указано 16,8 млрд параметров, а базовый контекст составляет 4096 токенов. Модель предназначена для генерации ответов в чате, выполнения инструкций, рассуждений и других задач общего назначения. В README описан экспериментальный режим контекста до 16 тысяч токенов с резким снижением качества примерно после 18 тысяч. Разработчик заявляет о низкой задержке генерации и меньших затратах памяти по сравнению с сопоставимыми трансформерными моделями, однако оптимизированные ядра Mamba2 требуют отдельной установки; без них задержка и расход памяти значительно выше. Также README предупреждает о временной реализации Hugging Face, совместимость которой с некоторыми инструментами может быть неполной. Лицензия — Apache-2.0.

Zelensky — экспериментальная командная модель V1, созданная автором nisten на основе семейства Qwen2.5. По карточке, модель обучали один проход с низкой скоростью обучения и многократно объединяли с тремя другими моделями; метаданные также указывают связь merge с Qwen/Qwen2.5-72B-Instruct и другими вариантами Qwen2.5 и ChatWaifu. Это плотная причинно-языковая архитектура Qwen2 с 76,7 млрд параметров и контекстом до 98 304 токенов. Модель предназначена для диалогов и генерации текста; каталог также отмечает интерфейс вызова инструментов. В карточке упоминаются прогоны GPQA Diamond Zero-shot на LM Eval Harness, но результаты оценки не приведены. Указана лицензия MIT, а автор отдельно отмечает, что продолжает действовать лицензия Qwen.

Это диалоговая модель генерации текста на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель разработана ShenaoZ и дообучена на основе ShenaoZ/0.00005_withdpo_4iters_bs256_5102lr_iter_2 методом DPO на обновлённом и исходном наборах данных. Модель предназначена для диалога и генерации текста. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии MIT.