I.2Синтез, понимание и проверка знаний

Llama-3-8B-Magpie-Align-v0.3 — диалоговая языковая модель семейства Llama 3, разработанная Magpie-Align и дообученная на базе Meta-Llama-3-8B. Модель прошла supervised fine-tuning на наборах Magpie с данными на английском и китайском языках, а затем дополнительное обучение предпочтениям методом DPO на наборе UltraFeedback. Архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 8192 токенов. Модель предназначена для диалогов, генерации ответов на инструкции и рассуждений; китайские инструкции включены в обучающие данные. В карточке приведены результаты на Alpaca Eval 2, Arena Hard, WildBench и Zero-Eval GSM, однако они не гарантируют аналогичного качества на других задачах или языках. Для работы рекомендуется официальный шаблон чата Llama 3. Лицензия — Meta Llama 3 Community License.

DiscoResearch Llama3-German-8B-32k — плотная авторегрессионная языковая модель семейства Llama 3, разработанная DiscoResearch на основе Meta Llama 3 8B. Модель адаптирована для немецкого языка продолжительным предобучением на 65 млрд токенов и предназначена для генерации текста с длинным контекстом. В метаданных указаны 7,5 млрд параметров, контекст до 65 536 токенов, формат safetensors и библиотека Transformers; README обозначает эту версию как вариант с расширенным контекстом на 32k. Модель подходит для генерации и продолжения немецких текстов, а также для ответов на вопросы и работы с длинными документами. В README приведены начальные результаты экспериментов по нескольким бенчмаркам, включая TruthfulQA и ARC; они показывают улучшения при использовании описанного алгоритма упаковки обучающих последовательностей. Модель распространяется по лицензии Llama 3; условия лицензии следует учитывать при использовании.

llm-jp-4-33b-thinking-gguf — большая языковая модель серии LLM-jp-4, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это Transformer-модель для генерации текста, диалоговых сценариев, решения инструкций и многошаговых задач на японском и английском языках. Модель представлена в формате GGUF и предназначена для локального или серверного запуска совместимых средств вывода. Модель имеет плотную архитектуру с 33,2 млрд параметров, 64 слоями, размером скрытого состояния 5120 и 40 головами внимания. Максимальная длина контекста составляет 65 536 токенов. Токенизатор основан на Unigram byte-fallback и совместим с шаблоном чата в формате OpenAI Harmony, однако для корректной работы следует использовать токенизатор из репозитория модели. Обучение включало предварительное и промежуточное обучение на 11,7 трлн токенов, а также дообучение SFT и DPO. Сильными сторонами модели являются большой контекст, поддержка японского и английского языков, а также ориентация thinking-варианта на рассуждения и выполнение сложных инструкций. README не содержит итоговых численных оценок качества, поэтому сравнивать производительность с другими моделями по этим данным нельзя. Для запуска через llama.cpp требуется специальный fork от LLM-jp с исправлениями обработки токенизатора; стандартная upstream-версия может некорректно обрабатывать чат. Модель распространяется по лицензии Apache-2.0.

llm-jp-4-8b-instruct — японская и англоязычная языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная модель семейства Llama с 7,8 млрд параметров по метаданным и контекстом до 65 536 токенов. Репозиторий содержит веса в формате safetensors для Transformers. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она прошла предварительное и промежуточное обучение на суммарно 11,7 трлн токенов, а затем дообучение методом SFT; вариант instruct не проходил DPO. Шаблон чата совместим с форматом ответов OpenAI Harmony, но для корректной токенизации требуется токенизатор из репозитория. Разработчики предупреждают, что модели находятся на раннем этапе исследований и разработок и не были настроены для надёжного соответствия человеческим намерениям и требованиям безопасности. Модель распространяется по лицензии Apache-2.0.

LLMLingua-2-Bert-base-Multilingual-Cased-MeetingBank — модель Microsoft на базе BERT multilingual base cased, дообученная для токенной классификации и сжатия промптов без привязки к конкретной задаче. Она оценивает вероятность сохранения каждого токена и помогает сокращать текст, сохраняя важную для задачи информацию. Модель обучена на данных, подготовленных по методике LLMLingua-2, с примерами из MeetingBank. Модель рассчитана на сжатие текстовых промптов и стенограмм встреч; сжатый текст можно использовать, например, для ответов на вопросы и суммаризации. Архитектура — BertForTokenClassification, размер — 205,1 млн параметров, контекст — до 512 токенов. Указана лицензия Apache-2.0.

LwQ-10B-Instruct — инструкционно настроенная языковая модель prithivMLmods на архитектуре Llama 3.1, дообученная на основе meta-llama/Llama-3.1-8B-Instruct. Модель содержит 10,6 млрд параметров и предназначена для генерации текста и диалога на нескольких языках; в карточке заявлено контекстное окно 4096 токенов. Модель подходит для чат-ботов и виртуальных помощников, следования инструкциям, математических и логических рассуждений, решения задач по контексту, а также создания и суммаризации текстов. По README, дообучение включало синтетические наборы для рассуждений; семейство Llama 3.1 описано как авторегрессионный трансформер, а инструкция — как настроенная с использованием SFT и RLHF. Доступна в формате safetensors для Transformers. Качество может различаться между языками; сложные рассуждения могут содержать ошибки, а неоднозначные запросы ухудшают ответы. Ограниченное контекстное окно, потребность в значительных вычислительных ресурсах и отсутствие доступа к актуальным данным ограничивают применение. Лицензия — Llama 3.1.

M7Yamshadowexperiment28_Multi_verse_modelM7 — объединённая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Multi_verse_modelM7-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста, в том числе диалоговых ответов. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache 2.0. README не описывает специализацию по языкам или предметным областям, а также конкретные ограничения качества; поэтому её можно рассматривать как модель общего назначения для генерации текста.

Mamba2-primed-HQwen3-8B-Instruct — гибридная языковая модель, подготовленная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Mamba-2; модель содержит 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Она instruction-tuned и предназначена для генерации текста и диалогов, следования инструкциям и работы с длинными контекстами. Сочетание Attention и Mamba-2 сокращает долю растущего KV-кэша, что помогает повысить пропускную способность и уменьшить расход памяти при длинных последовательностях. По данным карточки, модель может уступать базовой Qwen3-8B в качестве, особенно на длинном контексте; Mamba-2 описана как менее выразительная, чем некоторые другие SSM-слои. Модель не поддерживает вызов инструментов и не генерирует специальные токены рассуждений. Доступна под лицензией Apache 2.0.

Maverick-v1.0 — объединённая языковая модель, созданная с помощью mergekit на основе Mistral-7B-Instruct-v0.2 и включающая Kunoichi-DPO-v2-7B и NeuralOmniWestBeaglake-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста и диалогового общения. Модель опубликована в формате safetensors и использует библиотеку Transformers. Объединение выполнено методом task arithmetic. Модель может применяться для ответов в чате, написания и продолжения текста, а также других сценариев генерации на естественном языке. Репозиторий распространяется по лицензии Apache-2.0; сведения о конкретной языковой специализации и оценках качества в предоставленных данных отсутствуют.

MeliodasPercival_01_AlloyingotneoyExperiment28 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyExperiment28-7B. Она предназначена для генерации текста и диалоговых сценариев, где нужно продолжать текст или формировать ответы по запросу. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Данные о специализации по языкам и прикладным областям в карточке не приведены. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

MaziyarPanahi/Meta-Llama-3.1-405B-Instruct-GGUF — это набор файлов модели в формате GGUF для Meta-Llama-3.1-405B-Instruct, разработанной Meta (meta-llama) и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии, в локальных приложениях на базе llama.cpp и совместимых библиотек и интерфейсов. Модель имеет размер 405 миллиардов параметров, относится к текстовым моделям и поддерживает языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В репозитории представлены варианты квантизации с разрядностью 2 и 3 бита; конкретные характеристики зависят от выбранного файла. В примере указано контекстное окно до 131 072 токенов. Формат GGUF упрощает локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другими инструментами. Сильными сторонами являются большой размер исходной модели, поддержка нескольких языков, инструкционное обучение, длинный контекст и возможность локального использования с квантизированными файлами. Ограничениями остаются очень высокие требования к вычислительным ресурсам, возможные потери качества из-за агрессивной квантизации и отсутствие в README подробных данных о точности, производительности и рекомендуемом оборудовании. Модель распространяется по лицензии Llama 3.1.

Meta-Llama-3.1-8B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta-Llama-3.1-8B-Instruct, разработанной Meta и подготовленной в формате GGUF пользователем bartowski. Это текстовая модель для генерации ответов по инструкциям и диалогового взаимодействия. Модель предназначена для задач text generation, включая ответы на запросы, создание и преобразование текста и другие сценарии, где требуется работа с естественным языком. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Размер базовой модели — 8B параметров; модальности и размер контекстного окна в предоставленных данных не указаны. Квантизация в формате GGUF может упростить локальный запуск и снизить требования к ресурсам по сравнению с полноразмерными весами, однако конкретный уровень квантизации в README не указан. Ограничения включают возможные ошибки и неточности генерации, а также отсутствие данных о производительности, точном варианте квантования и контекстном окне. Модель распространяется по Llama 3.1 Community License от Meta с требованиями соблюдать Acceptable Use Policy, включать текст лицензии и атрибуцию при распространении, а также использовать обозначение «Built with Llama» в предусмотренных лицензией случаях.

cyankiwi/MiniCPM-SALA-AWQ-8bit — 8-битная AWQ-квантизованная версия модели MiniCPM-SALA, разработанной OpenBMB. Модель предназначена для генерации текста, включая работу с длинными документами, анализом контекста, математическими и программными задачами. Заявлена поддержка китайского и английского языков и совместимость с Transformers. Архитектура MiniCPM-SALA сочетает 25% слоёв со sparse attention InfLLM-v2 и 75% слоёв с linear attention Lightning Attention. Гибридный подход рассчитан на эффективную работу с последовательностями длиной до 1 млн токенов и снижает требования к вычислениям и KV-кэшу; разработчики заявляют ускорение до 3,5 раза по сравнению с плотной моделью Qwen3-8B на последовательностях длиной 256 тысяч токенов. Для сохранения качества на коротком и длинном контексте используются HyPE и метод адаптации HALO. Точный размер модели в README не указан, однако упоминается класс моделей масштаба около 9B. К сильным сторонам относятся большой контекст, высокая эффективность инференса и возможность запуска на потребительских GPU, включая NVIDIA RTX 5090. Ограничения включают зависимость от специализированного программного окружения для оптимального инференса, включая CUDA 12.x или новее и компоненты SGLang; характеристики и качество именно данной AWQ-версии отдельно не приведены. Лицензия — Apache 2.0.

cloudyu/mistral_15B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на базе архитектуры Mistral и дообученная методом SFT на наборе vicgalle/alpaca-gpt4. Карточка указывает 64 слоя; в метаданных размер модели составляет 14,1 млрд параметров, а родной контекст — 32 768 токенов. Модель принимает инструкции и необязательные входные данные в шаблоне «инструкция — вход — ответ» и генерирует текстовые ответы. Модель предназначена для диалогов и выполнения инструкций общего назначения. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. README и метаданные не указывают поддерживаемые естественные языки или специализированные области применения.

Rioky/Mistral-Small-4-119B-2603-heretic-i1-gguf — набор GGUF-квантизаций модели Mistral Small 4 119B 2603 Heretic. Базовая модель разработана Mistral AI, а версия Heretic опубликована darkc0de; данный набор подготовлен Rioky. Модель предназначена для генерации текста, мультимодального анализа изображений и текста, агентских сценариев, вызова функций с JSON-выводом и задач, требующих длинного контекста. Заявлена поддержка режимов быстрого ответа и рассуждений с дополнительными вычислениями во время вывода. Модель использует архитектуру Mistral4 с разреженной Mixture-of-Experts и MLA-вниманием: всего 119 млрд параметров, из которых активируются 6,5 млрд на токен; доступны 128 экспертов, 4 из них активируются для каждого токена. Контекстное окно составляет до 256 тысяч токенов. Поддерживаются текстовый и графический ввод с текстовым выводом. Указана многоязычность, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и другие языки. К сильным сторонам относятся большой контекст, мультимодальность, функции для агентских приложений, системные инструкции и несколько вариантов квантизации с importance matrix, которая призвана лучше сохранять качество на низких битностях. Ограничения включают значительные требования к памяти: размер файлов варьируется примерно от 29 до 91 ГиБ, а качество и скорость зависят от выбранного варианта. Показатель отказов Heretic-версии в README составляет 27 из 100 против 98 из 100 у исходной модели, однако независимые оценки качества не приведены. Распространение заявлено по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование.

Moonlight-16B-A3B-Instruct — чат-модель семейства Moonlight, разработанная MoonshotAI. Это instruction-tuned вариант модели с архитектурой Mixture-of-Experts: 16 млрд параметров всего и около 3 млрд активных при генерации. Метаданные Hugging Face классифицируют её как DeepSeek V3 и указывают библиотеку Transformers; модель распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста по инструкциям. В карточке авторов Moonlight описана как обученная на 5,7 трлн токенов; длина контекста составляет 8K токенов. Авторы сообщают об улучшенной эффективности обучения Muon по сравнению с Adam, однако эти сведения относятся к результатам исследовательской работы и не гарантируют качество на каждом прикладном сценарии. Модель выпущена под лицензией MIT. В карточке не приведены конкретные ограничения качества или перечень поддерживаемых естественных языков; применимость в узких областях следует проверять отдельно.

mT5_multilingual_XLSum — модель семейства mT5, дообученная командой CSE BUET NLP на датасете XL-Sum для суммаризации текстов на 45 языках. Она принимает текст статьи или другого материала и генерирует краткое изложение; модель предназначена для многоязычной суммаризации, в том числе для языков с ограниченными ресурсами. Число параметров — 291,2 млн; архитектура — MT5ForConditionalGeneration, формат весов — PyTorch. Модель подходит для автоматического создания кратких пересказов и обработки многоязычных новостных материалов. В README приведены результаты ROUGE на тестовых наборах XL-Sum для разных языков. Карточка не сообщает об ограничениях на контекст или отдельном основном языке. Лицензия в предоставленных данных не указана.

mT5-small — компактная многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5, содержащая 157,4 млн параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в формате преобразования текста в текст; контрольные точки доступны в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи NLP: например, суммаризацию, перевод или ответы на вопросы. Сам чекпойнт проходил только предварительное обучение без supervised-настройки, поэтому для качественного решения прикладных задач его следует дообучить. Поддержка языков включает русский и английский, а также множество других языков.

mT5-XL — многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5 с 1,9 млрд параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в едином формате преобразования текста в текст; доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи обработки естественного языка, например перевод, суммаризацию и ответы на вопросы. Сам чекпойнт прошёл только предварительное обучение без обучения на размеченных задачах, поэтому перед решением прикладных задач его необходимо дообучить. Для очень крупной модели требуется достаточно памяти и вычислительных ресурсов.

NeuralHermes-2.5-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и mlabonne/NeuralHermes-2.5-Mistral-7B. Это плотная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога; максимальный контекст составляет 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не уточняет поддерживаемые естественные языки или специализированные области применения. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Качество ответов может варьироваться в зависимости от запроса; отдельные ограничения производительностью и поведением в README не описаны.

MaziyarPanahi/NeuralsirkrishnaShadow_Experiment24Alloyingotneoy — объединённая языковая модель, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment24Alloyingotneoy-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; контекст — до 32 768 токенов. Модель предназначена для генерации текста общего назначения. Веса опубликованы в формате safetensors по лицензии Apache-2.0. В карточке нет сведений о специализированных областях применения или языковом охвате, поэтому они здесь не заявляются.

next-12b-i1-GGUF — квантизированная версия модели next-12b от thelamapi, подготовленная mradermacher в формате GGUF. Это плотная causal transformer-модель примерно на 12 миллиардов параметров, предназначенная для локального запуска и генерации текста. В README она обозначена как vision model, поэтому может поддерживать мультимодальные сценарии при наличии соответствующего mmproj-файла, однако конкретные возможности обработки изображений не описаны подробно. Модель ориентирована на диалог, ответы на вопросы, суммаризацию, творческое письмо, рассуждения, программирование и работу с текстами в специализированных областях, включая химию, биологию, финансы и право. Для дообучения использовались наборы данных с инструкциями, математическими задачами, рассуждениями, диалогами и письменными запросами. Заявлена поддержка множества языков, включая английский, турецкий, русский, немецкий, французский, испанский, китайский, японский, корейский и другие. Репозиторий содержит варианты квантизации от i1-IQ1_S до i1-Q5_K_M и более качественные или компактные сборки с разным размером примерно от 3 до 8,5 ГБ. Квантизация снижает требования к памяти и позволяет запускать модель локально, но может ухудшать качество по сравнению с исходной версией; наиболее сбалансированными в README названы i1-Q4_K_S и i1-Q4_K_M. Размер контекста и точные показатели качества не указаны. Лицензия модели — MIT.

nyun-c2-llama3-61B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Nyun AI. Она содержит 76,2 млрд параметров и рассчитана на генерацию текста с контекстом до 8 192 токенов. Модель предназначена для генерации и продолжения текста, диалоговых сценариев и задач на понимание языка. В README авторы сообщают, что модель получена оптимизацией без дополнительного дообучения и показывает результаты выше Llama 3 70B в нескольких приведённых бенчмарках, хотя уступает ей в MMLU. Файлы опубликованы в формате safetensors. Для использования действует лицензия Llama 3. Русский язык и специализированные предметные области в предоставленных источниках не заявлены.

OCC-RAG-0.6B — компактная языковая модель для ответов на вопросы, основанных на предоставленных источниках. Её разработала команда OCC AI; модель дообучена на базе Qwen/Qwen3-0.6B-Base и содержит около 508 млн параметров. Это плотная причинная языковая модель на архитектуре Qwen3, принимающая текстовый вопрос и список текстовых источников. Контекст модели составляет 32 768 токенов. Модель анализирует вопрос и источники, объединяет свидетельства из нескольких фрагментов, приводит ссылки на источники по их идентификаторам и отвечает только тогда, когда контекст подтверждает ответ. Если данных недостаточно, она может воздержаться от ответа. В карточке описано обучение на синтетических примерах вопросов и ответов с привязкой рассуждений к цитатам и оценивание на задачах многошагового QA, верности контексту и отказа от неподтверждённых ответов. Модель предназначена для RAG-сценариев, например ответов по документам и базам знаний. Она не рассчитана на общие беседы или использование собственных знаний модели; обучение и оценивание охватывали цепочки рассуждений до трёх шагов, поэтому более длинные цепочки находятся вне заявленного распределения. Лицензия — MIT.

open-aditi-hi-v2 — языковая модель от manishiitg, дообученная на основе teknium/OpenHermes-2.5. Она предназначена для диалогов и генерации текста на хинди и английском языках. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; нативная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка приводит результаты оценки на наборах для вопросов и ответов, рассуждений, суммаризации, перефразирования и определения тональности на хинди и английском. Модель можно применять для многоязычных чат-ботов, ответов на вопросы и создания кратких текстов. Лицензия — Apache-2.0. Показатели в таблицах зависят от набора данных и метрики и сами по себе не гарантируют качество в конкретном приложении.

OpenPipe-7B-slerp — текстовая генеративная модель на архитектуре Mistral, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев с использованием возможностей объединённых исходных моделей. Модель принимает текст и выдаёт текст. Лицензия — Apache-2.0. В карточке не приводятся сравнительные оценки качества или подробности обучения после слияния.

Ornstein3.6-35B-A3B-GGUF — набор GGUF-квантизаций модели DJLougen/Ornstein3.6-35B-A3B, опубликованный для локального запуска. Это дообученная модель семейства Qwen 3.6 с архитектурой Qwen3_5MoeForCausalLM и поддержкой сценариев генерации текста; репозиторий также содержит мультимодальные конфигурации и файлы визуальной башни для обработки изображений и видео, однако существующие GGUF-бинарники при обновлении метаданных не переписывались. Модель использует архитектуру mixture-of-experts с 34,66 млрд параметров, из которых около 3 млрд активны для каждого токена. В ней 256 экспертов, выбираются 8 экспертов на токен, предусмотрены чередующиеся линейное и полноразмерное внимание, а также Gated Delta Net. Контекст составляет до 262 144 токенов, скрытый размер — 2048, число слоёв — 40, словарь — 248 320 токенов. Доступны варианты квантизации от 8 до примерно 2,6 бит; версии ниже 8 бит частично созданы с importance matrix на смешанном многоязычном корпусе. Сильная сторона модели — сочетание большого общего числа параметров с относительно небольшим числом активных параметров, что делает локальный инференс более доступным по памяти. Для лучшего качества рекомендуется Q4_K_M или выше; Q5_K_M описывается как удачный баланс качества и размера, а Q8_0 — как почти без потерь. Низкобитные варианты требуют компромисса по качеству, причём у MoE-моделей деградация при сильной квантизации может быть заметнее. Для запуска подходят llama.cpp, LM Studio, Ollama, koboldcpp и text-generation-webui при наличии поддержки Qwen3_5MoeForCausalLM и Gated Delta Net. Модель распространяется по лицензии Apache 2.0, унаследованной от базового релиза Qwen 3.6.

FiditeNemini/Qwen2.5-14B-DeepSeek-R1-1M-Uncensored — объединённая модель на 14 млрд параметров, созданная с помощью mergekit и метода TIES на основе mkurman/Qwen2.5-14B-DeepSeek-R1-1M с включением huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2. Она использует архитектуру Qwen2 с плотной языковой моделью для генерации текста и диалогов; заявленная длина контекста составляет около 1,01 млн токенов. Модель предназначена для диалогового взаимодействия и генерации текста с поддержкой интерфейса вызова инструментов. Многоязычная поддержка, включая конкретные языки, в предоставленных данных не описана. В названии и базовой модели указано ослабление отказов, поэтому поведение модели может быть менее ограничительным. Файлы представлены в формате safetensors; лицензия в доступных данных не приведена.

bartowski/Qwen2.5-7B-Instruct-1M-GGUF — набор GGUF-квантизаций модели Qwen2.5-7B-Instruct-1M, подготовленный bartowski на основе модели Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях и запуск через llama.cpp или LM Studio. В README указана поддержка английского языка. Модель содержит около 7 миллиардов параметров и рассчитана на контекст до 1 миллиона токенов, что подходит для обработки очень длинных документов и многошаговых диалогов. Доступны варианты от F32 и F16 до различных типов квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы с imatrix-квантизацией. Размер файлов варьируется примерно от 3,5 до 30,5 ГБ; более компактные варианты снижают требования к памяти, но могут ухудшать качество ответов. Для работы следует использовать шаблон сообщений Qwen с ролями system, user и assistant. Наиболее качественными в README названы варианты Q6 и Q5, а Q4_K_M описан как типичный компромисс между размером и качеством. Модель распространяется по лицензии Apache-2.0; конкретные требования и ограничения исходной модели следует проверять в её лицензии.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-FP8-Dynamic — квантизированная версия модели Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled, подготовленная пользователем mconcat. Это Qwen3.5-27B, дообученная методом distillation на данных с рассуждениями, связанными с Claude Opus, и предназначенная для генерации текста, решения сложных задач и сценариев, требующих развитого reasoning. Модель поддерживает английский и китайский языки, а также имеет визуальный энкодер, однако README не уточняет полный набор мультимодальных возможностей. Модель использует гибридную архитектуру DeltaNet и softmax attention: 64 слоя, из которых 48 используют DeltaNet, а 16 — обычное внимание; применяется GQA с 24 query-heads и 4 KV-heads. Размер скрытого представления — 5120, промежуточный размер MLP — 17408, словарь содержит 248320 токенов, максимальная длина позиции — 262144 токена. Благодаря рекуррентному состоянию DeltaNet только 16 слоёв требуют растущего KV-кэша, что повышает эффективность работы с длинным контекстом. Используется динамическая FP8 W8A8-квантизация в формате compressed-tensors: веса линейных слоёв хранятся в FP8, а чувствительные компоненты, включая lm_head, embeddings, нормы, роутеры MoE и визуальный энкодер, сохраняются в BF16. Размер модели на диске составляет около 29 ГБ, заявленная деградация perplexity относительно BF16 — около 1,4%. Для работы рекомендуется GPU с объёмом памяти от 48 ГБ, оптимально NVIDIA RTX PRO 6000 на 96 ГБ; на одной RTX 5090 модель практически не оставляет памяти для контекста. Поддерживаются vLLM, Transformers и SGLang, но не llama.cpp/GGUF; для отдельных 32-гигабайтных Blackwell GPU указаны проблемы совместимости с vLLM. Лицензия — Apache-2.0.