I.3Извлечение и структурирование данных

GPT-OSS-Swallow 120B RL v0.1 MXFP4 — крупная двуязычная языковая модель, разработанная командой Tokyo Institute of Technology (Tokyo Tech) на базе GPT-OSS. Модель содержит 120 млрд параметров и предназначена для генерации текста, рассуждений, работы с математическими задачами, программным кодом, японско-английским переводом и другими сценариями, требующими понимания японского и английского языков. Данная версия распространяется в формате MXFP4 и ориентирована на запуск через Transformers и vLLM. Модель обучалась в несколько этапов: Continual Pre-Training, Supervised Fine-Tuning и Reinforcement Learning with Verifiable Rewards. Для улучшения японского языка и перевода использовались специализированные процедуры обучения, а математические и кодовые датасеты помогли сохранить STEM-компетенции и снизить деградацию этих навыков. Среди сильных сторон заявлены двуязычная специализация, повышенное качество японско-английского перевода, математические и программные способности, а также уровень рассуждений, сопоставимый с исходными моделями GPT-OSS или превосходящий их в отдельных задачах. В карточке не указаны точная архитектура, токенизатор и максимальная длина контекста: за этими сведениями предлагается обращаться к документации GPT-OSS. Модель требует значительных вычислительных ресурсов из-за размера; для наиболее надежной и воспроизводимой работы рекомендуется vLLM, при этом поддерживается распределение по нескольким GPU. Лицензия Apache-2.0.

harkov000/hermes-dolphin-8B — объединённая модель на архитектуре Llama, созданная методом SLERP из NousResearch/Hermes-3-Llama-3.1-8B и cognitivecomputations/dolphin-2.9.4-llama3.1-8b. Репозиторий содержит веса в формате safetensors; размер модели — 7,5 млрд параметров, заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговой генерации текста и следования инструкциям; метаданные также отмечают интерфейс вызова инструментов. Её можно применять для ответов на вопросы, рассуждений, помощи с кодом и сценариев с использованием инструментов. Базовая модель Hermes 3 ориентирована на английский язык; карточка этой объединённой модели не уточняет языковой охват. Модель опубликована 23 октября 2024 года. Условия лицензии в предоставленных данных не приведены.

li-14b-v0.4 — языковая модель на 14 млрд параметров от wanlige, объединённая с помощью mergekit методом Model Stock. В качестве основы использована Qwen/Qwen2.5-14B-Instruct; в слияние также вошли Qwen2.5-Coder-14B, DeepSeek-R1-Distill-Qwen-14B и другие модели семейства Qwen. Модель имеет плотную архитектуру Qwen2 и доступна в формате safetensors. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, выполнение инструкций, рассуждения и задачи, связанные с кодом. Поддерживает контекст до 32 768 токенов; в карточке указаны китайский, английский, французский и немецкий языки. Для инференса используется библиотека Transformers. Лицензия — Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая оценку IFEval 81,33 и MATH Level 5 55,74; они характеризуют тестирование автора и не гарантируют качество на пользовательских задачах. Модель объединяет несколько чекпойнтов, поэтому её поведение и качество могут различаться между типами задач; независимые подробные оценки в карточке не представлены.

OpenChat 3.5 — диалоговая языковая модель, разработанная командой OpenChat и дообученная методом C-RLFT на смеси публичных инструкционных данных разного качества. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текстовые сообщения, выдавая текстовые ответы в формате диалога. Модель предназначена для общения с пользователем, ответов на вопросы и выполнения инструкций; её также можно применять для генерации и объяснения кода, математики и рассуждений. Заявленный контекст — 8192 токена. В README приведены результаты на нескольких бенчмарках, включая MT-Bench, HumanEval и GSM8K; эти результаты зависят от методики оценки и не гарантируют качество в конкретной задаче. Модель распространяется по лицензии Apache-2.0. Разработчики предупреждают о возможных ошибках и вымышленных сведениях, слабых местах в сложных рассуждениях, математике и программировании, а также о вероятности вредных или предвзятых ответов; важные результаты следует проверять, а для чувствительных сценариев применять дополнительные меры безопасности.

Phi-3-Small-128K-Instruct — компактная языковая модель Microsoft семейства Phi-3 с архитектурой Phi3SmallForCausalLM и примерно 8,2 млрд параметров по метаданным. Она предназначена для генерации текста и диалоговых сценариев, включая задачи на рассуждение, математику и программирование. Модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных; для следования инструкциям и повышения безопасности прошла supervised fine-tuning и direct preference optimization. Карточка описывает вариант с контекстом 128K токенов, однако метаданные указывают native_context_tokens 8192, поэтому заявленную поддержку длинного контекста следует проверить для конкретной версии и конфигурации. Модель ориентирована прежде всего на английский язык; для других языков качество может быть ниже. Она может выдавать неточные или вымышленные сведения, воспроизводить стереотипы и генерировать оскорбительный контент; сгенерированный код и API следует проверять. Лицензия — MIT.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill — плотная языковая модель на 14 млрд параметров, дообученная TeichAI на наборе примеров рассуждений Claude Opus 4.5 с высоким уровнем reasoning. Она основана на unsloth/Qwen3-14B и предназначена для генерации текста в диалогах, задач программирования, науки и общего назначения. Модель принимает текст и генерирует текст; заявленный контекст составляет 40 960 токенов. В карточке не указаны поддерживаемые естественные языки. Модель опубликована в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Brian6145/Qwen3.6-27B-Claude-Opus-DeepSeek-Distilled-Imatrix-MTP-GGUF — квантизированная модель в формате GGUF на базе Qwen/Qwen3.6-27B, разработанная Brian6145. Модель предназначена для локального запуска, агентских сценариев, использования инструментов, ReAct-подхода и выполнения длинных последовательностей задач. Заявлены улучшения в структурированном рассуждении, оркестрации инструментов, следовании инструкциям, математике и логическом выводе за счёт дистилляции из Claude Opus, DeepSeek и математических и логических моделей. Модель поддерживает английский и китайский языки и ориентирована на генерацию текста. Указаны архитектурная база Qwen3.6-27B, квантизация q4_k_m, поддержка speculative decoding через MTP и работы с длинным контекстом, однако точный размер контекстного окна не приведён. В README заявлены результаты BenchLocal 6-pack — 86,5, GPQA-Diamond-198 — 83,84% и MMLU-500 — 91,80%, а также высокая эффективность в задачах вызова инструментов, поиска ошибок и структурированного вывода. Ограничения включают некоторое снижение результата в DataExtract-15 по сравнению с базовой моделью и чувствительность агентного поведения к параметрам генерации. Рекомендуются temperature 0.6 и top_p 0.95; для заявленной производительности также указан режим q4_k_m с MTP=3. Модель распространяется по лицензии Apache-2.0.

Misted v2 7B — языковая модель на архитектуре Mistral, созданная автором репозитория hflog слиянием нескольких моделей Mistral и misted-7b методом SLERP. Модель предназначена для генерации текста, написания кода, выполнения инструкций, решения загадок и диалогового общения. Модель содержит 7,1 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате safetensors для Transformers. В метаданных указаны английский и испанский языки. Модель доступна по лицензии Apache 2.0.

XVERSE-13B-Chat — диалоговая версия языковой модели XVERSE-13B, разработанной компанией Shenzhen Yuanxiang Technology. Это плотная авторегрессионная модель с архитектурой Decoder-only Transformer и 13,2 млрд параметров, предназначенная для генерации ответов и ведения многоходовых бесед. Она поддерживает контекст до 8192 токенов. Модель подходит для вопросов и ответов, суммаризации, рассуждений и помощи с программированием. В README заявлена поддержка более 40 языков, включая китайский, английский, русский и испанский; особенно сильные результаты разработчик отмечает для китайского и английского. Модель использует токенизатор BPE с размером словаря 100 534 токена. Модель может выдавать неточные, предвзятые или оскорбительные ответы, поэтому результаты следует проверять, а перед внедрением проводить тестирование безопасности для конкретного сценария. Лицензия Apache-2.0.

FuseChat-Llama-3.1-8B-SFT — чат-модель FuseAI на архитектуре Llama 3.1 с плотной причинной языковой моделью примерно на 7,5 млрд параметров. Это SFT-этап FuseChat-3.0: модель Llama-3.1-8B-Instruct дообучена в рамках подхода неявного объединения возможностей нескольких более крупных языковых моделей. В метаданных указан контекст до 131 072 токенов и поддержка чата. Модель предназначена для диалога и выполнения инструкций, а также для общих задач, математики, программирования и китайского языка. В README описано, что итоговый подход FuseChat-3.0 сочетает SFT и оптимизацию предпочтений DPO; при этом данная карточка относится именно к варианту SFT. Модель опубликована в формате safetensors и создана на основе датасета FuseAI/FuseChat-3.0-SFT-Data. Лицензия в предоставленных данных не указана.

bullerwins/Hunyuan-A13B-Instruct-hf — это конвертированная в формат Hugging Face версия чат-модели Hunyuan-A13B-Instruct, разработанной Tencent и представленной в репозитории в формате safetensors. Модель использует архитектуру Mixture of Experts (MoE); в README для исходной модели указаны 80 млрд параметров всего и 13 млрд активных, тогда как метаданные этой копии сообщают 3,1 млрд параметров. Поэтому размер модели в описании этой версии нельзя однозначно согласовать с характеристиками оригинала. Модель предназначена для генерации ответов в диалоге, рассуждений, математики, программирования и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. README исходной модели описывает режимы быстрого и углублённого рассуждения и контекст до 256K токенов, но метаданные этой копии указывают нативный контекст 32 768 токенов. Поддерживаемые языки в предоставленных данных не перечислены. Модель работает с текстом на входе и выдаёт текст. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией Tencent в репозитории перед использованием.

活字3.5（Huozi 3.5）是哈尔滨工业大学社会计算与信息检索研究中心（HIT-SCIR）开发的稀疏混合专家语言模型，用于中文和英文对话、指令遵循及通用文本生成。模型基于 Chinese-Mixtral-8x7B 和活字3.0训练，并经过指令微调与模型融合；每个专家层含8个前馈网络，每次计算稀疏激活其中2个。README称模型共有46.7B параметров、推理时激тивируется около 13B; метаданные указывают 7.2B параметров. Поддерживается контекст до 32 768 токенов. Модель заявлена для работы с китайскими и английскими знаниями, математическими рассуждениями, генерацией кода, многоходовым диалогом и безопасными ответами. Доступны веса в формате safetensors, а для инференса описаны Transformers, vLLM, ModelScope, OpenAI API и преобразование в GGUF. Лицензия репозитория — Apache 2.0; для коммерческого использования авторы просят связаться с правообладателем и получить письменное разрешение. Модель может выдавать фактические ошибки, предвзятый или вредоносный контент, поэтому ответы требуют проверки. Заявления о возможностях и оценках приведены авторами; качество зависит от сценария и настройки генерации.

Josiefied-DeepSeek-R1-0528-Qwen3-8B-abliterated-v1 — разработанная Гёкденизом Гюльмезом дообученная языковая модель семейства Qwen3, созданная на основе deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров; она предназначена для генерации текста в диалоговом и инструктивном режимах, включая использование интерфейса вызова инструментов. Заявленный контекст — до 131 072 токенов. Модель ориентирована на открытое следование инструкциям и менее ограниченную генерацию, сохраняя возможности работы с инструментами. Подходит для диалогов, ответов на вопросы, генерации кода и рассуждений; её базовая модель обучена на цепочках рассуждений и рассчитана также на математические и логические задачи. В репозитории указаны веса Safetensors, а для семейства доступны сторонние варианты GGUF и MLX. Фильтры безопасности снижены, поэтому модель может выдавать чувствительные или спорные ответы. README рекомендует использовать её ответственно и на свой риск. Лицензия в предоставленных данных не указана.

Kanana-1.5-15.7B-A3B-Instruct — разговорная языковая модель Kakao с разреженной архитектурой Mixture-of-Experts на базе Mixtral. В модели 15,7 млрд параметров всего, при этом активируется около 3 млрд параметров; заявленный размер в метаданных — 824,7 млн параметров. Модель принимает текст и генерирует текст, поддерживает английский и корейский языки, а длина контекста составляет 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям, решение математических задач и написание кода. Kakao сообщает, что её эффективность по вычислениям на токен сопоставима с Kanana-1.5-8B при использовании 37% FLOPS, а постобучение включало дистилляцию на собственных ответах и обучение с подкреплением. Для запуска README рекомендует vLLM версии 0.8.5 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

KAT-V1-40B (Kwaipilot-AutoThink) — открытая большая языковая модель, разработанная Kwaipilot. Она обучена выбирать, когда явно разворачивать ход рассуждений, а когда отвечать напрямую, чтобы снижать избыточные рассуждения. Модель построена на архитектуре Qwen2, имеет 39,8 млрд параметров и контекстное окно 131 072 токена; для работы с ней указана библиотека Transformers. Модель предназначена для генерации текста в диалогах и решения задач, где полезны как развёрнутые рассуждения, так и краткие ответы. README описывает структурированный формат ответа с режимами включённого и пропущенного рассуждения; метаданные также отмечают интерфейс вызова инструментов. В README сообщается о высоком результате Kwaipilot-AutoThink на LiveCodeBench Pro, но это не раскрывает показатели именно данного чекпойнта KAT-V1-40B. Репозиторий содержит веса Safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели. README сообщает, что документация AutoThink и дополнительные обучающие ресурсы планируются к публикации; подробности обучения и ограничения качества этой версии в предоставленных данных не раскрыты.

Megrez-3B-Instruct —由无问芯穹（Infinigence AI）自主训练的指令微调大语言模型，面向对话、文本生成和端侧部署。模型采用带有 GQA 的 Llama-2 架构，约 2.6B 参数，支持最长 32K token 的上下文，并针对常见硬件优化了推理速度。模型支持中文和英文，适用于问答、写作、摘要、代码与数学推理等场景；还可配合 InfiniWebSearch 部署方案，根据对话内容决定是否调用网页搜索并总结带来源的信息。 README приводит результаты оценок на языковых, диалоговых, длинноконтекстных, кодовых и математических тестах, включая успешное прохождение заявленного 32K-теста поиска фрагмента в длинном контексте. Как и другие компактные языковые модели, Megrez может ошибаться в фактах, математике и рассуждениях; для ответов, требующих актуальных сведений, авторы рекомендуют подключать веб-поиск, а для точных задач — снижать temperature и проверять результаты. Лицензия репозитория — Apache-2.0.

Это текстовая модель NVIDIA Nemotron-3.5-Lightning-30B-A3B-BF16 с изменёнными параметрами отказов: автор карточки сообщает, что после abliteration модель отказала в 1 из 100 тестовых запросов против 98 из 100 у исходной версии. Она предназначена для генерации текста, диалога и рассуждений, а также для дообучения и адаптации разработчиками. В карточке приведены результаты проверок на задачах знаний, рассуждений, программирования и использования инструментов. Модель использует гибридную архитектуру Mixture-of-Experts с Mamba-2, MoE и слоями Attention; всего в ней 30 млрд параметров, из которых активны 3 млрд. Формат весов — BF16, заявленная длина контекста в метаданных — 262 144 токена. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский. README указывает лицензию исходной модели как допускающую коммерческое использование, но метаданные этой копии обозначают лицензию как other, поэтому условия распространения и использования именно этой производной версии следует сверять с лицензией репозитория.

Это 6-битная квантизированная версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio с помощью mlx_lm для работы на устройствах Apple Silicon. Модель основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура исходной модели сочетает гибридный подход и MoE с 30 млрд параметров, из которых около 3 млрд активируются на токен. Исходная модель рассчитана на диалоги, рассуждения, программирование и создание агентных приложений, поддерживает длинный контекст и шесть языков: английский, испанский, французский, немецкий, японский и итальянский. Эту сборку можно использовать для генерации текста, диалогов и вызова инструментов в приложениях на Apple Silicon. Квантизация уменьшает требования к памяти по сравнению с BF16, но может влиять на точность ответов. В README не приведены длина контекста и условия лицензии именно для этой сборки; лицензия в метаданных обозначена как other. Модель может выдавать неточные или нежелательные ответы.

bartowski/nvidia_Nemotron-Cascade-14B-Thinking-GGUF — это набор GGUF-квантизаций языковой модели Nemotron-Cascade-14B-Thinking, разработанной NVIDIA. Квантизации подготовлены bartowski с использованием llama.cpp release b7423 и метода imatrix; исходная модель построена на базе Qwen3-14B Base и дообучена NVIDIA с помощью многоэтапного SFT и последовательного доменного reinforcement learning. Модель предназначена для текстовой генерации общего назначения, сложного рассуждения, математических задач, программирования, software engineering, следования инструкциям и tool use. Она рассчитана исключительно на thinking mode и использует шаблон Qwen3-style ChatML с добавлением тега /think. Поддерживается английский язык. Модель имеет около 14B параметров; репозиторий GGUF предлагает варианты от IQ2_XS до BF16 размером примерно от 4,69 до 29,54 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти для llama.cpp, LM Studio и совместимых приложений. Исходная конфигурация рассчитана на 32K токенов; с RoPE scaling по методу YaRN заявлена поддержка 64K токенов, а для SWE Verified — до 90K. Сильные стороны — специализация на глубоком рассуждении и высокие результаты NVIDIA на широком наборе тестов, включая математику и программирование. Ограничения связаны с режимом только thinking, англоязычной специализацией и неизбежной потерей качества у низкобитных квантизаций. Модель и производные квантизации распространяются по NVIDIA Open Model License.

Olmo 3 32B Think — плотная авторегрессионная трансформерная языковая модель для генерации текста, разработанная Allen Institute for AI (Ai2). Версия Think обучена для задач рассуждения, включая математику и программирование, а также для диалога и общих вопросов. Модель содержит 31,7 млрд параметров, поддерживает контекст до 65 536 токенов и работает с текстом на английском языке. Это дообученная версия allenai/Olmo-3-32B-Think-DPO, прошедшая обучение с подкреплением на данных Dolci-Think-RL. Модель распространяется в формате Safetensors и поддерживается Transformers версии 4.57.0 и выше. Лицензия Apache 2.0; в карточке указано предназначение для исследований и образования в соответствии с рекомендациями Ai2 по ответственному использованию.

unsloth/Phi-4-mini-instruct — вариант Phi-4-mini-instruct от Unsloth с исправлениями токенов и шаблона чата. Это компактная плотная языковая модель архитектуры Phi-3 с 3,8 млрд параметров, представленная в формате Safetensors и рассчитанная на работу через Transformers. В карточке базовой модели заявлен контекст до 128 тыс. токенов, однако метаданные этого репозитория указывают native context в 4096 токенов; ориентироваться следует на конфигурацию конкретной сборки и используемого ПО. Модель предназначена для диалогов, генерации текста и кода, следования инструкциям и рассуждений, в том числе математических и логических, в сценариях с ограниченными вычислительными ресурсами или требованиями к низкой задержке. Карточка заявляет многоязычную направленность; среди языков проверки безопасности названы английский, китайский, японский, испанский, португальский, арабский, тайский и русский. Модель поддерживает чат и интерфейс вызова инструментов, но может выдумывать названия функций или URL. Лицензия — MIT.

PolarisLM — плотная языковая модель семейства PolarNet с 9,2 млрд параметров, разработанная авторами семейства Polaris. Она предназначена для диалогового помощника, рассуждений, генерации текста и кода, ответов на вопросы, а также вызова функций и инструментов. Модель принимает текст и генерирует текст; заявлены улучшения в сложных рассуждениях, снижении галлюцинаций и надёжности вызова функций. Для работы с длинными запросами поддерживает контекст до 32 768 токенов. В README приведены результаты на арифметических, логических, фактических и многоязычных задачах, включая рост точности на GPQA-Diamond с 62,0% у предыдущей версии до 79,8%; авторы связывают это с более длинным рассуждением. Для запуска предлагается использовать температуру 0,5 и системный запрос с текущей датой. Модель распространяется по лицензии Apache-2.0. Численные результаты и сравнения приведены авторами README; независимая проверка в предоставленных данных не описана.

Это сборка Qwen3-8B для запуска на Rockchip RK1828 через LlamaPi. Исходную модель разработала команда Qwen; в репозитории указаны формат GGUF и готовность к запуску на RK1828. Модель относится к плотной архитектуре Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста, диалога, следования инструкциям, программирования, рассуждений и агентных задач; поддерживает режимы с рассуждением и без него, а также интерфейс вызова инструментов. Исходная модель поддерживает более 100 языков и диалектов. Для запуска в README предлагается LlamaPi. Репозиторий распространяется по лицензии Apache-2.0.

Salamandra 7B Instruct — модель семейства Salamandra, разработанного Barcelona Supercomputing Center (BSC), для генерации текста и диалогового общения. Это decoder-only трансформер с архитектурой Llama, дообученный следовать инструкциям; в метаданных указано 6,7 млрд параметров, а карточка описывает семейство как предварительно обученное с нуля на 12,875 трлн токенов. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и предназначена для работы на европейских языках и с кодом. Инструкционная версия подходит для использования в качестве многоязычного помощника, генерации текста и ответов на запросы; базовую модель также можно дообучать под специализированные сценарии. Salamandra обучалась на 35 европейских языках и коде, а среди языков в метаданных указаны, в частности, болгарский, каталанский, чешский, датский, немецкий, греческий, английский, испанский, финский, французский, хорватский, венгерский, итальянский, литовский, латышский, нидерландский, польский, португальский, русский и украинский. Лицензия Apache 2.0 допускает коммерческое и исследовательское использование. Это ранняя proof-of-concept версия с предварительной настройкой инструкций, без RLHF-фильтрации чувствительных тем. Модель может выдавать вредный или неподходящий контент; оценки также выявили социальные и когнитивные смещения, поэтому для прикладных систем необходимы отдельная проверка и настройка безопасности.

Эта версия DeepSeek-R1 размещена Unsloth и основана на модели deepseek-ai/DeepSeek-R1. Это языковая модель семейства DeepSeek V3 с архитектурой DeepseekV3ForCausalLM; в метаданных указано 37,6 млрд параметров и контекст до 163 840 токенов. Карточка исходной модели описывает обучение с контролируемой настройкой и масштабным обучением с подкреплением, направленным на развитие рассуждений и выравнивание с предпочтениями людей. Модель предназначена для генерации текста в диалоге и решения сложных задач на рассуждение, в том числе по математике, программированию и логике. Среди описанных возможностей — самопроверка, рефлексия и построение длинных цепочек рассуждений. Метаданные отмечают поддержку чата и интерфейса вызова инструментов; основной указанный язык — английский. Репозиторий содержит веса safetensors; README также упоминает отдельные варианты DeepSeek-R1 в GGUF и форматах с 4-битной квантизацией. Лицензия — MIT. Размер этой версии и длина контекста по метаданным отличаются от таблицы в README исходной модели, поэтому здесь приведены значения метаданных Hugging Face для данного репозитория.

Valdemardi/DeepSeek-R1-Distill-Qwen-32B-AWQ — квантизированная версия DeepSeek-R1-Distill-Qwen-32B, разработанная на базе модели DeepSeek-R1 командой DeepSeek AI. Модель предназначена для задач рассуждения, включая решение математических задач, программирование и другие сложные текстовые задачи. По данным README, DeepSeek-R1-Distill-Qwen-32B превосходит OpenAI o1-mini на ряде бенчмарков и демонстрирует сильные возможности для плотной модели. Модель использует архитектуру базовой Qwen-модели размером 32B параметров и работает с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Данная версия сжата в 4-битный формат AWQ с использованием AutoAWQ 3.2.7.post3, группировкой q_group_size 128, zero-point quantization и режимом GEMM. Квантизация снижает требования к памяти и может упростить локальный запуск, но потенциально сопровождается потерей точности по сравнению с полной версией. В README указана лицензия Apache-2.0 для репозитория этой версии, тогда как для исходной DeepSeek-R1 приведены отдельные ссылки на Model Agreement и лицензию кода MIT; условия использования следует проверять применительно к конкретным компонентам модели.

ERNIE-4.5-21B-A3B-Thinking — текстовая MoE-модель семейства ERNIE от Baidu, представленная в репозитории Unsloth как дообучение baidu/ERNIE-4.5-21B-A3B-Thinking. Она предназначена для генерации текста и сложных рассуждений: логических задач, математики, науки, программирования и академических вопросов, а также для работы с инструментами. В модели 21 млрд параметров всего, из которых для каждого токена активируются около 3 млрд; архитектура включает 28 слоёв, а длина контекста составляет 131 072 токена. Модель принимает и генерирует текст, поддерживает английский и китайский языки. Карточка отмечает улучшенные рассуждения, использование инструментов и понимание длинного контекста; для сложных задач рекомендован режим с увеличенной длиной рассуждения. Для запуска описана поддержка Transformers версии 4.54.0 или новее, а также интеграции с FastDeploy и vLLM; парсеры рассуждений и вызовов инструментов для vLLM указаны как находящиеся в разработке. Лицензия — Apache-2.0.

Falcon3-Mamba-7B-Instruct — инструктивная языковая модель из семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, а также для задач рассуждения, понимания языка, программирования и математики. Модель дообучена на базе tiiuae/Falcon3-Mamba-7B-Base и использует архитектуру Mamba1 с причинным декодером: 64 блока, ширина 4096 и словарь из 65 тысяч токенов. Контекст — до 32 тысяч токенов. Обучение включало продолжение предобучения на данных из веба, кода и STEM, а также последующее обучение на примерах диалогов, STEM, кода и безопасности. Основной язык обучения — английский. Модель рассчитана на генерацию ответов и кода по запросу. Разработчик сообщает о сильных результатах для рассуждений, следования инструкциям, понимания языка, кода и математики по сравнению с сопоставимыми моделями SSM на момент выпуска. Репозиторий содержит веса в формате safetensors. Лицензия — TII Falcon-LLM License 2.0; перед использованием следует учитывать её условия.

noctrex/GLM-4.5-Air-Derestricted-MXFP4_MOE-GGUF — это GGUF-квантизация MXFP4_MOE модели GLM-4.5-Air-Derestricted, созданной Arli AI на основе GLM-4.5-Air. Вариант Derestricted модифицирован методом Norm-Preserving Biprojected Abliteration для уменьшения отказов при сохранении рассуждений исходной модели; заявления о качестве в карточке основаны на бенчмарках автора. Модель предназначена для генерации текста в диалогах, решения задач с рассуждениями, программирования и сценариев интеллектуальных агентов. Базовая GLM-4.5-Air — гибридная MoE-модель с 106 млрд параметров, из которых активны 12 млрд, и режимами рассуждения и быстрого ответа. README описывает семейство GLM-4.5-Air, но не приводит отдельных параметров контекста или списка языков для этого GGUF-репозитория. Исходная карточка указывает лицензию MIT для моделей GLM-4.5 и GLM-4.5-Air; отдельные условия распространения производного варианта и GGUF-квантизации в предоставленных данных не описаны.

Llama3.1-Typhoon2-70B-Instruct — большая языковая модель с 69,5 млрд параметров, разработанная Typhoon AI на основе Llama 3.1 70B. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов по инструкциям; карточка также указывает интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель рассчитана прежде всего на тайский и английский языки. Она подходит для ответов на вопросы и выполнения инструкций, диалогов, вызова функций, а также задач программирования и математики. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет 90 тысяч токенов. В сравнительных оценках карточки приведены результаты для следования инструкциям, переключения между тайским и английским, вызова функций, математики и кода. Модель находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на встроенные ограничения. Для использования применяются условия Llama 3.1 Community License; перед внедрением следует проверить соответствие её условий своему сценарию.