I.3Извлечение и структурирование данных

Qwen3-8B-MLX-4bit — языковая модель семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалога, следования инструкциям, написания кода, математических и логических рассуждений, творческих задач, ролевого взаимодействия и агентских сценариев с подключением внешних инструментов. Вариант подготовлен для работы с MLX и использует 4-битное представление параметров. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding, имеет 36 слоёв и архитектуру Grouped Query Attention с 32 головами Q и 8 головами KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Модель допускает переключение между режимом рассуждений для сложных задач и нережимом рассуждений для более эффективного общего диалога. Сильными сторонами являются сочетание рассуждений и эффективного режима работы, развитое следование инструкциям, многоязычность, поддержка программирования и интеграции с инструментами. Ограничения включают необходимость корректно выбирать параметры генерации для режима рассуждений; в README также не приведены конкретные результаты бенчмарков, требования к оборудованию и показатели производительности. Модель распространяется по лицензии Apache-2.0.

Карточка модели testaccount-ai/Qwen3.8-Max на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

unsloth/Qwen3-Next-80B-A3B-Instruct-GGUF — GGUF-версия инструкционной причинной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для генерации текста, диалогов, программирования, следования инструкциям, решения задач, работы с агентскими сценариями и обработки очень длинного контекста. Она поддерживает только instruct-режим без блоков рассуждений <think></think> в ответах. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную смесь экспертов MoE. Всего модель содержит 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. В README языки и точные характеристики GGUF-квантизации не указаны. К сильным сторонам относятся высокая параметрическая эффективность, потенциально высокая скорость инференса, поддержка ультрадлинного контекста и хорошие результаты в задачах знаний, рассуждений, программирования, следования инструкциям и написания текстов. Ограничения включают отсутствие режима thinking и необходимость учитывать аппаратные требования, связанные с общим размером модели; конкретные требования к памяти зависят от варианта квантизации GGUF. Модель распространяется по лицензии Apache-2.0.

Xing4.0-29B-A4B — большая языковая модель серии Xing, ранее называвшейся TeleChat, разработанная China Telecom Artificial Intelligence Technology Co., Ltd. Это плотная причинная языковая модель с архитектурой Xing4_0; по README она содержит 29 млрд параметров, из которых активны 4 млрд на токен, а метаданные указывают 6,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и контекст длиной 262 144 токена, который, согласно README, можно расширить до 512 тыс. Модель предназначена для рассуждений, программирования, многошагового планирования и агентных сценариев с вызовом инструментов. Её можно применять для вопросов и ответов по знаниям, понимания таблиц, классификации намерений и аудита контрактов, а также дообучать на данных конкретной предметной области. Для запуска заявлена совместимость с Transformers, vLLM, SGLang и KTransformers; указан формат весов safetensors. Модель разработана и обучалась на Ascend NPU с MindSpore, однако эти сведения сами по себе не ограничивают выбор инфраструктуры для инференса. Карточка не сообщает поддерживаемые естественные языки. Лицензия Apache-2.0. Метаданные и README расходятся в размере модели: 6,5 млрд параметров в метаданных против 29 млрд общих и 4 млрд активных на токен в README.

DeepSeek-V2-Chat — диалоговая языковая модель компании DeepSeek AI на архитектуре Mixture-of-Experts (DeepSeekMoE) с механизмом внимания MLA. В README указаны 236 млрд параметров всего и 21 млрд активируемых на каждом токене; метаданные репозитория сообщают 18,1 млрд параметров. Модель дообучена методами supervised fine-tuning и reinforcement learning на базе предварительно обученной DeepSeek-V2. Модель предназначена для диалога, генерации текста, ответов на вопросы, рассуждений и задач по программированию. Она поддерживает контекст до 128 тысяч токенов по README; механизм MLA сокращает KV-кэш. В README приведены результаты оценки на английских и китайских тестах и описаны сильные результаты в открытой генерации и кодировании. Для локального запуска в BF16 README требует восемь GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией репозитория.

unsloth/gpt-oss-120b-unsloth-bnb-4bit — 4-битная версия модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth в формате BNB 4-bit. Модель предназначена для универсальной генерации текста, задач, требующих развитого рассуждения, агентских сценариев и использования разработчиками. Она поддерживает вызов функций, веб-браузинг, выполнение кода на Python и структурированные ответы, а также может дообучаться под специализированные задачи. Модель имеет архитектуру Mixture of Experts (MoE), около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Исходная модель обучена с нативной квантованием MXFP4 для MoE-слоёв, а данный вариант представлен в 4-битном формате для снижения требований к памяти. Доступна настройка интенсивности рассуждения на уровнях low, medium и high. Данные о поддерживаемых языках и размере контекстного окна в представленном README не указаны. Ключевое ограничение — модель корректно работает только с форматом ответов harmony, поэтому при интеграции необходимо использовать соответствующий chat template или совместимый пакет. Полная цепочка рассуждений доступна для отладки и анализа, но не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование, модификацию и дообучение.

Карточка модели jdlovestofish/granite-4.2-8b на Hugging Face совпадает с карточкой ibm-granite/granite-4.2-8b, поэтому описание составлено по ней. Granite-4.2-8B — языковая модель команды Granite компании IBM для диалогов, рассуждений и работы с инструментами. Это плотный декодерный трансформер GraniteForCausalLM с 8,4 млрд параметров, доступный в формате safetensors и рассчитанный на библиотеку Transformers. Модель дообучена на базе ibm-granite/granite-4.1-8b-base; лицензия Apache 2.0 разрешает коммерческое и академическое использование. Модель предназначена для ответов на вопросы, многошаговых рассуждений, математических и программных задач, а также сценариев, где нужно выбирать и вызывать инструменты. Поддерживаются режимы полного, облегчённого и отключённого рассуждения. Метаданные указывают контекст до 131 072 токенов. Архитектура включает Grouped Query Attention, RoPE, SwiGLU и RMSNorm. Модель обучалась преимущественно на английских инструкциях, также включает многоязычные данные для немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Качество на других языках может уступать английскому; ответы могут быть неточными, предвзятыми или небезопасными. Текст рассуждений может содержать промежуточные мысли и не отражать итоговый ответ.

InternLM2-Chat-20B — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель на 19,3 млрд параметров с поддержкой чата и контекстом 32 768 токенов по метаданным Hugging Face. README также описывает эксперименты с удлинённым контекстом до 200 тысяч токенов при использовании LMDeploy. Модель предназначена для диалогов, следования инструкциям, рассуждений, математики, программирования, творческого письма и анализа данных. Она может служить языковой основой для агентов, которые выбирают инструменты и выполняют многошаговые вызовы; запуск кода требует подключённого интерпретатора. В README приведены результаты OpenCompass, однако они зависят от версии конфигурации и не гарантируют качество в конкретном сценарии. Модель принимает текст и генерирует текст. Карточка демонстрирует использование Transformers, LMDeploy и vLLM. README сообщает, что код распространяется по Apache-2.0, веса открыты для академических исследований, а для коммерческого использования требуется бесплатная лицензия по заявке. Модель может выдавать предвзятые, дискриминационные или иные вредоносные ответы.

Kimi-K2-Instruct — инструктивная версия языковой модели Kimi K2, разработанная Moonshot AI. Это крупная модель класса Mixture-of-Experts (MoE), предназначенная для универсального диалога, рассуждений, программирования, работы с инструментами и агентских сценариев. Она ориентирована на готовое использование в чат-приложениях и автономном решении задач без режима длительного пошагового мышления. Модель содержит около 1 триллиона общих параметров, из которых 32 миллиарда активируются для каждого токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 attention heads, механизм внимания MLA и функцию активации SwiGLU. Размер контекста составляет 128 тысяч токенов, словарь — 160 тысяч токенов. В README языки и мультимодальные возможности не указаны; по представленным данным это текстовая языковая модель. Сильными сторонами заявлены высокая производительность в задачах знаний, рассуждений и программирования, а также оптимизация для tool use и агентского решения задач. В README приведены результаты сравнительных тестов, включая LiveCodeBench, OJBench и MultiPL-E, однако ограничения, гарантии качества и дополнительные требования к аппаратному обеспечению явно не описаны. Модель распространяется по лицензии modified MIT, обозначенной как license: other и license_name: modified-mit.

Kimi K3 — открытая мультимодальная модель AMAImedia, выпущенная в составе платформы автоматизации профессионального дубляжа NOESIS. В карточке заявлены архитектура Kimi Delta Attention с Attention Residuals, размер 2,8 трлн параметров и контекст до 1 млн токенов; метаданные указывают класс KimiK3ForConditionalGeneration и формат safetensors. Модель принимает текст и изображения, а README также заявляет поддержку видео; её назначение включает диалог, рассуждения, длительные задачи программирования и агентную работу с инструментами. Модель рассчитана на анализ больших репозиториев и документов, помощь в разработке, исследовательские задачи и мультимодальную работу с изображениями и видео. README сообщает, что режим размышления включён постоянно и ответ может содержать reasoning_content; усилие рассуждения настраивается параметром reasoning_effort. Указанная в карточке лицензия — other, а README называет её Kimi K3 License, поэтому конкретные условия следует проверять в тексте лицензии репозитория. Метаданные классифицируют модель как image-text-to-text, при этом каталог дополнительно относит её к text-generation.

RedHatAI/Llama-3.3-70B-Instruct — инструктивная языковая модель Meta, распространяемая Red Hat AI. Это плотная авторегрессионная модель семейства Llama на архитектуре Transformer с 69,5 млрд параметров, обученная для следования инструкциям и диалогов; настройка включает supervised fine-tuning и обучение с обратной связью от людей. Модель принимает текст и генерирует текст, в том числе код, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для многоязычных диалоговых ассистентов, генерации текста и кода, а также коммерческих и исследовательских сценариев. В карточке указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель статична и обучена на офлайн-данных; знания ограничены данными обучения с отсечкой декабря 2023 года. Для вызова внешних инструментов требуется интеграция со стороны приложения. Использование регулируется пользовательским соглашением Llama 3.3 Community License и соответствующей политикой допустимого использования.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4 — большая языковая модель, разработанная NVIDIA Corporation. Она предназначена для генерации текста, программирования, длительно работающих автономных агентов, вспомогательных агентских задач и эффективного локального вывода на совместимом оборудовании. Модель поддерживает английский, испанский, французский, немецкий, итальянский и японский языки, а также языки программирования. Модель использует гибридную архитектуру Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными Attention-слоями. Общее число параметров составляет 30 млрд, из них при обработке каждого токена активны около 3 млрд. Модель работает с контекстом до 1 млн токенов и распространяется в формате NVFP4. Поддерживаются NVIDIA Blackwell, Hopper и, через режим W4A16, Ampere; заявлено развёртывание на одной NVIDIA H100 или DGX Spark с GB10. Для ускорения генерации доступны DSpark, MTP и DFlash. К сильным сторонам относятся сочетание большого общего объёма параметров с небольшим числом активных параметров, поддержка очень длинного контекста, агентских сценариев и локального вывода на подходящем оборудовании. Ограничения связаны с требованиями к совместимому NVIDIA GPU и специализированным настройкам инференса; для некоторых аппаратных конфигураций параметры поддержки требуют дополнительного подтверждения. Модель лицензируется по OpenMDW License Agreement версии 1.1 и заявлена как готовая к коммерческому использованию.

Карточка модели aaarrbbee/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Nocodedev0/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

calme-2.2-qwen2-72b — плотная языковая модель на базе Qwen2-72B-Instruct, дообученная MaziyarPanahi. Она предназначена для диалоговых систем, генерации и обобщения текста, ответов на вопросы, работы с кодом и решения сложных задач. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2 и шаблон диалога ChatML; контекст — до 32 768 токенов. Поддерживаемый в метаданных язык — английский. Модель подходит для виртуальных помощников, генерации контента, суммаризации, анализа кода и систем поддержки решений. В README приведены результаты оценок на нескольких бенчмарках, включая TruthfulQA. Это текстовая модель, работающая через библиотеку Transformers; веса доступны в формате safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензирования репозитория. Как и другие большие языковые модели, она может выдавать предвзятые или ошибочные ответы; при внедрении рекомендованы safeguards и проверка человеком.

Это зеркальная копия Gemma 4 E2B IT от Google DeepMind, подготовленная chibifire. Модель прошла обучение с учётом квантизации Q4_0 (QAT), а в репозитории хранятся полут точные веса в формате safetensors вместе с токенизатором, шаблоном диалога и конфигурациями обработки и генерации. Она основана на плотной архитектуре Gemma 4 и предназначена для локального вывода и дальнейшего преобразования весов. Модель принимает текстовые и мультимодальные запросы и формирует ответы в диалоговом режиме; базовая Gemma 4 E2B IT поддерживает анализ изображений и аудио наряду с текстом. Обучение QAT рассчитано на сохранение качества при последующем хранении весов в Q4_0, хотя данная копия содержит полут точные, а не квантизованные веса. Для загрузки README рекомендует Transformers. Лицензия репозитория — Apache 2.0.

tripolskypetr/gemma-4-it-GGUF — GGUF-версия инструкционно настроенной мультимодальной модели Gemma 4 31B-it, основанной на google/gemma-4-31B-it. Семейство Gemma разработано Google DeepMind, а данный вариант опубликован в формате GGUF для удобного локального запуска и квантования, в том числе с использованием инструментов Unsloth. Модель предназначена для генерации и понимания текста, рассуждений, программирования, агентских сценариев и работы с изображениями. Она принимает текстовые и графические данные и генерирует текст; заявлена поддержка более 140 языков. Для управления поведением поддерживаются системные сообщения, режимы рассуждения и нативный function calling. Это плотная архитектура с 30,7 млрд параметров, 60 слоями и словарём размером 262 тысячи токенов. Используется гибридное внимание с чередованием локального скользящего окна размером 1024 токена и глобального внимания; максимальная длина контекста составляет 256 тысяч токенов. В состав входят визуальный энкодер примерно на 550 млн параметров. Большой размер модели и мультимодальность обеспечивают широкие возможности, но требуют значительных вычислительных ресурсов, поэтому локальное развертывание зависит от доступной памяти и выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.

Карточка модели AmroAI/GLM-5.2-Hermes на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

QuantFactory/Llama-3.1-Nemotron-Nano-8B-v1-GGUF — квантизированная версия Llama-3.1-Nemotron-Nano-8B-v1, созданная QuantFactory с использованием llama.cpp на основе модели NVIDIA. Это текстовая reasoning- и chat-модель для генерации текста, решения математических и программных задач, рассуждений, instruction following, RAG, tool calling, чат-ботов и AI-агентов. Модель предназначена для локального использования и помещается на одной RTX GPU. Архитектура — плотный decoder-only Transformer семейства Llama 3.1, размер — 8B параметров. Модель работает только с текстом, поддерживает контекст до 131 072 токенов и генерирует текст. Основной язык — английский, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также языков программирования. Reasoning mode управляется системным промптом; для режима рассуждений рекомендуются temperature 0.6 и top_p 0.95, для обычного режима — greedy decoding. Сильные стороны модели — сочетание качества рассуждений, поддержки чата, RAG и вызова инструментов с умеренными требованиями к вычислительным ресурсам и возможностью локального запуска. Ограничения включают текстовую модальность, зависимость поведения от правильной настройки reasoning mode и возможные особенности качества, связанные с квантизацией GGUF; конкретный уровень квантизации в README не указан. Использование регулируется NVIDIA Open Model License; также указана дополнительная Llama 3.1 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

RedHatAI/Mistral-Small-24B-Instruct-2501-quantized.w8a8 — квантизированная INT8-версия Mistral-Small-24B-Instruct-2501, разработанная Red Hat совместно с Neural Magic. Модель предназначена для генерации текста и поддерживает текстовые и визуальные входные данные с текстовым выводом. Заявленные сценарии включают диалоговых агентов с быстрым откликом, вызов функций с низкой задержкой, программирование, математическое рассуждение, анализ длинных документов, визуальное понимание, локальный инференс и специализированные решения после дообучения. Модель имеет архитектуру Mistral3ForConditionalGeneration и содержит 24 млрд параметров в базовой версии. Веса и активации линейных операторов в трансформерных блоках квантизированы до INT8: для весов используется статическая симметричная поканальная схема, для активаций — динамическая симметричная потокенная схема. При заявленных характеристиках это примерно вдвое снижает требования к памяти GPU и размер файлов весов, а также может увеличить производительность матричных умножений примерно в два раза. Квантизация выполнена с использованием SmoothQuant и GPTQ через библиотеку llm-compressor. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель валидирована с RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4; в документации приведён контекст до 32768 токенов. Ограничения включают возможное снижение точности из-за квантизации и запрет использования с нарушением применимых законов и в неподдерживаемых языках. Лицензия — Apache 2.0.

unsloth/Phi-3.5-mini-instruct-bnb-4bit — 4-битная версия инструкционной языковой модели Phi-3.5-mini-instruct, разработанной Microsoft и опубликованной в формате, совместимом с Transformers. Модель относится к семейству Phi-3, обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на плотные по содержанию данные для рассуждений. Указана поддержка многоязычного применения и контекста до 128K токенов. Модель предназначена для создания генеративных AI-систем и функций общего назначения, особенно в средах с ограниченными ресурсами и требованиями к низкой задержке. Она ориентирована на выполнение инструкций, а также задачи программирования, математики, логики и других сценариев, требующих рассуждений. Квантование BNB до 4 бит снижает требования к памяти и может упростить запуск и дообучение, однако конкретные характеристики производительности зависят от оборудования и конфигурации. К ограничениям относятся возможные ошибки, неточности, проблемы безопасности и смещения, типичные для языковых моделей. Модель не оценивалась отдельно для всех прикладных областей, поэтому перед использованием в критически важных или регулируемых сценариях необходимы самостоятельная проверка качества, безопасности, справедливости и соответствия требованиям законодательства. В README указана лицензия MIT.

unsloth/Qwen3-14B-unsloth-bnb-4bit — 4-битная версия модели Qwen3-14B, подготовленная Unsloth на базе Qwen/Qwen3-14B, разработанной командой Qwen. Это авторегрессионная языковая модель для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, ролевого взаимодействия и агентских сценариев с использованием внешних инструментов. Модель содержит 14,8 млрд параметров, из которых 13,2 млрд не относятся к embedding, и включает 40 слоёв. Используется Grouped-Query Attention с 40 головами для Q и 8 для KV. Поддерживаются режимы рассуждения и обычного ответа, между которыми можно переключаться в рамках одной модели. Заявлена поддержка более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Ключевое преимущество этой версии — 4-битное представление, снижающее требования к памяти и удобное для локального запуска и дообучения. Ограничения включают возможное снижение точности по сравнению с полноформатной моделью из-за квантования, а также высокие вычислительные требования, связанные с размером 14B. README не содержит подробных результатов бенчмарков и требований к конкретному оборудованию. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальную версию библиотеки transformers; в README указано, что версии ниже 4.51.0 могут вызывать ошибку, связанную с поддержкой Qwen3.

lmstudio-community/Qwen3-30B-A3B-GGUF — квантованная в формате GGUF версия модели Qwen3-30B-A3B, разработанной командой Qwen. Квантование выполнено bartowski на базе llama.cpp, релиз b5200. Модель распространяется по лицензии Apache-2.0. Это Mixture-of-Experts-модель с 30 млрд общих параметров, из которых при обработке активируются около 3,3 млрд; всего используется 128 экспертов, из них 8 активны одновременно. Поддерживается контекст до 131 072 токенов с применением YaRN, при этом значение по умолчанию составляет 32 000 токенов. Модель работает в режимах с рассуждением и без него; режим рассуждения можно отключить добавлением /no_think в конец запроса. Модель предназначена для генерации текста, следования инструкциям, многоходовых диалогов, творческого письма, ролевых сценариев, программирования, математики, задач на здравый смысл и агентных применений. Она поддерживает более 100 языков и диалектов. К сильным сторонам относятся расширенные способности к рассуждению, широкий языковой охват и сравнительно эффективная активация параметров благодаря архитектуре MoE. Ограничения включают возможные ошибки, неточности и нежелательное содержание, характерные для генеративных моделей, а также потенциальное снижение качества из-за квантования; конкретные параметры квантования в README не указаны.

Qwen3-32B-AWQ — квантизированная 4-битная AWQ-версия причинной языковой модели Qwen3-32B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, написания кода, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Она поддерживает переключение между режимом рассуждения для сложных задач и нерезультирующим режимом для более эффективного общего диалога в рамках одной модели. Модель содержит 32,8 млрд параметров, из них 31,2 млрд без учёта embedding, и имеет 64 слоя. Используется Grouped Query Attention: 64 головы для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с YaRN заявлена поддержка до 131 072 токенов. Модель поддерживает более 100 языков и диалектов, ориентирована на многоязычное следование инструкциям и перевод. AWQ-квантизация снижает требования к памяти, однако может влиять на качество по сравнению с полноразмерной версией; README также не содержит подробных результатов бенчмарков и требований к аппаратному обеспечению. Для режима рассуждения модель формирует промежуточное содержимое в блоке <think>...</think>; в README рекомендованы определённые параметры генерации и не рекомендуется жадное декодирование. Указанная лицензия — Apache 2.0.

Tooony133/Qwen-3.8-27B-DinkyDoo — модель семейства Qwen3.8, представленная как дообученный вариант Qwen3.8-27B с объединёнными с базовыми весами LoRA-адаптерами. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, предназначенная для диалогов, анализа изображений и видео, программирования, профессиональных задач, исследований и многошаговых агентных сценариев. Модель принимает текст и изображения, а также поддерживает понимание видео. В README указана длина контекста 262 144 токена с возможностью расширения до 1 000 000. Режим рассуждения включён по умолчанию; его можно отключать и настраивать глубину. Модель распространяется в формате Transformers и совместима с рядом средств инференса. Сильные стороны, заявленные в карточке: мультимодальное понимание, работа с длинным контекстом, кодирование и выполнение многошаговых задач. Карточка не приводит отдельных измерений качества именно этой производной модели. Лицензия — Apache-2.0; README также просит соблюдать требования об указании авторства и изменениях из файлов LICENSE и NOTICE.

Seed-OSS-36B-Instruct — открытая языковая модель команды ByteDance Seed для диалогов, рассуждений, длинного контекста и агентных сценариев. Это плотная авторегрессионная модель с архитектурой Seed-OSS и классом SeedOssForCausalLM; в метаданных указано 31,7 млрд параметров, а карточка описывает семейство как 36B. Модель принимает текст и генерирует текст, поддерживает контекст до 524 288 токенов и ориентирована на международное использование. Модель предназначена для ответов на вопросы, сложных рассуждений, программирования и задач с использованием инструментов. Можно задавать бюджет рассуждения: настройка длины позволяет регулировать глубину анализа и расход вычислений. Для работы доступны веса в формате safetensors и библиотека Transformers; README также описывает использование с vLLM. Модель выпущена под лицензией Apache-2.0. Карточка сообщает о сильных результатах на ряде популярных открытых бенчмарков, но не приводит в доступном тексте подробные результаты. Качество зависит от задачи и настройки бюджета рассуждения; для сложных запросов увеличение бюджета может улучшать результат, а на простых задачах эффект может колебаться.

SolenopsisCampo/Xing4.0-29B-A4B-GGUF — GGUF-представление языковой модели Xing4.0-29B-A4B, разработанной China Telecom Artificial Intelligence Technology Co., Ltd. Модель предназначена для генерации текста, сложного рассуждения, программирования, агентских сценариев с многошаговым планированием и вызовом инструментов, а также для задач инженерного характера и последующей адаптации под специализированные области: классификацию намерений, понимание таблиц, аудит договоров и ответы на вопросы по базе знаний. Модель использует разреженную MoE-архитектуру с 29 млрд общих параметров и 4 млрд активных параметров на токен. В конфигурацию входят 40 слоёв, скрытый размер 3584, 64 маршрутизируемых эксперта, 4 активных эксперта на токен и 1 общий эксперт; заявлена архитектура mHC + MLA + MTP. Поддерживается контекст длиной 256 тысяч токенов с возможностью расширения до 512 тысяч. Это текстовая модель без заявленной поддержки изображений или других модальностей. README не указывает набор поддерживаемых языков. К сильным сторонам относятся длинный контекст, эффективность разреженной активации, ориентация на агентские и программные задачи, совместимость с vLLM, SGLang, KTransformers, Transformers и другими инструментами, а также возможность дообучения через LLaMA-Factory и MindFormers. Ограничения включают зависимость качества от конкретного сценария, необходимость значительных вычислительных ресурсов для развёртывания и отсутствие в README подробностей о методах квантизации именно этого GGUF-файла, языковом покрытии и результатах за пределами приведённых тестов. Модель распространяется по лицензии Apache-2.0.

A.X K2 — крупная языковая модель класса Mixture-of-Experts, разработанная SK Telecom в рамках южнокорейского государственного проекта Sovereign AI. Это преемник A.X K1 и агентная foundation-модель, обученная с нуля для понимания корейского языка и культуры, а также работы с многоязычными и программными данными. Модель предназначена для генерации текста, следования инструкциям, сложного рассуждения, решения задач и агентных сценариев. Она поддерживает управляемые режимы Think для многошагового рассуждения и Non-Think для кратких ответов с низкой задержкой. Используются английский, корейский, китайский, японский и испанский языки. Архитектура представляет собой decoder-only Transformer с 688 млрд параметров, из которых 33 млрд активируются на каждом токене: 256 маршрутизируемых экспертов, один общий эксперт и выбор восьми экспертов для токена. Модель содержит 61 слой, 64 attention heads и поддерживает контекст до 262 144 токенов; длина 256K достигнута расширением с 128K с помощью YaRN. Ключевые особенности A.X K2 — Multi-head Latent Attention со Sparse Gated Attention для более эффективной работы с длинным контекстом, Gated Norm для стабильного обучения и подавления выбросов активаций, а также нативное обучение в FP8. Чекпойнт предоставляется в block-scaled FP8 E4M3, что уменьшает требования к памяти и подходит для эффективного FP8-инференса без отдельной постквантизации. Ограничения включают высокие системные требования, обусловленные общим объёмом параметров, а также потенциальные риски и ограничения качества, свойственные большим языковым моделям; конкретные результаты бенчмарков в представленном README не указаны. Модель распространяется по лицензии Apache-2.0.

calme-2.3-llama3.1-70b — языковая модель MaziyarPanahi, дообученная на базе Meta Llama 3.1 70B Instruct с использованием датасета truthy-dpo-v0.1-axolotl. Это плотная авторегрессионная архитектура LlamaForCausalLM на 69,5 млрд параметров; модель предназначена для генерации текста в формате чата ChatML и поддерживает контекст до 131 072 токенов. Модель подходит для ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач и поддержки принятия решений. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество в конкретном приложении. Возможны смещения и ошибки; при использовании следует предусмотреть проверки человеком. Доступна в формате safetensors через Transformers. Лицензия в предоставленных данных не указана.