II.8Инженерия данных и аналитика

Qwen2.5-72B-Instruct-GPTQ-Int4 — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Модель содержит 72,7 млрд параметров, из которых 70,0 млрд приходятся на неэмбеддинговую часть, и включает 80 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV attention; применяется GQA с 64 головами для Q и 8 для KV. Это GPTQ-квантизированная версия с точностью 4 бита, предназначенная для более экономичного развёртывания по сравнению с полноразмерной моделью. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — развитые возможности в кодировании и математике, улучшенное следование инструкциям, генерация длинных текстов, устойчивость к разнообразным системным промптам и работа со структурированными данными. Ограничения включают высокие требования к вычислительным ресурсам из-за размера модели, возможное снижение качества из-за 4-битного квантования и потенциальное ухудшение производительности на коротких текстах при статическом масштабировании YaRN. Модель распространяется по лицензии Qwen; точные условия определяются файлом лицензии в репозитории.

Qwen2.5-14B-Instruct-GPTQ-Int4 — инструкционно дообученная причинная языковая модель семейства Qwen2.5, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, следования инструкциям, работы с кодом и математическими задачами, обработки структурированных данных и формирования структурированных ответов, включая JSON. Она поддерживает более 29 языков, среди которых английский, китайский, русский, французский, немецкий, испанский, японский и корейский. Модель содержит 14,7 млрд параметров, из них 13,1 млрд непараметров эмбеддингов, и включает 48 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании и Grouped Query Attention с 40 головами для Q и 8 для KV. Применяется 4-битная GPTQ-квантизация, уменьшающая требования к памяти по сравнению с полноразмерной версией. Заявленная максимальная длина контекста составляет 131 072 токена, а генерации — 8192 токена; в текущей конфигурации без дополнительной настройки доступно до 32 768 токенов, для более длинных входов требуется YaRN. Сильные стороны модели — улучшенное следование инструкциям, генерация длинных текстов, работа с кодом, математикой, таблицами и JSON, а также поддержка мультиязычных сценариев. GPTQ-квантизация может упростить развёртывание, однако квантование способно влиять на качество относительно исходной bfloat16-версии. Использование статического YaRN в vLLM может снижать производительность на коротких текстах. Модель распространяется по лицензии Apache-2.0.

Qwen3-235B-A22B-Instruct-2507-FP8 — инструкционная causal language model семейства Qwen, разработанная командой Qwen. Это FP8-версия модели Qwen3-235B-A22B-Instruct-2507 для генерации текста и диалогового взаимодействия. Она предназначена для следования инструкциям, понимания текста, логического рассуждения, математики, научных задач, программирования, использования инструментов и открытых субъективных задач, включая генерацию качественного текста. Модель использует архитектуру Mixture-of-Experts: 235 млрд параметров всего, из которых 22 млрд активируются при обработке запроса; 234 млрд параметров относятся к неэмбеддинговым. Архитектура включает 94 слоя, 128 экспертов и 8 активируемых экспертов, а также Grouped Query Attention с 64 Q- и 4 KV-головами. Нативная длина контекста составляет 262 144 токена. Модель поддерживает несколько языков и улучшенное покрытие редких знаний, однако конкретный полный список языков в README не указан. Поддерживается только non-thinking mode: модель не формирует блоки <think></think>. Сильные стороны модели — улучшенные instruction following, рассуждение, кодинг, tool usage, многоязычность, субъективные и открытые задачи, а также обработка длинного контекста. Ограничения включают высокие требования к вычислительным ресурсам, обусловленные общим размером модели, и отсутствие режима thinking. Модель распространяется по лицензии Apache-2.0.

Granite-4.2-30B (MXFP4) — квантизированная версия языковой модели Granite-4.2-30B, разработанная командой Granite компании IBM. Это открытая text-generation модель для рассуждений, генерации и анализа кода, многошаговых задач, диалога, вызова инструментов и агентных рабочих процессов. Вариант MXFP4 предназначен для инференса с уменьшенными требованиями к памяти; он получен квантизацией исходной модели с помощью GPTQ, калиброванной на 2 тысячах примеров из SFT-датасета. Исходная модель представляет собой decoder-only dense Transformer с архитектурой GraniteForCausalLM, примерно 30 млрд параметров, 64 слоями, Grouped Query Attention с 32 attention heads и 8 KV heads, RoPE, SwiGLU, RMSNorm и раздельными входными и выходными embedding. Модель поддерживает текстовую модальность, встроенное рассуждение в режимах полного, отключённого и low-effort thinking, native tool calling и OpenAI-совместимые сценарии развёртывания. Нативный контекст составляет 128K токенов; заявлено расширение long-context до 512K. Тестировались English, German, Spanish, French, Japanese, Portuguese, Arabic, Czech, Italian, Korean, Dutch и Chinese. Сильные стороны модели — рассуждения, программирование, следование инструкциям, вызов инструментов, агентные задачи и работа с длинным контекстом. Ограничения включают возможное снижение качества на языках кроме English, а также риск неточных, предвзятых или небезопасных ответов; раскрываемое содержимое reasoning может быть промежуточным и не отражать окончательный вывод. Модель распространяется по лицензии Apache 2.0.

QuantFactory/Qwen2.5-7B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-7B-Instruct, созданная QuantFactory на основе модели Qwen от Alibaba Cloud с использованием llama.cpp. Модель предназначена для диалоговых сценариев, генерации текста, следования инструкциям, работы со структурированными данными и JSON, а также для задач программирования и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещений QKV в механизме внимания. Модель содержит 7,61 млрд параметров, 28 слоёв и использует Grouped Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для контекстов свыше 32 768 токенов требуется настройка YaRN. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, японский, корейский и другие. Сильные стороны модели — улучшенное следование инструкциям, генерация длинных текстов, понимание таблиц и других структурированных данных, формирование JSON, а также развитые навыки в кодировании и математике. К ограничениям относятся возможное снижение качества или производительности на коротких текстах при статическом масштабировании YaRN и необходимость учитывать особенности используемого GGUF-квантизированного варианта. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Instruct-2507-FP8 — причинная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия модели Qwen3-30B-A3B-Instruct-2507, предназначенная для генерации текста в режиме без скрытого рассуждения и без блоков <think></think>. Модель ориентирована на следование инструкциям, логическое рассуждение, понимание текста, математику, естественные науки, программирование, использование инструментов, открытые и субъективные текстовые задачи, а также работу с длинным контекстом и несколькими языками. Она поддерживает контекст длиной до 262 144 токенов. Архитектура — Mixture of Experts: 30,5 млрд параметров всего, из них 3,3 млрд активируются на запрос; модель содержит 48 слоёв, 128 экспертов и активирует 8 экспертов, использует GQA с 32 головами Q и 4 головами KV. К сильным сторонам относятся улучшенные instruction following, качество генерации, математические и кодовые способности, расширенное покрытие редких знаний на разных языках и повышенное качество работы с длинным контекстом. Ограничение модели — поддержка только нерassуждающего режима, поэтому она не предназначена для генерации явных цепочек рассуждений в формате <think></think>. Для использования рекомендуются актуальные версии transformers, а для развёртывания — SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen-72B — базовая плотная языковая модель на архитектуре Transformer, разработанная Alibaba Cloud в рамках семейства Tongyi Qianwen. В репозитории представлена предварительно обученная модель с 119,4 млрд параметров; она обучена более чем на 3 трлн токенов из веб-текстов, книг, кода, математики и других общих и профессиональных материалов. Это базовая модель, а не диалоговая версия Qwen-72B-Chat. Модель предназначена для генерации текста и служит основой для сценариев продолжения текста, рассуждений, ответов на запросы, работы с кодом и математическими задачами. В README указаны 32 тысячи токенов контекста, словарь размером свыше 150 тысяч токенов и архитектурные компоненты RoPE, SwiGLU и RMSNorm. Основное внимание уделено китайскому и английскому языкам; словарь также рассчитан на поддержку ряда других языков, включая русский. Для запуска BF16/FP16 требуется не менее 144 ГБ видеопамяти, а для варианта Int4 — не менее 48 ГБ. README предупреждает, что при дообучении нужно учитывать особенности tiktoken-токенизатора и специальных токенов. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией репозитория.

Kimi K2 Thinking — открытая reasoning-модель, разработанная Moonshot AI. Она предназначена для задач, требующих глубокого пошагового рассуждения и длительного автономного взаимодействия с инструментами: исследований, поиска информации, программирования, написания текстов и многоэтапных агентских рабочих процессов. Модель умеет чередовать рассуждение и вызовы функций, сохраняя целенаправленное поведение примерно на протяжении 200–300 последовательных вызовов инструментов. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит около 1 трлн параметров, из которых 32 млрд активируются для обработки одного токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 attention heads, механизм внимания MLA и функцию активации SwiGLU. Размер словаря составляет 160 тыс. токенов, контекстное окно — 256 тыс. токенов. Модель использует нативную INT4-квантизацию, заявленную как обеспечивающую двукратное ускорение в низколатентном режиме и снижение требований к памяти без потери качества. Сильные стороны модели — глубокое рассуждение, стабильное использование инструментов на длинных дистанциях, работа с большими контекстами и высокие результаты в математических, исследовательских, поисковых и coding-бенчмарках. README не указывает поддерживаемые естественные языки и не содержит подробностей о мультимодальности, поэтому модель следует считать текстовой в рамках доступных данных. Также заявленные преимущества и результаты зависят от сценария, наличия инструментов и настроек оценки. Модель распространяется по лицензии Modified MIT.

OpenAI o1 — модель рассуждения, разработанная OpenAI для сложных многошаговых задач. Она обучена с применением обучения с подкреплением и предназначена для задач, где полезны тщательный анализ, например математики, программирования, научных вопросов и построения агентных сценариев. Модель также принимает изображения и может рассуждать об их содержимом. В API o1 поддерживает текстовые входы и выходы, изображения на входе, вызов функций и структурированные ответы. Контекстное окно составляет 200 000 токенов. OpenAI указывает, что версия o1-2024-12-17 стала доступна для производственного использования. Модель может ошибаться, а её результаты требуют проверки; открытые сведения не устанавливают число параметров или конкретную архитектуру. Доступ предоставляется через API OpenAI на условиях сервиса OpenAI; веса модели не представлены как открытая загрузка.

Qwen2.5-Coder-7B-Instruct-AWQ — 4-битная AWQ-квантизированная instruction-tuned языковая модель для генерации текста и программного кода, разработанная командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, работы с чат-запросами, создания code agents, а также задач, где требуются математические и общие языковые способности. Модель использует каузальную transformer-архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и Grouped-Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов; для входов свыше 32 768 токенов требуется настройка YaRN, которая может снижать производительность на коротких текстах. Модель обучалась на данных, включающих исходный код, текстово-кодовые связи и синтетические данные; в README указан английский язык. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможное ухудшение качества или скорости при использовании расширенного контекста и необходимость совместимых версий Transformers и AWQ-инфраструктуры. Модель распространяется по лицензии Apache-2.0.

Cogito v1 preview 70B — диалоговая языковая модель, разработанная Deep Cogito и дообученная на базе Meta Llama 3.1 70B. Модель содержит 69,5 млрд параметров, использует архитектуру Llama с плотной авторегрессионной сетью и предназначена для генерации текста, следования инструкциям и общения. Модель поддерживает два режима ответа: прямой и с дополнительным рассуждением, которое можно включить через системную инструкцию или параметр шаблона чата. Она ориентирована на программирование, STEM-задачи, многоязычные запросы, вызов инструментов и общую помощь; заявлена поддержка более 30 языков и контекст до 128 тыс. токенов. Модель работает с текстом на входе и выдаёт текст. По заявлению разработчика, Cogito обучалась методом Iterated Distillation and Amplification и показывает результаты выше сопоставимых по размеру моделей на стандартных отраслевых тестах. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия Llama 3.1 допускает коммерческое использование с соблюдением её условий.

DeepSeek-V2-Chat-0628 — улучшенная версия диалоговой модели DeepSeek-V2-Chat, разработанная DeepSeek. Она предназначена для общения по инструкциям и генерации текста, включая помощь с программированием, математическими задачами, переводом и ответами на вопросы по документам в сценариях RAG. Модель построена на архитектуре DeepSeek-V2 и содержит 18,1 млрд параметров; заявленная длина контекста — 163 840 токенов. В репозитории веса представлены в формате safetensors. В карточке сообщается об улучшении результатов относительно предыдущей версии на HumanEval, MATH и BBH, а также об оптимизации следования инструкциям в системной части диалога. Для запуска BF16 версии локально README указывает требования в 8 GPU по 80 ГБ памяти. Лицензия в метаданных обозначена как other, поэтому условия использования следует проверять в документах лицензии репозитория.

Qwen2.5-Coder-14B-Instruct-AWQ — инструкция-настроенная языковая модель для генерации текста и программного кода, разработанная командой Qwen. Она предназначена для написания, анализа, объяснения и исправления кода, решения задач программирования, а также для использования в чат-ассистентах и агентных системах разработчика. Модель основана на Qwen2.5-Coder-14B-Instruct и распространяется как 4-битная AWQ-квантизированная версия. Модель является каузальной языковой моделью с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Она содержит около 14,7 млрд параметров, 48 слоёв и использует Grouped Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN. Модель обучалась на данных, включающих исходный код, текстово-кодовые связи и синтетические данные, с общим объёмом обучения 5,5 трлн токенов. В метаданных README указан английский язык. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения связаны с возможным ухудшением производительности на коротких текстах при статическом масштабировании YaRN и с тем, что для эффективной работы требуются совместимые версии Transformers и поддержка AWQ. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Qwen2.5-Coder-3B-Instruct-AWQ — языковая модель для генерации текста и программного кода, разработанная командой Qwen. Она предназначена для генерации, анализа, рассуждений и исправления кода, а также для создания кодовых агентов и решения задач, где требуются математические и общие языковые способности. Модель является instruction-tuned версией Qwen2.5-Coder-3B и поддерживает диалоговый формат взаимодействия. Модель представляет собой causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Она содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, 36 слоёв и механизм GQA с 16 головами для Q и 2 для KV. Максимальная длина контекста составляет 32 768 токенов. Данная версия использует 4-битную AWQ-квантизацию, что снижает требования к памяти, но может повлиять на точность по сравнению с полноразмерной версией. В README явно указан английский язык; модальность — текстовая. Сильными сторонами модели являются специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сочетание кодовых, математических и общих языковых возможностей. Для работы рекомендуется актуальная версия библиотеки Transformers; версия ниже 4.37.0 может быть несовместима. Модель распространяется по лицензии Qwen Research, точные условия которой приведены в указанном файле лицензии.

Qwen2.5-Coder-7B-Instruct-GPTQ-Int4 — инструкционная языковая модель для работы с программным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen при Alibaba Cloud. Модель предназначена для генерации, анализа, исправления и объяснения кода, а также для использования в чат-ассистентах и кодовых агентах. Она сохраняет возможности базовой модели в математике и общих задачах. В карточке указано, что модель ориентирована на английский язык. Это causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV и GQA: 28 голов для Q и 4 для KV. Модель содержит 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, и 28 слоёв. Доступна GPTQ-квантизация до 4 бит, уменьшающая требования к памяти по сравнению с полноразмерной версией. Максимальная длина контекста заявлена до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких запросах. Сильными сторонами модели являются специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также компактный размер и 4-битная квантизация, удобные для локального или ограниченного по ресурсам развёртывания. Ограничения включают зависимость качества и скорости от оборудования и настроек инференса, а также возможное ухудшение производительности при использовании статического YaRN. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-FP8 — FP8-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная причинная языковая модель с визуальным энкодером, предназначенная для работы с текстом, изображениями и видео. Модель ориентирована на программирование, профессиональные и исследовательские задачи, автономное планирование, агентные сценарии и выполнение сложных многошаговых задач. Режим рассуждений включён по умолчанию, но может отключаться для отдельных запросов; глубина рассуждений настраивается параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Модель содержит 27 млрд параметров, 64 слоя и использует архитектуру, сочетающую Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 000 000 токенов. Поддерживается понимание изображений и видео, включая документы, STEM-диаграммы и длительные видеоматериалы, однако конкретный перечень языков в README не указан. Веса квантизированы методом fine-grained FP8 с размером блока 128; заявлено, что показатели близки к исходной модели. Формат совместим с Hugging Face Transformers, vLLM, SGLang и другими инструментами инференса. Лицензия — Apache 2.0. Ограничениями являются необходимость подходящей инфраструктуры для локального развёртывания, возможные особенности FP8-инференса и отсутствие в предоставленных данных подробных результатов бенчмарков и языкового покрытия.

Viper-Coder-v1.6-r999 — языковая модель PrithivMLmods на архитектуре Qwen2, дообученная на синтетических данных для программирования, рассуждений и выполнения инструкций. Это плотная модель на 14 млрд параметров с контекстом до 32 768 токенов и форматом весов Safetensors; поддерживает чат и интерфейс вызова инструментов. Модель предназначена для генерации и анализа кода, отладки, решения алгоритмических и математических задач, подготовки технической документации и работы со структурированными данными, включая JSON, YAML и SQL. В карточке заявлена поддержка кода на нескольких языках программирования и документации на 29 языках; метаданные указывают английский язык. README также заявляет контекст до 128K токенов, но метаданные каталога подтверждают 32 768 токенов. Лицензия — Apache-2.0.

unsloth/cogito-v2-preview-llama-70B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 70B, разработанная Unsloth на базе deepcogito/cogito-v2-preview-llama-70B. Это инструкционно дообученная генеративная модель с гибридным режимом рассуждений: она может отвечать напрямую либо предварительно выполнять саморефлексию. Обучение проводилось с использованием Iterated Distillation and Amplification (IDA), стратегии итеративного самоулучшения. Модель предназначена для генерации текста, следования инструкциям, программирования, задач STEM, вызова инструментов и общего ассистирования. Модель поддерживает контекст длиной до 128k токенов и обучена более чем на 30 языках, поэтому ориентирована на многоязычные сценарии. Заявлены улучшенные возможности в программировании, работе с инструментами и многоязычии по сравнению с сопоставимыми по размеру моделями. Доступны стандартный режим и расширенное рассуждение; для последнего в совместимых инструментах требуется включить параметр enable_thinking или использовать предусмотренный системный запрос и префилл. GGUF-формат подходит для запуска через совместимые средства локального инференса, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. К ограничениям относятся значительные требования к вычислительным ресурсам, обусловленные размером 70B, а также экспериментальный статус preview и возможная хрупкость гибридного режима в редких случаях. Репозиторий распространяется по лицензии Llama 3.1, указанной как допускающая коммерческое использование; точные условия следует проверять в тексте лицензии.

Dolphin 2.9.2 Qwen2 72B — диалоговая языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на основе Qwen2-72B. Модель с плотной архитектурой Qwen2 содержит 71,5 млрд параметров и предназначена для генерации текста в формате ChatML; базовая модель поддерживает контекст до 131 072 токенов, а дообучение проводилось на последовательностях длиной 8 000 токенов. Модель подходит для инструктивного диалога, написания и анализа кода, решения задач и работы с вызовами функций. В карточке также отмечены начальные агентные возможности. Модель описана разработчиками как uncensored и может с высокой готовностью выполнять запросы, в том числе небезопасные; перед использованием в сервисе рекомендуется добавить собственный слой выравнивания. Лицензия — Tongyi Qianwen; README разрешает коммерческое использование в соответствии с её условиями.

Карточка модели Nguyentruong031203/embeddinggemma-300m на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

GigaChat 3.5 Reasoning — большая языковая модель, разработанная ai-sage. Эта версия распространяется в формате GGUF для высокопроизводительного запуска через llama.cpp; базовая модель доступна в варианте BF16, а отдельная версия предназначена для инференса в FP8. Модель ориентирована на задачи, требующие углублённого рассуждения, и обучалась с использованием online RL. Архитектура представляет собой Mixture-of-Experts с общим размером 432 млрд параметров, из которых 28 млрд активируются при обработке токена. Используется гибридная архитектура, объединяющая Multi-head Latent Attention (MLA) и слои линейного внимания GatedDeltaNet. Дополнительно применяются GatedNorm и три MTP-головы для speculative decoding. Максимальная поддерживаемая длина контекста — 262 тысячи токенов. Заявлена поддержка русского и английского языков, а также сценариев text generation, instruction following, reasoning, tool use, function calling и structured output. Модель предназначена для решения математических и научных задач, программирования, редактирования кода, генерации тестов, репозиторных задач уровня SWE-bench, взаимодействия с инструментами, работы с длинным контекстом и соблюдения заданных форматов. К сильным сторонам относятся улучшения в математике, коде, следовании инструкциям и структурированном выводе по сравнению с GigaChat 3.5 Ultra Instruct, а также специализированное обучение шести доменных экспертов с последующей on-policy distillation. Ограничения включают высокие требования к вычислительным ресурсам из-за масштаба модели; конкретные требования к оборудованию, количественные характеристики производительности и ограничения использования в README не указаны. Лицензия — MIT.

Granite-4.2-8B (FP8) — квантизированная в формате FP8 версия языковой модели Granite 4.2, разработанной IBM Research и распространяемой через IBM Granite. Это dense reasoning language model примерно на 8 млрд параметров; в репозитории FP8-версии указано около 9 млрд параметров с тензорами BF16 и F8_E4M3. Модель предназначена для генерации текста, диалога, следования инструкциям, программирования, решения математических и многошаговых задач, а также для построения корпоративных AI-агентов с вызовом инструментов. Granite 4.2 поддерживает встроенное пошаговое рассуждение, режимы полного, отключённого и облегчённого reasoning, а также reasoning-augmented tool calling. Заявлено контекстное окно 128K токенов. Модель протестирована для диалога на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. FP8-представление снижает требования к памяти и подходит для развёртывания через Transformers, vLLM и SGLang, но требует совместимой поддержки FP8 и квантизированных тензоров. Сильные стороны модели — сочетание reasoning, кодирования, многошагового планирования и вызова инструментов при относительно компактном размере, а также возможность выбора баланса между качеством рассуждения и задержкой. В доступных первоисточниках не приведены подробные сведения о внутренней конфигурации слоёв именно FP8-варианта, полном наборе ограничений безопасности и численных характеристиках для всех сценариев; поэтому результаты требуют проверки в прикладных задачах. Репозиторий распространяется по лицензии Apache 2.0, допускающей коммерческое и академическое использование.

Nemotron-Cascade-2-30B-A3B GGUF — текстовая генеративная модель NVIDIA, созданная на основе Nemotron-3-Nano-30B-A3B-Base и опубликованная в формате GGUF. Файлы модели сгенерированы с помощью llama.cpp. Модель относится к архитектуре Mixture-of-Experts: общий размер составляет 30 млрд параметров, из которых при обработке активируются 3 млрд. В карточке указан английский язык и лицензия NVIDIA Open Model License. Модель предназначена для общего текстового общения, сложного рассуждения, математических задач, программирования и агентских сценариев. Она поддерживает два режима работы: thinking для развёрнутого рассуждения и instruct для обычного выполнения инструкций без режима рассуждения. Заявлены особенно сильные результаты в математике и алгоритмическом программировании: модель получила золотые результаты на IMO 2025 и IOI 2025, а также высокие показатели на AIME, HMMT, LiveCodeBench и других тестах. К сильным сторонам относятся сочетание крупной ёмкости модели с относительно малым числом активных параметров, развитые способности к рассуждению, решению математических задач, написанию кода и использованию в агентских системах. Ограничения включают отсутствие в предоставленной карточке сведений о длине контекста, точных характеристиках квантования GGUF, поддерживаемых дополнительных языках и требованиях к аппаратным ресурсам. Использование регулируется NVIDIA Open Model License; условия лицензии следует проверить по ссылке, указанной в карточке.

Nemotron-Cascade-8B — языковая модель общего назначения от NVIDIA, дообученная на базе Qwen3-8B-Base. Модель имеет плотную архитектуру Qwen3 и около 7,6 млрд параметров; поддерживает контекст до 32 768 токенов и работает через Transformers в формате safetensors. Модель предназначена для диалогов и генерации текста, включая рассуждения, следование инструкциям, математические задачи, программирование, инженерные задачи в ПО и использование инструментов. Доступны режимы рассуждения и обычного ответа, переключаемые тегами /think и /no_think. В карточке описано последовательное дообучение с многоэтапным SFT и обучением с подкреплением по разным областям. Для длинного контекста NVIDIA рекомендует RoPE scaling с YaRN; это требует соответствующей настройки конфигурации. Метаданные указывают лицензию как other, поэтому конкретные права использования следует сверить с условиями репозитория.

Nemotron-Cascade-8B-Thinking — универсальная языковая модель NVIDIA для диалогов и задач, требующих пошагового рассуждения. Она построена на архитектуре Qwen3 и дообучена на базе Qwen3-8B-Base: после многоэтапного SFT применялось последовательное обучение с подкреплением в разных областях. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; карточка указывает английский язык. Модель предназначена для рассуждений на общие знания, математики, программирования и разработки ПО, следования инструкциям и использования инструментов. Она работает в режиме thinking и использует шаблон чата в стиле Qwen3. Для локального запуска NVIDIA рекомендует температуру 0,6 и top-p 0,95; для поддержки более длинного контекста предлагается масштабирование RoPE методом YaRN. Лицензия указана как other, поэтому условия использования следует проверить в файлах репозитория.

NVIDIA Nemotron Nano 9B v2 — языковая модель NVIDIA для диалога, следования инструкциям и задач с рассуждением. В карточке она описана как обученная с нуля; метаданные каталога указывают связь merge с NVIDIA-Nemotron-Nano-12B-v2 и NVIDIA-Nemotron-Nano-12B-v2-Base, поэтому происхождение модели отмечено как слияние. Архитектура Nemotron-Hybrid сочетает преимущественно слои Mamba-2 и MLP с четырьмя слоями Attention. Метаданные указывают 15,1 млрд параметров, контекст до 131 072 токенов и формат safetensors. Модель принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Она рассчитана на ответы на вопросы, программирование, RAG-системы, чат-боты и агентные приложения. Режим рассуждения можно управлять системной инструкцией или бюджетом токенов; разрешение промежуточного рассуждения обычно повышает качество сложных ответов, но увеличивает расход токенов. В README перечислены английский, немецкий, испанский, французский, итальянский и японский; также для входа указаны корейский, португальский, русский и китайский. Лицензия в метаданных обозначена как other, а README заявляет готовность к коммерческому использованию.

Qwen2.5-Coder-14B-Instruct-GPTQ-Int4 — 4-битная GPTQ-квантизированная instruction-tuned модель для генерации и обработки кода из семейства Qwen2.5-Coder, разработанного командой Qwen/Alibaba Cloud. Модель предназначена для генерации, анализа, исправления и рассуждений о программном коде, а также для создания приложений на базе code agents. Она сохраняет общие математические и языковые возможности базовой модели Qwen2.5 и работает в формате causal language model. Модель содержит 14,7 млрд параметров, из которых 13,1 млрд не являются embedding-параметрами, и включает 48 слоёв. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в Attention QKV; применяется Grouped-Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. В README явно указан английский язык. Квантизация GPTQ Int4 уменьшает требования к памяти и облегчает развёртывание, но может влиять на качество по сравнению с полноточной версией. Для работы рекомендуется актуальная версия transformers, а для длинного контекста — vLLM с соответствующей настройкой. Модель распространяется по лицензии Apache-2.0.

Карточка модели bonalai/Qwen2.5-Coder-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Карточка модели raychan0713/Qwen2.5-Coder-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.