II.8Инженерия данных и аналитика

AllehellA/whisper-small-nigerian-en — дообученная модель распознавания речи на базе OpenAI Whisper Small. Она предназначена для транскрибирования аудио с нигерийским вариантом английского языка. Модель построена на архитектуре Whisper, содержит 153,1 млн параметров и доступна в формате Safetensors для библиотеки Transformers. В README приведены результаты оценки: WER 8,2943 и нормализованный WER 5,2181. Датасет обучения не назван, поэтому эти значения не позволяют судить о качестве на других выборках и условиях записи. Модель распространяется по лицензии Apache-2.0.

Модель dmusingu/WHISPER-SMALL-SWAHILI-ASR-CV-14 — дообученная Denis Musinguzi версия Whisper для автоматического распознавания речи на суахили. Она обучена на наборе Common Voice 14.0 и предназначена для преобразования аудио с речью в текст. В метаданных указаны архитектура Whisper, 153,1 млн параметров и формат весов safetensors; базовая модель — openai/whisper-large. На оценочной выборке README приводит Loss 0,4428, WER 0,2513 и CER 0,0983. Модель подходит для транскрибации записей и голосовых материалов на суахили. Лицензия — Apache-2.0. Результаты приведены только для указанной оценочной выборки Common Voice 14.0; README не сообщает подробностей о методике оценки или поведении на других аудиоданных.

Whisper Twi v2 — модель автоматического распознавания речи, разработанная Tiffany Degbotse на основе Whisper от OpenAI. Это дообученная версия openai/whisper-small с архитектурой Whisper для преобразования аудио на языке тви (акан) в текст. Модель предназначена для транскрибирования речи, голосовых интерфейсов, инструментов доступности и лингвистического анализа речи на акане. Модель ориентирована на поддержку африканских языков с ограниченными ресурсами. В карточке указаны 29,4 млн параметров, формат safetensors и лицензия Apache-2.0. Качество распознавания может снижаться на сильно зашумлённых записях, при частом переключении между языками и для диалектов, недостаточно представленных в обучающих данных; перед внедрением рекомендуется оценить её на целевых аудиозаписях.

Wichtel-Qwen3.6-27B — локальная диалоговая модель Schneewolf Labs на архитектуре Qwen3.5, предназначенная для управления инструментами и написания кода на Hemlock. Модель объединяет четыре адаптера в один набор весов; в репозитории указаны возможности работы с изображениями и кодом. Размер модели и длина контекста в предоставленных данных не указаны. Основные сценарии — выбор и вызов инструментов, передача обычных инженерных задач кодовому агенту и генерация программ на Hemlock. В README сообщается результат 47 из 47 на внутреннем тесте использования инструментов и 67,6% на Hembench; это результаты тестов разработчика, а не независимая оценка. Модель распространяется в формате safetensors по лицензии Apache-2.0. В README также описана сборка для llama.cpp с MTP-головой, но метаданные указывают safetensors как формат файлов репозитория.

XLS-R-300m-SV — модель распознавания шведской речи, дообученная на базе facebook/wav2vec2-xls-r-300m на наборе Mozilla Common Voice 7.0 для шведского языка (конфигурация sv-SE). Модель использует архитектуру wav2vec2 с CTC-декодером и содержит около 402,7 млн параметров; принимает аудио и преобразует его в текст. Опубликованные результаты на тестовой выборке Common Voice 7.0: WER 24,68% без языковой модели и 16,98% с языковой моделью. Модель выпущена под лицензией Apache-2.0. README не описывает дополнительные сценарии применения и ограничения; качество на других наборах данных не приведено.

GPT-5.6 Terra — языковая модель OpenAI общего назначения, предназначенная для рабочих сценариев, где важен баланс возможностей и стоимости. Она поддерживает рассуждение с настраиваемым уровнем усилий, вызов функций, структурированный вывод и работу с инструментами через Responses API. Модель принимает текст и изображения, а выдаёт текст; заявленное окно контекста — 1 050 000 токенов, максимальный объём ответа — 128 000 токенов. Terra подходит для программирования, анализа и создания документов, поиска по информации и выполнения многошаговых задач с инструментами. В API доступны веб-поиск, поиск по файлам, интерпретатор кода и управление компьютером. OpenAI указывает, что аудио- и видеовходы не поддерживаются. Модель предоставляется через API и сервисы OpenAI; открытая лицензия на веса не указана.

Карточка модели NostraEmpire/mirror-qwen2.5-32b-instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Qwen2.5-72B-Instruct — инструкция-настроенная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на архитектуре Qwen2 с 71,5 млрд параметров по метаданным; карточка описывает 80 слоёв, RoPE, SwiGLU, RMSNorm и контекст до 131 072 токенов с генерацией до 8 192 токенов. В текущей конфигурации репозитория задан контекст 32 768 токенов, а для более длинных входов README предлагает YaRN. Модель предназначена для диалогов и следования инструкциям, генерации длинных текстов и структурированных ответов, включая JSON, а также для задач программирования, математики и понимания таблиц. Она поддерживает более 29 языков, включая русский и английский, и предоставляет интерфейс для вызова инструментов. Модель принимает и генерирует текст. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers; README рекомендует актуальную версию библиотеки и vLLM для развёртывания. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели. Удлинение контекста через статический YaRN может снижать производительность на коротких запросах.

Qwen2.5-7B-Instruct-AWQ — инструкционная причинно-следственная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, работы со структурированными данными и JSON, а также задач программирования и математики. Модель содержит около 7,61 млрд параметров, 28 слоёв и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm и смещениями в механизме внимания. Применяется AWQ-квантизация до 4 бит, что снижает требования к памяти при развёртывании. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN. Сильные стороны модели — улучшенное следование инструкциям, генерация длинных текстов, работа со структурированными данными, кодом и математикой, а также экономичность 4-битной версии. Использование статического YaRN в vLLM может снижать производительность на коротких текстах. Для работы требуется актуальная версия библиотеки transformers; версии ниже 4.37.0 не поддерживаются. Модель распространяется по лицензии Apache-2.0.

JunHowie/Qwen3-30B-A3B-Instruct-2507-GPTQ-Int4 — это квантизированная версия Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Модель относится к причинным языковым моделям и предназначена для генерации текста, следования инструкциям, логического рассуждения, понимания текста, математики, научных задач, программирования, использования инструментов и многоязычных сценариев. Она работает только в non-thinking режиме и не формирует блоки <think></think>. В основе используется MoE-архитектура: всего 30,5 млрд параметров, из которых активируется 3,3 млрд; 48 слоёв, 128 экспертов, 8 активируемых экспертов, а также GQA с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. Данная версия сжата до 4 бит с group size 128 и настройкой desc_act=False, что, согласно README, повышает эффективность по числу токенов в секунду по сравнению с предыдущими квантизированными версиями. Для запуска рекомендуется vLLM версии 0.9.2 или новее. Модель подходит для чат-систем, генерации и обработки текста, анализа длинных документов, программирования, математических и исследовательских задач, а также агентских сценариев с использованием инструментов. К сильным сторонам относятся длинный контекст, улучшенные instruction following, reasoning, coding, alignment и многоязычные возможности базовой модели. Ограничения включают работу только в non-thinking режиме и возможные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Apache-2.0.

Карточка модели NostraEmpire/mirror-qwen3-14b на Hugging Face совпадает с карточкой Qwen/Qwen3-14B, поэтому описание составлено по ней. Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

GigaChat 3.1 Ultra — крупная инструктивная языковая модель семейства GigaChat, представленная в репозитории ai-sage. Она предназначена для многоязычных диалогов, рассуждений, программирования и вызова инструментов. Архитектура — MoE с 702 млрд параметров всего и 36 млрд активных при генерации; модель использует Multi-head Latent Attention и Multi-Token Prediction. По README, версия рассчитана на развёртывание на крупных вычислительных кластерах и локальную инфраструктуру. В метаданных указаны архитектура DeepSeek V3, формат safetensors, контекст 262 144 токена и поддержка русского и английского языков. Модель подходит для диалогового помощника, решения сложных задач, генерации кода и агентных сценариев с исполняемыми вызовами инструментов. README описывает усиленную подготовку данных по математике, финансам, естественным наукам, инженерии и медицине, а также улучшения для поиска с цитированием и работы с файлами. Репозиторий лицензирован по MIT. Для запуска требуются значительные вычислительные ресурсы; конкретные показатели качества зависят от сценария и приведённых в карточке оценок.

GRM-2.6-Opus — объединённая модель OrionLLM на архитектуре Qwen3.5 с 27 млрд параметров. Она предназначена для сложных задач общего назначения: структурированных рассуждений, программирования, STEM-задач, диалога и многошаговой работы с агентами и инструментами. Модель использует текст и изображения на входе и формирует текстовые ответы; метаданные также указывают на интерфейс вызова инструментов. По заявлению разработчика, объединение с Qwen3.6-27B-Claude-Opus-Reasoning-Distilled усиливает структурированное рассуждение, работу с кодом и терминальными агентами по сравнению с GRM-2.6-Plus. Модель распространяется в формате safetensors под лицензией Apache 2.0. Длина контекста в предоставленных данных не указана.

InternLM2-Chat-20B — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель на 19,3 млрд параметров с поддержкой чата и контекстом 32 768 токенов по метаданным Hugging Face. README также описывает эксперименты с удлинённым контекстом до 200 тысяч токенов при использовании LMDeploy. Модель предназначена для диалогов, следования инструкциям, рассуждений, математики, программирования, творческого письма и анализа данных. Она может служить языковой основой для агентов, которые выбирают инструменты и выполняют многошаговые вызовы; запуск кода требует подключённого интерпретатора. В README приведены результаты OpenCompass, однако они зависят от версии конфигурации и не гарантируют качество в конкретном сценарии. Модель принимает текст и генерирует текст. Карточка демонстрирует использование Transformers, LMDeploy и vLLM. README сообщает, что код распространяется по Apache-2.0, веса открыты для академических исследований, а для коммерческого использования требуется бесплатная лицензия по заявке. Модель может выдавать предвзятые, дискриминационные или иные вредоносные ответы.

InternLM2-Chat-20B-SFT — разговорная языковая модель команды InternLM, дообученная методом supervised fine-tuning на базе InternLM2-Base-20B. Она содержит 19,3 млрд параметров и предназначена для диалогов, выполнения инструкций, рассуждений, решения математических задач, программирования, творческого письма и работы с инструментами; в сценариях с подключённым интерпретатором кода поддерживает анализ данных. Модель принимает текст и генерирует текст. В метаданных указан контекст до 32 768 токенов; в README заявлена поддержка контекста до 200 тысяч токенов при использовании LMDeploy. Модель ориентирована на практическое применение и также выпущена для изучения влияния RLHF: версия InternLM2-Chat-20B проходит дополнительное Online RLHF-обучение поверх этой SFT-версии. Для развёртывания описана поддержка Transformers, LMDeploy и vLLM. README предупреждает, что ответы могут содержать предвзятость, дискриминационные или иные вредоносные материалы. В метаданных лицензия обозначена как other; конкретные условия следует сверять с лицензией репозитория.

GPT-5 Pro — модель OpenAI, предназначенная для решения сложных задач с упором на рассуждение, качество кода и следование инструкциям. Карточка описывает её как наиболее продвинутую модель OpenAI и отмечает улучшенный пользовательский опыт. Модель подходит для сложных запросов, требующих пошагового рассуждения, а также для задач программирования и выполнения подробных инструкций. Данных о размере, архитектуре, поддерживаемых языках, контексте, модальностях и лицензии в предоставленных источниках нет.

Granite-4.2-30B — большая языковая модель IBM Granite Team для рассуждений, диалога и работы с инструментами. Это дообученная на основе ibm-granite/granite-4.1-30b-base плотная decoder-only Transformer-модель с архитектурой GraniteForCausalLM и 28,9 млрд параметров. Она поддерживает режимы полного, отключённого и облегчённого рассуждения, а также контекст до 131 072 токенов. Модель предназначена для ответов на сложные вопросы, математики, программирования, многошаговых задач и агентных сценариев с вызовом инструментов. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. README заявляет архитектурные компоненты GQA, RoPE, SwiGLU и RMSNorm; веса представлены в формате safetensors и используются через Transformers. Лицензия Apache 2.0 допускает коммерческое и академическое применение. Производительность на других языках может уступать английской; ответы могут содержать ошибки, предвзятость или небезопасные сведения, а промежуточные рассуждения не всегда отражают итоговый ответ.

Hermes 4 405B — языковая модель Nous Research для диалогов и следования инструкциям, дообученная на базе Meta Llama 3.1 405B. Это плотная авторегрессионная модель с 403,7 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для работы в роли универсального ассистента: она ведёт диалог, рассуждает, помогает с математикой, программированием, STEM-задачами, логикой и творческим письмом. Поддерживает гибридный режим рассуждений, вызов функций и инструментов, а также генерацию структурированных ответов, включая JSON по заданной схеме. В карточке указана поддержка английского языка. Разработчик сообщает об улучшениях в рассуждениях, следовании форматам и управляемости после дообучения. Реальное качество может зависеть от запроса, шаблона чата и настроек генерации; работа с инструментами требует подходящего парсера и среды исполнения. Лицензия — Llama 3.

Карточка модели ArchiveStudio/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen-72B-Chat — диалоговая языковая модель Alibaba Cloud, созданная на основе Qwen-72B с применением методов выравнивания. Это плотная Transformer-модель семейства Qwen с 119,4 млрд параметров и контекстом до 32 768 токенов; в репозитории представлены веса Safetensors. Модель предназначена для многошагового диалога и генерации текста по системным инструкциям. Она подходит для ответов на вопросы, ролевого общения и смены стиля, а также для рассуждений, перевода, математических задач и генерации кода. В описании заявлена поддержка китайского, английского и других языков; обучение включало веб-тексты, книги, код и математические данные. Для запуска в BF16/FP16 требуется не менее 144 ГБ видеопамяти, для Int4 — не менее 48 ГБ. В README приведены результаты бенчмарков, но они не гарантируют качество на конкретных пользовательских задачах. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Calcium-Opus-20B-v1 — диалоговая языковая модель на архитектуре Qwen2, созданная на основе Qwen/Qwen2.5-14B-Instruct и дообученная для рассуждений, математики, программирования и следования инструкциям. По метаданным модель содержит 18,4 млрд параметров, использует Transformers и формат safetensors; заявленное в README контекстное окно до 128K токенов расходится с указанным в метаданных пределом 4096 токенов, поэтому фактический размер контекста следует уточнить для конкретной версии. Модель предназначена для диалоговых помощников, генерации и анализа текста, решения математических задач, написания и отладки кода, работы с таблицами и JSON, а также создания длинных материалов. README заявляет поддержку более 29 языков, включая русский и английский; метаданные карточки указывают английский. Заявлены генерация до 8K токенов за один ответ и интерфейс вызова инструментов. Лицензия Apache-2.0. Качество может различаться между языками; возможны ошибки в длинных ответах, повторы и неверные выводы при неоднозначных или состязательных запросах. Модель не обладает актуальными знаниями о событиях после обучения и требует значительных вычислительных ресурсов.

Cogito v1 preview 14B — инструктивно дообученная генеративная языковая модель компании DeepCogito на архитектуре Qwen2.5-14B. Она принимает текст и генерирует текст, поддерживает прямые ответы и режим с дополнительным рассуждением, который можно включить через системную инструкцию или шаблон чата. Модель рассчитана на программирование, STEM-задачи, следование инструкциям, диалог и вызов инструментов. Модель содержит 14 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. По README, её обучали более чем на 30 языках и оптимизировали для многоязычных задач, кода и вызова инструментов. В карточке заявлено обучение методом Iterated Distillation and Amplification и преимущество над сопоставимыми по размеру моделями на типовых бенчмарках; подробности оценок приведены в публикации разработчика. Модель доступна по лицензии Apache 2.0, разрешающей коммерческое использование. Как и другие генеративные модели, она может ошибаться; README не приводит конкретных ограничений или результатов бенчмарков для этого чекпойнта.

Falcon3-10B-Instruct — инструкция-ориентированная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, включая задачи рассуждения, понимания языка, программирования и математики. Модель основана на причинном декодере Transformer с 40 блоками, архитектурой GQA, SwiGLU и RMSNorm; содержит 9,9 млрд параметров и работает с контекстом до 32 тыс. токенов. Она дообучена на разговорных, STEM-, программных, безопасностных данных и примерах вызова функций. Поддерживает английский, французский, испанский и португальский языки; репозиторий содержит веса Safetensors для Transformers. Модель подходит для создания диалоговых помощников, анализа и генерации текста, помощи с кодом и решения математических задач. Качество зависит от задачи, а результаты бенчмарков в карточке отражают оценки на момент выпуска. Лицензия — TII Falcon-LLM License 2.0.

GLM-4.5 — базовая гибридная модель с открытыми весами, разработанная Z.ai и предназначенная для интеллектуальных агентов. Она объединяет рассуждение, программирование и работу с инструментами; поддерживает режимы пошагового мышления для сложных задач и вызова инструментов, а также режим быстрых ответов. Архитектура семейства GLM-4 MoE, класс модели для причинной генерации текста; в карточке Hugging Face указано 23,4 млрд параметров, а README описывает серию GLM-4.5 с 355 млрд общих и 32 млрд активных параметров. Контекст — до 131 072 токенов. Модель принимает текстовые запросы и выдаёт текст; заявлены английский и китайский языки. Модель подходит для диалоговых помощников, программирования, сложного анализа и агентных сценариев с вызовом инструментов. README сообщает о результатах на 12 отраслевых бенчмарках, но конкретные результаты требуют сверки с техническим отчётом. Весовые файлы доступны в формате safetensors; для запуска описана поддержка Transformers, vLLM и SGLang, а в README также упомянуты варианты BF16 и FP8 для серии. Лицензия MIT допускает коммерческое использование и доработку. Для полного вывода GLM-4.5 требуются значительные вычислительные ресурсы; приведённые в README конфигурации для тонкой настройки включают 16 ускорителей H100 для LoRA.

QuantTrio/GLM-4.7-Flash-AWQ — квантованная версия модели GLM-4.7-Flash, разработанной командой GLM (Z.ai). Модель предназначена для генерации текста, рассуждений, программирования, решения задач и агентских сценариев, включая использование инструментов. Она поддерживает английский и китайский языки и рассчитана на работу с Transformers, vLLM и SGLang. В основе лежит MoE-архитектура размером 30B-A3B: общий объём параметров составляет около 30 млрд, при этом в вычислениях активируется примерно 3 млрд параметров. Версия AWQ занимает около 19 GiB и ориентирована на более эффективное локальное развёртывание. В README для запуска через vLLM указан максимальный контекст 32 768 токенов, а также поддержка tensor parallelism, expert parallelism, tool calling и speculative decoding. Приведённые результаты показывают сильные показатели в математике, общих знаниях, программировании, агентских задачах и веб-поиске, однако сравнительные результаты зависят от конкретного бенчмарка. Основные ограничения — необходимость актуальных версий vLLM и Transformers, поддержка модели только в основных ветках соответствующих проектов, требование CUDA 12.8 для указанной конфигурации и рекомендованный запуск с распределением на два GPU. Лицензия модели — MIT.

GPT-5 — модель OpenAI для сложных задач, требующих рассуждений, точного выполнения инструкций и генерации качественного кода. В карточке модели отмечены улучшения в рассуждениях, качестве кода и удобстве взаимодействия. Модель предназначена для решения сложных задач и следования инструкциям. Каталог классифицирует её как image-text-to-text, однако README не описывает работу с изображениями или другие модальности, поэтому это назначение подтверждается только метаданными.

unsloth/gpt-oss-120b-GGUF — это GGUF-квантизированная версия открытой весовой модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, сложного рассуждения, универсальных задач разработки и агентных сценариев, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель имеет MoE-архитектуру и 117 млрд параметров, из которых 5,1 млрд активны при обработке токена. Она поддерживает настраиваемый уровень рассуждения — низкий, средний или высокий — и обучена работать только с форматом ответов harmony. GGUF-версии содержат исправления Unsloth; F16-вариант сохраняет исходную точность. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp, при этом конкретные характеристики памяти и производительности зависят от выбранного уровня квантизации и оборудования. Сильные стороны модели — высокая способность к рассуждению, агентные возможности, доступность открытых весов, возможность дообучения и гибкая настройка компромисса между качеством и задержкой. Ограничения включают необходимость корректного применения harmony-формата, значительный общий размер модели и потенциальное снижение качества в квантизированных версиях. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование без copyleft-ограничений.

Hermes 3 405B — большая языковая модель общего назначения от Nous Research, созданная полным дообучением Meta-Llama-3.1-405B. Она рассчитана на диалог с ассистентом, следование инструкциям, рассуждения, ролевые сценарии, генерацию кода и работу с инструментами. Модель поддерживает многошаговые беседы и контекст до 131 072 токенов; для диалога используется формат ChatML, также предусмотрены вызовы функций и структурированный вывод JSON. Модель содержит около 403,7 млрд параметров, использует плотную архитектуру Llama и распространяется в формате Safetensors. Для запуска полной версии в FP16 требуется более 800 ГБ видеопамяти; в README также упоминается отдельная FP8-квантизация NeuralMagic для VLLM, требующая около 430 ГБ. Лицензия — Llama 3.1 Community License (llama3). Карточка позиционирует Hermes 3 как модель общего назначения с улучшенными агентными возможностями, управляемостью и генерацией кода.