I.3Извлечение и структурирование данных

T5Gemma-B-B-PrefixLM-IT — англоязычная текстовая модель Google из семейства T5Gemma, дообученная по инструкциям на базе google/t5gemma-b-b-prefixlm. Это encoder-decoder архитектура, адаптирующая предварительно обученные модели Gemma к формату кодировщика и декодировщика; вариант использует конфигурацию B для обеих частей и PrefixLM. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для ответов на вопросы, суммаризации, рассуждений и других задач генерации текста. Модель подходит для создания черновиков, краткого пересказа документов и NLP-экспериментов. Английский указан как поддерживаемый язык семейства. По карточке модели, сравнительно компактные варианты T5Gemma рассчитаны в том числе на развёртывание на локальных компьютерах и в облачной инфраструктуре, однако для этого конкретного репозитория размер и требования к ресурсам не приведены. Ограничения включают возможные фактические ошибки, влияние пробелов и смещений обучающих данных, трудности с неоднозначностью и сложными открытыми задачами. Лицензия Gemma; применение должно учитывать политику допустимого использования Gemma.

Tess-3-Llama-3.1-70B-GGUF — набор квантизированных версий текстовой генеративной модели Tess-3-Llama-3.1-70B, разработанной migtissera. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста, включая диалоговое взаимодействие и другие сценарии, поддерживаемые исходной моделью. Модель имеет размер 70B параметров и распространяется в формате GGUF с вариантами квантизации от Q8_0 до IQ1_M. Доступны версии размером примерно от 16,75 до 74,98 ГБ; наиболее сбалансированными по качеству и размеру в README названы Q6_K, Q5_K_M, Q4_K_M, Q4_K_S и IQ4_XS. Для работы рекомендуется формат prompt, совместимый с Llama 3.1, а запуск возможен, в частности, через LM Studio и llama.cpp. Сведения о поддерживаемых языках, длине контекста и мультимодальности не указаны. Главное преимущество набора — широкий выбор квантизаций, позволяющий адаптировать модель к доступному объёму памяти при сохранении приемлемого качества; высокоточные варианты обеспечивают качество, близкое к исходному. Ограничения связаны с большими требованиями к дисковому пространству и памяти, а у низкобитных версий качество заметно снижается. Модель распространяется по лицензии llama3.1.

testllm-c2-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель, созданная MaziyarPanahi методом SLERP из Mistral-7B-Instruct-v0.2 и Kiddyz/testllm-c2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога. Она принимает текст и поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текстов по запросу. В карточке указана лицензия Apache-2.0. Данных о специализированной предметной области или языках модели нет.

TheProfessor-155b — разговорная языковая модель, созданная Eric Hartford при участии Weyaxi, Charles Goddard и команды Generative AI AbacusAI. Это слияние предварительно обученных моделей семейства Llama, выполненное методом linear merge с помощью mergekit; после слияния модель не дообучали. В состав вошли модели для диалога, математики, медицины и научных задач. Модель содержит 154,3 млрд параметров, принимает текст и использует формат диалога ChatML; заявленная длина контекста — 4096 токенов. Модель предназначена для диалога, рассуждений и совместной работы над научными и математическими задачами: от обсуждения концепций до помощи с кодом, написанием и редактированием статей. Её также можно использовать для медицинских вопросов и исследовательского мозгового штурма. Модель выдаёт текст; README не указывает отдельный перечень поддерживаемых естественных языков. Модель распространяется по лицензии Llama 2. Качество ответов и надёжность фактов README не характеризует; медицинские ответы следует проверять, а генерацию цитат и научных сведений — сверять с первоисточниками.

TigerBot-7B-SFT-v2 — языковая модель семейства BLOOM, опубликованная TigerResearch. Карточка представляет её как основу для создания собственных больших языковых моделей; метаданные указывают архитектуру BloomForCausalLM и размер 9,1 млрд параметров. Модель предназначена для генерации текста и может служить основой для приложений на базе LLM. Репозиторий содержит веса PyTorch. Модель распространяется по лицензии Apache-2.0.

Tool-Star-Qwen-7B — языковая модель для пошаговых рассуждений с вызовом внешних инструментов, созданная авторами фреймворка Tool-Star на базе Qwen. В карточке указана базовая модель Qwen2.5-3B-Instruct, а в метаданных Hugging Face — Qwen/Qwen2.5-7B-Instruct; поэтому точная связь между вариантом модели и базовым чекпойнтом неоднозначна. Метаданные описывают архитектуру как плотную Qwen2, класс Qwen2ForCausalLM, размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель обучалась в два этапа: начальная настройка с обратной связью от инструментов и обучение с подкреплением для улучшения совместного использования нескольких инструментов в ходе рассуждений. Она предназначена для генерации текста и диалоговых сценариев, в которых модель формирует вызовы инструментов и использует их результаты. Авторы сообщают об оценке на наборах тестов для сложных рассуждений; карточка называет английский языком модели. В репозитории указаны веса Safetensors, библиотека Transformers и лицензия MIT.

Tulu 1 Llama 2 13B — языковая модель-помощник, разработанная Allen Institute for AI (AI2) и дообученная на базе meta-llama/Llama-2-13b-hf. Для настройки использована смесь Tulu v1 из открытых, синтетических и созданных людьми наборов данных с инструкциями и диалогами. Модель имеет плотную архитектуру Llama, около 12,9 млрд параметров и контекст до 4096 токенов. Модель предназначена для ответов на инструкции и ведения диалогов, прежде всего на английском языке. Она подходит для генерации ответов, помощи с вопросами и выполнения текстовых инструкций. Для лучшего качества следует использовать указанный в карточке формат запросов, включая завершающий перевод строки. Tulu не проходила этап RLHF-настройки на безопасные ответы и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Модель распространяется по лицензии AI2 ImpACT Low-risk.

Tulu V2.5 DPO 13B — англоязычная чат-модель из серии помощников Tulu, разработанной Allen Institute for AI (AI2). Она дообучена методом DPO на базе Tulu 2 с использованием очищенного набора Argilla Orca DPO Pairs; метаданные указывают базовую модель allenai/tulu-2-13b. Модель с архитектурой Llama 2 содержит 12,9 млрд параметров, принимает текстовые запросы и генерирует текст. Контекст составляет 4096 токенов. Модель предназначена для диалогов с помощником и выполнения инструкций на английском языке, включая ответы на вопросы и генерацию текста. Для лучшего качества следует использовать предусмотренный шаблон чата и соблюдать форматирование сообщений. Модель распространяется по лицензии Apache 2.0. Она не была выровнена на безопасную генерацию в рамках RLHF и не включает фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы.

Tulu V2.5 PPO 13B — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на основе Tulu 2 с использованием PPO и случайной подвыборки из 60 тысяч примеров Nectar; для PPO применялась 13B reward-модель. Модель предназначена для генерации текста и ответов на инструкции в формате диалога. Максимальный контекст — 4096 токенов; вход и выход — текст на английском языке. Лицензия Apache 2.0. Модель умеет вести диалог и выполнять разнообразные инструкции, опираясь на данные Tulu V2 и обучение с обратной связью по предпочтениям. Для корректного формата запросов предусмотрен chat template токенизатора. Ограничение: модель не была специально выровнена для безопасных ответов и может выдавать проблемный контент, особенно при соответствующих запросах; результаты требуют проверки.

Upshot-NeuralHermes-2.5-Mistral-7B-slerp — диалоговая языковая модель, созданная слиянием mlabonne/NeuralHermes-2.5-Mistral-7B и Aditya685/upshot-sih методом SLERP с помощью LazyMergekit. В репозитории представлены веса Safetensors; модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для диалоговой генерации текста и ответов на запросы. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указана лицензия MIT. Карточка не сообщает о специализированной предметной области или языковом охвате.

nikes64/whisper-small-uk — модель распознавания речи, полученная дообучением Whisper Small от OpenAI на наборе Mozilla Common Voice 16.1. Она преобразует украинскую речь в текст и рассчитана на транскрибирование аудио. Архитектура — WhisperForConditionalGeneration с 153,1 млн параметров; веса опубликованы в формате Safetensors. В карточке приведён результат оценки на тестовой выборке: WER 26,357 и loss 0,2744. Модель предназначена для транскрибирования записей и голосовых сообщений на украинском языке. Она распространяется по лицензии Apache-2.0. Карточка не уточняет параметры аудио и дополнительные ограничения; указанная ошибка распознавания означает, что в транскриптах возможны неточности.

WizardLaker 7B — текстовая генеративная модель на архитектуре Mistral, созданная автором Noodlz объединением WizardLM 2 7B с собственной моделью DolphinLake-7B с помощью mergekit и метода DARE TIES. Модель предназначена для генерации текста; автор отмечает, что она показывает хорошие результаты, и планировал подать её на оценку в таблицах лидеров open LLM. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории находятся веса safetensors, для работы указана библиотека Transformers. Лицензия — Apache-2.0. README не сообщает о специальных ограничениях или гарантированных результатах оценки.

WizardLM-13B-1.0-fp16 — языковая модель семейства LLaMA, опубликованная TheBloke в формате PyTorch с точностью fp16. Это 12,9-миллиардная модель для генерации текста и следования сложным инструкциям; README описывает исходную WizardLM-13B как дообученную на инструкциях Evol-Instruct и сообщает, что версия поддерживает диалог с несколькими ходами. Контекст составляет 2048 токенов. Модель подходит для ответов на вопросы, выполнения инструкций, диалогов и генерации развернутых текстов на английском языке. README рекомендует английский для работы с демонстрационной версией и отмечает, что для результатов, совпадающих с демо, следует соблюдать указанную там схему промпта и вызова модели. В репозитории размещена объединённая fp16-версия delta-весов WizardLM; указано, что для получения WizardLM применяются дельты к исходным весам LLaMA. Метаданные указывают лицензию other, а README связывает выпуск delta-весов с условиями лицензии LLaMA. Это крупная модель, требующая соответствующих вычислительных ресурсов; карточка также призывает оценивать её ответы и сообщать о слабых местах.

Wrench-9B-Q4_K_M-GGUF — модель ClankLabs, созданная на базе плотной Qwen3.5-9B методом LoRA дообучения. Она предназначена для агентских сценариев, включая вызов инструментов и функций, выполнение многошаговых задач, восстановление после ошибок, соблюдение системных инструкций, планирование и безопасное взаимодействие с инструментами. Модель ориентирована на запуск локально через Ollama, llama.cpp или Clank Gateway и может работать примерно на 8 ГБ видеопамяти. Модель поставляется в формате GGUF с квантизацией Q4_K_M и занимает около 5 ГБ. Использованы LoRA rank 32 и alpha 64; контекстное окно составляет 8192 токена. Заявленный язык — английский. Внутреннее обучение проводилось на 1356 примерах из 15 категорий, а опубликованный Clank Agentic Benchmark показывает результат 114 из 120 баллов, включая 15 из 15 за базовое использование инструментов, многошаговые задачи, следование системным инструкциям, планирование, корректность формата вызовов и соблюдение ограничений; за восстановление после ошибок и качество ответов получено по 14 из 15. Ограничениями являются поддержка только заявленного контекста, особенности качества, связанные с квантизацией, и специализация прежде всего на англоязычных агентских задачах. Модель распространяется по лицензии Apache 2.0.

Карточка модели PS4Research/xnfjGuaVd0Dp3J42 на Hugging Face совпадает с карточкой PS4Research/IKn8jwlNamPNIS15, поэтому описание составлено по ней. Модель PS4Research/IKn8jwlNamPNIS15 — дообученная PS4Research языковая модель семейства Granite на базе ibm-granite/granite-4.2-30b. Она предназначена для генерации текста и диалогового взаимодействия; интерфейс также поддерживает вызов инструментов. Модель содержит 28,9 млрд параметров, использует плотную архитектуру GraniteForCausalLM и принимает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Базовая модель IBM описана как многоязычная и предназначенная для рассуждений, диалога, программирования и вызова инструментов, однако README не уточняет, какие именно навыки были предметом дообучения этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0; для ускорения обучения использовались Unsloth и библиотека TRL.

Это вариант Zephyr-7B-Beta, опубликованный arnavgrg: модель MistralForCausalLM с плотной архитектурой и примерно 7,1 млрд параметров. Это разговорная модель для генерации текста, которую можно загружать через Transformers в формате fp16; заявленная длина контекста — 32 768 токенов. Модель создана из HuggingFaceH4/zephyr-7b-beta: исходные веса линейных слоёв были квантованы до NF4 с помощью bitsandbytes, после чего слои Linear4bit были преобразованы обратно в fp16. Такой вариант рассчитан на инференс без затрат на квантование и обратное преобразование при каждом проходе. Квантование с потерями ухудшает качество относительно официальной базовой модели. Репозиторий распространяется по лицензии Apache-2.0.

MaziyarPanahi/zephyr-7b-beta-nf4-fp16-upscaled-GGUF — это версия модели arnavgrg/zephyr-7b-beta-nf4-fp16-upscaled в формате GGUF. Исходную модель разработал arnavgrg, а преобразование и квантование выполнил MaziyarPanahi. Модель предназначена для генерации текста и может использоваться в локальных приложениях и интерфейсах, совместимых с GGUF, включая llama.cpp, text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Модель относится к семейству Zephyr и имеет заявленный размер 7B параметров. Репозиторий содержит варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные конфигурации; также упоминается вариант NF4 с восстановлением до FP16 в исходной модели. GGUF удобен для локального запуска и позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. Поддерживаемые модальности, языки и размер контекстного окна в README не указаны. Сильные стороны модели — широкий выбор квантованных вариантов и совместимость с популярными инструментами локального инференса, включая запуск с GPU. Ограничения связаны с потенциальной потерей качества при низкоразрядном квантовании, а также с отсутствием в предоставленных данных подробных сведений о качестве, бенчмарках, языковой специализации и контекстном окне. Модель распространяется по лицензии Apache-2.0.

google/gemma-4-31B-it-qat-w4a16-ct — инструкционная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind. Она принимает текст и изображения и генерирует текст; предназначена для рассуждений, генерации текста, программирования, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель имеет плотную архитектуру с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее и глобальное внимание. Контекстное окно составляет до 256 тысяч токенов, размер словаря — 262 тысячи токенов. Gemma 4 поддерживает более 140 языков, режимы настраиваемого рассуждения и системные промпты. Для версии 31B заявлены текстовая и визуальная модальности; аудио для этой конфигурации не поддерживается. Суффикс qat-w4a16-ct указывает на чекпойнт, обученный с учётом квантизации и сохранённый в формате compressed-tensors с 4-битными весами и 16-битными активациями. Такой вариант ориентирован на эффективный инференс, включая нативное использование с vLLM, и должен требовать существенно меньше памяти при сохранении качества, близкого к bfloat16. Ограничениями являются повышенные требования к ресурсам по сравнению с меньшими моделями Gemma 4 и отсутствие аудиовхода. Лицензия — Apache 2.0.

K2-Horizon-3.7B — плотная авторегрессионная языковая модель семейства K2-Horizon от IFM, представленная как небольшой вариант семейства. Это декодерная модель с архитектурой K2HorizonForCausalLM; в карточке указано 3,7 млрд параметров в названии, а в метаданных — 4,1 млрд. Модель принимает текст и предназначена для диалогов, генерации текста, рассуждений, программирования и агентных задач. Нативное контекстное окно составляет 524 288 токенов. Для запуска описана совместимость с Transformers, vLLM и SGLang; для vLLM приведены настройки вызова инструментов и парсер формата модели. Обучение включает предварительное обучение, этапы расширения контекста и постобучение. Для снижения повторяющихся бесконечных генераций выпущенная версия прошла дополнительный этап FTPO на LoRA-предпочтениях, после чего обновление было объединено с весами. Авторы сообщают об оценках на математических, кодовых, агентных и общих бенчмарках, а также об улучшении поведения при длинной генерации. Обучающие данные, рецепт, код и ресурсы оценки заявлены как открытые. Лицензия — Apache-2.0.

K2-Horizon-7B — плотная авторегрессионная языковая модель семейства K2-Horizon от IFM, предназначенная для генерации текста и диалогового взаимодействия. Модель имеет около 8 млрд параметров и поддерживает контекст до 524 288 токенов; карточка описывает её как 7B-core модель с окном контекста 512K. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель рассчитана на сценарии рассуждений, программирования, работы с длинным контекстом и агентных задач; README приводит результаты оценки на соответствующих бенчмарках и описывает обучение для снижения повторяющихся циклов в длинных генерациях. Доступны промежуточные контрольные точки для изучения изменений возможностей в ходе обучения, а обучающие данные, код и материалы оценки заявлены как открытые. Метаданные указывают английский язык карточки, но это не гарантирует, что модель поддерживает только английский.

casperhansen/llama-3.3-70b-instruct-awq — это AWQ-квантизированная версия языковой модели Llama 3.3 70B Instruct, разработанной Meta и подготовленной в формате AWQ с использованием AutoAWQ. Модель предназначена для многоязычного диалога, генерации текста и кода, рассуждений, решения математических задач, программирования и сценариев с использованием инструментов. Она работает только с текстом на входе и выходе. Модель построена на авторегрессионной оптимизированной архитектуре Transformer, имеет 70 миллиардов параметров, поддерживает Grouped-Query Attention (GQA) и контекст длиной до 128 тысяч токенов. Она обучена на более чем 15 триллионах токенов из общедоступных онлайн-данных, а instruction-версия дополнительно использует supervised fine-tuning и reinforcement learning with human feedback для повышения полезности и безопасности. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; дата отсечения знаний — декабрь 2023 года. Сильными сторонами модели являются большой контекст, многоязычность и высокие заявленные результаты в задачах следования инструкциям, программирования, математики и понимания текста. К ограничениям относятся текстовая модальность, статичный характер модели и фиксированная дата отсечения знаний; качество и безопасность ответов могут зависеть от конкретного применения и квантизации AWQ. Использование регулируется пользовательской коммерческой лицензией Llama 3.3 Community License Agreement.

unsloth/Qwen3-30B-A3B-128K-GGUF — GGUF-версия языковой модели Qwen3-30B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной в формате квантования Unsloth. Это авторегрессионная causal language model с архитектурой mixture-of-experts (MoE): 30,5 млрд параметров всего, из которых 3,3 млрд активируются при обработке токена; модель содержит 48 слоёв, 128 экспертов, 8 активных экспертов и использует GQA с 32 головами Q и 4 головами KV. Модель предназначена для диалогов, следования инструкциям, генерации текста и кода, математического и логического рассуждения, творческого письма, многошаговых взаимодействий и агентских сценариев с использованием внешних инструментов. Она поддерживает переключение между режимами thinking и non-thinking: первый ориентирован на сложное рассуждение, а второй — на более быстрые ответы общего назначения. Qwen3 заявляет поддержку более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Нативная длина контекста составляет 32 768 токенов; до 131 072 токенов можно использовать с применением YaRN, что соответствует назначению версии с обозначением 128K. К сильным сторонам относятся сочетание высокой общей ёмкости с небольшим числом активных параметров, развитые способности к рассуждению, программированию и работе в агентских сценариях, а также возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают необходимость корректной настройки режима мышления и YaRN для длинного контекста; конкретные требования к аппаратному обеспечению, показатели производительности и детали квантования в предоставленном README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-GGUF — квантизированное представление причинной языковой модели Qwen3-30B-A3B, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Она поддерживает более 100 языков и диалектов и допускает переключение между режимами рассуждения и обычного диалога в рамках одной модели. Модель построена по архитектуре mixture-of-experts (MoE): содержит 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса; число слоёв — 48, используется Grouped-Query Attention с 32 головами Q и 4 головами KV, 128 экспертами и 8 активируемыми экспертами. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0 в формате GGUF. Сильные стороны модели — сочетание возможностей рассуждения и эффективного режима общего назначения, мультиязычность, следование инструкциям и поддержка агентских задач. Ограничения включают возможное снижение качества на коротких текстах при некорректно настроенном статическом YaRN, а также зависимость производительности и требований к ресурсам от выбранного уровня квантизации и конфигурации запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3-32B-GGUF — квантизированная версия крупной языковой модели Qwen3-32B, разработанной Alibaba Cloud. Это авторегрессионная causal language model для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, написания кода, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Модель содержит 32,8 млрд параметров, из них 31,2 млрд не относятся к embedding, и включает 64 слоя. Используется Grouped-Query Attention: 64 головы для запросов и 8 для ключей и значений. Поддерживаются режимы thinking для сложного рассуждения и non-thinking для более быстрых общих диалогов; между ними можно переключаться в рамках одной модели. Заявлена поддержка более 100 языков и диалектов. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN модель протестирована на контекстах до 131 072 токенов. Основные преимущества — сочетание рассуждения, следования инструкциям, многоязычности и агентских возможностей, а также возможность выбирать баланс между качеством рассуждений и скоростью ответа. Модель распространяется в форматах GGUF с вариантами квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что облегчает локальный запуск через llama.cpp или Ollama. Ограничения включают возможное снижение качества на коротких текстах при неподходящей статической настройке YaRN, риск повторов при неоптимальных параметрах генерации и потенциальное смешение языков при чрезмерном presence penalty. Лицензия — Apache-2.0.

Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

Qwen3.5-397B-A17B — мультимодальная модель семейства Qwen от Alibaba, предназначенная для диалогов, рассуждений, работы с изображениями и видео, программирования и использования инструментов. Это постобученная причинная языковая модель с визуальным энкодером, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируются 17 млрд. В модели 60 слоёв и 512 экспертов; одновременно задействуются 10 маршрутизируемых и один общий эксперт. Модель принимает текст, изображения и видео, а её основными результатами являются текстовые ответы и вызовы инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. По умолчанию включён режим рассуждений; доступны интеграции с Transformers, vLLM, SGLang и KTransformers. Модель подходит для мультимодальных помощников, анализа визуального содержимого, сложных вопросов, программирования и агентных сценариев с вызовом инструментов. Эффективность вывода и пропускная способность зависят от используемого фреймворка и его версии. Веса и конфигурации опубликованы в формате Transformers/Safetensors под лицензией Apache-2.0.

Qwen3-8B-AWQ — квантизированная 4-битная версия причинной языковой модели Qwen3-8B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, ролевого взаимодействия, перевода и задач с использованием внешних инструментов. Она поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding, имеет 36 слоёв и архитектуру GQA с 32 головами внимания для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Qwen3-8B-AWQ поддерживает переключение между режимом рассуждения и обычным режимом генерации в рамках одной модели: первый ориентирован на сложные задачи, второй — на более быстрые универсальные ответы. К сильным сторонам относятся рассуждение, следование инструкциям, многоязычность и интеграция с инструментами; к ограничениям — возможное увеличение времени и ресурсов генерации в режиме рассуждения, а также потенциальное снижение качества при использовании жадного декодирования в этом режиме. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется актуальная версия библиотеки transformers; README также указывает совместимость с SGLang и vLLM для развёртывания и создания OpenAI-совместимого API.

unsloth/gemma-4-31B-it-unsloth-bnb-4bit — это 4-битная квантизированная версия instruction-tuned модели Gemma 4 31B, подготовленная Unsloth на базе google/gemma-4-31B-it и разработанная Google DeepMind. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с выдачей текстового ответа. Модель использует плотную архитектуру с 30,7 млрд параметров, 60 слоями, словарём размером 262 тыс. токенов и гибридным механизмом внимания, сочетающим локальное скользящее окно на 1024 токена с глобальным вниманием. Контекстное окно составляет до 256 тыс. токенов. Поддерживаются текст и изображения; аудио для версии 31B не заявлено. Gemma 4 также поддерживает более 140 языков, режимы настраиваемого рассуждения, системные инструкции и нативный function calling. Ключевые преимущества — большой контекст, мультимодальное понимание, возможности рассуждения и кодирования, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможную потерю точности по сравнению с полноразмерной версией и зависимость качества от совместимого программного обеспечения и оборудования для BNB 4-bit. Модель распространяется по лицензии Apache 2.0.

Muse Glimmer — 30-миллиардная причинная языковая модель, разработанная Meta Superintelligence Lab и дистиллированная из Muse Spark. Она создана для автономных агентских задач на потребительском оборудовании и может работать локально без облачной инфраструктуры и сетевого доступа. Модель предназначена для многошагового рассуждения, выполнения задач от начала до конца, написания и отладки кода, надёжного вызова инструментов, восстановления после ошибок и работы в агентских оркестраторах. Она принимает текст и изображения, включая скриншоты, графики и документы, а выдаёт текст. Muse Glimmer обучалась на данных более чем из 100 языков и поддерживает контекст длиной не менее 131 072 токенов; дата отсечения знаний — 4 января 2026 года. Архитектура включает плотный causal Transformer примерно на 29,6 млрд параметров и отдельный perception encoder примерно на 1,8 млрд параметров типа ViT-G/14. Используются 52 слоя, GQA с соотношением 32 Q-heads к 2 KV-heads, SwiGLU, локальное и глобальное внимание, а также до 4096 визуальных токенов на изображение. Модель поддерживает управляемую интенсивность рассуждений и оптимизирована для локального запуска: динамическое квантование примерно до 4 бит позволяет разместить её менее чем в 20 ГБ, с целевыми конфигурациями на 24–32 ГБ памяти. Ограничения включают высокие требования к ресурсам по сравнению с компактными моделями и зависимость качества от выбранного уровня квантования. Лицензия — Apache 2.0.

Nemotron-3-Super-120B-A12B-BF16 — языковая модель NVIDIA для диалога, рассуждений и создания агентных систем. Она предназначена для разработчиков чат-ботов, RAG-систем и совместно работающих ИИ-агентов, а также для автоматизации больших потоков задач, например обработки ИТ-заявок. Модель поддерживает сложное следование инструкциям и работу с длинным контекстом. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и внимания в гибриде LatentMoE; также используются Multi-Token Prediction для ускорения генерации и 12 млрд активных параметров при 120 млрд общих. Карточка указывает контекст до 1 млн токенов, тогда как метаданные Hugging Face — 262 144 токена. Модель принимает текст и генерирует текст; заявлены английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель ориентирована на высокую пропускную способность, агентные сценарии, код, рассуждения и мультиязычный диалог. Карточка заявляет коммерческую готовность, но метаданные указывают лицензию «other», поэтому перед использованием следует проверить её условия. В опубликованном репозитории формат весов указан как safetensors; карточка описывает обучение с NVFP4, но это не означает, что репозиторий представляет квантизованную версию.