II.2Создание и понимание программного кода

unsloth/Qwen2.5-14B-Instruct — инструкционно настроенная плотная причинная языковая модель, опубликованная Unsloth на основе Qwen/Qwen2.5-14B-Instruct. Она предназначена для диалогов, генерации текста и выполнения инструкций; среди подходящих сценариев — ответы на вопросы, помощь с кодом и математикой, работа с таблицами и создание структурированных ответов, включая JSON. Модель содержит 14 млрд параметров и использует архитектуру Qwen2 с RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст до 32 768 токенов; в README описана возможность расширить его до 131 072 токенов с YaRN, а генерацию — до 8 192 токенов. Модель поддерживает многоязычные сценарии, в том числе китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Доступны веса в формате safetensors, библиотека Transformers, а также интерфейсы чата и вызова инструментов. README отмечает, что для работы с длинным контекстом требуется настройка YaRN, которая может повлиять на качество коротких запросов. Лицензия — Apache 2.0.

Карточка модели ArchiveStudio/Qwen2.5-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Qwen2.5-72B-Instruct — инструкция-настроенная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на архитектуре Qwen2 с 71,5 млрд параметров по метаданным; карточка описывает 80 слоёв, RoPE, SwiGLU, RMSNorm и контекст до 131 072 токенов с генерацией до 8 192 токенов. В текущей конфигурации репозитория задан контекст 32 768 токенов, а для более длинных входов README предлагает YaRN. Модель предназначена для диалогов и следования инструкциям, генерации длинных текстов и структурированных ответов, включая JSON, а также для задач программирования, математики и понимания таблиц. Она поддерживает более 29 языков, включая русский и английский, и предоставляет интерфейс для вызова инструментов. Модель принимает и генерирует текст. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers; README рекомендует актуальную версию библиотеки и vLLM для развёртывания. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели. Удлинение контекста через статический YaRN может снижать производительность на коротких запросах.

RedHatAI/Qwen2.5-72B-Instruct-FP8-dynamic — это размещённая Red Hat AI версия Qwen2.5-72B-Instruct, исходно разработанной командой Qwen Alibaba Cloud. Модель представляет собой instruction-tuned causal language model для диалогов, генерации и анализа текста, следования инструкциям, работы со структурированными данными, программным кодом, математическими и рассуждательными задачами. Это текстовая модель без заявленной поддержки изображений или других модальностей. Базовая модель имеет 72,7 млрд параметров, 80 слоёв и архитектуру Transformer с RoPE, SwiGLU, RMSNorm, attention QKV bias и Grouped-Query Attention: 64 головы для Q и 8 для KV. Заявлены контекст до 131 072 токенов и генерация до 8192 токенов; для длинного контекста применяется YaRN. Модель поддерживает более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. В данном репозитории веса представлены в формате Safetensors с FP8 dynamic-квантизацией и использованием compressed-tensors, что предназначено для более эффективного хранения и инференса по сравнению с полноточной версией. Сильные стороны исходной Qwen2.5-72B-Instruct — улучшенные instruction following, кодирование, математика, обработка длинных текстов, таблиц и структурированных, включая JSON, ответов. Ограничения включают значительные требования к вычислительным ресурсам из-за размера модели, возможное влияние квантизации на качество и стандартные риски генеративных моделей: ошибки, галлюцинации и необходимость проверки результатов. Для базовой модели указана Qwen License Alibaba Cloud; она разрешает использование, модификацию и распространение при соблюдении условий лицензии, включая специальные требования для коммерческих продуктов с более чем 100 млн ежемесячных активных пользователей и указание использования Qwen при создании или улучшении других AI-моделей.

Qwen2-7B-Instruct-AWQ — инструкционная языковая модель из серии Qwen, разработанная командой Qwen. Это текстовая модель для генерации ответов в диалогах, следования инструкциям, понимания и создания текста, а также задач программирования, математики, рассуждений и многоязычной обработки. Модель предназначена для локального развертывания и интеграции в приложения через Transformers или vLLM. Модель содержит около 7 миллиардов параметров и основана на decoder-only архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и Grouped Query Attention. Она прошла предварительное обучение, supervised fine-tuning и Direct Preference Optimization. Вариант AWQ использует квантованные веса для снижения требований к памяти и ускорения инференса. Модель работает с текстом, поддерживает английский язык, а токенизатор адаптирован также к нескольким естественным языкам и языкам программирования. Заявлена длина контекста до 131 072 токенов; для обработки очень длинных входов применяется метод YARN. Сильными сторонами модели являются большой контекст, инструкционное выравнивание, поддержка многоязычных и технических сценариев, а также более экономичное развертывание благодаря квантованию. Модель не является мультимодальной и ориентирована на текстовую генерацию. При использовании YARN в vLLM статический коэффициент масштабирования может отрицательно влиять на качество или производительность на коротких текстах, поэтому его рекомендуется включать только при необходимости длинного контекста. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-14B-bf16 — версия Qwen3-14B, подготовленная сообществом mlx-community для запуска через библиотеку MLX. Модель преобразована из Qwen/Qwen3-14B с помощью mlx-lm версии 0.24.0; в репозитории используются веса safetensors. Это плотная авторегрессионная языковая модель с 14 млрд параметров и контекстом до 40 960 токенов. Модель предназначена для диалогов, следования инструкциям, рассуждений, генерации кода и многоязычного текста. Интерфейс поддерживает чат и вызов инструментов. Она принимает текст и генерирует текст; отдельные языки в предоставленных метаданных не перечислены. Лицензия Apache-2.0 разрешает использование на её условиях.

unsloth/Qwen3-14B-GGUF — GGUF-версия языковой модели Qwen3-14B, разработанной командой Qwen компании Alibaba Cloud и подготовленной для распространения Unsloth. Это причинно-следственная языковая модель с 14,8 млрд параметров, из которых 13,2 млрд не относятся к эмбеддингам; она включает 40 слоёв и использует Grouped-Query Attention с 40 головами запросов и 8 головами ключей и значений. Модель предназначена для диалогов, следования инструкциям, генерации кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Она поддерживает более 100 языков и диалектов. Qwen3-14B позволяет переключаться между режимами рассуждения и без рассуждения, выбирая баланс между качеством решения сложных задач и скоростью ответа. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp и Ollama; README также указывает возможность использования через Open WebUI. Конкретные требования к оборудованию и производительность зависят от варианта квантования и среды запуска и в представленных данных не приведены. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-235B-A22B-128K-GGUF — GGUF-квантизированная версия большой языковой модели Qwen3-235B-A22B, опубликованная Unsloth и основанная на модели Qwen от команды Qwen. Это авторегрессионная причинная языковая модель с архитектурой mixture-of-experts (MoE), предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений, решения математических и программных задач, творческого письма, многошагового взаимодействия и работы с внешними инструментами. Модель содержит 235 млрд параметров всего, из которых 22 млрд активируются при обработке запроса; в ней 94 слоя, 128 экспертов и 8 активируемых экспертов. Используется grouped-query attention с 64 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов, что соответствует заявленному варианту на 128K. Модель поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Она позволяет переключаться между режимами thinking для сложных рассуждений и non-thinking для более быстрой генерации. К сильным сторонам относятся сочетание высокой способности к рассуждениям, программированию, агентным сценариям, многоязычной работе и диалогам, а также возможность использования в локальных приложениях и серверных средах, совместимых с GGUF. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к памяти и вычислительным ресурсам; конкретные характеристики зависят от выбранного уровня квантизации, который в README не указан. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-FP8 — языковая модель серии Qwen, разработанная командой Qwen. Это causal language model в формате FP8-квантизации, предназначенная для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, перевода и задач с использованием внешних инструментов и агентных сценариев. Модель построена по архитектуре mixture-of-experts (MoE): содержит 30,5 млрд параметров, из которых при обработке каждого токена активируется около 3,3 млрд; в ней 48 слоёв, 128 экспертов и 8 активируемых экспертов. Используется Grouped Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Модель поддерживает более 100 языков и диалектов, а также переключение между режимами рассуждения и обычной генерации. Сильные стороны модели — сочетание высокой ёмкости с меньшим числом активных параметров, развитое рассуждение, поддержка многоязычных инструкций, диалогов и инструментальных сценариев. Ограничения связаны с использованием FP8-квантизации: для распределённого вывода в Transformers известны проблемы, из-за которых может потребоваться настройка CUDA_LAUNCH_BLOCKING=1. Для работы нужны совместимые версии Transformers, vLLM или SGLang и соответствующее аппаратное обеспечение. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Instruct-2507-FP8 — причинная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия модели Qwen3-30B-A3B-Instruct-2507, предназначенная для генерации текста в режиме без скрытого рассуждения и без блоков <think></think>. Модель ориентирована на следование инструкциям, логическое рассуждение, понимание текста, математику, естественные науки, программирование, использование инструментов, открытые и субъективные текстовые задачи, а также работу с длинным контекстом и несколькими языками. Она поддерживает контекст длиной до 262 144 токенов. Архитектура — Mixture of Experts: 30,5 млрд параметров всего, из них 3,3 млрд активируются на запрос; модель содержит 48 слоёв, 128 экспертов и активирует 8 экспертов, использует GQA с 32 головами Q и 4 головами KV. К сильным сторонам относятся улучшенные instruction following, качество генерации, математические и кодовые способности, расширенное покрытие редких знаний на разных языках и повышенное качество работы с длинным контекстом. Ограничение модели — поддержка только нерassуждающего режима, поэтому она не предназначена для генерации явных цепочек рассуждений в формате <think></think>. Для использования рекомендуются актуальные версии transformers, а для развёртывания — SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

JunHowie/Qwen3-30B-A3B-Instruct-2507-GPTQ-Int4 — это квантизированная версия Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Модель относится к причинным языковым моделям и предназначена для генерации текста, следования инструкциям, логического рассуждения, понимания текста, математики, научных задач, программирования, использования инструментов и многоязычных сценариев. Она работает только в non-thinking режиме и не формирует блоки <think></think>. В основе используется MoE-архитектура: всего 30,5 млрд параметров, из которых активируется 3,3 млрд; 48 слоёв, 128 экспертов, 8 активируемых экспертов, а также GQA с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. Данная версия сжата до 4 бит с group size 128 и настройкой desc_act=False, что, согласно README, повышает эффективность по числу токенов в секунду по сравнению с предыдущими квантизированными версиями. Для запуска рекомендуется vLLM версии 0.9.2 или новее. Модель подходит для чат-систем, генерации и обработки текста, анализа длинных документов, программирования, математических и исследовательских задач, а также агентских сценариев с использованием инструментов. К сильным сторонам относятся длинный контекст, улучшенные instruction following, reasoning, coding, alignment и многоязычные возможности базовой модели. Ограничения включают работу только в non-thinking режиме и возможные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Apache-2.0.

Qwen3-32B-GGUF — квантизированная версия крупной языковой модели Qwen3-32B, разработанной Alibaba Cloud. Это авторегрессионная causal language model для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, написания кода, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Модель содержит 32,8 млрд параметров, из них 31,2 млрд не относятся к embedding, и включает 64 слоя. Используется Grouped-Query Attention: 64 головы для запросов и 8 для ключей и значений. Поддерживаются режимы thinking для сложного рассуждения и non-thinking для более быстрых общих диалогов; между ними можно переключаться в рамках одной модели. Заявлена поддержка более 100 языков и диалектов. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN модель протестирована на контекстах до 131 072 токенов. Основные преимущества — сочетание рассуждения, следования инструкциям, многоязычности и агентских возможностей, а также возможность выбирать баланс между качеством рассуждений и скоростью ответа. Модель распространяется в форматах GGUF с вариантами квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что облегчает локальный запуск через llama.cpp или Ollama. Ограничения включают возможное снижение качества на коротких текстах при неподходящей статической настройке YaRN, риск повторов при неоптимальных параметрах генерации и потенциальное смешение языков при чрезмерном presence penalty. Лицензия — Apache-2.0.

Qwen3-4B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалогов, следования инструкциям, рассуждений, генерации кода, творческого письма, многоязычных задач и работы с инструментами. В модели около 3,7 млрд параметров по метаданным; она использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов по метаданным. README описывает переключение между режимами рассуждения и обычного диалога, а также поддержку более 100 языков и диалектов. Модель обучена на базе Qwen/Qwen3-4B-Base и распространяется в формате safetensors для библиотеки Transformers. Лицензия — Apache 2.0. Карточка предупреждает о возможных бесконечных повторах при генерации и рекомендует настраивать параметры сэмплирования.

Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

AIArchiveInfo публикует точную архивную копию Qwen3-8B от команды Qwen: веса и файлы сохранены без изменений. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров по метаданным, предназначенная для генерации текста и диалогов. Она поддерживает режимы рассуждения и обычного ответа, следование инструкциям, работу с инструментами, программирование, математику и перевод. Карточка заявляет поддержку более 100 языков и диалектов; метаданные указывают контекст 40 960 токенов. Модель можно использовать для многошаговых диалогов, написания и редактирования текстов, генерации кода, рассуждений и интеграции с внешними инструментами. Это текстовая модель, работающая через Transformers и распространяемая в формате Safetensors. Копия не обучалась и не дообучалась архиватором; лицензия Apache-2.0.

Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Qwen3-8B-AWQ — квантизированная 4-битная версия причинной языковой модели Qwen3-8B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, ролевого взаимодействия, перевода и задач с использованием внешних инструментов. Она поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding, имеет 36 слоёв и архитектуру GQA с 32 головами внимания для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Qwen3-8B-AWQ поддерживает переключение между режимом рассуждения и обычным режимом генерации в рамках одной модели: первый ориентирован на сложные задачи, второй — на более быстрые универсальные ответы. К сильным сторонам относятся рассуждение, следование инструкциям, многоязычность и интеграция с инструментами; к ограничениям — возможное увеличение времени и ресурсов генерации в режиме рассуждения, а также потенциальное снижение качества при использовании жадного декодирования в этом режиме. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется актуальная версия библиотеки transformers; README также указывает совместимость с SGLang и vLLM для развёртывания и создания OpenAI-совместимого API.

Qwen3-8B-FP8 — большая языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизованная версия Qwen3-8B, предназначенная для генерации текста и диалоговых приложений. Модель поддерживает переключение между режимом рассуждений для сложных логических, математических и программных задач и обычным режимом для более быстрых ответов. Она также ориентирована на следование инструкциям, творческое письмо, ролевые сценарии, многошаговые диалоги, перевод и работу с внешними инструментами в агентных системах. Модель является каузальной языковой моделью с 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою. Она содержит 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN достигает 131 072 токенов. Поддерживается более 100 языков и диалектов. FP8-квантизация выполнена мелкоблочным методом с размером блока 128, что предназначено для повышения эффективности хранения и инференса. Сильными сторонами модели являются сочетание рассуждений и быстрого общего диалога, мультиязычность, возможности генерации кода и интеграции с инструментами. Ограничения включают зависимость качества и производительности от режима рассуждений, аппаратной конфигурации и используемого inference-фреймворка; для распределённого инференса в Transformers указаны известные проблемы с fine-grained FP8. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-8B-FP8 — FP8-квантизированная версия языковой модели Qwen3-8B, разработанной командой Qwen и опубликованной в репозитории Unsloth. Это авторегрессионная causal language model для генерации текста, диалогов, следования инструкциям, математических задач, программирования, рассуждений, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding, и включает 36 слоёв. Используется Grouped-Query Attention: 32 головы для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов. Модель допускает переключение между режимами thinking для сложных задач и рассуждений и non-thinking для более быстрых обычных ответов. FP8-квантизация выполнена методом fine-grained FP8 с размером блока 128, что ориентировано на повышение эффективности инференса. Модель совместима с Transformers, SGLang и vLLM, однако для распределённого инференса через Transformers указаны известные ограничения. Лицензия — Apache 2.0.

Qwen3-Next-80B-A3B-Instruct-FP8 — FP8-квантизированная инструктивная версия причинной языковой модели Qwen3-Next, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, программирования, многошагового решения задач, агентских сценариев и обработки сверхдлинного контекста. Она работает только в instruct-режиме без блоков рассуждений <think></think>. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную Mixture-of-Experts. Всего в ней 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующую настройку; README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — высокая эффективность параметров и вычислений, ускоренный вывод, поддержка сверхдлинного контекста и хорошие результаты в задачах знаний, рассуждений, кодирования, следования инструкциям, письма и работы агентов. Ограничения включают отсутствие thinking-режима, а также возможные отличия заявленных результатов от характеристик FP8-версии: приведённые в карточке эксперименты выполнены на исходной модели в формате bfloat16. Модель распространяется по лицензии Apache-2.0.

Athene-V2-Chat-72B — диалоговая языковая модель с открытыми весами, разработанная командой Nexusflow. Это дообученная с помощью RLHF модель Qwen2.5-72B-Instruct с плотной архитектурой Qwen2; в репозитории доступны веса в формате safetensors. Модель рассчитана на диалог, генерацию текстов, решение математических задач и программирование. Она использует шаблон чата Qwen2.5-72B-Instruct и поддерживает контекст до 32 768 токенов. В карточке разработчик сообщает о сильных результатах в чат-бенчмарках, математике, программировании, следовании инструкциям и многошаговом диалоге. Модель также имеет интерфейс вызова инструментов, однако для сложных агентных сценариев Nexusflow выделяет отдельную модель Athene-V2-Agent-72B. Лицензия — Nexusflow Research License; перед использованием следует проверить её условия для конкретного сценария.

DeepSeek-V2 — языковая модель компании DeepSeek для генерации текста и диалогов. Она основана на архитектуре Mixture-of-Experts (MoE): в README указаны 236 млрд параметров всего и 21 млрд активных на каждом токене; архитектура включает DeepSeekMoE и механизм внимания MLA, который сжимает данные для KV-кэша. В метаданных репозитория указано 18,1 млрд параметров, поэтому сведения о размере в источниках расходятся. Модель обучена на корпусе объёмом 8,1 трлн токенов с последующими этапами supervised fine-tuning и reinforcement learning. Она предназначена для продолжения текста, диалогов, ответов на вопросы, рассуждений и задач программирования. README сообщает о контексте до 128 тысяч токенов, а метаданные указывают нативный контекст 163 840 токенов. Результаты приведены, в частности, для англоязычных и китайских тестов; сведений о поддержке конкретного набора языков нет. DeepSeek-V2 заявлена как более эффективная в обучении и инференсе благодаря MoE и MLA. Для локального запуска в BF16 README указывает требование к оборудованию 8 GPU по 80 ГБ; для инференса также предлагается vLLM. Лицензия в метаданных обозначена как other, поэтому конкретные права использования по этим данным определить нельзя.

DeepSeek-V3 — крупная языковая модель с архитектурой Mixture-of-Experts, разработанная командой DeepSeek AI. Модель содержит 671 млрд параметров, из которых для каждого токена активируется около 37 млрд. Она предназначена для работы с естественным языком, генерации и анализа текста, программирования, решения сложных задач и сценариев, требующих развитого рассуждения. Модель доступна как открытая базовая модель, дополненная этапами supervised fine-tuning и reinforcement learning. Архитектура DeepSeek-V3 основана на Multi-head Latent Attention и DeepSeekMoE, унаследованных и развитых по сравнению с DeepSeek-V2. Среди ключевых нововведений — балансировка нагрузки без вспомогательной функции потерь и обучение с предсказанием нескольких токенов, которое также может применяться для ускорения speculative decoding. Модель предварительно обучена на 14,8 трлн разнообразных токенов; заявлена поддержка эффективного FP8-обучения. В README не указаны точная длина контекста, перечень языков и дополнительные модальности, поэтому модель следует рассматривать прежде всего как текстовую LLM. Сильными сторонами DeepSeek-V3 являются высокая заявленная производительность, эффективное использование параметров при инференсе, развитые возможности рассуждения и сравнительная экономичность обучения. Ограничения включают значительный общий размер модели и соответствующие требования к вычислительным ресурсам; конкретные характеристики инференса и результаты по отдельным задачам зависят от конфигурации и реализации. Код распространяется по лицензии MIT, а сама модель — по Model Agreement.

DeepSeek-V3-0324 — языковая модель, разработанная компанией DeepSeek (深度求索). Это улучшенная версия DeepSeek-V3, ориентированная на задачи рассуждения, программирования и веб-разработки, написания и редактирования текстов на китайском языке, перевода, анализа отчётов, веб-поиска и Function Calling. По данным карточки, модель демонстрирует улучшения по сравнению с предыдущей версией в бенчмарках MMLU-Pro, GPQA, AIME и LiveCodeBench. Также заявлены более исполнимый код, более качественные веб-страницы и игровые интерфейсы, улучшенное многошаговое редактирование, написание писем и средних и длинных текстов на китайском языке, а также более точный вызов функций. Поддержка мультимодальности, архитектура, размер модели, максимальная длина контекста и полный перечень языков в README не указаны. Для использования рекомендуется учитывать настройки официальных веб- и мобильных приложений: базовая температура модели составляет 0,3, а системный промпт идентифицирует ассистента как DeepSeek Chat, созданного DeepSeek, и содержит текущую дату. Условия лицензии указаны явно: MIT, что допускает использование, модификацию и распространение модели в рамках условий этой лицензии.

Gemma 4 12B Unified — мультимодальная плотная модель семейства Gemma 4, разработанная Google DeepMind и распространяемая под лицензией Apache 2.0. Она принимает текст, изображения, видео и аудио, а генерирует текст; унифицированная архитектура обрабатывает аудио и визуальные данные без отдельных энкодеров. Модель предназначена для локального запуска на потребительских устройствах, а также для серверов и рабочих станций. Модель подходит для диалога, генерации и анализа текста, программирования, рассуждений и сценариев с вызовом инструментов. Она может разбирать документы и PDF, распознавать текст и объекты на изображениях, понимать интерфейсы и диаграммы, анализировать видеокадры, распознавать речь и переводить речь в текст на другом языке. Для семейства заявлена поддержка контекста до 256 тыс. токенов и многоязычность; карточка указывает обучение более чем на 140 языках. Ограничения конкретной версии в предоставленных материалах подробно не описаны.

Gemma-4-26B-A4B-text-base — текстовая версия модели Gemma 4, опубликованная wyattearp на основе Google Gemma-4-26B-A4B-it. Веса языкового трансформера сохранены без изменений, а компоненты обработки изображений и аудио удалены. Это модель типа MoE с 26 млрд параметров и примерно 4 млрд активных параметров на токен; она выдаёт текст и предназначена для генерации, диалогов, рассуждений, программирования и вызова инструментов. Длина контекста — 262 144 токена. Репозиторий содержит веса BF16 в формате safetensors для использования с Transformers и vLLM. Удаление мультимодальных компонентов упрощает языковый инференс и снижает требования к памяти, но модель не обрабатывает изображения или аудио. В README описана проблема совместимости парсера вызова инструментов в vLLM и связанное с ней исправление. Лицензия — Gemma.

google/gemma-4-31B-it-qat-w4a16-ct — инструкционная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind. Она принимает текст и изображения и генерирует текст; предназначена для рассуждений, генерации текста, программирования, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель имеет плотную архитектуру с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее и глобальное внимание. Контекстное окно составляет до 256 тысяч токенов, размер словаря — 262 тысячи токенов. Gemma 4 поддерживает более 140 языков, режимы настраиваемого рассуждения и системные промпты. Для версии 31B заявлены текстовая и визуальная модальности; аудио для этой конфигурации не поддерживается. Суффикс qat-w4a16-ct указывает на чекпойнт, обученный с учётом квантизации и сохранённый в формате compressed-tensors с 4-битными весами и 16-битными активациями. Такой вариант ориентирован на эффективный инференс, включая нативное использование с vLLM, и должен требовать существенно меньше памяти при сохранении качества, близкого к bfloat16. Ограничениями являются повышенные требования к ресурсам по сравнению с меньшими моделями Gemma 4 и отсутствие аудиовхода. Лицензия — Apache 2.0.

unsloth/gemma-4-31B-it-unsloth-bnb-4bit — это 4-битная квантизированная версия instruction-tuned модели Gemma 4 31B, подготовленная Unsloth на базе google/gemma-4-31B-it и разработанная Google DeepMind. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с выдачей текстового ответа. Модель использует плотную архитектуру с 30,7 млрд параметров, 60 слоями, словарём размером 262 тыс. токенов и гибридным механизмом внимания, сочетающим локальное скользящее окно на 1024 токена с глобальным вниманием. Контекстное окно составляет до 256 тыс. токенов. Поддерживаются текст и изображения; аудио для версии 31B не заявлено. Gemma 4 также поддерживает более 140 языков, режимы настраиваемого рассуждения, системные инструкции и нативный function calling. Ключевые преимущества — большой контекст, мультимодальное понимание, возможности рассуждения и кодирования, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможную потерю точности по сравнению с полноразмерной версией и зависимость качества от совместимого программного обеспечения и оборудования для BNB 4-bit. Модель распространяется по лицензии Apache 2.0.

GPT-3.5 Turbo — модель OpenAI для генерации текста, оптимизированная для диалогов и задач продолжения текста. Она понимает и генерирует естественный язык и код. В карточке указано, что обучающие данные охватывают период до сентября 2021 года. Модель подходит для чат-ботов, ответов на вопросы, написания и преобразования текста, а также помощи с кодом. Сведения о размере, архитектуре, длине контекста и лицензии в предоставленных источниках отсутствуют.

Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.