II.2Создание и понимание программного кода

Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Granite-3.0-2B-Instruct — языковая модель IBM Granite Team для выполнения общих инструкций и создания диалоговых помощников. Это дообученная на основе Granite-3.0-2B-Base плотная decoder-only трансформерная модель на 2,5 млрд параметров; в обучении использовались supervised fine-tuning, выравнивание с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и структурированный формат чата, включая интерфейс вызова инструментов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; качество может быть ниже на языках, отличных от английского. Ответы могут быть неточными, предвзятыми или небезопасными, поэтому для прикладного использования требуется оценка модели. Лицензия — Apache 2.0.

PhalaCloud/GLM-5.2-W4AFP8 — это квантизированная версия GLM-5.2, разработанного zai-org. Модель предназначена для генерации текста, рассуждений, точного следования инструкциям, работы с длинным контекстом и вызова инструментов. Указаны поддерживаемые языки English и Chinese; модель работает в текстовом режиме. Модель сохраняет полный объём 753 млрд параметров и использует архитектуру Mixture-of-Experts. Маршрутизируемые экспертные веса квантизированы до 4 бит с group size 128 и FP8-активациями, а отдельные компоненты, включая attention и MTP-слой, остаются в FP8 или BF16. На одном узле с 8 GPU H200 поддерживается контекст до 1 млн токенов. Квантизация рассчитана на снижение потребления памяти без измеримой потери качества относительно FP8-версии; заявлена поддержка EAGLE speculative decoding. По приведённым тестам модель показывает высокие результаты в reasoning, instruction following, long-context reasoning и tool calling, а также извлекает данные из контекста длиной около 983 тысяч токенов. Основные ограничения — необходимость GPU Hopper с SM90, проверенная совместимость только с SGLang версии 0.5.13.post1 или новее и непроверенная работа с vLLM и другими движками. Модель распространяется по лицензии MIT, унаследованной от GLM-5.2.

Granite-4.0-Tiny-Preview — инструктивная языковая модель команды Granite компании IBM. Это гибридная архитектура Mixture-of-Experts для генерации текста; метаданные указывают 421,5 млн параметров, а README приводит оценку 7 млрд параметров. Модель дообучена на Granite-4.0-Tiny-Base-Preview с помощью обучения на инструкциях и выравнивания с подкреплением. Лицензия — Apache 2.0. Модель предназначена для выполнения инструкций и интеграции в ассистентов. Она поддерживает диалог, вызов инструментов, суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи по коду и работу с длинными документами и встречами. Указанное в метаданных окно контекста составляет 131 072 токена. README перечисляет 12 поддерживаемых языков: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель может применяться в бизнес-ассистентах и сценариях работы с длинным контекстом. README отмечает использование как открытых наборов данных с разрешительными лицензиями, так и внутренних синтетических данных. Чекпойнт имеет статус preview; для запуска README рекомендует установить Transformers из исходного кода. Подробные ограничения и результаты оценки в предоставленной карточке не приведены.

socrate-tech/gemma-3-12b-it-GGUF — это GGUF-версия инструкционно дообученной модели Google Gemma 3 12B, разработанной Google DeepMind и опубликованной в экосистеме Unsloth. Модель построена на базе google/gemma-3-12b-it и предназначена для локального и облачного развертывания, включая использование на ноутбуках, настольных компьютерах и собственной инфраструктуре. Модель принимает текст и изображения, а генерирует текст. Она подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа изображений и других задач генерации текста. Для варианта 12B заявлено контекстное окно до 128K токенов и максимальный объём генерируемого ответа до 8192 токенов; изображения нормализуются до разрешения 896 × 896 и кодируются в 256 токенов. Поддерживается более 140 языков, включая английский, указанный для этой публикации. К сильным сторонам относятся мультимодальность, большое контекстное окно, сравнительно компактный размер по меркам современных моделей и возможность запуска в средах с ограниченными ресурсами. Ограничения включают зависимость качества от доступных вычислительных ресурсов и особенностей GGUF-инференса; конкретный уровень квантования в предоставленных данных не указан. Модель распространяется по лицензии Gemma; применяются условия использования Google.

Granite-3.1-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на Granite-3.1-1B-A400M-Base модель с архитектурой GraniteMoE; README также описывает этапы supervised fine-tuning, выравнивания с помощью reinforcement learning и слияния моделей. В метаданных указано 163,6 млн параметров и контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций, а также для многоязычного диалога и работы с длинными документами и встречами. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Производительность на других языках может уступать английской; ответы могут быть неточными, предвзятыми или небезопасными. Лицензия — Apache 2.0.

dranger003/c4ai-command-r-v01-iMat.GGUF — это GGUF-квантизированная версия C4AI Command-R, исследовательской генеративной языковой модели с открытыми весами, разработанной CohereForAI. Версия содержит importance matrix-квантизации, подготовленные для запуска в совместимом программном обеспечении, включая llama.cpp. Модель предназначена для генерации текста, рассуждений, суммаризации, ответов на вопросы, многоязычного общения и сценариев retrieval-augmented generation (RAG). Она также поддерживает использование инструментов: на основе диалога и списка доступных инструментов модель может формировать JSON-список действий. Для grounded generation она принимает фрагменты извлечённых документов и использует их при подготовке ответа. Command-R имеет около 35 миллиардов параметров, 40 слоёв и контекстное окно до 131072 токенов. Это текстовая модель без заявленной поддержки изображений или других мультимодальных входов. Многоязычная генерация оценивалась для 10 языков, однако их конкретный перечень в предоставленных данных не указан. Importance matrix обучалась примерно на 100 тысячах токенов из корпуса WikiText; квантизация может уменьшать требования к ресурсам по сравнению с полноразмерной моделью, но потенциально сопровождается потерей точности, зависящей от выбранного варианта квантования. Модель распространяется по лицензии CC-BY-NC-4.0, которая допускает использование с соблюдением условий лицензии, но ограничивает коммерческое применение. Для корректной работы требуется поддержка архитектуры Command-R, GGUF и соответствующего шаблона чата.

AlexAtomic/gemma4-e4b-it-GGUF — это квантизированная в формате GGUF версия Gemma 4 E4B-it, разработанная Google и самостоятельно квантизированная AlexAtomic для проекта Atomic Chat. Модель предназначена для локального и полностью офлайн-использования в чат-ботах, приложениях с агентными сценариями и задачах, требующих обработки текста, изображений и аудио с генерацией текстовых ответов. Поддерживаются нативный function calling и настраиваемый режим рассуждений, включаемый токеном <|think|>. Модель имеет 4,5 млрд эффективных параметров, или 8 млрд параметров с учётом эмбеддингов, использует Per-Layer Embeddings и состоит из 42 слоёв. Архитектура Dense сочетает локальное скользящее внимание с окном 512 и глобальное внимание с p-RoPE; размер контекста — 128K токенов, словарь — 262K. Поддерживаются более 35 языков, при этом предобучение проводилось на более чем 140 языках. Для мультимодальной работы в репозитории предусмотрен vision-проектор mmproj. Ключевое преимущество — сочетание мультимодальности, большого контекста, офлайн-запуска и экономичного размера, а importance matrix помогает сохранить качество при низкобитовой квантизации. Ограничения связаны с потерями качества у самых компактных вариантов, а для корректной работы требуется применять шаблон чата Gemma 4 через параметр --jinja; для изображений необходим соответствующий mmproj. Доступны варианты квантизации от Q2_K до Q8_0, рекомендуемый баланс размера и качества — Q4_K_M. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3.8-Flash-Next-AWQ-INT4 — квантованная версия Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий содержит веса и конфигурацию в формате Hugging Face Transformers. Модель предназначена для генерации и понимания текста, агентских сценариев, задач STEM, а также мультимодальных задач с изображениями благодаря архитектуре языковой модели с vision encoder. Она совместима с Transformers, vLLM, SGLang и TokenSpeed. Архитектура включает 125 млрд параметров, из которых активируется 6 млрд, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Используются гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и n-gram embedding; модель содержит 48 слоёв и имеет скрытую размерность 2560. Ключевые заявленные особенности ориентированы на эффективную обработку длинного контекста и снижение вычислительных затрат. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Размер файлов модели указан как 188,29 ГБ. Преимуществами являются мультимодальность, поддержка нескольких языков, оптимизации для длинного контекста и возможность локального развёртывания в распространённых inference-системах. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README точного размера контекстного окна для данного репозитория и потенциальными потерями качества, характерными для INT4 AWQ-квантизации. Лицензия указана как qwen-community-1.0; применяются условия, приведённые в файле LICENSE.

GLM-4.6V-Flash-GGUF — мультимодальная модель семейства GLM-V, разработанная Z.ai (zai-org) и представленная в формате GGUF компанией Unsloth. Это облегчённая версия GLM-4.6V с 9 млрд параметров, ориентированная на локальное развёртывание и приложения с низкой задержкой. Модель поддерживает китайский и английский языки, работает с текстом и изображениями, а также предназначена для обработки скриншотов, страниц документов, таблиц, графиков и других визуальных данных. Модель рассчитана на визуальное понимание, мультимодальное рассуждение, анализ длинных и сложных документов, распознавание структуры и содержимого изображений, а также на сценарии мультимодальных агентов. Она поддерживает контекст до 128K токенов, нативный Function Calling с передачей изображений и документов инструментам, интерливинг текстового и визуального контента, генерацию HTML/CSS по скриншотам интерфейсов и визуальное редактирование по инструкциям на естественном языке. К сильным сторонам относятся сочетание визуального восприятия, рассуждения и вызова инструментов, поддержка длинного мультимодального контекста и оптимизация для локального использования. Ограничения включают меньший размер и, вероятно, более ограниченные возможности по сравнению с облачной версией GLM-4.6V на 106 млрд параметров; конкретные требования к оборудованию и характеристики квантования для данного GGUF в README не указаны. Лицензия модели — MIT.

bartowski/Meta-Llama-3.1-70B-Instruct-GGUF — это квантованная версия инструкционной модели Meta-Llama-3.1-70B-Instruct, разработанной Meta и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, написание и преобразование текстов и другие задачи обработки естественного языка. Из доступных данных известно, что модель относится к семейству Llama 3.1, содержит около 70 миллиардов параметров согласно идентификатору базовой модели и работает с текстом. Заявлены языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Формат GGUF обычно ориентирован на локальный инференс, однако конкретный уровень квантования, требования к памяти, размер контекста и точные характеристики производительности в README не указаны. Сильными сторонами модели являются большой размер, инструкционная настройка, поддержка нескольких языков и совместимость с экосистемой GGUF. Ограничениями могут быть высокие требования к вычислительным ресурсам, а также возможная потеря качества по сравнению с полной точностью из-за квантования; степень этого влияния зависит от конкретной версии квантования и не указана. Модель распространяется на условиях Llama 3.1 Community License от Meta. Лицензия предусматривает требования к атрибуции, маркировке продуктов, соблюдению Acceptable Use Policy и особые коммерческие условия для организаций с более чем 700 миллионами ежемесячных активных пользователей.

Qwen2.5-32B-Instruct-4bit — преобразованная в формат MLX инструктивная языковая модель семейства Qwen2.5, опубликованная сообществом mlx-community на основе Qwen/Qwen2.5-32B-Instruct. Она предназначена для диалоговой генерации текста и выполнения пользовательских инструкций; доступен интерфейс для вызова инструментов. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в safetensors; README указывает на конвертацию с помощью mlx-lm 0.18.1. Метаданные указывают лицензию Apache-2.0. Карточка модели и метаданные не описывают специальную предметную область; английский указан среди поддерживаемых языков.

Qwen2.5-32B-Instruct-GGUF — квантованная в формате GGUF версия инструкционной языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Квантование подготовлено bartowski на основе llama.cpp, а распространение модели осуществляется в рамках Community Model Program LM Studio. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, работу со структурированными данными и создание структурированного контента. Она поддерживает более 29 языков, среди которых английский, китайский, французский, испанский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Заявлена поддержка контекста до 128 000 токенов с использованием настроек YaRN RoPE и генерацией до 8 000 токенов. Ключевые характеристики включают размер 32B параметров, текстовую модальность и обучение на наборе данных объёмом 18 триллионов токенов. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в поддерживаемых приложениях, однако требования к вычислительным ресурсам зависят от конкретного уровня квантования. Модель может генерировать неточные, вредные или непреднамеренные ответы. Лицензия — Apache 2.0.

Карточка модели dnouv/embeddinggemma-300m на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

Qwen2.5-14B-Instruct-MLX-8bit — квантованная 8-битная версия языковой модели Qwen2.5-14B-Instruct, адаптированная для MLX и Apple Silicon Mac. Исходную модель разработала команда Qwen, а MLX-квантизацию предоставил bartowski на основе инструментов mlx-examples. Модель предназначена для генерации текста, диалоговых сценариев и задач, требующих понимания и генерации структурированных данных. Модель поддерживает контекст до 32 000 токенов и генерацию до 8 000 токенов. Она обучена на большом наборе данных и заявлена как поддерживающая более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Архитектура и точное число параметров исходной модели обозначены в идентификаторе как 14B; сведения о конкретной архитектуре в README не приведены. К сильным сторонам относятся широкий языковой охват, длинный контекст, возможности работы со структурированными данными и локальный запуск на совместимых Mac с Apple Silicon. Ограничения включают зависимость от MLX и совместимого оборудования, а также типичные для генеративных моделей риски неточностей, вредного или неподходящего содержания. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen2.5-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct, разработанной командой Qwen. Квантизация выполнена bartowski на основе llama.cpp release b3772; модель представлена в рамках программы Community Models LM Studio, но LM Studio не является её разработчиком или владельцем. Модель предназначена для генерации текста, диалоговых сценариев, ответов на инструкции и работы со структурированными данными. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский, что делает её пригодной для многоязычных приложений. Ключевые характеристики включают размер 7 млрд параметров, контекст до 128 тысяч токенов с настройками YaRN RoPE и генерацию до 8 тысяч токенов. К сильным сторонам относятся широкий языковой охват, поддержка длинного контекста и улучшенное понимание и создание структурированных данных. При этом модель может генерировать неточную, вредную или вводящую в заблуждение информацию, а README не содержит подробностей о конкретной схеме квантизации, требованиях к ресурсам и результатах бенчмарков. Распространение указано под лицензией Apache 2.0.

Карточка модели fsousaon/Qwen3-Embedding-4B-Lia на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Карточка модели a-ibrahim-pwc/Qwen3-Next-80B-A3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-Next-80B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Next-80B-A3B-Instruct — языковая модель от команды Qwen, предназначенная для диалогов, генерации текста и сценариев с вызовом инструментов. Это причинная модель семейства Qwen3-Next с разреженной архитектурой смеси экспертов (MoE), гибридной обработкой контекста через Gated DeltaNet и Gated Attention и поддержкой ускорения вывода с помощью Multi-Token Prediction. В модели 80 млрд параметров, из которых активируются около 3 млрд на токен; при этом метаданные Hugging Face указывают размер 2,3 млрд параметров. Модель рассчитана на инструкции в обычном, нетщательном режиме и поддерживает контекст до 262 144 токенов; в README описано расширение контекста примерно до миллиона токенов с YaRN. Подходит для длинных диалогов и документов, генерации ответов и агентных сценариев с инструментами. Карточка сообщает о результатах на ряде бенчмарков, но не приводит полный набор таблиц в предоставленном тексте. Лицензия Apache-2.0.

LGAI-EXAONE/EXAONE-4.0-32B-FP8 — языковая модель компании LG AI Research из серии EXAONE 4.0. Она предназначена для генерации текста, решения сложных задач, многоязычного общения и построения агентных приложений с вызовом инструментов. Модель поддерживает два режима работы: Non-reasoning для обычных запросов и Reasoning для задач, требующих пошагового рассуждения. Заявлена поддержка английского, корейского и испанского языков. Модель содержит около 30,95 млрд параметров без учёта эмбеддингов, 64 слоя и использует архитектуру с GQA на 40 attention heads и 8 KV heads. Для 32B-версии применена гибридная схема внимания с локальным и глобальным вниманием в соотношении 3:1, а также архитектурное изменение QK-Reorder-Norm. Размер словаря составляет 102 400 токенов, контекст — до 131 072 токенов. Весы представлены в формате fine-grained FP8. Сильными сторонами являются сочетание общего режима генерации и рассуждений, поддержка инструментов, длинный контекст и мультиязычность. Ограничения включают высокие требования к вычислительным ресурсам из-за размера модели; README не приводит подробностей о точности, безопасности и типичных ошибках. Модель распространяется по лицензии exaone, обозначенной как other; условия следует уточнять в файле LICENSE.

Это точная копия весов, токенизатора и конфигурации Llama 3.1 8B Instruct от Meta, размещённая Positron AI как зафиксированный исходный снимок для собственных GPTQ-квантизаций организации. Модель представляет собой плотную авторегрессионную языковую модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; поддерживает диалоги и генерацию текста, включая интерфейс вызова инструментов. Модель предназначена для инструкционного диалога и генерации текста. Метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий использует формат safetensors и лицензию Llama 3.1. Это неизменённая перепубликация базовой модели, поэтому её возможности и ограничения соответствуют исходной карточке Meta; отдельные оценки качества и дополнительные ограничения в этой карточке не приведены.

Rioky/Mistral-Small-4-119B-2603-heretic-i1-gguf — набор GGUF-квантизаций модели Mistral Small 4 119B 2603 Heretic. Базовая модель разработана Mistral AI, а версия Heretic опубликована darkc0de; данный набор подготовлен Rioky. Модель предназначена для генерации текста, мультимодального анализа изображений и текста, агентских сценариев, вызова функций с JSON-выводом и задач, требующих длинного контекста. Заявлена поддержка режимов быстрого ответа и рассуждений с дополнительными вычислениями во время вывода. Модель использует архитектуру Mistral4 с разреженной Mixture-of-Experts и MLA-вниманием: всего 119 млрд параметров, из которых активируются 6,5 млрд на токен; доступны 128 экспертов, 4 из них активируются для каждого токена. Контекстное окно составляет до 256 тысяч токенов. Поддерживаются текстовый и графический ввод с текстовым выводом. Указана многоязычность, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и другие языки. К сильным сторонам относятся большой контекст, мультимодальность, функции для агентских приложений, системные инструкции и несколько вариантов квантизации с importance matrix, которая призвана лучше сохранять качество на низких битностях. Ограничения включают значительные требования к памяти: размер файлов варьируется примерно от 29 до 91 ГиБ, а качество и скорость зависят от выбранного варианта. Показатель отказов Heretic-версии в README составляет 27 из 100 против 98 из 100 у исходной модели, однако независимые оценки качества не приведены. Распространение заявлено по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование.

Карточка модели ushakov15/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой woodx/Qwen3-Embedding-0.6B-SGLang, поэтому описание составлено по ней. Qwen3-Embedding-0.6B-SGLang — дообученная модель семейства Qwen3, представленная в репозитории woodx и основанная на Qwen/Qwen3-0.6B-Base. Она преобразует текст в эмбеддинги для семантического поиска и сопоставления текстов. Модель содержит около 507,6 млн параметров, поддерживает контекст до 32 768 токенов и формирует векторы размерностью от 32 до 1024 с возможностью задавать инструкцию под задачу. Модель предназначена для многоязычного поиска по текстам и коду, классификации и кластеризации текстов, поиска параллельных фрагментов на разных языках и задач семантического сходства. В карточке серии заявлена поддержка более 100 языков. Для улучшения результатов поиска рекомендуется задавать подходящую инструкцию; в многоязычных сценариях авторы советуют формулировать её на английском. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Карточка модели Rasputin312/Qwen3-Embedding-4B_both_0_pct_3_epochs на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

michaelfeil/Qwen3-Embedding-8B-auto — текстовая модель эмбеддингов на архитектуре Qwen3, дообученная на базе Qwen/Qwen3-8B-Base. Она предназначена для преобразования текстов в векторы и поиска по смыслу, включая поиск по документам и коду, классификацию, кластеризацию, ранжирование и сопоставление параллельных текстов. Модель содержит 7,6 млрд параметров, поддерживает контекст до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README указывает настраиваемый диапазон размерностей от 32 до 4096 и поддержку инструкций для конкретной задачи. Модель заявлена как многоязычная, с поддержкой более 100 языков, а также языков программирования. Среди сильных сторон — длинный контекст, настраиваемая размерность векторов и широкий набор задач поиска и сопоставления. Для качественного поиска рекомендуется задавать инструкции; автор отмечает, что их отсутствие может снижать качество поиска на 1–5%. Для работы с Transformers требуется версия 4.51.0 или новее. Лицензия — Apache-2.0.

QuantTrio/Qwen3-VL-30B-A3B-Instruct-AWQ — квантизированная в формате AWQ версия мультимодальной instruct-модели Qwen3-VL-30B-A3B-Instruct из семейства Qwen. Модель предназначена для генерации текста по текстовым, графическим и видеовходам, визуального анализа и рассуждений, OCR, понимания пространственных отношений и временной структуры видео, а также взаимодействия с графическими интерфейсами и инструментами. Она может применяться для анализа документов и изображений, визуального программирования, STEM-задач и создания ответов на основе мультимодального контекста. Архитектура относится к MoE: заявлен размер 30B, а обозначение A3B указывает на активацию примерно 3B параметров на запрос. Модель поддерживает изображения, видео и текст, использует механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Базовая версия заявляет нативный контекст 256K токенов с возможностью расширения до 1M; в приведённой конфигурации vLLM длина контекста ограничена 32768 токенами. Для OCR указана поддержка 32 языков, но полный список языков не приведён. Сильные стороны модели — сочетание языкового и визуального понимания, работа с длинными документами и видео, распознавание текста в сложных условиях, пространственное и временное рассуждение, а также сравнительно низкие требования к памяти благодаря AWQ-квантизации. Ограничения включают возможную потерю качества из-за квантизации, необходимость совместимого окружения с vLLM и рекомендуемого tensor parallelism на двух GPU; конкретные показатели качества и аппаратные требования в README не указаны. Модель распространяется по лицензии Apache 2.0.

DeepSeek-V3.1-Terminus-W4AFP8 — смешанно-точная квантованная версия DeepSeek-V3.1-Terminus. Репозиторий модели связан с deepseek-ai/DeepSeek-V3.1-Terminus; по метаданным это производная модели с архитектурой DeepSeek V3 и классом DeepseekV3ForCausalLM. Модель содержит 37,6 млрд параметров и рассчитана на генерацию текста, включая диалог и вызов инструментов через соответствующий интерфейс. Контекст составляет до 163 840 токенов. Веса плотных слоёв сохраняют формат FP8 исходной модели, а веса MoE-слоёв представлены в INT4 с активациями FP8 (W4AFP8). В README приведены результаты тестирования в режиме без рассуждений; для инференса описан запуск через SGLang версии 0.5.2 или новее с tensor parallel. Модель распространяется по лицензии MIT. Карточка не уточняет языки и специфические ограничения качества.

Карточка модели SteveCIB77/embeddinggemma-300m на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

Карточка модели unsloth/Qwen3-Next-80B-A3B-Thinking на Hugging Face совпадает с карточкой Qwen/Qwen3-Next-80B-A3B-Thinking, поэтому описание составлено по ней. Qwen3-Next-80B-A3B-Thinking — языковая модель с открытыми весами от команды Qwen, предназначенная для сложных задач рассуждения и диалогового применения. Она работает только в режиме размышления и может формировать длинные цепочки рассуждений. Модель построена на причинной архитектуре Qwen3-Next с разреженной смесью экспертов (MoE) и сочетает Gated DeltaNet с Gated Attention для работы с длинным контекстом. Всего в ней 80 млрд параметров, из которых активны около 3 млрд; метаданные каталога указывают 2,3 млрд параметров. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000 токенов. Поддерживаются генерация текста, чат и интерфейс вызова инструментов. Модель подходит для многошагового анализа, решения сложных задач и работы с большими текстовыми контекстами. В README заявлены высокие результаты на тестах рассуждения и эффективность инференса, но эти сравнения приведены разработчиком. Для запуска нужны совместимые версии Transformers, SGLang или vLLM и значительные вычислительные ресурсы; README рекомендует несколько GPU и отмечает риск нехватки памяти при длинном контексте. Лицензия — Apache 2.0.

Qwen3-VL-2B-Thinking-1M-GGUF — мультимодальная vision-language модель семейства Qwen3-VL, разработанная командой Qwen и представленная в формате GGUF со сборкой и исправлениями chat template от Unsloth. Модель предназначена для понимания и генерации текста по изображениям, анализа видео, OCR, визуального рассуждения, решения STEM- и математических задач, пространственного анализа, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель содержит около 2 млрд параметров и относится к Thinking-редакции с усиленным рассуждением. Она поддерживает текстово-визуальные входы, распознавание объектов, документов и сцен, анализ временных событий в видео, а также работу с длинным контекстом: заявлена нативная длина 256K токенов с возможностью расширения до 1M. Для архитектуры указаны механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, улучшающие обработку пространственных, визуальных и видеоданных. OCR заявлен для 32 языков. Сильные стороны модели — сочетание компактного размера, мультимодального рассуждения, расширенного контекста, анализа видео и возможностей visual agent. Ограничения связаны с меньшим размером по сравнению с крупными версиями Qwen3-VL, а также с тем, что конкретные параметры GGUF-квантизации и результаты тестов для данного файла в README не указаны. Для работы с llama.cpp рекомендуется включать параметр --jinja. Модель распространяется по лицензии Apache-2.0.

EXAONE-4.0-32B-FP8 — мультиязычная большая языковая модель LG AI Research, представленная в формате для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это авторегрессионный плотный Transformer с 32 млрд параметров, предназначенный для генерации текста, следования инструкциям, решения сложных задач с использованием режима рассуждений, вызова инструментов и агентских сценариев. Модель поддерживает английский, корейский и испанский языки, работает с текстовыми входами и выходами. Модель объединяет обычный режим без рассуждений, включённый по умолчанию, и режим reasoning, который активируется отдельно для запроса. Она поддерживает вызов функций через формат EXAONE-4.0. Веса статически квантизированы в FP8, активации динамически квантизируются в FP8 во время выполнения, а KV-кэш сохраняется в 16-битной точности. На FuriosaAI RNGD используется тензорный параллелизм на 32 PE, что соответствует четырём картам RNGD. Карточка описывает интеграцию с Furiosa-LLM и аппаратным обеспечением FuriosaAI RNGD; для других движков, включая vLLM, SGLang и Transformers, следует обращаться к исходной карточке модели. Ограничения по размеру контекста и дополнительные характеристики производительности не указаны. Модель распространяется по лицензии EXAONE AI Model License Agreement 1.2 - NC, предусматривающей некоммерческое использование.