II.2Создание и понимание программного кода

Magnum-Picaro-0.7-v2-12b-GGUF — квантизированная версия текстовой генеративной модели Trappu/Magnum-Picaro-0.7-v2-12b, подготовленная bartowski в формате GGUF. Исходная модель создана Trappu и основана на объединении моделей anthracite-org/magnum-v2-12b и Trappu/Nemo-Picaro-12B; точная архитектура, поддерживаемые языки и размер контекста в README не указаны. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые приложения. Доступны варианты от BF16 до 4-битных квантов Q4_K и Q4_1, с размером файлов примерно от 7,8 до 24,5 ГБ. Квантизация выполнена с использованием imatrix, что направлено на сохранение качества при уменьшении требований к памяти; варианты Q5 и Q6 отмечены автором как рекомендуемые. Модель поддерживает текстовую модальность, а формат промпта использует специальные маркеры системного, пользовательского и ассистентского сообщений. По опубликованным результатам Open LLM Leaderboard показатели составляют 30,03% на IFEval, 35,75% на BBH, 4,76% на MATH Level 5, 9,73% на GPQA, 19,56% на MuSR и 28,67% на MMLU-Pro. Эти результаты указывают на пригодность модели для общих задач генерации и рассуждений, но не заменяют проверку на конкретных сценариях. Модель распространяется по лицензии Apache-2.0.

WindyFloLLM — текстовая генеративная модель на архитектуре LLaMA, созданная автором репозитория путём слияния Platypus2-13B и orca_mini_v3_13b методом SLERP с помощью mergekit. Модель содержит 12,9 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации ответов и выполнения инструкций в текстовом диалоге. В качестве одного из компонентов использована Platypus2-13B — англоязычная инструкция-донастроенная модель, ориентированная в том числе на STEM и логические задачи; README подтверждает использование также orca_mini_v3_13b. Данные не устанавливают отдельную специализацию или качество итогового слияния. Лицензия в предоставленных данных не указана. Как генеративная языковая модель, она может выдавать ошибочные или непроверенные ответы.

Xwen-7B-Chat — диалоговая языковая модель команды xwen-team, дообученная на базе Qwen2.5-7B. Это плотная трансформерная модель с 7,1 млрд параметров для генерации текста и ведения диалога; она принимает текст и выдаёт текст. В метаданных указан контекст до 131 072 токенов, поддержка английского и китайского языков, интерфейс для вызова инструментов и библиотека Transformers. Модель предназначена для чат-ботов и ответов на пользовательские запросы. Авторы приводят результаты Arena-Hard-Auto, MT-Bench и AlignBench, где Xwen-7B-Chat показала результаты выше приведённых в карточке сравнений с рядом сопоставимых моделей; это результаты бенчмарков, а не гарантия качества для конкретного сценария. Авторы также предупреждают, что модель специально не обучали точно отвечать на вопросы о собственной личности и разработчиках. Веса распространяются по лицензии Apache-2.0. В README упомянуты отдельные репозитории с GGUF-квантованиями; эта карточка описывает версию в формате Safetensors.

duyntnet/Mistral-Small-24B-Instruct-2501-imatrix-GGUF — это GGUF-квантизованные версии языковой модели Mistral Small 3 (2501), разработанной командой Mistral AI. Модель основана на Mistral-Small-24B-Base-2501 и дообучена для выполнения инструкций. В карточке указано 24 млрд параметров; конкретная архитектура не раскрыта. Модель предназначена для генерации текста и работает с текстовой модальностью. Модель ориентирована на быстрых разговорных ассистентов, сценарии с низкой задержкой, вызов функций, выдачу структурированного JSON, локальный запуск и последующее дообучение под предметные области. Она поддерживает десятки языков, включая английский, французский, немецкий, испанский, итальянский, китайский, японский, корейский, португальский, нидерландский и польский. Контекстное окно составляет 32 000 токенов, используется токенизатор Tekken со словарём размером 131 000 токенов. К сильным сторонам относятся развитые диалоговые и reasoning-возможности, поддержка системных промптов, native function calling и JSON-вывода, а также возможность локального запуска после квантизации, в том числе на одной RTX 4090 или MacBook с 32 ГБ оперативной памяти. Ограничения связаны с тем, что это квантизованный вариант: конкретные компромиссы между размером, скоростью и качеством зависят от выбранного файла квантизации. Модель рассчитана на использование через llama.cpp, KoboldCPP, Ollama, text-generation-webui, Jan и GPT4All. В исходном описании базовой модели указана лицензия Apache 2.0, однако метаданные данного репозитория обозначают лицензию как other; перед коммерческим использованием следует проверить условия для конкретной сборки.

Gemma 3 — серия мультимодальных моделей, разработанная и выпущенная Google на основе исследований и технологий, использованных при создании Gemini. Модели предназначены для генерации текста по текстовым и изображениям входным данным и подходят для ответов на вопросы, суммаризации, рассуждений и других прикладных сценариев. Они ориентированы на эффективное развертывание на ноутбуках, настольных компьютерах и в пользовательской облачной инфраструктуре. В линейку входят варианты объёмом 1B, 4B, 12B и 27B параметров, включая предварительно обученные и instruction-tuned версии. Заявлены поддержка контекста до 128K токенов, более 140 языков и обработка текстовых и визуальных входов с генерацией текста. Для каждой ветки доступна версия с квантованием по умолчанию. Конкретная модальность или набор возможностей может зависеть от выбранного варианта. Сильные стороны серии — широкий выбор размеров, мультимодальность, большой контекст, многоязычность и открытые веса, что упрощает адаптацию и локальное развёртывание. Более крупные варианты потенциально требуют больше вычислительных ресурсов, а квантованные версии могут иметь компромисс между качеством и эффективностью. Модель распространяется по лицензии Gemma License; условия использования определяются её текстом.

unsloth/gemma-3-12b-it-qat-bnb-4bit — 12-миллиардная instruction-tuned модель семейства Gemma 3, разработанная Google DeepMind. Она создана на основе Google Gemma и использует Quantization Aware Training (QAT). Модель мультимодальная: принимает текст и изображения, а генерирует текст. Контрольные веса в данном репозитории указаны как соответствующие базовой модели google/gemma-3-12b-it-qat-q4_0-unquantized. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений, анализа изображений и извлечения визуальной информации. Она поддерживает более 140 языков и контекст до 128 000 токенов; максимальный объём генерируемого ответа составляет 8192 токена. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Благодаря относительно небольшому размеру модель подходит для развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Ключевое преимущество QAT — сохранение качества, близкого к bfloat16, при существенно меньших требованиях к памяти после квантования. При этом README уточняет, что размещённый checkpoint является неквантованным и его необходимо самостоятельно квантовать в формат Q4_0 подходящим инструментом. Модель распространяется по лицензии Gemma; для доступа к ней на Hugging Face требуется войти в аккаунт и принять условия использования Google.

Qwen3-Embedding-8B — модель текстовых эмбеддингов семейства Qwen3, разработанная командой Qwen и опубликованная в формате safetensors. Она основана на Qwen/Qwen3-8B-Base и дообучена для преобразования текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов по метаданным; в README указана длина 32K токенов. Модель предназначена для семантического поиска по текстам и коду, извлечения информации, классификации и кластеризации текстов, поиска параллельных текстов и других задач, основанных на сходстве. Она поддерживает более 100 языков, настраиваемую размерность выходного вектора от 32 до 4096 и инструкции, задающие контекст задачи. В README для multilingual MTEB приведён результат 70,58 по состоянию на 5 июня 2025 года. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку при загрузке архитектуры Qwen3. Модель распространяется по лицензии Apache-2.0; крупный размер может требовать значительных вычислительных ресурсов.

Карточка модели unsloth/embeddinggemma-300m-qat-q8_0-unquantized на Hugging Face совпадает с карточкой h2oai/embeddinggemma-300m-qat-q8_0-unquantized, поэтому описание составлено по ней. EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

unsloth/gemma-3-12b-it-GGUF — это GGUF-версия инструкционно дообученной модели Google Gemma 3 12B, опубликованная Unsloth. Модель создана Google DeepMind и относится к семейству компактных открытых моделей, разработанных на основе технологий Gemini. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Она мультимодальная: принимает текст и изображения, но генерирует текст. Для версии 12B заявлено контекстное окно до 128 000 токенов, максимальный объём генерируемого ответа — до 8192 токенов. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Gemma 3 поддерживает более 140 языков, однако для данной карточки явно указан английский язык. Сильными сторонами модели являются сочетание относительно компактного размера, мультимодальности, большого контекстного окна и пригодности для локального развёртывания на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре. Ограничения включают зависимость качества от выбранного GGUF-квантизованного варианта и аппаратных ресурсов, а также возможное снижение точности по сравнению с более крупными моделями; конкретные параметры квантизации в README не указаны. Модель распространяется по лицензии Gemma; условия использования определяются официальными Terms of Use Google.

Карточка модели Rasputin312/Qwen3-Embedding-4B_both_60_pct_8_epochs на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

RedHatAI/Apertus-8B-Instruct-2509-FP8-dynamic — инструкционная языковая модель, разработанная Red Hat на базе swiss-ai/Apertus-8B-Instruct-2509. Она предназначена для генерации и преобразования текста, диалоговых приложений и других сценариев обработки естественного языка. Модель поддерживает более 1000 языков и рассчитана на работу с длинным контекстом, однако его максимальный размер в README не указан. Входом и выходом служит текст; архитектура обозначена как ApertusForCausalLM. Модель использует динамическое квантование весов и активаций линейных операторов трансформерных блоков в формате FP8. Это примерно вдвое уменьшает число битов на параметр, размер на диске и требования к GPU-памяти по сравнению с исходным представлением FP16, что упрощает развертывание. Модель валидирована с vLLM 0.11.2, Red Hat OpenShift AI 3.2 и Red Hat AI Inference Server 3.2.5; README также указывает поддержку развертывания через vLLM. К сильным сторонам относятся многоязычность, длинный контекст, открытые и полностью соответствующие требованиям источники обучающих данных, а также сниженные требования к ресурсам благодаря FP8-квантизации. Ограничения включают текстовую модальность, потенциальные особенности качества и совместимости, связанные с квантизацией, и отсутствие в предоставленных данных подробных бенчмарков, точного размера контекста и результатов по отдельным языкам. Модель распространяется по лицензии Apache 2.0.

EmbeddingGemma — компактная модель эмбеддингов текста от Google DeepMind на 302,8 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы размерностью 768; благодаря Matryoshka Representation Learning вектор можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Модель принимает текст с контекстом до 2048 токенов и предназначена для запуска в том числе на телефонах, ноутбуках и настольных компьютерах с ограниченными ресурсами. Основные сценарии — семантический поиск и извлечение документов, сравнение предложений, классификация и кластеризация текстов, поиск кода по запросам на естественном языке, а также подбор материалов для систем ответов на вопросы и проверки фактов. Модель обучалась на данных более чем 100 языков, включая веб-тексты, код и техническую документацию. Для использования авторы рекомендуют Sentence Transformers с Gemma 3 из Transformers; в репозитории также представлены форматы ONNX, OpenVINO, PyTorch, Safetensors и TensorFlow. Качество зависит от охвата и смещений обучающих данных; модель может хуже улавливать тонкие языковые нюансы, сарказм и переносный смысл. Лицензия — Gemma; при использовании необходимо соблюдать условия Gemma и ограничения политики допустимого использования.

unsloth/gemma-3-27b-it-unsloth-bnb-4bit — это 4-битная версия instruction-tuned модели Gemma 3 27B, подготовленная Unsloth на базе google/gemma-3-27b-it. Исходная модель разработана Google DeepMind в рамках семейства Gemma, созданного с использованием исследований и технологий Gemini. Модель предназначена для генерации текста и мультимодального понимания изображений: она принимает текст и изображения, а на выходе генерирует текст. Подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа содержимого изображений и диалоговых сценариев. Для размеров 4B, 12B и 27B заявлено контекстное окно до 128K токенов, максимальный объём генерируемого ответа — 8192 токена; изображения нормализуются до 896×896 и кодируются в 256 токенов. Поддерживается более 140 языков, при этом в метаданных данной версии явно указан английский язык. Ключевое преимущество версии — 4-битное квантование, снижающее требования к памяти и упрощающее локальное развёртывание, однако оно может сопровождаться потерей точности по сравнению с полноразмерными вариантами. Модель рассчитана на работу через Transformers и может быть полезна на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Использование регулируется лицензией Gemma и соответствующими Terms of Use.

Карточка модели ablllu/Qwen3-Embedding-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Карточка модели m-hasnain-sabqi/Qwen3-Embedding-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Карточка модели unsloth/Qwen3-Next-80B-A3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-Next-80B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Next-80B-A3B-Instruct — языковая модель от команды Qwen, предназначенная для диалогов, генерации текста и сценариев с вызовом инструментов. Это причинная модель семейства Qwen3-Next с разреженной архитектурой смеси экспертов (MoE), гибридной обработкой контекста через Gated DeltaNet и Gated Attention и поддержкой ускорения вывода с помощью Multi-Token Prediction. В модели 80 млрд параметров, из которых активируются около 3 млрд на токен; при этом метаданные Hugging Face указывают размер 2,3 млрд параметров. Модель рассчитана на инструкции в обычном, нетщательном режиме и поддерживает контекст до 262 144 токенов; в README описано расширение контекста примерно до миллиона токенов с YaRN. Подходит для длинных диалогов и документов, генерации ответов и агентных сценариев с инструментами. Карточка сообщает о результатах на ряде бенчмарков, но не приводит полный набор таблиц в предоставленном тексте. Лицензия Apache-2.0.

SuperQwen3.8-27b-abliterated-GGUF — это квантованная сборка модели SuperQwen3.8-27b-abliterated, разработанная Jiunsong для запуска через llama.cpp в формате GGUF. Модель предназначена для генерации и анализа текста, рассуждений, вызова инструментов и работы с изображениями; мультимодальность обеспечивается отдельным vision-проектором. Заявлены английский и корейский языки. Основная модель использует квантование Q4_K_M с importance matrix и занимает около 15,41 GiB; полный комплект с MTP-модулем и vision-проектором — около 17,56 GiB. Доступен native MTP draft для speculative decoding с профилем K=6, а заявленное окно контекста составляет 262 043 токена. Vision-проектор поставляется отдельно, поэтому текстовый запуск может обходиться без него. В README также указаны измеренная скорость около 40,1 токена в секунду на одном DGX Spark и успешные проверки вызова инструментов, обработки изображений, рассуждений и извлечения данных из длинного контекста. К сильным сторонам относятся большой контекст, поддержка мультимодальности, инструментов и ускоренного декодирования, а также компактность Q4-квантизации. Ограничения включают зависимость производительности и доступного контекста от аппаратуры и настроек llama.cpp; проверка на границе окна не гарантирует одинаковую точность для всех задач. Модель позиционируется как abliterated: измеренная способность отказывать на вредоносные запросы была существенно снижена, поэтому для безопасного применения необходимы дополнительные меры контроля. Лицензия — Apache-2.0.

Карточка модели GrishaKushnir/embeddinggemma-300m на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

Карточка модели GokulRajaR/embeddinggemma-300m-qat-q8_0-unquantized на Hugging Face совпадает с карточкой h2oai/embeddinggemma-300m-qat-q8_0-unquantized, поэтому описание составлено по ней. EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

Gemma 3 4B Instruction-tuned QAT compressed-tensors — это мультимодальная instruction-tuned модель семейства Gemma 3, разработанного Google DeepMind. Данная версия представляет собой конвертацию Gemma 3 4B IT из формата GGUF Q4_0 в формат compressed-tensors с типом данных BF16; преобразование не является полностью без потерь. Модель принимает текст и изображения, а генерирует текст. Модель предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений. Она поддерживает более 140 языков, контекст входных данных до 128K токенов, изображения с нормализацией до 896×896 пикселей, кодируемые в 256 токенов каждое, и генерирует до 8192 токенов. Размер 4B и QAT-квантизация снижают требования к памяти при сохранении качества, близкого к bfloat16, что облегчает запуск на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель можно запускать, в частности, через vLLM; исходная карточка также описывает использование llama.cpp. Ограничения включают возможные потери качества из-за преобразования и квантизации, а также стандартные ограничения генеративных и мультимодальных моделей. Модель распространяется по лицензии Gemma; конкретные условия определяются официальными Terms of Use Google.

infosave/Granite-4.2-cmf — набор квантизированных плотных reasoning-моделей семейства IBM Granite 4.2, основанных на моделях IBM Granite 3B, 8B и 30B. Репозиторий подготовлен для среды Cortiq и содержит артефакты CMF с весами, токенизатором, точным шаблоном чата и хешами целостности. Модели предназначены для генерации текста, диалогов, многошагового рассуждения, работы с инструментами и многоходовым контекстом. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Доступны профили Q4TP и Q8_2F. Q4TP использует смешанную точность: основные проекции квантизированы в 4-битный формат, а границы словаря — в 8-битный; Q8_2F обеспечивает более высокое качество за счёт 8-битного представления проекций. Размер файлов составляет примерно от 2,17 до 29,31 ГБ в зависимости от варианта. Поддерживаются CPU, Vulkan, DX12 и Metal без обязательной установки Python, PyTorch или CUDA toolkit. Контекст модели — 131 072 токена; заявленное IBM расширение до 512K в этих файлах не реализовано. Преимущества — компактность, переносимость, сохранение специфичной архитектуры Granite и возможность работы при ограниченной VRAM с переносом части слоёв на CPU. Ограничения — необходимость значительных ресурсов для вариантов 8B и 30B, снижение качества у Q4TP по сравнению с Q8_2F и отсутствие заявленной поддержки контекста 512K. Распространение осуществляется по лицензии Apache-2.0.

Карточка модели crusoeai/Llama-3.3-70B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.3-70B-Instruct, поэтому описание составлено по ней. Meta Llama 3.3 70B Instruct — мультиязычная генеративная языковая модель Meta для диалогов и следования инструкциям. Это авторегрессионный трансформер на 70 млрд параметров, дообученный с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей. Модель принимает и выдаёт текст, поддерживает контекст до 128 тысяч токенов и оптимизирована для диалоговых сценариев. Модель подходит для создания ассистентов, ответов на вопросы, написания и преобразования текстов, а также генерации синтетических данных. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; русский среди них не указан. Для инференса описана библиотека Transformers, а контрольные точки можно использовать с 8- и 4-битной загрузкой через bitsandbytes для снижения требований к памяти. Модель статична и обучена на офлайн-данных с отсечкой знаний в декабре 2023 года. Она не принимает изображения, аудио или видео; качество и безопасность ответов требуют оценки и мер защиты в конкретном приложении. Использование регулируется пользовательским соглашением Llama 3.3 Community License, включая его ограничения и Acceptable Use Policy.

RedHatAI/Llama-3.3-70B-Instruct-quantized.w4a16 — это квантизированная инструкционно настроенная языковая модель на базе Meta Llama-3.3-70B-Instruct, разработанная Red Hat совместно с Neural Magic. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых ассистентов, задач генерации естественного языка, а также для создания синтетических данных и дистилляции других моделей. Модель содержит 70 миллиардов параметров и использует INT4-квантизацию весов линейных операторов в трансформерных блоках. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритм GPTQ, реализованный в библиотеке llm-compressor. Переход с 16 на 4 бита уменьшает размер модели на диске и требования к памяти GPU примерно на 75%. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для эффективного развертывания рекомендуется vLLM; модель также валидирована в RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5. В README приведён пример запуска с максимальной длиной контекста 32768 токенов, однако этот параметр указан для конфигурации развертывания. К сильным сторонам относятся существенно сниженные требования к дисковой и GPU-памяти при сохранении назначения исходной instruct-модели и поддержка многоязычных диалоговых сценариев. Ограничения включают работу только с текстом, возможное влияние квантизации на качество по сравнению с исходной моделью и запрет использования для языков, не перечисленных в документации. Модель распространяется по Llama 3.3 Community License; также необходимо соблюдать применимое законодательство и Acceptable Use Policy.

alexliap/Qwen3-Embedding-8B-NVFP4 — квантизированная версия модели Qwen3-Embedding-8B, разработанной командой Qwen. Модель предназначена для получения текстовых эмбеддингов и решения задач семантического поиска, извлечения документов, поиска по коду, классификации, кластеризации и двуязычного сопоставления текстов. Она поддерживает инструкции, задающие целевой сценарий или язык, и может использоваться, например, для поиска релевантных фрагментов по пользовательскому запросу. Модель содержит около 8 млрд параметров, имеет контекст длиной до 32K токенов и поддерживает более 100 языков, включая языки программирования. Размер выходного вектора можно выбирать в диапазоне от 32 до 4096 измерений; максимальная размерность составляет 4096. Все линейные слои квантизированы по схеме NVFP4 с использованием llmcompressor и формата compressed-tensors, что предназначено для снижения требований к хранению и ускорения инференса на совместимом оборудовании. В README приведён пример запуска через vLLM в режиме embed. К сильным сторонам относятся мультиязычность, поддержка длинного контекста, инструкционно-управляемые эмбеддинги и гибкая размерность векторов. Возможные ограничения связаны с потерями качества из-за квантизации и с тем, что калибровка выполнялась всего на 100 примерах греческого языка длиной до 4096 токенов, поэтому поведение на других языках и типах данных может отличаться. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct — языковая модель от команды Qwen, предназначенная для диалогов, генерации текста и сценариев с вызовом инструментов. Это причинная модель семейства Qwen3-Next с разреженной архитектурой смеси экспертов (MoE), гибридной обработкой контекста через Gated DeltaNet и Gated Attention и поддержкой ускорения вывода с помощью Multi-Token Prediction. В модели 80 млрд параметров, из которых активируются около 3 млрд на токен; при этом метаданные Hugging Face указывают размер 2,3 млрд параметров. Модель рассчитана на инструкции в обычном, нетщательном режиме и поддерживает контекст до 262 144 токенов; в README описано расширение контекста примерно до миллиона токенов с YaRN. Подходит для длинных диалогов и документов, генерации ответов и агентных сценариев с инструментами. Карточка сообщает о результатах на ряде бенчмарков, но не приводит полный набор таблиц в предоставленном тексте. Лицензия Apache-2.0.

EmbeddingGemma — компактная модель эмбеддингов на 300 млн параметров от Google DeepMind, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, извлечения информации, оценки сходства, классификации и кластеризации. Модель подходит для поиска документов и кода, систем вопросов и ответов и проверки фактов. Модель обучена на данных более чем из 100 языков и рассчитана на запуск на устройствах с ограниченными ресурсами, включая телефоны и компьютеры. Максимальная длина входа — 2048 токенов; стандартный размер выходного вектора — 768 измерений, также доступны укороченные варианты на 512, 256 и 128 измерений с помощью Matryoshka Representation Learning. Для работы предусмотрена библиотека Sentence Transformers. Качество эмбеддингов зависит от охвата и особенностей обучающих данных; модель может хуже передавать языковые нюансы, сарказм и переносный смысл, а также наследовать смещения данных. Условия использования определяются лицензией Gemma и связанными с ней правилами Google.

K-EXAONE-236B-A23B-NVFP4A16 — сборка модели K-EXAONE, разработанной LG AI Research и дополнительно квантизированной компанией FuriosaAI. Это авторегрессионная языковая модель-трансформер с архитектурой Mixture-of-Experts (ExaoneMoE), предназначенная для генерации текста, многоязычного диалога и задач, требующих рассуждений. Модель поддерживает корейский, английский, испанский, немецкий, японский и вьетнамский языки, а также режимы с рассуждением и без него. Модель содержит 236 млрд параметров, из которых 23 млрд активируются для каждого токена; используется 128 экспертов, 8 активных экспертов и 1 общий эксперт. Архитектура сочетает чередующиеся слои sliding-window и глобального внимания. Веса квантизированы в формате NVFP4, а активации и KV-кэш сохраняются в 16-битной точности. Поддерживаются вызов инструментов и OpenAI-совместимый API. Для штатного запуска FuriosaAI предусмотрены Furiosa LLM и ускорители FuriosaAI RNGD; конфигурация запуска использует четыре карты RNGD. К сильным сторонам относятся большой масштаб, мультиязычность, поддержка рассуждений и инструментального вызова, а к ограничениям — необходимость специализированной аппаратной конфигурации для запуска через Furiosa LLM и потенциальные компромиссы, связанные с 4-битной квантизацией. NVFP4A16 также заявлен как совместимый с vLLM, SGLang и Transformers. Модель распространяется по лицензии K-EXAONE AI Model License; в карточке она обозначена как лицензия other.

Llama-3.1-Storm-8B — диалоговая языковая модель с 7,5 млрд параметров, разработанная Ashvini Kumar Jindal, Pawan Kumar Rajpoot, Ankur Parikh и Akshita Sukhlecha. Это плотная архитектура Llama, дообученная на базе Llama-3.1-8B-Instruct с выборочной настройкой слоёв и объединённая методом SLERP с Llama-Spark. В карточке описан чекпойнт в формате safetensors для запуска через Transformers и vLLM. Модель предназначена для диалога, следования инструкциям, ответов на вопросы, рассуждений и вызова функций. Авторы сообщают об улучшениях относительно Llama-3.1-8B-Instruct на ряде бенчмарков, включая IFEval, GPQA, MMLU-Pro, TruthfulQA и BFCL. Контекст — до 131 072 токенов; заявленный язык карточки — английский. Модель принимает текст и генерирует текст, включая ответы в сценариях вызова функций. Авторы отмечают, что отдельное выравнивание поведения не проводилось, поэтому унаследованные от базовой модели свойства выравнивания могут быть неполными. Лицензия — Llama 3.1; применяются её условия использования.