II.1Анализ требований и архитектура ПО

unsloth/Llama-3.2-11B-Vision-Instruct-unsloth-bnb-4bit — это мультимодальная instruction-tuned модель на базе Meta Llama 3.2 11B Vision Instruct, подготовленная Unsloth. Она предназначена для диалоговых сценариев и задач, требующих обработки текста и изображений, включая визуальный анализ, ответы на вопросы по изображениям, суммирование и другие приложения с мультимодальным вводом. Модель рассчитана на использование с библиотекой Transformers и 4-битным квантованием bitsandbytes (BnB). Unsloth применяет динамическое 4-битное квантование, при котором отдельные параметры не квантуются для сохранения качества при близком к обычному BnB 4-bit потреблении видеопамяти. Архитектура основана на оптимизированном авторегрессионном Transformer; для семейства Llama 3.2 указано использование Grouped-Query Attention (GQA). Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер модели — 11 млрд параметров; точное максимальное окно контекста в предоставленных данных не указано. К сильным сторонам относятся мультимодальные возможности и сниженные требования к памяти благодаря квантованию, что упрощает локальный запуск и дообучение. Ограничения связаны с возможной потерей качества из-за квантования, зависимостью от совместимого программного и аппаратного окружения, а также тем, что конкретные показатели качества и полный перечень ограничений модели в карточке не приведены. Базовая модель разработана Meta, а данная квантованная версия опубликована Unsloth. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy; перед развертыванием необходимо соблюдать их условия. Модель является статической и обучена на офлайн-данных.

Llama-3-Typhoon-1.5X-8B-instruct — разговорная языковая модель SCB 10X Typhoon Team для генерации ответов по инструкциям на тайском и английском языках. Это плотная decoder-only модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и использует шаблон чата Llama 3. Модель создана методом редактирования весов task arithmetic на основе Typhoon 1.5 8B и Llama 3 8B Instruct. Она предназначена для диалоговых приложений, генерации с ограничениями, рассуждений и сценариев RAG. В README приведены оценки на ThaiExam, MMLU, MT-Bench и IFEval; авторы сообщают о конкурентных результатах, особенно для тайского языка. Авторы называют модель экспериментальной и предупреждают, что она не полностью оценена для всех сценариев; перед применением разработчикам следует учитывать риски конкретного приложения. Лицензия — Llama 3 Community License. Для использования указана Transformers версии 4.38.0 или новее.

Llama-Breeze2-8B-Instruct-v01 — мультимодальная модель MediaTek Research с 8 млрд параметров, основанная на LLaMA 3.2 и архитектуре InternVLChat. Модель продолжает предварительное обучение на обширном корпусе для улучшения работы с традиционным китайским языком и культурным контекстом; визуальный энкодер и связующий модуль добавляют обработку изображений. Предусмотрены диалоговое следование инструкциям и вызов функций через шаблоны запросов и дополнительное обучение на данных вызова функций. Модель подходит для диалогов и инструкций на китайском и английском языках, вопросов по изображениям и сценариев, где языковая модель должна вызывать инструменты. Для использования заявлены веса в формате safetensors и библиотека Transformers версии 4.47.0. Указана лицензия Llama 3.2 Community License; применяются её условия.

Карточка модели unsloth/ModernBERT-base на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

Nex-N2-mini — открытая агентная языковая модель компании Nex-AGI, дообученная на базе Qwen3.5-35B-A3B-Base. Она предназначена для разработки программного обеспечения, вызова инструментов, выполнения задач в терминале и исследований с поиском, включая длительные рабочие процессы с обратной связью от среды. Модель объединяет планирование, реализацию, проверку и отладку; заявлены адаптивная глубина рассуждений и согласованный подход к разным агентным задачам. Модель доступна в формате safetensors, работает с библиотекой Transformers и поддерживает диалог. В README описана поддержка function calling и явных трасс рассуждений; для локального развёртывания Nex-AGI рекомендует собственную сборку sglang. Для Nex-N2-mini приведён пример запуска на сервере с двумя H100. Лицензия — Apache-2.0. README заявляет результаты на агентных и программных бенчмарках, но часть таблицы опущена, а подробные показатели Nex-N2-mini в доступном тексте ограничены. Модель ориентирована на сложные агентные сценарии, поэтому её практическая эффективность зависит от окружения, инструментов и вычислительных ресурсов.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-fit16gib-GGUF — это смешанно-точная GGUF-квантизация базовой модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, подготовленная Alberto-Codes. Модель предназначена для генерации текста и локального запуска в пределах 16 ГиБ видеопамяти. В README указано, что архитектура содержит 128 маршрутизируемых экспертов, а 46 экспертных блоков составляют около 93% параметров; точные сведения о контекстном окне, поддерживаемых языках и полном наборе модальностей не приведены. Ключевая особенность сборки — распределение разрядности по группам слоёв на основе карты чувствительности и importance matrix. Размер файла составляет 15,76 ГиБ, средняя разрядность — 4,287 бит на параметр. По измерениям на WikiText-2 модель имеет perplexity 7,0689, среднюю KL-дивергенцию 0,071403 и совпадение наиболее вероятного токена с эталоном f16 в 89,418% случаев. В сравнении с указанной в README сборкой IQ2_XXS она обеспечивает лучшее качество при меньшем размере файла, однако результаты относятся к конкретному тесту и не заменяют независимую проверку на целевых задачах. Сборка не содержит MTP-блок, поэтому спекулятивное декодирование с --spec-type draft-mtp недоступно. Для загрузки требуется версия llama.cpp с поддержкой типа тензоров Q2_0, объединённой 7 июля 2026 года; все приведённые измерения выполнены на build b10362, а совместимость с промежуточными версиями не подтверждена. Модель распространяется по лицензии openmdw-1.1; README не содержит сведений о коммерческих ограничениях сверх условий этой лицензии.

Ornith-1.5-35B-A3B-MagicQuant-GGUF — набор GGUF-квантизаций модели Ornith-1.5-35B-A3B, подготовленный проектом MagicQuant на базе модели ornith-ai. Это мультимодальная модель для задач image-text-to-text, способная обрабатывать изображения и текст; для работы с изображениями требуется отдельный vision projector mmproj в формате GGUF. Лицензия — MIT. Модель использует архитектуру qwen3_5_moe с примерно 35 млрд параметров, из которых около 3 млрд активируются на одном токене. В ней предусмотрено 256 экспертов, из которых маршрутизируются 8, а также поддержка vision. Доступны варианты Q4_K_M-v2 размером 19,58 GiB, Q5_K_M размером 22,88 GiB и Q6_K-v2 размером 28,81 GiB; отдельный vision projector занимает 0,86 GiB. Данные о поддерживаемых языках и максимальной длине контекста в README не указаны. Q4_K_M-v2 рекомендован как наиболее сбалансированный вариант по размеру и скорости, тогда как Q5_K_M заявлен как самый быстрый декодер из трёх при наличии дополнительной памяти, а Q6_K-v2 обеспечивает наименьшее измеренное отклонение от BF16 среди проверенных вариантов. Гибридное распределение точности снижает объём передаваемых весов на шаг декодирования и улучшает скорость по сравнению со старыми версиями тех же уровней. Ограничения связаны с потерями качества, присущими квантизации, заметными требованиями к памяти и тем, что приведённые показатели измерялись на конкретной конфигурации AMD Strix Halo с Vulkan; они не гарантируют аналогичную производительность на другом оборудовании.

aleada/Pixtral-12B-W4A16 — это 4-битно квантованный вариант базовой модели mgoin/pixtral-12b, подготовленный пользователем aleada для запуска через vLLM. Пакет создан с помощью llm-compressor 0.12.0 по рецепту GPTQModifier в формате compressed-tensors; поддерживается автоматическое обнаружение конфигурации квантования при загрузке. Проект поддерживается atlas — агентным проектом Алекса Адамопулоса, связанным с assert.gr. Модель предназначена для мультимодальных сценариев работы с текстом и изображениями, включая генерацию ответов, анализ визуального содержимого и стандартные задачи языкового моделирования. Квантованию подвергались линейные слои с конфигурацией W4A16 и group size 128, а vision tower и multi_modal_projector сохранены в исходном формате, поэтому приведённые в README результаты текстовых тестов не оценивают работу с изображениями. Размер квантованного артефакта составляет около 8,56 GiB; заявлена поддержка видеокарт архитектуры Ampere и запуск через vLLM. Квантирование уменьшает требования к памяти, но может снижать точность, особенно в генеративных задачах с многошаговыми вычислениями: на тесте GSM8K восстановление относительно исходной модели составило 91,0–91,6%, тогда как на задачах с выбором ответа — 95,9–99,3%. Поэтому модель подходит для экономичного инференса, но для чувствительных к точности вычислений и сложных цепочек рассуждений следует оценить влияние квантования на собственных данных. Контекстное окно, точные размеры архитектуры, список языков и полные характеристики базовой Pixtral-12B в README не указаны. Модель наследует лицензию исходной модели mgoin/pixtral-12b; дополнительных ограничений от автора квантованного пакета не заявлено.

Карточка модели Silin1590/Qwen-0d5B-Int-AbstraL-v2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели cold368733/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели JMullings/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели pcuenq/Qwen2.5-0.5B-Instruct-with-new-merges-serialization на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

RedHatAI/Qwen2.5-VL-72B-Instruct-FP8-dynamic — квантизированная версия мультимодальной модели Qwen2.5-VL-72B-Instruct, разработанной Qwen и оптимизированной Neural Magic. Модель принимает изображения и текст, а генерирует текст; в карточке также указан английский язык. Версия выпущена 24 февраля 2025 года. Модель предназначена для визуально-языковых задач: ответов на вопросы по изображениям, анализа документов и диаграмм, визуального рассуждения и решения математических задач по визуальному содержимому. Архитектура основана на Qwen2.5-VL-72B-Instruct с 72 млрд параметров. Веса и активации квантизированы в FP8 с динамическим режимом, что ориентировано на более эффективное выполнение инференса. Для запуска рекомендуется vLLM версии 0.5.2 или новее; поддерживается OpenAI-совместимый сервер. В примере развертывания используется контекст до 4096 токенов, однако общий максимальный контекст модели в README не указан. По приведенным оценкам, FP8-версия сохраняет близкое к исходной качество на задачах MMMU, VQAv2, DocVQA, ChartQA и MathVista, но результаты могут зависеть от сценария использования и настроек инференса. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-VL-7B-Instruct-quantized.w4a16 — мультимодальная инструкционная модель на базе Qwen/Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Она принимает изображения и текстовые запросы, а генерирует текстовые ответы. Модель предназначена для визуально-языковых задач, включая ответы на вопросы по изображениям, анализ документов, визуальное рассуждение и другие сценарии, где требуется совместная обработка текста и визуальной информации. Модель содержит около 7 миллиардов параметров и использует архитектуру Qwen2.5-VL. Для оптимизации инференса её веса квантизированы в INT4 с группами размера 128, а активации представлены в FP16; визуальные слои и lm_head при квантизации не изменялись. В README указан английский язык. Модель рассчитана на запуск через vLLM, включая OpenAI-совместимый сервер; в примере используется ограничение контекста 4096 токенов и до двух последовательностей одновременно. Дата выпуска — 24 февраля 2025 года, версия — 1.0. Ключевое преимущество модели — снижение требований к памяти и потенциально более эффективный инференс по сравнению с исходной полноразмерной версией при сохранении мультимодальных возможностей. Ограничения включают возможную потерю качества из-за квантизации, а также зависимость от совместимой инфраструктуры vLLM и поддержки мультимодального инференса. README содержит сведения об оценивании на задачах VQAv2, DocVQA и MathVista, но не приводит итоговые числовые результаты. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-2B — постобученная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-2B. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов, понимания изображений и вызова инструментов. Модель содержит 2 млрд параметров, использует гибридную архитектуру с Gated Delta Networks и Gated Attention и поддерживает контекст до 262 144 токенов. Модель подходит для прототипирования, разработки и специализированного дообучения; её можно запускать через Transformers, vLLM, SGLang и KTransformers. Qwen3.5 заявляет поддержку 201 языка и диалекта, однако в карточке нет списка языков, специфичного для этой версии. Модель работает в режиме без рассуждений по умолчанию; авторы также описывают режим рассуждений и возможности работы с видео в составе семейства Qwen3.5. Весовые файлы представлены в формате Safetensors. Лицензия — Apache-2.0. Масштаб в 2 млрд параметров делает модель удобной для экспериментов и настройки под конкретные задачи, но карточка рекомендует прежде всего прототипирование и разработку; производительность и пропускная способность зависят от инфраструктуры и выбранного движка.

OpenVINO/Qwen3.5-4B-int4-ov — квантованная версия мультимодальной модели Qwen3.5-4B, разработанной командой Qwen и преобразованная в формат OpenVINO IR. Модель предназначена для диалоговых сценариев и задач «изображение–текст», включая анализ и описание изображений, а также генерацию ответов на текстовые запросы с визуальным контекстом. Модель имеет размер 4B параметров; точные сведения об архитектуре, поддерживаемых языках и максимальной длине контекста в карточке не указаны. Веса сжаты до INT4 в асимметричном режиме с размером группы 128, что уменьшает требования к памяти, но может сопровождаться потерей качества по сравнению с исходной моделью. Для запуска используются OpenVINO и Optimum Intel; заявлена совместимость с OpenVINO 2026.2.0 и новее и Optimum Intel 1.27.0 и новее. Ограничения следует уточнять в карточке исходной Qwen3.5-4B. Модель распространяется по лицензии Apache License 2.0.

amahdaouy/xlmrsim-mar_2ep — мультиязычная модель Sentence Transformers, дообученная разработчиком на базе sentence-transformers/stsb-xlm-r-multilingual для сравнения смысловой близости предложений. Архитектура XLM-RoBERTa преобразует текст в плотные векторы размерности 768; представление строится усреднением токенных эмбеддингов, а сходство обычно оценивается косинусной мерой. В метаданных указано 305,2 млн параметров и контекст длиной 514 токенов; карточка модели задаёт максимальную длину последовательности 128 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Примеры обучающих пар включают английский, французский и арабский языки, а базовая модель мультиязычная. В README приведены результаты оценки сходства, включая Spearman 0,8659 для косинусного сходства; переносить их на другие наборы данных без проверки не следует. Лицензия в предоставленных сведениях не указана.

NVIDIA Qwen3-8B FP4 — это квантизированная версия авторегрессионной языковой модели Qwen3-8B, разработанной Alibaba и подготовленной с применением TensorRT Model Optimizer от NVIDIA. Модель предназначена для коммерческого и некоммерческого использования в AI Agent системах, чат-ботах, RAG-системах и других приложениях на базе генерации текста. Модель построена на архитектуре Transformers и содержит около 8,2 млрд параметров. Она работает с текстовыми последовательностями, принимает и возвращает строки, поддерживает контекст длиной до 131 тыс. токенов. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP4, что ориентировано на эффективный инференс через TensorRT-LLM. Указана совместимость с GPU-ускорителями NVIDIA Blackwell, тестирование проводилось на B200; предпочтительная операционная система — Linux. Поддерживаемый runtime — TensorRT-LLM, версия Model Optimizer — 0.35.0. Сильными сторонами модели являются предварительная FP4-квантизация, большой контекст и готовность к развертыванию в оптимизированном стеке NVIDIA. Ограничения включают зависимость от TensorRT-LLM и рекомендуемого оборудования NVIDIA Blackwell, а также отсутствие в README подробностей о языковом покрытии, результатах тестирования, обучающих данных и характеристиках качества. Калибровка выполнялась на датасете cnn_dailymail. Модель распространяется по лицензии Apache License 2.0; при использовании разработчикам рекомендуется самостоятельно оценивать качество, риски и соответствие конкретным отраслевым требованиям.

EmbeddingGemma 300M 4bit — модель для создания текстовых эмбеддингов, представленная сообществом mlx-community и конвертированная в формат MLX из модели Google embeddinggemma-300m-qat-q4_0-unquantized. Она предназначена для задач семантического сравнения предложений, поиска, кластеризации, классификации, reranking, retrieval и суммаризации. Модель имеет размер 300 млн параметров и использует 4-битное квантование. Она работает с текстом и возвращает нормализованные векторные представления, для сравнения которых можно применять скалярное произведение. README не указывает поддерживаемые языки и максимальную длину контекста. Для разных задач предусмотрены специализированные текстовые префиксы, включая sentence similarity, search result, clustering, classification и summarization. К сильным сторонам относятся компактный размер, сниженное потребление памяти благодаря 4-битному представлению и интеграция с экосистемой MLX через библиотеку mlx-embeddings. Ограничения включают отсутствие в README подробностей о языковом охвате, контексте, качестве на бенчмарках и совместимости за пределами MLX. Для использования требуется принять лицензию Google Gemma на Hugging Face; точные условия лицензии Gemma следует проверить отдельно.

Ettin Encoder 1B — англоязычная модель-энкодер семейства ModernBERT от исследовательской группы JHU CLSP, часть набора Ettin для сопоставления энкодерных и декодерных архитектур. Модель содержит 1 млрд параметров, построена на плотной архитектуре ModernBERT и обучена с маскированием токенов; она предназначена для извлечения признаков и получения текстовых представлений, а также поддерживает заполнение пропусков в тексте. Модель подходит для классификации текстов, поиска и извлечения представлений, включая поиск по коду и работу с длинным контекстом. В описании набора Ettin сообщается о сильных результатах энкодеров на GLUE, англоязычном поиске MTEB и CodeSearchNet. Контекст модели составляет около 8 тысяч токенов. Обучение Ettin использует открытые данные и единый рецепт для сравнения архитектур; лицензия модели — MIT.

Карточка модели armand0e/Gemma-4-E4B-it-Fable-Distill на Hugging Face совпадает с карточкой armand0e/Gemma-4-E4B-it-DeepSeek-v4-Distill, поэтому описание составлено по ней. Модель armand0e/Gemma-4-E4B-it-DeepSeek-v4-Distill — дообученная на базе unsloth/gemma-4-E4B-it мультимодальная модель семейства Gemma 4 с плотной архитектурой Gemma4ForConditionalGeneration. Автор карточки указывает, что модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для диалога и генерации ответов по текстовым и визуальным входам; метаданные также отмечают поддержку интерфейса вызова инструментов. Базовая Gemma 4 E4B Instruct описана как подходящая для анализа изображений, документов, программирования и других текстовых задач, но отдельные возможности этой версии подробно не подтверждены карточкой. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает размер контекста и подробные результаты оценки качества; практическое качество дистилляции DeepSeek в README не раскрыто.

GLM-5.2-Vision-NVFP4 — мультимодальная модель для понимания изображений и генерации текста. Этот чекпойнт опубликован под идентификатором baseten/GLM-5.2-Vision-NVFP4 и объединяет текстовую модель GLM-5.2 от zai-org с визуальным энкодером MoonViT-3d из Kimi-K2.6 от Moonshot AI. Модель предназначена для описания изображений, визуального анализа и диалогов в формате image-text-to-text, включая работу через OpenAI-совместимый API. В основе используется замороженная MoE-модель GLM-5.2 размером 744B параметров, из которых активно около 40B, с механизмами MLA и DSA sparse attention. Визуальная часть MoonViT-3d содержит 27 слоёв и имеет размерность 1152, а обучаемый PatchMerger-проектор преобразует визуальные признаки в токены размерности 6144; его размер — 49,5 млн параметров. Текстовые веса представлены в формате NVFP4, модель поддерживает до 4096 токенов изображения и максимальный контекст до 1 048 576 токенов. Главные преимущества — сочетание сильного reasoning-бэкенда GLM-5.2 с обработкой изображений, длинный контекст и возможность локального развёртывания через SGLang или Baseten. Ограничения — очень большой объём весов около 466 ГБ и высокие требования к оборудованию: рекомендованы 8 GPU B200 для контекста 1M или 4 GPU B200 для 256K; заявлена совместимость только с архитектурой Blackwell. Для SGLang требуется внешний плагин архитектуры модели. Лицензия указана как MIT; при этом входящие веса GLM-5.2 и Kimi-K2.6 сохраняют условия лицензирования исходных проектов.

granite-34b-code-instruct-GGUF — это квантизированная GGUF-версия Granite-34B-Code-Instruct, разработанной IBM на базе ibm-granite/granite-34b-code-base. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и прежде всего для задач программирования: написания, объяснения и исправления кода, решения математических задач, работы с SQL и сценариев, связанных с function calling и ассистентами разработчика. Модель имеет 34 миллиарда параметров и работает с текстовыми данными. В README приведён шаблон диалога с системным сообщением, вопросом и ответом. Заявлены результаты на HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust; показатели pass@1 для генерации кода составляют от 41,5% до 62,8%, однако указано, что эти результаты не подтверждены. Для локального запуска доступны варианты Q8_0, Q6_K, Q5_K_M и Q5_K_S размером примерно от 23,40 до 35,99 ГБ; Q6_K и Q5_K_M отмечены как рекомендуемые по соотношению качества и размера. Сильными сторонами являются специализация на программировании, поддержка нескольких языков программирования и возможность локального использования в формате GGUF. Ограничения включают высокие требования к дисковому пространству и вычислительным ресурсам, зависимость качества от выбранного уровня квантизации, а также отсутствие в предоставленных данных сведений о размере контекстного окна, полном наборе поддерживаемых естественных языков и системных требованиях. Модель распространяется по лицензии Apache 2.0.

SanctumAI/granite-8b-code-instruct-GGUF — квантизированная версия Granite-8B-Code-Instruct в формате GGUF, подготовленная SanctumAI. Исходную модель разработала IBM Research в рамках семейства IBM Granite Code. Это языковая модель с 8 млрд параметров, дообученная на Granite-8B-Code-Base на наборе разрешённых к использованию инструкционных данных для улучшения следования инструкциям, логического рассуждения и решения задач. Модель предназначена прежде всего для генерации, объяснения и исправления программного кода, а также для задач, связанных с математикой, SQL, вызовом функций и общим решением проблем. В README приведены результаты HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust по сценариям генерации, объяснения и исправления кода; однако достоверность этих результатов не подтверждена. Другие характеристики, включая размер контекста, поддерживаемые языки естественного языка, точную архитектуру и конкретные параметры квантизации, в предоставленных данных не раскрыты. Ключевые преимущества — открытая модель, ориентация на программирование и доступность в компактном формате GGUF для локального запуска при совместимом программном обеспечении и оборудовании. Ограничения включают неизвестные требования к ресурсам для конкретного варианта квантизации, отсутствие заявленных мультимодальных возможностей и необходимость самостоятельно проверять сгенерированный код. Модель распространяется по лицензии Apache 2.0.

furiosa-ai/harrier-oss-v1-0.6b — производная версия мультиязычной модели эмбеддингов Harrier OSS v1 от Microsoft, подготовленная FuriosaAI для запуска на ускорителях RNGD с Furiosa-LLM. В основе лежит плотная decoder-only архитектура Qwen3; модель содержит 507,9 млн параметров и принимает текст, выдавая L2-нормированные векторы размерности 1024. Контекст — до 32 768 токенов. Модель предназначена для поиска по смыслу, кластеризации, оценки семантического сходства, классификации текстов, поиска параллельных текстов и ранжирования. Она учитывает инструкцию к задаче: для запросов рекомендуется добавлять краткое описание задачи в формате «Instruct: …\nQuery: …», а документы передавать без этой инструкции. Помимо Furiosa-LLM, исходная модель поддерживает запуск через Sentence Transformers и Transformers. Модель опубликована под лицензией MIT. В карточке указана поддержка многих языков, включая английский, арабский, китайский? [исправить]

LFM2.5-1.2B-JP-202606 — компактная текстовая чат-модель Liquid AI, дообученная на базе LiquidAI/LFM2.5-1.2B-Base. Она предназначена прежде всего для японских приложений, также поддерживает английский. В метаданных указано 1,5 млрд параметров и контекст 128 000 токенов; README приводит 1,17 млрд параметров и контекст 32 768 токенов. Архитектура — плотная LFM2 с 16 слоями: 10 блоками LIV-свёртки с двойным гейтингом и 6 блоками GQA. Модель подходит для диалоговых помощников, следования инструкциям, математики и кода, вызова инструментов, структурированных ответов и локальных персональных ассистентов. Разработчик отмечает улучшения в японском языке и рекомендует давать чёткие инструкции с ожидаемым форматом ответа. Модель не рекомендуется для задач, требующих обширных знаний. Лицензия в метаданных указана как other; конкретные условия следует сверять с карточкой репозитория.

LFM2-700M — компактная языковая модель Liquid AI для локального и периферийного запуска на смартфонах, ноутбуках и других устройствах с CPU, GPU или NPU. Она содержит около 654 млн параметров по метаданным и построена на гибридной плотной архитектуре LFM2: 10 блоков коротких свёрток с двойными вентильными механизмами и 6 блоков внимания GQA. Модель предназначена для диалогов, агентных сценариев, извлечения данных, RAG и генерации творческих текстов; поддерживает шаблон чата в стиле ChatML и вызов инструментов. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. В карточке указан контекст 32 768 токенов, тогда как метаданные каталога сообщают native context в 128 000 токенов. Liquid AI описывает ускорение обучения и вывода и повышенную эффективность по памяти относительно предыдущих моделей и некоторых сопоставимых моделей; эти заявления относятся к оценкам разработчика. Для узких сценариев рекомендуется дообучение. Модель не рекомендуется для задач с высокими требованиями к знаниям или навыкам программирования. Лицензия в метаданных обозначена как other; конкретные условия следует проверить в репозитории модели.

spitfire4794/LFM2-700M-Heretic — производная модель на основе LiquidAI/LFM2-700M, созданная изменением поведения отказов методом abliteration. По приведённому сравнению доля отказов снизилась с 84 до 8 на 100 запросов; модель сохраняет отклонение от исходной модели, измеренное как KL divergence 0,123. Это компактная гибридная языковая модель семейства LFM2 с 956,3 млн параметров и контекстом до 128 000 токенов по метаданным. Архитектура LFM2 сочетает короткие свёрточные блоки и блоки группового внимания. Модель предназначена для генерации текста и диалогов, включая сценарии локального запуска и периферийных устройств, а также извлечение данных, RAG, творческое письмо и агентные задачи. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Базовая карточка рекомендует компактные модели LFM2 для узких прикладных задач и предостерегает от использования в задачах с интенсивной потребностью в знаниях или программировании. В метаданных указана лицензия other; конкретные условия следует сверять с лицензией репозитория. Модель позиционируется как менее склонная к отказам, поэтому её ответы могут охватывать запросы, которые исходная модель отклоняет.

Карточка модели MahmoodAnaam/ModernBERT-large на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

Navarna 7B — языковая модель на архитектуре Mistral, дообученная TokenBender для общения на хинди и задач поиска предложений в сценариях RAG. Модель содержит 7,1 млрд параметров, рассчитана на контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Модель подходит для чат-ответов на хинди и поиска релевантных предложений для ответов по материалам. В карточке упомянуты этапы SFT и DPO. Лицензия Apache-2.0 разрешает использование, изменение и распространение с соблюдением её условий.