I.3Извлечение и структурирование данных

timm/ViT-SO400M-14-SigLIP2-378 — контрастивная модель «изображение—текст» семейства SigLIP 2, обученная на наборе WebLI. Чекпойнт из исходных JAX-весов Big Vision преобразован для использования в OpenCLIP; модель предназначена для классификации изображений без дообучения по текстовым описаниям классов. Модель сопоставляет изображение с текстовыми вариантами и позволяет выбирать наиболее подходящее описание. Её можно применять для категоризации изображений по произвольным текстовым меткам и поиска изображений по смысловому соответствию. Репозиторий предоставляет веса PyTorch в формате safetensors и использует библиотеку OpenCLIP. Лицензия — Apache-2.0.

RuudVelo разработал эту модель распознавания нидерландской речи, дообучив facebook/wav2vec2-xls-r-300m на Common Voice 8.0. Это плотная модель архитектуры wav2vec2 с CTC-выходом и примерно 402,7 млн параметров; для декодирования также обучена и использована языковая модель KenLM с 6-граммами. Модель предназначена для преобразования нидерландской речи в текст, в частности для аудиозаписей, подобных материалам Common Voice. Обучение проводилось 75 эпох на обучающей части Common Voice 8.0; тестовая выборка Common Voice 8.0 не использовалась для обучения или валидации. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Это модель автоматического распознавания речи на португальском языке, разработанная Jonatas Grosman. Она дообучена на базе facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной выборках Common Voice 6.1 и предназначена для преобразования португалоязычной речи в текст. Модель использует архитектуру Wav2Vec2ForCTC семейства wav2vec2 и содержит 402,7 млн параметров. Для распознавания подавайте аудио с частотой дискретизации 16 кГц. Модель можно применять для транскрибации записей и речевых данных; в README также приведены сценарии оценки на тестовой выборке Common Voice 6.0 и данных speech-recognition-community-v2. Указана лицензия Apache-2.0.

Andrew McDowell дообучил модель facebook/wav2vec2-xls-r-300m для автоматического распознавания немецкой речи на датасете Mozilla Common Voice 7.0 (немецкая конфигурация). Это модель семейства wav2vec2 с архитектурой Wav2Vec2ForCTC; в метаданных указано около 402,8 млн параметров. Она принимает аудио и выдаёт распознанный текст на немецком языке. На оценочной выборке автор сообщает значение WER 0,2016 и loss 0,1768. Модель распространяется по лицензии Apache-2.0.

WeMM-Embedding-2B — универсальная мультимодальная модель эмбеддингов от Tencent, построенная на базе Qwen3.5-2B. Она принимает текст, изображения, видео, визуальные документы и их сочетания, а на выходе формирует L2-нормализованный вектор размерности 2048. Для сокращения размерности поддерживаются Matryoshka-эмбеддинги; в README указано, что в тестах MMEB-v2 вариант размерностью 256 сохраняет 98,7% исходного качества на задачах с изображениями и видео. Модель предназначена для поиска и сопоставления текстов и визуального содержимого, включая видео и документы, а также для систем, которым нужны мультимодальные векторные представления. Входные данные можно подавать по отдельности или комбинировать. Аудио модель не поддерживает. В метаданных указаны языки китайский и английский; данных о лицензии сверх обозначения «other» нет.

WeMM-Embedding-4B — универсальная мультимодальная модель эмбеддингов Tencent на базе Qwen3.5-4B. Она принимает текст, изображения, видео, визуальные документы и их сочетания, а на выходе формирует L2-нормированный вектор размерностью 2560. Для векторного поиска и сравнения можно кодировать текст, изображения или видео как по отдельности, так и в составе смешанного ввода; модель также поддерживает Matryoshka-эмбеддинги с выбором меньшей размерности. Модель предназначена для получения представлений мультимодального содержимого, в частности для поиска и сопоставления текста, изображений, видео и визуальных документов. В README приведены результаты на наборах MMEB-v2 и MMEB-v3; они описывают оценку на бенчмарках, а не гарантируют качество в конкретном приложении. Аудиоввод не поддерживается. Указана лицензия `other`; конкретные условия следует уточнить в карточке модели.

Whisper-large-et — модель автоматического распознавания речи на эстонском языке, разработанная в лаборатории языковых технологий TalTech. Она основана на openai/whisper-large-v2 и дообучена примерно на 1200 часах разнообразных эстонских аудиозаписей; архитектура Whisper содержит около 905,2 млн параметров. Модель предназначена для общего распознавания речи, включая передачи, беседы, интервью и лекции. Для запуска авторы рекомендуют faster-whisper. В тестах с жадным декодированием указана частота ошибок WER 11,3 на Common Voice 8.0 и 12,0 на Common Voice 11.0. Лицензия — CC BY 4.0. Качество может снижаться на технической и узкоспециальной лексике, детской и неродной речи, при сильном шуме или удалённом микрофоне, а также при спонтанной и перекрывающейся речи.

RedHatAI/whisper-large-v3-FP8-dynamic — это квантизированная версия модели openai/whisper-large-v3, разработанная Neural Magic. Модель преобразует аудио в текст и предназначена для автоматической транскрипции речи, включая пакетную обработку и высокопроизводительное серверное развертывание. Модель использует архитектуру whisper-large-v3 с аудиотекстовым входом и текстовым выходом. Веса и активации квантизированы в FP8 с динамическим масштабированием; квантизация выполнена для линейных слоёв, а выходной lm_head исключён. Модель подготовлена для инференса через vLLM версии 0.5.2 и выше, включая OpenAI-совместимый режим сервинга. В примере развертывания используются до 400 последовательностей и максимальная длина модели 448 токенов. По данным оценки на LibriSpeech и Fleurs, FP8-версия сохраняет качество исходной BF16-модели: WER составляет 2,097 на LibriSpeech test-clean и 3,9617 на test-other; на отдельных наборах Fleurs проверялась транскрипция китайского, английского и кантонского аудио в английский текст. Ограничения включают зависимость от совместимого стека vLLM и отсутствие в README подробностей о полном наборе поддерживаемых языков, требованиях к оборудованию и качестве на других типах аудио. Лицензия — Apache 2.0.

mlx-community/whisper-large-v3-turbo-fp16 — преобразованная в формат MLX модель распознавания речи на основе openai/whisper-large-v3-turbo. Разработчик репозитория mlx-community; преобразование выполнено с помощью mlx-audio-plus версии 0.1.4. Модель предназначена для преобразования аудиозаписей в текст. Она использует архитектуру Whisper и поддерживает мультиязычное распознавание речи. Репозиторий содержит веса в формате safetensors и предназначен для работы с библиотекой mlx-audio-plus. Лицензия — Apache-2.0. Производительность и качество зависят от языка, условий записи и используемого оборудования; README не приводит отдельных оценок для этой сборки.

Whisper Medium Russian — модель распознавания речи, созданная дообучением openai/whisper-medium на русскоязычной части набора Mozilla Common Voice 11.0. Она принимает аудио и преобразует русскую речь в текст; архитектура основана на Whisper и содержит около 455,8 млн параметров. Модель подходит для транскрибирования записей и голосовых сообщений на русском языке. В карточке указаны результаты на оценочном наборе: loss 0,2253 и WER 7,5624. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

Zara-14b-v1.1 — диалоговая языковая модель Aixon Lab на основе sometimesanotion/Lamarck-14B-v0.7. Это плотная авторегрессионная Transformer-модель семейства Qwen2 с примерно 14 млрд параметров, предназначенная для многоходовых чатов с несколькими ролями, генерации текста, ответов на вопросы и анализа. Карточка отмечает её способности к творческому письму и сторителлингу. Модель рассчитана прежде всего на английский язык; README допускает поддержку других языков. Контекст — до 131 072 токенов. Модель дообучена на разных датасетах и дополнительно использует слияния слоёв. Распространяется в формате Safetensors по лицензии Apache 2.0. Результаты оценки качества в карточке не приведены.

Trinity-Large-Preview-GGUF — это квантизированная версия языковой модели Trinity-Large-Preview, разработанной arcee-ai. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель поддерживает английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский языки. Она рассчитана на сценарии текстовой генерации, включая диалоговое взаимодействие и выполнение инструкций в соответствии с указанным шаблоном prompt format. Данные о точной архитектуре, количестве параметров, модальностях и размере контекста в README не приведены; по описанию это текстовая, а не мультимодальная модель. Доступно множество вариантов квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми указаны варианты Q6_K, Q5_K и Q4_K, тогда как низкоразрядные варианты экономят память, но снижают качество. Размеры файлов составляют примерно от 162 до 424 ГБ, поэтому модель требует значительных аппаратных ресурсов. Лицензия — Apache-2.0.

Athene-Phi-3.5-mini-instruct-orpo-GGUF — это набор GGUF-квантизированных версий языковой модели Athene-Phi-3.5-mini-instruct-orpo, разработанной EpistemeAI и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального запуска, в том числе через llama.cpp и LM Studio. В репозитории представлены варианты от исходных весов F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 с размером файлов примерно от 1,88 до 7,64 ГБ. Для взаимодействия используется формат промпта с ролями system, user и assistant. Указан английский язык; сведения о количестве параметров, максимальном контексте, архитектурных деталях и поддержке других модальностей отсутствуют. К сильным сторонам относятся широкий выбор уровней квантизации, возможность подобрать баланс между качеством, размером и требованиями к памяти, а также специальные варианты Q4 для ARM и CPU-инференса. Более компактные версии могут уступать по качеству полноразмерным и менее агрессивно квантизированным вариантам. Модель распространяется по лицензии Apache-2.0.

Модель gchhablani/bert-base-cased-finetuned-mrpc — англоязычная модель классификации пар предложений на базе BERT-base-cased, дообученная на наборе GLUE MRPC. Она предназначена для определения того, выражают ли два предложения одно и то же значение. В карточке указано, что модель обучалась для сравнения google/fnet-base с bert-base-cased. Модель использует архитектуру BertForSequenceClassification, содержит 135,5 млн параметров и принимает текстовые входы с контекстом до 512 токенов. На оценочной выборке MRPC указаны accuracy 0,8603 и F1 0,9026. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не описывает дополнительные сценарии применения или ограничения за пределами задачи MRPC.

indiejoseph/bert-cantonese-sts — модель на базе BERT, опубликованная пользователем indiejoseph. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель можно использовать через Sentence-Transformers или Transformers с соответствующей операцией pooling для получения вектора из контекстных представлений токенов. Модель содержит 130,6 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Название указывает на ориентацию на кантонский язык; в метаданных коды языков не приведены. Доступен формат PyTorch. Лицензия в предоставленных данных не указана.

Blurstral-7b — слитая языковая модель семейства Mistral, опубликованная пользователем liminerity. Она объединяет Mistral-7B-v0.1 и Blur-7b-slerp-v0.1 методом SLERP с помощью LazyMergekit; в метаданных базовой моделью указана OpenPipe/mistral-ft-optimized-1218. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и решения задач на рассуждение и продолжение текста. В карточке приведены результаты Open LLM Leaderboard, в том числе по AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

pmysl/c4ai-command-r-plus-GGUF — это набор весов модели Command R+, разработанной CohereForAI, в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; в репозитории доступны чат-шаблоны, а поддержка этих весов добавлена в llama.cpp начиная с релиза b2636. Доступны варианты с разной степенью квантизации, включая Q2_K, Q3_K_L и Q4_K_M, а также полноточный вариант f16. Для некоторых вариантов приведены значения perplexity на wikitext-2-raw: от 5,7178 у Q2_K до 4,3845 у f16, однако эти результаты обозначены как предварительные. Ключевые характеристики базовой модели, включая архитектуру, число параметров, поддерживаемые языки и размер контекста, в README не указаны. Сильной стороной репозитория является совместимость с llama.cpp и возможность выбирать компромисс между качеством, размером файлов и требованиями к ресурсам с помощью разных вариантов квантизации. Ограничения включают отсутствие подробной информации о возможностях базовой модели и неполные сведения о качестве. Использование распространяется по лицензии CC BY-NC-4.0.

combined_whisper_sanlish_lr2e5_newsplit — модель распознавания речи, полученная дообучением мультиязычной openai/whisper-small. Она предназначена для преобразования аудиозаписей в текст; в карточке приведены результаты оценки: WER 34,7012, CER 8,4391 и loss 0,6368. Подробности о целевом языке и наборе данных не раскрыты. Модель распространяется в формате safetensors по лицензии Apache-2.0.

DeepSeek-V4-Flash-0731-RAZOR-230B-A13B-E192of256 — производная версия DeepSeek-V4-Flash-0731, созданная методом RAZOR без дообучения. Разработчик удалил четверть маршрутизируемых экспертов: в каждом из 43 MoE-слоёв оставлено 192 из 256 экспертов, включая слои multi-token prediction. Модель содержит около 230 млрд параметров, из них примерно 13 млрд активны на токен; внимание, общие эксперты, эмбеддинги и LM-head не изменялись. Эксперты хранятся в MXFP4, общие эксперты — в FP8. Модель предназначена для генерации текста и сценариев, где требуется использовать возможности DeepSeek-V4-Flash при сокращённом наборе экспертов. Заявлены контекст до 1 048 576 токенов и лицензия MIT. Для кодирования сообщений в README предлагается официальная реализация encoding_dsv4.py, поскольку Jinja chat template не поставляется. Удаление экспертов является потерей информации: хотя точность задач может в значительной степени сохраняться, разнообразие, форматирование и поведение при завершении ответа могут меняться. Калибровка проводилась на конечном многодоменном наборе данных, поэтому поведение на удалённых от него областях не охарактеризовано; перед применением модель следует оценить на целевых запросах.

Aspik101 разработал польскую версию Distil-Whisper large-v3 — сжатую дистиллированную модель распознавания речи на основе Whisper large-v3. Она принимает аудио и преобразует речь в текст на польском языке; предназначена для транскрибации коротких записей и длинных аудиофайлов с обработкой по чанкам. Модель содержит около 905,2 млн параметров и распространяется в формате PyTorch; для работы поддерживается библиотекой Transformers версии 4.35 и новее. По данным карточки, Distil-Whisper в три раза быстрее и на 49% меньше исходной модели. Для обработки длинных записей README рекомендует чанки по 15 секунд; указанный в карточке прирост скорости для чанковой обработки — до девяти раз относительно последовательного алгоритма из статьи Whisper. Модель выпущена под лицензией MIT.

unsloth/dots.llm1.inst-GGUF — GGUF-версия instruction-tuned модели dots.llm1.inst, разработанной командой rednote-hilab и подготовленной в формате GGUF проектом Unsloth. Это большая разреженная Mixture-of-Experts (MoE) языковая модель для генерации текста и диалоговых сценариев, включая работу в локальных средствах инференса, совместимых с GGUF. Модель предназначена для общения, ответов на вопросы и других задач обработки текста на английском и китайском языках. Модель содержит 142 млрд параметров, из которых при инференсе активируется 14 млрд. Архитектура включает 62 слоя, 32 attention heads, Multi-head Attention с QK-Norm, а также fine-grained MoE с выбором 6 из 128 маршрутизируемых экспертов и двумя общими экспертами. Контекстное окно составляет 32 768 токенов. Instruction-тюнинг выполнен после этапа предварительного обучения; при предварительном обучении использовались высококачественные данные без синтетических токенов. К сильным сторонам относятся сочетание возможностей крупной модели с меньшим числом активных параметров, потенциальная вычислительная эффективность MoE и открытость исходной модели. README не указывает конкретный метод или уровень GGUF-квантизации, поэтому характеристики качества, размера файла и требований к памяти для данной сборки определить нельзя. Для llama.cpp требуется включить параметр --jinja, чтобы корректно обрабатывался системный промпт. Лицензия модели — MIT.

embeddinggemma-pt-br — португалоязычная модель для создания текстовых эмбеддингов, подготовленная tardellirs на основе google/embeddinggemma-300m. Это плотный текстовый энкодер семейства Gemma 3 с 151,8 млн параметров, библиотекой Sentence Transformers и контекстом до 2048 токенов. Размер словаря сокращён до 64 тыс. наиболее частотных португальских токенов: матрица токенов была усечена, а энкодер и слои pooling и Dense сохранены без изменений. По README, вариант сохраняет 98,8% результата исходной модели на MTEB(por), при этом обучение не проводилось. Модель предназначена для получения эмбеддингов и семантического сравнения португалоязычных текстов, например для поиска, классификации, кластеризации и ранжирования. Для других языков качество может быть низким из-за возврата к побайтовой токенизации. Указанная лицензия — Gemma; применяйте модель в соответствии с её условиями.

ERNIE-4.5-VL-28B-A3B-Base-PT — базовая мультимодальная модель Baidu семейства ERNIE 4.5, представленная в PyTorch-формате для Transformers. Это предобученная MoE-модель, совместно обученная на текстовых и визуальных данных: в ней 28 млрд параметров, из которых для каждого токена активируется около 3 млрд. Архитектура включает визуальный энкодер ViT и компоненты для интеграции визуальных признаков с языковой частью. Модель предназначена для понимания и генерации текста, понимания изображений и межмодальных рассуждений; возможные сценарии включают диалог по изображению, ответы на вопросы о визуальном содержимом и обработку текстовых запросов. Контекстное окно составляет 131 072 токена. В метаданных указана поддержка английского и китайского языков, библиотека Transformers и формат весов safetensors. Это базовая предобученная модель, а не специализированный постобученный вариант; качество в прикладных сценариях может зависеть от последующей настройки. Лицензия Apache-2.0. Для запуска в README приведён пример с vLLM версии 0.11.2 или новее и параметром trust_remote_code.

EVA-Qwen2.5-32B-v0.1-GGUF — это GGUF-квантизация текстовой генеративной модели EVA-Qwen2.5-32B-v0.1, разработанной EVA-UNIT-01. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, включая задачи следования инструкциям, написания текстов и ролевого взаимодействия; в обучении использовались наборы данных для instruction-following, creative writing, roleplay и синтетических диалогов. Модель основана на семействе Qwen2.5 и содержит 32 млрд параметров. Доступны варианты от F16 до различных 8-, 6-, 5-, 4- и 3-битных квантизаций, включая форматы, оптимизированные для ARM. Более качественные варианты требуют значительного объёма памяти, тогда как младшие квантизации подходят для систем с ограниченными ресурсами, но могут заметно уступать по качеству. README не указывает поддерживаемые языки, размер контекста и мультимодальные возможности, поэтому их нельзя достоверно определить по предоставленным данным. Для работы рекомендуется использовать формат prompt с маркерами Qwen и совместимый inference-инструмент, например LM Studio или llama.cpp. Модель распространяется по лицензии Apache-2.0.

EVIE-4.5B — мультимодальная модель Tencent для поиска по визуальному содержимому страниц документов. Она основана на ColQwen3.5 и использует позднее взаимодействие многовекторных представлений: кодирует текстовый запрос и изображение страницы в наборы векторов, а релевантность оценивается сопоставлением токенов. Модель содержит 4,5 млрд параметров и поддерживает эластичные векторы размерностью от 64 до 2048, которую можно выбирать усечением единственной проекции. Модель предназначена для поиска документов по содержимому сложных страниц, включая таблицы, диаграммы, структуру макета и мелкий текст. Для уменьшения объёма индекса можно применять HAC — алгоритм кластеризации токенов без дополнительного обучения, сжимая представление страницы до 32 или 64 векторов. В README приведены результаты оценки на ViDoRe и JinaVDR, включая многоязычные задачи. EVIE-4.5B получена дообучением Tencent/EVIE-Preview-4.5B; в описании также говорится о дистилляции студенческой модели от модели EVIE-8B. Репозиторий использует библиотеку colpali-engine и формат safetensors. Лицензия Apache-2.0.

MaziyarPanahi/Experiment28M7_Experiment24Inex12 — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/Experiment24Inex12-7B. Она предназначена для генерации текста и запуска сценариев на основе языковой модели. Модель содержит 7,1 млрд параметров, принимает текстовый ввод, выдаёт текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают специализированную область применения или отдельные языки, поэтому её можно характеризовать как модель общего назначения.

FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview-GGUF — это GGUF-квантизированная версия instruct-модели FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview, разработанной FuseAI и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio. В основе лежит модель с 32 миллиардами параметров; доступны варианты от BF16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix на базе llama.cpp b4514. Более высокие форматы сохраняют лучшее качество, а варианты Q4 и Q3 требуют меньше оперативной памяти; наиболее универсальным в README назван Q4_K_M. Указан специальный шаблон промпта с ролями system, User и Assistant. Модель ориентирована на локальный инференс и сценарии, где важны автономность, выбор размера файла и баланс между качеством и требованиями к памяти. README не содержит сведений о поддерживаемых языках, длине контекста, мультимодальности, результатах бенчмарков или ограничениях качества. Лицензия в предоставленных данных не указана.

Квантованный мультимодальный checkpoint базовой модели google/gemma-4-26B-A4B-it, разработанной Google. Данный вариант опубликован пользователем dhruvil237 и предназначен для задач генерации текста и обработки изображений совместно с текстовыми запросами, включая мультимодальный inference и развёртывание через vLLM. Модель использует архитектуру Gemma 4 с MoE-компонентами и имеет обозначение 26B A4B. Применена GPTQ-квантизация только весов W4A16: 4-битные знаковые симметричные групповые веса и активации в формате bfloat16, размер группы — 64. Экспорт выполнен в формате compressed-tensors/pack-quantized; калибровка проводилась на смешанных текстовых и изображенческих данных. Сильными сторонами являются существенно сниженные требования к памяти и поддержка текстовой и визуальной модальностей. Для работы требуется совместимая версия vLLM с поддержкой квантованных MoE Gemma 4; README не содержит сведений о языках, размере контекста и лицензии.

TheStageAI/gemma-4-E4B-it-GGUF — набор из четырёх квантизированных GGUF-чекпойнтов модели Gemma 4 E4B IT, основанной на google/gemma-4-E4B-it. Модель предназначена для локального запуска через llama.cpp и генерации текста, включая диалоговые сценарии, следование инструкциям и задачи, требующие развёрнутого рассуждения. Разработчик и поставщик чекпойнтов — TheStageAI; базовую модель разработала Google. Доступны варианты XS, S, M и L размером от 2,91 до 8,02 ГБ: XS использует минимальный объём памяти, S рекомендован как оптимальный по соотношению размера и качества, M соответствует рабочей точке Q4, а L ориентирован на более высокую точность Q8. Чекпойнты используют смешанную посттренировочную квантизацию с конфигурацией точности, подобранной с учётом стоимости хранения и накопления ошибки между слоями. В README указаны результаты IFEval и MMLU-Pro; вариант S практически соответствует BF16-версии по instruction-strict IFEval, тогда как XS заметно уступает по качеству, но требует меньше памяти. Модель поддерживает текстовую генерацию; сведения о языках, размере контекста и мультимодальных возможностях в README не указаны. Основные преимущества — локальный запуск, несколько вариантов под разные ограничения памяти и сохранение качества на рекомендованном варианте S. Ограничения связаны с потерями точности при квантизации, особенно у XS, а также с отсутствием в предоставленных данных подробностей о языковом покрытии и контекстном окне. Распространение заявлено по лицензии Apache-2.0.

local-inference-lab/GLM-5.3-Flash-NVFP4 — квантованная и дистиллированная версия модели zai-org/GLM-5.3-Flash-BF16. Модель предназначена для генерации текста и диалоговых сценариев, поддерживает английский и китайский языки, а также мультимодальные задачи с использованием встроенного vision encoder. Архитектура сохранена: 45 decoder-слоёв, включая 3 плотных слоя и 42 MoE-слоя с 288 маршрутизируемыми экспертами в каждом, из которых для каждого токена активируются 8, дополнительно используется общий эксперт. Механизм внимания сочетает linear attention и DeepSeek Sparse Attention; заявленный размер модели на диске составляет около 199 ГБ. Длина контекста в README не указана. Ключевая особенность модели — quantization-aware distillation: веса маршрутизируемых экспертов обучались с учётом NVFP4-квантования, чтобы компенсировать ошибки низкой точности и приблизить ответы к исходной BF16-модели. Экспертные gate, up и down projections хранятся в NVFP4, вспомогательный MTP-модуль использует MXFP8, а остальные основные компоненты преимущественно сохраняют BF16 или FP32. Сильными сторонами являются сочетание MoE-архитектуры, дистилляции и низкобитного представления весов при сохранении vision encoder и MTP. Ограничения включают значительный объём модели, дополнительные требования к памяти для KV-кэша и буферов, а также необходимость runtime с поддержкой архитектуры glm5_next и смешанного формата ModelOpt NVFP4/MXFP8, включая покомпонентные масштабы активаций. Модель распространяется по лицензии MIT.