I.5Создание и редактирование текста

Helsinki-NLP/opus-mt-ja-en — модель машинного перевода японского текста на английский, созданная Helsinki-NLP в рамках проекта OPUS. Она основана на архитектуре Transformer-align и использует библиотеку Marian; при обработке применяются нормализация текста и токенизация SentencePiece. Размер модели — 56,3 млн параметров, контекст — до 512 токенов. Метаданные указывают поддержку PyTorch и TensorFlow. Модель предназначена для перевода предложений с японского на английский. В карточке приведены результаты оценки на наборе Tatoeba.ja.en: BLEU 41,7 и chr-F 0,589. Распространяется по лицензии Apache-2.0.

Prompsit/paraphrase-bert-pt — португалоязычная модель Prompsit для оценки того, является ли одна фраза перефразированием другой. Это дообученная модель BERT на базе neuralmind/bert-base-portuguese-cased, реализованная как BertForSequenceClassification; в репозитории указаны веса PyTorch и SafeTensors, размер составляет 136,1 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для классификации пар фраз по соответствию перефразированию. Её можно применять для поиска перефраз, проверки семантической близости формулировок и сопоставления вариантов пользовательского запроса. В README упомянуты результаты оценки на 16 500 вручную размеченных парах фраз, но конкретные метрики не приведены. Модель создана в рамках проекта TSI-100905-2019-4 при софинансировании Министерства экономики и цифровой трансформации Испании. Лицензия в предоставленных данных не указана.

Qwen2.5-3B — базовая предобученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная причинная трансформерная модель с 3,1 млрд параметров, архитектурой Qwen2 и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги; модель содержит 36 слоёв и применяет GQA с 16 головами Q и 2 головами KV. Модель предназначена для дальнейшего обучения и адаптации, включая SFT, RLHF и продолжение предобучения. Она может служить основой для генерации и продолжения текста, а семейство Qwen2.5 отмечено улучшениями в программировании, математике, следовании инструкциям, работе с длинным текстом, таблицами и структурированными, в том числе JSON, ответами. Эта версия является базовой, поэтому разработчики не рекомендуют использовать её непосредственно для диалогов. Семейство поддерживает более 29 языков, в том числе русский и английский. Репозиторий содержит веса в формате safetensors, а для работы рекомендуется актуальная версия Transformers. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой модели.

Qwen3-8B-SFT-Claude-Opus-Reasoning-Unsloth — языковая модель ermiaazarkhalili, дообученная методом SFT с LoRA на базе unsloth/Qwen3-8B. Она предназначена для генерации текста и диалогов с акцентом на рассуждения, чему модель обучали на 10 477 примерах трасс рассуждений Claude из набора claude-reasoning-distillation. Архитектура — плотная Qwen3ForCausalLM, размер — 7,6 млрд параметров; модель принимает и выдаёт текст. В метаданных указан контекст до 40 960 токенов, однако README сообщает, что дообучение проводилось с контекстом 2 048 токенов, поэтому поведение на длинных контекстах может быть ограничено. Модель рассчитана прежде всего на английский язык. Она может быть полезна для диалоговых задач, генерации ответов с последовательными рассуждениями и вызова инструментов через интерфейс модели. Базовая модель при обучении была в 4-битном представлении; репозиторий модели содержит веса Safetensors, а README также указывает на отдельные квантизованные версии GGUF. Модель выпущена под лицензией Apache-2.0. README предупреждает о возможных галлюцинациях и недостаточной настройке безопасности; результаты требуют проверки, а для практического использования могут понадобиться дополнительные защитные механизмы.

Re3Cap-SC-Qwen2-VL-7B — мультимодальная модель для создания описаний изображений, разработанная на основе Qwen2-VL-7B-Instruct. Авторы дообучили её методом GRPO с наградой за самоисправление на уровне ключевых слов и стратегией Re³Cap, которая использует поиск для уточнения подписи к изображению. Модель предназначена для создания более точных и подробных подписей: компоненты Caption Refinement Suggester и Caption Quality Assessor помогают выявлять галлюцинации и пропуски в описании. Модель имеет архитектуру Qwen2-VL, содержит 7,1 млрд параметров, принимает изображения и текст и выдаёт текст; длина контекста составляет 32 768 токенов. Лицензия — Apache-2.0.

Модель utrobinmv/t5_translate_en_ru_zh_base_200 — мультиязычная модель машинного перевода на базе архитектуры T5, представленная разработчиком utrobinmv. Она предназначена для перевода между русским, китайским и английским языками в направлениях ru↔zh, en↔zh и en↔ru. Целевой язык задаётся префиксом «translate to:»; исходный язык можно не указывать, а входной текст может быть многоязычным. Модель содержит 149,1 млн параметров и распространяется в формате safetensors; в метаданных указан датасет CCMatrix. Лицензия — Apache-2.0. Карточка не приводит ограничений качества или контекста.

DDeduPModelv7 — дообученная модель семейства Llama 3, разработанная для образовательных задач в Казахстане и других регионах. Это плотная авторегрессионная языковая модель на 7,5 млрд параметров с контекстом до 8192 токенов; она принимает и генерирует текст. Модель обучена с помощью TRL и Unsloth на наборе Fralet/DDeduPDatasetv2 из 137 226 примеров на казахском, русском и английском языках. Модель предназначена для генерации образовательных текстов, многометочной классификации и сопоставления университетских курсов с кодами результатов обучения по разным дисциплинам. Её можно применять при разработке учебных планов, оценке пробелов в программах и анализе связи курсов с компетенциями. Лицензия — Apache-2.0. Автоматические сопоставления могут упускать контекстные нюансы и требуют проверки специалистами на соответствие требованиям конкретного учреждения. На результаты могут влиять региональный и дисциплинарный уклон обучающих данных; адаптация для других языков и областей может потребовать дополнительного дообучения.

Falcon3-3B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный decoder-only Transformer с 22 блоками, механизмом Grouped Query Attention, SwiGLU и RMSNorm; число параметров — 2,8 млрд. Модель принимает текст и предназначена для генерации продолжений, а также как основа для последующего дообучения под конкретные сценарии. Модель обучена на многоязычных данных, коде и материалах по STEM; заявлены английский, французский, испанский и португальский языки. README указывает контекст до 8 тыс. токенов, тогда как метаданные каталога указывают нативный контекст 32 768 токенов. В описании модели также заявлены способности к рассуждению, пониманию языка, следованию инструкциям, программированию и математике, но это базовый чекпойнт без диалоговой настройки и для большинства прикладных сценариев требует дообучения. Модель получена обрезкой по глубине и ширине Falcon3-7B-Base и обучением с дистилляцией знаний. Распространяется по лицензии TII Falcon-LLM License 2.0; перед применением следует учитывать её условия.

GigaChat3-10B-A1.8B-base — базовая предварительно обученная языковая модель семейства GigaChat, разработанная командой ai-sage. Она предназначена для продолжения обучения и генерации текста; для диалога и выполнения инструкций в карточке рекомендуется instruct-версия. Модель использует архитектуру Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров, механизмы Multi-head Latent Attention и Multi-Token Prediction. В метаданных указаны архитектура DeepSeek V3, 1,5 млрд параметров, контекст 262 144 токена и поддержка русского и английского языков; размер параметров в README и метаданных расходится. Модель обучена на 20 трлн токенов, включая синтетические данные, материалы по математике и программированию, а также тексты на дополнительных языках. MLA сжимает KV-кэш для более эффективного инференса, а MTP может ускорять генерацию при использовании совместимых техник. Репозиторий содержит веса Safetensors; лицензия — MIT. Это базовая модель, поэтому для диалоговых сценариев и следования инструкциям предпочтительна instruct-версия.

mBART-50 many-to-one multilingual machine translation — дообученная модель Facebook на базе mBART-large-50 для машинного перевода между 50 языками. Модель семейства mBART построена на архитектуре кодировщик–декодировщик и содержит около 457,4 млн параметров; родной контекст составляет 1024 токена. Модель предназначена для перевода текстов между поддерживаемыми языками, включая арабский, английский, русский, китайский, японский и многие другие. Карточка называет её вариантом many-to-one, но также описывает перевод между любой парой из 50 языков; это означает, что доступен перевод с множества языков, а заявленное название указывает на сценарий перевода на один целевой язык. Лицензия в предоставленных данных не указана.

MiniCheck-Flan-T5-Large — модель проверки фактов из проекта MiniCheck, созданная для определения, подтверждает ли документ отдельное утверждение. Она принимает документ и предложение-утверждение и возвращает бинарную метку: 1, если документ его поддерживает, и 0, если нет. Модель построена на архитектуре Flan-T5-Large и содержит 385,2 млн параметров; для запуска используется библиотека Transformers, формат весов — PyTorch. Модель предназначена для проверки фактической обоснованности предложений в ответах языковых моделей по предоставленным документам, в том числе для контроля генераций и фактчекинга на уровне предложений. В README сообщается о сравнении с другими специализированными фактчекерами на бенчмарке LLM-AggreFact; заявленные результаты относятся к оцениванию на реальных утверждениях без искусственно внесённых ошибок. Контекст составляет 512 токенов, поэтому объём документа и утверждения ограничен этим размером. Лицензия — MIT.

AIR-hl/Qwen2.5-1.5B-ultrachat200k — диалоговая языковая модель, дообученная AIR-hl методом supervised fine-tuning на наборе HuggingFaceH4/ultrachat_200k. В основе — плотная авторегрессионная архитектура Qwen2.5 с 1,5 млрд параметров; модель предназначена для генерации текста в формате общения и поддерживает контекст до 131 072 токенов. Модель можно применять для ведения диалогов и создания ответов на запросы пользователя. В карточке приведены значения потерь обучения и оценки, но нет результатов пользовательских или сравнительных тестов, поэтому качество ответов по этим значениям оценить нельзя. Использование регулируется лицензией Apache 2.0.

MihaiPopa-1 выпустил вариант Empero Qwen3.8-2B-Distill с ослабленным отказом от ответов. Это плотная причинная языковая модель на 2 млрд параметров, полученная полным дообучением дистиллированной модели Empero; README сообщает о снижении доли отказов с 83 до 4 на 100 примерах. Модель предназначена для диалогов, следования инструкциям, математических задач и рассуждений; поддерживает вызов инструментов по спецификации Qwen3.5. Веса доступны в формате Safetensors для Transformers и совместимых сред выполнения. Модель работает с текстом, имеет контекст длиной 262 144 токена и рассчитана прежде всего на английский язык. README указывает, что обучение сосредоточено на математике, рассуждениях и следовании инструкциям; малый размер подходит для периферийных устройств, хотя практическая скорость зависит от среды выполнения и доступных ядер. Ограничения включают меньшую ёмкость для фактического извлечения и сложных многошаговых задач, а также повторяющиеся циклы при жадной генерации длинных ответов. Поведение зрения унаследовано от базовой архитектуры, но в README не оценивалось. Лицензия — Apache-2.0.

Модель Pirnazar — версия Whisper large-v3-turbo, дообученная для распознавания туркменской речи. Это самостоятельный чекпойнт с объединённым в веса LoRA-адаптером; отдельная загрузка адаптера или базовой модели не требуется. Модель построена на архитектуре Whisper и принимает аудио, выдавая текстовую транскрипцию. Для распознавания рекомендуется задавать язык tk и режим транскрипции. При обучении использовался датасет mamed0v/TurkmenSpeech; LoRA ранга 8 обучалась на проекциях q_proj и v_proj. В карточке приведены результаты валидации на 500 примерах: WER 29,51% и CER 6,59%; это метрики обучения, а не независимая оценка тестового набора. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Это компактная модель автоматического распознавания речи на базе OpenAI Whisper Tiny, дообученная автором репозитория akimbabananan для русского и английского языков. Она принимает аудио и преобразует речь в текст; автор описывает её как эксперимент с полным дообучением, направленный на специализацию модели в двуязычном режиме. В карточке указаны архитектура Whisper, библиотека Transformers, формат safetensors и лицензия MIT. По заявлению автора, обучение шло 4000 шагов на датасете Common Voice 22.0, а знания языков помимо русского и английского намеренно вытеснялись. Поэтому модель подходит для транскрибации речи на этих двух языках, но может молчать или транслитерировать речь на других языках. Заявления о высокой точности в README не подкреплены приведёнными метриками; для практического применения качество стоит проверять на целевых аудиозаписях.

gemma-3-4b-it-quantized.w8a8 — квантизированная версия мультимодальной модели google/gemma-3-4b-it, разработанная RedHatAI. Модель принимает изображения и текст, а генерирует текст, поэтому предназначена для визуально-текстовых диалогов, анализа изображений и ответов на вопросы по их содержимому. Основной сценарий развертывания — инференс через vLLM версии 0.8.0 или новее, включая OpenAI-совместимый сервер. Модель использует архитектуру Gemma 3 с 4 миллиардами параметров и оптимизацию INT8 для весов и активаций. Квантизация выполнена с помощью llm-compressor и GPTQ на калибровочном наборе из 512 образцов; визуальный модуль и мультимодальный проектор при этом не квантизировались. В README не указаны поддерживаемые языки и полный размер контекста, однако при оценке использовалась максимальная длина 4096 токенов. Доступна версия 1.0, опубликованная 4 июня 2025 года. Главное преимущество модели — снижение требований к вычислительным ресурсам и эффективный инференс при сохранении большей части качества исходной модели: на тестах OpenLLM V1 показатели восстановления относительно google/gemma-3-4b-it составили от 95,82% до 99,55% по приведённым метрикам. Ограничения включают возможное небольшое снижение точности из-за INT8-квантизации и необходимость совместимого окружения vLLM. Лицензия указана как gemma.

Это версия Gemma 4 12B в формате SafeTensors, опубликованная пользователем tepirale. Согласно карточке, веса преобразованы из GGUF в SafeTensors; метаданные связывают модель с yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF и классифицируют её как дообученную производную. Модель предназначена для диалоговых сценариев с изображениями; теги также указывают на агентное использование, работу с инструментами и кодом. Архитектура — плотная Gemma4UnifiedForConditionalGeneration, размер семейства — 12B по идентификатору модели. Карточка указывает поддержку изображений и текста, а лицензия в метаданных — Apache-2.0. README сообщает о конверсии формата, но не описывает методику преобразования или проверку сохранности поведения; сведений о контекстном окне и поддерживаемых естественных языках в предоставленных данных нет.

noctrex/GLM-4.7-Flash-i1-MXFP4_MOE_XL-exp-GGUF — экспериментальная GGUF-квантизация GLM-4.7-Flash, подготовленная автором noctrex. В ней применяется смешанная точность MXFP4_MOE: для тензоров с высокой оценкой важности используются BF16, со средней — Q8_0, с низкой — MXFP4; оценки важности рассчитаны с помощью imatrix. Автор ориентирует вариант на задачи программирования. Модель предназначена для генерации текста в диалоговом формате, включая помощь с кодом. В качестве основы указана zai-org/GLM-4.7-Flash — диалоговая MoE-модель Z.ai для генерации текста, рассуждений и программирования с длинным контекстом. В карточке этого варианта не приведены отдельные значения размера модели и длины контекста. Формат файлов — GGUF. Квантизация экспериментальная; автор не сообщал о проведённых бенчмарках, поэтому её преимущество перед основной версией MXFP4_MOE не подтверждено. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели kyutai/helium-1-2b-main на Hugging Face совпадает с карточкой kyutai/helium-1-2b, поэтому описание составлено по ней. Helium-1-2B — базовая языковая модель Kyutai с архитектурой Llama и 1,9 млрд параметров, представленная в формате safetensors для библиотеки Transformers. Модель обучена на текстах на 24 официальных языках Европейского союза; её контекст составляет 4096 токенов. По карточке, модель дистиллирована из Gemma 2. Модель предназначена для генерации и понимания текста, а также для исследований и разработки систем NLP. Она не дообучена следовать инструкциям или предпочтениям людей, поэтому для прикладных сценариев обычно требуется дополнительное выравнивание, например supervised fine-tuning или RLHF. Компактный размер ориентирован на использование на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Модель может генерировать фактические ошибки, предвзятый, вредный или бесполезный текст; перед применением необходимы оценка и меры снижения рисков. Поддерживаются английский, болгарский, чешский, датский, немецкий, греческий, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский языки. Лицензия — CC-BY-SA 4.0; также действуют условия использования Gemma.

LLaMAX3-8B — многоязычная языковая модель семейства Llama, разработанная авторами LLaMAX путём дальнейшего предобучения Llama 3. Модель насчитывает 7,5 млрд параметров и рассчитана на генерацию текста более чем на 100 языках. Контекст — до 8192 токенов; архитектура — плотная авторегрессионная модель Llama. Модель предназначена для использования как основа для дальнейшей адаптации под многоязычные задачи, включая генерацию и перевод текста. Эта версия не умеет следовать инструкциям; карточка также упоминает отдельный вариант LLaMAX-Alpaca, дообученный на Alpaca для этой способности. Репозиторий содержит веса в формате safetensors, лицензия — MIT.

LocalAI-io разработала разговорную модель LocalAI-functioncall-phi-4-v0.1 на базе Phi-4. Она предназначена для диалогов и вызова функций через LocalAI, например для подключённых к ассистенту инструментов и автоматизации последовательностей действий. Модель содержит 14,1 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. В метаданных указан английский язык, формат PyTorch и лицензия Apache-2.0. Модель дообучена на базе unsloth/phi-4-unsloth-bnb-4bit; в метаданных также перечислены датасеты glaive-unsloth-localai и FineTome-100k. Карточка заявляет поддержку диалогов и вызова функций через LocalAI, но не приводит оценок качества или подробностей о формате вызовов.

cstr/madlad400-3b-ct2-int8 — это оптимизированная int8-версия мультиязычной модели машинного перевода MADLAD-400-3B-MT, разработанной Google Research на основе архитектуры T5 и преобразованной в формат CTranslate2 Juarez Bochi. Исходная модель обучалась на 1 триллионе токенов общедоступных данных и охватывает более 400 языков. Модель предназначена прежде всего для перевода текста между поддерживаемыми языками и других мультиязычных NLP-сценариев. Модель имеет около 3 миллиардов параметров в исходной версии; данная публикация использует int8-квантизацию для более компактного и эффективного запуска через CTranslate2. Направление перевода задаётся специальным префиксом языка, например <2en> или <2de>. Среди явно указанных языков — английский, русский, немецкий, французский, испанский, китайский, японский, арабский и многие другие. Модель распространяется по лицензии Apache 2.0. Сильными сторонами являются широкий охват языков, специализированная ориентация на машинный перевод и сниженные требования к памяти благодаря int8-представлению. Качество может различаться между языками и предметными областями, а модель не предназначена для гарантированно точного перевода важных или чувствительных материалов без проверки человеком.

STaR-GATE — дообученная языковая модель из основного эксперимента исследовательской работы «STaR-GATE: Teaching Language Models to Ask Clarifying Questions». Она основана на архитектуре Mistral и содержит 7,1 млрд параметров; модель принимает текст и рассчитана на диалоговое применение с контекстом до 32 768 токенов. Модель предназначена для диалогов, в которых нужно уточнить неявные предпочтения пользователя, прежде чем выполнять задачу, а затем подготовить персонализированный ответ. Авторы обучали её итеративно на синтетических примерах с персонами и задачами, вознаграждая вопросы, повышающие вероятность качественных ответов. В описанном эксперименте ответы после такого самоулучшения предпочитались ответам исходной модели в 72% задач. Модель распространяется в формате safetensors по лицензии MIT. Для получения ожидаемого поведения авторы рекомендуют использовать промпты для elicitation и генерации финального ответа, приведённые в приложении к статье; результаты описаны в контексте исследовательского эксперимента.

fal/moondream2-docci-instruct — дообученная модель семейства Moondream для создания подробных описаний изображений. Она разработана на основе Moondream2 и обучена на наборах gokaygokay/random_instruct_docci и, согласно метаданным, google/docci. Модель принимает изображение и текстовый запрос, а в ответ генерирует текст; основное назначение — подробное описание визуальных сцен и объектов. Модель относится к архитектуре Moondream и распространяется в формате safetensors. Карточка указывает на использование Transformers и лицензию Apache-2.0. В README нет количественной оценки качества или описания предельного разрешения и контекста, поэтому эти характеристики здесь не приводятся.

N3N_gemma-2-9b-it_20241029_1532 — разговорная языковая модель, созданная дополнительным обучением Gemma 2 9B Instruct. Разработчик сообщает, что для дообучения использован датасет на основе 1,6 миллиона научных статей arXiv; в метаданных указана архитектура Gemma2 с плотной моделью и 9 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалог и контекст до 8192 токенов. Модель предназначена для генерации ответов и продолжения текста, в том числе для математических рассуждений и решения сложных задач. Карточка приводит результаты Open LLM Leaderboard и заявляет высокие результаты в рассуждениях, но не предоставляет подробных независимых подтверждений этих заявлений. Указанные язык обучения и карточки — английский. Лицензия — Gemma.

Orion-14B-Chat-Plugin — языковая модель OrionStarAI на архитектуре OrionForCausalLM с плотной архитектурой и 14,1 млрд параметров. Семейство Orion-14B обучено с нуля на многоязычном корпусе; эта версия дообучена для работы с плагинами и вызова функций, поэтому подходит для агентных сценариев, где модель выбирает и вызывает внешние инструменты. Модель принимает текст и генерирует текст. Для этой версии в метаданных указан контекст 4096 токенов; сведения о более длинном контексте в карточке относятся к отдельной версии Orion-14B-LongChat. Семейство поддерживает китайский, английский, японский и корейский языки. Модель распространяется в формате PyTorch. Лицензия в предоставленных данных не указана.

Orion-14B-Chat-RAG — диалоговая модель OrionStarAI из семейства Orion-14B. Базовую серию обучили с нуля на многоязычном корпусе объёмом 2,5 трлн токенов; эта версия дообучена на специальном наборе данных для генерации с дополнением извлечёнными сведениями (RAG). Модель предназначена для ответов на вопросы по найденным документам и других сценариев, где ответ опирается на переданный контекст. Это плотная авторегрессионная языковая модель с 14,1 млрд параметров и контекстным окном 4096 токенов. В README заявлена поддержка китайского, английского, японского и корейского языков; метаданные также отмечают возможности работы с кодом. Репозиторий содержит веса PyTorch. Для применения в RAG необходимо организовать поиск и передавать модели извлечённый контекст; сама карточка не описывает встроенный поисковый индекс. Модель может быть полезна для многоязычных диалогов и генерации ответов с опорой на документы. README заявляет высокую эффективность в задачах RAG, но не приводит в предоставленном фрагменте конкретных результатов оценки этой версии. Лицензия в предоставленных данных не указана.

mlx-community/parakeet-tdt_ctc-110m — конверсия модели NVIDIA Parakeet TDT-CTC 110M в формат MLX для запуска на устройствах Apple. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. Базовая модель описана как англоязычная и формирует текст с пунктуацией и заглавными буквами. В основе лежит архитектура FastConformer/Conformer; репозиторий содержит веса safetensors и рассчитан на работу с библиотекой MLX. Модель распространяется по лицензии CC BY 4.0.

TroyDoesAI/Phi-3-Context-Obedient-RAG — дообученная разговорная модель TroyDoesAI на базе microsoft/Phi-3-mini-128k-instruct, предназначенная для ответов по предоставленному контексту, в том числе в сценариях RAG, с акцентом на соблюдение источников и снижение галлюцинаций. Модель принимает текстовые блоки и инструкции; для связывания фрагментов с метаданными в карточке описан формат с разделителями BEGININPUT, BEGINCONTEXT и ENDINSTRUCTION. По метаданным это плотная causal language model семейства Phi-3 с 3,7 млрд параметров и контекстным окном 4096 токенов. Указаны чат-возможности и формат safetensors. Карточка описывает настройку на одиночные вопросы, ответы в виде абзацев и списков; практическое назначение — формирование ответов на основе переданных документов и контекста. Лицензия в метаданных — CC BY-SA 4.0, а в README указана CC BY 4.0, поэтому сведения о лицензии противоречат друг другу и требуют проверки перед использованием. README не приводит результатов оценки качества; следование контексту и снижение галлюцинаций заявлены как цель дообучения, а не как гарантированное свойство.

amd/Qwen3-VL-8B-Instruct-w8a8-llmcompressor — квантизированная версия мультимодальной модели Qwen3-VL-8B-Instruct, созданная AMD с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для задач преобразования текста и изображений в текст, включая визуальные вопросы и анализ диаграмм. Архитектура — Qwen3VLForConditionalGeneration; поддерживаются входные данные в виде текста и изображений и текстовый вывод. В README указан английский язык, однако полный набор языков базовой модели не раскрыт. Модель рассчитана на CPU-инференс на AMD EPYC под Linux с использованием vLLM, ZenDNN и ZenTorch. Применяется схема W8A8: веса языковой части представлены в INT8 с симметричной поканальной квантизацией, активации — в INT8 с симметричной динамической потокенной квантизацией. Vision tower, проектор и lm_head сохранены в BF16. Размер модели на диске уменьшен с 16,3 до 9,9 ГиБ, примерно на 40%. Для работы указаны vLLM 0.26.0, PyTorch 2.11.0, ZenDNN 6.1.0, ZenTorch 2.11.0.3 и LLM Compressor 0.12.0. По результатам оценки относительно BF16-версии модель показала 0,5740 на ChartQA против 0,5544 у базовой модели и 0,3857 на MMMU для технических и инженерных задач против 0,3952. Это указывает на близкое к исходному качество при меньшем объёме хранения и ориентации на оптимизированный CPU-инференс, однако качество может зависеть от аппаратного и программного стека. Указано ограничение совместимости с ZenDNN v6. Модель распространяется по лицензии Apache-2.0.