I.6Перевод и языковая адаптация

KoSOLAR-v0.2-gugutypus-10.7B — авторегрессионная языковая модель с дообучением по инструкциям, созданная DongGeon Lee (oneonlee) на базе yanolja/KoSOLAR-10.7B-v0.2. Модель построена на архитектуре SOLAR с классом LlamaForCausalLM, содержит 10,6 млрд параметров и принимает текст, генерируя текст. Её родной контекст составляет 4096 токенов. Модель предназначена для генерации ответов на инструкции и общих языковых задач, особенно на корейском языке. В карточке приведены результаты оценок на корейских и англоязычных тестах, включая Ko-ARC, Ko-MMLU и MMLU. Модель опубликована в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

MaziyarPanahi/M7Yamshadowexperiment28_Experiment26Strangemerges_30 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Strangemerges_30-7B. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текстовые ответы. Модель поддерживает контекст длиной до 32 768 токенов. В репозитории указаны веса в формате safetensors и лицензия Apache-2.0. Доступные сведения не уточняют специализацию, обучающие данные или результаты сравнительных оценок модели.

MaziyarPanahi/mergekit-dare_ties-ymiqjtz-GGUF — это набор файлов модели в формате GGUF, созданный пользователем MaziyarPanahi для модели mergekit-community/mergekit-dare_ties-ymiqjtz. Исходная модель разработана сообществом mergekit-community методом объединения нескольких моделей, включая Calme-7B-Instruct-v0.9, Not-WizardLM-2-7B, OpenHermes-2.5-neural-chat-v3-3-Slerp и dolphin-2.8-mistral-7b-v02. По имеющимся данным, модель относится к семейству Mistral и предназначена для генерации текста, диалоговых и других задач обработки текста. Репозиторий предоставляет варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие приложения. Сведения о размере контекстного окна, поддерживаемых языках, точной архитектуре объединённой модели, результатах оценки и специализированных сценариях использования не указаны. Основные преимущества — возможность локального запуска и наличие нескольких уровней квантования, включая варианты для устройств с ограниченными ресурсами. К ограничениям относятся потенциальная потеря качества при сильном квантовании и отсутствие в предоставленных данных подробных характеристик производительности. Лицензия модели в README не указана; условия использования следует уточнять в исходных репозиториях объединённых моделей и в репозитории квантованных файлов.

Модель csikasote/mms-1b-all-bemgen-combined-train-droctc-gdro-3e-2-dat-5e-1-no-sd-0.00-42 — дообученная csikasote версия facebook/mms-1b-all для автоматического распознавания речи. Это плотная модель архитектуры wav2vec2 с головой CTC, содержащая 1,3 млрд параметров и принимающая аудио для преобразования речи в текст. Она дообучена на наборе BEMGEN — BEM; в карточке приведены результаты оценки: loss 12,2996 и CER 0,0527. Модель подходит для распознавания речи в аудиозаписях на языках, поддерживаемых базовой MMS-моделью; карточка не уточняет, какие именно языки и условия записи проверялись при дообучении. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

csikasote/mms-1b-all-nyagen-combined-ft-62 — дообученная csikasote модель распознавания речи на основе facebook/mms-1b-all. Она построена на архитектуре wav2vec2 и использует CTC-декодирование; число параметров — 1,3 млрд. Модель дообучена на датасете NYAGEN - NYA. На оценочной выборке указаны Loss 0,3598 и WER 0,2645. Модель предназначена для преобразования аудиоречи в текст. Базовая модель поддерживает более тысячи языков, однако язык и сценарии, охваченные этим дообучением, в карточке не уточнены. Файлы модели представлены в формате safetensors, для работы используется Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и запрещает коммерческое применение.

Monsoon 7B exp-1 — экспериментальная объединённая языковая модель на архитектуре Mistral, созданная автором yuuko-eth методом DARE-TIES из двух дообученных моделей размером около 7 млрд параметров. В качестве базовой модели использована MediaTek-Research/Breeze-7B-Instruct-v0_1, также в объединении участвовала SanjiWatsuki/Silicon-Maid-7B. Модель предназначена для генерации текста и диалогов. Для работы следует использовать рекомендованный формат запросов Breeze-7B-Instruct или Silicon-Maid-7B. Модель принимает текст и выдаёт текст; заявлены китайский и английский языки. Контекст составляет до 32 768 токенов. Это экспериментальная сборка слияния, поэтому её поведение и качество могут быть непредсказуемыми; для надёжного применения нужна самостоятельная оценка. Лицензия в метаданных обозначена как unknown.

Nemotron 3.5 ASR Streaming 0.6B ONNX INT4 — мультиязычная модель автоматического распознавания речи, разработанная NVIDIA и представленная в формате ONNX сообществом onnx-community. Это квантизированная INT4-версия модели nvidia/nemotron-3.5-asr-streaming-0.6b с примерно 600 миллионами параметров, предназначенная для преобразования речи в текст с поддержкой пунктуации и капитализации. Модель рассчитана на потоковую расшифровку речи, голосовых агентов и приложений, которым нужны низкая задержка и высокая пропускная способность, а также на пакетную обработку аудио. Она использует архитектуру Cache-Aware FastConformer-RNNT, переиспользующую закэшированный контекст энкодера и обрабатывающую только новые аудиофрагменты. Поддерживается 40 языковых локалей, включая английский, испанский, немецкий, французский, итальянский, арабский, японский, корейский, португальский, русский, китайский, хинди и другие. Предусмотрены автоматическое определение языка и языковое условное управление. Преимуществами являются потоковый режим, заявленная задержка около 0,56 секунды, эффективное использование вычислений и гибкие размеры аудиочанков от 80 до 1120 мс; экспорт оптимизирован для чанка 560 мс. Ограничения включают зависимость качества от языка, акустических условий и размера чанка, а также снижение точности из-за INT4-квантизации по сравнению с исходной моделью, хотя конкретное сравнение в README не приведено. В README указана готовность к коммерческому использованию; в метаданных обозначены лицензии MIT и NVIDIA Open Model License, поэтому условия NVIDIA Open Model License следует учитывать отдельно.

NepaliGPT-2.0 — языковая модель PrinceLab Pvt. Ltd., дообученная на базе meta-llama/Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что модель обучалась с использованием Unsloth и библиотеки TRL. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Метаданные отмечают английский и непальский языки, однако карточка также указывает английский как язык модели, поэтому её специализация на непальском по доступным сведениям не подтверждена. Модель распространяется по лицензии MIT.

Это конверсия языковой модели NVIDIA Nemotron-3.5-Lightning-30B-A3B-BF16 в формат GGUF, опубликованная ijohn07 для запуска через llama.cpp. Модель предназначена для генерации текста и может использоваться в диалоговых и других сценариях работы с языковой моделью; подробности о её возможностях приведены в карточке базовой модели NVIDIA. В метаданных указаны английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий обозначает формат как GGUF BF16; название репозитория также содержит Q2_K, однако README описывает конверсию, а сведения не позволяют подтвердить отдельную квантизацию. Лицензия базовой модели обозначена как other. Для запуска описан llama.cpp.

Nitral-AI/Poppy_Porpoise-v0.7-L3-8B — объединённая автором модель на архитектуре Llama для генерации текста и диалогового общения. В метаданных указаны 7,5 млрд параметров и контекст до 8192 токенов; для работы с изображениями README упоминает мультимодальную версию с файлом Llava MMProj и актуальными версиями Koboldcpp. Модель может использоваться для диалогов и генерации текстовых ответов, а при подключении указанного проектора — для сценариев с изображениями. Веса опубликованы в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.

OP12138/qwen3-1.7b-safechain — дообученная авторами репозитория модель Qwen3-1.7B на датасете safechain. Она предназначена для генерации текста и диалогового взаимодействия; метаданные отмечают поддержку чата и указывают архитектуру Qwen3ForCausalLM с плотной сетью и 1,7 млрд параметров. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет 40 960 токенов. Базовая модель Qwen3 описана как многоязычная.

aashish1904/Qwen3.5-2B-Base-GGUF — квантизированная версия базовой модели Qwen3.5-2B-Base, созданная с помощью llama.cpp и опубликованная пользователем aashish1904. Исходную модель разработала команда Qwen. Формат GGUF предназначен для локального запуска, в частности через llama.cpp и Ollama, а также для экспериментов с генерацией текста, дообучением и in-context learning. Исходная карточка указывает, что базовая модель предназначена прежде всего для исследований и разработки, а не для непосредственного диалогового использования. Модель имеет около 2 млрд параметров и представляет собой каузальную языковую модель с vision encoder, то есть поддерживает текстово-визуальное обучение и обработку мультимодальных токенов. Архитектура сочетает Gated Delta Networks и Gated Attention; модель содержит 24 слоя, скрытое измерение 2048 и контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Доступны варианты квантизации от Q2_K до Q8_0: более компактные варианты требуют меньше памяти, но сильнее теряют в качестве; Q4_K_M и Q5_K_M обозначены как рекомендуемые сбалансированный и высококачественный варианты соответственно. Основные преимущества — небольшой размер, широкий контекст, мультимодальная архитектура и возможность эффективного локального инференса. Ограничения включают неизбежную потерю качества при низких уровнях квантизации и базовый, а не специализированный чатовый характер исходной модели. Лицензия в предоставленном README не указана.

AMD представляет эту модель как квантизированную версию Qwen3-VL-8B-Instruct. Она предназначена для генерации текста на основе текстовых запросов и оптимизирована для CPU-инференса на процессорах AMD EPYC под Linux с использованием vLLM и ZenDNN. Модель построена на архитектуре Qwen3VLForConditionalGeneration и использует 4-битное асимметричное квантизирование весов W4A16 с размером группы 128. Квантизация выполнена средствами TorchAO 0.17.0; обработаны линейные слои, кроме lm_head и embed_tokens. В README явно указан текстовый вход и текстовый выход, а также английский язык. Размер базовой модели — 8B параметров, однако характеристики контекста и фактическая поддержка других модальностей в этой карточке не описаны. Основное преимущество модели — снижение требований к памяти и возможность оптимизированного инференса на AMD EPYC через ZenDNN. При этом она жёстко привязана к PyTorch 2.11.0, ZenDNN 6.0.0, ZenTorch 2.11.0.1, TorchAO 0.17.0 и vLLM 0.20.2, не предназначена для GPU и не поддерживает данный путь квантизации в native PyTorch. Результаты заявленных бенчмарков пока отсутствуют, поэтому влияние квантизации на качество не подтверждено. Модель распространяется на условиях лицензии исходной модели; в README указана Apache-2.0.

RoBERTo — модель классификации текста, разработанная absltnull для различения боснийского, хорватского и сербского языков. Это дообученная XLM-RoBERTa-base с архитектурой Transformer для классификации последовательностей и 305,2 млн параметров. Модель принимает текст и возвращает одну из меток: bs, hr или sr. Контекст модели составляет 514 токенов по метаданным; в README указано, что при обучении использовались последовательности до 256 токенов. Модель предназначена для определения языка в наборах данных и балансировки корпусов на боснийском, хорватском и сербском. В README заявлена точность свыше 91% на неоднозначных и однозначных примерах тестирования, однако близость этих языков создаёт ошибки, особенно при различении боснийского и хорватского текста без характерных языковых признаков. Обучающие данные взяты из rsateam/sr-bs-hr-language-id и размечены по источнику публикации. Модель распространяется по лицензии MIT.

RWKV-6 World 3B — плотная авторегрессионная языковая модель семейства RWKV-6, представленная под именем RWKV. Она предназначена для генерации текста и диалоговых ответов; карточка показывает примеры общения на английском и китайском языках. Размер модели составляет 3,5 млрд параметров, формат весов в репозитории — PyTorch. В README приведены примеры запуска на CPU и GPU, а также пакетного инференса. Модель подходит для диалоговых помощников, ответов на вопросы и генерации текста на поддерживаемых языках. README не сообщает лицензию, длину контекста или подробные результаты оценки качества, поэтому эти характеристики нельзя подтвердить по предоставленным данным.

SJT-4B-v1.1 — объединённая языковая модель, созданная с помощью mergekit методом TIES. В основе объединения — MaziyarPanahi/calme-2.1-phi3.5-4b; также включена Sakalti/Lunar-4B. Модель построена на архитектуре Phi-3 и содержит 3,7 млрд параметров. Модель предназначена для диалоговой генерации текста. Метаданные указывают поддержку английского и японского языков, интерфейс чата и контекст до 4096 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. В README не приведены результаты оценки качества или подробные ограничения; практические ответы могут зависеть от формулировки запроса и сценария использования.

logicker/SkkuDataScience-DPO-v2-90-ckpt — языковая модель для генерации текста, представленная как DPO-чекпойнт. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM, размером 10,6 млрд параметров и контекстом 4096 токенов. Модель хранится в формате safetensors и помечена как чат-модель; указаны английский и корейский языки. README описывает Qwen1.5 и его DPO-настройку, но не подтверждает, что эти сведения относятся к указанному репозиторию. Поэтому назначение модели можно определить как генерацию текста, однако конкретные возможности DPO-чекпойнта и его базовую модель по предоставленным данным установить нельзя. Лицензия в метаданных обозначена как other без конкретных условий.

Baekpica подготовил производную модель Solar Open 2 для генерации текста и диалогов. Это вариант MoE с объединением экспертов: в каждом слое сохранены 148 маршрутизируемых экспертов и один общий, а эксперты из исходной конфигурации объединены с похожими центроидными экспертами. Модель содержит около 120,4 млрд параметров, из которых около 14,7 млрд активны на токен; использует архитектуру SolarOpen2ForCausalLM и веса BF16 в формате safetensors. Для неё заявлено контекстное окно до 1 048 576 токенов. Модель предназначена для диалогов и генерации текста. Базовое семейство Solar Open 2 ориентировано также на агентные сценарии, документы, офисные задачи и программирование, но README не приводит отдельной оценки этих возможностей для данной версии. Для калибровки использовались данные на английском, корейском и японском языках. Автор сообщает, что модель не проходила downstream-бенчмаркинг. Объединение экспертов может изменить фактичность, рассуждения, покрытие специализированных навыков, мультиязычность, использование инструментов и работу с длинным контекстом; заявленное контекстное окно унаследовано и не перепроверено. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели.

stanfordnlp/stanza-multilingual — пакет моделей Stanza, разработанный Stanford NLP для лингвистического анализа текстов на многих языках. Он обрабатывает текст от базовой языковой обработки до синтаксического анализа и распознавания именованных сущностей; в метаданных Hugging Face основная задача указана как классификация токенов. Модели доступны через библиотеку Stanza и хранятся в формате PyTorch. Репозиторий предназначен для многоязычной обработки естественного языка, включая анализ структуры предложений и выделение сущностей. Лицензия — Apache 2.0. В карточке не приведены сведения о размере моделей и длине контекста.

Steelskull_L3.3-Mokume-Gane-R1-70b-v1.1-GGUF — это квантизированная версия текстовой генеративной модели L3.3-Mokume-Gane-R1-70b-v1.1, разработанной Steelskull и подготовленной в формате GGUF пользователем bartowski. Модель относится к семейству с размером 70 млрд параметров и предназначена для генерации текста и диалоговых сценариев. В README не указаны точные сведения о поддерживаемых языках, длине контекста, архитектуре или дополнительных модальностях, поэтому модель следует рассматривать как текстовую, без подтверждённой поддержки изображений или других типов данных. Ключевая особенность — набор вариантов квантизации, от Q8_0 до более компактных Q3 и IQ3, с различным соотношением качества, размера файла и требований к памяти. Версии созданы с использованием imatrix и инструментария llama.cpp; они подходят для локального запуска в LM Studio, llama.cpp и совместимых проектах. Старшие варианты обеспечивают более высокое качество, а младшие позволяют снизить потребление оперативной памяти, но могут заметно уступать по качеству. Файлы имеют значительный размер — примерно от 29 до 75 ГБ, поэтому запуск требует мощного оборудования и достаточного объёма памяти. Лицензия указана как llama3.3.

ThaiTrOCR — модель оптического распознавания символов, разработанная Suchut Sapsathien и Jillaphat Jaroenkantasima. Она преобразует изображения строк рукописного текста на тайском и английском языках в текст и может применяться для распознавания рукописных записей и текста в PDF-документах. Модель дообучена на базе TrOCR Base Handwritten. В её архитектуре используется энкодер Vision Transformer и декодер Electra Small, обученный на тайском корпусе; модель реализована как VisionEncoderDecoderModel. В README приведены результаты сравнения с EasyOCR и Tesseract на нескольких типах документов, однако тестовая выборка содержит всего 104 изображения, поэтому результаты могут быть недостаточно обобщающими. Модель распространяется по лицензии Apache-2.0. Карточка не приводит размер модели или длину контекста.

Tiron — модель распознавания речи с разделением реплик по говорящим, разработанная Trelis. Она построена на архитектуре Whisper large-v3 с расширенным словарём токенов и за один проход создаёт расшифровку с маркерами говорящих и временными метками. Число параметров — 905,3 млн; модель совместима с WhisperForConditionalGeneration и распространяется в формате safetensors. Модель предназначена для транскрибации многоголосых встреч и совещаний. Она обрабатывает аудио окнами по 30 секунд, поддерживает до восьми говорящих в окне, а для полной записи README рекомендует открытый harness, который выполняет разбиение на фрагменты и связывает говорящих между окнами. Заявлены английский и китайский языки, а также многоязычная поддержка. В бенчмарках авторов модель показала скорость около 43× реального времени на одном GPU при потреблении 3–12 ГБ видеопамяти. Метки говорящих анонимны и не сопоставляются с именами или образцами голоса. Встреча ограничена восемью глобальными говорящими при использовании harness; временные метки приблизительны, особенно при сильном перекрытии речи. Лицензия — Apache-2.0.

VibeVoice ASR Streaming 1.5B GGUF — это сборка модели автоматического распознавания речи Microsoft VibeVoice ASR Streaming 1.5B, подготовленная в формате GGUF для работы с audio.cpp. Модель предназначена для офлайн-транскрибации аудио и потокового распознавания речи в реальном времени, включая серверные сценарии. Указана поддержка английского, китайского, испанского, португальского, немецкого, японского, корейского, французского, русского и итальянского языков. Модель содержит около 1,5 млрд параметров и поддерживает потоковый режим ASR. Доступны варианты BF16, Q8_0 и Q4_K с различным соотношением качества и размера: примерно 5,64 ГБ, 3,34 ГБ и 2,12 ГБ соответственно. Для потоковой обработки требуется монофонический PCM-аудиосигнал с частотой 16 кГц и 16-битным знаковым форматом. В README также заявлена поддержка транскрибации с атрибуцией говорящих, однако подробности этой функции не приведены. Сильными сторонами являются нативная интеграция с audio.cpp, автономный формат GGUF и наличие нескольких вариантов квантования. На небольшом наборе из четырёх фрагментов LibriSpeech указанный WER составил 4,35% для BF16, 5,80% для Q8_0 и 7,25% для Q4_K при CUDA; результаты зависят от backend и размера тестовой выборки, поэтому не характеризуют качество во всех сценариях. Модель распространяется по лицензии MIT.

artoowang/w2v-bert-2.0-en-colab-CV16.0 — дообученная модель распознавания речи на базе facebook/w2v-bert-2.0. Она использует архитектуру Wav2Vec2BertForCTC и принимает аудио, преобразуя речь в текст. В README приведены результаты оценки: loss 0,3282 и WER 0,1287; набор данных указан как None. Модель содержит 402,7 млн параметров и доступна в формате safetensors для библиотеки Transformers. По названию репозитория она ориентирована на английскую речь, однако README не уточняет языковое покрытие, условия оценки и предполагаемые сценарии применения. Лицензия — MIT.

Xenova/whisper-base.en — версия модели OpenAI Whisper base.en, подготовленная сообществом Xenova в формате ONNX для работы с библиотекой Transformers.js. Модель предназначена для автоматического распознавания речи и транскрибации аудио на английском языке, в том числе непосредственно из JavaScript-приложений и веб-среды. Ключевая особенность модели — ONNX-веса, обеспечивающие совместимость с Transformers.js и сценариями веб-инференса. README не содержит точных сведений о размере модели, архитектуре, длине контекста, поддерживаемых модальностях помимо аудио или количественных показателях качества. Сильной стороной является удобная интеграция с JavaScript и возможность обработки аудио по URL; ограничением выступает специализация на английской речи и зависимость от поддержки ONNX и Transformers.js. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-72B-Instruct-GPTQ-Int8 — инструкционно дообученная крупная языковая модель семейства Qwen2.5, разработанная командой Qwen, связанной с Alibaba Cloud. Это каузальная текстовая модель для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 72,7 млрд параметров, из которых 70 млрд не относятся к эмбеддингам, и построена на архитектуре Transformer с RoPE, SwiGLU, RMSNorm, смещениями QKV в механизме внимания и GQA. Она имеет 80 слоёв, 64 головы внимания для Q и 8 для KV. Модель поддерживает более 29 языков, включая английский, китайский, французский, испанский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Заявленная длина контекста составляет до 131 072 токенов, а максимальная длина генерации — 8192 токена; для контекстов свыше 32 768 токенов требуется настройка YaRN. К сильным сторонам относятся улучшенные способности к программированию и математике, следование инструкциям, генерация длинных текстов, понимание таблиц и устойчивость к разнообразным системным промптам. GPTQ-квантизация до 8 бит снижает требования к памяти по сравнению с исходной версией, но модель остаётся ресурсоёмкой из-за большого размера. При использовании статического YaRN производительность на коротких запросах может снижаться. Для работы рекомендуется актуальная версия Transformers; лицензия указана как Qwen с отдельным файлом условий.

Qwen2.5-72B-Instruct-AWQ — большая инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых ассистентов, генерации и анализа текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, корейский и арабский. Это causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Модель содержит 72,7 млрд параметров, 70 млрд параметров без учёта эмбеддингов, 80 слоёв и использует Grouped-Query Attention с 64 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию instruction-tuned модели. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для входов длиннее 32 768 токенов требуется настройка YaRN, а статическое масштабирование может ухудшать качество или производительность на коротких текстах. Сильные стороны модели — улучшенные знания, способности в программировании и математике, следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, а также устойчивость к разнообразным системным промптам. Ограничения включают высокие требования к вычислительным ресурсам, возможное снижение производительности на коротких запросах при включённом YaRN и потенциальные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Qwen; точные условия следует уточнять в файле лицензии репозитория.

Qwen2.5-7B-Instruct-GPTQ-Int8 — инструкционная каузальная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых приложений, генерации и обработки текста, следования инструкциям, работы с кодом и математическими задачами, создания длинных текстов и структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель содержит 7,61 млрд параметров, из них 6,53 млрд — без учёта embedding, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV attention и Grouped Query Attention: 28 голов для Q и 4 для KV. Применена 8-битная GPTQ-квантизация, снижающая требования к памяти по сравнению с полноразмерной версией. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для входов длиннее 32 768 токенов требуется настройка YaRN, которая может ухудшать производительность на коротких запросах. Для работы рекомендуется актуальная версия Transformers, а для развёртывания длинного контекста — vLLM. Сильные стороны модели — улучшенные возможности в кодировании, математике, следовании инструкциям, обработке таблиц и структурированных данных, а также многоязычность и поддержка длинного контекста. Ограничения включают возможное снижение качества или скорости из-за квантизации и потенциальное ухудшение производительности на коротких текстах при включённом статическом YaRN. Модель распространяется по лицензии Apache-2.0.

Gemma 4 12B Unified — мультимодальная плотная модель семейства Gemma 4, разработанная Google DeepMind и распространяемая под лицензией Apache 2.0. Она принимает текст, изображения, видео и аудио, а генерирует текст; унифицированная архитектура обрабатывает аудио и визуальные данные без отдельных энкодеров. Модель предназначена для локального запуска на потребительских устройствах, а также для серверов и рабочих станций. Модель подходит для диалога, генерации и анализа текста, программирования, рассуждений и сценариев с вызовом инструментов. Она может разбирать документы и PDF, распознавать текст и объекты на изображениях, понимать интерфейсы и диаграммы, анализировать видеокадры, распознавать речь и переводить речь в текст на другом языке. Для семейства заявлена поддержка контекста до 256 тыс. токенов и многоязычность; карточка указывает обучение более чем на 140 языках. Ограничения конкретной версии в предоставленных материалах подробно не описаны.

Карточка модели ArchiveStudio/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.