I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейruT5-base-pls — дообученная модель семейства T5, созданная на основе ai-forever/ruT5-base для упрощения русскоязычного текста. Она принимает сложное предложение и генерирует более простую перефразировку с сохранением смысла; при обучении использовались наборы RuSimpleSentEval и RuAdapt. Модель содержит 123,8 млн параметров, использует архитектуру T5ForConditionalGeneration и принимает текст длиной до 512 токенов. Модель предназначена для упрощения предложений и может применяться для подготовки более доступных формулировок. В карточке приведены метрики BLEU 100,0, SARI 28,699 и FKGL 31,931, однако README предупреждает, что значение BLEU выглядит аномальным, а FKGL необычно высок для упрощённого текста; результаты следует перепроверить на корректной отложенной выборке. Лицензия модели не указана, поэтому условия её использования следует уточнить по лицензиям базовой модели и обучающих данных.
RWKV7-G1k-7.2B-20260930-FLA — базовая языковая модель семейства RWKV-7 «Goose», подготовленная в формате Flash Linear Attention для инференса через Transformers. В карточке указано 7,199 млрд параметров и 32 слоя; метаданные каталога указывают 7,8 млрд параметров. Модель использует рекуррентное состояние фиксированного размера вместо растущего KV-кэша, что позволяет выполнять декодирование с постоянными затратами на токен относительно длины последовательности. Длина контекста — 25 600 токенов. Модель предназначена для генерации текста и диалога в разговорном формате, но не является выровненным по безопасности или дообученным для следования инструкциям ассистентом; выполнение инструкций может быть непоследовательным. В тегах карточки перечислены английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки. Репозиторий предоставляет веса Safetensors и заявляет совместимость с Transformers и FLA. Для запуска рекомендована NVIDIA GPU с поддержкой BF16; CUDA/Triton-генерация не проверялась в указанной локальной валидации. Лицензия — Apache-2.0.
SauerkrautLM-Gemma-7b — языковая модель VAGO solutions и Hyperspace.ai, дообученная на базе google/gemma-7b. Это плотная авторегрессионная модель с 8,2 млрд параметров и контекстом до 8192 токенов, предназначенная для генерации ответов в диалоговом формате на немецком и английском языках. В обучении использовались SFT и DPO, а также методы laser-QLoRA и LaserRMT. Модель подходит для диалоговых помощников, ответов на вопросы и генерации текста общего назначения. В карточке приведены результаты нескольких бенчмарков, однако разработчики отмечают, что модель находится на ранней стадии и может отвечать лениво или странно. Репозиторий содержит веса в формате safetensors и bfloat16. Лицензия указана как gemma-terms-of-use; перед использованием следует учитывать её условия.
SeaPhi3-medium — языковая модель, разработанная Toti Riccardo и представленная организацией SeacomSrl. Она дообучена на базе unsloth/Phi-3-medium-4k-instruct с использованием датасета SeacomSrl/rag-data, переведённого на итальянский язык, поэтому предназначена прежде всего для работы с италоязычными текстами и задачами, где требуется понимание или генерация ответов на итальянском языке. Из известных характеристик следует, что модель унаследовала архитектуру и контекстное окно базовой Phi-3-medium-4k-instruct, однако точный размер модели, число параметров и поддерживаемые модальности в README не указаны. В опубликованной оценке на итальянских наборах данных она получила среднее значение 62,66; отдельные результаты составили 69,35 на hellaswag_it, 49,1 на arc_it, 69,53 на m_mmlu_it и 0,3913 на m_mmlu_pro_it. Эти показатели дают ориентир для сравнительного анализа, но не описывают качество во всех прикладных сценариях. Модель может быть полезна для италоязычного общения, обработки знаний и задач, связанных с retrieval-augmented generation, на которые указывает использованный датасет. Ограничения включают зависимость от качества и охвата италоязычных данных, а также отсутствие в README подробной информации о фактических возможностях, рекомендуемых ресурсах и ограничениях применения. Модель распространяется по лицензии Apache-2.0.
Shi-Ci v3-Robin — ранняя предварительная версия языковой модели серии Shi-Ci от разработчиков, представляющих линейку v3. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 69,5 млрд параметров, предназначенная для генерации текста и диалогового общения. В карточке указана поддержка китайского и английского языков. Модель выпущена в формате safetensors, работает через Transformers и имеет контекстное окно до 131 072 токенов. README отмечает, что это ранний preview; описание «Test 0 of all» не даёт ясных сведений о качестве или результатах оценки. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных версий без соблюдения её условий. Карточка не описывает специальные предметные области или дополнительные возможности помимо генерации текста и чата.
Это GGUF-квантизированная версия языковой модели amoral-cogito-v1-preview-qwen-14B, разработанной soob3123. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к семейству Qwen2 и имеет размер 14 млрд параметров. Указана поддержка английского языка и текстовый режим работы; сведения о мультимодальности, максимальной длине контекста и специализированных задачах в README отсутствуют. Доступны варианты от BF16 до низкоразрядных форматов Q3 и Q4, а также Q5, Q6 и Q8. Более высокие разрядности обычно лучше сохраняют качество, тогда как компактные варианты требуют меньше оперативной памяти. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и оптимизация imatrix, направленная на сохранение качества после сжатия. Ограничения связаны с потерей качества в наиболее компактных вариантах, требованиями к памяти для крупных файлов и отсутствием подробных данных о производительности, области специализации и контекстном окне. Модель распространяется по лицензии Apache-2.0.
MaziyarPanahi/T3qStrangemerges_32-7B-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, созданный на основе automerger/T3qStrangemerges_32-7B. Исходную модель разработал automerger, а квантованную версию подготовил MaziyarPanahi. По названию и тегам модель относится к семейству Mistral и представляет собой результат слияния моделей, однако подробности архитектуры, состава объединённых моделей и методики слияния не указаны. Модель предназначена для локального запуска задач генерации текста с использованием совместимых инструментов, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие приложения и библиотеки, поддерживающие GGUF. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Точный размер модели, поддерживаемые языки, модальности и размер контекста в README не указаны. Сильной стороной является удобство локального инференса и широкая совместимость с экосистемой GGUF, включая GPU-ускорение в ряде клиентов. Ограничения связаны с потерями качества, возможными для квантованных вариантов, а также с отсутствием подробных данных о качестве, тестах и характеристиках исходной модели. В репозитории указана лицензия Apache-2.0.
Ateeqq/Text-Rewriter-Paraphraser — дообученная модель семейства T5 для перефразирования текста. В README указана база T5-Base и обучение на наборе примерно из 430 тысяч примеров, собранном из трёх открытых источников и очищенном перед обучением. Для задачи используется префикс «paraphraser: ». Метаданные указывают архитектуру T5ForConditionalGeneration, 123,8 млн параметров и контекст до 512 токенов; README приводит другое число параметров для базовой модели, поэтому здесь указано значение из метаданных репозитория. Модель предназначена для генерации переформулированных вариантов текста с сохранением смысла и для изменения структуры предложений. В карточке заявлены естественное звучание и фактическая точность, однако приведены только значения потерь на обучении и валидации, без независимой оценки качества. Языки обучения и работы не указаны. Модель опубликована под лицензией Apache-2.0.
Behemoth-X-123B-v2-GGUF — это набор квантизированных версий большой языковой модели Behemoth-X-123B-v2, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Исходная модель содержит 123 млрд параметров; в README не указаны её архитектура, поддерживаемые языки, модальности и размер контекста. Доступны варианты квантизации Q2–Q8 и IQ3–IQ4 размером примерно от 45 до 130 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; наиболее рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Квантизация выполнена с использованием imatrix и llama.cpp. Сильной стороной набора является широкий выбор компромиссов между качеством и требованиями к памяти, включая варианты для систем с ограниченными ресурсами. Ограничения заключаются в очень большом размере модели, снижении качества у низкобитных вариантов и отсутствии в README шаблона промпта: он должен быть уточнён на странице исходной модели. Лицензия в предоставленных данных не указана.
Tiro Qwen3 ASR 1.7B v2 — англоязычная модель распознавания речи, созданная как дообучение Qwen3-ASR-1.7B компанией или автором Tiro. Она предназначена для транскрибации аудио, особенно речи, записанной на расстоянии от микрофона, в реверберационных помещениях и при фоновом шуме. Модель сохраняет общие возможности базовой ASR-системы; в README приведены сравнительные результаты на FFASR, VOiCES, CHiME-4 и открытых тестовых наборах распознавания речи. Модель использует архитектуру Qwen3-ASR плотного типа с тем же числом параметров, что и база Qwen3-ASR-1.7B, и опубликована в формате safetensors с точностью bf16. Метаданные и карточка указывают английский язык. Лицензия — Apache-2.0. README сообщает о лучшем среднем результате на FFASR, но на ближней речи базовая модель немного лучше; результаты отдельных тестов не гарантируют такое же качество на других аудиозаписях.
Harveenchadha/vakyansh-wav2vec2-bengali-bnm-200 — модель автоматического распознавания речи, опубликованная пользователем Harveenchadha в рамках проекта Vakyansh, посвящённого speech-to-text для индийских языков. Она предназначена для преобразования аудиозаписей на бенгальском языке в текст и может использоваться через Transformers как pipeline automatic-speech-recognition или напрямую через AutoModelForCTC. Модель основана на архитектуре wav2vec2 и Wav2Vec2ForCTC. Конфигурация указывает 12 transformer-слоёв, 12 attention heads, hidden size 768, intermediate size 3072 и словарь из 65 токенов бенгальского письма. Ожидаемая частота дискретизации аудио — 16 кГц; входная модальность — речь, выходная — текст на бенгальском языке. Размер файла весов составляет около 378 МБ. Название указывает на обучение на объёме около 200 часов, однако подробности датасета и результаты оценки в карточке модели не приведены. Сильная сторона модели — специализированное распознавание бенгальской речи на основе wav2vec2 с готовой интеграцией в экосистему PyTorch и Transformers. Ограничения включают отсутствие подробной model card, опубликованных метрик качества, описания границ применимости и подтверждённой информации о поддержке других языков или модальностей. Лицензия в доступных материалах репозитория не указана, поэтому условия использования следует уточнять перед применением.
Harveenchadha/vakyansh-wav2vec2-odia-orm-100 — модель автоматического распознавания речи, опубликованная Harveen Singh Chadha в рамках проекта Vakyansh, разработанного для индийских языков с ограниченными ресурсами. Она преобразует аудиозаписи на языке одия в текст и предназначена для систем speech-to-text, транскрибации и голосовых интерфейсов. Модель основана на архитектуре wav2vec2 и реализована для использования с Transformers и PyTorch. В ней около 113,3 млн параметров; она дообучена на 100 часах данных для одия и использует базовую модель CLSRIL-23. Модель поддерживает естественный язык одия (Odia, ISO 639-1: or). Репозиторий Vakyansh распространяется по лицензии MIT; отдельная лицензия в карточке этой модели не указана. Модель ориентирована на распознавание речи на одия и может применяться в офлайн- и серверных ASR-конвейерах. Она специализирована для одного языка, поэтому не предназначена для многоязычной транскрибации без дополнительной модели или дообучения; качество зависит от акустических условий, диктора и близости входных данных к обучающему домену.
VibeVoice-ASR-BitNet — сжатая версия модели VibeVoice-ASR, разработанная участниками Microsoft Research. Это модель автоматического распознавания речи, предназначенная для локальной транскрипции аудио в реальном времени на периферийных устройствах и обычных CPU без GPU. Модель использует VAE-токенизатор и LM-декодер с гетерогенной квантизацией: компоненты представлены в форматах I8_S, I2_S и Q6_K. Размер уменьшен с 4,62 до 1,58 ГБ, а для вычислений применяются оптимизированные SIMD-ядра в рамках ggml для платформ x86 с AVX2 и ARM с NEON. При использовании от трёх потоков достигается коэффициент реального времени менее 1; заявленная скорость выше Whisper.cpp в 1,6–2,3 раза в зависимости от конфигурации. Поддерживаются английский, китайский, французский, итальянский, корейский, португальский и вьетнамский языки, а также другие языки согласно описанию проекта. Сильные стороны модели — компактность, работа на CPU, пригодность для edge-сценариев и низкая задержка. Ограничение — небольшое ухудшение точности по сравнению с исходной VibeVoice-ASR и заметно различающиеся результаты на разных языках и наборах данных; производительность зависит от числа потоков и аппаратных SIMD-инструкций. Проект распространяется по лицензии MIT.
NbAiLab/wav2vec2-large-voxrex-npsc-bokmaal — модель автоматического распознавания речи на базе архитектуры Wav2Vec2 с декодированием CTC. Репозиторий содержит веса PyTorch примерно на 402,7 млн параметров; модель обучена с нуля, а в метаданных указан датасет NbAiLab/NPSC. Для оценки приведены значения loss 0,1311 и WER 0,1038, однако условия оценки не описаны. Модель предназначена для преобразования аудиоречи в текст. Название указывает на норвежский букмол, но README и метаданные не подтверждают язык обучения явно. Репозиторий распространяется по лицензии Apache-2.0. Карточка не содержит подробностей о рекомендуемых сценариях, ограничениях или процедуре обучения.
Konstantin-Bogdanoski/wav2vec2-macedonian-base — модель автоматического распознавания речи на архитектуре Wav2Vec2ForCTC, обученная и дообученная на пользовательском наборе данных для македонского языка. Она преобразует аудио с речью в текст и подходит для транскрибации македонской речи в приложениях распознавания речи. Модель содержит 113,3 млн параметров и доступна в форматах PyTorch и Safetensors для использования с библиотекой Transformers. Модель принимает аудио и выдаёт текстовую транскрипцию. В README для подготовки аудио упоминается частота дискретизации 22050 Гц. Указана лицензия MIT, допускающая свободное использование на её условиях. Заявления README о высокой точности не сопровождаются метриками или описанием тестирования; качество на других языках и акустических условиях не установлено.
krishnateja/wav2vec2-telugu — модель распознавания речи на базе архитектуры wav2vec2, дообученная разработчиком на facebook/wav2vec2-large-xlsr-53 с использованием датасета OpenSLR. Модель преобразует входящую речь на телугу в текст; в метаданных указано 402,7 млн параметров и формат PyTorch. В README приведены результаты оценки: loss 0,2982 и WER 0,2885. Модель подходит для транскрибирования записей и построения систем распознавания речи на телугу. Репозиторий распространяется по лицензии Apache-2.0. Описание не уточняет условия записи аудио и область применимости результатов оценки, поэтому качество на других данных по указанным метрикам определить нельзя.
hyyoka/wav2vec2-xlsr-korean-senior — модель автоматического распознавания речи на базе wav2vec2, созданная дополнительным дообучением fleek/wav2vec-large-xlsr-korean. Она предназначена для транскрибации корейской речи, в частности речи пожилых мужчин и женщин; при обучении использовались записи свободной беседы из набора AIhub. Размер модели составляет 402,7 млн параметров, архитектура — Wav2Vec2ForCTC. Для работы модели требуется аудио с частотой дискретизации 16 кГц. Репозиторий содержит веса в формате PyTorch и распространяется по лицензии Apache-2.0. Карточка не сообщает оценок качества или известных проблем распознавания, поэтому результаты на других типах речи и аудио отдельно не подтверждены.
mlx-community/whisper-base.en-asr-fp16 — англоязычная модель распознавания речи семейства Whisper, преобразованная сообществом mlx-community в формат MLX из openai/whisper-base.en с помощью mlx-audio версии 0.2.10. Она принимает аудио и преобразует речь в текст; предназначена для транскрибации английской речи в приложениях, использующих MLX и mlx-audio. Модель содержит 51,7 млн параметров, а файлы репозитория представлены в формате safetensors. Лицензия — Apache-2.0. Карточка отсылает к описанию исходной модели за дополнительными сведениями. Данные подтверждают английскую специализацию и задачу распознавания речи, но не сообщают длину контекста или ограничения качества.
onnx-community/whisper-small.en_timestamped — модель распознавания речи на основе openai/whisper-small.en, подготовленная сообществом ONNX Community. Репозиторий содержит веса в формате ONNX, совместимые с библиотекой Transformers.js, и предназначен для использования в веб-приложениях и других средах, поддерживающих этот формат. Суффикс timestamped указывает на вариант модели с временными метками, однако подробности о формате и точности этих меток в README не приведены. Модель ориентирована на транскрибацию англоязычной речи. Архитектура, количество параметров, поддерживаемые модальности, размер контекста, точные требования к вычислительным ресурсам и дополнительные характеристики в README не указаны; по названию базовой модели можно определить только принадлежность к варианту Whisper small.en. Лицензия для данного репозитория отдельно не указана. ONNX-веса описаны как временное решение до более широкого распространения WebML; для подготовки веб-совместимых моделей рекомендуется использовать Optimum.
Qwen2.5-32B-Instruct-GPTQ-Int4 — 4-битно квантованная GPTQ-версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Это авторегрессионная causal language model для диалогов, генерации и преобразования текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из которых 31 млрд относятся к неэмбеддинговым, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в attention QKV и GQA с 40 головами для Q и 8 для KV. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная длина контекста — до 131 072 токенов, а максимальная длина генерации — 8192 токена; в текущей конфигурации без дополнительной настройки доступно до 32 768 токенов, а для более длинных входов требуется YaRN. К преимуществам относятся улучшенные способности к программированию и математике, соблюдение инструкций, генерация длинных текстов, обработка таблиц и других структурированных данных, а также меньшие требования к памяти благодаря 4-битной квантованию. К ограничениям относятся возможное снижение качества по сравнению с исходной моделью в формате bfloat16 и потенциальное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0 и предназначена для использования с библиотекой Transformers и совместимыми средствами инференса.
Qwen2.5-14B-Instruct-GPTQ-Int8 — инструкцияно дообученная каузальная языковая модель из серии Qwen2.5, разработанная командой Qwen. Модель предназначена для диалоговых приложений, генерации и обработки текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также формирования структурированных ответов, включая JSON. Поддерживает более 29 языков, среди которых английский, китайский, русский, французский, немецкий, испанский, японский, корейский и арабский. Модель содержит около 14,7 млрд параметров, из которых 13,1 млрд приходятся на параметры без учёта эмбеддингов, и включает 48 слоёв. Архитектура основана на transformers и использует RoPE, SwiGLU, RMSNorm и смещения в Attention QKV; применяется GQA с 40 головами для Q и 8 для KV. Это GPTQ-квантизированная 8-битная версия, что может снизить требования к памяти по сравнению с полноразмерной моделью. Заявленная максимальная длина контекста составляет 131 072 токена, а генерации — 8192 токена; для контекстов свыше 32 768 токенов требуется настройка YaRN, которая может ухудшать производительность на коротких текстах. Модель подходит для локального или серверного развёртывания через Transformers и совместимые инструменты, включая vLLM. Для работы рекомендуется актуальная версия Transformers. Модель распространяется по лицензии Apache-2.0.
Qwen2.5-32B-Instruct-GGUF — языковая instruction-tuned модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для генерации текста, диалоговых сценариев, следования инструкциям, программирования, математических задач, работы со структурированными данными и создания структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе английский, китайский, русский, французский, испанский, немецкий, японский и арабский. Модель представляет собой causal language model в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в Attention QKV. Она содержит 32,5 млрд параметров, из которых 31 млрд — непараметры эмбеддингов, 64 слоя и GQA с 40 головами для Q и 8 для KV. Полная длина контекста GGUF-версии составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, обработка длинных текстов, таблиц и структурированных форматов, а также устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — контекст до 131 072 токенов требует YARN и на данный момент поддерживается только в vLLM; для такого сценария рекомендуется использовать не-GGUF версии. Модель распространяется по лицензии Apache-2.0.
Qwen2.5-32B-Instruct-GPTQ-Int8 — инструкцияно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для генерации текста и диалоговых сценариев, включая ответы на инструкции, написание длинных текстов, программирование, математические задачи, работу со структурированными данными и формирование структурированных ответов, в том числе JSON. Модель содержит около 32,5 млрд параметров, из которых 31 млрд приходятся на непараметрическую часть без эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-внимании; применяется Grouped Query Attention с 40 головами Q и 8 головами KV. Модель поддерживает текстовый ввод и вывод, более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная максимальная длина контекста составляет 131 072 токена, а генерации — 8192 токена; для контекстов свыше 32 768 токенов требуется настройка YaRN. GPTQ-квантизация до 8 бит снижает требования к памяти и подходит для локального или серверного развертывания, однако квантизация может влиять на качество по сравнению с исходной версией в формате bfloat16. При использовании YaRN со статическим коэффициентом масштабирования производительность на коротких текстах может ухудшаться. Для работы рекомендуется актуальная версия библиотеки Transformers, а для длинного контекста — vLLM. Модель распространяется по лицензии Apache-2.0.
alpindale/c4ai-command-r-plus-GPTQ — GPTQ-вариант модели C4AI Command R+, разработанной Cohere и Cohere For AI. Базовая модель представляет собой авторегрессионную языковую модель на оптимизированной архитектуре Transformer с 104 миллиардами параметров и контекстом до 128K токенов. После предварительного обучения она прошла supervised fine-tuning и обучение на предпочтениях для повышения полезности и безопасности ответов. Модель предназначена для генерации текста, рассуждений, суммирования, ответов на вопросы, Retrieval Augmented Generation и многошагового использования инструментов. Она оптимизирована для английского, французского, испанского, итальянского, немецкого, бразильского португальского, японского, корейского, арабского и упрощённого китайского языков; в предобучающие данные также входили русский и другие языки. Входом и выходом служит только текст. Сильные стороны — большой контекст, мультиязычность, поддержка RAG и сложных цепочек вызова инструментов. Ограничения и точные характеристики GPTQ-квантизации в представленном README не указаны. Использование регулируется лицензией CC-BY-NC-4.0 и политикой допустимого использования C4AI.
Карточка модели eyes-dot-ml/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.
Карточка модели mirvo/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.
Это GGUF-квантизированная версия Meta-Llama-3.1-70B-Instruct, разработанная Meta и предназначенная для запуска с llama.cpp. Модель представляет собой авторегрессионную большую языковую модель на базе оптимизированной архитектуры Transformer. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности ответов. Модель работает только с текстом на входе и генерирует многоязычный текст и код. Она предназначена прежде всего для диалоговых ассистентов, генерации и обработки текста, программирования, синтетической генерации данных и дистилляции других моделей. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель содержит 70 млрд параметров, поддерживает Grouped-Query Attention и контекст длиной до 128 тысяч токенов. Данные обучения включают более 15 трлн токенов, срез знаний — декабрь 2023 года. Сильными сторонами являются большой контекст, многоязычный режим, поддержка кода и оптимизация для диалоговых сценариев. Это статическая модель, обученная на офлайн-данных, поэтому она не обладает актуальными знаниями после даты отсечения и может требовать проверки ответов. Репозиторий содержит квантизированный формат GGUF; для полной поддержки необходима llama.cpp версии 5e2727f или новее. Использование регулируется пользовательской коммерческой лицензией Llama 3.1 Community License и применимой Acceptable Use Policy.
Это инструкционно настроенная плотная языковая модель Qwen2.5-72B, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-72B-Instruct. Она предназначена для диалогов, генерации текстов и структурированных ответов, следования инструкциям, программирования и математических задач. Модель построена на архитектуре Qwen2 с причинным языковым моделированием; в метаданных указано 71,5 млрд параметров и контекст до 32 768 токенов. README описывает архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях, а также расширение контекста до 131 072 токенов с YaRN при дополнительной настройке. Модель поддерживает многоязычные сценарии, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Метаданные указывают поддержку чата и интерфейс вызова инструментов. Репозиторий содержит веса safetensors для Transformers; README рекомендует актуальную версию Transformers, а для развёртывания — vLLM. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке модели. Для обработки контекста свыше 32 768 токенов требуется настройка YaRN; постоянный коэффициент масштабирования в vLLM может ухудшить работу на коротких текстах.
unsloth/Qwen2.5-7B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-7B, подготовленная Unsloth на основе Qwen/Qwen2.5-7B-Instruct. Это каузальная текстовая модель для диалогов, следования инструкциям, генерации связных текстов, работы со структурированными данными и JSON, программирования и математических задач. Модель содержит 7,61 млрд параметров, из которых 6,53 млрд — без учёта эмбеддингов, и имеет 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и GQA с 28 головами для Q и 4 для KV. Поддерживается контекст до 131 072 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — 4-битное квантование, позволяющее снизить требования к памяти и упростить локальный запуск, однако квантование может влиять на точность по сравнению с полноточной моделью. Модель рассчитана на текстовые сценарии и не предназначена для обработки изображений или других модальностей. Лицензия — Apache-2.0.
Qwen2.5-7B-Instruct-GPTQ-Int4 — квантизированная 4-битная instruction-tuned языковая модель семейства Qwen2.5, разработанная командой Qwen. Модель предназначена для диалоговых приложений, генерации текста, следования инструкциям, работы со структурированными данными и JSON, а также задач программирования и математики. Она поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, японский, корейский и арабский. Модель является causal language model на архитектуре Transformer с RoPE, SwiGLU, RMSNorm и смещениями в QKV внимания. Она содержит 7,61 млрд параметров, 28 слоёв и использует GQA с 28 головами Q и 4 головами KV. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако исходная конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. Квантизация GPTQ Int4 уменьшает требования к памяти и делает модель более подходящей для локального или эффективного GPU-развёртывания, но может влиять на качество по сравнению с исходной версией в формате bfloat16. Для использования рекомендуется актуальная версия библиотеки Transformers; для длинного контекста рекомендуется vLLM. Модель распространяется по лицензии Apache-2.0.