I.6Перевод и языковая адаптация

ARIA 70B V2 — это большая языковая модель в формате GGUF, разработанная Faradaylab и квантизированная TheBloke. Репозиторий содержит варианты модели для запуска через llama.cpp и совместимые интерфейсы и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, Faraday.dev, ctransformers и llama-cpp-python. Исходная модель доступна в формате PyTorch FP16, а также существуют варианты AWQ и GPTQ. Модель основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев, ролевого общения, образовательных задач и, согласно метаданным, работы с кодом. Заявлены английский и французский языки. Для общения используется шаблон Llama-2-Chat с системными инструкциями о полезных, безопасных и непредвзятых ответах. Размер модели — 70B параметров; сведения о длине контекста и поддержке дополнительных модальностей в README не указаны. Ключевое преимущество этой версии — поддержка нескольких уровней 2-, 3-, 4-, 5-, 6- и 8-битного квантования, позволяющая запускать модель с использованием CPU и GPU и выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают высокие аппаратные требования для 70B-модели, возможное снижение качества из-за квантования и отсутствие подтверждённых характеристик производительности. Указанная лицензия — llama2.

Карточка модели Edge0/Audio8-ASR-0.1B-onnx-runtime на Hugging Face совпадает с карточкой Audio8/Audio8-ASR-0.1B-onnx-runtime, поэтому описание составлено по ней. Audio8-ASR-0.1B ONNX Runtime — локальный пакет распознавания речи, связанный с основной моделью Audio8-ASR-0.1B. Он включает ONNX-графы и средства инференса через ONNX Runtime, а также веб-интерфейс, локальный HTTP API и CLI для транскрибирования аудиофайлов. Модель автоматически определяет язык речи; заявлена поддержка английского, китайского, кантонского, французского, японского, немецкого и корейского языков. Пакет содержит варианты графов декодера fp32, int8 и int4, а аудиобашни — fp32 и int8. По умолчанию используются int8 для декодера и аудиобашни; есть опциональное усиление заданных ключевых слов при декодировании. Репозиторий предназначен для локального инференса на CPU через ONNX Runtime; для GPU требуется совместимый пакет ONNX Runtime GPU и доступный провайдер. Для работы аудио преобразуется в моно и передискретизируется до 16 кГц. Runtime обрезает аудио длиннее 30 секунд, а контекст декодера ограничен 512 токенами. Сильное усиление ключевых слов может приводить к ошибочным вставкам или повторам. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но ограничивающая коммерческое применение.

Beetle-FineWeb2-24B/beetle-bilingual-balanced-b1-fineweb-ita-eng — генеративная языковая модель для создания текста на основе заданного контекста. Модель опубликована на Hugging Face и предназначена для использования с библиотекой Transformers; по названию относится к семейству Beetle-FineWeb2 и имеет размер 24B параметров. В метаданных указан pipeline text-generation и тег pico_decoder. По названию модель ориентирована на двуязычные сценарии с итальянским и английским языками, включая продолжение текста, генерацию ответов и подготовку черновиков. README содержит автоматически созданную карточку без сведений о разработчике, лицензии, обучающих данных, оценках, контексте и специальных ограничениях, поэтому перед продуктивным применением необходимы самостоятельные проверки качества, безопасности и совместимости.

Bielik-11B-v2.3-Instruct — текстовая генеративная модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это плотная авторегрессионная модель-декодер архитектуры Mistral, предназначенная для диалогов и выполнения инструкций; контекст составляет до 32 768 токенов. Модель создана преимущественно для работы на польском языке: она понимает запросы и генерирует ответы, а также подходит для разнообразных языковых задач. Версия v2.3 получена линейным слиянием трёх инструкционно дообученных моделей Bielik-11B-v2.0, v2.1 и v2.2 с помощью mergekit. Модель распространяется под лицензией Apache 2.0. Разработчики отмечают, что ответы могут содержать фактические ошибки, предвзятые или оскорбительные формулировки. У модели нет встроенных механизмов модерации, поэтому её ответы требуют проверки, особенно при использовании в сценариях с требованиями к безопасности.

keyfan/bloomz-rlhf — экспериментальная чат-модель на архитектуре BLOOM, созданная как попытка воспроизвести конвейер обучения с подкреплением на основе отзывов людей (RLHF). В качестве базовой модели использована bigscience/bloomz-7b1-mt; модель содержит около 9,1 млрд параметров и поддерживает контекст до 2048 токенов. Модель прошла supervised fine-tuning на наборах диалоговых и инструкционных данных, затем обучение reward model и этап reinforcement learning с использованием trlx. Она предназначена для генерации ответов в диалоге, выполнения инструкций, суммаризации, вопросов и ответов, перефразирования и генерации текста. В README приведён результат оценки на китайском наборе BELLE; языки карточки — китайский и английский. Это попытка воспроизведения RLHF, поэтому приведённые оценки не гарантируют качество на других задачах и языках. Лицензия — BigScience BLOOM RAIL 1.0; перед применением следует учитывать её условия и ограничения.

Brezn3 — объединённая чат-модель на архитектуре Mistral, созданная Johann Hartmann с помощью mergekit и метода DARE TIES. В качестве базовой модели использована LeoLM/leo-mistral-hessianai-7b-chat; в объединение также вошли WestSeverus-7B-DPO-v2, Wiedervereinigung-7b-dpo-laser и openchat-3.5-0106-laser. Модель предназначена для генерации текста и диалогов. Она содержит 7,1 млрд параметров, принимает текст и имеет контекстное окно 32 768 токенов. По описанию базовой модели, модель рассчитана прежде всего на немецкий и английский языки. В карточке указаны форматы Transformers и safetensors. Лицензия и отдельные сведения о качестве в предоставленных данных не приведены. Как и другие объединённые языковые модели, Brezn3 может генерировать неточные или вымышленные ответы; качество конкретных задач следует оценивать на собственных примерах.

Модель 1Developer/cali-whisper-tiny.en-drop-005-production — дообученная версия Whisper tiny.en, созданная на основе 1Developer/cali-whisper-tiny.en-drop-004-production и обученная на датасете audiofolder. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. В карточке приведены результаты оценки: loss 0,0002 и WER 0,0; этих значений недостаточно, чтобы судить о качестве на других данных. Используются архитектура Whisper и библиотека Transformers, веса представлены в формате safetensors. Лицензия — Apache-2.0.

calme-3.2-instruct-78b-GGUF — это квантизированная версия инструкционной языковой модели calme-3.2-instruct-78b, разработанной MaziyarPanahi и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях на базе llama.cpp и LM Studio. В README указана поддержка английского языка и шаблон чата с ролями system, user и assistant. Модель основана на Qwen2.5-72B-Instruct, но имеет заявленный размер 78B параметров. Это текстовая модель без заявленной поддержки изображений или других модальностей. Доступны варианты квантизации от Q2_K до Q8_0 с размером файлов примерно от 31,85 до 82,85 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые; более компактные варианты экономят память, но могут снижать качество. Длина контекста в предоставленных данных не указана. Сильная сторона модели — широкий выбор квантизаций для локального запуска и использование imatrix-квантизации, направленной на сохранение качества. Ограничения включают высокие требования к оперативной или видеопамяти, снижение качества в низкобитных вариантах и отсутствие сведений о результатах оценки. Лицензия обозначена как other с ссылкой на лицензию Qwen/Qwen2.5-72B-Instruct; перед использованием необходимо учитывать условия этой лицензии.

Cohere Transcribe — открытая модель распознавания речи с аудиовходом и текстовым выходом, разработанная Cohere и Cohere Labs. Это специализированная плотная модель архитектуры Cohere ASR размером 2 млрд параметров, обученная с нуля для эффективной транскрипции. Она поддерживает 14 языков: арабский, немецкий, греческий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, вьетнамский и китайский. Модель доступна через Transformers и подходит для локального распознавания, а для онлайн-сервинга в README рекомендуется vLLM. По данным разработчиков, модель обеспечивает высокую точность транскрипции на поддерживаемых языках и может работать до трёх раз быстрее других специализированных ASR-моделей сопоставимого размера. Лучше всего она работает с аудио на одном заранее выбранном языке: автоматического определения языка нет, а переключение языков в речи обрабатывается непоследовательно. Модель не формирует временные метки и не выполняет диаризацию; на тишине и фоновых звуках может выдавать галлюцинации, поэтому для таких записей полезен предварительный VAD или шумовой порог. Лицензия — Apache-2.0.

Experiment28M7_Strangemerges_32Ogno — объединённая авторами репозитория MaziyarPanahi модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекст модели составляет до 32 768 токенов. Модель объединяет automerger/Experiment28M7-7B и automerger/Strangemerges_32Ogno-7B. Веса доступны в формате safetensors, лицензия — Apache-2.0. Сведения о специальных предметных областях или дополнительных возможностях не приведены.

Модель jonatasgrosman/exp_w2v2t_ru_unispeech-sat_s423 — версия UniSpeech-SAT Large, дообученная для автоматического распознавания русской речи. Её разработчик дообучил microsoft/unispeech-sat-large с помощью инструмента HuggingSound на обучающей части Common Voice 7.0 для русского языка. Модель принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст. Она предназначена для транскрибирования русской речи в задачах распознавания голосовых записей. Веса опубликованы в формате PyTorch; размер модели — около 402,7 млн параметров. Модель распространяется по лицензии Apache-2.0. Её обучение на Common Voice 7.0 ограничивает основания для ожидания качества на других языках, условиях записи и типах речи; перед использованием в таких сценариях качество следует проверить.

Gemma2-Snowflakes-9B — плотная языковая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная автором репозитория с помощью слияния моделей методом TIES через mergekit. Базой слияния послужила mergekit-community/Tigers-Abliterated-9B; также использованы модели EZO-Common, EZO-Humanities, G2-9B-Aletheia, gemma2-9B-sunfall, SahabatAI-Lion и Gemma-2-Ataraxy. Модель предназначена для генерации текста и диалоговых ответов; заявленное контекстное окно — 8192 токена. В метаданных указаны английский и японский языки, а также возможность чата. Репозиторий использует формат safetensors и библиотеку Transformers. Сведений о лицензии в предоставленных данных нет.

Gigantes-v1-gemma2-9b-it — объединённая модель для генерации текста и диалогов, созданная автором репозитория с помощью mergekit на основе нескольких инструктивных моделей Gemma 2. В состав входят модели для японского, немецкого, арабского и английского языков; автор рассчитывал улучшить рассуждения и усложнить генерацию английского текста. Модель имеет плотную архитектуру Gemma 2 с 9 млрд параметров и контекстом 8192 токена. Модель предназначена для диалоговых сценариев и генерации текста. Репозиторий содержит веса в формате safetensors. Лицензия — Gemma; её условия следует учитывать при использовании и распространении модели.

Это GGUF-квантизованная версия мультимодальной инструкционной модели google/gemma-4-26B-A4B-it, разработанной Google и подготовленной в форматах GGUF автором bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций. Базовая модель имеет размер 26B и обозначение A4B, однако README не раскрывает подробности её архитектуры. Модель предназначена для диалогового применения и обработки задач, соответствующих режиму image-text-to-text, то есть может работать с текстом и изображениями. Она подходит для локального запуска через llama.cpp, LM Studio, Jan AI, KoboldCpp, Text Generation Web UI и другие совместимые инструменты. В README приведён специальный шаблон запросов и отмечены обновления шаблона чата и исправления совместимости. Сильная сторона сборки — широкий выбор уровней квантизации, позволяющий выбирать между качеством и требованиями к памяти: наиболее качественными названы Q6_K_L, Q6_K, Q5 и Q4 варианты, а Q4_K_M рекомендован как типичный компромисс. Более компактные варианты экономят память, но могут заметно уступать по качеству. Языки, размер контекстного окна, точные характеристики мультимодальности и требования к оборудованию в README не указаны. Распространение осуществляется по лицензии Apache-2.0; для самой базовой модели также указана отдельная лицензия Gemma 4.

ibm-granite/granite-4.2-8b-nvfp4 — это версия модели Granite-4.2-8B в формате NVFP4, разработанная IBM. Репозиторий основан на базовой модели ibm-granite/granite-4.2-8b и предназначен для использования с библиотекой Transformers. Из доступных данных известно, что модель относится к языковым моделям и имеет размер 8 миллиардов параметров в базовой версии. Формат NVFP4 ориентирован на более компактное представление модели, однако конкретные сведения о поддерживаемых языках, архитектуре, длине контекста, модальностях, целевых сценариях и результатах оценки в карточке не приведены. Модель может быть полезна как оптимизированное представление Granite-4.2-8B для задач, где важны совместимость с Transformers и снижение требований к хранению или вычислениям, но преимущества и ограничения NVFP4 для конкретного оборудования не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели framadhita/INT8-nemotron-3.5-asr-streaming-0.6b на Hugging Face совпадает с карточкой Aliados/nemotron-3.5-asr-streaming-0.6b, поэтому описание составлено по ней. Nemotron 3.5 ASR — разработанная NVIDIA многоязычная модель автоматического распознавания речи на 600 млн параметров. Она предназначена для потоковой транскрибации с низкой задержкой и пакетной обработки аудио; доступна через NeMo и Transformers, а веса представлены в формате safetensors. Архитектура Cache-Aware FastConformer-RNNT использует кэш контекста, чтобы обрабатывать новые аудиофрагменты без повторных вычислений. Размер фрагментов можно настраивать от 80 до 1120 мс; модель расставляет пунктуацию и заглавные буквы, а при режиме auto может определять язык речи и добавлять языковую метку к транскрипту. Модель поддерживает 40 языковых локалей: для 32 заявлена транскрибация без дополнительной адаптации, а для восьми требуется дообучение на данных целевого домена. Среди языков есть русский, английский, испанский, французский, немецкий, арабский, китайский, японский и другие. Карточка указывает готовность к коммерческому использованию, однако метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Для английской речи автор рекомендует отдельную англоязычную модель Nemotron ASR Streaming.

Это GGUF-квантизированная версия языковой модели OREAL-32B, разработанной internlm и опубликованной в виде квантований пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В качестве исходной модели указана internlm/OREAL-32B, а для квантования использован llama.cpp b4688 с методом imatrix и набором данных internlm/OREAL-RL-Prompts. Модель имеет размер 32B параметров; в README не указаны её архитектурные детали, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты GGUF с квантованием от Q8_0 до Q2_K и IQ2/IQ3/IQ4, размером примерно от 11 до 35 ГБ. Более высокие уровни квантования обеспечивают лучшее качество, но требуют больше памяти; варианты Q4_K_M, Q5, Q6 и Q8_0 описаны как качественные, а Q2 и Q3 — как более экономичные, но с заметным снижением качества. Основные преимущества — возможность локального запуска, широкий выбор компромиссов между качеством и потреблением памяти, а также совместимость с распространёнными инструментами llama.cpp. Ограничения связаны с потерями качества при низком уровне квантования и значительными требованиями к памяти для крупных вариантов. Лицензия указана как Apache-2.0.

Kosmos-8B-v1 — языковая модель Khetterman, созданная слиянием 14 моделей с помощью mergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста, чатов и творческих ролевых диалогов; в метаданных указана поддержка английского и русского языков. Нативная длина контекста — 8192 токена. Модель объединяет варианты Llama 3 и Llama 3.1, в том числе русскоязычную Saiga и модели для творческого общения. Доступна в формате safetensors и использует библиотеку Transformers. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

M7Yamshadowexperiment28_Experiment26Strangemerges_32 — объединённая текстовая модель семейства Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Strangemerges_32-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; веса представлены в формате safetensors. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель можно рассматривать как универсальную генеративную модель. Лицензия — Apache-2.0.

MeliodasPercival_01_YamExperiment28 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamExperiment28-7B. Она предназначена для генерации текста и диалогов, а контекст поддерживает до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает специальные предметные области или ограничения качества; применимость следует оценивать на задачах пользователя.

MiniMax-M2.1-GGUF — это квантизированная версия языковой модели MiniMax-M2.1, разработанной MiniMaxAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В репозитории доступны варианты в формате GGUF с уровнями квантизации от Q8_0 до Q2_K и IQ-квантами. Размер файлов составляет примерно от 79,82 до 243,14 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и Q4_K_S отмечены как рекомендуемые, тогда как некоторые Q3- и Q2-варианты имеют заметно более низкое качество. Поддерживаемые языки, архитектура исходной модели, размер контекста и мультимодальные возможности в README не указаны. Основные преимущества — широкий выбор квантизаций, возможность локального запуска и оптимизация imatrix-калибровкой. Ограничениями являются очень большой размер файлов и компромисс между требованиями к памяти и качеством генерации; низкобитные варианты могут давать существенно худшие результаты. Указана лицензия modified-MIT; подробные условия приведены в лицензии исходной модели MiniMax-M2.1.

SillyTilly/mistralai_Mistral-Nemo-Base-2407 — копия предварительно обученной языковой модели Mistral-Nemo-Base-2407, разработанной Mistral AI совместно с NVIDIA. Это плотный трансформер MistralForCausalLM с 12,1 млрд параметров, 40 слоями и групповой обработкой ключей и значений (GQA). Модель предназначена для генерации текста и может служить базой для адаптации под конкретные задачи; README также описывает её как замену Mistral 7B. Модель обучена на многоязычных данных и коде. В README заявлено контекстное окно 128 тыс. токенов, тогда как метаданные каталога указывают 1 024 000 токенов; это расхождение не позволяет однозначно определить поддерживаемую длину контекста. Указаны английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Репозиторий создан 18 июля 2024 года и содержит веса safetensors; лицензия — Apache 2.0. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев или специализированных задач может потребоваться дообучение и подходящая обвязка. В README отмечено отсутствие механизмов модерации; качество генераций и следование инструкциям не гарантируются.

OpenASR/moss-transcribe-diarize — модель MOSS-Transcribe-Diarize, разработанная командой OpenMOSS-Team и адаптированная OpenASR для локального запуска. Она объединяет автоматическое распознавание речи и диаризацию говорящих в одном проходе: формирует расшифровку, определяет говорящих и указывает временные интервалы их реплик. Модель предназначена для обработки аудиозаписей встреч, интервью, разговоров и других многоголосых сценариев, где важно понимать, кто и когда говорил. Модель содержит около 0,9 млрд параметров. Её архитектура сочетает аудиоэнкодер масштаба Whisper Medium, адаптер на базе MLP и LayerNorm и декодер масштаба Qwen3-0.6B. Основной фокус — китайский и английский языки; также заявлена поддержка ещё более 15 языков. Контекстное окно в README не указано. Для OpenASR доступны варианты fp16, q8_0 и q4_k в формате .oasr, позволяющие выбирать между качеством, размером и требованиями к памяти. Заявлены показатели 2,52% CER для китайского и 2,23% WER для английского на фиксированных оценочных наборах OpenASR. К сильным сторонам относятся совместная транскрипция и диаризация без отдельного конвейера, локальная работа на CPU и GPU без Python во время инференса и несколько уровней квантования. Ограничения включают отсутствие подробных данных о качестве на других языках и неуказанный контекст; приведённые метрики не следует автоматически распространять на любые аудиозаписи. Распространение выполняется по лицензии Apache-2.0, унаследованной от исходной модели; OpenASR выполняет конвертацию формата, квантование и адаптацию для локального инференса.

Multilingual-mistral — языковая модель для генерации текста и диалогов, созданная автором gagan3012. Это модель архитектуры Mixtral с механизмом смеси экспертов (MoE), полученная объединением моделей через mergekit. В состав объединения входят OpenChat, Zefiro, Starstreak, Mistral Arabic DPO, KoMT, OpenBuddy, Open Aditi и SauerkrautLM. Модель предназначена для генерации текста и общения в многоязычных сценариях. В карточке указаны размер 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Метаданные отмечают поддержку чата. Название и набор базовых моделей указывают на мультиязычную направленность, однако конкретный перечень поддерживаемых языков не приведён.

NeuralGanesha-7b — объединённая языковая модель на архитектуре Mistral, опубликованная Kukedlc. Она создана методом slerp из Kukedlc/SomeModelsMerge-7b и Kukedlc/MyModelsMerge-7b с помощью LazyMergekit и предназначена для генерации текста на основе текстового запроса. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Доступна по лицензии Apache-2.0. README не описывает специализацию по языкам или предметным областям, поэтому модель можно характеризовать как генеративную общего назначения.

NeuralsirkrishnaShadow_AlloyingotneoyExperiment26 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/AlloyingotneoyExperiment26-7B. Она предназначена для генерации текста и сценариев, где требуется продолжать или создавать текст по запросу. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Весовые файлы представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

Это квантованная версия языковой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B, преобразованная в формат GGUF для запуска с llama.cpp. Репозиторий создан ijohn07; исходная модель — nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Модель предназначена для генерации текста и диалогового использования. Согласно карточке базовой модели из каталога, исходная модель подходит для диалога, рассуждений, оценки и последующей адаптации под пользовательские задачи. Карточка этой версии описывает запуск через llama.cpp; указанные в метаданных языки — английский, испанский, французский, немецкий, итальянский и японский. Лицензия указана как other, поэтому условия использования следует сверять с карточкой исходной модели.

Карточка модели SAIFIINDUSTRIES/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-noMTP-GGUF на Hugging Face совпадает с карточкой waseigo/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-noMTP-GGUF, поэтому описание составлено по ней. Это конвертированная в GGUF версия NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4, подготовленная автором репозитория для запуска через llama.cpp. Из конвертации исключены MTP-слои; веса сохранены в автоматически выбранном формате исходной модели. Модель предназначена для генерации текста и диалогового использования. Автор сообщает, что она запускалась на двух видеокартах RTX 5060 Ti по 16 ГБ, с контекстом до 1 048 576 токенов и квантизацией KV-кэша q8_0; по его оценке, для этого не требуется выгружать экспертные слои в оперативную память. Поддерживаемые языки по карточке: английский, испанский, французский, немецкий, итальянский и японский. Это конверсия исходной модели NVIDIA в GGUF для llama.cpp, а не самостоятельное дообучение; базовая модель — nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4. Репозиторий указывает лицензию «other», поэтому перед использованием следует проверить условия исходной модели и репозитория.

OpenBuddy — мультиязычная чат-модель, созданная на основе Meta Llama 3.1 8B Instruct. Она предназначена для диалогов и генерации ответов на английском и китайском языках; README также рекомендует использовать быструю реализацию токенизатора Transformers для корректной работы специальных токенов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста. Репозиторий содержит веса в формате safetensors; лицензия указана как other, а README отсылает к условиям использования и Acceptable Use Policy OpenBuddy. Модель может выдавать ошибочные, вредные или оскорбительные ответы, поэтому её не следует использовать в критических сценариях, связанных с медициной, безопасностью, финансами или правом.

Это мультиязычная модель распознавания речи Microsoft, дообученная на базе openai/whisper-large-v3-turbo для речи на суахили, календжин, кикуйю, луо, масаи и сомали. Она принимает аудио и преобразует его в текст; архитектура Whisper использует трансформерный энкодер-декодер, а размер модели составляет 905,3 млн параметров. Модель предназначена для транскрибации разговорной, учебной и вещательной речи, в том числе в условиях разных акцентов и шума. Дообучение на размеченных парах аудио и текста улучшает распознавание перечисленных языков с ограниченными ресурсами. Метаданные также указывают поддержку языков базовой модели Whisper, включая русский и английский, однако специальное дообучение ориентировано на шесть языков Восточной Африки. Модель не предназначена для понимания смысла речи или принятия решений; точность может различаться между языками, а ошибки и смещения могут наследоваться от Whisper и обучающих данных. Разработчики не рекомендуют коммерческое или реальное применение без дополнительной проверки. Лицензия — MIT.