I.6Перевод и языковая адаптация

zelk12/MT5-Gen3-MAG-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная из двух предварительно обученных моделей с помощью SLERP и mergekit. Разработчик репозитория — zelk12; квантованные файлы указаны как предоставленные @mradermacher. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 9 млрд параметров, использует библиотеку Transformers и поддерживает контекст длиной до 8192 токенов. В репозитории указаны веса safetensors; README также описывает статическую сборку GGUF. Модель объединяет zelk12/MT5-Gen3-MA-gemma-2-S4MT4g2-9B и zelk12/MT5-Gen3-GP-gemma-2-RIv0.1MT4g2-9B методом SLERP. Лицензия в предоставленных данных не указана. Практическое качество и ограничения в карточке не описаны.

NeuralFusion-7b-Dare-Ties — текстовая генеративная модель, созданная Kukedlc путём слияния трёх моделей на основе Mistral с помощью LazyMergekit и метода DARE-TIES. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и языковых задач общего назначения. Приведённые в карточке результаты оценивания включают тесты на рассуждение и здравый смысл, в том числе AI2 Reasoning Challenge и HellaSwag. Весовые файлы доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированной отраслевой настройке или ограничениях качества.

openchat-3.6-8b-20240522-IMat-GGUF — это квантизированная версия языковой модели openchat/openchat-3.6-8b-20240522, подготовленная legraphista в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты llama.cpp. Исходная модель имеет формат BF16 и около 8 миллиардов параметров. Репозиторий предоставляет варианты с разными уровнями квантования — от Q8_0 и Q6_K до Q2_K, а также IQ-кванты. Для ряда вариантов применена IMatrix-квантизация, призванная сохранять качество при уменьшении размера модели; доступны файлы объёмом примерно от 2,99 до 16,07 ГБ. Это позволяет выбирать баланс между требованиями к памяти, скоростью работы и точностью. Модель работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Основные ограничения связаны с потерями качества, возможными при низких уровнях квантования, а также с зависимостью производительности от аппаратного обеспечения и используемого рантайма. Указанная лицензия — llama3. Квантизация выполнена на основе llama.cpp версии b3006; автором квантизированных файлов указан legraphista.

OpenChat v3.2 — языковая модель семейства Llama, разработанная командой OpenChat и дообученная методом supervised fine-tuning на примерно 80 тысячах диалогов ShareGPT. Модель с 12,9 млрд параметров предназначена для генерации текста и диалоговых ответов; максимальная длина контекста составляет 4096 токенов. Модель подходит для чат-ботов, генерации и редактирования текста, ответов на вопросы и создания диалоговых приложений через OpenAI-совместимый API. В README сообщаются результаты AlpacaEval и MT-bench, однако они отражают ограниченный набор сценариев и не гарантируют качество для каждой задачи. OpenChat v3.2 распространяется по лицензии Llama 2 Community License, допускающей коммерческое использование при соблюдении её условий. Модель может ошибаться, галлюцинировать факты, а также испытывать трудности со сложными рассуждениями, математикой и программированием.

Mungert/Qwen3-32B-GGUF — набор GGUF-квантованных вариантов модели Qwen3-32B, подготовленных с помощью llama.cpp. Репозиторий предназначен для локального запуска и инференса текстогенерационной модели, в том числе на системах с ограниченными ресурсами, низким объёмом GPU-памяти, CPU и edge-устройствах. Основной акцент сделан на ультранизкобитной квантовке IQ-DynamicGate с адаптивным распределением точности по слоям в форматах 1–2 бита. Метод сохраняет более высокую точность за счёт использования разных схем квантовки для различных частей модели и защиты embeddings и выходных слоёв. В README приведены результаты для Llama-3-8B-Instruct с контекстом 2048 токенов, однако эти показатели нельзя напрямую считать характеристиками Qwen3-32B. Точные архитектурные параметры, размер контекста, поддерживаемые языки и модальности Qwen3-32B в карточке не указаны. Преимущество набора — существенное снижение требований к памяти при сохранении приемлемого качества, особенно в сценариях, где важна максимальная компактность. Компромиссы включают возможное снижение точности по сравнению с более высокобитными или полноразмерными версиями, а также небольшие накладные расходы на размер и скорость у DynamicGate-вариантов. Модель распространяется по лицензии Apache 2.0.

AbhishekG711 дообучил Qwen3-4B-Instruct-2507 на базе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit. Это плотная языковая модель с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалогового общения; заявлен интерфейс вызова инструментов. В карточке указано, что обучение проводилось с помощью Unsloth и библиотеки TRL. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B-MLX-4bit — это 4-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на компьютерах Apple Silicon. В карточке она обозначена как image-text-to-text, поэтому предназначена для задач преобразования изображений и текста в текстовый ответ. Модель имеет размер 397B-A17B, использует формат 4-bit и рассчитана на локальное выполнение в экосистеме MLX. Ключевые характеристики, включая поддерживаемые языки, размер контекстного окна и точные возможности мультимодального ввода, в README не указаны. Квантование снижает требования к памяти и делает запуск более доступным на совместимом оборудовании, но может сопровождаться потерей точности по сравнению с исходной моделью; также оптимизация ориентирована именно на Apple Silicon. Лицензия — Apache-2.0.

Qwen3.6-27B-Abliterated-Heretic-Uncensored-GGUF — это GGUF-версия модели Qwen3.6-27B, разработанной командой Qwen, с удалённым на уровне весов поведением отказа от ответов. Релиз подготовлен с использованием Heretic-style MPOA pipeline с сохранением магнитуд весов и конвертирован в формат GGUF для запуска в совместимых средах, включая llama.cpp и LM Studio. Модель предназначена для генерации текста, а при подключении соответствующего vision projector также поддерживает работу с изображениями и видео. Модель представляет собой плотную vision-language архитектуру объёмом 27,8 млрд параметров с 64 слоями, hidden size 5120 и гибридным механизмом внимания: три слоя linear attention и один слой full attention в каждой группе из четырёх слоёв. Текстовые GGUF-файлы поставляются в вариантах от Q2_K до Q8_0, включая BF16; для мультимодального режима используются совместимые проекторы mmproj в форматах F16 или BF16. Заявленный контекст запуска в примере составляет 32768 токенов, однако README не указывает гарантированный максимальный размер контекста и список поддерживаемых языков. К сильным сторонам относятся низкое заявленное отклонение от базовой модели по KL divergence (0,0251), широкий выбор уровней квантования и возможность локального мультимодального развертывания. По приведённым проверкам, частота отказов существенно ниже, чем у исходной модели: 1 из 25 и 3 из 100 запросов против 20 из 25 и 92 из 100 соответственно. При этом удаление защитного поведения означает повышенные риски небезопасных или нежелательных ответов, а качество и ресурсоёмкость зависят от выбранного варианта квантования. Релиз распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-Multimodal-NVFP4-MTP-XS — мультимодальная модель для генерации текста, построенная на базе AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16. Модель распространяется в формате NVFP4 с поддержкой ModelOpt и Multi-Token Prediction (MTP), а также рассчитана на использование со speculative decoding и DFlash. В описании заявлены гибридная архитектура внимания с компонентами Mamba и Gated DeltaNet, сохранённые Conv1D-слои и оптимизация для GPU архитектур Blackwell, включая RTX 5090, RTX PRO 6000, B100 и B200. Модель предназначена для генерации текста, мультимодальных сценариев с обработкой изображений и видео, а также высокопроизводительного инференса с инструментами и длинными контекстами. Заявлена поддержка английского, китайского и других многоязычных сценариев. В конфигурации развёртывания указана обработка до четырёх изображений и двух видео в одном запросе, однако точный размер контекстного окна в README не указан. XS-версия имеет наименьший объём и требования к памяти; при этом авторы отмечают, что полноразмерная версия Multimodal-NVFP4-MTP обеспечивает более высокое качество при сопоставимой скорости. К сильным сторонам относятся компактное NVFP4-квантизованное представление, мультимодальность, поддержка MTP и возможность ускорения через внешний DFlash-драфтер. Ограничениями являются более низкое качество XS-версии по сравнению с полной моделью, зависимость от специализированного стека vLLM и аппаратной поддержки Blackwell, а также то, что модель уже считается устаревшей и заменена линейкой Qwen3.8. Лицензия — Apache-2.0.

Модель singulared/Qwen3.8-27B-ROCmFP4-MTP-GGUF представляет собой квантизированную сборку Qwen3.8-27B, опубликованную пользователем или организацией singulared на базе исходной модели Qwen/Qwen3.8-27B и GGUF-версии от ggml-org. Она предназначена для генерации текста и запуска через llama.cpp с поддержкой ROCmFPX, прежде всего на AMD-оборудовании с архитектурой RDNA 3.5, включая Radeon 8060S и платформы Strix Halo. Лицензия — Apache-2.0. В комплект входят несколько вариантов основной модели в формате GGUF с представлением ROCmFP4, а также отдельные MTP-драфтеры разных разрядностей для speculative decoding. Доступны пресеты STRIX, FAST и COHERENT; их размер составляет примерно 13,33–14,41 GiB, а размер драфтеров — около 1,48–2,86 GiB. Архитектура, число параметров 27B и исходные языковые характеристики унаследованы от Qwen3.8-27B, но подробные сведения о поддерживаемых языках, модальностях и максимальном контексте в карточке не указаны. Основное преимущество сборки — сниженное потребление памяти: для FP4 заявлено около 15,6 GiB резидентной памяти против 17,3 GiB у Q4_K_M при сопоставимом декодировании. MTP может ускорять генерацию, однако результат сильно зависит от предсказуемости задачи, глубины draft и версии ROCm; для типичных измерений указана скорость около 27–28 токенов в секунду, а в благоприятных условиях — до примерно 39 токенов в секунду. FP4 ориентирован прежде всего на уменьшение занимаемой памяти, а не на максимальную скорость. Требуется специальная сборка ROCmFPX, поскольку стандартный llama.cpp не поддерживает используемые типы тензоров. FP2-драфтер не рекомендуется из-за резкого падения принятия черновых токенов, а сочетание параметров -ctk q8_0 и -ctv turbo4 может повреждать результаты при длинном контексте.

Qwen3.8-27B-Uncensored-FP8 — модифицированная версия Qwen/Qwen3.8-27B, опубликованная OrcaRouter. Модель прошла abliteration: из неё удалено направление, связанное с отказами в ответах, после чего веса были офлайн квантизированы в block-FP8. Это плотная модель на 27 млрд параметров с гибридной архитектурой Gated DeltaNet и полнослойного внимания, встроенной vision-language башней и MTP-головой для спекулятивного декодирования. Модель предназначена для исследовательских задач, включая интерпретируемость, анализ механизмов отказа, AI safety, red teaming, оценку устойчивости и контролируемые эксперименты. Она поддерживает работу с текстом и изображениями, языки English и Chinese, рассуждение, function calling и контекст до 262 144 токенов. Архитектура включает 64 слоя: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного внимания. Основные линейные веса используют block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, тогда как vision tower, нормы, router, embeddings и lm_head сохранены в BF16. Сильная сторона модели — сохранение возможностей базовой Qwen3.8-27B, включая мультимодальность, инструменты, reasoning, большой контекст и MTP, при совместимости со схемой обслуживания официальной FP8-версии. Главное ограничение — существенное удаление защитного выравнивания: модель может выполнять вредоносные, неэтичные и незаконные запросы и не имеет значимых встроенных защитных механизмов. Поэтому её не следует использовать напрямую в пользовательских или производственных системах без собственных фильтров, модерации и контроля злоупотреблений. Модель распространяется по лицензии Apache 2.0; использование также должно соответствовать применимым законам и условиям лицензии базовой модели.

inferencerlabs/Qwen3.8-Flash-Next-MLX-Q4 — это мультимодальная квантованная версия модели Qwen3.8-Flash-Next, адаптированная для инференса с использованием MLX. README не указывает разработчика исходной модели; опубликованный вариант предоставлен inferencerlabs. Модель поддерживает сценарии image-text-to-text, то есть обработку изображений и текста с генерацией текстового ответа. Модель предназначена для локального запуска, в частности на компьютерах Apple Silicon через приложение Inferencer. В README приведён результат тестирования на M5 Max: около 57,5 токена в секунду при использовании примерно 98,7 GiB памяти для мультимодального инференса. Также указано, что для больших контекстных окон может потребоваться увеличение доступной памяти. Архитектура, количество параметров, точный размер контекста и поддерживаемые языки не указаны. Ключевое преимущество модели — снижение требований к памяти и вычислениям за счёт квантования при сохранении значительной точности. Для варианта с квантованием Q4.5 README указывает точность токенов 91,65% и perplexity 1,33593; эти показатели приведены для оценки квантования и могут не полностью соответствовать варианту Q4 из идентификатора модели. Ограничения включают возможное снижение точности по сравнению с базовой моделью, высокие требования к оперативной памяти для мультимодальной работы и отсутствие в README сведений о лицензии, поэтому условия использования следует уточнять отдельно.

Это GGUF-квантизированная версия модели Qwen3.6-35B-A3B, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для запуска локально через llama.cpp и совместимые приложения, включая LM Studio, koboldcpp, Jan AI и Text Generation Web UI. По метаданным она относится к задачам image-text-to-text, то есть рассчитана на сценарии преобразования изображений и текста в текст, однако подробности о поддерживаемых языках и возможностях мультимодального ввода в карточке не приведены. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, IQ4 и Q3 с размером файлов примерно от 17 до 71 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; для ряда вариантов заявлено высокое качество при меньшем потреблении памяти. Поддерживаются MTP-слои, которые можно задействовать через параметр draft-mtp при наличии соответствующей поддержки в используемом ПО. Точные сведения об архитектуре, размере активируемой части MoE, длине контекста и языках отсутствуют, поэтому эти характеристики нельзя подтвердить по README. Модель распространяется по лицензии Apache 2.0.

Карточка модели Lazarus-Ai/ReAligned-Qwen3.5-4B на Hugging Face совпадает с карточкой Lazarus-Ai/ReAligned-Qwen3.5-27B, поэтому описание составлено по ней. ReAligned-Qwen3.5-27B — диалоговая модель семейства Qwen3.5, созданная Эриком Хартфордом из LazarusAI на базе Qwen/Qwen3.5-27B. Модель дообучена в два этапа: supervised fine-tuning и GRPO с оценкой ReAligned-Classifier; обучение использует LoRA. Цель — уменьшить отказы и государственно-ориентированную подачу ответов на политические и исторические темы, связанные с Китаем, сохранив общие возможности базовой модели. Модель предназначена для чата, суммаризации, программирования, рассуждений, многоязычного использования, а также исследования идеологической предвзятости, отказов и рамки повествования. Архитектура — плотная Qwen3.5 с классом Qwen3_5ForConditionalGeneration; метаданные указывают мультимодальную основу с поддержкой текста и изображений. Карточка не сообщает размер параметров и длину контекста именно этого чекпойнта. Лицензия — Apache-2.0. Снижение цензурных отказов не гарантирует точность фактов; возможны чрезмерная коррекция в сторону западной институциональной рамки, пробелы в знаниях и различия поведения между языками и формулировками. Авторы рекомендуют независимую оценку и собственные меры модерации при развёртывании.

RemixLlama3-8B — чат-модель для генерации текста, созданная слиянием моделей Llama 3 с помощью mergekit. В состав слияния входят RLHFlow/LLaMA3-iterative-DPO-final, failspy/Meta-Llama-3-8B-Instruct-abliterated-v3 и TIGER-Lab/MAmmoTH2-8B-Plus; в конфигурации указаны метод model_stock и точность bfloat16. Архитектура — плотная автрорегрессионная LlamaForCausalLM с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Базовая модель с изменёнными весами ориентирована на снижение склонности к отказам, а компоненты слияния включают модель, обученную методом DPO, и модель MAmmoTH2. Репозиторий использует формат safetensors. Указанная лицензия — llama3.

Salamandra-VL-7B-2512 — мультимодальная модель семейства Salamandra от BSC-LT, построенная на архитектуре LLaVA OneVision. Она объединяет языковую модель Salamandra 7B, настроенную на следование инструкциям, с визуальным энкодером SigLIP 2 Giant и двухслойным MLP-проектором. Модель обучали на мультиязычных инструкциях, включая коллекцию Aya, и визуальных данных PixMo для детального понимания изображений, привязки объектов и подсчёта. Модель предназначена для диалога по изображениям и тексту: она отвечает на вопросы о содержимом изображений, описывает сцены, считает объекты, интерпретирует диаграммы и таблицы и помогает разбирать документы. Карточка отмечает фокус на европейских языках; метаданные перечисляют поддержку многих языков, включая русский. Модель также может отвечать на текстовые инструкции и вопросы по коду. В карточке приведены улучшения относительно предыдущей версии на ряде визуальных бенчмарков, в том числе AI2D, ChartQA и CountBenchQA. Это ранний прототип без RLHF-выравнивания и полной оценки когнитивных и социальных предубеждений; модель может выдавать вредные или неуместные ответы. Лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с файлами репозитория.

SenseVoiceSmall — компактная мультиязычная модель понимания речи из экосистемы FunASR, разработанная командой FunAudioLLM. Она распознаёт речь, определяет язык и эмоции говорящего, а также обнаруживает звуковые события. Для каталога Hugging Face указана основная задача automatic-speech-recognition; модель принимает аудио и формирует текст с результатами распознавания. Модель использует сквозную неавторегрессионную архитектуру и предназначена для распознавания речи с низкой задержкой, в том числе в потоках и на периферийных устройствах. В README заявлена поддержка более 50 языков; среди языков, названных для версии Small, — китайский, кантонский, английский, японский и корейский. Авторы сообщают о высокой скорости вывода и результатах, превосходящих Whisper в ряде сравнений, особенно для китайского и кантонского. Помимо транскрипции, модель умеет распознавать эмоции и распространённые звуковые события, однако классификация событий уступает специализированным моделям. В карточке Hugging Face указана лицензия other; конкретные условия использования следует сверить с лицензией репозитория. Репозиторий также описывает экспортные и развёртываемые варианты, но опубликованные здесь метаданные указывают формат PyTorch.

Tess-10.7B-v1.5 — универсальная большая языковая модель семейства Tess, разработанная Miquiztli. Она основана на SOLAR-10.7B и предназначена для генерации текста в диалоговом формате с ролями SYSTEM, USER и ASSISTANT. Модель подходит для ответов на вопросы, ведения диалога и других общих задач генерации текста. Модель использует плотную архитектуру LlamaForCausalLM, содержит 10,6 млрд параметров и имеет контекст длиной 4096 токенов. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. В README указано, что для версии Tess-10.7B-v1.5b опубликованы оптимизации гиперпараметров.

Tess-3-Mistral-Large-2-123B-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Large-2-123B, разработанной migtissera и подготовленной пользователем bartowski. Модель предназначена для локального запуска и генерации текста через llama.cpp, в том числе в LM Studio. В README приведён формат диалога с системными, пользовательскими и ассистентскими сообщениями. Это крупная модель на 123 млрд параметров; точная архитектура, поддерживаемые языки и размер контекста в README не указаны. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS, Q3, Q2 и IQ1 с размером файлов примерно от 28,39 до 130,28 ГБ. Варианты Q6_K, Q5_K_M и Q4_K_M отмечены как рекомендуемые благодаря сочетанию качества и требований к памяти, тогда как низкоразрядные варианты экономят место, но заметно уступают в качестве. Квантизации выполнены с использованием imatrix и llama.cpp версии b3509; для отдельных вариантов embedding- и output-веса сохранены в Q8_0, что потенциально может улучшать качество. Основные ограничения — очень высокие требования к оперативной памяти или видеопамяти и снижение качества при агрессивном квантовании. Модель распространяется по лицензии Mistral AI Research Licence 0.1; в README указана лицензия other и ссылка на её текст.

ThinkingCap-Qwen3.6-27B-heretic-GGUF — набор GGUF-квантизаций модели ThinkingCap-Qwen3.6-27B-heretic, подготовленный egibson с использованием llama.cpp. Исходная модель представляет собой декензурированную версию ThinkingCap-Qwen3.6-27B от bottlecapai, созданную с помощью Heretic. Архитектура основана на Qwen3.6, размер — 27 млрд параметров; точные сведения о языках, длине контекста и поддерживаемых модальностях в README не указаны. Модель предназначена для локального запуска через совместимые среды, включая llama.cpp, с выбором между вариантами от f16 до низкобитных Q- и IQ-квантизаций. Доступны версии объёмом примерно от 10 до 50,1 ГБ; Q4_K_M рекомендована как сбалансированный вариант по качеству и размеру, а IQ-квантизации используют importance matrix, что может улучшать качество при сопоставимом размере. Более точные варианты обеспечивают максимальную близость к исходным весам, тогда как версии с меньшей разрядностью рассчитаны на оборудование с ограниченной памятью и сильнее теряют качество. В экспортированных файлах исключена MTP-head: это устраняет ошибку конвертера GGUF и не мешает обычной работе модели, но исключает возможность соответствующей оптимизации speculative decoding. Модель распространяется по лицензии Apache-2.0. README не содержит результатов тестирования, поэтому фактическое качество, скорость и пригодность для конкретных задач следует оценивать в целевой среде.

Модель voidful/wav2vec2-xlsr-multilingual-56 разработана voidful для автоматического распознавания речи. Это дообученная версия facebook/wav2vec2-large-xlsr-53, обученная на данных Common Voice для распознавания речи на 56 языках. Репозиторий содержит веса PyTorch и safetensors; для входной речи рекомендуется частота дискретизации 16 кГц. Модель подходит для транскрибирования аудиозаписей и построения систем распознавания речи на нескольких языках. В карточке приведены результаты WER и CER для части языков, но также указаны значительные риски смещений: предсказания могут воспроизводить вредные стереотипы. Лицензия — Apache-2.0.

ajikadev/wavlm-salt-eng — дообученная модель распознавания английской речи на основе microsoft/wavlm-base. Это плотная модель семейства WavLM с архитектурой WavLMForCTC, содержащая 113,3 млн параметров; она принимает аудио и преобразует речь в текст. Модель дообучена на многоголосом англоязычном наборе SUNBIRD/SALT - MULTISPEAKER-ENG. На оценочном наборе указаны loss 0,2244 и WER 0,2118. Модель подходит для транскрибации английской речи, в том числе записей с несколькими говорящими. Эти результаты относятся к указанному набору данных и сами по себе не гарантируют такое же качество на других типах аудио. Лицензия в предоставленных сведениях не указана.

nlp-mg/whisper-mg — дообученная модель распознавания речи на базе openai/whisper-small, опубликованная под лицензией Apache-2.0. Она предназначена для преобразования аудио в текст; в README приведены результаты оценки: loss 0.1375 и WER 7.0732. Модель использует архитектуру WhisperForConditionalGeneration и содержит 153,1 млн параметров. Метаданные указывают поддержку аудиовхода. README не сообщает, на каких языках и данных проводилось дообучение, поэтому нельзя уточнить специализацию модели или качество распознавания для конкретного языка. Прикладные ограничения сверх этих сведений не описаны.

GLM-4.5-Air-GGUF — это набор квантизированных версий языковой модели GLM-4.5-Air, разработанной zai-org и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b6085 и метода imatrix с отдельным датасетом. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В README не указаны архитектура исходной модели, количество параметров, поддерживаемые языки, размер контекста или дополнительные модальности, поэтому эти характеристики нельзя подтвердить. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 39,62 до 117,46 ГБ; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и ряд других вариантов отмечены как рекомендуемые. Более компактные варианты экономят память, но снижают качество, а Q2 и IQ1-варианты описаны как низкокачественные или очень низкокачественные. Для модели не найден формат промпта, его следует уточнять на странице исходной модели. Лицензия в README не указана.

Apodex-1.1-mini-GGUF — это квантизированная GGUF-версия модели Apodex-1.1-mini, подготовленная bartowski на основе оригинальной модели apodex с использованием llama.cpp. Модель содержит около 36 млрд параметров и предназначена для агентских сценариев и задач генерации текста с поддержкой изображений при наличии файла mmproj. Заявлена поддержка английского и китайского языков, а также спекулятивного декодирования MTP и imatrix-квантизации. Модель доступна в вариантах от BF16 и Q8_0 до более компактных Q3 и IQ3/IQ4-квантизаций. Рекомендуемым компромиссом между качеством и размером указан Q4_K_M объёмом 21,86 ГБ; варианты Q5 и Q6 обеспечивают более высокое качество, но требуют больше памяти, а варианты Q3 экономят ресурсы за счёт заметного снижения качества. Поддерживаются текстовый и визуальный ввод, однако сведения о точной архитектуре, размере контекста, возможностях вывода изображений и прикладных ограничениях отсутствуют. Распространяется по лицензии Apache-2.0.

Athena-1 0.5B — компактная инструктивная языковая модель, дообученная aayanmishra-ml на основе Qwen/Qwen2.5-0.5B-Instruct. Она содержит 494 млн параметров, использует архитектуру Qwen2 для генерации текста и рассчитана на запуск в условиях ограниченных вычислительных ресурсов, включая edge-устройства. Метаданные указывают контекст до 32 768 токенов; в README заявлены 16 384 токена и генерация до 4 000 токенов за ответ. Модель предназначена для диалогов и выполнения инструкций, а также для базовой помощи с кодом и математикой, анализа и краткого пересказа небольших документов, работы с таблицами и JSON. README заявляет поддержку более 20 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский и тайский; карточка указывает английский. Модель поставляется в формате PyTorch под лицензией Apache-2.0. Небольшой размер удобен для ресурсов с ограничениями, однако заявленные возможности кодирования и математики описаны как базовые.

Aurora-Borealis-LLaMa-70B — экспериментальная объединённая языковая модель от автора Tarek07, созданная с помощью mergekit из нескольких моделей семейства LLaMa. В README описан метод слияния DARE TIES с градиентной настройкой влияния компонентов; базой указана TareksLab/MO-MODEL6-V0.1-LLaMa-70B. Архитектура — плотная авторегрессионная LLaMaForCausalLM, размер — 69,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Автор описывает её как эксперимент со слиянием специализированных моделей; README рекомендует температуру 1,0, Min P 0,02 и запускать квантованные варианты не ниже Q5. Доступны веса safetensors. Лицензия — llama3.3.

BLOSSOM-v3.1-yi-34b — диалоговая большая языковая модель, разработанная командой Blossom и дообученная на Yi-34B. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 4096 токенов. Она принимает текст и генерирует продолжение диалога. Модель предназначена для общения на китайском и английском языках, ответов на вопросы и выполнения инструкций общего назначения. При обучении использовались наборы Wizard и Orca для одношаговых инструкций, а также данные Blossom для многоходового диалога и математических рассуждений. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка описывает обучение и формат диалога, но не приводит количественных оценок качества; результаты могут зависеть от формулировки запроса и ограниченного контекста.

BLOSSOM-v4-baichuan2-7b — диалоговая языковая модель, созданная на основе Baichuan2-7B-Base и дообученная разработчиками BLOSSOM на смешанных наборах инструкций Orca, Wizard, Chat и Math. Обучение проходило в два этапа: сначала на одноходовых инструкциях, включая математические, затем на многоходовых диалогах с небольшой долей данных первого этапа. Модель предназначена для генерации ответов в формате диалога, понимания контекста беседы и выполнения общих инструкций на китайском и английском языках. Это плотная трансформерная модель Baichuan с 7 млрд параметров и контекстом до 4096 токенов. Лицензия — Apache-2.0. Модель поддерживает общие диалоговые задачи и инструкции, в том числе задачи из математических данных обучения. Качество и точность ответов могут различаться в зависимости от запроса; численные оценки качества в карточке не приведены. Для корректной работы следует использовать указанный в карточке шаблон диалога.

Canary-1B-v2 CTC aligner GGUF — это отдельная модель для автоматического распознавания речи и принудительного выравнивания аудио с готовой расшифровкой. Она разработана командой NVIDIA NeMo как вспомогательная CTC-модель, входящая в состав nvidia/canary-1b-v2, а затем извлечена и преобразована в формат GGUF проектом CrispStrobe для использования с инструментом nfa-align. Модель построена на архитектуре FastConformer с CTC-головой и содержит около 600 млн параметров. Она предназначена прежде всего для получения временных границ слов и сегментов в аудиозаписях, в том числе для текстов, созданных другими ASR-системами или введённых вручную. Также поддерживается автономное CTC-распознавание речи. Модель работает с аудио 16 кГц и поддерживает 25 европейских языков, включая английский, русский, немецкий, французский, испанский, итальянский, польский и украинский. Для токенизации используется единый SentencePiece-словарь Canary-1B-v2. Сильная сторона модели — точное принудительное выравнивание на уровне слов: заявленная средняя абсолютная ошибка на тестовом английском примере составила 78 мс, что существенно лучше выравнивания через cross-attention основной модели Canary. Ограничение заключается в использовании субсловной, а не посимвольной токенизации, поэтому точность может зависеть от языка и текста; сведения о максимальном контексте и полном наборе эксплуатационных требований не указаны. Доступны версии F16 и GGUF-квантизации Q8_0, Q5_0 и Q4_K, причём Q4_K заявлена как рекомендуемая и дающая идентичные результаты выравнивания относительно F16. Веса модели распространяются по лицензии CC-BY-4.0 с обязательной атрибуцией NVIDIA и команды NeMo. Код преобразования и среда ggml указаны как распространяемые по MIT, однако это не изменяет лицензию самих весов.