I.6Перевод и языковая адаптация

lightblue/Jamba-v0.1-chat-multilingual — экспериментальный многоязычный чат-бот, созданный Peter Devine и Shunichi Taniguchi на основе ai21labs/Jamba-v0.1. Модель дообучена методом QLoRA на диалоговых и инструкционных данных, после чего адаптер объединён с исходными весами. Архитектура Jamba сочетает Mamba и Transformer с механизмом MoE; в метаданных указан размер 7,2 млрд параметров, а в README — контекст длиной до 256 тысяч токенов. Модель предназначена для диалогов, выполнения инструкций и многоходовых бесед на английском, японском и других языках. README сообщает о приемлемых субъективных результатах в нескольких языках и возможности управлять стилем системным сообщением, но оценка основана на ограниченном тестировании. Для запуска нужны Transformers версии 4.39.0 или выше и CUDA; оптимизированный запуск требует дополнительных Mamba-компонентов. Лицензия — Apache 2.0.

LFM2.5-1.2B-Thinking-GGUF — текстовая генеративная модель семейства LFM2.5, разработанная Liquid AI. Это GGUF-версия базовой модели LiquidAI/LFM2.5-1.2B-Thinking, предназначенная прежде всего для развёртывания на устройствах с ограниченными ресурсами и запуска через llama.cpp. Модель использует гибридную архитектуру семейства LFM2, обученную с расширенным предварительным обучением и reinforcement learning. Размер модели — 1,2 млрд параметров. Она работает в сценариях генерации текста и диалогового взаимодействия; в карточке указаны поддерживаемые языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Размер контекста и точные характеристики GGUF-квантизации в предоставленных данных не указаны. К сильным сторонам относятся ориентация на on-device deployment, компактный размер и совместимость с llama.cpp. Ограничения, включая качество на отдельных языках, производительность и применимость к специализированным задачам, в карточке не описаны. Модель распространяется по лицензии lfm1.0; тип лицензии указан как other, а полный текст доступен в файле LICENSE.

Llama-3.1-8B-Lexi-Uncensored-V2-GGUF — это набор файлов модели в формате GGUF для текстовой генерации. Исходную модель Llama-3.1-8B-Lexi-Uncensored-V2 разработал Orenguteng, а квантованные файлы подготовил MaziyarPanahi. Модель предназначена для локального запуска и генерации текста с использованием совместимых приложений и библиотек. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством генерации. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами; возможна аппаратная GPU-акселерация, а некоторые реализации предоставляют OpenAI-совместимый API. README не содержит сведений о точном размере контекста, языках, поддерживаемых модальностях, результатах оценивания или ограничениях поведения модели. Указаний о лицензии также нет, поэтому условия использования следует уточнять в документации исходной модели и репозитория. Модель ориентирована на текстовые задачи и не предназначена для обработки изображений или других мультимодальных данных.

KB8407/Llama-3-KoEn-8B-Instruct-AIDOK — чат-модель для генерации текста, разработанная KB8407 путём дообучения beomi/Llama-3-KoEn-8B-Instruct-preview. Она предназначена для диалогов и ответов на инструкции на корейском и английском языках. Модель использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров; длина контекста составляет 8192 токена. В карточке указано, что при обучении применялись Unsloth и TRL. Модель подходит для разговорных интерфейсов и генерации ответов на запросы. Базовая модель ориентирована на корейский и английский языки; метаданные карточки этой модели отдельно отмечают английский. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. В README не приведены оценки качества или дополнительные ограничения.

Lux-V2 — языковая модель PoSTMEDIA AI Lab, созданная полным дообучением google/gemma-4-26B-A4B-it. Это диалоговая модель с архитектурой Gemma 4 и MoE: 26 млрд параметров всего, около 4 млрд активных при генерации. Модель предназначена прежде всего для работы на корейском языке и сохраняет возможности базовой модели в рассуждениях, следовании инструкциям и многоязычных задачах. Lux-V2 подходит для корейских диалоговых помощников, ответов на вопросы по корейскому праву, культурному наследию и туризму, а также для помощи с математикой и программированием на корейском и английском языках. В README приведены результаты внутренних тестов: улучшение относительно Lux-V1 на 16 из 18 бенчмарков; это результаты разработчика, а не независимая оценка. Модель распространяется под лицензией Apache-2.0. Ответы могут содержать ошибки или устаревшие сведения. Корейские знания отражают срез обучающих данных и могут не учитывать недавние изменения, например поправки к законам; для важных решений ответы следует проверять.

M7Yamshadowexperiment28_ShadowYam — объединённая модель генерации текста на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/ShadowYam-7B. Она предназначена для генерации текста по текстовому запросу и работы с контекстом длиной до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Репозиторий не описывает специализацию или результаты оценки качества, поэтому модель можно охарактеризовать только как генеративную общего назначения. Лицензия — Apache-2.0.

zgrgr разместил дообученную диалоговую модель на архитектуре Llama 3.1 8B Instruct. Она предназначена для ответов на вопросы и общения на турецком и английском языках, а также заявлена как поддерживающая другие языки. Примеры в карточке показывают ответы на общие вопросы и вопросы о юридической сфере, однако модель не описана как специализированная юридическая система. Модель использует плотную архитектуру Llama с причинным языковым моделированием, содержит 7,5 млрд параметров и принимает текст, выдавая текстовые ответы. Заявленная длина контекста — 8192 токена. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка содержит противоречивые сведения о точной базовой версии: README упоминает Meta Llama 3B и варианты написания Llama 3 8B, тогда как метаданные указывают Meta-Llama-3.1-8B-Instruct; точная основа здесь приведена по метаданным.

MercuriusDream/Nanbeige4.2-3B-mlx-bf16 — конвертированная в формат MLX версия Nanbeige4.2-3B от MercuriusDream, созданная из Nanbeige/Nanbeige4.2-3B с помощью mlx-lm. Это плотная авторегрессионная языковая модель семейства Nanbeige с архитектурой Looped Transformer: 22 декодерных слоя с общими весами выполняются дважды за проход. В репозитории находятся веса bfloat16 размером 7,8 ГБ; заявлено совпадение логитов с эталонной реализацией с максимальным абсолютным отклонением 9,5×10⁻⁵ при проверке в fp32 на CPU. Модель предназначена для генерации текста и диалогового использования; метаданные указывают английский и китайский языки, а контекст составляет до 262 144 токенов. Для работы с MLX требуется версия mlx-lm с поддержкой типа модели nanbeige; карточка сообщает, что такая поддержка ожидается в upstream. Модель распространяется по лицензии Apache-2.0. README описывает конверсию весов, поэтому это форматная конверсия, а не отдельное дообучение.

NbAiLab/nb-wav2vec2-1b-bokmaal-v2 — модель автоматического распознавания речи, опубликованная лабораторией искусственного интеллекта Национальной библиотеки Норвегии (NbAiLab). Она преобразует норвежскую речь на букмоле в текст и предназначена для транскрибирования аудиозаписей. Модель использует архитектуру Wav2Vec2 с классификатором CTC и содержит 1,3 млрд параметров; карточка указывает применение через Transformers и лицензию Apache-2.0. Родственная модель NbAiLab с названием без суффикса v2 дообучена на основе XLS-R и оценивалась на норвежском корпусе парламентской речи; найденные материалы не позволяют уверенно переносить эти результаты на версию v2. Распознавание оптимизировано для букмола, поэтому качество на других языках и вариантах норвежского не подтверждено.

Nemotron-3.5 ASR Streaming 0.6B MLX bf16 — потоковая модель распознавания речи от NVIDIA, перенесённая aufklarer на MLX для Apple Silicon и Metal GPU. Это конверсия исходной модели NVIDIA в формат MLX с весами bf16; архитектура — кэшируемый FastConformer с RNN-T и языковым промптом. Размер модели — 600 млн параметров. Модель принимает аудио чанками и выдаёт распознанный текст с пунктуацией и заглавными буквами. Она предназначена для потоковой транскрипции речи с низкой задержкой и поддерживает 40 языковых локалей; среди указанных языков — английский, испанский, немецкий, французский, итальянский, португальский, русский, хинди, китайский, японский, корейский и арабский. В README приведены результаты оценки на части языков и показатели потоковой производительности на Apple M5 Pro. Карточка описывает bf16-вариант как почти не теряющий точность относительно исходника fp32, но опубликованные показатели качества ограничены тестами на небольших выборках FLEURS и не характеризуют все 40 локалей. Для запуска требуется MLX; автор также указывает `parakeet-mlx` для модуля Conformer. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией исходной модели NVIDIA и репозитория.

Это пакет слоёв модели NVIDIA Nemotron 3 Super 120B-A12B, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Веса основаны на unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF и разделены на артефакты по слоям; вариант UD-Q4_K_XL поставляется в формате GGUF с квантизацией Q4_K_XL. Пакет предназначен для генерации текста и диалогов, когда модель нужно запускать на нескольких машинах или обслуживать через локальный API, совместимый с OpenAI Chat Completions. Для работы требуется Mesh LLM и набор машин, предоставляющих память и вычислительные ресурсы; README указывает запуск в режиме разделения слоёв. Пакет сохраняет свойства исходной модели, но сам README не приводит подробностей об архитектуре, числе параметров, контекстном окне, поддерживаемых языках и рекомендациях по использованию. Лицензия указана как other, поэтому перед использованием следует свериться с условиями исходной модели.

jadasdn/open-ai-small-1 — дообученная версия мультиязычной модели распознавания речи Whisper Small от OpenAI. Модель предназначена для преобразования аудио речи в текст; в метаданных указаны архитектура Whisper и 153,1 млн параметров. Карточка сообщает результат оценки: WER 26,8582 и loss 0,3844, однако без описания набора данных и протокола оценки эти значения трудно интерпретировать. Модель принимает аудио и выдаёт текст. Она основана на openai/whisper-small и опубликована в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Сведения о целевых языках и конкретной области применения дообучения не приведены.

Это многоязычная чат-модель OpenBuddy на базе Falcon 40B v9, опубликованная в формате GGUF с точностью BF16. Репозиторий содержит конверсию исходной модели OpenBuddy; GGUF предназначен для запуска через совместимое программное обеспечение, включая llama.cpp. Карточка описывает OpenBuddy как открытого чат-бота для локального и автономного использования. Модель предназначена для диалогов и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском и русском языках. Её можно применять для ответов на вопросы и повседневного общения. В карточке указано, что репозиторий архивный и больше не поддерживается; BF16 требует значительных ресурсов памяти. Лицензия — Apache 2.0. Модель может выдавать ошибочные или вредные ответы и не предназначена для критических решений в медицине, финансах, праве или управлении потенциально опасными системами.

Parakeet TDT v3 0.6B CoreML — мультиязычная модель автоматического распознавания речи, разработанная FluidInference на основе nvidia/parakeet-tdt-0.6b-v3. Модель преобразована в формат Core ML для платформ Apple и предназначена для полностью локальной транскрипции аудиофайлов, диктовки, создания заметок и встраивания распознавания речи в приложения через Swift-фреймворк FluidAudio. Модель использует архитектуру FastConformer-TDT (Token Duration Transducer) и содержит около 0,6 млрд параметров. Она принимает монофонический аудиосигнал с частотой 16 кГц в формате Float32 PCM и поддерживает 25 европейских языков: английский, испанский, французский, немецкий, болгарский, хорватский, чешский, датский, нидерландский, эстонский, финский, греческий, венгерский, итальянский, латышский, литовский, мальтийский, польский, португальский, румынский, словацкий, словенский, шведский, русский и украинский. Используется смешанная точность, оптимизированная для выполнения на ANE и CPU. К сильным сторонам относятся высокая скорость пакетной обработки, низкая задержка, автономная работа без сетевых запросов после загрузки моделей и повышенная приватность данных. На M4 Pro заявлен показатель около 110x RTF в пакетном режиме, однако фактическая производительность зависит от устройства, длительности аудио и выбранных вычислительных блоков. Основное ограничение — специализация на европейских языках, поэтому качество для других языков не заявлено и может снижаться. В метаданных указана лицензия CC BY 4.0, тогда как в тексте README также упоминается Apache 2.0 для репозитория FluidAudio; условия для конкретных артефактов следует уточнять отдельно.

Parakeet TDT 0.6B v3 INT8 — модель распознавания речи, подготовленная Sonic Speech на основе модели NVIDIA Parakeet TDT v3 и предназначенная для запуска через MLX, в том числе на компьютерах Apple Silicon. Она преобразует аудио в текст и подходит для транскрибации записей и речи.

Это многоязычная модель распознавания речи NVIDIA Parakeet-TDT-0.6B-v3, подготовленная в формате MLX с квантованием смешанной точности Q4/Q8 и сохранённая в safetensors. Вариант создан на основе проверенного чекпойнта mlx-community/parakeet-tdt-0.6b-v3 и предназначен для транскрибации аудио на Apple Silicon с использованием MLX и совместимого загрузчика parakeet_unified_mlx.py. Веса занимают 0,401 ГБ: матрицы энкодера используют Q4, а точечные свёртки и компоненты предиктора и joint — Q8; часть тензоров хранится в BF16. Исходная модель поддерживает 25 европейских языков. В полной оценке на FLEURS для немецкого, французского, нидерландского, шведского, датского и финского языков получен макро-WER 11,17%; качество сопоставимо с контрольным вариантом INT4, а объём весов меньше. Лицензия — CC-BY-4.0. Модель работает в офлайн-режиме с полным контекстом и жадным декодированием; потоковая обработка не заявлена. Результаты могут меняться в зависимости от акцента, предметной области, шума и условий записи. Для целевого аудиораспределения нужна отдельная оценка; текущие подробные тесты охватывают только шесть из 25 языков.

Pinokio v1.0 — диалоговая языковая модель семейства Mistral, опубликованная Eurdem. Она предназначена для генерации текста в формате беседы и поддерживает английский и турецкий языки. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Данных о специализированных областях применения и ограничениях качества в карточке нет.

Minami-su/Qwen1.5-7B-Chat_llamafy — версия модели Qwen1.5-7B-Chat от Alibaba Cloud, адаптированная автором репозитория для совместимости с архитектурой LLaMA и загрузки через соответствующие инструменты. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров с возможностью диалогового общения. Она предназначена для генерации текста и ответов в чате; в карточке приведены результаты отдельных тестов модели, загруженной в 4-битном режиме. Модель принимает текст и генерирует текст. В метаданных указаны английский и китайский языки, контекст — 4096 токенов, библиотека Transformers и формат PyTorch. Лицензия обозначена как other, поэтому конкретные условия использования следует уточнить в репозитории и у правообладателя базовой модели.

Qwen2.5-7B-Instruct-abliterated-v2-Q4_K_M-GGUF — это локальная текстовая генеративная модель в формате GGUF, созданная Lumen Models на основе huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2. Модель предназначена для запуска на обычных компьютерах с 8–16 ГБ оперативной памяти через LM Studio, Ollama, Jan или Faraday, без обязательной передачи данных во внешние сервисы. Модель ориентирована на генерацию текста, творческое письмо, ролевые сценарии, анализ сложных текстов и исследовательские задачи. Заявлена улучшенная работа на испанском языке, также указана поддержка английского. Архитектура основана на Qwen2.5 с 7 млрд параметров; конкретное значение контекстного окна и перечень поддерживаемых модальностей в README не указаны. Квантизация Q4_K_M уменьшает размер модели и требования к памяти при сохранении большей части исходных возможностей, однако может снижать точность по сравнению с полной версией. Версия описана как abliterated и uncensored, то есть с минимизированными ограничениями на содержание ответов. Это расширяет применимость для творческих и исследовательских сценариев, но одновременно повышает риск генерации нежелательного, предвзятого или небезопасного контента. Модель распространяется по лицензии Apache-2.0; README также ограничивает заявленные цели исследования, творческой литературы, тестирования кибербезопасности и локальной разработки и снимает с дистрибьютора ответственность за результаты использования.

Qwen3.5-122B-A10B REAP30 APEX GGUF — текстовая сборка на основе Qwen/Qwen3.5-122B-A10B, подготовленная zTrojan для запуска через llama.cpp. Это MoE-модель с физическим удалением 30% экспертов: в каждом из 48 слоёв оставлено 180 из 256 экспертов, при обработке токена используются 8 экспертов. Репозиторий предлагает варианты APEX Mini и I-Compact в формате GGUF; для Mini указаны компоненты разной точности и калибровочная imatrix. Сборка текстовая, MTP отключён перед конвертацией; пример запуска задаёт контекст 4096 токенов. Модель предназначена для диалоговой генерации текста и может использоваться в локальных приложениях на базе llama.cpp. В метаданных указаны английский и украинский языки, а базовая модель семейства Qwen также описана как мультимодальная; однако данный репозиторий содержит именно текстовый GGUF. В README не приведены результаты оценки качества после обрезки экспертов и квантования. Лицензия указана как other, поэтому перед использованием следует свериться с условиями лицензии базовой модели и репозитория.

Qwen3.8-27B-abliterated-MTP-GGUF — это GGUF-квантизация модели hotdogs/Qwen3.8-27B-abliterated, созданной на основе Qwen/Qwen3.8-27B. Разработчик описывает исходную модель как training-free abliterated-сборку с удалёнными отказами. Модель предназначена для генерации текста и локального запуска через llama.cpp; сохранённая MTP-голова позволяет использовать self-speculative decoding с параметром --spec-type draft-mtp. Модель содержит около 27 млрд параметров и доступна в вариантах от BF16 до квантизаций Q6_K-mixed, Q4_K_M-mixed и IQ4_NL-mixed. В смешанных вариантах эмбеддинги и выходные тензоры имеют тип q8_0, а остальные слои используют базовую точность; эти сборки откалиброваны с imatrix и рассчитаны на компромисс между размером и качеством. Заявлены языки English, Chinese и Thai. Поддержка контекстной длины и фактическая мультимодальность в предоставленных данных не указаны, хотя в метаданных присутствует тег image-text-to-text. Сильные стороны модели — несколько вариантов размера, близость наиболее качественных квантизаций к эталону f16 и поддержка MTP в основных mixed-сборках. Ограничения включают статус testing/development, отсутствие калибровки imatrix у ранней версии Q4_K_M, возможное ухудшение качества на низких разрядностях и отсутствие MTP у custom IQ2_M/IQ3_M-сборок. Модель распространяется по лицензии Apache-2.0.

ThakiCloud/Qwen3.8-27B-Human-KO-NVFP4 — квантованная версия языковой модели ThakiCloud/Qwen3.8-27B-Human-KO для генерации текста на корейском языке. Модель предназначена для сценариев, где важны корейский язык и заданный стиль ответа, включая диалоговые приложения и обслуживание длинного контекста. В карточке указано, что модель основана на варианте Qwen3.8 с 27B параметров, однако подробности архитектуры не приведены. Модель использует квантование NVFP4 W4A4, выполненное с помощью llm-compressor GPTQ, и поставляется в формате compressed-tensors, который автоматически распознаётся vLLM. Размер весов составляет около 15 ГБ. На одном GPU NVIDIA B200 заявлена поддержка контекста до 262 144 токенов с большим запасом для KV-кэша; оптимизация ориентирована на нативные FP4-ядра архитектуры Blackwell SM100+. По результатам ограниченного сравнения с исходной BF16-моделью, сохранены эталонный стиль ответа и близкие показатели генерации и тестов KMMLU и HAE-RAE, но эти результаты не доказывают полного отсутствия потерь качества. Ключевые ограничения связаны с аппаратными требованиями: на устройствах младше Blackwell модель может не загрузиться или работать значительно медленнее из-за fallback-ядра. Статистическая чувствительность проведённых тестов ограничена, сдвиг медианной длины ответа отдельно не проверялся, а вариативность повторного квантования не измерялась. Ограничения и особенности безопасности базовой модели, включая упомянутые эффекты стилевого выравнивания, наследуются без изменений. Модель распространяется по лицензии Apache-2.0.

p-e-w/Qwen3-8B-heretic — текстовая генеративная модель на базе Qwen3-8B-Base, изменённая методом abliteration, который снижает склонность исходной модели к отказам. В README приведены параметры этой процедуры и сравнение: 45 отказов из 100 запросов против 100 у оригинальной модели; это указывает на изменение поведения, но не гарантирует отсутствие отказов. Модель использует плотную авторегрессионную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов. Она предназначена для диалогов и генерации текста; базовое семейство поддерживает многоязычные сценарии. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. README описывает характеристики семейства Qwen3, поэтому отдельные заявления о качестве и возможностях базовой модели не следует считать оценкой именно этой модификации. Снижение отказов может приводить к ответам на запросы, которые исходная модель отклоняла.

kikekewl/Qwen3.8-Flash-Next-MLX-BF16 — это MLX-версия модели Qwen3.8-Flash-Next, подготовленная пользователем или организацией kikekewl для работы в экосистеме MLX. В карточке указано, что модель относится к классу image-text-to-text и предназначена для задач генерации текста на основе текстовых и, вероятно, визуальных входных данных. Конкретные сценарии применения не раскрыты. Модель имеет формат BF16 и основана на Qwen/Qwen3.8-Flash-Next. Сведения об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, качестве, требованиях к оборудованию и особенностях мультимодальной обработки в карточке отсутствуют. Использование регулируется лицензией qwen-community-1.0; подробные условия доступны в файле LICENSE.

VnimanieAI/Qwen3.8-Flash-Next-W4A16 — это 4-битная INT4-квантизация модели Qwen3.8-Flash-Next, разработанная VnimanieAI на базе модели Qwen. Чекпойнт предназначен для запуска через Transformers и vLLM на потребительских GPU NVIDIA Ampere, прежде всего на конфигурациях из 4–8 RTX 3090, где исходная FP8-версия не поддерживается. По карточке модели он относится к сценарию image-text-to-text, однако подробное описание поддерживаемых языков и фактических модальностей в README отсутствует. Основные веса квантизированы методом RTN в формате compressed-tensors: W4A16, symmetric, group-128. Квантизация охватывает маршрутизируемые MoE-эксперты и attention-проекции, тогда как чувствительные компоненты, включая shared expert, MTP-модуль, PLE n-gram tables, роутер, индексатор QSA, линейное внимание, эмбеддинги и vision encoder, сохранены в BF16. Модель имеет 125 млрд параметров в базовом представлении; размер на диске уменьшен примерно с 335 до 168 ГБ, а около 102 ГБ таблиц PLE размещаются в оперативной памяти хоста. Поддерживается контекст до 262 тысяч токенов на 8 GPU либо до 96 тысяч на 4 GPU. Сильные стороны модели — возможность запуска крупной Flash-Next-модели на Ampere, сохранение качества, сопоставимого с базовой версией на заявленном наборе тестов, и сохранённая BF16-голова MTP для speculative decoding, которая, по данным авторов, ускоряет однопоточный декодинг на 57%. Ограничения включают высокие требования к видеопамяти и оперативной памяти, обязательное использование expert parallelism и специальной конфигурации vLLM; запуск с torch.compile на Ampere может зависать. Для инференса требуется не менее 110 ГБ свободной RAM и особые параметры Docker. Модель распространяется по лицензии qwen-community-1.0.

Seed-OSS-36B-Instruct-MLX-4bit — 4-битная квантованная версия языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантование выполнено командой LM Studio с использованием MLX — фреймворка машинного обучения, оптимизированного для Apple Silicon. Модель предназначена для генерации текста и запуска в локальных средах на устройствах Apple. Модель имеет размер 36B параметров в исходной версии и использует архитектуру и возможности базовой модели Seed-OSS-36B-Instruct, однако подробные сведения о поддерживаемых языках, длине контекста и конкретных сценариях применения в README не приведены. Квантование в 4 бита снижает требования к памяти и делает локальный запуск более доступным, но может сопровождаться некоторой потерей качества по сравнению с полной версией. Указана лицензия Apache-2.0. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки.

SenseVoiceSmall-GGUF — это GGUF-сборка модели SenseVoiceSmall, разработанной командой FunAudioLLM. Модель предназначена для автоматического распознавания речи и запускается через CPU-ориентированный runtime FunASR llama.cpp без необходимости использовать Python или собирать программное обеспечение самостоятельно. Она рассчитана на локальное применение на компьютерах и edge-устройствах, включая обработку аудиофайлов и длинных записей с использованием VAD-модуля. В основе модели лежит архитектура SAN-M encoder с CTC-декодированием. Она поддерживает китайский и английский языки, а также может добавлять к результату теги языка, эмоций и звуковых событий. Доступны варианты весов в форматах F16 размером около 470 МБ, Q8 размером около 235 МБ и F32 размером около 936 МБ; для Q8 заявлена точность, сопоставимая с F16. На CPU с восемью потоками модель достигает примерно 8,01% CER на указанном Mandarin-бенчмарке и работает примерно в 20 раз быстрее реального времени по данным README. К сильным сторонам относятся высокая скорость на CPU, автономный запуск, отсутствие обязательной зависимости от Python и поддержка дополнительных языковых, эмоциональных и событийных тегов. Ограничения включают заявленную поддержку только китайского и английского языков, необходимость отдельного VAD-модуля для длинного аудио и привязку к FunASR llama.cpp runtime. Модель распространяется по лицензии Apache-2.0.

Spaetzle-v60-7b — языковая модель cstr, полученная слиянием весов Spaetzle-v58-7b и AlphaMonarch-dora методом DARE-TIES с использованием LazyMergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, контекстом до 32 768 токенов и интерфейсом чата. Модель предназначена для локальных текстовых задач на английском и немецком языках, включая диалог, ответы на вопросы и генерацию текста. В карточке приведены результаты тестов на немецком и английском; они показывают полезность модели для этих языков, но не гарантируют качество в конкретном сценарии. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Модель унаследовала ограничения и свойства исходных моделей; README не описывает отдельные меры безопасности или гарантии качества.

Apertus-8B-Instruct-2509-GGUF — это набор квантизированных версий языковой модели Apertus-8B-Instruct-2509, разработанной swiss-ai и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через LM Studio, llama.cpp и другие совместимые проекты. В набор входят варианты с точностью от BF16 до различных методов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 3,8 до 16,1 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Исходная модель обозначена как 8B, однако сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях в представленном README не указаны; по имеющимся данным это текстовая модель. Сильная сторона набора — широкий выбор локальных конфигураций: варианты Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 подходят для большинства сценариев с ограниченными ресурсами. Более сильная квантизация может снизить качество генерации, особенно у вариантов Q3 и ниже. Формат prompt не указан, поэтому для корректного использования необходимо обратиться к странице исходной модели. Лицензия в README не указана.

TigerBot-70B-Base-v1 — базовая языковая модель семейства Llama, разработанная TigerResearch. Это плотная авторегрессионная модель на 69 млрд параметров для генерации текста и использования в качестве основы для собственных решений на базе LLM. В карточке приведены результаты Open LLM Leaderboard, включая средние 62,1 балла, ARC и HellaSwag. Модель поддерживает китайский и английский языки, принимает текст и генерирует текст. Её нативный контекст составляет 2048 токенов. Веса доступны в формате PyTorch, а для использования README предлагает запуск через Transformers и код TigerBot. Модель распространяется по лицензии Apache-2.0.