I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейSagicc/whisper-base-sr-yodas — модель распознавания речи на базе Whisper от OpenAI, дообученная на наборе данных YODAS. Она предназначена для преобразования аудио в текст; метаданные указывают на поддержку аудио на входе, а карточка приводит результаты оценки: WER 0,2450 и WER Ortho 0,3334. В репозитории указано 51,7 млн параметров и формат safetensors. Модель распространяется по лицензии Apache-2.0.
AquilaChat2-34B-16K — диалоговая языковая модель BAAI из серии Aquila2, предназначенная для генерации ответов и работы с длинными текстами. Модель основана на плотной авторегрессионной архитектуре AquilaForCausalLM и содержит 33,1 млрд параметров; максимальная длина контекста — 16 384 токена. Доступны веса в формате PyTorch. Модель подходит для диалогов, генерации и суммирования длинных текстов, а также выполнения инструкций в обычных сценариях общения. В README описана версия V1.2, в которой улучшены синтез длинных текстов и выполнение инструкций по сравнению с V1. Для модели указана лицензия other; конкретные условия следует сверять с лицензией репозитория.
Это GGUF-квантизированная версия языковой модели olmo-marvin-full-merged, разработанной Burnt-Toast и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально с помощью llama.cpp и совместимых приложений, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Доступны варианты от полноразмерных весов BF16 объёмом 64,47 ГБ до более компактных конфигураций с квантованием Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. Квантование выполнено с использованием imatrix и llama.cpp версии b7721; некоторые варианты оптимизированы для снижения потребления памяти при сохранении качества, а наиболее качественными в README названы Q6_K_L, Q6_K и варианты Q5_K. Поддерживается шаблон диалога с ролями system, user и assistant. Архитектура, число параметров, контекстное окно, языки, мультимодальность и лицензия в предоставленных данных не указаны. Качество и требования к ресурсам зависят от выбранного варианта квантования: компактные версии экономичнее, но могут заметно уступать старшим по качеству.
MiniMax-M2-REAP-139B-A10B — это языковая модель для генерации текста, разработанная Cerebras. Она создана на основе MiniMax-M2: методом REAP из исходной модели равномерно удалено 40% экспертов. По доступным данным, модель использует разреженную MoE-архитектуру, имеет заявленный размер 139B параметров и активную часть A10B. Указан английский язык; сведения о поддерживаемых модальностях и размере контекста отсутствуют. Эта версия представляет собой GGUF-квантизации, подготовленные bartowski с использованием llama.cpp и калибровочных данных imatrix. Она предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от Q8_0 до 2-битных и IQ-квантизаций с размером файлов примерно от 55 до 148 ГБ; более высокие разрядности обычно обеспечивают лучшее качество, а низкоразрядные варианты уменьшают требования к памяти, но могут заметно снижать качество. Сильными сторонами являются широкий выбор квантизаций, возможность локального использования и сохранение работоспособности после структурного сокращения MoE-модели. Ограничения включают очень большой объём памяти, зависимость качества от выбранного варианта квантизации и отсутствие в карточке подробных результатов оценки. Лицензия указана как other; конкретные условия необходимо уточнять в лицензии исходной модели Cerebras.
ChimeraLlama-3-8B-v3 — объединённая языковая модель, созданная mlabonne с помощью LazyMergekit из семи моделей семейства Llama 3, включая инструктивные версии и варианты, дообученные с ORPO и DPO. Это плотная авторегрессионная модель на 7,5 млрд параметров для генерации текста и диалогового взаимодействия; заявленная длина контекста — 8192 токена. Модель принимает текст и выдаёт текст. Её можно использовать для ответов на вопросы, ведения диалога и генерации текста. В README приведены результаты оценок Open LLM Leaderboard, но они сами по себе не гарантируют качество на конкретных задачах. В метаданных указана лицензия «other»; условия использования следует сверить с карточкой модели и лицензиями объединённых базовых моделей.
CrisperWhisper — дообученная Nyra Health версия Whisper large-v3 для дословного распознавания речи. Модель содержит около 905,2 млн параметров, использует архитектуру Whisper и доступна в формате safetensors для библиотеки Transformers. Она принимает аудио и выдаёт текстовую транскрипцию с точными временными отметками на уровне слов. Модель рассчитана на транскрибацию, где важно сохранять оговорки, заполнители пауз, повторы, запинки и незавершённые фразы, а также на сегментацию речи. Для выравнивания слов и временных отметок применяются модифицированная токенизация, Dynamic Time Warping по cross-attention и специальная функция потерь. В карточке отмечены результаты на verbatim-наборах AMI и TED; качество зависит от аудиоданных и задачи, а сама модель больше не поддерживается активно и заменена CrisperWhisper 2.0. Лицензия — CC BY-NC 4.0, допускающая использование с обязательной атрибуцией и ограничением на коммерческое применение.
EpistemeAI2/Firebal-Llama-3.1-8B-R1 — текстовая диалоговая модель семейства Llama 3.1, дообученная на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Она предназначена для общения в формате ассистента и генерации текста; в метаданных также отмечен интерфейс для вызова инструментов. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст. В карточке описана поддержка английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков; метаданные для этой модели указывают английский. Карточка рекомендует шаблон Alpaca для рассуждений. Лицензия — Apache 2.0 по метаданным модели; README содержит общие сведения о Llama 3.1 и её Community License, поэтому условия следует сверять с лицензией именно этого репозитория. Качество и дополнительные возможности дообучения Firebal отдельно в предоставленной карточке не описаны.
Это пакет слоёв модели gpt-oss-120b-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса на кластере локальных машин. Он получен из unsloth/gpt-oss-120b-GGUF и сохраняет исходное распределение GGUF, разделённое на артефакты по слоям. Пакет предназначен для запуска через Mesh LLM, в том числе когда модель слишком велика для одного компьютера. Модель поддерживает генерацию текста и диалоговый режим. Mesh LLM позволяет распределять вычисления между несколькими узлами и предоставлять локальный API, совместимый с OpenAI Chat Completions. Формат исходных весов — GGUF; вариант пакета — UD-Q4_K_XL. Для архитектурных сведений, рекомендаций по шаблону чата и лицензии README отсылает к карточке исходной модели, поэтому эти условия для данного пакета отдельно не приводятся.
mlx-community/gpt-oss-20b-MXFP4-Q4 — языковая модель для генерации текста, разработанная сообществом mlx-community и конвертированная из openai/gpt-oss-20b в формат MLX с использованием mlx-lm 0.27.0. Она предназначена для сценариев текстовой генерации и запуска в экосистеме MLX, включая использование через библиотеку mlx-lm. Модель относится к pipeline text-generation и имеет вариант квантования MXFP4-Q4. В README не указаны точные сведения об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста, поэтому эти характеристики нельзя достоверно описать. Для работы требуется библиотека mlx-lm; приведённый пример предусматривает поддержку chat template при её наличии. Ограничения производительности и качества в README не раскрыты. Лицензия — Apache-2.0.
Indic-Transcribe-core — многоязычная модель распознавания речи, разработанная Bodhan AI на основе NVIDIA Canary-1B-v2. Она использует энкодер FastConformer и декодер Transformer и предназначена для транскрибации речи на 25 языках Южной Азии и английском с выводом в письменности исходного языка. Модель поддерживает автоматическое определение языка и смешанную речь, например хинглиш, и рассчитана на работу с аудио из реальных шумных условий. Модель подходит для транскрибации записей и голосовых сервисов в образовании, сельском хозяйстве и здравоохранении. Для аудио длиннее 45 секунд README рекомендует использовать поставляемый механизм разбиения на фрагменты: обычный однопроходный режим ограничен по длине и может давать повторы. Определение языка может ошибаться, особенно для языков хинди-пояса, которые модель иногда относит к хинди; если язык известен, его рекомендуется задавать явно. В README заявлена готовность к коммерческому использованию, однако метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией репозитория.
IntervitensInc опубликовала преобразованную версию InternLM2.5-20B с архитектурой Llama для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors; размер модели составляет 19,3 млрд параметров. В README говорится, что конвертация и ручная правка токенизатора должны сохранять поведение исходной модели при температуре 0, однако это проверено лишь на небольших тестах и не подтверждено всесторонне. Модель предназначена для диалоговых сценариев, рассуждений и работы с длинным контекстом. README описывает исходную InternLM2.5 как модель с заявленной поддержкой контекста до 1 млн токенов, а метаданные этого репозитория указывают нативный контекст 262 144 токена; для этой сборки следует ориентироваться на значение из метаданных. В README приведены результаты оценки исходной модели на MMLU, CMMLU и BBH, но они не являются отдельной оценкой конвертированной версии. В README перечислены китайский и английский наборы оценки, что указывает на релевантность китайского и английского языков; метаданные не задают языковые коды. Модель может генерировать предвзятые, дискриминационные или иные нежелательные ответы. Указана лицензия Apache-2.0 для кода; для весов README сообщает об открытом доступе для академических исследований и необходимости запросить бесплатное коммерческое разрешение.
Jamjuri Edge — экспериментальная компактная языковая модель семейства JamjuriEDGE, разработанная на базе Qwen3-4B-Instruct-2507. Это плотная модель с 3,7 млрд параметров и контекстом до 262 144 токенов; релиз создан дообучением базовой модели и объединением LoRA-экспертов методом TIES. Модель предназначена для локального и офлайн-применения, в том числе в агентных сценариях с вызовом инструментов. Модель рассчитана на тайский и английский языки и ориентирована на следование инструкциям, написание и отладку кода, вычисления, автоматизацию IoT и работу с инструментами. В карточке описаны разные варианты слияния, балансирующие навыки управления инструментами, математики и программирования; для идентификатора Jamjuri-EDGE-Preview-100 конкретный вариант среди этих кандидатов не уточнён. В метаданных указаны Transformers и формат safetensors, лицензия Apache-2.0. Это экспериментальная модель с ограничениями, характерными для компактного чекпойнта: сложная автоматизация нескольких IoT-устройств даётся трудно, отдельные слияния могут ухудшать вызов функций, а изменение соотношений слияния влияет на поведение. Возможны ошибки привязки атрибутов к объектам и смещение стиля ответов из-за специализированных адаптеров.
Это дообученная DavidAU модель семейства Llama 3.3 на 7,5 млрд параметров для диалогов, следования инструкциям и генерации текста с режимом рассуждений. Автор сообщает, что дообучил вариант Llama 3.3 8B Instruct через Unsloth на датасете Claude 4.5 Opus High Reasoning; перед этим модель была модифицирована для снижения отказов. В карточке также заявлено восстановление контекста до 128 тысяч токенов. Модель предназначена для ответов на запросы, пошаговых рассуждений и творческого письма, включая рассказы, ролевые диалоги и хоррор. Автоматическая активация режима рассуждений зависит от формулировки запроса; для желаемого уровня откровенности или ненормативной лексики автор рекомендует явно задавать стиль и лексику. Указаны поддержка нескольких языков, включая русский, и лицензия Apache-2.0. Это текстовая модель, опубликованная в формате Safetensors для Transformers.
MaziyarPanahi/Llama-3-8B-Instruct-v0.9-GGUF — это набор файлов модели в формате GGUF, подготовленный разработчиком MaziyarPanahi на основе модели MaziyarPanahi/Llama-3-8B-Instruct-v0.9. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Известно, что модель относится к семейству Llama 3 и имеет размер 8B параметров. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать между меньшими требованиями к памяти и потенциальным сохранением качества. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами. Сведения о языках, размере контекста, точной архитектуре и результатах оценки в README не указаны. Основные преимущества — локальное использование, широкий выбор уровней квантования и совместимость с различными клиентами, включая GPU-ускорение и OpenAI-совместимые серверные интерфейсы в отдельных инструментах. Ограничения и условия лицензии в README не описаны; перед использованием необходимо проверить лицензию исходной модели и соответствующие условия распространения.
Meta-Llama-3.1-8B-Instruct-abliterated-GGUF — набор GGUF-квантизаций инструкционной языковой модели объёмом 8 млрд параметров, основанной на mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp или LM Studio. Доступны варианты от полноточного F32 до компактных форматов Q2 и IQ3, с размерами файлов примерно от 3,66 до 32,13 ГБ. В README приведён специальный шаблон промпта Llama 3.1 с ролями system, user и assistant. Более высокие разрядности обеспечивают лучшее качество, тогда как низкоразрядные варианты снижают требования к оперативной памяти ценой качества; Q4_K_M обозначен как вариант стандартного размера, а Q5–Q6 — как рекомендуемые для высокого качества. Модель подходит для локального использования на совместимом оборудовании, однако конкретные языки, размер контекстного окна, архитектурные детали и результаты тестирования в README не указаны. Условия распространения определяются лицензией llama3.1.
AIR-hl/Mistral-7B-Base-WPO-bf16 — текстовая чат-модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Репозиторий описывает перенос весов wzhouad/zephyr-7B-WPO-FP из float32 в bfloat16; метаданные также связывают модель с HuggingFaceH4/mistral-7b-sft-beta и указывают слияние моделей. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указан датасет ultrafeedback_binarized и лицензия Apache-2.0. Карточка не описывает отдельные ограничения качества или области применения.
Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-D — объединённая автором модель для диалогов и генерации текста. Она создана с помощью mergekit методом SLERP из Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-C и nbeerbower/Mistral-Small-Drummer-22B. Архитектура — плотная MistralForCausalLM, размер — 22 млрд параметров; модель работает с текстом и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогового общения и генерации текста. Метаданные указывают на интерфейс вызова инструментов, однако подробности его использования в карточке не описаны. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.
Muse-Glimmer-30B-GGUF — квантизированная версия мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации и анализа текста, а также обработки изображений при использовании дополнительного файла mmproj, поэтому подходит для текстовых и текстово-визуальных сценариев. Поддерживается MTP, однако подробности архитектуры, языков и размера контекстного окна в карточке не указаны. Модель содержит около 30 млрд параметров и доступна в вариантах от BF16 до низкобитных квантований Q2 и IQ3. Квантизации выполнены с использованием llama.cpp и imatrix; варианты отличаются размером файла, качеством и требованиями к оперативной памяти. В качестве сбалансированного варианта рекомендуется Q4_K_M размером около 17,31 ГБ, а Q5 и Q6 позиционируются как более качественные, но более ресурсоёмкие. Низкобитные варианты позволяют работать при ограниченных ресурсах, но могут заметно терять в качестве. Для использования необходим совместимый рантайм llama.cpp или другое ПО с поддержкой GGUF; для обработки изображений требуется mmproj-файл. Модель распространяется по лицензии Apache-2.0.
NVIDIA-Nemotron-Nano-12B-v2-VL-NVFP4-QAD — мультимодальная авторегрессионная vision-language модель NVIDIA на базе оптимизированной архитектуры Transformer. В состав входят визуальный энкодер C-RADIOv2-H и языковая модель NVIDIA-Nemotron-Nano-12B-v2. Эта версия квантизирована в формате FP4 с применением TensorRT Model Optimizer и обучалась с использованием Quantization-aware Distillation для сохранения качества при низкой точности вычислений. Модель предназначена для обработки одного изображения вместе с текстовым запросом и генерации текстовых ответов. Основные сценарии включают суммаризацию изображений, анализ текста и изображений, распознавание текста (OCR), интерактивные вопросы и ответы по изображениям, а также рассуждения по цепочке мыслей. Поддерживаются немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский, китайский и английский языки. Контекст и длина генерируемой последовательности составляют до 128K токенов. Изображения должны быть в формате RGB; прозрачность не поддерживается. Максимальное разрешение определяется ограничением в 12 тайлов размером 512×512 пикселей. К сильным сторонам относятся мультиязычность, поддержка широкого набора задач анализа изображений и оптимизация FP4 для NVIDIA GPU. Ограничения включают поддержку только одного изображения за запрос, требования к совместимому аппаратному обеспечению и программной среде: заявлены Linux, vLLM и микропроцессорная архитектура B100 SXM. Модель рассчитана на глобальное развёртывание и использование корпоративными AI-клиентами. Условия использования регулируются NVIDIA Open License Agreement.
OpenChat 3.5 0106 GGUF — квантизированная версия текстовой генеративной модели OpenChat 3.5 0106, разработанной командой OpenChat и подготовленной в формате GGUF пользователем TheBloke. Модель основана на архитектуре Mistral и предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые графические интерфейсы, библиотеки и API-серверы. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит для инференса на CPU и GPU. Точные размер модели, длина контекста, поддерживаемые языки и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Для работы используется шаблон запросов OpenChat-Correct: GPT4 Correct User и GPT4 Correct Assistant. Ключевое преимущество — возможность более экономичного локального запуска благодаря квантованию и широкой совместимости с llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Ограничения связаны с потерями качества, возможными при низкоразрядном квантовании, а также с отсутствием в README подробных характеристик исходной модели и результатов оценки. Указанная лицензия — Apache-2.0.
PaddleOCR-VL-1.6 — компактная модель для разбора документов от команды PaddlePaddle, дообученная на основе PaddleOCR-VL-1.5. В метаданных указаны архитектура PaddleOCRVLForConditionalGeneration и 318,2 млн параметров; модель принимает изображения документов и формирует текстовый разбор. Для запуска предусмотрена библиотека PaddleOCR, а README также описывает совместимость архитектуры с версией 1.5. Модель предназначена для распознавания и структурирования содержимого документов: текста, таблиц, формул, диаграмм, печатей и штампов. README сообщает об улучшениях для китайских древних документов, редких китайских символов и распознавания текста в различных областях изображения, а также о результате 96,33% на OmniDocBench v1.6. Метаданные указывают контекст 131 072 токена и языки английский, китайский и многоязычную поддержку. Модель распространяется по лицензии Apache-2.0. Показатели бенчмарков приведены в README; фактическое качество зависит от типа документа и условий распознавания. Для работы с моделью описаны зависимости PaddlePaddle и PaddleOCR.
AtomicChat/Qwen3-4B-DFlash-GGUF — это текстовая генеративная модель в формате GGUF, созданная Atomic Chat на основе оригинальных весов z-lab/Qwen3-4B-DFlash-b16. Модель предназначена для локального и полностью офлайн-использования в llama.cpp, Ollama, LM Studio, Jan и приложении Atomic Chat, включая диалоговые сценарии и генерацию текста. Согласно README, модель имеет плотную decoder-архитектуру DFlashDraftModel, 5 слоёв, 32 attention heads и 8 KV heads, словарь из 151 936 токенов и контекст до 40 960 токенов. Поддерживается только текстовая модальность. В карточке указано 0,5 млрд параметров, а доступный квант Q8_0 занимает около 0,6 ГБ; при этом название базовой модели содержит обозначение 4B, поэтому размер следует трактовать с осторожностью. Ключевая особенность репозитория — самостоятельная квантизация Atomic Chat с использованием importance matrix для каждого варианта, что должно сохранять качество исходной модели при низкой разрядности. Ограничения включают отсутствие мультимодальности и необходимость применять шаблон чата Qwen3 через параметр --jinja; без него возможны некорректно сформированные диалоговые ходы. В README также рекомендована temperature 0.0. Исходная модель выпущена Z Lab по лицензии MIT, квантизированная версия подготовлена Atomic Chat.
Qwen3.5-397B-A17B-VQ-2.2bpw — векторно-квантизированная версия модели Qwen3.5-397B-A17B, разработанная TheDrainFlorist на базе модели Qwen. Репозиторий предназначен для запуска большой MoE-модели локально на компьютерах Apple Silicon с 128 ГБ объединённой памяти, без кластера и специальных патчей, используя MLX и совместимые инструменты mlx-lm или mlx-vlm. Модель поддерживает генерацию текста, а после обновления runtime также обработку изображений через mlx-vlm. Модель имеет 397 млрд параметров и обозначение A17B, что указывает на разреженную архитектуру Mixture-of-Experts с примерно 17 млрд активных параметров на токен. Применяется vector quantization с точностью 2,2 bits per weight; размер артефакта составляет около 101,0 GiB. Заявлена поддержка английского языка, а тесты включают прозу и смешанный по языкам код. Максимальная длина контекста в README не указана. Для текста требуется mlx-lm с поддержкой ключа model_file версии 0.31.9 или совместимой, для изображений — mlx-vlm не ниже 0.6.16. Главное преимущество сборки — уменьшенный объём, позволяющий сохранить около 17 ГиБ свободной памяти на системе с 128 ГБ и использовать модель с меньшими требованиями к резидентной памяти. По опубликованным измерениям версия v2 улучшает perplexity относительно v1 и превосходит близкую 2,6-битную квантизацию на прозе, однако уступает сборке VQ-2.4bpw по качеству. Уменьшение размера не гарантирует более высокую скорость декодирования, поскольку активные эксперты на токен остаются сопоставимыми. Лицензия — Apache-2.0.
Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP-RFA_S — это смешанная малобитная квантованная версия модели Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Базовую модель разработал DavidAU совместно с Nightmedia, TeichAI, armand0e и trohrbaugh; репозиторий квантования поддерживает tcclaviger. Модель основана на Qwen3.6 с 27 млрд параметров и предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, сторителлинга и ролевого взаимодействия. В карточке заявлена поддержка английского и китайского языков, а также текстово-графического сценария, однако размер контекста не указан. Версия RFA_S использует смешанную точность: основные dense MLP-слои, часть attention-блоков и MTP-блок квантованы в RFA 4-bit, линейное и gated-delta attention — в RFI int8 W8A8, а отдельные компоненты, включая vision tower, embeddings и lm_head, сохранены в bf16. Всего квантовано 405 модулей, общий размер составляет около 22,97 ГБ. Такой подход уменьшает требования к памяти по сравнению с менее агрессивной сборкой, сохраняя часть компонентов в более высокой точности. Ключевые ограничения связаны с совместимостью: требуется специальный образ tcclaviger/vllm:dev или более новый runtime с поддержкой RFA/RFI и оборудования RDNA 4 (gfx12xx); работа на другом оборудовании не подтверждена. Это не самостоятельная дообученная архитектура, а численно изменённая квантованная сборка родительской модели. Лицензия указана как Apache-2.0.
Nickyang выпустил производную модель Qwen3.6-35B-A3B, сокращённую методом RAZOR без дообучения. В каждом MoE-слое оставлено 128 из 256 маршрутизируемых экспертов; размер составляет 19,4 млрд параметров, или 19,0 млрд без модуля MTP, при этом на токен активно около 4 млрд параметров. Веса представлены в формате bfloat16 и safetensors; для запуска требуется сборка Transformers с поддержкой qwen3_5_moe. Модель предназначена для генерации текста и диалогов. Карточка описывает сокращение хранения экспертов при примерно неизменных вычислениях на токен; заявлена поддержка интерфейса вызова инструментов. Основа — Qwen/Qwen3.6-35B-A3B, лицензия Apache-2.0. Обрезка экспертов с потерями: ответы могут отличаться разнообразием, форматированием и поведением при завершении, даже если точность задач в основном сохраняется. Поведение на областях, далёких от калибровочного корпуса, не охарактеризовано; перед применением модель следует оценить на целевой нагрузке.
Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V7-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на датасете NousResearch/hermes-function-calling-v1, ориентированном на Hermes-агентов и вызов функций. Модель относится к семейству Qwen3.6, использует архитектуру Mixture-of-Experts с заявленным общим размером 35B и примерно 3B активных параметров, а также поддерживает обработку текста и изображений. В карточке указаны английский, китайский и многоязычный режимы работы, однако точный размер контекстного окна не приведён. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, вызова функций, ролевых и творческих задач, а также задач image-text-to-text. Основной заявленный акцент — отсутствие встроенных отказов и улучшение стабильности, ясности контекста и следования инструкциям с помощью метода Genesis, который, по описанию автора, выполняет численную коррекцию тензоров GGUF без переобучения. Эти заявления не подтверждены независимыми результатами оценки, поэтому качество, устойчивость и фактическая степень «uncensored» зависят от сценария использования. Для запуска требуются совместимые GGUF-инструменты и настройка распределения MoE-весов между GPU и CPU; автор приводит рекомендации для RTX 3060 с 12 ГБ видеопамяти, включая использование F16 для K/V cache и ограничение числа активных экспертов. Модель распространяется по лицензии Apache-2.0.
Qwen1.5-32B-Chat GGUF — набор квантизированных версий диалоговой языковой модели Qwen/Qwen1.5-32B-Chat, разработанный сообществом Featherless AI Quants. Модель предназначена для генерации текста и ведения диалогов; формат GGUF подходит для локального запуска и совместимых инструментов инференса, поддерживающих этот формат. В набор входят варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размеры файлов или наборов файлов составляют примерно от 11,7 до 33,0 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Модель относится к текстовой модальности; сведения о языках, архитектуре, размере контекста, результатах оценки и конкретных сценариях применения в README не указаны. Сильной стороной является наличие нескольких уровней квантизации для адаптации запуска под доступные аппаратные ресурсы. Ограничения включают значительные требования к памяти даже для наиболее компактных вариантов, а также возможные потери качества из-за квантизации. Лицензия в представленном README не указана.
microsoft/speecht5_asr — модель SpeechT5 от Microsoft, дообученная для автоматического распознавания речи на наборе LibriSpeech. Она преобразует монофоническую речь с частотой дискретизации 16 кГц в текст и предназначена для задач speech-to-text. SpeechT5 использует архитектуру кодировщика-декодировщика с общей сетью и специализированными компонентами для обработки речи и текста. Это часть унифицированной мультимодальной системы, предварительно обученной на речевых и текстовых данных; данный вариант настроен именно на распознавание речи. Для работы используются PyTorch и Transformers. Модель рассчитана на распознавание английской речи из LibriSpeech; README приводит входной формат моно, 16 кГц. Другие языки и условия записи в карточке не описаны. Лицензия — MIT.
T3qm7xNeuralsirkrishna_Experiment28Experiment26 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Experiment26-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.
Tarek07_Legion-V2.1-LLaMa-70B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Legion-V2.1-LLaMa-70B, разработанной Tarek07. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; исходная модель доступна как Tarek07/Legion-V2.1-LLaMa-70B. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты с разным уровнем сжатия и качеством: от Q8_0 размером около 75 ГБ до Q2_K размером около 26 ГБ. Рекомендуемыми указаны, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; варианты с более низкой разрядностью требуют меньше оперативной памяти, но снижают качество. Известно, что модель имеет размер 70 миллиардов параметров и работает в текстовой модальности. Архитектура, поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. Для работы следует использовать формат подсказок, совместимый с шаблоном Llama 3.3, с секциями system, user и assistant. Лицензия указана как llama3.3; дополнительные условия исходной модели в README не приведены.