I.6Перевод и языковая адаптация

BLOSSOM-v5-14b — разговорная языковая модель, разработанная проектом Blossom и дообученная на базе Qwen1.5-14B. По метаданным, архитектура модели — плотная Qwen2ForCausalLM с 13,4 млрд параметров; она работает с контекстом до 32 768 токенов и распространяется в формате safetensors. Модель предназначена для диалогов, ответов на вопросы и выполнения инструкций, включая задачи с математическими запросами. Обучение проходило в два этапа на наборах Blossom Orca, Wizard, Chat и Math; README сообщает, что данные серии V5 дистиллированы из GPT-4-0125-preview. Основные языки — китайский и английский. Модель принимает текст и генерирует текст. Указанная лицензия — Apache-2.0. README описывает общие разговорные возможности, но не приводит количественных оценок качества или подробных результатов тестирования.

DeepSeek-OCR — мультимодальная модель DeepSeek для распознавания текста и анализа документов по изображениям. Она предназначена для извлечения текста из визуальных материалов, включая страницы документов; README также указывает поддержку обработки PDF через vLLM. Модель основана на архитектуре DeepSeek-VL2 и содержит 559,7 млн параметров. Она принимает изображения и текстовые запросы, а результат формирует в виде текста; заявлен контекст до 8192 токенов и многоязычная поддержка. В качестве среды запуска README описывает Transformers на GPU NVIDIA, а также отмечает поддержку vLLM. Модель доступна по лицензии MIT. README не приводит подробных оценок качества и перечня поддерживаемых языков, поэтому применимость к конкретному языку или типу документа следует проверять на собственных данных.

Llama-3.2-3B-Instruct-GGUF — это набор квантизированных файлов модели в формате GGUF для meta-llama/Llama-3.2-3B-Instruct. Исходную модель разработала meta-llama, а квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и прикладных сценариях через совместимые локальные инструменты. Модель имеет около 3 миллиардов параметров и доступна в вариантах с квантизацией от 2 до 8 бит. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими библиотеками и приложениями, включая варианты с GPU-ускорением. README не содержит сведений о языках, размере контекста, поддерживаемых модальностях и конкретных показателях качества. Ключевые преимущества — уменьшенный размер файлов и возможность локального запуска на широком спектре устройств с использованием CPU или GPU. Ограничения связаны с потерями качества, возможными при низкобитной квантизации, а также с зависимостью от совместимого программного обеспечения. Лицензия в README не указана; условия использования исходной модели следует проверять отдельно в карточке meta-llama/Llama-3.2-3B-Instruct.

cloudyu/mistral_18B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на архитектуре Mistral и дообученная методом SFT на vicgalle/alpaca-gpt4. В README указано 80 слоёв; по метаданным модель содержит 17,6 млрд параметров, использует MistralForCausalLM и имеет контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате «инструкция — входные данные — ответ». Она принимает текст и генерирует текст. Репозиторий содержит веса в формате Safetensors; лицензия — CC BY 4.0. Карточка не описывает отдельные специализированные предметные области или подробные оценки качества.

RedHatAI/Mixtral-8x7B-Instruct-v0.1 — разговорная instruct-модель, опубликованная Red Hat AI на основе Mistral AI Mixtral-8x7B-Instruct-v0.1. Она предназначена для диалога и генерации текста по запросам, например для ответов на вопросы и объяснения понятий. Модель использует архитектуру Mixtral с разреженной экспертной маршрутизацией (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке заявлены английский, французский, итальянский, немецкий и испанский языки. README описывает развёртывание с vLLM, Red Hat Enterprise Linux AI и OpenShift AI. Модель распространяется по лицензии Apache-2.0. В README указано, что у неё нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать отдельной фильтрации.

Mixtral-8x7B-Instruct-v0.1-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе оригинальной модели Mixtral-8x7B-Instruct-v0.1, разработанной Mistral AI. Модель предназначена для генерации текста и диалоговых сценариев, а GGUF-версии позволяют запускать её локально с помощью llama.cpp и совместимых приложений и библиотек, включая text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. Архитектура исходной модели — Mixtral с восемью экспертами по 7B параметров; конкретные характеристики контекста, языковой поддержки и модальностей в README не указаны. Репозиторий содержит варианты квантования с разной разрядностью — от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Модель текстовая и относится к pipeline text-generation. Сильной стороной является поддержка множества локальных инструментов и возможность подбирать степень квантования под доступное оборудование. Ограничения и влияние конкретных вариантов квантования на качество в README подробно не описаны; также не указаны рекомендуемые аппаратные требования и максимальная длина контекста. Модель распространяется по лицензии Apache-2.0.

Muse-Glimmer-30B-CoreAI — это квантованный текстовый декодер модели Meta Muse-Glimmer-30B, подготовленный для запуска в Apple Core AI, преемнике Core ML. Модель предназначена для локальной генерации текста на устройствах Apple с macOS 27 и соответствующей поддержкой Core AI; заявлены сценарии диалога, работы с кодом, пошаговых рассуждений и вызова инструментов. Перцептивный энкодер исходной агентной VLM в комплект не входит, поэтому данная версия работает только с текстом. Модель имеет около 30 млрд параметров; используется формат Core AI .aimodel и 4-битная квантизация int4hu. Размер артефакта составляет 16,35 ГБ. В описании упоминается окно контекста до 2048 токенов и запуск на GPU или Neural Engine через Apple Core AI. На Mac Studio с M4 Max заявлена скорость декодирования около 26,69 токена в секунду без спекулятивного декодирования, а для отдельных задач с n-gram drafting — до 53,71 токена в секунду. Спекулятивное декодирование не требует дополнительных весов и, по приведённым тестам, сохраняет побайтно идентичный результат. Сильными сторонами являются локальный запуск, сравнительно небольшой для 30B-модели размер, поддержка Apple Silicon и высокая скорость генерации; результаты зависят от сценария, длины генерации, охлаждения устройства и параметров спекулятивного декодирования. Ограничения включают отсутствие визуального энкодера, ограниченное контекстное окно, зависимость производительности от оборудования и отсутствие универсальности приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия языковой модели Hermes-4-405B, разработанной NousResearch и подготовленной пользователем bartowski. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В основе лежит модель размером 405 млрд параметров; README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, рассчитанные на компромисс между качеством, требованиями к памяти и скоростью инференса. Для квантизации использовался llama.cpp с imatrix и калибровочными наборами данных. Наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, однако даже компактные варианты требуют значительного объёма памяти. Сильной стороной являются высокое качество старших вариантов квантизации и возможность локального запуска в экосистеме llama.cpp. Ограничения — очень крупный размер файлов, снижение качества у низкобитных вариантов и отсутствие указанного формата промпта: README рекомендует уточнять его на странице исходной модели. Лицензия в предоставленных данных не указана.

OpenChat v3.2 Super — диалоговая языковая модель из семейства OpenChat, разработанная командой OpenChat и дообученная на основе Llama 2. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текстовых ответов. Нативный контекст составляет 4096 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста; авторы также сообщают о высокой оценке в тестах AgentBench, AlpacaEval и MT-bench. Для развёртывания авторы рекомендуют OpenChat API server на базе vLLM; в README указаны требования от 48 ГБ видеопамяти на одном GPU или двух потребительских GPU с разделением нагрузки. Модель распространяется по лицензии Llama 2 Community License, допускающей коммерческое использование. Возможны галлюцинации, а качество может снижаться на сложных рассуждениях, математике и задачах программирования.

Это GGUF-квантизированная версия текстовой языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft. Репозиторий подготовлен пользователем legraphista с использованием llama.cpp b3003 и метода IMatrix для отдельных вариантов квантования. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые инструменты. Заявлена поддержка multilingual-сценариев, однако конкретный перечень языков в README не указан. Модель имеет контекстное окно до 128k токенов и поставляется в форматах GGUF с разными уровнями точности: от FP16 и BF16 до Q2_K, Q3_K, Q4_K, Q5_K, Q6_K, Q8_0 и вариантов IQ. Размер файлов составляет примерно от 4,77 до 27,92 ГБ. Варианты Q2–Q4 и некоторые IQ используют IMatrix, что должно помогать сохранять качество при сильном сжатии, но README не приводит количественных результатов сравнения. Сильная сторона репозитория — широкий выбор форматов для компромисса между качеством, размером и требованиями к памяти, а также поддержка длинного контекста исходной модели. Ограничения включают высокие аппаратные требования для крупных вариантов и возможное снижение качества у низкобитных квантований; архитектура и точное число параметров в README не указаны. Модель распространяется по лицензии MIT, унаследованной от исходной модели Microsoft.

Progenitor-LLaMa-70B — объединённая модель генерации текста, созданная автором TareksGraveyard из нескольких предварительно обученных моделей семейства Llama с помощью mergekit. В качестве базовой модели использована nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли модели Hanami, Negative LLAMA, Anubis, EVA-LLaMA и Cirrus. Архитектура — плотная LlamaForCausalLM, размер — 69,5 млрд параметров, формат весов — safetensors; контекст — до 131 072 токенов. Модель предназначена для диалога и генерации текста. Автор описывает её как более консервативное слияние и сообщает о хорошем результате, но считает свою более агрессивную версию Progenitor-V1.1-LLaMa-70B удачнее. Модель использует лицензию Llama 3.3; перед применением следует учитывать её условия.

Qwen2.5-72B-Instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen. Квантизацию выполнил legraphista с использованием llama.cpp версии b3787 и калибровочного набора IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в совместимых локальных средствах инференса, таких как llama.cpp. Модель основана на версии с 72 миллиардами параметров и исходным форматом BF16. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и более компактных IQ-квантизаций; размеры файлов составляют примерно от 29,81 до 145,42 ГБ. Для ряда вариантов применена IMatrix, что направлено на повышение качества при квантизации. В метаданных указан английский язык; сведения о других языках, архитектуре и размере контекста в представленном README не указаны. Сильная сторона модели — широкий выбор уровней квантизации, позволяющий подобрать компромисс между качеством, размером и требованиями к ресурсам, а также поддержка формата GGUF и IMatrix для многих компактных вариантов. Ограничения включают очень высокие требования к памяти даже для квантизированных файлов, зависимость совместимости и производительности от используемого движка и оборудования, а также возможное снижение качества при сильной квантизации. Модель распространяется по лицензии Qwen; подробные условия указаны в лицензии исходной модели.

kepom/Qwen2.5-7B-Instruct-abliterated-v2-GGUF — квантизированная версия языковой модели Qwen2.5-7B-Instruct-abliterated-v2, созданная QuantFactory с использованием llama.cpp. Исходную модель разработала huihui-ai на базе Qwen/Qwen2.5-7B-Instruct от Alibaba Cloud; модификация выполнена методом abliteration и позиционируется как менее ограниченная по отказам версия исходной instruct-модели. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в чат-приложениях и локальных приложениях через совместимый с GGUF стек. Она поддерживает английский язык, относится к классу causal language models и имеет размер 7B параметров. В README не указаны точный размер контекста, конкретные варианты квантизации, список поддерживаемых модальностей помимо текста и требования к аппаратному обеспечению. По приведённым оценкам, модель превосходит исходную Qwen2.5-7B-Instruct на IF_Eval и GPQA, но уступает ей на MMLU Pro, TruthfulQA и BBH. Abliteration может сделать ответы менее ограниченными, однако это также означает потенциально более слабое следование политикам безопасности и не гарантирует фактическую точность ответов. Модель распространяется по лицензии Apache-2.0.

dnotitia/Qwen3-1.7B — версия Qwen3, подготовленная Dnotitia для более удобного обучения. Веса совпадают с официальной моделью Qwen3, а шаблон чата вынесен в отдельный файл и дополнен тегами TRL для режима assistant_only_loss. Это плотная причинная языковая модель с 1,7 млрд параметров на архитектуре Qwen3ForCausalLM, рассчитанная на генерацию текста и диалог. Модель подходит для прототипирования диалоговых помощников, генерации и продолжения текста, а также экспериментов с дообучением. Семейство Qwen3 поддерживает переключение между режимами рассуждения и обычного ответа, работу с инструментами и более чем 100 языками; эти возможности описаны для семейства в целом. Метаданные указывают контекст до 40 960 токенов, тогда как README приводит 32 768 токенов. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. README предупреждает о возможных бесконечных повторах и рекомендует при их появлении настроить параметры генерации, в частности presence_penalty=1.5.

mlx-community/Qwen3-4B-Thinking-2507-4bit — это 4-битная квантованная версия языковой модели Qwen3-4B-Thinking-2507, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.2. Исходная модель опубликована организацией Qwen. Модель относится к классу text-generation и предназначена для генерации текста и диалогового взаимодействия. Модель рассчитана на запуск через библиотеку mlx-lm, включая загрузку токенизатора и применение chat template для диалоговых запросов. Из README известно, что она использует формат MLX и имеет размер исходной модели 4B параметров; применяется 4-битное представление. Сведения о поддерживаемых языках, длине контекста, точной архитектуре и мультимодальных возможностях не указаны, поэтому модель следует рассматривать как текстовую. Ключевое преимущество — адаптация к экосистеме MLX и уменьшенное 4-битное представление, что может снизить требования к памяти при локальном запуске. Ограничения README не описывает: отсутствуют данные о качестве, производительности, скорости, специализации модели и известных рисках. Лицензия — Apache-2.0.

Nickyang выпустил производную версию Qwen3.6-35B-A3B, созданную методом RAZOR — без градиентного дообучения удалена половина маршрутизируемых экспертов в каждом MoE-слое. В модели оставлено 128 из 256 экспертов на слой; размер составляет 19,4 млрд параметров, или 19,0 млрд без модуля MTP, при примерно 3 млрд активных параметров на токен. Остальные веса, включая внимание, общий эксперт, эмбеддинги, языковую голову и оставшиеся строки маршрутизатора, сохранены. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Она использует архитектуру Qwen3.5 MoE и формат safetensors с весами bfloat16. Для запуска требуется версия Transformers со встроенной поддержкой qwen3_5_moe. README не сообщает контекстное окно и языковой охват этой производной модели. Удаление экспертов сокращает объём хранимых экспертных весов, сохраняя примерно прежние вычисления на токен. Обрезка с потерями: ответы могут отличаться по разнообразию, форматированию и завершению, даже если точность на задачах в основном сохраняется; поведение вне конечного многодоменного калибровочного набора не охарактеризовано. Лицензия — Apache-2.0.

SwagMessiah100/Qwen3.8-27B-Unleashed-GGUF — это квантованная GGUF-версия uncensored-модели Qwen3.8-27B-Uncensored, разработанной JonathanColetti. Репозиторий SwagMessiah100 применяет к исходным весам карту динамического распределения битов Unsloth Dynamic 3.0 и соответствующую матрицу важности. Модель предназначена для генерации текста, диалогов и локального запуска через совместимые инструменты, включая llama.cpp. Заявлены английский и китайский языки. Модель имеет размер 27 млрд параметров и поддерживает контекст до 262 144 токенов, включая заявленное извлечение информации на длине около 250 806 токенов для варианта UD-Q3_K_XL. Доступны девять уровней квантования, включая UD-IQ4_XS, UD-Q3_K_XL и UD-IQ3_XXS. Динамическое распределение битов сохраняет более высокую точность в чувствительных тензорах и сильнее сжимает менее чувствительные, благодаря чему, по приведённым измерениям, вариант Q3 превосходит протестированные варианты Q4 по perplexity и может обеспечивать более высокую скорость. К сильным сторонам относятся uncensored-поведение, длинный контекст, несколько вариантов размера и качества квантования, а также проверка файлов нагрузочным тестированием. Производительность и качество зависят от конкретного варианта, оборудования и длины генерации; измерения проводились на RTX 4090 24 ГБ с llama.cpp и DFlash2. Для коротких запросов заявлена медианная скорость около 24,9 токена в секунду, для длинной генерации — до 56,3 токена в секунду, поэтому модель требовательна к ресурсам. Лицензия — Apache 2.0.

Noobito45/Qwen3.8-9B-heretic-uncensored-NVFP4-GGUF — квантизированная GGUF-версия языковой модели, разработанная на основе empero-ai/Qwen3.8-9B. Модель создана с использованием Heretic v1.4.0 и предназначена для генерации текста, рассуждений и других задач, поддерживаемых исходной моделью Qwen3.8-9B. Это «decensored» или «uncensored» вариант, в котором снижена склонность к отказам: в указанной проверке модель отказалась отвечать на 22 из 100 запросов против 100 из 100 у исходной версии. Модель основана на архитектуре Qwen3.5-9B и представляет собой дистилляцию исходной Qwen3.8 2.4T A95B; точные характеристики архитектуры, размер контекста и полный набор языков в этой карточке не указаны. Доступная версия использует квантизацию NVFP4 + Q8_0 и предназначена для запуска в совместимых с GGUF средах, включая llama.cpp. По данным бенчмарков, квантизация вызывает небольшие изменения качества и поведения по сравнению с эталонной версией BF16; результаты зависят от оборудования и настроек оценки. Модель сохраняет близость к исходной по KL-дивергенции, однако снижение отказов может сопровождаться изменением поведения и не означает отсутствия ограничений или рисков при использовании. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Soomin33/Qwen3.8-Flash-Next-FP6 — общественная квантованная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель создана на основе официального чекпойнта Qwen/Qwen3.8-Flash-Next-FP8, а не исходных весов BF16. Она предназначена для генерации текста и рассчитана на локальный запуск и серверное инференс-обслуживание с использованием SGLang. Модель использует архитектуру mixture-of-experts и содержит около 180 млрд параметров. Веса MoE-экспертов объёмом 123,31 млрд параметров представлены в формате FP6 e2m3 с группами по 64 значения, основные компоненты внимания и GDN хранятся в BF16, а таблица n-gram/PLE объёмом 51,2 млрд параметров — в FP8 и размещается в оперативной памяти хоста. В составе также присутствует vision encoder, однако заявленный pipeline предназначен для text-generation. Поддерживаемые языки, размер контекста и точный набор мультимодальных сценариев в карточке не указаны. Сильными сторонами являются существенное снижение размера экспертных весов при низкой относительной RMS-ошибке относительно FP8-источника, проверенная точность Triton-деквантизации и оптимизация под GPU NVIDIA Ampere. В тесте GPQA Diamond на ограниченной выборке модель показала 38 из 38 правильных ответов среди завершённых задач, а в частично выполненном полном прогоне — 66 из 71, однако эти результаты не являются полноценным бенчмарком. Ограничения включают высокие требования к ресурсам: рекомендуется две видеокарты по 64 ГБ либо не менее 110 ГБ памяти на одной GPU, около 50 ГиБ закреплённой оперативной памяти для n-gram-таблицы и примерно 147 ГиБ дискового пространства. Архитектуры GPU новее Ampere заявлены как потенциально совместимые, но не протестированы. Модель распространяется по лицензии Qwen Community License 1.0; в метаданных также указана общая категория лицензии other.

cygnal/Qwen3.8-Flash-Next-Heretic2-IQ4XS-Halogen — это квантованная GGUF-сборка Qwen3.8-Flash-Next, подготовленная для Halogen Flash Server разработчиком cygnal. Исходные веса модели прошли abliteration методом direction-removal в Heretic v1.3.0, затем были переквантованы в смешанном формате: преимущественно IQ4_XS для экспертных весов, Q8_0 для плотных слоёв и IQ4_NL для per_layer_token_embd.weight. Архитектура qwen4exp использует гибрид DeltaNet, SSM и attention; заявлено около 166 млрд параметров всего и 27 млрд активных на токен. Модель предназначена для диалоговой генерации текста и может принимать изображения при подключении отдельного vision tower. Сборка оптимизирована для Halogen Flash Server и AMD Strix Halo с ROCm; в README приведены измерения производительности на Radeon 8060S и требования примерно к 117 ГБ объединённой памяти. Видео не поддерживается. Для использования нужны совместимые сервер и аппаратное обеспечение; vision tower и MTP head поставляются отдельно. Лицензия — Apache-2.0.

Qwen3-VL-30B-A3B-Thinking-NVFP4 — квантованная версия мультимодальной модели Qwen3-VL-30B-A3B-Thinking, разработанной командой Qwen. Модель предназначена для задач image-text-to-text: анализа изображений, визуального восприятия, OCR, описания сцен и ответов на вопросы по изображениям. Она поддерживает текстовые и визуальные входные данные, а также языки English, Chinese, Japanese, Korean, French, German, Spanish, Portuguese, Russian и Arabic. Архитектура основана на MoE-модели с 31 млрд параметров в общей сложности и примерно 3 млрд активных параметров. Квантизация NVFP4 W4A4 применяется к текстовому языковому backbone, включая веса и активации; vision encoder, мультимодальный projector, LM head и MoE-gates сохраняются в формате BF16. Для запуска рекомендуется vLLM на GPU NVIDIA Blackwell; объём видеопамяти модели составляет около 16 ГБ против примерно 62 ГБ для BF16 и 31 ГБ для FP8. На Blackwell доступно полное ускорение NVFP4, а на более старых GPU сохраняется экономия памяти, но без ускорения квантизации активаций. Модель поддерживает управляемый режим рассуждений: /think предназначен для сложного визуального анализа, а /no_think — для более быстрых задач восприятия, OCR и простых описаний. Для корректного разделения рассуждений и ответа в vLLM рекомендуется специальный reasoning parser; заявленная максимальная длина контекста в примере запуска составляет 8192 токена. Ограничениями являются зависимость полной производительности NVFP4 от архитектуры Blackwell и возможные ограничения контекста или размера батча на GPU с 24 ГБ памяти. Модель распространяется по лицензии Apache-2.0.

simaai/Qwen3-VL-8B-Instruct-GPTQ-Safetensors — локально квантизированный чекпойнт модели Qwen/Qwen3-VL-8B-Instruct, подготовленный компанией Sima.ai для последующей компиляции LLiMa и развертывания на оборудовании Sima.ai. Это мультимодальная модель для задач image-text-to-text, способная обрабатывать изображения и текст; заявлена поддержка multilingual-сценариев. Модель имеет размер 8B параметров, однако другие архитектурные характеристики и точный максимальный контекст в README не указаны. Квантизация выполнена методом GPTQ: линейные слои декодера и lm_head переведены в симметричный INT4 с размером группы 256, а линейные слои vision encoder — в симметричный INT8 с поканальной обработкой. Проекторы и отдельные архитектурные исключения сохранены в исходной точности BF16. Артефакт предназначен для локального запуска и специализированного аппаратного развертывания; он не является готовым результатом компиляции LLiMa. По полной проверке MMStar точность исходной модели составила 48,20%, а квантизированной — 51,33%; при этом на WikiText-2 perplexity увеличилась с 11,3805 до 12,2893, что указывает на возможное ухудшение языкового качества. Реальные характеристики могут зависеть от языка, визуального домена, формата запросов, длины контекста и среды выполнения, поэтому требуется прикладная валидация. Аудиокомпоненты, если присутствуют, и явно исключенные проекторы остаются в исходной точности. Чекпойнт распространяется на условиях лицензии Apache-2.0 и сохраняет лицензионные требования, рекомендации по допустимому использованию и ограничения исходной модели. В README также указано, что исходная ревизия не зафиксирована, поэтому перед официальным выпуском или перераспространением необходимо восстановить и записать неизменяемую ревизию upstream.

Steelskull_L3.3-Electra-R1-70b-GGUF — это квантизированная версия языковой модели L3.3-Electra-R1-70b, разработанной Steelskull и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 70 миллиардов параметров и поддерживает текстовый сценарий работы. В README приведён специальный шаблон запросов с системными и пользовательскими сообщениями, совместимый с форматом токенов модели. Доступны варианты квантизации Q2–Q8 и IQ, размером примерно от 27 до 75 ГБ; для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K. Квантизация выполнена с использованием imatrix и датасета, указанного автором сборки. Сильной стороной являются высокое качество крупных вариантов квантизации и возможность локального запуска без обращения к облачным сервисам. Ограничения включают значительные требования к оперативной памяти или видеопамяти, а также возможное снижение качества в компактных вариантах. Языки, размер контекста, точная архитектура, мультимодальные возможности и результаты оценки в README не указаны. Лицензия модели также не указана, поэтому условия использования следует уточнять в репозитории исходной модели.

StrangeMerges_21-7B-slerp — слитая языковая модель на архитектуре Mistral, созданная Gille с помощью LazyMergekit. Она объединяет StrangeMerges_20-7B-slerp и NeuTrixOmniBe-7B-model-remix методом SLERP; веса представлены в формате safetensors и имеют точность bfloat16. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель может использоваться для диалога, написания и продолжения текстов, а также решения задач на рассуждение. В README приведены результаты Open LLM Leaderboard, включая оценки AI2 Reasoning Challenge и HellaSwag. Метаданные не задают конкретные языки или специализированные области применения. Лицензия — Apache-2.0.

NVIDIA Conformer-CTC Large (en-US) — модель распознавания речи, разработанная NVIDIA и обученная с помощью инструментария NeMo. Это крупный вариант архитектуры Conformer с CTC-декодированием, примерно 120 млн параметров; модель работает без авторегрессионной генерации и принимает монофоническое аудио WAV с частотой 16 кГц, выдавая транскрипцию в виде текста. Модель предназначена для транскрибирования английской речи, в том числе в пакетной обработке аудиофайлов и в серверных развертываниях через NVIDIA Riva. Она обучена на нескольких тысячах часов речи из LibriSpeech, Fisher, Switchboard, WSJ, VoxPopuli, Common Voice и других корпусов. В README приведены показатели WER на нескольких тестовых наборах; подключение внешней языковой модели при развертывании через Riva может улучшить точность. Распознавание может быть менее точным для технической лексики, разговорных вариантов речи и акцентов, недостаточно представленных в обучающих данных. Лицензия модели — CC BY 4.0.

NVIDIA Conformer-CTC Small (en-US) — модель распознавания английской речи, разработанная NVIDIA и обученная с помощью NeMo. Это небольшая нерекуррентная модель архитектуры Conformer с CTC-декодированием, примерно на 13 млн параметров. Она принимает монофонические WAV-записи с частотой дискретизации 16 кГц и преобразует речь в текст в нижнем регистре, используя английский алфавит, пробелы и апострофы. Модель предназначена для транскрибации аудиозаписей, пакетной обработки файлов и использования в качестве предобученного чекпойнта для дообучения на других данных. Она совместима с NeMo и NVIDIA Riva; для повышения точности в Riva можно подключить внешнюю языковую модель. Обучение проводилось на нескольких тысячах часов английской речи из публичных корпусов. По опубликованным результатам WER составляет 3,7% на LibriSpeech test-clean и 8,1% на test-other при жадном декодировании. Модель может хуже распознавать акцентную речь, технические термины и разговорные варианты, недостаточно представленные в обучающих данных. Лицензия — CC BY 4.0.

NVIDIA разработала FastConformer-Hybrid Large (en) для автоматического распознавания английской речи. Модель принимает монофоническое аудио WAV с частотой 16 кГц и возвращает расшифровку текстом; её можно использовать для транскрибирования записей или дообучить на другом наборе данных с помощью NeMo. Это модель семейства FastConformer примерно на 115 млн параметров. Гибридная архитектура обучена с функциями потерь Transducer и CTC, поэтому поддерживает оба режима декодирования. В обучении использован объединённый набор из нескольких тысяч часов английской речи, включая LibriSpeech, Fisher, Common Voice, VoxPopuli и другие корпуса. Текст вывода использует английские буквы, пробелы, точки, запятые и вопросительные знаки. Модель может хуже распознавать акцентированную речь, технические термины и разговорные варианты, недостаточно представленные в обучающих данных; набор пунктуации ограничен точкой, запятой и вопросительным знаком. Лицензия — CC BY 4.0.

T3qm7xNeuralsirkrishna_YamExperiment24 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamExperiment24-7B. Она предназначена для генерации текста и ведения диалогов; модель принимает текст и выдаёт текст, поддерживая контекст до 32 768 токенов. Веса доступны в формате Safetensors, лицензия — Apache 2.0.

Wav2Vec2-Large-960h-Lv60 — модель распознавания речи, разработанная Facebook. Это архитектура wav2vec 2.0 с примерно 402,7 млн параметров, реализованная как Wav2Vec2ForCTC. Модель предварительно обучена на аудио из Libri-Light и дообучена на 960 часах размеченной речи из LibriSpeech; она принимает речь с частотой дискретизации 16 кГц и преобразует её в текст на английском языке. Модель предназначена для транскрибации английской речи, в том числе записей, подобных аудиокнигам и тестовым наборам LibriSpeech. В описании исследования приведены результаты 1,8/3,3 WER на тестовых наборах LibriSpeech clean/other при обучении на всех размеченных данных; качество на иных типах аудио может отличаться. Репозиторий содержит веса PyTorch и Flax. Лицензия — Apache-2.0.

Wav2Vec2-mBART-50-Ru — русскоязычная модель распознавания речи, разработанная на основе Wav2Vec2-Large-Ru-Golos и mBART-large-50. Она преобразует аудио с русской речью в текст с пунктуацией и заглавными буквами. Архитектура — SpeechEncoderDecoderModel: Wav2Vec2 служит аудиокодировщиком, а mBART — декодером текста. Модель дообучена на размеченных корпусах SberDevices Golos, русской части Common Voice 6.0, Sova RuDevices и части Russian Librispeech. Она подходит для транскрибации русской речи, в том числе записанной в дальней зоне. Для входного аудио требуется частота дискретизации 16 кГц. Модель распространяется по лицензии Apache-2.0.