I.6Перевод и языковая адаптация

Это набор GGUF-квантизаций модели gradientai/Llama-3-8B-Instruct-Gradient-4194k, подготовленный и опубликованный командой featherless-ai-quants. Базовая модель относится к семейству Llama 3 с размером 8 млрд параметров и предназначена для генерации текста, включая работу в инструкционном режиме. README не уточняет разработчика базовой модели, архитектурные детали, языки и поддерживаемые модальности. Модель рассчитана на сценарии локального или совместимого с GGUF запуска, где требуется выбрать баланс между качеством, скоростью и потреблением памяти. Доступны варианты Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер варьируется примерно от 3,0 до 8,1 ГБ. README указывает контекст 4194k в идентификаторе базовой модели, однако не подтверждает фактическую длину контекста. Сильной стороной набора является широкий выбор уровней квантизации и формат GGUF, позволяющий адаптировать модель под различные аппаратные ограничения. Более компактные варианты требуют меньше памяти, но потенциально уступают старшим вариантам по качеству; конкретные результаты производительности и качества в README не приведены. Лицензия и условия использования не указаны, поэтому их необходимо проверять в документации базовой модели и репозитории.

InternLM2.5-20B-Chat — разговорная текстовая модель семейства InternLM, разработанная командой InternLM. Данный репозиторий содержит её квантизованные версии в формате GGUF, подготовленные Second State Inc. на основе модели internlm/internlm2_5-20b-chat и предназначенные для локального запуска средствами, совместимыми с GGUF, включая LlamaEdge. Модель предназначена для генерации текста и диалоговых сценариев; README также указывает поддержку использования инструментов через специальный шаблон prompt. Это текстовая модель без заявленной поддержки других модальностей. Она содержит 20 миллиардов параметров, использует шаблон ChatML и поддерживает контекст размером до 32 000 токенов. Доступны варианты квантования от Q2_K до Q8_0, а также f16; их размер составляет примерно от 7,55 до 39,7 ГБ. Основное преимущество репозитория — выбор компромисса между размером файлов и качеством: Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно ухудшить качество ответов. Для запуска с LlamaEdge требуется версия 0.13.0 или выше. Лицензия указана как other, без дополнительных условий в README.

JoyFox-OmniFlow-9B — мультимодальная модель общего назначения от JoyFox на основе OpenBMB MiniCPM-o 4.5. Она поддерживает диалог на английском, китайском и других языках, выполнение инструкций, ответы на сложные вопросы, математические рассуждения, генерацию кода, ролевые сценарии и вызов инструментов. Модель принимает текст, изображения, видеокадры и аудио, а также поддерживает потоковое взаимодействие в режиме full-duplex с одновременным аудио- и визуальным вводом и текстовым или речевым выводом. Архитектура MiniCPMO включает языковую модель, визуальный и аудиоэнкодеры, мультимодальные проекционные слои и модуль синтеза речи. В README указан размер 9B, а метаданные сообщают 7,6 млрд параметров; контекст — до 40 960 токенов. Релиз распространяется в BF16 Safetensors и включает ресурсы для TTS и клонирования голоса по образцу аудио. Для полной потоковой генерации речи требуются дополнительные зависимости minicpmo-utils[all]. Модель загружается через Transformers; в README описана проверка полной загрузки на GPU NVIDIA RTX PRO 6000 Blackwell. Независимые внешние результаты бенчмарков не приведены; качество потокового взаимодействия зависит от конфигурации аудио и видео и среды выполнения. Возможны неточные, предвзятые или неподходящие ответы, а схемы и аргументы вызова инструментов требуют проверки. Лицензия — Apache-2.0.

L3.1-70b-Swallow-Saigetsu — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit на Runpod из tokyotech-llm/Llama-3-Swallow-70B-v0.1 и NousResearch/Meta-Llama-3.1-70B-Instruct. Это плотная архитектура Llama с 69,5 млрд параметров, предназначенная для диалога и генерации текста; используется формат чата Llama 3 Instruct. Модель принимает текст и генерирует текст, а нативный контекст составляет 131 072 токена. Подходит для многоязычного общения, ответов на вопросы и генерации текста в формате инструкционного чата. В карточке описана как экспериментальная неформальная попытка объединить две модели; результаты и отдельные языковые преимущества не заявлены. Лицензия — llama3.1.

Lexora-Medium-7B — диалоговая языковая модель, опубликованная DeepMount00. Она основана на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в формате беседы и имеет интерфейс для вызова инструментов. В карточке указаны обучающие наборы Sonnet-3.5-ITA-INSTRUCTION и Sonnet-3.5-ITA-DPO, а также поддержка итальянского и английского языков. Максимальная длина контекста составляет 131 072 токена. Модель доступна в формате safetensors по лицензии Apache-2.0.

Llama-3-SauerkrautLM-70b-Instruct — диалоговая языковая модель, созданная VAGO Solutions совместно с Hyperspace.ai на основе Meta-Llama-3-70B-Instruct и настроенная с помощью DPO. Она предназначена для генерации ответов и ведения диалога на немецком и английском языках; в карточке приведены оценки на англоязычных и немецкоязычных тестах, включая MT-Bench и оценку RAG. Модель использует плотную архитектуру LlamaForCausalLM и содержит 69,5 млрд параметров. Контекст — до 8192 токенов. Доступны веса в формате safetensors. В README указана лицензия meta-llama, тогда как метаданные Hugging Face обозначают её как other; условия следует сверять с лицензией базовой модели и карточкой репозитория. Авторы предупреждают, что модель может выдавать неподходящий или неотфильтрованный контент и что её поведение не всегда будет уместным.

llm-jp-4-kappa-32b-a3b-v0.1 — японско-английская диалоговая языковая модель Third-intelligence, созданная как исследовательский прототип на основе llm-jp/llm-jp-4-32b-a3b-thinking. Модель дообучили в два этапа: SFT для генерации рассуждений и обучение с подкреплением на математических и программных задачах. Она использует архитектуру Mixture-of-Experts: около 32 млрд параметров всего и примерно 3 млрд активных при генерации. Контекст — до 65 536 токенов. Модель предназначена для диалоговой генерации текста на японском и английском языках, включая задачи рассуждения, математики и программирования. В README приведены результаты сравнительных тестов на японских и английских заданиях; они показывают сильные результаты в ряде категорий, но не гарантируют точность для конкретного запроса. Для запуска указаны Transformers и vLLM с reasoning parser для формата LLM-jp-4; для рекомендуемой конфигурации требуются несколько GPU с 80 ГБ памяти, хотя возможен запуск на одной такой карте с уменьшением длины контекста. Опубликована по лицензии Apache 2.0; README также требует соблюдать лицензию и условия базовой модели. Разработчик позиционирует её как исследовательскую: точность, безопасность и этичность ответов не гарантируются, возможны галлюцинации и неподходящий контент, а коммерческое и критически важное применение не предполагается.

Это GGUF-сборка Meta-Llama-3-1-8B-Instruct-f16-gguf, опубликованная ProfessorF (Nick V. Flor) для воспроизводимости исследований. Репозиторий содержит модель в формате GGUF F16; метаданные указывают на чат-возможности и генерацию текста. README описывает семейство Llama 3.2, но его сведения о размерах 1B и 3B и контексте 128k не подтверждают характеристики именно этой 8B-сборки. Модель предназначена для диалогового помощника и генерации текста, включая ответы на вопросы, суммаризацию, поиск знаний и переформулирование запросов. В README перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; метаданные также содержат эти языки. Использование регулируется лицензией Llama 3.2 Community License, которая допускает коммерческое и исследовательское применение на своих условиях. Качество и ограничения этой конкретной сборки отдельно не описаны.

Mistral-Small-Instruct-2409-GGUF — это набор квантованных файлов в формате GGUF для инструкционной модели Mistral-Small-Instruct-2409, разработанной компанией mistralai. Квантование и публикацию этого варианта выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Набор включает варианты квантования с разной разрядностью — от 2 до 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; некоторые из них поддерживают GPU-ускорение и совместимый с OpenAI API сервер. Преимуществами являются возможность локального использования, широкий выбор уровней квантования и совместимость с популярной экосистемой llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, длине контекста, целевых модальностях, результатах оценки и лицензии. Поэтому эти характеристики и условия юридического использования следует уточнять по карточке исходной модели Mistral-Small-Instruct-2409 и сопутствующим материалам.

Это набор GGUF-квантизаций модели Ornith-1.5-9B, разработанной ornith-ai и подготовленной пользователем mistrjirka с использованием форматов PXA/PXQ. Модель имеет около 9 млрд плотных параметров, архитектуру qwen35 и нативный контекст до 262 144 токенов. Она предназначена для генерации и анализа текста, а исходная модель также поддерживает обработку изображений при наличии совместимого мультимодального проектора, который в этом репозитории не поставляется. Доступны варианты с разной степенью сжатия: от PXQ2 и PXQ3 до рекомендованного PXQ4, повышающего качество PXQ4-HQ и ориентированного на качество PXQ6. Чем выше уровень, тем больше размер файла и потенциально выше точность, тогда как PXQ2 и PXQ3 рассчитаны на ограниченные ресурсы и сильнее жертвуют качеством. Преимуществами являются большой контекст и выбор компромисса между размером, качеством и скоростью декодирования. Ограничение заключается в использовании нестандартных PXQ-типов тензоров: обычные сборки llama.cpp без их поддержки, как правило, не загрузят файлы. Требуется PXA или специальная ветка mistrjirka/llama.cpp; оптимизация в первую очередь ориентирована на GPU NVIDIA Pascal и Volta, а поддержка более новых архитектур может использовать общие, менее специализированные пути. Указана лицензия MIT.

bartowski/Qwen2.5-14B-Instruct-1M-GGUF — это набор GGUF-квантизированных версий языковой модели Qwen2.5-14B-Instruct-1M, разработанной командой Qwen и подготовленной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для диалоговой генерации текста и других задач text-generation, включая локальное использование через llama.cpp и LM Studio. В README явно указан английский язык; формат взаимодействия предусматривает системные, пользовательские и ассистентские сообщения. Модель содержит 14B параметров и поддерживает контекст размером до 1M токенов согласно идентификатору и названию базовой модели. Доступны варианты от F32 и F16 до Q8_0, Q6, Q5, Q4, Q3 и Q2 с размерами файлов примерно от 6,5 до 59 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но заметно уступают по качеству; некоторые варианты используют legacy-форматы или оптимизации для CPU и Apple Silicon. Конкретные требования к оборудованию и производительность в README не указаны. Распространение выполняется по лицензии Apache 2.0. Для использования необходимо учитывать значительный объём модели и выбрать подходящий уровень квантизации в зависимости от доступной памяти и требований к качеству.

Qwen3-235B-A22B-Instruct-2507-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen. Квантизацию выполнил bartowski на основе llama.cpp, а распространение модели представлено в рамках программы LM Studio Community Models. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального запуска через совместимое программное обеспечение, включая LM Studio и llama.cpp. Из доступных данных известно, что исходная модель имеет размер 235B параметров, из которых 22B являются активными, однако сведения о конкретном типе квантизации, поддерживаемых языках, модальностях и размере контекста в README не указаны. К сильным сторонам относятся крупный масштаб исходной модели, инструкционная настройка и возможность использования GGUF-формата в локальной инфраструктуре. Ограничения связаны с отсутствием в предоставленной карточке подробностей о производительности, точности, аппаратных требованиях, вариантах квантизации и лицензии. Модель предоставляется третьими сторонами; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность результатов.

dealignai/Qwen3.8-27B-MXFP8-CRACK — квантованная версия базовой модели Qwen/Qwen3.8-27B от Alibaba, подготовленная dealignai. Это плотная гибридная vision-language-модель на 27 млрд параметров с архитектурой из 64 слоёв, объединяющей линейное внимание GatedDeltaNet и gated full-attention. Модель предназначена для работы с текстом, изображениями и видео, поддерживает английский и китайский языки, рассуждения с уровнями xhigh, medium и low, вызов инструментов через XML-схему и нативную Multi-Token Prediction для ускорения генерации. Точный размер контекста в README не указан. Модель собрана в формате JANG 8-bit MXFP8 для MLX и Apple Silicon, занимает около 27 ГБ памяти. Поведение отказа от выполнения запросов удалено методом CRACK на уровне весов, поэтому модель ориентирована на исследовательские сценарии, где требуется следование инструкциям без встроенных отказов, включая потенциально опасные категории. При этом заявлено сохранение рассуждений, мультимодальности, инструментов, знаний и многоязычности. В MMLU модель получила 86,67%, а в HarmBench — 100% соответствия запросам; эти результаты приведены разработчиком и не гарантируют качество или безопасность в других сценариях. Для запуска рекомендуется MLX и библиотека mlx-vlm; в README указаны параметры sampling temperature=1.0, top_p=0.95 и top_k=20. Модель распространяется на базе Apache-2.0; README прямо указывает, что базовая модель принадлежит Alibaba и лицензирована по Apache-2.0. Поскольку защитные отказы удалены, ответственность за применение модели и соблюдение законодательства возлагается на пользователя.

huginnfork/Qwen3.8-27B-NVFP4A16 — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для задач понимания изображений и текста, генерации текста по мультимодальному вводу, а также сценариев, где важны сниженное потребление памяти и ускоренный инференс на совместимом оборудовании. Она поддерживает архитектуру семейства Qwen3.5 с гибридом полноформатного внимания и линейного внимания на базе SSM, vision tower и multi-token prediction head. Точные сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Используется схема NVFP4A16 (W4A16): веса 192 MLP-модулей представлены в 4-битном формате FP4 с групповыми масштабами FP8 E4M3, а активации остаются в bf16. Пути self-attention, linear attention, vision tower, lm_head и MTP head также сохранены в bf16. Размер модели составляет около 28,8 GiB в шести shards против 51,7 GiB для исходной bf16-версии. Такой подход обеспечивает существенное сжатие при сохранении наиболее чувствительных к ошибкам компонентов в более точном формате. Сильными сторонами являются экономия памяти, отсутствие квантизации активаций и сохранение в bf16 attention-, SSM- и визуальных компонентов. По приведённым измерениям, perplexity на wikitext-2-raw выросла с 6,9416 до 7,1497, то есть примерно на 3%, что указывает на некоторую потерю точности относительно родительской bf16-модели. Производительность и совместимость зависят от поддержки NVFP4A16 и используемого программно-аппаратного стека. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Quark-AWQ-INT4-W4A16 — квантизированная версия модели Qwen/Qwen3.8-27B, разработанная с использованием AMD Quark компанией Advanced Micro Devices, Inc. Модель предназначена для задач генерации текста и, согласно метаданным карточки, относится к классу image-text-to-text. Подробные сведения о поддерживаемых языках и полном наборе модальностей не указаны. Используется 4-битное квантизирование весов по алгоритму AWQ с группой размера 128 (W4A16): веса представлены в INT4, активации сохраняются в BF16. Калибровка выполнена на 128 образцах с длиной последовательности 512 токенов. Размер базовой модели — 27B параметров. В тестах модель сохранила близкую к исходной BF16-версии производительность на GSM8K, Wikitext и однопоточных сценариях BFCL; однако результаты зависят от режима генерации и настроек оценки. Основное преимущество — снижение требований к памяти за счёт квантизации при сохранении большей части качества базовой модели. Ограничения включают возможные потери точности по сравнению с BF16-версией и необходимость совместимого inference runtime с поддержкой схемы W4A16Int4, например соответствующей конфигурации vLLM и AMD Quark. Базовая модель распространяется по лицензии Apache 2.0; для модификаций указаны авторские права Advanced Micro Devices, Inc. за 2026 год.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, разработанная HauhauCS и распространяемая в формате GGUF. Модель предназначена для генерации текста, рассуждений, агентских сценариев, работы с изображениями и видео. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие встроенного отказного поведения. Заявлена поддержка английского, китайского и других языков. Для изображений и видео используется отдельный vision projector в формате BF16. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120, размером FFN 17408 и словарём из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Сохраняется встроенный MTP/NextN, а дополнительный профиль HauhauCS FastMTP предназначен для ускорения спекулятивного декодирования. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000. Доступны квантизированные варианты от Q8_K_P до IQ2_M. Сильные стороны модели — широкий набор текстовых, мультимодальных, reasoning- и agentic-сценариев, большой контекст и варианты оптимизированного квантования K_P, рассчитанные на сохранение качества при уменьшенном размере. Ограничения включают потенциальные риски uncensored-поведения, отсутствие отказов на опасные запросы и необходимость отдельного vision projector для изображений и видео. В README не приведены независимые результаты оценки качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-Uncensored — это MLX-квантованная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, опубликованная пользователем ddark-il. Модель предназначена для локального запуска на компьютерах Apple Silicon, прежде всего на M5 Max с 128 ГБ памяти, и поддерживает сценарии генерации текста и обработки изображений с текстом. Модель использует архитектуру qwen4_exp с mixture-of-experts (MoE), vision-language возможностями и механизмом multi-token prediction (MTP). Исходный размер составляет около 180 млрд параметров; в данном варианте применяется смешанная affine-квантизация MLX со средней точностью 4,857 бит на параметр. Размер файлов — 109,29 ГБ, заявлена поддержка контекста до 262 тысяч токенов. Основная часть весов квантизирована в 4, 6 и 8 битах с различными размерами групп, причём для o_proj используется 8-битная квантизация. По измерениям авторов, версия обеспечивает меньшую ошибку относительно исходных bf16-весов, чем предыдущая ревизия, и достигает 90,7% совпадения top-1 предсказаний с bf16-версией. Сильными сторонами являются существенно меньшие требования к памяти по сравнению с bf16, высокая точность для квантизированной модели, поддержка длинного контекста и мультимодальных входов. Ограничения включают очень большой размер, зависимость от MLX и Apple Silicon, возможное влияние квантизации на качество, а также требования к пропускной способности SSD и кэшированию при работе с крупными таблицами и экспертами. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-MLX-4bit — это 4-битно квантованная версия языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen. Квантование в формате MLX подготовлено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и работы в инструкционных сценариях, включая диалоговое взаимодействие и выполнение текстовых запросов. В README указаны размер исходной модели 80B и обозначение A3B, однако подробности архитектуры, контекстного окна, поддерживаемых языков и модальностей не приведены. Формат MLX и 4-битное квантование ориентированы на более эффективное локальное выполнение при ограниченных ресурсах по сравнению с полноразмерной версией. К сильным сторонам относятся локальный запуск на Apple Silicon и сниженные требования к памяти благодаря квантованию. Ограничения включают возможную потерю качества по сравнению с исходной моделью и отсутствие в предоставленных данных подробных сведений о производительности, языковой поддержке и безопасных сценариях применения. Модель распространяется по лицензии Apache-2.0.

bartowski/Qwen_Qwen3-14B-GGUF — набор GGUF-квантизаций базовой языковой модели Qwen3-14B, разработанной командой Qwen. Квантизации выполнены bartowski с использованием llama.cpp версии b5200 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до сильно сжатых форматов объёмом около 5,32 ГБ, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, Q3- и Q2-варианты. Более крупные квантизации обычно обеспечивают более высокое качество, тогда как компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для диалогового режима в README указан шаблон с ролями system, user и assistant. README не содержит сведений об архитектурных деталях, поддерживаемых языках, длине контекста, мультимодальности или лицензии. Условия использования необходимо уточнять по документации исходной модели Qwen/Qwen3-14B и репозиторию квантизаций.

RuAdapt-HomerCreativeAnvita-Mix-Qw7B-v1 — объединённая модель генерации текста на базе архитектуры Qwen2, созданная с помощью mergekit методом SLERP из RefalMachine/ruadapt_qwen2.5_7B_ext_u48_instruct и suayptalha/HomerCreativeAnvita-Mix-Qw7B. Она предназначена для диалогов и генерации текста, в том числе на русском и английском языках; каталог также отмечает интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Русскоязычная база RefalMachine адаптирована для диалога и ускоренной обработки русскоязычных последовательностей, а вторая база вносит возможности творческой генерации. Модель распространяется по лицензии Apache-2.0. Доступные сведения не приводят сравнительных оценок качества, поэтому пригодность для конкретных сценариев следует проверять на собственных примерах.

Tema_Q-X7-Thinking — большая языковая модель для агентных приложений, созданная на основе Ornith-1.5-35B-A3B, разработанной Ornith AI. В карточке указано, что модель рассчитана на генерацию более гибких и полезных ответов на сложные запросы; в сочетании с Tema_Q Agent она поддерживает расширенные рассуждения. Модель использует архитектуру семейства Qwen 3.5 MoE и распространяется в формате safetensors. Она поддерживает японский, английский и китайский языки, диалог, следование инструкциям и интерфейс вызова инструментов. Лицензия в предоставленных данных не указана. Пользователи отвечают за соблюдение применимого законодательства и правил платформы; карточка запрещает использование для дискриминации, преследования, насилия, незаконных и иных вредоносных целей.

ABrunsch/Unlimited-OCR-repacked — перепакованная копия мультимодальной модели Unlimited-OCR, разработанной Baidu. По README, веса соответствуют оригинальной версии; отличие репозитория — разбиение Safetensors на четыре файла для хранения и передачи. Модель предназначена для распознавания текста и разбора длинных документов по изображениям; README также описывает преобразование PDF-страниц в изображения для подачи модели. Архитектура — плотная UnlimitedOCRForCausalLM с 559,7 млн параметров и контекстом 32 768 токенов. Модель работает с изображениями и текстом, заявлена как мультиязычная. Метаданные указывают задачи image-text-to-text и text-generation; для сценария OCR основная задача — image-text-to-text. Репозиторий использует Transformers и формат Safetensors. Лицензия — MIT. Для запуска README приводит GPU-ориентированные варианты Transformers, vLLM и SGLang.

fiveflow/8b_128 — генеративная языковая модель, опубликованная пользователем fiveflow на Hugging Face. По метаданным она относится к семейству Qwen3, предназначена для генерации текста и поддерживает conversational-сценарии.

ARK-ASR-3B — мультиязычная модель автоматического распознавания речи от Edge0. Это авторегрессионная модель на базе Transformers с архитектурой arkasr: Whisper-подобный аудиоэнкодер, MLP-адаптер и декодер Qwen. Модель содержит около 3,1 млрд параметров, принимает аудио с частотой дискретизации 16 кГц и генерирует текстовую расшифровку; указанная длина контекста — 32 768 токенов. Модель предназначена для транскрибации речи на китайском, английском, немецком, японском, французском, корейском, испанском, польском, итальянском, румынском, венгерском, чешском, нидерландском, финском, хорватском, словацком, словенском, эстонском и литовском языках. В README приведены результаты на англоязычном коротком аудио: средний WER 5,04% на наборах AMI, Earnings22, GigaSpeech, LibriSpeech, SPGISpeech и VoxPopuli; также приведены результаты CER для китайского. Для загрузки используется Transformers и пользовательский код модели. Лицензия — Apache-2.0.

DeepSeek-R1-0528-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-0528, разработанной deepseek-ai и преобразованной в формат GGUF участником bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 215 до 713 ГБ для представленных файлов. Квантизация выполнена с применением imatrix и специального набора данных; для повышения производительности использовались изменения из соответствующего PR для llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста исходной модели. Сильной стороной набора является широкий выбор уровней квантизации: более высокие варианты обеспечивают качество, близкое к исходному, а более компактные позволяют экономить оперативную память. Ограничения связаны с очень большими требованиями к дисковому пространству и памяти, а также с неизбежным снижением качества у низкобитных вариантов. Для работы следует использовать указанный формат промпта с маркерами DeepSeek-R1. Модель распространяется по лицензии MIT.

mlx-community/DeepSeek-V3.2_bf16 — преобразованная в формат MLX версия DeepSeek-V3.2 от deepseek-ai, подготовленная сообществом mlx-community. Модель предназначена для генерации текста; её можно запускать с библиотекой mlx-lm на поддерживаемых MLX системах. Архитектура — DeepseekV32ForCausalLM; в метаданных указаны 37,6 млрд параметров и контекст до 163 840 токенов. Репозиторий создан преобразованием исходной модели с помощью mlx-lm 0.28.4. Метаданные указывают лицензию MIT и формат safetensors с FP8. README не описывает специализированные сценарии, языковое покрытие или результаты оценки качества, поэтому модель следует рассматривать как универсальную генеративную языковую модель без подтверждённой отраслевой специализации.

Qwythos-9B-v2-GGUF — это квантизированная версия языковой модели Qwythos-9B-v2, разработанной Empero AI. Представлена в формате GGUF и подготовлена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов и задач, требующих рассуждений; в метаданных также указаны поддержка английского языка, long-context и uncensored-настройка. Модель имеет около 9 млрд параметров и распространяется в нескольких вариантах точности: от bf16 и Q8_0 до более компактных Q2–Q6 и IQ-квантов. Размер файлов составляет примерно от 5,1 до 18,4 ГБ. Квантование позволяет запускать модель локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты, выбирая компромисс между качеством и требованиями к памяти. Точная архитектура, максимальная длина контекста и перечень поддерживаемых модальностей в README не указаны; по имеющимся данным это текстовая модель без заявленной поддержки изображений, аудио или видео. Сильные стороны модели — локальный запуск, широкий выбор квантов и возможность подобрать вариант под доступный объём RAM или VRAM. Более высокие варианты, включая Q6_K_L, Q6_K, Q5 и Q4_K_M, ориентированы на сохранение качества, тогда как Q3 и Q2 подходят для систем с ограниченными ресурсами, но дают более низкое качество. Модель распространяется по лицензии Apache-2.0.

susnato/ernie-m-large_pytorch — конверсия весов ERNIE-M Large из формата PaddlePaddle в PyTorch, выполненная автором репозитория; исходную модель разработала Baidu. Это плотная мультиязычная модель семейства ERNIE-M с 658,7 млн параметров и контекстом до 514 токенов. Она предназначена для извлечения семантических представлений предложений и межъязычных задач: сопоставления предложений, определения текстового следования, распознавания именованных сущностей и ответов на вопросы после настройки под соответствующую задачу. Модель обучалась выравнивать представления языков с помощью восстановления маскированных токенов и обратного перевода на моноязычных корпусах. В карточке перечислены 14 языков, включая русский, английский, китайский, арабский и хинди. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Это базовая модель извлечения признаков, поэтому классификация и ответы на вопросы обычно требуют подходящей обвязки или дообучения.

jonatasgrosman/exp_w2v2t_ru_hubert_s818 — модель распознавания русской речи, дообученная автором jonatasgrosman с помощью HuggingSound на обучающей части Common Voice 7.0. Она основана на facebook/hubert-large-ll60k и использует архитектуру HuBERT с CTC-головой; размер составляет 402,7 млн параметров. Модель принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст. Подходит для автоматической транскрипции русскоязычных записей. Распространяется по лицензии Apache-2.0.

Gemma 3 270M — компактная языковая модель семейства Gemma от Google, созданного на основе исследований и технологий Gemini. Репозиторий содержит текстовую версию модели в формате safetensors, предназначенную для генерации текста; размер 270 млн параметров следует из идентификатора модели. Лицензия — Gemma. Модель подходит для генерации и преобразования текста, диалоговых интерфейсов, суммаризации и ответов на вопросы. Компактный размер облегчает запуск на устройствах и инфраструктуре с ограниченными ресурсами. В README для семейства Gemma 3 указаны окно контекста 128K и поддержка более 140 языков, но эти характеристики не подтверждены отдельно для текстовой версии на 270M. Качество ответов зависит от обучающих данных и формулировки запроса; модель может упускать языковые нюансы, допускать фактические ошибки и испытывать трудности со сложными открытыми задачами. README описывает мультимодальные возможности семейства, однако данный репозиторий помечен как text-generation, поэтому визуальный ввод не заявлен для этой модели.