I.6Перевод и языковая адаптация

ark4004/gemma3.8-27B-FP8 — репозиторий на Hugging Face, опубликованный пользователем ark4004. По истории репозитория он является копией Qwen/Qwen3.8-27B-FP8, поэтому название Gemma не подтверждает принадлежность к семейству Gemma. Модель предназначена для диалоговой генерации текста и обработки изображений с текстом: заявлена совместимость с Transformers, vLLM и SGLang, а примеры показывают ответы на текстовые запросы и анализ изображений. Это постобученная мультимодальная модель класса image-text-to-text с заявленным размером 27B параметров и FP8-квантизацией; для исходной Qwen-версии указана fine-grained FP8-квантизация с размером блока 128. Репозиторий распространяется по лицензии Apache-2.0. Точные архитектурные детали, поддерживаемые языки, размер контекстного окна, результаты оценки, сильные стороны и ограничения именно копии ark4004 в доступных данных надежно не указаны, поэтому их нельзя утверждать.

ibm-granite_granite-4.1-8b-GGUF — это квантизированная версия языковой модели granite-4.1-8b, разработанной IBM (ibm-granite) и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет около 8 миллиардов параметров и доступна в вариантах от BF16 до различных уровней квантизации Q2–Q8 и IQ. Размер файлов составляет примерно от 4,07 до 17,59 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Для взаимодействия используется специальный шаблон промпта с ролями system, user и assistant. Сведения о поддерживаемых языках, архитектуре исходной модели, модальностях помимо текста и размере контекстного окна в представленном README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального инференса и совместимость с распространёнными инструментами. Более точные варианты, включая Q6_K и Q6_K_L, обеспечивают качество, близкое к исходному, тогда как варианты Q3 и Q2 рассчитаны на системы с ограниченным объёмом памяти, но сопровождаются заметным снижением качества. Модель распространяется по лицензии Apache-2.0.

internlm2_5-20b-chat-IMat-GGUF — это GGUF-квантизованная версия чат-модели internlm/internlm2_5-20b-chat, подготовленная legraphista с использованием llama.cpp (сборка b3524). Исходная модель имеет формат BF16, а в репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и более компактных IQ-квантизаций. Некоторые варианты используют IMatrix для калибровки квантования, что рассчитано на более эффективное сохранение качества при уменьшении размера модели. Модель предназначена для локального запуска задач генерации текста и чат-взаимодействия через совместимые инструменты, включая llama.cpp. Доступны файлы размером примерно от 7,55 до 39,73 ГБ, поэтому требования к оперативной или видеопамяти зависят от выбранного варианта. Ключевые характеристики исходной архитектуры, поддерживаемые языки, размер контекста, результаты тестирования и конкретные сильные стороны в README не указаны; качество и скорость также будут зависеть от уровня квантования и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README.

Ling-3.0-flash-VL-MTP-ROCmFP4-GGUF — это квантизированная multimodal-модель на базе inclusionAI/Ling-3.0-flash-VL, опубликованная kingjones777. Модель предназначена для задач image-text-to-text: работы с текстом и изображениями, диалоговых сценариев, агентских и инструментальных задач, а также генерации текста. Вариант ориентирован на запуск через llama.cpp на видеоускорителях AMD Strix Halo с ROCm или Vulkan. Исходная модель имеет 124 млрд параметров в общей сложности и около 5,5 млрд активных параметров, использует native multimodal-архитектуру и поддерживает vision через отдельный проектор mmproj в формате BF16. Текстовая часть содержит 42 слоя, 512 экспертов, 32 attention heads, hidden size 2560 и контекстные параметры, указанные в конфигурации; в данной сборке добавлена голова multi-token prediction с одним дополнительным предсказываемым токеном. Доступны варианты STRIX_LEAN, FAST и COHERENT, квантизированные в ROCmFP4, а также версия без MTP. Для обработки изображений требуется файл mmproj. Сильные стороны модели — сочетание мультимодальности и MTP, высокая скорость на AMD Strix Halo, особенно при использовании ROCm для prefilling и Vulkan для декодирования, а также несколько вариантов сборки под разные компромиссы между качеством, размером и скоростью. Ограничения включают аппаратную и программную специализацию под AMD Strix Halo, необходимость исправленной версии сервера для одновременной работы MTP и изображений, снижение скорости prefilling при включённом MTP и ухудшение эффективности при увеличении длины MTP-черновика. Лицензия — MIT.

MaziyarPanahi/Llama-3-11B-Instruct-v0.1-GGUF — набор квантованных файлов модели в формате GGUF, подготовленный разработчиком MaziyarPanahi на основе MaziyarPanahi/Llama-3-11B-Instruct-v0.1. Модель предназначена для генерации текста и использования в диалоговых сценариях, включая запуск через совместимые инструменты, такие как llama.cpp. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством работы. Модель относится к семейству Llama 3 и требует использования соответствующего шаблона промпта с управляющими токенами Llama 3. В README не указаны поддерживаемые языки, размер контекста, точная архитектура базовой модели, результаты оценки, лицензия и ограничения использования.

TheBloke/Mistral-7B-v0.1-GGUF — это набор квантованных файлов в формате GGUF для предварительно обученной языковой модели Mistral 7B v0.1, разработанной Mistral AI. Репозиторий подготовлен TheBloke и предназначен для генерации текста и локального запуска модели через llama.cpp и совместимые интерфейсы и библиотеки. Модель относится к архитектуре Mistral и содержит около 7 миллиардов параметров. Доступны варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между размером, скоростью и качеством. Поддерживается текстовый ввод и вывод; шаблон промпта не задан, поэтому используется непосредственная передача текста. Максимальная поддерживаемая длина последовательности для GGUF-версии указана как 4096 токенов или меньше. Сильные стороны модели — возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими инструментами. Ограничения включают отсутствие поддержки последовательностей длиннее 4096 токенов в данном формате и потенциальное снижение качества в более агрессивно квантованных вариантах. Языки, на которых модель обучалась, и специализированные сценарии её применения в README не указаны. Модель распространяется по лицензии Apache 2.0.

Mistral-Small-22B-ArliAI-RPMax-v1.1-GGUF — это квантизированная версия текстовой генеративной модели ArliAI/Mistral-Small-22B-ArliAI-RPMax-v1.1. Исходную модель разработала ArliAI, а сборку в формате GGUF подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая llama.cpp и LM Studio. Модель относится к семейству Mistral и содержит около 22 миллиардов параметров. Доступны версии от F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ4_XS, что позволяет выбирать между качеством генерации, потреблением памяти и скоростью инференса. Размер файлов варьируется примерно от 11,7 до 44,5 ГБ. Для некоторых вариантов предусмотрена оптимизация под ARM, включая требования к поддержке sve или i8mm. Рекомендуемый формат prompt — <s> [INST] запрос [/INST]. Сильной стороной сборки является широкий выбор квантизаций, включая варианты с высоким качеством и уменьшенным потреблением памяти, что упрощает локальное развертывание. Ограничения и дополнительные характеристики исходной модели, включая поддерживаемые языки, размер контекста, точную архитектуру, мультимодальность и результаты тестирования, в README не указаны. Модель распространяется по лицензии MRL-0.1; в метаданных она обозначена как license: other.

Jackrong/MLX-Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-4bit — это языковая модель для генерации текста и задач, требующих рассуждений. Модель разработана Jackrong и представляет собой версию Jackrong/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled, преобразованную в формат MLX с использованием mlx-lm 0.30.7. Модель предназначена для диалоговой генерации и reasoning-сценариев на английском и китайском языках. Она основана на архитектуре Qwen3.5 с размером 9 млрд параметров и использует 4-битное представление, что уменьшает требования к памяти по сравнению с полноразмерной версией. В метаданных также указаны обучение или настройка на наборах Jackrong/Qwen3.5-reasoning-700x и nohurry/Opus-4.6-Reasoning-3000x-filtered. К сильным сторонам относятся специализация на рассуждениях, поддержка английского и китайского языков и совместимость с экосистемой MLX через библиотеку mlx-lm. Ограничения включают неизвестную длину контекста и отсутствие сведений о мультимодальности; по назначению это текстовая модель. Использование распространяется на условиях лицензии Apache-2.0.

Nemotron 3.5 ASR — многоязычная модель распознавания речи, разработанная NVIDIA. Она преобразует аудио в текст и предназначена для транскрибации потоковой речи с низкой задержкой и обработки аудиозаписей пакетами. Модель содержит 600 млн параметров и использует архитектуру Cache-Aware FastConformer-RNNT с языковым prompt-conditioning; потоковый режим повторно использует контекст кодировщика и обрабатывает новые аудиофрагменты. Размер фрагментов настраивается во время запуска: 80, 160, 320, 560 или 1120 мс. Модель поддерживает транскрибацию с пунктуацией и заглавными буквами для 32 локалей из коробки, включая русский, английский, испанский, немецкий, французский, арабский, китайский, японский и украинский. Ещё для восьми локалей заявлена готовность к адаптации, но для полноценной транскрибации на них требуется дообучение. Режим auto может определять язык и добавлять его метку к результату. Модель доступна через NeMo и Transformers; карточка заявляет готовность к коммерческому применению, лицензия указана как other.

Neural-Chat-v3-1 — языковая модель Intel на архитектуре Mistral, дообученная на базе mistralai/Mistral-7B-v0.1 на наборе Open-Orca/SlimOrca. Для выравнивания ответов применялся метод Direct Preference Optimization (DPO) с парами предпочтений Intel/orca_dpo_pairs. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых сценариев; в метаданных указан контекст до 32 768 токенов, тогда как README приводит значение 8 192 токена. Модель подходит для ответов на запросы, ведения диалога и других языковых задач, а также для последующей адаптации под конкретное применение. В опубликованной оценке она показала средний результат 59,06 на наборе бенчмарков, однако качество зависит от формулировки запроса. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед внедрением рекомендуется проверка безопасности и качества. Лицензия — Apache 2.0.

NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B-NVFP4 — квантованная версия на NVFP4 семейства эластичных языковых моделей NVIDIA Nemotron 3, представленная в карточке как 3-в-1 чекпойнт с вариантами 30B, 23B и 12B. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура родительской модели сочетает слои Mamba-2, Attention и Mixture-of-Experts. Метаданные указывают 946,5 млн параметров, а README описывает вложенный вариант 12B с 2,0 млрд активных параметров; эти сведения относятся к разным представлениям и не совпадают. Модель предназначена для генерации текста в диалоге и задач рассуждения. Эластичная структура позволяет извлекать варианты меньшего размера из общего набора весов; README описывает также квантизацию NVFP4 с дистилляцией с учителем и использование через Transformers и vLLM. Указан контекст 262 144 токена. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. README заявляет готовность к коммерческому использованию, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией в репозитории. Карточка содержит несоответствия в названии и числе параметров: README описывает 30B A3B NVFP4 чекпойнт, тогда как идентификатор и метаданные относятся к 12B A2B NVFP4.

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-NVFP4 — разработанная NVIDIA эластичная языковая модель для генерации текста и диалогов. Один NVFP4-чекпойнт содержит вложенные варианты на 30B, 23B и 12B параметров; меньшие варианты можно извлечь из него без отдельного дообучения. Архитектура основана на гибридной комбинации Mamba-2, Transformer и MoE. Для вариантов 30B, 23B и 12B указано соответственно 3,6B, 2,8B и 2,0B активных параметров на токен. Модель предназначена для рассуждений и диалоговых сценариев с возможностью выбирать баланс качества и скорости инференса в зависимости от размера варианта. README сообщает о поддержке английского, немецкого, испанского, французского, итальянского и японского языков. Метаданные указывают контекст 262 144 токена; в README также описана возможность настройки более длинного контекста в vLLM. Модель представлена в формате safetensors и рассчитана на использование через Transformers и vLLM. Это квантованная NVFP4-версия эластичной модели, полученной постобучением NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью Elastic framework; при квантовании применялась дистилляция с BF16-моделью в качестве учителя. README заявляет готовность к коммерческому применению, однако метаданные обозначают лицензию как other и не раскрывают её условия, поэтому перед использованием следует проверить лицензионные документы репозитория.

Ovis2-2B — компактная мультимодальная языковая модель семейства Ovis, предназначенная для работы с изображениями и текстом. Визуальный компонент построен на aimv2-large-patch14-448, языковая часть — на Qwen2.5-1.5B-Instruct. Модель использует архитектуру Ovis для структурного согласования визуальных и текстовых представлений; её разработчики улучшили обучение и подбор данных по сравнению с Ovis1.6. Модель отвечает на вопросы по изображениям, распознаёт текст на них, извлекает структурированные сведения из таблиц и графиков, а также обрабатывает несколько изображений и видео. Обучение включало данные на нескольких языках, в том числе для развития мультиязычного OCR, и было направлено на улучшение рассуждений. Карточка демонстрирует результаты на тестах понимания изображений и видео, но не приводит длину контекста. Для запуска в README приведён пример использования Transformers. Модель распространяется по лицензии Apache-2.0. Авторы предупреждают, что не гарантируют полного отсутствия проблемного контента или нарушений авторских прав; также рекомендуется рассмотреть более новую версию Ovis2.5.

Qwen1.5-MoE-A2.7B-Chat-GPTQ-Int4 — диалоговая decoder-only языковая модель на базе Transformer с архитектурой Mixture of Experts (MoE), разработанная командой Qwen. Модель предназначена для генерации текста и взаимодействия в формате чата, включая ответы на вопросы, краткие объяснения и другие сценарии использования языкового ассистента. В README указана поддержка английского языка и конвейер text-generation. Модель содержит 14,3 млрд параметров, из которых во время работы активируются 2,7 млрд; она создана на основе Qwen-1.8B и дообучена с применением supervised fine-tuning и direct preference optimization. Версия GPTQ-Int4 использует 4-битное квантование. По заявлению разработчиков, при сопоставимой с Qwen1.5-7B производительности она требует около 25% ресурсов для обучения и обеспечивает примерно в 1,74 раза большую скорость вывода. Размер контекста в README не указан. Среди ограничений отмечена возможность переключения языков и другие нежелательные случаи генерации, для снижения которых рекомендуется использовать параметры из generation_config.json. Модель распространяется по лицензии tongyi-qianwen; точные условия следует уточнять по указанной в README лицензии.

Это пакет слоёв GGUF для модели Qwen3-235B-A22B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска на локальном кластере. Он получен из unsloth/Qwen3-235B-A22B-GGUF и сохраняет исходное распределение весов, разбитое на артефакты по слоям. Вариант UD-Q4_K_XL использует квантизованный формат GGUF; исходная модель относится к семейству Qwen3 и содержит 235 млрд параметров общей ёмкости с архитектурой MoE на 22 млрд активных параметров. Пакет предназначен для локального приватного чата и генерации текста, когда веса нужно распределить между несколькими машинами. Mesh LLM предоставляет OpenAI-совместимый интерфейс для запросов chat/completions. В метаданных указана библиотека mesh-llm и лицензия Apache-2.0. Языки и длина контекста в предоставленных данных не установлены; подробности архитектуры и поведения следует сверять с карточкой исходной модели.

Qwen3-4B-GGUF — квантизированная GGUF-версия языковой модели Qwen3-4B, разработанной Qwen и подготовленной квантизацией компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через LlamaEdge. README указывает поддержку английского языка, текстовую модальность и контекстное окно до 128 000 токенов. Доступны варианты с квантизацией от 2 до 8 бит, а также f16, размером примерно от 1,67 до 8,05 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу между размером и качеством, тогда как низкобитные варианты экономят память, но могут заметно терять в качестве. Для работы используются шаблоны prompt type chatml и qwen3-no-think; поддерживаются режимы с рассуждением и без него. Модель можно запускать как сервис или командное приложение LlamaEdge при наличии совместимой версии. Лицензия указана как qwen-research; подробные условия приведены в лицензии исходной модели Qwen/Qwen3-4B. README не содержит сведений о точной архитектуре, обучающем наборе данных, результатах тестирования или ограничениях безопасности, поэтому эти характеристики нельзя достоверно оценить по представленным данным.

Parda21/Qwen3-4B-NWC — версия языковой модели Qwen3-4B, представленная в формате Neural Weight Compression (NWC). Линейные слои и связанные эмбеддинги хранятся в сжатом BF16-виде; веса восстанавливаются непосредственно CUDA-ядром при умножении матриц. По заявлению автора, веса побитово совпадают с исходной моделью и не квантизированы. Репозиторий содержит 3,7 млрд параметров и рассчитан на контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов. По сравнению с исходной версией BF16 автор сообщает о сокращении размера весов с 8,04 до 5,55 ГБ, использовании видеопамяти с 8,10 до 5,67 ГБ и скорости 55 против 45 токенов в секунду на RTX 4070 в указанном режиме. Для запуска нужны библиотека nwc, Transformers, Accelerate и CUDA; специальный формат требует поддержки NWC. Лицензия весов — Apache-2.0, как у базовой модели.

Это семейство GGUF-квантизированных вариантов модели Qwen3.8-27B, опубликованное разработчиком MagicQuant и основанное на базовой модели Qwen/Qwen3.8-27B. Релиз предназначен для генерации текста и диалоговых сценариев, а также для локального запуска моделей через совместимое с GGUF программное обеспечение, включая инструменты llama.cpp. В набор входят гибридные конфигурации MagicQuant и варианты Unsloth с разными уровнями квантования — от MQ-Q6_K_1 и MQ-Q6_K_2 до MQ-IQ2_XXS_1. Размер файлов составляет примерно от 8,27 до 29,03 ГБ. README описывает сравнительное тестирование по метрике KLD и отбор конфигураций, показавших лучшие компромиссы между размером и сохранением характеристик исходной модели. Точные сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях кроме текстовой генерации не указаны. Основные преимущества — широкий выбор размеров, возможность подобрать вариант под доступную память и сохранение качества при использовании более крупных квантов; однако степень потери качества зависит от выбранной конфигурации, а наиболее компактные варианты имеют существенно более высокий KLD. Условия распространения указаны как Apache-2.0.

Это текстовая сборка модели Qwen3.8-27B, подготовленная YaiLabs из Qwen/Qwen3.8-27B и опубликованная в формате GGUF v3 с весами BF16. В неё включены 851 тензор текстового декодера, эмбеддингов и выходного слоя; это не полная мультимодальная модель на 27 млрд параметров, поэтому обработка изображений и видео в этой сборке не поддерживается. Сборка предназначена для генерации текста и диалогов. README подтверждает успешную загрузку, короткий чат-ответ и выгрузку модели в YVEX на NVIDIA DGX Spark с контекстом 4096 токенов. Это ограниченная проверка совместимости конкретных файлов и конфигурации, а не оценка качества или производительности и не гарантия работы в любом GGUF-совместимом движке. Файл занимает около 53,8 ГБ. Лицензия — Apache 2.0.

Это пакет слоёв GGUF модели Qwen3.8-27B-UD-Q8_K_XL, подготовленный Studio Maveric на основе unsloth/Qwen3.8-27B-GGUF для распределённого запуска через Mesh LLM. Пакет сохраняет исходную модель в формате GGUF, разбитую на артефакты по слоям; вариант Q8_K_XL предназначен для локального вывода на оборудовании пользователя и распределения вычислений между несколькими машинами. Модель подходит для диалоговых сценариев и генерации текста через локальный API Mesh LLM, совместимый с OpenAI Chat Completions. Распределённый запуск помогает использовать модель, когда ресурсов одного узла недостаточно. Архитектура относится к семейству Qwen3; размер и контекст модели в предоставленных сведениях не приведены. Пакет распространяется по лицензии Apache-2.0. Подробности архитектуры, языков и ограничений следует сверять с карточкой исходной модели.

ShadowYamshadow_Strangemerges_30Experiment28 — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста по текстовому запросу и поддерживает контекст до 32 768 токенов. Модель создана путём слияния automerger/ShadowYamshadow-7B и automerger/Strangemerges_30Experiment28-7B. Весовые файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

NVIDIA FastConformer-CTC Large — модель распознавания английской речи, разработанная NVIDIA и предназначенная для работы в наборе инструментов NeMo. Она преобразует аудиозапись в текст и может использоваться как готовый чекпойнт для транскрибации или как основа для дообучения на другом наборе данных. Модель построена на архитектуре FastConformer, оптимизированной версии Conformer с восьмикратным свёрточным понижением частоты дискретизации; размер версии Large составляет около 115 млн параметров. На вход подаётся монофоническое аудио WAV с частотой 16 кГц, результатом является строка с распознанной речью в нижнем регистре. Модель обучалась на составном наборе англоязычных речевых данных, охватывающем несколько доменов. Модель рассчитана на транскрибацию английской речи в аудиофайлах и может применяться для пакетной обработки записей. Качество может снижаться на технической терминологии, разговорных вариантах речи и речи с акцентом. Лицензия — CC BY 4.0.

triBne-e5-large — модель векторных представлений предложений, разработанная Istiaq Fuad и дообученная на базе intfloat/multilingual-e5-large. Она предназначена для семантического поиска, извлечения и сравнения текстов на бенгальском, английском и банглиш — бенгальском, записанном латиницей, в том числе при вариантах написания вроде «bhalobashi» и «valobashi». Модель использует архитектуру XLM-RoBERTa-large, содержит около 658,7 млн параметров и выдаёт эмбеддинги размерности 1024; сходство оценивается косинусной мерой. Для кодирования достаточно передавать обычный текст без префиксов query или passage. Модель подходит для поиска соответствий между разными вариантами написания банглиш, текстом на бенгальском письме и переводами на английский, а также для кластеризации и поиска в смешанных бенгальско-английских коллекциях. Дообучение выполнено контрастивным методом с LoRA-адаптером, слитым с базовой моделью. README сообщает о тестировании на трёх задачах поиска и приводит метрики на отложенных наборах данных. Максимальная длина последовательности в метаданных — 514 токенов; README указывает, что модель обучалась с ограничением 128 токенов и более длинный текст усекается. Часть примеров банглиш создана языковой моделью и может отражать её смещения; модель не предназначена для классификации или генерации. Лицензия — MIT.

Wav2Vec2-Large-960h-Lv60 + Self-Training — англоязычная модель распознавания речи от Facebook. Это плотная модель архитектуры wav2vec2 с головой CTC и примерно 402,7 млн параметров. Она предварительно обучена и дообучена на речевых данных Libri-Light и LibriSpeech; при обработке аудио требуется частота дискретизации 16 кГц. Модель преобразует речь в текст и подходит для транскрибации аудиозаписей на английском языке. В README описан метод self-training и приведены результаты на наборах LibriSpeech, включая WER 1,8/3,3 на тестовых выборках clean/other при использовании всех размеченных данных. Репозиторий содержит версии весов для PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0. Указанные результаты относятся к конкретным тестовым наборам; качество на других условиях записи и для других языков не гарантируется.

jonatasgrosman/wav2vec2-large-english — модель распознавания английской речи, дообученная Jonatas Grosman на основе facebook/wav2vec2-large. Она использует архитектуру Wav2Vec2 с CTC-выходом и содержит 402,7 млн параметров. Модель преобразует аудиозаписи в текст и рассчитана на английскую речь; входной звук должен быть дискретизирован с частотой 16 кГц. Модель подходит для транскрибирования английской речи, в том числе записей, похожих на примеры из Common Voice 6.1. В оценке на тестовых данных Common Voice автор сообщает WER 21,53% и CER 9,66%; результаты зависят от данных и способа оценки. Для использования опубликована лицензия Apache-2.0.

MaziyarPanahi/WizardLM-2-8x22B-GGUF — это набор файлов модели в формате GGUF для базовой модели microsoft/WizardLM-2-8x22B, разработанной Microsoft и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы и создание подробных, полезных и вежливых ответов ассистента. Файлы подходят для запуска с совместимыми инструментами, включая llama.cpp; репозиторий содержит шардированные варианты модели. Доступны квантизированные варианты с разной разрядностью: 2-, 3-, 4-, 5-, 6- и 8-битные GGUF-файлы. Исходная архитектура, общее число параметров, поддерживаемые языки и размер контекста в README не указаны. Модель относится к текстовым, мультимодальность не заявлена. Разные уровни квантизации позволяют выбирать компромисс между размером файлов, требованиями к памяти и качеством, однако конкретные характеристики каждого варианта не приведены. Лицензия — Apache 2.0. Для использования требуется совместимое программное обеспечение, а параметры запуска зависят от выбранного файла квантизации и средства инференса.

Yi-1.5-9B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi-1.5-9B-Chat, разработанной 01.AI. Модель распространяется в формате GGUF для использования с llama.cpp; квантизацию выполнил bartowski с применением imatrix и набора данных Kalomaze. Модель предназначена для генерации текста и ведения диалогов, включая сценарии локального запуска при ограниченных ресурсах. В репозитории представлены варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K, IQ3, Q2 и IQ1 с размером файлов примерно от 2,01 до 9,38 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K и Q4_K обозначены как рекомендуемые, тогда как IQ1 и некоторые варианты с низким битрейтом имеют существенно более низкое качество. Поддерживаются текстовые диалоги с указанным форматом промпта. Сведения о точной архитектуре, языках и размере контекста в README не приведены. Лицензия — Apache-2.0. Для работы требуется совместимое программное обеспечение, например llama.cpp, а выбор конкретного файла зависит от доступной памяти и допустимого компромисса между качеством и размером модели.

360VL-8B — открытая мультимодальная модель компании Qihoo 360 для диалога по изображениям и тексту. Она дообучена на основе Meta Llama 3 8B Instruct и использует трансформерную авторегрессионную языковую модель с многоветвевым проектором, предназначенным для улучшения понимания изображений. Модель принимает изображения и текст и формирует текстовые ответы; поддерживает многоходовой диалог с одним изображением, визуальные вопросы и распознавание текста на изображениях. В README указано разрешение изображений до 672×672 пикселей, а контекст по метаданным составляет 8192 токена. Поддерживаются китайский и английский языки. Модель подходит для анализа содержимого изображений, извлечения и обобщения информации, а также ответов на вопросы по изображению. Вес модели содержит 7,5 млрд параметров и опубликован в формате safetensors. Лицензия — Apache 2.0.

Это GGUF-квантизованная версия языковой модели AI21-Jamba2-Mini, разработанной AI21 Labs и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README не указаны точные архитектурные характеристики, число параметров, поддерживаемые языки и размер контекста. Доступны варианты от BF16 до различных уровней квантования, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, с размером файлов примерно от 21 до 103 ГБ; выбор варианта позволяет балансировать качество и требования к памяти. Для работы используется заданный формат prompt с системным сообщением, запросом пользователя и ответом ассистента. Сильной стороной является широкий выбор квантованных вариантов: старшие варианты обеспечивают качество, близкое к исходному, а младшие подходят для систем с ограниченным объёмом RAM, но дают более низкое качество. Некоторые форматы требуют актуальной версии программного обеспечения с поддержкой модели. Лицензия — Apache 2.0.

Arabic-English-handwritten-OCR-v3 — мультимодальная модель Sherif1313 для распознавания рукописного текста по изображениям. Она дообучена на Qwen/Qwen2.5-VL-3B-Instruct на специализированных примерах и предназначена для извлечения арабского и английского текста, включая связное письмо, из заметок, документов и рукописей. Метаданные указывают 3,1 млрд параметров, архитектуру Qwen2.5-VL и контекст 128 000 токенов; модель принимает изображения и выдаёт текст. Автор заявляет средний показатель CER 1,78% и скорость около 0,32 секунды на изображение, однако README не приводит достаточно подробностей о протоколе оценки, чтобы независимо подтвердить эти результаты. Указаны сценарии оцифровки архивов, учебных работ, форм и записей. Лучше всего модель работает с чётким стандартным почерком; качество может снижаться на изображениях низкого разрешения, при тенях, сложной разметке и сильно нестандартном почерке. Для оптимальных результатов README рекомендует разрешение не ниже 200 DPI. Лицензия — Apache-2.0.