I.6Перевод и языковая адаптация

Это текстовый вариант весов Qwen3.6-27B, подготовленный exolabs для запуска через vLLM. Веса получены из GGUF-квантизации Q4_0 модели unsloth/Qwen3.6-27B-GGUF: тензоры деквантованы, преобразованы в формат Hugging Face и сохранены в BF16. Конфигурация и токенизатор взяты из Qwen/Qwen3.6-27B. Модель предназначена для генерации текста и диалогового использования; карточка также указывает интерфейс вызова инструментов. Несмотря на тег image-text-to-text и наличие визуальных возможностей в метаданных, в этом репозитории отсутствует визуальная башня, поэтому автор рекомендует запускать модель только в текстовом режиме. Проверена загрузка и краткая генерация в Transformers и vLLM; в README приведена конфигурация с контекстом до 4096 токенов. Данные о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

Это нативный 3-битный TurboQuant-чекпойнт Qwen3.6-35B-A3B, подготовленный varjosoft на основе Qwen/Qwen3.6-35B-A3B. Он предназначен для генерации текста в диалогах и запуска через vLLM с плагином turboquant-plus-vllm версии 0.13.5 или новее. Модель использует MoE-архитектуру с 35 млрд общих и примерно 3 млрд активных параметров, 256 экспертами, сочетанием GatedDeltaNet и внимания с частичной rotary-позиционной кодировкой. Веса экспертов упакованы в нативный формат TQ3; размер чекпойнта составляет около 16 ГБ вместо примерно 70 ГБ для BF16, при этом отдельные компоненты хранятся в FP16. Чекпойнт проверен на нескольких ускорителях NVIDIA и требует vLLM 0.20.2 или новее. Он ориентирован на более компактное размещение модели и инференс через совместимый загрузчик; README приводит скорость около 16 токенов в секунду при заданной конфигурации A100 и batch size 1. Базовая модель описана в каталоге как мультимодальная, однако эта карточка указывает text-generation и демонстрирует текстовые запросы и ответы. Лицензия — Apache-2.0. В примере модель выводит видимую цепочку рассуждений; качество и поведение после 3-битного сжатия могут отличаться от исходных весов.

coder3101/Qwen3-VL-32B-Thinking-heretic-v2 — дообученная версия Qwen3-VL-32B-Thinking от сообщества coder3101. Это плотная мультимодальная модель на архитектуре Qwen3-VL, опубликованная в формате safetensors и рассчитанная на диалог с текстом и изображениями; исходная модель также поддерживает видео и визуальные задачи рассуждения. Вариант heretic создан методом abliteration: по данным карточки, на тесте из 100 примеров он дал 3 отказа против 97 у исходной модели, а KL-дивергенция составила 0,0048. Это указывает на существенно сниженное число отказов, но не гарантирует отсутствие отказов или безопасное поведение во всех сценариях. Возможности и заявленные характеристики базовой модели включают визуальные вопросы и ответы, OCR, понимание видео, пространственное рассуждение и задачи с длинным контекстом. Модель подходит для анализа изображений и видео, чтения текста на изображениях и диалоговых задач с визуальным контекстом. В README указаны для базовой модели контекст 256 тыс. токенов с возможностью расширения до 1 млн и поддержка OCR на 32 языках; эти сведения относятся к базовой модели, а отдельное подтверждение таких пределов для данной производной версии не приведено. Лицензия — Apache-2.0.

Qwen_Qwen3-VL-30B-A3B-Thinking-GGUF — набор GGUF-квантизаций модели Qwen3-VL-30B-A3B-Thinking, разработанной командой Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу vision-language и предназначена для задач image-text-to-text: обработки изображений и текстовых запросов с генерацией текстовых ответов. В названии указаны конфигурация 30B-A3B и режим Thinking, однако в README не приведены подробности архитектуры, число активных параметров, поддерживаемые языки и размер контекста. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством и требованиями к памяти. Файлы рассчитаны на запуск в LM Studio, llama.cpp и других проектах на базе llama.cpp; для модели указан специальный шаблон prompt с секцией рассуждений <think>. Более высокие варианты сохраняют качество ближе к исходной модели, а низкоразрядные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Лицензия в предоставленном README не указана.

Steelskull_L3.3-Shakudo-70b-GGUF — это набор квантованных версий языковой модели L3.3-Shakudo-70b, разработанной Steelskull. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может применяться в локальных сценариях, включая работу через LM Studio, llama.cpp и другие проекты на его основе. В набор входят варианты GGUF с разной степенью квантования: от Q8_0 до Q2_K, включая форматы Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и другие. Версия Q6_K описана как близкая к исходному качеству, а Q4_K_M — как стандартный вариант для большинства сценариев с хорошим соотношением качества и размера. Ключевая характеристика модели — размер 70 миллиардов параметров; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Сильными сторонами являются широкий выбор вариантов для разного объёма оперативной памяти, поддержка локального запуска и сохранение высокого качества при использовании более крупных квантов. Ограничения связаны с компромиссом между размером файлов и качеством: низкобитные варианты требуют меньше памяти, но могут заметно уступать более точным версиям. Для работы рекомендуется использовать указанный prompt format. Модель распространяется по лицензии llama3.3.

StrangeMerges_2-7B-slerp — объединённая модель для генерации текста, созданная Gille методом SLERP с помощью LazyMergekit на основе Gille/StrangeMerges_1-7B-slerp и Keynote-Technology/KAI-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и общих языковых задач; в README приведены результаты оценки на задачах рассуждения и понимания текста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Tess-2.0-Mixtral — языковая модель общего назначения из серии Tess, разработанной migtissera. Она обучена на базе mistralai/Mixtral-8x7B-v0.1 и использует архитектуру MixtralForCausalLM с разреженной архитектурой MoE. Модель предназначена для генерации текста и диалогов; формат запросов включает роли SYSTEM, USER и ASSISTANT. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors, лицензия — Apache-2.0. В карточке указано, что модель uncensored; она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент, поэтому результаты следует проверять.

MaziyarPanahi/una-cybertron-7b-v3-OMA-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и fblgit/una-cybertron-7b-v3-OMA методом slerp. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель подходит для диалоговых ассистентов и генерации ответов на текстовые запросы. В репозитории представлены веса Safetensors, а лицензия — Apache-2.0. В карточке нет сведений о специальных предметных областях или гарантированных показателях качества.

sabafallah/Unlimited-OCR-Universal — сообщественный форк модели Unlimited-OCR, первоначально разработанной Baidu. Веса модели не изменены: в репозитории адаптирован код запуска для NVIDIA CUDA, Apple Silicon с MPS и CPU. Модель основана на плотной архитектуре UnlimitedOCRForCausalLM и насчитывает 559,7 млн параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для распознавания текста и разбора длинных документов по изображениям, включая многостраничные документы и PDF. Она принимает изображения и выдаёт текст; в метаданных указана поддержка мультиязычных сценариев. Для запуска используются Transformers; путь SGLang в README доступен только на CUDA. Репозиторий распространяется по лицензии MIT. На MPS требуется вычисление в fp32, что увеличивает расход памяти; для ускоренного пути SGLang нужна CUDA.

Vicuna 13B v1.1 — авторегрессионная языковая модель семейства LLaMA на архитектуре Transformer, разработанная командой Vicuna с участием исследователей из UC Berkeley, CMU, Stanford и UC San Diego. Модель содержит 12,9 млрд параметров и рассчитана на контекст до 2048 токенов. Это версия merge delta v1.1; в README указано, что Vicuna получена дообучением LLaMA на диалогах пользователей ShareGPT, а в v1.1 исправлены вычисление функции потерь при supervised fine-tuning и разделитель токенов. Модель предназначена для генерации текста в формате чат-бота, ответов на вопросы и исследований больших языковых моделей. Она обучалась на 70 тысячах диалогов ShareGPT. Карточка указывает лицензию Apache 2.0; базовая модель LLaMA имеет отдельные условия использования, которые следует учитывать при распространении и применении производной модели.

Wav2Vec2-Base-100h — модель распознавания речи, разработанная Facebook. Она основана на архитектуре wav2vec 2.0 и дообучена на 100 часах размеченной речи из LibriSpeech после предварительного обучения на аудиоданных. Модель принимает речь с частотой дискретизации 16 кГц и преобразует её в текст; в метаданных указано около 113,3 млн параметров. Модель предназначена для автоматической транскрибации англоязычной речи, в том числе записей, похожих на аудиокниги и подкасты. Её можно использовать как акустическую модель в системах распознавания речи. Репозиторий содержит веса PyTorch, лицензия — Apache 2.0.

bond005/wav2vec2-large-ru-golos — акустическая модель распознавания русской речи, созданная как компонент системы Pisets для транскрибации лекций и интервью. Она основана на facebook/wav2vec2-large-xlsr-53 и дообучена на датасете SberDevices/Golos с аугментациями аудио, включая изменение высоты тона и скорости, а также реверберацию. Модель реализована на архитектуре Wav2Vec2ForCTC, содержит 402,7 млн параметров и работает с аудио, оцифрованным с частотой 16 кГц. Модель подходит для преобразования русской речи в текст, в том числе в условиях, отражённых тестами для ближней и дальней записи. В README приведены результаты на тестовых поднаборах Golos: WER 10,144% для crowd и 20,353% для farfield; CER — 2,168% и 6,030% соответственно. Модель распространяется по лицензии Apache-2.0. Для практического применения учитывайте требование к частоте дискретизации 16 кГц и возможное снижение точности при дальней записи.

jonatasgrosman/wav2vec2-large-xlsr-53-english — англоязычная модель распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной выборках Common Voice 6.1. Это архитектура Wav2Vec2 с CTC-выходом, содержащая 402,7 млн параметров; модель принимает аудио и выдаёт распознанный текст. Для работы входную речь нужно подавать с частотой дискретизации 16 кГц. Модель предназначена для транскрибации английской речи, в том числе записей, подобных материалам Common Voice. В README описана оценка на тестовой выборке Common Voice 6.0 и на speech-recognition-community-v2/dev_data. Указанная лицензия — Apache-2.0.

RedHatAI/whisper-large-v3-FP8-dynamic — это квантизированная версия модели openai/whisper-large-v3, разработанная Neural Magic. Модель преобразует аудио в текст и предназначена для автоматической транскрипции речи, включая пакетную обработку и высокопроизводительное серверное развертывание. Модель использует архитектуру whisper-large-v3 с аудиотекстовым входом и текстовым выходом. Веса и активации квантизированы в FP8 с динамическим масштабированием; квантизация выполнена для линейных слоёв, а выходной lm_head исключён. Модель подготовлена для инференса через vLLM версии 0.5.2 и выше, включая OpenAI-совместимый режим сервинга. В примере развертывания используются до 400 последовательностей и максимальная длина модели 448 токенов. По данным оценки на LibriSpeech и Fleurs, FP8-версия сохраняет качество исходной BF16-модели: WER составляет 2,097 на LibriSpeech test-clean и 3,9617 на test-other; на отдельных наборах Fleurs проверялась транскрипция китайского, английского и кантонского аудио в английский текст. Ограничения включают зависимость от совместимого стека vLLM и отсутствие в README подробностей о полном наборе поддерживаемых языков, требованиях к оборудованию и качестве на других типах аудио. Лицензия — Apache 2.0.

OpenVINO/whisper-small.en-int8-ov — англоязычная модель автоматического распознавания речи на базе Whisper small, разработанного OpenAI. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT8 с помощью NNCF; объём модели составляет около 153,1 млн параметров. Модель предназначена для преобразования английской речи в текст: расшифровки аудиозаписей, голосовых заметок, интервью и других источников аудио. Она поддерживает запуск через OpenVINO и Optimum Intel, включая инференс на CPU, и совместима с OpenVINO версии 2025.2.0 и выше и Optimum Intel версии 1.23.0 и выше. INT8-квантизация уменьшает размер весов и может сделать инференс более эффективным на совместимом оборудовании, однако модель рассчитана именно на английский язык. Использование распространяется по лицензии Apache-2.0.

Модель anton-l/xtreme_s_xlsr_300m_mls — дообученная на датасете GOOGLE/XTREME_S - MLS версия facebook/wav2vec2-xls-r-300m для автоматического распознавания речи. Она принимает аудио и преобразует речь в текст; архитектура основана на Wav2Vec2ForCTC, а число параметров составляет около 402,7 млн. В README приведены результаты на оценочной выборке: WER 0,3033 и CER 0,0951. Модель предназначена для сценариев распознавания речи, где требуется получить текстовую транскрипцию аудио. Язык или языки распознавания и длина контекста в доступных сведениях не уточнены. Модель распространяется по лицензии Apache-2.0.

ArliAI-Llama-3-8B-Instruct-Dolfin-v0.1 — чат-модель OwenArli, дообученная на основе Meta-Llama-3-8B-Instruct с использованием изменённого набора данных Dolphin. Это плотная авторегрессионная модель семейства Llama примерно с 7,5 млрд параметров; она принимает текстовые запросы и генерирует текстовые ответы в формате инструкций Llama 3. Заявленная длина контекста — 8192 токена. Модель предназначена для диалогов и широкого круга общих задач: авторы стремились улучшить следование запросам и выдачу ответов в заданном формате, а также снизить частоту отказов. Обучение выполнялось с QLoRA ранга 64 и alpha 128; в карточке сказано, что обучаемыми были около 2% весов. Авторы не приводят результаты бенчмарков, поэтому качество следует оценивать на собственных запросах. Репозиторий распространяется по лицензии Apache-2.0 в метаданных Hugging Face, однако README указывает на соглашение Meta Llama 3 License для базовой модели; условия использования стоит сверять с обеими лицензиями. Модель может выдавать менее сдержанные ответы и не должна считаться источником проверенных фактов.

BLOSSOM-v3.1-baichuan2-7b — диалоговая языковая модель, разработанная на основе Baichuan2-7B-Base и дообученная командой BLOSSOM на смеси наборов инструкций Orca, Wizard, Chat и Math. Модель имеет плотную архитектуру Baichuan с 7 млрд параметров и контекстное окно 4096 токенов; она принимает текст и генерирует текст в формате продолжения диалога. Модель предназначена для ответов на вопросы, выполнения инструкций, многоходового диалога и математических рассуждений на китайском и английском языках. Обучение проходило в два этапа: сначала на одношаговых инструкциях Wizard и Orca, затем на математических примерах и многотуровых диалогах Blossom Chat. Лицензия — Apache-2.0.

Chandra OCR 2 — модель оптического распознавания документов от Datalab на архитектуре Qwen 3.5. Она принимает изображения и PDF и преобразует их в Markdown, HTML или JSON с сохранением структуры и расположения элементов страницы. Модель рассчитана на извлечение текста, в том числе рукописного, разбор таблиц, математических выражений, форм и документов со сложной или многоколоночной вёрсткой; также она извлекает изображения и диаграммы и формирует подписи и структурированные данные. В карточке заявлена поддержка более 90 языков. Среди сильных сторон — распознавание таблиц, мелкого текста, рукописного ввода и сложных макетов; опубликованы результаты собственных оценок на olmOCR Bench и многоязычных тестах. Модель распространяется в формате safetensors для Transformers. Код проекта лицензирован Apache 2.0, но веса — по изменённой лицензии OpenRAIL-M: бесплатное использование ограничено исследовательскими и личными целями, а также стартапами с финансированием или выручкой менее 2 млн долларов; конкурентное использование относительно API запрещено, для более широкого коммерческого применения требуется отдельная лицензия.

Chitrapathak-1 — мультиязычная OCR-модель от Krutrim AI Labs для распознавания текста на изображениях документов. Она использует мультимодальную архитектуру LLaVA-типа: визуальный энкодер CLIP ViT-L/14-336, двухслойный MLP-проектор и языковую модель Krutrim-1 7B. Модель преобразует документ в текст напрямую; для плотных страниц применяет разбиение изображения на фрагменты с учётом его пропорций и общий обзор страницы. Модель предназначена для транскрибирования печатных документов на хинди, санскрите, бенгальском, маратхи, тамильском, телугу, каннада, малаялам, пенджаби и ория. По карточке, обучение включало мультимодальное предварительное обучение проектора и последующую настройку на OCR-данных: визуальный энкодер оставался замороженным, а на втором этапе совместно обучались проектор и языковая модель. Модель представлена в формате safetensors; лицензия указана как other, поэтому условия использования следует уточнить в материалах проекта.

CrisperWhisper 2.0 Large — модель распознавания речи от Nyra Labs на архитектуре Whisper, содержащая 905,3 млн параметров. Она преобразует аудио в текст и позволяет выбирать между дословной расшифровкой с заполнителями пауз, повторами, обрывами слов и вокальными событиями и отредактированным вариантом, передающим намеренный смысл. Модель поддерживает английский и немецкий языки; семейство CrisperWhisper 2.0 рассчитано на работу с большинством языков, поддерживаемых Whisper. Модель предназначена для транскрибации разговорной речи, обработки длинных записей и получения временных границ отдельных слов. В README также описан режим Verbatimize: по аудио и готовой чистой расшифровке он восстанавливает присутствующие в записи речевые особенности. Указаны точность временных границ около 30 мс на подготовленной речи и 41 мс на разговорной, а также поддержка PyTorch и ускоренного инференса через CTranslate2. Стандартные модели выпускаются по некоммерческой исследовательской лицензии; коммерческое лицензирование доступно отдельно. Указанные в README результаты бенчмарков относятся к оценочным наборам разработчика и сами по себе не гарантируют такое же качество на любых записях.

Darkstar-Qwen3.8-27B-Abliterated-ModelOpt-W4A16-NVFP4-Mixed-FP8 — квантизированная версия модели Darkstar от HangGlidersRule, созданная на основе Qwen/Qwen3.8-27B и производного Darkstar-Qwen3.8-27B-Abliterated-BF16. Модель предназначена для генерации текста с высокой пропускной способностью на GPU класса Blackwell, а также для исследований влияния редукции направления отказа и NVFP4-квантизации. В README не указаны точные языки и размер контекстного окна. Это текстовая модель с архитектурой и модальностями исходной Qwen3.8-27B; она сохраняет 15 тензоров MTP и использует смешанную точность: W4A16 NVFP4 для языковых MLP и lm_head, FP8 для self-attention и проекций GatedDeltaNet, BF16 для KV-кэша и защищённых компонентов. Квантизация выполнена средствами NVIDIA ModelOpt с калибровкой на cnn_dailymail и nemotron-post-training-dataset-v2. Указана производительность 251,889 токена/с в конфигурации MTP10 и результат GPQA 74,75%. Сильные стороны модели — высокая производительность, экономичное представление весов и сохранение критически важных компонентов в BF16. Ограничение и существенный риск связаны с намеренно уменьшенной склонностью к отказам: модель может выполнять многие запросы, которые исходная версия отклоняет, и не содержит дополнительных защитных механизмов. В README сообщается о 200 из 200 случаев вредоносного согласия и отсутствии безопасных избыточных отказов в проведённой оценке, поэтому необходимы собственные политики, фильтры и контроль доступа. Модель распространяется по лицензии Apache-2.0.

Это пакет GGUF для распределённого запуска DeepSeek-R1-Distill-Llama-70B-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/DeepSeek-R1-Distill-Llama-70B-GGUF. Веса разделены на артефакты по слоям, чтобы запускать модель на локальном кластере из нескольких машин, когда целый файл слишком велик для одного узла. Модель предназначена для локального приватного чат-инференса и интеграции с приложениями через локальный API Mesh LLM, совместимый с OpenAI Chat Completions. Это вариант UD-Q4_K_XL в формате GGUF; исходная модель относится к семейству DeepSeek и имеет 70 млрд параметров согласно идентификатору, однако описание пакета не приводит независимых сведений об архитектуре, языках или длине контекста. Пакет упрощает распределение вычислений между узлами, но для работы требует Mesh LLM и доступных машин кластера. Лицензия и подробные рекомендации по шаблону чата, настройкам генерации и качеству приведены в карточке исходной модели; в этом README условия лицензии не указаны.

NVIDIA DeepSeek-R1-NVFP4 — версия DeepSeek R1, квантованная NVIDIA с помощью TensorRT Model Optimizer. Это авторегрессионная трансформерная языковая модель семейства DeepSeek V3 с 37,6 млрд параметров, предназначенная для генерации текста и диалогов. По метаданным, базовая модель — deepseek-ai/DeepSeek-R1; в README указаны FP4-квантизация весов и активаций линейных операторов в блоках трансформера, формат safetensors и контекст до 128 тыс. токенов в README и 163 840 токенов в метаданных. Модель принимает текст и выдаёт текст. Для запуска предназначена связка TensorRT-LLM на Linux и оборудовании NVIDIA Blackwell; в README для приведённого сценария развёртывания указаны восемь GPU B200 и сборка TensorRT-LLM из исходников. По заявлению README, квантизация уменьшает размер весов и требования к памяти GPU примерно в 1,6 раза. Репозиторий указывает лицензию MIT и возможность коммерческого и некоммерческого использования; README уточняет, что модель разработана не NVIDIA, а построена для требований стороннего проекта.

DeepSeek-V4-Flash-4bit — модель для генерации текста в формате MLX, опубликованная сообществом mlx-community при поддержке Lambda.ai. Она предназначена для использования с библиотекой mlx-lm и поддерживает сценарии диалоговой генерации через chat template, если такой шаблон доступен в токенизаторе. Из доступных данных известно, что модель представлена в 4-битном варианте, что указывает на применение 4-битного квантования. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, дополнительных модальностях, сильных сторонах, ограничениях или лицензии. Для работы требуется библиотека mlx-lm; конкретные требования к оборудованию в карточке не указаны.

Dolphin-5.1-7b — языковая модель на архитектуре Mistral, созданная слиянием моделей cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser и teknium/OpenHermes-2.5-Mistral-7B методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Её можно применять для ответов на вопросы, написания и преобразования текста, а также для других задач, решаемых генеративной языковой моделью. В README не приведены отдельные результаты оценки качества или подробные рекомендации по применению. Модель распространяется под лицензией Apache-2.0. Карточка не сообщает о специальных ограничениях или дополнительных фильтрах контента.

Это диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi слиянием моделей mistralai/Mistral-7B-Instruct-v0.2 и Darklord23/finetuned-mistral-7b методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель может использоваться для диалога, ответов на вопросы и генерации текста по запросу. В карточке указана лицензия Apache-2.0. Сведения о специализированных областях применения и дополнительных ограничениях качества не приводятся.

Это квантизированная GGUF-версия текстовой генеративной модели gemma-2-27b-it-SimPO-37K, созданная пользователем bartowski на основе AALF/gemma-2-27b-it-SimPO-37K. Квантизация выполнена с помощью llama.cpp b3615 и метода imatrix; модель предназначена для запуска локально, в том числе через LM Studio. Модель относится к семейству Gemma 2 и имеет размер 27B параметров. Она работает с текстом и предназначена для генерации ответов в диалоговом формате с использованием специального шаблона prompt format Gemma. В README не указаны поддерживаемые языки, размер контекстного окна и точные сведения об архитектуре или исходном обучении, поэтому эти характеристики нельзя надежно определить. Доступно множество вариантов квантизации от F16 до Q2_K и IQ2_M, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Варианты Q6_K и Q6_K_L описаны как близкие к исходному качеству, а Q4_K_M — как компромиссный вариант. Более сильная квантизация экономит память, но снижает качество; самые компактные варианты характеризуются как низкокачественные. Модель распространяется по лицензии Gemma.

fedric95/gemma-2-9b-GGUF — это набор квантизованных файлов модели Gemma 2 9B, разработанной Google и преобразованной пользователем fedric95 в формат GGUF для запуска с помощью llama.cpp. Модель относится к классу текстовых генеративных моделей и предназначена для диалоговых сценариев и генерации текста. В README указана архитектурная база google/gemma-2-9b, однако подробные сведения о контекстном окне, языках и модальностях не приведены; по указанным данным модель является текстовой и не поддерживает описанные мультимодальные входы. Доступны варианты с разными уровнями точности: FP32 размером 37 ГБ, а также Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, Q3_K_L, Q3_K_M, Q3_K_S и Q2_K размером от 9,83 до 3,81 ГБ. Более сильное квантование уменьшает требования к памяти, но может снижать качество: приведённые значения perplexity растут с 6,9209 у FP32 до 8,7979 у Q2_K. В тестах WinoGrande, HellaSwag и MMLU варианты Q8_0 показывают соответственно 74,43%, 78,39% и 42,51%; у низкобитных вариантов результаты в целом ниже. Для использования требуются совместимое окружение llama.cpp и выбор подходящего GGUF-файла с учётом доступной памяти и допустимой потери качества. Модель распространяется по лицензии Gemma; для доступа на Hugging Face необходимо ознакомиться с лицензией Google и принять её условия. README не содержит сведений о дополнительных ограничениях, системных требованиях или безопасном применении.

GLM-OCR — компактная мультимодальная модель распознавания текста и понимания документов от команды Z.ai; репозиторий unsloth/GLM-OCR содержит дообученную версию zai-org/GLM-OCR. Модель построена на архитектуре GLM-V: использует визуальный энкодер CogViT, межмодальный связующий модуль и декодер GLM-0.5B. В карточке указано около 0,9 млрд параметров; модель принимает изображения и формирует текстовый результат. Модель предназначена для OCR сложных документов, извлечения текста, формул и таблиц, а также структурированных сведений по заданной JSON-схеме. В README заявлена двухэтапная обработка с анализом макета и распознаванием, а также результаты на OmniDocBench V1.5 и скорость обработки документов. Поддерживаемые языки: китайский, английский, французский, испанский, русский, немецкий, японский и корейский. Лицензия — MIT. Для извлечения структурированных данных необходимо задавать ожидаемую JSON-схему; качество может зависеть от сложности макета и содержимого изображения.