I.6Перевод и языковая адаптация

Llama-3.2-3B-Renoia — объединённая модель на базе семейства Llama 3.2 от Meta, созданная автором репозитория с помощью mergekit. Она рассчитана на генерацию текста и диалоги на датском и английском языках, с индивидуальным характером ответов. Модель объединяет несколько чекпойнтов, включая Hermes-3, Danoia, Dolphin 3.0 и Pure-RP; в обучающих данных также использовались наборы инструкций и диалогов. Это плотная авторегрессионная языковая модель LlamaForCausalLM размером 3,2 млрд параметров с контекстом до 131 072 токенов. Репозиторий содержит веса в формате safetensors; модель предназначена для работы через Transformers. Лицензия — Llama 3.2 Community License. Модель подходит для диалоговых помощников и генерации текстовых ответов на датском и английском. Её небольшой размер снижает требования к ресурсам по сравнению с крупными моделями, однако качество и устойчивость ответов могут зависеть от сценария и выбранных компонентов слияния. README не приводит результатов оценки качества.

Llama3-70B-Chinese-Chat-ExPO — экспериментальная чат-модель на архитектуре Llama 3, опубликованная chujiezheng. Она создана экстраполяцией ExPO с коэффициентом α=0,3 между контрольными точками SFT и DPO/RLHF; в README базами названы shenzhi-wang/Llama3-70B-Chinese-Chat и meta-llama/Meta-Llama-3-70B-Instruct. Модель содержит 69,5 млрд параметров, использует формат safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации ответов в диалоге на китайском и английском языках с выравниванием по человеческим предпочтениям. В README приведены результаты оценок ExPO на AlpacaEval 2.0 и MT-Bench для нескольких других моделей, однако это не отдельная оценка именно данного 70B чекпойнта. Автор предупреждает, что китайские способности не были всесторонне проверены и при применении экстраполяции к DPO/RLHF-выравниванию для новых языков могут возникать непредвиденные проблемы. Лицензия указана как llama3; перед использованием следует соблюдать условия лицензии Llama 3.

Llama-3-8B-Instruct-Portuguese-v0.3 — языковая модель на архитектуре Llama, предназначенная для генерации текста на португальском языке. Модель содержит 7,5 млрд параметров, использует формат Safetensors и поддерживает контекст до 8192 токенов. В карточке указан датасет adalbertojunior/openHermes_portuguese. Модель можно применять для генерации ответов и диалогового текста на португальском языке. Она создана на основе семейства Llama 3 и ориентирована на инструкции, однако доступные сведения не уточняют способ её обучения или конкретные результаты оценки качества. Лицензия в предоставленных данных не указана.

llama-3-wissenschaft-8B — плотная языковая модель семейства Llama 3, созданная nbeerbower с помощью слияния предобученных моделей через mergekit и метод Model Stock. В слиянии использованы nbeerbower/llama-3-slerp-kraut-dragon-8B, VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct, DeepMount00/Llama-3-8b-Ita и mlabonne/ChimeraLlama-3-8B-v3. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации продолжений и диалоговых ответов. Контекст составляет 8192 токена. Карточка указывает лицензию Meta Llama 3 Community License Agreement; перед использованием следует соблюдать её условия.

LLaMAntino-2-chat-7b-hf-UltraChat-ITA — итальянская инструктивно дообученная языковая модель для диалогов, разработанная Pierpaolo Basile, Elio Musacchio, Marco Polignano, Lucia Siciliani, Giuseppe Fiameni, Giovanni Semeraro. Она основана на LLaMAntino-2-chat-7b, адаптированной для итальянского языка модели LLaMA 2 chat, и дообучена на итальянском переводе UltraChat с помощью QLoRA. Модель имеет архитектуру LLaMA 2, содержит 6,6 млрд параметров и принимает текстовые запросы, выдавая текст; контекст составляет 4096 токенов. Модель предназначена для италоязычного диалога и выполнения инструкций, в том числе для исследовательских сценариев обработки естественного языка. Для лучшего результата авторы рекомендуют использовать указанный в карточке шаблон диалога на основе формата LLaMA 2, адаптированный для итальянского языка. Оценка качества в карточке не приведена. Лицензия — Llama 2 Community License.

Sakalti/Lunar-4B — разговорная языковая модель, созданная слиянием моделей с помощью mergekit. В основе слияния лежит microsoft/phi-3.5-mini-instruct; также включена AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common, дообученная Axcxept на базе Phi-3.5-mini-Instruct. Использован метод TIES, итоговые веса сохранены в формате float16. Модель предназначена для генерации текста в диалогах и других сценариях, где нужен ответ на текстовый запрос. Архитектура — плотная Phi-3, около 3,7 млрд параметров; поддерживается контекст длиной до 4096 токенов. В карточке указаны английский и японский языки. Модель распространяется по лицензии MIT.

Menlo_Jan-nano-GGUF — это набор квантизированных версий языковой модели Jan-nano, разработанной Menlo и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от полного BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов составляет примерно от 1,5 до 8,05 ГБ. Квантизация выполнена с использованием llama.cpp b5627 и метода imatrix. Более высокие уровни обычно сохраняют лучшее качество, тогда как компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству; для большинства сценариев README рекомендует варианты Q4_K_M, Q5, Q6 и некоторые другие. README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста, поэтому эти характеристики нельзя достоверно определить. Для работы требуется совместимое программное обеспечение на базе llama.cpp; модель поддерживает указанный в README шаблон чата. Лицензия — Apache-2.0.

MiniCPM-2B-dpo-bf16-llama-format — диалоговая языковая модель MiniCPM от ModelBest и лаборатории обработки естественного языка Университета Цинхуа (TsinghuaNLP). Это DPO-версия семейства MiniCPM, представленная в архитектуре Llama; в метаданных указано 2,7 млрд параметров и контекст до 4096 токенов. Модель принимает текст и генерирует текст, поддерживает китайский и английский языки. Модель предназначена для диалогов, ответов на вопросы и других задач общего назначения, а компактный размер позволяет рассматривать её для локального запуска, в том числе на устройствах с ограниченными ресурсами. Разработчики сообщают о результатах DPO-версии на MTBench, однако оценка зависит от настроек генерации: в карточке отмечено, что качество генерации через Hugging Face Transformers может быть ниже, чем через vLLM. Ограничения включают галлюцинации, чувствительность к формулировке запроса, непоследовательность ответов и неточные знания; длинные ответы DPO-версии могут повышать вероятность галлюцинаций. Лицензия указана как other, а README заявляет о выпуске весов для исследований и ограниченного коммерческого использования; перед применением следует свериться с условиями лицензии репозитория.

MiniCPM5-2B-Base-GGUF — это набор GGUF-квантизованных версий базовой языковой модели openbmb/MiniCPM5-2B-Base, разработанной командой OpenBMB. Квантизацию выполнил mradermacher. Модель предназначена для генерации и продолжения текста, локального запуска на устройствах с ограниченными ресурсами и edge-сценариев; в метаданных также заявлена поддержка длинного контекста и вызова инструментов. Указанные языки — английский и китайский. Модель относится к классу компактных моделей примерно на 2 млрд параметров и связана с архитектурой Llama; точная архитектура и максимальная длина контекста в README не указаны. Доступны варианты от Q2_K размером около 1,1 ГБ до F16 размером около 5,1 ГБ, включая рекомендуемые по скорости Q4_K_S и Q4_K_M, а также Q8_0 с наилучшим качеством среди перечисленных вариантов. Чем сильнее квантизация, тем ниже требования к памяти, но потенциально ниже качество. Это базовая, а не явно дообученная для диалога версия, поэтому её возможности в прикладных сценариях могут зависеть от используемого шаблона промпта и дополнительной адаптации. Лицензия — Apache-2.0.

Mistral-7B-v0.1-capybara-orpo-en-de — дообученная модель maxidl на базе mistralai/Mistral-7B-v0.1 с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста в диалоговом формате; при дообучении использован набор maxidl/distilabel-capybara-dpo-7k-binarized_en_de. Модель поддерживает контекст до 32 768 токенов и рассчитана на английский и немецкий языки. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Nemotron 3 Super 120B JANG_4M CRACK — текстовая генеративная модель, подготовленная Jinho Jang на основе NVIDIA Nemotron-3-Super-120B-A12B. Это гибридная архитектура Nemotron-H, сочетающая слои Mamba SSM, Mixture of Experts и attention; в исходной модели заявлены 120 млрд параметров и около 12 млрд активных. В метаданных репозитория указано 6,6 млрд параметров. Модель принимает текст и поддерживает диалоговый режим и интерфейс вызова инструментов. Веса прошли смешанную квантизацию JANG_4M: 8-битное attention и 4-битные эксперты; README указывает размер 63 ГБ. Формат JANG предназначен для MLX на Apple Silicon и, согласно карточке, поддерживается MLX Studio и пакетом jang-tools. Контекст составляет до 262 144 токенов. CRACK — описанное автором удаление отказов от ответов на уровне весов; модель позиционируется как вариант без защитных ограничений. Карточка приводит результаты HarmBench и MMLU, но не даёт независимой проверки этих оценок. Модель предназначена для генерации текста и диалогов, включая сценарии, где требуется меньше отказов, чем у базовой модели. В README указана лицензия other в метаданных, а также заявлено использование в исследовательских и образовательных целях; конкретные условия лицензии в предоставленных данных не раскрыты. Английский указан как язык карточки.

NUS Lithuanian PII Detection Model — модель Vytauto Didžiojo Universitetas для выявления персональных данных в литовском тексте. Это дообученный для классификации токенов энкодер XLM-RoBERTa large с 658,7 млн параметров и контекстом до 514 токенов; модель распознаёт 24 категории, включая имена, адреса, идентификационные коды, телефоны, даты и чувствительные сведения. Она предназначена для поиска фрагментов PII перед публикацией судебных и административных документов, обработкой медицинских и исследовательских записей или передачей текста внешним ИИ-сервисам. Выход модели содержит метки сущностей, а для деидентификации его следует сочетать с правилами постобработки и заменой найденных фрагментов. На отложенной выборке указаны entity-level F1 0,872, точность 0,860 и полнота 0,884; инструмент NUS PII validator сообщает строгий micro F1 0,854. Модель рассчитана только на литовский язык, не является универсальным распознавателем сущностей и сама по себе не анонимизирует текст. При полноте около 88% часть персональных данных может быть пропущена; необходимы проверка человеком и дополнительные меры, особенно в юридических и медицинских сценариях. Лицензия — OpenRAIL.

MaziyarPanahi/openchat-3.5-1210-Seraph-Slerp-GGUF — это набор квантованных файлов в формате GGUF для модели Weyaxi/openchat-3.5-1210-Seraph-Slerp. Исходную модель разработал Weyaxi, а квантование и публикацию набора выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. В набор входят варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Формат GGUF поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python, Candle и другими инструментами. В README не указаны размер модели, архитектура исходной модели, максимальная длина контекста, поддерживаемые языки или наличие мультимодальных возможностей, поэтому эти характеристики нельзя определить достоверно. Основные преимущества — несколько вариантов квантования и широкая совместимость с инструментами для локального вывода, включая запуск с GPU-ускорением. Более сильное квантование может уменьшать требования к ресурсам, но потенциально снижать точность и качество генерации. Модель распространяется по лицензии Apache-2.0.

Это версия весов NVIDIA Parakeet TDT 1.1B, преобразованная пользователем extraordinarylab из формата NeMo в формат Transformers для Hugging Face. В README указано, что веса не менялись; отличаются формат контрольной точки, конфигурация и оболочки токенизатора и экстрактора признаков. Модель использует энкодер FastConformer-XL из 42 слоёв с размерностью 1024 и голову TDT (Token-and-Duration Transducer) с длительностями токенов от 0 до 4; словарь содержит 1024 BPE-токена и blank-токен. Модель предназначена для автоматической транскрипции английской речи в текст. Она выдаёт текст в нижнем регистре без пунктуации. В README описана проверка совпадения с NeMo на двух фрагментах LibriSpeech: совпали выходы жадного декодирования и транскрипции. Репозиторий использует Transformers и формат safetensors. Лицензия — CC BY 4.0.

mlx-community/parakeet-tdt_ctc-110m — конверсия модели NVIDIA Parakeet TDT-CTC 110M в формат MLX для запуска на устройствах Apple. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. Базовая модель описана как англоязычная и формирует текст с пунктуацией и заглавными буквами. В основе лежит архитектура FastConformer/Conformer; репозиторий содержит веса safetensors и рассчитан на работу с библиотекой MLX. Модель распространяется по лицензии CC BY 4.0.

PKU-DS-LAB_FairyR1-14B-Preview-GGUF — это квантованные версии языковой модели FairyR1-14B-Preview, разработанной PKU-DS-LAB и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Указана поддержка английского языка. В набор входят варианты от исходных BF16-весов размером 29,55 ГБ до более компактных квантований Q2–Q8, включая рекомендуемые Q4_K_M, Q5_K_M, Q6_K и другие форматы. Архитектура и максимальная длина контекста в README не указаны; известен размер базовой модели — 14 миллиардов параметров. Квантования выполнены с использованием imatrix и llama.cpp. Сильной стороной набора является широкий выбор компромиссов между качеством, размером файла и требованиями к памяти, что позволяет запускать модель на различном локальном оборудовании. Ограничения включают возможное снижение качества в младших вариантах квантования и отсутствие подробных сведений о задачах, результатах оценки и поддерживаемых модальностях. Модель распространяется по лицензии Apache-2.0.

Qwen-1.8B — 阿里云研发的通义千问系列 базовая предварительно обученная языковая модель на архитектуре Transformer с 2,3 млрд параметров. Модель обучена на корпусе объемом более 2,2 трлн токенов, включающем веб-тексты, книги, код, математику и материалы из разных областей. Это базовая модель для генерации продолжения текста; отдельная версия Qwen-1.8B-Chat обучена с выравниванием и предназначена для диалогового взаимодействия. Модель использует 24 слоя, 16 голов внимания, размерность скрытого представления 2048, позиционные кодировки RoPE, активацию SwiGLU и нормализацию RMSNorm. Контекст — до 8192 токенов. Токенизатор на основе tiktoken имеет словарь более 150 тысяч токенов; заявлена поддержка китайского, английского, кода и ряда других языков, включая русский. Модель подходит для генерации текста и продолжения подсказок, в том числе для задач на китайском и английском языках, а также для адаптации к отдельным предметным задачам. README сообщает о вариантах квантования int4 и int8 с меньшими требованиями к памяти, однако данный репозиторий содержит веса в формате safetensors. Для базовой модели не заявлено диалоговое выравнивание; ответы могут быть непоследовательными или фактически неверными, а качество для конкретных задач требует проверки. Условия лицензии в предоставленных данных не описаны.

Qwen3.6-27B-abliterated-GGUF — это набор квантизированных GGUF-версий модели wangzhang/Qwen3.6-27B-abliterated-v2, разработанной сообществом wangzhang на базе Qwen3.6-27B. Модель предназначена для локальной генерации текста и диалоговых сценариев через llama.cpp и совместимые приложения, включая Ollama, LM Studio, Jan и KoboldCpp. Версия abliterated подавляет стандартные отказы модели и ориентирована прежде всего на исследовательские и экспериментальные задачи. Модель содержит около 27 млрд параметров и поддерживает английский и китайский языки. Архитектура использует гибридное внимание: 48 слоёв GatedDeltaNet и 16 слоёв полного внимания, чередуемых по схеме с одним полносвязным attention-блоком после трёх GDN-блоков. Доступны варианты F16 размером около 54 ГБ, Q8_0 размером около 28 ГБ и Q4_K_M размером около 16 ГБ; последний рекомендован для видеокарт с 24 ГБ памяти. GGUF-конверсия рассчитана на текстовый вывод: vision tower удалён, поэтому обработка изображений недоступна. Максимальный контекст в карточке не указан, приведены лишь примеры запуска с длиной 4096 и 8192 токена. К сильным сторонам относятся близкое к исходному качество варианта Q8_0, возможность локального запуска и сниженный уровень отказов при выполнении запросов. Ограничения включают требование свежей версии llama.cpp с поддержкой архитектуры Qwen3.5 hybrid-GDN, отсутствие MTP для спекулятивного декодирования и возможное ухудшение качества у Q4_K_M без imatrix-калибровки. Модель намеренно лишена защитных отказов и может генерировать опасный контент без предупреждений, поэтому при пользовательском развёртывании необходим отдельный защитный слой. Распространяется по лицензии Apache-2.0.

Это компактная конверсия в GGUF модели Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, подготовленная esatapedico. В основе лежит дообученная DavidAU модель Qwen3.8-27B: плотная гибридная архитектура с Gated DeltaNet и Gated Attention, 64 слоями и штатным контекстом до 262 144 токенов. В репозитории представлены варианты BUDGET и STARVED размером около 14,72 и 14,59 ГБ; основная часть весов использует NVFP4, а точность отдельных выходных и входных эмбеддингов различается. Спекулятивная MTP-голова удалена. Модель предназначена для диалоговой генерации текста и может принимать изображения при подключении совместимого vision-проектора. Варианты оптимизированы для запуска на одной видеокарте Blackwell с 16 ГБ VRAM; без проектора доступен текстовый режим. Карточка отмечает мультиязычность, но не перечисляет конкретные поддерживаемые языки. Качество может уступать более крупным вариантам из-за низкой точности отдельных тензоров; спекулятивное декодирование через MTP недоступно. Для вызова инструментов требуется подходящий шаблон и режим рассуждений; автор отмечает слабую работу вызовов инструментов в instruct-режиме. Лицензия — Apache-2.0.

Replete-LLM-V2.5-Qwen-3b-GGUF — набор GGUF-квантизаций текстовой генеративной модели Rombos-LLM-V2.5-Qwen-3b, разработанной rombodawg. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локальных языковых приложений, в том числе через LM Studio. Модель имеет размер около 3 миллиардов параметров и работает в текстовой модальности. В репозитории представлены варианты от F16 до низкобитных IQ и Q-квантизаций размером примерно от 1,62 до 6,80 ГБ. Доступны конфигурации, ориентированные на высокое качество, экономию оперативной памяти и инференс на ARM-процессорах; отдельные варианты требуют поддержки sve или i8mm. Для работы используется шаблон промпта ChatML с ролями system, user и assistant. Сильная сторона набора — широкий выбор уровней квантизации, позволяющий подобрать баланс между качеством, размером файла и требованиями к оборудованию. Низкобитные варианты могут уступать по качеству полной версии F16, а конкретные характеристики исходной архитектуры, поддерживаемые языки, размер контекста и результаты бенчмарков в README не указаны. Модель распространяется по лицензии Apache-2.0.

RUPunct_medium — средняя модель семейства RUPunct для автоматической расстановки пунктуации в русском тексте. По метаданным это модель token classification на архитектуре ELECTRA с 100,6 млн параметров и контекстом до 512 токенов; веса доступны в формате PyTorch. Автор README характеризует её как баланс между производительностью и качеством. Модель может применяться для восстановления пунктуации в текстах без знаков препинания, например в результатах распознавания речи. Репозиторий распространяется по лицензии MIT.

BaseLayer разработала rus_uzb_eng_stt — дообученную модель распознавания речи на архитектуре Whisper для преобразования аудио в текст. Она рассчитана на узбекскую, русскую и английскую речь, включая переключение между языками в одной фразе, и дополнительно обучена распознавать тихую речь, например шёпот или голос, записанный на расстоянии. Обучение проводилось на небольшом наборе узбекских аудиозаписей, связанных с законодательством, официальными документами и обращениями граждан. Для расширения данных меняли громкость записей. В описанной оценке наилучший результат составил WER 8,82%; метаданные указывают архитектуру Whisper и формат safetensors. Модель распространяется по лицензии MIT, допускающей коммерческое использование. Качество для русского и английского языков может быть ниже, поскольку специального дообучения на этих языках не проводилось. Данные ограничены узбекской официальной тематикой и небольшим числом исходных аудиозаписей; распознавание разговорной, технической, диалектной речи и тихого аудио в реальном шуме может быть менее надёжным.

rwkv7-0.4B-world — языковая модель RWKV-7, разработанная Bo Peng, Yu Zhang, Songlin Yang и Ruichong Zhang при поддержке RWKV Project в рамках LF AI & Data Foundation. Она предназначена для авторегрессионной генерации текста и диалогов; карточка описывает её как модель в формате flash-linear attention. Модель содержит около 419 млн параметров по метаданным, использует токенизатор RWKV World с словарём из 65 536 токенов и поддерживает контекст до 2 048 токенов. Модель обучена на корпусе World v3 объёмом 3,119 трлн токенов. В карточке заявлен английский язык, а метаданные каталога указывают также китайский, японский, корейский, французский, арабский, испанский и португальский. Она представлена как дообучение BlinkDL/rwkv-7-world и распространяется в формате Safetensors через Transformers. Лицензия — Apache-2.0. Для запуска README рекомендует установить flash-linear-attention и Transformers версии 4.48.0 или новее. Карточка не содержит результатов оценки качества; заявленный родительский чекпойнт и языковые возможности следует учитывать при выборе модели для конкретного сценария.

RWKV-7 — языковая модель с плотной архитектурой RWKV7ForCausalLM, опубликованная fla-hub на основе BlinkDL/rwkv7-g1. Разработчики, указанные в карточке: Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li; проект поддерживается RWKV Project при LF AI & Data Foundation. Модель содержит 1,5 млрд параметров и использует токенизатор RWKV World с размером словаря 65 536 токенов. Модель предназначена для генерации текста и диалогов. Метаданные указывают поддержку английского, китайского, японского, корейского, французского, арабского, испанского и португальского языков. Контекст составляет 2 048 токенов. Для запуска README рекомендует библиотеку flash-linear-attention и transformers версии 4.48.0 или выше. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества или подробные ограничения; небольшой контекст ограничивает работу с длинными входами.

sat-6l-sm — многоязычная модель семейства XLM для классификации токенов, разработанная для библиотеки wtpsplit. Она сегментирует текст на предложения и рассчитана на применение в сценариях, где нужно восстановить границы предложений в сплошном тексте. Архитектура плотная, с шестью слоями Transformer; в репозитории представлены веса Safetensors и формат ONNX. Модель содержит 248,6 млн параметров и имеет контекстное окно 514 токенов. Модель поддерживает множество языков, включая английский, арабский, китайский в тегах не указан, русский также не указан. Лицензия — MIT. Карточка заявляет качество уровня state of the art для сегментации предложений, но не приводит подробностей бенчмарков; длина контекста ограничивает обработку длинных фрагментов за один проход.

legraphista/shieldgemma-9b-IMat-GGUF — это GGUF-квантизация модели shieldgemma-9b, разработанной Google. Квантизация выполнена пользователем legraphista с использованием llama.cpp b3525 и набора данных IMatrix. Модель предназначена для запуска и генерации текста через совместимые инструменты, включая llama.cpp; README не уточняет полный перечень целевых сценариев, языков и модальностей исходной модели. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая семейство IQ-квантизаций. Размер файлов составляет примерно от 3,8 до 18,5 ГБ. IMatrix применяется к ряду вариантов с более сильным сжатием, включая Q4, Q3 и Q2, что позволяет уменьшить требования к памяти при сохранении качества, однако README не приводит результатов сравнительных тестов и не описывает ограничения качества для отдельных уровней квантизации. Модель распространяется по лицензии Gemma, для доступа к исходной модели на Hugging Face требуется принять лицензионные условия Google. Контекст, точная архитектура, поддерживаемые языки и характеристики безопасности в README этой квантизации не указаны.

Star-Command-R-32B-v1-GGUF — набор GGUF-квантизаций базовой модели Star-Command-R-32B-v1, разработанной TheDrummer и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio, с использованием указанного chat prompt format. В набор входят версии от F16 до низкобитных вариантов Q3 и IQ3, размером примерно от 14 до 64,6 ГБ. Доступны разные уровни компромисса между качеством и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а некоторые Q4-варианты оптимизированы для ARM-процессоров. Архитектура, поддерживаемые языки, длина контекста, модальности и точные сценарии применения в README не указаны, поэтому модель можно охарактеризовать только как текстовую генеративную модель общего назначения. Сильной стороной является широкий выбор квантизаций для локального инференса и применение imatrix-квантизации, направленной на сохранение качества при уменьшении размера. Ограничения зависят от выбранного варианта: более компактные версии имеют более низкое качество, а полноразмерная F16-версия требует значительного объёма памяти. Лицензия указана как other; её конкретные условия в README не раскрыты и требуют проверки в источнике базовой модели.

SuperGemma 4 E4B Abliterated — LiteRT-LM — это неофициальная общественная конверсия модели Jiunsong/supergemma4-e4b-abliterated в формат .litertlm для рантайма LiteRT-LM. В основе лежат google/gemma-4-E4B-it от Google DeepMind и аблитерированная дообученная версия от Jiunsong. Сборка не опубликована Google, командой LiteRT или Jiunsong. Модель предназначена для генерации текста и локального запуска на устройствах и настольных системах через единый пакет LiteRT-LM. Заявлены сценарии использования на Android, iOS, macOS, Linux, Windows и в Web, включая работу на Apple Silicon с CPU или Metal GPU. Размер пакета составляет 3,65 ГБ. Для macOS ARM64 указана измеренная производительность около 40 токенов в секунду при декодировании на Metal против примерно 13 токенов в секунду на CPU, однако фактические показатели зависят от оборудования. Ключевое ограничение связано с повторной int4/int8-квантизацией: результаты могут отличаться от исходной модели, а аблитерированное поведение на некоторых запросах может быть ослаблено. Для этой сборки рекомендуется отключать speculative decoding, поскольку MTP-драфтер может иметь низкую долю принятых токенов и не гарантирует ускорения, хотя проверка основой моделью сохраняет корректность. Языки, размер контекста, точная архитектура и поддерживаемые модальности в карточке не указаны. Распространение регулируется лицензией Gemma, условия которой необходимо проверить перед использованием и перераспределением.

Ransaka/TrOCR-Sinhala — дообученная модель распознавания текста на изображениях, основанная на Microsoft TrOCR Printed. Она использует архитектуру vision-encoder-decoder и предназначена для OCR на сингальском языке. В метаданных указан синтетический датасет Ransaka/sinhala_synthetic_ocr-large; модель доступна в формате safetensors. Модель можно применять для извлечения сингальского текста из изображений с печатным текстом. Карточка не описывает подробные сценарии использования и результаты оценки; для оценки качества предлагается обратиться к вкладке с метриками обучения. Лицензия — MIT.

UncensoredLM-DeepSeek-R1-Distill-Qwen-14B-GGUF — это набор квантизированных файлов модели UncensoredLM-DeepSeek-R1-Distill-Qwen-14B, разработанной uncensoredai, подготовленный пользователем bartowski. Модель предназначена для генерации текста и распространяется в формате GGUF для запуска через llama.cpp, LM Studio и другие совместимые приложения. В основе лежит 14-миллиардная модель Qwen, дистиллированная из DeepSeek-R1. В набор входят варианты с точностью от F32 и F16 до различных типов квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ4; размеры файлов составляют примерно от 8,2 до 56,9 ГБ. Квантизация выполнена с использованием llama.cpp версии b4585 и метода imatrix. Более точные варианты обеспечивают лучшее качество, а менее точные требуют меньше оперативной памяти. Для работы рекомендуется использовать указанный в README шаблон промпта. Модель подходит для локальной генерации текста и сценариев, где важны автономность и возможность запуска на пользовательском оборудовании. Сильными сторонами являются широкий выбор компромиссов между качеством и требованиями к памяти, а также совместимость с популярными инструментами локального инференса. Ограничения включают значительные требования к памяти для крупных вариантов, возможное снижение качества при сильной квантизации и отсутствие в предоставленных данных сведений о контекстном окне, поддерживаемых языках, мультимодальности и результатах бенчмарков. Указана лицензия Apache-2.0.