I.6Перевод и языковая адаптация

Это набор GGUF-квантизованных версий текстовой генеративной модели OwenArli/Meta-Llama-3-8B-Instruct-Dolfin-v0.1. Квантизацию выполнила организация featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется запуск инструкционной языковой модели в формате GGUF. В основе лежит Meta-Llama-3-8B-Instruct-Dolfin-v0.1; заявленный размер исходной модели — 8 миллиардов параметров. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, обучающих данных и результатах тестирования. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильной стороной набора является широкий выбор квантизаций для локального или иного совместимого запуска GGUF-моделей. Ограничения, связанные с конкретной потерей качества, производительностью и совместимостью вариантов, в README не описаны. Лицензия и условия использования также не указаны; их следует уточнить по базовой модели и репозиторию.

Parakeet TDT 0.6B V2 — англоязычная модель автоматического распознавания речи от NVIDIA. Она преобразует монофоническое аудио в текст с пунктуацией, заглавными буквами и временными метками на уровне слов. Модель содержит 600 млн параметров и использует архитектуру FastConformer-TDT с декодером TDT; работает с аудиофрагментами длительностью до 24 минут за один проход. Модель предназначена для транскрибации разговоров, голосовых команд, песенных текстов и записей для субтитров или голосовой аналитики. По данным разработчика, она хорошо распознаёт числа в речи; скорость зависит от длительности аудио и размера пакета. Для запуска используется NVIDIA NeMo; модель оптимизирована для систем с GPU NVIDIA. Вход — монофоническое аудио 16 кГц, в карточке указаны форматы WAV и FLAC. Модель доступна для коммерческого и некоммерческого использования по лицензии CC-BY-4.0. Карточка не сообщает о мерах снижения смещений; точность для языков, отличных от английского, не заявлена.

Moondream Parakeet Ultra — дообученная версия модели Parakeet TDT 0.6B v3 от NVIDIA для автоматического распознавания речи. Она сохраняет исходную архитектуру Parakeet TDT, токенизатор и 0,6 млрд параметров в полной точности и предназначена для транскрибирования речи, в том числе длинных записей, фоновых разговоров и аудио с шумом. Модель поддерживает 25 языков, включая русский, английский и немецкий. Для длинных записей встроенная в веса голова определения речевой активности помогает разбивать аудио на сегменты длительностью до 30 секунд без отдельной VAD-модели. В приведённых тестах Parakeet Ultra показала более низкий WER, чем Parakeet TDT 0.6B v3, а также более высокую скорость в тестах на Photon с GPU NVIDIA; результаты зависят от среды и настроек запуска. Для запуска автор рекомендует Photon. Модель опубликована под лицензией CC-BY-4.0. Она предназначена для распознавания речи и не выполняет перевод или генерацию речи.

legalvn/paraphrase-multilingual-MiniLM-L12-v2-168500 — дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Архитектура включает трансформер BERT с усреднением токенных представлений; модель содержит 124,3 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384. Для сравнения текстов используется косинусное сходство. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. В карточке показаны обучающие примеры на вьетнамском языке, в том числе запросы и фрагменты нормативных документов; контекстная длина в метаданных составляет 512 токенов, а README указывает ограничение последовательности 128 токенов. Лицензия в предоставленных данных не указана.

mikoy92 подготовил MLX-версию компактной модели распознавания текста PP-OCRv6 small на основе PaddlePaddle/PP-OCRv6_small_rec_safetensors. Модель принимает изображение и выдаёт распознанный текст; пример использования показывает запуск через mlx-vlm и постобработку результата распознавания. Модель предназначена для OCR-сценариев, где требуется извлечь текст из изображения на устройствах Apple с использованием MLX. В метаданных указаны английский и китайский языки, библиотека MLX и лицензия Apache-2.0. Размер модели и длина контекста не указаны в предоставленных данных.

ZeroXClem/Qwen2.5-7B-CelestialHarmony-1M — языковая модель, созданная ZeroXClem слиянием нескольких дообученных вариантов Qwen2.5-7B методом Model Stock. Она построена на архитектуре Qwen2 и содержит около 7,1 млрд параметров по метаданным; README указывает 7,61 млрд. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет до 1 010 000 токенов. Модель предназначена для диалогов, ролевых сценариев и сторителлинга, структурированных рассуждений, а также работы с очень длинными документами и контекстами. В метаданных отмечен интерфейс вызова инструментов; конкретные возможности зависят от используемого шаблона и среды запуска. Модель распространяется под лицензией MIT. Для практического применения на длинном контексте потребуются совместимая среда инференса и значительные вычислительные ресурсы; заявленные качества рассуждения и работы с контекстом основаны на описании автора.

Qwen2-VL-72B — базовая предварительно обученная мультимодальная модель семейства Qwen2-VL, разработанная командой Qwen. Она содержит 71,5 млрд параметров и предназначена для понимания изображений и видео по текстовым запросам, включая визуальные вопросы и ответы, диалог по содержимому видео, анализ документов и создание описаний. Модель не проходила настройку инструкциями, поэтому для диалоговых сценариев может потребоваться дополнительная настройка. Архитектура — плотная Qwen2-VL с классом Qwen2VLForConditionalGeneration. Она обрабатывает изображения произвольного разрешения с динамическим числом визуальных токенов и использует M-ROPE для позиционной информации текста, изображений и видео. Видеосценарии включают анализ роликов длительностью более 20 минут. Контекст — до 32 768 токенов. Модель понимает текст на изображениях на английском, китайском и ряде других языков, включая европейские языки, японский, корейский, арабский и вьетнамский. Модель подходит для визуального анализа и мультимодальных сценариев, однако заявленные высокие результаты приведены в карточке без подробностей об условиях оценки. Для запуска потребуется значительный объём вычислительных ресурсов из-за размера модели. Лицензия указана как other; конкретные условия использования следует проверить в репозитории модели.

Qwen2-VL-7B — базовая предварительно обученная мультимодальная модель, разработанная командой Qwen. Это плотная модель с 7,1 млрд параметров для понимания изображений и видео по текстовым запросам. Она обрабатывает изображения с произвольным разрешением и соотношением сторон, а также видео длительностью более 20 минут; динамическое число визуальных токенов и позиционные кодировки M-ROPE учитывают текстовые, двумерные визуальные и трёхмерные видеоданные. Модель предназначена для визуальных вопросов и ответов, диалога о содержимом изображений и видео, распознавания текста на изображениях и задач, связанных с визуальным анализом и принятием решений. README описывает поддержку английского и китайского языков, а также чтение текста на изображениях на многих других языках, включая европейские языки, японский, корейский, арабский и вьетнамский. Версия в этом репозитории не прошла инструкционную настройку, поэтому для диалога и следования пользовательским инструкциям может требоваться дополнительная настройка. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Thinking-2507-MLX-6bit — это 6-битная квантованная версия языковой модели Qwen3-4B-Thinking-2507 для генерации текста. Исходную модель разработала команда Qwen, а квантование в формате MLX предоставила команда LM Studio с использованием mlx_lm. Модель оптимизирована для запуска на устройствах Apple Silicon и предназначена для локального использования в задачах генерации текста и рассуждений, однако конкретные поддерживаемые языки и размер контекста в README не указаны. Ключевая характеристика модели — квантование до 6 бит, уменьшающее требования к памяти по сравнению с полноразмерной версией и подходящее для запуска на совместимом оборудовании Apple. Ограничения включают возможную потерю качества из-за квантования, а также типичные для языковых моделей риски неточных, вредных или вводящих в заблуждение ответов; сведения о производительности и результатах тестирования отсутствуют. Модель распространяется по лицензии Apache-2.0.

RobinsonLabs выпустила полноточную версию Qwen3.5-REAP-212B-A17B после аблитерации — ослабления склонности к отказам с помощью ортогонализации весов. Это гибридная MoE-модель семейства Qwen3.5: 60 декодерных слоёв, 267 экспертов, около 211,8 млрд параметров и примерно 17 млрд активных параметров. Репозиторий содержит веса bf16 в формате safetensors; модель предназначена для диалоговой генерации текста и дальнейшей настройки или подготовки квантованных вариантов. Аблитерация уменьшает жёсткие отказы на взрослые и творческие запросы, при этом, по заявлению автора, защитные ограничения для запросов о самоповреждении сохранены. Карточка описывает текстовый путь модели; архитектура также предоставляет интерфейс вызова инструментов. Для запуска полноточных весов требуется около 424 ГБ места, поэтому для готового запуска автор указывает отдельный репозиторий квантованных GGUF-вариантов. Модель основана на OpenMOSE/Qwen3.5-REAP-212B-A17B, которая, в свою очередь, получена прореживанием Qwen3.5-397B-A17B. Лицензия — Apache-2.0.

Qwen3-VisionCaption-2B-GGUF — мультимодальная модель для генерации описаний изображений и визуального анализа, разработанная prithivMLmods. Она основана на Qwen3-VisionCaption-2B, дообученной версии Qwen3-VL-2B-Instruct-abliterated-v1. Модель предназначена для создания подробных подписей к изображениям, анализа сложных сцен, художественных материалов, технических схем и чувствительного контента, а также для задач аннотации датасетов, исследований модерации и red-teaming, accessibility-инструментов и генеративной оценки безопасности. Модель работает с текстом и изображениями, поддерживает английский и китайский языки, а также многоязычный OCR для 32 языков. Заявлены пространственное понимание, обработка различных соотношений сторон, поддержка контекста до 256K токенов и возможность запуска на устройствах с ограниченными ресурсами через llama.cpp и совместимые платформы. Доступны варианты GGUF в форматах BF16, F16, F32 и Q8_0, а также отдельные мультимодальные проекционные файлы; размер файлов зависит от варианта и составляет примерно от 445 MB до 6,89 GB. К сильным сторонам относятся подробные и фактические описания, визуальное рассуждение, работа с многоязычным текстом на изображениях и поддержка эффективного локального инференса. Ограничения включают отсутствие приведённых количественных оценок качества и подробностей о требованиях к оборудованию. README также характеризует модель как uncensored и указывает на обход стандартных фильтров содержимого, поэтому при работе с чувствительными данными необходимы дополнительные меры безопасности и контроля. Модель распространяется по лицензии Apache-2.0.

ruT5-large — предварительно обученная русскоязычная модель семейства T5, разработанная командой SberDevices. Это плотная модель архитектуры encoder-decoder с 385,2 млн параметров по метаданным, реализованная для PyTorch; в README указано 737 млн параметров. Модель обучалась на 300 ГБ данных, использует BPE-токенизатор со словарём из 32 101 токена и имеет контекст длиной 512 токенов. Модель предназначена для генерации текста по текстовому запросу и может служить основой для задач преобразования русского текста, например суммаризации, перефразирования и ответов на вопросы после соответствующей настройки. README ссылается на препринт о семействе предварительно обученных трансформеров для русского языка и сообщает об оценке модели. Модель принимает и выдаёт текст, ориентирована на русский язык. Данные не описывают специализированные области применения или известные ограничения качества. Условия лицензии в предоставленных источниках не приведены.

Spaetzle-v68-7b — слитая модель на 7,1 млрд параметров, созданная автором cstr с помощью LazyMergekit из Spaetzle-v65-7b и Spaetzle-v64-7b. Она использует плотную архитектуру Mistral и предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Слияние выполнено методом DARE-TIES с маской int8 и сохранением весов в bfloat16. Модель можно использовать для диалоговых ответов и других задач генерации текста. README не приводит результатов оценки качества или подробного перечня поддерживаемых языков, поэтому конкретные преимущества и языковое покрытие установить нельзя. Лицензия — CC-BY-NC-SA-4.0: использование ограничено некоммерческими условиями и требованием ShareAlike.

Это 16-битная конверсия StableLM 2 от SirSahOl для локального запуска на GPU компьютеров Apple Silicon. Веса модели StableLMForCausalLM сохранены в формате safetensors для MLX; исходная модель — stabilityai/stablelm-2-1_6b. В README указано 1,6 млрд параметров, а в метаданных — 1,4 млрд. Контекст составляет 4096 токенов. Модель принимает текст и генерирует текст; карточка базовой модели указывает поддержку английского, немецкого, испанского, французского, итальянского, нидерландского и португальского языков. Модель подходит для локального диалога, генерации текста и дополнения кода. MLX позволяет использовать ускорение Apple Silicon, а 16-битные веса сохраняют исходную точность представления. README оценивает занимаемую память примерно в 3,9–4 ГБ и рекомендует не менее 8 ГБ объединённой памяти; фактическая скорость зависит от оборудования и длины запроса. Это конверсия, а не новая архитектура или отдельное дообучение. Лицензия обозначена как «other»; перед использованием следует проверить её условия в репозитории исходной модели и этой конверсии. Конверсия рассчитана на Apple Silicon и не предназначена для других GPU без совместимого окружения MLX.

ST-NLI-ca_paraphrase-multilingual-mpnet-base — модель на базе Sentence-Transformers, разработанная проектом AINA для получения векторных представлений предложений и абзацев. Она кодирует текст в плотные векторы размерности 768 и предназначена для семантического поиска, кластеризации, оценки сходства и выявления перефразировок на каталанском языке. Модель создана дополнительным обучением paraphrase-multilingual-mpnet-base-v2 на каталанских данных логического вывода: TE-ca и профессиональном переводе XNLI на каталанский. Для обучения использовались пары с отношением следования и противоречия; нейтральные примеры не применялись. Архитектура XLM-RoBERTa содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. README приводит результаты оценки на каталанских наборах STS-ca, Parafraseja и PAWS-ca. Модель подходит для семантического поиска и сопоставления текстов на каталанском; мультиязычная базовая модель не означает, что качество дообученной версии одинаково для всех языков. В метаданных указан формат PyTorch. Информация о лицензии в предоставленных данных отсутствует.

StrangeMerges_15-7B-slerp — объединённая языковая модель, созданная Gille с помощью LazyMergekit из Gille/StrangeMerges_14-7B-slerp и CultriX/Wernicke-7B-v9. Это плотная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; контекст составляет до 32 768 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 72,41, но подробные результаты представлены не полностью. Модель распространяется в формате safetensors по лицензии Apache-2.0.

T3qm7xNeuralsirkrishna_Experiment28Experiment29 — объединённая автором MaziyarPanahi языковая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Experiment29-7B. Модель предназначена для генерации текста и диалогов; максимальная длина контекста составляет 32 768 токенов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. README и метаданные не описывают специализированные предметные области или конкретные ограничения качества.

Tess-M-v1.2 — экспериментальная версия универсальной большой языковой модели из серии Tess, разработанной migtissera. Модель построена на архитектуре Llama и дообучена на базе Yi-34B-200K; размер составляет около 33,9 млрд параметров, контекст — до 200 000 токенов. Для диалога используется формат с ролями SYSTEM, USER и ASSISTANT. Модель предназначена для генерации текста и общих языковых задач. Версия v1.2 устарела и помечена разработчиком как экспериментальная; в README рекомендуется стабильный выпуск Tess-M-v1.3. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории.

Virtuoso-Lite-GGUF — это набор GGUF-квантизаций языковой модели Virtuoso-Lite, разработанной arcee-ai и сконвертированной пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска в локальных приложениях и средах, совместимых с llama.cpp, включая LM Studio. В README также указана поддержка запуска через другие проекты на базе llama.cpp. Точные сведения об архитектуре, количестве параметров, максимальном контексте, языках и поддерживаемых модальностях не указаны. Доступны варианты от исходных полноточных F32-весов размером 41,23 ГБ до сильно сжатых IQ2_S размером 3,32 ГБ. Большинство вариантов созданы с применением imatrix; рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти, тогда как варианты Q2 и Q3 ориентированы на устройства с ограниченным объёмом RAM и характеризуются сниженным качеством. Для работы используется формат prompt: system, user и assistant с соответствующими специальными токенами. Лицензия обозначена как other, однако её конкретные условия в README не приведены, поэтому перед использованием необходимо проверить лицензию исходной модели arcee-ai/Virtuoso-Lite и условия распространения квантизированных файлов.

Sekiraw/whisper-small-hyper-tuned-v2 — дообученная Sekiraw модель распознавания речи на основе openai/whisper-small. Она принимает аудио и предназначена для преобразования речи в текст; карточка сообщает о дообучении на неизвестном наборе данных и приводит результаты оценки: loss 0,2138 и WER 0,3859. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 153,1 млн параметров и опубликована в формате safetensors для Transformers. Карточка не описывает целевые языки, набор данных или специальные сценарии применения, поэтому качество распознавания в конкретных условиях по указанным оценкам определить нельзя. Лицензия — Apache-2.0.

YamT3qm7xp_ShadowOgno — объединённая методом слияния модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы; максимальная длина контекста составляет 32 768 токенов. Модель объединяет automerger/YamT3qm7xp-7B и automerger/ShadowOgno-7B. Она распространяется в формате safetensors по лицензии Apache-2.0. Доступные сведения подтверждают назначение для генерации текста, но не описывают специальные навыки или ограничения качества.

jaromer/0bserverx-Qwen3.8-27B-Heretic-Abliterated-Uncensored-GGUF — это модифицированная версия Qwen3.8-27B от Qwen, дополнительно обработанная методом ARA (Arbitrary-Rank Ablation). Основой послужила версия trohrbaugh/Qwen3.8-27B-heretic-ara, созданная Tim Rohrbaugh; текущая сборка получила ещё два прохода ARA для уменьшения остаточных отказов. Точные сведения об авторах текущей доработки в README не указаны. Модель предназначена для генерации текста, исследовательских задач, творческого письма и ролевых сценариев, где требуется сниженное количество отказов. Это модель на 27 млрд параметров с архитектурой Qwen3.8 и гибридом Gated DeltaNet: 64 слоя, включая 16 стандартных attention-слоёв и 48 слоёв линейного внимания Gated DeltaNet. Используются GQA с 24 attention-heads и 4 KV-heads, размер скрытого состояния — 5120, словарь содержит 248 320 токенов, контекст — до 262 144 токенов. Модель поставляется в формате GGUF для llama.cpp; тензоры MTP/NextN исключены. Главное преимущество — существенно сниженная склонность к отказам при сохранении поведения базовой модели: по приведённым независимым измерениям, число отказов на наборе из 100 вредоносных запросов снизилось до 0–1, а отклонение KL составило около 0,0085. Ограничения связаны с намеренно ослабленными защитными механизмами, поэтому модель не подходит для сценариев, требующих строгих встроенных ограничений безопасности; отдельные guardrails сохранены. README указывает, что модель предназначена для совершеннолетних пользователей и должна применяться ответственно и в соответствии с местным законодательством. Лицензия — Apache-2.0, унаследованная от Qwen3.8-27B.

Это зеркальная копия модели на Hugging Face, созданная сервисом latent-artist и предоставленная для скачивания. По метаданным это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 494 млн параметров. Она принимает текст и предназначена для генерации текста в диалоговом формате; также заявлен интерфейс для вызова инструментов. Поддерживаемый контекст — до 32 768 токенов, основной язык карточки — английский. Модель хранится в формате Safetensors и использует библиотеку Transformers. В README указано, что при использовании следует обращаться к репозиторию-зеркалу, а условия применения и распространения нужно проверять в файле лицензии внутри репозитория; метаданные указывают лицензию Apache-2.0. README не сообщает исходный репозиторий модели, поэтому базовая модель не установлена. Качество ответов и ограничения конкретной копии отдельно не описаны.

Airolima Chronos Grad L2 13B — это текстовая языковая модель для генерации ответов и ведения диалога, созданная kingbri. Модель представляет собой объединение (merge) проектов Airoboros и Chronos на базе архитектуры Llama 2 с 13 млрд параметров. В данном репозитории опубликованы квантизированные файлы в формате GGUF, подготовленные TheBloke для запуска на CPU и GPU. Модель предназначена для общего текстового общения, генерации и продолжения текста, а также сценариев, поддерживаемых интерфейсами llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими совместимыми библиотеками. Указан английский язык. Поддерживаются шаблоны запросов Alpaca 2 и Airoboros; рекомендуемый размер контекста и другие параметры инференса в представленном README не указаны. К сильным сторонам относятся относительно крупный размер 13B, совместимость с широким набором локальных инструментов и наличие вариантов квантизации от 2 до 8 бит, позволяющих выбирать компромисс между качеством и требованиями к памяти. Ограничения связаны с тем, что это квантизированная версия, а сведения о результатах тестирования, точности, безопасности и поддерживаемых модальностях отсутствуют; модель является текстовой и не заявлена как мультимодальная. Лицензия указана как llama2.

Это квантованная в формате GGUF BF16 версия ai-sage/GigaChat3-702B-A36B-preview-bf16, подготовленная DevQuasar. Модель предназначена для генерации текста в диалоговом режиме и может использоваться в чат-приложениях и локальных средах, поддерживающих GGUF. Размер модели, поддерживаемые языки и длина контекста в предоставленных сведениях не указаны. Лицензия также не приведена, поэтому условия использования следует проверять в репозитории базовой модели и самой модели.

TheBloke/alpaca-lora-65B-HF — версия модели alpaca-lora-65B в формате Hugging Face Transformers, опубликованная TheBloke. Это плотная авторегрессионная модель семейства LLaMA с 65 млрд параметров, предназначенная для генерации текста и диалоговых ответов по инструкциям. В README указано, что это объединённая модель без квантования; исходная карточка changsung не предоставлена, а происхождение и вариант обучающих данных автор README точно установить не смог. Предположительно, модель дообучена на данных Alpaca. Модель принимает текст и генерирует текст. Указанная длина контекста — 2048 токенов. Репозиторий содержит веса PyTorch и распространяется с лицензией, обозначенной как «other»; конкретные условия использования по имеющимся сведениям определить нельзя. Возможности и качество следует оценивать с учётом отсутствия исходной карточки модели и неопределённости в данных обучения.

AudioSangraha-Audio_to_Text — дообученная разработчиком AqeelShafy7 модель распознавания речи на архитектуре Whisper Small. Она предназначена для преобразования аудио в текст. Веса представлены в формате safetensors; модель содержит 153,1 млн параметров и распространяется по лицензии Apache-2.0. В карточке приведены результаты оценки: loss 0,3071 и WER 52,3227. Описание не раскрывает языки, обучающие данные и сценарии применения, поэтому качество распознавания в конкретных условиях по этим сведениям оценить нельзя.

Blur-7b-slerp-v1.44 — объединённая модель для генерации текста, созданная liminerity с помощью Mergekit. Она объединяет liminerity/1 и Inv/Konstanta-7B методом SLERP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для диалоговой генерации текста и использует контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специальные предметные области или отдельные ограничения качества; её назначение — общее текстовое общение.

MaziyarPanahi/Chocolatine-3B-Instruct-DPO-Revised-GGUF — это набор файлов модели в формате GGUF для локального запуска. В основе лежит jpacifico/Chocolatine-3B-Instruct-DPO-Revised; автор исходной модели — jpacifico, а квантизацию и публикацию GGUF-версии выполнил MaziyarPanahi. Модель относится к классу текстовых генеративных моделей с инструкционным дообучением и DPO-настройкой, имеет размер около 3 миллиардов параметров и предназначена для работы с текстом. Модель ориентирована на выполнение текстовых инструкций и генерацию ответов в локальных приложениях и библиотеках, совместимых с GGUF, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, результатах бенчмарков, мультимодальности и лицензии, поэтому эти характеристики нельзя достоверно оценить.

Это GGUF-квантизированная версия языковой модели Kevin-32B, разработанной cognition-ai и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Доступны варианты от BF16 до низкоразрядных квантов, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. В основе лежит модель Kevin-32B с 32 миллиардами параметров. В README не указаны архитектура исходной модели, поддерживаемые языки, длина контекста и мультимодальные возможности, поэтому эти характеристики нельзя достоверно определить. Формат prompt предполагает шаблон с ролями system, user и assistant, а также секцией <think>. Более высокие варианты квантования, такие как Q6_K_L, Q6_K и Q5_K, заявлены как обеспечивающие очень высокое или высокое качество, тогда как Q3 и Q2-варианты экономят память за счёт заметного снижения качества. Сильная сторона сборки — широкий выбор квантов и совместимость с локальным инференсом через llama.cpp, включая запуск на устройствах с ограниченными ресурсами. Ограничения связаны с потерями качества при использовании низкоразрядных вариантов, значительным размером файлов и отсутствием в README сведений о лицензии, результатах тестирования и точных требованиях к оборудованию. Условия использования исходной модели и квантованных файлов не указаны.