I.6Перевод и языковая адаптация

kthierbach/unlimited-ocr-max — это порт модели baidu/Unlimited-OCR, подготовленный Константином Тирбахом для запуска через MAX и OpenAI-совместимый API. Модель предназначена для распознавания текста на изображениях и преобразования страниц в Markdown; репозиторий также описывает запуск собственного сервера и профилирование на наборе страниц. Архитектура указана как UnlimitedOCRForCausalLM, размер — 559,7 млн параметров, длина контекста — 32 768 токенов. Доступны исходные веса bf16 и вариант int8 с квантизацией routed experts; файлы весов хранятся в safetensors. Поддерживаются Metal на Apple Silicon, CUDA, ROCm и CPU. Метаданные характеризуют модель как многоязычную. Порт упрощает развёртывание через MAX, а int8-вариант предназначен для более быстрого декодирования на GPU. На CPU работа медленная; для int8 требуется GPU. Для NVIDIA указаны требования Ampere или новее, драйвер 580+ и MAX версии 0.3.1 или новее. Лицензия — MIT; README указывает, что исходные веса и файлы Baidu распространяются под MIT, а int8-веса получены из них квантизацией.

YamshadowInex12_NeuralsirkrishnaShadow — слитая текстовая модель MaziyarPanahi на архитектуре Mistral. Она объединяет модели automerger/YamshadowInex12-7B и automerger/NeuralsirkrishnaShadow-7B и предназначена для генерации текста. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Доступна в формате safetensors по лицензии Apache-2.0.

YamshadowStrangemerges_32_T3qm7xStrangemerges_32 — объединённая текстовая модель, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/T3qm7xStrangemerges_32-7B. Она предназначена для генерации текста и работает на плотной архитектуре Mistral с 7,1 млрд параметров; контекст — до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает о специализированной предметной области или конкретных ограничениях качества.

Amadeus-Verbo-FI-Qwen2.5-7B-PT-BR-Instruct — языковая модель для бразильского португальского, созданная Amadeus AI дообучением Qwen/Qwen2.5-7B-Instruct на 600 тысячах инструкций в течение двух эпох. Это плотная Transformer-модель семейства Qwen2 с причинной генерацией текста; в метаданных указано 7,1 млрд параметров и контекст 32 768 токенов. README приводит другие значения: 7,61 млрд параметров и контекст 131 072 токена. Модель предназначена для диалогов и генерации ответов на инструкции на бразильском португальском. Метаданные также отмечают интерфейс для вызова инструментов. Для загрузки README рекомендует библиотеку Hugging Face Transformers. Модель распространяется под лицензией Apache-2.0.

ANIMA-Nectar-v2-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.1 и Biomimicry-AI/ANIMA-Nectar-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; доступная карточка не описывает более узкую специализацию ANIMA-Nectar-v2. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0. Карточка содержит сведения о слиянии и конфигурации, но не приводит результатов оценки качества или подробных ограничений применения.

Athene-V2-Chat-GGUF — набор квантизированных версий диалоговой языковой модели Athene-V2-Chat, разработанной Nexusflow и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в чат-сценариях и локального инференса, в том числе через LM Studio и совместимые инструменты llama.cpp. В README указан английский язык и текстовая модальность; исходная архитектура, число параметров и размер контекстного окна не приведены. Модель доступна в вариантах квантизации Q2–Q8 и IQ2–IQ4 с размерами файлов примерно от 25,49 до 77,26 ГБ. Старшие варианты Q5–Q8 обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Некоторые варианты используют Q8_0 для весов embedding и output, а Q4_0_8_8 оптимизирован для ARM с поддержкой SVE и не рекомендуется для Mac или Windows. Указан специальный формат prompt с ролями system, user и assistant. Лицензия обозначена как other, без дополнительных условий в представленном README.

BLOSSOM-v4-qwen-18b — диалоговая языковая модель, разработанная командой Blossom и полученная дообучением Qwen-1_8B на смесях данных Blossom Orca, Wizard, Chat и Math. Модель использует плотную архитектуру Qwen с 2,3 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса PyTorch. Она предназначена для генерации ответов в формате диалога и общего следования инструкциям, включая задачи на понимание текста и математику. Обучение проходило в два этапа на одно- и многоходовых примерах.

Caption-Pro — дообученная мультимодальная модель prithivMLmods для создания подробных описаний и структурированных аннотаций изображений. Она основана на Qwen/Qwen2-VL-2B-Instruct и использует архитектуру Qwen2-VL с примерно 1,5 млрд параметров; принимает изображения и текстовые запросы, а выдаёт текст, в том числе аннотации в формате JSON. Заявлены контекст до 32 768 токенов, поддержка диалогового режима и OCR для текста на нескольких языках, включая английский, китайский, японский, корейский и арабский. Модель предназначена для автоматического описания изображений, извлечения текста и подготовки структурированных данных для приложений, баз данных и конвейеров автоматизации. Карточка заявляет обучение на большом наборе аннотированных изображений, но не приводит подробностей датасетов или результатов оценивания. Модель распространяется по лицензии Apache-2.0.

Claude Haiku 4.5 — модель Anthropic, позиционируемая как быстрая и экономичная модель с интеллектом, близким к передовым системам, при меньших стоимости и задержке по сравнению с более крупными моделями Claude. В карточке также заявлено, что по производительности она сопоставима с Claude Sonnet 4. Модель предназначена для задач, где важны быстрые ответы и низкая стоимость обращения. Доступные сведения не описывают конкретные сценарии, архитектуру, размер, модальности, языки, длину контекста или лицензию; поэтому эти характеристики здесь не уточняются.

Dolphin-Mistral-24B-Venice-Edition-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin-Mistral-24B-Venice-Edition, разработанной cognitivecomputations. Квантизации подготовлены пользователем bartowski с помощью llama.cpp версии b5835 и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, а также для генерации текста по заданному системному промпту и пользовательскому запросу. Размер исходной модели составляет 24 млрд параметров; доступны варианты от BF16 размером 47,15 ГБ до более компактных квантовок Q3 и Q4, а также Q5, Q6 и Q8. В README указана только текстовая модальность и формат взаимодействия через системный промпт и инструкцию. Контекстное окно, поддерживаемые языки, конкретные обучающие данные и результаты независимого тестирования не указаны. Основное преимущество набора — широкий выбор уровней квантизации, позволяющий выбирать между качеством генерации, размером файла и требованиями к памяти. В README варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; Q4_K_M описан как вариант стандартного размера для большинства сценариев. Ограничения включают зависимость характеристик от выбранной квантовки и отсутствие подробных сведений о качестве, языках и контексте. Лицензия модели указана как Apache-2.0.

Darwin-180B-RSI — мультимодальная модель рассуждений семейства Darwin, разработанная VIDRAFT и оценённая FINAL-Bench. Она основана на Qwen3.8-Flash-Next с архитектурой Mixture-of-Experts и предназначена для диалогов, сложных задач по математике и естественным наукам, анализа изображений и разбора документов. Модель принимает текст и изображения и выдаёт текст; в карточке заявлены поддержка корейского и английского языков, а также контекст 262 тыс. токенов. Разработчик описывает подход Recursive Self-Improvement: модель дообучалась на собственных ответах, прошедших проверку по эталонным ответам или исполняемым проверкам. В README заявлены высокие результаты на бенчмарках рассуждений, мультимодального понимания и структурированного вывода; эти показатели приведены издателем и зависят от протокола оценки. Модель поддерживает интерфейс вызова инструментов и предназначена для запуска через Transformers или vLLM. README указывает на длительные цепочки рассуждений, которые могут обрезаться при малом лимите генерации, и предупреждает, что модель может уверенно ошибаться; для оценки уверенности предлагается ZTC. Лицензия обозначена как other; родительская модель указана под Qwen Community License 1.0, но условия лицензии самой Darwin-180B-RSI в доступных данных не раскрыты.

bcoding/deepseek-llvm-sft-merged-8b — дообученная языковая модель семейства Qwen3, разработанная bcoding на базе unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 7,6 млрд параметров; поддерживает генерацию текста и диалоговый режим, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста в диалоге. В карточке указано, что дообучение выполнялось с Unsloth и библиотекой TRL; подробности обучающего набора и специализация по задачам не приведены. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

DeepSeek-OCR-Metal-MPS — вариант DeepSeek-OCR, опубликованный Dogacel, с изменениями для запуска инференса на Apple Metal Performance Shaders (MPS) и CPU через Transformers. Модель принимает изображения и формирует текст, в частности распознаёт текст и извлекает содержимое из изображений документов; её архитектура относится к семейству DeepSeek VL V2, а число параметров составляет 559,7 млн. Контекст — до 8192 токенов, заявлена поддержка многоязычных сценариев. Репозиторий содержит веса в формате safetensors и распространяется по лицензии MIT. README описывает запуск на MPS и CPU; интеграция с vLLM не проверена. Это доработка исходной модели deepseek-ai/DeepSeek-OCR для совместимости с указанными устройствами, поэтому качество распознавания зависит от исходной модели и входных изображений.

MaziyarPanahi/Experiment26Yam_YamYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/Experiment26Yam-7B и automerger/YamYam-7B. Модель содержит 7,1 млрд параметров и принимает текстовые запросы для генерации текста; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы, а также для диалоговых сценариев на её основе. В репозитории размещены веса в формате Safetensors. Лицензия — Apache-2.0.

Franken-Merlinite-Maid 7B Slerp — слитая языковая модель, созданная ND911 с помощью mergekit методом SLERP из ND911/Fraken-Maid-TW-K-Slerp и ibm/merlinite-7b. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 8192 токенов. Она предназначена для генерации текста. Репозиторий содержит веса в формате safetensors; метаданные указывают библиотеку Transformers. Лицензия в предоставленных данных не указана.

Sahajtomar/french_semantic — модель на базе Sentence Transformers для оценки семантического сходства предложений на французском языке. В карточке приведены результаты на французских наборах STS: 87,4% на dev и 85,8% на test. Метаданные указывают на поддержку эмбеддингов и формат PyTorch. Модель подходит для сравнения французских предложений, поиска семантически близких формулировок и ранжирования текстов по сходству. Размер, длина контекста и лицензия в доступных материалах не указаны.

Gemma 2B IT — компактная инструкционная языковая модель Google из семейства Gemma, созданного с использованием исследований и технологий, применявшихся при разработке Gemini. Это текстовая авторегрессионная модель с архитектурой decoder-only; версия IT настроена на выполнение инструкций и диалог. Веса открыты, модель доступна в формате Safetensors и GGUF и запускается через Transformers. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и диалоговых приложений. Небольшой размер упрощает развёртывание на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. В карточке семейства заявлена поддержка английского языка; конкретный размер контекста не указан в предоставленных данных. К ограничениям относятся возможные фактические ошибки, устаревшие сведения, смещения в ответах и трудности со сложными задачами, нюансами языка и сарказмом. Модель не является базой знаний; для пользовательских приложений рекомендуется проверять ответы и применять меры безопасности. Использование регулируется лицензией Gemma.

GoGPT2-13B — 13-миллиардная плотная языковая модель семейства Llama, основанная на Llama 2 и представленная разработчиком Golaxy. Она предназначена для генерации текста на китайском и английском языках: ответов на вопросы, написания и редактирования текстов, объяснения понятий и создания кода. Архитектура — LlamaForCausalLM; модель рассчитана на контекст до 4096 токенов и доступна в формате PyTorch. В примерах карточки показаны ответы на общие вопросы, создание рецензий и реализация алгоритма. Модель дообучена на китайском наборе Alpaca-GPT4; лицензия — Apache-2.0. Карточка также говорит о версиях GoGPT на 7B и 13B параметров, но не приводит подробностей их сравнительной производительности.

Hercules-5.0-Qwen2-7B-GGUF — это GGUF-квантизированная версия языковой модели Locutusque/Hercules-5.0-Qwen2-7B, подготовленная пользователем bartowski с использованием llama.cpp и калибровочного набора данных imatrix. Модель предназначена для генерации текста и локального запуска в совместимых приложениях на базе llama.cpp и других инструментов, поддерживающих формат GGUF. В README указан шаблон диалога с системными и пользовательскими сообщениями в формате ChatML. Модель относится к семейству Qwen2 и имеет размер 7B параметров; она работает с текстовой модальностью. Доступны варианты от F32 до низкобитных Q2–Q8, включая Q4_K_M как компромисс между размером и качеством, а также варианты Q5 и Q6 с более высоким качеством. Квантизация позволяет снизить требования к памяти, но по сравнению с полной точностью может ухудшать качество, особенно в младших вариантах. Языки, размер контекстного окна, результаты оценивания и специализированные сценарии применения в README не указаны. Распространение заявлено по лицензии Apache-2.0.

DevQuasar/huihui-ai.GLM-4-32B-0414-abliterated-GGUF — это квантованная версия модели huihui-ai/GLM-4-32B-0414-abliterated, опубликованная проектом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется локальный запуск квантованной языковой модели. Из README известно, что исходная модель относится к семейству GLM-4 и имеет размер 32B параметров. Формат GGUF указывает на подготовку к использованию в совместимых средах локального инференса, однако конкретный тип квантования, требования к памяти, размер контекста, поддерживаемые языки и модальности в предоставленных данных не указаны. Также отсутствуют сведения о результатах тестирования, сильных сторонах и ограничениях модели. Лицензия и точные условия использования в README не указаны; перед применением необходимо проверить их для исходной и квантованной моделей.

Huihui-Qwen3.8-27B-abliterated-NVFP8 — это квантованная версия Huihui-Qwen3.8-27B-abliterated, опубликованная trailio и происходящая от Qwen/Qwen3.8-27B от Qwen. Модель предназначена для генерации текста и обработки изображений с текстом; в метаданных указана модальность image-text-to-text. Языки явно не перечислены. Базовая модель имеет 27,78 млрд параметров, из которых 24,33 млрд подвергнуты квантованию, а визуальная часть с ViT из 27 блоков и merger оставлена в BF16. В README не указано точное максимальное окно контекста; пример запуска использует 8192 токена. Основная особенность — weight-only-квантование W8A16 в нестандартный формат NVFP8: FP8 E4M3 с блочными масштабами размера 16 и двухуровневым масштабированием. Размер весов сокращён с 55,6 до 32,8 ГБ, относительная ошибка квантования указана на уровне 0,0252. Активации остаются в BF16, а Triton-ядро демонстрирует ошибку не более 3,7×10⁻³ относительно FP32-эталона. Квантование выполняется без калибровочного набора данных. Модель подходит для локального инференса в vLLM при ограниченных ресурсах видеопамяти, однако стандартный vLLM этот формат не загружает: необходимо скачать репозиторий локально и установить поставляемый пакет через pip. Требуются GPU с архитектурой sm_89 или новее и около 35 ГБ VRAM во время работы без учёта KV-кэша; заявлена проверка на RTX PRO 6000 Blackwell с vLLM 0.27.1. На CUDA младше 12.9 возможны проблемы FlashInfer. Производитель отмечает, что abliteration удаляет поведение отказа, поэтому к модели применимы оговорки о сниженной фильтрации базовой модели. Лицензия — Apache 2.0.

ibm-granite_granite-4.1-30b-GGUF — это набор GGUF-квантизаций языковой модели Granite 4.1 30B, разработанной IBM и опубликованной как ibm-granite/granite-4.1-30b. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix, предназначены для локального запуска и генерации текста. Модель рассчитана на задачи text-generation и может использоваться через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Доступны варианты от BF16 до низкобитных Q3 и IQ3, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Размер файлов варьируется примерно от 12,78 до 57,74 ГБ; наиболее качественные варианты Q6_K_L и Q6_K имеют размер около 24 ГБ, а Q4_K_M предлагается как сбалансированный вариант. Сильной стороной набора является широкий выбор квантизаций, включая варианты, оптимизированные для различных сценариев и архитектур CPU, а также сохранение высокого качества у старших форматов. Ограничения включают значительные требования к оперативной или видеопамяти для 30-миллиардной модели, снижение качества у младших квантизаций и необходимость поддержки Granite 4.1 используемым программным обеспечением. В README не указаны языки, размер контекста, архитектурные детали и мультимодальные возможности, поэтому эти характеристики нельзя достоверно определить по представленным данным. Модель распространяется по лицензии Apache-2.0.

IndicWav2Vec-Hindi — модель распознавания речи на основе архитектуры Wav2Vec2, разработанная AI4Bharat. Она предназначена для преобразования аудиоречи на хинди в текст и подходит для сценариев автоматической транскрибации. Модель обучена в fairseq и перенесена в формат Hugging Face; репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Модель распознаёт речь на хинди. Для неё отмечено ограничение: вывод при инференсе с языковой моделью не поддерживается, что может ограничивать улучшение транскрипции с помощью языкового декодирования.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2-GGUF — это квантизированная версия инструкционной языковой модели MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2, разработанная и опубликованная MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Для взаимодействия используется шаблон ChatML. Модель представлена в формате GGUF и доступна в вариантах квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. В названии указано 8B, то есть модель относится к классу примерно 8-миллиардных параметров; базовая архитектура связана с семейством Llama 3. README не содержит точных сведений о поддерживаемых языках, размере контекста, результатах тестирования или ограничениях качества. Сильная сторона модели — возможность локального использования с GPU-ускорением через llama.cpp, llama-cpp-python, LM Studio и другие совместимые инструменты. Лицензия в представленном README не указана, поэтому условия распространения и коммерческого использования необходимо уточнять в материалах исходной модели и репозитория.

Mistral-7B-Holodeck-1-Instruct-32k — текстовая генеративная модель, созданная mpasila слиянием моделей через mergekit по методу DARE TIES. В основу взята alpindale/Mistral-7B-v0.2-hf, а в слияние также вошли mistralai/Mistral-7B-Instruct-v0.2 и KoboldAI/Mistral-7B-Holodeck-1. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов, что подходит для работы с длинными запросами и документами. В репозитории указаны веса safetensors и библиотека Transformers. README и метаданные не сообщают о поддерживаемых языках, специальных областях применения или измеренных качествах модели. Лицензия в предоставленных данных не указана.

Nanbeige4-3B-Thinking-2511 — англо-китайская языковая модель Nanbeige, дообученная на базе Nanbeige/Nanbeige4-3B-Base с применением дистилляции знаний и целевой оптимизации с подкреплением. Она предназначена для генерации текста с рассуждениями, диалогов и выполнения запросов к функциям; в карточке отмечены возможности чата и интерфейс вызова инструментов. Модель использует плотную архитектуру LlamaForCausalLM и содержит 3,5 млрд параметров. Контекст — до 65 536 токенов. Разработчики сообщают о результатах в задачах математического и научного рассуждения, вызова функций и творческого письма. Модель доступна в формате Safetensors по лицензии Apache-2.0. Как компактная вероятностная модель, она может выдавать неожиданные ответы, в том числе содержащие предвзятость или дискриминационные формулировки. Результаты следует проверять, особенно при использовании вызова функций и в сценариях с важными последствиями.

Это набор GGUF-квантизаций языковой модели OpenReasoning-Nemotron-32B, разработанной NVIDIA и преобразованной пользователем bartowski для запуска в llama.cpp и совместимых приложениях. Модель предназначена для генерации текста и локального использования в средах вроде LM Studio, а также в других проектах на базе llama.cpp. В README указано, что исходная модель имеет размер 32B параметров; сведения об архитектуре, языках, мультимодальности и размере контекста не приведены. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 14,39 до 65,54 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев, а Q6_K и Q6_K_L — как варианты очень высокого качества. Квантизации выполнены с использованием imatrix и llama.cpp версии b5934. Сильной стороной модели является возможность локального запуска с выбором компромисса между качеством и требованиями к памяти, включая варианты для ограниченных ресурсов и оптимизации для некоторых CPU-платформ. Ограничения включают значительный объём памяти, необходимый для 32B-модели, а также потенциальное снижение качества у низкобитных вариантов. Лицензия в предоставленном README не указана.

Openchat-Passthrough-2 — объединённая языковая модель, созданная с помощью mergekit из openchat/openchat-3.5-1210 и openchat/openchat-3.5-0106. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 10,6 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Она принимает текстовые запросы и выдаёт текстовые ответы; заявленная длина контекста составляет 8192 токена. Веса опубликованы в формате safetensors, конфигурация слияния использует bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированных областях применения или об отдельных оценках качества этой версии.

bartowski/open-thoughts_OpenThinker-32B-GGUF — набор GGUF-квантизаций модели OpenThinker-32B, разработанной проектом open-thoughts. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; исходная модель обучена на датасете open-thoughts/open-thoughts-114k. Модель относится к генеративным текстовым моделям и предназначена для запуска локально через llama.cpp, LM Studio и совместимые проекты. Варианты доступны в форматах от F16 до Q3 и IQ3/IQ4 с размерами примерно от 13,71 до 65,54 ГБ. Более крупные варианты обеспечивают более высокое качество, тогда как варианты с меньшей разрядностью требуют меньше оперативной памяти, но могут заметно уступать по качеству. В README не указаны архитектура исходной модели, поддерживаемые языки, размер контекста и мультимодальные возможности. Для работы следует использовать шаблон сообщений с маркерами <|im_start|> и <|im_end|>. Модель распространяется по лицензии Apache-2.0. Ограничения включают высокие требования к памяти для полноразмерных и качественных квантованных вариантов, а также возможное снижение качества при использовании низкоразрядных форматов.

sahilchachra/orcarouter-Qwen3.8-27B-Uncensored-MXFP8 — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, созданная пользователем sahilchachra с использованием MLX. Модель основана на Qwen3.8-27B и предназначена для задач генерации текста и обработки изображений с формированием текстовых ответов. Она поддерживает запуск на компьютерах Apple Silicon через mlx-vlm и совместима с LM Studio. Модель относится к vision-language моделям архитектуры qwen3_5. Текстовый блок содержит 64 слоя и сочетает линейное внимание GatedDeltaNet с полноразмерным вниманием, используемым в каждом четвёртом слое; визуальная часть построена на Qwen3-VL. Текстовая часть квантизирована в формате MXFP8 с эффективными 8,381 битами на вес и группами размера 32, тогда как vision tower сохранён в формате bf16. Размер файлов модели составляет около 27 ГБ в 26 сегментах, поэтому для запуска рекомендуется Mac минимум с 32 ГБ оперативной памяти. Это reasoning-модель, которая перед финальным ответом генерирует канал рассуждений. Версия MXFP8 структурно проверена, однако полная генерация токен за токеном на машине с 24 ГБ памяти не тестировалась. В модели отсутствует MTP head, поэтому недоступно speculative decoding; остальные текстовые и визуальные возможности не затронуты. Модель является намеренно uncensored/abliterated-производной и может не отказывать в запросах, которые могла бы отклонить исходная модель, поэтому требует ответственного использования. Распространяется по лицензии Apache-2.0.