I.6Перевод и языковая адаптация

Карточка модели migtissera/Tess-2.0-Mixtral-8x7B на Hugging Face совпадает с карточкой migtissera/Tess-2.0-Mixtral-8x7B-v0.2, поэтому описание составлено по ней. Tess-2.0-Mixtral — языковая модель общего назначения из серии Tess, разработанной migtissera. Она обучена на базе mistralai/Mixtral-8x7B-v0.1 и использует архитектуру MixtralForCausalLM с разреженной архитектурой MoE. Модель предназначена для генерации текста и диалогов; формат запросов включает роли SYSTEM, USER и ASSISTANT. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors, лицензия — Apache-2.0. В карточке указано, что модель uncensored; она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент, поэтому результаты следует проверять.

Unlimited-OCR BF16 MLX — конвертированная для MLX версия модели Baidu Unlimited-OCR, опубликованная emee-ai. Она предназначена для распознавания текста и разбора документов по изображениям; пример в карточке показывает обработку изображения с запросом на разбор документа. Модель использует архитектуру DeepSeekOCR с компонентами SAM, CLIP-L и DeepSeekV2 OCR; объём параметров — 559,7 млн, контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors, размещённые в MLX-layout, и использует реализацию deepseekocr из mlx-vlm. Модель принимает изображение и текстовый запрос, выдаёт текст. В метаданных указан мультиязычный режим, но конкретные языки не перечислены. Лицензия — MIT.

Edresson/wav2vec2-large-100k-voxpopuli-ft-Common-Voice_plus_TTS-Dataset-russian — русскоязычная модель распознавания речи на архитектуре Wav2Vec2 Large с выходной головой CTC. Её дообучили на базе Wav2Vec2 Large 100k VoxPopuli с использованием Common Voice 7.0 и M-AILABS. Модель принимает аудио и преобразует русскую речь в текст. Она подходит для автоматической транскрибации записей и голосовых данных в приложениях на базе Transformers. Размер — 402,7 млн параметров; файлы представлены в формате PyTorch. Лицензия — Apache-2.0. README отсылает за результатами к статье, поэтому численные показатели качества здесь не приводятся.

wav2vec2-xls-r-1b-scandinavian-E3-100h-30-epochs-20250123 — модель распознавания речи, дообученная на базе facebook/wav2vec2-xls-r-1b. Она использует архитектуру Wav2Vec2ForCTC и содержит 1,3 млрд параметров; модель принимает аудио и преобразует речь в текст. Карточка называет данные для дообучения неизвестным датасетом и не уточняет поддерживаемые языки, несмотря на упоминание Scandinavian в названии. На оценочном наборе указаны WER 21,6559 и CER 5,6618. Модель подходит для распознавания речи в аудиозаписях; качество для конкретных языков и условий записи следует проверять отдельно. Распространяется по лицензии Apache-2.0.

yam-jom-7B — объединённая языковая модель, созданная с помощью LazyMergekit из eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO-v2 и yam-peleg/Experiment26-7B. В конфигурации указаны метод task_arithmetic, веса 0,35 и 0,65 и формат bfloat16; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста. В карточке приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса safetensors, лицензия — Apache-2.0.

MaziyarPanahi/Yi-1.5-34B-Chat-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе чат-модели Yi-1.5-34B-Chat, разработанной командой 01-ai. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель имеет размер 34B параметров и доступна в вариантах квантования от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством генерации. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами. В README не указаны языки, размер контекста и поддерживаемые модальности; по представленным данным модель является текстовой. К сильным сторонам относятся широкий выбор уровней квантования и удобство локального использования с CPU и GPU через экосистему GGUF. Ограничениями являются повышенные требования к ресурсам для версии 34B, особенно при минимальном квантовании, а также возможная потеря качества в более компактных вариантах. Для модели указана лицензия Apache-2.0.

Tongyi-DeepResearch-30B-A3B-GGUF — это GGUF-квантизированная версия языковой модели Tongyi-DeepResearch-30B-A3B, разработанной Alibaba-NLP. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от BF16 до низкобитных IQ- и Q-квантизаций размером примерно от 14 до 61 ГБ. В названии модели указана конфигурация 30B-A3B, однако подробности архитектуры, модальностей, поддерживаемых языков и размера контекста в README не приведены. Некоторые варианты, включая Q6_K_L, Q6_K, Q5_K и Q4_K_M, обозначены как рекомендуемые; Q4_K_M описан как вариант стандартного размера для большинства сценариев. Ключевое преимущество сборки — возможность локального запуска с выбором компромисса между качеством, размером файла и требованиями к памяти. Более компактные квантизации подходят для систем с ограниченными ресурсами, но могут заметнее уступать по качеству исходным весам. Формат prompt в README не указан, поэтому его следует уточнять на странице исходной модели. Лицензия в предоставленных данных не указана.

BioPhys-13.0-Kimi-K3-DualBrain — модель генерации текста, представленная автором как нейроморфная система с архитектурой MoE и объединением Kimi-K3 и EXAONE 3.0. Карточка заявляет поддержку корейского и английского языков, контекст до 131 072 токенов и размер 36,8 млрд параметров; веса опубликованы в формате safetensors. README также описывает отдельный Rust-движок и сжатое представление весов, но эти заявления не подтверждены метаданными репозитория. Модель предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование и ответы на корейском языке. Репозиторий заявляет Apache-2.0. Описанные в README показатели производительности, сжатия и снижения галлюцинаций являются заявлениями автора; независимые подтверждения в предоставленных данных отсутствуют.

Blitz-AI-DARE-v0.1 — объединённая модель на базе Mistral, созданная DenisTheDev с помощью mergekit из mlabonne/Monarch-7B, bobofrut/ladybird-base-7B-v8 и bardsai/jaskier-7b-dpo-v5.6. Она предназначена для генерации текста и ответов на запросы в приложениях с текстовым вводом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает отдельные специализированные сценарии или дополнительные модальности.

CatMacaroni-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, полученная слиянием mistralai/Mistral-7B-Instruct-v0.2 и cookinai/CatMacaroni-Slerp методом SLERP. Репозиторий указывает архитектуру MistralForCausalLM с плотной сетью на 7,1 млрд параметров; веса представлены в safetensors. Модель предназначена для генерации текста и ответов на инструкции в формате диалога, включая чат-сценарии. Модель принимает текст и генерирует текст. Для базовой Mistral-7B-Instruct-v0.2 указан контекст до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит отдельных оценок качества или подробных ограничений применения.

Legion-V2.1-LLaMa-70B-Elarablated-v0.8-hf-GGUF — это квантизированная GGUF-версия языковой модели Legion-V2.1-LLaMa-70B-Elarablated-v0.8-hf, разработанной e-n-v-y и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В основе лежит модель семейства LLaMa с заявленным размером 70B параметров. Доступны варианты квантизации от Q8_0 до низкобитных Q3 и IQ3, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Рекомендуемыми указаны варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; размеры доступных файлов составляют примерно от 31,94 до 74,98 ГБ. Для работы используется форматированный шаблон промпта LLaMA 3 с системными, пользовательскими и ассистентскими сообщениями. Сильной стороной модели является возможность локального запуска и широкий выбор квантизаций, включая варианты, оптимизированные для ограниченного объёма памяти и некоторых CPU-платформ. Ограничения включают значительные требования к дисковому пространству и памяти, особенно для высококачественных вариантов; при более сильной квантизации качество снижается. Сведения о поддерживаемых языках, размере контекстного окна, мультимодальности и специализированных сценариях в README не указаны. Лицензия обозначена как llama3.3.

EtherealAurora-12B-v2 — диалоговая языковая модель, созданная yamatazen с помощью слияния предобученных моделей через SLERP в mergekit. Она использует архитектуру Mistral с плотной сетью и содержит 12,1 млрд параметров; карточка указывает формат safetensors, шаблон ChatML и контекстное окно до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов. В метаданных указаны английский и японский языки. Модель объединяет yamatazen/EtherealAurora-12B и natong19/Mistral-Nemo-Instruct-2407-abliterated. Лицензия — Apache-2.0. Карточка не приводит оценок качества или конкретных ограничений применимости, поэтому пригодность для отдельных сценариев требует проверки.

Experiment26Neuralsirkrishna_Experiment26Strangemerges_30 — объединённая автором репозитория модель на архитектуре Mistral с 7,1 млрд параметров. Веса объединены из automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment26Strangemerges_30-7B. Модель предназначена для генерации текста и диалогов. Она принимает текст и может обрабатывать контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28M7_Experiment24Inex12 — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/Experiment24Inex12-7B. Она предназначена для генерации текста и запуска сценариев на основе языковой модели. Модель содержит 7,1 млрд параметров, принимает текстовый ввод, выдаёт текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают специализированную область применения или отдельные языки, поэтому её можно характеризовать как модель общего назначения.

Experiment28Meliodas-7B — автоматически объединённая модель, созданная Maxime Labonne из yam-peleg/Experiment28-7B и AurelPx/Meliodas-7b-dare с помощью mergekit. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста составляет 32 768 токенов. Слияние выполнено методом SLERP с разными коэффициентами для слоёв self-attention и MLP. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка содержит пример загрузки через Transformers, но не описывает специальные предметные области или гарантии качества; результаты зависят от запроса и сценария использования.

QuantTrio/GLM-4.1V-9B-Thinking-AWQ — это AWQ-квантизированная версия визуально-языковой модели GLM-4.1V-9B-Thinking, разработанной ZhipuAI на базе GLM-4-9B-0414. Модель предназначена для генерации текста и решения задач, требующих совместного анализа изображений и текста, включая сложное рассуждение, понимание контекста и мультимодальные агентные сценарии. Модель содержит около 9 млрд параметров, поддерживает текстово-визуальный ввод, китайский и английский языки, контекст длиной до 64 тысяч токенов, изображения с произвольным соотношением сторон и разрешением до 4K. Версия AWQ занимает около 6,9 ГБ и ориентирована на запуск с использованием vLLM; в README указана поддержка tensor parallel size 1, 2 и 4. К сильным сторонам относятся специализированное reasoning-обучение с использованием Chain-of-Thought и высокие результаты на мультимодальных бенчмарках. Ограничения включают необходимость совместимых версий vLLM и специализированной сборки для запуска, а также отсутствие в README подробных характеристик квантирования и результатов практического тестирования. Модель распространяется по лицензии MIT.

GLM-4.5-Air-GGUF — квантованная версия модели GLM-4.5-Air, опубликованная организацией ggml-org. Исходная модель разработана zai-org. Формат GGUF предназначен для локального запуска и совместим с инструментами экосистемы llama.cpp; в карточке также указан запуск через llama.app. Модель относится к классу text-generation и предназначена для генерации текста и других сценариев работы с текстовыми запросами. В доступных данных не указаны точная архитектура, количество параметров, поддерживаемые языки, размер контекстного окна, набор модальностей и конкретные результаты тестирования, поэтому оценить её производительность и область применения более детально невозможно. Квантование может снизить требования к памяти, однако потенциально сопровождается потерей качества по сравнению с исходной моделью. Модель автоматически конвертирована с использованием инструмента ggml-org/convert. Лицензия — MIT, если условия исходной модели не устанавливают дополнительных ограничений.

mlx-community/GLM-OCR-bf16 — конвертированная в формат MLX версия мультимодальной модели GLM-OCR, подготовленная mlx-community на основе zai-org/GLM-OCR. Она предназначена для распознавания текста на изображениях и может применяться для извлечения содержимого из сканов и фотографий документов. Базовая GLM-OCR ориентирована также на распознавание формул и таблиц, разбор документов и извлечение структурированных данных. Модель использует плотную архитектуру GLM-OCR и класс GlmOcrForConditionalGeneration. В карточке указаны языки китайский, английский, французский, испанский, русский, немецкий, японский и корейский. Репозиторий содержит веса safetensors; README описывает конвертацию для MLX с помощью mlx-vlm 0.3.11. Лицензия — MIT. Модель принимает изображения и выдаёт текст. Подробности о размере и длине контекста в предоставленных данных отсутствуют. Указанная задача Hugging Face — image-to-text; характеристики сверх неё и краткого описания базовой модели относятся к исходной GLM-OCR и не раскрыты в этой карточке.

Это GGUF-представление модели openai/gpt-oss-20b, подготовленное FreedomAISVR с квантованием MXFP4_MOE для запуска через совместимые инструменты, например llama.cpp. Модель относится к семейству GPT-OSS, использует архитектуру смеси экспертов и содержит 20,91 млрд параметров; файл весов занимает 11,28 ГиБ. Веса экспертных FFN-блоков представлены в MXFP4, веса внимания — в Q8_0, а параметры маршрутизатора, нормализации и смещений — в F32. Модель предназначена для генерации текста и диалогового использования. По карточке заявлена поддержка запуска на GPU или CPU, без требования к архитектуре NVIDIA Blackwell. Квантование сокращает размер весов, но может повлиять на качество вывода относительно исходной модели. Репозиторий распространяется по лицензии Apache-2.0.

granite-4.0-h-small-MLX-8bit — 8-битная квантованная версия модели granite-4.0-h-small, разработанной командой ibm-granite. Квантование выполнено командой LM Studio с использованием mlx_lm, а сама модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации и обработки текста, однако README не содержит подробностей о конкретных сценариях применения, поддерживаемых языках, размере модели, архитектуре и длине контекста. Ключевая характеристика этой версии — 8-битное представление, которое может снизить требования к памяти и ускорить локальный запуск на совместимом оборудовании, но потенциально сопровождается некоторой потерей точности по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность или пригодность для конкретных задач; результаты могут быть ошибочными, вредными или непредсказуемыми.

Hermes-3-Llama-3.1-70B-lorablated-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Hermes-3-Llama-3.1-70B-lorablated, разработанной на базе Llama 3.1 и опубликованной mlabonne. Квантизации подготовлены пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия. Она поддерживает запуск через llama.cpp и LM Studio; в README также приведён специальный шаблон промпта с ролями system, user и assistant. Доступно множество вариантов квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размеры указанных файлов составляют примерно от 19 до 75 ГБ. Сильной стороной набора является возможность локального запуска крупной 70B-модели с разным уровнем сжатия; варианты Q6_K, Q5_K_M и некоторые Q4 рекомендуется использовать для высокого качества. Более компактные варианты требуют меньше памяти, но снижают качество генерации. В README не указаны поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики, мультимодальные возможности и лицензия, поэтому эти свойства нельзя достоверно определить по представленным данным.

Llama-Nephilim-Metamorphosis-v2-8B — объединённая языковая модель на архитектуре Llama, созданная автором репозитория с помощью mergekit. В неё с небольшим весом добавлена модель grimjim/llama-3-Nephilim-v3-8B, дообученная на основе Instruct, а основой служит Meta-Llama-3.1-8B-Instruct. После объединения дополнительное обучение не проводилось. Модель предназначена для прямого диалога и генерации текста. Она содержит около 7,5 млрд параметров, рассчитана на контекст до 131 072 токенов и сохраняет возможности обработки длинного контекста; автор сообщает о тестировании до 16 тыс. токенов. Используются архитектура Llama и формат safetensors. Карточка отмечает преимущественно сохранённое поведение безопасности. Модель принимает текст и генерирует текст. Она распространяется по лицензии llama3.1; применяйте её с соблюдением условий этой лицензии.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Experiment28 — объединённая текстовая модель семейства Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Experiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории используются веса Safetensors. Модель распространяется по лицензии Apache-2.0.

Minitron-8B-Base — базовая большая языковая модель NVIDIA, созданная из Nemotron-4 15B. Модель с архитектурой Transformer Decoder и классом NemotronForCausalLM содержит 8,7 млрд параметров; в ней применяются Grouped-Query Attention и Rotary Position Embeddings. Контекст составляет 4096 токенов, вход и выход — текст. Модель предназначена для генерации текста и исследований и разработок на её основе: она обучалась на английских и многоязычных текстах, включая код, диалоги, статьи и веб-страницы. Корпус охватывает математику, науку, финансы и право; в продолженное обучение также включили небольшую долю данных вопросно-ответного формата и для выравнивания. NVIDIA сообщает о дистилляции после структурного прореживания Nemotron-4 15B с использованием 94 млрд токенов; в README приведены результаты оценок на MMLU, HellaSwag, Winogrande, GSM8K, ARC-C, XLSum и HumanEval. Модель может генерировать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичный язык и социальные предубеждения из обучающих данных. Данные предварительного обучения имеют срез по июнь 2023 года. Лицензия указана как other; точные условия следует сверить с файлами репозитория и условиями NVIDIA. Карточка обозначает модель как предназначенную для исследований и разработки.

Mistral-22B-v0.2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Mistral-22B-v0.2, опубликованный и квантизированный bartowski на основе исходной модели Vezora/Mistral-22B-v0.2. Файлы предназначены для запуска через llama.cpp и совместимые инструменты, включая локальный запуск с использованием CPU, GPU или их комбинации. Модель рассчитана на задачи генерации текста и диалогового взаимодействия. В README указаны шаблон запроса с ролями System, Human и Assistant, а также множество вариантов квантизации от Q8_0 до IQ1_S. Размер файлов составляет примерно от 4,82 до 23,63 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше памяти. Рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS. К ключевым ограничениям относятся потери качества при использовании низкобитных вариантов, причём IQ1_M и IQ1_S прямо не рекомендуются. README не содержит сведений об архитектуре слоёв, размере контекста, поддерживаемых языках, модальностях помимо текста или результатах бенчмарков. Квантизации выполнены с использованием imatrix и датасета Kalomaze. Указана лицензия Apache-2.0.

Это текстовая базовая модель семейства Mistral, опубликованная Unsloth как производная от Mistral-Small-24B-Base-2501, разработанной командой Mistral AI. Она предназначена для генерации текста, дальнейшего дообучения и создания разговорных и агентных приложений. Модель имеет плотную архитектуру MistralForCausalLM и 23,4 млрд параметров; нативное контекстное окно составляет 32 768 токенов. Карточка указывает поддержку многих языков, включая английский, французский, немецкий, испанский, итальянский, китайский, японский, корейский, португальский, нидерландский и польский. Среди заявленных возможностей семейства — следование инструкциям, рассуждения, вызов функций и выдача JSON; этот репозиторий классифицирован для генерации текста. Веса доступны в формате safetensors, библиотека — Transformers. Лицензия Apache 2.0 разрешает использование и модификацию, в том числе в коммерческих целях. Это базовый чекпойнт, а не указанная в README instruct-версия; сведения о разговорных и агентных возможностях в карточке относятся к описываемому семейству и не гарантируют тот же уровень поведения у базовой модели без дообучения. Для запуска на GPU README указывает более 60 ГБ видеопамяти; локальный запуск на меньшем оборудовании зависит от квантизации.

NoromaidxOpenGPT4-2 — текстовая генеративная модель, созданная NeverSleep слиянием моделей Noromaid-8x7b-Instruct и Open_Gpt4_8x7B_v0.2 методом TIES. В карточке указано, что при слиянии Open_Gpt4_8x7B_v0.2 использовалась как базовая модель; в метаданных также перечислены Mixtral-8x7B-Instruct-v0.1 и Noromaid-v0.1-mixtral-8x7b-Instruct-v3 как компоненты слияния. Модель основана на архитектуре Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по инструкциям и диалоговых сценариев; README показывает шаблоны Alpaca и Mistral. Доступны веса в формате safetensors, а для использования требуется учитывать совместимую библиотеку Transformers. Лицензия — CC-BY-NC-4.0, поэтому коммерческое использование ограничено условиями лицензии. Метка NSFW в метаданных указывает на возможность взрослого контента; перед применением следует учитывать требования к модерации и аудитории.

OELLM 9B 128K theta32m v3 — базовая мультиязычная языковая модель OpenEuroLLM, созданная на основе baby_9b_dense с архитектурой Qwen3 Dense. Это версия полного обучения: контекст расширен с 4K до 128K токенов с помощью ABF и масштабирования RoPE с θ=32M; модель обучалась на 2 млрд токенов. Используйте её для генерации продолжений и извлечения сведений из длинного контекста; она не проходила инструкционную настройку и предназначена для работы как completion-модель. В тесте NIAH с одним целевым фрагментом модель показала 100% на 128K токенах в 12 европейских языках. Это результат узкого теста извлечения, поэтому он не гарантирует аналогичного качества на широком наборе задач или при поиске нескольких фрагментов. Модель использует Transformers и формат PyTorch. Лицензия — Apache-2.0.

Ornith-1.5-35B-A3B-MagicQuant-GGUF — набор GGUF-квантизаций модели Ornith-1.5-35B-A3B, подготовленный проектом MagicQuant на базе модели ornith-ai. Это мультимодальная модель для задач image-text-to-text, способная обрабатывать изображения и текст; для работы с изображениями требуется отдельный vision projector mmproj в формате GGUF. Лицензия — MIT. Модель использует архитектуру qwen3_5_moe с примерно 35 млрд параметров, из которых около 3 млрд активируются на одном токене. В ней предусмотрено 256 экспертов, из которых маршрутизируются 8, а также поддержка vision. Доступны варианты Q4_K_M-v2 размером 19,58 GiB, Q5_K_M размером 22,88 GiB и Q6_K-v2 размером 28,81 GiB; отдельный vision projector занимает 0,86 GiB. Данные о поддерживаемых языках и максимальной длине контекста в README не указаны. Q4_K_M-v2 рекомендован как наиболее сбалансированный вариант по размеру и скорости, тогда как Q5_K_M заявлен как самый быстрый декодер из трёх при наличии дополнительной памяти, а Q6_K-v2 обеспечивает наименьшее измеренное отклонение от BF16 среди проверенных вариантов. Гибридное распределение точности снижает объём передаваемых весов на шаг декодирования и улучшает скорость по сравнению со старыми версиями тех же уровней. Ограничения связаны с потерями качества, присущими квантизации, заметными требованиями к памяти и тем, что приведённые показатели измерялись на конкретной конфигурации AMD Strix Halo с Vulkan; они не гарантируют аналогичную производительность на другом оборудовании.

Ornith-1.5-9B-Uncensored-GGUF — квантованная GGUF-версия модели Ornith-1.5-9B, разработанная командой ornith-ai и подготовленная zaakirio для llama.cpp. Это текстовая сборка мультимодальной базовой модели без vision-проектора, предназначенная для генерации текста, диалогов и локального запуска через llama.cpp. Модель содержит около 9 млрд параметров и использует гибридную архитектуру Qwen3.5: 32 слоя, в которых чередуются блоки линейного внимания gated DeltaNet и полноформатное внимание в каждом четвёртом слое. Заявлен контекст до 262 тысяч токенов, однако для практического запуска размер контекста определяется параметрами llama.cpp. Доступны варианты от Q2_K до Q8_0, а также BF16; Q4_K_M указан как сбалансированный вариант по размеру и качеству. Для работы требуется очень свежая версия llama.cpp с поддержкой архитектуры qwen3_5. Сборка подвергнута abliteration с помощью Heretic: направления, связанные с отказами, были ослаблены без дообучения или переобучения модели. На тесте из 100 вредоносных запросов число keyword-маркованных отказов снизилось с 85 до 55, при KL-дивергенции 0,0017 на безвредных запросах; авторы отмечают, что этот показатель неточен и поведение модели может быть менее безопасным. Модель также может легче принимать ошибочные предпосылки, поэтому ответы требуют проверки. Распространяется по лицензии MIT, унаследованной от базовой модели.