I.6Перевод и языковая адаптация

RWKV7-G1j-7.2B-GGUF — базовая языковая модель семейства RWKV-7 «Goose», разработанная на основе чекпойнта BlinkDL/rwkv7-g1 и опубликованная в формате GGUF для локального запуска через Ollama и llama.cpp. Модель предназначена для генерации текста и поддерживает сценарии локального использования, включая работу через conversational-интерфейс, однако не является safety-aligned и instruction-tuned ассистентом, поэтому может непоследовательно выполнять инструкции. Архитектура RWKV-7 не использует attention и применяет рекуррентное состояние фиксированного размера вместо KV-кэша, растущего вместе с длиной последовательности. Это обеспечивает постоянный объём состояния и постоянную вычислительную нагрузку на каждый генерируемый токен, сохраняя возможность параллельного обучения. Размер модели — 7,2 млрд параметров; доступна в вариантах квантования Q4_K_M, Q5_K_M, Q6_K, Q8_0 и FP16. Указан контекст до 16 384 токенов. Модель ориентирована на английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки. Сильные стороны модели — рекуррентная архитектура без растущего KV-кэша, поддержка локального инференса и несколько вариантов компромисса между качеством, размером и требованиями к памяти. К ограничениям относятся отсутствие дообучения для надёжного следования инструкциям и снижение качества при использовании более агрессивного квантования. Репозиторий распространяется по лицензии Apache License 2.0.

SauerkrautLM SOLAR Instruct — языковая модель для генерации текста в формате GGUF, созданная VAGO solutions на базе архитектуры SOLAR и дообученная с применением DPO на датасете argilla/distilabel-math-preference-dpo. Версия TheBloke/SauerkrautLM-SOLAR-Instruct-GGUF представляет квантизированные файлы модели для локального запуска. Модель предназначена для инструкционного взаимодействия и текстовой генерации, включая диалоговые сценарии, ответы на запросы и задачи на английском и немецком языках. Поддерживает запуск через llama.cpp и совместимые пользовательские интерфейсы и библиотеки, в том числе text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В README указан шаблон промпта с ролями User и Assistant. Модель относится к текстовым, мультимодальность не заявлена; размер, максимальная длина контекста и точные параметры архитектуры не указаны. Ключевая особенность этой версии — квантизация в формате GGUFv2 с вариантами от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации, включая запуск на CPU и GPU. Ограничения связаны с потерями качества, возможными при квантизации, а также с тем, что заявлены только английский и немецкий языки. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.

Sinythos 5.5 Mini — это компактная разговорная модель на основе Qwen3-1.7B, подготовленная HTPQoo для запуска локально и офлайн, в том числе на телефоне. Репозиторий содержит файл GGUF размером около 709 МБ; шаблон чата встроен в файл, а модель рассчитана на работу через LM Studio и совместимые среды llama.cpp. Модель генерирует ответы в диалоге, выполняет инструкции, рассуждает перед ответом и поддерживает многоязычное общение. В README отмечены удачные сценарии: прямые вопросы, переформулирование, извлечение сведений из текста и короткие скрипты. Указаны настройки генерации temperature 0,6, top-p 0,95 и top-k 20; для режима рассуждений требуется достаточно высокий лимит токенов. Это компактная версия с 1,7 млрд параметров, поэтому она слабее крупной Sinythos 5.5 в сложном программировании, специализированных знаниях и работе с длинными текстами. По данным README, все 310 тензоров совпадают побайтно с базовой квантованной Qwen3-1.7B: обучение и дистилляция не выполнялись, изменены только метаданные. Веса распространяются по Apache-2.0; для runtime указана лицензия MIT.

Baekpica/Solar-Open2-120B-A15B-REAM-148E-BF16-v2 — диалоговая языковая модель Baekpica, производная от Solar Open 2 от Upstage. Это вариант чекпойнта после supervised healing: обученные адаптеры объединены с весами, поэтому при запуске отдельно подключать PEFT-адаптер не требуется. Архитектура включает 48 слоёв и MoE-экспертов; в README указано около 120,4 млрд параметров всего и 14,7 млрд активных на токен. Используются веса BF16 в формате safetensors, библиотека Transformers; заявленный контекст — 1 048 576 токенов, но на такой длине модель не проверялась. Модель предназначена для диалоговой генерации текста. Дообучение направлено на исправление повторов и незавершённых ответов, возникших после объединения экспертов; в примере README показано улучшение вычитки корейского текста. Карточка указывает английский, корейский и японский языки. Downstream-бенчмарки не проводились, а потерянные при объединении экспертные знания восстановлены не полностью. Обучающие последовательности ограничивались 4 096 и 16 384 токенами, поэтому заявленная длина контекста не подтверждена оценкой. Модель распространяется по лицензии Upstage Solar License.

Suzume ORPO Borda Full — многоязычная чат-модель, разработанная Peter Devine (ptrdvn). Это плотная авторегрессионная модель семейства Llama 3 примерно с 7,5 млрд параметров и контекстом 8192 токена, дообученная методом ORPO на модели lightblue/suzume-llama-3-8B-multilingual. Для обучения использовался датасет lightblue/mitsu_full_borda: ответы для промптов выбирались по верхним и нижним позициям в рейтинге Borda. Модель предназначена для диалога и генерации ответов на нескольких языках. В опубликованном сравнении MT-Bench авторы отмечают улучшение относительно базовой модели на большинстве оценивавшихся языков; доступная часть таблицы включает китайский, английский и французский. Модель распространяется в формате Safetensors. Лицензия CC BY-NC 4.0 запрещает коммерческое использование; авторы связывают это ограничение с применением Command R и Command R+ для генерации обучающих данных.

GodsonNtungi/Swahili-Instruct-V2-3 — чат-модель семейства Mistral, разработанная GodsonNtungi и дообученная на основе GodsonNtungi/Swahili-Mistral-v2-4b4-bit с использованием Unsloth и TRL. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на запросы и ведения беседы. В метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса PyTorch; модель распространяется по лицензии Apache-2.0. Карточка не описывает специальные ограничения качества или конкретные сценарии, поэтому её пригодность для суахили и других языков следует оценивать на собственных примерах.

Gemma-3-R1-4B-v1-GGUF — это набор квантизированных версий языковой модели TheDrummer/Gemma-3-R1-4B-v1, подготовленный пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты с разной степенью квантизации: от полноразмерных BF16-весов объёмом около 7,77 ГБ до компактных версий Q2 и IQ3 объёмом менее 2 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ, что позволяет выбирать между качеством ответов, потреблением памяти и скоростью работы. Для квантизации применялась методика imatrix с калибровочными наборами данных; для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K или сопоставимые версии. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках, мультимодальности, исходных возможностях базовой модели или лицензии. Также не указан формат промпта, поэтому его следует уточнять на странице оригинальной модели. Более сильные варианты требуют больше оперативной памяти, а низкобитные версии экономичнее, но заметнее теряют в качестве.

QuantFactory/Unichat-llama3-Chinese-8B-GGUF — это квантизированная версия модели UnicomLLM/Unichat-llama3-Chinese-8B, разработанной Центром инноваций в области ИИ China Unicom. Модель создана на базе Meta-Llama-3-8B и дообучена с использованием китайских инструкционных данных; её основное назначение — генерация текста и ответы на вопросы, особенно на китайском языке. Модель поддерживает английский и китайский языки, относится к классу text-generation и сохраняет исходный контекст длиной 8K токенов. Инструкционные данные охватывают различные области и отрасли и прошли ручной отбор. Квантизированный формат GGUF может быть удобен для локального запуска, однако README не содержит сведений о конкретном методе квантизации, требованиях к ресурсам или точных показателях производительности. Сильной стороной модели является специализация на китайских вопросах и ответах при сохранении возможностей базовой Llama 3. Ограничениями являются контекст 8K, отсутствие заявленной поддержки версии на 64K в текущем описании и нехватка подробных данных о качестве на разных задачах. Модель распространяется по лицензии Apache-2.0.

Talha/URDU-ASR — дообученная модель распознавания речи на базе facebook/wav2vec2-large-xlsr-53. Она использует архитектуру Wav2Vec2ForCTC и предназначена для преобразования аудиозаписей на урду в текст. В README приведены результаты оценки на отложенной выборке: WER 0,2423, CER 0,0842 и loss 0,2822; автор сообщает о разбиении данных на обучающую и оценочную части в пропорции 80:20. Модель содержит около 402,7 млн параметров, распространяется в формате PyTorch и опубликована по лицензии Apache-2.0. README не называет использованный датасет и не описывает дополнительные сценарии применения; результаты оценки относятся к указанному автором разбиению данных.

wav2vec2-balti-specaugment — модель распознавания речи, разработанная автором репозитория YuvrajGujari и дообученная на базе facebook/wav2vec2-xls-r-300m на наборе данных generator. Она использует архитектуру Wav2Vec2ForCTC и содержит около 402,7 млн параметров. Модель предназначена для преобразования аудиозаписей речи в текст; название указывает на настройку для языка балти и применение SpecAugment при обучении. На оценочном наборе указаны Loss 0,2866 и WER 0,2212. Модель принимает аудио и выдаёт текст. Базовая модель мультиязычная, но конкретная поддержка языков и пределы качества этой версии в карточке подробно не описаны. Лицензия — Apache-2.0.

Hyuk разработал Hyuk/wav2vec2-korean-v2 — дообученную модель распознавания речи на архитектуре Wav2Vec2 с декодированием CTC. Модель содержит 404,1 млн параметров и предназначена для преобразования корейской речи в текст. В README приведён результат оценки: loss 0,4514 и WER 0,1679. Модель подходит для транскрибирования корейских аудиозаписей и голосового ввода. Репозиторий содержит веса PyTorch. В README не описаны обучающие данные, условия оценки и ограничения применения; лицензия в доступных сведениях не указана.

Whisper largeV2 dutch MLS — дообученная модель распознавания речи на базе openai/whisper-large-v2, созданная для транскрибирования нидерландской речи. Она обучалась 4000 шагов на обучающей части набора facebook/multilingual_librispeech Dutch и использует архитектуру WhisperForConditionalGeneration с 905,2 млн параметров. Модель принимает аудио и выдаёт текст; в тесте MLS Dutch указана WER 10,5916, тогда как zero-shot версия базовой модели показала WER 9,3. Модель подходит для транскрибирования нидерландской речи, в том числе записей для оценки на MLS Dutch. Результат тестирования показывает, что это дообучение уступило базовой модели в zero-shot режиме, поэтому для этого набора данных его преимущество не подтверждено. Модель распространяется по лицензии Apache-2.0.

Это дообученная модель OpenAI Whisper large-v3, подготовленная yuriyvnv для распознавания речи на португальском языке. Она принимает аудио и преобразует его в текст; модель реализована как WhisperForConditionalGeneration, содержит около 905,2 млн параметров и доступна в формате safetensors для использования через Transformers. Модель обучена на португалоязычной части Common Voice 17.0 и на 21 968 синтетических аудиозаписях без фильтрации качества. На тестовой выборке Common Voice указана частота ошибок слов (WER) 8,33%, а на наборе MLS — 13,43%. Такой вариант подходит для сравнения стратегий аугментации и сценариев, где важен максимальный объём синтетических данных. Включение неотфильтрованных синтетических примеров ухудшает перенос на другой набор данных по сравнению с фильтрованным вариантом; качество также может зависеть от предметной области и регионального варианта португальского. Модель распространяется по лицензии Apache-2.0.

Это дообученная модель OpenAI Whisper Medium, опубликованная dianavdavidson на Hugging Face. Она предназначена для автоматического распознавания речи и преобразования аудио в текст; название репозитория указывает на настройку для хинди. Модель построена на архитектуре WhisperForConditionalGeneration и содержит 455,8 млн параметров. В README приведены результаты оценки: loss 0,2884 и Global WER 26,1916; описание набора данных и условий оценки отсутствует. Модель распространяется в формате safetensors и использует лицензию Apache-2.0. Мультиязычная базовая модель Whisper Medium также поддерживает перевод речи, однако для этой версии в карточке подтверждено только распознавание речи. Значение WER зависит от языка и набора оценки, поэтому приведённый результат не гарантирует качество на других данных.

Это дообученная модель распознавания речи на базе openai/whisper-medium, разработанная автором репозитория dianavdavidson. Она предназначена для преобразования аудио в текст; в названии указана специализация на хинди и набор Vaani, однако README сообщает, что модель обучалась на датасете None, поэтому точный состав обучающих данных не подтверждён. Модель содержит 455,8 млн параметров, использует архитектуру Whisper и формат safetensors; библиотека для работы — Transformers. В README приведены результаты оценки: loss 0,4456 и Global WER 23,25. Описание сценариев применения, подробности обучающих данных и ограничения автором не раскрыты. Лицензия — Apache-2.0.

AllehellA/whisper-small-nigerian-en — дообученная модель распознавания речи на базе OpenAI Whisper Small. Она предназначена для транскрибирования аудио с нигерийским вариантом английского языка. Модель построена на архитектуре Whisper, содержит 153,1 млн параметров и доступна в формате Safetensors для библиотеки Transformers. В README приведены результаты оценки: WER 8,2943 и нормализованный WER 5,2181. Датасет обучения не назван, поэтому эти значения не позволяют судить о качестве на других выборках и условиях записи. Модель распространяется по лицензии Apache-2.0.

AIFT-Yi-Ko-6B-ao-instruct-all-v0.54 — дообученная модель DooDooHyun на базе beomi/Yi-Ko-6B. Это плотная авторегрессионная модель семейства Llama с 5,9 млрд параметров для генерации текста; файлы весов представлены в формате safetensors. Базовая модель ориентирована на корейский и английский языки и имеет расширенный корейский словарь. Контекст модели составляет 2048 токенов. Модель предназначена для генерации текста и инструктивных диалогов. Данные обучения и результаты оценки не описаны, поэтому качество и специализацию версии нельзя установить. Лицензия указана как other, без дополнительных условий в доступных сведениях.

Anshu-AI V5 — диалоговая языковая модель RORVEX, дообученная на базе Qwen2.5-1.5B-Instruct. Она предназначена для разговоров на хинди, английском и Hinglish — смешении хинди и английского — и генерации ответов в формате чат-ассистента. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и принимает текст с контекстом до 32 768 токенов. Доступна в формате safetensors и рассчитана на работу с Transformers. Указана лицензия Apache-2.0.

Bielik-11B-v3-Base-20250730 — базовая генеративная языковая модель с 11 млрд параметров, разработанная проектом SpeakLeash совместно с вычислительным центром ACK Cyfronet AGH. Это причинная модель с архитектурой decoder-only, инициализированная из Mistral-7B-v0.2 и дополнительно предварительно обученная на польских текстовых корпусах SpeakLeash и части CommonCrawl. Модель предназначена для дальнейшей тонкой настройки под конкретные сценарии. Она рассчитана на 32 европейских языка и оптимизирована для польского; может служить основой для создания систем генерации текста и диалоговых приложений после адаптации. Репозиторий использует библиотеку Transformers и формат safetensors. Модель распространяется по лицензии Apache 2.0 и условиям использования. Поскольку это базовая модель, её поведение в прикладных задачах зависит от последующей настройки; карточка не приводит сведений о длине контекста.

rinna/bilingual-gpt-neox-4b-8k — двуязычная авторегрессионная языковая модель на архитектуре GPT-NeoX, разработанная Rinna и обученная на коде EleutherAI/gpt-neox. Это дообученная версия rinna/bilingual-gpt-neox-4b: авторы расширили контекст с 2048 до 8192 токенов с помощью интерполяции позиционных RoPE-встраиваний и дообучили модель на 1,5 млрд токенов длинных последовательностей. README указывает 3,8 млрд параметров, метаданные — 4,8 млрд; в каталоге размер модели указан как 4,8 млрд параметров. Модель предназначена для генерации текста на японском и английском языках, в том числе продолжения длинных текстов. Архитектура — плотный трансформер из 36 слоёв с размерностью скрытого состояния 2816. В качестве данных для дообучения использовались японские CC-100 и C4, The Pile, RedPajama и Wikipedia. Для корректной работы требуется Transformers версии 4.31.0 или новее; авторы рекомендуют подбирать параметры декодирования под задачу, а для токенизатора SentencePiece использовать use_fast=False. Модель распространяется по лицензии MIT. Метаданные каталога указывают нативный контекст в 2048 токенов, тогда как README сообщает о расширении до 8192 токенов; это расхождение следует учитывать при настройке контекста.

Defne_llama3_2x8B — диалоговая модель Eurdem, созданная как объединение двух моделей Llama 3 8B в архитектуре Mixture of Experts (MoE). Она предназначена для генерации ответов в формате дружелюбного чат-бота; в README приведён пример решения математической задачи, а также показано переключение системного промпта для турецкого языка. Модель использует архитектуру MixtralForCausalLM, содержит 7,5 млрд параметров и принимает текст, выдавая текст. Поддерживаемая длина контекста — 8192 токена; для работы указана библиотека Transformers и формат весов safetensors. Лицензия — llama3.

DoDuyTTS — многоязычная модель синтеза речи, созданная на основе k2-fsa/OmniVoice. Она поддерживает более 600 языков, синтез речи по тексту в режиме zero-shot, клонирование голоса и создание голосового образа. Архитектура основана на диффузионной языковой модели; веса опубликованы в формате Safetensors, а для работы предназначен пакет doduytts. Модель рассчитана на озвучивание текста, создание речи заданным голосом и потоковый синтез в серверных сценариях. В README заявлена скорость инференса до RTF 0,025 на GPU; пакет также включает сервер с потоковой обработкой предложений и динамическим микробатчингом. Репозиторий указывает лицензию Apache-2.0. Клонировать голос можно только при наличии разрешения: README запрещает несанкционированную имитацию голоса и незаконное или неэтичное использование.

stephenlzc/dolphin-llama3-zh-cn-uncensored — дообученная языковая модель, разработанная на основе cognitivecomputations/dolphin-2.9-llama3-8b. Автор указывает, что это его первый пример тонкой настройки. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с китайским языком; в карточке также приведены примеры классификации тональности, разрешения кореференции, логических задач и понимания прочитанного. В качестве обучающих данных использованы Minami-su/toxic-sft-zh, llm-wizard/alpaca-gpt4-data-zh и stephenlzc/stf-alpaca. Заявлены китайский и английский языки. Архитектура и размер унаследованы от базовой модели Llama 3 с 8 млрд параметров, однако точные характеристики контекста и модальностей в карточке не указаны; модель относится к текстовым и не поддерживает заявленные мультимодальные входы. Среди сильных сторон — ориентированность на китайский язык и широкий набор текстовых задач. Ограничения качества, результаты оценки и подробности обучения не приведены. Модель распространяется по лицензии MIT.

Cedille/fr-boris — авторегрессионная языковая модель Cedille AI на 6 млрд параметров с архитектурой GPT-J. Модель обучена на примерно 78 млрд токенов французского текста из датасета C4; обучение начиналось с GPT-J, предварительно обученной на The Pile. Используется исходный токенизатор GPT-2. Модель предназначена для генерации текста, прежде всего на французском языке, и сохраняет хорошие возможности для английского. Контекст составляет 2048 токенов. Запуск в производственной среде может быть затратным из-за размера модели. Лицензия — MIT.

freewheelin/free-solar-instrunction-v0.3 — языковая модель генерации текста, созданная на основе davidkim205/komt-solar-10.7b-sft-v5. Модель дообучена с помощью TRL Trainer по методу обучения, описанному в статье SOLAR. Она предназначена для генерации текста; заявленные языки — корейский и английский. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 10,7 млрд параметров и поддерживает контекст до 4096 токенов. Модель распространяется в формате safetensors по лицензии MIT. README не приводит оценок качества или подробных сценариев применения, поэтому пригодность для конкретных задач следует проверять отдельно.

G9v3-3B-i1-GGUF — набор квантованных файлов модели G9v3-3B, разработанной ai9stars и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, задач с длинным контекстом и сценариев с вызовом инструментов. Заявлены поддержка английского и китайского языков, а также совместимость с экосистемой Transformers и llama-подобной архитектурой; точная архитектура и размер контекста в README не раскрыты. Базовый размер модели — 3B параметров. Репозиторий содержит множество вариантов квантования, включая IQ- и Q-серии, с размером файлов примерно от 0,9 до 2,6 ГБ. Варианты различаются балансом между размером, скоростью и качеством: README рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описывает как оптимальный по соотношению размера, скорости и качества. Более агрессивные варианты квантования экономят память, но могут заметно снижать качество; для части низкокачественных вариантов это отмечено прямо. Доступны также imatrix-файлы для самостоятельного создания квантов. Модель ориентирована на локальный запуск при ограниченных ресурсах, однако конкретные требования к оборудованию, показатели качества, поддерживаемые шаблоны диалогов и детальные возможности tool-calling не указаны. Лицензия базовой модели — Apache-2.0.

gpt-alpha-bg-14m-onnx — небольшая языковая модель на 13,77 млн параметров, созданная glassbox с нуля для генерации болгарского текста и оценки его естественности. Она обучена на смешанном болгарском корпусе объёмом около 300 млн токенов и экспортирована в ONNX; динамическая квантизация int8 уменьшает размер графа до 17,3 МБ. Модель можно запускать локально в браузере через onnxruntime-web или использовать из Python с onnxruntime и tokenizers. Архитектура включает 6 слоёв, 6 голов внимания, размерность эмбеддингов 384 и контекст до 256 токенов; используются RoPE, RMSNorm, SwiGLU и связанные веса эмбеддингов. Модель подходит для генерации текста в заданном стиле и для сравнения кандидатов по языковой беглости, например при фильтрации результатов OCR, распознавания речи или машинного перевода. Модель не предназначена для извлечения фактов или следования инструкциям: её ответы могут быть грамматически правильными, но неверными, а контекст ограничен 256 токенами. На тестах знаний она не показывает надёжного результата; также она не является детектором транслитерации или бессмыслицы. Поддерживается только болгарский язык. Лицензия — MIT.

Granite-4.2-3B-FP8 — это FP8-квантизированная версия языковой модели Granite-4.2-3B, разработанная IBM и опубликованная в репозитории ibm-granite/granite-4.2-3b-fp8. Модель предназначена для задач обработки естественного языка; конкретные сценарии применения, поддерживаемые языки, архитектура, размер контекста и модальности в представленном README не описаны. Ключевая известная характеристика модели — использование формата FP8, что может быть ориентировано на более эффективное хранение и выполнение по сравнению с полной точностью, однако подробности о требованиях к оборудованию и фактических преимуществах не приведены. Ограничения и результаты тестирования также не указаны. Модель распространяется по лицензии Apache-2.0; за дополнительными сведениями README направляет к карточке исходной модели Granite-4.2-3B.

Huihui-MiniCPM5-2B-abliterated-i1-GGUF — это GGUF-квантизированная версия языковой модели Huihui-MiniCPM5-2B-abliterated, разработанной Huihui AI и подготовленной для квантования пользователем mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, работы с длинным контекстом, вызова инструментов и локального запуска на устройствах с ограниченными ресурсами. В README заявлена поддержка английского и китайского языков. Модель относится к семейству MiniCPM и имеет около 2 млрд параметров. Она поставляется в нескольких вариантах квантования GGUF с размером файлов примерно от 0,8 до 2,2 ГБ, включая IQ-, Q2-, Q3-, Q4-, Q5- и Q6-варианты. Более компактные варианты требуют меньше памяти, но могут заметно уступать в качестве; в README вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Точный размер контекста, архитектурные детали и результаты бенчмарков не указаны. К сильным сторонам относятся небольшой размер, возможность локального и on-device использования, поддержка английского и китайского языков, а также заявленные возможности работы с длинным контекстом и tool calling. Ограничения связаны с малым числом параметров, потерей качества при агрессивном квантовании и отсутствием в README подробных оценок качества. Модель помечена как abliterated и uncensored, однако характеристики безопасности и поведения дополнительно не описаны. Распространяется по лицензии Apache-2.0.

Это версия модели JOSIE-2-9B-OSS, преобразованная в формат MLX для запуска с библиотекой mlx-lm на устройствах Apple Silicon. В метаданных указана архитектура Qwen3.5 с плотной моделью и классом Qwen3_5ForConditionalGeneration; модель предназначена для генерации текста и диалогового взаимодействия. README сообщает о конверсии из Goekdeniz-Guelmez/JOSIE-2-9B-OSS с помощью mlx-lm версии 0.31.2. Модель поддерживает английский, арабский, китайский, японский и португальский языки. Репозиторий содержит веса Safetensors и распространяется по лицензии MIT. Данные карточки не описывают размер модели или длину контекста; ограничения качества и поведения отдельно не приведены.