I.6Перевод и языковая адаптация

Youri-7B-Instruct — японско-английская языковая модель с инструкционным дообучением, разработанная rinna на основе rinna/youri-7b. Она использует архитектуру Llama 2: 32 слоя, размер скрытого состояния 4096 и около 6,6 млрд параметров. Модель принимает запросы в формате Alpaca и генерирует текст; контекст составляет 4096 токенов. Модель предназначена для выполнения инструкций, диалога и ответов на вопросы на японском и английском языках. При дообучении использовались выборки Databricks Dolly, японская версия Dolly, FLAN Instruction Tuning и японский набор Izumi Lab; авторы исключили разделы с оценочными корпусами для предотвращения утечки данных. Модель выпущена в октябре 2023 года. Весовые файлы доступны в форматах PyTorch и safetensors. Лицензия — Llama 2 Community License. Карточка направляет к внешней странице с бенчмарками, поэтому конкретные численные результаты здесь не приводятся.

AfriqueGemma-4B-i1-GGUF — квантованная версия модели AfriqueGemma-4B, разработанной McGill-NLP и подготовленной в формате GGUF пользователем mradermacher. Модель основана на архитектуре Gemma 3 и предназначена для мультимодальных сценариев image-text-to-text, включая обработку текста и изображений, а также для задач генерации и понимания текста на африканских и других языках. Заявлена поддержка африкаанс, амхарского, арабского, английского, французского, хауса, игбо, малагасийского, чичева, оромо, португальского, киньяруанда, шона, сомали, сесото, суахили, тигринья, тсвана, коса, йоруба и зулу. Размер базовой модели составляет 4 млрд параметров. Контекстное окно и точные характеристики архитектуры в README не указаны. Модель доступна в нескольких вариантах квантования IQ и Q с размером файлов примерно от 1,5 до 3,8 ГБ, что позволяет запускать её на устройствах с ограниченными ресурсами. Более сильное квантование уменьшает требования к памяти, но может снижать качество; для ряда вариантов в README прямо отмечены низкое качество или предпочтительность альтернативных форматов. Для работы с изображениями могут потребоваться дополнительные файлы mmproj из статического репозитория. Лицензия модели — CC BY 4.0.

AfriqueQwen3.5-0.8B-50Langs — компактная базовая языковая модель из набора AfriqueLLM, разработанного для работы с африканскими языками. Это причинная языковая модель с архитектурой Qwen3.5 и 0,8 млрд параметров, полученная продолжением предобучения Qwen/Qwen3.5-0.8B-Base на примерно 35,5 млрд токенов многоязычных данных. Для запуска и дообучения используется библиотека Transformers. Модель адаптирована для 50 африканских языков; среди языков, указанных в карточке, — суахили, хауса, игбо, йоруба, амхарский, сомали, зулу, африкаанс, арабский, английский, французский и португальский. Она предназначена для генерации текста и диалоговых сценариев, а также ориентирована на задачи с кодом и математикой. Нативная длина контекста составляет 262 144 токена. Небольшой размер облегчает использование модели по сравнению с более крупными вариантами AfriqueLLM, но качество может уступать крупным моделям, особенно в сложных задачах. Карточка приводит оценки на многоязычных бенчмарках, однако часть сводных таблиц сокращена. Лицензия — Creative Commons Attribution 4.0 International (CC BY 4.0).

Модель maherghanem86/arabic_speech_to_text разработана и обучена инженером Махером Бассамом Ганемом для автоматического распознавания арабской речи. Это плотная модель семейства wav2vec2 с архитектурой Wav2Vec2ForCTC и примерно 402,7 млн параметров; репозиторий содержит веса PyTorch и SafeTensors. Модель предназначена для преобразования аудиозаписей на арабском языке в текст; карточка сообщает о тестировании на Common Voice 8.0 и показателе WER 22,26%.

BuzzASR/armenian — одноязычная модель автоматического распознавания армянской речи, разработанная как часть набора BuzzASR и созданная полным дообучением openai/whisper-large-v3 с заменой токенизатора на армянский и мультитасковым дообучением на текстовых данных. Она преобразует аудио в текст; языковая и задачная подсказка встроена в конфигурацию генерации. Модель содержит 907,3 млн параметров и использует архитектуру Whisper. Модель предназначена для транскрибации армянской речи. В описанных тестах FLEURS и Common Voice 25 она показала CER 3,72% и 0,65% соответственно, а на объединённом тестовом наборе — CER 2,28% и WER 7,51%; эти результаты сравниваются с нулевым запуском Whisper large-v3. Обучение использовало FLEURS, Common Voice Corpus 25.0 и текстовые данные Goldfish. Модель ограничена армянским языком; качество на других предметных областях и диалектах может отличаться от результатов тестирования. Лицензия — MIT.

Azerbaijani Whisper Small — модель распознавания речи на азербайджанском языке, созданная дообучением openai/whisper-small. Она использует архитектуру Whisper с 153,1 млн параметров и предназначена для преобразования азербайджанской речи в текст; в README приведены результаты оценки на тестовой части FLEURS Azerbaijani. Для работы требуется аудио с частотой 16 кГц и одним каналом: аудио с другой частотой дискретизации нужно предварительно пересэмплировать. Модель доступна в формате safetensors и рассчитана на использование через Transformers. Лицензия — Apache-2.0. README заявляет качество выше whisper-large-v3 при меньшем размере, однако приведённая таблица результатов неполная, поэтому это сравнение нельзя независимо проверить по карточке.

Canary 180M Flash в формате GGUF — это квантованные конверсии мультиязычной модели NVIDIA для автоматического распознавания речи и перевода в автономном режиме. Модель упакована для работы с transcribe.cpp и разработана на базе nvidia/canary-180m-flash; конверсию выполнил handy-computer. Она принимает монофонические WAV-файлы с частотой 16 кГц и преобразует речь в текст. Модель содержит 182 млн параметров и использует encoder-decoder архитектуру с 17-слойным FastConformer-энкодером и 4-слойным Transformer-декодером. Поддерживается распознавание английского, немецкого, испанского и французского языков, а также двунаправленный перевод между английским и немецким, испанским или французским. Доступны варианты F32, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером от 139 до 756 МБ. К сильным сторонам относятся автономная работа, компактный размер, высокая скорость инференса и близкое соответствие результатам эталонной реализации NeMo: для LibriSpeech test-clean заявлен WER от 1,90% до 1,94% в зависимости от квантования. Ограничения включают отсутствие потокового режима, определения языка и временных меток в текущем порте; поддерживаются только указанные четыре языка, а вход должен быть предварительно подготовлен в формате 16 кГц mono WAV. Модель распространяется по лицензии CC-BY-4.0, допускающей коммерческое использование при соблюдении условий лицензии.

Cendol LLaMA-2 13B Instruct — языковая модель IndoNLP на архитектуре LLaMA-2 с 12,9 млрд параметров, дообученная для выполнения инструкций на индонезийских языках. Модель предназначена для одношагового взаимодействия и задач, включая анализ тональности, тематическую классификацию, машинный перевод, суммаризацию, ответы на вопросы и перефразирование. Модель принимает и генерирует текст; заявленная область применения — индонезийские языки. Контекст составляет 4096 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache 2.0. Модель подходит для исследований и прикладных сценариев с индонезийским текстом, однако её проверка ограничена индонезийскими языками, а ответы могут быть неточными, предвзятыми или нежелательными. Перед развёртыванием рекомендуется проверять и настраивать безопасность для конкретного применения.

Chinese Alpaca Plus 13B — китайская диалоговая модель, созданная на основе LLaMA и выпущенная разработчиками проекта Chinese Alpaca Plus. Это плотная архитектура LLaMA с 12,9 млрд параметров и контекстом до 2048 токенов. Модель получена слиянием базовой модели decapoda-research/llama-13b-hf и двух LoRA-адаптеров: chinese-llama-plus-lora-13b и chinese-alpaca-plus-lora-13b; веса представлены в формате PyTorch для Hugging Face Transformers. Модель предназначена для генерации ответов в диалоге, знаний и ответов на вопросы, письма и перевода, в первую очередь на китайском языке. В обучающих данных расширены научные темы, включая физику, химию, биологию, медицину и науки о Земле; README также отмечает улучшение многоходовых ответов. По метаданным поддерживается генерация текста, а карточка приводит лицензию как other без уточнения дополнительных условий.

Это квантованные версии большой языковой модели Command A Plus, разработанной CohereLabs. Карточка содержит сборки в формате GGUF, подготовленные bartowski с использованием llama.cpp и метода imatrix на основе исходной модели CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста, диалоговых и чат-сценариев, а также локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель поддерживает английский, русский и широкий набор других языков, включая арабский, китайский, японский, корейский, испанский, французский, немецкий, португальский, украинский и вьетнамский. Архитектура, точное число параметров, модальности и размер контекста в README не указаны. Доступны варианты квантования от Q3 и IQ3 до Q8_0 размером примерно от 102 до 232 ГБ; более высокие уровни квантования обычно сохраняют лучшее качество, но требуют больше памяти. Сборки рассчитаны на локальный inference, однако для новых моделей может потребоваться обновление используемого ПО. Сильной стороной является большой выбор квантованных вариантов с разным компромиссом между качеством и требованиями к памяти, включая рекомендованные Q4, Q5 и Q6-сборки. Ограничения — значительный объём файлов и отсутствие в карточке подробных сведений о производительности, тестах, архитектуре и контекстном окне. Указана лицензия Apache-2.0.

Devstral-Small-2507-MLX-4bit — это 4-битная квантованная версия модели Devstral-Small-2507, разработанной Mistral AI и подготовленной командой LM Studio с использованием MLX и mlx_lm. Модель предназначена для генерации и обработки текста, а также для локального запуска на устройствах Apple с процессорами Apple Silicon. В README указано, что модель поддерживает английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский и ряд других языков. Ключевые характеристики исходной архитектуры Devstral-Small-2507, количество параметров, размер контекста и поддерживаемые модальности в предоставленных данных не указаны. Квантование до 4 бит уменьшает требования к памяти, однако может повлиять на точность по сравнению с полноразмерной версией; оптимизация ориентирована на экосистему Apple Silicon. Модель распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о конкретных сильных сторонах, ограничениях качества или рекомендуемых сценариях применения, поэтому результаты генерации следует проверять, особенно при использовании в задачах, требующих высокой точности.

QuantFactory/Dorna-Llama3-8B-Instruct-GGUF — квантизированная версия Dorna-Llama3-8B-Instruct, созданная QuantFactory с использованием llama.cpp на основе Meta Llama 3 Instruct 8B. Исходное семейство Dorna разработано Part AI и специально дообучено на персидских данных. Модель относится к авторегрессионным decoder-only языковым моделям и предназначена для генерации текста и диалогового взаимодействия. Модель ориентирована прежде всего на персоязычные сценарии, включая ответы на вопросы, длинные тексты, обобщение, перефразирование, работу с общими знаниями, новостными вопросами, математикой и генерацией кода. В карточке указаны английский и персидский языки. Размер базовой модели составляет около 8 млрд параметров; формат GGUF и квантизация рассчитаны на запуск через llama.cpp и совместимые инструменты. Размер контекстного окна и точный вариант квантизации не указаны. К сильным сторонам относятся специализация на персидском языке и пригодность для локального диалогового использования, а опубликованные оценки показывают конкурентные результаты в сравнении с Meta Llama 3 8B Instruct, GPT-3.5 Turbo и Persian Mind на ряде задач. Ограничения включают неизвестные параметры контекста и квантизации, а также возможное снижение точности по сравнению с полной версией из-за квантизации. Лицензия указана как llama3; дополнительные условия использования в README не приведены.

EuroLLM-1.7B-Instruct-mlx-4Bit — инструкционная языковая модель на базе EuroLLM-1.7B-Instruct от utter-project, конвертированная пользователем jevoma4362 в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста и диалогового использования через интерфейс mlx-lm, включая сценарии локального запуска на совместимом оборудовании Apple MLX. Модель содержит 1,7 млрд параметров и использует 4-битное представление, что уменьшает требования к памяти по сравнению с полноразмерной версией. Заявлена поддержка английского, немецкого, испанского, французского, итальянского, португальского, польского, нидерландского, турецкого, шведского, чешского, греческого, венгерского, румынского, финского, украинского, словенского, словацкого, датского, литовского, латышского, эстонского, болгарского, норвежского, каталонского, хорватского, ирландского, мальтийского, галисийского, китайского, русского, корейского, японского, арабского и хинди. Длина контекста и архитектурные детали в README не указаны. К сильным сторонам относятся компактный размер, 4-битная оптимизация и широкий набор поддерживаемых языков. Ограничения связаны с меньшим числом параметров по сравнению с крупными моделями, возможными потерями качества из-за квантования и зависимостью от экосистемы MLX. Модель распространяется по лицензии Apache-2.0.

Sunbird AI подготовила faster-whisper-51-african-languages — версию модели Sunbird/SunflowerASR-51-african-languages в формате CTranslate2 с точностью float16 для запуска через faster-whisper. Базовая модель построена на Whisper large-v3 и дообучена для распознавания речи на 51 африканском языке. Модель принимает аудио и преобразует речь в текст. Для выбора языка нужно передавать в faster-whisper соответствующий стандартный код Whisper из таблицы README; автоматическое определение языка использовать не следует. При загрузке можно выбрать другой compute_type, например int8_float16, с заявленным ориентиром около 1,6 ГБ видеопамяти. Перед применением проверьте качество на целевых языках: экстрактор признаков faster-whisper не выполняет нормализацию, используемую в эталонном конвейере Transformers, поэтому результаты WER могут отличаться. Лицензия — Apache-2.0.

Fun-ASR-Nano-2512-fp16 — версия Fun-ASR-Nano-2512, преобразованная сообществом mlx-community в формат MLX с точностью fp16 с помощью mlx-audio-plus 0.1.4. Это компактная многоязычная модель распознавания речи на архитектуре FunASR, принимающая аудио и выдающая текст. Она поддерживает более 13 языков, распознавание с пользовательским контекстом, потоковый вывод и перевод речи в английский текст. Модель подходит для транскрибации аудио и речи в реальном времени, а также для распознавания терминологии в специализированных областях с подсказками. Перевод речи в английский текст заявлен как отдельный сценарий. Полный перечень языков доступен в карточке исходной модели, но в предоставленных данных он не указан. Репозиторий содержит веса safetensors в преобразованном формате MLX; базовая модель — FunAudioLLM/Fun-ASR-Nano-2512.

GEB-1.3B — языковая модель с 1,5 млрд параметров, выпущенная пекинской компанией 北京集异璧科技有限公司. Она обучена на 550 млрд китайских и английских токенов, а затем дообучена на 10 млн инструкций и оптимизирована методом DPO для лучшего соответствия человеческим предпочтениям. Архитектура GEBLM использует позиционные кодировки RoPE, многогрупповое внимание и FlashAttention-2; длина контекста составляет 4096 токенов. Модель предназначена для диалогов и генерации текста, а также может использоваться для получения признаковых представлений текста. В README приведены результаты на тестах MMLU, C-Eval и CMMLU и примеры инференса через Transformers; авторы также сообщают о запуске на CPU и GPU. Лицензия обозначена как other, а использование весов регулируется файлом LICENSE в репозитории.

ilsp_Llama-Krikri-8B-Instruct-GGUF — это набор GGUF-квантизованных версий инструкционной языковой модели Llama-Krikri-8B-Instruct, разработанной ilsp. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговых и других сценариях, поддерживающих формат инструкций Llama 3.1, включая запуск локально через llama.cpp, LM Studio и совместимые проекты. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и заявлена для греческого и английского языков. Доступны варианты от F32 и F16 до различных форматов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Более крупные варианты обычно сохраняют более высокое качество, а компактные требуют меньше оперативной памяти; в README рекомендуются, среди прочих, Q6_K_L, Q6_K, Q5 и Q4_K_M. Точный размер контекста в предоставленных данных не указан. Основные преимущества — возможность локального запуска, широкий выбор компромисса между качеством и требованиями к памяти, а также поддержка CPU-инференса и аппаратных конфигураций, совместимых с llama.cpp. Ограничения связаны с потерями качества в более агрессивно квантизованных версиях, отсутствием заявленной мультимодальности и неизвестным размером контекстного окна. Лицензия указана как llama3.1.

LFM2-24B-A2B-MLX-8bit — 8-битная квантованная версия модели LFM2-24B-A2B, разработанной LiquidAI. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и локального использования через совместимое программное обеспечение. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Ключевые параметры контекста, точная архитектура и дополнительные модальности в README не указаны; из описания следует, что это текстовая модель. Сильной стороной является оптимизация для Apple Silicon и снижение требований к памяти благодаря 8-битному представлению, однако квантование может влиять на качество по сравнению с исходной версией, а применение вне экосистемы Apple может быть ограничено. Модель распространяется по лицензии lfm1.0.

LLama-3.1-KazLLM-1.0-8B — языковая модель, адаптированная Институтом интеллектуальных систем и искусственного интеллекта (ISSAI) для более полезных ответов на казахском языке. Это текстовая чат-модель на архитектуре Llama 3.1; обозначение версии указывает на вариант с 8 млрд параметров. Репозиторий содержит веса в формате safetensors, модель используется через Transformers. Модель предназначена для диалогов и генерации ответов на текстовые запросы, особенно на казахском языке. README указывает максимальную длину входа 128 тыс. токенов и выхода 4 тыс. токенов; также приведены результаты оценки на казахском, русском и английском бенчмарках, но таблицы относятся к варианту на 70 млрд параметров и не подтверждают такие же показатели для этой версии. Модель принимает и генерирует текст. В метаданных отмечены казахский, русский, английский и турецкий языки, а карточка приводит условия Meta для Llama 3.1 и дополнительную лицензию CC BY-NC 4.0. Авторы предупреждают о возможных смещениях и ошибках, поэтому ответы следует проверять; при использовании нужно соблюдать условия обеих лицензий и правила допустимого использования Llama 3.1.

Bllossom/llama-3.2-Korean-Bllossom-3B — корейская дообученная языковая модель на архитектуре Llama 3.2, разработанная командой Bllossom при поддержке AICA. Модель содержит 3,2 млрд параметров и предназначена для генерации текста и диалоговых сценариев на корейском и английском языках. Модель представлена в формате Safetensors и использует библиотеку Transformers. Метаданные указывают на контекст до 131 072 токенов и поддержку чат-интерфейса и интерфейса вызова инструментов. В README приведён пример решения арифметической текстовой задачи на корейском языке. Авторы отмечают, что в декабре 2024 года обновили проект до более мощной модели Bllossom-AICA-5B. Модель дообучена на базе meta-llama/Meta-Llama-3.2-3B. Лицензия — Llama 3.2; применяются её условия использования.

QuantFactory/Llama-3-ELYZA-JP-8B-GGUF — квантизированная версия большой языковой модели Llama-3-ELYZA-JP-8B, созданная с использованием llama.cpp. Базовую модель разработала ELYZA, Inc.; она основана на Meta Llama 3 8B Instruct и дополнительно обучена для работы с японским языком с помощью предварительного обучения и instruction tuning. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в роли японоязычного ассистента, ответы на вопросы и выполнение текстовых инструкций. Поддерживаются японский и английский языки. Архитектура и исходный размер соответствуют базе Llama 3 8B Instruct; конкретный тип и параметры квантизации в README не указаны. Формат GGUF ориентирован на запуск через llama.cpp. К сильным сторонам относятся адаптация к японскому языку, instruction tuning и возможность использования квантизированной версии в средах, совместимых с llama.cpp. Ограничения и точные требования к аппаратному обеспечению, длина контекста, мультимодальные возможности и характеристики квантизации в предоставленных данных не описаны. Модель распространяется по лицензии Meta Llama 3 Community License.

4yo1/llama3-pre1-pre2-inst3-lora3-mergkit-base — языковая модель семейства Llama, опубликованная 4yo1. Это плотный трансформер LlamaForCausalLM на 7,4 млрд параметров с контекстом до 8192 токенов, рассчитанный на работу с текстом и диалоговые сценарии. В карточке указаны английский и корейский языки; модель распространяется в формате safetensors и загружается через Transformers. Модель предназначена для генерации текста и перевода. Карточка не описывает качество перевода, процедуру обучения или точное происхождение весов; упоминание LoRA и merge в названии само по себе не подтверждает тип производной модели. Лицензия — MIT.

Llama-VARCO-8B-Instruct — диалоговая языковая модель NC Research, Language Model Team, созданная на базе Meta Llama 3.1 8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и общения. Модель прошла дополнительное предварительное обучение на корейских и английских данных, затем supervised fine-tuning и оптимизацию предпочтений DPO на корейском языке. Она рассчитана прежде всего на понимание и генерацию корейского текста, сохраняя поддержку английского, и подходит для диалогов, письма, рассуждений, математики и программирования. В README приведены результаты оценки LogicKor, включая однократные и многоходовые диалоги. Модель принимает текст и генерирует текст; заявленный размер контекста — 8192 токена. Для запуска рекомендуется Transformers версии 4.43.0 или новее. Использование регулируется лицензией Llama 3.1 Community License Agreement; перед применением необходимо соблюдать её условия.

Malayalam LLaMA 7B Instruct v0.1 — диалоговая языковая модель Abhinand Balachandran для генерации текста и следования инструкциям на малаялам и английском языках. Это плотная архитектура LLaMA с 6,7 млрд параметров, дообученная на примерно 500 тысячах примеров с равной долей английских и малаяламских данных. В модель добавлен расширенный словарь малаяламского языка примерно на 16 тысяч токенов; контекст составляет 4096 токенов. Модель подходит для диалогов, ответов на вопросы, создания текстов и дальнейшей адаптации под конкретные задачи обработки естественного языка. Карточка приводит результаты нескольких языковых и рассуждательных бенчмарков, но отмечает возможные расхождения между разными способами оценки. Модель не прошла фильтрацию вредного или оскорбительного содержания, поэтому её ответы требуют проверки. В README указана лицензия GNU GPL v3.0, тогда как метаданные Hugging Face помечают модель лицензией Llama 2.

mayocream/manga-ocr — модель OCR для распознавания печатного японского текста на изображениях, подготовленная mayocream на основе kha-white/manga-ocr-base. Она предназначена прежде всего для чтения текста на страницах манги, включая вертикальную и горизонтальную запись, фуригану, текст поверх иллюстраций, разные шрифты и ухудшенные или низкокачественные фрагменты изображений. Модель использует архитектуру Vision Encoder Decoder: визуальный энкодер ViT/DeiT-типа и посимвольный японский BERT-декодер с cross-attention. Репозиторий содержит веса SafeTensors для Transformers. Перед распознаванием изображение следует обрезать до области с текстом; для полной нормализации и декодирования README отсылает к исходному проекту manga_ocr. Лицензия — Apache-2.0. Модель не находит текстовые области самостоятельно. Результаты могут быть ненадёжны для рукописного, неяпонского или неподдерживаемого текста, сильной перспективы и закрытых символов; вывод следует проверять в критически важных сценариях.

TeamFnord/manga-ocr — модель распознавания японского текста на изображениях, разработанная для OCR в манге. Она построена на архитектуре Vision Encoder Decoder и предназначена для чтения текста как в вертикальной, так и в горизонтальной ориентации, включая фуригану, текст поверх иллюстраций, разнообразные шрифты и изображения низкого качества. Модель также подходит для распознавания печатного японского текста общего назначения. Модель принимает изображения и выдаёт распознанный текст. В карточке указаны японский язык и датасет Manga109s. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

Ministral-3-3B-Instruct-2512-GGUF — это набор квантизованных GGUF-версий инструкционной модели Ministral-3-3B-Instruct-2512, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты, включая сценарии генерации текста и обработки изображений с текстом, на что указывает pipeline image-text-to-text. Модель имеет около 3 млрд параметров; в README также доступна полная версия BF16 размером 6,87 ГБ и варианты квантизации от Q8_0 до Q3 и IQ4. Квантизация выполнена с использованием llama.cpp и imatrix-калибровки. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура, максимальная длина контекста и точные возможности работы с изображениями в предоставленных данных не указаны. Сильной стороной набора является широкий выбор вариантов квантизации, позволяющий подобрать баланс между качеством, размером файла и требованиями к оперативной памяти; для большинства сценариев рекомендуются Q4_K_M, Q5 и Q6. Ограничения включают возможное снижение качества на более агрессивных уровнях квантизации, отсутствие описания формата промптов и неполные сведения о характеристиках исходной модели. Модель распространяется по лицензии Apache-2.0.

Mistral-Small-24B-Base-2501-GGUF — это квантизированная GGUF-версия базовой языковой модели Mistral-Small-24B-Base-2501, разработанной Mistral AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит 24 миллиарда параметров и представлена в нескольких вариантах точности: от F32 до Q3 и IQ-квантизаций. Доступны версии с разным размером файла и компромиссом между качеством и требованиями к памяти; наиболее сбалансированным вариантом в README назван Q4_K_M, а Q5 и Q6 отмечены как высококачественные. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Сведения об архитектуре, размере контекста, мультимодальности и формате промпта в README не указаны. Сильная сторона модели — возможность локального инференса с выбором уровня квантизации, что позволяет адаптировать потребление памяти под доступное оборудование. Ограничения зависят от выбранного варианта: более компактные квантизации снижают качество, а старшие требуют значительного объёма памяти. Модель является базовой, поэтому готовый формат инструкций не предоставлен и параметры использования следует уточнять на странице исходной модели. Лицензия — Apache-2.0.

Mistral-Small-4-119B-2603-OptiQ-2bit — это MLX-квантизированная версия модели Mistral-Small-4-119B-2603, разработанной Mistral AI и опубликованной сообществом mlx-community. Квантизация выполнена с помощью mlx-optiq — инструментария для локального запуска моделей на Apple Silicon. Модель предназначена для генерации текста и локального инференса, в том числе через OpenAI-совместимый API. Загрузчик mlx-optiq также заявляет поддержку текстовых, визуальных и MTP-сценариев, тогда как штатный mlx-lm поддерживает только текстовый режим. В основе лежит разреженная архитектура MoE со 128 маршрутизируемыми экспертами и MLA-вниманием. Это экстремальная смешанная квантизация: 352 проекционных слоя представлены в 4-битном формате, а 82 — в 2-битном, при целевом среднем размере около 2,5 бита на вес. Размер модели сокращён примерно с 239 ГБ в формате BF16 до 43 ГБ на диске. Благодаря потоковой загрузке выбранных экспертов с SSD модель рассчитана на запуск на Mac с 36 ГБ памяти; резидентный объём составляет около 9–12 ГБ. Языки, заявленные в карточке, включают английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский и ряд других языков. Размер контекстного окна в README не указан. Главное преимущество модели — возможность запускать 119-миллиардную разреженную MoE-модель локально на ограниченном по памяти Apple Silicon-устройстве. Ограничения связаны с экстремальной 2-битной квантизацией: README не приводит стандартных бенчмарков и предупреждает, что для такой сборки вместо набора тестов предоставлена демонстрация связности. Для корректной работы требуется optiq версии 0.4.4 или новее с декодером mistral4; использование штатного mlx-lm или старых версий OptiQ может привести к неправильной загрузке архитектуры и потере экспертов. Модель распространяется по лицензии Apache-2.0.

NeuraSpeech WhisperBase — модель автоматического распознавания речи, разработанная компанией Neura. Она основана на архитектуре Whisper Base: Transformer-энкодер-декодер преобразует аудио в текст и поддерживает сценарии распознавания речи и речевого перевода. Модель рассчитана на персидский язык. В репозитории указаны 51,7 млн параметров и формат safetensors; для использования предусмотрена библиотека Transformers. Модель распространяется по лицензии Apache-2.0. Карточка содержит демонстрацию запуска ASR в Google Colab, но не приводит количественных оценок качества.