I.6Перевод и языковая адаптация

Shuttle-2.5-mini — языковая модель компании ShuttleAI Inc., созданная дообучением Mistral-Nemo-Base-2407. Модель построена на плотной архитектуре Mistral с 12,1 млрд параметров по метаданным; в README указано 13 млрд. Она предназначена для сложного диалога, многоязычного общения, рассуждений, ролевых сценариев и агентных задач. Поддерживает чат и использует формат запросов ChatML. Модель доступна в формате Safetensors и распространяется по лицензии Apache 2.0. README указывает контекстное окно базовой модели 128 тысяч токенов, тогда как метаданные каталога приводят 1 024 000 токенов нативного контекста; это расхождение требует проверки перед использованием длинного контекста. Shuttle-2.5-mini обозначена как бета-версия; заявленные многоязычные и агентные возможности описаны без подробных результатов оценки.

Модель jonatasgrosman/wav2vec2-large-xlsr-53-italian — версия wav2vec 2.0 XLSR-53, дообученная Jonatas Grosman для распознавания итальянской речи. Она принимает аудио и преобразует его в текст; модель обучалась на обучающей и валидационной выборках Common Voice 6.1 и предназначена для автоматического распознавания речи на итальянском языке. Архитектура — Wav2Vec2ForCTC, размер — 402,7 млн параметров. Для входной речи требуется частота дискретизации 16 кГц; распознавание возможно без отдельной языковой модели. Репозиторий содержит веса PyTorch и Flax. Модель подходит для транскрибирования записей и оценки систем распознавания итальянской речи. Качество зависит от акустических условий и соответствия речи обучающим данным; README приводит наборы для оценки, но не сообщает численных результатов. Лицензия — Apache-2.0.

GetmanY1/wav2vec2-xlarge-fi-150k-finetuned — модель автоматического распознавания финской речи, разработанная Ярославом Гетманом и Тамашем Гросом. Это дообученная на распознавании версия GetmanY1/wav2vec2-xlarge-fi-150k, основанная на архитектуре Wav2Vec2 и классе Wav2Vec2ForCTC; число параметров по метаданным — 1,3 млрд. Модель преобразует финскую речь в текст. Для её обучения использовали 4600 часов аудио с частотой дискретизации 16 кГц: разговорную речь из Lahjoita puhetta и записи заседаний финского парламента. На вход следует подавать аудио с частотой дискретизации 16 кГц. Модель предназначена для транскрибации финской речи, включая разговорную речь и парламентские выступления. Выпускается по лицензии Apache-2.0.

mlx-community/whisper-large-v3-fp16 — версия Whisper large-v3 от сообщества mlx-community, преобразованная в формат MLX из openai/whisper-large-v3 с помощью mlx-audio-plus 0.1.4. Модель предназначена для распознавания речи и преобразования аудио в текст; её можно использовать для транскрибации записей и аудиоввода в приложениях на MLX. Это мультиязычная модель семейства Whisper с плотной архитектурой. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. README описывает использование через mlx-audio-plus.

Это дообученная модель распознавания речи на базе OpenAI Whisper medium, созданная dianavdavidson. Модель содержит 455,8 млн параметров и принимает аудио, чтобы преобразовывать речь в текст. По названию репозитория она настроена для распознавания хинди; README сообщает о дообучении на неизвестном наборе данных. На оценочном наборе указаны loss 0,2355 и Global WER 26,3949, однако описание набора данных и условий оценки отсутствует. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0.

Модель dianavdavidson/whisper-medium_iv_hindi_vaani_62509_ratio_alldata_lr_1e-4_lgid_None_mixratio_0.75_FT — дообученная версия Whisper Medium от OpenAI для автоматического распознавания речи. Она принимает аудио и генерирует текст; название указывает на настройку для Hindi, но карточка не описывает состав обучающих данных или условия записи. В оценке указаны loss 0,3762 и Global WER 28,5523. Модель построена на Whisper Medium с архитектурой WhisperForConditionalGeneration, содержит около 455,8 млн параметров и распространяется в формате safetensors. Лицензия — Apache-2.0.

Это версия Command A+ в формате GGUF BF16, опубликованная DevQuasar на основе CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста и диалогового общения; метаданные каталога также характеризуют её как модель для чата. Базовая Command A+ описана как многоязычная мультимодальная модель Cohere для диалогов, рассуждений и агентных задач с текстом, изображениями и вызовом инструментов. Однако карточка этой версии не подтверждает, что её сборка GGUF сохраняет работу с изображениями или вызов инструментов, поэтому эти возможности нельзя считать гарантированными. Репозиторий содержит вариант GGUF в точности BF16. README называет его квантованной версией, но метаданные указывают BF16, что само по себе не подтверждает уменьшенную разрядность. Сведения о лицензии и ограничениях использования в предоставленных данных отсутствуют.

DeepSeek-V2-Lite-IMat-GGUF — это GGUF-квантизированная версия языковой модели DeepSeek-V2-Lite, разработанной deepseek-ai. Квантизацию выполнил legraphista с использованием llama.cpp и метода IMatrix, предназначенного для снижения размера модели с сохранением качества. Модель относится к задачам генерации текста и рассчитана на запуск через совместимые инструменты, включая llama.cpp. В репозитории доступны варианты от исходных FP16 и BF16 до различных уровней квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серии. Размер файлов составляет примерно от 5,64 до 31,42 ГБ. IMatrix применяется в вариантах с более низкой точностью, включая Q4_K, Q3_K, Q2_K и IQ-квантизации; для FP16, BF16, Q8_0 и некоторых других вариантов он не используется. Исходная модель имеет тип данных BF16. Сильная сторона сборки — широкий выбор компромиссов между качеством, размером и требованиями к ресурсам, а IMatrix может улучшать сохранение качества при агрессивной квантизации. README не содержит сведений об архитектуре, числе параметров, длине контекста, поддерживаемых языках, мультимодальности, результатах оценивания или лицензии, поэтому эти характеристики нельзя достоверно определить по представленным данным.

inferencerlabs/DeepSeek-V4-Flash-0731-MLX-Q3i — квантованная версия модели DeepSeek-V4-Flash-0731, разработанной deepseek-ai, подготовленная для выполнения на устройствах Apple с использованием библиотеки MLX и её модифицированной версии. Модель предназначена для генерации текста и локального текстового инференса, в том числе в сценариях, где требуется запуск крупной языковой модели при ограниченном объёме оперативной памяти. Сборка использует метод сжатия INF, не зависящий от обучающих данных, и формат MLX. Согласно README, она рассчитана на работу в системе с 128 ГиБ RAM при сохранении связности ответов. На M3 Ultra с 512 ГиБ RAM заявлена скорость около 39,7 токена в секунду при генерации примерно 500 токенов; потребление памяти в этом тесте составляло около 104,6 ГиБ. Архитектура, точный размер модели, поддерживаемые языки, контекстное окно и модальности в README не указаны; по назначению это текстовая модель. К сильным сторонам относятся возможность локального запуска на совместимом оборудовании Apple, уменьшенные требования к памяти благодаря квантованию и сохранение приемлемой связности генерации. Ограничения включают зависимость от MLX и аппаратной конфигурации, возможное снижение качества по сравнению с исходной моделью из-за квантования, а также отсутствие подробных данных о точности и поддерживаемых сценариях. Лицензия в README не указана; условия использования следует уточнять для исходной модели и данной квантованной сборки отдельно.

dots.llm1.inst — инструктивная версия языковой модели dots.llm1 от команды dots-studio. Это разреженная MoE-модель с 142 млрд параметров, из которых при генерации активируются 14 млрд. Архитектура включает 62 слоя, multi-head attention с QK-Norm и маршрутизацию к 6 из 128 экспертов, а также два общих эксперта. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на запросы и генерации или продолжения текста на английском и китайском языках. В README описаны этапы предварительного обучения и дообучения с учителем; репозиторий содержит вариант instruction-tuned. Указанная лицензия — MIT. Сведения о качестве в конкретных задачах в доступной карточке не приведены.

lvcchaves дообучил эту плотную модель семейства Llama на базе utter-project/EuroLLM-9B-Instruct. Она предназначена для генерации текста и диалогов; карточка указывает обучение с использованием Unsloth и библиотеки TRL. Модель содержит 8,6 млрд параметров, принимает текст и выдаёт текст, поддерживает английский и португальский языки и имеет контекст до 4096 токенов. Доступна в формате Safetensors по лицензии Apache-2.0.

Systran/faster-distil-whisper-small.en — конверсия модели distil-whisper/distil-small.en в формат CTranslate2. Репозиторий подготовлен Systran для запуска в CTranslate2 и проектах на его основе, включая faster-whisper. Модель предназначена для распознавания английской речи в аудиозаписях и выдачи транскрипции. Веса сохранены в FP16; при загрузке через CTranslate2 можно выбрать другой тип вычислений. Репозиторий распространяется по лицензии MIT. Подробности об архитектуре, размере и контекстном окне в доступных данных отсутствуют.

GaMS3-12B-Instruct — языковая модель команды исследователей Факультета компьютерных и информационных наук Люблянского университета. Она основана на Google Gemma 3 и дообучена на корпусах на словенском и английском языках, а также на части хорватских, сербских и боснийских данных. Модель содержит 11,6 млрд параметров, использует плотную архитектуру Gemma 3 для генерации текста и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая создание черновиков, суммаризацию, ответы на вопросы, помощь в обучении языкам и исследовательские NLP-сценарии. Карточка описывает обучение и настройку чата на словенских и английских наборах данных; также заявлена работа с хорватским, сербским и боснийским языками. Это текстовая модель, несмотря на мультимодальные возможности исходной Gemma 3. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться с неоднозначностью, сарказмом и сложными открытыми задачами. Лицензия — Gemma; при использовании следует учитывать политику запрещённого использования моделей Gemma.

mlx-community/gemma-4-E4B-it-qat-mobile — это MLX-совместимая мобильная версия instruction-tuned модели Gemma 4 E4B-it, опубликованная сообществом MLX Community на основе модели Google DeepMind. Она предназначена для локального запуска на устройствах Apple с MLX, включая сценарии генерации текста и анализа изображений с текстовым ответом. Модель имеет около 3 млрд параметров, использует формат Safetensors и 8-битное представление; размер файлов на странице модели составляет около 3,46 ГБ. Вариант создан с применением Quantization-Aware Training и мобильной схемы оптимизации wNa8o8, включающей целевое 2-битное декодирование, оптимизированный KV-кэш и статические активации для снижения требований к памяти. Карточка указывает английский язык и поддержку image-text-to-text; для семейства Gemma 4 заявлены обработка текста и изображений, контекст до 256K токенов и поддержка более 140 языков. Сильная сторона модели — сочетание мультимодальности и уменьшенных требований к памяти, что делает её подходящей для локального инференса на мобильном и периферийном оборудовании. Ограничения связаны с квантованием, меньшим размером по сравнению с полноразмерными вариантами Gemma 4 и отсутствием подробного описания бенчмарков или ограничений в карточке данной производной версии. Лицензия на странице mlx-community явно не указана; условия базовой модели Gemma 4 следует проверять в официальной карточке Google.

RedHatAI/GLM-5.2-MXFP4xMXFP8 — квантизированная версия языковой модели zai-org/GLM-5.2, разработанная RedHatAI. Это текстовая causal language model с архитектурой GlmMoeDsaForCausalLM, предназначенная для генерации текста и инференса, в том числе с использованием vLLM. Заявленные языки — английский и китайский. Модель использует квантование весов MoE-линейных слоёв, включая экспертные и shared expert-компоненты, до 4-битного формата MXFP4, а активаций — до MXFP8 с динамическим масштабированием. Среднее число бит на параметр снижено примерно до 4,5: размер модели на диске уменьшается приблизительно с 1,47 ТБ в формате BF16 до 424 ГБ, а потребность в дисковой и GPU-памяти — примерно на 72%. Остальные компоненты трансформерных блоков не квантизуются. Ключевое преимущество модели — существенное сокращение требований к памяти при сохранении возможности инференса крупной MoE-модели. Чекпойнт подготовлен в формате compressed-tensors с помощью LLM Compressor и рассчитан на развёртывание в vLLM; в README приведена конфигурация с tensor parallelism на 8 устройств, FP8 KV-cache, speculative decoding и поддержкой вызова инструментов. При этом поддержка данного квантизированного чекпойнта в vLLM обозначена как экспериментальная, а квантование выполнено методом RTN без калибровочных данных, что может ограничивать качество по сравнению с исходной моделью. Лицензия в предоставленных данных не указана. Контекстное окно, точное число параметров, мультимодальные возможности и результаты оценки качества также не раскрыты.

LFM2.5-8B-A1B-CoreAI — это конверсия модели LiquidAI/LFM2.5-8B-A1B для локального выполнения в формате Apple Core AI (.aimodel). Конверсию подготовило сообщество Core AI model zoo; базовая модель разработана Liquid AI. Модель предназначена для генерации текста, чат-диалогов, суммаризации и других языковых задач на устройствах Apple без отправки данных в облако, включая интеграцию с CoreAIKit и системными сценариями LanguageModelSession. Архитектура представляет собой гибридный decoder-only MoE: 24 слоя, из которых 18 используют short-convolution mixers, а 6 — GQA attention. Первые два слоя плотные, остальные используют разреженный MoE с 32 экспертами и выбором 4 экспертов на токен. Общий размер составляет около 8,3 млрд параметров, при этом активно на токен используется примерно 1,5 млрд; hidden size — 2048, словарь — 128 тысяч токенов. В README языки и максимальный размер контекста не указаны. Модель ориентирована на GPU и Neural Engine устройств Apple; опубликованный чистый bundle предназначен для Mac, а вариант int4 проверен на iPhone 17 Pro, но не поставляется из-за заметной потери качества. Сильные стороны модели — локальная работа, MoE-эффективность и оптимизированное ядро gather_qmm, которое читает веса только выбранных экспертов. Для Mac заявлена скорость около 140–141 токена в секунду при размере bundle 8,8 ГБ, а качество симметричного int8-варианта соответствует уровню fp16 в описанном тесте. Ограничения включают значительный объём загрузки, зависимость от устройств Apple и наличие проблем у базовой модели с повторяющейся генерацией при использовании без chat template и sampling. Модель распространяется по лицензии lfm-open-license-v1.0; точные условия приведены в файле LICENSE.

cstr/llama3.1-8b-spaetzle-v59 — слитая модель на архитектуре Llama 3.1, подготовленная автором репозитория с использованием Dampfinchen/Llama-3.1-8B-Ultra-Instruct и Undi95/Meta-Llama-3.1-8B-Claude. Веса объединены методом DARE-TIES; модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. В карточке приведён результат EQ-Bench v2_de 67,38; это указывает на оценивание немецкоязычных диалоговых способностей, но не гарантирует качество в других сценариях. Метаданные отмечают интерфейс вызова инструментов. Поддерживаемые языки по карточке — английский и немецкий. Лицензия — Llama 3.1 Community License. Это слияние весов, а не самостоятельная конверсия формата; для производных моделей и последующего распространения следует учитывать условия лицензий исходных компонентов.

unsloth/Llama-3.2-11B-Vision-Instruct-unsloth-bnb-4bit — это мультимодальная instruction-tuned модель на базе Meta Llama 3.2 11B Vision Instruct, подготовленная Unsloth. Она предназначена для диалоговых сценариев и задач, требующих обработки текста и изображений, включая визуальный анализ, ответы на вопросы по изображениям, суммирование и другие приложения с мультимодальным вводом. Модель рассчитана на использование с библиотекой Transformers и 4-битным квантованием bitsandbytes (BnB). Unsloth применяет динамическое 4-битное квантование, при котором отдельные параметры не квантуются для сохранения качества при близком к обычному BnB 4-bit потреблении видеопамяти. Архитектура основана на оптимизированном авторегрессионном Transformer; для семейства Llama 3.2 указано использование Grouped-Query Attention (GQA). Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер модели — 11 млрд параметров; точное максимальное окно контекста в предоставленных данных не указано. К сильным сторонам относятся мультимодальные возможности и сниженные требования к памяти благодаря квантованию, что упрощает локальный запуск и дообучение. Ограничения связаны с возможной потерей качества из-за квантования, зависимостью от совместимого программного и аппаратного окружения, а также тем, что конкретные показатели качества и полный перечень ограничений модели в карточке не приведены. Базовая модель разработана Meta, а данная квантованная версия опубликована Unsloth. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy; перед развертыванием необходимо соблюдать их условия. Модель является статической и обучена на офлайн-данных.

QuantFactory/Llama3-8B-Chinese-Chat-GGUF — это квантизированная GGUF-версия модели shenzhi-wang/Llama3-8B-Chinese-Chat, созданная с помощью llama.cpp. Исходная модель дообучена на базе Meta-Llama-3-8B-Instruct с использованием метода ORPO и фреймворка LLaMA-Factory; в README автором указана QuantFactory. Модель предназначена для диалогового применения и генерации текста на китайском и английском языках: она ориентирована на ответы на китайские запросы, написание и редактирование текстов, решение математических задач, программирование и соблюдение базовых ограничений безопасности. По сравнению с исходной Meta-Llama-3-8B-Instruct она должна реже отвечать на китайские вопросы по-английски, меньше смешивать языки и использовать меньше эмодзи, обеспечивая более формальный стиль. Указана длина контекста 8192 токена; архитектура — семейство Llama 3, размер — 8 млрд параметров. Модель работает в текстовой модальности, а формат GGUF предназначен для использования с совместимыми инструментами, включая llama.cpp. К ограничениям относятся возможные ошибки в фактах, рассуждениях, математике и коде, что видно по приведённым примерам, а также отсутствие гарантии полной безопасности или качества ответов. В README не указаны конкретный вариант квантизации, требования к памяти и производительности, поэтому совместимость и скорость необходимо проверять для выбранной конфигурации. Лицензия обозначена как other с названием llama3; применимые условия следует уточнять в файле LICENSE и лицензии исходной модели.

llama3-8b-spaetzle-v31 — объединённая языковая модель на базе архитектуры Llama, созданная cstr методом DARE TIES из cstr/llama3-8b-spaetzle-v20 и DiscoResearch/Llama3-DiscoLeo-Instruct-8B-v0.1. Модель предназначена для диалогов, генерации текста и выполнения инструкций. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В карточке указаны немецкий и английский языки; основная языковая специализация — немецкий. Веса опубликованы в формате Safetensors. Лицензия — Llama 3. README указывает, что модель получена слиянием весов уже обученных моделей без обучения на новом корпусе; подробные сведения о качестве и ограничениях применения не приведены.

Llama-Breeze2-8B-Instruct-v01 — мультимодальная модель MediaTek Research с 8 млрд параметров, основанная на LLaMA 3.2 и архитектуре InternVLChat. Модель продолжает предварительное обучение на обширном корпусе для улучшения работы с традиционным китайским языком и культурным контекстом; визуальный энкодер и связующий модуль добавляют обработку изображений. Предусмотрены диалоговое следование инструкциям и вызов функций через шаблоны запросов и дополнительное обучение на данных вызова функций. Модель подходит для диалогов и инструкций на китайском и английском языках, вопросов по изображениям и сценариев, где языковая модель должна вызывать инструменты. Для использования заявлены веса в формате safetensors и библиотека Transformers версии 4.47.0. Указана лицензия Llama 3.2 Community License; применяются её условия.

LLaMAntino-3-ANITA-8B-Inst-DPO-ITA — диалоговая модель семейства LLaMAntino, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Это дообученная по инструкциям версия Meta-Llama-3-8B-Instruct: модель прошла supervised fine-tuning с QLoRA и выравнивание предпочтений методом DPO. Модель предназначена для ответов на запросы и генерации текста, в том числе кода, с акцентом на итальянский язык; также поддерживает английский. Её можно применять как италоязычного ассистента и как основу для дальнейшей настройки под специализированные задачи на итальянском. Архитектура — плотная Llama 3 с 7,5 млрд параметров, контекст — 8192 токена; для работы предусмотрена библиотека Transformers. Модель принимает текст и генерирует текст. Карточка указывает лицензию llama3; применение должно соответствовать её условиям и ограничениям лицензии Meta Llama 3. Качество ответов может зависеть от языка и конкретной задачи; специализированные сценарии могут потребовать дополнительной настройки.

bartowski/MiniCPM5-2B-GGUF — это GGUF-квантизированная версия языковой модели MiniCPM5-2B, разработанной OpenBMB. Квантизация выполнена bartowski с использованием llama.cpp; доступны варианты от BF16 и Q8_0 до низкоразрядных IQ- и Q-форматов. README указывает размер модели около 3 млрд параметров, поддержку только текстового ввода и отсутствие speculative decoding. Модель предназначена для генерации текста и может применяться в локальных, on-device и edge AI-сценариях, включая задачи с длинным контекстом и tool-calling, заявленные в метаданных. Поддерживаемые языки — английский и китайский. Рекомендуемым компромиссом между качеством и размером назван вариант Q4_K_M объёмом 1,62 ГБ; более высокие разрядности обычно сохраняют лучшее качество, а низкие требуют меньше памяти, но могут заметно уступать по результатам. Точная архитектура и максимальная длина контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Ministral-3-3B-Instruct-2512 в формате LiteRT-LM — это квантизированная версия текстовой instruct-модели mistralai/Ministral-3-3B-Instruct-2512, подготовленная сообществом для запуска на устройствах через on-device runtime Google LiteRT-LM. Модель предназначена для генерации текста и диалоговых сценариев непосредственно на Android, iOS, macOS и других совместимых edge-устройствах без обязательной передачи данных в облако. Исходная модель разработана Mistral AI, а представленная сборка распространяется в формате .litertlm и относится к quantized-моделям. Это текстовая модель: vision tower Pixtral удалён, поэтому обработка изображений не поддерживается. Используется декодер Ministral с native Mistral-шаблоном чата [INST] … [/INST], прямым форматом ответов без блока рассуждений и остановкой по токену </s>. Размер модели — около 3B параметров; файл занимает примерно 2,3 ГБ, а с учётом runtime и GPU-кэша требуется около 2,7 ГБ или больше оперативной памяти. Веса представлены в формате symmetric int4 blockwise с блоком 32 и OCTAV clipping, вычисления выполняются в integer, размер KV-контекста составляет 4096 токенов. Токенизатор и шаблон запросов включены в bundle. Сильные стороны модели — возможность полностью локального запуска, совместимость с GPU и CPU через LiteRT-LM, отсутствие необходимости в отдельных файлах токенизатора и хорошие показатели на современных мобильных и настольных устройствах. Ограничения включают текстовую специализацию без мультимодальности, ограниченный контекст в 4096 токенов, высокие требования к памяти для GPU и заметно меньшую скорость на слабых устройствах, например Raspberry Pi 5. Лицензия — Apache-2.0.

Это квантованная в формате GGUF версия Ministral 8B Instruct 2410 abliterated, подготовленная mradermacher на основе модели realoperator42/ministral-8B-Instruct-2410-abliterated. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск совместимых с GGUF инструментов и приложений. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель относится к семейству Ministral и имеет около 8 миллиардов параметров, однако подробные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты квантования от наиболее компактных IQ1 до более качественных Q5, с размерами файлов примерно от 2,1 до 5,7 ГБ. В README рекомендуется вариант i1-Q4_K_M как быстрый, а i1-Q4_K_S — как компромисс между размером, скоростью и качеством; низкобитные варианты могут заметно уступать по качеству. К преимуществам относятся широкий выбор квантований и возможность запуска на ограниченных аппаратных ресурсах. Ограничения включают потенциальное снижение качества при сильном квантовании, отсутствие описания результатов тестирования и неполные сведения о характеристиках базовой модели. Информация о лицензии в README не указана.

win10/miscii-14b-1M-0128 — созданная с помощью mergekit и метода SCE объединённая языковая модель на архитектуре Qwen2, разработчик — win10. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли несколько моделей Qwen2.5 и производные от DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Заявленный контекст — до 131 072 токенов; в карточке указаны английский и китайский языки. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. README приводит результаты оценок IFEval и BBH, но не описывает методику проверки или практические ограничения качества; фактическая производительность может зависеть от запроса и настроек генерации.

Это 4-битная квантизированная версия Mistral-Small-3.2-24B-Instruct-2506, подготовленная командой LM Studio Community с помощью mlx_lm для запуска на компьютерах Apple Silicon. В основе лежит плотная модель Mistral 3 с 24 млрд параметров, предназначенная для диалогов по инструкциям и работы с изображениями; доступны возможности чата и vision. Модель принимает текст и изображения и формирует текстовые ответы. В карточке указана поддержка множества языков, включая русский, английский, французский, немецкий, испанский, китайский и японский. Репозиторий использует формат safetensors и лицензию Apache-2.0. Квантизация снижает требования к памяти по сравнению с полной версией, но может влиять на точность ответов.

Это GGUF-квантизованная версия языковой модели Llama-3_1-Nemotron-Ultra-253B-v1, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio и других совместимых проектах на базе llama.cpp. Указан английский язык; поддерживается текстовая модальность. Размер исходной модели — 253 млрд параметров, однако точная архитектура и размер контекстного окна в README не указаны. Доступно множество вариантов квантизации GGUF — от Q8_0 до более компактных Q3 и IQ3/IQ4. Высокоточные варианты обеспечивают лучшее сохранение качества, а младшие квантизации снижают требования к памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Основное ограничение — чрезвычайно большой объём файлов: даже рекомендуемый Q4_K_M занимает около 150,94 ГБ, поэтому для запуска требуется мощное оборудование и значительный объём оперативной или видеопамяти. Лицензия — NVIDIA Open Model License; ссылка на условия приведена в карточке модели.

Occiglot-7B-ES-EN-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный причинный трансформер-декодер архитектуры Mistral с 7,1 млрд параметров, дообученный на 160 млн токенов многоязычных и программных инструкций. Модель предназначена для диалогов и генерации текста на английском и испанском языках; также обучалась на инструкциях по программированию. Поддерживает шаблон чата ChatML. В карточке указана длина контекста 32 768 токенов, а при обучении использовалась длина 8 192 токена. Модель представляет собой первый выпуск исследовательского проекта Occiglot. Авторы отмечают предварительный характер оценок, а испанские результаты частично опираются на машинно переведённые наборы данных и английские запросы. Модель не проходила выравнивание по безопасности и может выдавать проблемные ответы. Распространяется по лицензии Apache 2.0.

EnlistedGhost/Pixtral-12B-2409-GGUF — это GGUF-конверсия и набор квантованных файлов мультимодальной модели Pixtral-12B-2409, разработанной MistralAI. Репозиторий поддерживает запуск через Ollama и Llama.cpp и включает файлы mmproj для vision-проектора, обеспечивающего обработку изображений вместе с текстом. Модель предназначена для сценариев image-text-to-text: диалогов, анализа изображений и генерации текста по текстовым и визуальным запросам. Заявлена поддержка английского, японского, французского, немецкого, испанского, итальянского, португальского, русского и китайского языков. Архитектура основана на Pixtral-12B; доступны варианты от Q2_K_S до Q8_0, а также F16, с размером файлов примерно от 4,78 до 24,5 ГБ. Для vision-возможностей доступны проекторы в форматах Q8_0, F16 и F32. Сильные стороны модели — мультимодальность, совместимость с Ollama и Llama.cpp, а также широкий выбор уровней квантования для подбора компромисса между качеством и требованиями к памяти. Ограничения включают отсутствие собственной оценки в этом репозитории, отсутствие гарантии и необходимость самостоятельно учитывать риски применения. Модель распространяется по лицензии Apache-2.0.