II.6Документация и сопровождение разработки

gaverfraxz/Meta-Llama-3.1-8B-Instruct-HalfAbliterated-DELLA — текстовая модель на архитектуре Llama, созданная методом слияния DELLA на основе Meta-Llama-3.1-8B и двух инструктивных вариантов: Meta-Llama-3.1-8B-Instruct и его версии abliterated от mlabonne. Модель рассчитана на генерацию текста и диалоговые ответы; слияние сочетает instruct-модель с вариантом, у которого ослаблены ограничения на ответы. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Для запуска предусмотрена библиотека Transformers, веса опубликованы в формате safetensors. Лицензия — llama3.1. Слияние с abliterated-вариантом означает, что защитные ограничения могут быть ослаблены; качество и поведение на конкретных запросах могут отличаться от исходной instruct-модели.

aloobun/Meta-Llama-3-7B-29Layers — производная языковая модель на основе Meta Llama 3 8B, созданная удалением слоёв: в итоговой версии 29 слоёв и около 6,9 млрд параметров. Для выбора слоёв использовался репозиторий PruneMe, а сборка выполнена методом passthrough с помощью mergekit; в карточке указано, что последующее обучение после прореживания планировалось, но не выполнено. Модель предназначена для генерации текста на английском языке и может использоваться для продолжения текста и прототипирования приложений на базе Llama 3. Архитектура — плотная LlamaForCausalLM; заявленный контекст составляет 8192 токена. Лицензия — Llama 3, с условиями Meta.

Это набор GGUF-квантизаций модели Meta-Llama-3-8B-Instruct-abliterated-v3, опубликованный и подготовленный к квантизации пользователем bartowski. Исходная модель разработана failspy. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp; в README указан специальный формат prompt на основе шаблона Meta Llama 3 с ролями system, user и assistant. Модель относится к семейству 8B и поставляется в форматах GGUF с различными вариантами квантизации: от Q8_0 до Q2_K и IQ2/IQ3/IQ4. Для квантизации использовался llama.cpp release b3024 и метод imatrix. Более крупные варианты, например Q8_0, обеспечивают максимально доступное качество, тогда как Q6_K, Q5_K_M, Q5_K_S и Q4_K_M обозначены как рекомендуемые; варианты с меньшим размером требуют меньше памяти, но заметно уступают по качеству. README не содержит сведений о поддерживаемых языках, размере контекста, точной архитектуре, результатах тестирования или мультимодальных возможностях, поэтому модель следует рассматривать как текстовую. Условия использования указаны как лицензия llama3. Конкретные требования к аппаратному обеспечению зависят от выбранного файла квантизации и его размера.

Meta-Llama-3-8b-Instruct-Healed — разговорная языковая модель семейства Llama, опубликованная Jan. Она предназначена для генерации текста в диалоге; запускать её можно в Jan Desktop на macOS, Windows и Linux. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,2 млрд параметров и поддерживает контекст до 8192 токенов. Для файлов репозитория указан формат safetensors, лицензия — Apache-2.0. Карточка не описывает специальную предметную область или отдельные сильные стороны модели. Метаданные указывают английский язык; пригодность для других языков не подтверждена. Практические ограничения и подробности о дообучении в карточке не раскрыты.

MFANN 3b version 0.7 — дообученная модель семейства Phi, созданная netcat420 на датасете MFANN в состоянии на 5 мая 2024 года. Она рассчитана на генерацию текста и, согласно метаданным каталога, также поддерживает классификацию текста. Модель содержит 3,5 млрд параметров, использует архитектуру PhiForCausalLM и принимает контекст длиной до 2048 токенов. В карточке приведены результаты на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; наивысший из перечисленных результатов — 77,66 на Winogrande. Автор характеризует модель как нецензурированную. Модель распространяется в формате safetensors по лицензии Apache-2.0. Качество зависит от задачи; результаты карточки не гарантируют аналогичной точности в реальном применении.

MFANN-Llama3.1-Abliterated-SLERP-TIES-V2 — объединённая текстовая модель семейства Llama 3.1 от netcat420, созданная с помощью mergekit методом TIES на основе Meta Llama 3.1 8B Instruct Abliterated и двух моделей MFANN. Модель предназначена для диалогов и генерации ответов; в карточке описаны обычный режим помощника и экспериментальный режим SATANN для задач кибербезопасности. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors, заявленный контекст — 131 072 токена. README приводит настройки генерации и контекст 8 192 токена для конкретной конфигурации GPT4All. Модель рассчитана на текстовый ввод и вывод. Лицензия — Apache-2.0. Поскольку это объединение abliterated-моделей, ответы могут иметь ослабленные ограничения; для сценариев кибербезопасности качество и поведение следует оценивать отдельно.

MFANN-Llama3.1-Abliterated-SLERP-V4 — текстовая диалоговая модель, созданная netcat420 слиянием методом SLERP через mergekit моделей mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated и netcat420/MFANNv0.24. Она предназначена для генерации ответов в чате; README также описывает экспериментальный режим SATANN для задач кибербезопасности. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Метаданные указывают контекст до 131 072 токенов, тогда как README рекомендует длину контекста и генерации 8 192 токена. Доступны веса в формате safetensors, лицензия — Apache-2.0. Показатели на Open LLM Leaderboard приведены для отдельных тестов, но сами по себе не гарантируют качество в прикладных задачах.

mGPT — авторегрессионная языковая модель семейства GPT, разработанная командой SberDevices. Модель содержит 1,3 млрд параметров и обучена на корпусах Wikipedia и Colossal Clean Crawled Corpus: около 600 ГБ текста на 61 языке, включая русский. Она предназначена для генерации текста и многоязычных сценариев обработки языка, в том числе работы с языками с ограниченными ресурсами. Архитектура основана на GPT-2 и воспроизводит архитектуру GPT-3; для обучения использовались разреженное внимание, Megatron и DeepSpeed. Максимальный контекст — 2048 токенов. Модель показывает результаты, сопоставимые с XGLM аналогичного размера, при более широком охвате языков. Весы доступны в формате PyTorch, лицензия — Apache-2.0. Это базовая модель генерации текста, поэтому для конкретных диалоговых или прикладных задач может потребоваться дополнительная настройка. README указывает обучение на последовательностях длиной 512 токенов, что следует отличать от заявленного максимального контекста в метаданных.

MHENNlitv2 — дообученная текстовая генеративная модель на архитектуре Mistral, созданная автором репозитория netcat420. Она обучена на наборе данных MHENNlitv2 и основана на Mistral Instruct v0.1. Модель содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в формате инструкций. В репозитории доступны веса Safetensors, а также 4-битная квантованная версия GGUF MHENNlitv2Q4_K_M.gguf, подходящая для запуска в совместимом локальном ПО. README не уточняет специализацию датасета и конкретные сценарии применения. Условия лицензирования в предоставленных данных не описаны.

MiMo-V2.6-Flash-RL-JANG2L — это опубликованная OsaurusAI квантованная версия Xiaomi MiMo-V2.6-Flash-RL для запуска через MLX на Apple Silicon. В ней применена смешанная низкоразрядная квантовка JANG: основные экспертные проекции хранятся в 2 битах, часть проекций — в 3 битах, а защищённые ранние слои сохранены в исходном формате MXFP4. Заявлено около 2,73 эффективного бита на параметр; текстовые веса занимают около 95,87 GiB. Модель содержит 12 млрд параметров и поддерживает контекст до 1 048 576 токенов. Модель предназначена для диалоговой генерации текста, рассуждений и вызова инструментов, а также для ответов по изображениям и видео. В README описаны рабочие текстовые и инструментальные диалоги и ответы на изображения и видео в интеграционной сборке Osaurus. Качество квантованной модели не эквивалентно исходной: авторы отмечают искажения на чувствительных позициях и ограниченность проведённых тестов; результаты тестов не являются оценкой на официальных бенчмарках. Репозиторий сохраняет веса обработки изображений, видео и аудио, однако распознавание аудио в тестах Osaurus не прошло квалификацию, а аудио-вывод и совместное понимание синхронизированных аудио и видео не подтверждены. Для запуска требуется Osaurus версии 0.25.13 или новее; модель использует формат MLX и safetensors. Лицензия — MIT.

MindLLM-1b3-chat-zh-v2.0 — двуязычная языковая модель, разработанная Пекинским инженерным исследовательским центром обработки больших объёмов языковой информации и облачных вычислений и Юго-восточной академией информационных технологий Пекинского технологического института. В карточке она описана как причинная Transformer-модель MindLLM 1.3B, обученная с нуля; метаданные указывают архитектуру GPT-Neo и 1,6 млрд параметров. Модель дообучена на инструкциях в формате чата и предназначена для генерации текста и диалогов на английском и китайском языках. Модель можно использовать для ответов на вопросы, диалоговых интерфейсов и изучения или адаптации компактных языковых моделей к предметным задачам. Контекст составляет 2048 токенов. Для ожидаемого качества чат-версии нужно соблюдать специальный шаблон сообщений с токенами начала и конца последовательности. В README отмечено, что модель не проходила обучение с подкреплением на основе обратной связи от людей. Лицензия — Apache-2.0.

MiniAI-Quata1-4b-i1-GGUF — квантизированная версия языковой модели MiniAI-Quata1-4b, разработанной M1n1A1 и дополнительно обученной на наборе unsloth/alpaca-cleaned. Модель предназначена для генерации текста и выполнения типичных инструкционных задач на английском языке, включая ответы на запросы и обработку текстовых инструкций. Модель содержит около 4 миллиардов параметров и распространяется в формате GGUF для локального запуска в совместимых инструментах. Доступны варианты квантизации i1-IQ и i1-Q с различным размером от примерно 1,2 до 3,4 ГБ. В README рекомендуются варианты i1-Q4_K_M как быстрые и сбалансированные, а i1-Q4_K_S — как оптимальные по соотношению размера, скорости и качества. Сведения об архитектуре, размере контекста, поддерживаемых модальностях помимо текста и точных характеристиках производительности не указаны. К сильным сторонам относятся небольшой размер, возможность локального использования и широкий выбор уровней квантизации, позволяющий подобрать баланс между требованиями к памяти, скоростью и качеством. Ограничения связаны с потерями качества у низкобитных вариантов, особенно у наиболее компактных квантизаций; для модели также не приведены результаты benchmark-тестов. Лицензия — Apache-2.0.

MiniCPM5-1B-MegaMerge-Final — языковая модель MC7ever, созданная на основе openbmb/MiniCPM5-1B. По карточке это слияние весовых изменений 31 дообученной модели с направленной abliteration и последующим LoRA-дообучением на assertive data. Модель предназначена для генерации текста; в метаданных указан контекст до 524 288 токенов и 837,6 млн параметров. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Карточка не уточняет языки, лицензию, качество на конкретных задачах и практические ограничения длинного контекста. Поэтому применимость для конкретных сценариев стоит проверять на собственных данных; условия лицензирования следует сверить с репозиторием базовой модели и карточкой модели.

MiniCPM5-2B-8bit — языковая модель для генерации текста, разработанная openbmb и преобразованная сообществом mlx-community в формат MLX. Исходная модель — openbmb/MiniCPM5-2B; конвертация выполнена с помощью mlx-lm версии 0.31.3 с 8-битным квантованием и размером группы 64. Модель предназначена для текстовой генерации на устройствах и периферийных системах, включая локальные сценарии и edge AI. Заявлены поддержка английского и китайского языков, работы с длинным контекстом и вызова инструментов. Она может использоваться через библиотеку mlx-lm для загрузки модели, применения chat-шаблона и генерации ответов. Точные сведения об архитектуре, размере контекста и дополнительных возможностях в README не указаны. К сильным сторонам относятся компактный размер исходной модели 2B, 8-битное представление для более эффективного локального запуска и интеграция с MLX. Ограничения включают отсутствие заявленной мультимодальности и неполные сведения о производительности, точной длине контекста и качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-mlx-4Bit — 4-битная модель для генерации текста, созданная конвертацией базовой модели openbmb/MiniCPM5-2B в формат MLX с использованием mlx-lm 0.31.2. Модель предназначена для запуска через библиотеку mlx-lm, включая локальное и периферийное использование на совместимых устройствах Apple и сценарии edge AI. В карточке заявлена поддержка английского и китайского языков, а также сценариев длинного контекста и вызова инструментов. Модель относится к семейству MiniCPM и имеет размер 2B параметров; точные архитектурные характеристики и максимальная длина контекста в README не указаны. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска, но может ограничивать качество по сравнению с полноразмерной версией, а возможности зависят от реализации MLX и совместимого оборудования. Модель распространяется по лицензии Apache-2.0.

MiniCPM-S-1B-sft — языковая модель с причинной архитектурой MiniCPMForCausalLM, разработанная и дообученная ModelBest, OpenBMB и THUNLP. Это версия MiniCPM-1B-sft, обученная методом ProSparse и настроенная для диалогов. Модель содержит 1,4 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. ProSparse заменяет активации FFN на ReLU-вариант FATReLU и применяет постепенную регуляризацию разреженности. В README указана разреженность активаций около 87,89% для модели MiniCPM-1B; метод предназначен для ускорения инференса с инструментами, использующими разреженность, включая PowerInfer. Модель подходит для генерации ответов в диалоге, а также заявлены задачи классификации текста. Обучение включало примерно 473 млрд токенов, в том числе этап SFT. В карточке модели указаны английский и китайский языки; лицензия — Apache-2.0. Качество на конкретных задачах может уступать более крупным или более широко обученным моделям; README отмечает, что дальнейшее обучение на большем объёме и более качественных данных может улучшить результаты. Для корректного поведения README рекомендует ставить BOS-токен в начало входа и использовать указанные чат-токены.

MiniMax-M2.1-REAP-40-i1-GGUF — это GGUF-квантизированная версия модели 0xSero/MiniMax-M2.1-139B, подготовленная и опубликованная mradermacher. Модель относится к семейству MiniMax, использует архитектуру Mixture of Experts (MoE) и является pruned-вариантом REAP. Формат предназначен для запуска и дальнейшего использования в совместимых локальных инструментах для генерации текста. Основной заявленный язык — английский. Модель ориентирована на текстовые сценарии, включая генерацию и обработку текста, однако README не содержит подробностей о специализированных задачах, точном числе активных и общих параметров, длине контекста или дополнительных модальностях. Доступно множество вариантов квантизации с размером примерно от 28,6 до 114,4 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; среди рекомендованных указаны i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Преимуществами являются широкий выбор уровней квантизации и возможность адаптировать требования к памяти под конкретное оборудование. Ограничения связаны с потерями качества у низкобитных вариантов и высокими требованиями к ресурсам у более точных версий; конкретные показатели производительности и качества в README не приведены. Модель распространяется по лицензии Apache-2.0.

MiniMax-M2-MLX-4bit — 4-битно квантованная версия языковой модели MiniMax-M2, разработанной MiniMaxAI. Квантование выполнено командой LM Studio с использованием mlx_lm и формата MLX; модель оптимизирована для запуска на устройствах Apple Silicon. Она предназначена для генерации текста и локального использования через LM Studio. Модель подходит для сценариев, требующих локального текстового вывода при сниженных требованиях к памяти по сравнению с полной версией модели. README не содержит сведений о точном размере модели, поддерживаемых языках, максимальной длине контекста, архитектуре или дополнительных модальностях, поэтому эти характеристики нельзя достоверно указать. Квантование в 4 бита может уменьшать потребление ресурсов, но потенциально снижать точность по сравнению с исходной моделью. Модель распространяется по лицензии MIT.

MiniMax-M2-MLX-8bit — это 8-битная квантованная версия языковой модели MiniMax-M2, разработанной компанией MiniMaxAI. Данная версия подготовлена командой LM Studio на базе MLX и предназначена для локального запуска на компьютерах Apple Silicon, в том числе через LM Studio. Модель относится к классу text-generation и рассчитана на задачи генерации текста и диалогового взаимодействия. Она использует архитектуру и возможности исходной MiniMax-M2, однако в предоставленных данных не указаны точные размер модели, архитектурные параметры, поддерживаемые языки, объём контекстного окна и сведения о мультимодальности. Ключевая особенность версии — 8-битное квантование и оптимизация с помощью MLX для устройств Apple Silicon, что делает её более подходящей для локального использования при ограниченных ресурсах по сравнению с полноразмерной версией. Ограничения включают возможное снижение точности из-за квантования, зависимость от совместимого оборудования и отсутствие подробных данных о качестве, производительности и области применения. Модель распространяется по лицензии MIT.

MaziyarPanahi/miqu-1-70b-sf-GPTQ — 4-битная GPTQ-квантизация дообученной модели 152334H/miqu-1-70b-sf. Она построена на плотной архитектуре LlamaForCausalLM и предназначена для генерации текста и диалогов на английском языке. Размер модели — 68,7 млрд параметров, длина контекста — 32 764 токена. Квантизация GPTQ снижает требования к памяти по сравнению с полноточными весами. Модель подходит для генерации продолжений текста и ведения диалогов. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0. README подтверждает квантизацию, а сведения о базовой модели, размере, контексте, языке и лицензии взяты из метаданных.

MiroThinker-v1.0-30B-GGUF — набор GGUF-квантизированных версий модели MiroThinker-v1.0-30B, разработанной miromind-ai и подготовленной квантизатором bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях и проектах на базе llama.cpp. Указан английский язык; поддержка других языков не заявлена. Это модель размером 30B параметров, представленная в форматах от BF16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Квантизация выполнена с использованием imatrix в llama.cpp, что позволяет выбирать между качеством и требованиями к памяти. Рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Сильными сторонами являются открытый формат GGUF, широкий выбор уровней сжатия и ориентация исходной модели на агентские и исследовательские задачи. Более компактные варианты требуют меньше оперативной памяти, но уступают высокоточным версиям по качеству. В README не указаны архитектура базовой модели, размер контекстного окна, мультимодальные возможности и результаты benchmark-тестов, поэтому эти характеристики нельзя оценить. Лицензия — MIT.

miscii-14b-1028-GGUF — это квантизированная версия языковой модели miscii-14b-1028, разработанной sthenno-com и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, диалогов, roleplay, conversational-сценариев и, согласно тегам, использования инструментов. Указаны английский и китайский языки, а также датасеты HelpSteer2, Synthetic-Persona-Chat и orpo-dpo-mix-40k. Модель относится к классу примерно 14B параметров; точная архитектура и размер контекста в README не указаны. Доступны варианты от F16 до Q3_K_XL, включая рекомендуемые Q4_K_M, Q5 и Q6-квантизации, что позволяет выбирать между качеством и требованиями к памяти. Модель рассчитана на запуск через llama.cpp и LM Studio. В README приведены результаты Open LLM Leaderboard по IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако они характеризуют базовую модель, а не обязательно каждый квантизированный файл. Ограничениями являются отсутствие информации о точной архитектуре, максимальном контексте, системных требованиях и детальной оценке качества в прикладных сценариях. Лицензия — Apache-2.0.

evolveon/Mistral-7B-Instruct-v0.3-abliterated — версия Mistral-7B-Instruct-v0.3, обработанная методом abliteration, который, согласно карточке, предназначен для создания менее ограниченной версии модели. В основе лежит инструктивная языковая модель Mistral AI; автор карточки благодарит FailSpy за исходный код и методику. Модель предназначена для диалогов и генерации текста по инструкциям. Она построена на архитектуре Mistral с 7,1 млрд параметров, принимает текст и использует контекст до 32 768 токенов. В метаданных указан английский язык; также заявлен интерфейс вызова инструментов. Карточка характеризует модель как uncensored, однако не приводит оценок качества или подробностей проверки. Лицензия в предоставленных данных не указана.

ApolloRaines выпустил jBliterated — экспериментально дообученную версию Mistral-7B-Instruct-v0.3 с изменениями во всех слоях трансформера. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; веса опубликованы в формате safetensors с базовой точностью bfloat16. Она предназначена для диалогов и генерации текста по инструкциям на английском, французском, немецком, испанском и итальянском языках. Автор описывает многоэтапную обработку и ориентацию на связные ответы, следование инструкциям и одинаковое отношение к разным формулировкам тем. Также модель позиционируется как демонстрация возможностей jBlaze и намеренно выпущена с ограниченной силой; README не приводит независимых оценок качества. Для запуска на GPU с ограниченной памятью предлагается потоковая загрузка слоёв через DeepswapLLM с использованием GPU, RAM и диска. Лицензия — Apache-2.0.

RESMPDEV/Mistral-7B-v0.2 — конвертированная сборка весов Mistral AI на основе Mistral-7B-v0.2. Репозиторий содержит плотную авторегрессионную модель MistralForCausalLM примерно с 7,1 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате PyTorch и safetensors. Модель предназначена для генерации текста и диалогового использования. Автор карточки сообщает, что веса FP16 были напрямую преобразованы из монолитного файла pickle в safetensors с построением индекса. В README отмечены неоптимальность конвертации и возможное смешение файлов Mistral-7B-v0.1 и v0.2; эту сборку автор описывает как предварительную и рекомендует дождаться официального релиза весов FP16 от Mistral AI. Лицензия — Apache-2.0.

legraphista/Mistral-7B-v0.3-IMat-GGUF — это набор GGUF-квантизованных версий базовой модели mistralai/Mistral-7B-v0.3. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Квантизацию выполнил legraphista с использованием llama.cpp b3003 и метода IMatrix на основе калибровочного набора данных. Модель имеет около 7 миллиардов параметров и поставляется в вариантах от BF16 и F16 до различных уровней Q- и IQ-квантизации размером примерно от 1,76 до 14,50 ГБ. IMatrix применена к ряду вариантов Q4 и ниже, что может помогать сохранять качество при уменьшении размера. Более компактные файлы удобны для запуска на ограниченных по памяти устройствах, однако сильная квантизация может снижать точность и качество генерации. В README не указаны поддерживаемые языки, длина контекста, точная архитектура и результаты бенчмарков. Распространение заявлено по лицензии Apache-2.0.

Это 4-битная MLX-версия модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral AI и конвертированной сообществом mlx-community из исходной модели mistralai/Devstral-Small-2-24B-Instruct-2512. Модель предназначена для диалоговых и инструкционных сценариев, а также для задач преобразования изображений и текста в текст, включая описание изображений. Модель содержит 24 миллиарда параметров, относится к семейству Mistral и поддерживает мультимодальный режим с обработкой изображений и текста. Она преобразована в формат MLX и использует 4-битное квантование, что уменьшает требования к памяти по сравнению с полноразмерной версией. README не содержит сведений о длине контекста, поддерживаемых языках, точной архитектуре или результатах тестирования. К сильным сторонам относятся инструкционный режим, мультимодальные возможности и компактное 4-битное представление для запуска через mlx-vlm. Ограничения включают отсутствие в README подробностей о качестве, языковой поддержке, контекстном окне и аппаратных требованиях; кроме того, квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

Ministral-3-8B-Reasoning-2512-GGUF — это набор GGUF-квантизаций модели Ministral-3-8B-Reasoning-2512, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты, что делает её подходящей для генерации текста и мультимодальных сценариев image-text-to-text, заявленных в карточке модели. В основе лежит модель с размером 8B параметров; доступны варианты от BF16 до квантизаций Q3–Q8 и IQ4 с размером файлов примерно от 4,57 до 16,99 ГБ. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура и размер контекста в README не указаны, формат промпта также не определён. Сильная сторона набора — широкий выбор уровней квантизации для баланса качества, потребления памяти и скорости локального вывода; варианты Q6_K_L и Q6_K отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как универсальный вариант. Ограничения включают отсутствие подробных сведений о возможностях исходной модели, контекстном окне и качестве работы с изображениями. Модель распространяется по лицензии Apache-2.0.

Mistral-Crab-SFT — англоязычная диалоговая языковая модель на архитектуре Mistral, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li. Модель дообучена на базе Mistral-7B-v0.3 для улучшения следования инструкциям со сложными ограничениями на формат, длину и содержание ответа. Модель предназначена для генерации ответов на английском языке в чат-сценариях, где требуется соблюдать несколько условий одновременно: например, задать нужную структуру, выдержать длину и включить заданные элементы. В работе для обучения использован набор CRAB, созданный методом constraint back-translation: к качественным парам инструкций и ответов добавлялись ограничения, уже выполненные в ответах. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Указанная лицензия — Apache-2.0. Карточка сообщает об улучшении следования сложным инструкциям, но не приводит численных результатов именно для этого чекпойнта; качество на других языках и пригодность для специализированных областей не установлены.

CreitinGameplays/Mistral-Nemo-12B-R1-v0.2 — дообученная автором CreitinGameplays разговорная модель для генерации текста и ответов на запросы с рассуждениями. Она основана на Mistral-Nemo-Instruct-2407 и обучалась один эпоху на наборе Magpie-Reasoning-V2-250K-CoT-Deepseek-R1-Llama-70B-filtered-mistral; автор сообщает, что обучение заняло 12 часов на одной Nvidia H100. Модель использует плотную архитектуру Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов. Она работает через Transformers, доступна в формате safetensors и поддерживает текстовый диалог и интерфейс вызова инструментов. В метаданных указан английский язык; основная задача — генерация текста. Лицензия — MIT. README содержит пример генерации ответа на вопрос, но не приводит систематических оценок качества, поэтому надёжность рассуждений и результатов на разных задачах по карточке установить нельзя.