I.5Создание и редактирование текста

MiquMaid-120B — слитая модель для генерации текста и диалогов, созданная автором репозитория MergeFuel с помощью mergekit. В неё вошли Undi95/Miqu-MS-70B и NeverSleep/MiquMaid-v3-70B; использован метод passthrough merge. Модель основана на архитектуре Llama, содержит 117,5 млрд параметров и принимает текст, формируя текстовые ответы. Максимальная длина контекста — 32 764 токена. Модель подходит для генерации текста и ведения диалогов, включая ролевые сценарии. В репозитории указаны веса Safetensors и библиотека Transformers. Лицензия в предоставленных данных не указана.

Miqu-MS-70B — объединённая модель генерации текста, созданная автором репозитория Undi95 методом Model Stock с помощью mergekit. В основе слияния лежит 152334H/miqu-1-70b-sf; также объединены Tess-70B-v1.6, MiquMaid-v2-70B и Midnight-Miqu-70B-v1.0. Модель семейства Llama имеет плотную архитектуру LlamaForCausalLM и 68,7 млрд параметров. Она предназначена для генерации текста и диалогов; в README приведены варианты шаблонов запросов Alpaca, Mistral и Vicuna. Контекст составляет 32 764 токена. Доступны веса в формате safetensors, а для модели также упомянуты сторонние квантованные варианты. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не приводит результатов сравнительной оценки качества; поскольку модель объединяет компоненты с разными форматами запросов, автор предлагает несколько шаблонов промптов.

MiquSuperdark-70B-v1 — слитая чат-модель, созданная автором репозитория ddh0 на основе четырёх моделей семейства Miqu. Она предназначена для диалогов общего назначения и художественного письма; README отмечает, что версия v2 превосходит эту модель и рекомендует использовать её вместо v1. Модель использует плотную архитектуру Llama с 68,7 млрд параметров и контекстом до 32 764 токенов. Это текстовая модель: она принимает текстовые запросы и генерирует текстовые ответы. Для общения подходят форматы Alpaca и описанный в README формат без обязательных переводов строк. Модель получена методом DARE Linear merge. В смесь вошли sophosympatheia/Midnight-Miqu-70B-v1.5, NeverSleep/MiquMaid-v3-70B, maywell/miqu-evil-dpo и 152334H/miqu-1-70b-sf; токенизатор скопирован из последней. Лицензия в метаданных указана как unknown.

Карточка модели NostraEmpire/mirror-olmo-2-13b-instruct на Hugging Face совпадает с карточкой allenai/OLMo-2-1124-13B-Instruct, поэтому описание составлено по ней. OLMo-2-1124-13B-Instruct — разговорная языковая модель Allen Institute for AI (AI2), постобученная на основе OLMo-2 13B. Она прошла supervised fine-tuning на варианте набора Tülu 3 и обучение RLVR; метаданные указывают базовую модель allenai/OLMo-2-1124-13B-Instruct-RLVR2. Модель с плотной архитектурой OLMo 2 содержит 13,2 млрд параметров, использует Transformers и формат safetensors, а её контекст составляет 4096 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и решение математических задач. Обучение ориентировано преимущественно на английский язык и охватывает разнообразные задачи, включая MATH, GSM8K и IFEval. Модель распространяется по лицензии Apache 2.0. У OLMo-2 ограничено обучение безопасности; без дополнительной фильтрации она может выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Hugging Face README сообщает о необходимости установить Transformers из основной ветки.

sandeeparmada/mistalai_finetuned — дообученная автором sandeeparmada языковая модель семейства Mistral для генерации текста и диалогов. В основе лежит unsloth/mistral-7b-instruct-v0.3-bnb-4bit; модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Контекстное окно составляет 32 768 токенов, формат весов — Safetensors. Модель предназначена для генерации ответов и ведения диалога на английском языке. В карточке указано, что обучение выполнялось с Unsloth и библиотекой TRL; подробности о данных и специализации дообучения не приведены. Распространяется по лицензии Apache-2.0.

NeverSleep/Mistral-11B-AirOmniMix — объединённая автором модель на архитектуре Mistral для генерации текста. В состав смеси входят Mistral-7B-OpenOrca, Mistral-7B-v0.1-Open-Platypus, CollectiveCognition-v1.1-Mistral-7B и airoboros-mistral2.2-7b; автор сообщает, что объединил их с помощью mergekit. Репозиторий содержит веса FP16 в формате safetensors. Модель насчитывает 10,6 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге, следования инструкциям и решения общих текстовых задач. README приводит шаблоны USER/ASSISTANT и результаты собственных тестов на задачах ARC; эти оценки не являются независимой проверкой качества. Метаданные не подтверждают поддержку конкретных языков, поэтому языковые возможности здесь не уточняются. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Карточка модели princeton-nlp/Mistral-7B-Base-SFT-SLiC-HF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Norquinal/Mistral-7B-claude-chat — плотная авторегрессионная языковая модель семейства Mistral, созданная дообучением Mistral-7B-v0.1 с помощью QLoRA на случайной выборке примерно из 1000 диалогов датасета claude_multiround_chat_30k. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоговом формате Vicuna 1.1: она принимает пользовательский запрос и формирует ответ ассистента. Модель предназначена для многоходового общения, ответов на вопросы и подробных объяснений. В карточке приведён пример запроса об особенностях китайской кухни. Заявленная длина контекста — 32 768 токенов. Веса доступны в формате PyTorch; дообучение выполнялось в 4-битной точности, но это само по себе не указывает на формат опубликованных весов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Карточка модели KakaoL0L/Mistral7B_CVetOFFRE3_lora на Hugging Face совпадает с карточкой KakaoL0L/mistral_CVetOFFRElast_16bit, поэтому описание составлено по ней. KakaoL0L/mistral_CVetOFFRElast_16bit — дообученная языковая модель KakaoL0L на базе unsloth/mistral-7b-instruct-v0.2-bnb-4bit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Для обучения использовались Unsloth и библиотека Hugging Face TRL; модель принимает текст и генерирует текст, а заявленная длина контекста составляет 32 768 токенов. Модель может служить основой для чат-ботов и генерации ответов на текстовые запросы. В карточке указаны английский язык и лицензия Apache-2.0. Специализированная область применения и ограничения качества в описании модели не приведены.

lvkaokao/mistral-7b-finetuned-orca-dpo-v2 — текстовая генеративная модель, дообученная на базе Mistral-7B-v0.1 с использованием открытого датасета Open-Orca/SlimOrca. Она предназначена для генерации ответов и диалоговых сценариев общего назначения. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Карточка указывает на дообучение на инструкционном датасете, поэтому модель подходит для ответов на запросы, следования инструкциям и ведения текстового диалога. В метаданных перечислены Mistral и text-generation; конкретные языковые возможности и отдельные гарантии качества карточка не уточняет.

MaziyarPanahi/Mistral-7B-Instruct-KhanAcademy-v0.2-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе MaziyarPanahi/Mistral-7B-Instruct-KhanAcademy-v0.2. Исходная модель основана на Mistral-7B-Instruct-v0.2 от Mistral AI и относится к классу генеративных текстовых моделей с примерно 7 миллиардами параметров. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Указана совместимость с инструментами, поддерживающими GGUF, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. К сильным сторонам относятся широкий выбор уровней квантования и возможность локального использования на поддерживаемом оборудовании. Ограничения связаны с возможной потерей качества при более агрессивном квантовании; точные характеристики контекстного окна, языков и мультимодальности в представленном README не указаны. Для модели указана лицензия Apache-2.0.

QuantFactory/Mistral-7B-Instruct-RDPO-GGUF — квантизированная версия модели princeton-nlp/Mistral-7B-Instruct-RDPO, созданная с использованием llama.cpp. Исходная модель связана с исследовательской работой SimPO: Simple Preference Optimization with a Reference-Free Reward, опубликованной Princeton NLP; подробности представлены в репозитории проекта SimPO. Модель предназначена для генерации текста и использования в сценариях инструкционного следования, где требуется применять предпочтения, полученные в ходе оптимизации без эталонной reward-модели. В README указаны библиотека Transformers и задача text-generation. Базовая архитектура — Mistral с 7 миллиардами параметров; формат GGUF и квантизация предназначены для более компактного хранения и запуска через совместимые инструменты, включая llama.cpp. В доступных данных не указаны поддерживаемые языки, размер контекста, конкретный метод и уровень квантизации, результаты тестирования, аппаратные требования и ограничения качества. Лицензия также не указана, поэтому условия использования следует уточнять в исходном репозитории или карточке базовой модели.

Карточка модели princeton-nlp/Mistral-7B-Instruct-RRHF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Mistral-7B-Instruct-v0.1 — чат-модель Mistral AI, полученная дообучением Mistral-7B-v0.1. Она предназначена для диалогов и генерации ответов на запросы; архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. README показывает форматирование запросов через токенизатор Mistral и генерацию текста с помощью mistralinference. Модель подходит для диалоговых приложений, ответов на вопросы и демонстрации адаптации базовой модели к инструкциям. По README, у неё нет механизмов модерации, поэтому выходы могут не соответствовать требованиям приложений, которым нужны встроенные защитные ограничения. Лицензия — Apache-2.0.

Это квантизированная версия в формате GGUF модели MaziyarPanahi/Mistral-7B-Instruct-v0.1-16k-Mistral-7B-Instruct-v0.2-slerp. Модель разработана и подготовлена MaziyarPanahi; исходная версия получена объединением Mistral-7B-Instruct-v0.1-16k от NurtureAI и Mistral-7B-Instruct-v0.2 от Mistral AI методом slerp. Модель предназначена для генерации текста и работы с инструкциями, включая локальные чат-сценарии и другие задачи text generation, совместимые с поддерживаемыми GGUF инструментами. Модель имеет около 7 миллиардов параметров и работает только с текстом. Доступны варианты квантизации с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством. README не указывает точный размер контекстного окна объединённой модели, языки, результаты тестирования или специализированные преимущества. Формат GGUF поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими совместимыми средствами, поэтому модель подходит для локального запуска на различных платформах, в том числе с GPU-ускорением. Ограничениями являются зависимость характеристик от выбранного уровня квантизации и отсутствие подтверждённых в README данных о качестве, языковой специализации и производительности. Модель распространяется по лицензии Apache-2.0.

iemon-kun/Mistral7BInstructv0.2-RakutenAI7Bchat — объединённая диалоговая языковая модель, созданная автором репозитория с помощью mergekit и метода SLERP на основе Mistral-7B-Instruct-v0.2 и RakutenAI-7B-chat. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Её можно использовать для чат-ботов, ответов на вопросы и создания текстовых черновиков. Указанные базовые модели ориентированы на английский и японский языки; README не сообщает отдельные результаты оценки качества объединённой модели. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

Это разговорная языковая модель Arcee-ai, созданная на основе Mistral-7B-Instruct-v0.2 с помощью прореживания слоёв. Авторы применили идеи из работы «The Unreasonable Ineffectiveness of the Deeper Layers» и инструменты MergeKit и PruneMe, чтобы сократить избыточность глубоких слоёв. Модель имеет плотную архитектуру MistralForCausalLM, около 5,4 млрд параметров и контекст до 32 768 токенов; распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации связного текста в диалоге, а также может служить основой для дообучения и продолжения предобучения под конкретные задачи. README заявляет о сохранении исходных возможностей при меньших требованиях к ресурсам, однако не приводит результатов бенчмарков, поэтому качество и выигрыш эффективности следует проверять для целевого сценария. Лицензия в предоставленных данных не указана.

ehristoforu/Mistral-7B-Instruct-v0.3-pruned — это созданная с помощью mergekit модель на архитектуре Mistral, полученная методом passthrough из частей mistralai/Mistral-7B-Instruct-v0.3. В конфигурации объединения сохранены слои 0–20 и 29–31; итоговая модель содержит 5,4 млрд параметров и распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста по инструкциям. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указана библиотека Transformers. Сведения о поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют. Это производная от инструктивной модели Mistral AI, но в README описано удаление части слоёв, а не обычное дообучение. Поэтому её характеристики качества и совместимость с ожидаемыми шаблонами Mistral следует проверять на конкретных задачах.

DanDev/Mistral-7B-LexisGen — дообученная DanDev языковая модель семейства Mistral для генерации текста в диалоговом формате. Она основана на unsloth/mistral-7b-instruct-v0.2-bnb-4bit и обучена с использованием Unsloth и библиотеки TRL. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для диалоговой генерации текста на английском языке. Репозиторий содержит веса в формате safetensors; заявлена лицензия Apache-2.0. Карточка не описывает специализированную предметную область или конкретные преимущества и ограничения качества.

MaziyarPanahi/Mistral-7B-Merge-14-v0.1-Mistral-7B-Instruct-v0.1 — текстовая чат-модель, созданная слиянием Mistral-7B-Instruct-v0.1 от Mistral AI и EmbeddedLLM/Mistral-7B-Merge-14-v0.1. В README указано, что использован метод SLERP с настройками смешивания для слоёв self-attention и MLP; результат сохранён в формате bfloat16. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции и диалоговые запросы. В метаданных указан английский язык и возможность чата. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о дополнительных возможностях слияния.

EmbeddedLLM/Mistral-7B-Merge-14-v0.4 — экспериментально собранная языковая модель на архитектуре Mistral с 7,1 млрд параметров. Авторы объединили 14 моделей методом DARE TIES, а результат дополнительно объединили с Weyaxi/OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp методом Gradient SLERP. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Поддерживает шаблоны ChatML и Llama-2 chat, английский язык и контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средняя оценка 71,19, включая ARC, HellaSwag и MMLU; авторы отмечают, что модели может потребоваться дополнительное дообучение на инструкциях. Лицензия — Apache-2.0.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v3 — диалоговая языковая модель на архитектуре Mistral, разработанная на основе наборов данных OpenOrca и OpenAssistant oasst_top1 от 25 августа 2023 года. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате, включая ответы на вопросы и ведение беседы. Модель работает через Transformers и принимает текст, выдавая текст. Заявленная длина контекста составляет 32 768 токенов. В метаданных перечислены 20 языков: болгарский, каталонский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0. README не содержит подробных сведений об обучении или оценки качества; ответы модели могут быть неточными или содержать ошибки.

bhenrym14/mistral-7b-platypus-fp16 — плотная языковая модель Mistral на 7,1 млрд параметров, созданная на основе mistralai/Mistral-7B-v0.1. Автор дообучил её на инструкциях из набора garage-bAInd/Open-Platypus, используя объединённый QLoRA-адаптер ранга 64. Модель предназначена для генерации текста в ответ на инструкции и запросы; в карточке приведены результаты тестов ARC, HellaSwag и MMLU. Модель рассчитана на контекст до 32 768 токенов и использует архитектуру MistralForCausalLM. Для работы карточка рекомендует загрузку через Transformers; на момент её написания требовалась версия библиотеки из исходного кода. Обучение велось с устаревшим системным промптом Airoboros версии ниже 2.0, что важно учитывать при подготовке запросов. Это дообученная модель, а не исходная разработка автора репозитория. В карточке не приведены сведения о лицензии, поэтому условия использования следует проверять у базовой модели и в репозитории. Описанные бенчмарки не гарантируют качество на произвольных задачах; автор также отмечает, что скользящее оконное внимание и размер модели могут ограничивать её конкурентоспособность при работе с длинным контекстом.

TheBloke/Mistral-7B-v0.1-GGUF — это набор квантованных файлов в формате GGUF для предварительно обученной языковой модели Mistral 7B v0.1, разработанной Mistral AI. Репозиторий подготовлен TheBloke и предназначен для генерации текста и локального запуска модели через llama.cpp и совместимые интерфейсы и библиотеки. Модель относится к архитектуре Mistral и содержит около 7 миллиардов параметров. Доступны варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между размером, скоростью и качеством. Поддерживается текстовый ввод и вывод; шаблон промпта не задан, поэтому используется непосредственная передача текста. Максимальная поддерживаемая длина последовательности для GGUF-версии указана как 4096 токенов или меньше. Сильные стороны модели — возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими инструментами. Ограничения включают отсутствие поддержки последовательностей длиннее 4096 токенов в данном формате и потенциальное снижение качества в более агрессивно квантованных вариантах. Языки, на которых модель обучалась, и специализированные сценарии её применения в README не указаны. Модель распространяется по лицензии Apache 2.0.

Это шардинг версии Mistral-7B-v0.1 — предварительно обученной языковой модели Mistral AI с 7,1 млрд параметров. Весовые файлы разбиты на части размером до 2 ГБ, чтобы снизить требования к оперативной памяти при загрузке; модель сохраняет исходные параметры Mistral-7B-v0.1 и представлена в форматах PyTorch и Safetensors. Модель предназначена для генерации текста и может служить базой для приложений на основе языковых моделей и дальнейшей адаптации под конкретные задачи. Архитектура — плотный Transformer с Grouped-Query Attention и Sliding-Window Attention; нативный контекст составляет 32 768 токенов. По заявлению карточки, модель превосходит Llama 2 13B на проверенных разработчиками бенчмарках. Модель не имеет встроенных механизмов модерации, поэтому сгенерированный текст может быть неподходящим или небезопасным. Распространяется по лицензии Apache-2.0.

RESMPDEV/Mistral-7B-v0.2 — конвертированная сборка весов Mistral AI на основе Mistral-7B-v0.2. Репозиторий содержит плотную авторегрессионную модель MistralForCausalLM примерно с 7,1 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате PyTorch и safetensors. Модель предназначена для генерации текста и диалогового использования. Автор карточки сообщает, что веса FP16 были напрямую преобразованы из монолитного файла pickle в safetensors с построением индекса. В README отмечены неоптимальность конвертации и возможное смешение файлов Mistral-7B-v0.1 и v0.2; эту сборку автор описывает как предварительную и рекомендует дождаться официального релиза весов FP16 от Mistral AI. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия Devstral-Small-2505, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. README не уточняет её специализированные сценарии применения, однако формат и базовая модель ориентированы на работу с текстовыми запросами и, вероятно, задачами разработки, соответствующими семейству Devstral. Доступны варианты от BF16 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 11,47 до 47,15 ГБ. Указаны языки: английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других. README не содержит сведений о числе параметров, архитектуре, размере контекста или точных характеристиках качества. Для vision предусмотрен файл mmproj от Mistral Small 3.1, но эта поддержка неофициальна и может работать неидеально. Сильными сторонами являются широкий выбор квантизаций для разного объёма памяти и возможность локального запуска; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как подходящий вариант по умолчанию. Ограничениями являются значительные требования к дисковому пространству и памяти, а также возможное снижение качества в компактных вариантах. Модель распространяется по лицензии Apache-2.0.

Ministral-3-14B-Instruct-2512-GGUF — это GGUF-квантизированная версия инструкционной модели Ministral-3-14B-Instruct-2512, разработанной Mistral AI и подготовленной квантизатором bartowski. Модель предназначена для запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp, включая сценарии генерации текста и работы с изображениями согласно заявленному типу pipeline image-text-to-text. Модель имеет около 14 млрд параметров в исходной версии, а репозиторий содержит варианты от BF16 до низкобитных форматов Q3 и IQ4. Доступны версии с разным компромиссом между качеством, размером и требованиями к памяти; рекомендуемыми названы некоторые варианты Q4–Q6. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура и размер контекстного окна в README не указаны, а формат промпта рекомендуется уточнять на странице исходной модели. Основные преимущества этой версии — возможность локального запуска, широкий выбор уровней квантизации и применение imatrix-калибровки для снижения потерь качества. Ограничения связаны с тем, что низкобитные варианты требуют компромисса между качеством и потреблением памяти, а подробные сведения о возможностях, контекстном окне и ограничениях исходной модели в README отсутствуют. Репозиторий распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия Mistral-Medium-3.5-128B, разработанной Mistral AI и квантизированной пользователем bartowski с помощью llama.cpp и imatrix. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, включая обработку текстовых запросов и изображений в совместимых инструментах. Доступны варианты для llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI, vLLM и других решений. Модель содержит 128 миллиардов параметров. В README заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Представлены варианты квантования от Q3 до Q8 с размером файлов примерно от 63 до 133 ГБ; более качественные варианты требуют больше оперативной или видеопамяти. Для мультимодального режима требуется совместимый mmproj-файл, при этом указано, что корректно работают варианты bf16 и f32, а f16 может давать некогерентные результаты. Исправлены настройки RoPE и связанные параметры квантования. Сильными сторонами являются большой размер, широкая языковая поддержка и наличие вариантов квантования, позволяющих выбирать между качеством и требованиями к памяти. Ограничениями выступают очень высокие аппаратные требования, необходимость совместимого ПО и возможные проблемы мультимодального режима с отдельными настройками mmproj. Лицензия указана как other; конкретные условия в README не приведены.

Карточка модели grimjim/mistralai-Mistral-Nemo-Base-2407 на Hugging Face совпадает с карточкой mistralai/Mistral-Nemo-Base-2407, поэтому описание составлено по ней. Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.