II.6Документация и сопровождение разработки

MISCHIEVOUS-12B-Mix_0.6v — языковая модель для генерации текста, созданная bamec66557 с помощью слияния предварительно обученных моделей через mergekit методом SLERP. В состав слияния вошли bamec66557/MISCHIEVOUS-12B-Mix_III_IV_V и bamec66557/MISCHIEVOUS-12B-Mix_0.4v. Модель построена на архитектуре Mistral с плотной декодерной трансформерной сетью MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового использования на английском языке. Метаданные указывают интерфейс вызова инструментов. Заявленная длина контекста составляет 1 024 000 токенов. Файлы представлены в формате safetensors. В карточке приведены результаты Open LLM Leaderboard, включая среднее значение 23,84 и оценку IFEval 43,66. Модель распространяется по лицензии Apache-2.0. Результаты бенчмарков сами по себе не гарантируют качество для конкретных задач; из-за слияния характеристики могут отличаться от исходных моделей.

Карточка модели princeton-nlp/Mistral-7B-Base-SFT-CPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

mistral-7b-distilabel-truthy-dpo — языковая модель на архитектуре Mistral, созданная дообучением mistralai/Mistral-7B-v0.1 методом DPO на датасете mlabonne/distilabel-truthy-dpo-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации ответов и текстовых продолжений с настройкой предпочтений через DPO. В README указаны параметры LoRA: r=16, alpha=16 и dropout=0,05. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Карточка модели princeton-nlp/Mistral-7B-Instruct-CPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Mistral-7B-Instruct-IPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

Карточка модели princeton-nlp/Mistral-7B-Instruct-ORPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

Карточка модели princeton-nlp/Mistral-7B-Instruct-RRHF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Mistral-7B-Instruct-SLiC-HF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

unsloth/mistral-7b-instruct-v0.2 — разговорная инструктивная модель семейства Mistral, представленная Unsloth. Это плотная причинная языковая модель MistralForCausalLM с 7,1 млрд параметров; она предназначена для генерации текста, диалогов и выполнения инструкций. Метаданные указывают поддержку контекста до 32 768 токенов и английский язык. Модель подходит для чат-ботов и текстовых приложений, которым нужна генерация ответов по запросу. Карточка Unsloth описывает ноутбуки для дообучения Mistral 7B, в том числе разговорный вариант с шаблонами ShareGPT ChatML и Vicuna; однако она не подтверждает, что именно этот репозиторий содержит результат такого дообучения. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0. Показатели ускорения и экономии памяти в README относятся к процессу дообучения в ноутбуках, а не к скорости или качеству вывода этой модели.

RedHatAI/Mistral-7B-Instruct-v0.3-FP8 — квантизированная версия текстовой instruction-модели Mistral-7B-Instruct-v0.3, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена прежде всего для англоязычного ассистентского диалога, включая чат-ботов и исследовательские или коммерческие приложения. Дата выпуска — 26 июня 2024 года, версия 1.0. Модель использует архитектуру Mistral-7B-Instruct-v0.3 и квантизацию весов и активаций в формат FP8. Квантизации подвергнуты линейные операторы внутри transformer-блоков с применением симметричного масштабирования по тензору. Это примерно вдвое уменьшает число битов на параметр, размер модели на диске и требования к памяти GPU по сравнению с 16-битным представлением. Модель подготовлена для инференса через vLLM версии 0.5.0 и новее; в README также указан контекст длиной 4096 токенов для процедуры оценки и примеров использования. По данным OpenLLM Leaderboard v1, средний результат FP8-версии составляет 65,85 против 66,33 у неквантизированной модели, что указывает на небольшую потерю качества при заметном снижении требований к ресурсам. Ограничения включают ориентацию на английский язык: использование на других языках указано как выходящее за заявленную область применения. Условия лицензии — Apache 2.0; использование должно соответствовать применимым законам и нормативным требованиям.

Mistral-7B-Instruct-v0.3-GGUF — квантизированная версия инструкционной модели Mistral-7B-Instruct-v0.3, разработанной mistralai и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для диалогового взаимодействия и запуска локальных сервисов генерации текста, включая сценарии с использованием инструментов через LlamaEdge. Модель имеет размер 7B параметров и поддерживает контекст до 32 000 токенов. В репозитории представлены варианты квантизации от Q2_K до Q8_0, а также f16; их размер составляет примерно от 2,72 до 14,5 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу между размером и качеством, тогда как более агрессивная квантизация уменьшает требования к ресурсам, но может заметно ухудшать качество. Сведения о модальностях и поддерживаемых языках в README не указаны. Модель подходит для локального чата, генерации текста и интеграции в приложения через LlamaEdge с шаблонами Mistral Instruct и Mistral Tool. К ограничениям относятся компромиссы между размером файла и качеством, характерные для квантизированных версий, а также отсутствие в предоставленных данных результатов тестирования и подробностей об аппаратных требованиях. Распространяется по лицензии Apache-2.0.

MaziyarPanahi/mistral-7b_open_platypus-Mistral-7B-Instruct-v0.1 — языковая чат-модель, созданная слиянием Mistral-7B-Instruct-v0.1 и mistral-7b_open_platypus методом SLERP. Она предназначена для генерации ответов на инструкции и диалоговые запросы. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке указана поддержка английского языка. Модель распространяется в формате safetensors по лицензии Apache-2.0. Подходит для чат-ботов и других приложений, которым нужны ответы на текстовые запросы. Сведения о специализированной области применения и отдельных ограничениях качества в карточке не приведены.

bhenrym14/mistral-7b-platypus-fp16 — плотная языковая модель Mistral на 7,1 млрд параметров, созданная на основе mistralai/Mistral-7B-v0.1. Автор дообучил её на инструкциях из набора garage-bAInd/Open-Platypus, используя объединённый QLoRA-адаптер ранга 64. Модель предназначена для генерации текста в ответ на инструкции и запросы; в карточке приведены результаты тестов ARC, HellaSwag и MMLU. Модель рассчитана на контекст до 32 768 токенов и использует архитектуру MistralForCausalLM. Для работы карточка рекомендует загрузку через Transformers; на момент её написания требовалась версия библиотеки из исходного кода. Обучение велось с устаревшим системным промптом Airoboros версии ниже 2.0, что важно учитывать при подготовке запросов. Это дообученная модель, а не исходная разработка автора репозитория. В карточке не приведены сведения о лицензии, поэтому условия использования следует проверять у базовой модели и в репозитории. Описанные бенчмарки не гарантируют качество на произвольных задачах; автор также отмечает, что скользящее оконное внимание и размер модели могут ограничивать её конкурентоспособность при работе с длинным контекстом.

Mistral-7B-v0.1-DPO — дообученный адаптер на основе исходной модели Mistral-7B-v0.1. Разработчик дообучил языковую модель, включая LM head и модули внимания и MLP: k_proj, gate_proj, v_proj, up_proj, q_proj, o_proj и down_proj. Модель предназначена для генерации текста. Она построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке указана лицензия Apache-2.0. README не сообщает, на каких данных и по какой процедуре выполнялось DPO-дообучение, и не приводит оценки качества или список поддерживаемых языков. Поэтому пригодность модели для конкретного языка или сценария следует проверять отдельно.

mncai/mistral-7b-v5 — языковая модель MindsAndCompany на архитектуре Mistral, основанная на mistral-7b. Согласно карточке, модель прошла инструкционное дообучение и оптимизацию DPO. Она предназначена для генерации ответов на инструкции и диалоговых сценариев; в примере из карточки пользователь задаёт вопрос на корейском языке и просит объяснить решение. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст. Указанная длина контекста — 32 768 токенов. В метаданных отмечен английский язык; пример также демонстрирует ввод на корейском, но этого недостаточно, чтобы считать корейский заявленным поддерживаемым языком. Модель может быть полезна для прототипов бизнес-чатботов и ассистентов, упомянутых разработчиком. Лицензия указана как llama2; перед использованием следует проверить её условия для конкретного сценария.

mattshumer/mistral-8x7b-chat — чат-модель на архитектуре Mistral MoE, дообученная Matt Shumer на SlimOrca в течение одной эпохи с помощью QLoRA. Она предназначена для диалогов и генерации ответов по запросу; запуск возможен через Transformers с AutoModelForCausalLM и AutoTokenizer. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. В репозитории представлены веса PyTorch. Карточка описывает обучение на шести H100 в течение девяти часов, но не приводит оценок качества или подробностей о языках и ограничениях ответов. Лицензия в предоставленных данных не указана.

Mistrality-7B — языковая модель для генерации текста и диалогов, созданная flemmingmiguel путём слияния моделей argilla/distilabeled-Hermes-2.5-Mistral-7B и EmbeddedLLM/Mistral-7B-Merge-14-v0.4 методом SLERP с помощью LazyMergekit. Модель основана на архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель подходит для диалоговых ассистентов, генерации ответов и продолжения текста. В карточке не приведены сведения о целевых языках, специальных областях применения или результаты сравнительных оценок, поэтому качество в конкретных сценариях не установлено. Лицензия — Apache-2.0.

mistral-megamerge-dare-7b — объединённая разговорная языковая модель на архитектуре Mistral, созданная martyn на основе Mistral-7B-Instruct-v0.2 и нескольких моделей Mistral 7B для кода и диалога. Слияние выполнено методом DARE с параметрами p=0.12 и lambda=2.1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов на английском языке. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Карточка не описывает отдельные результаты оценки качества или гарантии для конкретных задач.

Mistral-Nemo-Instruct-2407-IMat-GGUF — это набор квантизированных версий instruct-модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной в формат GGUF пользователем legraphista. Квантизация выполнена с помощью llama.cpp на основе исходных весов BF16; для ряда вариантов применена IMatrix-калибровка, предназначенная для снижения потерь качества при уменьшении размера модели. Модель предназначена для генерации текста и диалогового использования в локальных приложениях, совместимых с llama.cpp и форматом GGUF. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других форматов; размеры файлов варьируются примерно от 4,79 до 24,50 ГБ. Основное преимущество набора — выбор между качеством, требованиями к памяти и скоростью локального запуска. IMatrix применяется в некоторых вариантах с более сильным сжатием, включая Q4_K, Q3_K и Q2_K, однако README не содержит результатов сравнительных тестов, точных характеристик архитектуры, числа параметров, размера контекста или требований к оборудованию. Поэтому качество и производительность зависят от выбранного варианта квантизации и среды выполнения. Лицензия модели — Apache-2.0.

ISTA-DASLab/Mistral-Small-3.1-24B-Instruct-2503-GPTQ-4b-128g — квантированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, опубликованная ISTA-DASLab. Она предназначена для диалоговых задач, генерации и обработки текста, а также сценариев image-text-to-text, включая анализ изображений и ответы на вопросы по ним. Модель содержит 24 млрд параметров и использует INT4-квантование весов линейных операторов языковой части трансформера методом GPTQ с симметричной поканальной по группам схемой и размером группы 128. Визуальная модель и мультимодальный проекционный слой сохранены в исходной точности. Квантование сокращает размер на диске и требования к GPU-памяти примерно на 75%; чекпойнт сохранён в формате compressed_tensors. В README явно указан пример использования с vLLM и Transformers, а для оценки применялся vLLM. По сравнению с исходной моделью на наборе OpenLLM v1 средний результат снизился с 0,7910 до 0,7814, а показатель восстановления составил 0,9878, что указывает на небольшую потерю качества при существенном снижении требований к ресурсам. Ограничения включают зависимость от совместимых версий vLLM или Transformers и необходимость учитывать, что приведённые результаты получены при максимальной длине контекста 4096 токенов; другие характеристики контекста и поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.

Это квантованная версия Mistral Small 3.1 24B Instruct в формате GGUF. Исходную модель разработал mrfakename, а файлы GGUF подготовил MaziyarPanahi. Модель предназначена для генерации текста и может использоваться в локальных приложениях и интерфейсах, совместимых с GGUF, включая llama.cpp, llama-cpp-python, LM Studio и другие поддерживаемые клиенты. Ключевая характеристика репозитория — наличие вариантов квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством генерации. Точные сведения об архитектуре, размере контекста, поддерживаемых языках и модальностях в README не указаны, поэтому модель следует описывать как текстовую instruct-модель без дополнительных подтверждённых характеристик. Сильной стороной является возможность запуска в различных локальных средах с поддержкой CPU и GPU, включая серверные и OpenAI-совместимые интерфейсы некоторых клиентов. Ограничения зависят от выбранного уровня квантования и используемого программного обеспечения; более агрессивное квантование может влиять на качество. Лицензия в README не указана.

Mistral-Small-Instruct-2409-GGUF — это набор квантованных файлов в формате GGUF для инструкционной модели Mistral-Small-Instruct-2409, разработанной компанией mistralai. Квантование и публикацию этого варианта выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Набор включает варианты квантования с разной разрядностью — от 2 до 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; некоторые из них поддерживают GPU-ускорение и совместимый с OpenAI API сервер. Преимуществами являются возможность локального использования, широкий выбор уровней квантования и совместимость с популярной экосистемой llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, длине контекста, целевых модальностях, результатах оценки и лицензии. Поэтому эти характеристики и условия юридического использования следует уточнять по карточке исходной модели Mistral-Small-Instruct-2409 и сопутствующим материалам.

Mistral-Small-Instruct-2409-IMat-GGUF — это GGUF-квантизированная версия модели Mistral-Small-Instruct-2409, разработанной Mistral AI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3785 и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты экосистемы llama.cpp. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q5_K_S, Q4_K, Q4_K_S, IQ4_NL, IQ4_XS, Q3_K, Q3_K_L, Q3_K_S и Q2_K; размеры файлов варьируются примерно от 8,27 до 44,50 ГБ. IMatrix применяется к ряду вариантов с более сильным сжатием, включая Q4, Q3 и Q2, что позволяет уменьшить требования к хранению при сохранении качества, насколько это возможно для выбранного уровня квантизации. Сильная сторона модели — наличие большого выбора степеней квантизации для подбора компромисса между качеством, размером файла и требованиями к аппаратным ресурсам, а также поддержка нескольких языков. Ограничения конкретного варианта зависят от уровня квантизации: более компактные файлы могут уступать исходной BF16-модели в точности и качестве генерации. В README не указаны архитектурные параметры, число параметров, размер контекста и результаты бенчмарков. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

Mixtral_7Bx5_MoE_30B — языковая модель семейства Mixtral с архитектурой Mixture of Experts (MoE), опубликованная cloudyu. Согласно карточке, это объединение пяти моделей на базе Mistral 7B: Toten5/Marcoroni-neural-chat-7B-v1, NurtureAI/neural-chat-7b-v3-16k, mncai/mistral-7b-dpo-v6, cookinai/CatMacaroni-Slerp и ignos/Mistral-T5-7B-v1. Модель предназначена для генерации текста; карточка приводит примеры запуска на GPU и CPU. В репозитории указано 7,1 млрд параметров, контекст до 32 768 токенов и формат Safetensors. README не описывает специализацию и языковой охват, поэтому модель можно характеризовать только как генеративную языковую модель общего назначения. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

LeroyDyer/Mixtral_AI_CyberTron — языковая модель, созданная объединением предварительно обученных моделей с помощью mergekit. В слияние линейным методом вошли Mixtral_AI_AlphaTron, Mixtral_AI_MegaTron и версии LeroyDyer/Mixtral_AI_CyberTron_M3 и M4; веса сохранены в формате safetensors. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. Карточка не уточняет специализацию по языкам или прикладным областям. Для загрузки указана библиотека Transformers, лицензия не приведена.

QuixiAI/mixtral-instruct-0.1-laser — версия Mixtral-8x7B-Instruct, обработанная методом LaserRMT. В основе лежит разреженная архитектура Mixture of Experts семейства Mixtral; модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В карточке указано, что эта версия создана с помощью MPS-бэкенда LaserRMT. Модель принимает текстовые инструкции в формате [INST] ... [/INST] и выдаёт текстовые ответы. Контекст составляет 32 768 токенов; карточка перечисляет английский, французский, итальянский, немецкий и испанский языки. Файлы в формате Safetensors предназначены для запуска через vLLM или Transformers с учётом оговорок карточки об HF-совместимости. README описывает модель как демонстрацию дообучения базовой модели и отмечает отсутствие механизмов модерации. Для использования указана лицензия Apache-2.0.

Это размещённая Featherless AI сборка модели Llama 3.1 Nemotron 70B Instruct в формате GGUF с вариантами квантования. Она предназначена для генерации текста и диалогового общения; репозиторий перечисляет варианты IQ4_XS, Q2_K и Q3_K_L, а также сообщает о наличии ещё восьми строк вариантов квантования. Модель подходит для запуска чат-ассистента и генерации ответов на текстовые запросы. Размер базовой модели — 70 млрд параметров, однако размеры отдельных файлов в README относятся к папкам с вариантами квантования. Данных о поддерживаемых языках и длине контекста в предоставленных источниках нет. Варианты квантования позволяют выбирать между размером файлов и точностью представления весов; конкретные характеристики качества и требования к ресурсам не приведены. Лицензия в предоставленных данных не указана.

Mobiusv0.5 — объединённая языковая модель на архитектуре Mistral, созданная mashleburneded методом SLERP с помощью mergekit на основе Mistral-Small-Instruct-2409 и Codestral-22B-v0.1. Модель содержит 15,8 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых запросов; интерфейс модели также предусматривает вызов инструментов. В состав объединения входит Codestral, ориентированная на генерацию кода модель, однако README не описывает отдельные возможности или качество Mobiusv0.5 в программировании. Модель опубликована в формате safetensors и доступна через Transformers. Лицензия в предоставленных данных не указана.

Azazelle/Mocha-SR-7b-ex — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit из нескольких предварительно обученных моделей. В основу объединения вошли Open-Orca/Mistral-7B-OpenOrca, WizardLM/WizardMath-7B-V1.1 и Mistral-7B-v0.1-Open-Platypus; в README указан метод rescaled_sample и базовая модель mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста; заявленное окно контекста — 32 768 токенов. Смешение моделей общего диалога, математики и инструкционного следования может быть полезно для ответов на вопросы и решения задач с текстовым вводом. Репозиторий использует формат safetensors, библиотека — Transformers. Лицензия — CC BY 4.0.

stromano02/model — дообученная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Разработчик — stromano02; модель обучена с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогового общения, а также поддерживает интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Контекстное окно составляет до 131 072 токенов. Репозиторий содержит веса в форматах GGUF и safetensors; указана поддержка английского языка. Лицензия — Apache-2.0. README не описывает специальную предметную область или конкретные преимущества дообучения.