I.14Автоматизация процессов и AI-агенты

DistilabelCerberus-7B-slerp — слитая модель для генерации текста на основе Mistral, созданная с помощью mergekit из DistilabelBeagle14-7B и OpenHermes-2.5-Mistral-7B. В конфигурации применён метод слияния slerp с разными весами для слоёв self-attention и MLP; модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В карточке приведены результаты оценивания на наборах задач рассуждения, понимания здравого смысла и математики. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

Seznam.cz разработала Dist-MPNet-Paracrawl — компактную модель эмбеддингов на базе BERT, дистиллированную из sentence-transformers/all-mpnet-base-v2 на параллельном чешско-английском корпусе CzEng. Модель предназначена для оценки семантического сходства предложений и может применяться для поиска похожих текстов, извлечения релевантных документов, кластеризации и классификации. Модель содержит 27,2 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт представления для сравнения предложений. Она рассчитана на чешский и английский языки. Репозиторий содержит веса PyTorch; лицензия — CC BY-NC-SA 4.0, предусматривающая указание авторства, распространение производных работ на тех же условиях и ограничения на коммерческое использование.

guymorganb/e5-large-v2-4096-lsg-patched — версия модели intfloat/e5-large-v2 с архитектурой BERT и механизмом Local-Sparse-Global (LSG), подготовленная для обработки последовательностей длиной до 4096 токенов. Разработчик адаптировал её для работы с более новыми версиями Transformers, сохранив режим чистого энкодера и обработку масок внимания с плавающей точностью. Модель предназначена для кодирования запросов и текстовых фрагментов в эмбеддинги, например, для поиска и ранжирования passage. Карточка приводит пример на наборе MS MARCO. В метаданных указано 433,9 млн параметров и формат PyTorch; языковые сведения указывают на английский. Лицензия в предоставленных данных не указана.

ThanhLe0125/e5-math-ebd — дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-base. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости с помощью косинусного сходства. Архитектура использует XLM-RoBERTa, усреднение токенных представлений и нормализацию; в метаданных указано 305,2 млн параметров и контекст до 514 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации текстов и классификации на основе эмбеддингов. Название репозитория указывает на математическую тематику, но README не уточняет специальную область применения или обучающие данные. Лицензия в предоставленных данных не указана.

Карточка модели RedHatAI/e5-mistral-7b-instruct на Hugging Face совпадает с карточкой intfloat/e5-mistral-7b-instruct, поэтому описание составлено по ней. E5-mistral-7b-instruct — текстовая модель эмбеддингов, созданная командой авторов статьи «Improving Text Embeddings with Large Language Models». Это дообученная версия Mistral-7B-v0.1 с 32 слоями и размерностью эмбеддингов 4096; число параметров — 7,1 млрд. Модель принимает текст и преобразует его в векторы для поиска и сравнения текстов. Она поддерживает контекст до 32 768 токенов, однако авторы не рекомендуют подавать входы длиннее 4096 токенов. Модель предназначена для получения эмбеддингов с инструкциями, задающими цель поиска или сравнения. Инструкцию следует добавлять к запросу, но не к документу. Примеры сценариев — семантический поиск, ранжирование passage по запросу и оценка сходства предложений. Модель обучена на смеси многоязычных наборов данных, но ориентирована прежде всего на английский; в некоторых многоязычных сценариях она уступает multilingual-e5-large. Модель распространяется по лицензии MIT. Для воспроизводимости результатов учитывайте, что версии Transformers и PyTorch могут вызывать небольшие различия в оценках.

Англоязычная модель Sentence Transformer, созданная дообучением sentence-transformers/all-MiniLM-L6-v2 на наборе вопросов и ответов gooaq. Энкодер на архитектуре BERT преобразует предложения и абзацы в плотные векторы размерности 384; векторы нормализуются, а сходство можно оценивать косинусной мерой. В README указан предел последовательности 256 токенов, а метаданные каталога указывают контекст до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. Дообучение на парах «вопрос — ответ» ориентирует её на сопоставление вопросов с релевантными ответами. По результатам TripletEvaluator на gooqa-dev указана cosine accuracy 0,5936; качество на других данных может отличаться. Для работы с моделью подходит библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

ember-v1 — англоязычная модель эмбеддингов текста от vectoriseai, построенная на архитектуре BERT. Она обучена на корпусе пар текстов из разных областей, включая финансы, науку, медицину и право; при обучении использовались приёмы из работ RetroMAE и SetFit. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, например в поиске и ранжировании текстов. Модель содержит около 433,9 млн параметров и обрабатывает до 512 токенов; более длинные входы обрезаются. В README приведён результат 63,54 в среднем по 56 задачам MTEB при размерности эмбеддингов 1024. Доступны форматы PyTorch, safetensors и ONNX. Лицензия — MIT; разработчик также предлагает доступ к модели через API LLMRails.

Enteli-49B — текстовая генеративная модель, разработанная командой EnteliMind. В карточке заявлены возможности понимания и генерации текста, рассуждений, программирования и математических задач; также описана адаптация под отраслевые сценарии. Эти заявления о качестве и сравнении с GPT-3.5 не подтверждены приведёнными данными бенчмарков. Метаданные указывают архитектуру MixtralForCausalLM семейства Mixtral с разреженной смесью экспертов (MoE), 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогового использования и выдаёт текст; карточка описывает удобство интеграции через Hugging Face Transformers. README не сообщает поддерживаемые естественные языки или лицензию, поэтому их нельзя уточнить. Модель распространяется в формате safetensors. В карточке заявлены эксперименты с нормализацией EMADNorm, однако подробностей для оценки их влияния на качество не приведено.

Это GGUF-сборка Gemma-4-26B-A4B-it, подготовленная ironbcc для запуска через llama.cpp и LM Studio. Комплект включает основную 26-миллиардную MoE-модель Gemma-4 и вспомогательную модель-драфтер gemma-4-26B-A4B-it-assistant от Google для speculative decoding. Основная модель использует 128 экспертов; доступны варианты драфтера с квантованием Q2_K, Q4_K_M, Q8_0 и F16. Указан английский язык, а модель предназначена для генерации текста, диалогов, рассуждений и программного использования через совместимые серверы и клиенты. Максимальный контекст Gemma-4 заявлен как 256K токенов, однако конкретные возможности зависят от runtime и настроек. Ключевое преимущество сборки — ускорение генерации за счёт Multi-Token Prediction и speculative decoding: в приведённом тесте на Apple M5 Max скорость достигала примерно 1,55 раза относительно режима без MTP, а при отключении reasoning — до 143,2 токена в секунду. Q2_K-драфтер рекомендован как наиболее быстрый и показал наивысшую долю принятых токенов в тесте. Ограничения включают необходимость специальной ветки llama.cpp с поддержкой Gemma-4 MTP; на момент подготовки README эта функциональность ещё не была включена в основную ветку, а LM Studio требовал соответствующего runtime. Включение thinking повышает качество рассуждений, но снижает скорость. Основной файл имеет размер около 26 ГБ, поэтому запуск требует значительного объёма памяти; для полного контекста 256K README указывает примерно 31 ГБ RSS при старте с дальнейшим ростом потребления. Распространение заявлено по лицензии Apache-2.0, при этом для доступа к Gemma на Hugging Face необходимо принять условия использования Google.

Gixtral 100B — разговорная языковая модель для генерации текста и выполнения инструкций, созданная ehristoforu путём объединения нескольких моделей семейства Mixtral и WizardLM, включая Mixtral-8x22B-Instruct-v0.1, Mixtral-8x7B-Instruct-v0.1, Dolphin и WizardLM-2-8x22B. Архитектура — Mixtral с разреженной экспертной структурой (MoE); в метаданных указано 9,7 млрд параметров и контекстное окно 32 768 токенов. Модель подходит для диалогов, ответов на запросы, следования инструкциям и генерации текста на английском, французском, немецком, испанском и итальянском языках. Для объединения использованы наборы данных, включающие примеры для программирования и инструктивных диалогов. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README описывает модель как объединение моделей, хотя в метаданных среди базовых моделей также указаны Dolphin и WizardLM. Практические результаты объединения и сравнительные оценки в карточке не приведены; фактическое качество может зависеть от запроса и используемой конфигурации.

LibertAIDAI/GLM-5.3-Flash-NVFP4 — квантизированная версия мультимодальной модели GLM-5.3-Flash, разработанной Z.ai; квантизацию выполнила LibertAI, не связанная с Z.ai. Модель предназначена для работы с текстом и изображениями, включая задачи image-text-to-text, рассуждения и вызов инструментов. Поддерживаются английский и китайский языки. Это разреженная MoE-модель общим объёмом 320B параметров, из которых при обработке активны 18B. Она сочетает 34 слоя линейного внимания KDA и 11 слоёв разреженного внимания DeepSeek, имеет нативную мультимодальность и контекст до 1M токенов. Квантизация NVFP4-A16 применяется преимущественно к routed-expert FFN-тензорам, занимающим около 97% параметров; активации, механизм внимания, vision tower, эмбеддинги, нормализации и другие чувствительные компоненты сохраняются в BF16. Это уменьшает размер с 598,5 до 181 ГиБ при заявленном round-trip cosine 0,99665. Сильными сторонами являются значительное снижение требований к памяти, сохранение мультимодального поведения vision tower без изменений и совместимость с современными ускорителями NVIDIA Blackwell, включая H100, B200, GB200 и GB10/DGX Spark. Для запуска требуются поддерживаемые специализированные сборки vLLM или SGLang и корректная конфигурация движка; vLLM и SGLang пока не имеют полной поддержки архитектуры glm5_next в стандартных версиях. llama.cpp и формат GGUF не поддерживаются. Указанная лицензия — MIT.

granite-4.1-8b-heretic — это децензурированная версия IBM Granite 4.1 8B Instruct, созданная пользователем RACER IS OP на основе модели ibm-granite/granite-4.1-8b-instruct. Модель предназначена для генерации текста, диалоговых сценариев, написания кода, задач на рассуждение и других случаев, где требуется прямое следование инструкциям без типичных отказов базовой модели. Она ориентирована на локальный запуск на потребительских GPU, CPU и Apple Silicon, а также может использоваться через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Модель имеет нативный размер около 8,4 млрд параметров; доступны веса BF16 и варианты GGUF с квантованием Q4_K_M, Q5_K_M, Q6_K и Q8_0. В README указана поддержка английского языка, архитектурные детали и размер контекста не приведены. Децензурирование выполнено с помощью Heretic 1.4.0 методом directional ablation («abliteration»): целевые изменения весов внесены в выходные проекции attention и down-projections MLP без дообучения. Заявляется, что знания и основные возможности базовой модели в значительной степени сохранены. Сильной стороной модели является сочетание возможностей 8B-модели, доступности различных уровней квантования и подавления отказов, что делает её удобной для локального использования. Ограничение состоит в намеренном отсутствии дополнительной фильтрации безопасности: модель может выполнять запросы, от которых отказалась бы базовая версия, в том числе нежелательные. Поэтому разработчик рекомендует не использовать её за незащищёнными публичными интерфейсами без собственного контроля и модерации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

IndicSBERT-Matryoshka — дообученная модель семейства BERT для получения векторных представлений предложений на 11 основных индийских языках. Она разработана для использования с Sentence Transformers и обучена с MatryoshkaLoss на основе CoSENTLoss: модель оптимизирует эмбеддинги полной размерности и усечённые представления размером 512, 256, 128 и 64, что позволяет выбирать компромисс между размером вектора и качеством для конкретного сценария. В метаданных указаны 264,8 млн параметров и контекст до 512 токенов. Модель подходит для сравнения семантической близости предложений и построения эмбеддингов для поиска по смыслу, кластеризации и группировки текстов. README указывает на дообучение на 11 индийских языках, а метаданные перечисляют языковые коды en, mr, or, te, ta, ml, pa, hi, gu, kn, bn и as; основной язык среди них не выделен. Модель распространяется по лицензии CC BY 4.0.

Indonesia Islamic Sentence-BERT — модель Sentence Transformers, дообученная автором ramadita на firqaaa/indo-sentence-bert-large. Она преобразует предложения и абзацы на индонезийском языке в плотные векторы размерностью 2048 для поиска по смыслу, сравнения сходства предложений, поиска перефразировок, классификации и кластеризации текста. Архитектура основана на BERT с пуллингом CLS- и средних токеновых представлений; максимальная длина входа — 512 токенов. Для сравнения векторов рекомендуется косинусное сходство. Модель рассчитана на индонезийский язык и опубликована в форматах safetensors и ONNX. В README приведены результаты TripletEvaluator на dev и test наборах, однако метрики зависят от этих данных. Лицензия — Apache-2.0.

indo-sentence-bert-base — модель на базе BERT, опубликованная пользователем firqaaa и подготовленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантического сходства, поиска по смыслу и кластеризации. Модель содержит 151,6 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение выполнялось с MultipleNegativesRankingLoss и косинусной мерой сходства; это делает модель подходящей для построения эмбеддингов индонезийского текста. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Карточка не приводит результатов оценки, поэтому качество для конкретных данных следует проверять отдельно.

unsloth/Jan-nano-128k-GGUF — это GGUF-квантизированная версия компактной языковой модели Jan-Nano-128k, разработанной Menlo Research авторами Alan Dao, Bach Vu Dinh и Thinh Le и опубликованной в формате Unsloth Dynamic 2.0. Модель предназначена для генерации текста и исследовательских задач, включая анализ длинных документов, обработку научных статей, синтез информации из нескольких источников, сложные рассуждения и многошаговые диалоги. Она совместима с серверами Model Context Protocol (MCP) и может использоваться локально, в том числе через Jan, с сохранением конфиденциальности данных. Ключевая характеристика модели — нативное контекстное окно до 128 000 токенов, рассчитанное на эффективную работу с длинными контекстами без типичной деградации производительности при их расширении. В README не указаны точный размер модели, базовая архитектура, поддерживаемые языки, модальности и параметры GGUF-квантизации; заявлена поддержка текстовой генерации и языка English. Модель оценивалась на SimpleQA с использованием MCP-методологии, однако численные результаты в предоставленных данных отсутствуют. Сильными сторонами являются большое контекстное окно, ориентация на глубокий анализ и работа с большими объёмами информации, а также возможность локального развертывания. Ограничения включают отсутствие подробных сведений о размере, аппаратных требованиях, конкретных вариантах квантизации и фактических показателях качества. Модель распространяется по лицензии Apache 2.0.

jina-embeddings-v3-GGUF — GGUF-версия модели jina-embeddings-v3, разработанной jinaai и квантизированной компанией Second State Inc. Это модель для построения векторных представлений текста, предназначенная для семантического поиска, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge; для неё используется шаблон prompt типа embedding. Доступны варианты размерности эмбеддингов от 32 до 1024: 32, 64, 128, 256, 512, 768 и 1024. Формат GGUF поддерживает различные уровни квантования, позволяя выбирать между размером файла и сохранением качества; среди указанных вариантов Q4_K_M и Q5_K_M отмечены как сбалансированные или рекомендуемые. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и точный размер контекста; для запуска LlamaEdge приведён контекст 768. Сильными сторонами модели являются возможность локального запуска, выбор размерности эмбеддингов и нескольких уровней квантования, включая компактные варианты. Более агрессивное квантование может приводить к заметной потере качества, тогда как версии с большим числом бит занимают больше памяти. Лицензия в предоставленном README не указана; условия использования следует уточнять в карточке исходной модели jinaai/jina-embeddings-v3 и соответствующего GGUF-репозитория.

Goekdeniz-Guelmez/Josiefied-Qwen2.5-14B-Instruct-abliterated-v4-gguf — текстовая инструкционная языковая модель, разработанная и профинансированная Gökdeniz Gülmez. Она основана на Qwen/Qwen2.5-14B-Instruct, дополнительно дообучена на пользовательском наборе данных и модифицирована для снижения склонности к отказам. Модель предназначена для диалогов, ответов на вопросы, программирования и выполнения широкого круга пользовательских задач. Модель относится к архитектуре qwen2 и имеет размер 14 млрд параметров. Указаны английский и немецкий языки, а также другие языки без уточнения. Репозиторий содержит GGUF-вариант, включая файл с квантованием Q4_K_M; в примере конфигурации Ollama задан контекст до 32 768 токенов. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. К сильным сторонам относятся инструкционная настройка, поддержка диалогового шаблона, интеграция с Ollama и OpenWebUI, а также ориентация на менее ограниченные ответы. При этом README не содержит результатов тестирования, точных сведений о качестве, аппаратных требованиях или подробной оценки безопасности. Разработчик предупреждает об использовании на собственный риск; поведение модели может быть менее безопасным и предсказуемым из-за удаления отказов. Лицензия указана как Apache 2.0.

djuna/L3.1-Purosani — языковая чат-модель на архитектуре Llama, созданная объединением нескольких предварительно обученных моделей с помощью mergekit и метода della_linear. В основу слияния вошли arcee-ai/Llama-3.1-SuperNova-Lite и grimjim/Llama-3-Instruct-abliteration-LoRA-8B; также в объединении использованы модели для вычислений, длинных текстов и диалогов. Число параметров составляет 7,5 млрд, заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Она работает с текстом и может применяться для ответов на вопросы, составления и продолжения текстов, а также обработки длинных запросов. В метаданных указаны библиотека Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

LEALLA-base — компактная многоязычная модель эмбеддингов предложений семейства BERT, созданная как часть коллекции LEALLA и дистиллированная из LaBSE. Версия перенесена из v1 модели на TensorFlow Hub; PyTorch-версия, согласно карточке, выдаёт эквивалентные эмбеддинги. Модель предназначена для преобразования предложений в векторы, сравнения их семантической близости и поиска соответствующих текстов на разных языках. Она поддерживает 109 языков и подходит, например, для многоязычного поиска по парам текстов. Размер составляет 110,4 млн параметров, максимальная длина контекста — 512 токенов. Для некоторых языков, в частности японского, при сравнении эмбеддингов могут потребоваться более высокие допуски. Подробности обучения, оценки и метрик приведены в исходной научной статье. Лицензия — Apache-2.0.

Карточка модели ronaldmannak/LFM2.5-ColBERT-350M-4bit на Hugging Face совпадает с карточкой mlx-community/LFM2.5-ColBERT-350M-4bit, поэтому описание составлено по ней. Это 4-битная сборка MLX модели LFM2.5-ColBERT-350M, подготовленная сообществом mlx-community на основе LiquidAI/LFM2.5-ColBERT-350M для локального инференса на компьютерах Apple с Apple Silicon. Модель использует архитектуру ColBERT с поздним взаимодействием: формирует 128-мерный вектор для каждого токена, а релевантность запроса и документа оценивает методом MaxSim. В метаданных указаны 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для многоязычного семантического поиска и извлечения документов. В тестах README 4-битная версия сохранила в среднем 98,7% NDCG@10 и 99,7% Recall@10 относительно bf16 версии на восьми наборах данных; оценки получены на небольших или сокращённых корпусах и не сопоставимы напрямую с результатами на полных корпусах. В репозитории указана лицензия other; условия исходной модели следует сверить с её карточкой.

LiquidAI/LFM2.5-VL-3B-MLX-4bit — MLX-экспорт мультимодальной vision-language модели LFM2.5-VL-3B, разработанной Liquid AI. Версия предназначена для запуска вывода на устройствах Apple Silicon и поддерживает обработку изображений вместе с текстовыми запросами. Модель построена на языковой основе LFM2.5-2.6B и оснащена визуальным энкодером SigLIP2 NaFlex объёмом 400 млн параметров. Общее количество параметров составляет около 3 млрд, используется 4-битная квантизация с размером группы 64, а размер модели — около 2,2 ГБ. Длина контекста — 32K токенов, нативное разрешение изображений — до 512×512 пикселей. Поддерживаются OCR, понимание документов, мультиязычное понимание изображений, предсказание ограничивающих рамок и вызов функций. Заявлена поддержка арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Сильные стороны модели — сочетание визуального и языкового анализа, компактный размер, 4-битное представление и адаптация для эффективного запуска на Apple Silicon. Ограничения включают зависимость от экосистемы MLX и указанный предел нативного разрешения изображений; прочие ограничения производительности в README не описаны. Модель распространяется по лицензии LFM 1.0.

Mylesgoose/Llama-3.1-70B-Instruct-abliterated — текстовая инструкционная модель на базе Meta Llama 3.1 70B, у которой, согласно карточке, ортогонализован слой 14. Она использует авторегрессионную архитектуру Transformer семейства Llama и предназначена для диалоговой генерации текста; размер составляет 69,5 млрд параметров, контекст — до 131 072 токенов. Модель подходит для многоязычного общения с ассистентом и генерации текста. В карточке базовой модели заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Метаданные отмечают интерфейс вызова инструментов, однако это не означает, что инструменты встроены: их интеграцию выполняет приложение. В карточке производной модели не приведены отдельные оценки качества или подробности изменения слоя, поэтому характеристики исходной Llama 3.1 не следует считать независимой оценкой этой версии. Модель распространяется по лицензии Llama 3.1 Community License (идентификатор лицензии в метаданных: llama3.1); применение регулируется её условиями и политикой допустимого использования.

LongAlign-13B-64k — языковая модель семейства LLaMA, опубликованная командой LongAlign. Она предназначена для генерации текста и выполнения инструкций в длинных контекстах. Проект описывает обучение на наборе LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов и оценивает следование инструкциям на запросах длиной 10–100 тыс. токенов. Модель содержит 12,9 млрд параметров, принимает текст и имеет заявленное контекстное окно 65 536 токенов. В метаданных указаны английский и китайский языки; репозиторий содержит веса PyTorch для Transformers. README объясняет подход проекта к выравниванию моделей для длинного контекста, но приведённый фрагмент не уточняет конкретную базовую модель и обучающие детали именно версии 13B-64k. Лицензия — Apache-2.0.

Модель thebbg/Ma7ee7_Qwen3.8_4B_Distilled — дообученная версия Qwen3, опубликованная разработчиком thebbg. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. В карточке указано, что обучение проводилось с Unsloth. Модель принимает текст и выдаёт текст. Для неё заявлено контекстное окно до 262 144 токенов, а в метаданных указан английский язык. Базовая модель описана как подходящая для рассуждений, программирования и диалоговых задач; отдельные специализированные возможности этой версии не описаны. Лицензия — Apache-2.0.

Marcoroni-neural-chat-7B-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Toten5/Marcoroni-neural-chat-7B-v1 методом SLERP. Модель построена на архитектуре Mistral с плотной причинной языковой моделью и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов, поэтому её можно применять для многошаговых бесед и работы с длинными текстовыми запросами. Метаданные не устанавливают конкретные поддерживаемые естественные языки. Веса представлены в формате Safetensors, тип данных при слиянии указан как bfloat16. Лицензия — Apache-2.0. Качество и поведение могут зависеть от формулировки запроса; ограничения по языкам и отдельным прикладным областям в предоставленных данных не описаны.

cloudyu/mistral_15B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на базе архитектуры Mistral и дообученная методом SFT на наборе vicgalle/alpaca-gpt4. Карточка указывает 64 слоя; в метаданных размер модели составляет 14,1 млрд параметров, а родной контекст — 32 768 токенов. Модель принимает инструкции и необязательные входные данные в шаблоне «инструкция — вход — ответ» и генерирует текстовые ответы. Модель предназначена для диалогов и выполнения инструкций общего назначения. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. README и метаданные не указывают поддерживаемые естественные языки или специализированные области применения.

Mistral-7B-Instruct-v0.2-expanded — разговорная языковая модель, созданная Arcee AI на основе mistralai/Mistral-7B-Instruct-v0.2. Авторы расширили блоки модели с помощью метода passthrough из mergekit: после каждого пятого слоя добавлен новый слой, в котором параметры o_proj и down_proj инициализированы нулями по подходу LLaMA Pro. Модель имеет плотную архитектуру MistralForCausalLM, содержит 8,9 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; использовать модель можно через библиотеку Transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Mistral-7B-v0.1-sharded-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и alexsherstinsky/Mistral-7B-v0.1-sharded. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции и диалоговые запросы. Поддерживает контекст до 32 768 токенов и поставляется в формате safetensors; в метаданных также указана поддержка чата. Модель принимает текстовые запросы и выдаёт текст. Она подходит для диалоговых помощников, ответов на инструкции и генерации текста. Лицензия — Apache-2.0. Данных о специальных предметных областях или ограничениях качества в предоставленной карточке нет.

CISCai/Mistral-Nemo-Instruct-2407-SOTA-GGUF — это набор квантизированных моделей в формате GGUF на основе Mistral-Nemo-Instruct-2407, разработанной Mistral AI. Квантизацию выполнил CISC с использованием importance matrix, обученной примерно на 1 млн токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp, сторонние графические интерфейсы и библиотеки, совместимые с актуальными версиями llama.cpp. Модель поддерживает текстовую модальность и английский язык. Встроенный шаблон чата Mistral Tekken включает поддержку function calling через OpenAI-совместимый параметр tools; также были исправлены связанные с tool calls проблемы токенизации и шаблона чата. Репозиторий содержит варианты квантизации IQ1_S, IQ1_M, IQ2, IQ3 и IQ4 с эффективной разрядностью примерно от 1,56 до 4,5 бит на вес и размером файлов примерно от 2,8 ГБ, что позволяет выбирать между экономией памяти и качеством. Главное преимущество набора — возможность локального запуска при ограниченных ресурсах и наличие вариантов с разным компромиссом между размером, требованиями к оперативной памяти и качеством. Низкоразрядные варианты характеризуются существенной или высокой потерей качества, поэтому для более требовательных задач предпочтительны более точные варианты. Файлы совместимы с llama.cpp начиная с версии от 22 июля 2024 года, включая commit 50e0535. Модель распространяется по лицензии Apache-2.0.