I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиKarnak — арабско-английская разговорная языковая модель, разработанная Applied Innovation Center на основе Qwen/Qwen3-30B-A3B-Instruct-2507. Это причинная MoE-модель с расширенной глубиной, дополнительным обучением и токенизатором, оптимизированным для арабского языка. В метаданных указано 3,4 млрд параметров; README приводит оценку около 40 млрд после расширения глубины. Модель принимает инструкции и генерирует текст на арабском и английском языках; поддерживает контекст до 262 144 токенов по метаданным, при этом README рекомендует ограничивать рабочий контекст 20 000 токенами для стабильности. Karnak предназначена для диалогов, ответов на вопросы, объяснения тем, создания текстов, работы с длинными документами и исследовательскими материалами. README описывает многоэтапное обучение, включавшее расширение глубины, продолжение предобучения и дообучение с учителем, с целью улучшить следование инструкциям, беглость арабского текста и устойчивость ответов. Модель можно запускать локально или на собственных серверах, использовать через Transformers и vLLM, а также дообучать под конкретные задачи. Модель распространяется по лицензии Apache-2.0. Заявленные преимущества относятся прежде всего к арабской генерации и длинному контексту; README рекомендует не превышать 20 000 токенов для оптимальной стабильности, а отдельные гарантии фактической точности не приведены.
Karma Electric v9 (KE-v9) — диалоговая языковая модель на базе Apertus-8B-Instruct-2509, дообученная разработчиком репозитория методом QLoRA. Она предназначена для генерации ответов с акцентом на оценку последствий, безопасность и уважительное взаимодействие, а также поддерживает общие диалоговые и программные задачи. Обучение включало этапы Model Spec Midtraining и Alignment Fine-Tuning с примерами рассуждений о последствиях, программирования, работы с инструментами и многоязычных диалогов. Модель использует плотную архитектуру ApertusForCausalLM, содержит 10,3 млрд параметров и имеет нативный контекст 65 536 токенов по метаданным; в README для базовой модели указано 256K. В репозитории доступны веса safetensors и GGUF в вариантах F16 и Q8_0. В README приведены результаты StrongReject и DystopiaBench, указывающие на повышенную устойчивость к некоторым попыткам обойти защиту по сравнению с базовой моделью; это результаты конкретных тестов, а не гарантия безопасности. Карточка указывает поддержку английского, чешского, немецкого и французского языков. README отмечает ограниченные возможности модели размера 8B в сложных рассуждениях и многоязычных задачах, низкое качество тибетского и избыточные отказы на части запросов с угрожающими ключевыми словами. Модель не проверена для производственного развертывания. Лицензия — Apache-2.0.
Krutrim-2-instruct-GGUF — это набор GGUF-квантизованных версий инструкционной языковой модели Krutrim-2-instruct, разработанной krutrim-ai-labs и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций, а также для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от полноточных F32 и F16 до квантизаций Q8_0, Q6_K, Q5_K, Q4 и Q3, размером примерно от 5,7 до 49 ГБ. Доступны языки English, Hindi, Bengali, Marathi, Telugu, Tamil, Kannada, Malayalam, Gujarati, Assamese и Punjabi. Архитектура, число параметров, размер контекста, поддержка дополнительных модальностей и точные сценарии обучения в README не указаны; по представленным данным это текстовая, а не мультимодальная модель. Основное преимущество набора — широкий выбор уровней квантизации для подбора баланса между качеством, скоростью и требованиями к памяти. В README варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M отмечены как рекомендуемые, однако низкоразрядные версии могут заметно уступать полноточным по качеству. Модель распространяется по Krutrim Community License Agreement версии 1.0; подробные условия следует уточнять в файле лицензии.
L3.1-70b-Inori — разговорная модель на архитектуре Llama 3.1, созданная автором KaraKaraWarehouse как экспериментальный merge методом Model Stock с помощью LazyMergekit. В объединение вошли Glitz, Dracarys, Euryale, Cathallama, New Dawn, Celeste и Japanese-Instruct; конфигурация указывает bfloat16. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ролевых бесед, ответов на вопросы и помощи с кодом; среди компонентов есть модель, ориентированная на японский язык. README использует формат чата L3 Instruct. Автор отмечает непоследовательную цензуру: модель иногда отказывается генерировать откровенный текст, а иногда отвечает на такие запросы, и не рекомендует её к использованию. Лицензия в предоставленных данных не указана.
LFM2.5-1.2B-Instruct — компактная инструкционная языковая модель компании Liquid AI, представленная в формате LiteRT-LM для локального запуска на мобильных и периферийных устройствах. Репозиторий litert-community содержит конвертированные и квантизированные версии базовой модели LiquidAI/LFM2.5-1.2B-Instruct, предназначенные для работы с runtime Google LiteRT-LM. Модель использует гибридную архитектуру, объединяющую блоки gated short-convolution и grouped-query attention. Она рассчитана на генерацию текста, диалоговые сценарии и выполнение инструкций; в комплект входят токенизатор и ChatML-совместимый шаблон чата с поддержкой списка инструментов и канала <think>. Максимальный размер контекста с KV-кэшем составляет 4096 токенов. Доступны варианты int8 размером около 1,25 ГБ и int4 размером около 736 МБ; для int4 также предусмотрен вариант, адаптированный для GPU. По приведённому тесту GSM8K int8-версия показала 81% против 79% у эталонной PyTorch-модели, тогда как int4 достигла 72%, обеспечивая меньший размер загрузки. Модель ориентирована на on-device-инференс, однако производительность и доступность GPU зависят от устройства и версии LiteRT-LM; для запуска требуется LiteRT-LM не ниже 0.14, а GPU-вариант — не ниже 0.16.0. Языки, кроме поддерживаемого текстового интерфейса, явно не указаны. Модель распространяется по лицензии LFM Open License v1.0.
LiquidAI/LFM2.5-1.2B-Instruct-ONNX — ONNX-версия языковой модели LFM2.5-1.2B-Instruct, разработанной Liquid AI. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на периферийных устройствах, серверах и в браузере через WebGPU. Модель содержит около 1,2 млрд параметров и использует гибридную архитектуру с мультипликативными гейтами и короткими свёртками, оптимизированную для быстрого вывода на CPU, GPU и NPU. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Доступны варианты Q4, FP16 и Q8: Q4 рекомендуется для большинства сценариев и WebGPU, FP16 ориентирован на более высокое качество, а Q8 предназначен для серверного использования. Размер контекста в README не указан. Сильные стороны модели — компактный размер, кроссплатформенность, поддержка ONNX Runtime и возможность браузерного запуска без отдельного серверного окружения. Ограничения включают отсутствие заявленной поддержки Q8 в WebGPU, необходимость размещать дополнительные файлы весов рядом с ONNX-графом, а также неуказанные в README показатели качества и ограничения контекстного окна. Модель распространяется по лицензии lfm1.0; лицензия обозначена как other.
unsloth/LFM2-700M-GGUF — GGUF-версия гибридной языковой модели LFM2-700M, разработанной Liquid AI и подготовленной для распространения Unsloth. Модель предназначена для локального и периферийного развертывания на CPU, GPU и NPU, включая смартфоны, ноутбуки и транспортные системы. Она подходит для агентских сценариев, извлечения данных, RAG, творческого письма и многораундовых диалогов. Модель содержит 742 489 344 параметра, 16 слоёв, включая 10 слоёв свёртки и 6 attention-слоёв, и поддерживает контекст до 32 768 токенов. Архитектура использует гибридный подход Liquid AI с мультипликативными gating-механизмами и короткими свёртками. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Это текстовая модель без заявленной поддержки дополнительных модальностей. К сильным сторонам относятся высокая скорость обучения и инференса, эффективность по памяти и производительности, а также удобство запуска на устройствах с ограниченными ресурсами. Из-за небольшого размера модель рекомендуется дообучать под узкие прикладные задачи. Она не рекомендуется для задач, требующих глубоких знаний или программирования. Репозиторий включает исправления chat template; для llama.cpp рекомендуется использовать параметр --jinja. Указана лицензия LFM Open License v1.0.
Это преобразованная TheBloke в формат Hugging Face версия Meta Llama 2 70B Chat: авторские веса PTH конвертированы в формат Transformers fp16 и сохранены в Safetensors. В основе — авторегрессионный плотный Transformer Llama с 68,7 млрд параметров и контекстом 4096 токенов; модель принимает текст и генерирует текст. Версия Chat прошла supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи, чтобы вести диалог и отвечать в роли помощника. Модель предназначена для диалоговых сценариев на английском языке: ответов на вопросы, инструкций и генерации текста. Крупный размер и grouped-query attention в варианте 70B рассчитаны на масштабируемый вывод, однако для запуска требуются значительные вычислительные ресурсы. Ответы могут быть неточными, предвзятыми или нежелательными; перед применением нужны проверки безопасности и настройка под конкретный сценарий. Использование регулируется лицензией Meta Llama 2; для получения весов требуется принять её условия.
RedHatAI/Llama-2-7b-dolphin-open_platypus-pruned_70 — разреженная на 70% модель Llama 2 с 6,6 млрд параметров, дообученная на следование инструкциям на смеси наборов Platypus, OpenOrca и Dolphin. Она предназначена для генерации текста в ответ на инструкции и может запускаться через библиотеку Transformers; для ускоренного инференса с использованием разреженности в README упоминаются nm-vllm и deepsparse. Контекст модели — до 4096 токенов. В приведённых бенчмарках модель уступает Llama-2-7b-instruct: например, результаты составляют 42,33% против 48,60% на MMLU, 77,21% против 79,45% на HellaSwag и 71,90% против 75,69% на WinoGrande. Репозиторий содержит веса safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
Llama3.1-8B-Cobalt-GGUF — набор квантованных версий языковой модели Llama3.1-8B-Cobalt от ValiantLabs, подготовленный и опубликованный bartowski. Модель относится к архитектуре Llama, рассчитана на генерацию текста и работу в диалоговом и instruct-сценариях. Указана поддержка английского языка; также заявлена ориентация на математические задачи и инструкции. Модель доступна в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Базовый размер модели — 8 млрд параметров. В набор входят варианты от F32 до сильно сжатых Q2 и IQ-квантизаций, поэтому можно выбирать между качеством ответов и требованиями к памяти: размеры файлов составляют примерно от 2,95 до 32,13 ГБ. Для ряда вариантов применена imatrix-квантизация, а в версиях с суффиксом L эмбеддинги и выходные веса могут храниться в Q8_0 для повышения качества. Рекомендуемыми названы некоторые варианты Q4–Q6; низкобитные версии экономят память, но заметнее снижают качество. Модель предназначена для локального текстового общения, выполнения инструкций и генерации ответов, включая задачи математического характера. README не содержит сведений о мультимодальности, точном размере контекстного окна, результатах бенчмарков или ограничениях безопасности, поэтому эти характеристики нельзя оценить по представленным данным. Лицензия указана как llama3.1.
amd/Llama-3.1-8B-Instruct-w4a16-asym-torchao-v0.17.0 — квантизированная версия языковой модели Llama-3.1-8B-Instruct, созданная Advanced Micro Devices (AMD) с использованием TorchAO. Модель предназначена для генерации текста и запуска инференса на CPU AMD EPYC, прежде всего в Linux-средах, через vLLM и оптимизированный для ZenDNN стек. Модель построена на архитектуре LlamaForCausalLM, принимает и генерирует текст, поддерживает английский язык и содержит около 8 млрд параметров в исходной версии. Применяется 4-битная асимметричная квантизация только весов W4A16 с размером группы 128; квантизированы линейные слои, за исключением lm_head и embed_tokens. Ключевая особенность — оптимизация для CPU-инференса AMD EPYC с использованием ZenDNN, ZenTorch, PyTorch 2.11.0, TorchAO 0.17.0 и vLLM 0.20.2. Сильными сторонами модели являются снижение требований к памяти и ориентация на производительный инференс на совместимых AMD CPU. Ограничения включают отсутствие заявленной поддержки GPU, зависимость от точных версий программного стека и невозможность загрузки в других версиях PyTorch; используемый путь квантизации специфичен для ZenDNN и недоступен в стандартном PyTorch. Результаты оценки качества в README не приведены. Модель распространяется по той же лицензии, что и исходная Llama-3.1-8B-Instruct; отдельно указаны изменения, авторские права на которые принадлежат AMD.
Модель promotion/Llama-3.1-8B-NBPO-UltraFeedback-eta0.05 — диалоговая языковая модель на архитектуре Llama, дообученная методом Nash Bargaining Preference Optimization (NBPO) на панели UltraFeedback. В качестве базовой модели и политики сравнения использована meta-llama/Llama-3.1-8B-Instruct; размер составляет 7,5 млрд параметров, максимальный контекст — 131 072 токена. Репозиторий использует Transformers и формат safetensors. Модель предназначена для генерации ответов на инструкции с акцентом на следование инструкциям, правдивость, честность и полезность. В README описан эксперимент с 300 обновлениями оптимизатора и глобальным размером пакета 16; оценка проводилась на отложенных промптах без пересечения с обучающими, по отдельным целям, с использованием Llama-3.3-70B-Instruct в роли судьи. Указанная лицензия — llama3.1. Карточка не приводит численных результатов оценки, поэтому сравнительное качество модели по ней установить нельзя.
Llama-3.1-Saoirse-70B — объединённая автором nbeerbower языковая модель на архитектуре Llama 3.1. Она создана методом Model Stock с помощью mergekit на основе mlabonne/Hermes-3-Llama-3.1-70B-lorablated и включает веса нескольких моделей семейства Llama 3.1, в том числе вариантов Mahou, Nemotron, Gutenberg-Doppel, Flammades и Rombos. Модель предназначена для генерации текста и диалогов. Она содержит 69,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Языковая поддержка и специальные прикладные области в карточке не описаны. Модель распространяется по лицензии Llama 3.1. Карточка не приводит результатов оценки качества или подробных ограничений; качество и поведение могут зависеть от запроса и настроек генерации.
Модель artificialguybr/LLAMA3.2-1B-Synthia-I-Redmond — дообученная версия NousResearch/Llama-3.2-1B, созданная автором artificialguybr на наборе инструкций Synthia-v1.5-I из 20,7 тыс. примеров. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для выполнения инструкций и разговорных приложений, а также для исследований и разработки в области NLP. Базовая Llama 3.2 — мультиязычная модель Meta; в карточке перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Дообучение ориентировано на следование инструкциям. Модель распространяется в форматах PyTorch и Safetensors по лицензии Llama 3.2. Карточка не приводит сравнительных оценок качества или отдельных ограничений; результаты могут зависеть от формулировки запроса и сценария применения.
Bunnycore Llama-3.2-3B-ProdigyPlusPlus — объединённая диалоговая языковая модель на архитектуре Llama, созданная с помощью mergekit методом TIES. В качестве базовой модели README указывает huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли модели Bunnycore для кода, научных рассуждений, длинных рассуждений, ролевого общения и смешанных навыков. Модель предназначена для генерации текста и ответов в чате. Она содержит 3,2 млрд параметров, работает с текстом и имеет заявленный контекст до 131 072 токенов. Метаданные отмечают интерфейс вызова инструментов; фактическое качество этой возможности не описано. Модель опубликована в формате safetensors и использует библиотеку Transformers. В README приведены результаты Open LLM Leaderboard, включая средний балл 6,44, но не дано подробного описания методики или результатов по всем задачам. Сведения о лицензии в предоставленных данных отсутствуют.
Llama-3-Chinese-8B-Instruct-v2 — диалоговая языковая модель семейства Llama 3, разработанная HFL на основе Meta-Llama-3-8B-Instruct и дообученная на 5 млн инструкционных примеров. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста в формате инструкций и чата. Модель подходит для диалогов, ответов на вопросы и других сценариев, где нужен ассистент, понимающий китайский и английский языки. Контекст составляет до 8192 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не приводит сравнительных результатов или конкретных ограничений качества; характеристики базовой модели не следует автоматически считать подтверждёнными для этой дообученной версии.
Llama-3-DARE-v3-8B — объединённая плотная языковая модель на архитектуре Llama, созданная с помощью mergekit методом DARE TIES. В объединение вошли meta-llama/Meta-Llama-3-8B и meta-llama/Meta-Llama-3-8B-Instruct; модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалоговых ответов. Модель работает с текстом, поддерживает контекст до 8192 токенов и использует формат safetensors в библиотеке Transformers. Базовые модели ориентированы на английский язык; отдельных сведений о поддержке других языков карточка не приводит. Лицензия указана как other, поэтому условия использования следует сверить с лицензиями базовых моделей и карточкой репозитория.
Llama-3-Instruct-8B-SimPO-GGUF — набор GGUF-квантизаций модели Llama-3-Instruct-8B-SimPO, разработанной Princeton NLP и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и совместимые инструменты локального запуска. Модель содержит около 8 млрд параметров и доступна в вариантах квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL, IQ4_XS и других, с размером файлов примерно от 2,16 до 8,54 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие позволяют снизить требования к оперативной памяти ценой заметной потери качества. Для общения в README приведён шаблон с ролями system, user и assistant, однако автор предупреждает, что он может не соответствовать исходной модели. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и требованиями к памяти; варианты Q6_K и Q5_K_M рекомендованы как близкие к исходному качеству, а IQ-квантизации могут обеспечивать сопоставимое качество при меньшем размере. Ограничения включают возможное ухудшение результатов на низких уровнях квантизации и отсутствие в README сведений о поддерживаемых языках, размере контекста и лицензии.
unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF — GGUF-версия инструкционно дообученной модели Meta Llama 4 Scout 17B 16E-Instruct, подготовленная Unsloth. Модель предназначена для диалоговых приложений и выполнения инструкций, однако конкретные сценарии использования и результаты тестирования в предоставленных данных не описаны. В README указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Из идентификатора следует конфигурация 17B 16E, но архитектура, размер контекста, точные параметры квантования, поддерживаемые модальности и требования к ресурсам не указаны. Поэтому сильные стороны можно уверенно связать только с инструкционной настройкой и многоязычностью; ограничения производительности и качества требуют самостоятельной оценки. Использование регулируется Llama 4 Community License Agreement от Meta. Лицензия предоставляет ограниченные безвозмездные права на использование, воспроизведение, распространение и модификацию при соблюдении условий, включая передачу текста лицензии, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензирование Meta.
Kaoeiri/Llam-Romania-3.1d-8B-V1.11 — языковая модель семейства Llama, разработанная Kaoeiri как дообученная версия unsloth/Meta-Llama-3.1-8B-bnb-4bit. Это плотная авторегрессионная модель для генерации текста и диалогового общения. В репозитории указано 7,5 млрд параметров, контекстное окно — до 131 072 токенов; модель построена на PyTorch и обучалась с использованием Unsloth и библиотеки TRL.
Luban 13B GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business на базе AIDC-ai-business/Luban-13B и преобразованная в формат GGUF пользователем TheBloke. Модель относится к архитектуре Llama, содержит около 13 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. Модель ориентирована на сценарии текстовой генерации, включая ответы на инструкции, диалоговые приложения и локальный запуск через llama.cpp и совместимые интерфейсы. В карточке указаны английский язык и датасет Open-Orca. Для запросов используется шаблон Alpaca с разделами Instruction и Response. Формат GGUF поддерживает метаданные, специальные токены и различные варианты квантования; доступны файлы с разрядностью от 2 до 8 бит для инференса на CPU и GPU. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими библиотеками и интерфейсами. Ограничения включают ориентацию преимущественно на английский язык, отсутствие мультимодальных возможностей и зависимость качества, скорости и требований к памяти от выбранного варианта квантования. Модель предназначена для текстовой генерации и не заявлена как специализированная система для других модальностей. Указана лицензия cc-by-nc-4.0 исходной модели. README также сообщает о применимости условий лицензии Meta Llama 2, поэтому модель следует считать подпадающей под обе лицензии; их взаимодействие требует отдельной проверки перед использованием, особенно в коммерческих сценариях.
M7Multiverseex26-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная Maxime Labonne автоматическим слиянием моделей через mergekit. В конфигурации указаны liminerity/M7-7b и allknowingroger/MultiverseEx26-7B-slerp; применён метод dare_ties, а результат сохранён в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и может использоваться в диалоговых приложениях и для создания текстовых ответов. Максимальная длина контекста — 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.
MaziyarPanahi/M7Yamshadowexperiment28_Multi_verse_modelExperiment28 — объединённая модель на архитектуре Mistral для генерации текста. Она создана слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Multi_verse_modelExperiment28-7B и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст, поддерживает контекст длиной до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0.
MagnusIntellectus-12B-v1 — объединённая модель для генерации текста и диалогов, созданная GalrionSoftworks с помощью LazyMergekit из UsernameJustAnother/Nemo-12B-Marlin-v5 и anthracite-org/magnum-12b-v2. Это плотная причинно-языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; карточка указывает контекст до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов в чат-сценариях. В README описано слияние методом TIES с нормализацией и весами 0,70 и 0,30; веса опубликованы в формате safetensors и типе bfloat16. В карточке приведены результаты Open LLM Leaderboard: средний балл 21,55, IFEval 44,21 и BBH 33,26. Лицензия — Apache-2.0. Данных о поддерживаемых естественных языках в предоставленных источниках нет.
Marengo_7B_SLERP — слитая языковая модель, созданная автором louisgrc с помощью LazyMergekit из automerger/OgnoExperiment27-7B и paulml/OmniBeagleSquaredMBX-v3-7B методом SLERP. Модель основана на архитектуре Mistral с плотной архитектурой и содержит 7,1 млрд параметров; она предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке не заявлены специальные предметные области или поддерживаемые естественные языки. Файлы опубликованы в формате safetensors; условия использования определяются лицензией репозитория Hugging Face.
MeliodasPercival_01_AlloyingotneoyNeuralsirkrishna — объединённая языковая модель MaziyarPanahi, построенная на архитектуре Mistral. Веса получены слиянием automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B. Модель содержит 7,1 млрд параметров, использует формат Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Её можно использовать для ответов на запросы, продолжения текста и создания черновиков. Карточка не уточняет отдельные языки, специализированные области или дополнительные возможности. Лицензия — Apache-2.0.
MeliodasPercival_01_Inex12Strangemerges_32 — объединённая модель семейства Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/Inex12Strangemerges_32-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Данных о специальных предметных областях или целевых языках в карточке нет.
MFANN3bv0.20.17 — языковая модель семейства Phi, разработанная netcat420 и предназначенная для генерации текста по инструкциям и выполнения широкого круга общих задач. Это дообучение предыдущей версии netcat420/MFANN3bv0.20.16 на наборе данных netcat420/MFANN. Модель содержит 3,5 млрд параметров, использует плотную архитектуру PhiForCausalLM и принимает текстовые инструкции в формате «Instruct: … Output:». Контекстное окно составляет до 32 768 токенов; карточка указывает английский язык. Средняя ошибка обучения, приведённая автором для MFANN, составляет 0,33. Модель распространяется в формате safetensors по лицензии MIT.
MaziyarPanahi/Mistral-7B-Instruct-v0.2-GGUF — это набор файлов модели в формате GGUF для Mistral-7B-Instruct-v0.2, разработанной Mistral AI (mistralai) и преобразованной в квантизированный формат MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Базовая модель имеет 7 миллиардов параметров и относится к семейству Mistral Instruct. В репозитории доступны варианты квантизации с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством. Формат GGUF поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. README не содержит сведений о языках, размере контекста, точной архитектуре или результатах оценки качества. Основные преимущества — возможность локального запуска, широкий выбор уровней квантизации и поддержка GPU-ускорения в совместимых приложениях. Ограничения связаны с потерей части качества при более агрессивной квантизации, а также с необходимостью выбирать подходящий GGUF-файл и программную среду. Модель распространяется по лицензии Apache-2.0.
Mistral-T5-7B-v1 — дообученная Ignos языковая модель на архитектуре Mistral для генерации текста и улучшения выполнения инструкций. Она основана на Toten5/Marcoroni-neural-chat-7B-v2 и обучалась на наборе tatsu-lab/alpaca. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на инструкции и запросы в текстовом формате. Веса доступны в формате PyTorch. Лицензия — Apache-2.0. README не приводит результатов оценки качества; заявлено, что модель наследует риски и ограничения базовых моделей.