I.14Автоматизация процессов и AI-агенты

gemma-4-31B-it-GGUF — это набор статически квантизированных моделей в формате GGUF на базе google/gemma-4-31B-it. Репозиторий подготовлен пользователем giladgd для запуска через node-llama-cpp и llama.cpp. Модель относится к классу instruction-tuned и предназначена для диалогового взаимодействия и задач image-text-to-text, однако подробные сведения о поддерживаемых языках и возможностях обработки изображений в README не приведены. Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и BF16. Размер файлов составляет от 11,9 до 61,4 ГБ; более лёгкие варианты требуют меньше памяти, но могут сильнее уступать по качеству исходной модели, тогда как BF16 обеспечивает наиболее близкое к исходному представление при значительно больших требованиях к ресурсам. Архитектура, максимальный контекст и точное число параметров в README явно не описаны, кроме обозначения 31B в идентификаторе базовой модели. Модель можно использовать локально через node-llama-cpp или llama.cpp, включая CLI и серверный режим. Основные ограничения связаны с большими требованиями к дисковому пространству и оперативной или видеопамяти, особенно для высокоточных вариантов, а также с возможными потерями качества при агрессивной квантизации. Указана лицензия Apache 2.0; для Gemma также приведена отдельная ссылка на условия лицензии Google.

QueryloopAI/gemma-7b-openhermes — диалоговая языковая модель на архитектуре Gemma, дообученная разработчиком на базе google/gemma-7b-it с помощью QLoRA на данных предпочтений OpenHermes-2.5. Модель содержит 8,2 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и следование инструкциям в формате чата; для диалогового использования следует применять встроенный шаблон чата токенизатора. Модель принимает текстовые запросы, вопросы и документы и генерирует ответы или краткие изложения на английском языке. Указанное контекстное окно — 8192 токена. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. В README приведены результаты нескольких бенчмарков; они не гарантируют качество на конкретных задачах.

MLX-версия модели GLM-4.7-Flash-8bit, созданная сообществом mlx-community путём конвертации базовой модели zai-org/GLM-4.7-Flash в формат MLX с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и запуска на устройствах и в средах, совместимых с MLX и mlx-lm. В README указаны поддерживаемые языки English и Chinese, а также доступность chat template для диалогового использования. Модель имеет 8-битное представление, однако сведения об архитектуре, количестве параметров, размере контекста, модальностях и конкретных сценариях применения не приведены. Лицензия — MIT.

GLM-4.7-Flash-MLX-4bit — это 4-битная квантизированная версия языковой модели GLM-4.7-Flash, разработанной организацией zai-org. Квантизация выполнена командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon в экосистеме MLX. Модель предназначена для генерации текста и может использоваться в сценариях, поддерживаемых библиотекой Transformers и инструментами MLX, включая локальный запуск на совместимых компьютерах Apple. В README заявлена поддержка английского и китайского языков. Модель относится к текстовой модальности; сведения о размере, конкретной архитектуре и максимальной длине контекста не указаны. Ключевое преимущество версии — снижение требований к памяти и вычислительным ресурсам за счёт 4-битной квантизации и оптимизации под Apple Silicon. При этом квантизация может влиять на точность и качество генерации по сравнению с исходной моделью, а фактическая производительность зависит от оборудования и настроек запуска. Модель распространяется по лицензии MIT.

ibm-granite/granite-4.1-8b-GGUF — это версия модели IBM Granite 4.1 с 8 млрд параметров, преобразованная в формат GGUF. Модель разработана IBM и предназначена для задач генерации текста; репозиторий содержит варианты с различными уровнями квантования, созданные на основе модели ibm-granite/granite-4.1-8b в формате Safetensors. Формат GGUF удобен для локального запуска и совместим с программными средствами, поддерживающими этот формат, однако конкретные требования к памяти, производительность и качество зависят от выбранной квантованной версии. В предоставленной карточке не указаны архитектурные детали, поддерживаемые языки, размер контекста, дополнительные модальности и специализированные сценарии применения, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Модель распространяется по лицензии Apache 2.0. Для подробной информации о возможностях, ограничениях и базовых характеристиках следует обратиться к полной карточке базовой модели ibm-granite/granite-4.1-8b.

h2oai/h2ogpt-oasst1-512-12b — языковая модель H2O.ai на архитектуре GPT-NeoX с 15,4 млрд параметров. Она дообучена на наборе h2oai/openassistant_oasst1_h2ogpt_graded на основе EleutherAI/pythia-12b и предназначена для следования инструкциям и диалогового использования, например в чат-ботах. Модель принимает текст и генерирует текст; опубликована в формате PyTorch и рассчитана на контекст до 2048 токенов. Модель можно применять для ответов на вопросы, диалогов и выполнения текстовых инструкций. В README приведены результаты проверки на задачах из lm-evaluation-harness. Лицензия Apache-2.0 допускает коммерческое использование. Модель может выдавать неверные, бессвязные или нерелевантные ответы, а также предвзятый или оскорбительный контент; результаты следует проверять.

HelpingAI_Dhanishtha-2.0-preview-0825-GGUF — это GGUF-квантизированная версия языковой модели Dhanishtha-2.0-preview-0825, разработанной HelpingAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В README указан специальный chat-шаблон с ролями system, user и assistant. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до различных конфигураций Q8, Q6, Q5, Q4, Q3 и IQ-квантизации размером примерно от 6,88 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченной оперативной памятью; для большинства сценариев автор рекомендует Q4_K_M, Q5- и Q6-варианты. Архитектура, число параметров, поддерживаемые языки, размер контекста, мультимодальность, конкретные прикладные специализации и лицензия в представленном README не указаны, поэтому эти характеристики требуют проверки в карточке исходной модели.

NLP Cloud разработала instruct-версию GPT-J, дообучив модель на наборе инструкций, подготовленном командой Stanford Alpaca и переработанном под формат GPT-J. Это плотная авторегрессионная языковая модель для генерации текста; версия fp16 предназначена для запуска на GPU уровня NVIDIA Tesla T4 с 16 ГБ видеопамяти. Максимальный контекст — 2048 токенов. Модель принимает инструкции на естественном языке и подходит для ответов на запросы, редактирования текста и других задач генерации; для сложных сценариев можно использовать few-shot примеры. При формировании запроса инструкция должна завершаться переводом строки. В README указано, что качество fp16 не отличается заметно от fp32. Модель распространяется по лицензии GPL-3.0.

InternLM2-Chat-1.8B-SFT — диалоговая языковая модель команды InternLM, созданная контролируемой тонкой настройкой базовой InternLM2-1.8B. Она содержит около 1,7 млрд параметров, использует плотную архитектуру InternLM2 и рассчитана на генерацию текста в формате чата. Метаданные указывают контекст до 32 768 токенов; в README также заявлена поддержка длинных входов до 200 000 символов для семейства InternLM2. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и генерации текста. Семейство также улучшено для рассуждений, математики и программирования, однако версия SFT уступает последующей версии InternLM2-Chat, дополнительно выровненной с помощью RLHF и рекомендованной авторами для прикладного использования. Модель можно загружать через Transformers; в README также описано развёртывание через vLLM и LMDeploy. Карточка предупреждает, что модель может выдавать предвзятые, дискриминационные или иным образом вредоносные ответы. Код распространяется по Apache-2.0; для весов заявлен свободный доступ для академических исследований и возможность запросить бесплатное коммерческое разрешение.

MLX-версия K2-Horizon-0.9B от сообщества mlx-community, преобразованная из IFM/K2-Horizon-0.9B в формат bf16 без квантизации. Это плотная авторегрессионная модель-декодер с 924,5 млн параметров, предназначенная для генерации текста в диалоговом режиме. Метаданные каталога относят базовую модель к компактным моделям для рассуждений, математики, программирования и STEM; карточка описывает преобразование весов в MLX для запуска на Apple silicon. Метаданные указывают контекст 8192 токена, тогда как README базовой модели сообщает о контексте до 131 072 токенов с YaRN RoPE scaling. README сообщает о проверке соответствия реализации PyTorch на реальных весах и о тестовом запуске на MLX. Для работы требуется mlx-lm и код архитектуры из репозитория; в некоторых версиях mlx-lm нужен флаг trust_remote_code. Лицензия — Apache-2.0.

bartowski/kalomaze_Qwen3-16B-A3B-GGUF — набор GGUF-квантизаций базовой модели kalomaze/Qwen3-16B-A3B. Квантизации подготовлены bartowski с использованием llama.cpp b5255 и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от BF16 размером 32,08 ГБ до компактных низкобитных форматов. Доступны Q8_0, Q6_K_L, Q6_K, Q5, Q4, IQ4, Q3 и Q2-варианты с разным соотношением качества, размера и требований к памяти. Наиболее качественными и рекомендуемыми обозначены Q6_K_L, Q6_K, Q5_K и Q4_K; Q4_K_M указан как вариант по умолчанию для большинства сценариев, а низкобитные Q3 и Q2 обеспечивают экономию памяти ценой снижения качества. Модель поддерживает текстовую генерацию; сведения о языках, размере контекста и точной архитектуре в представленном README не указаны. Для работы следует использовать шаблон запросов с маркерами <|im_start|> и <|im_end|>. Распространение выполняется по лицензии Apache-2.0.

mlx-community/Kimi-K2-Instruct-0905-mlx-DQ3_K_M — это MLX-версия модели Kimi-K2-Instruct-0905, разработанной Moonshot AI и конвертированной сообществом mlx-community с помощью mlx-lm 0.26.3. Модель предназначена для генерации текста и инструкционных сценариев: диалогов, ответов на запросы и других задач, поддерживаемых базовой моделью. README не содержит подтверждённых сведений о размере, архитектуре, языках и длине контекста. Основная особенность — смешанное динамическое квантование DQ3_K_M с преимущественно 3-битным представлением и отдельными компонентами с более высокой разрядностью. По описанию метода, такой подход призван приблизить качество к 4-битному квантованию при меньшем потреблении памяти. Модель ориентирована на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти, сохраняя ресурсы для полезного контекстного окна; конкретные требования к памяти и фактические результаты тестов не указаны. Ограничения связаны с потерями качества, возможными для квантованной версии, а также с узкой оптимизацией под экосистему MLX и совместимое оборудование Apple. Для использования требуется mlx-lm; README указывает лицензию modified-mit и ссылку на лицензию исходной модели Moonshot AI.

kukuspice-v1-7B — объединённая методом SLERP языковая модель, созданная с помощью mergekit из cgato/TheSpice-7b-v0.1.1 и grimjim/kuno-kunoichi-v1-DPO-v2-SLERP-7B. Модель использует архитектуру Mistral с плотной causal language model и содержит 7,1 млрд параметров. Она предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

LFM2.5-1.2B-Thinking-ToMoE-GGUF — набор GGUF-квантизаций модели, опубликованный Nichonauta. Основа — LiquidAI/LFM2.5-1.2B-Thinking, преобразованная в ToMoE Mixture-of-Experts. Модель предназначена для генерации текста и задач, требующих рассуждений; поддерживает нативное поведение с блоком <think>. Указаны языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель рассчитана на локальный запуск через llama.cpp, включая сценарии on-device с объёмом хранения менее 1 ГБ. Доступны варианты BF16 размером 2343 МБ, Q8_0 размером 1186 МБ и Q4_K_M размером 695 МБ. Рекомендуемый контекст — до 32768 токенов. В README не указаны точные параметры архитектуры и число активных экспертов; размер модели обозначен как 1.2B в названии базовой модели. Для Q4_K_M заявлена скорость около 302 токенов в секунду на RTX 3060, для Q8_0 — около 212, для BF16 — около 125. Важное ограничение GGUF-версии заключается в том, что llama.cpp не поддерживает нативные ToMoE-эксперты и динамические V-маски. Поэтому модель восстановлена как плотный эквивалент и по поведению соответствует плотной базовой модели, а не исходной MoE-версии. Для использования настоящего MoE требуется версия safetensors с параметром trust_remote_code. Производительностью и компактностью особенно выделяется Q4_K_M, однако квантизация может снижать точность по сравнению с BF16. Производная распространяется по лицензии LFM Open License v1.0; ссылка на лицензию указана в карточке модели.

LFM2.5-2.6B-ONNX — языковая модель семейства LFM2.5, разработанная Liquid AI для локального запуска на устройствах и серверных CPU/GPU. Она предназначена для генерации текста и может использоваться в приложениях, работающих через ONNX Runtime или Transformers.js с WebGPU, включая сценарии периферийных вычислений и браузерного выполнения. Модель основана на гибридной архитектуре LFM2 с дополнительным предварительным обучением и reinforcement learning. Размер базовой модели — 2,6 млрд параметров. Доступны варианты FP32, FP16, Q8, Q4 и Q4F16; версии Q4 и Q4F16 используют квантованные входные эмбеддинги, а Q4F16 дополнительно применяет FP16 для вычислений и кэшей. Варианты поддерживают запуск на серверных CPU/GPU, тогда как для WebGPU предназначены Q4, Q4F16 и FP16. Заявлена поддержка арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Сильные стороны модели — ориентация на on-device-развёртывание, несколько уровней квантования и совместимость с WebGPU, что позволяет выбирать между размером, скоростью и качеством. Ограничения включают отсутствие поддержки Q8 в WebGPU и компромиссы качества, характерные для квантованных вариантов; сведения о размере контекста и детальных результатах оценки в карточке не указаны. Модель распространяется по лицензии lfm1.0, обозначенной как other.

LFM2.5-8B-A1B-CoreAI — это конверсия модели LiquidAI/LFM2.5-8B-A1B для локального выполнения в формате Apple Core AI (.aimodel). Конверсию подготовило сообщество Core AI model zoo; базовая модель разработана Liquid AI. Модель предназначена для генерации текста, чат-диалогов, суммаризации и других языковых задач на устройствах Apple без отправки данных в облако, включая интеграцию с CoreAIKit и системными сценариями LanguageModelSession. Архитектура представляет собой гибридный decoder-only MoE: 24 слоя, из которых 18 используют short-convolution mixers, а 6 — GQA attention. Первые два слоя плотные, остальные используют разреженный MoE с 32 экспертами и выбором 4 экспертов на токен. Общий размер составляет около 8,3 млрд параметров, при этом активно на токен используется примерно 1,5 млрд; hidden size — 2048, словарь — 128 тысяч токенов. В README языки и максимальный размер контекста не указаны. Модель ориентирована на GPU и Neural Engine устройств Apple; опубликованный чистый bundle предназначен для Mac, а вариант int4 проверен на iPhone 17 Pro, но не поставляется из-за заметной потери качества. Сильные стороны модели — локальная работа, MoE-эффективность и оптимизированное ядро gather_qmm, которое читает веса только выбранных экспертов. Для Mac заявлена скорость около 140–141 токена в секунду при размере bundle 8,8 ГБ, а качество симметричного int8-варианта соответствует уровню fp16 в описанном тесте. Ограничения включают значительный объём загрузки, зависимость от устройств Apple и наличие проблем у базовой модели с повторяющейся генерацией при использовании без chat template и sampling. Модель распространяется по лицензии lfm-open-license-v1.0; точные условия приведены в файле LICENSE.

MaziyarPanahi/Llama-3-13B-Instruct-v0.1-GGUF — набор квантизованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе MaziyarPanahi/Llama-3-13B-Instruct-v0.1. Модель предназначена для генерации текста и диалоговых сценариев с использованием инструкционного формата Llama 3, включая работу через llama.cpp. Известно, что доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшим размером файлов и потенциально более высоким качеством. Размер базовой модели составляет 13B параметров. Модальность — текстовая; сведения о поддерживаемых языках, размере контекста, точной архитектуре и результатах оценки в README не указаны. Для корректной работы требуется применять шаблон промпта Llama 3 и поддержка формата GGUF в используемом программном обеспечении. Лицензия в README не указана.

Shining Valiant 2 — чат-модель Valiant Labs на архитектуре Llama 3.1 Instruct, дообученная на базе Meta-Llama-3.1-70B-Instruct. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов; предназначена для диалога и следования инструкциям на английском языке. Обучение охватывало общие разговорные данные, технические знания и структурированные рассуждения. Модель ориентирована на вопросы по физике, химии, биологии, астрономии, наукам о Земле, информатике и теории информации, а также на инженерные задачи и логический анализ. В карточке отмечены возможности чата и интерфейс вызова инструментов. Репозиторий использует формат safetensors и лицензию Llama 3.1. Как и другие большие языковые модели, она может давать неточные ответы; заявленная специализация на технических темах не гарантирует корректность рассуждений или выводов.

Llama 3.2 90B Vision Instruct — мультимодальная instruction-tuned модель Meta для диалога по изображениям. Она принимает текст и изображения и генерирует текстовые ответы для визуального распознавания, рассуждений по изображению, создания подписей и ответов на вопросы о содержимом картинки. Модель построена на языковой модели Llama 3.1 с авторегрессионной архитектурой Transformer и отдельным обученным адаптером зрения с cross-attention слоями. Вариант 90B содержит около 88,8 млрд параметров, поддерживает контекст до 128 тыс. токенов и использует Grouped-Query Attention. Для текстовых задач официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; для задач с изображениями и текстом поддерживается английский. Модель подходит для визуальных вопросов и ответов, анализа документов по изображению, описания сцен, поиска соответствий между изображениями и текстом и визуальной привязки описаний к областям изображения. Она не выдаёт изображения. Модель статична, обучена на данных с отсечкой знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy.

Llama-3-Instruct-8B-SimPO-IMat-GGUF — это GGUF-квантизированная версия языковой модели Llama-3-Instruct-8B-SimPO, разработанной Princeton NLP. Квантизацию выполнил legraphista с использованием llama.cpp версии b3023 и калибровочных данных IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через совместимые с llama.cpp приложения и локальный инференс. Модель имеет размер 8B параметров и поставляется в нескольких вариантах GGUF: от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели. Размер файлов варьируется примерно от 3,18 до 16,07 ГБ. README не указывает поддерживаемые языки, размер контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильная сторона сборки — широкий выбор уровней квантизации для подбора баланса между качеством, скоростью и требованиями к памяти, а также возможность локального запуска в формате GGUF. Более агрессивная квантизация может снижать качество генерации по сравнению с исходной BF16-моделью. Лицензия в README не указана; условия использования следует уточнять в карточке исходной модели и репозитории сборки.

llama3-turbcat-instruct-8b-GGUF — квантизированная версия инструкционной модели turboderp/llama3-turbcat-instruct-8b, подготовленная bartowski с использованием llama.cpp. Модель относится к семейству Llama 3, имеет около 8 миллиардов параметров и предназначена для генерации текста и диалогового взаимодействия по инструкциям. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты. Модель ориентирована на задачи общего назначения: ответы на запросы пользователя, ведение диалога, создание и преобразование текста. Доступно множество вариантов квантизации от Q8 до Q2 и IQ-квантов, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. В README рекомендуются варианты Q4–Q6 как обеспечивающие высокое качество; более компактные варианты экономят память, но могут заметно уступать по качеству. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура базовой модели, результаты тестирования или специальные мультимодальные возможности, поэтому модель следует рассматривать как текстовую. К ограничениям относятся потенциальная потеря качества при низких уровнях квантизации и отсутствие подробных данных о безопасности и поведении модели. Указана лицензия Llama 3.

psx7/llama4B — текстовая модель семейства Llama, представленная в формате MLX; README указывает, что её преобразовали из rasyosef/Llama-3.1-Minitron-4B-Chat с помощью mlx-lm 0.18.1. По метаданным, модель содержит 3,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Каталог связывает её с базовой моделью nvidia/Llama-3.1-Minitron-4B-Width-Base и датасетом OpenHermes-2.5; модель предназначена для генерации текста и диалогового использования. Репозиторий содержит веса в GGUF и safetensors, а README описывает использование через mlx-lm. Указана лицензия «other», поэтому точные условия использования следует проверять в файлах лицензии репозитория.

M7Yamshadowexperiment28_Experiment27Shadow — объединённая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории представлены веса в формате Safetensors. Карточка не сообщает о специальных предметных областях или языковой специализации, поэтому модель следует рассматривать как текстовую модель общего назначения. Она распространяется по лицензии Apache-2.0.

M7Yamshadowexperiment28_Ognoexperiment27M7 — объединённая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Ognoexperiment27M7-7B. Она содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Лицензия Apache-2.0 разрешает использование на её условиях. Данных о специальных областях применения и ограничениях качества в карточке нет.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Yam — слитая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Yam-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель подходит для диалогов, создания черновиков и продолжения текста, а также для работы с длинными текстовыми запросами. В карточке не приведены оценки качества и сведения о специальной настройке для конкретных областей. Лицензия — Apache-2.0.

Magistral-Small-2506-GGUF — это GGUF-квантизированная версия языковой модели Magistral Small, разработанной Mistral AI. Файл подготовлен пользователем lmmy на основе llama.cpp, а распространением модели в рамках Community Model Program занимается сообщество LM Studio. Модель предназначена для генерации текста и задач, связанных с рассуждением, включая диалоговые сценарии, ответы на вопросы и обработку текстовых запросов. Модель поддерживает контекст длиной до 49 152 токенов и работает в формате GGUF, совместимом с llama.cpp и приложениями, использующими этот формат, включая LM Studio. В README не указаны точный размер модели, конкретная конфигурация архитектуры, поддерживаемые языки и модальности, а также параметры используемой квантизации. К сильным сторонам относятся большой контекст и возможность локального запуска через совместимое программное обеспечение. К ограничениям относятся потенциальное снижение качества из-за квантизации и отсутствие подробных данных о производительности, языковой поддержке и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0; при использовании следует учитывать, что она может генерировать неточные, вредные или неподходящие результаты.

Magistral Small 2506 — языковая модель от Mistral AI, представленная сообществом LM Studio в виде весов MLX в исходной точности bfloat16. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров, предназначенная для диалоговой генерации текста. Сборка подготовлена командой LM Studio с помощью mlx_lm и оптимизирована для Apple Silicon. Модель подходит для ведения диалога и генерации ответов на текстовые запросы; заявленная длина контекста составляет 49 152 токена. Веса распространяются по лицензии Apache-2.0. Эта публикация является производной сборкой базовой модели mistralai/Magistral-Small-2506; карточка не приводит специальных отраслевых назначений или дополнительных гарантий качества. Как и другие генеративные модели, она может выдавать неточную или неподходящую информацию.

Magnolia-v4-12B — языковая модель для генерации текста, созданная автором grimjim слиянием методом SLERP моделей grimjim/Magnolia-v3-12B и intervitens/mini-magnum-12b-v1.1. По сравнению с v3 автор описывает её как вариант с изменённым стилем генерации. Модель построена на архитектуре Mistral, содержит 12,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель подходит для диалогов и генерации ответов на нескольких языках, а также для задач продолжения текста. Она распространяется в формате Safetensors; лицензия — Apache-2.0. Качество и языковой охват в README подробно не оцениваются.

MeliodasPercival_01_AlloyingotneoyPercival_01 — объединённая модель для генерации текста, созданная слиянием двух моделей Mistral: automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyPercival_01-7B. Она предназначена для генерации текста и диалогов; размер составляет 7,1 млрд параметров, максимальная длина контекста — 32 768 токенов. Модель использует архитектуру Mistral и распространяется в формате safetensors под лицензией Apache-2.0.

MeliodasPercival_01_YamExperiment24 — объединённая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamExperiment24-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0.