II.2Создание и понимание программного кода

Gemma 4 31B IT NVFP4 Turbo GGUF — перепакованная и дополнительно квантованная версия Gemma 4 31B IT для диалоговой генерации текста. В README указано, что веса self-attention переведены из BF16 в FP4 методом RTN с group size 16; MLP сохраняют калиброванную квантизацию NVIDIA, а эмбеддинги токенов и нормализации — BF16. Также изменены конфигурация архитектуры и квантования и удалены кодировщики изображений и аудио. Модель предназначена для чат-ответов и генерации текста. Автор README заявляет, что вариант занимает на 68% меньше видеопамяти и работает примерно в 2,5 раза быстрее исходной модели при потере качества в пределах 1–3%; заявлена возможность запуска на одной RTX 5090. Для работы требуется версия llama.cpp с изменениями из PR #21971. Репозиторий распространяется по лицензии Apache-2.0.

Geodesic Phantom 12B — языковая модель, созданная OrobasVault с помощью слияния предобученных моделей через mergekit. В качестве основы использована Mistral-Nemo-Instruct-2407, также в слияние вошли модели семейства Vortex5. Архитектура — плотная MistralForCausalLM; модель содержит 12,1 млрд параметров, работает с библиотекой Transformers и распространяется в формате safetensors. Модель предназначена для диалога и генерации текста. Метаданные указывают контекст до 131 072 токенов и возможность чата; карточка не приводит специализированных областей применения или подробных оценок качества. Языковая поддержка не установлена по доступным данным. Лицензия в предоставленных сведениях не указана.

glm-4-9b-chat-IMat-GGUF — это набор GGUF-квантизированных версий чат-модели THUDM/glm-4-9b-chat, разработанной командой THUDM. Квантизацию выполнил legraphista с использованием llama.cpp и IMatrix для ряда вариантов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимое программное обеспечение, например llama.cpp. Модель имеет около 9 миллиардов параметров и создана на основе исходной версии в формате BF16. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций; размеры файлов составляют примерно от 3,99 до 18,81 ГБ. В метаданных указана поддержка китайского и английского языков. Для низкобитных вариантов применена IMatrix, призванная улучшить качество квантизации, однако конкретные показатели качества и максимальный размер контекста в README не указаны. Главное преимущество набора — выбор между качеством, размером и требованиями к ресурсам, что позволяет запускать модель на различном локальном оборудовании. Ограничения связаны с потерями качества при более агрессивной квантизации, а также с отсутствием в предоставленных данных подробных бенчмарков, требований к памяти и описания архитектуры. Модель распространяется по лицензии glm-4; README указывает отдельную лицензию и ссылку на лицензионные условия исходной модели.

SirSahOl подготовил эту версию GLM-Edge-4B-Chat для запуска через MLX на Apple Silicon. Это плотная авторегрессионная модель семейства GLM с 4,1 млрд параметров, предназначенная для диалогов и генерации текста; она поддерживает контекст до 8 192 токенов. Репозиторий содержит веса в формате safetensors с точностью 16 бит без квантизации. Конверсия рассчитана на локальный вывод с использованием GPU Apple Silicon и библиотеки MLX; заявленный активный объём памяти составляет около 9,3 ГБ, рекомендуется не менее 16 ГБ объединённой памяти. Модель подходит для интерактивного помощника, многоходового чата и локального дополнения текста. Карточка указывает лицензию «other», но не приводит её конкретных условий, поэтому перед использованием следует проверить лицензию исходной модели и репозитория. Это преобразованная версия базовой модели THUDM/glm-edge-4b-chat; поддержка других аппаратных платформ в карточке не заявлена.

Vaibhav1001/gpt_oss_finetune_16bit — дообученная текстовая генеративная модель семейства GPT-OSS на базе unsloth/gpt-oss-20b-unsloth-bnb-4bit. Согласно метаданным, это MoE-модель с архитектурой GptOssForCausalLM, поддерживающая диалоговый режим и интерфейс вызова инструментов; размер указан как 1,6 млрд параметров, контекст — до 131 072 токенов. README сообщает, что при обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия, в том числе со сценарием вызова инструментов. В карточке не описаны специализация дообучения, состав обучающих данных или результаты оценки качества, поэтому её пригодность для конкретной предметной области определить нельзя. Указана лицензия Apache 2.0.

mlx-community/granite-4.1-30b-bf16 — конверсия в формат MLX модели Granite 4.1 30B, разработанной IBM. Это плотная языковая модель с архитектурой GraniteForCausalLM и 28,9 млрд параметров, предназначенная для диалогов и генерации текста; каталог также отмечает возможность чата. Модель принимает текст и выдаёт текст, а заявленная длина контекста составляет 131 072 токена. Репозиторий подготовлен сообществом mlx-community для запуска через библиотеку MLX на устройствах Apple. Лицензия Apache-2.0 разрешает использование на её условиях. README указывает на конверсию исходной модели ibm-granite/granite-4.1-30b в MLX; метаданные содержат формат safetensors и связь с базовой моделью.

Granite Vision 4.1 4B — компактная визуально-языковая модель IBM Research для извлечения структурированных данных из изображений документов и графиков. Архитектура Granite4 Vision объединяет языковую модель на 3,4 млрд параметров и визуальный энкодер с проекторами на 0,6 млрд параметров; модель дообучена на Granite-4.1-3B. Она принимает изображения и текстовые инструкции, а ответы формирует в текстовом виде, включая CSV, HTML, JSON, OTSL, код Python и описания на естественном языке. Модель предназначена прежде всего для преобразования графиков в данные, код или краткие описания, извлечения таблиц со сложной структурой и поиска семантических пар «ключ—значение» в документах с разной вёрсткой. Её также можно применять для описания изображений и в конвейерах обработки документов, в том числе с Docling. Карточка сообщает о 94,2% точности exact match на VAREX в zero-shot режиме; это результат конкретного бенчмарка и не гарантия для других данных. Модель разработана для специализированного извлечения информации и может хуже справляться с открытыми задачами по изображениям. Генеративные ответы могут содержать ошибки, поэтому их следует проверять, особенно в важных процессах. Инструкции обучения были на английском, и качество на документах на других языках может быть ниже. Лицензия — Apache 2.0.

Hippolyta-7B — языковая модель, созданная Kquant03 на основе Mistral-7B-v0.1 и дообученная на наборах OpenOrca, OpenHermes, Dolphin и Airoboros, а также на небольшом объёме частных данных. Это плотная авторегрессионная модель на 7,1 млрд параметров для генерации текста и ответов в формате чат-инструкций с шаблоном Mistral. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык, а веса опубликованы в формате safetensors. Репозиторий заявляет лицензию Apache-2.0. Модель подходит для диалогов, ответов на вопросы, выполнения текстовых инструкций и написания текста. Автор отмечает, что форматирование части частного обучающего набора требует доработки; описание качества основано на личной оценке автора, а не на приведённых результатах оценки. В README также упомянуты файлы GGUF, но метаданные репозитория указывают safetensors.

Hy4-preview-GGUF — это квантизированные GGUF-версии модели Tencent Hy4-preview, подготовленные qtum с использованием llama.cpp. Модель предназначена для генерации текста и поддерживает английский и китайский языки. Распространяется в формате GGUF, совместимом с llama.cpp, и требует сборку с поддержкой hy_v4. Модель имеет 780 млрд параметров, 78 слоёв и словарь из 120 832 токенов. В архитектуре используются attention MLA в стиле DeepSeek, гиперсвязи iHC, разреженное внимание DSA и MoE с 256 маршрутизируемыми экспертами, top-8 маршрутизацией и одним общим экспертом. Доступны варианты IQ4_XS размером 388,3 ГиБ, Q2_K размером 269,6 ГиБ и IQ2_XS размером 218,9 ГиБ; каждый состоит из 39 фрагментов и откалиброван с помощью importance matrix. IQ4_XS обеспечивает наилучшее качество среди представленных вариантов и сохраняет тот же наиболее вероятный токен, что и исходная BF16-модель, примерно в 90,5% позиций. Q2_K предлагает компромисс между качеством и размером и обозначен как лучший вариант для инференса только на CPU, тогда как IQ2_XS предназначен для систем с жёсткими ограничениями по памяти. Ограничения включают очень большой объём файлов, необходимость загрузить все 39 фрагментов и зависимость от актуальной версии llama.cpp; более ранние сборки модель не загружают. Лицензия — Apache-2.0.

Josiefied-Qwen3-4B-abliterated-v1 — диалоговая языковая модель, разработанная Gökdeniz Gülmez на основе Qwen3-4B. Модель дообучена с изменением отказного поведения, чтобы давать более открытые ответы, сохраняя следование инструкциям и интерфейс вызова инструментов. Она предназначена для генерации текста и диалогов, выполнения инструкций и сценариев, где нужна менее строгая фильтрация ответов. Архитектура — плотная Qwen3ForCausalLM примерно на 3,7 млрд параметров; нативное контекстное окно составляет 40 960 токенов. В репозитории указаны веса safetensors, а также варианты GGUF и MLX. Модель может генерировать чувствительные или спорные ответы из-за ослабленных защитных ограничений. Лицензия в предоставленных данных не указана.

Kimi-Linear-48B-A3B-Instruct-4bit — языковая instruction-модель, разработанная Moonshot AI и преобразованная сообществом mlx-community в формат MLX. Исходная модель — moonshotai/Kimi-Linear-48B-A3B-Instruct; конвертация выполнена с использованием mlx-lm версии 0.28.4. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая сценарии локального запуска через библиотеку mlx-lm на совместимом оборудовании Apple MLX. В README указаны размер исходной модели 48B и конфигурация A3B, а также 4-битное квантование. Поддерживается текстовая модальность; сведения о языках, длине контекста и архитектурных деталях, кроме обозначения Kimi-Linear, не приведены. К сильным сторонам относятся сниженный объём хранения и требования к памяти благодаря 4-битному представлению, а также интеграция с MLX и готовым интерфейсом mlx-lm. Ограничения связаны с зависимостью от экосистемы MLX и отсутствием в предоставленных данных подробных сведений о качестве, производительности, поддерживаемых языках и контексте. Модель распространяется по лицензии MIT.

Laguna-S-2.1-GGUF — это квантизированная версия языковой модели Laguna-S-2.1, разработанной poolside и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально или в совместимых инструментах, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В репозитории представлены варианты с точностью от BF16 до Q2_K, включая рекомендуемые конфигурации Q4_K_M, Q5_K_M, Q6_K и другие. Размер файлов варьируется примерно от 41,79 до 235,20 ГБ; многие варианты разделены на несколько частей. Квантизация выполнена с использованием imatrix и llama.cpp. Формат поддерживает запуск на CPU и GPU в зависимости от используемого программного обеспечения и аппаратной конфигурации. Ключевые архитектурные характеристики исходной модели, число параметров, поддерживаемые языки, длина контекста и мультимодальные возможности в предоставленных данных не указаны. Более низкие уровни квантизации экономят память, но могут снижать качество генерации; варианты BF16 и высокоточные кванты требуют значительных ресурсов. Лицензия указана как OpenMDW-1.1.

SC117/LFM2.5-2.6B-Uncensored — производная текстовая модель сообщества на основе LiquidAI/LFM2.5-2.6B. Автор карточки описывает её как компактную модель для локального запуска и агентных сценариев; поведенческое редактирование abliterix Trial 65 снижает частоту отказов, сохраняя заявленные возможности следования инструкциям, работы с инструментами и многошаговых задач. Официальные бенчмарки для этой версии не проводились. Модель имеет плотную гибридную архитектуру LFM2: 30 слоёв, включая блоки коротких свёрток и GQA. Размер — 2,6 млрд параметров, контекст — 128 000 токенов. Поставляется в BF16 в формате safetensors и использует шаблон диалога на основе ChatML с маркером рассуждения <think>. В карточке не перечислены поддерживаемые естественные языки. Изменённое поведение означает более низкий порог отказа на запросы, поэтому модель может выдавать ответы, от которых отказывается базовая версия; её соответствие требованиям конкретного применения нужно оценивать отдельно. Это не официальный релиз Liquid AI. Указана лицензия LFM Open License v1.0, совпадающая с лицензией базовой модели; перед использованием следует учитывать её условия.

Это чат-модель Llama 2 Chat на 13 млрд параметров, разработанная Meta и размещённая в формате Transformers с весами PyTorch. Репозиторий содержит копию meta-llama/Llama-2-13b-chat-hf с весами, разбитыми на части для загрузки. Архитектура — плотный авторегрессионный трансформер LlamaForCausalLM; контекст — до 4096 токенов. Модель принимает текст и генерирует текст. Модель оптимизирована для диалогов в формате помощника: она может отвечать на вопросы, вести беседу и выполнять текстовые инструкции. Для ожидаемого поведения чат-варианту требуется форматирование запросов с маркерами инструкций и специальными токенами. В карточке указано назначение для английского языка; применение на других языках исключено из заявленного сценария. Модель дообучена с учителем и с использованием обучения с подкреплением на основе отзывов людей для повышения полезности и безопасности. Использование регулируется специальной коммерческой лицензией Meta: перед загрузкой весов необходимо принять условия лицензии. Возможны неточные, предвзятые или нежелательные ответы; перед внедрением нужны проверки и настройка безопасности для конкретного применения.

RedHatAI/Llama-2-7b-dolphin-open_platypus-pruned_70 — разреженная на 70% модель Llama 2 с 6,6 млрд параметров, дообученная на следование инструкциям на смеси наборов Platypus, OpenOrca и Dolphin. Она предназначена для генерации текста в ответ на инструкции и может запускаться через библиотеку Transformers; для ускоренного инференса с использованием разреженности в README упоминаются nm-vllm и deepsparse. Контекст модели — до 4096 токенов. В приведённых бенчмарках модель уступает Llama-2-7b-instruct: например, результаты составляют 42,33% против 48,60% на MMLU, 77,21% против 79,45% на HellaSwag и 71,90% против 75,69% на WinoGrande. Репозиторий содержит веса safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

tanliboy/llama-3.2-3b-sft — дообученная модель семейства Llama 3.2, созданная на основе tanliboy/llama-3.2-3b с помощью supervised fine-tuning на наборе tanliboy/OpenHermes-2.5-reformat. Это плотная авторегрессионная языковая модель с 3,2 млрд параметров, предназначенная для генерации текста и диалогового общения. Метаданные указывают контекстное окно до 131 072 токенов и интерфейс вызова инструментов. Модель можно применять для генерации ответов в чате и других задач продолжения текста. В README приведено значение loss 0,7216 на оценочном наборе, но подробности методики оценки и характеристик датасета не раскрыты. Модель опубликована в формате Safetensors для библиотеки Transformers под лицензией llama3.2. Языки поддержки не указаны.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-CPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-IPO-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-RRHF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Llama-3-Instruct-8B-SimPO-IMat-GGUF — это GGUF-квантизированная версия языковой модели Llama-3-Instruct-8B-SimPO, разработанной Princeton NLP. Квантизацию выполнил legraphista с использованием llama.cpp версии b3023 и калибровочных данных IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через совместимые с llama.cpp приложения и локальный инференс. Модель имеет размер 8B параметров и поставляется в нескольких вариантах GGUF: от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели. Размер файлов варьируется примерно от 3,18 до 16,07 ГБ. README не указывает поддерживаемые языки, размер контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильная сторона сборки — широкий выбор уровней квантизации для подбора баланса между качеством, скоростью и требованиями к памяти, а также возможность локального запуска в формате GGUF. Более агрессивная квантизация может снижать качество генерации по сравнению с исходной BF16-моделью. Лицензия в README не указана; условия использования следует уточнять в карточке исходной модели и репозитории сборки.

M7Yamshadowexperiment28_Experiment26Experiment26 — слитая модель семейства Mistral, созданная объединением automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Experiment26-7B. Она предназначена для генерации текста и имеет 7,1 млрд параметров; модель использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель может применяться для генерации продолжений, ответов и других текстов по запросу. Карточка не описывает специализацию по языкам или прикладным областям. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

M7Yamshadowexperiment28_NeuralsirkrishnaT3qm7x — объединённая языковая модель семейства Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/NeuralsirkrishnaT3qm7x-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель предназначена для генерации текста и диалогов, принимает текстовые запросы и формирует текстовые ответы. Размер контекста составляет до 32 768 токенов. В карточке не приведены сведения о специализации на конкретных языках или прикладных областях. Модель опубликована 7 апреля 2024 года под лицензией Apache-2.0. Карточка не сообщает результатов оценки качества или ограничений, специфичных для этого слияния.

PS4Research/mbazkhYJvXJIVctL — дообученная плотная языковая модель семейства Seed OSS на архитектуре SeedOssForCausalLM, основанная на ByteDance-Seed/Seed-OSS-36B-Instruct. Разработчик — PS4Research; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 31,7 млрд параметров и поддерживает контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста и работы с инструментами через интерфейс вызова инструментов. Карточка не описывает специальную предметную область или отличия дообучения от базовой модели. Модель принимает и выдаёт текст, основной язык в карточке — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Ограничения, связанные с качеством ответов или конкретными сценариями применения, в карточке не описаны.

MeliodasPercival_01_Experiment28Meliodas — объединённая модель генерации текста, созданная MaziyarPanahi на основе automerger/MeliodasPercival_01-7B и automerger/Experiment28Meliodas-7B. Она предназначена для генерации текста и диалогов; архитектура — Mistral с плотной моделью на 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

MeliodasT3qm7_Experiment27Neuralsirkrishna — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasT3qm7-7B и automerger/Experiment27Neuralsirkrishna-7B. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Размер контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Данных о специализации по языкам или прикладным областям нет.

MFANN-SFT — объединённая диалоговая языковая модель от netcat420, созданная с помощью mergekit. В качестве основы использована mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated, а также объединены MFANN-Llama3.1-Abliterated-SLERP-V5 и MFANN-SFT-precursor-2 методом TIES. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы; базовая модель описана как вариант Llama 3.1 Instruct с ослабленными ограничениями на ответы. Доступные данные не описывают отдельные предметные специализации или языковой охват. Репозиторий содержит веса в формате Safetensors. Лицензия в предоставленных данных не указана.

MinerU-HTML (Dripper) — дообученная OpenDataLab модель на архитектуре Qwen3 для извлечения основного содержимого HTML-страниц. Она классифицирует элементы страницы и формирует структурированный результат с помощью генерации, управляемой конечным автоматом; проект также предусматривает резервные методы извлечения и API для интеграции. Модель содержит около 508 млн параметров, принимает текстовое представление HTML и выдаёт текст с извлечённым содержимым. Контекст — до 40 960 токенов; в метаданных указана поддержка английского и китайского языков. Модель предназначена для очистки веб-страниц от навигации и других вспомогательных элементов, подготовки содержимого для индексации и использования в RAG-системах, а также для пакетной обработки и оценки качества извлечения. Для локального запуска README рекомендует GPU с CUDA и достаточный объём памяти; предусмотрена интеграция через Python API и REST API. Лицензия модели — Apache 2.0.

MiniCPM5-1B-Rebel-i1-GGUF — GGUF-квантизированная версия модели MiniCPM5-1B-Rebel, опубликованная mradermacher и квантованная им на основе модели XuehangCang/MiniCPM5-1B-Rebel. Базовая модель разработана XuehangCang; в README также указаны связанные с ней наборы данных от XuehangCang и OpenBMB. Модель предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, включая локальные и периферийные сценарии использования. Модель относится к семейству MiniCPM5 и имеет размер 1B параметров. Доступна в формате GGUF с различными вариантами квантования от IQ1_S до Q6_K; размеры файлов составляют примерно 0,5–1,0 ГБ. Указана поддержка английского и китайского языков. Архитектура, точная длина контекста и дополнительные модальности в README не раскрыты, поэтому модель следует рассматривать как текстовую. Для ряда квантов отмечен компромисс между размером, скоростью и качеством; наиболее рекомендуемыми названы i1-Q4_K_M и i1-Q4_K_S, тогда как низкобитные варианты могут заметно снижать качество. Лицензия — Apache-2.0. README характеризует модель как uncensored и связанную с abliteration, однако не приводит подробных результатов оценки, ограничений безопасности или инструкций по ответственному применению. Для запуска требуются совместимые инструменты, поддерживающие формат GGUF.

MiniMax-M2-MLX-8bit — это 8-битная квантованная версия языковой модели MiniMax-M2, разработанной компанией MiniMaxAI. Данная версия подготовлена командой LM Studio на базе MLX и предназначена для локального запуска на компьютерах Apple Silicon, в том числе через LM Studio. Модель относится к классу text-generation и рассчитана на задачи генерации текста и диалогового взаимодействия. Она использует архитектуру и возможности исходной MiniMax-M2, однако в предоставленных данных не указаны точные размер модели, архитектурные параметры, поддерживаемые языки, объём контекстного окна и сведения о мультимодальности. Ключевая особенность версии — 8-битное квантование и оптимизация с помощью MLX для устройств Apple Silicon, что делает её более подходящей для локального использования при ограниченных ресурсах по сравнению с полноразмерной версией. Ограничения включают возможное снижение точности из-за квантования, зависимость от совместимого оборудования и отсутствие подробных данных о качестве, производительности и области применения. Модель распространяется по лицензии MIT.

Mistral-grok-instract-2-7B-slerp — объединённая автором модель для генерации текста и диалоговых ответов. Она создана методом slerp через LazyMergekit на основе mistralai/Mistral-7B-Instruct-v0.2 и HuggingFaceH4/mistral-7b-grok; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и рассчитана на диалоговый режим. Модель можно применять для ответов на инструкции, ведения диалога и генерации текста. В репозитории представлены веса в форматах Safetensors и GGUF. Лицензия — MIT. Отдельные сведения о сравнительной точности или результатах оценки в карточке не приведены.