II.3Рефакторинг, миграция и модернизация

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.

Это GGUF-квантизированная версия языковой модели DeepSeek-V3-0324, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты квантования Q2, Q3, Q4, Q5, Q6, Q8 и IQ, включая версии Q4_K_M-V2 и другие модификации. Размер файлов варьируется примерно от 247 до 713 ГБ, поэтому запуск требует значительных ресурсов. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а более низкие уменьшают требования к памяти ценой качества. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, мультимодальности или размере контекста. Модель подходит для локального текстового inference и может использоваться в приложениях, поддерживающих формат GGUF и экосистему llama.cpp. Рекомендуемый шаблон промпта приведён в README. Распространение указано по лицензии MIT.

mlx-community/DeepSeek-R1-Distill-Qwen-7B-4bit — это 4-битно квантованная версия модели DeepSeek-R1-Distill-Qwen-7B, преобразованная сообществом mlx-community в формат MLX из исходной модели deepseek-ai с использованием mlx-lm версии 0.21.1. Модель предназначена для локального запуска и генерации текста в экосистеме MLX, прежде всего на устройствах Apple, совместимых с этим фреймворком. Модель относится к семейству Qwen и имеет размер 7B параметров; доступна в 4-битном представлении, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность. README показывает поддержку диалогового использования через chat template и библиотеки mlx-lm. Сведения о модальностях, языках, размере контекста, специализированных сценариях, ограничениях качества и лицензии в предоставленных данных отсутствуют.

Это объединённая методом SLERP языковая модель MaziyarPanahi, созданная на основе Mistral-7B-Instruct-v0.2 и dolphin-2.6-mistral-7b. Модель относится к семейству Mistral, использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для диалоговой генерации текста и выполнения инструкций; максимальная длина контекста составляет 32 768 токенов. Модель подходит для создания чат-ботов, ответов на вопросы и генерации текста по запросу. Репозиторий распространяется в формате safetensors, а лицензия — Apache-2.0. Доступные сведения не уточняют языковой охват и конкретные ограничения качества; поведение унаследовано от объединённых моделей.

Dolphin-Llama2-7b — языковая модель команды Dolphin, обучение которой спонсировала preemo. Это дообученная плотная модель семейства Llama 2 с 6,6 млрд параметров и контекстом до 4096 токенов. Она принимает текстовые инструкции и генерирует текст; для диалога используется формат промпта, похожий на Vicuna, с полями SYSTEM, USER и ASSISTANT. Модель предназначена для ответов на инструкции, диалога и выполнения широкого круга текстовых задач. При дообучении использовался открытый вариант данных Orca: инструкции FLANv2 с ответами GPT-3.5 и GPT-4; авторы сообщают о фильтрации отказов и ограничений, поэтому модель может отвечать на запросы, от которых другие модели откажутся. Это повышает риск нежелательных или вредоносных ответов; автор рекомендует добавить собственный слой выравнивания перед предоставлением модели пользователям. В карточке указана лицензия Llama 2, допускающая коммерческое и некоммерческое применение с соблюдением её условий.

EVA-Qwen2.5-72B-v0.2-GGUF — это GGUF-квантизированная версия текстовой генеративной модели EVA-Qwen2.5-72B-v0.2, подготовленная пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Базовая модель указана как EVA-UNIT-01/EVA-Qwen2.5-72B-v0.2; её основой является Qwen2.5-72B. Модель ориентирована на генерацию текста, следование инструкциям, написание различных материалов и ролевые сценарии. В обучающих данных использовались наборы для instruction-following, письма, roleplay и синтетической генерации, включая материалы на базе Opus, Sonnet 3.5, ChatGPT-4o и Dolphin. Модель доступна в нескольких вариантах квантования от Q8_0 до Q2_K и IQ-квантов, с размером файлов примерно от 27 до 77 ГБ. Более высокие варианты сохраняют лучшее качество, а низкобитные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для запуска рекомендуется использовать LM Studio или совместимый с GGUF движок на базе llama.cpp. В README не указаны точная архитектура, размер контекста, поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Лицензия обозначена как Qwen; в качестве официального документа приведена лицензия Qwen2.5-72B-Instruct. Условия конкретного использования необходимо проверять по указанному лицензионному тексту. Основные ограничения связаны с большими требованиями к памяти и снижением качества при использовании низких уровней квантования; вариант Q4_K_M описан как оптимальный по размеру для большинства сценариев, а Q6_K и Q5 считаются высококачественными рекомендуемыми вариантами.

MaziyarPanahi/Falkor-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF — это квантованная версия языковой модели Falkor-7b-Mistral-7B-Instruct-v0.2-slerp, разработанная и подготовленная MaziyarPanahi. Модель основана на Mistral-7B-Instruct-v0.2 и предназначена для генерации текста и выполнения инструкций в локальных и серверных сценариях. Модель поставляется в формате GGUF, совместимом с llama.cpp и рядом приложений и библиотек для локального запуска, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другие. Доступны варианты квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Это позволяет выбирать компромисс между размером файла, требованиями к ресурсам и качеством генерации. Точное число параметров указано как 7B; поддерживаются текстовые задачи, однако сведения о языках и размере контекстного окна в README отсутствуют. Сильными сторонами являются уменьшенный размер квантованных файлов и возможность запуска на широком спектре локальных конфигураций с поддержкой CPU и GPU через совместимые инструменты. Ограничения включают потенциальное снижение качества при использовании более агрессивного квантования, а также отсутствие в README подробных результатов оценки, описания архитектуры с дополнительными деталями и характеристик мультимодальности. Модель распространяется по лицензии Apache-2.0.

google_gemma-3-27b-it-qat-GGUF — это GGUF-квантизация instruction-tuned модели Gemma 3 с 27 млрд параметров, разработанной Google. Квантизацию выполнил bartowski на основе QAT-весов Google с использованием llama.cpp и метода imatrix. В карточке модель обозначена как image-text-to-text, поэтому она предназначена для генерации текста по текстовым и, вероятно, визуально-текстовым входным данным. Основной файл Q4_0 имеет размер около 15,62 ГБ и рассчитан на запуск через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты с разными уровнями квантования — от BF16 и Q8_0 до Q3 и IQ-форматов, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Для Q4_0 заявлены улучшения благодаря QAT и поддержка онлайн-репаковки для ARM- и AVX-совместимых CPU. Языки, размер контекста и точные архитектурные характеристики в README не указаны. Модель подходит для локального запуска, диалоговых приложений и мультимодальных сценариев, поддерживаемых Gemma 3 и используемым рантаймом. Более высокие варианты квантования обеспечивают лучшее качество, но требуют больше памяти; низкие варианты экономичнее, однако могут заметно уступать по качеству. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.

Это GGUF-квантизации модели llmfan46/gpt-oss-120b-heretic-v2, созданные независимым автором на основе дообученной версии gpt-oss-120b. Модель предназначена для диалогов и генерации текста, включая задачи с вызовом инструментов и структурированными ответами в совместимых средах запуска. Вариант heretic создан методом abliteration: в README указаны параметры обработки и меньше отказов в приведённом сравнении с исходной gpt-oss-120b. Репозиторий распространяет веса в формате GGUF и рассчитан на запуск через llama.cpp, LM Studio, Ollama и другие совместимые программы. Указана лицензия Apache 2.0.

ibm-granite/granite-3.3-8b-instruct-FP8 — это версия модели Granite-3.3-8b-Instruct в формате FP8, разработанная IBM. Модель предназначена для генерации текста и использования в сценариях, требующих следования инструкциям; карточка указывает pipeline text-generation и совместимость с библиотекой Transformers. Модель основана на ibm-granite/granite-3.3-8b-instruct и содержит 8 миллиардов параметров, однако в представленном README не приведены сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Формат FP8 может быть полезен для более эффективного хранения и инференса, но конкретные требования к оборудованию и показатели качества не указаны. Модель распространяется по лицензии Apache-2.0. Для полного описания возможностей и ограничений рекомендуется обратиться к карточке базовой модели, поскольку текущий README содержит только краткую информацию о FP8-версии.

DevQuasar/huihui-ai.Huihui-Qwen3.5-27B-abliterated-GGUF — это квантованная версия модели Huihui-Qwen3.5-27B-abliterated, разработанной huihui-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель относится к классу text-generation и предназначена для генерации текста и работы в сценариях локального запуска совместимых LLM-инструментов. Из доступных данных известно, что модель основана на варианте Qwen3.5 с размером 27B параметров и представляет собой abliterated-версию. Ключевые сведения об используемой архитектуре, конкретном типе квантования, поддерживаемых языках, размере контекстного окна, качестве, ограничениях и лицензии в README не указаны. Условия использования следует уточнять по лицензии исходной модели и опубликованным материалам репозитория.

LFM2.5-1.2B-Thinking-ONNX — ONNX-экспорт модели LFM2.5-1.2B-Thinking, разработанной Liquid AI. Это текстовая генеративная модель для кроссплатформенного вывода, включая локальный запуск, браузерные приложения и устройства с поддержкой ONNX Runtime или WebGPU. Модель предназначена для задач, требующих рассуждений: математических вычислений, программирования, логического анализа и других сложных запросов. Она генерирует пошаговый процесс рассуждения в тегах <think>...</think>, после чего формирует итоговый ответ. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Архитектура и максимальная длина контекста в README не указаны; размер модели составляет около 1,2 млрд параметров согласно идентификатору и описанию варианта. Доступны варианты FP32, FP16, Q8 и Q4. Квантизированный Q4-вариант занимает около 1,2 ГБ и рекомендован для большинства сценариев, FP16 — около 2,4 ГБ и ориентирован на более высокое качество, Q8 — около 1,7 ГБ как компромисс между качеством и размером. ONNX-формат облегчает переносимость, но для браузерного запуска требуется WebGPU. Ограничения включают небольшой размер по современным меркам, возможные ошибки в сложных задачах и необходимость самостоятельно обрабатывать разделение рассуждений и итогового ответа. Модель распространяется по лицензии lfm1.0; точные условия следует проверить в файле LICENSE репозитория.

Ling-3.0-flash-abliterated-APEX-GGUF — неофициальная общественная GGUF-сборка модели Ling-3.0-flash, разработанной inclusionAI. Модель предназначена для генерации текста и задач рассуждения, включая локальный запуск через совместимое с GGUF программное обеспечение. В официальной версии мышление включено по умолчанию. Модель использует гибридную архитектуру MoE: 124 млрд параметров всего и около 5,1 млрд активных параметров. В её основе — стек из Kimi Delta Attention и gated MLA в соотношении 5:1, разреженный MoE с 512 маршрутизируемыми экспертами, выбором top-8 и одним общим экспертом, два плотных слоя и обученная MTP-голова. Заявленный график контекстного окна составляет 8K, затем 32K и до 256K токенов. Формат GGUF использует архитектуру bailingmoe3 и смешанную квантизацию APEX; наличие поддерживаемых языков в README не указано. Эта сборка отличается от официальной применением abliterix v6 trial 21 для снижения частоты отказов и последующим преобразованием в GGUF. Поэтому она может заметно отличаться от исходной модели по поведению и безопасности; README указывает на необходимость самостоятельной оценки соответствия требованиям, контроля доступа и аудита. Также для указанных уровней квантизации не использовалась imatrix. Лицензия — MIT, при этом необходимо соблюдать условия inclusionAI и применимое местное законодательство.

Llama 3.1 Tulu 2 DPO 8B — англоязычная диалоговая модель-помощник, разработанная Ai2 и дообученная на базе allenai/llama-3.1-tulu-2-8b. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов. Веса опубликованы в формате safetensors. Модель предназначена для диалогов и выполнения разнообразных инструкций: она прошла дополнительное выравнивание методом DPO на данных UltraFeedback после дообучения на смеси открытых, синтетических и созданных людьми данных Tulu. Её можно применять для ответов на вопросы, написания текстов и решения задач по инструкциям на английском языке. Модель не проходила этап RLHF, ориентированный на безопасные ответы, и не использует фильтрацию ответов; при соответствующих запросах она может выдавать проблемный контент. Лицензия репозитория — Apache 2.0; в карточке также указана лицензия Meta Llama 3.1 Community License для базовой модели.

LLaMa-3.1-Zeroed-30-70-13B — объединённая языковая модель семейства Llama, созданная сообществом mergekit-community методом линейного слияния двух моделей: LLaMa-3.1-Zeroed-13B с весом 0,3 и LLaMa-3.1-Instruct-Zeroed-13B с весом 0,7. Модель содержит 12,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов по инструкциям; в метаданных также указана поддержка интерфейса вызова инструментов. Контекст составляет до 131 072 токенов. README не приводит дополнительных сведений о языках, качестве на конкретных задачах или условиях лицензии, поэтому их нельзя уточнить по предоставленным данным.

Карточка модели joe-sidley-adc/lora-finetuned на Hugging Face совпадает с карточкой unsloth/gpt-oss-20b-BF16, поэтому описание составлено по ней. unsloth/gpt-oss-20b-BF16 — вариант модели gpt-oss-20b от Unsloth, основанный на openai/gpt-oss-20b и предназначенный для генерации текста, диалога и задач с рассуждениями. Это модель семейства gpt_oss с архитектурой MoE; метаданные указывают 1,6 млрд параметров и контекст 131 072 токена. Версия размещена в формате safetensors и использует библиотеку Transformers. Модель рассчитана на сценарии с низкой задержкой и локальный запуск, а также на специализированные приложения и агентные системы. Она поддерживает настраиваемый уровень рассуждений, вызов функций и структурированный вывод; для корректной работы требуется формат диалога Harmony. Вариант BF16 распространяется по лицензии Apache 2.0, допускающей коммерческое использование. Карточка описывает возможности семейства gpt-oss; сведения о языковой специализации именно этой версии не приведены.

Meta-Llama-3-120B-Instruct-GGUF — GGUF-квантизированная версия community-модели Meta-Llama-3-120B-Instruct, созданной Maxime Labonne (mlabonne) с использованием self-merge через MergeKit на базе Meta-Llama-3-70B-Instruct. Квантизацию выполнил bartowski с использованием llama.cpp. Модель предназначена для генерации текста общего назначения и диалогового взаимодействия, включая работу в LM Studio. Модель относится к семейству Llama 3, имеет заявленный размер 120B параметров и поддерживает текстовую модальность. Точные сведения о контексте, языках и конфигурации архитектуры в README не указаны. Для корректного взаимодействия рекомендуется использовать шаблон запросов Llama 3 и системный промпт помощника. Self-merge направлен на расширение возможностей без дополнительных затрат на обучение, однако README не содержит независимых результатов оценки качества. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия обозначена как other; конкретные условия использования в README не раскрыты, их следует уточнять на странице исходной модели.

MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-heretic — небольшая языковая модель на базе openbmb/MiniCPM5-1B и производного дообучения GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking. Модель создана автором saidutta69 с использованием Heretic 1.4.0 и метода directional ablation («abliteration»): целевые изменения весов подавляют поведение отказа без дополнительного дообучения. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, tool calling и function calling, а также локальных агентов, ролевых сценариев и исследований механизмов отказов и выравнивания. Модель имеет размер около 1,1 млрд параметров, поддерживает режимы Think и No-Think, контекст до 128K токенов и языки английский и китайский. Для локального запуска доступны версии GGUF, включая F16 и различные варианты квантования; заявлена совместимость с llama.cpp, Ollama, LM Studio и Jan. Благодаря небольшому размеру она подходит для потребительских GPU, CPU и edge-устройств. В README также заявлены сохранение возможностей базовой модели, сильные стороны в tool calling, кодинге и рассуждениях, а также снижение числа отказов с 93 до 3 на 100 тестовых запросов; эти показатели приведены автором модели и не подтверждены независимой оценкой. Ограничения включают малый размер модели по сравнению с современными крупными LLM, возможное ухудшение качества при агрессивном квантовании и потенциальные риски, связанные с подавлением защитного поведения. Модель распространяется по лицензии Apache-2.0.

amd/MiniMax-M2.7-MXFP4 — текстовая языковая модель MiniMax M2.7, разработанная MiniMax и оптимизированная AMD. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая сценарии с рассуждениями и вызовом инструментов. Указан английский язык; дополнительные языки в карточке не заявлены. Модель реализована на архитектуре MiniMaxM2ForCausalLM и представляет собой статически квантизованную версию amd/MiniMax-M2.7-BF16. Веса и активации квантизованы в формате OCP MXFP4 с использованием AMD-Quark: для весов применяется статическая, а для активаций — динамическая квантизация. Поддерживаются аппаратные платформы AMD MI350 и MI355, ROCm 7.2.1, PyTorch 2.10.0 и Linux. Для инференса указаны SGLang и vLLM; конфигурация также поддерживает tensor parallelism, выбор инструментов и парсеры MiniMax для вызова инструментов и рассуждений. Размер модели и длина контекста не указаны. Сильной стороной является существенное снижение точности представления при сохранении качества: на GSM8K модель получила 91,89 против 91,81 у исходной MiniMaxAI/MiniMax-M2.7, что соответствует восстановлению 100,09% результата. Ограничения включают зависимость от совместимого оборудования AMD и программного стека, а также отсутствие данных о качестве на других задачах, полном наборе языков и контекстном окне. Лицензия модифицированная MIT с некоммерческим использованием; коммерческое использование требует предварительного письменного разрешения MiniMax и соблюдения дополнительных условий.

amd/MiniMax-M3-MXFP4 — мультимодальная модель для преобразования текста и изображений в текст, созданная на базе MiniMaxAI/MiniMax-M3 и оптимизированная AMD с использованием AMD-Quark. Архитектура обозначена как MiniMaxM3SparseForConditionalGeneration и включает разреженную MoE-компоненту. Модель предназначена для мультимодального анализа, агентских сценариев, программирования и работы с видео, если соответствующая поддержка реализована используемым программным окружением. Веса и активации квантизированы в формате OCP MXFP4: для весов используется статическая, а для активаций — динамическая квантизация. Модель ориентирована на AMD MI350/MI355, ROCm 7.1.1, PyTorch 2.10.0, Transformers 5.2.0 и запуск через vLLM в Linux. Размер модели, максимальная длина контекста и список поддерживаемых языков в README не указаны. На GSM8K модель получила результат 94,19 против 95,30 у исходной MiniMaxAI/MiniMax-M3, что соответствует восстановлению 98,84% показателя исходной модели. Основные ограничения — зависимость от специализированного оборудования AMD и совместимого программного стека, а также возможная потеря качества из-за MXFP4-квантизации. Лицензия указана как minimax-community; точные условия следует уточнять в файле LICENSE.

TheBloke/Mistral-7B-v0.1-GGUF — это набор квантованных файлов в формате GGUF для предварительно обученной языковой модели Mistral 7B v0.1, разработанной Mistral AI. Репозиторий подготовлен TheBloke и предназначен для генерации текста и локального запуска модели через llama.cpp и совместимые интерфейсы и библиотеки. Модель относится к архитектуре Mistral и содержит около 7 миллиардов параметров. Доступны варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между размером, скоростью и качеством. Поддерживается текстовый ввод и вывод; шаблон промпта не задан, поэтому используется непосредственная передача текста. Максимальная поддерживаемая длина последовательности для GGUF-версии указана как 4096 токенов или меньше. Сильные стороны модели — возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими инструментами. Ограничения включают отсутствие поддержки последовательностей длиннее 4096 токенов в данном формате и потенциальное снижение качества в более агрессивно квантованных вариантах. Языки, на которых модель обучалась, и специализированные сценарии её применения в README не указаны. Модель распространяется по лицензии Apache 2.0.

Это объединённая модель MaziyarPanahi, созданная методом SLERP на основе Mistral-7B-Instruct-v0.2 и Mistral-7B-v0.1-sharded. Она предназначена для генерации текста в диалогах и выполнения инструкций. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; длина контекста — до 32 768 токенов. Весы опубликованы в формате Safetensors. Модель принимает текст и выдаёт текст. Метаданные не определяют конкретные языки, поэтому их нельзя указать. Репозиторий распространяется по лицензии Apache-2.0. README описывает состав и параметры слияния, но не приводит сравнительных оценок качества или подробных ограничений применения.

QuantFactory/Mistral-7B-v0.2-hf-GGUF — квантизированная версия модели Mistral-7B-v0.2-hf. Модель разработана mistralai, а веса предоставлены alpindale; сборка выполнена с использованием llama.cpp. Она предназначена для генерации текста и совместима с рабочими процессами, использующими библиотеку Transformers и формат GGUF. Модель относится к семейству Mistral и имеет размер 7 миллиардов параметров. Доступны варианты квантования Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_0, Q4_K_M, Q4_K_S, Q5_0, Q5_K_M, Q5_K_S, Q6_K и Q8_0, что позволяет выбирать компромисс между размером, требованиями к ресурсам и качеством. README не содержит сведений о поддерживаемых языках, длине контекста, конкретных модальностях помимо генерации текста, ограничениях, лицензии и рекомендуемых сценариях применения.

Это набор GGUF-квантизованных файлов модели Mistral Nemo Instruct 2407, разработанной Mistral AI и квантизованной командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, поэтому может использоваться в диалоговых приложениях, локальных ассистентах и других сценариях text-generation при наличии совместимого ПО для работы с форматом GGUF. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 4,6 до 12,4 ГБ. Квантизация позволяет выбирать компромисс между размером файла, требованиями к ресурсам и сохранением качества, однако README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста. Сильная сторона представленной версии — широкий выбор уровней квантизации для развёртывания на оборудовании с разными ограничениями по памяти. Ограничения качества и производительности зависят от выбранного варианта и среды запуска; конкретные результаты в README не приведены. Лицензия модели и условия её использования в предоставленных данных не указаны.

Mistral-Large-Instruct-2407-IMat-GGUF — это набор квантованных версий Mistral-Large-Instruct-2407, разработанной Mistral AI. Квантование выполнил legraphista с использованием llama.cpp версии b3452 и метода IMatrix. Модель предназначена для генерации текста и запуска в совместимой инфраструктуре llama.cpp и других инструментах, поддерживающих формат GGUF. Модель рассчитана на работу с текстом и заявлена для английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 45,20 до 245,23 ГБ. Версии Q4_K и более компактные используют IMatrix, что предназначено для сохранения качества при квантовании. Все варианты представлены в виде разделённых файлов. Сильная сторона набора — широкий выбор точностей и размеров, позволяющий подобрать компромисс между качеством, требованиями к памяти и производительностью. Ограничения — значительный объём файлов, необходимость специального программного обеспечения для запуска и отсутствие в README сведений о размере контекста, числе параметров, конкретных результатах тестирования и поддержке мультимодальных входов. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

Mistral-Small-Instruct-2409-GGUF — это набор квантованных файлов в формате GGUF для инструкционной модели Mistral-Small-Instruct-2409, разработанной компанией mistralai. Квантование и публикацию этого варианта выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Набор включает варианты квантования с разной разрядностью — от 2 до 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; некоторые из них поддерживают GPU-ускорение и совместимый с OpenAI API сервер. Преимуществами являются возможность локального использования, широкий выбор уровней квантования и совместимость с популярной экосистемой llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, длине контекста, целевых модальностях, результатах оценки и лицензии. Поэтому эти характеристики и условия юридического использования следует уточнять по карточке исходной модели Mistral-Small-Instruct-2409 и сопутствующим материалам.

SlimOrca Mixtral 8x7B — дообученная языковая модель, выпущенная OpenAccess AI Collective и OpenOrca на базе mistralai/Mixtral-8x7B-v0.1 с использованием датасета Open-Orca/SlimOrca. Это авторегрессионная модель генерации текста с архитектурой Mixtral sparse Mixture of Experts; она подходит для генерации продолжений и ответов на текстовые запросы. Модель поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache 2.0.

MN-magnum-v2.5-18.5B-kto-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели MN-magnum-v2.5-18.5B-kto-Instruct, разработанной DavidAU и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска через llama.cpp или совместимые приложения, включая LM Studio. Она поддерживает диалоговый формат с системными и пользовательскими сообщениями. В основе лежит модель размером 18,5 млрд параметров; точная архитектура, поддерживаемые языки, модальности и размер контекстного окна в README не указаны. Доступны варианты от F16 до низкобитных квантований Q2 и IQ, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Для квантования использовались llama.cpp и imatrix с указанным набором данных; варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а Q3 и Q2 предназначены для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке исходной модели DavidAU/MN-magnum-v2.5-18.5B-kto-Instruct.

MaziyarPanahi/neural-chat-7b-v3-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и Intel/neural-chat-7b-v3. Она предназначена для генерации текста в ответ на инструкции и для диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык, а репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

DevQuasar/openai.gpt-oss-120b-GGUF — это квантованная версия текстовой генеративной модели openai/gpt-oss-120b, подготовленная разработчиком DevQuasar. Модель предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых базовой моделью. В README также указано наличие фиксированного chat template, что обеспечивает заранее заданный формат взаимодействия с моделью. Из доступных данных известно только, что модель относится к семейству с обозначением 120b и распространяется в формате GGUF; сведения о конкретном варианте квантования, архитектуре, размере файлов, поддерживаемых языках, длине контекста и модальностях отсутствуют. Квантование обычно позволяет снизить требования к памяти по сравнению с исходной моделью, но может сопровождаться потерей качества; степень этого компромисса для данного варианта не указана. Лицензия и условия использования в README не приведены.