I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейMisGemma-7B — объединённая языковая модель, созданная автором репозитория с помощью mergekit из EmbeddedLLM/Mistral-7B-Merge-14-v0.1 и HuggingFaceH4/zephyr-7b-beta методом slerp. Это плотная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Размер контекста — до 32 768 токенов. Модель можно применять для ведения диалога и генерации ответов на текстовые запросы. В репозитории веса сохранены в формате safetensors; указана лицензия Apache-2.0. Карточка не приводит оценок качества или результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.
MaziyarPanahi/Mistral-7B-Instruct-KhanAcademy-v0.2-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе MaziyarPanahi/Mistral-7B-Instruct-KhanAcademy-v0.2. Исходная модель основана на Mistral-7B-Instruct-v0.2 от Mistral AI и относится к классу генеративных текстовых моделей с примерно 7 миллиардами параметров. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Указана совместимость с инструментами, поддерживающими GGUF, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. К сильным сторонам относятся широкий выбор уровней квантования и возможность локального использования на поддерживаемом оборудовании. Ограничения связаны с возможной потерей качества при более агрессивном квантовании; точные характеристики контекстного окна, языков и мультимодальности в представленном README не указаны. Для модели указана лицензия Apache-2.0.
Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-B — слияние предварительно обученных языковых моделей, созданное с помощью mergekit методом Model Stock на базе anthracite-org/magnum-v4-22b. В состав также вошли версии Cydonia-22B, Pantheon-RP и Mistral-magnum-v4_X_Cydonia-VXXX_Mixture. Это плотная авторегрессионная модель семейства Mistral с 22 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. Карточка базовой модели указывает на диалоговое взаимодействие, следование инструкциям и создание связной прозы на английском языке; метаданные этой модели также отмечают чат и интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.
Monarch-7B-slerp — объединённая модель для генерации текста на основе архитектуры Mistral, созданная mlabonne с помощью LazyMergekit. Она объединяет mlabonne/OmniTruthyBeagle-7B-v0 и mlabonne/NeuBeagle-7B методом SLERP; размер модели — 7,1 млрд параметров, формат файлов — safetensors. Модель предназначена для генерации и продолжения текста, включая диалоговые ответы. Она поддерживает контекст до 32 768 токенов. В README не описаны специальные предметные области или языки; лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
Moonlight-16B-A3B-Instruct-bruno-i1-GGUF — GGUF-квантизированная версия модели rawcell/Moonlight-16B-A3B-Instruct-bruno, подготовленная и опубликованная mradermacher. Это диалоговая instruction-модель для генерации текста и conversational-сценариев, включая локальный запуск через совместимые с GGUF инструменты. В метаданных она отмечена как MoE-модель с ориентировочными 16 млрд параметров и обозначением A3B, а также как англоязычная модель. Доступны многочисленные варианты квантизации от i1-IQ1_S до i1-Q6_K с размером файлов примерно от 5,2 до 12,1 ГБ; README отмечает i1-Q4_K_M как быстрый и рекомендуемый вариант, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Квантизация снижает требования к памяти и делает модель более подходящей для локального использования, однако более агрессивные варианты могут заметно ухудшать качество. Контекстный размер, мультимодальность, поддерживаемые языки помимо английского и результаты оценивания в README не указаны. Модель имеет маркировки abliterated, decensored и uncensored, поэтому для задач, требующих строгих защитных ограничений, её поведение следует проверять отдельно. Лицензия — Apache-2.0.
Motif 2.6B v1.1-LC — дообученная плотная языковая модель Motif-Technologies на 2,6 млрд параметров для генерации текста и диалоговых приложений. Версия v1.1-LC поддерживает контекст до 16 384 токенов; карточка приводит результаты тестов MMLU, MMLU-Pro и WinoG. Модель ориентирована на английский и корейский языки. Её можно использовать для диалога и генерации текста в приложениях на базе Transformers; для загрузки в примере README используется trust_remote_code. Модель распространяется по лицензии MIT.
zelk12/MT1-Gen3-MUI-gemma-2-9B — разговорная текстовая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная слиянием предварительно обученных языковых моделей методом SLERP через mergekit. В метаданных указаны базовые модели zelk12/MT1-Gen3-IF-gemma-2-MTM2MUS5-9B и zelk12/MT1-Gen3-MU-gemma-2-S2S5-9B; карточка README приводит их в конфигурации слияния. Модель предназначена для генерации текста в диалоге: она принимает текстовые запросы и выдаёт текстовые ответы. Заявленный контекст составляет 8192 токена. Карточка не сообщает конкретные языки или специализированные предметные области, поэтому модель следует рассматривать как общего назначения. Модель распространяется в формате safetensors согласно метаданным. Лицензия в предоставленных данных не указана.
zelk12 выпустила объединённую методом SLERP языковую модель MT1-Gen5-BMMIMU на базе Gemma 2. Модель с архитектурой Gemma2ForCausalLM содержит 9 млрд параметров, рассчитана на диалоговое общение и генерацию текста; для работы с ней используются библиотека Transformers и файлы Safetensors. Контекст модели составляет до 8192 токенов. Модель объединяет чекпойнты zelk12/MT1-Gen5-IMU-gemma-2-9B и zelk12/MT1-Gen5-BMM-gemma-2-9B. В карточке указаны метод слияния и конфигурация, но не раскрыты специальные предметные области, поддерживаемые языки или результаты оценки качества. Лицензия в предоставленных данных не указана.
Карточка модели zelk12/MT2-GP-gemma-2-RIv0.1RAv0.1-9B на Hugging Face совпадает с карточкой zelk12/MT5-IF-gemma-2-RIv0.1RAv0.1-9B, поэтому описание составлено по ней. zelk12 выпустил объединённую модель Gemma 2 для диалогов и генерации текста. Она создана методом SLERP с помощью mergekit из моделей zelk12/recoilme-gemma-2-Ifable-9B-v0.1 и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1. Модель имеет плотную архитектуру Gemma2ForCausalLM и содержит 9 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Репозиторий распространяет веса в формате safetensors и использует библиотеку Transformers. Модель подходит для ведения диалогов и генерации ответов по текстовым инструкциям. README и метаданные не сообщают о специальных прикладных областях или ограничениях качества. Лицензия в предоставленных данных не указана.
zelk12 выпустил эту диалоговую языковую модель как слияние двух предварительно обученных моделей Gemma 2 с помощью метода SLERP в mergekit. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и предназначена для генерации текста и общения в чате. Контекст модели составляет 8192 токена; файлы доступны в формате safetensors. Модель подходит для диалоговых ассистентов, ответов на вопросы и генерации текста. README не описывает её языковое покрытие, поэтому нельзя определить приоритетный язык. Модель распространяется с лицензией базовой модели Gemma 2.
zelk12/MTM-Merge-MU-gemma-2-MTM4MTM3-9B — разговорная языковая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная автором репозитория слиянием предварительно обученных моделей zelk12/MT-Merge4-gemma-2-9B и zelk12/MT-Merge3-gemma-2-9B. Для объединения применён метод SLERP с использованием mergekit; веса представлены в формате safetensors и модель рассчитана на работу через Transformers. Модель предназначена для генерации текста и ведения диалогов. Она принимает текстовые запросы и выдаёт текстовые ответы; заявленный размер контекста — 8192 токена. Данные о целевых языках и специализированных предметных областях в доступных источниках отсутствуют. Лицензия и конкретные ограничения качества или безопасности в README и метаданных не приведены.
Muse-Glimmer-30B-heretic-plus-GGUF — квантизированная GGUF-версия модели Muse-Glimmer-30B-heretic-plus, разработанной gjtgjt и подготовленной mradermacher. Модель предназначена для conversational-сценариев и задач image-text-to-text, то есть может работать с текстом и изображениями при использовании дополнительного multimodal-модуля mmproj. Модель имеет заявленный размер 30B параметров и поддерживает английский, китайский и другие языки в мультиязычном режиме. Архитектура и максимальный размер контекста в README не указаны. Доступны варианты квантования от Q2_K до Q8_0, а также IQ4_XS; размер файлов составляет примерно от 10,8 до 29,7 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди представленных. Сильными сторонами модели являются крупный размер, мультиязычность, поддержка мультимодальных сценариев и возможность локального запуска через формат GGUF с выбором компромисса между качеством, скоростью и требованиями к памяти. Ограничения включают зависимость качества от выбранного квантования, необходимость отдельного mmproj-файла для мультимодальной работы и отсутствие в README сведений о результатах тестирования, контекстном окне и точном устройстве архитектуры. Модель распространяется по лицензии Apache-2.0.
RedHatAI/Muse-Glimmer-30B-NVFP4 — мультимодальная генеративная модель, разработанная RedHatAI на основе meta-models/Muse-Glimmer-30B. Она принимает текстовые и графические входные данные и генерирует текст, поэтому предназначена для задач image-text-to-text, мультимодального диалога и инференса с визуальным контекстом. Архитектура указана как MuseGlimmerForConditionalGeneration; точное число параметров базовой модели в README не приведено, но идентификатор указывает на 30B. Модель оптимизирована для инференса с vLLM и использует NVFP4-квантизацию весов и активаций. Квантизуются линейные операторы внутри transformer-блоков, а vision-компоненты, lm_head и embed_tokens исключаются. Переход с 16 на 4 бита уменьшает размер на диске и требования к памяти GPU примерно на 75%, что является ключевым преимуществом для развертывания. README не указывает поддерживаемые языки, размер контекста и количественные показатели качества; приведённый пример калибровки использует последовательности длиной до 2048 токенов, но это не заявленный максимальный контекст модели. Для обслуживания рекомендуется vLLM с поддержкой мультимодального инференса, автоматического выбора инструментов и специализированных reasoning- и tool-call-парсеров. Квантизация может снижать точность по сравнению с исходной моделью, однако конкретное влияние в README не измерено. Модель распространяется по лицензии Apache-2.0.
Это GGUF-квантизация модели Dumpling-Qwen2.5-72B, разработанной nbeerbower и подготовленной quantized_by bartowski с использованием imatrix и llama.cpp. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Указанный формат prompt использует шаблон ChatML с ролями system, user и assistant. Модель основана на Qwen2.5-72B и имеет размер 72B параметров; README не сообщает точные языки, длину контекста, модальности или архитектурные детали базовой модели. Доступно множество вариантов квантизации GGUF: от Q8_0 размером 77,26 ГБ до более компактных Q2- и Q3-вариантов. Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; более сильная квантизация уменьшает требования к памяти, но может снижать качество. Сильными сторонами являются большое количество параметров, выбор вариантов квантизации и поддержка локального запуска на CPU или совместимом ускорителе через llama.cpp. Ограничения включают значительные требования к оперативной памяти даже для компактных вариантов и потенциальную потерю качества у низкобитных квантов. Модель распространяется под лицензией Apache-2.0.
YeonwooSung/Neos-Gemma-2-9b — диалоговая языковая модель на архитектуре Gemma 2, дообученная автором с помощью ORPO. В основе лежит google/gemma-2-9b-it; модель содержит 9 млрд параметров и рассчитана на контекст до 8192 токенов. Для дообучения использован набор mlabonne/orpo-dpo-mix-40k. Модель предназначена для генерации текста в диалоговом формате, ответов на вопросы и других задач общения с языковой моделью. В карточке приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors по лицензии Apache-2.0.
NeuralPearlBeagle — слитая модель генерации текста на архитектуре Mistral, созданная с помощью LazyMergekit из louisbrulenaudet/Pearl-7B-slerp и mlabonne/NeuralBeagle14-7B. Веса объединены методом TIES; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для составления ответов, продолжения текста и ведения беседы; базовая модель также описана в каталоге как подходящая для математических задач. Данных о поддерживаемых естественных языках нет. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
NeuralPipe-7B-slerp-v0.2 — объединённая методом SLERP языковая модель семейства Mistral, созданная путём слияния OpenPipe/mistral-ft-optimized-1227 и mlabonne/NeuralHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; её можно использовать для продолжения запросов и создания текстовых ответов. В карточке указано нативное контекстное окно 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README описывает конфигурацию слияния, но не приводит подробностей о языковом покрытии или специализированных предметных областях.
NeuralsirkrishnaShadow_Experiment28Experiment24 — объединённая языковая модель MaziyarPanahi, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment28Experiment24-7B. Она предназначена для генерации текста и может использоваться в приложениях, где требуется продолжение или создание текста по запросу. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Модель распространяется по лицензии Apache-2.0.
NeuralsirkrishnaShadow_T3qM7 — объединённая модель для генерации текста, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/T3qM7-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации текста и диалога. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специальные предметные области или языки модели.
NeuralsirkrishnaT3qm7x-7B — автоматически объединённая Maxime Labonne языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием Kukedlc/NeuralSirKrishna-7b и nlpguy/T3QM7X методом SLERP; веса представлены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживая контекст до 32 768 токенов. В метаданных не указаны специальные предметные области или конкретные языки. Модель распространяется по лицензии Apache-2.0. Карточка содержит краткий пример загрузки через Transformers, но не приводит оценок качества или сведений о специальных возможностях.
duyntnet/Nous-Hermes-Llama2-13b-imatrix-GGUF — набор квантизированных версий текстовой генеративной модели Nous-Hermes-Llama2-13b, разработанной NousResearch. Модель предназначена для генерации текста и работы в локальных приложениях и интерфейсах, поддерживающих формат GGUF и совместимых с llama.cpp, включая JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Для взаимодействия используется формат промпта Alpaca с полями Instruction, а при необходимости Input и Response. Из известных характеристик: модель имеет размер 13B параметров, работает с текстом и заявлена для английского языка. Квантизация с использованием imatrix может снизить требования к памяти и упростить локальный запуск, однако конкретные варианты квантования и их компромиссы между качеством, скоростью и потреблением ресурсов в README не указаны. Ограничения по качеству, производительности, поддерживаемому контексту и аппаратным требованиям также не описаны. Лицензия обозначена как other, без дополнительных условий или подробностей.
bartowski/NuExtract-v1.5-GGUF — это набор GGUF-квантизаций модели NuExtract-v1.5, разработанной numind и подготовленной для запуска через llama.cpp. Модель относится к классу text-generation, поддерживает мультиязычные сценарии и распространяется под лицензией MIT. Модель предназначена для задач обработки и генерации текста, включая использование в локальных приложениях и средах, совместимых с GGUF, например LM Studio. Доступны варианты от F16 размером 7,64 ГБ до компактных Q2-квантизаций размером около 1,3–1,5 ГБ, а также многочисленные промежуточные форматы. В README указан специальный формат промпта с ролями system, user и assistant. Основное преимущество набора — широкий выбор уровней квантования, позволяющий выбирать баланс между качеством, размером файла и требованиями к памяти; для ARM-процессоров предусмотрены отдельные варианты с требованиями к поддержке SVE или i8mm. Ограничения связаны с тем, что более сильное квантование снижает качество, а некоторые ARM-варианты не рекомендуются для Mac и Windows. Архитектура, число параметров, максимальный контекст и точный перечень поддерживаемых языков в README не указаны.
Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
OpenChat-3.5-0106_32K-PoSE-GGUF — это GGUF-квантизированная версия текстовой генеративной модели OpenChat-3.5-0106_32K-PoSE. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель разработана и опубликована Pretergeek. В качестве данных указано подмножество или источник Yukang/LongAlpaca-12k. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу с системными и пользовательскими запросами через специальный шаблон OpenChat. Заявлено контекстное окно до 32 000 токенов. Модель является текстовой, сведения о поддерживаемых языках, точной архитектуре и количестве параметров в README не приведены. Доступны варианты от F16 до сильно сжатых форматов Q8, Q6, Q5, Q4, Q3 и IQ. Это позволяет выбирать между качеством, размером файла и требованиями к памяти; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как стандартный компромисс по размеру. Некоторые варианты оптимизированы для ARM и требуют поддержки SVE или i8mm, поэтому совместимость зависит от оборудования и среды запуска. Рекомендуется использование через llama.cpp или LM Studio. Лицензия — Apache-2.0. Ограничения качества зависят от уровня квантизации: более компактные варианты могут заметно уступать полноточной версии, а сведения о результатах тестирования, безопасности и фактической языковой эффективности не предоставлены.
Weyaxi создал OpenChat 3.5 1210 Seraph Slerp, объединив модели openchat/openchat-3.5-1210 и Weyaxi/Seraph-7B методом Slerp с помощью mergekit. В конфигурации указана базовая модель mistralai/Mistral-7B-v0.1; архитектура — плотная авторегрессионная MistralForCausalLM примерно на 7,1 млрд параметров. Модель предназначена для генерации текста, в том числе диалоговых ответов. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется под лицензией Apache-2.0. README не приводит отдельные сведения о языках и специализированных областях применения.
OpenHercules-2.5-Mistral-7B — объединённая модель на базе Mistral, созданная с помощью LazyMergekit из Locutusque/Hercules-2.5-Mistral-7B и teknium/OpenHermes-2.5-Mistral-7B. Веса объединены методом SLERP с настройками для слоёв внимания и MLP; архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и диалогового использования. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Файлы представлены в safetensors; README также упоминает варианты квантования EXL2, GGUF и AWQ. Модель распространяется по лицензии Apache-2.0. Показатели в README включают среднее значение 66,55, результат 64,25 на AI2 Reasoning Challenge и 84,84 на HellaSwag; эти оценки не гарантируют качество на конкретных пользовательских задачах.
pankajmathur/orca_mini_v6_8b — диалоговая языковая модель Orca Mini, разработанная Pankaj Mathur на базе Llama 3 и дообученная на наборах данных для supervised fine-tuning (SFT). Она предназначена для работы в роли универсального помощника: ведения диалога и генерации ответов на текстовые запросы. Модель имеет плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов; поддерживает английский язык и формат общения ChatML. Модель подходит для создания чат-ботов и адаптации под специализированные сценарии с помощью дальнейшего дообучения или слияния. В карточке указана лицензия Llama 3; автор разрешает такие модификации при условии надлежащего указания авторства. Результаты оценки качества в карточке пока не представлены.
PCMind-2.1-Kaiyuan-2B (脑海-2.1-开元-2B) — языковая модель общего назначения, разработанная командой thu-pacman и обученная на кластере Ascend 910A. Она предназначена для генерации текста и диалогового взаимодействия; модель можно загружать через Transformers. Модель имеет плотную архитектуру семейства Qwen2 и содержит 1,7 млрд параметров по метаданным. В README указаны 1,4 млрд параметров без эмбеддингов и обучение на 2,2 трлн токенов. Контекст составляет до 131 072 токенов. Обучение включало многоэтапную предобучающую программу с отбором данных по качеству и упорядочиванием примеров по доменам. Заявлены открытые данные обучения; лицензия модели — Apache-2.0. Модель рассчитана на китайский и английский языки. Подходит для генерации текста и ведения диалогов. README заявляет конкурентоспособность с открытыми моделями сопоставимого размера, но конкретные результаты оценки в предоставленных данных отсутствуют.
Pioneer-2x7B — слитая модель для генерации текста, созданная с помощью mergekit методом SLERP из HuggingFaceH4/mistral-7b-grok и OpenPipe/mistral-ft-optimized-1218. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; она работает через библиотеку Transformers и имеет контекст длиной до 32 768 токенов. Модель предназначена для генерации продолжений текста и диалоговых ответов. Карточка не описывает отдельные специализированные области или языки, поэтому модель следует рассматривать как универсальную языковую. Файлы представлены в формате safetensors. Лицензия в доступных данных не указана.
mlx-community/Qwen2.5-7B-Instruct-8bit — конверсия модели Qwen/Qwen2.5-7B-Instruct в формат MLX с 8-битным представлением весов, выполненная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная модель семейства Qwen2, содержащая 7,1 млрд параметров и предназначенная для генерации текста в диалоговом режиме, включая ответы на запросы и использование интерфейса вызова инструментов. Модель принимает текст и выдаёт текст. Поддерживает английский язык; базовая модель Qwen2.5 рассчитана на контекст до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Формат MLX предназначен для запуска на системах Apple с MLX; сведения о качестве именно этой конверсии и поддержке других языков в карточке модели не приведены.