I.11Классификация, ранжирование и сопоставление

MaziyarPanahi/Mini_DPO_test02-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_DPO_test02. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; репозиторий содержит веса в формате safetensors с точностью bfloat16. Модель принимает текст и генерирует текст. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценок качества или специализированных ограничениях, поэтому качество ответов следует оценивать на задачах конкретного применения.

MiniMax-M2.5-JANG_4M-CRACK — созданная Jinho Jang производная модели MiniMaxAI/MiniMax-M2.5, предназначенная для диалоговой генерации текста и рассуждений. Это MoE-модель семейства MiniMax M2 с заявленными в README 230 млрд параметров, 256 экспертами и примерно 10 млрд активных параметров на токен; метаданные репозитория указывают 2,9 млрд параметров. В README описан профиль квантования JANG_4M со смешанной точностью 8 бит для attention и 4 бита для экспертов, а также удаление отказов CRACK на уровне весов. Заявленная длина контекста — 196 608 токенов. Модель поддерживает английский, китайский и корейский языки, чат и интерфейс вызова инструментов. Модель рассчитана на запуск на Apple Silicon через MLX; README указывает поддержку формата JANG в MLX Studio и пакете jang-tools. Подходит для диалоговых помощников, многошаговых рассуждений и сценариев, где нужны ответы без стандартных отказов безопасности. Лицензия в метаданных — Apache-2.0. Заявления README о результатах тестов и сохранении качества не подтверждены независимыми данными.

miqu-1-103b — экспериментальная текстовая языковая модель, созданная Wolfram методом слияния mergekit: слои модели miqu-1-70b-sf интерливированы, чтобы получить вариант на 103 млрд параметров с 120 слоями. Модель предназначена для генерации текста и диалогов; используется шаблон запросов Mistral. Максимальный контекст — 32 768 токенов. Карточка указывает английский, немецкий, французский, испанский и итальянский языки. Модель опубликована в формате safetensors и доступна также в отдельных квантованных сборках GGUF и EXL2. README отмечает, что исходные веса были утекшими; лицензия в метаданных обозначена как other, поэтому условия правового использования следует проверять отдельно.

Карточка модели NostraEmpire/mirror-qwen2.5-omni-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».

Mistral-7B-v0.1 — разработанная командой Mistral AI предварительно обученная плотная языковая модель на основе Transformer с 7,1 млрд параметров. Она предназначена для генерации текста и может использоваться как базовая модель для диалоговых приложений и дальнейшей адаптации под прикладные задачи. Архитектура включает Grouped-Query Attention и Sliding-Window Attention; модель принимает текст и рассчитана на контекст до 32 768 токенов. В карточке заявлено превосходство над Llama 2 13B на протестированных авторами бенчмарках. Модель обучена для английского языка, поддерживает диалоговый сценарий и доступна в форматах PyTorch и Safetensors. Это базовая, а не дообученная инструктивная модель: в карточке отмечено отсутствие механизмов модерации, поэтому ответы требуют отдельной проверки и настройки под конкретное применение. Лицензия — Apache-2.0.

Kimi-Linear-48B-A3B-Instruct-GGUF — набор GGUF-квантизаций модели Kimi-Linear-48B-A3B-Instruct, разработанной moonshotai и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с llama.cpp, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В репозитории представлены варианты от BF16 размером 98,29 ГБ до компактных IQ4_XS размером 26,46 ГБ и Q3/Q4-квантизаций. Наиболее качественными считаются BF16, Q8_0, Q6_K_L, Q6_K и варианты Q5; Q4 обеспечивают компромисс между качеством и требованиями к памяти, а Q3 экономят ресурсы ценой заметного снижения качества. Квантизация выполнена с использованием imatrix и llama.cpp. Из README не указаны поддерживаемые языки, размер контекста, точная архитектура, модальности и рекомендуемый формат запросов. Сильной стороной модели является широкий выбор уровней квантизации, позволяющий адаптировать запуск к доступной оперативной памяти и вычислительным ресурсам. Ограничения связаны с большими требованиями к памяти даже у компактных вариантов, возможным снижением качества при агрессивной квантизации и отсутствием в README сведений о языковых возможностях, контекстном окне и результатах оценки. Указана лицензия MIT; конкретные условия использования базовой модели следует дополнительно проверять на странице moonshotai/Kimi-Linear-48B-A3B-Instruct.

zelk12/MT2-Gen4-MA-gemma-2-N3N1532-9B — языковая модель Gemma 2 с 9 млрд параметров, созданная слиянием двух моделей методом SLERP с помощью mergekit. В состав слияния вошли nhyha/N3N_gemma-2-9b-it_20241029_1532 и allknowingroger/Gemmaslerp2-9B; веса сохранены в формате safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов. Карточка не уточняет поддерживаемые языки и специализированные области применения, поэтому модель следует рассматривать как общего назначения. Репозиторий не сообщает результатов оценки качества или известных ограничений. Лицензия в предоставленных данных не указана.

zelk12/MT5-MM-gemma-2-Rv0.4Av4c-9B — слитая диалоговая языковая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная с помощью mergekit методом SLERP из recoilme/recoilme-gemma-2-9B-v0.4 и lemon07r/Gemma-2-Ataraxy-v4c-9B. Модель предназначена для генерации текста и общения в чате; работает с текстовым вводом и выдаёт текст. Контекстное окно составляет 8192 токена, веса доступны в формате safetensors. Карточка не приводит отдельные сведения о языковой специализации, поэтому модель можно описать как универсальную диалоговую. Указана лицензия Apache 2.0 в метаданных? Нет, лицензия не предоставлена; условия использования следует проверять у базовых моделей и владельца репозитория.

zelk12/MT-Merge1-gemma-2-9B — объединённая разговорная языковая модель на 9 млрд параметров, созданная с помощью mergekit методом SLERP из zelk12/MT5-Gen1-MMGBI-gemma-2-9B и zelk12/MT-Merge1-MAMU-gemma-2-9B. Модель построена на архитектуре Gemma 2 с причинной языковой моделью Gemma2ForCausalLM и предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; нативный контекст составляет 8192 токена. В карточке приведены результаты Open LLM Leaderboard: среднее значение 33,13, IFEval — 78,86 и BBH — 44,06. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия и специальные языковые ограничения в предоставленных данных не указаны.

Карточка модели m-a-p/neo_7b_sft_v0.1 на Hugging Face совпадает с карточкой m-a-p/neo_7b_instruct_v0.1, поэтому описание составлено по ней. m-a-p представляет NEO 7B Instruct v0.1 — инструктивно дообученную языковую модель семейства Llama с плотной архитектурой и примерно 7,6 млрд параметров. Репозиторий содержит веса в формате Safetensors; проект описывает модель как открытую и предоставляет сведения о коде, обучающих данных и процессе обучения. Модель предназначена для генерации текста по инструкциям и диалогового взаимодействия. Контекст составляет 8192 токена. В карточке не описаны конкретные языки и специализированные области применения. Модель распространяется по лицензии Apache-2.0. README указывает, что это instruction-tuned версия NEO 7B, но не приводит деталей о качестве, тестировании или ограничениях применения.

NerGuard-0.3B — многоязычная модель классификации токенов для обнаружения персональных данных (PII), разработанная на базе mDeBERTa-v3-base и дообученная на более чем 500 тыс. примеров AI4Privacy. Модель размечает токены в формате BIO и распознаёт 20 типов сущностей, включая имена, адреса, государственные идентификаторы, финансовые и контактные данные. Модель предназначена для поиска персональных данных в тексте, например перед маскированием или проверкой документов на соответствие требованиям приватности. Поддерживаются английский, немецкий, французский, итальянский, испанский, португальский, нидерландский и польский языки. Архитектура — DeBERTa V2 для классификации токенов; размер — 306 млн параметров, контекст — до 512 токенов. Карточка сообщает F1-macro 99,63% на валидационном разбиении AI4Privacy; на отдельном тесте NVIDIA Nemotron-PII базовая модель без LLM заняла 4-е место из 7 по F1-macro. Модель доступна под лицензией OpenRAIL. Её метки соответствуют исходной схеме AI4Privacy, поэтому для сопоставления с другими схемами разметки может потребоваться преобразование. Результаты на валидации AI4Privacy не гарантируют такую же точность на других данных; карточка показывает более скромные результаты на внешнем тесте.

NeuralSynthesis-7B-v0.3 — объединённая языковая модель семейства Mistral, созданная Kukedlc с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и использует архитектуру MistralForCausalLM; в метаданных указан контекст до 32 768 токенов. Она предназначена для генерации текста и диалога на основе текстовых запросов. Чекпойнт получен слиянием нескольких моделей методом model_stock, включая Mergerix-7b-v0.3, Ognoexperiment27Multi_verse_model-7B, T3QM7, NeuralSynthesis-7B-v0.1, M7-7b и YamshadowExperiment28-7B. Файлы опубликованы в формате safetensors. Лицензия — Apache-2.0. В карточке не приведены сведения о языковом охвате и специальные ограничения на сценарии использования.

Nous-Hermes-2-SOLAR-10.7B-pruned2.4 — чат-модель на 10,6 млрд параметров, подготовленная Red Hat AI для запуска через высокопроизводительный движок NM-vLLM. Она основана на Nous-Hermes-2-SOLAR-10.7B и оптимизирована разреживанием весов с помощью SparseGPT для снижения потребления памяти и ускорения обслуживания; архитектура — Llama, формат файлов — PyTorch. Модель предназначена для диалогов, генерации текста и выполнения инструкций. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов; в карточке базовая модель описана как англоязычная. Для запуска README рекомендует NM-vLLM с поддержкой sparse-моделей. Лицензия в предоставленных данных не указана.

Nous-Hermes-2-SUS-Chat-2x34B — языковая модель Weyaxi, созданная объединением моделей с помощью mergekit. В конфигурации указаны базовая модель Yi-34B и эксперты Nous-Hermes-2-Yi-34B и SUS-Chat-34B; метаданные относят архитектуру к Mixtral MoE с классом MixtralForCausalLM. Модель предназначена для генерации текста и диалоговых сценариев. В репозитории представлены веса safetensors в формате bfloat16. Размер модели по метаданным — 33,9 млрд параметров, длина контекста — 4096 токенов. README приводит результаты оценки на нескольких бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели и у правообладателей базовых моделей.

NuNER Zero — компактная модель для распознавания именованных сущностей без примеров, разработанная NuMind. Она использует архитектуру GLiNER и решает задачу token classification: на вход подаются текст и перечень типов сущностей, а модель находит в тексте соответствующие фрагменты. По сравнению с GLiNER модель позиционируется как способная обнаруживать сущности произвольной длины. Модель обучена на NuNER v2.0 — наборе данных, объединяющем размеченные с помощью LLM подмножества Pile и C4. Для работы с метками README требует использовать названия типов сущностей в нижнем регистре. В описании релиза сообщается о преимуществе в 3,1 процентного пункта по token-level F1 над GLiNER-large-v2.1 на бенчмарке GLiNER; это утверждение относится к оценке авторов на указанном бенчмарке. NuNER Zero предназначена для извлечения сущностей по заданным пользователем категориям, в том числе для категорий без обучающих примеров. Метаданные указывают английский язык, библиотеку GLiNER и форматы PyTorch и Safetensors. Модель распространяется по лицензии MIT.

Это вариант NVIDIA Nemotron 3.5 Lightning 30B A3B, подготовленный в формате GGUF для запуска через llama.cpp. README указывает, что исходной моделью стала nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16; в метаданных репозиторий отмечен как производный от этой модели, а формат файлов указан как GGUF BF16. Суффикс Q3_K_M в названии репозитория не совпадает с указанным в метаданных форматом, поэтому фактическую квантизацию по доступным сведениям подтвердить нельзя. Модель предназначена для генерации текста; базовая модель описана в каталоге как гибридная языковая модель NVIDIA для диалога, рассуждений, оценки и адаптации под пользовательские задачи. Метаданные перечисляют английский, испанский, французский, немецкий, итальянский и японский языки. Лицензия обозначена как other; конкретные условия следует сверять с карточкой базовой модели и файлами репозитория.

AnubisLemonade-70B-v1-GGUF — это квантизированная версия текстовой генеративной модели AnubisLemonade-70B-v1, разработанной ockerman0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска. Модель содержит около 70 миллиардов параметров и работает в сценариях генерации текста, включая диалоговое взаимодействие и выполнение текстовых запросов. Она совместима с llama.cpp, LM Studio и другими проектами на базе llama.cpp. В README приведён специальный шаблон промпта с ролями system, user и assistant, а также указаны даты отсечения знаний и текущей даты для этого шаблона. Доступны варианты квантизации от Q8_0 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством генерации. Наиболее качественными и рекомендуемыми обозначены Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; младшие варианты экономят память, но могут заметно снижать качество. Большой размер модели ограничивает запуск на устройствах с небольшим объёмом оперативной или видеопамяти. Сведения о поддерживаемых языках, длине контекста, мультимодальности и лицензии в README не указаны.

Ognoexperiment27M7-7B — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Maxime Labonne методом DARE-TIES на основе liminerity/M7-7b и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалогов. Модель принимает текст и генерирует текст; размер контекста составляет 32 768 токенов. Модель распространяется в формате safetensors с точностью bfloat16 по лицензии Apache-2.0. Карточка указывает параметры слияния и пример загрузки через Transformers, но не описывает специализацию или результаты оценки качества.

Openbuddy Mistral 7B v13 — языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе архитектуры Mistral. Представленная версия распространяется в формате GGUF и квантизирована TheBloke, что позволяет запускать её локально с использованием llama.cpp и совместимых приложений и библиотек. Модель предназначена для ответов на вопросы, ведения многоязычных диалогов и других сценариев текстовой генерации. В README заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Размер модели — 7B параметров; модальность — текстовая. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер по сравнению с крупными моделями, возможность локального запуска на CPU и GPU, а также доступность нескольких вариантов квантизации — от 2 до 8 бит. Ограничения включают неизвестную длину контекста и отсутствие в README подробных сведений о качестве, датасете обучения и результатах оценки. Модель следует использовать с учетом возможных ошибок и устаревания знаний; в шаблоне указана граница знаний 2021 года. Лицензия модели указана как Apache-2.0. Репозиторий содержит именно GGUF-версии исходной модели OpenBuddy; конкретный уровень квантизации следует выбирать отдельно в зависимости от доступной памяти и требований к качеству.

OpenBuddy-R1-0528-Distill-Qwen3-32B-Preview0-QAT-GGUF — это набор GGUF-квантизаций языковой модели OpenBuddy-R1-0528-Distill-Qwen3-32B-Preview0-QAT, разработанной OpenBuddy и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В основе лежит 32-миллиардная модель семейства Qwen3, представленная в нескольких вариантах точности: от BF16 до Q3 и различных Q4–Q8-квантизаций. README указывает поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и финского языков. Формат GGUF и варианты квантизации позволяют выбирать между качеством, размером файлов и требованиями к оперативной памяти; рекомендуемым универсальным вариантом назван Q4_K_M размером 19,76 ГБ, а Q6_K и Q6_K_L — высококачественными вариантами. Сильные стороны модели — широкий выбор квантизаций, возможность локального запуска и сохранение высокого качества в старших вариантах. Ограничения включают значительные требования к памяти даже для компактных вариантов, а также отсутствие в README сведений о размере контекста, конкретных возможностях рассуждения, мультимодальности и результатах benchmark-тестов. Распространение указано по лицензии Apache-2.0.

Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-1-7B — объединённая модель на базе Mistral 7B, созданная автором репозитория методом TIES merge из teknium/OpenHermes-2.5-Mistral-7B и Intel/neural-chat-7b-v3-1. Она предназначена для генерации текста в диалогах и других сценариях работы с языковой моделью; автор рекомендует использовать шаблон ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и имеет контекст до 32 768 токенов. В карточке указан датасет Open-Orca/SlimOrca. Модель распространяется под лицензией Apache-2.0. Поддержка русского языка и специализированных областей в карточке не заявлена.

Google PaliGemma 3B FT OCRVQA 448 — дообученная версия компактной модели компьютерного зрения и языка PaliGemma для визуальных вопросов и ответов с чтением текста на изображениях. Она принимает изображение и текстовый запрос, затем генерирует текстовый ответ. В основе PaliGemma лежат визуальная модель SigLIP и языковая модель Gemma; суффикс 448 обозначает вариант с разрешением изображений 448 пикселей. Модель предназначена для одношагового взаимодействия и лучше подходит для настройки под конкретную задачу, чем для диалога общего назначения. Основной сценарий — отвечать на вопросы по тексту, распознанному на изображении: например, извлекать сведения из вывесок, форм или скриншотов. Модель относится к семейству мультиязычных VLM, однако конкретный набор языков этой версии не уточнён. Для использования действуют условия лицензии Gemma. Возможны ошибки распознавания и ответов; модель может отражать смещения обучающих данных, а её результаты требуют проверки. Она не предназначена для многоходового общения, а качество без дополнительной настройки на целевую задачу может быть ограничено.

Pegasus-7b-slerp — текстовая диалоговая модель, созданная AurelPx слиянием моделей ammarali32/multi_verse_model и eren23/dpo-binarized-NeutrixOmnibe-7B методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста и ответов в диалоге. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Веса объединены в типе bfloat16; лицензия — Apache-2.0. Карточка не приводит сведения о специализированных областях или языках, поэтому модель следует рассматривать как универсальную текстовую модель. Качество и поведение при конкретных задачах зависят от запроса и выбранной среды запуска.

Qwen2.5-0.5B-Instruct — компактная плотная авторегрессионная языковая модель семейства Qwen2.5 с примерно 494 млн параметров, подготовленная FuriosaAI для запуска на ускорителе RNGD через Furiosa-LLM. Это предварительно скомпилированная сборка базовой инструктивной модели Qwen/Qwen2.5-0.5B-Instruct; она сохраняет её назначение для генерации текста и диалогов, выполнения инструкций и вызова инструментов через парсер Hermes. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и работает в исходной точности 16 бит без квантизации. Сборка ориентирована на лёгкое развертывание с низкой задержкой: на RNGD используется параллелизм по тензорам с размером 4 PE, что позволяет разместить модель на одной карте. Карточка указывает многоязычную поддержку, а метаданные отмечают английский язык. Лицензия — Apache 2.0. Как компактная модель, она может уступать более крупным моделям в сложных задачах; запуск этой сборки рассчитан на Furiosa-LLM и оборудование FuriosaAI RNGD.

Это компактная инструктивная языковая модель Qwen2.5-0.5B-Instruct, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-0.5B-Instruct. Она построена на архитектуре Qwen2 с причинной генерацией текста и рассчитана на диалоги, выполнение инструкций и другие задачи генерации текста. В метаданных указаны 494 млн параметров, контекст до 32 768 токенов, формат safetensors и библиотека Transformers. Модель подходит для чат-ботов, ответов на запросы и генерации структурированного текста. В карточке базовой модели заявлена поддержка более 29 языков, включая русский и английский; сама карточка репозитория отмечает английский. Модель компактна, но уступает более крупным моделям по возможностям и надёжности, а результаты зависят от запроса и сценария применения. Лицензия — Apache-2.0.

wls04/Qwen2.5-14B-AcaciaWL-Add — диалоговая языковая модель, дообученная разработчиком на базе Qwen/Qwen2.5-14B-Instruct с помощью TRL. Она предназначена для генерации текста и ответов в формате чата; пример карточки показывает запрос с открытым вопросом и генерацию ответа. Модель использует плотную архитектуру Qwen2 и содержит 14 млрд параметров. Она работает с текстом, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для Transformers. Лицензия в доступных данных не указана.

bartowski/Qwen2.5-32B-Peganum-v0.1-GGUF — набор GGUF-квантизаций текстовой генеративной модели Qwen2.5-32B-Peganum-v0.1, разработанной Nohobby. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и обработки текста, включая диалоговые и другие сценарии, поддерживаемые базовой моделью. В README указан английский язык; сведения о других языках отсутствуют. Модель основана на архитектуре Qwen2.5 с размером 32 млрд параметров, однако точные архитектурные характеристики, размер контекстного окна, поддерживаемые модальности и результаты оценки не указаны. Доступны варианты от F16 до более компактных Q3/Q4/Q5/Q6/Q8-квантизаций с разным компромиссом между качеством и требованиями к памяти; рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M и Q6_K. Файлы предназначены для запуска через llama.cpp и LM Studio. В README не указан формат промпта, поэтому его следует уточнять по странице исходной модели. Лицензия — Apache-2.0.

Qwen2.5-3B-Instruct-GGUF — набор GGUF-квантизаций инструкционной языковой модели Qwen2.5-3B-Instruct. Квантизации подготовлены пользователем bartowski с помощью llama.cpp и imatrix; исходная модель опубликована под именем Qwen/Qwen2.5-3B-Instruct. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через llama.cpp и LM Studio. Доступны варианты от полноразмерного F16 до более компактных форматов Q8_0, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством ответов и требованиями к памяти. Размер файлов составляет примерно от 1,35 до 6,18 ГБ. Указан английский язык; сведения о других языках, архитектуре и размере контекста в README отсутствуют. Для работы следует использовать шаблон сообщений Qwen с ролями system, user и assistant. Сильная сторона набора — широкий выбор уровней квантизации, включая варианты, оптимизированные для ARM, а также imatrix-квантизации с акцентом на сохранение качества. Более компактные варианты требуют меньше памяти, но могут заметно уступать старшим форматам по качеству; некоторые низкобитные версии прямо обозначены как низкокачественные или нерекомендуемые. Лицензия указана как qwen-research с отдельной лицензией исходной модели.

Карточка модели donnavanb09/Qwen2.5-Omni-7B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».

AITRADER подготовил конверсию модели Qwen2.5-VL-32B-Instruct-abliterated в формат MLX с точностью FP16. Это плотная мультимодальная модель на 32 млрд параметров для диалога и обработки изображений; базовая модель поддерживает также анализ видео и структурированное извлечение данных. Модель принимает текст и изображения и генерирует текст, включая ответы в диалоге. Указанное родство в метаданных — дообучение Qwen/Qwen2.5-VL-32B-Instruct; README сообщает о конверсии из huihui-ai/Qwen2.5-VL-32B-Instruct-abliterated с помощью mlx-vlm 0.3.11. Контекст составляет 128 000 токенов. Метки «abliterated» и «uncensored» указывают на ослабленные ограничения генерации. Репозиторий распространяется по лицензии Apache-2.0.