I.3Извлечение и структурирование данных

MarcBeagle-7B — объединённая модель семейства Mistral, опубликованная leveldevai. Она создана с помощью LazyMergekit методом SLERP из flemmingmiguel/MarcMistral-7B и leveldevai/TurdusBeagle-7B. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в диалоговых сценариях, для выполнения инструкций и создания текстовых ответов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0. Данных о языковом охвате и специализированной предметной области в предоставленной карточке нет.

MeliodasPercival_01_Experiment26Neuralarjuna — объединённая языковая модель семейства Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/Experiment26Neuralarjuna-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка не уточняет языки обучения и конкретные специализации модели.

Это 4-битная версия Meta-Llama-3.1-405B-Instruct, преобразованная сообществом mlx-community из формата исходной модели в формат MLX с помощью mlx-lm 0.16.0. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 408 млрд параметров; она предназначена для генерации текста и диалогового использования на устройствах Apple Silicon, поддерживающих MLX. Модель принимает текстовые запросы и выдаёт текст. Контекстное окно составляет до 131 072 токенов. В карточке указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Качество и удобство локального запуска зависят от доступных вычислительных ресурсов; 4-битное представление снижает требования к памяти по сравнению с полной точностью. Модель распространяется по лицензии Llama 3.1, условия которой следует соблюдать при использовании.

MiMo-V2.6-Flash-MOPD — мультимодальная модель Xiaomi для диалогов и агентных сценариев с вызовом инструментов. Это обновлённая версия чекпойнта MiMo-V2.6-Flash-RL: MOPD-дистилляция объединяет специализированных учителей и снижает повторение одинаковых или похожих вызовов инструментов. Модель принимает текст, изображения, видео и аудио, поддерживает контекст до 1 048 576 токенов и ориентирована, в частности, на длительные агентные задачи, разработку игр, научные исследования и воплощённый интеллект. В README описана разреженная MoE-архитектура с 309 млрд параметров, из которых активируются 15 млрд; метаданные репозитория указывают 12 млрд параметров и формат safetensors FP8. В архитектуру также входят зрительный и аудиоэнкодеры и спекулятивный декодер. Модель подходит для многошаговых диалогов и работы с инструментами, а заявленное снижение повторяющихся вызовов может быть полезно в агентных циклах. Карточка указывает английский и китайский языки; лицензия — MIT. Учитывая различие в значении общего числа параметров между README и метаданными, размер следует трактовать осторожно; заявленное снижение повторов не гарантирует их полного отсутствия.

MiniCPM5-2B-heretic-i1-GGUF — это GGUF-квантизированная версия языковой модели MiniCPM5-2B-heretic, опубликованная и квантизированная пользователем mradermacher. Базовая модель указана как Dingdust/MiniCPM5-2B-heretic; исходная разработка связана с экосистемой MiniCPM. Модель предназначена для генерации текста, работы с длинным контекстом, вызова инструментов и локального запуска на устройствах с ограниченными ресурсами. Заявлены английский и китайский языки. Модель относится к классу компактных text-generation-моделей с примерно 2 млрд параметров и представлена в формате GGUF. Доступны варианты квантизации от очень компактных IQ1/IQ2 до IQ4, Q5 и Q6, размером примерно от 0,8 до 2,2 ГБ; варианты различаются балансом между требованиями к памяти, скоростью и качеством. Для части вариантов указана imatrix-квантизация, а Q4_K_M отмечена как быстрая и рекомендуемая. Компактность делает модель подходящей для локального и периферийного развёртывания, однако сильное сжатие может заметно ухудшать качество. В README не приведены точный размер контекстного окна, детальное описание архитектуры, результаты бенчмарков, мультимодальные возможности и конкретные ограничения поведения модели. Лицензия — Apache-2.0.

MaziyarPanahi/Mini_DPO_test02-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_DPO_test02. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; репозиторий содержит веса в формате safetensors с точностью bfloat16. Модель принимает текст и генерирует текст. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценок качества или специализированных ограничениях, поэтому качество ответов следует оценивать на задачах конкретного применения.

EnlistedGhost/Ministral-3-3B-Instruct-2512-GGUF — это квантованная версия инструкционной мультимодальной модели Ministral-3-3B-Instruct-2512-BF16, разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель предназначена для диалогов, выполнения инструкций и задач image-text-to-text с использованием текста и изображений. Она совместима с llama.cpp, Ollama и Yollama и подходит для локального запуска на различных устройствах. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. В репозитории представлены варианты квантования от IQ2_M и Q2_K_L до Q8_0_L и F16, а также мультимодальные vision-проекторы F16 и F32. В комплекте используется собственный шаблон чата Jinja со скользящим окном до 29 сообщений, которое можно изменить вручную. Основные преимущества модели — компактный размер 3B, локальная работа, поддержка изображений и широкий выбор уровней квантования, позволяющих выбирать баланс между качеством и требованиями к памяти. Ограничения включают возможное снижение качества по сравнению с исходной BF16-версией при агрессивном квантовании, а также зависимость корректной работы мультимодальных функций от совместимого vision-проектора и программного окружения. Модель распространяется по лицензии Apache-2.0.

MIO-7B-Base — базовая мультимодальная авторегрессионная модель, разработанная командой M-A-P и соавторами из исследовательских организаций. Она предназначена для генерации и понимания текста, изображений, речи и видео в единой последовательности токенов. В основе — плотная архитектура LLaMA с 5,8 млрд параметров; модель использует дискретные представления разных модальностей и контекст до 4096 токенов. Исследовательская работа описывает сценарии визуальных вопросов и ответов, распознавания и синтеза речи, создания подписей к видео, редактирования изображений и смешанной генерации текста с изображениями. Модель основана на Yi-6B-Base и дообучена для мультимодальных задач; переданные метаданные также связывают её с Yi-6B-Chat. Для этой версии в карточке указана лицензия Apache-2.0. Публикация сообщает о конкурентных результатах в ряде тестов, но отмечает сложности с вычислительной стоимостью длинных мультимодальных контекстов и разрешением генерируемых изображений. Указанный в метаданных pipeline_tag — text-generation; мультимодальные задачи и характеристики описаны в публикации о семействе MIO.

OpenPipe mistral-ft-optimized-1227 — это объединённая модель на архитектуре Mistral для генерации текста и последующего дообучения под прикладные задачи. Она создана OpenPipe методом иерархического слияния SLERP моделей teknium/OpenHermes-2.5-Mistral-7B, Intel/neural-chat-7b-v3-3, meta-math/MetaMath-Mistral-7B и openchat/openchat-3.5-1210. Веса опубликованы в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель позиционируется как сильная отправная точка для дообучения под разные задачи, а также может использоваться для генерации текста, диалогов и ответов на математические вопросы благодаря входящим в слияние моделям. Разработчик сообщает о внутренних оценках, но количественные результаты в карточке не приведены. Модель лицензирована по Apache-2.0.

win10/nemolita-21b — объединённая автором win10 с помощью mergekit языковая модель на архитектуре Mistral, созданная из unsloth/Mistral-Nemo-Instruct-2407 и MarinaraSpaghetti/Nemomix-v1.0-12B методом passthrough merge. Модель содержит 20,7 млрд параметров и предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Модель распространяется в формате safetensors и рассчитана на контекст до 1 024 000 токенов. Языки и специализированные области применения в предоставленных данных не определены. Лицензия не указана в источниках; качество и ограничения объединения отдельно не описаны.

Это набор GGUF-квантизаций языковой модели OpenReasoning-Nemotron-32B, разработанной NVIDIA и преобразованной пользователем bartowski для запуска в llama.cpp и совместимых приложениях. Модель предназначена для генерации текста и локального использования в средах вроде LM Studio, а также в других проектах на базе llama.cpp. В README указано, что исходная модель имеет размер 32B параметров; сведения об архитектуре, языках, мультимодальности и размере контекста не приведены. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 14,39 до 65,54 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев, а Q6_K и Q6_K_L — как варианты очень высокого качества. Квантизации выполнены с использованием imatrix и llama.cpp версии b5934. Сильной стороной модели является возможность локального запуска с выбором компромисса между качеством и требованиями к памяти, включая варианты для ограниченных ресурсов и оптимизации для некоторых CPU-платформ. Ограничения включают значительный объём памяти, необходимый для 32B-модели, а также потенциальное снижение качества у низкобитных вариантов. Лицензия в предоставленном README не указана.

Omega AI 14B — диалоговая языковая модель семейства Omega AI, основанная на дообученной Qwen/Qwen3-14B. Это плотная причинная модель архитектуры Qwen3 с 14 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогов, а метаданные также указывают интерфейс вызова инструментов. Контекст составляет 40 960 токенов. Модель подходит для диалоговых помощников и генерации ответов на текстовые запросы. README называет её рабочим кандидатом, но не приводит результатов оценки качества или подробных рекомендаций по применению. Условия использования и атрибуции исходной модели Qwen3-14B сохраняются; отдельная лицензия Omega AI в карточке не указана.

openbuddy-llama3.3-70b-v24.1-131k-GGUF — это квантизированная GGUF-версия языковой модели OpenBuddy, разработанной OpenBuddy и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в LM Studio и других средах, совместимых с llama.cpp. В README указан специальный формат промптов с ролями system, user и assistant. В основе лежит OpenBuddy/openbuddy-llama3.3-70b-v24.1-131k — модель семейства Llama 3.3 с 70 млрд параметров и заявленным в идентификаторе контекстом 131k токенов. Поддерживаются китайский, английский, французский, немецкий, японский, корейский, итальянский и финский языки. Модель представлена в нескольких вариантах квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Основные ограничения связаны с квантизацией: более компактные варианты могут заметно уступать по качеству, а файлы требуют значительного объёма памяти — примерно от 29 до 75 ГБ в зависимости от варианта. Некоторые сборки оптимизированы для ARM или AVX и имеют специальные требования к поддержке инструкций; отдельные варианты не рекомендуется использовать на Mac или с GPU. Лицензия указана как llama3.3.

Orca 2 7B — языковая модель Microsoft, представленная в квантованном формате GGUF компанией TheBloke. Это текстовая модель генерации на базе архитектуры типа Llama с примерно 7 млрд параметров, предназначенная для локального запуска и диалогового взаимодействия. Модель использует шаблон запросов ChatML с системными и пользовательскими сообщениями. Репозиторий содержит варианты квантования от 2 до 8 бит, рассчитанные на инференс с использованием CPU и GPU. Формат GGUF совместим с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения. Разные уровни квантования позволяют выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, однако конкретные характеристики контекстного окна, поддерживаемые языки и результаты оценки в README не указаны. Модель подходит для локальной генерации текста и чат-сценариев при наличии совместимого программного обеспечения. Ограничения включают отсутствие в предоставленных данных подробностей о мультимодальности, языковом покрытии, контекстном окне и специализированных возможностях. Лицензия обозначена как other, но её конкретные условия в README не приведены.

Карточка модели mt1234/PATHFINDER-32B на Hugging Face совпадает с карточкой mt1234/PATHFINDER-120STEPS, поэтому описание составлено по ней. PATHFINDER-120STEPS — дообученная модель mt1234 на базе unsloth/qwen2.5-coder-32b-instruct-bnb-4bit. Это плотная языковая модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В метаданных заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; её контекстное окно составляет 32 768 токенов. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.

ClaudioItaly/Phatos-V.3 — слитая текстовая модель на архитектуре Mistral, созданная ClaudioItaly с помощью mergekit методом TIES. В качестве базовой модели использована ClaudioItaly/TopEvolutionWiz; в слияние также вошли Gille/StrangeMerges_32-7B-slerp, Kukedlc/NeuralContamination-7B-ties и Kukedlc/NeuralTopBench-7B-ties. Модель содержит 7,1 млрд параметров, работает с текстом и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и может применяться для диалогов, подготовки развернутых ответов на вопросы и других текстовых задач общего назначения. Файлы опубликованы в формате safetensors для библиотеки Transformers. Лицензия и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

QuantFactory/Phi-3-mini-4k-geminified-GGUF — квантизированная версия модели failspy/Phi-3-mini-4k-geminified, созданная с использованием llama.cpp. Исходная модель основана на Microsoft Phi-3-mini-instruct и подвергнута ортогонализации весов в формате bfloat16 safetensors по методологии, связанной с исследованием о механизмах отказа больших языковых моделей. Автором исходной модификации указан failspy; QuantFactory подготовила версию GGUF. Модель предназначена для генерации текста и, согласно метаданным, обработки естественного языка и кода. Заявлена поддержка multilingual-сценариев. В карточке упоминается контекст 4K в названии производной модели, однако в описании исходной модели также указано Phi-3-mini-128k-instruct, поэтому точный размер контекстного окна именно этой сборки неоднозначен. Архитектура и точное количество параметров не указаны; формат GGUF ориентирован на локальный inference через совместимые инструменты. К потенциальным сильным сторонам относятся компактность исходного семейства Phi-3-mini, возможность локального запуска в квантизированном формате и поведение, изменённое в сторону меньшего количества стандартных отказов. Ограничения включают неполную информацию о типе и уровне квантизации, неоднозначность относительно контекстного окна и отсутствие результатов бенчмарков. Модель распространяется по лицензии MIT; в README приведена ссылка на лицензию Microsoft Phi-3-medium-4k-instruct.

bamec66557/Qwen-2.5-14B-MINUS — объединённая методом SLERP модель на архитектуре Qwen2, созданная с помощью mergekit из sometimesanotion/Qwen2.5-14B-Vimarckoso-v3 и djuna/Q2.5-Veltha-14B. Это плотная языковая модель с 14 млрд параметров для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации ответов в диалоге и других задач генерации текста. Заявленная длина контекста — 131 072 токена. Сведения о поддерживаемых естественных языках и специализированных областях в предоставленных данных отсутствуют. Условия лицензии в карточке не приведены.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.1 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

litert-community/Qwen3-4B — это оптимизированный для локального запуска вариант языковой модели Qwen3-4B, разработанный сообществом LiteRT и основанный на контрольной точке Qwen/Qwen3-4B от команды Qwen. Модель предназначена для генерации текста на устройствах, включая настольные GPU и Android-устройства, и интегрируется через LiteRT-LM. В репозитории доступны артефакты с channel-wise INT8-квантованием весов и float32 KV-кэшем размером 5,28 ГБ, а также смешанный вариант TorchAO mixed INT4 размером около 2,54 ГиБ с контекстом 2048 токенов. В INT4-варианте линейные проекции используют блочное INT4-квантование с размером группы 32, эмбеддинги — weight-only INT8, а нормализация, операции редукции и KV-кэш сохраняются в формате с плавающей точкой. Для внимания и работы с кэшем применяются StableHLO composite ops LiteRT-LM. Модель подходит для автономной генерации текста и встраивания в приложения, где важны локальная обработка и сниженные требования к памяти. README указывает английский язык, но не сообщает полный языковой охват, точную архитектуру исходной Qwen3-4B или другие модальности. Производительность зависит от устройства, версии runtime, backend, квантования и теплового состояния; приведённые результаты являются измерениями авторов и не представляют независимую сертификацию. Лицензия — Apache-2.0.

Jackrong/Qwen3.5-0.8B-Claude-4.6-Opus-Reasoning-Distilled-GGUF — языковая модель для генерации текста и структурированного рассуждения, созданная Jackrong на основе Qwen/Qwen3.5-0.8B. Она дообучена методом Supervised Fine-Tuning с применением LoRA и Unsloth на отфильтрованных наборах данных с дистиллированными цепочками рассуждений, включая материалы, связанные с Claude Opus, а также специализированные датасеты Qwen. Модель предназначена для офлайн-аналитики, программирования, математики и задач, требующих пошагового логического анализа. Она обучена формировать рассуждение в тегах <think> и затем выдавать итоговый ответ. Заявлена поддержка английского, китайского и корейского языков, текстовый режим работы и контекстное окно до 16 384 токенов. Благодаря небольшому размеру 0,8 млрд параметров модель ориентирована на относительно эффективный локальный запуск, однако README не содержит сведений о конкретной GGUF-квантизации и требованиях к оборудованию. К сильным сторонам относятся структурированное пошаговое рассуждение, обработка многоэтапных задач и снижение избыточных повторов в рассуждениях. Ограничения включают обычный для авторегрессионных моделей риск галлюцинаций и необходимость проверки фактов; заявленные возможности не гарантируют точность решений. Модель обозначена как экспериментальная и предназначенная для обучения, академических исследований и технического изучения. Лицензия — Apache-2.0.

Это архивная перезагрузка квантованной GGUF-версии Qwen3.5-397B-A17B TQ1_0. Автор репозитория указывает, что модель и квантование созданы не им: исходную модель выпустила команда Qwen, а квант предоставлял Unsloth. Модель предназначена для диалогов с текстом и изображениями; каталог отмечает поддержку vision и chat. Файл представлен в формате GGUF с квантованием TQ1_0. Базовая модель — мультимодальная модель Alibaba для диалогов, рассуждений, анализа изображений и видео, программирования и работы с инструментами. В карточке указана лицензия Apache-2.0. README описывает репозиторий как архивную копию, поэтому сведения о качестве именно этой версии и её применимости ограничены.

Это конвертированная версия Qwen3.6-35B-A3B, подготовленная exolabs для запуска через vLLM. Весы исходного GGUF с MXFP4-квантованием экспертов MoE и тензорами в форматах K-quant, Q8 и F32 были деквантованы и преобразованы в safetensors с точностью BF16; архитектурные тензоры Qwen3.6/GDN были переименованы и согласованы для загрузки в Transformers и vLLM. Модель предназначена для диалоговой генерации и обслуживания через vLLM. Хотя в метаданных указана задача image-text-to-text и способность vision, визуальная башня в этом артефакте отсутствует: README рекомендует запускать его только для обработки текста с параметром --language-model-only. Для мультимодального анализа изображений этот файл модели не подходит. В репозитории 21 шард safetensors общим размером около 69,3 ГБ; README сообщает об успешных проверках загрузки, генерации и запуска в vLLM. Лицензия указана как other, поэтому перед использованием следует проверить её условия на странице модели.

Это мультимодальная чат-модель семейства Qwen3.5 на 27 млрд параметров, созданная на основе TeichAI/Qwen3.8-27B-Fable-Distill. Автор применил Heretic v1.2.0 и метод Arbitrary-Rank Ablation: rank-2 обновление проекций внимания и MLP в слоях 30–64 вычислено в замкнутой форме, без градиентного дообучения. Модель предназначена для диалогов и задач с изображениями; метаданные также отмечают интерфейс вызова инструментов. Изменение направлено на снижение отказов: в тесте автора модель отказала на 5 из 100 вредоносных запросов против 91 из 100 у исходной модели. На безвредных запросах измеренная KL-дивергенция относительно исходной составила 0,1004. Модель опубликована в формате safetensors для Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Это семейство GGUF-квантизированных вариантов модели Qwen3.8-27B, опубликованное разработчиком MagicQuant и основанное на базовой модели Qwen/Qwen3.8-27B. Релиз предназначен для генерации текста и диалоговых сценариев, а также для локального запуска моделей через совместимое с GGUF программное обеспечение, включая инструменты llama.cpp. В набор входят гибридные конфигурации MagicQuant и варианты Unsloth с разными уровнями квантования — от MQ-Q6_K_1 и MQ-Q6_K_2 до MQ-IQ2_XXS_1. Размер файлов составляет примерно от 8,27 до 29,03 ГБ. README описывает сравнительное тестирование по метрике KLD и отбор конфигураций, показавших лучшие компромиссы между размером и сохранением характеристик исходной модели. Точные сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях кроме текстовой генерации не указаны. Основные преимущества — широкий выбор размеров, возможность подобрать вариант под доступную память и сохранение качества при использовании более крупных квантов; однако степень потери качества зависит от выбранной конфигурации, а наиболее компактные варианты имеют существенно более высокий KLD. Условия распространения указаны как Apache-2.0.

Это текстовая сборка модели Qwen3.8-27B, подготовленная YaiLabs из Qwen/Qwen3.8-27B и опубликованная в формате GGUF v3 с весами BF16. В неё включены 851 тензор текстового декодера, эмбеддингов и выходного слоя; это не полная мультимодальная модель на 27 млрд параметров, поэтому обработка изображений и видео в этой сборке не поддерживается. Сборка предназначена для генерации текста и диалогов. README подтверждает успешную загрузку, короткий чат-ответ и выгрузку модели в YVEX на NVIDIA DGX Spark с контекстом 4096 токенов. Это ограниченная проверка совместимости конкретных файлов и конфигурации, а не оценка качества или производительности и не гарантия работы в любом GGUF-совместимом движке. Файл занимает около 53,8 ГБ. Лицензия — Apache 2.0.

boxrunner/Qwen3.8-Flash-Next-mixC-GGUF — это смешанно-точностная GGUF-квантизация модели Qwen3.8-Flash-Next, опубликованная пользователем boxrunner на базе модели Qwen. Она предназначена для генерации текста и диалоговых сценариев с использованием совместимых движков, включая llama.cpp. Модель поставляется в двух частях, а дополнительно доступен F16-проектор изображений для соответствующей мультимодальной конфигурации. Модель использует архитектуру mixture-of-experts qwen4exp с 512 экспертами, из которых 10 выбираются для каждого токена, и одним общим экспертом. Файл содержит 176 943 899 520 параметров, контекст до 262 144 токенов, GPT-2 BPE-токенизатор с 248 320 токенами и встроенный chat template. Средний размер — около 3,455 бит на вес; применена смешанная квантизация с типами IQ2_XXS, IQ4_NL, Q5_K, Q6_K, Q8_0, F16 и F32. Главное преимущество данной упаковки — возможность загрузки полного пула экспертов на Apple Silicon с 64 ГБ памяти без вынесения экспертов на SSD; это повышает практическую пригодность модели для локального запуска на совместимом оборудовании. Приведённые в README показатели производительности получены только на одной конфигурации и не являются универсальным бенчмарком. Для работы необходимо скачать обе части GGUF, а для обработки изображений — также проектор. Модель распространяется по лицензии Qwen Community License 1.0.

INCModel3/Qwen3.8-Flash-Next-MXFP4-Mixed-CT-AutoRound — смешанный вариант модели Qwen3.8-Flash-Next, подготовленный Intel с помощью AutoRound и сохранённый в формате llm_compressor. Экспертные слои MLP квантизованы до 4 бит с типом данных MXFP; README также указывает MXFP8 для остальных слоёв, кроме перечисленных исключений. Репозиторий содержит веса Safetensors и предназначен для работы через Transformers. Модель рассчитана на диалоговые задачи с текстом и изображениями, поддерживает интерфейс вызова инструментов. Подходит для ответов на вопросы по изображениям и текстового общения. README предупреждает, что ответы могут содержать фактические ошибки, предвзятость или оскорбительный контент; перед развёртыванием рекомендуется проверка безопасности. Следует соблюдать лицензию исходной модели; репозиторий указывает лицензию other.

Это квантованная в формате MXFP4 версия модели Qwen3-Next-80B-A3B-Thinking, подготовленная noctrex и опубликованная в формате GGUF. Она предназначена для генерации текста и диалогового использования; базовая модель — причинная MoE-модель Qwen для сложных рассуждений и работы с длинным текстовым контекстом. В названии базовой модели указано 80B параметров, из которых 3B активны; точную длину контекста доступные данные не сообщают. Для запуска требуется совместимая версия llama.cpp; автор рекомендует использовать актуальную версию. GGUF и MXFP4 позволяют запускать квантованную модель в совместимой среде, однако квантование может влиять на точность по сравнению с исходными весами. Лицензия в предоставленных данных не указана.

Карточка модели ro0ger/Qwen3-Reranker-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-0.6B, поэтому описание составлено по ней. Qwen3-Reranker-0.6B — компактная модель переранжирования текста из серии Qwen3 Embedding, разработанная Qwen. Она оценивает соответствие пары «запрос — фрагмент» и помогает упорядочить найденные документы или другие текстовые кандидаты по релевантности. Модель содержит 507,6 млн параметров, построена на плотной архитектуре Qwen3 и принимает последовательности контекстом до 40 960 токенов по метаданным; README указывает длину 32K. Для запуска доступны веса Safetensors и интеграция с Transformers и Sentence Transformers. Модель предназначена для улучшения поиска по текстам и коду, в том числе многоязычного и межъязыкового поиска. README заявляет поддержку более 100 языков, понимание длинных текстов и настройку инструкции под сценарий; для поисковых задач приводится стандартная инструкция для запросов веб-поиска. Метаданные указывают дообучение от Qwen/Qwen3-0.6B-Base и лицензию Apache-2.0. Оценки в README получены на кандидатах из первой сотни, предварительно найденных эмбеддинг-моделью Qwen3-Embedding-0.6B, поэтому их нельзя напрямую считать качеством самостоятельного поиска. README также предупреждает, что без инструкции на стороне запроса качество в большинстве рассмотренных сценариев может снизиться примерно на 1–5%.