I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейchanwit/flux-7b-base-stage-0 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода SLERP из chanwit/flux-7b-base-stage-00 и Intel/neural-chat-7b-v3-3. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README описана схема слияния и указано представление весов в bfloat16; метаданные указывают формат safetensors и возможность диалога. Сведений о лицензии и языках в предоставленных источниках нет.
SirSahOl подготовил конверсию диалоговой языковой модели IBM Granite 4.1 3B в формат MLX для локального запуска на Apple Silicon. Это плотная авторегрессионная модель GraniteForCausalLM с 3,4 млрд параметров, весами в 16-битном формате и контекстом до 131 072 токенов. Репозиторий содержит веса safetensors и предназначен для инференса через MLX. Модель подходит для многоходового чата, генерации текста и локальных ассистентов, включая сценарии с кодом и вызовом инструментов, поддерживаемые базовой моделью. Главные преимущества этой версии — запуск на GPU Apple Silicon и сохранение 16-битной точности; для весов требуется около 7 ГБ объединённой памяти, а для комфортной работы рекомендуется не менее 16 ГБ. Скорость зависит от устройства и длины запроса, а длинный контекст требует дополнительной памяти. Это конверсия базовой модели ibm-granite/granite-4.1-3b с помощью MLX, а не самостоятельное дообучение. Лицензия — Apache-2.0. Версия рассчитана на Apple Silicon и не является универсальным форматом для GPU других производителей.
AlexWortega/instruct_rugptMedium — русскоязычная модель ruGPTMedium, дообученная в формате инструктивного обучения с примерами zero-shot и few-shot. Она предназначена для генерации текста по запросу, включая ответы на вопросы и помощь с кодом. Модель построена на архитектуре GPT-2, работает с текстом и имеет контекстное окно 2048 токенов. В карточке заявлено, что модель лучше справляется с русским языком, чем XGLM 1.7B и mGPT; независимые оценки этого сравнения не приведены. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Лицензия — Apache-2.0.
QuantFactory/INTELLECT-1-GGUF — это квантизированная версия базовой языковой модели INTELLECT-1, подготовленная QuantFactory с использованием llama.cpp. Исходную модель разработала Prime Intellect совместно с 30 независимыми участниками, предоставлявшими вычислительные ресурсы. Модель предназначена для генерации английского текста и кода, а также исследовательских и прикладных сценариев, где требуется базовая языковая модель. Для диалогового использования рекомендуется отдельная версия INTELLECT-1-Instruct. INTELLECT-1 содержит 10 миллиардов параметров, 42 слоя, 32 attention heads, hidden size 4096, контекст длиной до 8192 токенов и словарь из 128256 токенов. Она обучена с нуля на 1 триллионе токенов преимущественно англоязычного текста и кода, включая FineWeb-Edu, FineWeb, Stack V1, DCLM и OpenWebMath. Обучение выполнялось распределённо на узлах в разных частях мира с применением DiLoCo и оптимизированного int8 all-reduce. К сильным сторонам относятся крупный объём обучения, открытая базовая архитектура и возможность запуска в формате GGUF через llama.cpp, включая сценарии локального инференса с подходящим уровнем квантизации. Ограничения связаны с тем, что это base-модель, не оптимизированная для инструкций и диалогов; заявленный основной язык — английский, а характеристики конкретного варианта квантизации в README не указаны. При подготовке входных данных необходимо добавлять BOS-токен, иначе производительность может снизиться. Модель распространяется по лицензии Apache 2.0.
J.O.S.I.E.3-Beta11-7B-slerp — объединённая чат-модель на архитектуре Mistral, созданная Goekdeniz Guelmez с помощью LazyMergekit на основе cognitivecomputations/dolphin-2.8-experiment26-7b и argilla/CapybaraHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В карточке указаны английский, немецкий, испанский, французский, японский и китайский языки. Репозиторий предоставляет веса в формате safetensors; README также упоминает запуск GGUF-квантизации Q4_K_M через Ollama. Лицензия — Apache-2.0.
Lite-Cydonia-22B-v1.1-50-50 — плотная языковая модель на архитектуре Mistral с 22 млрд параметров, созданная knifeayumu слиянием двух моделей через mergekit: mistralai/Mistral-Small-Instruct-2409 и TheDrummer/Cydonia-22B-v1.1. Веса объединены методом task arithmetic с равным вкладом каждой модели; опубликованный репозиторий содержит формат safetensors. Модель предназначена для диалогов и генерации текста, включая творческие ответы. По описанию автора, смесь получилась менее склонной к откровенно злонамеренным ответам и менее цензурированной, чем исходная инструкционная модель; автор также отмечает более разнообразные ответы по сравнению с некоторыми версиями Cydonia. Контекст составляет до 32 768 токенов. Модель рассчитана на текстовый ввод и текстовый вывод. Лицензия указана как other; конкретные условия использования следует сверять с карточкой модели и лицензиями базовых моделей. Оценка поведения основана на кратких проверках автора, поэтому её не следует считать гарантией безопасности или качества: ответы могут зависеть от формулировки запроса.
LiteResearcher-4B — агентная языковая модель компании Simplex AI, дообученная на базе Qwen/Qwen3-4B-Thinking с помощью обучения с подкреплением. Она построена на архитектуре Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для глубокого веб-исследования: она поочерёдно анализирует запрос, ищет сведения в интернете, посещает страницы и формирует ответ на основе собранных данных. Агент использует стиль ReAct и инструменты поиска и просмотра страниц; для работы с ними требуется внешняя инфраструктура и соответствующие ключи доступа. Карточка приводит результаты на бенчмарках GAIA, Xbench-DS и Frames, но они сами по себе не гарантируют аналогичное качество на других задачах. Модель принимает текст и генерирует текст; языковые теги карточки указывают английский и китайский. Распространяется по лицензии Apache-2.0.
LLaMa-3.1-Zeroed-13B — плотная языковая модель семейства Llama, созданная сообществом mergekit из предварительно обученной unsloth/Meta-Llama-3.1-8B методом passthrough merge. Она предназначена для генерации текста и диалоговых сценариев с контекстом до 131 072 токенов. Модель содержит около 12,5 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Карточка не описывает отдельную настройку под конкретную предметную область или языки. Лицензия в предоставленных данных не указана.
ZeroXClem разработал Llama-3-Aetheric-Hermes-Lexi-Smaug-8B — объединённую методом TIES диалоговую модель семейства Llama 3 на 7,5 млрд параметров. В состав слияния вошли Badger Writer, Configurable Hermes 2 Pro, Llama 3 Lexi Uncensored и Llama 3 Smaug. Модель использует архитектуру LlamaForCausalLM и предназначена для генерации текста и общения по инструкциям; контекст — до 8192 токенов. Модель подходит для написания рассказов и ролевых диалогов, ответов на вопросы, многоходового общения и генерации кода. Карточка описывает настраиваемый уровень ограничений, но предупреждает, что ответы могут быть нецензурированными и содержать унаследованные предвзятости. Для запуска в bfloat16 могут потребоваться значительные вычислительные ресурсы. В метаданных указана лицензия Apache-2.0, тогда как README называет Meta Llama Community License; лицензионные сведения расходятся, поэтому условия использования следует сверить с файлами лицензии репозитория.
lmstudio-community/Llama-3-Groq-8B-Tool-Use-GGUF — это GGUF-квантизация дообученной модели Llama 3 8B, разработанной Groq для использования инструментов и вызова функций. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, взаимодействия с API, работы со структурированными данными и выполнения сложных сценариев, в которых требуется выбирать и вызывать внешние инструменты. Модель поддерживает английский язык и использует текстовую модальность. В README указано 8 млрд параметров; размер контекста не указан. Для работы в LM Studio рекомендуется выбрать шаблон Llama 3. Ответы на вызовы функций оформляются в JSON внутри тегов tool_call, а доступные инструменты и их параметры передаются в системном запросе. Заявленная точность на Berkeley Function Calling Leaderboard составляет 89,06%. Сильная сторона модели — специализация на function calling, API-интеграциях и структурированном взаимодействии с инструментами. Ограничения включают отсутствие сведений о размере контекста и конкретных вариантах квантизации, а также ориентацию на английский язык; корректность вызовов зависит от качества описаний инструментов и используемого шаблона запроса. В метаданных указана лицензия llama3.
Llama-3-SauerkrautLM-70b-Instruct — диалоговая языковая модель, созданная VAGO Solutions совместно с Hyperspace.ai на основе Meta-Llama-3-70B-Instruct и настроенная с помощью DPO. Она предназначена для генерации ответов и ведения диалога на немецком и английском языках; в карточке приведены оценки на англоязычных и немецкоязычных тестах, включая MT-Bench и оценку RAG. Модель использует плотную архитектуру LlamaForCausalLM и содержит 69,5 млрд параметров. Контекст — до 8192 токенов. Доступны веса в формате safetensors. В README указана лицензия meta-llama, тогда как метаданные Hugging Face обозначают её как other; условия следует сверять с лицензией базовой модели и карточкой репозитория. Авторы предупреждают, что модель может выдавать неподходящий или неотфильтрованный контент и что её поведение не всегда будет уместным.
Lyraea-medium-llama-3.1 — разговорная языковая модель семейства Llama 3.1, опубликованная Edgerunners. Это средний вариант серии small, medium и large, созданной на основе llama-3.1-8b-128k uncensored. Модель предназначена для генерации текста в диалоговом формате; автор отмечает, что варианты серии имеют разные сценарии применения. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В репозитории представлены веса Safetensors. Языковые сведения в карточке не приводятся. Модель предоставляется «как есть» и «по мере доступности», без гарантий; провайдер снимает с себя ответственность за ущерб и не гарантирует соответствие конкретным требованиям или безошибочную работу. Сведения о лицензии в доступных данных отсутствуют.
MeliodasPercival_01_AlloyingotneoyYam — объединённая модель генерации текста на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyYam-7B. Модель содержит 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Веса опубликованы в формате safetensors; лицензия — Apache 2.0. Карточка не сообщает о специализированной предметной области или языковом профиле модели.
MeliodasPercival_01_NeuralExperiment26 — объединённая языковая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/NeuralExperiment26-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Репозиторий опубликован под лицензией Apache-2.0.
MeliodasPercival_01_NeuralsirkrishnaT3qm7x — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием моделей automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaT3qm7x-7B; автор карточки — MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и поддерживает контекст длиной до 32 768 токенов. В репозитории представлены веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специальных предметных областях или языковой специализации.
Это квантизированная версия текстовой генеративной модели Mixtral-8x22B-v0.1, разработанной Mistral AI и подготовленной для распространения пользователем ChristianAzinn. Модель поставляется в формате GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, Ollama и другие сервисы на его основе. Модель использует архитектуру Mixture of Experts (MoE) и доступна в вариантах квантизации от 2 до 6 бит, включая IQ2_XXS, IQ2_XS, Q2_K, IQ3, Q3, Q4, Q5 и Q6. Также заявлена поддержка 16-битного формата в метаданных, однако репозиторий ориентирован на GGUF-квантизации с importance matrix; для Q8_0, FP16 и FP32 рекомендуется использовать другой репозиторий. Поддерживается текстовая генерация на английском языке и контекстное окно до 65 536 токенов. Сильные стороны модели — большой контекст, широкий выбор уровней квантизации и повышенное качество некоторых вариантов благодаря importance matrix при небольших дополнительных затратах. Ограничение — очень большой размер исходной модели: она не предназначена для большинства пользовательских компьютеров, а длинный контекст требует значительных ресурсов. Файлы могут быть разделены на части; llama.cpp и LM Studio поддерживают работу с такими шардами. Модель распространяется по лицензии Apache-2.0.
zelk12/MT4-Gen3-MU-gemma-2-S2MT4g2-9B — объединённая языковая модель на базе Gemma 2, созданная методом SLERP с помощью mergekit. В объединение вошли allknowingroger/Gemmaslerp2-9B и zelk12/MT4-Gen2-gemma-2-9B; конфигурация README указывает тип bfloat16 и параметр смешивания t=0.25. Модель предназначена для диалогов и генерации текста. Она содержит 9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и поддерживает контекст до 8192 токенов. Репозиторий использует Transformers и содержит веса в формате safetensors. В метаданных лицензия и поддерживаемые естественные языки не приведены, поэтому конкретные условия использования и языки здесь не уточняются.
NeuralPipe-9B-Passthrough — слитая модель для генерации текста, созданная на основе OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B с помощью LazyMergekit. В конфигурации passthrough использованы слои обеих моделей; архитектура — плотная MistralForCausalLM, размер — 8,9 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0. В карточке не приведены результаты оценки качества или подробные сведения о языковом охвате.
OrionStar Yi 34B Chat Llama — текстовая gener generative-модель для диалогового взаимодействия, разработанная OrionStarAI. Представлена в формате GGUF и предназначена для задач генерации текста и чат-сценариев, включая запуск через LlamaEdge. Модель относится к семейству Yi, содержит около 34 миллиардов параметров и поддерживает контекст длиной до 7168 токенов. Сведения о поддерживаемых языках и дополнительных модальностях в README не указаны. Модель доступна в нескольких вариантах квантизации от Q2_K до Q8_0. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества; квантизация Q2_K–Q4_0 обеспечивает меньший размер, но может заметно снижать качество. Размер файлов составляет примерно от 12,8 до 36,5 ГБ, поэтому для запуска требуются значительные вычислительные ресурсы и память. Квантизацию и публикацию GGUF-вариантов выполнила Second State Inc. Для работы с LlamaEdge требуется версия 0.2.9 или новее и специальный шаблон prompt типа human-assistant. Лицензия модели указана как Apache-2.0.
Phi-4 o1 — дообученная модель prithivMLmods на базе Microsoft Phi-4, предназначенная для генерации текста и решения задач, требующих рассуждений. По описанию автора, при дообучении использовались синтетические данные с примерами пошагового решения; модель ориентирована на математику, логику, научные вопросы и разбор сложных задач. В метаданных указаны 14,1 млрд параметров, плотная архитектура LlamaForCausalLM, контекст до 16 384 токенов и формат safetensors. Модель поддерживает диалог и задачи программирования; README также заявляет многоязычные сценарии, но метаданные подтверждают только английский язык. Модель подходит для образовательных объяснений, ответов на вопросы, создания текстов и вспомогательной работы с кодом. Возможны ошибки в неоднозначных задачах, предвзятость и устаревшие сведения; для чувствительных решений необходима проверка человеком. Для запуска требуются значительные вычислительные ресурсы. Лицензия — MIT.
Qianfan-OCR-GGUF — набор GGUF-квантизированных версий мультимодальной модели baidu/Qianfan-OCR, разработанной Baidu. Модель предназначена для распознавания текста и анализа документов по изображениям, включая сценарии document intelligence и OCR. Она использует архитектуру InternVL Chat с языковой основой Qwen3 примерно на 4,7 млрд параметров и поддерживает мультиязычные задачи image-text-to-text. Квантизация выполнена Reza2kn с использованием llama.cpp. Доступны варианты от F16 размером около 9,4 ГБ до Q2_K размером около 1,7 ГБ. Версии различаются компромиссом между размером, скоростью и качеством: F16 сохраняет точность в формате half precision, Q8_0 близка к исходному качеству, а Q4_K_M указана как рекомендуемая и занимает около 2,8 ГБ. Для работы в llama.cpp требуются файл модели и соответствующий multimodal projector; модель принимает изображения документов и текстовые запросы. В README приведены результаты исходной модели на OmniDocBench и OCRBench, но подробные сведения о поддерживаемых языках, длине контекста и ограничениях распознавания не указаны. Распространение заявлено по лицензии Apache License 2.0 с сохранением уведомлений и условий сторонних компонентов.
Карточка модели prompt-agnostic-language-models/Qwen-1B_dare_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.
Карточка модели prompt-agnostic-language-models/Qwen-1B_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.
Qwen2.5-7B-Ins-v3-GGUF — это квантизированная версия текстовой генеративной модели happzy2633/qwen2.5-7b-ins-v3, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; в README также указан запуск через LM Studio. Рекомендуемый формат промпта использует специальные маркеры ролей system, user и assistant. Доступны варианты от исходных весов F16 размером 15,24 ГБ до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Более высокие уровни обычно сохраняют лучшее качество, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. Для ARM-процессоров предлагаются специальные варианты Q4_0, требующие поддержки sve или i8mm; некоторые из них не рекомендуются для Mac и Windows. Модель относится к классу 7B, однако точные сведения об архитектуре, поддерживаемых языках, максимальном контексте, мультимодальности, результатах тестирования и ограничениях исходной модели в предоставленном README отсутствуют. Лицензия также не указана, поэтому условия коммерческого и иного использования необходимо уточнять на странице исходной модели.
geoffmunn/Qwen3-1.7B-f16 — общественная конверсия языковой модели Qwen3-1.7B от Geoff Munn для локального запуска. Репозиторий содержит GGUF-вариант в формате F16 и ориентирован на использование с llama.cpp и совместимыми приложениями. Модель насчитывает 1,7 млрд параметров и предназначена для генерации текста, диалогов, рассуждений, следования инструкциям и написания кода. Компактный размер модели подходит для локальных помощников, лёгких агентных систем, учебных проектов и прототипирования, когда важны скорость и работа без подключения к облаку. README также описывает варианты квантования семейства и сравнивает их качество, размер и скорость; эти показатели относятся к указанным вариантам квантования, а не обязательно к файлу F16 в этом репозитории. В метаданных указан английский язык, а базовая модель описана как многоязычная. Это конверсия базовой модели, а не самостоятельная разработка автора репозитория. Лицензия — Apache-2.0. Небольшой размер ограничивает возможности по сравнению с более крупными моделями; результаты квантованных вариантов могут зависеть от разрядности и использования imatrix.
Карточка модели Andronovo/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.
theresa00l/Qwen3.8-27B-Uncensored-FP8-Q4_K_M-GGUF — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored-FP8, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель относится к семейству Qwen3.8 и распространяется под лицензией Apache-2.0. Модель предназначена для локального запуска через llama.cpp, включая использование в командной строке и в серверном режиме. В карточке заявлены сценарии рассуждений, function calling, red-teaming и AI red-teaming. Указана поддержка английского и китайского языков. Архитектура и точное число параметров явно не описаны, однако обозначение модели указывает на размер 27B и квантизацию Q4_K_M из исходного представления FP8. Также заявлена совместимость с vLLM и llama.cpp. К сильным сторонам относятся компактное квантизированное представление GGUF и возможность локального инференса на совместимом оборудовании. Ограничения — отсутствие в README подробностей о контекстном окне, точной архитектуре, результатах оценки, требованиях к памяти и качестве работы с изображениями, несмотря на тег image-text-to-text. Практическое использование требует llama.cpp и подходящей аппаратной конфигурации; заявленная лицензия — Apache-2.0.
Qwen3.8 Flash-Next Uncensored NVFP4 + MTP — мультимодальная модель класса Mixture-of-Experts, разработанная на основе чекпойнта mazinb/Qwen3.8-Flash-Next-Uncensored-NVFP4 и опубликованная пользователем aday777. Она предназначена для высокопроизводительной генерации текста со speculative decoding на GPU NVIDIA Blackwell, включая длинный контекст, мультимодальные сценарии, tool calling и reasoning-каналы. Модель относится к pipeline text-generation и поддерживает английский язык. Модель содержит примерно 125 млрд параметров, из которых около 6 млрд активируются на один токен. Целевые MoE-эксперты и эксперты MTP квантизованы в NVFP4, общие эксперты целевой модели используют BF16; применяются MTP speculative depth 3 и контекст до 131 072 токенов. В квалификационном тесте на NVIDIA RTX PRO 6000 Blackwell 96 GB была достигнута скорость 161,12 выходного токена в секунду, однако для работы требуется современная совместимая сборка vLLM с поддержкой Qwen4-Exp/Flash-Next, Blackwell NVFP4 MoE, MTP и выгрузки PLE на CPU. Сильными сторонами являются высокая пропускная способность, поддержка длинного контекста, мультимодальности и спекулятивного декодирования, а также детерминированная конвертация и опубликованные контрольные суммы файлов. Ограничения включают зависимость от специфической аппаратной и программной конфигурации, возможную несовместимость со старыми версиями vLLM и необходимость самостоятельно проверять качество и безопасность. Модель намеренно uncensored и abliterated, поэтому может выполнять небезопасные, незаконные, неточные или вредоносные запросы; README прямо возлагает ответственность за контроль доступа и применение на пользователя. Модель распространяется по лицензии Apache-2.0. Указанная лицензия относится к карточке модели; дополнительные риски и условия использования следует оценивать с учетом происхождения базового чекпойнта и применимого законодательства.
Qwen3Loop-0.6B-SFT-Deep-Supervision — языковая модель для диалоговой генерации текста, разработанная Lordnyx на базе архитектуры Qwen3Loop. В ней 507,9 млн физических параметров и рекуррентная схема повторного вычисления среднего блока слоёв; автор описывает её как модель с логической глубиной 56 слоёв. В карточке заявлены контекст до 40 960 токенов и обучение на 6 324 отобранных примерах с многоэтапными агентными и пошаговыми рассуждениями, включая задачи программирования. Модель предназначена для чата, рассуждений и генерации ответов на математические и программные запросы. В репозитории доступны веса Safetensors и варианты GGUF в форматах F16 и Q8_0; также приложен лёгкий зонд для выбора глубины вычислений. README приводит метрики и отдельные результаты тестов автора, которые не следует считать независимой оценкой качества. Модель распространяется по лицензии Apache-2.0. Ограничения: заявленные результаты основаны на ограниченном наборе обучения и тестировании автора; надёжность ответов и преимущество рекуррентной архитектуры могут зависеть от задачи и используемого движка.
Kaoeiri/Qwenwify2.5-32B-v4.7-ED — объединённая языковая модель, созданная разработчиком Kaoeiri с помощью mergekit. В качестве основы использована Qwen/QwQ-32B-Preview, а для слияния применён метод DARE TIES; в состав также вошли девять других моделей семейства Qwen2.5-32B и их производных. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. Она построена на плотной архитектуре Qwen2, содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. В составе объединены модели для чата, рассуждений, японского языка и ролевой генерации; карточка не задаёт приоритетный язык. Репозиторий распространяет веса в формате safetensors. Лицензия в предоставленных данных не указана. Качество и поведение могут различаться в зависимости от запроса, поскольку модель объединяет несколько чекпойнтов; конкретные ограничения и результаты оценки в карточке не приведены.