I.11Классификация, ранжирование и сопоставление

llama-3.1-70B-nemotron-lumiyale-120B — объединённая текстовая модель, созданная автором репозитория с помощью mergekit методом линейного слияния трёх предварительно обученных моделей: Sao10K/L3.1-70B-Euryale-v2.2, nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Она использует архитектуру Llama 3.1 с плотной причинной языковой моделью и содержит 118,3 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена; репозиторий использует библиотеку Transformers и формат safetensors. В метаданных отмечен интерфейс вызова инструментов, но подробности его применения не приведены. Лицензия в предоставленных данных не указана. Результаты объединения моделей могут различаться по качеству и поведению; сведения о специальных ограничениях или оценках качества отсутствуют.

ark4004/llama3.8-27b-uc-fp8-jh — размещённая пользователем на Hugging Face производная модель семейства Qwen3.8-27B; точный автор исходной модификации и метод её создания в карточке не указаны. Репозиторий предназначен для генерации текста и мультимодальных сценариев, включая работу с изображениями; доступны интеграции с Transformers, vLLM и SGLang. Модель содержит около 28 млрд параметров и использует формат FP8 F8_E4M3 с отдельными компонентами BF16. По назначению исходной Qwen3.8-27B она ориентирована на понимание текста, изображений и видео, программирование, мультимодальное рассуждение, обработку длинного контекста, вызов инструментов и агентские задачи. Для конкретной производной модели длина контекста, поддерживаемые языки, результаты тестирования и точные архитектурные особенности не указаны, поэтому её сильные и слабые стороны относительно исходной модели надёжно оценить нельзя. Для репозитория указана лицензия Apache-2.0. FP8-квантизация может снизить требования к памяти и ускорить инференс по сравнению с полноточными весами, но потенциально влияет на качество; количественные данные о таком влиянии отсутствуют. Модель не была доступна через провайдеров инференса на момент проверки.

Poro 2 8B Instruct — чат-модель для следования инструкциям, созданная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Она основана на Poro 2 8B Base: после продолженного предобучения модель прошла supervised fine-tuning и Direct Preference Optimization. Архитектура — плотная Llama с 7,5 млрд параметров по метаданным; контекстное окно — 8192 токена. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для ответов на вопросы, генерации текстов, учебных и клиентских помощников, а также перевода между финским и английским. В карточке приведены результаты оценок, показывающие улучшение следования инструкциям на финском относительно Llama 3.1 8B Instruct при сохранении сильных результатов на английском; также доступен интерфейс вызова инструментов. В репозитории указана лицензия Llama 3.3. Модель может ошибаться, отражать предвзятость обучающих данных и хуже работать на специализированных задачах и языках, отличных от финского и английского; знания о недавних событиях могут быть неполными. Важные ответы следует проверять, а для чувствительных и профессиональных решений требуется человеческий контроль.

LLM-jp-4-VL 9B beta — зрительно-языковая модель, разработанная исследовательской группой LLM-jp. Она дообучена на основе llm-jp/llm-jp-4-8b-instruct и объединяет языковую модель на 8,6 млрд параметров, визуальный энкодер SigLIP2 SO400M на 0,4 млрд параметров и лёгкий двухслойный MLP-проектор. Архитектура вдохновлена InternVL3.0; для обработки изображений высокого разрешения применяется динамическое разбиение на фрагменты. Модель предназначена для диалога с изображениями и ответов на визуальные вопросы, включая анализ диаграмм, документов, слайдов и сцен. Обучение использовало англоязычный набор FineVision и японский мультимодальный набор Jagle. В README сообщается о результатах на уровне Qwen3-VL-8B-Instruct в среднем по десяти японским задачам; это не гарантирует такого же качества на других данных. Модель доступна по лицензии Apache-2.0.

LPT-6.1 Thinking — разговорная языковая модель от LiskCell, представленная как флагман экосистемы xLYR и ассистент Deta. Модель предназначена для диалогов, творческих задач, технических вопросов и многошаговых рассуждений; в репозитории заявлена поддержка английского и иврита. В карточке указаны архитектура семейства Kimi K2.5 с классом KimiK25ForConditionalGeneration, библиотека Transformers и формат весов safetensors. Модель позиционируется как дообученная и настроенная для экосистемы xLYR; её размер и длина контекста в предоставленных данных не приведены. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Kaballas/m_1 — текстовая генеративная модель, созданная Kaballas путём слияния нескольких предварительно обученных моделей с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-7B-Instruct; в слияние также вошли модели для рассуждений и генерации текста, включая DrNicefellow/Qwen2.5-7B-O1-Journey-1, C10X/CoT-2.5, bunnycore/Qwen2.5-7B-CyberRombos, djuna/Q2.5-Fuppavy-7B, Kaballas/TLetsgo и jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.7. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Она предназначена для диалогов и генерации текста, в том числе ответов с рассуждениями. Репозиторий использует формат safetensors и библиотеку Transformers; заявлен интерфейс для вызова инструментов. В метаданных лицензия не приведена. Поскольку это слияние моделей, поведение и ограничения зависят от исходных компонентов; README не содержит оценки качества или подробных ограничений.

gbueno86/Meta-LLama-3-Cat-Smaug-LLama-70b — языковая модель, созданная слиянием моделей Meta-LLama-3-Cat-A-LLama-70b и abacusai/Smaug-Llama-3-70B-Instruct. Слияние выполнено методом SLERP с помощью mergekit. Модель предназначена для генерации текста и ответов в диалогах. Она построена на архитектуре Llama 3, содержит 69,5 млрд параметров и поддерживает контекст до 8192 токенов. В метаданных указан английский язык и интерфейс чата. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors по лицензии Llama 3.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, полученная слиянием методом SLERP модели Mistral-7B-Instruct-v0.1 и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоге. Указанная длина контекста — 32 768 токенов; веса опубликованы в формате safetensors. Модель подходит для диалоговых запросов и генерации ответов на инструкции. В карточке не приведены отдельные оценки качества или сведения о поддерживаемых естественных языках, поэтому их нельзя надёжно уточнить. Лицензия — Apache-2.0.

Millie 1.1 — мультимодальная языковая модель с поддержкой изображений от LLMs For All, представленная в формате GGUF для локального запуска на устройствах с ограниченной памятью. Это MoE-модель примерно с 35 млрд параметров и 3 млрд активных параметров на токен; около 90% весов хранятся в троичном представлении, остальные тензоры используют более высокую точность. Для обработки изображений предусмотрен отдельный файл vision encoder/projector, который можно не устанавливать при работе только с текстом. Модель основана на Qwen/Qwen3.6-35B-A3B и подходит для диалогов, ответов на вопросы по изображениям и локального мультимодального помощника. В приведённой авторами оценке результаты близки к исходной модели на MMLU Redux и HumanEval+, а на GPQA Diamond заметно ниже; измерения выполнены в отдельных запусках и не гарантируют аналогичных результатов в других сценариях. Репозиторий распространяется по лицензии Apache-2.0.

MiniCPM5-2B-Claude-Fable5-heretic — языковая модель для генерации текста и агентских сценариев, созданная RACER IS OP на основе SauravMahalik/MiniCPM5-2B-Claude-Fable5. Родительская модель получена дообучением openbmb/MiniCPM5-2B на агентских трассах, дистиллированных из Claude Fable-5 и других передовых моделей, а затем в этой версии поведение отказов было подавлено методом Heretic v1.4.0 посредством направленного редактирования весов, без дополнительного дообучения. Модель предназначена для многошагового следования инструкциям, диалогов, вызова функций и инструментов, а также разработки локальных и автономных агентов. Она поддерживает английский и китайский языки, имеет архитектуру Llama и около 2,57 млрд параметров. Доступны версии Safetensors и GGUF различных уровней квантования, благодаря чему модель рассчитана на запуск на потребительских GPU, CPU, Apple Silicon и небольших устройствах через llama.cpp, Ollama, LM Studio или Jan. Размер контекста в README не указан. К сильным сторонам относятся компактный размер, сохранение заявленных способностей к использованию инструментов и агентскому диалогу, а также значительно сниженное количество отказов по сравнению с родительской моделью: 3 из 100 против 89 из 100 в приведённом авторами тесте. При этом модель является uncensored-вариантом без исходных защитных ограничителей, поэтому её ответы требуют дополнительной проверки и мер безопасности. Приведённые показатели основаны на тестах авторов и не являются независимой оценкой; влияние абляции и квантования на качество может различаться. Модель распространяется по лицензии Apache-2.0.

Joseph717171/Mistral-12.25B-Instruct-v0.2 — разговорная языковая модель на архитектуре Mistral, созданная методом Depth Up-Scaling на основе mistralai/Mistral-7B-Instruct-v0.2 и объединения предварительно обученных моделей с помощью mergekit. Разработчик описывает её как основу для дальнейшего дообучения и как замену Mistral-7B-Instruct-v0.2 с увеличенным числом параметров. Модель содержит 12,3 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Она подходит для диалогов и других задач генерации текста. В карточке приведён шаблон чата Mistral Instruct. Авторы отмечают, что оптимальность выбранных параметров Depth Up-Scaling ещё не установлена, а более широкое исследование гиперпараметров ограничили затраты на продолжение предобучения. README также предупреждает об отсутствии встроенных механизмов модерации. Лицензия — Apache-2.0.

MaziyarPanahi/mistral-7b-v5-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и mncai/mistral-7b-v5; базовой указана mistralai/Mistral-7B-Instruct-v0.1. Модель содержит 7,1 млрд параметров, рассчитана на контекст до 32 768 токенов и распространяется в формате Safetensors. Модель подходит для диалоговых помощников и генерации ответов по текстовым запросам. В метаданных указан английский язык. Лицензия — Apache-2.0. Данные карточки не описывают специальных прикладных областей или известных ограничений качества.

Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-D — объединённая автором модель для диалогов и генерации текста. Она создана с помощью mergekit методом SLERP из Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-C и nbeerbower/Mistral-Small-Drummer-22B. Архитектура — плотная MistralForCausalLM, размер — 22 млрд параметров; модель работает с текстом и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогового общения и генерации текста. Метаданные указывают на интерфейс вызова инструментов, однако подробности его использования в карточке не описаны. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Mistral-Small-Instruct-2409-IMat-GGUF — это GGUF-квантизированная версия модели Mistral-Small-Instruct-2409, разработанной Mistral AI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3785 и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты экосистемы llama.cpp. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q5_K_S, Q4_K, Q4_K_S, IQ4_NL, IQ4_XS, Q3_K, Q3_K_L, Q3_K_S и Q2_K; размеры файлов варьируются примерно от 8,27 до 44,50 ГБ. IMatrix применяется к ряду вариантов с более сильным сжатием, включая Q4, Q3 и Q2, что позволяет уменьшить требования к хранению при сохранении качества, насколько это возможно для выбранного уровня квантизации. Сильная сторона модели — наличие большого выбора степеней квантизации для подбора компромисса между качеством, размером файла и требованиями к аппаратным ресурсам, а также поддержка нескольких языков. Ограничения конкретного варианта зависят от уровня квантизации: более компактные файлы могут уступать исходной BF16-модели в точности и качестве генерации. В README не указаны архитектурные параметры, число параметров, размер контекста и результаты бенчмарков. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

DevQuasar/moonshotai.Kimi-K2-Instruct-BF16 — это версия в формате BF16 модели moonshotai/Kimi-K2-Instruct, подготовленная DevQuasar и опубликованная для генерации текста. Модель предназначена для диалогового взаимодействия и выполнения инструкций в сценариях, где требуется создавать или продолжать текстовые ответы. Модель содержит 37,9 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В метаданных она классифицирована как text-generation и conversational; формат BF16 может быть удобен для запуска на совместимом оборудовании с поддержкой этого типа чисел. Данные о поддерживаемых естественных языках, архитектуре, лицензии и специализированных областях применения в предоставленных источниках отсутствуют.

TheDrummer выпустил Temitoku x Mitekuto — языковую модель для генерации текста и диалогов, созданную с помощью mergekit методом passthrough на основе unsloth/Mistral-Small-Instruct-2409. Модель использует плотную архитектуру MistralForCausalLM и содержит 38,8 млрд параметров; заявленная длина контекста — до 131 072 токенов. Она работает через библиотеку Transformers и распространяется в формате safetensors. Модель подходит для диалогового общения, генерации текста и сценариев с интерфейсом вызова инструментов. README указывает на объединение предварительно обученных языковых моделей, но перечисляет только одну базовую модель. Лицензия в предоставленных данных не указана.

fengminqi/my-tg-qwen2.5-7b — дообученная fengminqi языковая модель семейства Qwen2.5 с плотной архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров. Она основана на unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit; для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для генерации текста и диалогового общения. Указанный в метаданных контекст — 32 768 токенов; карточка также отмечает интерфейс вызова инструментов. Среди тегов языка указан английский. Веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, поэтому конкретные преимущества и ограничения в отдельных предметных областях установить нельзя.

NousResearch_Hermes-4-14B-GGUF — набор квантованных версий языковой модели Hermes-4-14B, разработанной NousResearch и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером около 29,54 ГБ до квантований Q2 и IQ3 размером примерно 6,38–15,70 ГБ. В README рекомендуются варианты Q4–Q6 как компромисс между качеством и требованиями к памяти; версии с более низкой разрядностью подходят для систем с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для модели доступны только текстовые сценарии, сведения о поддерживаемых языках, длине контекста, архитектурных деталях и формате промптов в этом README не указаны. Основные преимущества — широкий выбор размеров файлов, возможность локального запуска и применение imatrix-калибровки при квантовании. Ограничения связаны с потерями качества в низкоразрядных вариантах, зависимостью от совместимого ПО и отсутствием в предоставленных данных информации о лицензии оригинальной модели и квантованных файлов.

DevQuasar/openai.gpt-oss-120b-GGUF — это квантованная версия текстовой генеративной модели openai/gpt-oss-120b, подготовленная разработчиком DevQuasar. Модель предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых базовой моделью. В README также указано наличие фиксированного chat template, что обеспечивает заранее заданный формат взаимодействия с моделью. Из доступных данных известно только, что модель относится к семейству с обозначением 120b и распространяется в формате GGUF; сведения о конкретном варианте квантования, архитектуре, размере файлов, поддерживаемых языках, длине контекста и модальностях отсутствуют. Квантование обычно позволяет снизить требования к памяти по сравнению с исходной моделью, но может сопровождаться потерей качества; степень этого компромисса для данного варианта не указана. Лицензия и условия использования в README не приведены.

OpenBuddy Llama2 13B v11.1 — языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе Llama 2. В данном репозитории представлены квантизированные файлы в формате GGUF, подготовленные TheBloke. Модель ориентирована на роль универсального помощника Buddy: ответы на вопросы, поддержка диалога, объяснение информации и генерация текста. Модель имеет архитектуру Llama и размер 13 млрд параметров. Доступны варианты квантизации от 2 до 8 бит, что позволяет использовать её для CPU-, GPU- и комбинированного инференса через llama.cpp и совместимые приложения. В заявленных метаданных указаны языки: китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Мультимодальность не заявлена; модель предназначена для работы с текстом. Контекстное окно в предоставленных данных не указано. В prompt template приведено ограничение знаний до сентября 2021 года. К сильным сторонам относятся многоязычность, наличие нескольких уровней квантизации и широкая совместимость с локальными инструментами запуска. Ограничения включают возможное снижение качества при сильной квантизации, отсутствие заявленной работы с изображениями и другими модальностями, а также ограниченность знаний датой отсечения. Модель распространяется по лицензии Llama 2.

OpenBuddy Nemotron 70B v23.2q 131K GGUF — квантизированная версия языковой модели OpenBuddy-nemotron-70b-v23.2q-131k, подготовленная bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, включая LM Studio, с применением формата диалоговых промптов OpenBuddy. Поддерживаются английский, китайский, французский, немецкий, японский, корейский, итальянский и финский языки. Модель содержит около 70 млрд параметров и имеет заявленный контекст до 131 072 токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей. Доступны варианты GGUF с разными уровнями квантизации — от Q8_0 до Q2_K и IQ2_M; размер файлов составляет примерно от 24 до 75 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, тогда как компактные варианты рассчитаны на системы с ограниченным объёмом памяти. В README рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Сильными сторонами являются большой контекст, мультиязычность и возможность локального запуска с выбором компромисса между качеством и требованиями к памяти. Ограничения включают значительный размер модели, зависимость качества от выбранной квантизации и отсутствие в предоставленных данных результатов бенчмарков или подробного описания архитектуры. Лицензия указана как llama3.1.

Panoramix-7B-Instruct-v0.2 — текстовая инструктивная модель на архитектуре Mistral, созданная zelus82 с помощью mergekit. Это слияние mlabonne/NeuralHermes-2.5-Mistral-7B и zelus82/Falbala-B7 методом passthrough; репозиторий содержит веса Safetensors. Модель предназначена для генерации текста по инструкциям и диалоговых сценариев. Размер составляет 8,9 млрд параметров, длина контекста — 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает о специальных предметных областях или подтверждённых ограничениях качества.

Patram-7B-Instruct — семейство зрительно-языковых моделей BharatGen с 7 млрд параметров, обученных с нуля для анализа документов по изображениям. Репозиторий содержит версии 1.0, 1.1 и 1.2; README описывает их как отдельные ревизии одной модели. Модель принимает изображение документа и текстовый запрос, а отвечает текстом в диалоговом формате. В зависимости от версии поддерживаются визуальные вопросы и ответы, извлечение текста и ключевых значений, многоходовый диалог, а в версии 1.2 также анализ таблиц, диаграмм и блок-схем, а также рассуждения для VQA. Модель предназначена для понимания текстовых и визуально насыщенных документов, включая индийские документы. В README приведены результаты оценки на наборах DocVQA, WTQ, VisualMRC, ChartQA, InfoVQA, FlowVQA и других; показатели зависят от набора и режима prompting. Репозиторий использует библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. README не приводит сведений о поддерживаемых разрешениях изображений или длине контекста.

Pinkstack/Phi-4-mini-6b-merge — объединённая языковая модель, созданная на основе microsoft/Phi-4-mini-instruct с использованием слоёв microsoft/Phi-4-mini-reasoning: слои 18–22 взяты из reasoning-модели, остальные — из instruct-модели. По метаданным, модель использует плотную архитектуру семейства Phi-3 с классом Phi3ForCausalLM, содержит 6,3 млрд параметров, принимает текст и рассчитана на контекст до 4096 токенов. Она предназначена для диалогов и генерации текста; в интерфейсе модели также заявлена поддержка вызова инструментов. Карточка предполагает, что увеличенное число слоёв даёт модели потенциал для дообучения, но не приводит результатов оценки качества или подробностей применения. Модель распространяется в формате safetensors по лицензии MIT.

Theros/Q2.5-ColdBrew-R1-Obsidian — объединённая текстовая модель, созданная с помощью mergekit методом Passthrough на основе Theros/Qwen2.5-ColdBrew-R1. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 8,7 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, а заявленная длина контекста составляет 131072 токена. Модель распространяется в формате safetensors; условия лицензии в предоставленных данных не описаны.

Hasnonname/Qwen2.5-14B-Wheatear-v0 — дообученная модель семейства Qwen2.5 на 14 млрд параметров, основанная на Qwen/Qwen2.5-14B-Instruct. Она предназначена для диалогов и генерации текста; метаданные также указывают интерфейс для вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM, принимает текст и поддерживает контекст до 32 768 токенов. В репозитории README перечислены отдельные варианты квантования GGUF, но сведения о назначении дообучения, его данных и результатах не приведены. Основная модель опубликована в формате safetensors. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Qwen-2.5-Aether-SlerpFusion-7B — слитая текстовая модель на архитектуре Qwen2, созданная ZeroXClem с помощью mergekit и метода SLERP. Она объединяет Locutusque/StockQwen-2.5-7B и allknowingroger/QwenSlerp8-7B; размер модели составляет 7,1 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая создание контента, суммаризацию, перевод и чат-ботов. README также предлагает использовать её для юридических, медицинских и технических задач, однако не приводит специализированных оценок или подтверждения качества в этих областях. Модель принимает текст и генерирует текст; метаданные указывают английский и китайский языки. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Qwen2.5-Mavapy-b-7B — слитая методом della модель генерации текста, созданная с помощью mergekit на основе Qwen2.5-Mavapy-7B и объединяющая Locutusque/StockQwen-2.5-7B и fblgit/cybertron-v4-qw7B-MGS. Модель разработана сообществом mergekit-community; архитектура — плотная Qwen2ForCausalLM с 7,1 млрд параметров, доступная в формате safetensors. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает контекст до 32 768 токенов и работает с текстовым вводом и выводом. README описывает конфигурацию с типом выходных весов bfloat16. README рекомендует дообучить модель перед использованием. Данных о лицензии и конкретных языках в предоставленных источниках нет.

Это uncensored- и decensored-версия мультимодальной модели Qwen3.5-122B-A10B, созданная независимым автором llmfan46 с использованием инструмента Heretic. Модель распространяется в формате GGUF и предназначена для локального запуска в llama.cpp, LM Studio, Ollama и других совместимых инструментах. Модель основана на архитектуре Qwen3.5 с гибридным сочетанием Gated Delta Networks и разреженной Mixture-of-Experts. Заявлены 122 млрд параметров и 10 млрд активных параметров, поддержка текста и изображений, а также 201 языка. Для работы с изображениями требуется отдельный vision projector. В репозитории доступны варианты квантования от BF16 и Q8_0 до Q2_K, что позволяет выбирать между качеством и требованиями к памяти. Также заявлено сохранение всех 785 MTP. Ключевая особенность — значительное снижение числа отказов по сравнению с исходной моделью: 8 против 92 из 100 в приведённом тесте, при KL-дивергенции 0,0856. Это делает модель подходящей для сценариев, где требуется меньше ограничений и отказов при генерации, однако одновременно снижает встроенные защитные механизмы. README не содержит точных сведений о размере контекста, поэтому этот параметр нельзя надёжно указать. Модель распространяется по лицензии Apache-2.0.

igorvibes/Qwen3.8-27B-UD-Q4_K_XL-AWQ-MTP-mlx — это квантованная версия базовой модели Qwen/Qwen3.8-27B, подготовленная для запуска через MLX на компьютерах Apple Silicon. Модель предназначена для генерации текста и локального инференса, включая сценарии, где важны уменьшенный размер файлов и возможность использования Apple GPU. Архитектура относится к семейству Qwen 3.5; указаны 27,78 млрд параметров, 64 слоя, скрытый размер 5120 и промежуточный размер 17408. Из 64 слоёв 48 используют GatedDeltaNet; остальные относятся к стандартным механизмам внимания, однако полное описание архитектуры в README отсутствует. Модель использует смешанную affine-квантизацию MLX с базовым классом 4-bit и размером группы 64, но её фактическая средняя точность составляет 6,02 бита на вес. Размер на диске — 20,89 ГБ без учёта дополнительной памяти под KV-cache. Применено AWQ activation-aware pre-scaling с calibration imatrix, а 15 тензоров MTP сохранены внутри основных shards в формате BF16 без квантизации. MTP-компонент предназначен для multi-token prediction, но отдельной директории или sidecar-файла drafter нет. К сильным сторонам относятся сохранение более высокой точности для чувствительных компонентов за счёт смешанной разрядности, AWQ-калибровка и адаптация к MLX. Ограничения включают значительный объём оперативной памяти, необходимость учитывать запас под KV-cache и несовместимость формата с vLLM и autoawq: это стандартный формат affine-квантизации MLX, а не AutoAWQ или GPTQ. Языки, длина контекста и лицензия в предоставленном README не указаны.