I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейNeoHorse-1-4B-onw — модель генерации текста, подготовленная ryugyosoft для запуска через движок onw на Intel NPU. Веса получены из дообученной TokenRhythm/NeoHorse-1-4B, основанной на Qwen3.5-4B; сама модель NeoHorse дообучалась для агентных сценариев, вызова инструментов, программирования и следования инструкциям. Это плотная текстовая архитектура Qwen3.5 с 32 слоями: 24 слоя Gated DeltaNet и 8 слоёв gated attention. Контекст — до 262 144 токенов; поддерживаются японский и английский языки. Репозиторий содержит преобразованные веса для onw, а не сам движок. Для работы нужны совместимый компьютер с Intel Core Ultra NPU и установленный onw; README описывает поддержку Windows 11 и Ubuntu 22.04 или новее. Используются INT4 веса основных сегментов и эмбеддингов, а выходной слой представлен в INT8. Модель поддерживает чат и интерфейс вызова инструментов через OpenAI-совместимый API. Лицензия — Apache 2.0. Заявленные в README результаты скорости и качества относятся к указанным тестовым конфигурациям и могут отличаться на другом оборудовании.
r0b0tlab выпустила Nex-N2-mini NVFP4 — квантованную версию языковой модели Nex-N2-mini, основанной на Qwen3.5-MoE. Модель содержит 35 млрд параметров, из которых активны 3 млрд; используется архитектура MoE с 256 экспертами и маршрутизацией top-8. Весовые матрицы экспертов квантованы в NVFP4 с помощью NVIDIA ModelOpt, а веса внимания, визуального энкодера и выходного слоя сохранены в BF16. Контрольные тесты возможностей прошли без потери качества, по данным авторов. Модель предназначена для генерации текста и диалогового использования через vLLM. Вариант NVFP4 рассчитан на обслуживание на видеокартах NVIDIA Blackwell с поддержкой SM 12.1; README приводит результаты запуска на GB10. В базовой модели заявлены возможности программирования, вызова инструментов и выполнения продолжительных задач с обратной связью от среды. Языки карточки — английский и китайский; в чекпойнте также сохранён визуальный энкодер, но README не описывает конкретные сценарии обработки изображений. Репозиторий распространяется по лицензии Apache-2.0. Практические ограничения — требование GPU Blackwell для NVFP4-ядер, минимальное значение max_num_batched_tokens 2096 и несколько минут профилирования визуального энкодера при первом запуске. NVFP4-кэш KV недоступен; для него в описанной конфигурации применяется FP8.
NinjaMouse2-2.5B-v0.1 — разговорная языковая модель, созданная автором trollek на основе h2oai/h2o-danube2-1.8b-chat. Это плотная авторегрессионная модель семейства Mistral с 2,4 млрд параметров и контекстом до 8192 токенов; исходные 24 слоя расширены, а обучение включало дообучение вставленных блоков и последующую настройку на инструктивных и диалоговых данных. Модель предназначена для диалогов и генерации ответов на инструкции, включая задачи по математике, коду и вызову инструментов. Для подготовки данных использовались примеры из нескольких англоязычных диалоговых, математических и программных наборов, а также ответы более крупных моделей. Репозиторий содержит веса в формате safetensors; README также описывает отдельные квантизированные варианты для запуска через Ollama и LM Studio. Модель рассчитана прежде всего на английский язык. README предупреждает, что специальные токены FIM и thought не входили в обучение. Лицензия — Apache-2.0. Качество и соответствие инструкциям могут различаться; карточка не приводит результатов независимой оценки.
Карточка модели ashton25549/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, поэтому описание составлено по ней. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель общего назначения от NVIDIA для диалога, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметным областям, исследований и подготовки собственных квантованных вариантов. Модель готова к коммерческому использованию; в карточке лицензия указана как other. Архитектура — гибридная Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными слоями Attention; также используются слои Multi-Token Prediction. В README заявлены 30 млрд параметров всего и 3 млрд активных, а в метаданных каталога — 1,9 млрд параметров. Модель поддерживает контекст до 262 144 токенов по метаданным; README указывает до 1 млн токенов для отдельных конфигураций оборудования. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский, а README дополнительно описывает посттренировочные данные на китайском. Модель предназначена для настройки под пользовательские данные с помощью SFT, RL или дистилляции, а также для оценки и генерации текста в чат- и агентных сценариях. Полноточный вариант требует значительных ресурсов для инференса: README приводит 256K контекста для одной H100 80 GB и конфигурации до 1 млн токенов на более мощном оборудовании. Для более быстрой производственной генерации NVIDIA рекомендует отдельную NVFP4-версию.
BoldingBuilds/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-ShimQuant-GGUF — квантизированная GGUF-версия NVIDIA Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA. Сборка использует технологию ShimQuant и предназначена для генерации текста и программного кода, включая сценарии локального запуска на потребительских видеокартах с ограниченным объёмом памяти. Модель основана на архитектуре Nemotron H с разреженной MoE-компонентой: заявлены 30 млрд параметров при 3 млрд активных параметров (30B-A3B). Файл имеет размер около 11,77 GiB, эффективную разрядность 3,07 бит на вес и рассчитан на контекст до 262 144 токенов. В конфигурации преобладают SSM-слои, поэтому увеличение контекста требует сравнительно немного дополнительной VRAM. README не указывает поддерживаемые языки. Ключевое преимущество сборки — возможность запуска на видеокарте с 16 ГБ памяти: на RTX 5080 заявлены полный offload и загрузка контекста 262 144 токена. На тесте HumanEval модель показала pass@1 91,5%. При этом квантизация вносит заметное отклонение от эталонной версии Q8_0, а результаты зависят от выбранной конфигурации. Файл несовместим со стандартными llama.cpp, LM Studio и Ollama и требует пропатченной сборки с поддержкой ShimQuant. Лицензия указана как openmdw-1.1 (other).
Occamy-1.0 APEX-I-MiniPlus-V2.1 Abliterated GGUF — это квантизированная версия Occamy-1.0, разработанная IsValorum на базе Accio-Lab/occamy-1.0. Модель предназначена для генерации текста, рассуждений, программирования и работы с большими контекстами, включая сценарии локального запуска через llama.cpp на системной RAM и GPU. Это аблитерированная версия без стандартных отказов и защитных ограничений, поэтому она ориентирована на пользователей, которым требуется более свободное выполнение запросов, в том числе в задачах кибербезопасности и пентестинга. Модель использует разреженную архитектуру Mixture-of-Experts с 40 слоями и 256 микроэкспертами. В сборке применена кастомная тензорная квантизация: основные эксперты используют IQ3_XXS, периферийные — Q3_K, shared-эксперты — Q5_K, attention-компоненты — Q4_K и Q6_K, выходная голова — Q6_K, а маршрутизаторы — F32. Заявлен контекст до 256K токенов. Поддерживаются английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Сильными сторонами заявлены компактный размер около 13,74 GiB, сохранение качества рассуждений при квантизации, отсутствие отказов в протестированном наборе запросов и эффективная работа при частичной или полной выгрузке в системную память. Ограничения включают потенциальные риски неконтролируемой генерации из-за удаления защитных механизмов, зависимость производительности от GPU, процессора и пропускной способности памяти, а также отсутствие в представленном README подробных независимых бенчмарков. Лицензия — Apache-2.0.
OmniTranslate-1.1-i1-GGUF — квантизированная версия модели OmniTranslate-1.1, разработанной MihaiPopa-1 и подготовленной в формате GGUF пользователем mradermacher. Модель предназначена прежде всего для автоматического перевода и генерации текста, включая сценарии с большим числом языков. В README заявлена поддержка языков, представленных кодами ISO 639, среди которых английский, русский, китайский, японский, арабский, испанский, французский, немецкий и многие другие, включая малоресурсные языки. Также указано, что базовая модель обучалась с использованием набора данных MihaiPopa-1/OmniSurgical-1.1. Модель распространяется в нескольких вариантах квантизации GGUF, включая IQ- и Q-семейства, с размером файлов примерно от 0,3 до нескольких гигабайт; конкретный доступный размер зависит от выбранного варианта. Квантизация позволяет снизить требования к памяти, но может уменьшать качество по сравнению с исходной моделью, особенно у наиболее компактных вариантов. Архитектура, число параметров, размер контекста, мультимодальные возможности и результаты бенчмарков в README не указаны, поэтому эти характеристики нельзя достоверно оценить. Лицензия модели — Apache-2.0.
CIRU DualView Ornith 1.0 35B — мультимодальная модель для диалогов, рассуждений, работы с инструментами, программирования и анализа изображений. Она основана на объединении Ornith-1.0-35B и Qwen3.6-35B-A3B; архитектура включает 256 экспертов, из которых активны 8. Модель поставляется в формате GGUF с квантованием FPX7 и отдельными участками Q8, а также с проектором изображений и дополнительным слоем MTP. Заявленная длина контекста — 262 144 токена. DualView использует компактное представление весов для генерации и точное представление INT8 для обработки входного контекста. Модель предназначена для локального запуска на системах AMD с унифицированной памятью и ROCm. Для загрузки требуется совместимая сборка ROCmFPX; стандартный llama.cpp не поддерживает этот формат. Проверки производительности проведены для Linux ROCm на Strix Halo, а совместный режим vision и MTP ещё проходит валидацию качества изображений и повторяемости. В метаданных указана лицензия other; конкретные условия следует сверить с карточкой модели и её лицензией.
PersianMind-v1.0 — кросс-лингвальная большая языковая модель на базе архитектуры Llama, разработанная Педрамом Ростами, Али Салеми и Мохаммадом Джавадом Дусти. Модель содержит 6,6 млрд параметров, работает с текстом и имеет контекстное окно 2048 токенов. Она предназначена для генерации текста на персидском и английском языках, включая понимание прочитанного, ответы на вопросы и перевод между этими языками. В карточке сообщается о высоких результатах на персидской части Belebele и задаче множественного выбора ParsiNLU, а также о сопоставимой с GPT-3.5-turbo точности в тесте на понимание персидского текста. Оценки из README также включают перевод персидского и английского на Flores-200. Модель доступна в форматах PyTorch и Safetensors через Transformers. Лицензия CC BY-NC-SA 4.0 разрешает использование на некоммерческих условиях с соблюдением требований лицензии.
Phi-3-mini-4k-instruct-4bit — это 4-битная версия модели Phi-3-mini-4k-instruct, преобразованная сообществом mlx-community в формат MLX из исходной модели Microsoft. Конвертацию выполнил Prince Canuma с использованием mlx-lm 0.10.0; модель предназначена для запуска и генерации текста через экосистему MLX. Модель решает задачи генерации текста и диалогового взаимодействия на английском языке, включая ответы на вопросы, составление текстов и помощь с кодом. Она содержит около 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной версией, что удобно для локального запуска на совместимом оборудовании Apple Silicon и других средах MLX. Модель распространяется по лицензии MIT. Ограничения исходной Phi-3-mini-4k-instruct, включая возможные ошибки, галлюцинации, чувствительность к формулировкам запросов и риски при использовании с непроверенным кодом или фактическими сведениями, сохраняются; результаты требуют проверки человеком.
PLaMo 3 NICT 2604 31B Base — базовая авторегрессионная языковая модель с 31 млрд параметров, разработанная Preferred Networks совместно с Национальным институтом информационных и коммуникационных технологий Японии (NICT). Модель дистиллирована из модели на 120 млрд параметров и использует гибридную архитектуру с оконным вниманием SWA и традиционными слоями внимания. Для запуска поддерживается библиотека Transformers и vLLM. Модель предназначена для генерации текста на английском и японском языках, включая работу с кодом. Она обучена на 1,5 трлн токенов; контекстное окно в карточке не приведено. Это базовая модель, поэтому для диалоговых и прикладных сценариев может потребоваться дополнительная настройка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением нужны тестирование и настройка безопасности под конкретное применение. Распространяется по лицензии PLaMo Community License. Для коммерческого использования разработчик просит ознакомиться с лицензией и связаться с ним.
Qalb-1.0-8B-Instruct — языковая модель для генерации текста и диалогов, разработанная для работы прежде всего на урду. Она основана на плотной архитектуре Llama 3.1 и содержит 7,5 млрд параметров. По карточке модели, обучение включало продолженное предобучение на корпусе урду объёмом 1,97 млрд токенов и дообучение на следование инструкциям. Модель также сохраняет возможности английского языка. Qalb предназначена для ответов на вопросы, перевода, классификации, рассуждений и решения математических текстовых задач на урду, а также для двуязычных сценариев с английским. Заявлены сильные результаты на бенчмарках урду, однако карточка не содержит полных таблиц результатов, поэтому эти оценки нельзя независимо проверить по представленным данным. Контекст составляет до 131 072 токенов; доступны веса в формате safetensors для Transformers. Модель может отражать предубеждения обучающих данных. Ответы в медицинских, юридических и религиозных темах следует проверять. Лицензия — Apache-2.0.
unsloth/Qwen2.5-1.5B-unsloth-bnb-4bit — 4-битно квантованная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B. Модель предназначена для генерации и продолжения текста, программирования, математических задач, обработки структурированных данных и последующего дообучения. Это текстовая, авторегрессионная causal language model без заявленной поддержки изображений или других модальностей. Ключевая особенность варианта — формат Unsloth Dynamic 4-bit Quant, который избирательно применяет квантование для снижения требований к памяти при сохранении качества по сравнению со стандартными 4-битными вариантами. Семейство Qwen2.5 поддерживает контекст до 128K токенов и генерацию до 8K токенов, а также более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Точные архитектурные параметры именно версии 1.5B в представленном README не указаны; приведённый там блок с характеристиками 0.5B относится к другой конфигурации. Модель выигрывает за счёт небольшого размера и сниженного потребления памяти, что делает её подходящей для локального запуска, экспериментов и эффективного fine-tuning. Как базовая, а не instruction-tuned модель, она не оптимизирована для диалогов без дополнительного дообучения и может требовать настройки шаблонов и параметров генерации. Лицензия — Apache-2.0.
unsloth/Qwen2.5-7B — базовая предобученная языковая модель Qwen2.5, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-7B. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; веса доступны в формате safetensors. Модель предназначена для генерации и продолжения текста, а также для дальнейшего дообучения под конкретные задачи. Модель поддерживает более 29 языков, включая китайский, английский, русский, французский, испанский, немецкий, японский и арабский. Контекст составляет 131 072 токена. Среди описанных возможностей семейства — генерация длинного текста, работа с кодом, математическими задачами, таблицами и структурированными ответами, включая JSON. Это базовая модель без инструкционной настройки, поэтому в карточке не рекомендуется использовать её напрямую для диалогов; для чат-сценариев её следует дообучить. Репозиторий распространяется по лицензии Apache-2.0.
Ronnied1588 публикует GGUF-сборку Qwen2.5-7B-Instruct-heretic — версии Qwen2.5-7B-Instruct, обработанной методом abliteration для снижения склонности к отказам. Исходную обработку выполнил LeadFootThrottleCock с помощью Heretic v1.2.0; каталог указывает базовую модель Qwen/Qwen2.5-7B-Instruct и 7,1 млрд параметров. Архитектура — плотная причинная языковая модель Qwen2 с поддержкой диалогов и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста, творческого письма, ответов на вопросы, обсуждения спорных тем и программирования. В README описаны варианты GGUF от BF16 до нескольких уровней квантования, запуск через llama.cpp, LM Studio и Ollama, а также интерактивные проверки творческих, научных и кодовых задач. Карточка сообщает о низком значении KL-дивергенции относительно исходной модели и результатах проверки отказов, но это не является независимой оценкой качества. Модель ориентирована на английский язык; возможности других языков в карточке не подтверждены. Abliteration снижает поведение отказа, поэтому ответы на потенциально опасные запросы могут быть менее ограничены. Лицензия — Apache-2.0.
Qwen3-235B-A22B-abliterated — доработанная методом ablation модель Qwen3 от null-space на базе Qwen/Qwen3-235B-A22B. Из весов удалено доминирующее направление отказа, из-за чего модель значительно реже отклоняет запросы, сохраняя основные возможности исходной модели. Это разреженная MoE-модель для генерации диалогового текста, рассуждений, программирования, перевода и работы с инструментами; поддерживает режимы /think и /no_think. Архитектура — Qwen3MoeForCausalLM, формат весов — BF16, контекст — до 40 960 токенов. Метаданные указывают 18,2 млрд параметров, тогда как README описывает базовую модель как 235-миллиардную MoE-модель. Модель подходит для творческого письма, диалогов и исследований поведения отказов в языковых моделях, включая red-teaming и оценку безопасности. В приведённой оценке MMLU для FP8-варианта результат составил 86,2% против опубликованных 87,8% у базовой модели; это сравнение не является полной независимой оценкой всех возможностей. Удаление отказов означает, что модель может отвечать на запросы, которые исходная модель отклоняла, поэтому её ответы требуют соответствующего контроля. Лицензия — Apache-2.0.
Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF — мультимодальная модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Это дообученная версия с фокусом на эффективное рассуждение и генерацию текста по изображениям и текстовым запросам; модель рассчитана на conversational-сценарии, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Доступен формат GGUF для запуска с llama.cpp и совместимых инструментов, а также поддержка экосистемы Transformers и Unsloth. Заявлены языки English, Chinese и Korean, однако сведения о размере контекста в README отсутствуют. В версии v2 использовано около 14 000 образцов рассуждений в стиле Claude 4.6 Opus, с акцентом на короткие и переносимые шаблоны рассуждений. По данным автора, на HumanEval достигнуто 96,91% pass@1 при примерно 24% меньшей длине цепочки рассуждений и на 31,6% большем числе корректных решений на токен по сравнению с базовой моделью. При этом отмечено снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%; модель может уступать базовой версии в задачах, требующих длинного контекста, сложного многошагового рассуждения и более широких общих знаний. Приведённые оценки получены в условиях инференса BF16 с Unsloth и vLLM и не гарантируют аналогичные результаты в других конфигурациях. Модель распространяется по лицензии Apache-2.0. README не содержит подробных требований к аппаратному обеспечению, точного размера контекстного окна и исчерпывающей информации о возможностях или ограничениях мультимодального ввода.
thread13/Qwen3.5-4B-llamafile — сборка модели Qwen3.5-4B в формате llamafile, разработанная автором репозитория thread13 на основе Qwen/Qwen3.5-4B. Это мультимодальная чат-модель для диалога с текстом и изображениями; её можно запускать как консольный чат или веб-сервер. Llamafile объединяет модель и исполняемые компоненты в один файл на базе llama.cpp. В карточке рекомендуются параметры контекста 16 384 токена для задач рассуждения и программирования в режиме thinking. Модель предназначена для ответов на вопросы по изображениям, обычного диалога, рассуждений и помощи с кодом. Указанный в карточке формат — GGUF BF16; размер модели — 4 млрд параметров. В README не приведена лицензия этой сборки. Веб-сервер по умолчанию пытается слушать все доступные сетевые интерфейсы; для локального доступа README рекомендует явно задавать 127.0.0.1.
Qwen3.6-27B-Seven — экспериментальная мультимодальная модель на 27 млрд параметров от независимой лаборатории Nightmedia. Это многоэтапное слияние NuSLERP нескольких моделей семейства Qwen и MusaCoder-27B; среди компонентов есть модели для диалогов, рассуждений, творческого письма и генерации GPU-ядер. Архитектура — плотная Qwen3.5ForConditionalGeneration, модель поддерживает чат, следование инструкциям и визуальные входы. В карточке указаны английский, китайский, японский и испанский языки, а метаданные заявляют контекст до 1 млн токенов. Модель подходит для диалогов, творческой генерации текста, задач рассуждения и кода, в том числе синтеза CUDA/MUSA-ядер по PyTorch-примерам. В README приведены отдельные результаты замеров perplexity и скорости для нескольких точностей, но не показаны метрики качества итогового слияния. Возможности самой модели для генерации изображений или других выходов не заявлены. Модель распространяется по лицензии Apache-2.0.
Qwen3.6-35B-A3B-Escha-W2 — это 2-битная квантизованная версия модели Qwen3.6-35B-A3B, разработанная Escha Labs Inc. Модель предназначена для генерации текста, программирования, рассуждений и диалоговых сценариев. Она использует архитектуру Mixture-of-Experts с 256 экспертами; эксперты квантизованы в 2–3 бита, а плотные слои представлены в int8. Размер модели на диске составляет 12,3 ГБ, заявлен поддерживаемый язык — английский. Длина контекста в README не указана. Модель ориентирована на локальный запуск через OpenAI-совместимый HTTP API. Для работы рекомендуется видеокарта с 24 ГБ VRAM, минимально заявлено 16 ГБ с ограничениями по параллельности и длине контекста. Поддерживаются NVIDIA GPU от Ampere до Blackwell на Linux x86-64; для Apple Silicon доступен отдельный runtime на базе MLX. В комплекте находятся квантизованные веса, токенизатор и конфигурация, а runtime вынесен в отдельный репозиторий. Среди заявленных результатов — pass@1 92,07 на HumanEval+, точность 61,75 на CRUXEval-O, 80,9 на MMLU-Pro, 93,8 на MATH-500 и 77,8 на GPQA-Diamond. Сильными сторонами являются высокая эффективность по объёму памяти и производительность на совместимом потребительском GPU, однако 2-битная квантизация может снижать качество относительно полноразмерных версий, а запуск требует подходящего оборудования и специализированного runtime. Лицензия — Apache-2.0.
Qwen3.6-35B-A3B-Fable-Holo3.1 — мультимодальная модель для диалогов и следования инструкциям, опубликованная Nightmedia. Это слияние Qwen3.6-35B-A3B, Qwen3.6-35B-A3B-Fable-5-Distill и Holo3.1-35B-A3B; архитектура относится к семейству Qwen3.5 MoE. Модель принимает текст и изображения и выдаёт текст. В карточке также описаны варианты для текстового режима, включая сборку с контекстом 1 млн токенов; эти сведения не подтверждают такую длину контекста для основного репозитория. Модель предназначена для мультимодальных диалогов, анализа изображений, рассуждений, задач STEM и программирования. Автор сообщает об улучшении perplexity, скорости и результатов на отдельных тестах после слияния, но не приводит полного описания методики и воспроизводимых сравнений. Модель распространяется под лицензией Apache-2.0.
Qwen 3.6 35B-A3B JANGTQ4 + CRACK — производная мультимодальная модель dealignai на основе Qwen/Qwen3-VL-30B-A3B-Thinking. Это модель Qwen с архитектурой MoE: 35 млрд параметров всего, около 3 млрд активных на токен, 256 маршрутизируемых экспертов и гибридным механизмом линейного и полноформатного внимания. Она принимает текст, изображения и видео и предназначена для диалога, визуального анализа, программирования, рассуждений и вызова инструментов. Веса сжаты форматом JANGTQ4 до 18 ГБ: маршрутизируемые эксперты используют 4-битное кодирование TurboQuant, а критичные компоненты сохраняют более высокую точность; зрительный блок работает в fp16. Режим рассуждений можно включать и отключать через шаблон чата. Заявленная длина контекста — 262 144 токена. Модель ориентирована на запуск через MLX на Apple Silicon и требует MLX Studio или jang-tools для поддержки JANGTQ. Вариант CRACK прошёл абляцию отказов на уровне весов и заметно реже отказывает в ответах на чувствительные запросы. По данным карточки, результаты MMLU-200 ниже базовой модели, особенно в математике; в режиме рассуждений иногда возможны циклические ответы на запросы с экстремальными отказами. Модель выпущена под лицензией Apache-2.0.
Qwen3.6-35B-A3B-MTP-Holo3-Qwopus-BF16 — мультимодальная модель семейства Qwen, опубликованная Nightmedia. Это объединение нескольких моделей, включая Hcompany/Holo3-35B-A3B, Qwen3.6-35B-A3B и варианты Qwopus; в карточке также упоминается MTP. Модель предназначена для диалогов и следования инструкциям, рассуждений, программирования и анализа изображений. Архитектура — Qwen3.5 MoE; в названии указан вариант BF16, а среди файловых форматов метаданные указывают safetensors. Карточка описывает шаблон управления режимом рассуждений, но не приводит длину контекста или независимую оценку качества. Метаданные указывают поддержку английского, китайского, японского и испанского языков. Лицензия — Apache-2.0. README содержит отдельные результаты для квантизованного варианта qx86-hi, которые не следует считать характеристиками этого BF16-репозитория. Модель может ошибаться, а приведённые в карточке оценки и хвалебный отзыв не являются независимой проверкой качества.
Карточка модели miss-t/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой lactroiii/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 — дообученная методом abliteration версия мультимодальной модели Qwen3.8-27B от Alibaba, опубликованная lactroiii. Это плотная модель на 27 млрд параметров в формате BF16 на базе архитектуры Qwen3.5; она принимает текст и изображения и генерирует текст. В README описана проверка на NVIDIA H200 через vLLM, включая работу с изображениями, режим рассуждений и вызов инструментов. Для обслуживания автор проверял контекст 16 384 токена и указывает, что базовое окно модели достигает 262 144 токенов. Модель предназначена для диалогов и инструкций, рассуждений, программирования, анализа изображений, вызова инструментов, творческого письма и исследований безопасности и выравнивания. Abliteration уменьшает склонность модели отказывать и делает ответы более прямыми; автор сообщает о сохранении связности ответов, но это не является независимой оценкой качества. Модель может выдавать опасный, незаконный или откровенный контент и не должна использоваться в сценариях высокого риска без внешних мер безопасности. Лицензия — Apache-2.0.
NikiKrutan/Qwen3.8-27B-MTP-GGUF — набор GGUF-квантований базовой модели Qwen/Qwen3.8-27B, подготовленный разработчиком NikiKrutan с использованием собственного инструмента niki-allocator. Метод распределяет тип квантования отдельно для каждого тензора и выбирает варианты на основе оценок и измерений KLD. Модель предназначена для локального запуска через llama.cpp и совместимых инструментов. Согласно README, модель ориентирована на диалоговые сценарии, программирование, reasoning, сложную логику и агентные задачи. Указаны поддержка английского и русского языков, а также мультиязычные сценарии для отдельных тестовых корпусов. В карточке присутствует тег image-text-to-text, однако конкретные сведения о визуальной архитектуре и фактических возможностях работы с изображениями не приведены. Размер базовой модели — 27B параметров; используется MTP, но точные варианты квантования, требования к памяти и размер контекста не указаны. К сильным сторонам относятся ориентированная на качество покомпонентная квантование, сравнение с несколькими альтернативными GGUF-сборками и оценка по KLD, RMS Δp, вероятности совпадения наиболее вероятного токена и perplexity на корпусах для кода, reasoning, агентных задач, мультиязычных текстов, научных и юридических материалов. Ограничения — отсутствие детальных численных результатов непосредственно в тексте README, неизвестные требования к ресурсам и отсутствие независимой оценки качества исходной модели. Лицензия Apache-2.0.
sasa2000/Qwen3-Swallow-8B-RL-v0.2-heretic — дообученная версия Qwen3-Swallow 8B RL v0.2 с ослабленным поведением отказа, подготовленная на основе abliteration. Базовая модель разработана проектом Swallow LLM; репозиторий содержит плотную причинно-языковую архитектуру Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для общения на японском и английском языках, перевода между ними, решения математических задач, программирования и рассуждений. В сравнении из карточки указано 31 отказ из 100 запросов против 97 у исходной модели; это описание теста отказов, а не оценка общей точности. Рекомендуемый автором предел контекста — 32 768 токенов или меньше. Работа с вызовом инструментов не была специально обучена и не валидирована, а отдельное переключение режима рассуждений не поддерживается. Модель распространяется по лицензии Apache-2.0. Авторы базовой модели отмечают, что семейство находится на раннем этапе разработки и не настроено для надёжного следования человеческим намерениям или требованиям безопасности; снижение частоты отказов также означает, что ответы требуют соответствующей проверки.
jakeatx выпустил экспериментальный компактный чекпойнт семейства Qwen3.8 Perian на архитектуре Qwen4ExpTextForCausalLM типа MoE. Модель предназначена для генерации текста в диалогах и многошаговых сценариях, включая рассуждения, код, работу с инструментами и поиск по контексту. Она содержит 3,6 млрд параметров и поддерживает контекст до 262 144 токенов. Это производный чекпойнт с упаковкой routed-expert весов в NVFP4 E2M1; таблица PLE n-грамм сохранена в BF16, остальные тензоры оставлены в исходной точности. По README, логический размер тензоров уменьшен на 43,26% относительно исходного чекпойнта. Карточка сообщает о проверках структуры, приближённого сохранения весов и генерации. Модель опубликована под лицензией Apache-2.0. В README указано требование установить включённый компактный runtime patch перед загрузкой; результаты проверки ограничены описанными в карточке тестами. Языковая специализация не заявлена.
Huangsssz/SmolLM3-3B-MOPD-Top64-GT-NoThinking-500 — исследовательский чекпойнт языковой модели, созданный дообучением BytedTsinghua-SIA на 500 шагах оптимизатора методом дистилляции по пересечению Top-64 токенов. Используется архитектура SmolLM3ForCausalLM: плотная модель на 3,1 млрд параметров; экспорт выполнен в BF16 для Transformers. Контекст модели — до 65 536 токенов. Модель предназначена для генерации текста в сценариях решения математических задач, программирования и следования инструкциям. При обучении ответы оценивали соответствующие специализированные учителя; генерация и оценивание выполнялись с отключённым режимом рассуждений. В README приведены результаты отдельных бенчмарков, включая math500, LiveCodeBench и IFBench; это измерения по фиксированному протоколу, а для AIME указано небольшое число вопросов, поэтому небольшие различия в оценках не подтверждают устойчивое улучшение. Чекпойнт включает токенизатор и исходный шаблон чата. Для инференса без рассуждений README рекомендует явно передавать enable_thinking=False. Модель распространяется по лицензии Apache-2.0; карточка указывает, что экспорт сохраняет конфигурацию базовой модели, включая настройки RoPE и поведение стоп-токенов.
duyntnet/Starling-LM-7B-beta-imatrix-GGUF — набор imatrix-квантизаций языковой модели Starling-LM-7B-beta, разработанной Nexusflow и опубликованной в формате GGUF. Модель предназначена для генерации текста, диалоговых сценариев и задач программирования; поддерживается английский язык. Это текстовая модель без заявленной поддержки других модальностей. Размер исходной модели — 7 млрд параметров, однако точный размер и тип каждой квантизации в README не указаны; сведения о длине контекста и базовой архитектуре отсутствуют. Модель рассчитана на одно- и многоходовые диалоги с использованием шаблона, совместимого с Openchat-3.5-0106, а также на режим программирования с отдельным шаблоном Code User/Code Assistant. Точное соблюдение шаблона важно для качества работы. Модель доступна для тестирования через LMSYS Chatbot Arena и может запускаться с использованием Transformers или совместимых инструментов для GGUF. К сильным сторонам относятся поддержка диалогов и генерации кода, а также наличие оптимизированных квантизированных вариантов для локального запуска. Ограничения включают возможную избыточную многословность в отдельных случаях и снижение качества при неправильном формате промпта; для уменьшения многословности рекомендуется temperature=0. Лицензия указана как other, без дополнительных условий в README, поэтому точные права и ограничения использования следует уточнять по источнику модели.
Это дообученная модель T5 Base от автора cahya, предназначенная для суммаризации текстов на индонезийском языке. В качестве основы использована модель huseinzol05/t5-base-bahasa-summarization-cased, а дообучение выполнено на наборе данных id_liputan6. Модель содержит 123,8 млн параметров, использует архитектуру T5ForConditionalGeneration и принимает текст, выдавая текстовое резюме. Контекст составляет до 1024 токенов. Репозиторий предоставляет веса в форматах PyTorch, TensorFlow и Flax. Лицензия в предоставленных данных не указана.