II.1Анализ требований и архитектура ПО

Tess-4-27B-GGUF — набор GGUF-квантизаций модели Tess-4-27B, разработанной Migel Tissera и построенной на базе Qwen/Qwen3.6-27B от команды Qwen. Это агентная модель с поддержкой рассуждений, которая адаптирует глубину рассуждения к сложности задачи. Модель предназначена для диалогов, программирования, рефакторинга кода, структурированного вывода, решения сложных задач и создания локальных AI-агентов. Модель имеет размер 27B параметров и поставляется в вариантах Q4_K_M, Q6_K и Q8_0 с размерами примерно от 16,5 до 28 ГБ. Основной формат — GGUF, ориентированный на локальный запуск через llama.cpp, LM Studio и Ollama. Для обработки изображений предусмотрен отдельный vision projector mmproj, что добавляет мультимодальный режим с поддержкой входных изображений. Также доступны MTP-головы для speculative decoding: они могут ускорять генерацию примерно в 1,5–2 раза на подходящих задачах без изменения результата. Используется шаблон чата семейства Qwen3.5 с выделенным блоком рассуждений, однако поддерживаемые языки и размер контекстного окна в карточке не указаны. Сильные стороны модели — агентный характер, масштабирование рассуждений по сложности, поддержка кода и структурированного вывода, локальная работа и мультимодальный режим при подключении projector. Ограничения связаны с высокими требованиями к оперативной памяти или VRAM, потерями точности при использовании более агрессивной квантизации и необходимостью современного runtime llama.cpp для распознавания архитектуры qwen35. Для запуска требуется выбрать подходящий вариант квантизации, а для изображений и ускорения — установить дополнительные файлы. Модель распространяется по лицензии Apache 2.0.

Arcee-Blitz — плотная языковая модель семейства Mistral с 23,4 млрд параметров, разработанная Arcee AI на базе Mistral-Small-24B-Instruct-2501. Модель дистиллировали на логитах DeepSeek-V3, затем дополнительно дообучили; она предназначена для диалогов и широкого круга задач генерации текста как практичная и эффективная рабочая модель. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке приведены результаты сравнительных тестов на MixEval, GPQADiamond и BigCodeBench Complete, где Arcee-Blitz превосходит указанную версию Mistral-Small-3; эти результаты не гарантируют качество на других задачах. Репозиторий распространяется по лицензии Apache-2.0.

DeepSeek-7B-1M — объединённая языковая модель автора yasserrmd, созданная линейным слиянием весов Qwen/Qwen2.5-7B-Instruct-1M и deepseek-ai/DeepSeek-R1-Distill-Qwen-7B с равными весами через LazyMergekit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Заявленная длина контекста составляет около 1,01 млн токенов; доступны веса в формате Safetensors. Модель можно применять для ответов на вопросы и ведения диалога, а также для задач, требующих работы с длинными текстами. Базовые модели дают ей сочетание инструктивного поведения Qwen2.5 и возможностей дистиллированной DeepSeek-R1 для многошаговых рассуждений, в том числе в математике и программировании. Карточка не указывает лицензию, поэтому условия использования по имеющимся данным описать нельзя.

Valiant Labs разработала Esper 4 — инструкционную модель для программирования, архитектуры систем, DevOps и MLOps на базе Gemma 4 12B. Это плотная мультимодальная модель семейства Gemma 4 с поддержкой изображений; метаданные указывают на архитектуру Gemma4UnifiedForConditionalGeneration и формат весов safetensors. Она предназначена для диалогового помощника и агентных сценариев, включая разработку и эксплуатацию ИИ-систем. Модель ориентирована на сложные запросы по коду, проектированию архитектуры и DevOps. В карточке отмечены примеры применения с Python, TypeScript, JavaScript, Java, C++, C#, Rust, Go, Haskell, Bash и PowerShell, а также Jenkins, Terraform, Ansible, Docker, Kubernetes, Helm, Grafana, Prometheus и облачными платформами Azure, AWS и GCP. Метаданные указывают английский язык; базовая модель также поддерживает работу с текстом, изображениями, видео и аудио, но карточка Esper отдельно подтверждает только поддержку изображений. Лицензия — Apache-2.0. Заявленные улучшения относятся к программированию, архитектуре и DevOps; независимые оценки качества и сведения о длине контекста в предоставленных данных отсутствуют.

AtomicChat/gemma-4-26B-A4B-it-assistant-GGUF — это GGUF-квантизированная версия модели Google Gemma 4 26B A4B It Assistant, подготовленная Atomic Chat на основе оригинальных весов google/gemma-4-26B-A4B-it-assistant. Модель предназначена для локального и полностью офлайн-использования в задачах генерации текста, диалоговых ассистентов, рассуждений, программирования, работы с математическими и визуальными задачами. Репозиторий содержит только текстовые варианты модели без vision projector. Модель имеет 25,2 млрд параметров, из которых 3,8 млрд активны на каждом токене, 30 слоёв и контекст до 256 тысяч токенов. Архитектура — decoder с гибридным вниманием: sliding-window attention с окном 1024 токена и глобальное внимание; используется 16 attention heads и 8 KV heads. Базовая модель поддерживает текст и изображения, однако данные GGUF рассчитаны только на текст. Доступны варианты квантизации Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; Q4_K_M указан как оптимальный баланс размера, скорости и качества. К сильным сторонам относятся высокая эффективность MoE-подобной конфигурации с малым числом активных параметров, большой контекст, возможности рассуждения и хорошие заявленные результаты в тестах по знаниям, математике, программированию и мультимодальным задачам. Результаты бенчмарков относятся к базовой модели Google, а не к независимым измерениям этих квантизированных файлов; качество также зависит от выбранного уровня квантизации. Для корректной работы требуется применять чат-шаблон Gemma 4 Assistant, например через поддержку jinja. Модель распространяется по лицензии Apache 2.0.

unsloth/gpt-oss-20b — открытая по весам языковая модель OpenAI из семейства gpt-oss, представленная в репозитории Unsloth и основанная на openai/gpt-oss-20b. Она предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и широкого спектра разработческих применений, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель использует архитектуру Mixture-of-Experts с 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Нативная квантование MXFP4 для MoE-слоёв позволяет запускать её примерно в пределах 16 ГБ памяти; модель ориентирована на меньшую задержку, локальное выполнение и специализированные сценарии по сравнению с gpt-oss-120b. Доступны настраиваемые уровни усилий рассуждения — низкий, средний и высокий, а также возможность дообучения. Для корректной работы необходимо использовать формат ответов harmony; применение модели в другом формате может приводить к некорректным результатам. Полная цепочка рассуждений доступна разработчику для отладки и анализа, но не предназначена для показа конечным пользователям. Модель является текстовой, сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Лицензия Apache 2.0 допускает свободное использование, модификацию, дообучение и коммерческое развёртывание с учётом условий лицензии.

K2-Horizon-7B-GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-7B, разработанной IFM. Это плотная decoder-only модель примерно на 7 млрд параметров, предназначенная для генерации текста, рассуждений, программирования, работы с длинным контекстом и использования инструментов. Модель поддерживает английский язык и относится к текстовым моделям без мультимодального или визуального входа. Исходная модель имеет нативное контекстное окно до 524 288 токенов (512K), что делает её подходящей для анализа больших документов и других задач с длинным контекстом. Доступны варианты квантизации Q4_0, Q4_K_M, Q4_K_M Selective, Q5_K_M, Q6_K и Q8_0 размером примерно от 5,34 до 9,57 ГБ. Вариант Selective сохраняет тензоры проекций внимания Q/K/V/O в формате Q6_K поверх базовой Q4_K_M. Для запуска требуется сборка llama.cpp с поддержкой архитектуры K2 Horizon, в частности форк MBZUAI-IFM до появления поддержки в upstream. Файлы содержат совместимый с llama.cpp шаблон чата; доступны форматы вызова инструментов xml, json и xml_typed. Ограничения включают зависимость от специализированного runtime, потребность в значительном объёме памяти при использовании контекста 512K и возможные потери качества из-за квантизации. Модель распространяется по лицензии Apache-2.0.

NVIDIA Llama 3.1 70B Instruct FP8 — квантованная до FP8 версия диалоговой языковой модели Meta Llama 3.1 70B Instruct. В README указано, что модель разработана не NVIDIA: веса и активации линейных операторов в блоках трансформера преобразованы в FP8 с помощью TensorRT Model Optimizer. Архитектура — авторегрессионный трансформер Llama 3.1 с 69,5 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и интерфейс для вызова инструментов. Модель предназначена для диалоговых ассистентов и генерации текста. FP8-квантование примерно вдвое сокращает требования к дисковому пространству и памяти GPU; в описанном тесте на H100 заявлено ускорение примерно в 1,5 раза. Для инференса указаны TensorRT-LLM и vLLM, совместимое оборудование включает NVIDIA Blackwell, Hopper и Lovelace. Лицензия — Llama 3.1; README сообщает о возможности коммерческого и некоммерческого использования. Следует учитывать условия лицензии Meta и ограничения исходной модели. Модель текстовая, поэтому она не принимает изображения, аудио или видео.

LongCat-2.0-INT8 — 8-битная версия крупной разреженной MoE-языковой модели LongCat-2.0, разработанная командой Meituan LongCat. Модель предназначена для генерации текста, понимания кода, редактирования репозиториев, автоматизированного выполнения задач и агентских рабочих процессов. В метаданных Hugging Face указаны 42,1 млрд параметров и контекст до 262 144 токенов; README базовой модели описывает архитектурные технологии LongCat Sparse Attention, N-gram Embedding и поддержку многотокенного предсказания.

MAI-DS-R1 — языковая модель рассуждений, разработанная командой Microsoft AI на основе DeepSeek-R1 и дополнительно обученная для повышения отзывчивости на ранее заблокированные темы и улучшения профиля рисков с сохранением возможностей рассуждения. По метаданным, это плотная модель семейства DeepSeek V3 с 37,6 млрд параметров; она использует библиотеку Transformers, поддерживает диалог и интерфейс вызова инструментов, а длина контекста составляет 163 840 токенов. Модель предназначена для генерации и понимания текста, ответов на общие вопросы, многошаговых рассуждений, решения математических и логических задач, а также помощи с программированием и научными задачами. В README указано, что при постобучении использовались 110 тысяч примеров безопасности и отказов из Tulu 3 SFT и около 350 тысяч внутренних многоязычных примеров по темам, связанным с предвзятостью. По результатам оценок, приведённым в карточке, модель сохранила общие способности DeepSeek-R1, чаще отвечает на ранее блокировавшиеся запросы и лучше снижает вредоносное содержание по сравнению с исходной R1. Модель может выдумывать факты, сохранять предвзятость исходной модели и реагировать на состязательные запросы; её знания ограничены тем же срезом, что и у DeepSeek-R1. Она не предназначена для медицинских, юридических, финансовых и других высокорисковых решений без проверки человеком. Лицензия — MIT.

Meta-Llama-3.1-8B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Meta Llama 3.1 8B Instruct. Исходную модель разработала Meta, а файлы в формате GGUF подготовил brittlewis12 с использованием llama.cpp и autogguf. Модель работает с текстом на входе и выходе; в метаданных указано, что поддерживается английский язык. Модель предназначена для диалоговых сценариев, генерации текста, следования инструкциям, рассуждений, решения математических задач, программирования и использования инструментов. Формат GGUF ориентирован на локальный запуск через совместимые приложения и llama.cpp, включая устройства Apple. В README также указаны улучшения для работы с длинным контекстом, однако точный размер контекстного окна не приведён. Ключевые достоинства — относительно небольшой размер 8B, возможность локального использования и хорошие результаты исходной модели на ряде тестов, включая HumanEval, GSM-8K, MMLU и API-Bank. Ограничения включают текстовую модальность, отсутствие сведений о конкретном типе и степени квантизации, а также возможное снижение точности по сравнению с полной версией из-за квантизации. Модель распространяется по лицензии Llama 3.1; применимые условия определяются лицензией Meta.

MaziyarPanahi/Mistral-7B-Instruct-v0.1-16k-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и NurtureAI/Mistral-7B-Instruct-v0.1-16k методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров для генерации текста и выполнения инструкций в диалоговом формате. Модель принимает текст и генерирует текст; максимальная длина контекста по метаданным — 32 768 токенов. Она подходит для диалогов, ответов на вопросы и работы с длинными текстовыми запросами. Лицензия — Apache-2.0.

Qwen2.5-7B-DeepSeek-R1-1M — объединённая плотная языковая модель на архитектуре Qwen2 с 7,1 млрд параметров. Её создал prithivMLmods методом TIES с помощью MergeKit, объединив DeepSeek-R1-Distill-Qwen-7B и Qwen2.5-7B-Instruct на базе Qwen2.5-7B-Instruct-1M. В репозитории веса представлены в формате safetensors; конфигурация слияния использует точность bfloat16. Модель предназначена для диалогов и генерации текста, включая ответы в стиле рассуждений. Заявленная длина контекста — до 1 010 000 токенов; модель работает через библиотеку Transformers. Она принимает текст и генерирует текст, а метаданные также отмечают интерфейс для вызова инструментов. Сведения о лицензии в предоставленных данных отсутствуют. Качество и поведение после слияния могут отличаться от исходных моделей; заявленная длина контекста не гарантирует одинаковую точность на всём объёме.

Valiant Labs разработала Esper 3 на базе Qwen3-4B и дообучила модель на данных для рассуждений о DevOps, архитектуре систем и программировании, сгенерированных с помощью DeepSeek R1. Модель предназначена для генерации кода, решения инженерных задач и диалогов; авторы также заявляют об улучшениях в общих и творческих рассуждениях. Она подходит для локального запуска на компьютерах и мобильных устройствах, а также для серверного инференса. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов; для диалога используется формат промптов Qwen 3, а авторы рекомендуют включать режим рассуждений. Модель обрабатывает текст и генерирует текст. В карточке заявлена поддержка английского языка; специализация — код, DevOps и архитектурные задачи. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Заявления о качестве и скорости приведены авторами; независимые оценки в карточке не описаны.

RobinsonLabs/Qwen3.5-REAP-262B-A17B-abliterated-GGUF — набор GGUF-квантизаций текстовой MoE-модели, опубликованный RobinsonLabs на основе OpenMOSE/Qwen3.5-REAP-262B-A17B. Базовая модель создана после pruning на 34% экспертов из Qwen3.5-397B-A17B: она содержит 262 млрд параметров, около 17 млрд активных на токен, 333 эксперта и выбирает 10 экспертов для каждого токена. Модель предназначена для генерации текста, рассуждений, программирования, математики, работы с фактами и выполнения инструкций. Архитектура qwen3_5_moe включает 60 декодерных слоёв: 45 слоёв с линейным вниманием DeltaNet и 15 слоёв с полным вниманием, а также скрытый размер 4096 и размерность головы 256. Заявлен нативный контекст до 262 144 токенов. Это только текстовый путь, без vision mmproj и MTP/NextN. Доступны варианты Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS, Q3_K_M, IQ3_M, IQ3_XS, IQ2_M, IQ2_XS и IQ2_XXS размером примерно от 69 до 186 ГБ; все варианты используют importance matrix. Модель подвергнута abliteration — снижению жёстких отказов на взрослом и творческом контенте с сохранением заявленных возможностей. По данным README, на проверочном наборе вредоносных запросов срабатывание отказов составило 1 из 25, способности оценены как сохранённые на уровне 5/5, а детские защитные ограничения сохранились в 10 из 10 случаев. Это не модель для содействия реальному правонарушению; результаты и поведение следует проверять самостоятельно, особенно у наиболее компактных IQ2-вариантов, поскольку они сильнее теряют точность. Лицензия — Apache-2.0.

Qwen3.6-27B-FP8 — открытая FP8-квантизированная версия модели Qwen3.6-27B, разработанная командой Qwen. Это каузальная языковая модель с vision encoder, представленная в формате Hugging Face Transformers и совместимая с Transformers, vLLM, SGLang и KTransformers. Модель предназначена прежде всего для агентного программирования, работы с frontend-задачами, анализа репозиториев и итеративной разработки с сохранением контекста рассуждений из предыдущих сообщений. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру с блоками Gated DeltaNet, Gated Attention и FFN. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Поддерживаются текстовые и визуальные входные данные благодаря vision encoder, однако перечень языков в README не указан. Квантизация выполнена методом fine-grained FP8 с размером блока 128; заявлено, что её показатели почти идентичны оригинальной модели. Сильными сторонами модели являются улучшенная работа с кодом, репозиториями и агентными сценариями, большой контекст и сниженные требования к памяти по сравнению с полноразмерными весами. Ограничения включают отсутствие в предоставленных данных подробностей о поддерживаемых языках, требованиях к оборудованию и результатах по общим задачам, а также возможные потери точности, типичные для квантизации, несмотря на заявленную близость к оригиналу. Модель распространяется по лицензии Apache-2.0.

Mungert/Qwen3.6-27B-GGUF — квантованное представление открытой модели Qwen3.6-27B, разработанной командой Qwen. Репозиторий содержит веса в формате GGUF, сгенерированные с помощью llama.cpp. Модель представляет собой каузальную языковую модель с vision encoder и предназначена для локального запуска и интеграции с совместимыми инструментами вывода. Основные сценарии применения — программирование, работа с интерфейсным кодом, анализ репозиториев и агентные задачи разработки. Модель также поддерживает обработку изображений благодаря мультимодальной архитектуре. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. В архитектуре используются Gated DeltaNet, Gated Attention и feed-forward блоки. Поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на реальные задачи разработки, работа с длинным контекстом и сочетание текстовых и визуальных входов. Ограничения, требования к конкретному уровню квантования и потреблению ресурсов для данного файла в README не приведены; характеристики зависят от выбранного GGUF-варианта и оборудования. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-35B-A3B-DSV4Pro-Thinking-Distill-GGUF — это GGUF-квантизированная версия рассуждающей модели, разработанной пользователем nerkyor на базе Qwen/Qwen3.6-35B-A3B от команды Qwen. Модель использует MoE-архитектуру с 35 млрд общих параметров и примерно 3 млрд активных параметров, а также дистилляцию в стиле ReAct, ориентированную на более быстрое и стабильное решение сложных задач. Репозиторий предназначен для локального запуска через llama.cpp и совместимые приложения, включая Lynn Agent и LM Studio. Модель подходит для текстовой генерации, сложного рассуждения, оркестрации и агентских сценариев. Доступна поддержка изображений через отдельный vision projector. GGUF-файлы содержат встроенную native MTP-голову для speculative decoding и, кроме вариантов Q8_0 и F16, используют imatrix-коррекцию. Предлагаются варианты от Q4_K_M примерно на 21 ГБ до F16 примерно на 69 ГБ; рекомендуемый баланс качества и требований к памяти — Q4_K_M, а для высокопроизводительных систем с 32 ГБ и более рекомендуется Q5_K_M. В примере запуска используется контекст 8192 токенов, но README не указывает предельный размер контекста модели. По приведённым тестам дистиллированная версия показывает 80,3% на GPQA-Diamond и сокращает время сквозной оркестрации в 2,3 раза относительно базовой модели при включённом reasoning. Native MTP даёт ускорение до 1,63 раза на Q8_0 в однопоточном тесте, однако выигрыш зависит от квантизации и снижается при высокой многопоточности. Ограничением является небольшое снижение результата MMLU относительно базы — 90,2% против 91,4%; также для запуска требуются значительные объёмы VRAM или unified memory. Модель распространяется по лицензии Apache-2.0.

Verkiki/Qwen3.8-27b-Fable5-Distill-Abliterated-GGUF — производная модель, созданная на основе Blackfrost-AI Qwen3.8-27B-ABLITERATED-BF16 с применением нативного LoRA-адаптера TeichAI Qwen3.8-27B-Fable-Distill-LoRA. Модель относится к архитектуре qwen3_5, имеет класс размера 27B и распространяется в формате GGUF с квантизацией IQ4_XS и importance matrix, рассчитанной после объединения компонентов. Она предназначена для локального использования в задачах планирования, программирования, многошагового рассуждения, технического анализа и агентских рабочих процессов, включая работу с инструментами и многофайловыми проектами. Fable5-Distill ориентирован на декомпозицию задач, удержание инструкций, последовательное планирование и более агентное поведение. Для родительской Fable-модели TeichAI заявлены улучшения на ARC Challenge, ARC Challenge Easy и BoolQ, однако эти результаты не являются измерениями именно финальной квантизированной сборки. Поддерживаются режимы thinking с параметрами reasoning_effort low, medium и xhigh; шаблон по умолчанию использует xhigh. Сочетание с аблитерированной базой должно снижать склонность к отказам, но итоговые поведение и качество следует оценивать отдельно. К ограничениям относятся отсутствие в предоставленных данных точного размера контекстного окна, перечня поддерживаемых языков и подтверждения мультимодальных возможностей, несмотря на соответствующие метки. IQ4_XS уменьшает требования к памяти по сравнению с BF16 и Q8, но может снижать точность относительно исходных весов. Модель распространяется по лицензии Apache-2.0.

filvyb/Qwen3.8-27B-heretic-ara-GGUF — это GGUF-квантизированная версия модели coder3101/Qwen3.8-27B-heretic-ara, основанной на Qwen3.8-27B. Модель предназначена для генерации и анализа текста, программирования, профессиональных и исследовательских задач, долгих многошаговых агентских сценариев, а также понимания изображений и видео. В карточке указана архитектура causal language model с vision encoder и 27 млрд параметров. Модель использует 64 слоя, архитектуру с комбинацией Gated DeltaNet и Gated Attention, поддерживает управляемый режим рассуждений и имеет нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. Она заявлена как мультимодальная модель для работы с текстом, изображениями и видео, однако сведения о поддерживаемых языках отсутствуют. Формат GGUF ориентирован на совместимое локальное инференс-развёртывание, но конкретные требования к памяти и варианты квантования в README не указаны. Ключевая особенность версии — abliteration, направленная на снижение частоты отказов: в приведённом сравнении модель отказалась выполнить 9 из 100 запросов против 92 из 100 у исходной Qwen3.8-27B, при KL-дивергенции 0,0349. Это может повысить полезность модели для сценариев, где требуется меньше ограничивающих отказов, но одновременно может ослаблять встроенные механизмы безопасного поведения. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-KTopt-GGUF — квантизированная GGUF-сборка базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем wiklif. Она предназначена для генерации текста, решения сложных вопросов, следования инструкциям, программирования и задач, требующих рассуждений, включая работу с длинным контекстом. Модель содержит около 27 млрд параметров, использует trellis-квантизацию типов KT и занимает примерно 10,31 ГБ, или около 3,06 бит на вес. Это текстовая модель без vision tower. На видеокарте с 16 ГБ памяти заявлена поддержка контекста от 160 тысяч до полного нативного объёма 262 тысячи токенов, а на 12 ГБ — примерно 64–96 тысяч токенов. В комплект входят опциональный EoRA-адаптер размером 32,4 МБ и drafter для speculative decoding. Сильная сторона модели — близкое к Q8_0 качество при значительно меньшем размере и пригодность для запуска на одной 16-ГБ видеокарте. На указанных тестах средний результат составил 86,7 против 87,5 у Q8_0; при ограничении вывода 64 тысяч токенов модель превзошла сопоставимую UD-IQ3_XXS на 2,8 процентного пункта. Для работы требуется специальная сборка lrozewicz/kt-llama-cpp с поддержкой KT-квантизации, VBR KV-кэша и DFlash2; модель не загружается в основной llama.cpp, LM Studio или Ollama. Лицензия — Apache-2.0.

OnlyTextLLMs/Qwen3.8-27B-OnlyText — текстовая причинно-следственная языковая модель, созданная на основе Qwen/Qwen3.8-27B: из исходной модели удалены компоненты обработки изображений и аудио, а текстовая часть и языковая голова сохранены. Это плотная архитектура Qwen3_5ForCausalLM; README указывает 27,32 млрд параметров, 64 слоя, размер скрытого состояния 5120 и сохранённую MTP-голову для чернового предсказания токенов. Метаданные указывают 22,3 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она принимает и выдаёт текст, без поддержки изображений и аудио. В карточке указан английский язык; языковые возможности унаследованы от базовой модели, но конкретный список языков в README не приведён. Модель выпущена по лицензии Apache-2.0. Она удаляет мультимодальные компоненты, но не добавляет нового обучения; точность и поведение зависят от возможностей исходной Qwen3.8-27B.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M — модель семейства Qwen3.8 с 27 млрд параметров, созданная на основе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Объединение весов и исходная модель относятся к DavidAU, а расширение контекста, квантизация и упаковка для NVIDIA Blackwell выполнены Solstice-AI. Модель предназначена для диалогов, программирования, агентной разработки ПО, решения задач с длинным контекстом и визуального анализа. Модель использует формат NVIDIA NVFP4 с 4-битным microscaling, гибридную архитектуру с блоками Gated Delta Recurrent Network и Grouped-Query Attention, а также Multi-Token Prediction для ускорения генерации. Заявлена поддержка текстово-визуального ввода, включая анализ схем, интерфейсов кода и видеокадров; для визуального режима поставляется компонент mmproj-BF16.gguf. Контекст расширен с 262 144 до 1 048 576 токенов с помощью YaRN. В карточке указаны английский и китайский языки, а также совместимость с инфраструктурой vLLM и SGLang на оборудовании NVIDIA Blackwell, включая B200, GB200 и RTX 5090. Среди заявленных сильных сторон — высокая скорость и эффективность на поддерживаемом оборудовании, большой контекст, возможности рассуждения, программирования и компьютерного управления. README приводит результаты внутренних или заявленных оценок, включая 61,7% на SWE-bench Pro, 90,3% на LiveCodeBench v6 и показатели ARC-C 735 и ARC-E 882; эти результаты следует интерпретировать с учетом условий тестирования и не считать независимой гарантией качества. Ограничения включают зависимость от NVFP4-совместимого оборудования и специализированной инфраструктуры, а также возможные потери качества из-за 4-битной квантизации и расширения контекста. Лицензия модели указана как Apache-2.0.

dealignai/Qwen3.8-27B-UNCENSORED-GGUF — это квантованная версия мультимодальной модели Qwen3.8-27B, разработанная Dealign.ai на базе Qwen. Модель распространяется в формате GGUF для llama.cpp и предназначена для генерации текста, программирования, многошагового рассуждения, анализа изображений и видео. Она поддерживает управляемый режим рассуждений с уровнями low, medium и xhigh, а также отключение рассуждений. Архитектура включает 64 слоя: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания; размер скрытого представления — 5120, контекст — до 262 тысяч токенов. Модель поддерживает английский и китайский языки. В каждый вариант GGUF включены native Multi-Token-Prediction head для speculative decoding и vision projector, необходимый для обработки изображений и видео. Доступны варианты от 2- до 8-битного квантования объёмом примерно от 10,5 до 29 ГБ; рекомендован Q4_K_M. Сильные стороны модели — сочетание текстовых, визуальных и видео-возможностей, большой контекст, сохранение способностей к рассуждению и программированию, а также поддержка ускоренной генерации через MTP. Ограничения связаны с потерями качества при более агрессивном квантовании и высокими требованиями к памяти. Это CRACK-abliterated модель с удалёнными отказами и сниженными защитными ограничениями, поэтому она может выполнять запросы, отклоняемые стандартной моделью; авторы позиционируют её для исследований и разрешённого red teaming. Лицензия — Apache-2.0.

Ring-2.6-1T — большая языковая модель компании InclusionAI для рассуждений и выполнения сложных многошаговых задач. В README заявлено триллион параметров, тогда как метаданные репозитория указывают 59 млрд; фактический размер по доступным сведениям определить однозначно нельзя. Метаданные описывают архитектуру как MoE на базе BailingMoE V2.5 и указывают формат safetensors с compressed-tensors; для запуска README упоминает поддержку BF16 и FP8 в SGLang. Модель предназначена для агентных сценариев: планирования шагов, вызова инструментов, продолжительных диалогов и автоматизации рабочих процессов. Среди заявленных применений — разработка ПО, научный анализ, сложные логические и математические задачи, а также корпоративная автоматизация. README сообщает о режимах интенсивности рассуждений high и xhigh и контексте 128K с расширением до 256K через YaRN; метаданные указывают нативный контекст 131072 токена. Карточка приводит результаты ряда бенчмарков, но они являются заявлениями разработчика. Метаданные подтверждают текстовую генерацию и возможность чата; конкретные языки не указаны. Лицензия репозитория — MIT.

Arcee-SuperNova-Medius — языковая модель на 14 млрд параметров, разработанная Arcee.ai на архитектуре Qwen2.5-14B-Instruct. Она создана методом дистилляции знаний моделей Qwen2.5-72B-Instruct и Llama-3.1-405B-Instruct с последующим объединением и дообучением на специализированном наборе инструкций EvolKit. Модель предназначена для диалогов и генерации текста: она следует инструкциям и справляется со сложными рассуждениями в компактном формате. Модель подходит для поддержки клиентов, создания контента и технических консультаций, включая помощь с программированием и документацией. Архитектура — плотная авторегрессионная Qwen2, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс вызова инструментов. Размер 14 млрд параметров рассчитан на более доступное развёртывание по сравнению с крупными моделями, хотя требуются значительные вычислительные ресурсы. Заявленные результаты бенчмарков указывают на сильное следование инструкциям и рассуждения, но не гарантируют качество в конкретном сценарии. Лицензия — Apache-2.0.

ThinkingCap-Qwen3.6-27B-AWQ-INT4 — квантизированная версия модели ThinkingCap: Qwen 3.6 27B, разработанной BottleCap AI на основе Qwen3.6-27B от команды Qwen. Модель дообучена с применением современных алгоритмов на тщательно отобранном наборе задач из разных областей и предназначена для рассуждений, ответов на вопросы, математики, программирования, многошагового диалога, соблюдения системных инструкций, безопасного поведения и агентских сценариев. Ключевая особенность модели — повышение эффективности рассуждений: по заявлению разработчиков, она использует в среднем на 50% меньше токенов рассуждения, а в лучших случаях сокращение превышает 90%, при сохранении исходного качества и стиля ответов Qwen. Калибровка выполнялась на задачах STEM и агентских сценариях. Указаны языки English, Chinese, Hindi, Arabic, Russian, Japanese, Korean, Dutch, French и Spanish. Размер файла модели составляет 20,97 ГБ. Архитектура и размер контекстного окна в README не указаны. Модель подходит для ресурсоэффективного решения сложных задач, где важны качество рассуждений, скорость и снижение расхода токенов. Ограничением является вариативность качества рассуждений при рекомендованной для Qwen температуре 1.0, поэтому разработчики оценивали модель с несколькими случайными сидами и статистической проверкой. Распространяется по лицензии Apache-2.0.

Trinity Mini GGUF — квантизированная версия модели Trinity-Mini, разработанная Arcee AI. Это открытая по весам языковая модель для генерации текста, ориентированная прежде всего на задачи рассуждения, а также на универсальные сценарии работы с инструкциями. Модель предназначена для запуска на платформах, использующих llama.cpp, включая LM Studio, а также доступна через API. Модель построена на архитектуре AfmoeForCausalLM и использует разреженную MoE-архитектуру: всего 26 млрд параметров, из которых 3 млрд активны при обработке токена. В составе 128 экспертов, 8 активных экспертов и 1 общий эксперт. Контекстное окно составляет 128 тысяч токенов. Модель обучена на 10 трлн токенов с дополнительным акцентом на математику и программный код. Заявлена поддержка английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. К сильным сторонам относятся сочетание крупного общего числа параметров с меньшим числом активных параметров, большой контекст и специализация на рассуждениях при сохранении универсальности. Ограничения включают необходимость совместимого программного обеспечения и аппаратных ресурсов для запуска, а также отсутствие в предоставленных данных подробных количественных результатов тестов и информации о мультимодальности; модель описана как текстовая. Распространяется по лицензии OpenMDW-1.1.

Yi-1.5-34B-Chat-16K — диалоговая языковая модель от 01.AI, основанная на архитектуре Llama и содержащая 33,9 млрд параметров. Она предназначена для генерации ответов в чате, следования инструкциям, понимания языка и чтения текстов; в семействе Yi-1.5 также заявлено улучшение навыков программирования, математики и рассуждений. Модель непрерывно предобучали на Yi на корпусе из 500 млрд токенов, а затем дообучили на 3 млн разнообразных примеров; для этой версии заявлен контекст до 16 384 токенов. Модель принимает и генерирует текст. README не уточняет список поддерживаемых естественных языков. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0. Практическое применение требует ресурсов, соответствующих модели с 33,9 млрд параметров; конкретные требования к оборудованию и сравнительные результаты для версии 16K в предоставленных данных не приведены.

Zen Pro — диалоговая языковая модель общего назначения, разработанная Hanzo AI и Zoo Labs Foundation на основе Qwen/Qwen3-8B. Это плотный авторегрессионный трансформер семейства Qwen3 с 7,6 млрд параметров, дообученный с обучением идентичности Hanzo, данными для агентных сценариев и abliteration. Модель предназначена для генерации текста, диалога, рассуждений и анализа; доступна через API Hanzo и в формате Transformers с весами safetensors. Модель принимает текст и генерирует текст. Контекстное окно составляет 40 960 токенов. В метаданных указан английский язык; базовая Qwen3-8B описана как многоязычная, но основным языком Zen Pro в карточке заявлен английский. Модель выпущена по лицензии Apache-2.0. Карточка отмечает, что чекпойнт архивирован и уступил место поколению zen5.