IV.5Образование и развитие навыков

Ornith-1.5-9B-MXFP4_Hybrid-Imatrix-GGUF — это квантизированная GGUF-сборка модели Ornith-1.5-9B, разработанной Ornith AI и опубликованной пользователем jashepp. Модель предназначена для генерации текста, диалоговых сценариев, агентного использования, работы с инструментами и особенно для программирования и редактирования кода. Она ориентирована на задачи, где важны следование инструкциям, планирование и пошаговое рассуждение; автор рекомендует сохранять режим reasoning/thinking включённым. Модель имеет размер 9B параметров и распространяется в нескольких вариантах смешанной точности с использованием MXFP4, Q8_0 и F16. В сборках применена importance matrix (imatrix), а точность распределена по слоям вручную: наиболее чувствительные компоненты и общие части модели сохраняются в более высокой точности, тогда как разреженные экспертные блоки сжимаются до MXFP4. Доступны файлы размером примерно от 4,77 до 11,4 ГБ. Заявлен английский язык; модель относится к текстовым генеративным моделям и основана на архитектуре и весах Ornith-1.5-9B. Сильными сторонами являются улучшенное следование инструкциям, рассуждение, агентные сценарии и сохранение качества при снижении требований к памяти благодаря гибридной квантизации. Ограничения включают компромисс между размером и качеством в разных вариантах, отсутствие в README сведений о длине контекста, поддерживаемых языках помимо английского и подробных количественных результатах. Модель распространяется по лицензии MIT.

ZynDwarf-1.1 — компактная текстовая языковая модель общего назначения, разработанная Zyn Models / itsZyn на основе Liquid AI LFM2.5-350M. Модель содержит около 354,5 млн параметров и предназначена прежде всего для локального запуска на CPU-ориентированном оборудовании, встраивания в локальные инструменты и использования в агентских системах. Модель ориентирована на повседневный диалог на испанском и английском языках, объяснение и генерацию кода, отладку, преобразование программ, лёгкое планирование, структурированный вывод, выбор инструментов и обработку результатов их работы. Она поддерживает сценарии с function calling и многошаговыми агентскими циклами, при этом выполнение инструментов и проверка их результатов остаются ответственностью внешнего приложения. Доступны форматы Transformers Safetensors, GGUF F16 и GGUF Q4_K_M, совместимые с Transformers, llama.cpp и Ollama. Архитектура модели — Lfm2ForCausalLM, тип lfm2. Архитектурный максимум контекста составляет 128 000 токенов, однако рекомендуемый рабочий контекст — 32 768 токенов, а максимальная длина обучающих последовательностей — 768 токенов. Модель поддерживает только текст и не имеет возможностей работы с изображениями или аудио. Её сильные стороны — малый размер, низкие требования к ресурсам, поддержка испанского и английского языков, программирования и структурированных агентских взаимодействий. Ограничения связаны с компактным масштабом: модель не позиционируется как крупная система рассуждений, исследовательская модель или замена значительно более мощным моделям; для надёжной работы агентов необходимы внешний runtime, валидация и контроль выполнения инструментов. Распространяется по лицензии Apache-2.0.

Apodex-1.1-mini-GGUF — GGUF-квантизированная версия reasoning-first модели Apodex 1.1, разработанной Apodex AI на базе Qwen/Qwen3.5-35B-A3B. Модель предназначена для сложных исследовательских задач с длительным горизонтом выполнения и агентных сценариев: поиска и анализа информации, подготовки отчётов, работы с файлами, наборами данных, электронными таблицами, изображениями, кодом и инструментами. Она может декомпозировать задачу, координировать параллельных субагентов, сохранять состояние, адаптировать план и учитывать обратную связь пользователя. Модель поддерживает текстовую генерацию и заявлена для английского и китайского языков. Для агентной работы предусмотрен нативный function calling, совместимый с шаблоном чата Qwen3.5; поддерживаются рассуждения и OpenAI-совместимые вызовы инструментов. Рекомендуемый максимальный контекст составляет 262144 токена, а максимальная длина генерации — 32768 токенов. В README также указана совместимость с запуском через llama.cpp и дополнительным мультимодальным проектором, однако полный перечень поддерживаемых модальностей и точные параметры GGUF-квантизации для данной карточки не раскрыты. Сильные стороны модели — ориентация на сквозное выполнение сложных задач, работа с внешними инструментами, командная агентная схема и встроенная проверка утверждений по источникам, данным и вычислениям. По приведённым результатам Apodex-1.1-mini особенно хорошо показывает себя в FrontierFinance и остаётся конкурентоспособной на APEX-Agent; при этом эти показатели зависят от Agent Team harness и не гарантируют аналогичное качество в каждом сценарии. Ограничения включают необходимость корректной настройки llama.cpp, парсеров шаблона и инструментов, а также отсутствие в README подробностей о размере файла, требованиях к аппаратному обеспечению и полной оценке надёжности. Лицензия — Apache 2.0.

GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.

Helion-V1.5 — диалоговая языковая модель, разработанная DeepXR и дообученная методом QLoRA на базе Meta Llama 2. Архитектура — плотная LlamaForCausalLM; базовая модель содержит около 7 млрд параметров, а адаптер LoRA — 67 млн. Модель принимает текст и генерирует текст, поддерживает диалоги и структурированные вызовы функций. Контекстное окно — 4096 токенов. Модель предназначена для следования инструкциям, многошаговых диалогов, генерации и объяснения кода, а также задач письма и анализа. В README приведены результаты тестов на диалог, следование инструкциям и генерацию кода; эти показатели зависят от тестового набора и условий оценки. Основной язык — английский, поддержка других языков ограничена. Модель распространяется по лицензии Apache 2.0. Известные ограничения: возможны фактические ошибки и галлюцинации, слабые результаты в сложных математических рассуждениях и временно-зависимых запросах; ответы на критичные вопросы следует проверять.

Qwen3.8-27B-PaoAI-ROCmFP4-STRIX-BALANCED-GGUF — это квантованная GGUF-версия модели Qwen3.8-27B, подготовленная сообществом PaoAI и предназначенная для запуска через llama.cpp. Разработчики подчёркивают, что проект не связан с Alibaba или командой Qwen. Модель ориентирована на генерацию текста, включая программирование, анализ кода и выполнение задач с длинным контекстом. Модель использует гибридную архитектуру с 48 слоями линейного внимания gated-delta и 16 слоями полного внимания. Размер файла составляет около 15,01 ГБ. Веса сжаты преимущественно в ROCmFP4 примерно до 4,5 бит на параметр, а отдельные чувствительные компоненты, включая нормы, draft head и некоторые представления, сохранены в более высокой точности. Поддерживается контекст до 256K токенов по заявлению авторов, при этом модель оптимизирована для AMD Strix Halo, включая Ryzen AI Max+ 395 с графикой gfx1151, и рассчитана на работу на iGPU без offload-флагов. В карточке указан английский язык. К сильным сторонам относятся небольшие требования к памяти для модели такого размера, встроенное speculative decoding, сохранение качества после квантования и высокая производительность на совместимом оборудовании. Измерения авторов показывают близкие к исходной F16-версии результаты на стандартном тексте и успешное выполнение представленных задач по анализу и написанию кода. Ограничения связаны с узкой аппаратной специализацией ROCmFP4 и Strix Halo, зависимостью от совместимого движка и тем, что заявленные показатели производительности и качества получены авторами сборки на ограниченном наборе тестов; математически квантование является lossy. Распространяется по лицензии Apache-2.0.

Ttimms/Spark-X2.5-4B-NVFP4 — это квантизированная 4-битная версия языковой модели XHToken/Spark-X2.5-4B, подготовленная Ttimms. Модель предназначена для генерации текста и кода, агентских сценариев и задач с длинным контекстом; заявленная поддержка языков — английский и китайский. Она совместима с Transformers и рассчитана на запуск через vLLM с внешним плагином Spark2_5, преимущественно на GPU NVIDIA Blackwell. Модель содержит около 4,1 млрд параметров и использует архитектуру Spark2_5ForCausalLM с гибридным вниманием, сочетающим скользящее и полное внимание, а также поэлементным выходным затвором внимания. Контекстное окно достигает 1 млн токенов. Применена квантизация весов NVFP4 W4A16 методом GPTQ с активациями bf16; отдельные компоненты сохранены в bf16. Размер модели на диске составляет около 2,7 ГиБ против 7,7 ГиБ у базовой bf16-версии, что снижает требования к памяти, но на SM120 выигрыш относится главным образом к занимаемому объёму, а не к скорости вычислений. По представленным оценкам, относительно базовой bf16-модели качество снизилось примерно на 4,3 процентного пункта в HumanEval-instruct и на 2,0 пункта в MBPP. GPTQ заметно сохраняет качество лучше, чем округление RTN, однако для максимального сохранения исходных характеристик рекомендуется FP8-версия базовой модели. Для запуска требуются vLLM, внешний плагин Spark2_5 и параметр trust_remote_code; заявлена поддержка tool calling. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V4.1-Flash-4bit-paged — квантизированная 4-битная версия модели DeepSeek-V4.1-Flash, разработанная GreenBitAI на базе сборки pipenetwork для MLX и Apple Silicon. Это языковая модель для генерации текста, включая работу с кодом, агентские сценарии и диалоги; поддерживает потоковую загрузку экспертных весов с диска и опциональное speculative decoding с помощью встроенной DSpark multi-token prediction head. Модель использует архитектуру mixture-of-experts с маршрутизируемыми экспертами и expert paging: резидентные веса занимают 10,48 GiB, а полный набор данных модели — около 406,10 GiB, включая experts.bin, engram-таблицы и черновую голову. Точные размеры исходной архитектуры, поддерживаемые языки и максимальная длина контекста в README не указаны. Доступна через библиотеку gbx-lm; при наличии достаточного объёма памяти может работать на штатном пути, а при нехватке ресурсов подгружает необходимые веса с диска. К сильным сторонам относятся сохранение логитов исходной модели при проверках, возможность работы с большими наборами весов на совместимых системах и ускорение генерации до 2,3 раза при включённой draft head, особенно на предсказуемом коде и длинном контексте. Ограничения включают очень высокие требования к дисковому пространству и памяти, зависимость от MLX, Apple Silicon и gbx-lm, а также то, что ускорение speculative decoding зависит от сценария. Лицензия — MIT; в README также указано, что лицензия исходной модели DeepSeek сохраняется.

GLM-4.6 от Zhipu AI представлен в репозитории Unsloth с исправлениями шаблона чата. Это диалоговая языковая модель семейства GLM-4 MoE с 23,4 млрд параметров, предназначенная для генерации текста и кода, рассуждений и агентных сценариев с вызовом инструментов. Модель принимает контекст до 202 752 токенов и поддерживает английский и китайский языки. По сравнению с GLM-4.5 в карточке отмечены улучшения в программировании, рассуждениях, работе с инструментами и поисковыми агентами, а также более естественный стиль письма. Репозиторий содержит веса safetensors; для запуска через llama.cpp README рекомендует использовать параметр --jinja. Лицензия — MIT.

GRM-2.6-Plus — дообученная OrionLLM мультимодальная модель на 27 млрд параметров на архитектуре Qwen3.6. Она предназначена для сложных задач общего назначения: рассуждений, программирования, диалога и агентных сценариев с использованием инструментов. Модель принимает текст и изображения и генерирует текст; метаданные указывают на поддержку чата и интерфейса вызова инструментов. Разработчик позиционирует модель как вариант для локального применения, ориентированный на структурированные рассуждения и практическую работу на подходящем потребительском или рабочем оборудовании. В README заявлены сильные стороны в решении сложных задач и генерации кода, однако приведённые бенчмарки опущены, поэтому эти заявления нельзя оценить по карточке. Модель распространяется в формате safetensors по лицензии Apache 2.0.

darkc0de/Muse-Glimmer-30B-heretic — версия Muse Glimmer-30B с ослабленным отказом на запросы, созданная с помощью Heretic v1.4.0. Исходная модель разработана Meta Superintelligence Lab; это плотная причинная трансформерная языковая модель примерно с 29,6 млрд параметров и отдельным энкодером восприятия. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Модель предназначена для диалогов и мультимодальных агентных сценариев: планирования, вызова инструментов, программирования, анализа изображений и документов, генерации синтетических данных и оценки ответов других моделей. Она принимает текст и изображения и выдаёт текст. В README указана обработка видео по отдельным кадрам, но модель специально для видео не оптимизирована; аудио не поддерживается. Сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных отсутствуют. В README приведено сравнение с исходной Muse Glimmer-30B: доля отказов составила 11 из 100 против 59 из 100 у оригинала, а KL-дивергенция — 0,0743. Модель может ошибаться в многошаговых рассуждениях, выдавать неточные, предвзятые или нежелательные ответы; качество может снижаться для языков, недостаточно представленных в оценке. Для агентных развёртываний рекомендуется дополнительная проверка безопасности и контроль действий.

NVIDIA Nemotron Parse v1.2 — модель NVIDIA для извлечения текста и структуры документов по изображению. Она предназначена для разбора PDF- и PPT-страниц, включая документы со сложной и изменчивой вёрсткой, и может использоваться в системах поиска и курирования документов, а также для подготовки данных и повышения точности приложений на базе LLM и VLM. Модель построена на архитектуре vision encoder–decoder: визуальный энкодер ViT-H, адаптер на 1D-свёртках и mBart-декодер из 10 блоков. По изображению RGB и текстовой инструкции она формирует текстовую строку со структурированными аннотациями: распознанным текстом, классами элементов и их ограничивающими рамками в естественном порядке чтения. Поддерживаются таблицы с выводом в форматах LaTeX, HTML, Markdown, JSON или CSV, а также настройка извлечения текста, встроенного в изображения. Размер модели — менее 1 млрд параметров; указанный диапазон разрешений входа — от 1024×1280 до 1664×2048 пикселей. Модель выделяет заголовки, разделы, подписи, сноски, списки, таблицы, библиографию и изображения, сохраняя их пространственное положение и порядок чтения. Для остановки повторяющихся фрагментов и структурирования табличного вывода доступны дополнительные обработчики логитов. README заявляет готовность к коммерческому применению; метаданные указывают лицензию other, а токенизатор распространяется по CC-BY-4.0, поэтому условия лицензии весов следует проверять отдельно. Для качества генерации в версии 1.2 требуется промпт с четырьмя категориями токенов; использование старого трёхтокенного промпта заметно ухудшает результат.

Qwen3.8-27B-IU4-Kairic-Edge — производительная квантованная версия Qwen3.8-27B, разработанная Kairic.ai для локального запуска на графических процессорах AMD Strix Halo с архитектурой gfx1151, включая Radeon 8060S. Модель предназначена для генерации текста и программного кода, а также для сценариев локального инференса с ускоренной обработкой промптов и многотокенной верификацией. Модель использует 27B-параметрическую языковую архитектуру Qwen3.8 и формат GGUF, а её вычислительный маршрут сочетает 4-битные активации и веса с нативными AMD IU4 matrix-инструкциями. Концепция Dual View объединяет авторитетное представление GGUF с тремя специализированными файлами-компаньонами Prompt Forge для отдельных фаз вычислений. Заявлена поддержка контекста размером до 256K токенов, prompt caching и native MTP4; сведения о языках в README не указаны. К сильным сторонам относятся высокая скорость генерации, ускоренная обработка промптов, существенное сокращение времени повторной обработки кэшируемых префиксов и результаты на тестах HumanEval. На воспроизведённой задаче структурированной генерации коэффициент принятия черновых токенов составил 99,73%, однако производительность зависит от совместимого оборудования и поддерживаемых форм вычислений. Для работы требуется специальная сборка Kairic Edge v1.2; стандартный llama.cpp не поддерживает необходимые sidecar-файлы и параметр --kairic-edge. Лицензия модели — Apache-2.0.

Trendyol LLM v1.0 Chat — диалоговая авторегрессионная языковая модель компании Trendyol на основе Mistral-7B. Модель содержит 7,2 млрд параметров, использует архитектуру Mistral и принимает текст, генерируя текст. Чат-версия дообучена с помощью LoRA на 180 тысячах наборов инструкций; в метаданных указан контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций, прежде всего на турецком и английском языках. Её можно использовать для генерации ответов и черновиков текста. Качество работы с разговорной речью и другими языками может быть ограничено; ответы могут содержать фактические ошибки и предвзятые или вредоносные формулировки, поэтому для важных сценариев нужна проверка человеком. Модель выпущена под лицензией Apache-2.0.

CrystalMistral — разговорная языковая модель на архитектуре Mistral-7B, разработчик — Crystalcareai. Модель дообучена на смесях Evol-Instruct, Airoboros, OpenOrca и синтетических данных GPT-4; в репозитории указаны веса Safetensors, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций, генерации и объяснения кода, а также свободной генерации текста. Карточка заявляет навыки рассуждения и работы с фактами, но не приводит независимых оценок качества или подробностей о языковом покрытии. Лицензия в доступных данных не указана.

Карточка модели dots-studio/dots.ocr.base на Hugging Face совпадает с карточкой dots-studio/dots.ocr, поэтому описание составлено по ней. dots.ocr — мультиязычная модель разбора документов от команды dots. Она объединяет распознавание текста и анализ структуры страницы в одной плотной vision-language архитектуре на 1,5 млрд параметров; метаданные указывают контекст длиной 131 072 токена. Модель принимает изображения страниц и может выдавать распознанный текст, порядок чтения и структурированные данные о расположении элементов, включая координаты и категории. В README заявлена поддержка документов на разных языках, а метаданные карточки отмечают английский и китайский. Модель предназначена для OCR и разбора страниц документов: определения макета, извлечения текста и обработки таблиц и формул. Она рассчитана на сценарии, где нужен единый этап распознавания и структурирования вместо цепочки отдельных моделей; для обработки PDF README рекомендует растрировать страницы с разрешением около 200 DPI. Указана лицензия MIT. Ограничения включают неточный разбор сложных таблиц и формул, отсутствие разбора содержимого изображений внутри документов и возможные сбои на страницах с высокой плотностью символов. Непрерывные специальные символы могут вызывать зацикливание вывода; модель также пока не оптимизирована для высокопроизводительной пакетной обработки больших объёмов PDF.

G9v3-39A5B-Q3Q4-GGUF — квантованная GGUF-версия причинной языковой модели с архитектурой Mixture-of-Experts от команды AI9Stars. Базовая модель G9v3-39A5B содержит около 39 млрд параметров, из которых при генерации активируется около 5 млрд на токен. Контекст составляет до 131 072 токенов; модель ориентирована на английский и китайский языки. Модель предназначена для диалогового помощника, программирования, работы с инструментами и задач рассуждения. В одном чекпойнте доступны режимы Think и No Think. Карточка описывает запуск локально и на одной видеокарте с 24 ГБ памяти; для GGUF-квантизации авторы отмечают, что варианту требуется уровень Q3 для полноценной работы, а сама модель не особенно хорошо поддаётся квантизации. Модель выпущена как предварительная версия. Ответы могут быть неточными, предвзятыми или небезопасными и требуют проверки, особенно в важных сценариях; поведение может меняться между версиями. Лицензия — Apache-2.0.

Карточка модели Ishowbackup/Gemma-4-E4B-it-qat-MXFP4-CRACK на Hugging Face совпадает с карточкой dealignai/Gemma-4-E4B-it-qat-MXFP4-CRACK, поэтому описание составлено по ней. Gemma 4 E4B-it QAT MXFP4 CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-e4b-it. Это плотная модель с гибридным скользящим и глобальным вниманием, дообученная с удалением отказов и квантизированная до 4-битного формата MXFP4. Она принимает текстовые запросы, изображения и аудио, а также предназначена для диалога, ответов на вопросы, многошаговых рассуждений и генерации кода; в метаданных также заявлен интерфейс вызова инструментов. В README автор сообщает о сохранении визуальных и аудиовходов, проверке генерации кода и снижении результата MMLU на 3,9 процентного пункта относительно базовой модели. Удаление отказов означает, что модель может выполнять вредоносные запросы; заявленные результаты HarmBench приведены автором и не являются независимой оценкой. Для запуска требуется Apple Silicon с достаточной объединённой памятью и vMLX с поддержкой Gemma 4. Лицензия — Gemma; автор публикует модель для исследовательских целей.

Карточка модели manaladan6/GLM-4.5-Air на Hugging Face совпадает с карточкой zai-org/GLM-4.5-Air, поэтому описание составлено по ней. GLM-4.5-Air — компактная гибридная модель серии GLM-4.5 от Zhipu AI, разработанная для интеллектуальных агентов. Она объединяет генерацию текста, рассуждение, программирование и работу с инструментами; поддерживает режим обдумывания для сложных запросов и вызовов инструментов, а также режим быстрого ответа. По карточке модели, у GLM-4.5-Air 106 млрд параметров, из которых активны 12 млрд. Метаданные Hugging Face указывают архитектуру GLM4 MoE, класс Glm4MoeForCausalLM, 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговых приложений, задач программирования и агентных сценариев с использованием инструментов. Она поддерживает английский и китайский языки и распространяется в формате Safetensors; библиотека Transformers указана как основная. Лицензия MIT разрешает коммерческое использование и дальнейшую разработку. Значения общего и активного числа параметров из README расходятся с числом параметров в метаданных, поэтому размер следует считать противоречивым.

LightOnOCR-2-1B-ocr-soup — объединённая версия модели LightOnOCR-2 от LightOnAI. Это плотная vision-language-модель семейства Mistral3 с 1 млрд параметров, предназначенная для преобразования страниц документов в текст с сохранением естественного порядка чтения. Она принимает изображения страниц, в том числе отрисованные из PDF, и подходит для распознавания сканов, таблиц, форм, научных статей и LaTeX. Вариант ocr-soup объединяет базовый чекпойнт с весами, обученными методом RLVR, с помощью слияния task arithmetic; авторы заявляют о более стабильной работе на сложных категориях документов. Для LightOnOCR-2 также заявлены улучшенное покрытие французских документов, arXiv и сканов, а также более чистая нормализация текста. Модель рассчитана на работу через Transformers, поддерживает визуальный ввод и диалоговый интерфейс; для использования требуется версия Transformers, установленная из исходного кода. В карточке приведены сравнительные заявления о скорости и результатах на OlmOCR-Bench, но подробности методики отнесены к статье. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Для подготовки PDF рекомендуется отрисовывать каждую страницу в PNG или JPEG с максимальной стороной около 1540 пикселей; качество может зависеть от рендеринга и сложности документа.

QuantTrio Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-AWQ — это AWQ-квантизированная версия модели Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2, разработанной на базе Qwen3.5-27B. Исходную дообученную модель создал Jackrong, а репозиторий квантизации поддерживается QuantTrio. Квантизация выполнена методом data-free, без калибровочного датасета, что позволяет уменьшить размер модели примерно до 21 GiB и снизить требования к памяти при инференсе. Модель ориентирована на задачи рассуждения, математику, текстовые задачи, логическую дедукцию, инструкции и программирование. По заявленным результатам, она сохраняет показатель 96,91% pass@1 на HumanEval, сокращает длину цепочки рассуждений примерно на 24% и обеспечивает на 31,6% больше корректных решений на токен по сравнению с базовой моделью. Для запуска рекомендуется vLLM с поддержкой AWQ, tool calls и reasoning parser; в README приведена конфигурация с контекстом до 32768 токенов и тензорным параллелизмом на двух GPU. Сильными сторонами являются экономичное рассуждение, высокая эффективность на задачах программирования и возможность использования в оптимизированном режиме инференса. Ограничения включают снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%, а также возможное ухудшение качества на задачах, требующих длинного контекста или сложного многошагового рассуждения. Языки и точный набор поддерживаемых модальностей в README не указаны; pipeline обозначен как image-text-to-text, но подробностей о мультимодальных возможностях нет. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-25 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B, разработанная RedHatAI. Это текстовая модель для генерации текста на основе архитектуры Qwen3_5MoeForCausalLM с разреженной смесью экспертов (MoE). Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для задач рассуждения, программирования и общего текстового вывода, включая развёртывание через vLLM с OpenAI-совместимым API. В слоях экспертов MoE применена смешанная квантизация NVFP4: веса и активации линейных операторов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Дополнительно выполнено 25-процентное REAP-прореживание экспертов. Это снижает требования к дисковому пространству и GPU-памяти квантизированных слоёв примерно на 75 процентов с учётом дополнительного выигрыша от разреженности. По данным оценки, модель сохранила высокое качество относительно неквантизированной версии: результат на GPQA Diamond составил 91,5 против 92,6 у исходной модели, а на DeepSWE v1.1 — 56,6, что соответствует заявленному восстановлению 98,81 и 100 процентов соответственно. Ограничения включают потенциальное влияние квантизации и прореживания на качество за пределами указанных тестов, а также высокие требования к инфраструктуре: рекомендован запуск с vLLM, tensor parallelism на 8 GPU и expert parallelism. Лицензия в README не указана.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель на базе Qwen 3.8 27B, дообученная и объединённая в рамках многоэтапного пайплайна Fable Fusion и COLD FUSION с использованием Unsloth. Разработчик позиционирует её как открытую модель для потребительского оборудования. Доступны обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит. В README заявлены поддержка английского и китайского языков, а также image-text-to-text как тип задачи, однако подробности мультимодальной архитектуры не указаны. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов, ролевых сценариев и других текстовых применений. Основной акцент сделан на сокращении объёма «размышлений» и ускорении генерации при сохранении детализации и качества ответов. Также заявлена ориентация на MTP и высокую производительность в задачах кодирования. По утверждению автора, модель превосходит базовые Qwen 3.8 27B и ряд других моделей в семи ключевых бенчмарках, включая ARC-C и ARC-E; независимое подтверждение этих результатов в предоставленных данных отсутствует. К сильным сторонам относятся сравнительно компактный размер для заявленного уровня возможностей, поддержка GGUF, наличие 4- и 8-битных вариантов, сниженное чрезмерное рассуждение и специализация на коде и творческой генерации. Ограничениями являются отсутствие точных данных о размере контекстного окна, параметрах мультимодальности, системных требованиях и реальной производительности на разных устройствах. Модель описывается как uncensored и abliterated, поэтому её поведение в вопросах безопасности может отличаться от исходной модели. Лицензия — Apache-2.0.

rubra-11b-h — диалоговая языковая модель на архитектуре Mistral, дообученная Sanjay920 на коде и разговорных данных. Она создана на основе mistralai/Mistral-7B-Instruct-v0.2 с целью улучшить рассуждения, сохранив способности исходной модели следовать инструкциям и вести диалог. Модель содержит 10,6 млрд параметров, использует формат весов safetensors и поддерживает контекст до 32 768 токенов; для чата применяются маркеры [INST] и [/INST]. Модель подходит для многошагового диалога, ответов на инструкции, рассуждений и генерации кода, а также для поиска сведений в длинном текстовом контексте. В README приведён пример успешного извлечения факта из документа длиной 14 334 токена, но это не гарантирует точность на других задачах. Модель всё ещё разрабатывается и не прошла выравнивание по безопасности, поэтому может выдавать предвзятые ответы. Лицензия — Apache-2.0.

Dolphin3.0-Qwen2.5-3b-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin3.0-Qwen2.5-3b. Исходную модель разработала команда cognitivecomputations, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, включая ответы на инструкции, задачи программирования, математики, function calling и агентские сценарии. Модель содержит около 3 миллиардов параметров и работает в текстовой модальности; в README указан английский язык. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q6_K и некоторые варианты IQ; запуск поддерживается через llama.cpp и LM Studio. Формат prompt использует шаблон ChatML с маркерами ролей system, user и assistant. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска на сравнительно доступном оборудовании и специализация на инструкциях, коде, математике и инструментальном взаимодействии. Ограничения включают небольшой размер модели по сравнению с крупными LLM, возможное снижение качества у сильнее сжатых вариантов, отсутствие в README данных о контекстном окне, мультиязычных возможностях и количественных результатах тестирования. Лицензия обозначена как qwen-research и связана с лицензией Qwen2.5; перед использованием следует проверить её условия для конкретного сценария.

Карточка модели chenqinyuluguan/NeoHorse-1-4B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-4B, поэтому описание составлено по ней. NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.

Карточка модели zendxx/NeoHorse-1-4B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-4B, поэтому описание составлено по ней. NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.

NeoHorse-1-9B-GGUF — это набор GGUF-квантизованных файлов модели NeoHorse-1-9B, разработанной TokenRhythm и распространяемой в этой сборке сообществом ngquocvinh. Модель представляет собой причинную языковую модель примерно на 9 млрд параметров, созданную на основе Qwen3.5-9B и предназначенную для текстовых агентских систем, использования инструментов, программирования, рассуждений и выполнения инструкций. В сборке применена библиотека llama.cpp и поддерживается текстовая генерация. Модель рассчитана на локальный запуск с разными уровнями квантизации. Размер файлов варьируется примерно от 1,97 до 9,53 ГБ; Q4_K_M указан как сбалансированный вариант, а Q5_K_M, Q6_K и Q8_0 обеспечивают большую точность при наличии достаточного объёма памяти. Согласно данным исходной карточки, базовая модель поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов, однако эти характеристики относятся к upstream-модели и могут зависеть от используемой конфигурации запуска. Сильными сторонами являются поддержка агентских сценариев, tool use, программирования и рассуждений, а также возможность локального запуска на совместимом оборудовании. Ограничения включают отсутствие vision-весов и поддержку только текста, а также потенциальное снижение качества на низких уровнях квантизации. Приведённые результаты оценки качества относятся к совпадению следующего токена с BF16-версией, а не напрямую к качеству решения задач; показатели исходной модели не являются результатами тестирования этих GGUF-файлов. Лицензия — Apache-2.0.

NuExtract-tiny — компактная языковая модель NuMind для извлечения структурированной информации из текста. Она основана на Qwen1.5-0.5B и дообучена на частном высококачественном синтетическом наборе данных. Модель принимает текст и JSON-шаблон с полями, которые нужно извлечь, и генерирует результат в заданной структуре. Архитектура — плотная Qwen2ForCausalLM; модель содержит 463,9 млн параметров, использует формат safetensors и имеет контекстное окно 32 768 токенов по метаданным. В README для извлечения рекомендуется передавать текст длиной менее 2 000 токенов. Модель рассчитана на извлечение фактов, сущностей и других заданных полей без перефразирования: согласно карточке, весь её текстовый вывод должен присутствовать в исходном тексте. Она показывает хорошие результаты без примеров, однако разработчик рекомендует дообучать её под конкретную задачу как минимум на 30 примерах. Карточка отмечает, что версия устарела. Лицензия — MIT.

OpenHermes-2.5-Code-290k-13B — полноразмерная дообученная модель ajibawa-2023 на базе Llama 2 от Meta. Она обучена на смеси OpenHermes-2.5 и набора Code-290k-ShareGPT, включающей синтетические диалоги и инструкции; карточка сообщает примерно о 1,29 млн разговоров в объединённом наборе. Модель предназначена для генерации кода и ответов в формате диалога, а также для написания историй, блогов и ответов на вопросы. Модель использует плотную архитектуру Llama с 12,9 млрд параметров и контекстом 4096 токенов. В метаданных указан английский язык; заявленная лицензия — Apache-2.0. Карточка описывает её как улучшенную для программирования, но не приводит примеров выходов, а результаты оценки в README представлены лишь частично, поэтому качество для конкретных задач следует проверять отдельно.