II.1Анализ требований и архитектура ПО

Qwen3-4B-Instruct-2507-GGUF — квантизированная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, включая диалоговые сценарии, ответы на вопросы, подготовку и преобразование текстов, а также другие задачи общего назначения. Вариант распространяется в формате GGUF и создан bartowski на основе llama.cpp release b6096; LM Studio выступает площадкой распространения, а не разработчиком модели. Модель содержит 4 миллиарда параметров и относится к текстовым autoregressive-моделям для text generation. Формат GGUF и поддержка llama.cpp упрощают локальный запуск и позволяют использовать её в совместимых инструментах, однако конкретные уровни квантования, размер контекста, поддерживаемые языки и дополнительные характеристики в README не указаны. К преимуществам относятся относительно компактный размер и возможность локального использования; ограничения включают возможное снижение точности из-за квантования, меньшие возможности по сравнению с более крупными моделями и типичные риски генерации неточной или неподходящей информации. Лицензия в предоставленных данных не указана.

Qwen3-4B-Instruct-2507-Q8_0-GGUF — это квантизированная версия модели Qwen3-4B-Instruct-2507, преобразованная в формат GGUF проектом ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и работы в диалоговых и инструкционных сценариях; запуск возможен через llama.cpp в режиме CLI или сервера, включая локальное развертывание. Из известных характеристик следует, что это модель размером 4B параметров с инструкционным назначением и квантованием Q8_0. README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекста, поэтому эти свойства нельзя достоверно уточнить. Формат GGUF и совместимость с llama.cpp удобны для локального запуска на различном оборудовании, однако конкретные требования к ресурсам и производительность зависят от используемой конфигурации. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled — мультимодальная плотная модель на 27 млрд параметров, созданная Jackrong дообучением Qwen/Qwen3.5-27B. По карточке, обучение методом SFT было направлено на структурированные рассуждения с использованием примеров, связанных с Claude-4.6 Opus; среди датасетов указаны наборы для reasoning. Модель принимает текст и изображения и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для сложных аналитических запросов, программирования, математики и сценариев coding-агентов. В README заявлены поддержка роли developer, сохранение режима рассуждений и более продолжительная автономная работа; эти характеристики представлены как результаты автора и сообщества. Модель может ошибаться в фактах, а карточка предупреждает о возможных проблемах совместимости интеграций и шаблонов, поскольку выпуск обозначен как preview. Репозиторий содержит веса safetensors; лицензия — Apache-2.0.

Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GPTQ-int4 — квантизированная версия модели Jackrong/Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled, основанная на Qwen3.5-35B-A3B. Модель предназначена для генерации текста, задач рассуждения и мультимодального понимания изображений с текстом. Указанные языки — английский и китайский. Это MoE-модель с 35 млрд общих параметров, из которых около 3 млрд активируются для каждого токена; используется 256 экспертов, 8 из которых активны одновременно. Квантование выполнено методом GPTQ в формате INT4 W4A16 с размером группы 128. Vision encoder и MTP-модуль сохранены без квантизации, поэтому модель поддерживает анализ изображений, хотя исходное дообучение было сосредоточено на текстовых задачах рассуждения. Для запуска в INT4 требуется примерно 22 ГБ видеопамяти; в примере конфигурации указан контекст до 4096 токенов. Сильные стороны модели — снижение требований к памяти благодаря INT4-квантизации, сохранение мультимодальных возможностей и высокая вычислительная эффективность MoE-архитектуры. Ограничения включают возможную потерю качества из-за квантизации и отсутствие подробных данных о фактических результатах, тренировочном наборе и полном наборе поддерживаемых возможностей. Модель распространяется по лицензии Apache 2.0.

Mojo24x7/Qwen3.6-35B-A3B-npuaware-rk3588-GGUF — это GGUF-квантизация модели Qwen3.6-35B-A3B, разработанная для ускорения на NPU Rockchip RK3588. Сборка использует backend RKNPU2 в rk-llama.cpp и предназначена для генерации текста, включая работу с документами, кодом, логами и другим длинным контекстом. Модель имеет гибридную архитектуру: 30 блоков Gated-DeltaNet/SSM, 10 полноценных attention-блоков и один MTP-блок. Указана поддержка английского языка. Размер файла Q35-npuaware.gguf составляет 14,89 GiB, средняя точность хранения — 3,60 бит на вес; заявленный контекст — до 32768 токенов. Ключевая особенность сборки — NPU-aware размещение весов: экспертные тензоры переведены в Q3_K и выполняются на CPU, тогда как основные attention- и SSM-проекции сохраняют NPU-совместимые типы Q4_0, Q8_0 и Q6_K. На Radxa ROCK 5B+ с RK3588 и 16 ГБ памяти заявлены показатели 20,4 токена/с для prefilling и 4,8 токена/с для decode, что превосходит сравниваемую квантизацию UD-IQ4_XS при меньшем размере файла. Для работы требуется специальная сборка rk-llama.cpp с backend RKNPU2 и корректными параметрами запуска. Модель особенно подходит для длинных одиночных запросов, но менее эффективна для продолжительных диалогов: из-за рекуррентной архитектуры последующие сообщения требуют повторной обработки большей части контекста. Поддержка 256 экспертов с выбором 8 экспертов на токен обеспечивает MoE-структуру; уменьшение числа активных экспертов до 4 ускоряет decode, но снижает качество. Лицензия — Apache-2.0.

Это квантованная публикация модели Qwen3.8-27B-Brainwaves-WFH-BF16 в формате GGUF от mradermacher. В репозитории приведены варианты квантования и дополнительные файлы mmproj для мультимодального использования; метаданные указывают размер формата BF16 и поддержку чата и следования инструкциям. Модель предназначена для генерации текста в диалогах и выполнения инструкций. Метаданные также описывают её как многоязычную и отмечают задачи программирования, математики, рассуждений и творческого письма. Для GGUF указана лицензия Apache-2.0. README не содержит сведений о точном контекстном окне или конкретных ограничениях качества.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, опубликованная HauhauCS. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Профиль Aggressive ориентирован на прямые ответы с минимальным вступлением и без поведения отказа; заявленные возможности базовой модели сохраняются без изменений в обучающих данных и общем назначении. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder и поддержкой мультимодального ввода через отдельный BF16-проектор. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Указана поддержка английского, китайского и других языков. Выпуск представлен в форматах GGUF с различными уровнями квантизации, включая специализированные K_P-кванты. К сильным сторонам относятся длинный контекст, мультимодальность, сохранённые встроенные механизмы MTP/NextN и ускорение HauhauCS FastMTP 32K. Заявлено ускорение генерации до 3,02 раза для документов и до 1,93 раза для задач рассуждения по сравнению с вариантами без MTP, однако эти показатели зависят от сценария и конфигурации. Агрессивный профиль может быть менее подходящим для надёжно контролируемых агентских задач, где предпочтительнее сбалансированная версия. Для работы с изображениями и видео требуется отдельный vision-проектор. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это квантованная версия Qwen3.8-27B, выпущенная HauhauCS в формате GGUF. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также анализа изображений и видео при использовании отдельного vision-проектора. Вариант Aggressive настроен на прямые ответы, минимальное вступление и отсутствие стандартного поведения отказа. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder, 64 слоями, размером скрытого состояния 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются языки English, Chinese и другие языки, заявленные как multilingual. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Встроенный NextN/MTP сохранён, а FastMTP добавляет отдельный профиль ускорения для контекста 32K и заявленное ускорение генерации. Сильные стороны модели — широкий контекст, текстовые и мультимодальные возможности, несколько вариантов квантования с разным соотношением качества и размера, а также ускорение speculative decoding через MTP. Ограничения включают отсутствие защитного поведения и отказов в Aggressive-режиме, что может быть нежелательно для надёжных агентских и критически важных сценариев; для них автор рекомендует Balanced-вариант, если он доступен. Для обработки изображений и видео требуется отдельный BF16 vision projector. Модель распространяется по лицензии Apache-2.0.

aquaduck/Qwen3.8-Flash-Next-GGUF — это квантизированная версия каузальной языковой модели Qwen3.8-Flash-Next, разработанной командой Qwen и Alibaba Cloud. Репозиторий поддерживается Aquaduck и содержит GGUF-представление UD-Q3_K_XL, а также пакеты слоёв для поэтапной или многонодовой загрузки. Это не дообученная модель и не новый запуск обучения, а упаковка и квантизация исходных весов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, в частности llama.cpp, а также staged loading через экосистему Aquaduck Arc. Заявлены мультиязычная поддержка, контекст до 262 144 токенов и около 180 млрд параметров. Архитектура включает 48 слоёв, GQA с 24 Q- и 2 KV-головами и скрытое измерение 2560. К преимуществам относятся большой контекст, мультиязычность, возможность локального запуска в формате GGUF и поддержка поэтапной загрузки для распределённых конфигураций. Ограничения связаны с крупным размером модели и снижением качества по сравнению с более точными версиями из-за квантизации UD-Q3_K_XL. Отдельные shard-файлы не являются полноценной моделью и не предназначены для прямого запуска в стандартном llama.cpp. Лицензия указана как other и наследуется от базовой модели; необходимо соблюдать условия лицензии и рекомендации исходной карточки модели.

Hagwell/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий Hagwell распространяет модель в формате, предназначенном для локального запуска. Модель основана на архитектуре, которая заявлена как фундамент для будущего Qwen4, и поддерживает обработку текста и изображений благодаря языковой модели с vision encoder. Модель предназначена для генерации и понимания текста, работы с изображениями, задач с длинным контекстом и агентных сценариев. Она имеет 125 млрд параметров, из которых активируется около 6 млрд, а также включает 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура содержит 48 слоёв, комбинацию Gated DeltaNet и Qwen Sparse Attention, MoE с 512 экспертами, из которых маршрутизируются 10 экспертов и один общий, а также механизмы Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. К сильным сторонам относятся высокая эффективность активации параметров, поддержка длинного контекста, оптимизация sparse attention на уровне блоков и возможность локального запуска через llama.cpp или Unsloth Desktop. Ограничения включают экспериментальный статус архитектуры, высокие требования к памяти для полной модели, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, подробных результатах тестирования и качестве на конкретных прикладных задачах. Модель распространяется по лицензии qwen-community-1.0; для использования следует ознакомиться с файлом LICENSE.

Qwen3.8-Flash-Next-IQ4_XS-GGUF — это квантизированная версия базовой модели Qwen/Qwen3.8-Flash-Next-FP8 в формате GGUF. Исходная модель разработана командой Qwen, а данный вариант подготовлен пользователем julianmb с использованием ROCmFPX и проверенного конвейера преобразования. Модель предназначена для генерации текста, включая повседневный диалог, программирование и работу с длинным контекстом. В репозитории представлены варианты квантизации IQ4_XS, включая статический файл размером около 116 GiB, imatrix-квантизацию M2 размером около 115 GiB и облегчённый PLE-вариант размером около 91 GiB. Для M2 заявлены 5,56 бит на вес и лучшее измеренное значение perplexity среди представленных вариантов; PLE-вариант уменьшает размер за счёт квантизации 51-миллиардной n-gram lookup table до iq4_nl. Также доступен отдельный MTP-файл Q8_0 размером около 3,9 GiB для ускоренной генерации в совместимых движках. Модель ориентирована на запуск на системах с 128 GiB унифицированной памяти, в частности на Strix Halo, через совместимые сборки llama.cpp и Vulkan. Заявлена работа с контекстом до 256k токенов при использовании SSD-PLE и специальных параметров запуска. Производительность зависит от варианта файла, глубины контекста, MTP и конкретного движка. Важное ограничение — PLE-вариант несовместим с некоторыми форками движков, которые не выполняют требуемую деквантизацию; в таких случаях рекомендуется статический вариант IQ4_XS или M2. Сведения о поддерживаемых языках и точной архитектуре в README не указаны. Лицензия обозначена как qwen-community-license-1.0.

Это GGUF-квантизованная версия Qwen3-Next-80B-A3B-Instruct — инструкционной текстовой модели, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговых и прикладных сценариях, где требуется запуск через совместимые локальные инструменты, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Доступны варианты квантизации от Q8_0 до Q3_K и IQ3/IQ4, с размером файлов примерно от 36,6 до 84,8 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие позволяют снизить требования к оперативной памяти за счёт большей потери качества. Для работы необходимо использовать указанный шаблон промпта с ролями system, user и assistant. Архитектура, максимальный контекст, поддерживаемые языки и дополнительные модальности в README не указаны. К сильным сторонам относятся широкий выбор уровней квантизации, поддержка распространённого формата GGUF и возможность локального запуска в нескольких приложениях. Ограничениями являются значительный объём файлов и неизбежный компромисс между качеством и экономией памяти при выборе низкобитных вариантов; совместимость с отдельными инструментами может зависеть от их обновления. Модель распространяется по лицензии Apache 2.0.

Карточка модели TreezzZ/r2s-scienceworld-qwen3.5-4b-student на Hugging Face совпадает с карточкой Qwen/Qwen3.5-4B, поэтому описание составлено по ней. Qwen3.5-4B — мультимодальная модель компании Qwen на 4 млрд параметров, представленная в формате Hugging Face Transformers и дообученная на базе Qwen/Qwen3.5-4B-Base. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, анализа изображений, рассуждений, программирования и вызова инструментов. Модель использует гибридную архитектуру Gated Delta Networks и gated attention; в README указано 32 слоя. Нативная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. По умолчанию модель работает в режиме рассуждения, а для развёртывания доступны Transformers, vLLM, SGLang и KTransformers. Модель подходит для ответов на вопросы по изображениям и тексту, многошаговых диалогов и агентных сценариев с инструментами. Репозиторий распространяется по лицензии Apache-2.0. Реальная скорость и пропускная способность зависят от среды инференса; длинный контекст может приводить к нехватке видеопамяти.

RavenXAiLabs-Chaos-Agent-Qwen3.8-27B-Frontier-Intelligence-Injected-OBLITERATED-MLX — языковая модель от RavenX AI Labs, построенная на базе OBLITERATUS/Qwen3.8-27B-OBLITERATED и представленная в формате MLX для Apple Silicon. По данным карточки, модель обучалась на 1,9 млн примеров с использованием proprietary-метода Soul Injection и ориентирована на текстовую генерацию, рассуждения, программирование, агентские сценарии и анализ кибербезопасности. Заявлены поддержка английского языка, размер 27B параметров и MLX-квантизация 4-bit; размер файла составляет около 14 ГБ. Данные о размере контекстного окна и дополнительных модальностях не указаны. Основные сценарии применения включают анализ уязвимостей, red-team и bug bounty, сопоставление с MITRE ATT&CK, генерацию кода на Python, Rust, JavaScript, C, Solidity и Go, разработку и аудит smart contracts, торговый и DeFi-анализ, математическое и техническое рассуждение, творческое письмо, а также tool calling и оркестрацию нескольких инструментов. Среди заявленных сильных сторон — объединение навыков программирования, security-анализа и агентского поведения в одной модели, поддержка структурированных вызовов функций и MCP-совместимых форматов. Ограничения включают отсутствие независимого подтверждения заявленных benchmark-результатов, отсутствие описания методики оценки и заявленные zero refusals, что может повышать риски при использовании модели для опасных или несанкционированных действий. Лицензия указана как Apache-2.0.

Salience 1 (9B) — плотная мультимодальная модель Vection Labs на архитектуре Qwen3-VL с языковой частью Qwen3-8B и встроенным визуальным энкодером. Она принимает текст, изображения и видео и генерирует текст; заявленное окно контекста достигает 1 млн токенов. Модель рассчитана на техническую помощь, программирование и исследовательские задачи. Основные сценарии — генерация, объяснение, отладка и проверка кода, работа кодовых агентов с инструментами, пошаговые математические рассуждения, визуальные вопросы и анализ документов, диаграмм, графиков и коротких видеороликов. В README заявлены поддержка длинного контекста и режимы управления глубиной рассуждения. Указан английский язык. Модель может уверенно выдавать неверные факты и решения, а сгенерированный код может быть ошибочным или небезопасным. Длинные контексты и видеоролики повышают задержку и расход памяти; аудио не поддерживается. Для модели указана лицензия Apache-2.0.

Signal 3.8 27B — дообученная AgentionAI мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, предназначенная для более краткой и быстрой генерации ответов. По данным разработчика, при сохранении качества на их проверочных наборах модель сокращала число токенов в ответах и рассуждениях; после обновления весов 13 сентября 2026 года эти показатели ещё не были повторно измерены. Изменена только матрица выходного слоя lm_head, остальные веса, включая vision encoder, проектор и MTP draft head, совпадают с Qwen/Qwen3.8-27B. Модель поддерживает диалог, анализ изображений и интерфейс вызова инструментов. Её можно использовать для лаконичных ответов на вопросы, программирования, рассуждений и задач с изображениями; автор приводит настройки запуска с контекстом до 65 536 токенов. Для стабильной краткой генерации рекомендуются параметры семплирования и кэширования, указанные в карточке модели. Модель распространяется в формате BF16 через Transformers и совместима с vLLM, SGLang и конвейерами квантизации. Лицензия — Apache-2.0. Приведённые сравнения качества и скорости относятся к конкретным тестам разработчика; измерения токеновой экономии для обновлённых весов ещё не завершены.

Skywork o1 Open-Llama-3.1-8B — разговорная языковая модель команды Skywork компании Kunlun Inc., дообученная на базе Meta-Llama-3.1-8B-Instruct с данными для пошагового рассуждения. Это плотная причинно-следственная модель семейства Llama с 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов и решения задач, требующих рассуждений: математических и логических задач, планирования, самопроверки, вопросов на здравый смысл, а также задач программирования. Разработчики описывают трёхэтапное обучение, включающее обучение рефлексивным рассуждениям, обучение с подкреплением и планирование; заявленные улучшения основаны на результатах бенчмарков, приведённых в карточке модели. Модель распространяется в формате safetensors. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует проверять в лицензии репозитория. Разработчики предупреждают о возможных непредсказуемых рисках и просят не развёртывать модель в интернет-сервисах без соответствующей проверки безопасности.

Spark-X2.5-4B-GGUF — это GGUF-квантизированная версия модели Spark-X2.5-4B, разработанной XHToken. Квантизацию выполнил stornic56 с использованием imatrix и форка llama.cpp на базе коммита b10514-4a3635c32; начиная с версии llama.cpp b10828 архитектура spark2_5 поддерживается в основном репозитории. Модель содержит около 4,11 млрд параметров, принимает текстовые данные и поддерживает английский и китайский языки. Модель предназначена для генерации текста в диалоговых и прикладных сценариях, включая рассуждения и thinking-режим, а также вызов инструментов. Шаблон чата встроен в каждый GGUF-файл и поддерживает автоматическое применение через --jinja. По умолчанию рассуждения выводятся внутри тегов <think>...</think> перед итоговым ответом. Доступны варианты от BF16 до низкобитных Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_NL, Q3_K_M, IQ3_M и IQ2_M; вариант Q4_K_M рекомендован как компромисс между размером и качеством. К сильным сторонам относятся широкий выбор квантизаций, поддержка imatrix и возможность запуска через llama.cpp, включая ускорение на Intel Arc с Vulkan. IQ2_M сохраняет работоспособность в расширенном тесте связности, тогда как Q2_K был исключён из выпуска из-за циклов повторения; варианты ниже IQ2_M не создавались из-за ожидаемой существенной потери качества. Максимальная длина контекста в README не указана, поэтому параметры запуска с 8192 или 16384 токенами нельзя считать подтверждённым ограничением модели. Распространение осуществляется по лицензии Apache-2.0.

LeroyDyer разработал эту дообученную модель семейства Mistral на основе LeroyDyer/Mixtral_AI_CyberTron_DeepMind_III. Это языковая модель с 7,1 млрд параметров для генерации текста; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и выполнения инструкций, включая помощь с программированием, анализом текста, извлечением сущностей, расчётами и генерацией идей. В карточке также заявлены сценарии консультативного общения и работа с медицинской информацией, однако результаты таких применений не подтверждены приведёнными оценками. Обучающие данные включают наборы для кода, диалогов, математики, преобразования текста в SQL и английского и суахили. Автор описывает модель как разговорную, способную использовать историю диалога и выдавать разнообразные ответы; приведены результаты Open LLM Leaderboard, но не полная таблица. Практическая точность и надёжность заявленных специализированных возможностей могут зависеть от формулировки запроса. Модель принимает текст и генерирует текст.

Surge-V1.1-2x0.8B — компактная разреженная модель класса Mixture-of-Experts от Junhauwong, представленная как модель для локального инференса. По карточке она использует два специализированных экспертных пути по 0,8 млрд параметров; метаданные указывают семейство Qwen3.5 MoE и архитектуру для генерации текста. Модель поддерживает диалоговый режим и предназначена для рассуждений, программирования, математических задач и сценариев с подключёнными инструментами. Её можно применять для пошаговых объяснений, планирования, написания и отладки кода, решения арифметических и алгебраических задач, а также автоматизации через внешние API и другие инструменты. В карточке приведён пример запуска через Transformers; лицензия в метаданных — Apache-2.0. Автор отмечает компактность модели и возможность локального запуска, но не приводит подтверждённых результатов бенчмарков.

T3Q-qwen2.5-14b-v1.0-e3 — дообученная модель на основе Qwen/Qwen2.5-14B-Instruct-1M, опубликованная разработчиком JungZoona. Это плотная языковая модель с архитектурой Qwen2ForCausalLM и 14 млрд параметров, предназначенная для диалогов и генерации текста. Модель рассчитана на контекст длиной до 1,01 млн токенов и работает через библиотеку Transformers. В README указано, что модель прошла постобучение с LoRA на train_data_v1.0. Метаданные заявляют поддержку чата и интерфейса вызова инструментов; модель может применяться для длинных диалогов и анализа больших текстовых контекстов. В карточке сообщается о первом месте среди моделей до 32 млрд параметров в Global Open LLM Leaderboard, однако подробности оценки не приведены. Поддерживаемые языки по метаданным — английский и корейский. Модель распространяется по лицензии Apache-2.0. README сообщает о выпуске более новой версии T3Q-qwen2.5-14b-v1.2-e2 от 14 марта 2025 года, поэтому v1.0-e3 может быть устаревшей относительно неё.

Terminus-Qwen3-8b-i1-GGUF — это квантизированная версия языковой модели Terminus-Qwen3-8b, разработанной OrionLLM и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась на наборе данных OrionLLM/OpenAgentInstruct и ориентирована на генерацию текста, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Модель относится к текстовым Transformer-моделям и содержит около 8 млрд параметров. В README указан английский язык, поддержка мультимодальности и размер контекстного окна не заявлены. Репозиторий предоставляет варианты квантизации i1 от IQ1_S до Q6_K с размером файлов примерно от 2,2 до 6,8 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти; при этом низкие уровни квантизации могут заметно снижать качество. В качестве компромисса между размером, скоростью и качеством рекомендован вариант i1-Q4_K_M. Модель подходит для локального запуска в совместимых инструментах, поддерживающих GGUF, особенно для текстовых ассистентов и агентских рабочих процессов. Ограничениями являются заявленная ориентация на английский язык, отсутствие сведений о контекстном окне и неравномерное качество разных вариантов квантизации. Указанная лицензия — Apache-2.0.

YAYI2-30B — базовая версия мультиязычной большой языковой модели, разработанной компанией Wenge Technology (中科闻歌). Модель построена на архитектуре Transformer с плотной причинно-языковой архитектурой YayiForCausalLM и содержит 36,3 млрд параметров по метаданным; в README масштаб обозначен как 30B. Она предварительно обучена на 2,65 трлн токенов качественных многоязычных данных. Контекст — до 4096 токенов. Модель предназначена для генерации текста и может служить основой для прикладных решений, включая понимание языка, ответы на вопросы, математические и логические рассуждения, а также генерацию кода. В README упомянуты дообучение на инструкциях и RLHF для семейства YAYI 2, однако этот выпуск обозначен как Base-модель. Репозиторий содержит веса PyTorch. Для запуска BF16/FP16 требуется не менее 80 ГБ видеопамяти; README рекомендует Python 3.8+, PyTorch 2.0.1+ и CUDA 11.7+. Лицензия указана как other, поэтому условия использования следует сверить с файлами лицензии репозитория. Описание не устанавливает точный перечень поддерживаемых языков.

Yi-34B — большая языковая модель, разработанная 01.AI и обученная с нуля на многоязычном корпусе объёмом 3 трлн токенов. Это базовая, не чатовая версия модели: она предназначена для генерации текста и может использоваться как основа для последующего дообучения и прикладных систем. Модель имеет плотную архитектуру Transformer, совместимую по структуре с Llama, но, согласно карточке, не использует веса Llama и не является её производной. Размер — 33,9 млрд параметров, родная длина контекста — 4096 токенов. Основные языки — китайский и английский; карточка описывает способности к пониманию языка, рассуждениям здравого смысла и чтению с пониманием. Для запуска доступны веса PyTorch и Safetensors. Модель требует значительных вычислительных ресурсов; в README для локального запуска Yi-34B-Chat приводится пример с ускорителем A800 на 80 ГБ. Лицензия — Apache 2.0.

YOYO-O1-14B-V2 — языковая модель, созданная YOYO-AI слиянием нескольких моделей Qwen2 с помощью метода SCE. В слияние вошли модели для программирования, логических задач, творческого письма и диалогового общения; базовой моделью служила arcee-ai/Virtuoso-Small-v2. Модель содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге, помощи с программированием, решения логических и STEM-задач, а также творческого письма. Карточка указывает интерфейс вызова инструментов. В метаданных заявлены английский и китайский языки. Репозиторий использует формат safetensors, лицензия — Apache-2.0. Сравнительных оценок качества и подробных результатов тестирования в карточке нет.

ZynDwarf-1.1 — компактная текстовая языковая модель общего назначения, разработанная Zyn Models / itsZyn на основе Liquid AI LFM2.5-350M. Модель содержит около 354,5 млн параметров и предназначена прежде всего для локального запуска на CPU-ориентированном оборудовании, встраивания в локальные инструменты и использования в агентских системах. Модель ориентирована на повседневный диалог на испанском и английском языках, объяснение и генерацию кода, отладку, преобразование программ, лёгкое планирование, структурированный вывод, выбор инструментов и обработку результатов их работы. Она поддерживает сценарии с function calling и многошаговыми агентскими циклами, при этом выполнение инструментов и проверка их результатов остаются ответственностью внешнего приложения. Доступны форматы Transformers Safetensors, GGUF F16 и GGUF Q4_K_M, совместимые с Transformers, llama.cpp и Ollama. Архитектура модели — Lfm2ForCausalLM, тип lfm2. Архитектурный максимум контекста составляет 128 000 токенов, однако рекомендуемый рабочий контекст — 32 768 токенов, а максимальная длина обучающих последовательностей — 768 токенов. Модель поддерживает только текст и не имеет возможностей работы с изображениями или аудио. Её сильные стороны — малый размер, низкие требования к ресурсам, поддержка испанского и английского языков, программирования и структурированных агентских взаимодействий. Ограничения связаны с компактным масштабом: модель не позиционируется как крупная система рассуждений, исследовательская модель или замена значительно более мощным моделям; для надёжной работы агентов необходимы внешний runtime, валидация и контроль выполнения инструментов. Распространяется по лицензии Apache-2.0.

Модель latent-artist/66c200392ff148279a5995ef1455d3de — инструктивно дообученная авторегрессионная языковая модель для генерации текста и диалогов. Она построена на архитектуре Qwen2 и содержит около 1,54 млрд параметров, включая 1,31 млрд параметров без учёта эмбеддингов. Модель разработана автором репозитория latent-artist. Модель предназначена для ответов на инструкции и общения в формате чата. Архитектура включает 28 слоёв, rotary position embeddings, групповой запрос внимания с 12 query heads и 2 key/value heads, RMS-нормализацию и gated feed-forward слои. Длина контекста составляет 32 768 токенов, генерация поддерживает до 8 192 токенов. README заявляет многоязычную генерацию текста; в метаданных указан английский язык. Для загрузки требуется актуальная версия Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Модель поддерживает чатовый интерфейс и интерфейс вызова инструментов. Карточка не приводит оценок качества или конкретных ограничений применимости; как языковая модель, её ответы требуют проверки на точность и уместность.

Axeron Forge — объединённая модель генерации текста, созданная TuralBayev с помощью инструмента forgelm. В основе лежит Qwen/Qwen2.5-3B; методом Task Arithmetic объединены веса Qwen2.5-Coder-3B-Instruct и Qwen2.5-3B-Instruct с базовой моделью. Это плотная авторегрессионная модель архитектуры Qwen2 с 3,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; наличие компонентов Instruct и Coder позволяет использовать её для вопросов и ответов, помощи с кодом и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов, однако карточка не содержит оценок качества или примеров, подтверждающих надёжность этой возможности. Лицензия в предоставленных данных не указана.

c4ai-command-r-08-2024-GGUF — это квантизированная версия языковой модели c4ai-command-r-08-2024, разработанной CohereForAI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. В карточке указано, что она поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский и арабский языки. Модель относится к классу text-generation; сведения о размере, архитектуре и длине контекста в представленном README не указаны. Квантизация может снизить требования к ресурсам по сравнению с исходной моделью и упростить локальное развертывание, однако потенциально сопровождается потерей качества относительно полной версии. Доступ к исходной модели регулируется лицензией CC BY-NC 4.0 и дополнительным лицензионным соглашением Cohere; использование разрешено только в некоммерческих целях. Для доступа также предусмотрена форма с подтверждением согласия с условиями лицензии.

Carnice-V3-27b-Pollard — это квантизированная версия модели Carnice-V3, разработанной kai-os и подготовленной PollardWeights с использованием метода Pollard Weights. Модель предназначена для диалоговых и универсальных задач генерации текста, а также поддерживает мультимодальные сценарии с изображениями при подключении отдельного визуального проектора. Она распространяется в формате GGUF и совместима с llama.cpp, ik_llama.cpp, Ollama, LM Studio и другими совместимыми приложениями. Модель содержит около 27,4 млрд параметров и использует архитектуру qwen3_5. В карточке указана поддержка английского языка; базовая модель заявлена как текстовая, а обработка изображений доступна через проектор mmproj-Carnice-V3-BF16.gguf, который необходимо загрузить отдельно. Основной вариант PollardMix IQ3_S занимает 12,08 ГБ вместо примерно 54,72 ГБ в формате f16; также доступны варианты IQ4_XS и Q6_K с большим размером и потенциально более высокой точностью. Распределение битов выполняется по чувствительности отдельных слоёв, а не равномерно. Для IQ3_S указаны perplexity 7,88 и производительность около 6,9 токена в секунду, однако скорость зависит от оборудования. Сильной стороной модели является существенное снижение требований к памяти при сохранении единого набора весов и совместимости со стандартной экосистемой GGUF. Ограничения включают потерю точности из-за квантизации, зависимость производительности от оборудования и необходимость ik_llama.cpp для некоторых вариантов Trellis; для мультимодального режима требуется отдельный BF16-проектор. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.