II.1Анализ требований и архитектура ПО

SII-Enigma/Qwen2.5-7B-Ins-SFT-32k — плотная причинно-языковая модель семейства Qwen2.5 с 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B-Instruct. В README описан подход AMPO: он использует решения нескольких моделей-учителей, вмешиваясь, когда модель не справляется самостоятельно, и выбирая понятные ей варианты решений. Авторы заявляют, что подход улучшает результативность и эффективность по сравнению с одним RL или SFT. Модель предназначена для генерации текста и диалогов, в том числе для задач рассуждения. Контекст составляет 32 768 токенов; репозиторий использует формат Safetensors и библиотеку Transformers. Метаданные указывают интерфейс вызова инструментов, но README не приводит подробных примеров или результатов оценки именно этого чекпойнта. Указана лицензия Apache-2.0.

YOYO-AI выпустила YOYO-AI/Qwen3-30B-A3B-CoderThinking-YOYO-linear — объединённую методом linear модель на основе Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Это разговорная MoE-модель для генерации текста с интерфейсом вызова инструментов. В README указаны контекст до 262 144 токенов, смешивание весов в пропорции 0,9 и 0,1 и выходной формат bfloat16. Модель предназначена для диалога, рассуждений и задач программирования, включая сценарии с длинным контекстом и использованием инструментов. Метаданные указывают английский и китайский языки. Модель распространяется по лицензии Apache-2.0. Параметры генерации, рекомендуемые в README: температура 0,6, top-p 0,95 и top-k 20.

Qwen3-30B-A3B-FP8-block — квантизированная версия языковой модели Qwen3-30B-A3B, разработанная Red Hat. Это текстовая модель для генерации текста, диалоговых сценариев, решения задач общего характера и программирования. Модель построена на архитектуре Qwen3MoeForCausalLM и работает с текстом на входе и выходе; сведения о поддерживаемых языках и максимальной длине контекста в карточке не указаны. В модели применена FP8-квантизация весов и активаций линейных операторов внутри трансформерных блоков с пок блочной квантизацией весов и динамической токен-ориентированной квантизацией активаций. Квантизация снижает представление параметров с 16 до 8 бит и примерно на 50% уменьшает размер модели на диске и требования к видеопамяти. Исходная модель имеет обозначение 30B-A3B; более подробные сведения о числе активных параметров и конфигурации MoE в README не приведены. По результатам оценки на OpenLLM и наборах для генерации кода FP8-версия сохраняет близкую к исходной точность: средний результат OpenLLM V1 составил 73,52 против 73,75 у исходной модели. Основные преимущества — снижение требований к памяти и возможность развертывания через vLLM, включая использование tensor parallelism. Ограничения — возможная потеря точности из-за квантизации, отсутствие данных о языковом покрытии и контексте, а также необходимость совместимой инфраструктуры для эффективного запуска. Модель распространяется по лицензии Apache-2.0.

Это дообученная языковая модель DavidAU на базе Qwen3-30B-A3B-Thinking-2507 с адаптером Brainstorm 20X. Она предназначена для диалогов, рассуждений, генерации текста и особенно для написания, анализа и отладки кода на популярных и менее распространённых языках программирования. Модель использует архитектуру MoE; в README указаны 42 млрд параметров, 67 слоёв и контекст до 256 тыс. токенов. Метаданные каталога указывают 3,5 млрд параметров, поэтому оценки общего размера в источниках расходятся. Модель принимает текст и выдаёт текст. Карточка описывает её как универсальную, с поддержкой длинного контекста и режима рассуждений; языковые теги метаданных — английский, французский, китайский и немецкий. Репозиторий содержит веса в SafeTensors и допускает использование через Transformers; лицензия — Apache-2.0. README также описывает исходные веса как источник для преобразования в другие форматы, но это не меняет указанный формат файлов репозитория.

Qwen3-4B-GGUF — это квантизированная версия языковой модели Qwen3-4B, разработанной командой Qwen. Квантизацию в формате GGUF выполнил bartowski на основе llama.cpp, релиз b5200. Модель предназначена для локального запуска и генерации текста. Модель поддерживает режимы рассуждения и обычной генерации, а также параметр /no_think для отключения рассуждений. Она ориентирована на следование инструкциям, творческое письмо, ролевые сценарии, многошаговые диалоги, математику, программирование, задачи на здравый смысл и агентские сценарии. Заявлена поддержка более 100 языков и диалектов. Максимальная длина контекста составляет до 131 072 токенов при использовании YaRN, при этом значение по умолчанию указано как 32 000 токенов. Сильными сторонами являются улучшенные способности к рассуждению, широкий языковой охват и возможность выбора между режимами с рассуждением и без него. Ограничения включают типичные для языковых моделей риски неточных, вредных или неподходящих ответов; кроме того, README не содержит сведений о конкретном варианте квантизации, требованиях к ресурсам и лицензии.

surogate/Qwen3.5-2B-FP8 — вариант модели Qwen3.5-2B, опубликованный Surogate и основанный на Qwen/Qwen3.5-2B-Base. Это каузальная языковая модель с vision encoder для текстово-визуальных задач, включая рассуждения, программирование, агентские сценарии и анализ изображений. В README вариант рекомендован для движка обучения агентов Surogate и совместим с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель содержит около 2 млрд параметров, 24 слоя, скрытое измерение 2048 и нативное контекстное окно до 262 144 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и разреженную Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Представленные веса подвергнуты мелкозернистому FP8-квантованию с размером блока 128. По данным README, такая оптимизация сохраняет показатели, близкие к исходной модели, одновременно снижая требования к памяти и повышая эффективность инференса. Сильными сторонами являются мультимодальность, большое контекстное окно, компактный размер и пригодность для высокопроизводительного развертывания и агентских систем. Ограничения включают возможную потерю точности, характерную для квантования, а также то, что README не содержит подробных сведений о качестве на всех языках, ограничениях безопасности и результатах визуальных тестов. Модель распространяется по лицензии Apache 2.0.

coder3101/Qwen3.5-9B-heretic — созданная на основе Qwen/Qwen3.5-9B версия с изменённым поведением отказов, подготовленная автором репозитория методом abliteration. Это мультимодальная модель на 9 млрд параметров с архитектурой Qwen3.5: языковая модель объединена с обработкой изображений, а гибридная архитектура включает Gated Delta Networks и механизм внимания. Модель предназначена для диалога, рассуждений, программирования и анализа изображений; также поддерживает интерфейс вызова инструментов. По сравнению с исходной моделью в приведённом README тесте отказов стало меньше: 10 из 100 против 86 из 100 у оригинала. Модель принимает текст и изображения и формирует текстовые ответы. README указывает нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов и поддержку 201 языка и диалекта базовой модели. Весовые файлы представлены в формате safetensors; заявлена совместимость с Transformers, vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Показатель снижения отказов описывает приведённый тест и не гарантирует поведение на всех запросах; модель может отвечать на запросы, от которых исходная версия отказывалась.

Это мультимодальная модель Qwen3.6-27B, созданная darkc0de на основе Qwen/Qwen3.6-27B и дообученная на примерах рассуждений Claude Opus. Затем модель прошла decensoring методом abliteration с помощью Heretic v1.3.0; опубликованные параметры и сравнение показывают снижение частоты отказов с 98 до 8 на 100 запросах относительно исходной версии distill. Модель предназначена для диалогов, программирования, творческого письма, понимания изображений и задач общего назначения. Архитектура плотная, с 27 млрд параметров; заявлена поддержка изображений и текстового чата. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Для запуска автор отсылает к инструкциям команды Qwen.

mmangkad/Qwen3.6-27B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-27B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Модель построена на архитектуре Transformers, содержит 27 млрд параметров, принимает и генерирует текстовые последовательности и поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат NVFP4. Модель ориентирована на работу с NVIDIA GPU, совместима с архитектурой NVIDIA Blackwell и рассчитана на запуск через SGLang в Linux. Данные о поддерживаемых языках, полном составе обучающего набора и результатах комплексной оценки не раскрыты; среди указанных оценок есть benchmark GPQA. К сильным сторонам относятся готовая к развертыванию квантизация, большой контекст и оптимизация для инференса на совместимом оборудовании NVIDIA. Ограничения включают зависимость от поддерживаемой GPU-инфраструктуры и SGLang, а также возможное воспроизведение токсичных высказываний и социальных предубеждений из обучающих данных. Модель может выдавать неточные, неполные, нерелевантные или избыточные ответы. Распространение разрешено по лицензии Apache 2.0; при использовании также необходимо учитывать условия и требования базовой модели Qwen3.6-27B.

ISTA-DASLab/Qwen3.6-35B-A3B-2Bit-GSQ — это квантизованная версия модели Qwen/Qwen3.6-35B-A3B, разработанная IST-DASLab с использованием метода GSQ (Gumbel-Softmax Quantization). Базовая модель построена по архитектуре MoE: 35 млрд параметров всего и около 3 млрд активных параметров. Модель ориентирована на рассуждения, программирование, следование инструкциям, научные и математические задачи, а также работу с длинным контекстом. В репозитории заявлена поддержка сценариев image-text-to-text; чекпойнт включает vision-компоненты, необходимые для мультимодальных входов, однако сведения о поддерживаемых языках и точной длине контекста в README не указаны. Ключевая особенность — смешанная квантизация. Веса маршрутизируемых экспертных MLP представлены в 2-битном формате GSQ с эффективной стоимостью хранения около 2,13 бит на параметр и размером группы 128, тогда как attention-слои, общие эксперты и LM head квантизованы в INT8. Эмбеддинги, нормализации, маршрутизатор MoE и другие компоненты сохранены в BF16. Полный чекпойнт занимает примерно 12,6 ГБ, а вариант без vision- и MTP-компонентов — около 9,9 ГБ. По приведённым оценкам, модель сохраняет высокую точность базовой версии, особенно на AIME 2025, где результат совпал с исходной моделью, но уступает ей на GPQA Diamond, IFEval, MMLU-Pro и GSM8K. Ограничения связаны с необходимостью специальной инфраструктуры: для запуска через vLLM требуется версия 0.27.1, патч совместимости из репозитория и GPU Ampere или Hopper. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-FP8 — открытая FP8-квантизированная версия модели Qwen3.6-35B-A3B, разработанная командой Qwen. Модель представлена в формате Hugging Face Transformers и предназначена прежде всего для программирования с использованием агентных сценариев, включая работу с фронтенд-проектами, репозиториями и итеративной разработкой. Также она поддерживает мультимодальные задачи с текстом и изображениями благодаря архитектуре с vision encoder. Это каузальная языковая модель с архитектурой Mixture of Experts: 35 млрд параметров всего, из них 3 млрд активируются при обработке запроса. Она содержит 40 слоёв, 256 экспертов, из которых используются 8 маршрутизируемых и 1 общий, а также механизмы Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся улучшенная работа с кодом, репозиториями и сохранением контекста рассуждений из предыдущих сообщений. Квантизация fine-grained FP8 с размером блока 128 заявлена как обеспечивающая метрики, почти идентичные исходной модели, при совместимости с Transformers, vLLM, SGLang и KTransformers. Ограничения производительности, требования к оборудованию и подробные сведения о языках в README не приведены. Модель распространяется по лицензии Apache-2.0.

Это мультимодальная модель llmfan46 на архитектуре Qwen3.5 MoE: дообученная версия Qwen/Qwen3.6-35B-A3B с визуальным энкодером и причинной языковой моделью. В репозитории сохранены все 19 MTP-компонентов исходной модели; автор также сообщает о применении abliteration для ослабления ограничений на ответы. Модель содержит 35 млрд параметров, из которых активируются 3 млрд, и использует 40 слоёв с MoE. Нативное контекстное окно составляет 262 144 токена и может расширяться до 1 010 000 токенов. Модель предназначена для диалогов с текстом и изображениями, анализа изображений, агентного программирования, работы с репозиториями и вызова инструментов. Архитектура и карточка базовой модели указывают на мультимодальные возможности, но отдельные оценки в README приведены для исходной Qwen3.6, поэтому их нельзя считать результатами именно этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Qwen3.8-27B-GGUF — это мультимодальная модель для работы с текстом и изображениями, основанная на Qwen/Qwen3.8-27B. Репозиторий подготовлен Feiteng при спонсорской поддержке Draw Things. Модель распространяется в формате GGUF и предназначена прежде всего для локального запуска через llama.cpp, а также совместима с экосистемой Transformers. Заявленные языки включают английский, китайский, испанский, русский и японский. Основная особенность репозитория — квантизированные варианты языковой модели с эффективностью ниже 4 бит на вес: DT-bpw2.96-IQ3_XXS размером 9,71 GiB и DT-bpw2.48-IQ2_S размером 8,20 GiB. Доступны мультимодальные сценарии благодаря отдельным квантизированным vision encoder-файлам; для Q4_K его размер составляет 314,46 MiB, а сходство выходов с исходной FP32-моделью — 0,99537 по косинусной метрике. Модель поддерживает генерацию текста, рассуждения, программирование, использование инструментов и function calling. Для DT-bpw2.96-IQ3_XXS также заявлена поддержка MTP и предварительная доля принятия черновых токенов около 60% при максимальной длине черновика 3. По приведённым оценкам обе DT-версии набрали 100% на AIME 2026; DT-bpw2.96-IQ3_XXS показала 86,36% на GPQA Diamond, 93,90% на IFEval и 68,06% на BFCL v4, а DT-bpw2.48-IQ2_S — 77,27%, 93,16% и 69,56% соответственно. Квантизация существенно уменьшает требования к хранению, но может снижать точность по сравнению с BF16-версией, особенно на более агрессивных уровнях. Для vision encoder доступны варианты BF16, FP16, Q8_0, Q6_K, Q5_K и Q4_K; их показатели зависят от формата. Лицензия модели — Apache-2.0.

MKRWW/Qwen3.8-27B-int4-AutoRound — производная квантизованная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для локального запуска и сервинга через vLLM на потребительских GPU, включая обработку текста, изображений и аудио, задачи рассуждения, программирования, математики, вызова инструментов и описания изображений. Архитектура определяется базовой моделью Qwen3.8-27B и представлена в Transformers как Qwen3_5ForConditionalGeneration; заявлена поддержка мультимодальных сценариев и контекста до 262 144 токенов. В модели применена весовая квантизация INT4 методом Intel AutoRound с group_size 128 и форматом auto_round:auto_gptq. Квантизованы 64 блока языкового декодера, тогда как vision- и audio-компоненты, эмбеддинги, lm_head и отдельные малые проекции сохранены в FP16. Размер весов составляет около 17,45–17,5 ГБ, благодаря чему модель запускается на одной видеокарте с 24 ГБ памяти; для полного контекста 262K рекомендуется конфигурация из двух таких карт. Для CPU и небольшого объёма VRAM этот репозиторий не предназначен. Сильные стороны — заметно сниженное потребление памяти, сохранение мультимодальных возможностей и совместимость с vLLM, включая reasoning и tool calling. Модель по умолчанию использует рассуждение, поэтому при малом лимите вывода ответ может быть обрезан; видимое отдельное поле reasoning_content также требует дополнительной настройки. Приведённые в README результаты являются внутренним сравнением, а не формальным независимым бенчмарком. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

vmarcelo/Qwen3.8-27B-MIX_GGUF — набор пользовательских смешанных GGUF-квантизаций модели Qwen/Qwen3.8-27B-FP8, подготовленный vmarcelo с использованием llama.cpp, importance matrix и переопределений типов квантизации для отдельных тензоров. Базовая модель представляет собой плотную мультимодальную модель на 27 млрд параметров с гибридной архитектурой GatedDeltaNet и Gated Attention, а также головой Multi-Token Prediction. Поддерживается работа с текстом и изображениями; заявлена многоязычность, включая английский, французский, немецкий и японский языки. Доступны две версии: IQ4-MIX размером 14,10 ГБ и IQ3-MIX размером 12,58 ГБ. IQ4-MIX ориентирована на более высокое качество, программирование, рассуждения и работу с изображениями, тогда как IQ3-MIX обеспечивает примерно на 14% большую скорость генерации, сниженное потребление памяти и больший запас для длинного контекста, но с небольшим снижением качества, особенно из-за более сильного квантования линейного внимания. На видеокарте AMD Radeon RX 9070 XT с 16 ГБ VRAM средняя скорость генерации составляет около 33 токенов в секунду для IQ4-MIX и 37,5 токена в секунду для IQ3-MIX. В зависимости от версии, конфигурации KV-кэша и среды выполнения доступны контексты от 16–64K до 64–128K токенов; измерения зависят от backend, размера пакета и других параметров. Модель предназначена для локального запуска через совместимые GGUF-рантаймы, включая LM Studio и llama.cpp с Vulkan. Для обработки изображений требуется отдельный файл vision encoder mmproj-F16.gguf. Лицензия указана как other с названием qwen-research; применимые условия следует уточнять по лицензии базовой модели Qwen/Qwen3.8-27B-FP8.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизованная версия плотной языковой модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказного поведения; при этом README предупреждает, что для критически важных длинноконтекстных агентских задач более безопасным выбором может быть Balanced-вариант, если он доступен. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17 408, словарь из 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Модель сохраняет встроенный MTP/NextN и поддерживает ускорение HauhauCS FastMTP через отдельный sidecar-файл. Заявлены нативный контекст 262 144 токена и расширение до 1 000 000 токенов. Для мультимодального ввода используется отдельный vision projector в формате BF16; текстовые кванты доступны в вариантах от Q2 до Q8, включая пользовательские K_P-квантизации. Сильные стороны модели — сочетание большого контекстного окна, текстовых, reasoning-, агентских и мультимодальных возможностей, а также варианты квантизации для запуска в средах, совместимых с GGUF, включая llama.cpp и LM Studio. Ограничения связаны с тем, что Aggressive-профиль намеренно снижает склонность к отказам, что может быть нежелательно для задач с повышенными требованиями к безопасности и надёжности. Модель распространяется по лицензии Apache-2.0.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-YMQ-MTP-GGUF — семейство GGUF-квантизаций модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленное проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0. Модель предназначена для генерации текста, программирования и агентных сценариев, включая выполнение API-задач в инструментах вроде RooCode и Aider. Это плотная модель на 27 млрд параметров, преобразованная из исходных BF16-файлов в смешанные по точности варианты с архитектурно-зависимой квантизацией. Сборка ориентирована на поддержку параллельного multi-token prediction (MTP) и speculative decoding, а также на работу с большими контекстами. В README упоминаются компоненты и методы, связанные с Mamba, SSM и AutoRound, однако точный размер контекстного окна, список языков и полный набор поддерживаемых модальностей не указаны; по представленным данным модель является текстовой. Доступно несколько пресетов размером примерно от 9,3 до 17 ГБ, рассчитанных на видеокарты с 12 или 16 ГБ памяти и на разные компромиссы между компактностью и качеством. Более компактные варианты подходят для ограниченной VRAM и коротких однопользовательских запросов, но могут проявлять забывание контекста, циклы форматирования и повышенный шум квантизации. Более крупные пресеты обеспечивают лучшую стабильность логики, форматирования и многошаговой работы, но требуют больше памяти. Лицензия — Apache-2.0.

Это объединённая и 4-битно квантованная версия Qwen3-8B, опубликованная Goraint и подготовленная для инференса через MLX на компьютерах Apple Silicon. Модель содержит 7,6 млрд параметров и поддерживает контекст до 196 608 токенов; README указывает на оптимизацию для длинных запросов и снижение требований к памяти. Модель предназначена для генерации текста в диалоге, анализа длинных документов, написания кода и развёртывания чат-ботов на локальных устройствах. В метаданных также заявлен интерфейс вызова инструментов. Репозиторий содержит веса safetensors; для использования указана лицензия Apache 2.0. Квантование до 4 бит снижает потребление памяти, но может уменьшить точность на сложных задачах. Производительность зависит от оборудования, а MLX ориентирована на Apple Silicon; README отдельно предупреждает о возможности чувствительного контента и указывает на необходимость настроить шаблон запросов для совместимости с LM Studio.

Карточка модели luxuansang/Qwythos-9B-v2 на Hugging Face совпадает с карточкой empero-ai/Qwythos-9B-v2, поэтому описание составлено по ней. Qwythos-9B-v2 — модель генерации текста и рассуждений от Empero AI, дообученная на базе empero-ai/Qwythos-9B-Claude-Mythos-5-1M методом FTPO. Она предназначена для диалогов, многошаговых рассуждений, решения задач и генерации кода; разработчик сообщает, что в этой версии устранено зацикливание при генерации, восстановлена голова MTP и сохранены возможности предыдущей версии. Модель построена на гибридной архитектуре Qwen3.5-9B с чередованием линейного внимания Gated-DeltaNet и полного внимания. Контекст заявлен до 1 млн токенов с YaRN. Хотя базовый стек поддерживает мультимодальность, README описывает практическое использование как текстовое. Основной язык карточки — английский. Модель подходит для исследовательских и технических сценариев, включая программирование, кибербезопасность и анализ научных вопросов. По внутренним оценкам разработчика, знания и рассуждения в целом сохранены относительно предыдущей версии; это обновление направлено прежде всего на устойчивость генерации, а не на рост возможностей. Известное ограничение — результат HumanEval ниже, чем у исходной Qwen3.5-9B; показатели бенчмарков получены на внутреннем тестовом наборе. Модель намеренно не ограничивает ответы на чувствительные темы. Лицензия — Apache-2.0.

Ring-mini-linear-2.0 — языковая модель компании inclusionAI для генерации текста и диалогов. Она построена на гибридной архитектуре, сочетающей линейное и стандартное внимание, и использует разреженную смесь экспертов (MoE). В репозитории указано 1,2 млрд параметров, а в карточке модели описана версия с 16,4 млрд параметров, из которых при генерации активируются 1,6 млрд; эти цифры расходятся, поэтому размер полной модели по доступным данным нельзя согласовать. Модель дообучена на основе inclusionAI/Ling-mini-base-2.0-20T на дополнительных 600 млрд токенов. Модель предназначена для генерации ответов в диалогах и решения сложных задач по математике, программированию и науке. Метаданные указывают поддержку интерфейса вызова инструментов. Для эффективной обработки длинного контекста заявлено окно до 512 тыс. токенов с расширением YaRN; метаданные указывают нативный контекст 131 072 токена. В карточке приведены англоязычные теги. Для запуска описана поддержка Transformers и SGLang, а также BF16 и FP8 в SGLang; инструкции по установке специальных зависимостей и сборок движков указывают на необходимость совместимой среды. Лицензия — MIT.

Это объединённая авторами MaziyarPanahi языковая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/speechless-mistral-six-in-one-7b-orth-1.0. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы, включая задачи с кодом. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов; основной естественный язык карточки — английский. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README не приводит отдельных оценок качества или подробных ограничений применимости.

Viper-Coder-v1.1 — дообученная prithivMLmods 14-миллиардная языковая модель семейства Qwen2 для генерации кода и решения задач рассуждения. В карточке указана архитектура Qwen 2.5 14B, а метаданные определяют архитектуру как Qwen2ForCausalLM; модель распространяется в формате safetensors и использует библиотеку Transformers. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для написания и отладки кода, решения алгоритмических и математических задач, следования инструкциям, работы со структурированными данными и создания технической документации. README заявляет контекст до 128K токенов и генерацию до 8K токенов, однако метаданные указывают нативный контекст 32768 токенов. Заявлены поддержка программирования на Python, JavaScript, C++, Java, SQL и других языках, а также документации на 29+ естественных языках; языковые теги карточки — английский и китайский. Модель содержит 14 млрд параметров, поэтому для инференса требуются значительные вычислительные ресурсы. Возможны ошибки в длинных ответах, чувствительность к формулировке запроса и неодинаковое качество для разных языков программирования; модель не располагает актуальными данными из интернета. Лицензия — Apache-2.0.

XVERSE-13B-Chat — диалоговая версия языковой модели XVERSE-13B, разработанной компанией Shenzhen Yuanxiang Technology. Это плотная авторегрессионная модель с архитектурой Decoder-only Transformer и 13,2 млрд параметров, предназначенная для генерации ответов и ведения многоходовых бесед. Она поддерживает контекст до 8192 токенов. Модель подходит для вопросов и ответов, суммаризации, рассуждений и помощи с программированием. В README заявлена поддержка более 40 языков, включая китайский, английский, русский и испанский; особенно сильные результаты разработчик отмечает для китайского и английского. Модель использует токенизатор BPE с размером словаря 100 534 токена. Модель может выдавать неточные, предвзятые или оскорбительные ответы, поэтому результаты следует проверять, а перед внедрением проводить тестирование безопасности для конкретного сценария. Лицензия Apache-2.0.

AI21 Jamba Reasoning 3B — компактная языковая модель для генерации текста и задач рассуждения, разработанная компанией AI21. Она предназначена для локального и периферийного развертывания, анализа документов и последовательностей, классификации, ответов на вопросы и других сценариев, где важны сочетание качества, скорости и работы с длинным контекстом. Модель содержит около 3 млрд параметров и построена на гибридной архитектуре Transformer–Mamba: 26 слоёв Mamba и 2 слоя внимания. Используется 20 голов внимания с MQA, словарь включает 64 тысячи токенов, а максимальная длина контекста заявлена на уровне 256 тысяч токенов. Поддерживаются английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит. Доступны GGUF-квантизации, включая вариант Q4_K_M размером около 1,93 ГБ, что упрощает запуск на ноутбуках, GPU и мобильных устройствах через llama.cpp, LM Studio или Ollama. К сильным сторонам относятся высокая эффективность обработки последовательностей, сниженные требования к памяти, большой контекст и заявленные конкурентные результаты на ряде интеллектуальных бенчмарков. Ограничения включают компактный размер модели, который может уступать более крупным системам в сложных задачах, а также возможное снижение качества при использовании сильной квантизации. Модель распространяется по лицензии Apache 2.0; в карточке также указано название лицензии Jamba Open Model License и приведена отдельная ссылка на её текст.

airoboros-dpo-110b-3.3 — экспериментальная чат-модель, дообученная Jon Durbin на базе Qwen 1.5 110B с дополнительным этапом DPO. Она предназначена для диалога, ответов на вопросы по предоставленному контексту, суммаризации, генерации кода и структурированных ответов, включая вывод аргументов для вызова функций. Модель использует архитектуру Qwen2 с плотной сетью из 110 млрд параметров, формат диалога ChatML и контекст до 32 768 токенов. Карточка описывает настройку ответов по контексту, генерацию длинных ответов и планов выполнения, а также примеры задач на кодирование и ролевой диалог. Для ответов по заданному контексту рекомендуется низкая температура; качество следования таким инструкциям зависит от явного форматирования входных данных. Автор отмечает, что иногда в конце ответов появляются случайные лишние токены. Репозиторий содержит веса safetensors; лицензия в метаданных указана как other, без уточнения условий.

Apertus-8B-Instruct-2509 — многоязычная языковая модель для генерации текста и диалогов, опубликованная в репозитории unsloth как дообученная версия swiss-ai/Apertus-8B-2509. Это плотный decoder-only Transformer семейства Apertus с 10,3 млрд параметров и контекстом до 65 536 токенов; модель работает через Transformers и поддерживает интерфейс вызова инструментов. Модель предназначена для многоязычных диалогов, генерации текста и сценариев с длинными документами. В карточке семейство Apertus описано как поддерживающее более 1 800 языков; конкретный основной язык для этой версии не выделен. Модель обучалась на открытых данных с опубликованными сведениями о процессе обучения, а базовое семейство разработано Swiss AI Initiative. Модель может генерировать фактически неверный или нелогичный текст и воспроизводить предвзятости данных. Для неё не предоставлен фильтр выходных данных, в том числе для персональных данных; важные ответы следует проверять. Лицензия — Apache-2.0.

Bagel-DPO-20B-v04 — это дообученная с помощью Direct Preference Optimization (DPO) модель InternLM2-20B, опубликованная jondurbin. Она предназначена для диалогов и генерации текста: может отвечать на вопросы, следовать инструкциям, помогать с программированием и математикой, писать и пересказывать текст, а также работать с контекстом. В обучении использованы разнообразные наборы инструкций, диалогов и предпочтений, включая данные для вызова функций; карточка описывает форматирование запросов в стилях Vicuna, Llama 2, Alpaca и ChatML. Модель имеет плотную архитектуру InternLM2 с 19,3 млрд параметров и контекст до 32 768 токенов. Это текстовая модель; наборы обучения включают многоязычное понимание текста, но конкретный полный перечень поддерживаемых языков не заявлен. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и базовой модели. Среди ограничений — результаты зависят от формата запроса, а README предупреждает, что недо-DPO версия может быть предпочтительнее для ролевых сценариев; в обучающие данные также входили токсичные и потенциально незаконные примеры.

Bagel DPO 7B v0.4 — разговорная языковая модель, созданная jondurbin на основе Mistral 7B v0.1 и дополнительно обученная методом direct preference optimization (DPO). Она предназначена для генерации ответов в чате, следования инструкциям и задач общего назначения, включая вопросы по контексту, математику, программирование, суммаризацию и творческое письмо. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В обучении использованы наборы инструкций и предпочтений по разным темам, в том числе код, естественные науки, чтение, диалоги и художественное письмо. Карточка указывает четыре совместимых формата промпта: Vicuna, Llama 2, Alpaca и ChatML. Модель рассчитана на генерацию текста и диалоговое применение. Карточка отмечает, что версия без DPO может быть лучше для ролевых диалогов; в наборе данных присутствуют токсичные примеры, поэтому выходы могут содержать токсичный или иной нежелательный контент. Распространяется по лицензии Apache-2.0.

Dolphin3.0-R1-Mistral-24B-GGUF — это квантизированная версия языковой модели Dolphin3.0-R1-Mistral-24B, разработанной cognitivecomputations и подготовленной в формате GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста на английском языке и запуска локально через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на архитектуре Mistral и содержит 24 миллиарда параметров. Она обучалась на смесях данных для инструкционного следования, рассуждений, математики, программирования, function calling и агентных сценариев, включая наборы Dolphin, OpenCoder, Orca, Hermes, NuminaMath, Tulu и CodeFeedback. Доступны варианты квантизации от Q4 до Q8 и полноточный вариант f32; размер файлов варьируется примерно от 13,5 до 94,3 ГБ. Квантизация уменьшает требования к памяти, сохраняя приемлемое качество, однако более компактные варианты могут уступать исходной модели по точности. Сильными сторонами являются поддержка локального запуска, широкий выбор уровней квантизации и ориентация на рассуждения, математические задачи, код и выполнение инструкций. README не содержит данных о длине контекста, мультимодальности, подробных результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить.