II.1Анализ требований и архитектура ПО

Nyxene-v3-11B — плотная авторегрессионная языковая модель семейства Mistral, опубликованная beberik. В README описана модель Nyxene-11B как результат объединения нескольких моделей на базе Mistral с помощью mergekit; среди названных компонентов — Intel/neural-chat-7b-v3-3-Slerp, AIDC-ai-business/Marcoroni-7B-v3, rwitz/go-bruins-v2 и chargoddard/loyal-piano-m7-cdpo. Репозиторий содержит веса в формате safetensors; метаданные указывают 10,6 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового применения с шаблоном ChatML. Её можно использовать для ответов на вопросы, ведения беседы и генерации продолжений текста. Карточка приводит результаты оценки на Open LLM Leaderboard, но не даёт подробной информации о методике или ограничениях качества. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

OLMo-2-1124-13B-DPO-Preview — англоязычная плотная авторегрессионная языковая модель семейства OLMo 2, разработанная Allen Institute for AI (AI2). Это вариант OLMo-2 на 13,2 млрд параметров, прошедший supervised fine-tuning на варианте набора Tülu 3, а затем обучение методом DPO на данных предпочтений. Модель предназначена для диалогов, выполнения инструкций и широкого круга задач генерации текста; карточка отмечает задачи MATH, GSM8K и IFEval. Модель принимает текст и выдаёт текст, поддерживает чат-шаблон и имеет контекстное окно 4096 токенов. Она рассчитана прежде всего на английский язык. Веса распространяются в формате PyTorch по лицензии Apache 2.0. В карточке отмечено, что у OLMo 2 ограничено обучение безопасности, поэтому модель может выдавать проблемные ответы, особенно при соответствующих запросах; встроенной фильтрации ответов нет. Сведения о качестве следует рассматривать с учётом того, что это предварительный DPO-вариант.

ArchSpace-Collection публикует экспорт базовой OLMo 3 3B после четвёртого этапа обучения с SFT, ориентированного на рассуждения. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров, реализованная в Transformers как Olmo3ForCausalLM; для загрузки не требуется удалённый код. В репозитории указаны скользящее оконное внимание размером 4 096 токенов и ёмкость контекста 65 536 токенов. Модель предназначена для генерации текста и диалогового использования, включая запросы с рассуждениями и интерфейс вызова инструментов. Обучающая длина последовательности составляла 32 768 токенов. README описывает техническую конфигурацию и экспорт, но не сообщает конкретные результаты оценивания или полный перечень поддерживаемых языков. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

OpenThinker3-7B-GGUF — это квантизированная версия текстовой генеративной модели OpenThinker3-7B, разработанной проектом open-thoughts и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые приложения. Модель содержит 7 миллиардов параметров и поддерживает различные варианты представления весов: от BF16 до квантизаций Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов варьируется примерно от 3,5 до 15,2 ГБ, поэтому можно выбрать баланс между качеством, скоростью и требованиями к памяти. Для взаимодействия используется шаблон сообщений с ролями system, user и assistant. Сведения о контекстном окне, языках, мультимодальности и точной архитектуре в README не указаны; по доступным данным это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая версии, оптимизированные для экономии памяти и локального запуска, а также применение imatrix при квантизации на базе llama.cpp. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать полноразмерной или высокоточной квантизации по качеству. Модель распространяется по лицензии Apache-2.0. Датасет, указанный для исходной модели, — open-thoughts/OpenThoughts3-1.2M.

Pankaj Mathur разработал orca_mini_v9_6_3B-Instruct — диалоговую языковую модель на архитектуре Llama, полученную дообучением Meta Llama 3.2 3B Instruct. Модель содержит 3,2 млрд параметров и предназначена для генерации текста в формате диалога; её можно использовать как основу для чат-ассистентов и других приложений на базе языковых моделей. Модель принимает текст и генерирует текст. В метаданных указан контекст до 131 072 токенов и поддержка английского языка. Веса доступны в форматах PyTorch и Safetensors, для запуска подходит библиотека Transformers. Лицензия — Llama 3.2. Как и другие компактные языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы. Перед внедрением рекомендуется проверять качество и безопасность на сценариях конкретного приложения.

Это GGUF-квантизированная версия модели r1-1776-distill-llama-70b, разработанной perplexity-ai и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b4738 и метода imatrix. Модель предназначена для генерации текста и может запускаться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Архитектура основана на Llama, размер исходной модели — 70 миллиардов параметров. В README не указаны поддерживаемые языки, длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступны варианты квантизации от Q8_0 до Q3_K и IQ3/IQ4, с размером файлов примерно от 27,47 до 74,98 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5_K и Q4_K_M отмечены как рекомендуемые для различных сценариев. Сильными сторонами являются широкий выбор размеров файлов, совместимость с локальными инструментами llama.cpp и сохранение высокого качества в старших вариантах квантизации. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для версий с высоким качеством, а также потенциальное снижение качества в компактных вариантах. Модель распространяется по лицензии MIT.

g-ronimo/phi-2-OpenHermes-2.5 — диалоговая языковая модель на архитектуре Phi-2, дообученная разработчиком методом QLoRA на датасете teknium/OpenHermes-2.5. Модель содержит 3,5 млрд параметров, использует библиотеку Transformers и формат safetensors; максимальная длина контекста составляет 2048 токенов. Она предназначена для генерации текста в диалоговом формате и ответов на запросы пользователя. В карточке приведены результаты сравнительных оценок на AGIEval, GPT4All, TruthfulQA и Bigbench, однако они не гарантируют качество на конкретных задачах. README указывает длину обучающих последовательностей до 1024 токенов. Модель распространяется по лицензии MIT.

Xiaojian9992024/Phi-3.5-Small-Instruct-UNOFFICAL — языковая модель для генерации текста и диалогов, созданная слиянием предобученных моделей через mergekit. В README в качестве основы слияния указана microsoft/Phi-3.5-mini-instruct; метаданные также связывают репозиторий с этой моделью. Модель использует плотную архитектуру Phi-3 и содержит 10,5 млрд параметров. Модель подходит для диалоговых сценариев и генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. Для работы указана библиотека Transformers и формат весов Safetensors. Лицензия в предоставленных данных не указана.

Prima-LelantaclesV7-experimental-7b — объединённая языковая модель семейства Mistral, опубликованная ChaoticNeutrals. Она создана методом SLERP из моделей Nitral-AI/Prima-LelantaclesV6.69-7b и Nitral-AI/Prima-LelantaclesV6.31-7b. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и предназначена для генерации текста; её контекстное окно составляет 32 768 токенов. Модель может применяться для создания и продолжения текста, а также для задач рассуждения на основе текстового запроса. В README приведены результаты оценивания на отдельных тестах Open LLM Leaderboard. Доступны веса в формате safetensors. Репозиторий указывает лицензию «other», поэтому условия использования следует уточнять по карточке модели и её лицензии.

quantum-v0.01-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста, созданная слиянием Mistral-7B-Instruct-v0.1 от Mistral AI и quantumaikr/quantum-v0.01. Для объединения применён метод SLERP; веса представлены в формате safetensors. Модель предназначена для ответов на инструкции и диалоговые запросы. Она построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке указан английский язык, лицензия — Apache-2.0. Карточка не приводит отдельных результатов оценки качества или более подробных ограничений; возможности модели могут зависеть от запроса и используемого программного окружения.

ljsabc/Qwen-1.5-14B-Chat-Fujisaki — разговорная языковая модель на архитектуре Qwen2 с плотной causal language model архитектурой. Карточка описывает запуск через класс AutoModel, а метаданные указывают 13,4 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Репозиторий содержит веса в safetensors и распространяется по лицензии MIT. Карточка не описывает специальное назначение или подтверждённые улучшения относительно Qwen-1.5-14B-Chat.

Qwen2.5-3B-Instruct-bf16 — преобразованная в формат MLX модель семейства Qwen2.5, опубликованная mlx-community на основе Qwen/Qwen2.5-3B-Instruct. Это плотная авторегрессионная языковая модель на 3,1 млрд параметров для диалоговой генерации текста; карточка указывает интерфейс чата и вызова инструментов. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет 32 768 токенов. Модель предназначена для диалоговых приложений и генерации ответов, а также для сценариев, где требуется интерфейс вызова инструментов. В README указана конвертация с помощью mlx-lm 0.18.1; метаданные описывают связь с Qwen/Qwen2.5-3B как дообучение, а карточка уточняет, что исходником преобразования была Qwen/Qwen2.5-3B-Instruct. Репозиторий содержит веса safetensors и ориентирован на MLX. В карточке указан английский язык; лицензия обозначена как other, поэтому конкретные условия следует сверять с лицензией исходной модели и файлами репозитория. Это компактная модель по сравнению с крупными языковыми моделями, однако качество ответов и вызова инструментов зависит от запроса и реализации приложения.

ZeroXClem/Qwen2.5-7B-CelestialHarmony-1M — языковая модель, созданная ZeroXClem слиянием нескольких дообученных вариантов Qwen2.5-7B методом Model Stock. Она построена на архитектуре Qwen2 и содержит около 7,1 млрд параметров по метаданным; README указывает 7,61 млрд. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет до 1 010 000 токенов. Модель предназначена для диалогов, ролевых сценариев и сторителлинга, структурированных рассуждений, а также работы с очень длинными документами и контекстами. В метаданных отмечен интерфейс вызова инструментов; конкретные возможности зависят от используемого шаблона и среды запуска. Модель распространяется под лицензией MIT. Для практического применения на длинном контексте потребуются совместимая среда инференса и значительные вычислительные ресурсы; заявленные качества рассуждения и работы с контекстом основаны на описании автора.

Qwen2.5-7B-TitanFusion — объединённая языковая модель на основе Qwen2.5-7B, созданная автором репозитория с помощью mergekit и метода Model Stock. В объединение вошли FourOhFour/Vapor_7B, huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2 и Qwen/Qwen2.5-7B. Модель имеет плотную архитектуру Qwen2ForCausalLM и 7,1 млрд параметров; доступна в формате safetensors для библиотеки Transformers, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для составления ответов, черновиков и продолжения текста; метаданные также отмечают интерфейс вызова инструментов. README не приводит оценок качества или конкретных тестов. Лицензия в предоставленных данных не указана.

kechengcode/Qwen2-5B-16Layers — текстовая генеративная модель на архитектуре Qwen2, созданная объединением слоёв Qwen/Qwen2-7B методом passthrough с помощью mergekit. В репозитории указаны 4,3 млрд параметров, формат safetensors и контекст до 131 072 токенов; модель предназначена для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст. Карточка не уточняет языки, качество на отдельных задачах и специальные области применения. Лицензия в предоставленных данных не указана.

Qwen2-NextGen-8b — текстовая генеративная модель, созданная powermove72 объединением моделей newsbang/Homer-v1.0-Qwen2.5-7B и AIDC-AI/Marco-o1 с помощью LazyMergekit. Она предназначена для диалогов и генерации текста; архитектура — плотная Qwen2ForCausalLM, размер — 8 млрд параметров, контекст — до 32 768 токенов. Объединение выполнено методом passthrough с выбором диапазонов слоёв из каждой модели, объединённым токенизатором и весами float16. Модель можно применять для ответов на вопросы, выполнения текстовых инструкций и других задач генерации текста в чат-сценариях. Карточка не уточняет языковой охват и отдельные специализированные области. Репозиторий распространяет веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

lmstudio-community/Qwen3-32B-MLX-8bit — языковая модель для генерации текста, представленная сообществом lmstudio-community и созданная на основе Qwen/Qwen3-32B. Модель преобразована в формат MLX с использованием mlx-lm версии 0.24.0 и предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm с поддержкой чат-шаблона, если он задан в токенизаторе. Ключевые характеристики модели — размер базовой модели 32B параметров, 8-битное представление и специализация на текстовой генерации. Формат MLX ориентирован на использование в совместимой среде, однако README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности, производительности и ограничениях. Модель распространяется по лицензии Apache-2.0.

Это дообученная компанией clijo диалоговая языковая модель Qwen3-4B-Instruct-2507, обученная с помощью TRL. Она предназначена для генерации текста в ответ на инструкции и вопросы в формате диалога; карточка не уточняет отдельные специализации дообучения. Модель использует плотную архитектуру Qwen3ForCausalLM и содержит 3,7 млрд параметров. Нативная длина контекста — до 262 144 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают на поддержку чата. Лицензия в предоставленных данных не обозначена.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_2L — вариант модели Qwen3.5-397B-A17B, подготовленный Jinho Jang и проектом JANG. Это большая мультимодальная модель класса MoE с гибридной архитектурой GatedDeltaNet и полного внимания; по карточке активны 17 млрд параметров из 397 млрд. Репозиторий содержит смешанно-точное квантованное представление JANG_2L для Apple Silicon: веса с разной чувствительностью хранятся с разной разрядностью, а вычисления выполняются в bfloat16. В метаданных библиотекой указана MLX. Модель предназначена для диалогов, рассуждений и анализа изображений и видео. Режим reasoning позволяет включать пошаговое рассуждение; карточка также сообщает о поддержке vision и интерфейсе вызова инструментов. По заявлению автора, модель занимает 187 ГБ и показывает 36 токенов в секунду на M4 Ultra с 256 ГБ объединённой памяти. Для запуска автор рекомендует MLX Studio или JANG с MLX; заявлена необходимость Apple Silicon с 256 ГБ памяти. Карточка приводит результаты MMLU, но это авторские замеры на ограниченной выборке и не гарантия качества в других задачах. Доступ к изображениям и видео заявлен в README, хотя pipeline_tag и каталог классифицируют модель как text-generation. Указанная лицензия — Apache-2.0.

TheCluster выпустил MLX-версию Qwen3.5-4B Heretic — мультимодальную диалоговую модель на 4 млрд параметров, доработанную из coder3101/Qwen3.5-4B-heretic. Модель принимает текст и изображения и генерирует текст; поддерживает диалог и режим рассуждений, который по умолчанию отключён. Файлы представлены в формате safetensors с точностью bfloat16 и предназначены для запуска в среде MLX. Версия Heretic создана с помощью Heretic v1.2.0 методом подавления отказов: в приведённой авторами проверке модель отказала в 4 случаях из 100, тогда как исходная Qwen3.5-4B — в 94. Это делает её менее склонной отказываться от запросов, но не гарантирует точность или безопасность ответов. Карточка предлагает разные параметры генерации для общих задач, рассуждений и программирования; повышенный штраф за присутствие может вызывать смешение языков и немного снижать качество. Лицензия — Apache-2.0.

Jackrong/Qwen3.5-4B-Neo-GGUF — reasoning-ориентированная дообученная версия Qwen3.5-4B, разработанная Jackrong с использованием Unsloth, SFT и LoRA. Модель обучалась на данных Step-3.5-Flash-SFT и специализированной смеси наборов для рассуждений, программирования и следования инструкциям. Заявленные языки — английский, китайский и корейский; лицензия — Apache-2.0. Формат GGUF предназначен для локального и офлайн-запуска, однако конкретный размер файла и требования к памяти в README не указаны. Модель рассчитана на аналитические задачи, программирование, соревновательное программирование на Python, математику и задачи, требующие последовательного логического рассуждения. Она обучена формировать рассуждения в тегах <think>...</think> перед итоговым ответом. По заявленным результатам на сбалансированной выборке из 250 вопросов MMLU-Pro модель получила 82,00% pass@1 против 80,40% у базовой версии, одновременно сократив среднюю длину цепочки рассуждений с 6962 до 3955 символов, а медианную — с 4600 до 1951 символа. Сильной стороной модели является сочетание конкурентной точности и более компактного стиля рассуждений, что может снизить расход токенов в задачах с интенсивным анализом. Ограничения включают риск галлюцинаций, возможные усечения при чрезмерно сложных задачах и отставание от базовой модели в категории физики. Приведённые показатели получены на подвыборке MMLU-Pro и не обязательно отражают результаты на полном тесте. Модель позиционируется как тестовая версия для обучения, демонстраций, академических исследований и технических экспериментов.

CodeShield/Qwen3.5-9B-Instruct — инструкционная текстовая генеративная модель семейства Qwen, опубликованная на Hugging Face под организацией CodeShield. Модель предназначена для диалогового взаимодействия и генерации текста по инструкциям; для работы предполагается использование библиотеки Transformers. Из идентификатора модели следует размер порядка 9 млрд параметров и ориентация на instruction-tuning, однако подробности архитектуры, обучения и состава данных в доступных материалах не описаны. Модель может применяться для ответов на вопросы, ведения диалога, создания и преобразования текстов, а также в составе приложений на базе conversational AI. Лицензия, поддерживаемые естественные языки и длина контекста в предоставленных данных не указаны. README содержит шаблонную автоматически созданную карточку без результатов оценки и конкретных рекомендаций по использованию, поэтому модель следует дополнительно проверять на качество, безопасность и соответствие задачам перед применением.

Qwen3.5-9B-The-Defiant-Fable-DARK-ROAST-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная плотная модель семейства Qwen3.5 с 9 млрд параметров, разработанная DavidAU совместно с Nightmedia. Это многоэтапный fine-tune и merge нескольких моделей Qwen3.5-9B; карточка описывает полноточную версию в 16-битном формате и отдельно упоминает варианты GGUF с NEO IMATRIX и MTP для ускоренной генерации. В метаданных указан формат safetensors и библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма и ролевых сценариев. Она принимает текст и изображения, поддерживает английский и китайский языки и, согласно карточке, контекст до 256 тысяч токенов. Также заявлен интерфейс вызова инструментов. Автор приводит результаты бенчмарков, но они не гарантируют превосходства на любых пользовательских задачах; видео не тестировалось. Автор характеризует модель как полностью uncensored и сообщает об удалении отказов; это может приводить к генерации нежелательного или небезопасного содержания. Лицензия — Apache-2.0. Для использования зрения в описанных GGUF-вариантах требуется отдельный файл mmproj.

Qwen3.6-25B-A3B — сжатый чекпойнт на основе Qwen/Qwen3.6-35B-A3B, опубликованный пользователем Jaso1024. Это языковая MoE-модель для диалоговой генерации текста; в конфигурации 40 слоёв и 8 активных экспертов на токен. По README, число параметров уменьшено с 34,66 млрд до 24,97 млрд, тогда как метаданные каталога указывают 2,9 млрд параметров; эти оценки расходятся. Модель распространяется в формате Transformers safetensors с шаблоном чата и рассчитана на контекст до 262 144 токенов. Чекпойнт предназначен для загрузки через Transformers и диалогового использования. Несмотря на сжатие, это крупная bf16-модель, для практического запуска обычно требуется GPU с большим объёмом памяти либо распределённая загрузка с offload. README говорит, что условия лицензии и использования наследуются от базовой модели; в метаданных лицензия обозначена как other.

Qwen3.6-27B-Heretic-Uncensored-FINETUNE-NEO-CODE-Di-IMatrix-MAX-GGUF — это производная от Qwen3.6-27B модель от DavidAU, созданная на базе Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking. Модель была подвергнута декодированию ограничений и дообучению с использованием Unsloth на пользовательском наборе данных, а затем преобразована в GGUF-квантизации с применением методов NEO и NEO-CODE Di-Matrix. Модель предназначена для общего применения, включая диалоги, творческое и художественное письмо, генерацию сюжетов и сцен, ролевые сценарии, программирование, математику и задачи, требующие работы с длинным контекстом. Заявлена поддержка контекста до 256 тысяч токенов. Указаны языки English и Chinese. Размер базовой модели — 27 миллиардов параметров; доступны квантизации с различным соотношением качества и требований к памяти, включая IQ2_M и Q4K_S. В карточке также заявлена поддержка image-text-to-text, однако подробности о мультимодальных возможностях не приведены. Сильными сторонами заявлены сниженный уровень отказов, отсутствие цензурных ограничений, высокая близость к качеству полной точности и оптимизация для длинных диалогов, кода и математических задач. Приведённые результаты основаны преимущественно на внутренних тестах автора, поэтому их не следует считать независимой оценкой. Конкретные требования к оборудованию, совместимые приложения и подробная методика дообучения не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored — дообученная плотная мультимодальная модель семейства Qwen3.5 от DavidAU с 40 млрд параметров и архитектурой Qwen3_5ForConditionalGeneration. Она предназначена для диалогов, рассуждений, программирования, творческого письма и ролевых сценариев; метаданные также указывают поддержку изображений и интерфейс вызова инструментов. В карточке заявлены подробные ответы и адаптивное использование токенов рассуждения, однако приведённые заявления о превосходстве в тестах не сопровождаются проверяемыми результатами. Модель использует формат safetensors, библиотеку Transformers и распространяется по лицензии Apache-2.0. Указаны английский и китайский языки. README описывает вариант GGUF как отдельный ресурс; представленные здесь метаданные относятся к safetensors-модели.

Это конверсия в формат MLX модели DavidAU/Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored, выполненная с помощью mlx-vlm 0.6.10. Модель основана на плотной мультимодальной архитектуре Qwen3.5 с 40 млрд параметров и принимает текст и изображения, формируя текстовые ответы. Она предназначена для диалогов, рассуждений, программирования и творческого письма; в метаданных также заявлены режимы работы с изображениями. Модель поддерживает английский и китайский языки. Репозиторий содержит веса safetensors в формате MLX и распространяется по лицензии Apache-2.0. Подробности обучения и дополнительные ограничения в карточке этой конверсии не описаны; за характеристиками исходной модели следует обращаться к её карточке.

Atomic-Germ/Qwen3.8-27B-Heretic-MTP-GGUF — это многоэтапная дообученная и объединённая версия Qwen3.8 с 27 млрд параметров, распространяемая в формате GGUF. Модель основана на DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU и создана с использованием Unsloth, методов Cold Fusion и Fable Fusion 711. В репозитории представлены обычные и MTP-квантизации, включая варианты с 4- и 8-битной точностью и imatrix-оптимизацией. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов, ролевого взаимодействия и других универсальных применений. Заявлены поддержка английского и китайского языков, три режима работы с рассуждениями, а также акцент на сокращение объёма внутренних рассуждений и ускорение генерации при сохранении детализации ответов. Архитектура, точное окно контекста и наличие подтверждённой мультимодальности в README не указаны. К сильным сторонам относятся относительно высокая производительность на потребительском оборудовании, уменьшенное число токенов рассуждений, варианты для разного объёма памяти и ориентация на детализированные ответы. В README приводятся высокие результаты на ARC-C и ARC-E, однако это заявления автора и не являются независимо подтверждёнными характеристиками. Ограничения включают возможную зависимость качества от выбранной квантизации, отсутствие подробных данных о контекстном окне и неполную информацию о тестировании. Модель распространяется по лицензии Apache-2.0.

TelperionAI/Qwen3.8-27B-MLA — это производная от Qwen/Qwen3.8-27B модель с плотной гибридной архитектурой: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного внимания. Разработчик заменил представление ключей и значений в кэше внимания на низкоранговое латентное представление с Multi-head Latent Attention (MLA). Преобразование выполнено без обучения и уменьшает KV-кэш примерно вдвое; веса модели, включая башню зрения и голову MTP, поставлены целиком. Модель предназначена для диалогов, программирования и длинных контекстов; она также сохраняет работу с изображениями, как базовая модель. В парном тестировании SWE-bench Verified модель получила 0,421 против 0,395 у исходной версии, используя на 12% меньше выходных токенов; на HELMET при контексте 64k средний результат составил 77,93 против 77,43. Эти результаты относятся к указанным тестам и настройкам. Для запуска требуется экспериментальный плагин qwen-mla-vllm: модель не загружается в Transformers или стандартный vLLM. README сообщает о проверке с vLLM 0.27.1 на RTX PRO 6000 и отмечает, что без nvcc и ninja запуск использует более медленные Triton-ядра. Проверка ограничена SWE-bench Verified и HELMET при 64k; другие области и существенно более длинные контексты не оценивались. Лицензия — Apache-2.0.

Qwen3.8-27B-NInfer — мультимодальная модель для генерации текста и работы с изображениями, основанная на Qwen3.8-27B от команды Qwen. Версия подготовлена разработчиком Neroued и преобразована в нативный формат артефактов NInfer с расширениями для Vision, MTP и спекулятивного декодирования DFlash2. Модель предназначена для диалогов, текстовой генерации, рассуждений, решения математических и научных задач, а также анализа изображений и визуальных вопросов. В карточке заявлены высокие результаты на IFBench, AIME 2025 и 2026, GPQA-Diamond, ERQA и RealWorldQA. Артефакт содержит квантизированные Q4/Q5-проекции, а эмбеддинги токенов и выходная голова используют q8_g32_fp16; размер файла составляет около 19,03 ГиБ. Поддерживаются текстовые и визуальные входы, а также видео согласно руководству NInfer. В примерах запуска указан контекст до 240 000 токенов, однако конкретные возможности зависят от конфигурации среды. Модель рассчитана на локальный запуск через NInfer и требует 64-разрядный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a, CUDA Toolkit 13.1 или новее и сборку NInfer не ниже указанной в карточке. Файл не является совместимым с Transformers, Safetensors или GGUF. Использование ограничено форматом NInfer и специализированным оборудованием, поэтому переносимость ниже, чем у универсальных моделей. Лицензия — Apache-2.0.