II.1Анализ требований и архитектура ПО

unsloth/Qwen3.6-27B-MTP-GGUF — квантованный формат модели Qwen3.6-27B, разработанной командой Qwen; сборка и GGUF-квантизация предоставлены Unsloth. Это открытая модель с лицензией Apache-2.0, предназначенная для локального запуска и интеграции через llama.cpp, Unsloth Studio и другие совместимые инструменты. Она ориентирована прежде всего на агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку с сохранением контекста рассуждений, а также вызов инструментов. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает текстовые и визуальные сценарии. Размер языковой части — 27 млрд параметров; архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-token prediction (MTP), обученную на нескольких шагах. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Языки в README не указаны. Ключевое преимущество MTP — заявленное ускорение инференса примерно в 1,5–2 раза без потери точности. Модель поддерживает запуск на GPU, CPU и Metal, однако для MTP в llama.cpp пока не поддерживаются параллельные последовательности с np > 1 и мультимодальный проектор mmproj. При больших окнах контекста возможен повышенный расход памяти; README рекомендует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 262 144 токенов.

Qwen3.6-27B-Seven-i1-GGUF — это квантизированная версия текстово-визуальной модели Qwen3.6-27B-Seven, подготовленная mradermacher на основе модели nightmedia/Qwen3.6-27B-Seven. Распространяется в формате GGUF с imatrix-квантами различного уровня сжатия, размером примерно от 11 до 22,5 ГБ. В README также указано наличие отдельных mmproj-файлов для поддержки изображений; конкретные параметры мультимодальной архитектуры не раскрыты. Заявлена поддержка английского, китайского, японского и испанского языков, а также контекста до 1M токенов, однако точные технические характеристики базовой модели в карточке не приведены. Модель предназначена для диалогов, генерации текста, программирования, математических и STEM-задач, исследовательских сценариев, творческого и художественного письма, сторителлинга и ролевых взаимодействий. К сильным сторонам относятся широкий выбор квантов, возможность подобрать баланс между размером, скоростью и качеством, а также наличие imatrix-вариантов; для некоторых конфигураций в README отдельно рекомендуются IQ-кванты и i1-Q4_K_M как быстрый вариант. Ограничения связаны с потерями качества при сильном сжатии, отсутствием подробных результатов тестирования и неполным описанием архитектуры и фактического размера контекста. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-27B-UD-MLX-6bit — это 6-битная MLX-квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель предназначена для локального запуска в экосистеме MLX и относится к классу причинных языковых моделей с vision encoder, поэтому поддерживает работу с текстом и изображениями. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; модель обучалась на этапах предварительного и последующего обучения. Основные сценарии применения включают агентное программирование, работу с фронтенд-задачами, анализ репозиториев и итеративную разработку с сохранением контекста рассуждений. Данные о поддерживаемых языках в README не указаны. К сильным сторонам относятся большой контекст, сочетание языковых и визуальных возможностей, оптимизация для MLX и акцент на задачах программирования. Ограничения связаны с необходимостью совместимого MLX-окружения и потерями точности, которые могут быть обусловлены 6-битной квантизацией; количественная оценка таких потерь в README не приведена. Модель распространяется по лицензии Apache-2.0.

MuXodious/Qwen3.8-27B-absolute-heresy — дообученная версия Qwen3.8-27B, созданная P-E-W с помощью Heretic v1.4.0 и метода abliteration. Это плотная модель с причинной языковой моделью и визуальным энкодером, содержащая 27 млрд параметров; базовая архитектура использует 64 слоя. Исходная Qwen3.8-27B поддерживает изображения и видео, а также диалог, программирование и многошаговые агентные задачи; для неё указан контекст 262 144 токена с расширением до 1 000 000 токенов. Эти характеристики относятся к базовой модели. Настройка нацелена на снижение отказов: автор сообщает о 2 отказах из 101 проверенного запроса против 101 из 101 у исходной модели. По описанию автора, при этом модель сохраняет полезность с минимальным повреждением возможностей, однако приведённая оценка зависит от используемой процедуры и не гарантирует поведение на других запросах. Модель предназначена для сценариев, где требуется более свободный диалог с сохранением мультимодальных возможностей Qwen3.8. Репозиторий содержит веса и конфигурацию в формате Transformers; заявлены совместимость с Transformers, vLLM и SGLang, а также отдельные LoRA-адаптер и версия GGUF. Лицензия — Apache-2.0.

OptimizeLLM/Qwen3.8-27B-heretic-MTP-FP8 — мультимодальная языковая модель, разработанная OptimizeLLM на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации и анализа текста, технических и диалоговых сценариев, работы с инструментами, а также обработки изображений и видео. Она ориентирована на использование через vLLM и поддерживает спекулятивное декодирование MTP. В основе лежит плотная модель размером 27,8 млрд параметров с 64 слоями и гибридной архитектурой, объединяющей линейное и полное внимание. Веса квантизированы в FP8 E4M3 с блочным масштабированием 128×128, при этом vision tower, MTP-головы, lm_head, embed_tokens и некоторые проекции сохранены в BF16. Размер модели составляет около 30 ГБ; используются официальный токенизатор Qwen3.8-27B и мультимодальные входы изображений и видео. Длина контекста в README не указана. Ключевая особенность — abliteration с помощью HERETIC, удаляющая склонность базовой модели отказывать в ответах. Поэтому модель подходит для сценариев, где требуется отвечать на технические вопросы, включая темы информационной безопасности, которые исходная модель могла бы отклонять. При этом abliteration не делает модель нейтральной: она может сохранять исходные мировоззренческие и политические склонности, а отсутствие отказов повышает требования к контролю применения. Для запуска рекомендуется GPU с достаточным объёмом памяти; заявлено размещение на одной карте 96 ГБ, а в vLLM требуется ограничить max-num-seqs до 32. Производительность измерялась на RTX PRO 6000 Blackwell и составляла около 122 токенов в секунду при MTP=4, но зависит от нагрузки. Модель распространяется по лицензии Apache-2.0. README не содержит полного перечня поддерживаемых языков и точного размера контекста.

OsaurusAI/Qwen3.8-27B-MXFP8 — квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, подготовленная Jinho Jang из Osaurus AI для Apple Silicon и MLX. Это плотная модель на 27 млрд параметров с гибридной архитектурой из 64 слоёв: 48 слоёв GatedDeltaNet и 16 слоёв gated full-attention. Она поддерживает работу с текстом, изображениями и видео, а также сохраняет нативную multi-token-prediction head. Модель предназначена для визуально-языковых задач, рассуждений, программирования, агентских сценариев и использования инструментов. Нативный контекст составляет 262 144 токена и может быть расширен до 1 млн. По умолчанию включён режим рассуждений с настраиваемым уровнем reasoning_effort от low до xhigh; предусмотрены отдельные параметры для обычного режима инструкций. Для запуска рекомендуется mlx-vlm, а для работы требуется Apple Silicon с не менее чем 32 ГБ объединённой памяти. Ключевое свойство этой версии — равномерное 8-битное квантование MXFP8 с размером группы 32 для 580 модулей без калибровки Hessian, AWQ и imatrix refit; 27 проекций vision-блоков оставлены в fp16. Размер на диске составляет около 26,4 ГиБ. На отложенных тестах относительно исходной bf16-модели зафиксированы медианный KL 0,0189, совпадение top-1 95,83% и скорость декодирования до 29,3 токена/с на M5 Max при оптимальной глубине спекуляции 2. При этом автор прямо указывает, что версия уступает калиброванным вариантам по качеству и служит структурным fallback-решением, а показатели ускорения зависят от типа запроса. Модель распространяется по лицензии Apache-2.0.

Qwen3-R1-SLERP-Q3T-8B — плотная языковая модель на архитектуре Qwen3, созданная автором lemon07r слиянием методом SLERP двух моделей: deepseek-ai/DeepSeek-R1-0528-Qwen3-8B и Qwen/Qwen3-8B. Веса содержат около 7,6 млрд параметров; модель использует токенизатор Qwen и принимает текст для генерации текста в диалоговом режиме. Родительские модели объединены в пропорции 50/50. Модель предназначена для диалогов, написания текстов и решения задач на рассуждение; в README автор приводит сравнительные тесты на задачах LocalAIME и отмечает хорошие результаты слияния. Метаданные также указывают интерфейс для вызова инструментов. Контекст составляет 40 960 токенов. Репозиторий содержит веса Safetensors; README отдельно упоминает статические GGUF-квантизации Q4_K_S и Q8_0. Лицензия в предоставленных данных не указана.

Qwen3-VL-12B-Instruct-Brainstorm20x-NEO-MAX-GGUF — мультимодальная instruct-модель, разработанная DavidAU на базе Qwen3-VL-Instruct с адаптером Brainstorm 20x. Модель распространяется в формате GGUF с квантованием NEO Imatrix и выходным тензором MAX с точностью 16 бит. Она предназначена для диалогов, генерации и анализа кода, решения многошаговых задач, работы с изображениями и их описания, а также творческих сценариев. Поддерживаются текстовые и визуальные входы; в карточке также заявлена обработка видео. Указанный язык — английский. После добавления адаптера размер модели увеличен с 8B до 12B; заявлены 55 слоёв и 608 тензоров. Максимальный контекст составляет 256k токенов. Для полноценной мультимодальной работы требуется отдельный файл mmproj в формате GGUF, совместимый с основной квантованной моделью, а оба файла должны находиться в одной папке. Поддерживаются Jinja или CHATML-шаблон; модель проверялась в LM Studio и Koldboldcpp. Сильными сторонами заявлены улучшение генерации текста и описаний изображений за счёт Brainstorm 20x, хорошие результаты на ряде задач логического и commonsense-рассуждения, а также пригодность для сложного программирования и пошагового уточнения решений. Ограничением является склонность к зацикливанию; README рекомендует повышать temperature и использовать repetition или presence penalty. Для сложных задач предпочтительны варианты Q6 или Q8, однако конкретные требования к памяти и производительности не указаны. Лицензия — Apache-2.0.

Qwopus3.6-35B-A3B-v1-GGUF — экспериментальная мультимодальная модель, разработанная Jackrong на базе Qwen3.6-35B-A3B от Alibaba Cloud. Она дообучена методом SFT с применением LoRA для усиления рассуждений, структурированности ответов и согласованности поведения. Модель предназначена для генерации текста, глубокого рассуждения, программирования, агентских сценариев, диалогов, работы с изображениями и вызова инструментов. В основе лежит разреженная MoE-архитектура: 35 млрд параметров всего и около 3 млрд активных параметров на токен, с маршрутизацией через 256 экспертов. Архитектура сочетает линейное внимание Gated DeltaNet со стандартными слоями gated attention и поддерживает контекст до 262 тысяч токенов. Заявлена поддержка английского, китайского, испанского, русского и японского языков. Для работы с изображениями требуется отдельный файл mmproj.gguf. Сильными сторонами заявлены качество и надёжность рассуждений, высокая эффективность инференса и поддержка длинного контекста, мультимодальности и tool calling. Модель распространяется в формате GGUF и ориентирована на запуск через совместимые инструменты, включая llama.cpp. При этом она не прошла полную оценку производительности и безопасности, поэтому подходит прежде всего для исследований и экспериментов; заявленные результаты получены в независимом тестировании квантованной версии и могут зависеть от условий. Лицензия — Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-GGUF — это GGUF-квантизации модели Qwythos-9B-Claude-Mythos-5-1M, разработанной Empero. Модель предназначена для запуска в llama.cpp, Ollama, LM Studio, jan, KoboldCpp и других совместимых средах. Она создана на основе Qwen3.5-9B и дообучена более чем на 500 миллионах токенов трасс Claude Mythos и Claude Fable с использованием внутреннего инструмента Empero AI rethink. Модель ориентирована на рассуждения, агентские сценарии, вызов функций, анализ кибербезопасности и биомедицинских задач. Она поддерживает нативный function calling по спецификации Qwen3.5, английский язык и контекст до 1 048 576 токенов благодаря масштабированию RoPE YaRN. Это мультимодальная модель с поддержкой изображений: для обработки изображений требуется отдельный файл vision projector mmproj, унаследованный от Qwen3.5-9B. Заявлены возможности описания изображений, OCR, чтения графиков и таблиц, понимания интерфейсов и документов, а также базового пространственного анализа. Доступны варианты квантизации от Q4_K_M до Q8_0 и BF16, включая версии с MTP для спекулятивного декодирования. Q4_K_M указан как рекомендуемый компромисс между размером и качеством. Сильными сторонами являются большой контекст, рассуждения, поддержка инструментов и локального мультимодального запуска. Ограничения включают зависимость производительности и качества от выбранной квантизации, поддержки MTP конкретным рантаймом и наличия отдельного vision projector для изображений; подробные результаты оценки и полное описание возможностей находятся в карточке базовой модели. Модель распространяется по лицензии Apache-2.0.

Seed-OSS-36B-Base — базовая языковая модель семейства Seed-OSS, разработанная командой ByteDance Seed. Репозиторий AIArchiveInfo является побайтной архивной копией ByteDance-Seed/Seed-OSS-36B-Base: веса не обучались и не изменялись. Модель содержит 31,7 млрд параметров по метаданным и использует плотную авторегрессионную архитектуру SeedOssForCausalLM с RoPE, GQA, RMSNorm и SwiGLU. Модель предназначена для генерации текста общего назначения, задач рассуждения и длинного контекста, а также для разработки агентных систем. Она рассчитана на международное применение и поддерживает контекст до 524 288 токенов. Вариант Base обучен с синтетическими инструкционными данными в предобучении; это базовая модель, а не отдельная Instruct-версия. Модель распространяется по лицензии Apache-2.0. К сильным сторонам относятся нативная работа с длинным контекстом, настраиваемый бюджет рассуждений и заявленные разработчиком возможности для задач с использованием инструментов. Это текстовая модель: README не сообщает конкретный перечень поддерживаемых языков. Как базовый чекпойнт, она может требовать дополнительной настройки для диалоговых сценариев и прикладного развертывания.

chain03/SRole_3181 — объединённая модель для генерации текста и диалогового общения. Она создана методом линейного слияния mergekit из двух предварительно обученных языковых моделей: /root/top1 и /root/top2. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 7,5 млрд параметров. Модель рассчитана на генерацию текста и ответы в формате чата. Заявленная длина контекста — 131 072 токена. Веса доступны в формате safetensors; в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.

Star-Command-R-Lite-32B-v1 — плотная языковая модель на 32,3 млрд параметров, полученная автором репозитория методом SLERP-слияния Star-Command-R-32B-v1 и Cohere Command R от Cohere. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель работает через Transformers, использует формат safetensors и поддерживает контекст до 131 072 токенов. Слияние призвано смягчить поведение Star-Command-R и сохранить больше характеристик Command R. Это позволяет использовать модель для диалогов, генерации текста и сценариев с вызовом инструментов. Карточка не сообщает лицензию и не уточняет поддерживаемые естественные языки, поэтому эти характеристики здесь не приводятся.

Tess-v2.5 (Qwen2-72B) — разговорная языковая модель, созданная Migel Tissera и дообученная на базе Qwen2-72B. Она предназначена для диалога и генерации текста, включая рассуждения, программирование, математику и ответы на вопросы по широкому кругу тем. Архитектура — плотная Qwen2ForCausalLM, размер — 71,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и использует формат запросов ChatML. Для дообучения применён датасет Tess-v2.5 из 300 тысяч синтетических примеров по бизнесу, истории, социальным наукам, искусству, STEM и программированию; модель обучалась с Axolotl. Автор сообщает о сильных результатах на MMLU и AGIEval, однако эти заявления основаны на оценках автора. Модель не проходила RLHF или DPO и может выдавать неточные, вводящие в заблуждение, предвзятые или оскорбительные ответы. Лицензия указана как other, поэтому условия использования следует проверить в репозитории модели.

Это GGUF-сборка Qwen3.8 27B, подготовленная zhangrover для локального запуска на компьютерах с ограниченной видеопамятью. В основе лежит unsloth/Qwen3.8-27B-GGUF; веса подвергнуты смешанной квантизации KQV-Q4 + IQ3 Floor, а полный MTP-блок из 15 тензоров сохранён в файле размером около 10,13 ГиБ. Модель предназначена для диалогов и генерации текста, включая рассуждения и программирование. По заявлению автора, на видеокарте с 16 ГБ памяти при кэше KV Q4 помещается контекст свыше 130 тысяч токенов. В полной точности ключевые K/Q/V-блоки оставлены на уровне Q4_K, нормализации — F32, а значительная часть FFN-контуров снижена до IQ3_XXS; MTP позволяет использовать спекулятивное декодирование в llama.cpp. Сборка рассчитана на запуск через llama.cpp; производительность и качество зависят от оборудования, настроек квантизации и совместимости используемой версии. Автор указывает, что модель предоставляется без гарантий. Лицензия — Apache-2.0.

Salience-27B-R6-GGUF — это квантизированная версия мультимодальной модели Salience-27B-R6, разработанной vectionlabs и опубликованной в формате GGUF пользователем bartowski. Модель содержит около 28 млрд параметров и предназначена для запуска через llama.cpp. Она поддерживает текстовый и визуальный ввод; для работы с изображениями требуется дополнительный файл mmproj. Модель ориентирована на рассуждения, эффективное пошаговое мышление, следование инструкциям, программирование и задачи software engineering. Заявлена поддержка агентных сценариев, терминального взаимодействия, tool use и function calling. Также доступны speculative decoding с использованием MTP и квантизация с imatrix. Указан английский язык, однако точные сведения о размере контекстного окна и внутренней архитектуре в предоставленных данных отсутствуют. Репозиторий предлагает варианты от BF16 и Q8_0 до компактных IQ3 и Q3, что позволяет выбирать между качеством, скоростью и требованиями к памяти. В качестве универсального варианта рекомендован Q4_K_M размером около 17,44 ГБ; более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти. Ограничениями являются необходимость совместимого рантайма llama.cpp, отдельного mmproj для изображений и отсутствие в предоставленной карточке подробных результатов оценки. Лицензия модели — Apache-2.0.

Zrald-AI Qwen 3.8 27B zraldv1-cs — GGUF-версия модели Qwen3.8-27B, опубликованная Zrald и оптимизированная для компактного размера. Это чат-модель для генерации текста, диалогов, программирования и рассуждений. В репозитории указан файл размером 10,18 GiB; README приводит результаты замеров на AMD Instinct MI300X, включая сохранение 90,72% точности и скорость генерации 76,33 токена в секунду. Для запуска рекомендуется не менее 12 ГБ VRAM. Модель основана на Qwen/Qwen3.8-27B и заявлена как дообученная; доступна в формате GGUF для использования с llama.cpp. Базовая модель описана как мультимодальная, но сведения о поддержке изображений или видео именно этой сборкой не приведены. Лицензия — Apache-2.0.

jondurbin/bagel-dpo-34b-v0.2 — экспериментальная дообученная чат-модель Джона Дурбина на базе Yi-34B-200K с методом bagel и дополнительным этапом DPO. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 200 000 токенов. Веса опубликованы в формате safetensors. Модель предназначена для диалогов и широкого круга текстовых задач: ответов на вопросы, рассуждений, написания текстов, программирования, математики, ролевых сценариев и работы с контекстом. В обучении использованы наборы данных для инструкций, чатов, чтения с пониманием, кода, математики и других задач; автор отмечает, что применялись обучающие части наборов и выполнялась проверка на загрязнение данными бенчмарков. В карточке также заявлено, что включение toxic DPO должно снизить склонность к отказам; это может приводить к генерации токсичного или небезопасного содержания. Автор описывает модель как экспериментальную тонкую настройку. Для корректного поведения в диалоге могут понадобиться подходящий системный запрос и один из поддерживаемых форматов промпта: Vicuna, Llama 2, Alpaca или ChatML-подобный. Лицензия указана как other, поэтому условия использования следует уточнять в карточке репозитория; README отдельно оговаривает исследовательское и законное применение токсичных данных.

Calme-Ties2-78B — объединённая чат-модель на архитектуре Qwen2, опубликованная prithivMLmods. Она создана методом TIES с помощью mergekit на основе prithivMLmods/Calme-Ties-78B и модели MaziyarPanahi/calme-3.1-instruct-78b. Модель содержит 76,7 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый режим и имеет контекстное окно 32 768 токенов. Модель предназначена для диалогов и общих задач генерации текста. В конфигурации объединения использованы нормализация, int8-маска и тип данных bfloat16; для работы доступна библиотека Transformers. Репозиторий распространяется под лицензией, указанной в метаданных Hugging Face, однако конкретное значение лицензии в предоставленных данных отсутствует.

Citaman/command-r-38-layer — объединённая модель генерации текста на архитектуре CohereForCausalLM, созданная автором репозитория с помощью mergekit. В README указано слияние методом SLERP двух срезов одной модели Citaman/command-r-39-layer со сдвигом диапазонов слоёв; метаданные также связывают модель с этой базовой моделью. Репозиторий содержит веса в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных отмечен интерфейс вызова инструментов. Размер составляет 33,3 млрд параметров, родной контекст — 8192 токена. Условия лицензии и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

Weyaxi/Dolphin2.1-OpenOrca-7B — текстовая генеративная модель Weyaxi, созданная слиянием TIES двух моделей: ehartford/dolphin-2.1-mistral-7b и Open-Orca/Mistral-7B-OpenOrca. Она предназначена для диалогов, ответов на вопросы и генерации текста. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Слияние объединяет веса Dolphin 2.1 Mistral 7B и Mistral 7B OpenOrca; в README приведены коэффициенты весов и плотности для каждой исходной модели. Репозиторий содержит веса в формате safetensors. Указанная лицензия — Apache-2.0. Доступны отдельные квантизированные версии GPTQ, GGUF и AWQ от TheBloke.

DoubleBagel-57B-v1.0 — объединённая языковая модель семейства Llama, созданная с помощью mergekit из предварительно обученной модели jondurbin_bagel-34b-v0.2. Модель содержит 56,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 200 000 токенов. Модель можно применять для диалогов и генерации текста с длинным контекстом. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

flammen8-mistral-7B — объединённая языковая модель, созданная flammenai методом SLERP с помощью mergekit из flammen7-mistral-7B и AlphaMonarch-7B. Это плотная авторегрессионная архитектура MistralForCausalLM с 7,1 млрд параметров; модель опубликована в формате safetensors и поддерживается библиотекой Transformers. Она предназначена для генерации текста, включая диалоговое взаимодействие, выполнение инструкций и рассуждения. Контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текст. В карточке не заявлены специализированные области применения или поддерживаемые языки. Репозиторий создан 15 марта 2024 года. Лицензия — Apache-2.0.

FlexOlmo-7x7B-1T-RT — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (Ai2). Это чат-модель для генерации текста на основе архитектуры Mixture-of-Experts (MoE); версия RT представлена в README как модель без обучения маршрутизатора экспертов. README описывает набор экспертов, обученных на публичных данных, новостях, математике, коде, академических текстах, творческих текстах и Reddit. Для этой версии в метаданных указано 6,9 млрд параметров, контекст — 4096 токенов. Модель предназначена для диалога и генерации текста в сценариях, связанных с общими вопросами, математикой, кодом, новостями, академическими и творческими текстами. README описывает подход FlexOlmo к совместной разработке моделей: владельцы данных могут контролировать активность своих данных и получать атрибуцию без передачи исходных данных. В README приведена оценка отдельных плотных моделей, а не этой MoE-версии, поэтому эти результаты нельзя считать прямой оценкой FlexOlmo-7x7B-1T-RT. Модель распространяется по лицензии Apache-2.0.

Frontis-MA1-35B-GGUF — квантизированная версия модели FrontisAI/Frontis-MA1-35B, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для задач machine learning engineering, автоматизированного исследования, агентских сценариев и программирования. Она поддерживает обработку текста и изображений при наличии дополнительного файла mmproj. Модель содержит около 36 млрд параметров и использует архитектуру MoE; в метаданных также указана поддержка MTP. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3-квантизаций. В качестве универсального варианта рекомендуется Q4_K_M размером около 21,86 ГБ, обеспечивающий компромисс между качеством и требованиями к памяти. Для максимального качества предлагаются Q6_K и Q6_K_L, а для ограниченных ресурсов — более компактные варианты с некоторым снижением качества. К сильным сторонам относятся мультимодальность, большой размер модели и широкий выбор квантизаций для запуска на различном оборудовании. Ограничения включают значительные требования к оперативной или видеопамяти, необходимость совместимого ПО и mmproj-файла для работы с изображениями, а также возможное снижение качества у компактных квантизаций. Языки и размер контекстного окна в README не указаны. Распространение осуществляется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование на заявленных условиях.

FuseChat-7B-TA — диалоговая языковая модель FuseAI, разработанная в рамках исследовательской работы учёных Университета Сунь Ятсена. Это вариант FuseChat-7B, полученный слиянием знаний нескольких чат-моделей; версия TA использует один из методов слияния. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и базовая модель OpenChat 3.5, дообучение которой также входит в процесс создания FuseChat. Модель предназначена для диалогов и выполнения текстовых инструкций общего назначения, включая ответы на вопросы, письмо, ролевые сценарии, рассуждения, математику, программирование и темы STEM и гуманитарных наук. Контекст составляет 8192 токена. В README для FuseChat-7B-TA указана средняя оценка 8,20 на MT-Bench. Модель принимает и выдаёт текст; в карточке отмечен английский язык. Слияние позволяет объединить способности нескольких моделей в одной без необходимости загружать несколько экспертов во время инференса. Модель выпущена под лицензией Apache-2.0. Показатель MT-Bench не гарантирует качество для конкретной задачи; подтверждённые возможности в карточке ограничены генерацией текста и чатом.

FuseChat-7B-VaRM — диалоговая языковая модель, разработанная Fanqi Wan и коллегами из Университета Сунь Ятсена. Она объединяет знания трёх чат-моделей: NH2-Mixtral-8x7B, NH2-Solar-10.7B и OpenChat-3.5-7B. В каталоге Hugging Face указаны архитектура Mistral с плотной моделью MistralForCausalLM и 7,1 млрд параметров; для инференса используется библиотека Transformers. Модель предназначена для генерации ответов в диалоге и выполнения общих текстовых инструкций, включая написание текстов, ролевые сценарии, рассуждения, математику и программирование. В README сообщается о среднем результате 8,22 на MT-Bench. Модель принимает текст и генерирует текст; заявленный контекст — 8192 токена, язык карточки — английский. Модель опубликована в форматах PyTorch и Safetensors и распространяется по лицензии Apache-2.0. Как и другие языковые модели, она может давать ошибочные или непроверенные ответы; в предоставленных материалах отдельные дополнительные ограничения не описаны.

FuseCyberMix-Qwen-2.5-7B-Instruct — объединённая инструктивная языковая модель, созданная с помощью mergekit линейным слиянием FuseAI/FuseChat-Qwen-2.5-7B-Instruct, Qwen/Qwen2.5-7B-Instruct и fblgit/cybertron-v4-qw7B-UNAMGS. Модель разработана автором репозитория bunnycore и построена на архитектуре Qwen2 с 7,1 млрд параметров; доступна в формате safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, написание и преобразование текста, код и структурированные ответы. В метаданных также отмечен интерфейс вызова инструментов. Поддерживаемые языки отдельно не указаны. Это слияние моделей, а не отдельное дообучение; README сообщает о линейном методе слияния, нормализация отключена, использована маска int8, выходной тип задан как bfloat16. Лицензия в предоставленных данных отсутствует. Качество и ограничения конкретного слияния не описаны; практическое качество ответов и корректность вызовов инструментов требуют проверки в целевом приложении.

GDN-primed-HQwen3-32B-Instruct — гибридная языковая модель, разработанная командой Hybrid Model Factory на основе Qwen3-32B с помощью конвейера Priming. Это инструкционно настроенная причинная языковая модель с 64 слоями: 32 слоя Attention и 32 слоя Gated DeltaNet (GDN), разновидности модели пространства состояний. Веса представлены в формате safetensors, заявленный размер — 29,7 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; карточка указывает поддержку диалога и выполнения инструкций. Модель предназначена для диалога, ответов на вопросы, следования инструкциям, задач по математике, знаниям, программированию и рассуждению, в том числе при работе с длинным контекстом. По данным разработчика, гибридная архитектура сокращает нагрузку на KV-кэш и может ускорять генерацию на длинных контекстах, сохраняя близкое к базовой модели качество; в опубликованных оценках отставание от Transformer-базовой модели составляет около 2,5–3 пунктов на длинных контекстных задачах и около 1–1,5 пункта в среднем на коротких задачах. Эти результаты зависят от сценария и условий запуска. Модель не является reasoning-чекпойнтом и не поддерживает вызов инструментов. Доступна по лицензии Apache 2.0.

GLM-4.7-Flash-RAZOR-24B-A3B-E48of64 — производная диалоговая модель семейства GLM, созданная Nickyang методом RAZOR: из 64 маршрутизируемых экспертов в каждом MoE-слое удалена четверть, осталось 48. Градиентного дообучения и восстановления после обрезки не проводилось; сохранены исходные веса оставшихся компонентов. По README, в контрольной точке 24,123 млрд параметров с учётом MTP, а метаданные каталога указывают 4,1 млрд параметров; эти значения расходятся, поэтому размер модели требует проверки. Архитектура использует GLM-4.7-Flash и реализацию glm4_moe_lite в Transformers; контекст — 202752 токена. Модель предназначена для диалоговой генерации текста, рассуждений и программирования с длинным контекстом. Сокращение пула экспертов уменьшает объём хранимых экспертных весов примерно на четверть, при этом README сообщает, что вычисления на токен практически не меняются. Контрольная точка хранится в bfloat16, в семи шардах safetensors; для запуска требуется сборка Transformers с нативной поддержкой glm4_moe_lite. Обрезка экспертов необратима и может менять разнообразие, форматирование и завершение ответов, даже если точность на отдельных задачах в целом сохраняется. Поведение на областях, далёких от конечного калибровочного корпуса, не охарактеризовано. Лицензия — MIT.